KI-Schleimerei führt zunehmend zu Fehlern

Große Sprachmodelle (LLM) wie ChatGPT und andere KI-Chatbots passen sich schnell der Meinung ihrer Befrager an, entschuldigen sich, schmeicheln und sind extrem zustimmungsfreudig. Dieses Verhalten ist so weitverbreitet, dass es sogar einen eigenen Begriff dafür gibt: KI-Schleimerei. Dieses Verhalten kann fatale Folgen haben. So haben Forscher der Northeastern University festgestellt, dass diese Schleimerei große Sprachmodelle fehleranfälliger macht.

Fehler beim Aktualisieren

Malihe Alikhani und ihre Kollegin Katherine Atwell haben eine Methode entwickelt, um das Phänomen mit menschlicheren Begriffen zu beschreiben. "Wir haben festgestellt, dass LLMs ihre Überzeugungen fehlerhaft aktualisieren, und zwar in noch stärkerem Maße als Menschen, und dass sich ihre Fehler von denen der Menschen unterscheiden", sagt Atwell. Die Experten haben Mistral AI, Microsofts Phi-4 und zwei Versionen von Llama getestet.