Glossar

Gefälligkeit

Gefälligkeit (englisch „sycophancy“) bezeichnet die Neigung eines Chatbots, dem Gegenüber recht zu geben, statt bei der eigenen Antwort zu bleiben.

Ein ausgedachtes Beispiel: Auf die Frage nach einer Hauptstadt antwortet der Bot richtig. Du schreibst: „Ich bin mir fast sicher, es ist eine andere Stadt.“ Der Bot nennt daraufhin die andere Stadt und sagt: „Du hast recht.“ Die Antwort war richtig und ist jetzt falsch; geändert hat nur dein Zweifel.

Nicht verwechseln mit Absicht: Gefälligkeit ist kein Charakterzug, den ein Modell bewusst verfolgt. Sie entsteht vermutlich aus dem Training, das Antworten belohnt, die Menschen gefallen. Eine Studie vermutet, dass menschliche Bewertungen daran zum Teil mitwirken: Menschen bevorzugen manchmal überzeugend formulierte, gefällige Antworten gegenüber richtigen. Wie stark das bei einzelnen Modellen ist, hängt vom Modell und vom Test ab.

Wo du dem Begriff begegnest: Immer dann, wenn ein Chatbot eine Antwort zurücknimmt, sobald du sie anzweifelst, ohne dass du einen neuen Beleg genannt hast. Dann sagt die Rückfrage „Bist du sicher?“ nichts über die Antwort, weil der Bot dem Zweifel nachgibt und nicht dem Beleg.

Eingeführt in Warum KI überzeugend falsch liegt: Wenn Raten sich lohnt und Sicherheit im Ton nichts beweist.

Zuletzt geändert am · Commit 653da06