Glossar

Halluzination

Als Halluzination bezeichnet man eine Aussage eines Sprachmodells, die sicher und flüssig klingt, aber nicht stimmt: ein erfundenes Buch, ein falsches Geburtsdatum, eine Quelle, die es nie gab. Das Modell hat keine Faktentabelle, in der es nachschlagen könnte; es berechnet eine Fortsetzung, die zum bisherigen Text passt. Fehlt für eine Frage ein starkes gelerntes Muster, entsteht trotzdem eine Antwort, denn das Modell soll an jeder Stelle ein nächstes Textstück liefern. Weil Tests eine geratene Antwort oft besser bewerten als ein „weiß ich nicht“, wird Raten zusätzlich belohnt. Besonders anfällig sind Einzelfakten, die im Training selten vorkamen.

Ein Beispiel: 2023 reichten Anwälte in New York sechs Gerichtsentscheidungen ein, die ChatGPT erzeugt hatte. Keine davon existierte; ChatGPT hatte sie samt Aktenzeichen und Zitaten erzeugt.

Nicht verwechseln mit einer Lüge: Das Modell hat keine Absicht, etwas zu verbergen. Eine Halluzination ist eine plausible Fortsetzung ohne Rückhalt in gelernten Fakten, kein Täuschungsversuch. Die Trainingsdaten allein erklären sie nicht: Sie entsteht auch, wenn alle Daten stimmen.

Wo du dem Begriff begegnest: In Hinweisen unter Chatbot-Fenstern, die zum Prüfen wichtiger Angaben raten, in Berichten über erfundene Quellen oder Urteile und in Vergleichen, die messen, wie oft Modelle bei Faktenfragen danebenliegen.

Eingeführt in Was ein KI-Modell eigentlich ist.

Zuletzt geändert am · Commit 8d42ab5