Glossar
Stochastischer Papagei
Stochastischer Papagei (englisch stochastic parrot) ist ein Begriff, den Emily Bender, Timnit Gebru und Kolleginnen 2021 für große Sprachmodelle prägten. Gemeint ist ein System, das Wortfolgen aus seinen Trainingstexten nach Wahrscheinlichkeiten zusammensetzt, ohne dass diese Folgen auf Bedeutung zurückgehen. „Stochastisch“ heißt: Die nächsten Wörter werden nach Wahrscheinlichkeiten ausgewählt, also mit einem Zufallsanteil. „Papagei“ meint das Nachsprechen von Gelerntem.
Ein Beispiel (ausgedacht): Ein Modell formuliert eine freundliche Absage an einen Kunden. Der Satz klingt passend, weil solche Sätze in den Trainingstexten oft vorkamen. Ob das Modell weiß, was eine Absage für den Kunden bedeutet, ist die Frage, um die der Begriff kreist.
Nicht verwechseln mit einem Beweis: Der Begriff ist eine Warnung vor Schäden und Verantwortung, kein Nachweis darüber, was im Modell steckt. Er beschreibt eine Position in der Debatte und stützt sich auf das Argument, dass bloße Wortfolgen, ohne Verbindung zur Welt, keine Bedeutung lernen können. Befunde, die zeigen, dass im Modell mehr als Wortfolgen lesbar ist (siehe Sonde), stehen dagegen. Beide Seiten stützen sich auf Belege, und der Begriff allein entscheidet nichts.
Wo du dem Begriff begegnest: In der Debatte über Sprachmodelle, besonders in Texten über Risiken und Verantwortung. Die Gegenpositionen stehen im Baustein Versteht KI, was sie sagt?.