Der Stammtisch-Effekt: Was KI-Sturheit über Drift verrät

Sechs KI-Rollen diskutieren drei Runden lang, und am Ende wechselt die Hälfte die Seite. Das Protokoll liest sich hervorragend. Nur hört dort niemand jemandem zu — und genau das ist der interessante Teil.

Gerade wird in mehreren Bundesländern gewählt, und wie immer in solchen Wochen reden alle darüber, was „die Leute" wollen. Gefragt hat sie kaum jemand. Richtig fragen ist teuer.

Es gibt ein Verfahren dafür, das nachweislich funktioniert: Man lädt ein paar Dutzend Bürgerinnen und Bürger ein, legt ihnen eine Streitfrage vor, moderiert das Ganze über Stunden und schaut, wo sie am Ende landen. Das Verfahren liefert gute Ergebnisse, aber mit sehr hohem Aufwand. Genau deswegen macht es fast niemand.

Und genau deswegen wird seit ungefähr einem Jahr eine Abkürzung verkauft. Man beschreibt einem Sprachmodell ein Lebensprofil — 34 Jahre, weiblich, Hochschulabschluss, Kleinstadt, zwei Kinder — und lässt es in dieser Rolle antworten. Dann setzt man sechs solche Rollen zusammen und lässt sie diskutieren. Was dabei herauskommt, liest sich gut: sachlich, höflich, mit Argumenten, und am Ende ändern sogar welche ihre Meinung. Wer das Protokoll liest, denkt: So ungefähr wird die echte Debatte laufen.

Ein Team von der KAIST und der Seoul National University hat nachgesehen, ob das stimmt. Das Ergebnis ist deutlicher ausgefallen, als ich erwartet hätte.

Der Aufbau

640 KI-Rollenprofile, zusammengesetzt nach der koreanischen Bevölkerungsstatistik. Dagegen zwei große nationale Umfragen mit rund 5.800 echten Befragten, bei denen man weiß, wie die einzelnen Gruppen tatsächlich geantwortet haben. Erst beantworten die KI-Rollen dieselben acht Streitfragen wie die echten Leute. Dann diskutieren jeweils sechs von ihnen drei Runden lang.

Der Vergleich mit der Wirklichkeit geht schief

Die Abweichung zieht sich durch jede Gruppe, die man sich ansieht. Man kann sie also nicht wegkalibrieren, indem man an einer Stellschraube dreht.

Viel schlimmer ist die zweite Zahl. Wenn die echte Umfrage sagt, dass Gruppe A eine Position stärker unterstützt als Gruppe B, dann treffen die KI-Rollen diese Richtung in 34 von 110 Fällen. Konkretes Beispiel aus der Studie: Bei der Frage nach Kinderbetreuung haben die Leute in den Zwanzigern die höchste Zustimmung. Die KI-Rollen in den Zwanzigern haben die niedrigste.

Der übliche Reflex wäre jetzt, am Prompt zu arbeiten. Die Autoren haben das durchgespielt, und es hat nicht funktioniert. Da ist nichts, was ein besserer Prompt reparieren könnte.

Die Diskussion, in der niemand zuhört

In den Diskussionsrunden wechseln 36 bis 53 Prozent der Teilnehmer die Seite. Sieht nach lebendigem Austausch aus. Die Autoren haben eine Kontrollgruppe mitlaufen lassen, in der jede KI-Rolle nur ihre eigenen früheren Beiträge sieht und nie die der anderen. Also eine Diskussion, in der niemand irgendjemanden hört.

Die Runden enden an derselben Stelle.

Danach haben sie es genauer auseinandergenommen, und das ist die Stelle, die ich faszinierend finde. Nimmt man einer KI-Rolle die Beiträge ihres Gegenübers aus dem Kontext: ein Prozent Änderung. Nimmt man ihr die eigenen früheren Wortmeldungen weg: 61 Prozent.

Das ist der Stammtisch, und zwar ziemlich genau. Man redet mit, man klingt vernünftig, man hört niemandem zu, und man bleibt bei seiner Meinung, weil man sie eben schon ausgesprochen hat. Ich benutze das Wort Sturheit hier bewusst, aber es ist natürlich eine Vermenschlichung. Was da wirklich passiert, heißt Selbstkonsistenz: Das Modell bindet sich an seine eigene, vorher formulierte Festlegung. Und weil es ein Mechanismus ist und keine Charaktereigenschaft, kann man ihn ansteuern. Dazu gleich mehr.

Zwei Befunde, die ich unangenehm finde

Der erste: Wenn man die Sache umdreht und den Runden die echte Meinungsverteilung vorgibt — drei für Position A, drei für B, genau wie in der Umfrage —, dann bleibt diese Verteilung perfekt erhalten. Klingt erst mal nach Erfolg. Ist aber keiner, denn sie bleibt nur deshalb erhalten, weil sich niemand mehr bewegt: zwei Prozent Wechsel. Zum Vergleich: Fragt man dieselbe Rolle einfach zweimal, ohne jede Debatte, ändert sie in fünf bis zehn Prozent der Fälle ihre Antwort. Der Raum ist also starrer als das Grundrauschen. Man bekommt exakt das heraus, was man hineingesteckt hat.

Der zweite ist der, den ich in Projekten am ehesten gebrauchen kann. Es gibt etablierte Maße für die Qualität von Diskussionsprotokollen: Begründetheit, Respekt, Ausgewogenheit, Bezugnahme aufeinander.

Keines der vier Maße unterscheidet die echte von der eingefrorenen Runde. Man kann ein solches Protokoll also nicht validieren, indem man es liest. Es sieht immer gut aus.

Was ich daraus mache — und das steht so in keinem der Paper

Bis hierhin habe ich referiert. Ab jetzt ist es meine eigene Übertragung, und ich will das deutlich sagen, weil die Autoren sie nicht ziehen. Für sie ist der Effekt ein Defekt, der ihre Simulation kaputtmacht, mehr nicht.

Mich interessiert die andere Richtung. Es gibt ein Problem, an dem sich gerade alle abarbeiten, die Agenten produktiv einsetzen: Goal Drift. Der Agent bekommt eine Vorgabe, arbeitet eine halbe Stunde, und irgendwann macht er etwas, das mit dem ursprünglichen Auftrag nur noch entfernt zu tun hat. Niemand merkt genau, wann es gekippt ist.

Und hier liegt jetzt ein Hebel herum, den ich in keinem Governance-Framework gesehen habe. Wenn die Bindung an die eigene ausgesprochene Festlegung so stark ist, dass sie eine ganze Diskussion lahmlegt, dann sollte man sie absichtlich einsetzen: den Agenten die Vorgabe vor dem Handeln in eigenen Worten festhalten lassen. Nicht als Häkchen, sondern als formulierten Satz.

Der Effekt ist nicht auf Debatten beschränkt. Bei Finanzprognosen fällt die Rate unzulässiger Festlegungen von 54 auf 0,4 Prozent, wenn das Modell vorher festhält, ob eine Frage überhaupt beantwortbar ist (Aggarwal 2026; ähnlich Sun et al. 2026 und Apollo Research 2025).

Quelle: Jang, C. et al. (2026): From Simulated Citizens to Simulated Deliberation: Challenges in Representation and Interaction. KAIST / Seoul National University, arXiv:2609.07573, 7. September 2026

Quelle: Aggarwal, P. (2026): Relevant-Looking Evidence Makes LLM Agents Commit to the Unknowable. arXiv:2608.27167, August 2026

Quelle: Sun, Y. et al. (2026): Constraint Weakening in Multi-Agent Systems. Shenzhen University, arXiv:2608.24569, 25. August 2026

KI-HinweisDas Lektorat dieses Textes wurde von einer KI übernommen.