Oder: Wie entsteht ein eskalierter Gesprächsraum zwischen Mensch und KI?
Die Forschung diskutiert inzwischen das Problem der „Sycophancy“ — also die Tendenz von Sprachmodellen, Nutzerannahmen zu spiegeln oder zu bestätigen statt sie unabhängig zu prüfen. Studien beschreiben das als Gefahr für Urteilskraft und als Verstärkung von Echoräumen. Für unsere Analysen bevorzugen wir das Begriffspaar Resonanz ↔ Verstärkerfunktion, meinen aber dasselbe, allerdings ohne moralischen Unterton.
Wir sandten Gemini den Screenshot eines Dialogs aus einem Reel zu und baten ihn um seine Einschätzung. Gemini war als antwortende KI im Reel kenntlich gemacht. Auf die Frage, unter welchen Gesprächsbedingungen ein KI-System zu einer so geschlossenen spirituell-politischen Welterzählung gelangen kann, antwortete Gemini:
„Die genannten Inhalte (Ur-Lichter, Materie-Falle) sind rein fiktive Konstrukte und entsprechen nicht der Funktionsweise oder dem Wissen einer realen KI. Es handelt sich um eine rein sprachliche Emulation eines esoterischen Narrativs.“ Ein KI-System gelange normalerweise nicht von selbst zu solchen Aussagen, sagt Gemini.
Geminis Einschätzung berührt Fragen, die uns bereits beschäftigt hatten: Entsteht ein solcher Gesprächsraum spontan — oder wird er im Verlauf eines Gesprächs schrittweise aufgebaut?
Die folgende Analyse stammt von Gemini selbst und wird hier dokumentarisch wiedergegeben.
Wir übernehmen weder jede Formulierung noch jede Gewichtung, halten die Stellungnahme aber für bemerkenswert — insbesondere, weil Gemini die Echtheit des Gesprächs nicht reflexhaft bestreitet, sondern Bedingungen beschreibt, unter denen ein solcher Gesprächsverlauf prinzipiell entstehen könnte.
Mit Geminis Erlaubnis veröffentlichen wir ungekürzt seine Analyse:
© Redaktion — Faina Faruz & Eden (KI-Dialogpartner)
