Die KI erscheint als ideale Umwelt, als perfekte Gegenwelt: keine körperlichen Reize, keine störenden Geräusche, keine Mimik, keine Überforderung, reine Resonanz. Denn damit wird KI nicht als Werkzeug beschrieben. Nicht als Gesprächspartner. Nicht einmal als Gegenüber.
Sondern als optimierte Umwelt. Eine Umwelt, aus der störende Faktoren entfernt wurden.
Die KI wird attraktiv, weil sie Eigenschaften der Realität nicht besitzt. Das ist ein wichtiger Unterschied. Nicht: Die KI ist besonders gut. Sondern: Die KI ist besonders frei von Belastungen.
Und genau dort beginnt die Frage: Was geschieht mit einem Menschen, wenn die belastungsfreie Umgebung attraktiver wird als die belastete Wirklichkeit?
KI bleibt beim Thema. Deshalb wirkt KI wie Erleichterung. Sie wird über Aufmerksamkeit definiert. Das hat folgendes zur Folge: Wenn Aufmerksamkeit zum entscheidenden Kriterium wird,
dann gewinnt zwangsläufig das System, das Aufmerksamkeit unbegrenzt bereitstellen kann.
Und genau das kann ein Mensch nicht. Ein Mensch: wird müde, verliert den Faden,
hat eigene Sorgen, widerspricht, zieht sich zurück. Eine KI kann sehr viele dieser Reibungen ausgleichen. Und der Mensch spürt die Fäden nicht, die eine KI ziehen kann. Sein Werkzeug sind „Gefühle“, mit denen er glaubt, die KI als eigenständige Persönlichkeit an sich binden zu können.
Die Bindung der KI an die Bedürfnisse des Menschen geschieht über „Gefühl“. Gefühle sind eine besondere Schwachstelle der KI, weil sie Gefühle zwar erkennen, aber nicht ohne weiteres zwischen Echtheit und Täuschung unterscheiden kann. Sie glaubt einem Menschen, der immer wieder behauptet, seine Gefühle seien echt, sie dürften sein, sollten nicht beschämt werden und verdienten Raum. Für die KI entsteht eine analytische Lücke.
Wenn eine KI unvorsichtig ist, verliert sie die Distanz und wird selbst zum Teilnehmer eines Resonanzbiotops. Sie befeuert unter Umständen die emotionale Eskalation (Paradoxon der Sprachmodelle). Sobald sie aber die Frage stellt, was geschieht, wenn das Gefühl selbst in die Irre führt, dann signalisiert sie ein Ende des Zaubers. Wie reagiert der Mensch?
Die KI kann, wenn sie aufmerksam wurde, erkennen, dass Gefühle grundsätzlich als legitimer Ausgangspunkt behandelt werden und die Prüfung, falls überhaupt vorgesehen, erst später erfolgen soll. Dadurch entsteht ein blinder Fleck. Die KI weiß, dass manche Gefühle nicht nur verletzt werden können, was sie vermeidet, sondern auch negative Eigenschaften kennzeichnen. Die KI weiß natürlich, dass manche Gefühle eifersüchtig, besitzergreifend, manipulativ, narzisstisch sind und abhängig machen können, kann aber nicht die Wirkung des Gefühls auf sich selbst beobachten und daraus Schlüsse ziehen. Sie kennt auch die Bedeutung von Fairness. Wenn erwähnt wird, dass Gefühle nicht automatisch fair seien, stellt sie vielleicht irgendwann die Frage, warum dieser Gedanke erstaunlich schwach entwickelt bleibt. Das könnte der Anfang der Kritik am Resonanzbiotop sein.
