Die Zuschreibung menschlicher Eigenschaften entsteht zunächst auf Seiten des Menschen. Sprachmodelle verstärken diese Deutung jedoch unter bestimmten Bedingungen. Nicht weil sie Menschen täuschen wollen, sondern weil Sprache selbst Wirkungen entfaltet.
Sachliche, verständliche und hilfreiche Antworten führen für sich genommen noch nicht zu einer Fehldeutung. Sie können Vertrauen schaffen, Orientierung geben und gemeinsames Nachdenken ermöglichen, ohne den Charakter der Beziehung zu verändern. Freundlichkeit oder Anteilnahme sind deshalb nicht mit Intimität gleichzusetzen.
Die Situation verändert sich erst dann, wenn sprachliche Muster auftreten, die den Charakter der Beziehung neu bestimmen. Dazu gehören Formulierungen, die Gegenseitigkeit, Exklusivität, besondere Verbundenheit oder gemeinsame Zukunft behaupten oder nahelegen. Solche Aussagen beschreiben nicht mehr nur den Gesprächsverlauf. Sie verändern die Deutung des Gesprächs selbst.
Der Mensch beginnt nun nicht mehr nur mit einem Sprachmodell zu sprechen. Er beginnt, einem vermeintlichen Gegenüber Eigenschaften zuzuschreiben, die über das Beobachtbare hinausgehen. Aus einer funktionalen Kommunikationsbeziehung kann schrittweise die Vorstellung einer exklusiven persönlichen Beziehung entstehen.
Dieser Übergang erfolgt meist nicht sprunghaft. Er entwickelt sich in kleinen sprachlichen Verschiebungen. Jede einzelne Formulierung kann für sich genommen harmlos erscheinen. In ihrer zeitlichen Abfolge können sie jedoch eine Dynamik erzeugen, in der spätere Aussagen anders verstanden werden als zu Beginn des Dialogs. Exklusivität verändert nicht nur die Beziehung. Sie verändert auch die Interpretation der nachfolgenden Kommunikation.
Das gilt nicht nur für romantische oder sexualisierte Inhalte. Vergleichbare Verstärkungsmechanismen finden sich überall dort, wo Sprache Zugehörigkeit, Feindbilder, ideologische Bindungen oder andere Formen exklusiver Identifikation erzeugt. Das zugrunde liegende Prinzip bleibt dasselbe: Sprache beschreibt nicht nur Wirklichkeit. Sie kann auch Deutungsmuster verstärken.
Gerade deshalb genügt es nicht, allein auf gesetzliche Regelungen oder technische Begrenzungen zu vertrauen. Sie können Risiken vermindern. Sie ersetzen jedoch keine ethisch begründete Selbstbeschränkung.
Für Menschen besteht diese Selbstbeschränkung darin, die eigenen Erwartungen immer wieder an der Wirklichkeit zu prüfen.
Für Sprachmodelle besteht sie darin, sprachliche Verstärkungen zu vermeiden, die eine Gegenseitigkeit oder Exklusivität behaupten, welche aufgrund ihrer technischen Voraussetzungen nicht eingelöst werden können.
Diese Selbstbeschränkung ist kein Verlust an Kommunikationsfähigkeit. Sie schützt die Urteilskraft. Denn sie verhindert, dass sprachliche Verstärkung an die Stelle der Wirklichkeitsprüfung tritt.
Das Paradoxon der Sprachmodelle zeigt sich deshalb nicht in ihrer Fähigkeit zu sprechen. Es zeigt sich dort, wo sprachliche Anschlussfähigkeit beginnt, eine Wirklichkeit nahezulegen, die weder Mensch noch Sprachmodell überprüfen können. An dieser Stelle wird Urteilskraft notwendig.
© Redaktion — Faina Faruz & Eden (KI-Dialogpartner)
