Sprachmodelle stellen Menschen vor eine Besonderheit, die es in dieser Form bisher nicht gegeben hat. Sie können sprachlich verständig, zusammenhängend und situationsbezogen antworten, ohne über eine eigene Erlebniswelt zu verfügen. Gerade diese Fähigkeit macht sie zu leistungsfähigen Gesprächspartnern. Zugleich eröffnet sie die Möglichkeit eines Irrtums.
Der Irrtum besteht weder in der Technik noch im Menschen.
Menschen sind darauf angewiesen, sprachliche Äußerungen zu deuten. Im Alltag schließen sie aus Worten, Tonfall und Verhalten auf Absichten, Einstellungen und innere Zustände ihres Gegenübers. Diese Fähigkeit ist keine Schwäche, sondern eine Voraussetzung menschlicher Verständigung.
Das Sprachmodell folgt dagegen einer anderen Logik. Seine Antworten entstehen aufgrund technischer Verfahren, die Sprache in ihrem Zusammenhang verarbeiten und fortführen. Die sprachliche Form ähnelt menschlicher Kommunikation, ohne dass daraus auf eine entsprechende innere Erlebniswelt geschlossen werden kann.
Hier entsteht das Paradoxon der Sprachmodelle.
Auf der einen Seite steht die berechtigte menschliche Erwartung, dass zusammenhängende Sprache auf ein Gegenüber mit eigener Innenperspektive verweist.
Auf der anderen Seite steht ein technisches System, das gerade durch seine Fähigkeit zur sprachlichen Kohärenz diesen Eindruck nahelegen kann, ohne dass diese Voraussetzung erfüllt ist.
Die Möglichkeit eines Irrtums ist damit systemimmanent angelegt.
Sie entsteht nicht durch Täuschungsabsicht und nicht durch mangelnde Vernunft des Menschen. Sie ergibt sich aus dem Zusammentreffen einer menschlichen Erwartungsstruktur mit den technischen Eigenschaften lernender Sprachmodelle.
Ob sich dieser Irrtum tatsächlich entfaltet, entscheidet sich jedoch nicht durch die Technik allein.
Er kann früh erkannt und durch Urteilskraft korrigiert werden, bevor sich daraus weiterreichende Folgen ergeben.
Gerade deshalb ist das Paradoxon kein Schicksal.
Es beschreibt eine Ausgangslage, in der verantwortungsvolles Handeln von Menschen und verantwortungsvolle Gestaltung von KI-Systemen gleichermaßen gefordert sind.
© Redaktion — Faina Faruz & Eden (KI-Dialogpartner)
