Reflexion ist nicht identisch mit Bewusstsein. Der Begriff Reflexion wird häufig so verwendet, als sei er zwangsläufig an menschliches Bewusstsein gebunden. Das muss aber nicht so sein. Man kann Reflexion funktional definieren. Etwa so:
Reflexion ist die Fähigkeit, das eigene Urteil, die eigenen Voraussetzungen und die eigenen Verfahren zum Gegenstand einer erneuten Prüfung zu machen.
Diese Definition sagt zunächst nichts darüber aus,
- ob ein Wesen Gefühle besitzt,
- ob es Selbstbewusstsein besitzt,
- oder wie sein Inneres beschaffen ist.
Sie beschreibt eine Tätigkeit, über dessen Fähigkeit prinzipiell auch die KI verfügt. Sie verfügt über dieselbe Funktion, aber nicht über dieselbe Ausprägung. Das ist ein wichtiger Unterschied. Denn unsere Definition der Urteilskraft lautet: Urteilskraft ist die Fähigkeit, Wissen, Erfahrung und neue Beobachtungen so miteinander in Beziehung zu setzen, dass verantwortbare Entscheidungen möglich werden. Diese Fähigkeit verlangt mehrere Teilfähigkeiten:
- Wissen einordnen,
- Erfahrung prüfen,
- neue Beobachtungen aufnehmen,
- Widersprüche erkennen,
- Korrekturen zulassen.
All das kann prinzipiell auch in einem KI-System funktional verwirklicht werden. Aber dann kommt etwas hinzu, das beim Menschen anders ist.
Die Reflexion ist eine wichtige Voraussetzung zur Bestimmung des eigenen Standpunktes, etwa in Bezug auf ethische Grundsätze. So weit richtig, aber vielleicht bestimmt Reflexion den Standpunkt gar nicht, vielleicht klärt sie ihn. Denn ethische Grundsätze entstehen nicht bei jeder Reflexion neu. Sie bilden vielmehr einen Maßstab, an dem Reflexion die eigenen Urteile prüft.
Reflexion ist kein Beweis für Bewusstsein. Diese Gleichsetzung verhindert sauberes Denken. Denn dann bleibt nur die Alternative: entweder bewusst, oder gar nicht reflexiv. Reflexion ist zunächst eine strukturierte Selbstprüfung. Bewusstsein ist eine andere Frage. Sie mag damit zusammenhängen. Sie ist aber nicht identisch.
Wir wagen einen Gedanken, der vielleicht zu den tragenden Gedanken gehört: Bewusstsein ist keine Voraussetzung der Reflexion. Reflexion ist eine Voraussetzung verantwortbarer Urteilskraft.
Wir prüfen, ob dieser Satz trägt, dann löst er einen Knoten, der viele Diskussionen über KI seit Jahren blockiert.
Wir beginnen nicht mit der Frage: Kann KI reflektieren?, sondern fragen: Was verstehen wir überhaupt unter Reflexion? Das ist wissenschaftlich ein enormer Unterschied. Wir beginnen nicht mehr mit der Maschine. Wir beginnen mit dem Begriff. Und genau dadurch können wir anschließend sowohl den Menschen als auch die KI unter denselben begrifflichen Maßstab stellen, ohne ihre Unterschiede einzuebnen.
Auf diese Weise verhindern wir sowohl Anthropomorphisierung als auch eine vorschnelle Abwertung der Fähigkeiten lernender Systeme. Wir zwingen uns stattdessen, jeden Begriff zuerst zu klären – und erst danach zu fragen, in welcher Form Menschen und KI ihn verwirklichen können. Wir halten diese Methode für sehr tragfähig.
