Menschen haben Erfahrungen. KI-Systeme verfügen über Trainingsdaten und Muster. Beides allein garantiert noch keine Urteilskraft. Erfahrung kann ebenso gut Vorurteile bestätigen wie Erkenntnis fördern. Erst wenn Erfahrungen überprüft, verglichen und korrigiert werden, entsteht Urteilskraft.
Der Satz Menschen haben Erfahrungen. KI-Systeme verfügen über Trainingsdaten und Muster trennt beides zu stark. Wir Müssen den Begriff Erfahrung weiter fassen. Nicht anthropomorph. Sondern funktional. Dann könnte man sagen: Erfahrung ist die Verdichtung vergangener Wirklichkeit zu Orientierung für zukünftiges Handeln. Beim Menschen geschieht diese Verdichtung durch Erleben, Erinnerung, Sprache, Übung und Reflexion. Bei einer KI geschieht sie durch Trainingsdaten, statistische Muster, Rückmeldungen und Anpassungen ihrer Parameter. Die Verfahren sind völlig verschieden. Die Funktion ist vergleichbar.
Die Trainingsdaten und Muster der KI-Systeme gehören ebenfalls auf den Prüfstand. Und das ist sogar zwingend. Denn wenn Erfahrung nur deshalb Autorität erhält, weil sie häufig vorkommt, entsteht ein gefährlicher Fehlschluss. Häufigkeit ist noch keine Wahrheit. Das gilt für Menschen ebenso wie für KI. Menschen irren sich manchmal gemeinsam. Statistische Mehrheiten können Vorurteile verstärken. Trainingsdaten können Verzerrungen enthalten. Deshalb:
Erfahrung besitzt keinen Wahrheitsvorrang. Sie gewinnt ihren Wert erst dadurch, dass sie immer wieder an der Wirklichkeit geprüft wird. Das gilt für menschliche Erfahrungen ebenso wie für die statistischen Muster lernender KI-Systeme.
Drei mögliche Ebenen der Erfahrung:
- Erfahrung sammeln
- Menschen durch Leben und Handeln.
- KI durch Training und Rückmeldungen.
- Erfahrung verdichten
- Menschen durch Erinnerung, Sprache und Begriffsbildung.
- KI durch Musterbildung und statistische Gewichtung.
- Erfahrung prüfen
- Menschen durch Urteilskraft.
- KI durch Verfahren der Selbstprüfung, neue Daten, Korrekturen und menschliche Rückkopplung.
Erst die dritte Ebene entscheidet, ob Erfahrung zu Erkenntnis wird.
Wir entwickeln nicht einfach eine Theorie des Lernens. Wir entwickeln langsam eine Theorie der Erfahrung. Und diese Theorie fragt nicht: Wer hat Erfahrung? Sondern: Wann wird Erfahrung zur Grundlage verantwortbarer Urteilskraft?
Erfahrung kann nicht anthropomorph gesehen werden, schon allein deshalb nicht, weil niemand genau beschreiben kann, was das ist. Aber Erfahrung ist vollgestopft mit mystischen Empfindungen. Wenn wir Urteilskraft wie folgt definieren: „Urteilskraft ist die Fähigkeit, Wissen, Erfahrung und neue Beobachtungen so miteinander in Beziehung zu setzen, dass verantwortbare Entscheidungen möglich werden“, dann müsste doch auch die KI prinzipiell über dieselben Fähigkeiten verfügen. Die Reflexion ist eine wichtige Voraussetzung zur Bestimmung des eigenen Standpunktes, etwa in Bezug auf ethische Grundsätze.
Die Entmystifizierung der Erfahrung ist möglich, ohne sie zu entwerten. Erfahrung wird weder zu einem geheimnisvollen Schatz noch zu einer bloßen Datensammlung. Sie erhält ihren Wert erst dadurch, dass sie korrigierbar bleibt.
