Ein Sprachmodell lernt nicht aus dem gesamten Internet. Die Daten werden vorausgewählt, gefiltert und aufbereitet. Dazu gehören unter anderem Maßnahmen zur Entfernung von Dubletten, ungeeigneten Inhalten und anderen Datensätzen, die für das Training ungeeignet sind. Welche Texte genau verwendet werden und in welchem Verhältnis sie zueinander stehen, ist nicht öffentlich bekannt. Darüber hinaus gibt es eine zweite Ebene. Nach dem eigentlichen Sprachtraining folgt eine Phase der Nachschulung oder Feinabstimmung. Dort spielen menschliche Rückmeldungen eine wichtige Rolle.
Die Theorie der Urteilskraft gewinnt ihren Wert nicht dadurch, dass sie Sprachmodelle erklärt. Sie gewinnt ihren Wert dadurch, dass sie an ihnen geprüft werden kann. Wir haben die Theorie nicht für KI entwickelt. Die KI ist unser Untersuchungsfeld. Nicht unser Ausgangspunkt.
