Model Collapse

Ein Kopierer, der Kopien von Kopien zieht, liefert irgendwann nur noch Grauschleier. Diese Sorge hat die KI-Forschung für Sprachmodelle untersucht, und im Marketing wird daraus gern die These, das Internet fresse sich gerade selbst auf.

Model Collapse, deutsch auch Modellkollaps, bezeichnet den schleichenden Verlust von Qualität und Vielfalt, wenn generative KI-Modelle über mehrere Generationen mit Daten trainiert werden, die frühere Modelle erzeugt haben. Zuerst verschwinden seltene Inhalte, die Ränder der Verteilung; am Ende produziert das Modell eine verengte, oft fehlerhafte Version dessen, was es einmal gelernt hat. Der Effekt betrifft die Trainingsdaten künftiger Modelle, nicht unmittelbar die Antworten einer KI-Suche, die per Retrieval-Augmented Generation aktuelle Webseiten abruft.

Woher der Begriff stammt

Geprägt hat den Begriff ein Team um Ilia Shumailov und Yarin Gal. Interessant ist die Vorgeschichte: In der ersten Fassung ihres Preprints sprachen die Forschenden noch von „Model Dementia“, vier Tage später hieß der Effekt Model Collapse.

In der Nature-Studie passten die Forschenden ein kleines, vortrainiertes Sprachmodell (OPT-125m) mit Wikipedia-Texten an und trainierten dann jede neue Generation mit den Texten der vorigen. Ein Absatz über englische Kirchtürme endete nach neun Generationen in einer Aufzählung von Hasenarten mit bunten Schwänzen. Die Autoren unterscheiden ein frühes Stadium, in dem seltene Inhalte verloren gehen, und ein spätes, in dem die Ausgaben kaum noch dem Original ähneln. Als Ursachen nennen sie drei sich aufschaukelnde Fehlerquellen: statistische Fehler durch endliche Stichproben, begrenzte Ausdrucksfähigkeit des Modells und Ungenauigkeiten im Lernverfahren.

Der Kern lässt sich einfach beschreiben: Ein Modell erzeugt bevorzugt wahrscheinliche Formulierungen. Was in seinen Trainingsdaten selten war, taucht in seinen Ausgaben noch seltener auf. Lernt die nächste Generation nur aus diesen Ausgaben, fehlt ihr das Seltene, und sie kann es nicht mehr lernen. Über mehrere Generationen summiert sich dieser Schwund, bis nur noch das Übliche übrig bleibt, oft mit wachsenden Fehlern.

Was die Studien zeigen und was nicht

Entscheidend ist die Versuchsanordnung. Der deutlichste Kollaps entsteht, wenn jede Generation ausschließlich mit Ausgaben der vorigen trainiert wird. Schon in der Nature-Studie führte das Beibehalten von 10 % der Originaldaten nur noch zu geringen Verlusten. Gerstgrasser et al. zeigten, dass der Effekt weitgehend ausbleibt, wenn synthetische Daten zu den echten hinzukommen, statt sie zu ersetzen. Dohmatob et al. halten dagegen, dass in bestimmten Lernsituationen schon kleine Anteile synthetischer Daten schaden und mehr Daten das nicht ausgleichen. Die Forschung ist also nicht abgeschlossen.

Wie die großen Anbieter ihre Trainingsdaten filtern und mischen, legen sie nicht offen. Ein öffentlicher Beleg, dass ChatGPT, Gemini oder Claude bereits kollabieren, ist nicht bekannt. Belegt ist dagegen der Satz, mit dem die Nature-Autoren schließen: Daten aus echten menschlichen Interaktionen werden wertvoller, je mehr KI-Text im Web steht.

Beispiel: Was ein Ratgeberblog daraus macht

Ein angenommener Ratgeberblog für Fahrradtechnik, beispiel-ratgeber.de, plant 200 neue Artikel. Variante A: Eine KI fasst die bestplatzierten Ratgeber anderer Websites zusammen. Variante B: 20 Artikel mit eigenen Messwerten aus der Werkstatt, etwa Bremswege bei Nässe mit verschiedenen Belägen, und Antworten auf Fragen, die Kundinnen tatsächlich stellen.

Variante A reproduziert, was Sprachmodelle ohnehin schon gelernt haben, und liefert keinen Information Gain. Mit Model Collapse hat ihr Misserfolg wenig zu tun: Solche Texte haben schlicht nichts, was eine KI-Suche zitieren müsste. Variante B erzeugt genau die Art Daten, die laut Forschung knapp und wertvoll wird. Der Zusammenhang ist indirekt, aber für die Content-Planung tragfähig: Wer nur den Durchschnitt nachschreibt, konkurriert mit dem Modell selbst. Für die Redaktion heißt das: weniger Artikel, dafür mit Messwerten, Fotos und Erfahrungen, die keine KI aus dem Web kopieren kann. Wie KI-Systeme Quellen auswählen, ordnet der Beitrag Wie werde ich in KI-Chatbots sichtbar? ein.