Chunking

Ein Sprachmodell liest bei einer Frage nicht Ihre gesamte Website und auch nicht das komplette Handbuch. Ein vorgeschaltetes Suchsystem sucht die wenigen Textstellen heraus, die zur Frage passen, und gibt nur diese an das Modell weiter. Damit das funktioniert, müssen die Texte vorher in handliche Stücke zerlegt werden. Dieser Schritt heißt Chunking, die Stücke heißen Chunks.

Der Begriff gehört zum Maschinenraum der Retrieval Augmented Generation. Für Unternehmen wird er an zwei Stellen praktisch: bei eigenen KI-Anwendungen, in denen Sie die Zerlegung selbst einstellen, und bei der Frage, wie Webinhalte aufgebaut sein sollten, damit einzelne Abschnitte auch herausgelöst noch verständlich sind.

Warum KI-Systeme Texte zerschneiden

Drei Gründe machen Chunking nötig. Erstens passt nur eine begrenzte Textmenge in das Kontextfenster eines Modells, und jede zusätzliche Seite kostet Rechenzeit und Geld. Zweitens bildet ein Embedding, also die Zahlendarstellung der Bedeutung eines Textes, einen kurzen Abschnitt schärfer ab als ein langes Dokument mit zehn Themen. Drittens soll die Antwort auf eine bestimmte Stelle verweisen, nicht auf „irgendwo in diesem PDF“.

Wie groß die Stücke sind, legt jedes System selbst fest. Anthropic beschreibt in seinem Beitrag zu Contextual Retrieval Chunks von „usually no more than a few hundred tokens“. Googles Cloud-Suchdienst Agent Search zerlegt Dokumente in der Standardeinstellung in Chunks von höchstens 500 Token, einstellbar zwischen 100 und 500, und orientiert sich dabei an Überschriften, Absätzen und Listen. Die gängigen Verfahren im Überblick:

Das Kernproblem: Abschnitte verlieren ihren Zusammenhang

Ein Chunk wird ohne den Rest des Dokuments gesucht und bewertet. Was im Fließtext selbstverständlich ist, fehlt ihm dann. Anthropic nennt als Beispiel einen Quartalsbericht, in dem ein Chunk nur „The company’s revenue grew by 3%“ enthält: Welche Firma und welches Quartal gemeint sind, steht woanders.

Beispiel: die Lieferzeit ohne Produkt

Die folgende Seite ist erfunden. Ein Maschinenbauer beschreibt seine Filteranlage „FX-200“. Unter der Zwischenüberschrift „Lieferung und Montage“ steht: „Die Lieferzeit beträgt sechs Wochen ab Auftragsbestätigung.“ Wird dieser Satz als eigener Chunk gespeichert, kennt er weder das Produkt noch den Hersteller. Auf die Frage „Wie lange ist die Lieferzeit der FX-200?“ konkurriert er mit jeder anderen Lieferzeit-Angabe im Index, auch mit der einer anderen Anlage.

Die Gegenmittel sind bekannt: Chunks entlang der Gliederung schneiden und den Titel sowie die übergeordneten Überschriften mitgeben. Google Cloud bietet dafür eine eigene Option an und begründet sie damit, dass Überschriften „can help prevent context loss in chunk retrieval and ranking“. Anthropic stellt jedem Chunk eine kurze, automatisch erzeugte Einordnung voran und meldet in eigenen Tests 49 % weniger fehlgeschlagene Abrufe, kombiniert mit Reranking 67 %.

Wer schneidet: Sie oder die Maschine?

Bei der öffentlichen KI-Suche zerlegen die Anbieter Ihre Seiten selbst. Wie ChatGPT, Perplexity oder der Google-KI-Modus Webseiten intern in Abschnitte teilen, ist nicht dokumentiert. Google sagt in der Search-Central-Dokumentation ausdrücklich, für AI Overviews und KI-Modus seien keine speziellen Optimierungen nötig. Danny Sullivan, Googles Search Liaison, riet im Podcast Search Off the Record vom 8. Januar 2026 davon ab, Inhalte für Sprachmodelle in Häppchen zu zerlegen: „we don’t want you to do that“.

Daraus folgt keine Spezialtechnik, sondern gutes Handwerk, das Menschen und Maschinen gleichermaßen hilft:

• Zwischenüberschriften, die sagen, worum es im Abschnitt geht, statt „Mehr erfahren“ oder „Unser Versprechen“.
• Abschnitte, die für sich verständlich sind: Produktname statt „es“, konkrete Zahl statt „wie oben beschrieben“.
• Wichtige Fakten als Text, nicht nur in Bildern, Grafiken oder eingescannten PDFs.
• Tabellen als echte HTML-Tabellen, damit Zeilen und Spalten zusammenbleiben.

Ganz anders bei eigenen Anwendungen. Wer einen Chatbot mit Firmendokumenten füttert oder einen Custom GPT mit Wissensdateien baut, entscheidet über das Chunking selbst oder übernimmt die Voreinstellung des Anbieters. Dort ist es eine der wirksamsten Stellschrauben für die Antwortqualität.

Woran Sie gutes Chunking im eigenen System erkennen

Ob die Zerlegung taugt, zeigt sich nicht in der Konfiguration, sondern in Tests. Ein pragmatisches Vorgehen für Marketing- und Vertriebsteams:

1. Testfragen sammeln. 20 bis 30 echte Fragen aus Vertrieb, Service und Bewerbungsgesprächen, jeweils mit der richtigen Antwort und der Fundstelle.
2. Treffer prüfen, nicht nur Antworten. Viele Systeme zeigen, welche Chunks herangezogen wurden. Stimmt die Fundstelle, und steht im Chunk genug Kontext?
3. Eine Stellschraube nach der anderen ändern. Erst Überschriften mitgeben, dann Größe und Überlappung anpassen, danach eventuell Reranking zuschalten.
4. Nach jeder Dokumentänderung neu testen. Neue Preislisten oder umgebaute Handbücher verändern die Zerlegung.

Wer tiefer einsteigen will: Wie die Chunks anschließend gefunden und sortiert werden, beschreiben die Einträge Vektordatenbank und Passage Retrieval. Wie Sie Inhalte insgesamt für KI-Suchen aufbereiten, steht im Beitrag GEO-Optimierung: In ChatGPT und Google AI Mode sichtbar.