Reranking

Eine KI-Suche, die zu jeder Frage Millionen Textabschnitte gründlich lesen müsste, wäre zu langsam und zu teuer. Deshalb arbeiten Such- und Antwortsysteme in Stufen: Eine schnelle erste Suche holt einige Dutzend bis einige Hundert Kandidaten, eine zweite, gründlichere Stufe sortiert diese Kandidaten neu. Diese zweite Stufe heißt Reranking, das Modell dahinter Reranker.

Der Begriff stammt aus der Suchtechnik und taucht inzwischen in fast jeder Beschreibung von Retrieval Augmented Generation auf. Für Unternehmen erklärt er, warum eine Seite gefunden, aber trotzdem nicht zitiert werden kann, und wo sich eigene KI-Anwendungen am stärksten verbessern lassen.

Zwei Stufen: grob suchen, dann genau prüfen

Die erste Stufe vergleicht Frage und Text getrennt: Beide werden vorab in Zahlenvektoren übersetzt (Embeddings) oder über Stichwörter abgeglichen. Das geht blitzschnell über riesige Bestände, ist aber unscharf. Der Reranker liest dagegen Frage und Abschnitt gemeinsam, Wort für Wort im Zusammenhang. Fachleute nennen das einen Cross-Encoder. Das ist deutlich genauer und deutlich rechenintensiver, deshalb bekommt er nur die Vorauswahl zu sehen.

Wie das in Produkten aussieht, zeigen die Dokumentationen der Cloud-Anbieter. Microsofts Azure AI Search sortiert die obersten 50 Treffer der ersten Suche mit Modellen neu, die aus Bing stammen, und schreibt ausdrücklich, dass der Reranker die Suche nicht über den gesamten Bestand wiederholen kann. Googles Ranking-API nimmt bis zu 1.000 Datensätze je Anfrage entgegen und liefert für jeden einen Wert, wie gut er die Frage beantwortet.

Ein Beispiel aus dem Kundenservice

Das folgende Beispiel ist erfunden. Ein Werkzeughändler betreibt auf seiner Website einen KI-Assistenten, der aus Produkttexten, Ratgebern und FAQ antwortet. Ein Kunde fragt: „Welcher Bohrer eignet sich für Edelstahl?“

Die Vektorsuche liefert acht Kandidaten, alle thematisch nah: ein Abschnitt über Holzbohrer, ein Pflegetipp für Edelstahl-Spülen, ein Text über Bohrmaschinen, irgendwo dazwischen der Abschnitt „Für Edelstahl eignen sich Bohrer aus HSS-Co mit Kobaltanteil“. Ohne Reranking gingen die drei ähnlichsten Abschnitte an das Sprachmodell, und das wären womöglich die falschen. Der Reranker liest jede Kombination aus Frage und Abschnitt und erkennt, dass nur einer die Frage direkt beantwortet. Er rückt nach oben, der Spülen-Tipp nach unten.

Wie viel die zweite Stufe bringt, zeigt ein Test von Anthropic: In dessen Versuchsaufbau sank der Anteil fehlgeschlagener Abrufe mit angereicherten Chunks um 49 %, mit zusätzlichem Reranking um 67 % (Anthropic: Contextual Retrieval). Das sind Ergebnisse eines Herstellers mit eigenen Daten, aber die Richtung deckt sich mit der Forschung.

Was Reranking für Ihre Sichtbarkeit in KI-Suchen heißt

Wie Google im KI-Modus, OpenAI in der ChatGPT-Suche oder Perplexity intern sortieren, ist nicht dokumentiert. Dass sie mehrstufig arbeiten, ist bei Systemen dieser Größe technisch zwingend. Für Ihre Inhalte folgen daraus drei nüchterne Regeln:

1. Erst Kandidat werden. Indexierung, Crawling-Freigaben und klassisches Ranking bleiben die Eintrittskarte. Ohne sie erreicht Ihre Seite die zweite Stufe nie.
2. Die Frage direkt beantworten. Ein Reranker bewertet, ob ein Abschnitt zur konkreten Frage passt, nicht, wie oft ein Stichwort vorkommt. Klare Aussagen mit Produktname, Zahl und Bedingung schneiden besser ab als allgemeine Werbesätze. Mehr dazu unter Passage Retrieval.
3. Keine Tricks erwarten. Es gibt kein Markup und keine Datei, die einen Reranker beeinflusst. Wer „Reranking-Optimierung“ als eigenes Produkt verkauft, verkauft gutes Schreiben unter neuem Namen.

Wie Google die Quellen im KI-Modus auswählt und was sich davon beobachten lässt, beschreibt der Beitrag Google AI Mode und AI Overviews: So wird Ihre Website zitiert.

Reranking im eigenen KI-Projekt

In eigenen Anwendungen ist Reranking eine der wirksamsten Stellschrauben, aber nicht immer nötig. Es lohnt sich vor allem, wenn

• viele ähnliche Dokumente im Bestand liegen, etwa Produktvarianten, Versionen eines Handbuchs oder Vertragsmuster,
• Nutzer präzise Fragen stellen, bei denen ein falscher Abschnitt zu einer falschen Antwort führt,
• die erste Suche zwar das Richtige findet, es aber nicht zuverlässig nach oben bringt.

Der Preis ist Wartezeit und Rechenaufwand je Anfrage. Bei kleinen Wissensbeständen mit klar getrennten Themen bringt sauberes Chunking oft mehr als ein zusätzlicher Reranker. Messen lässt sich beides nur mit einem festen Satz Testfragen, deren richtige Fundstelle Sie kennen.