Generieren, kritisieren, überarbeiten: wann sich eine Selbstprüfschleife lohnt

Worum es geht

Eine Selbstprüfschleife lässt das Modell zunächst einen Entwurf erzeugen, ihn dann kritisieren und anschliessend im Licht der Kritik überarbeiten, gegebenenfalls mehrfach. Das Self-Refine-Paper beschreibt dies mit einem einzigen Modell, das als Generator, Überarbeiter und Feedback-Geber auftritt, ohne zusätzliches Training. Anthropics Engineering-Leitfaden führt dieselbe Form als Evaluator-Optimizer-Workflow auf: Ein Aufruf generiert, ein anderer bewertet und gibt Feedback, in einer Schleife. Das zitierte Paper zur Selbstkorrektur ergänzt den für die Praxis wichtigen Vorbehalt: In seinen Reasoning-Experimenten fiel es Modellen schwer, sich ohne externes Feedback selbst zu korrigieren, und teilweise verschlechterte sich die Leistung nach der Selbstkorrektur.

Warum es wichtig ist

Die Schleife ist billig einzubauen und teuer im Betrieb. Jede Runde kostet mindestens zwei Aufrufe, und der Entwurf ist Teil der Eingabe beider, sodass die Kosten mit der Länge der Ausgabe und der Zahl der Runden wachsen. Eine Schleife, die eine richtige Antwort in eine falsche überarbeitet, kostet Geld und Qualität zugleich. Ob die Schleife hilft, hängt davon ab, was der Kritiker sehen kann.

So wird es angewendet

• Dem Kritiker ein externes Signal geben: Testausgabe, die Meldung eines Schema-Validators, ein Diff gegen die Spezifikation, eine abgerufene Quelle. Eine Kritik, die nur den Entwurf erneut liest, ist genau der Fall, vor dem das Paper zur Selbstkorrektur warnt.
• Die Bewertungsvorgabe vor der ersten Runde festlegen (was «falsch» für diese Aufgabe bedeutet) und den Kritiker sie Punkt für Punkt beantworten lassen; ein frei formulierter «finde Probleme»-Prompt findet in allem Probleme.
• Die Rundenzahl begrenzen, meist auf eine oder zwei, und vorzeitig abbrechen, wenn die Kritik nichts Umsetzbares meldet oder die vorherige wiederholt.
• Die Rollen per Prompt trennen, und wo das Budget es erlaubt, auch per Modell, damit der Kritiker nicht dieselben Annahmen teilt wie der Entwurf.
• Jede Kritik und die dadurch ausgelöste Änderung protokollieren; ein Kritiker, dessen Befunde nie oder immer umgesetzt werden, ist falsch kalibriert.
• Vor der Standardeinführung an einem zurückgehaltenen Datensatz mit und ohne Schleife messen; die Kosten stehen fest, der Nutzen hängt von der Aufgabe ab.

Stolpersteine

Revisions-Drift: Jede Runde ändert auch Formulierungen, gegen die der Kritiker nichts eingewendet hatte. Ein Kritiker, der seine eigene vorherige Überarbeitung bewertet. Die Schleife als Ersatz für Tests zu verwenden, die in Millisekunden laufen könnten. Die Aufrufe der Schleife ausserhalb des Kostenbudgets der Aufgabe zu führen.