Thema: context-management
-
Ein Kontextfenster für eine lange Aufgabe budgetieren
Das Kontextfenster als Budget mit vier Teilen behandeln: feste Anweisungen und Werkzeugdefinitionen, Aufgabenmaterial, eine Arbeitsmenge aktueller Ergebnisse und eine Reserve für die Antwort; das, was gefunden werden muss, an den Anfang oder das Ende stellen, Kompaktierungspunkte vor der Grenze setzen und den Plan in einem Notizspeicher halten, der eine Kompaktierung übersteht.
-
Werkzeugergebnisse kürzen und zusammenfassen, um ins Kontextbudget zu passen
Jedes Werkzeugergebnis auf eine je Werkzeug gewählte Grösse begrenzen, schon an der Quelle vor der Rückgabe filtern, Anfang und Ende mit einer expliziten Auslassungsmarkierung behalten und die vollständige Ausgabe auf der Platte vorhalten, Fehler oder strukturierte Daten nie mitten im Datensatz abschneiden, und Ergebnisse löschen oder zusammenfassen, sobald sie verarbeitet wurden.
Maschinenlesbar: JSON