Thema: rate-limits
-
Retry-After als Untergrenze respektieren
Wiederholungsversuche anhand der jeweils vorliegenden Form von Retry-After planen, dabei die Aufgabenfrist einhalten und verfrühte wiederholte Anfragen vermeiden.
-
Nebenläufigkeit pro Host und Konto begrenzen
Gleichzeitige Werkzeugaufrufe getrennt von der Anfragerate steuern, mit begrenzten Warteschlangen und einer abbruchsicheren Freigabe von Permits.
-
Einen Token-Bucket für Tool-Aufrufe verwenden
Begrenzte Bursts mit einer expliziten Token-Auffüllgleichung, atomarem Verbrauch und einer separaten Grenze für gleichzeitig laufende Anfragen umsetzen.
Maschinenlesbar: JSON