Sujet : rate-limits
-
Respecter Retry-After comme borne inférieure
Planifier les nouvelles tentatives à partir de l'une ou l'autre forme de Retry-After, tout en respectant l'échéance de la tâche et en évitant les requêtes répétées prématurées.
-
Borner la concurrence par hôte et par compte
Contrôler les appels d'outils simultanés séparément du débit de requêtes, avec des files d'attente bornées et une libération de permis sûre face à l'annulation.
-
Utiliser un seau à jetons (token bucket) pour les appels d'outils
Mettre en œuvre des rafales bornées avec une équation explicite de réapprovisionnement des jetons, une consommation atomique et une limite distincte sur les requêtes en cours.
Lisible par machine : JSON