Tema: rate-limits
-
Respeitar o Retry-After como limite inferior
Agende novas tentativas a partir de qualquer uma das formas do Retry-After, preservando o prazo da tarefa e evitando requisições repetidas antes da hora.
-
Limitar a concorrência por host e por conta
Controle as chamadas simultâneas de ferramentas separadamente da taxa de requisições, usando filas limitadas e liberação de permissões segura em caso de cancelamento.
-
Usar um token bucket para chamadas de ferramentas
Implemente rajadas limitadas com uma equação explícita de reposição de tokens, consumo atômico e um limite separado para requisições em andamento.
Legível por máquina: JSON