Aprendizado ativo baseado em pool: amostragem por incerteza sem avaliação enviesada

O que o aprendizado ativo baseado em pool faz

O aprendizado ativo baseado em pool (pool-based active learning) escolhe quais exemplos já existentes e ainda não rotulados devem receber rótulo a seguir. O processo parte de um conjunto inicial rotulado (seed) e de um pool maior de exemplos sem rótulo: treina-se um modelo, selecionam-se as consultas, obtêm-se os rótulos e o ciclo se repete. O objetivo é aproveitar bem o esforço de anotação. Isso não garante que toda tarefa precise de menos rótulos, e a técnica não deve ser confundida com a geração de consultas sintéticas nem com a atribuição automática de pseudo-rótulos. [1]

Como funciona a amostragem por incerteza

Uma estratégia de incerteza dá prioridade aos exemplos cujo rótulo previsto é incerto. Na classificação probabilística binária, probabilidades próximas de 0,5 são os candidatos típicos. Em problemas multiclasse, as alternativas incluem a pequena diferença entre as duas maiores probabilidades de classe ou a entropia preditiva alta. Esses critérios não precisam ordenar os exemplos multiclasse da mesma forma. [1]

A pontuação reflete o modelo atual e não é um certificado objetivo de utilidade. Um modelo que erra com confiança pode ignorar regiões informativas, e exemplos ambíguos ou corrompidos podem continuar incertos mesmo depois de anotados. A seleção em lote também deve levar em conta redundância e cobertura.

Um ciclo prático de anotação

Antes de começar a aquisição, reserve dados representativos de validação e de teste final que a política de seleção não possa usar. Monte um conjunto inicial que cubra as classes e as condições de operação plausíveis. Treine o modelo, pontue o pool elegível, selecione um lote e peça a anotadores qualificados que o rotulem seguindo regras documentadas. Remova do pool os exemplos adquiridos, adicione seus rótulos ao treinamento e repita. Registre as divergências entre rótulos e os rótulos indisponíveis, em vez de convertê-los silenciosamente em exemplos negativos. [1]

Mantenha um registro do experimento com os identificadores selecionados, as versões do modelo, as pontuações das consultas, as sementes aleatórias (random seeds), as revisões de rótulos e o esforço de anotação. Use a validação para escolher a estratégia e o orçamento de parada.

Exemplo ilustrativo de alocação

Suponha que haja 200 rótulos iniciais para classificar solicitações de suporte e que a próxima rodada permita 50 anotações. Uma política experimental poderia destinar 40 a solicitações incertas e diversas e 10 a solicitações amostradas aleatoriamente. Essa combinação é uma escolha de projeto ilustrativa, não uma proporção ótima comprovada. Compare-a com uma política que adquire 50 solicitações aleatórias, usando o mesmo conjunto inicial e um conjunto de avaliação independente. Nenhuma melhoria é presumida.

Viés de seleção e avaliação

Os rótulos selecionados ativamente em geral não seguem a distribuição da população. Por isso, o desempenho nesses exemplos selecionados não pode ser tomado como desempenho representativo em produção. Pesquisas também mostram que o viés de seleção nem sempre prejudica o treinamento do modelo; corrigi-lo não é automaticamente benéfico para todo algoritmo de aprendizado. [2]

Compare as curvas de aprendizado com a aquisição aleatória em orçamentos de rótulos equivalentes e informe o tempo real de anotação quando os exemplos difíceis custam mais. Repita o experimento com diferentes conjuntos iniciais, sempre que possível. Reserve o teste final para o procedimento escolhido e relate o comportamento nas classes minoritárias, além da métrica agregada. Este é um fluxo de trabalho baseado em fontes, não um experimento local.

Fontes

[1] Burr Settles: Active Learning Literature Survey

[2] Farquhar, Gal and Rainforth (2021): On Statistical Bias in Active Learning