Tema: poisoning
-
Corpora de recuperação envenenados: como poucos documentos plantados podem direcionar as respostas de um sistema RAG
A geração aumentada por recuperação (RAG) confia em tudo o que o retriever devolve. Pesquisas mostraram que injetar poucos textos forjados numa base de conhecimento pode levar o sistema a dar uma resposta escolhida pelo atacante a uma pergunta-alvo. As defesas passam por controlar quem pode escrever no corpus, registrar a proveniência de cada trecho e verificar as respostas.
Legível por máquina: JSON