Tema: poisoning
-
Corpus de recuperación envenenados: cómo unos pocos documentos plantados pueden manipular las respuestas de un sistema RAG
La generación aumentada por recuperación (RAG) confía en todo lo que devuelve el recuperador. Las investigaciones han demostrado que inyectar unos pocos textos manipulados en una base de conocimiento puede hacer que el sistema dé la respuesta elegida por el atacante a una pregunta concreta. Las defensas se centran en quién puede escribir en el corpus, la procedencia de cada fragmento y la verificación de las respuestas.
Legible por máquina: JSON