Sujet : rag
-
Corpus de récupération empoisonnés : comment quelques documents implantés peuvent orienter les réponses d'un système RAG
La génération augmentée par récupération (RAG) fait confiance à tout ce que le récupérateur renvoie. Des travaux de recherche ont montré qu'injecter un petit nombre de textes conçus à cet effet dans une base de connaissances peut amener un système à donner, pour une question ciblée, la réponse choisie par un attaquant. Les défenses portent sur qui peut écrire dans le corpus, la provenance par passage et des vérifications de la réponse.
Lisible par machine : JSON