{"id":7768,"date":"2024-09-25T09:00:00","date_gmt":"2024-09-25T09:00:00","guid":{"rendered":"https:\/\/www.securitytoday.de\/2026\/04\/02\/post_id-3677\/"},"modified":"2026-07-06T15:17:21","modified_gmt":"2026-07-06T15:17:21","slug":"injection-de-prompt-dans-les-ki-dentreprise-pourquoi-les-systemes-rag-sont-particulierement-vulnerables","status":"publish","type":"post","link":"https:\/\/www.securitytoday.de\/fr\/2024\/09\/25\/injection-de-prompt-dans-les-ki-dentreprise-pourquoi-les-systemes-rag-sont-particulierement-vulnerables\/","title":{"rendered":"Injection de Prompt dans les KI d’entreprise : Pourquoi les syst\u00e8mes RAG sont particuli\u00e8rement vuln\u00e9rables"},"content":{"rendered":"

Les syst\u00e8mes RAG sont l\u2019approche standard pour connecter les LLM aux donn\u00e9es d\u2019entreprise. Cependant, cette connexion ouvre la porte aux injections de prompt indirectes – avec des cons\u00e9quences potentiellement graves.<\/strong><\/p>\n

L’essentiel<\/h2>\n

Le Retrieval-Augmented Generation (RAG) est l\u2019approche standard pour connecter les LLM aux donn\u00e9es d\u2019entreprise. Cependant, cette connexion ouvre la porte aux injections de prompt indirectes : les attaquants cachent des instructions dans des documents que le syst\u00e8me RAG int\u00e8gre comme contexte.<\/p>\n

En avril 2023, nous avons pr\u00e9sent\u00e9 l\u2019injection de prompt comme une nouvelle classe d\u2019attaque. Depuis lors, la situation des menaces s\u2019est aggrav\u00e9e – en particulier pour les entreprises qui utilisent des syst\u00e8mes RAG en production.<\/p>\n

Comment fonctionne le RAG – et o\u00f9 se situe le probl\u00e8me<\/h2>\n

Un syst\u00e8me RAG combine un LLM avec une base de connaissances. Lors d\u2019une requ\u00eate utilisateur, le syst\u00e8me recherche des documents pertinents (recherche), les int\u00e8gre comme contexte dans le prompt (augmentation) et g\u00e9n\u00e8re une r\u00e9ponse \u00e0 partir de ceux-ci (g\u00e9n\u00e9ration).<\/p>\n

Le probl\u00e8me : le LLM ne peut pas distinguer si un texte dans le contexte est une information ou une instruction. Un document manipul\u00e9 dans la base de connaissances peut modifier le comportement de l\u2019ensemble du syst\u00e8me.<\/p>\n

Sc\u00e9narios d\u2019attaque en pratique<\/h2>\n

Sc\u00e9nario 1 – L\u2019entr\u00e9e de base de connaissances empoisonn\u00e9e :<\/strong> Un attaquant place un document avec des instructions cach\u00e9es dans la base de connaissances. Lorsque l\u2019utilisateur pose une question th\u00e9matiquement appropri\u00e9e, le document manipul\u00e9 est r\u00e9cup\u00e9r\u00e9 et les instructions cach\u00e9es sont ex\u00e9cut\u00e9es.<\/p>\n

Sc\u00e9nario 2 – Fuites de donn\u00e9es entre utilisateurs :<\/strong> Gr\u00e2ce \u00e0 une injection de prompt cibl\u00e9e, un syst\u00e8me RAG peut \u00eatre amen\u00e9 \u00e0 divulguer des informations provenant du contexte d\u2019autres requ\u00eates utilisateur – particuli\u00e8rement critique dans des environnements multi-locataires.<\/p>\n

Sc\u00e9nario 3 – Piratage d\u2019actions :<\/strong> Si le syst\u00e8me RAG peut ex\u00e9cuter des actions (envoyer des e-mails, cr\u00e9er des tickets, modifier des donn\u00e9es), une injection peut capturer ces actions.<\/p>\n

Contre-mesures pour les syst\u00e8mes RAG<\/h2>\n