Sécurité de l'IA : les risques réellement propres à l'IA

L'injection de prompt

Un système qui lit du contenu non fiable — un courriel, un document, une page web — peut rencontrer des instructions intégrées dans ce contenu. S'il les exécute, un attaquant a émis une commande par vos données plutôt que par votre interface.

L'atténuation est architecturale : le système devrait être structurellement incapable de poser une action conséquente à partir de contenu récupéré, et non simplement instruit de ne pas le faire.

La fuite par le contexte

Les systèmes de récupération assemblent le contexte depuis tout ce qu'ils peuvent atteindre. Si les permissions sont plus larges que prévu, un utilisateur peut recevoir une information qu'il ne devrait pas voir — et le système la présentera avec aisance, sans aucun signe d'anomalie.

L'exposition la plus souvent manquée

Les agents reçoivent fréquemment un accès large pendant la construction parce que le restreindre est peu pratique, puis sont mis en service avec cet accès intact. Demandez ce que vos systèmes IA peuvent actuellement lire et modifier : la réponse est souvent plus large que quiconque ne le voulait.

Pourquoi les revues de sécurité conventionnelles passent à côté

Une revue de sécurité examine généralement l'infrastructure et la posture des fournisseurs — un travail réel, et orthogonal à ces risques. L'injection de prompt et la fuite de contexte vivent dans le comportement applicatif, donc on ne les détecte qu'en testant le système comme le ferait un adversaire.