Gouvernance IA
Sécurité de l'IA : les risques réellement propres à l'IA
La plupart des conseils de sécurité IA reformulent les bonnes pratiques générales. Les risques réellement nouveaux sont l'injection de prompt, la fuite de données par le contexte, et des systèmes dotés de permissions que personne n'a auditées.
Équipe éditoriale Artlogic · Août 2026 · 8 min min de lecture
L'injection de prompt
Un système qui lit du contenu non fiable — un courriel, un document, une page web — peut rencontrer des instructions intégrées dans ce contenu. S'il les exécute, un attaquant a émis une commande par vos données plutôt que par votre interface.
L'atténuation est architecturale : le système devrait être structurellement incapable de poser une action conséquente à partir de contenu récupéré, et non simplement instruit de ne pas le faire.
La fuite par le contexte
Les systèmes de récupération assemblent le contexte depuis tout ce qu'ils peuvent atteindre. Si les permissions sont plus larges que prévu, un utilisateur peut recevoir une information qu'il ne devrait pas voir — et le système la présentera avec aisance, sans aucun signe d'anomalie.
L'exposition la plus souvent manquée
Les agents reçoivent fréquemment un accès large pendant la construction parce que le restreindre est peu pratique, puis sont mis en service avec cet accès intact. Demandez ce que vos systèmes IA peuvent actuellement lire et modifier : la réponse est souvent plus large que quiconque ne le voulait.
Pourquoi les revues de sécurité conventionnelles passent à côté
Une revue de sécurité examine généralement l'infrastructure et la posture des fournisseurs — un travail réel, et orthogonal à ces risques. L'injection de prompt et la fuite de contexte vivent dans le comportement applicatif, donc on ne les détecte qu'en testant le système comme le ferait un adversaire.
À retenir
- L'injection de prompt fait de vos données un canal d'instructions.
- La récupération hérite du modèle de permissions — auditez-le d'abord.
- Les agents sont souvent livrés avec leur accès de construction.
- Les contraintes doivent être structurelles, non instructionnelles.
- Testez en adversaire ; les tests utilisateur ne trouveront rien.
Où Artlogic peut aider