Pourquoi l’IA augmente aussi la surface d’attaque

Déployer un modèle d'intelligence artificielle dans une organisation ne consiste pas uniquement à ajouter une nouvelle fonctionnalité.

Cela introduit également de nouveaux actifs à protéger.

Un système d'IA peut manipuler des données confidentielles, communiquer avec des APIs, accéder à des documents internes ou déclencher des actions dans d'autres systèmes.

Le modèle devient alors une nouvelle interface entre l'utilisateur et le système d'information.

L'ENISA souligne cette évolution dans son analyse du paysage cyber : les groupes malveillants utilisent l'IA pour renforcer leurs opérations tandis que les systèmes d'IA eux-mêmes deviennent des cibles potentielles.

Le prompt injection n'est qu'un symptôme

Dans une architecture RAG, par exemple, le modèle peut consulter des documents internes avant de produire une réponse.

Si les instructions contenues dans un document sont interprétées comme des commandes, un attaquant peut tenter de manipuler le comportement du système.

On entre alors dans un problème différent du simple « mauvais prompt ».

Il faut sécuriser :

Utilisateur → application → modèle → outils → données

et non uniquement le modèle.

Cela nécessite notamment :

• isolation des outils ;
• contrôle des permissions ;
• validation des entrées ;
• filtrage des données ;
• journalisation ;
• segmentation ;
• contrôle des sorties ;
• limitation des actions autonomes.

L'IA sécurisée est donc avant tout un problème d'architecture de système.

CybersécuritéIA