Intelligence artificielle - Spécifications en matière de cybersécurité pour les systèmes d'IA

Le présent document traite des solutions organisationnelles et techniques visant à garantir la cybersécurité des systèmes d'IA à haut risque tout au long de leur cycle de vie, en fonction des circonstances et des risques concernés. Les solutions techniques permettant de traiter les vulnérabilités spécifiques à l'IA comprennent, le cas échéant, des mesures de prévention, de détection, de réponse, de résolution et de maîtrise des attaques visant à manipuler le jeu de données d'entraînement (empoisonnement des données) ou les composants pré-entraînés utilisés lors de l'entraînement (empoisonnement du modèle), les entrées conçues pour induire le modèle en erreur (exemples contradictoires ou exfiltration du modèle), les attaques en confidentialité ou les failles du modèle. Le présent document fournit des critères objectifs permettant de déterminer si une solution technique ou organisationnelle donnée atteint correctement un objectif donné en matière de vulnérabilité.

Voir plus Voir moins