IA & Data - AI Security Professional (AISP), certification EXIN
Un parcours pratique consacré à AI Security Professional (AISP). Les participants structurent leurs acquis autour de trois priorités : Sécurité de l’IA dans l’organisation, Menaces de sécurité propres à l’IA, Contrôles de sécurité IA.
Programme détaillé
Sécurité de l’IA dans l’organisation
- Mise en œuvre des étapes G.U.A.R.D pour organiser la sécurité IA.
- Usage responsable et digne de confiance de l’IA dans l’organisation.
- Différences entre cybersécurité conventionnelle et sécurité IA.
- Identification des actifs IA spécifiques et de leurs menaces clés.
- Démarche de modélisation des menaces avec contrôles pour la sécurité IA.
- Risques typiques liés à l’IA agentique.
Menaces de sécurité propres à l’IA
- Types d’évasion selon l’accès de l’attaquant : zero-knowledge, partial- knowledge, perfect-knowledge, transfer attack, évasion après empoisonnement.
- Injection de prompt directe et indirecte.
- 7 couches de protection contre les prompts injections.
- Divulgation de données sensibles dans les sorties de modèle.
- Model inversion, membership inference et model exfiltration.
- Risques d’épuisement de ressources piloté par les entrées.
- Data poisoning et model poisoning pendant le développement.
- Empoisonnement direct du modèle et via la chaîne d’approvisionnement (supply-chain).
- Fuites de données sensibles en phase de développement : données, modèle, code source et configuration.
- Impact des menaces de sécurité conventionnelles sur les composants IA en production.
- Empoisonnement direct du modèle à l’exécution et fuites associées.
- Injection intégrée dans les sorties IA et fuite de données en entrée.
- Fuite et manipulation des données d’augmentation.
Contrôles de sécurité IA
- Contrôles généraux de gouvernance pour la supervision de la sécurité IA.
- Couverture des contrôles de gouvernance et leur portée.
- Répartition des responsabilités entre le fournisseur de modèle tiers et l’organisation utilisatrice (modèle prêt à l’emploi).
- Mise en œuvre de contrôles pour limiter les données sensibles et renforcer la confidentialité et l’intégrité.
- Comprendre comment la limitation des données sensibles réduit les risques.
- Contrôles pour limiter les effets.
- Amélioration des performances et réduction des risque des comportements indésirables du modèle opérationnel.
Tests de sécurité IA
- Importance et périmètre des tests de sécurité IA.
- Différences avec les tests de sécurité conventionnels.
- Menaces à tester spécifiquement pour les systèmes prédictifs et génératifs.
- Stratégies générales de test appliquées à la sécurité IA.
Vie privée, conformité et réglementation
- Principes de confidentialité appliqués aux systèmes IA.
- Préoccupations liées à la vie privée dans les usages IA.
- Contribution des normes ISO/IEC 23894, ISO/IEC 27005, ISO/IEC 42001 et ISO/IEC 5338 à la conformité réglementaire IA.
- Enjeux de conformité liés à l’AI Act et au RGPD.
- Risques de violation du droit d’auteur et stratégies de mitigation.
Parlez-nous de votre projet
Nos bureaux
- Exceev Consulting
61 Rue de Lyon
75012, Paris, France - Exceev Technology
332 Bd Brahim Roudani
20330, Casablanca, Maroc