École Polytechnique Executive Education

Effectuez votre recherche par mots-clés

Cybersécurité des Projets IA

  • Court

Si 67% des CEOs interrogés* considèrent la cybersécurité comme un point majeur pour l'adoption de l'IA Générative en entreprise, seules 6% des organisations estiment être en mesure de faire face à ces nouveaux enjeux.
Ce programme court propose un état de l'art des méthodes, techniques et bonnes pratiques de sécurisation des projets d'implémentation de l'IA et plus spécifiquement de l'IA Générative, tant sur la dimension technique et organisationnelle que la gouvernance. En effet, un projet IA et l'usage de celle-ci donne lieu à des points de vigilance et des risques nécessitant des anticipations.
Le programme débute par une présentation globale des solutions et des architectures de modèles de langage (LLM) disponibles sur le marché, qu'ils soient hébergés en local (on-premise) ou dans le cloud. Cette introduction inclut également une analyse des risques et de l'élargissement de la surface d'attaque associés à ces technologies. La formation apporte ensuite des réponses concrètes concernant la sécurité (chiffrement, authentification, etc.) et l'infrastructure (bases de données, Data Lake, conteneurs, infrastructures GPU). Elle se poursuit par un retour d'expérience détaillé sur les méthodes et mécanismes indispensables pour sécuriser efficacement ces solutions et architectures.
Le programme oscille entre fonctionnement théorique indispensable à la compréhension des mécanismes en jeu et exemples pratiques/retours d'expérience illustrant ces explications.

Formation IA et cybersécurité

*Source : Accenture

  • Du 03/06/2025 au 12/06/2025

  • 14 heures

  • Formation à distance

  • Français

  • 2 400€ TTC Voir les modalités de financement

    • Chef de projet IT/SI/IA
    • Chief Data Officer
    • Chief AI Officer
    • Chief Technical Officer
    • RSSI
    • DSI
    • Responsable de la transformation numérique
    • Consultant

    • 3 ans d'expérience professionnelle minimum
    • Connaissances en Systèmes d'Information
    • Connaissances de base d'implémentation de projets systèmes
    • Connaissances techniques/développement

Présentation du programme

Programme

Contenu du programme

Jour 1
Solutions, diversités, architectures et vulnérabilités des projets IA

  • Introduction et diversité de projets IA (IA Gen, LLM multimodaux, offres Cloud SaaS & interopérabilité, On-premise et infrastructure privée, open source)
  • Fonctionnement et architecture des modèles
  • Existence, fonctionnement et protection/lutte contre la prompt injection
  • Empoisonnement des modèles
  • Mitre Atlas (Mitre pour l'IA)

Déploiement de l'IA : une surface d'attaque étendue

  • Vulnérabilité des architectures et des API

Pratique et maîtrise des projets IA sûrs

  • Fondamentaux de TRiSM (Trust, Risk and Security Management)
  • Principes et bonnes pratiques, méthodes et gouvernance de projets IA sûrs et agiles
  • TRiSM : approfondissement

Jour 2
Tester la robustesse de ses modèles

  • Data anomaly detection

Définir une gouvernance de la sécurité de l'IA : checklist

  • Principe de gouvernance cyber appliqué aux projets IA
  • Conception, maintenance et évolution
  • Exercice de conclusion, construction de checklist en commun

Objectifs du programme

  • Identifier les nouveaux risques en cybersécurité liés aux projets IA
  • Identifier l'évolution de la surface d'attaque induite par un projet IA/IA Gen
  • Maîtriser les bonnes pratiques et méthodes des outils préconisés dans le cadre de la sécurisation d'un développement, d'un projet ou d'un produit incluant l'IA/IA Gen
  • Déterminer les ressources fiables et pertinentes pour se tenir informé sur le thème de la sécurité/cybersécurité de l'IA et des dimensions TRiSM

Modalités pédagogiques

4 classes virtuelles

Mode d'évaluation

Questionnaire d'auto-positionnement

Compétences acquises à l'issue de la formation

  • Préconiser les choix méthodologiques et les bonnes pratiques, y compris en contexte "agile", pour exécuter en sécurité : un projet, développement ou produit incluant des technologies IA/IA Gen
  • Pérenniser la sécurité du livrable, développement ou produit, en anticipant les notions de sécurité autour d'un produit utilisant l'IA/l'IA Gen
  • Identifier les choix technologiques permettant d'optimiser ou maximiser la sécurité d'un livrable issu de projets IA ou utilisant l'IA/IA Gen
  • Recommander et mettre en oeuvre les pratiques permettant d'auditer ou de sécuriser des modèles d'IA/IA Gen

Intervenants

Vicky KALOGEITON

Professeure adjointe à l'Ecole polytechnique et chercheur en Computer Vision au Computer Science Laboratory.
Chercheur en IA Générative, Phd, université d'Oxdord, université d'Edimbourg.

Thomas HEIDE CLAUSEN

Professeur au département Informatique (LIX) de l'Ecole polytechnique, pilote du groupe de recherche en réseaux informatiques
Directeur pédagogique de l'Executive MSc in Cybersecurity
Titulaire de la Chaire "Internet Engineering" de l'Ecole polytechnique
Titulaire de la chaire Cisco "Internet of Everything" de l'Ecole polytechnique
IEEE Senior Member

Erwan LE PENNEC

Enseignant-chercheur au département Mathématiques Appliqués (CMAP) de l'Ecole polytechnique

Christophe LONGUEPEZ

Expert en cybersécurité et Intelligence Artificielle
Ex-Responsable des activités Data & AI Security chez Accenture

Formations associées

Formations

Nos formations