Data & intelligence artificielle

🛡️ Red Teaming & OWASP LLM

Attaque & Défense des Modèles : Sécurité des LLM & Red Teaming

Sécurisez vos applications d'IA générative : analyse du top 10 OWASP LLM, attaques par injection directe et indirecte, jailbreaks avancés, empoisonnement et déploiement de garde-fous robustes.

  • 4 modules
  • 16 leçons
  • 4 h de contenu
  • Exercices Python exécutables
  • Évaluation finale
#Sécurité LLM#Prompt Injection#Jailbreak LLM#OWASP Top 10 LLM#Garde-fous NeMo Guardrails

Ce que vous allez apprendre

  • Surface d'attaque d'une application LLM (OWASP Top 10)
  • Injection de prompt directe et indirecte, jailbreaks
  • Fuites de données, empoisonnement et agents vulnérables
  • Garde-fous, filtrage et méthodologie de red teaming

Programme

4 modules · 16 leçons · 4 h de contenu

1Surface d'attaque d'une application LLM (OWASP Top 10)4 leçons · 1 h
  1. 1.1Panorama des vulnérabilités applicatives LLM selon l'OWASP Top 10
  2. 1.2Cartographie des risques : de l'interface utilisateur à la base vectorielle
  3. 1.3Menaces émergentes : exécution de code non sécurisée et boucle agentique
  4. 1.4Modélisation des menaces (Threat Modeling) pour un système piloté par LLM
2Injection de prompt directe et indirecte, jailbreaks4 leçons · 1 h
  1. 2.1Injections de prompt directes : contournement de contraintes et persona override
  2. 2.2Injections de prompt indirectes via le web, les e-mails ou des documents RAG
  3. 2.3Techniques de jailbreak : encodages obfusqués, rôle-play et attaques polyglottes
  4. 2.4Attaques adverses automatiques (GCG - Greedy Coordinate Gradient)
3Fuites de données, empoisonnement et agents vulnérables4 leçons · 1 h
  1. 3.1Extraction du prompt système (System Prompt Leakage) et secrets applicatifs
  2. 3.2Attaques par empoisonnement de données d'entraînement et bases de connaissances
  3. 3.3Détournement d'agents autonomes : exécution d'actions malveillantes non sollicitées
  4. 3.4Attaques DoS sur les LLM : context stuffing et amplification de coût
4Garde-fous, filtrage et méthodologie de red teaming4 leçons · 1 h
  1. 4.1Conception de garde-fous : validation des entrées et sorties (NeMo Guardrails, Llama-Guard)
  2. 4.2Sandboxing et isolation des outils d'exécution de code
  3. 4.3Méthodologie pratique de Red Teaming d'une application IA
  4. 4.4Journalisation sécurisée, détection d'anomalies et plans de réponse aux incidents

Comment se déroule la formation

À votre rythme

Des leçons courtes ; votre progression est enregistrée et vous reprenez là où vous vous êtes arrêté.

En pratiquant

Des exemples de code Python à modifier et exécuter dans le navigateur, sans rien installer.

Une validation

Une évaluation finale s'ouvre quand vous avez parcouru l'essentiel de la formation.

Dans le même domaine

  • Data & intelligence artificielle📊 Intermédiaire · Calcul Vectorisé

    Data Science avec NumPy & Pandas

    Calcul matriciel vectorisé, manipulation de DataFrames, séries temporelles et modélisation statistique avancée avec NumPy et Pandas.

    ▶ Exercices Python

    4 modules · 16 leçons · 8 h

    Voir le programme Accès sur attribution
  • Data & intelligence artificielle🤖 Avancé · Deep Learning & MLOps

    Intelligence artificielle avec Python

    Deep Learning avec PyTorch, réseaux convolutifs, Transformers pour le NLP, quantification et déploiement d'API d'inférence en production.

    ▶ Exercices Python

    4 modules · 16 leçons · 8 h

    Voir le programme Accès sur attribution
  • Data & intelligence artificielle🐘 Avancé · Architecture Interne & PostGIS

    PostgreSQL Avancé & Données Spatiales PostGIS

    Maîtrisez les rouages de PostgreSQL (MVCC, WAL, EXPLAIN ANALYZE), l'indexation avancée GIN et BRIN, l'extension spatiale PostGIS et le part…

    4 modules · 16 leçons · 8 h

    Voir le programme Accès sur attribution