AI Red Teaming für Rüstungs- und Defense-Systeme

• Bedrohungsmodell für KI im Defense-Kontext
  • Angriffsflächen: Daten, Modelle, Schnittstellen, Operator
  • Mission Impact statt nur Modellmetriken
  • Threat Modeling mit Assets, Trust Boundaries
• Adversarial ML: Angriffe, die wirklich passieren
  • Evasion: adversarial examples in Vision, Sensorik
  • Poisoning: Trainingsdaten und Feedback-Kanäle
  • Model Inversion und Membership Inference
• LLM-Red-Teaming für Einsatz- und Lagebilder
  • Prompt Injection über Tools, RAG, Dokumente
  • Jailbreaks, Mehrsprachigkeit, indirekte Angriffe
  • Halluzinationen als Sicherheits- und Haftungsrisiko
• Supply-Chain- und Integrationsrisiken
  • Third-Party-Modelle, Updates, Model Registry
  • Abhängigkeiten: Frameworks, Container, GPU-Stacks
  • Backdoors und Trojaning erkennen
• Defense Engineering: Schutzmaßnahmen mit Nachweis
  • Input Sanitization, Robustness Checks, Rate Limits
  • Guardrails, Policy Enforcement, Output Filtering
  • Monitoring: Drift, Abuse, Anomalien, Telemetrie
• Testdesign, Metriken und Abnahme
  • Red-Team-Testfälle, Coverage, Severity Scoring
  • Reproduzierbarkeit, Testdatenhygiene, Logging
  • Abnahmekriterien und Sicherheitsargumentation
• Governance, Compliance und sichere Betriebsmodelle
  • Rollen, Freigaben, Change Management
  • Dokumentation: Risk Register, Findings, Maßnahmenplan
  • Secure Deployment: Air-Gap, On-Prem, Zero Trust

• Grundverständnis von IT-Security und gängigen Bedrohungsmodellen
• Basiswissen zu ML/LLM-Konzepten und Systemintegration ist hilfreich

• Security Engineers und Cybersecurity-Verantwortliche in Defense-Organisationen
• KI- und ML-Engineers, die Modelle in kritischen Systemen betreiben
• Systemarchitekten und Integrationsverantwortliche für Sensorik, Datenpipelines und APIs
• GRC-, Risk- und Compliance-Funktionen mit KI-Prüfaufträgen
• Alle, die KI-Risiken im Rüstungsbereich realistisch testen und belastbar absichern wollen

Lernformate

Unsere Seminare bieten dir maximale Flexibilität: Du kannst zwischen Live-Online und Vor Ort in unseren modernen Schulungszentren im D-A-CH Raum wählen. Beide Formate garantieren dir die gleiche hohe Qualität und interaktive Lernerfahrung.

Schulungsarten

Wir bieten dir verschiedene Schulungsarten: Offene Seminare, Firmenseminare für Teams und Inhouse-Schulungen direkt bei dir vor Ort. So findest du genau das Format, das zu deinen Bedürfnissen passt.

Uhrzeiten

9:00-16:00 Uhr

Aktuelle Software

In unseren offenen Kursen arbeiten wir mit der aktuellsten Software-Version. So lernst du direkt mit den Tools und Features, die du auch in deinem Arbeitsalltag verwendest - praxisnah und zukunftsorientiert. Bei Inhouse- und Firmenschulungen bestimmt ihr die Version.

D