KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT und Co.

• Bedrohungsbild: bösartige KI in der Praxis
  • WormGPT, FraudGPT und ähnliche Modelle: Fähigkeiten und Grenzen
  • Angriffsketten mit GenAI: von Recon bis Exfiltration
  • Warum klassische Security-Kontrollen oft zu spät greifen
• Prompt-Injection, Data Poisoning, Model Abuse
  • Prompt-Injection in Chatbots, RAG und Agenten
  • Indirekte Prompt-Injection über Dateien, Links, Tickets
  • Poisoning von Trainingsdaten und Wissensbasen
  • Abuse von Tools, Plugins und Actions
• KI-gestütztes Phishing und Social Engineering
  • Business Email Compromise mit LLM-Textqualität
  • Deepfake Voice: Angriffsabläufe und Erkennungsmerkmale
  • Pretexting, Smishing, MFA-Fatigue, Helpdesk-Bypass
• Detection Engineering für GenAI-Angriffe
  • Log-Quellen: E-Mail, IdP, EDR, Proxy, DLP, Chatbot-Telemetrie
  • Signale und Heuristiken: Schreibmuster, TTPs, Anomalien
  • Playbooks für SOC: Triage, Evidence, Eskalation
• Hardening von LLM- und RAG-Systemen
  • Input/Output-Filter, Content Policies, Guardrails
  • Secrets-Schutz: Token, API-Keys, Prompt-Leaks verhindern
  • RAG-Sicherheit: Quellenbewertung, Chunking, Zitierpflicht
  • Least Privilege für Agenten und Tool-Aufrufe
• Incident Response und Forensik bei KI-Missbrauch
  • Beweissicherung: Prompts, Kontexte, Tool-Calls, Artefakte
  • Root Cause: Lücke im Workflow statt nur im Modell
  • Post-Incident Maßnahmen: Controls, Training, Monitoring
• Governance, Risiko und Compliance
  • Risikobewertung für GenAI-Use-Cases (Threat Modeling)
  • Policy-Design: erlaubte Daten, erlaubte Tools, Freigaben
  • Lieferkette: Anbieterprüfung, Datenflüsse, Verträge

• Grundkenntnisse in IT-Security, gängigen Angriffsmethoden und Logging (z. B. E-Mail, IdP, EDR).
• Sicherer Umgang mit LLMs
• Hilfreich sind erste Berührungspunkte mit RAG, aber nicht zwingend.

• SOC-Analystinnen und SOC-Analysten, Incident Responder
• Security Engineers, Detection Engineers, Threat Hunter
• IAM-, E-Mail- und Endpoint-Security-Verantwortliche
• Architektinnen und Architekten für GenAI, RAG und Agenten
• Für alle, die KI-gestützte Angriffe erkennen, abwehren und untersuchen wollen

Lernformate

Unsere Seminare bieten dir maximale Flexibilität: Du kannst zwischen Live-Online und Vor Ort in unseren modernen Schulungszentren im D-A-CH Raum wählen. Beide Formate garantieren dir die gleiche hohe Qualität und interaktive Lernerfahrung.

Schulungsarten

Wir bieten dir verschiedene Schulungsarten: Offene Seminare, Firmenseminare für Teams und Inhouse-Schulungen direkt bei dir vor Ort. So findest du genau das Format, das zu deinen Bedürfnissen passt.

Uhrzeiten

9:00–16:00 Uhr

Aktuelle Software

In unseren offenen Kursen arbeiten wir mit der aktuellsten Software-Version. So lernst du direkt mit den Tools und Features, die du auch in deinem Arbeitsalltag verwendest – praxisnah und zukunftsorientiert. Bei Inhouse- und Firmenschulungen bestimmt ihr die Version.

D