ITSEC: Enterprise AI - sovereign local security compliant
Ihre Termine
* Preise inkl. der gesetzlichen Mehrwertsteuer
Inklusive digitaler Teilnahmebescheinigung.
Beschreibung
Der Kurs verbindet Grundlagenvermittlung, Architekturkompetenz und technische Umsetzung.
Er behandelt Enterprise AI nicht als isoliertes Tool, sondern als kontrollierbare Unternehmensplattform: Datenflüsse, Identitäten, Modelle, RAG-Pipelines, Tool-Aufrufe, Protokollierung, Governance und Betrieb werden gemeinsam betrachtet.
Die Teilnehmer können die wesentlichen Konzepte moderner KI- und LLM-Systeme erklären und realistisch einordnen.
Er behandelt Enterprise AI nicht als isoliertes Tool, sondern als kontrollierbare Unternehmensplattform: Datenflüsse, Identitäten, Modelle, RAG-Pipelines, Tool-Aufrufe, Protokollierung, Governance und Betrieb werden gemeinsam betrachtet.
Die Teilnehmer können die wesentlichen Konzepte moderner KI- und LLM-Systeme erklären und realistisch einordnen.
- Sie verstehen die Unterschiede zwischen Cloud-KI, lokaler KI und hybriden Enterprise-AI-Architekturen.
- Sie können Souveränität als konkrete Architekturentscheidung bewerten: Daten, Modelle, Betrieb, Rechtsraum, Portabilität, Lieferkette.
- Sie kennen RAG, Embeddings, Vektordatenbanken, Re-Ranking, Quellenbindung und Prompt Engineering aus Enterprise-Sicht.
- Sie können Sicherheits- und Compliance-Anforderungen in eine belastbare Zielarchitektur übertragen.
- Sie erkennen Risiken wie Halluzinationen, Prompt Injection, Datenabfluss, unsichere Tool-Nutzung und fehlende Nachvollziehbarkeit.
- Sie erhalten einen praktischen Einstieg in Installation, Konfiguration und Validierung einer portablen Enterprise-AI-Referenz-Architektur.
Inhalte
- Tag 1: Grundlagen moderner KI und Large Language Models
- Begriffe: KI, Machine Learning, Deep Learning, Generative AI, Large Language Models, Multimodalität
- Funktionsweise von Sprachmodellen: Tokens, Kontextfenster, Inferenz, Temperatur, Sampling, Prompting, Halluzinationen
- Open-Source-Modelle, kommerzielle Modelle und lokale Modellbereitstellung: Stärken, Grenzen, Lizenz- und Betriebsfragen
- Modellklassen und Einsatzfelder: Chat, Coding, Analyse, Dokumentenverarbeitung, Recherche, Agenten und Automatisierung
- Prompt Engineering im Unternehmen: Rollen, Kontext, Aufgaben, Ausgabeformate, Validierung und Grenzen
- Einführung in RAG: Embeddings, Vektordatenbanken, Chunking, Retrieval, Re-Ranking, Quellenbindung und Antwortprüfung
- Grenzen von RAG: Datenqualität, Berechtigungen, Aktualität, Kontextlänge, falsch positive Treffer, Evaluierung
- Typische Use Cases: Wissensdatenbanken, interne Assistenzsysteme, Helpdesk, Security, Compliance, Dokumentengenerierung
- Risiken und Fehlannahmen: "KI versteht alles", "lokal ist automatisch sicher", "RAG verhindert Halluzinationen", "Cloud ist immer günstiger"
- Lernergebnis Tag 1: Verständnis statt Buzzwords
- Die Teilnehmer können nach Tag 1 erklären, was
LLMs leisten, wo ihre Grenzen liegen, wie
RAG-Systeme funktionieren und warum Enterprise AI
eine Architekturfrage ist - nicht nur eine Frage des
besten Modells.
- Die Teilnehmer können nach Tag 1 erklären, was
- Tag 2: Enterprise-AI-Architektur und Kontrollmodell
- Cloud-KI, lokale KI und hybride Modelle: Datenflüsse, Kosten, Betriebsverantwortung, Risiken und Entscheidungslogik
- Referenzarchitektur: Frontend, API-Gateway, LLM-Runtime, RAG-Pipeline, Vektordatenbank, Tool-Hub, Monitoring, Logging
- LLM-Runtimes und Plattformoptionen: vLLM, Ollama, llama.cpp, SGLang, kommerzielle APIs - Einordnung statt Produktwerbung
- GPU-, CPU-, Speicher- und Netzwerkfaktoren für lokale KI-Systeme
- Souveräne Betriebsmodelle: On-Prem, EU-Cloud, Private Cloud, kontrolliert hybrid, abgeschottete Umgebungen
- AI Governance: Use-Case-Register, Rollen, Freigabeprozesse, Modellregister, Dokumentation, Validierung, Verantwortlichkeiten
- EU AI Act: AI Literacy, Risikoklassen, GPAI-Bezug, Transparenz, Governance und technische Nachweispunkte
- Security-Risiken: Prompt Injection, Data Leakage, unsichere Tools, Supply Chain, exzessive Berechtigungen, fehlende Protokollierung
- Zero Trust für Enterprise AI
- Zero Trust bedeutet im AI-Kontext: Es gibt keinen "vertrauenswürdigen internen Prompt", keinen
automatisch vertrauenswürdigen Dokumentenzugriff und keinen unkontrollierten Tool-Aufruf. Jede Interaktion mit Daten, Modellen, RAG-Komponenten und Tools wird identitäts-, rollen-, kontext- und
policybasiert geprüft.
- Zero Trust bedeutet im AI-Kontext: Es gibt keinen "vertrauenswürdigen internen Prompt", keinen
- Tag 3: Aufbau der Referenz-Architektur
- Überblick über Zielarchitektur, Betriebsgrenzen, Skalierungspfade und Sicherheitsannahmen
- Installation und Grundkonfiguration der Referenz-Architektur
- Bereitstellung einer lokalen oder kontrolliert betriebenen LLM-Runtime
- Anbindung eines Chat-Frontends oder API-Gateways
- Einrichtung einer einfachen RAG-Pipeline mit Dokumentenimport, Chunking, Embeddings und Vektordatenbank
- Validierung von Retrieval, Quellenbindung, Antwortqualität und Fehlverhalten
- Grundkonfiguration von Zugriffskontrolle, Secrets, Logging und technischen Guardrails
- Validierung typischer Enterprise-Use-Cases: interne Wissensabfrage, Dokumentenzusammenfassung, kontrollierte Recherche
- Fehlersuche: Modellstart, Speicher, GPU/CPU, Netzwerk, Berechtigungen, Parsing, RAG-Qualität
- Abschlussreview: Architektur, Risiken, Verbesserungen und nächste Schritte für produktionsnahe Umgebungen
- Wichtiger Hinweis zur Referenz-Architektur
- Die Installation am dritten Tag ist eine portable, modulare professionelle Referenz-Architektur. Sie ist als belastbarer Ausgangspunkt für unterschiedliche Anforderungen konzipiert und kann je nach Zielbild skaliert, gehärtet, erweitert und in Betriebsprozesse überführt werden. Für hochverfügbare Produktivumgebungen sind zusätzlich sizing, HA-Design, Backup, PatchManagement, Schwachstellenmanagement, Datenschutzprüfung, Mandantentrennung, Monitoring, SLAs und Betriebsdokumentation auszuarbeiten.
Voraussetzungen
- Grundkenntnisse in IT, Netzwerken und Informationssicherheit sind hilfreich.
- Für Tag 3 sind Linux-, Container- oder Servergrundlagen von Vorteil.
- Keine Voraussetzung
- Tiefgehende Programmierkenntnisse sind nicht erforderlich. Der Kurs ist kein Data-Science-Spezialtraining und keine juristische Beratung, sondern eine technische und organisatorische Enterprise-AI-Schulung.
Zielgruppe
- IT und Architektur
- IT-Leiter, Enterprise-Architekten, Plattform-Teams, Systemadministratoren, DevOps-/MLOps-Teams.
- Security und Compliance
- CISOs, ISOs, Datenschutz-, Compliance-, Risk- und Audit-Verantwortliche.
- Fachbereiche und Entscheider
- Digitalisierungsverantwortliche, technische Projektleiter, Consultants, Verantwortliche für Wissensmanagement.