AI Governance, Security und Safety – Modulares Fachseminar
Tag 1: Überblick für Entscheider – Tag 2: Vertiefung für Sachverständige
RESERVIEREN
unverbindliche Platzreservierung
INHALTE
Tag 1 – Überblick: AI Governance, Security und Safety für Entscheider und Verantwortliche
Adressatenkreis: Geschäftsleitung, CIO, CTO, CISO, Compliance- und Datenschutzverantwortliche, Projektleiter mit KI-Bezug.
Lektion 1 – Einführung: KI, Begriffe und Anwendungsfelder im Unternehmen
- Definitionen: Schwache vs. starke KI, generative KI, Agenten, Foundation Models
- Typen von KI-Modellen: Klassifikation, Regression, Sprachmodelle, multimodale Systeme
- Typische Einsatzgebiete und Wertbeiträge: Automatisierung, Entscheidungsunterstützung, Sicherheit
- Abgrenzung Buy vs. Build vs. Use – Provider-, Deployer- und Anwender-Rollen
Lektion 2 – Regulatorisches Umfeld und Standards
- EU AI Act: Risikoklassen, Pflichten, Zeitachse, Auswirkungen auf Deutschland
- NIST AI Risk Management Framework (AI RMF) und Generative AI-Profile
- ISO/IEC 42001 (AI Management System) und ISO/IEC 23894 (AI Risk Management)
- Branchenspezifische Anforderungen: DORA, MiFID II, Datenschutz (DSGVO)
Lektion 3 – AI-Strategie, Politik und Rollenmodell
- AI-Strategie: Geschäftsziele, Wertbeiträge, Risikoappetit
- Bestandteile einer wirksamen AI-Policy: Geltungsbereich, zulässige Nutzung, Sperrlisten
- Verantwortlichkeiten: AI Owner, Model Owner, Data Steward, AI Risk Officer, AI-Auditor
- Ethik-Prinzipien und ihre Operationalisierung im Unternehmen
Lektion 4 – AI-Risikomanagement im Überblick
- Lebenszyklus des AI-Risikomanagements: Identifikation, Bewertung, Steuerung, Überwachung
- Risikoklassifikation: technische, operative, ethische, regulatorische Risiken
- Vier Reaktionsstrategien: Vermeiden, Vermindern, Übertragen, Akzeptieren
- FRIA Fundamental Rights Impact Assessment
- Privacy Impact Assessment (PIA) und Data Protection Impact Assessment (DPIA) für KI
Lektion 5 – Datengovernance und Privacy für KI
- Datenherkunft, Datenqualität, Annotation, Bias und Repräsentativität
- Datenklassifikation und Schutzbedarfsanalyse für Trainings- und Inferenzdaten
- Privacy-by-Design für KI-Systeme: Anonymisierung, Pseudonymisierung, synthetische Daten
- Privacy Enhancing Technologies (PETs) im KI-Kontext: Federated Learning, Differential Privacy
Lektion 6 – AI-Bedrohungslandschaft im Überblick
- Adversarial Machine Learning: Evasion, Poisoning, Model Inversion, Membership Inference
- Prompt Injection, Jailbreaks und Insecure Output Handling bei LLMs
- Supply-Chain-Risiken: Modell-Repositories, Foundation Models, Plug-ins, Agenten
- Shadow AI und nicht-autorisierte Nutzung im Unternehmen
Lektion 7 – Kontrollen, Sicherheit und Aufsicht von KI-Lösungen
- Sicherheitsarchitektur und Design-Prinzipien für KI-Systeme
- Schlüsselkontrollen entlang des AI-Lebenszyklus (Design, Training, Deployment, Betrieb)
- Human Oversight, Monitoring und Drift-Erkennung
- Incident Response und Business Continuity für KI-Anwendungen
Lektion 8 – Auditierung und Nachweisführung von KI
- Prüfbare KI: Welche Nachweise braucht ein Audit?
- KPIs und KRIs für AI Governance, Security und Modellqualität
- Vendor- und Lieferanten-Assessments für KI-Lösungen
- Modulare Roadmap für die Etablierung einer AI Governance im Unternehmen
Tag 2 – Vertiefung: AI Security, Audit und operative Umsetzung für Sachverständige
Adressatenkreis: CISO, IT-Auditoren, Sicherheits-Architekten, AI Risk Officers, Compliance-Spezialisten, Datenschutzbeauftragte mit technischem Hintergrund.
Lektion 9 – AI-Sicherheitsarchitektur und Design vertieft
- Referenzarchitekturen für klassische ML-Systeme, LLM-Anwendungen und Agenten
- Sichere Integrationsmuster: RAG, Function Calling, Tool Use, Multi-Agent-Systeme
- Zero-Trust-Prinzipien für KI-Workloads (NIST SP 800-207, CISA ZTMM)
- Secrets Management, Schlüsselverwaltung und vertrauliche Inferenz (Confidential Computing)
Lektion 10 – AI-Lebenszyklus und Changemanagement
- Phasen: Anforderungen, Datenkuration, Training, Validierung, Deployment, Monitoring, Decommissioning
- MLOps und LLMOps: Pipelines, Versionierung, Modell-Registry, Feature Stores
- Changemanagement: Modell-Updates, Re-Training, Re-Validierung, Approval-Gates
- Konfigurationsmanagement und Reproduzierbarkeit von KI-Systemen
Lektion 11 – Datenmanagement und Datenkontrollen vertieft
- Data Lineage und Datenqualitäts-Metriken für KI
- Bias Detection, Fairness-Metriken und Mitigation-Techniken
- Sensitive Data Handling: PII-Erkennung, Maskierung, Redaktion in Prompts und Outputs
- Synthetische Daten: Einsatzszenarien, Risiken, Qualitätssicherung
Lektion 12 – Bedrohungs- und Schwachstellenmanagement vertieft
- OWASP Top 10 für LLMs und ML – praktische Beispiele und Mitigationen
- MITRE ATLAS: Taktiken, Techniken und Verfahren für Angriffe auf KI-Systeme
- Red Teaming, Penetration Testing und automatisiertes Adversarial Testing für KI
- Schwachstellenmanagement für Modelle, Bibliotheken und Pre-trained Components
Lektion 13 – Security Controls und Monitoring im Detail
- Identity und Access Management für KI-Komponenten, Agenten und Service-Accounts
- Logging und Telemetry: Prompts, Outputs, Tool-Aufrufe, Token-Verbrauch, Anomalien
- Detection Engineering für KI-spezifische Bedrohungen (Drift, Misuse, Exfiltration)
- Integration in SIEM/XDR und Security-Operations-Prozesse
Lektion 14 – Provider-, Deployer- und Lieferketten-Audit
- Pflichten und Schnittstellen zwischen Provider und Deployer (EU AI Act)
- Audit von Foundation Models, Modellanbietern und Cloud-AI-Diensten
- Vertragsklauseln, SLAs und technische Nachweise (Model Cards, System Cards, Audits)
- Open-Source-Modelle: Lizenzen, Risiken, Verifizierbarkeit
Lektion 15 – AI-Audit-Methodik und Werkzeuge
- Audit-Planung und -Design für KI-Systeme (in Anlehnung an AAIA-Praxisfeld)
- Stichprobenverfahren, Evidenzsammlung und Datenanalyse-Techniken
- Nutzung von KI im Auditprozess: Continuous Auditing, automatisierte Kontrollen
- Aufbau und Strukturierung von AI-Audit-Berichten
Lektion 16 – Praxis-Workshop: Fallstudien und integrierte Anwendung
- Fallstudie 1: AI-Risikobewertung und Kontroll-Mapping für ein generatives Use Case
- Fallstudie 2: Threat Modelling für eine LLM-basierte Kundenanwendung (STRIDE / MITRE ATLAS)
- Fallstudie 3: Vorbereitung eines AI-Audits – Anforderungen, Checklisten, Berichtsstruktur
- Reflexion, offene Diskussion, Roadmap zur Umsetzung im eigenen Unternehmen
REFERENT
Umberto Annino
Umberto Annino ist ein Informationssicherheitsspezialist mit 30 Jahren Berufserfahrung. Er verfügt über eine umfangreiche Ausbildung und zahlreiche Zertifizierungen in den Bereichen IT-Sicherheit, Datenschutz, Risiko- und Qualitätsmanagement, Cloud-Computing und GRC. Zu seinen Zertifizierungen gehören unter anderem CISSP, CISA, CISM, CRISC, CGEIT, CCSP, CIPP/E, CIPT, CIPM, CDPSE, GRCP, GRCA und IDPP.
DAS SAGEN UNSERE TEILNEHMER
Aktuell gibt es für dieses Seminar noch keine Beurteilung unserer Teilnehmer. Wir freuen uns aber immer über Ihr Feedback.
ZIELE
IN DIESEM SEMINAR LERNEN SIE:
- wie Sie eine wirksame AI Governance mit Politik, Rollen und Verantwortlichkeiten etablieren,
- wie Sie KI-Risiken systematisch bewerten und mit den Frameworks EU AI Act, NIST AI RMF und ISO/IEC 42001 in Einklang bringen,
- wie Sie KI-spezifische Bedrohungen erkennen und mit geeigneten Sicherheitskontrollen begegnen (OWASP LLM Top 10, MITRE ATLAS),
- wie Sie KI-Systeme entlang des Lebenszyklus prüfen, monitoren und auditieren,
- wie Sie Lieferketten, Foundation Models und externe KI-Dienste vertraglich und technisch absichern und
- wie Sie eine Roadmap für AI Governance, Security und Audit in Ihrem Unternehmen aufbauen.
ZIELGRUPPE
- Administratoren
- Projektleiter
- Planer
- Entscheider
- Führungskräfte
Das Seminar richtet sich an CISO, Sicherheits-, Compliance- und Datenschutzverantwortliche, IT-Auditoren, Risikomanager sowie an Geschäftsleitung, CIO und CTO mittelständischer und großer Unternehmen, die KI verantwortungsvoll, sicher und prüfbar einsetzen möchten.
Hinweis:
Tag 1 ist auch für interessierte Einsteiger mit Management-Hintergrund geeignet; Tag 2 setzt Grundkenntnisse in Informationssicherheit oder IT-Audit voraus.
DIESE VERANSTALTUNGEN KÖNNTEN SIE AUCH INTERESSIEREN
Kontakt
ComConsult GmbH
Burtscheider Markt 24
52066 Aachen
Telefon: 0241/887446-0
Fax: 0241/887446-200
E-Mail: info@comconsult.com
