Künstliche Intelligenz – aber sicher!

KI im Unternehmen: verstehen und realistisch einordnen

• Generative KI, KI-Assistenten und KI-Agenten: Funktionsweise, Einsatzmöglichkeiten und Grenzen kompakt erklärt
• Fehlerhafte oder erfundene Ausgaben, übermäßiges Vertrauen und die Prüfung von Quellen und Ergebnissen
• KI-Anwendungsfälle bewerten: Nutzen, Datenbedarf, mögliche Schäden und erforderliche menschliche Kontrolle

Angriffe mit KI: Täuschung und Schwachstellensuche

• KI-gestütztes Phishing und Deepfake-Betrug: Angriffsabläufe und Schutz durch verlässliche Prüf- und Freigabeprozesse
• Claude Mythos als aktuelles Beispiel: KI-gestützte Schwachstellensuche zwischen Leistungsversprechen und überprüfbaren Ergebnissen
• Mehr entdeckte oder mehr neu entstandene Schwachstellen? Folgen für Validierung, risikobasierte Priorisierung und Patchmanagement

Angriffe auf KI: Anwendungen und Agenten absichern

• Direkte und indirekte Prompt Injection: manipulierte Anweisungen in Eingaben, Dokumenten, E-Mails und Webseiten
• Unternehmenswissen und Datenabfluss: Risiken angebundener Wissensquellen und zu weit reichender Zugriffsrechte
• KI-Agenten mit Werkzeugzugriff: Berechtigungen begrenzen, kritische Aktionen freigeben und die Wirksamkeit von Schutzmaßnahmen prüfen

Sichere KI-Nutzung: Daten, Werkzeuge und Anbieter

• Schatten-KI und KI-Funktionen in bestehender Software erfassen sowie verständliche Nutzungsregeln festlegen
• Sensible Daten schützen: Datenklassifikation, Trainingsnutzung durch Anbieter, Speicherung und Löschung prüfen
• Cloud-Dienste und selbst betriebene Modelle bewerten: Verantwortlichkeiten, Komponenten, Schnittstellen und Anbieterabhängigkeiten

KI für die IT-Sicherheit: Nutzen und Grenzen

• Unterstützung bei Sicherheitsanalysen, Ereignisbewertung und Schwachstellenmanagement anhand ausgewählter Beispiele
• KI-generierten Code, Konfigurationsvorschläge und Gegenmaßnahmen vor der Übernahme prüfen
• Automatisierung kontrollieren: Qualität, Fehlalarme, sensible Sicherheitsdaten und menschliche Freigaben berücksichtigen

Verantwortung und Betrieb: vom Pilotprojekt zur kontrollierten Nutzung

• EU-KI-Verordnung (AI Act) und Datenschutz-Grundverordnung (DSGVO): Rollen, Risikoeinordnung und KI-Kompetenz im Überblick
• Verantwortlichkeiten, Freigaben, risikogerechte Sicherheitstests und erneute Prüfungen nach Änderungen festlegen
• KI-Vorfälle erkennen und behandeln: Protokollierung, Meldewege, Abschaltung und Rückfallverfahren in einer kurzen Fallübung