2. Mitteldeutscher Datenschutztag für Behörden und Interessierte
Sonderseminar: KI-Risiken als Datenschutzbeauftragter erkennen, bewerten, vermeiden
Die Veranstaltung ist Teil der BvD-Fortbildung zum „AI-qualified (BvD)“ DPO/DPC. Es werden 8 AI-Credit-Points für das Pflichtmodul angerechnet.
In diesem Seminar erhalten Sie einen kompakten, praxisnahen Überblick über Einsatzmöglichkeiten und Sicherheitsaspekte von Künstlicher Intelligenz. Primär werden neben allgemeinen Sicherheitsaspekten der sichere Umgang mit Public und Private KIs sowie deren Integration in bestehende Infrastrukturen behandelt. Ein Schwerpunkt liegt auf potenziellen Bedrohungen wie Adversarial Attacks oder Datenvergiftung und geeigneten Schutzmaßnahmen. Abgerundet wird das Seminar durch eine praktische Risikoanalyse und Aspekten zur Kostenkontrolle.
Inhalte des Seminars:
Grundlagen & Begriffserklärungen
- Was ist ein KI-Modell, was ist ein KI-System?
- Welche KI-Systeme gibt es, wofür setze ich welches System ein (Bildverarbeitung, mathematische Operationen, etc.)?
- Wie wird ein KI-Modell entwickelt?
- Konfigurationsmöglichkeiten
- Public KIs vs private KIs
Schutzziele von KI-Systemen
- Vertraulichkeit, Verfügbarkeit, Integrität
- Prompting und Umgang mit dem Output
Bedrohungen von KI-Systemen
- Welche Bedrohungen existieren?
- Adversarial Attacks (Manipulative Angriffe)
- Datenvergiftung
- Model Inversion Attack
- Denial-of-Service (DoS)
- OWASP TOP 10 für LLM-Applikationen
- Durchführung einer Risikoanalyse durch die Teilnehmer
- Welche Maßnahmen sind erforderlich?
KI-Kompetenz
- Wie kann KI in bestehende Infrastrukturen eingebunden wenden?
- API Anbindung und mögliche Kontrollen
- Maschinenanbindungen & mögliche Risiken
- Welche technischen und organisatorischen Maßnahmen sind zu ergreifen?
Kostenkontrolle