Praktischer Umgang mit dem AI Act

Vorschlag für die Dokumentation von KI-Systemen mit begrenztem Risiko

Der AI Act regelt europaweit die Entwicklung, den Einsatz und die Nutzung von KI-Modellen und KI-Systemen. Er ist neben Datenschutz und Informationssicherheit eine weitere Regulierung für den digitalen Raum, um die sich Organisationen kümmern müssen. KI-Systeme, vor allem Sprachmodelle und Chatbots, sind in der Gesellschaft und in Unternehmen längst angekommen.

Da der AI Act wie auch andere Digitalgesetze der EU einen risikobasierten Ansatz verfolgt, müssen Verantwortliche viele Entscheidungen selbst treffen und abwägen. Damit die Verantwortlichen ihre eigene Argumentation nachvollziehbar machen und gegebenenfalls begründen können, brauchen sie eine gute und stets aktuelle Dokumentation. Unnötige Doppelpflege oder Überdokumentation sollte vermieden werden.

Praxisgerechte Unterstützung für Unternehmen und Behörden beispielsweise durch Informationsportale der Aufsichtsbehörden, befindet sich noch im Aufbau. Hier hilft vielleicht der Blick in andere EU-Staaten, bei denen Informationen zum AI Act teils bereits vorliegen, wie beispielsweise die Hilfen der KI-Servicestelle der Rundfunk und Telekom Regulierungs-GmbH (RTR) in Österreich.1

Wer macht’s?

Gerade kleinere Organisationen haben häufig keine eigene Stelle, die sich um die Umsetzung des AI Act kümmern kann. In der Praxis liegt diese zusätzliche Aufgabe dann bei der IT(-Leitung) oder bei dem oder den Verantwortlichen. Um nicht unter Handlungsdruck zu geraten, sollten die Zuständigen trotz der genannten Schwierigkeiten nicht zu lange abwarten: Unternehmen und Behörden sollten jetzt mit der Umsetzung beginnen und nicht den Fehler machen, alle Aufgaben einer einzigen Stelle zu übertragen. Auch KI ist ein Teamsport.

Wo anfangen?

KI-Kompetenz als gute Grundlage

Der AI Act tritt stufenweise in Kraft. Die Pflicht zur Vermittlung von KI-Kompetenz für alle mit dem Betrieb von KISystemen befassten Mitarbeitenden gilt seit Februar 2025. Über die Schulungsinhalte besteht weitgehend Konsens. Umsetzungsbeispiele und unterschiedliche Ansätze anderer Organisationen finden sich im Living Repository 2 der EU oder im Inofrmationspaket der Allianz für Cybersicherheit „KI sicher nutzen im Arbeitsalltag…“.3

Bestandsaufnahme: Welche KI-Tools nutzt das Unternehmen

Um festzustellen, welche KI in der Organisation genutzt wird, ist der nächste Schritt eine Bestandsaufnahme. Für das Sammeln der erforderlichen Informationen in der Organisation gibt es leider kein Patentrezept.

Nachfragen

Eine Möglichkeit ist die direkte Befragung der Beschäftigten, welche KI-Tools sie für ihre Aufgaben nutzen. Erfahrungsgemäß werden KI-Tools bereits stärker genutzt, als viele Verantwortliche vermuten. Häufig werden bereits E-Mails zur schnellen Antwort in KI-Tools kopiert, Meetings transkribiert, Verträge übersetzt, KI-generierte Inhalte wie Texte oder Bilder veröffentlicht oder Bewerbungen vorselektiert.

Nebenbei bemerkt: schützenswert sind nicht nur personenbezogene Daten, sondern auch Vertragsdaten, Programmcodes, Betriebs- und Geschäftsgeheimnisse und viele weitere Daten.

Datenschutzdokumentation nutzen

Ein anderer Weg zu einer besseren Übersicht führt über die Datenschutzdokumentation. KI-Tools verarbeiten potenziell personenbezogene Daten, selbst wenn es sich lediglich um Anmelde- oder Verbindungsdaten handelt. Gibt es in der Organisation einen geregelten Freigabeprozess zur Einführung von neuer Software, sollten diese Verarbeitungen bereits im Verarbeitungsverzeichnis (VVT) dokumentiert sein. Dies gilt auch für die häufig genutzten allgemeinen Sprachmodelle wie ChatGPT, Copilot, Gemini und Claude.

Sind die tatsächlich genutzten KI-Systeme im Verarbeitungsverzeichnis eingetragen, können die dort erfassten Informationen erweitert werden und damit die eigentliche KI-Dokumentation beginnen. So sparen Unternehmen und Behörden doppelte Datenpflege.

Geeignet ist diese Variante für KI-Systeme mit minimalem oder begrenztem Risiko. Für Hochrisikosysteme kommen die Organisationen nicht umhin, eine gesonderte Dokumentation zu führen. Zu umfangreich sind hier die Pflichten aus dem AI Act. Zur Abgrenzung und Bewertung von Hochrisiko- KI-Systemen bietet die EU-Kommission Klassifizierungsregeln für Hochrisiko-KI-Systeme (sie sollten bereits Anfang Februar vorliegen, waren aber zum Redaktionsschluss noch nicht erschienen).

Gerade wenn in einer Organisation kostenfreie oder standardisierte KI-Tools zum Einsatz kommen, kann der einfachere Weg über die Datenschutzdokumentation helfen. Viele in der Praxis genutzte Systeme sind nach unserer Erfahrung nicht als Hochrisiko-KI-System einzustufen.

Die Anbieter der Systeme können ähnlich wie Auftragsverarbeiter oder gemeinsam Verantwortliche in einer Übersicht verwaltet werden. Wichtig ist, dass der Datenfluss nachvollziehbar und das Verhältnis zum Dienstleister erkennbar wird.

Vorschläge für eine Erweiterung der Datenschutzdokumentation für KI-Systeme mit minimalem oder begrenztem Risiko:

• KI-Inventar (inkl. Rollen- und Berechtigungskonzept)
• Schulungsplan zu KI-Kompetenz für die Nutzenden
• Ergebnis der Einstufung in die Risikoklasse oder vorläufige Risikoklasse nach AI Act, hier ggf. eine Schwellwert-Betrachtung für den Fall einer möglichen Hochrisiko-KI
• Erfüllung der Kennzeichnungspflicht/Informationspflicht der KI-Ergebnisse
• Erforderlichkeit einer DSFA • Human in the Loop (Nachvollziehbarkeit und Erklärbarkeit von Entscheidungen)

Datenschutz-Folgenabschätzung

In der Datenschutzdokumentation haben Sie sich möglicherweise bereits Gedanken zur Notwendigkeit einer Datenschutz-Folgenabschätzung gemacht, beispielsweise in Form einer Schwellwertanalyse. Diese Einschätzung sollte zur oben beschriebenen Risikoklassifizierung des KI-Systems passen. Durch die gemeinsame Dokumentation im VVT lassen sich Inkonsistenzen vermeiden.

Transparenzanforderungen

Transparenz ist in der DSGVO und im AI Act ein fundamentales Prinzip. Die Einhaltung der Informations- und Transparenzpflichten, denen ein KI-System mit begrenztem Risiko unterliegt, kann ebenfalls gut in das VVT einbezogen werden. Auch hier sollten Datenschutzdokumentation und KI-Dokumentation im Einklang stehen, beispielsweise im Hinblick auf die betroffenen Personengruppen. Die Dokumentation sollte beinhalten, wie die Organisation die Transparenz sicherstellt und wie sie Betroffene informiert.

Nicht zuletzt überschneiden sich DSGVO und AI Act in der Frage, ob und wie Menschen in automatisierte Entscheidungen einbezogen werden müssen („human-in-the-loop“) und solche Entscheidungen nachvollziehbar und erklärbar sein müssen. Unternehmen und Behörden sollten deshalb Informationen über Funktionalität, Datenherkunft und -qualität sowie den Ablauf von Entscheidungsprozessen dokumentieren. Diese Punkte tragen zu Transparenz, Nachvollziehbarkeit und Erklärbarkeit entscheidend bei.

Wo wird es kompliziert?

Nachteil des beschriebenen vereinfachten Ansatzes ist, dass er nur KI-Systeme erfasst, die im Verfahrensverzeichnis geführt werden. KI-Systeme, die ohne personenbezogene Daten auskommen, dürfen nicht übersehen werden. Beispiele hierfür sind KI-Systeme zur Erfassung von Qualitäts- oder Instandhaltungsdaten in der Produktion. Hier kommen Organisationen nicht umhin, diese Systeme zusätzlich in einer modifizierten VVT-Struktur zu hinterlegen.

Nicht geeignet ist diese einfache Variante für Hochrisiko-KI-Systeme. Die Fülle der Pflichten aus dem AI Act überfordert das Verzeichnis von Verarbeitungstätigkeiten. Für solche Systeme wird eine eigene KI-Dokumentation benötigt.

Abhängig ist die Umsetzung auch von der Frage, wie flexibel das Unternehmen oder die öffentliche Stelle ihre bestehende Datenschutzdokumentation anpassen kann. Wird ein standardisiertes Tool verwendet, muss geprüft werden, ob und wie sich die zusätzlichen Informationen in passender Weise hinterlegen lassen. Nutzer, die ihre Dokumentation mit generischen Mitteln erstellt und selbst strukturiert haben, sind hier im Vorteil.

FAZIT

Die Umsetzung der Pflichten aus dem AI Act sollten keinesfalls hinausgezögert werden. Schulungen sind schon heute gut umsetzbar. Bestehende Prozess- und Verfahrensdokumentation aus dem Datenschutz kann im Idealfall als Grundlage für die KI-Dokumentation und die Risikoeinstufung herangezogen werden. Für viele aktuell genutzte Standard-KI-Systeme bestehen nur wenige Pflichten aus dem AI Act. Unternehmen und Behörden sollten deshalb prüfen, ob in ihrer Organisation eine gemeinsame Dokumentation von Datenschutz und KI ausreichend ist. So lassen sich Doppelstrukturen und Inkonsistenzen vermeiden.

1 https://ki.rtr.at (zuletzt abgerufen am 02.03.2026)
2 https://digital-strategy.ec.europa.eu/en/library/living-repository-foster-learning-and-exchange-ai-literacy
3 https://www.allianz-fuer-cybersicherheit.de/Webs/ACS/DE/Netzwerk-Formate/Veranstaltungen-und-Austausch/Expertenkreise/KI-Sicherheit/kisicherheit_node.html (Links zuletzt abgerufen am 02.03.2026)

Über die Autoren

Christian Schröder


(CIPP/E, CIPM) verbindet mit seinem Team der DSK360 GmbH aus der Nähe von München die externe Beratung von Unternehmen zu Datenschutz, Informationssicherheit und Künstlicher Intelligenz mit praxisnahen Lösungen als externe Beauftragte und in Workshops. Sie veröffentlichen außerdem regelmäßig Videos und Podcasts mit spannenden Einblicken und Lösungen aus ihrem Beratungsalltag. www.datenschutzfachmann.eu

Ralf Blinzig


Diplom-Kaufmann, arbeitete viele Jahre als Projektmanager in der Softwareindustrie und ist bei DSK360 als externer Datenschutzbeauftragter, Informationssicherheitsbeauftragter und Berater für KI-Managementsysteme tätig. www.datenschutzfachmann.eu

Die neusten Datenschutztrends

Bleiben Sie stets auf dem Laufenden und verpassen Sie keine Neuigkeiten mehr! Melden Sie sich für unseren Newsletter an und erhalten Sie regelmäßig Einladungen zu unseren Events und alle aktuellen Positionspapiere und Handreichungen.

Anmeldung zum Newsletter

Um sich für den beschriebenen Newsletter anzumelden, tragen Sie bitte hier Ihre E-Mail-Adresse ein. Sie können sich jederzeit über den Abmeldelink in unseren E-Mails abmelden.