Datenschutz und KI-Regulierung: Rechtslage 2026

2026 wird für alle, die künstliche Intelligenz einsetzen, ein Jahr mit vielen neuen Regeln. Der EU AI Act greift in weiteren Stufen, und gleichzeitig plant die EU-Kommission mit dem sogenannten Digital Omnibus Anpassungen an der DSGVO. Für Unternehmen bedeutet das: Ihre bisherige Compliance-Strategie reicht womöglich nicht mehr aus.

Die wichtigste Änderung: Ab August 2026 müssen Sie offenlegen, wenn Inhalte durch KI erstellt oder verändert wurden oder wenn Menschen mit einem KI-System sprechen. Das gilt auch für einfache Anwendungen wie Chatbots oder Bildgeneratoren. Dazu kommen strengere Anforderungen an Hochrisiko-Systeme, etwa bei Bewerbungsverfahren oder der Leistungskontrolle am Arbeitsplatz.

Bei KI und Datenschutz 2026 geht es aber nicht nur um Pflichten. Es geht auch um neue Rechte für Nutzerinnen und Nutzer und um die Frage, welche Daten Sie überhaupt zum Training von Modellen verwenden dürfen. In diesem Beitrag erfahren Sie, welche Fristen gelten, was sich bei der KI-Regulierung konkret ändert und welche Schritte Sie jetzt planen sollten.

Rechtsrahmen, Geltungstermine und Zuständigkeiten

Für KI-Projekte in Deutschland gelten 2026 mehrere Regelwerke gleichzeitig: die DSGVO als Basis für den Umgang mit personenbezogenen Daten, die KI-Verordnung mit ihren Risikoklassen und dazu nationale Vorschriften. Hinzu kommen feste Stichtage, verteilte Zuständigkeiten und weitere Digitalgesetze, die Ihre Projekte betreffen können.

Das Zusammenspiel von DSGVO, EU AI Act und nationalem Recht

Die Datenschutz-Grundverordnung und der EU AI Act stehen nebeneinander. Der AI Act regelt das KI-System als Produkt, die DSGVO die Verarbeitung personenbezogener Daten.

Ein Beispiel: Ihr Modell darf nach dem AI Act zulässig sein. Trotzdem brauchen Sie für Training und Betrieb eine Rechtsgrundlage nach Art. 6 DSGVO.

Auf nationaler Ebene ergänzen das BDSG und die Landesdatenschutzgesetze diesen Rahmen, etwa beim Beschäftigtendatenschutz. Der Koalitionsausschuss hat im Juli 2026 zudem ein Reformpaket zum deutschen Datenschutzrecht beschlossen, unter anderem mit Erleichterungen für kleine und mittlere Unternehmen.

Die KI-Verordnung gilt unmittelbar in allen Mitgliedstaaten. Die angestrebte Harmonisierung ist damit noch nicht vollständig, weil Deutschland die Behördenzuständigkeiten selbst festlegt.

Welche Pflichten seit August 2026 gelten und welche Fristen sich verschieben können

Die KI-Verordnung wird stufenweise wirksam:

Datum	Was gilt
2. Februar 2025	Verbotene Praktiken, KI-Kompetenz der Mitarbeitenden
2. August 2025	Pflichten für Modelle mit allgemeinem Verwendungszweck, Governance-Strukturen
2. August 2026	Großteil der übrigen Regeln, darunter Transparenzpflichten und viele Hochrisiko-Vorgaben
2. August 2027	Hochrisiko-KI als Sicherheitsbauteil regulierter Produkte

Seit August 2026 müssen Sie also nachweisen können, dass Ihre Systeme richtig eingestuft sind und die passenden Anforderungen erfüllen.

Wichtig: Die EU-Kommission hat im November 2025 den Digital Omnibus vorgeschlagen. Er sieht Vereinfachungen und teils spätere Termine vor. Das Paket ist noch nicht beschlossen, planen Sie deshalb weiter mit den geltenden Fristen.

Die Rolle von Aufsichtsbehörden, AI Office und Datenschutzbeauftragten

Die Aufsicht ist auf mehrere Stellen verteilt.

• AI Office bei der EU-Kommission: zuständig für Modelle mit allgemeinem Verwendungszweck; nach den Omnibus-Plänen soll es zusätzliche Entscheidungsbefugnisse erhalten.
• Nationale Marktüberwachungsbehörden: kontrollieren Hochrisiko-KI in Produkten.
• Datenschutzbehörden der Länder und der BfDI: bleiben für die DSGVO zuständig und übernehmen KI-Aufsicht in Bereichen wie Strafverfolgung, Migration und Justiz.

Jeder Mitgliedstaat soll eine zentrale Anlaufstelle für Beschwerden einrichten. In Deutschland sind einige Zuständigkeiten, etwa bei biometrischen Systemen, noch nicht abschließend geklärt.

Ihre Datenschutzbeauftragten sind nach dem AI Act nicht automatisch für die KI-Compliance verantwortlich. In der Praxis übernehmen sie diese Aufgabe aber oft, weil Datenschutz-Folgenabschätzung und Risikobewertung eng zusammenhängen.

Weitere Digitalgesetze mit Einfluss auf KI-Projekte

Neben DSGVO und KI-Verordnung wirken weitere Regeln auf Ihre Vorhaben ein:

• Data Act: regelt den Zugang zu Daten aus vernetzten Produkten, einer möglichen Quelle für Trainingsdaten.
• DSA und DMA: betreffen Plattformen, etwa bei Empfehlungssystemen und deren Transparenz.
• NIS2: seit Dezember 2025 in deutsches Recht umgesetzt und für rund 30.000 Unternehmen verbindlich; das BSI überwacht die Umsetzung, KRITIS-Betreiber haben zusätzliche Pflichten.
• DORA: gilt seit Januar 2025 für den Finanzsektor, inklusive IKT-Risikomanagement für KI-Dienstleister.
• Cyber Resilience Act: ab September 2026 beginnen Meldepflichten für Schwachstellen, die vollständige Anwendung folgt im Dezember 2027.

Prüfen Sie früh, welche dieser Gesetze auf Ihr KI-System zutreffen. Meldepflichten und Dokumentation überschneiden sich häufig.

Risikoklassen und Pflichten nach der KI-Verordnung

Die KI-Verordnung (EU) 2024/1689 teilt KI-Systeme nach ihrem Risiko ein: verboten, hochriskant, begrenzt riskant und minimal riskant. Je höher das Risiko, desto strenger die Pflichten. Sie reichen von Verboten über Konformitätsbewertung und menschliche Aufsicht bis hin zu reinen Transparenzpflichten.

Verbotene KI-Praktiken und Grenzen für Social Scoring sowie Biometrie

Seit dem 2. Februar 2025 verbietet die EU bestimmte Praktiken vollständig. Dazu zählt Social Scoring, also die Bewertung von Menschen anhand ihres sozialen Verhaltens durch Behörden oder Unternehmen.

Verboten sind außerdem KI-Systeme, die Menschen unterschwellig manipulieren oder Schwächen wegen ihres Alters, einer Behinderung oder ihrer sozialen Lage ausnutzen.

Bei Biometrie zieht die Verordnung enge Grenzen. Untersagt sind unter anderem:

• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen
• biometrische Kategorisierung, die auf Herkunft, politische Meinung oder sexuelle Orientierung schließt
• ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder aus Videoüberwachung
• biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zur Strafverfolgung, mit eng begrenzten Ausnahmen

Verstöße können Bußgelder von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes nach sich ziehen.

Wann ein System als Hochrisiko-KI eingestuft wird

Für Hochrisiko-KI-Systeme gibt es zwei Wege in die Einstufung.

Der erste betrifft KI als Sicherheitsbauteil in Produkten, die schon heute reguliert sind, etwa Medizinprodukten, Maschinen, Spielzeug oder Aufzügen. Braucht das Produkt eine Konformitätsbewertung durch eine dritte Stelle, gilt die darin eingesetzte KI als hochriskant.

Der zweite Weg führt über Anhang III mit seinen sensiblen Anwendungsbereichen:

Bereich	Typische Beispiele
Beschäftigung	Bewerber-Screening, Beförderungs- und Kündigungsentscheidungen
Bildung	Zulassung, Prüfungsbewertung, Betrugserkennung
Kreditvergabe	Bonitätsprüfung natürlicher Personen
Gesundheitswesen	Triage, Zugang zu medizinischen Leistungen
Migration	Visaprüfung, Asylverfahren, Grenzkontrollen
Justiz und Strafverfolgung	Beweisbewertung, Risikoprognosen

Ausnahmen gelten, wenn Ihr System nur eine eng begrenzte Hilfsaufgabe erfüllt und keine Entscheidung wesentlich beeinflusst. Diese Einschätzung müssen Sie dokumentieren.

Anforderungen an Konformitätsbewertung, Risikomanagement und menschliche Aufsicht

Als Anbieter eines Hochrisiko-Systems müssen Sie vor dem Markteintritt eine Konformitätsbewertung durchführen, eine CE-Kennzeichnung anbringen und das System in der EU-Datenbank registrieren.

Dahinter stehen konkrete technische und organisatorische Anforderungen:

• ein fortlaufendes Risikomanagement über den gesamten Lebenszyklus
• Daten-Governance mit Prüfung auf Fehler und Verzerrungen in Trainingsdaten
• technische Dokumentation und automatische Protokollierung von Ereignissen
• Genauigkeit, Robustheit und Cybersicherheit auf angemessenem Niveau
• ein Qualitätsmanagementsystem sowie Beobachtung nach dem Inverkehrbringen

Menschliche Aufsicht bedeutet, dass Ihr System so gestaltet sein muss, dass geschulte Personen Ergebnisse hinterfragen, übersteuern oder den Betrieb stoppen können. Bei biometrischer Identifizierung ist zusätzlich die Bestätigung durch zwei Personen vorgesehen.

Betreiber tragen eigene Pflichten: Sie müssen das System entsprechend der Anleitung nutzen, den Betrieb überwachen, Protokolle aufbewahren und betroffene Beschäftigte vor dem Einsatz am Arbeitsplatz informieren.

Transparenzvorgaben für Chatbots, KI-Assistenten und generative Inhalte

Systeme mit begrenztem Risiko unterliegen vor allem Transparenzpflichten nach Artikel 50.

Bei Chatbots und KI-Assistenten müssen Sie deutlich machen, dass Nutzerinnen und Nutzer mit einer Maschine sprechen. Das gilt nicht, wenn es aus dem Zusammenhang ohnehin offensichtlich ist.

Generative KI bringt weitere Anforderungen mit sich:

• Synthetische Texte, Bilder, Audio- und Videodateien müssen maschinenlesbar als KI-generierte Inhalte gekennzeichnet werden.
• Deepfakes brauchen einen sichtbaren Hinweis auf die künstliche Erzeugung.
• Texte, die über Themen von öffentlichem Interesse informieren, müssen offengelegt werden, wenn keine redaktionelle Kontrolle stattfindet.
• Bei Emotionserkennung oder biometrischer Kategorisierung sind die betroffenen Personen zu informieren.

Diese Pflichten greifen ab dem 2. August 2026. Setzen Sie ein solches Feature in einem Hochrisiko-System ein, gelten beide Regelwerke nebeneinander.

Personenbezogene Daten im KI-Lebenszyklus

Personenbezogene Daten begleiten ein KI-System von der Beschaffung der Trainingsdaten bis zum laufenden Betrieb. Für jede Phase brauchen Sie eine eigene Rechtsgrundlage, klare Zwecke und technische Schutzmaßnahmen. Dazu kommen Fragen zum Urheberrecht bei allgemeinen Modellen.

Rechtsgrundlagen für Training, Entwicklung und Betrieb

Die Datenschutzkonferenz (DSK) betrachtet den KI-Lebenszyklus in einzelnen Abschnitten. Das ist wichtig, denn eine einzige Rechtsgrundlage deckt selten alle Schritte ab.

Typische Zuordnung:

Phase	Was passiert	Mögliche Rechtsgrundlage (DSGVO)
Datenbeschaffung	Sammeln von Trainingsdaten	Art. 6 Abs. 1 lit. f oder lit. a
KI-Training	Modell lernt Muster	Art. 6 Abs. 1 lit. f, ggf. Art. 89
Betrieb	Prompts, Ausgaben, Logs	lit. b (Vertrag), lit. f oder lit. a
Feintuning mit Kundendaten	Anpassung an eigene Zwecke	eigene Prüfung nötig

Bei besonderen Kategorien wie Patientendaten gilt zusätzlich Art. 9 DSGVO. Ohne ausdrückliche Einwilligung oder eine gesetzliche Erlaubnis, etwa für Forschung, dürfen Sie solche Daten meist nicht verarbeiten.

Dokumentieren Sie deshalb jede Phase getrennt im Verarbeitungsverzeichnis.

Einwilligung, berechtigtes Interesse und Interessenabwägung in der Praxis

Für das Training großer Modelle stützen sich Anbieter wie OpenAI, Google und Meta überwiegend auf das berechtigte Interesse. Dafür brauchen sie eine dokumentierte Interessenabwägung, oft Legitimate Interest Assessment (LIA) genannt.

Ein LIA beantwortet drei Fragen:

1. Zweck: Welches konkrete Interesse verfolgen Sie?
2. Erforderlichkeit: Geht es nicht mit weniger Daten?
3. Abwägung: Wiegen die Rechte der Betroffenen schwerer?

Bei der Abwägung zählen die vernünftigen Erwartungen der Betroffenen, die Sensibilität der Daten und Ihre Schutzmaßnahmen.

Eine Einwilligung brauchen Sie in der Regel bei sensiblen Daten, bei Kindern und wenn Sie Chatverläufe aus einem Dienst wie ChatGPT für weiteres Training nutzen wollen. Sie muss freiwillig und informiert sein, außerdem jederzeit widerrufbar bleiben.

Datenminimierung, Zweckbindung und Datenqualität als Designprinzipien

Datenminimierung heißt nicht „so wenig wie möglich“, sondern „nur so viel wie für den Zweck nötig“. Prüfen Sie daher, ob das Modell Namen, Adressen oder Geburtsdaten wirklich benötigt.

Die Zweckbindung setzt Grenzen bei der Weiterverwendung. Daten, die Sie für den Kundenservice erhoben haben, dürfen Sie nicht ohne Weiteres für ein neues Sprachmodell nutzen.

Datenqualität ist ebenfalls eine Rechtspflicht und nicht nur eine technische Frage. Nach Art. 5 Abs. 1 lit. d DSGVO müssen Daten sachlich richtig sein.

Die DSK betont außerdem die laufende Qualitätskontrolle im Betrieb. Sie fordert auch technische Wege, um falsche Angaben in Modellen und Ausgaben zu berichtigen oder zu löschen.

Anonymisierung, Pseudonymisierung und Privacy by Design

Anonyme Daten fallen nicht unter die DSGVO, doch die Hürde liegt hoch. Die BfDI hat 2025 ein Konsultationsverfahren zu personenbezogenen Daten in KI-Modellen durchgeführt und dabei ein gemischtes Meinungsbild festgestellt: Eine Mehrheit der 30 Stellungnahmen hält Sprachmodelle nur unter bestimmten Umständen für anonym.

Pseudonymisierung senkt das Risiko, beseitigt den Personenbezug aber nicht.

Praktische Maßnahmen nach dem Prinzip Privacy by Design:

• Filter für personenbezogene Daten vor dem Training
• Differential Privacy, um Rückschlüsse auf Einzelpersonen zu erschweren
• Federated Learning, damit Rohdaten am Ursprungsort bleiben
• Output-Filter gegen die Wiedergabe memorisierter Daten
• Zugriffsbeschränkungen und kurze Speicherfristen für Prompts

Die BfDI-Konsultation zeigte außerdem, dass die meisten Stellungnahmen bei Löschanfragen auf Maßnahmen auf Systemebene setzen. Machine Unlearning funktioniert bislang noch nicht zuverlässig.

Trainingsdaten, Urheberrecht und Opt-out bei General-Purpose-Modellen

Neben dem Datenschutz gilt auch das Urheberrecht. In Deutschland erlaubt § 44b UrhG das Text- und Data-Mining, sofern der Rechteinhaber keinen maschinenlesbaren Nutzungsvorbehalt erklärt hat.

Genau hier liegt das Opt-out. Typische Formen sind Angaben in der robots.txt, Metadaten oder klare Hinweise in den Nutzungsbedingungen einer Website.

Anbieter von General-Purpose-KI-Modellen müssen nach der KI-Verordnung eine Urheberrechts-Policy vorhalten, diese Vorbehalte respektieren und eine ausreichend detaillierte Zusammenfassung ihrer Trainingsdaten veröffentlichen. Diese Pflichten gelten seit dem 2. August 2025 für neue Modelle; für ältere Modelle läuft die Frist bis August 2027.

Wenn Sie fremde Modelle einsetzen, verlangen Sie Nachweise zur Datenherkunft. Auch bei der Nutzung tragen Sie eigene Verantwortung.

Automatisierte Entscheidungen und Rechte Betroffener

Wenn ein System über Bewerbungen, Kredite oder Versicherungstarife mitentscheidet, greifen zwei Regelwerke gleichzeitig: Artikel 22 DSGVO und ab dem 2. August 2026 die Pflichten der KI-Verordnung für Hochrisiko-Systeme. Konkret brauchen Sie klare Informationen, verständliche Erklärungen, eine echte menschliche Prüfung und einen funktionierenden Weg, um eine Entscheidung anzufechten.

Wann Artikel 22 DSGVO bei KI-gestützten Entscheidungen greift

Artikel 22 DSGVO betrifft Entscheidungen, die ausschließlich automatisiert getroffen werden und für Sie rechtliche Wirkung haben oder Sie ähnlich erheblich beeinträchtigen.

Typische Beispiele sind eine abgelehnte Kreditvergabe durch Scoring, eine automatische Aussortierung im Recruiting oder die Sperrung eines Kontos durch ein System zur Betrugserkennung.

Solche Entscheidungen sind grundsätzlich unzulässig. Erlaubt sind sie nur in drei Fällen:

• bei ausdrücklicher Einwilligung,
• wenn ein Vertrag es erfordert,
• wenn nationale Datenschutzbestimmungen oder EU-Recht es zulassen.

Bei besonderen Kategorien wie Gesundheitsdaten oder biometrischen Daten liegen die Hürden noch höher.

Wichtig: Eine Person, die den Vorschlag des Systems nur abnickt, macht die Entscheidung nicht automatisch „menschlich“.

Informationspflichten und verständliche Erklärungen der Entscheidungslogik

Nach Artikel 13, 14 und 15 DSGVO müssen Sie vorab erfahren, dass eine automatisierte Entscheidungsfindung stattfindet. Dazu gehören die verwendete Logik, die Tragweite und die möglichen Folgen für Sie.

Die Transparenzpflichten gehen 2026 weiter. Artikel 26 Absatz 11 KI-VO verpflichtet Betreiber von Hochrisiko-Systemen, Sie vorab über den Einsatz zu informieren, auch wenn die KI eine Entscheidung nur unterstützt.

Artikel 86 KI-VO gibt Ihnen zusätzlich ein Recht auf Erläuterung im Einzelfall, wenn Ihre Gesundheit, Sicherheit oder Grundrechte betroffen sind.

Ein Hinweis wie „wir nutzen KI“ genügt dafür nicht. Sie können verlangen zu erfahren, welche Rolle das System gespielt hat und welche Faktoren für das Ergebnis wesentlich waren.

Widerspruch, menschliche Überprüfung und wirksame Anfechtungsverfahren

Wenn eine Ausnahme nach Artikel 22 greift, stehen Ihnen mindestens drei Rechte zu:

Ihr Recht	Was das bedeutet
Eingreifen einer Person	Ein Mensch prüft den Fall inhaltlich neu
Darlegung des Standpunkts	Sie können eigene Argumente und Belege einbringen
Anfechtung	Sie können die Entscheidung förmlich beanstanden

Ein Widerspruchsrecht nach Artikel 21 DSGVO kommt hinzu, wenn die Verarbeitung auf berechtigten Interessen beruht.

Damit die Prüfung wirksam bleibt, verlangt Artikel 14 KI-VO eine tatsächliche menschliche Aufsicht. Die zuständige Person muss die Ausgabe verstehen, bewerten und überstimmen können.

So vermeiden Sie den sogenannten Automation Bias, also das ungeprüfte Vertrauen in Systemvorschläge.

Besondere Risiken bei Recruiting, Kreditentscheidungen und Betrugserkennung

Anhang III der KI-VO stuft mehrere dieser Anwendungen als Hochrisiko ein. Damit gelten strengere Pflichten für Dokumentation, Aufsicht und Erklärung.

• Beschäftigung: Vorauswahl von Bewerbungen, Bewertung von Leistung, Entscheidungen über Beförderung oder Kündigung.
• Kreditentscheidungen: Prüfung der Kreditwürdigkeit natürlicher Personen, ausgenommen reine Betrugserkennung im Finanzbereich.
• Versicherungen: Risikobewertung und Preisbildung bei Kranken- und Lebensversicherungen.
• Biometrie: Fernidentifizierung und Kategorisierung von Personen.

Bei der Betrugserkennung liegt das Risiko oft in falschen Treffern. Eine automatische Sperre kann Sie sofort treffen, obwohl die Datenlage unklar ist.

Im Gesundheitswesen kommt hinzu, dass Diagnose- oder Triage-Systeme mit besonders sensiblen Daten arbeiten. Hier sind Nachvollziehbarkeit und eine dokumentierte ärztliche Prüfung entscheidend.

Umsetzung im Unternehmen: Governance, Sicherheit und Nachweise

Die neuen Regeln greifen nur, wenn Sie im Alltag konkrete Strukturen schaffen: ein vollständiges KI-Inventar, klare Zuständigkeiten, geprüfte Datenflüsse und belastbare Nachweise. Ebenso wichtig sind abgestimmte Meldewege bei Sicherheitsvorfällen und ein realistischer Zeitplan für die Fristen im Jahr 2026.

KI-Inventar und Verantwortlichkeiten für eine belastbare Governance

Der erste Schritt zu einer funktionierenden KI-Governance ist ein zentrales KI-Inventar. Erfassen Sie darin jede Anwendung mit Zweck, verarbeiteten Daten, Rechtsgrundlage, Anbieter und Rolle nach AI Act (Anbieter oder Betreiber).

Ordnen Sie jedem Eintrag eine Risikoklasse zu: verboten, Hochrisiko, Transparenzpflicht oder geringes Risiko. Diese Einstufung entscheidet, welche Compliance-Anforderungen tatsächlich für Sie gelten.

Danach klären Sie die Verantwortlichkeiten. Bewährt hat sich ein kleines Gremium aus Datenschutzbeauftragtem, IT-Sicherheit, Fachbereich und Rechtsabteilung, das Freigaben erteilt und Streitfragen entscheidet.

Ergänzen Sie das um eine schriftliche KI-Richtlinie: erlaubte Tools, verbotene Eingaben (etwa Gesundheits- oder Bewerberdaten), Kennzeichnungspflichten und Schulungen zur KI-Kompetenz nach Artikel 4 AI Act.

Mindestangaben je Eintrag im KI-Inventar:

Feld	Beispiel
Anwendung	Chatbot im Kundenservice
Rolle	Betreiber
Risikoklasse	Transparenzpflicht (Art. 50)
Datenkategorien	Kundenname, Vorgangsdaten
Verantwortlich	Leitung Service + DSB
Letzte Prüfung	Datum

DSFA, technische Dokumentation und laufende Kontrollprozesse

Eine Datenschutz-Folgenabschätzung ist nach Artikel 35 DSGVO Pflicht, wenn die Verarbeitung voraussichtlich ein hohes Risiko birgt. Typische Fälle sind Bewerber-Screening, Scoring, Verhaltensanalysen oder eine breite Auswertung von Beschäftigtendaten.

Die DSFA sollte Zweck, Datenquellen, Risiken für Betroffene und konkrete Gegenmaßnahmen beschreiben. Halten Sie außerdem fest, wie Sie Auskunfts-, Lösch- und Widerspruchsrechte technisch umsetzen.

Parallel dazu greifen die Dokumentationspflichten aus dem AI Act. Für Hochrisiko-Systeme verlangt Anhang IV eine technische Dokumentation mit Systembeschreibung, Trainings- und Testdaten, Genauigkeits- und Robustheitswerten sowie der menschlichen Aufsicht.

Nachweise entstehen nicht nur einmal. Legen Sie feste Kontrollpunkte fest: die Prüfung neuer Modellversionen, die jährliche Überprüfung der DSFA, Logauswertungen und Stichproben zur Ausgabequalität.

Wenn Sie bereits ISO 27001 nutzen, können Sie ein KI-Managementsystem nach ISO 42001 daran andocken. Prozesse wie Risikobewertung und internes Audit lassen sich dann gemeinsam nutzen.

Datenflüsse, Cloud-Dienste und Transfers in die USA rechtssicher steuern

Dokumentieren Sie für jedes KI-Tool den vollständigen Datenfluss: Eingabe, Speicherort, Zwischenverarbeitung, Ausgabe und Löschfrist. Viele Risiken entstehen erst bei Sub-Dienstleistern, die Sie deshalb in der Vertragskette prüfen müssen.

Für Cloud-Dienste brauchen Sie Auftragsverarbeitungsverträge nach Artikel 28 DSGVO. Achten Sie besonders auf die Klausel, ob der Anbieter Ihre Eingaben zum Training der Modelle nutzen darf. Diese Option sollten Sie bei geschäftlichen Daten abschalten.

Bei Anbietern in den USA stützen sich Übermittlungen meist auf das EU-US Data Privacy Framework oder auf Standardvertragsklauseln. Wenn Sie Standardvertragsklauseln nutzen, ist ein Transfer Impact Assessment (TIA) erforderlich.

Ergänzende Maßnahmen erhöhen die Sicherheit:

• Verschlüsselung bei Übertragung und Speicherung, Schlüssel möglichst in eigener Hand
• EU-Regionen oder EU-Datenresidenz als Standardeinstellung wählen
• Pseudonymisierung vor der Eingabe in Prompts
• Prüfung der Zertifizierung des US-Anbieters im DPF-Register

Denken Sie auch an angrenzende Datenströme, etwa Tracking über Cookie-Banner oder Sensordaten aus IoT-Geräten, die in KI-Auswertungen einfließen.

Cybersicherheit, Datenschutzverletzungen und abgestimmtes Incident Reporting

KI-Systeme bringen eigene Angriffsflächen mit: Prompt Injection, Datenabfluss über Ausgaben, manipulierte Trainingsdaten und kompromittierte Schnittstellen. Technische Schutzmaßnahmen gehören deshalb in dieselbe Prüfung wie der Datenschutz.

Die Meldepflichten laufen parallel und haben unterschiedliche Fristen. Ein abgestimmter Prozess verhindert, dass Sie eine davon übersehen.

Regelwerk	Meldung an	Frist
DSGVO Art. 33	Datenschutzaufsicht	72 Stunden
NIS2	zuständige Behörde/BSI	Frühwarnung 24 Std., Meldung 72 Std.
DORA	Finanzaufsicht	gestufte Meldung, erste Meldung innerhalb weniger Stunden
AI Act Art. 73	Marktüberwachungsbehörde	schwere Vorfälle bei Hochrisiko-KI, i. d. R. 15 Tage

Definieren Sie eine zentrale Meldestelle, ein Vorfallformular und eine Eskalationskette mit Rufbereitschaft. Üben Sie den Ablauf mindestens einmal jährlich in einer Simulation.

Wichtig ist außerdem eine lückenlose Protokollierung. Ohne Logs können Sie weder den Umfang einer Datenschutzverletzung bestimmen noch die Meldung belegen.

Praxis-Roadmap für KI-Compliance im Jahr 2026

Die Fristen sind gestaffelt: Verbote und KI-Kompetenz gelten seit Februar 2025, GPAI-Pflichten seit August 2025 und Transparenzpflichten nach Artikel 50 seit August 2026. Der Digital Omnibus hat die zentralen Anforderungen an Hochrisiko-Systeme auf Dezember 2027 verschoben, inhaltlich aber nicht entschärft.

Ein realistischer Ablauf für die kommenden Monate:

1. Bestand aufnehmen – KI-Inventar füllen und Schatten-KI in den Fachbereichen aufspüren.
2. Klassifizieren – Rolle und Risikoklasse für jede Anwendung festlegen. Verbotene Praktiken sofort stoppen.
3. Regeln festschreiben – KI-Richtlinie, Freigabeprozess und Schulungsplan verabschieden.
4. Verträge prüfen – AV-Verträge, Trainingsklauseln und TIA für US-Transfers prüfen.
5. Nachweise aufbauen – DSFA, technische Dokumentation und Testprotokolle erstellen. Außerdem das Verzeichnis der Verarbeitungstätigkeiten aktualisieren.
6. Transparenz umsetzen – KI-Interaktionen und synthetische Inhalte kennzeichnen.
7. Sicherheit verankern – Incident-Prozess mit NIS2, DORA und DSGVO abstimmen und Logging einrichten.
8. Überwachen – Kennzahlen festlegen sowie jährliche Reviews und Audits einplanen.

Priorisieren Sie nach Risiko und Reichweite. Systeme, die Beschäftigte oder Kunden direkt betreffen, gehören an den Anfang der Liste.