Die kurze Antwort: KI dürfen Sie einsetzen — aber nicht mit beliebigen Daten und nicht mit jedem Anbieter. Vier Kernregeln: (1) Personenbezogene Daten so sparsam wie möglich verarbeiten und nie ungefiltert in kostenlose Consumer-KI geben. (2) Mit dem Anbieter einen Auftragsverarbeitungsvertrag (AVV) schließen und prüfen, wo verarbeitet wird und ob Ihre Eingaben zum Training genutzt werden. (3) Bei US-Anbietern den Drittlandtransfer rechtlich absichern. (4) Ab dem 2. August 2026 KI-Chatbots und KI-Inhalte kennzeichnen (EU AI Act, Art. 50).
Rechtlicher Hinweis: Dieser Beitrag bietet praktische Orientierung, keine Rechtsberatung. Datenschutz ist stark einzelfallabhängig — klären Sie konkrete Fälle im Zweifel mit Ihrer/Ihrem Datenschutzbeauftragten oder einer Fachanwältin/einem Fachanwalt.
Zwei Regelwerke, die zusammen gelten: DSGVO und EU AI Act
Sobald ein KI-Werkzeug personenbezogene Daten verarbeitet, gilt die Datenschutz-Grundverordnung (DSGVO) uneingeschränkt — KI ist kein rechtsfreier Raum. Seit dem 1. August 2024 kommt ein zweites Regelwerk hinzu: der EU AI Act (Verordnung (EU) 2024/1689). Für die meisten Betriebe am wichtigsten sind dessen Transparenzpflichten in Artikel 50, die ab dem 2. August 2026 anwendbar sind.
Was auf dem Spiel steht, zeigen die gesetzlichen Bußgeldrahmen: Die DSGVO sieht bei schweren Verstößen bis zu 20 Millionen Euro oder 4 % des weltweiten Jahresumsatzes vor (je nachdem, welcher Betrag höher ist, Art. 83). Verstöße gegen die Transparenzpflichten des AI Act können mit bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden (Art. 99). Das sind Höchstrahmen, keine Regelstrafen — der Punkt ist nicht Panik, sondern ein sauberer Prozess.
Welche Daten dürfen zu welcher KI — und welche nie ungefiltert
Der zentrale Begriff ist „personenbezogene Daten“: alle Angaben, die sich auf eine identifizierbare Person beziehen (Art. 4 DSGVO) — Name, E-Mail, Adresse, Kundennummer, Fotos, sogar ein Kfz-Kennzeichen. Es gilt der Grundsatz der Datenminimierung (Art. 5): so wenig personenbezogene Daten wie möglich. Besonders streng sind die „besonderen Kategorien“ nach Art. 9 (u. a. Gesundheits-, Gewerkschafts-, Religions- und biometrische Daten) — diese gehören praktisch nie in eine externe KI.
Als Orientierung:
- Meist unkritisch: anonymisierte oder aggregierte Daten, allgemeine Fachfragen, eigene Texte ohne Personenbezug.
- Nur mit AVV und geprüftem Anbieter: Kundendaten, Angebots- und Support-Texte mit Namen, Vorgangshistorien.
- Nie ungefiltert in kostenlose Consumer-KI: vollständige Kundendatensätze, Gesundheits- oder Beschäftigtendaten, Zugangsdaten und Passwörter.
Praxis-Tipp: Entfernen oder pseudonymisieren Sie den Personenbezug vor der Eingabe — aus „Familie Meier, Musterstraße 3“ wird „Kunde A“. Oft brauchen KI-Werkzeuge den echten Namen gar nicht, um zu helfen.
Der Auftragsverarbeitungsvertrag (AVV) — Pflicht, kein Nice-to-have
Verarbeitet ein KI-Anbieter in Ihrem Auftrag personenbezogene Daten, ist er Ihr Auftragsverarbeiter. Dann verlangt Art. 28 DSGVO einen Auftragsverarbeitungsvertrag (AVV, englisch: Data Processing Agreement). Seriöse Anbieter stellen einen Standard-AVV bereit, häufig als Self-Service im Konto.
Prüfen Sie vor dem Einsatz vier Punkte: Wo stehen die Server (EU oder Drittland)? Welche Unterauftragsverarbeiter sind beteiligt? Welche Löschfristen gelten? Und — besonders wichtig — werden Ihre Eingaben zum Training des Modells genutzt? Kostenlose Consumer-Versionen verwenden Eingaben häufig zum Training; Business-, API- und Enterprise-Tarife oft nicht. Verlassen Sie sich nicht auf Faustregeln, sondern prüfen Sie die konkreten Vertragsbedingungen Ihres Anbieters.
Wohin fließen die Daten? Der Drittlandtransfer (EU vs. USA)
Viele große KI-Anbieter haben ihren Sitz in den USA. Werden dorthin personenbezogene Daten übermittelt, ist das ein Drittlandtransfer nach Art. 44 ff. DSGVO — und der braucht eine eigene Rechtsgrundlage. In der Praxis stützt man sich meist auf zwei Wege: den Angemessenheitsbeschluss zum EU-US Data Privacy Framework (in Kraft seit dem 10. Juli 2023) für entsprechend zertifizierte US-Unternehmen — oder auf Standardvertragsklauseln (Art. 46 DSGVO).
Weiterlesen — kostenlos
Den vollständigen Inhalt freischalten
Trag deine E-Mail-Adresse ein und bestätige sie: Du abonnierst den Signal-Forge-Newsletter von FORGE und erhältst sofort Zugang zu diesem und allen weiteren registrierungspflichtigen Inhalten. Die Abmeldung ist jederzeit möglich.
Schon registriert? Der Link aus deiner Bestätigungs-Mail schaltet dieses Gerät wieder frei.
Ehrlich eingeordnet: Das Data Privacy Framework ist rechtlich umstritten und Gegenstand von Klagen. Das Gericht der EU (EuG) hat eine Klage gegen den Angemessenheitsbeschluss am 3. September 2025 abgewiesen — der Beschluss bleibt damit vorerst gültig; ein Weiterzug zum EuGH ist jedoch möglich, die dauerhafte Bestandskraft also weiter offen. Dokumentieren Sie deshalb, auf welche Rechtsgrundlage Sie sich stützen. Manche Anbieter bieten inzwischen EU-Rechenzentren oder EU-Data-Residency an — das entschärft die Frage des Drittlandtransfers erheblich.
Souveräne und lokale KI: Daten bleiben im Haus
Ein wirksamer Hebel gegen genau diese Datenschutz-Fragen ist, die KI dorthin zu holen, wo die Daten ohnehin liegen. Offene Modelle (Open-Weight) lassen sich selbst betreiben — auf eigener Hardware im Haus oder in einer EU-Cloud. Der Vorteil: Die Daten verlassen das Unternehmen nicht, es gibt keinen Drittlandtransfer, und für die eigentliche Verarbeitung ist oft kein externer Auftragsverarbeiter nötig.
Ganz ohne Preis ist das nicht. Sie tragen Hardware- und Betriebskosten, brauchen Wartung, und die leistungsstärksten Modelle sind bislang meist die großen Cloud-Modelle — die Qualitätslücke schrumpft, ist aber real. Für sensible Daten kann sich der Aufwand dennoch lohnen. (Transparenz: FORGE baut auch solche souveränen Lösungen — an der sachlichen Abwägung ändert das nichts.)
Ab dem 2. August 2026: die Kennzeichnungspflicht (EU AI Act, Art. 50)
Mit Artikel 50 des EU AI Act kommen Transparenzpflichten, die viele Betriebe direkt betreffen. Zwei Punkte sind praktisch am relevantesten: Erstens müssen Nutzer erkennen können, dass sie mit einer KI und nicht mit einem Menschen sprechen — das betrifft Chatbots und Sprach-KI, sofern es nicht ohnehin offensichtlich ist. Zweitens müssen KI-generierte Inhalte (Text, Bild, Audio, Video) maschinenlesbar als künstlich erzeugt gekennzeichnet und „Deepfakes“ offengelegt werden. Die Pflichten gelten ab dem 2. August 2026; für bereits im Einsatz befindliche Alt-Systeme greift eine Übergangsfrist bis zum 2. Dezember 2026.
Die gute Nachricht: Das ist günstig umzusetzen. Ein klarer Hinweis am Chat-Einstieg („Sie chatten mit einem KI-Assistenten“) und ein Kennzeichnungs-Baustein bei veröffentlichten KI-Inhalten genügen für den Anfang. Wer heute plant, hat bis zum Stichtag reichlich Vorlauf.
Der Kurz-Check: „Darf ich das?“
- Sind personenbezogene Daten enthalten? Nein → meist unkritisch. Ja → weiter.
- Lässt sich der Personenbezug entfernen oder pseudonymisieren? Wenn ja, tun Sie es vor der Eingabe.
- Gibt es einen AVV mit dem Anbieter? Nein → nicht mit echten Kundendaten nutzen.
- Wo werden die Daten verarbeitet? Drittland (z. B. USA) → Rechtsgrundlage prüfen (Data Privacy Framework oder Standardvertragsklauseln).
- Werden Eingaben zum Training genutzt? Wenn ja → keine sensiblen oder personenbezogenen Daten eingeben.
- Ist es ein Chatbot oder öffentlich sichtbarer KI-Inhalt? → Kennzeichnung nach Art. 50 einplanen.
- Im Zweifel: DSB oder Fachanwalt fragen — und die Entscheidung dokumentieren (Rechenschaftspflicht, Art. 5 Abs. 2).
Der erste Schritt
Der wirkungsvollste Anfang ist unspektakulär: Erstellen Sie eine kurze Übersicht, welche KI-Werkzeuge im Betrieb tatsächlich genutzt werden — auch die „inoffiziellen“, die einzelne Mitarbeitende auf eigene Faust einsetzen. Notieren Sie zu jedem: Welche Daten fließen hinein? Welcher Anbieter? AVV vorhanden? Wo stehen die Server? Diese Liste ist die halbe Miete — und zugleich ein Baustein Ihrer Rechenschaftspflicht.
DSGVO-Konformität ist kein einmaliger Zustand, sondern ein Prozess, den man sauber aufsetzt und pflegt. Wer die Grundlagen klärt, kann KI mit gutem Gewissen einsetzen, statt sie aus Unsicherheit ganz zu meiden. Bei FORGE bauen wir KI-Lösungen von vornherein datenschutzfreundlich — bis hin zu Varianten, bei denen die Daten das Haus nicht verlassen. Wenn Sie die einzelnen Schritte selbst angehen möchten, finden Sie sie gebündelt in unserem Praxis-Playbook. Und für konkrete Einzelfälle gilt weiterhin: im Zweifel die/den Datenschutzbeauftragte(n) oder eine Fachanwältin/einen Fachanwalt hinzuziehen.
Quellen
- Gesetz Datenschutz-Grundverordnung (Verordnung (EU) 2016/679) — insb. Art. 4, 5, 9, 28, 44 ff., 46, 83: eur-lex.europa.eu
- Gesetz EU AI Act (Verordnung (EU) 2024/1689) — Art. 50 (Transparenzpflichten), Art. 99 (Sanktionen), Art. 113 (Geltungsbeginn 2. Aug 2026): eur-lex.europa.eu
- Beschluss EU-Kommission — Angemessenheitsbeschluss EU-US Data Privacy Framework (Durchführungsbeschluss (EU) 2023/1795 vom 10. Juli 2023): eur-lex.europa.eu
- Kontext FORGE Blog — EU AI Act 2026 und das Praxis-Playbook „KI-Agenten zum Arbeiten bringen“.