Trainiert ChatGPT mit meinen Unternehmensdaten?

In ChatGPT Business, ChatGPT Enterprise und über die API verwendet OpenAI Ihre Ein- und Ausgaben standardmäßig nicht zum Modelltraining. In der kostenlosen privaten ChatGPT-Version werden Inhalte hingegen zum Training genutzt, sofern Sie dies nicht in den Datenkontrollen abschalten. Für den betrieblichen Einsatz sollten Sie deshalb immer einen Geschäfts- oder Enterprise-Tarif wählen.

Ist die Nutzung von KI-Tools überhaupt DSGVO-konform möglich?

Ja. KI-Tools lassen sich DSGVO-konform einsetzen, wenn Sie eine Rechtsgrundlage haben, einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO abschließen, das Modelltraining abschalten, den Speicherort klären und – bei hohem Risiko – eine Datenschutz-Folgenabschätzung durchführen. Entscheidend sind die richtige Tarifwahl und die korrekte Konfiguration.

Brauche ich für jedes KI-Tool einen Auftragsverarbeitungsvertrag?

Sobald ein externer KI-Dienst personenbezogene Daten in Ihrem Auftrag verarbeitet, ist ein schriftlicher AVV gesetzlich vorgeschrieben. Das trifft auf nahezu jeden ernsthaften betrieblichen Einsatz zu. Ohne AVV ist die Nutzung ein eigenständiger DSGVO-Verstoß, der mit Bußgeldern bis zu 20 Mio. Euro oder 4 % des weltweiten Jahresumsatzes geahndet werden kann.

Wie schalte ich das Training mit meinen Daten ab?

Bei OpenAI deaktivieren Sie das Training in der privaten Version unter den Datenkontrollen; in Business- und Enterprise-Tarifen ist es ohnehin abgeschaltet. Bei Anthropic Claude prüfen Sie die Einstellung zur Modellverbesserung. Über die APIs von OpenAI und Anthropic wird generell nicht trainiert. Wichtig: Bereits ins Training eingeflossene Daten lassen sich nachträglich nicht mehr entfernen – das Abschalten wirkt nur in die Zukunft.

Liegen meine Daten bei KI-Tools in der EU?

Standardmäßig oft nicht. Viele US-Anbieter verarbeiten Daten global, auch in den USA. OpenAI bietet seit Februar 2025 eine EU-Datenresidenz für Enterprise-Kunden, seit Januar 2026 auch EU-Inferenz. Bei Microsoft 365 Copilot muss die EU-Datenresidenz im Admin Center aktiv eingeschaltet werden. Verlassen Sie sich nicht auf Voreinstellungen, sondern aktivieren Sie die EU-Verarbeitung dort, wo sie verfügbar ist.

Was ist der größte Datenschutzfehler beim KI-Einsatz im Mittelstand?

Die unbedachte Eingabe sensibler Unternehmens- oder Personendaten in kostenlose private KI-Konten – die sogenannte Schatten-KI. Diese Konten trainieren häufig mit den Eingaben und unterliegen keinem AVV. Eine interne KI-Richtlinie und eine kurze Mitarbeiterschulung verhindern diesen Fehler wirksamer als jede technische Maßnahme.

Worauf muss ich bei den Unterauftragnehmern im AVV achten?

Viele europäische KI-Anbieter sind nur ein Zugang, der Anfragen an große Modellanbieter wie OpenAI, Anthropic, Google oder Meta weiterleitet. Jeder davon ist ein Unterauftragnehmer nach Art. 28 DSGVO. Der AVV muss diese namentlich nennen, Ihnen ein Widerspruchsrecht bei Änderungen einräumen und Ihre No-Training-Anforderung bis zum Modellanbieter weiterreichen.

KI-Datensicherheit im Mittelstand

Wohin gehen Ihre Daten, wenn Sie ein KI-Tool nutzen?

Sobald ein Mitarbeiter einen Text in ChatGPT, Claude, Gemini oder Microsoft Copilot eintippt, verlässt diese Eingabe in der Regel Ihr Unternehmen und wird auf den Servern des Anbieters verarbeitet. Bei den meisten US-Anbietern liegen diese Server standardmäßig außerhalb der EU. Entscheidend für die KI-Datensicherheit sind drei Fragen: Wo werden die Daten gespeichert, wie lange werden sie aufbewahrt und werden sie zum Training der Modelle verwendet?

Die kurze Antwort für den Mittelstand lautet: In den Geschäfts- und Enterprise-Tarifen der großen Anbieter werden Ihre Eingaben standardmäßig nicht zum Modelltraining genutzt, und Sie können einen Auftragsverarbeitungsvertrag (AVV) abschließen. In den kostenlosen Privat-Versionen sieht es anders aus: Hier werden Inhalte häufig zum Training herangezogen, sofern Sie nicht aktiv widersprechen. Genau dieser Unterschied entscheidet darüber, ob ein KI-Einsatz DSGVO-konform ist oder nicht.

Dieser Leitfaden erklärt praxisnah, wohin Ihre Daten tatsächlich gehen, wie das Verhältnis von DSGVO und KI-Tools aussieht, wie Sie das Training mit Ihren Daten abschalten und worauf Sie im Vertrag mit dem Anbieter achten müssen. Er richtet sich an Geschäftsführung und IT-Verantwortliche in kleinen und mittleren Unternehmen, die KI einführen wollen, ohne ein Datenschutzrisiko einzugehen.

Hinweis: Dieser Beitrag ist eine fachliche Orientierung, keine Rechtsberatung. Bei konkreten Vertrags- und Haftungsfragen ziehen Sie Ihren Datenschutzbeauftragten oder einen Fachanwalt hinzu.

Was bedeutet DSGVO bei KI-Tools konkret?

Aus Sicht der Datenschutz-Grundverordnung sind Sie als Unternehmen der Verantwortliche. Wenn ein KI-Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet, wird er zum Auftragsverarbeiter. Personenbezogen sind dabei nicht nur offensichtliche Daten wie Namen oder E-Mail-Adressen, sondern auch ein Kundenservice-Verlauf, eine Bewerbung, eine Krankmeldung oder ein Vertragsentwurf mit Klarnamen.

Daraus ergeben sich für den Einsatz von KI-Tools im Wesentlichen vier Pflichten:

Rechtsgrundlage (Art. 6 DSGVO): Sie brauchen einen legitimen Grund für die Verarbeitung, etwa Vertragserfüllung oder ein berechtigtes Interesse.
Auftragsverarbeitungsvertrag (Art. 28 DSGVO): Ohne schriftlichen AVV dürfen Sie einen Dienstleister, der personenbezogene Daten verarbeitet, nicht einsetzen.
Transparenz (Art. 13/14 DSGVO): Betroffene müssen wissen, dass und wie ihre Daten verarbeitet werden.
Datenschutz-Folgenabschätzung (Art. 35 DSGVO): Bei voraussichtlich hohem Risiko – was bei breitem KI-Einsatz auf Unternehmensdaten oft zutrifft – müssen Sie vorab eine DSFA durchführen.

Hinzu kommt die Frage der Drittlandübermittlung. Sitzt der Anbieter in den USA, werden Daten in ein Drittland übermittelt. Das ist nach dem EU-US Data Privacy Framework grundsätzlich möglich, wenn der Anbieter zertifiziert ist oder Standardvertragsklauseln vereinbart wurden. Eine in der EU gehostete Verarbeitung vermeidet dieses Thema von vornherein.

Parallel greift seit 2025 schrittweise die KI-Verordnung (EU AI Act). Sie regelt KI-Systeme risikobasiert und ergänzt die DSGVO, ersetzt sie aber nicht. Für die meisten Mittelständler, die fertige Tools wie Chatbots oder Assistenzsysteme einsetzen, bleibt die DSGVO der praktisch wichtigere Hebel.

Wann brauche ich einen AVV und wann eine DSFA?

Einen AVV brauchen Sie immer, sobald ein externer KI-Dienst personenbezogene Daten in Ihrem Auftrag verarbeitet – also faktisch bei fast jedem ernsthaften betrieblichen Einsatz. Eine DSFA wird erforderlich, wenn die Verarbeitung voraussichtlich ein hohes Risiko mit sich bringt. Indizien dafür sind: Verarbeitung großer Mengen personenbezogener Daten, Einsatz neuer Technologien wie großer Sprachmodelle, systematische Auswertung von Kommunikation und Dokumenten sowie eine mögliche Profilbildung von Mitarbeitern oder Kunden. Beim breiten Einsatz eines Assistenten wie Microsoft 365 Copilot sind diese Schwellen schnell erreicht.

Trainiert die KI mit meinen Daten – und wie schalte ich das ab?

Das ist die Frage, die im Mittelstand am häufigsten und zu Recht gestellt wird: „Trainiert die KI mit meinen Daten?“ Die Antwort hängt entscheidend davon ab, welche Version Sie nutzen. Die Faustregel: Geschäfts-, Team-, Enterprise- und API-Tarife trainieren standardmäßig nicht mit Ihren Eingaben; kostenlose Privat-Konten tun dies häufig, sofern Sie nicht widersprechen.

Der Mechanismus zum Abschalten ist je nach Anbieter unterschiedlich:

OpenAI / ChatGPT: In ChatGPT Business, ChatGPT Enterprise und über die API werden Ihre Ein- und Ausgaben standardmäßig nicht zum Training verwendet. In der privaten ChatGPT-Version können Sie das Training über die Einstellungen unter „Datenkontrollen“ deaktivieren, indem Sie die Option zur Nutzung Ihrer Inhalte zum Trainieren abschalten. Seit Februar 2025 bietet OpenAI für Enterprise-Kunden zudem eine EU-Datenresidenz an; seit Januar 2026 lässt sich auch die Inferenz – also die eigentliche Verarbeitung – in der EU ausführen.
Anthropic / Claude: Über die API werden Daten generell nicht zum Training verwendet. In den privaten Verbraucherversionen hat Anthropic die Regeln im September 2025 geändert: Stimmen Sie der Nutzung zu, können Unterhaltungen langfristig aufbewahrt und zum Training genutzt werden; lehnen Sie ab, bleibt es bei einer kurzen Aufbewahrung. Prüfen Sie hier die Einstellung „Hilf, Claude zu verbessern“ und deaktivieren Sie sie bei Bedarf.
Google / Gemini for Workspace: Wird Gemini über ein Google-Workspace-Konto genutzt, gelten gesonderte vertragliche Zusagen: Die Inhalte werden nicht zum Modelltraining verwendet und verlassen die Workspace-Domain nicht.
Microsoft 365 Copilot: Microsoft verwendet Kundendaten aus Copilot nach eigenen Angaben nicht zum Training der zugrunde liegenden Modelle. Wichtig ist hier eine andere Einstellung – dazu gleich mehr bei der EU-Datenresidenz.

Ein Punkt, der oft übersehen wird: Wenn Daten bereits in ein Training eingeflossen sind, lassen sie sich nachträglich nicht mehr einzeln aus dem Modell entfernen. Das Abschalten wirkt nur in die Zukunft. Deshalb gilt: Erst die Einstellungen prüfen, dann sensible Daten eingeben – nicht umgekehrt.

Reicht es, das Training einfach abzuschalten?

Nein. Das Abschalten des Trainings ist notwendig, aber nicht hinreichend. Selbst wenn nicht trainiert wird, werden Ihre Eingaben in der Regel zeitweise gespeichert – etwa zur Missbrauchserkennung. Sie sollten daher zusätzlich klären, wie lange Daten aufbewahrt werden (Retention), wo sie liegen (Region) und wer beim Anbieter darauf zugreifen kann. Eine kurze oder gar keine Aufbewahrung („Zero Data Retention“, bei manchen Anbietern über die API verfügbar) ist für besonders sensible Anwendungsfälle das stärkste Mittel.

Wie sichere ich KI-Tools technisch ab: eingeschränkter Modus und Zugriffsminimierung

Der wirksamste Datenschutz bei KI entsteht nicht erst im Vertrag, sondern in der Konfiguration und im Umgang. Zwei Prinzipien tragen den größten Teil: der eingeschränkte Modus (so wenig Datenabfluss wie nötig) und die Zugriffsminimierung (so wenig Datenzugriff wie möglich). Beide setzen den DSGVO-Grundsatz der Datenminimierung praktisch um.

Eingeschränkter Modus – Datenabfluss begrenzen:

EU-Datenresidenz aktivieren, wo verfügbar. Bei Microsoft 365 Copilot etwa verarbeitet der Dienst in der Standardkonfiguration Daten global, auch in den USA; die EU-Datenresidenz muss im Admin Center aktiv eingeschaltet werden. Verlassen Sie sich nicht auf Voreinstellungen.
Aufbewahrungsdauer verkürzen oder Zero Data Retention vereinbaren, wo der Anbieter dies zulässt.
Daten vor der Eingabe minimieren: Pseudonymisieren oder anonymisieren Sie personenbezogene Inhalte. Ein Kundenname, eine Vertragsnummer oder eine Adresse gehört nur dann in den Prompt, wenn sie für die Aufgabe wirklich nötig ist.
Kein Training in allen Konten verbindlich abschalten und diese Einstellung dokumentieren.

Zugriffsminimierung – Berechtigungen ordnen:

Berechtigungskonzept prüfen, bevor Sie einen Assistenten unternehmensweit einführen. Ein KI-Assistent, der auf SharePoint, Postfächer und Laufwerke zugreift, macht vorhandene Fehlkonfigurationen sichtbar: Was ein Mitarbeiter ohnehin sehen darf, kann nun auch der Assistent für ihn auswerten. Falsch gesetzte Freigaben werden so zum Datenschutzproblem.
Rollenbasierte Zugriffe statt pauschaler Freigaben. Nicht jeder braucht Zugriff auf alle Datenquellen.
Protokollierung aktivieren, um nachvollziehen zu können, wer wann welche Daten verarbeitet hat.

Flankierend brauchen Sie organisatorische Maßnahmen: eine interne KI-Richtlinie, die regelt, welche Tools erlaubt sind und welche Datenarten niemals eingegeben werden dürfen (etwa Gesundheitsdaten, vollständige Personalakten oder Geschäftsgeheimnisse), sowie eine kurze Mitarbeiterschulung. Die größte Schwachstelle ist erfahrungsgemäß nicht der Anbieter, sondern die unbedachte Eingabe sensibler Daten in ein privates Gratis-Konto – die sogenannte „Schatten-KI“.

Worauf muss ich im Vertrag mit dem KI-Anbieter achten?

Der Auftragsverarbeitungsvertrag ist das rechtliche Fundament jedes DSGVO-konformen KI-Einsatzes. Ohne ihn dürfen Sie einen Dienst, der personenbezogene Daten verarbeitet, nicht nutzen – ein fehlender AVV ist ein eigenständiger Verstoß, der mit Bußgeldern bis zu 20 Mio. Euro oder 4 % des weltweiten Jahresumsatzes geahndet werden kann. Viele KI-Anbieter stellen einen AVV bereit; entscheidend ist, dass er die Anforderungen aus Art. 28 DSGVO tatsächlich erfüllt.

Die folgende Checkliste fasst die kritischen Prüfpunkte zusammen:

Prüfpunkt	Worauf Sie achten	Warum es wichtig ist
AVV vorhanden	Schriftlicher Vertrag nach Art. 28 DSGVO, abgeschlossen vor dem Echteinsatz	Voraussetzung für jede rechtmäßige Auftragsverarbeitung
Kein Training	Ausschluss der Trainingsnutzung ausdrücklich im Vertrag, nicht nur in einer Marketingaussage	Nur vertraglich Zugesichertes ist durchsetzbar
Unterauftragnehmer	Namentliche Offenlegung der Subdienstleister plus Widerspruchsrecht bei Änderungen	Viele EU-Tools leiten an OpenAI, Anthropic, Google oder Meta weiter
Speicherort / Region	EU-Datenresidenz dokumentiert; bei Drittland gültige Garantien (DPF oder SCC)	Bestimmt, ob eine Drittlandübermittlung sauber abgesichert ist
Aufbewahrung & Löschung	Klare Fristen, Löschung oder Rückgabe nach Vertragsende	Verhindert unbegrenzte Datenhaltung
TOMs	Verschlüsselung, Zugriffskontrollen, Zertifizierungen wie ISO 27001 oder SOC 2	Nachweis angemessener Sicherheit
Auditrechte	Kontroll- und Nachweisrechte für Sie als Verantwortlichen	Sie müssen die Einhaltung überprüfen können

Ein in der Praxis entscheidender Punkt sind die Unterauftragnehmer. Viele europäische KI-Anbieter sind technisch nur ein Zugang („Gateway“), der die Anfragen an die großen Modellanbieter weiterleitet. Jeder dieser Modellanbieter ist ein Unterauftragnehmer im Sinne von Art. 28 DSGVO. Der AVV muss diese namentlich nennen, Ihnen ein Widerspruchsrecht bei Wechseln einräumen und Ihre No-Training-Anforderung vertraglich bis zum Modellanbieter weiterreichen. Fehlen Auditrechte, die Offenlegung der Unterauftragnehmer oder klare Löschklauseln, ist der AVV nicht konform – und das genügt bereits, um den gesamten Einsatz angreifbar zu machen.

Ein Wort zu Microsoft 365 Copilot: Microsoft führt seine eigenen Modelle innerhalb der EU-Datengrenze. Werden jedoch zusätzliche Modelle aktiviert – etwa Claude-Modelle von Anthropic, die ab Januar 2026 in vielen Tenants standardmäßig verfügbar sind –, fallen diese nach derzeitigem Stand nicht unter die EU-Datengrenze. Prüfen Sie daher genau, welche Modelle in Ihrem Tenant aktiv sind und ob die Verarbeitung Ihren Anforderungen entspricht.

In fünf Schritten zum DSGVO-konformen KI-Einsatz

Für den Mittelstand lässt sich das Vorgehen auf eine schlanke, wiederholbare Abfolge bringen:

Bestand erfassen: Welche KI-Tools werden bereits genutzt – auch inoffiziell? Welche Datenarten fließen hinein?
Anwendungsfälle einstufen: Geht es um personenbezogene oder besonders sensible Daten? Daraus folgt, ob eine DSFA nötig ist.
Tarif und Einstellungen wählen: Geschäfts- oder Enterprise-Tarif statt Gratis-Konto, Training abschalten, EU-Datenresidenz und kurze Aufbewahrung aktivieren.
Verträge schließen: AVV abschließen und gegen die Checkliste prüfen, insbesondere Unterauftragnehmer und Speicherort.
Regeln und Schulung: Interne KI-Richtlinie verabschieden, Mitarbeiter schulen, Berechtigungen prüfen, Verarbeitung dokumentieren.

Wer diese Schritte einmal sauber aufsetzt, kann weitere KI-Tools schnell und rechtssicher ergänzen, weil das Grundgerüst aus AVV-Prüfung, Konfigurationsstandard und Richtlinie bereits steht. KI-Datensicherheit ist im Mittelstand keine Frage großer Budgets, sondern bewusster Voreinstellungen und klarer Verträge.

Bildungsmaterial, keine Rechtsberatung. Stand 2026 — die Auslegung der EU-KI-Verordnung kann sich ändern.