Die Antwort sofort: In ChatGPT auf einem privaten Konto gehören keine personenbezogenen Daten von Kunden und Mitarbeitern, keine Zugangsdaten, Verträge, kein Quellcode und nichts, was unter eine Geheimhaltungsvereinbarung oder das Geschäftsgeheimnis fällt — bei Verbraucherkonten können Konversationen in der Standardeinstellung der Verbesserung der Modelle dienen, und das Unternehmen verliert die Kontrolle darüber. Der sichere Weg hat drei Schritte: ein Unternehmenstarif mit deaktiviertem Training und zentraler Kontenverwaltung, einfache Ampelregeln (was frei nach außen darf, was nur anonymisiert, was nie) und für wirklich sensible Bereiche eine lokale KI, aus der die Daten gar nicht erst hinausgehen. Ein pauschales Verbot funktioniert nicht — die Leute finden den Weg zur KI auch ohne Sie, nur eben außerhalb Ihrer Kontrolle.
Die Frage „Was dürfen wir in ChatGPT eingeben?” landet heute auf dem Schreibtisch jeder Geschäftsführung, die festgestellt hat, dass ihre Leute KI längst nutzen. Dieser Text ist die praktische Antwort: wohin der eingegebene Text wandert, wo die rechtliche Grenze verläuft und wie man Regeln formuliert, die das Team nicht umgeht.
Die Mitarbeiter nutzen ChatGPT bereits. Die Frage ist, wie
Umfragen brauchen Sie nicht — fragen Sie einfach im Büro nach. Der eine lässt sich eine Lieferanten-E-Mail übersetzen, der andere einen langen Vertrag zusammenfassen, der dritte ein Angebot für einen Kunden aufpolieren. Meist auf einem privaten Konto, das sie selbst angelegt haben, und meist ohne eine Ahnung davon, was mit dem eingegebenen Text weiter passiert.
Das nennt sich Schatten-KI und ist heute der leiseste Weg, auf dem Firmendaten nach außen abfließen. Nicht aus böser Absicht — aus dem schlichten Bestreben, die Arbeit schneller zu erledigen. Wir haben das im Artikel darüber auseinandergenommen, was es ein Unternehmen kostet, wenn Mitarbeiter KI nicht beherrschen: Gibt das Unternehmen den Leuten keinen sicheren Weg, trampeln sie sich ihren eigenen aus.
Dass es sich nicht um ein theoretisches Risiko handelt, zeigte bereits das Jahr 2023. Samsung schränkte damals intern die Nutzung von ChatGPT ein, nachdem Mitarbeiter internen Quellcode in den Chatbot eingegeben hatten. Und die italienische Datenschutzbehörde beschränkte im selben Jahr den Betrieb von ChatGPT in Italien vorübergehend wegen Zweifeln an der Verarbeitung personenbezogener Daten. Die Dienste haben sich seitdem weiterentwickelt, das Prinzip ist aber geblieben: Was Sie einmal abgeschickt haben, haben Sie nicht mehr unter Kontrolle.
Wohin der Text aus dem Chatbot wandert
Gibt ein Mitarbeiter Text in ChatGPT ein, geht dieser an die Server des Anbieters — außerhalb Ihres Unternehmens und typischerweise auch außerhalb Europas. Was damit weiter geschieht, hängt vor allem von der Kontoart ab.
Private Konten (Free, Plus). In der Standardeinstellung darf OpenAI Konversationen zur Verbesserung seiner Modelle verwenden. Das lässt sich in den Datenschutzeinstellungen abschalten, aber Hand aufs Herz: Wie viele Ihrer Leute haben das tatsächlich getan? Zudem bleiben die Konversationen im Verlauf eines Kontos, zu dem das Unternehmen keinerlei Zugang hat — verlässt der Mitarbeiter die Firma, geht sein „betrieblicher” Verlauf mit ihm.
Unternehmenstarife (ChatGPT Business, Enterprise) und API. Hier erklärt OpenAI, dass Firmendaten in der Standardeinstellung nicht zum Trainieren der Modelle verwendet werden. Dazu kommt die zentrale Verwaltung: Sie wissen, wer das Werkzeug nutzt, legen die Regeln dafür fest und löschen das Konto beim Ausscheiden einer Person einfach. Einen Vergleich der Unternehmenstarife und ihrer Preise finden Sie im Artikel was KI für ein Unternehmen kostet.
Drei Dinge werden dabei unabhängig vom Tarif unterschätzt:
- Geteilte Links. Eine Konversation lässt sich über einen öffentlichen Link teilen — und 2025 tauchte ein Teil der so geteilten Konversationen, bei denen die Nutzer die Auffindbarkeit erlaubt hatten, in Suchmaschinenergebnissen auf, bevor der Anbieter die Funktion zurückzog. Ein Link zu einer Konversation mit Firmendaten ist schlicht eine öffentliche Adresse.
- Speicher und Verlauf. ChatGPT kann sich Informationen über Konversationen hinweg merken. Für Nutzer bequem, für Unternehmen tückisch — eine im Januar eingegebene sensible Angabe kann im Juni in einer Antwort auf eine ganz andere Frage wieder auftauchen.
- Löschen ist kein Verschwinden. Eine gelöschte Konversation verschwindet nicht sofort von den Servern; der Anbieter darf Daten eine gewisse Zeit aufbewahren, unter anderem wegen rechtlicher Pflichten.
Was in einen öffentlichen Chatbot nicht gehört
Die rote Liste, die auf eine Seite einer Richtlinie passt:
- Personenbezogene Daten von Kunden und Mitarbeitern — Namen im Kontext eines Falls, Kontakte, Geburtsnummern, Gehälter, Gesundheitsangaben. Territorium der DSGVO, siehe unten.
- Zugangsdaten — Passwörter, API-Schlüssel, VPN-Konfigurationen. Alles, was die Türen zu Ihren Systemen öffnet.
- Verträge und Dokumente unter NDA — die Verschwiegenheit haben Sie dem Kunden zugesagt, nicht der Chatbot-Anbieter.
- Preiskalkulationen, Margen, laufende Angebote — die wettbewerblich wertvollsten Zahlen des Unternehmens.
- Quellcode und interne technische Dokumentation — genau der Fall, mit dem sich Samsung befassen musste.
- Strategien, Pläne, Personalangelegenheiten — alles, was die Geschäftsleitungssitzung nicht verlassen soll.
Eine Hilfe, die in der Praxis besser funktioniert als eine Liste: Stellen Sie sich vor dem Eingeben vor, der Text wird von der Konkurrenz und einer Behörde zugleich gelesen. Wird Ihnen bei dieser Vorstellung mulmig, gehört er nicht in einen öffentlichen Chatbot.
Was umgekehrt eingegeben werden darf
Ziel der Regeln ist nicht, die Arbeit mit KI zu vermiesen, sondern den Leuten Sicherheit zu geben. Ohne großes Risiko lässt sich in einen öffentlichen Chatbot typischerweise eingeben:
- allgemeine Fragen und Erklärungen („erkläre den Unterschied zwischen Backup und Archivierung”),
- Texte ohne identifizierende Angaben — E-Mail-Vorlagen, Dokumentstrukturen, Vorschläge für Abläufe,
- öffentlich zugängliche Informationen — Text von Ihrer Website, Katalogblätter, öffentliche Normen,
- Brainstorming und Stilistik („schreib das verständlicher um”, „entwirf eine Schulungsgliederung”).
Die Grauzone ist die Anonymisierung. Eine Kunden-E-Mail mit entferntem Namen darf man eingeben — aber Anonymisierung ist nicht nur das Löschen des Namens. Wenn sich aus dem Kontext („unser größter Lageraufkäufer aus Kuřim”) erkennen lässt, um wen es geht, ist der Text nicht anonym.
DSGVO und Geschäftsgeheimnis: Wo die rechtliche Grenze verläuft
DSGVO. Mit der Eingabe personenbezogener Daten in einen Chatbot verarbeiten Sie diese über eine weitere Partei. Das Unternehmen als Verantwortlicher braucht eine Rechtsgrundlage und mit dem Anbieter einen Auftragsverarbeitungsvertrag — den schließt OpenAI bei Unternehmenstarifen und der API ab, nicht beim privaten Konto eines Mitarbeiters. Ein privates Konto mit Kundendaten ist aus Sicht der DSGVO daher eine nicht zu rechtfertigende Konstruktion: Die Daten gehen an ein Subjekt, mit dem das Unternehmen in keinerlei Vertragsverhältnis steht.
Geschäftsgeheimnis. Das tschechische Bürgerliche Gesetzbuch (Občanský zákoník, § 504) schützt ein Geschäftsgeheimnis nur dann, wenn dessen Inhaber dessen Geheimhaltung in angemessener Weise sicherstellt. Ein Unternehmen, das Mitarbeiter ohne jegliche Regeln Kalkulationen und Fertigungsverfahren in öffentliche Werkzeuge eingeben lässt, argumentiert gegen sich selbst — in einem etwaigen Rechtsstreit lässt sich dann schwer behaupten, die Geheimhaltung sei sichergestellt gewesen.
AI Act. Seit dem 2. Februar 2025 gilt zudem Art. 4 der europäischen Verordnung über künstliche Intelligenz: Unternehmen, die KI einsetzen, müssen für ausreichende KI-Kompetenz ihrer Leute sorgen. Regeln für den Umgang mit Firmendaten in Chatbots sind genau die Art von Wissen, die darunter fällt.
Regeln, die das Team wirklich einhält
Aus der Praxis zwei Gewissheiten: Eine zwanzigseitige Richtlinie wird niemand lesen, und ein pauschales Verbot hält bis zum ersten Termin, bei dem KI jemandem eine Stunde spart. Was funktioniert, ist eine einfache Ampel plus ein freigegebener Weg:
- Grün — allgemeine Fragen, Texte ohne Identifikation, öffentliche Informationen. Frei nutzbar.
- Orange — interne Texte nach echter Anonymisierung. Nur auf dem Firmenkonto mit aktiviertem Datenschutz.
- Rot — personenbezogene Daten, Zugänge, Verträge, Code, Kalkulationen. Nie in einen öffentlichen Chatbot; gehört ausschließlich in Werkzeuge, die das Unternehmen ausdrücklich freigegeben hat.
Zur Ampel gehören drei organisatorische Schritte: ein Unternehmenstarif statt privater Konten (deaktiviertes Training, zentrale Verwaltung), eine konkrete Person, die die Leute fragen können „Darf ich das?”, und ein paar Stunden praktisches Training, in dem das Team die Regeln an eigenen Dokumenten anfasst. Genau so bauen wir KI-Schulungen für Unternehmen auf — kein Überblick über Schaltflächen, sondern Gewohnheiten und Regeln an Ihren realen Prozessen, einschließlich dessen, was wohin darf. Was ein Team nach einer solchen Schulung können soll, beschreiben wir ausführlich im Artikel über KI-Schulungen für Unternehmen.
Sensible Bereiche: KI, aus der keine Daten hinausgehen
Bei einem Teil der Bereiche ist auch ein Cloud-Tarif für Unternehmen die falsche Antwort — Gehälter, Buchhaltung, Gesundheitsdaten, Klientenakten, Fertigungs-Know-how. Da ergibt es keinen Sinn auszuhandeln, wem Sie die Daten schicken und zu welchen Bedingungen. Es ergibt Sinn, sie überhaupt nicht zu schicken.
Die Lösung ist lokale KI: ein offenes Modell, das auf einem Server direkt im Unternehmen läuft, gegebenenfalls an Ihre Dokumente angebunden. Kein Text verlässt das Gebäude, kein Auftragsverarbeitungsvertrag mit einer fremden Partei, keine Diskussionen über Training. Das ist kein Weg für jeden — er hat Anschaffungskosten und braucht Administration — aber bei Unternehmen mit sensiblen Daten ist er die einzige Variante, bei der die Frage „Was dürfen Mitarbeiter eingeben?” ihren Sinn verliert, weil die Daten zu Hause bleiben. Lokale KI betreiben wir selbst und bauen sie auch für Kunden; einen Kostenvergleich mit der Cloud finden Sie im erwähnten Artikel über KI-Preise. Und wenn Sie sich nicht sicher sind, welche Daten bei Ihnen in die rote Kategorie gehören, melden Sie sich — wir gehen es mit Ihnen an konkreten Bereichen durch.
Häufige Fragen
Wird ChatGPT mit unseren Firmendaten trainiert?
Bei privaten Konten (Free, Plus) können Konversationen in der Standardeinstellung zur Verbesserung der Modelle verwendet werden; abschalten lässt sich das in den Datenschutzeinstellungen. Bei Unternehmenstarifen und der API erklärt OpenAI, dass Firmendaten in der Standardeinstellung nicht zum Training verwendet werden. Aber auch ein Unternehmenstarif hebt die DSGVO und vertragliche Verschwiegenheit nicht auf — er verbessert nur die Ausgangsbedingungen.
Reicht es, die Daten vor der Eingabe zu anonymisieren?
Nur wenn die Anonymisierung echt ist. Den Namen zu löschen genügt nicht, wenn sich aus dem Kontext — Branche, Stadt, Rolle, Beträgen — die Person oder das Unternehmen erkennen lässt. Bei wirklich sensiblen Unterlagen ist es sicherer, das Dokument gar nicht erst in einen öffentlichen Chatbot einzugeben und es auf einer lokalen KI zu verarbeiten.
Können wir ChatGPT den Mitarbeitern einfach verbieten?
Können Sie, aber das Ergebnis ist meist keine Nullnutzung, sondern heimliche Nutzung — auf privaten Telefonen und Konten, in die Sie keinen Einblick haben. Sicherer ist es, den Leuten einen freigegebenen Weg, ein Firmenkonto und eine klare Ampel zu geben, was wohin darf.
Was tun, wenn jemand dort bereits sensible Daten eingegeben hat?
Stellen Sie fest, was, wann und auf welchem Konto. Löschen Sie die Konversation, deaktivieren Sie die Datennutzung fürs Training, ändern Sie Zugangsdaten sofort. Ging es um personenbezogene Daten, bewerten Sie den Vorfall aus Sicht der DSGVO einschließlich einer etwaigen Meldepflicht — und passen Sie vor allem die Regeln an, damit sich die Situation nicht wiederholt.
Gilt das nur für ChatGPT?
Nein. Dieselbe Logik gilt für jedes Cloud-KI-Werkzeug: Chatbots, Online-Übersetzer, Meeting-Transkriptionen und KI-Funktionen in Browsern. Schreiben Sie die Regeln für die Kategorie „öffentliche KI-Werkzeuge”, nicht für ein einzelnes Produkt.