Die kurze Antwort: Shadow AI bedeutet, dass Beschäftigte KI-Tools verwenden, von denen das Unternehmen nichts weiß – typischerweise ein persönliches ChatGPT-Konto, in das jemand einen Kundenvertrag hochlädt. Das lässt sich ohne Überwachung der Beschäftigten in vier Schritten feststellen: nachfragen (per Fragebogen und in Gesprächen), Kartenausgaben prüfen, für jedes gefundene Tool den Kontotyp ermitteln und eine Liste zugelassener Tools mit einer einzigen zuständigen Person für Genehmigungen erstellen. Der Unterschied zwischen einem persönlichen und einem geschäftlichen Konto ist nicht kosmetischer Natur: Bei ChatGPT-Tarifen für Privatkunden kann OpenAI Inhalte zum Trainieren seiner Modelle verwenden, sofern der Nutzer dies nicht deaktiviert. Bei ChatGPT Business, Enterprise und der API findet laut OpenAI standardmäßig kein Training statt. Die Datenresidenz ist wiederum eine andere Frage – nämlich, wo die Daten physisch gespeichert werden und wo die Verarbeitung erfolgt.
Die meisten Unternehmen, die mich wegen der „Einführung von KI“ anrufen, haben diese Einführung längst hinter sich. Sie wissen es nur nicht. Jemand hat ChatGPT auf dem Smartphone geöffnet, es den Kollegen gezeigt, und seitdem laufen Angebotsentwürfe und Zusammenfassungen von Besprechungsprotokollen darüber. Dann fragt ein größerer Kunde: „Welche KI-Tools nutzen Sie, und wo werden unsere Daten verarbeitet?“ – und das Unternehmen hat keine Antwort. Das folgende Vorgehen führt zu einer Bestandsaufnahme, nicht dazu, Beschäftigte auf frischer Tat zu ertappen.
Was Shadow AI ist und warum im Unternehmen niemand darüber spricht
Der Begriff Shadow AI ist vom älteren Begriff Shadow IT abgeleitet – Software, die Beschäftigte eigenständig und außerhalb der Unternehmensprozesse beschafft haben. Die KI-Variante ist in einem Punkt problematischer: Bei einem nicht genehmigten Programm verlässt meist nur die Information über seine Nutzung das Unternehmen, bei einem KI-Chat dagegen der eigentliche Inhalt. In den Prompt wird ein vollständiges Dokument eingefügt – etwa eine Kunden-E-Mail einschließlich Unterschrift und Bestellnummer.
Die Beschäftigten ahnen, dass das nicht in Ordnung ist, und möchten keinen Ärger bekommen; die Geschäftsleitung glaubt, „bei uns wird keine KI eingesetzt“, weil niemand sie offiziell gekauft hat. Welche Risiken das Einfügen von Daten in einen öffentlichen Chatbot birgt, erläutert der separate Beitrag über Unternehmensdaten in ChatGPT. Hier gehen wir einen Schritt weiter: Wie lässt sich der tatsächliche Zustand ermitteln und daraus ein verlässlicher Prozess entwickeln?
So erstellen Sie eine Inventur der KI-Tools im Unternehmen
Die Inventur ist eine Tabelle. Kein zwanzigseitiges Dokument und kein eigenes Projekt. Fünf Spalten, eine Zeile pro Tool – und nach dem Ausfüllen eine eindeutige Antwort auf die Frage: „Was wird bei uns eingesetzt und mit welchen Daten?“
| Tool | Wer nutzt es? | Welche Daten fließen hinein? | Kontotyp | Wird mit den Daten trainiert? |
|---|---|---|---|---|
| ChatGPT | Vertrieb, Marketing | Kunden-E-Mails, Angebotsentwürfe | persönliche Konten, privat bezahlt | ja, sofern der Nutzer dies nicht deaktiviert hat |
| Microsoft Copilot | Geschäftsleitung, Assistenz | Outlook, SharePoint, Teams | Microsoft-365-Unternehmenstenant | nein (siehe unten) |
| Gemini | Marketing | Website-Texte, Kampagnenideen | persönliches Google-Konto | ja, solange die Aktivitätsspeicherung aktiviert ist |
| KI-Transkription von Besprechungen | Projektleitung | Aufzeichnungen von Kundengesprächen | unbekannt, kostenlos | nicht geklärt – prüfen |
| KI im Buchhaltungssystem | Buchhaltung | Rechnungen, Lieferantendaten | Unternehmenslizenz | gemäß den Bedingungen des Anbieters |
Die obigen Zeilen dienen als Strukturbeispiel und stellen keine Feststellungen aus Ihrem Unternehmen dar.
1. Beginnen Sie mit einem Fragebogen und Gesprächen
Die Beschäftigten sind die schnellste Informationsquelle. Der sicherste Weg, diese Quelle versiegen zu lassen, besteht darin, mit einer Überwachung des Datenverkehrs zu beginnen. Versenden Sie einen kurzen Fragebogen – Anonymität ist nicht zwingend erforderlich, wohl aber die Zusicherung, dass niemand wegen seiner Antworten Ärger bekommt:
- Nutzen Sie bei der Arbeit ein KI-Tool? Welches?
- Melden Sie sich dort mit einem geschäftlichen oder persönlichen Konto an?
- Bezahlen Sie dafür? Falls ja: Wer übernimmt die Kosten?
- Welche Arten von Dokumenten oder Texten geben Sie dort ein?
- Was würde Ihnen fehlen, wenn das Unternehmen dieses Tool morgen verbieten würde?
Die fünfte Frage ist die wichtigste, und die meisten Unternehmen lassen sie aus. Sie zeigt, welche tatsächliche Arbeit das Tool übernimmt – und ob eine Alternative gesucht oder das Tool lediglich verboten werden sollte. Ein Verbot ohne Ersatz macht die Inventur wertlos: Das Tool verschwindet nicht, sondern beim nächsten Mal gibt seine Nutzung niemand mehr zu. Führen Sie anschließend Gespräche mit den Führungskräften: „Zeigen Sie mir die letzten drei Aufgaben, die Sie damit erledigt haben.“
2. Prüfen Sie die Ausgaben – KI wird per Karte bezahlt
Abonnements für KI-Tools werden per Karte bezahlt und gehen zwischen kleinen Ausgabenposten leicht unter. Prüfen Sie die Abrechnungen der Firmenkarten aus den vergangenen zwölf Monaten, die Erstattungen von Mitarbeiterausgaben und die Rechnungen von Agenturen, bei denen ein KI-Dienst als Teil einer anderen Position weiterberechnet worden sein könnte. Suchen Sie nach wiederkehrenden monatlichen Zahlungen in Fremdwährungen an ausländische Anbieter.
Achten Sie besonders auf Positionen, die nie in der Buchhaltung erscheinen: kostenlose Versionen und Tools, die Beschäftigte mit ihrer eigenen Karte bezahlen. Sie sind häufig am riskantesten, weil das Unternehmen keinerlei administrative Kontrolle darüber hat.
3. Der Blick ins Netzwerk als Ergänzung, nicht als Hauptinstrument
Der DNS-Resolver oder Proxy des Unternehmens zeigt, welche Domains aus dem Unternehmensnetzwerk aufgerufen werden. Für die Inventur ist das eine legitime Informationsquelle, sofern Sie mit einer aggregierten Domainliste für das gesamte Netzwerk arbeiten, nicht mit nutzerbezogenen Protokollen oder Kommunikationsinhalten, und die Beschäftigten vorab darüber informieren. Die Überwachung einzelner Beschäftigter ist eine eigenständige Rechtsfrage und wird hier nicht behandelt. Ein großer Teil der KI-Nutzung findet zudem auf Smartphones über das Mobilfunknetz statt. Diese Quelle zeigt daher nur einen Teil des Gesamtbildes.
4. Legen Sie zugelassene Tools fest und bestimmen Sie eine zuständige Person
Das Ergebnis des Audits darf nicht nur eine Feststellung, sondern muss eine Liste sein. Teilen Sie die Tools in drei Gruppen ein: zugelassen (das Unternehmen bezahlt dafür, sie werden über ein Unternehmenskonto betrieben und es ist klar, welche Daten eingegeben werden dürfen), eingeschränkt zugelassen (nur für eine klar definierte Art von Inhalten – etwa öffentliche Texte, aber keine Kundendokumente) und nicht zugelassen, jeweils mit Begründung und idealerweise einer Alternative. Entscheidend dafür, ob die Liste auch in einem Jahr noch gültig ist, ist außerdem die Frage: Wer genehmigt ein neues Tool? Benennen Sie eine konkrete Person, keine Kommission, und sorgen Sie dafür, dass die Genehmigung Tage statt Monate dauert.
Persönliches oder geschäftliches Konto: ChatGPT, Gemini und Copilot
Es lohnt sich, den tatsächlichen Wortlaut der Bedingungen zu kennen und sich nicht auf Hörensagen zu verlassen.
OpenAI (ChatGPT). Bei Diensten für Einzelpersonen – also dem regulären ChatGPT einschließlich kostenpflichtiger Tarife – weist OpenAI darauf hin, dass Inhalte zum Trainieren seiner Modelle verwendet werden können. Nutzer können dem widersprechen: In den Kontoeinstellungen deaktivieren sie unter Data Controls den Schalter Improve the model for everyone. Die Unterhaltungen bleiben dann im Verlauf erhalten, werden laut OpenAI jedoch nicht für das Training genutzt. Bei Produkten für Unternehmen – ChatGPT Business (früher Team), ChatGPT Enterprise und der API – erklärt OpenAI, dass Ein- und Ausgaben geschäftlicher Nutzer standardmäßig nicht zum Training verwendet werden; für die API gilt diese Erklärung seit dem 1. März 2023. Dasselbe bestätigt die am 8. Januar 2026 aktualisierte Seite zur Enterprise Privacy.
Der Wechsel von persönlichen Konten zu einem geschäftlichen Workspace ist daher meist die wichtigste Änderung, die sich aus einem Audit ergibt – unabhängig davon, ob das persönliche Konto kostenpflichtig war.
Google (Gemini). Die Gemini-App für Privatkunden und Gemini in Google Workspace unterscheiden sich in ihrem Umgang mit Daten. Für die Privatkundenversion erklärt Google, dass ein Teil der Unterhaltungen von menschlichen Prüfern, darunter geschulten Dienstleistern, kontrolliert wird. Google empfiehlt ausdrücklich, keine vertraulichen Informationen einzugeben, die Sie keinem Prüfer zeigen oder nicht zur Verbesserung der Dienste verwenden lassen möchten. Maßgeblich ist dabei die Einstellung für Gemini Apps-Aktivitäten. Für Google Workspace gilt dagegen, dass Workspace Kundendaten nicht ohne Einwilligung oder Anweisung des Kunden zum Trainieren von Modellen verwendet und dass die Interaktionen innerhalb der Organisation verbleiben.
Microsoft (Copilot). Für Microsoft Copilot in einer Microsoft-365-Arbeitsumgebung besagt die Dokumentation, dass Prompts, Antworten und über Microsoft Graph abgerufene Daten nicht zum Trainieren der zugrunde liegenden Sprachmodelle verwendet werden. Microsoft bindet diese Zusagen an kommerzielle Microsoft-365-Kunden – also an ein geschäftliches Konto im Unternehmenstenant. Wer Copilot mit einem persönlichen Konto öffnet, befindet sich außerhalb dieses Rahmens.
Bei Copilot bringt das Audit außerdem eine weitere Erkenntnis ans Licht, die nichts mit dem Training zu tun hat: Copilot zeigt Nutzern nur Daten an, für die sie mindestens eine Leseberechtigung besitzen. Das klingt beruhigend, bis Sie feststellen, wie die Freigaben in Ihrem SharePoint konfiguriert sind. Copilot umgeht keine Berechtigungen – es findet lediglich sehr effizient, was bereits seit Jahren falsch freigegeben ist.
Was Datenresidenz bedeutet und warum sie wichtig ist
Datenresidenz bezeichnet die geografische Region, in der Daten physisch gespeichert und gegebenenfalls auch verarbeitet werden. Das ist eine andere Frage als das Training: Die Aussage „Unsere Daten werden nicht zum Training genutzt“ sagt nichts darüber aus, wo sich diese Daten befinden. Unterscheiden Sie deshalb zwischen ruhenden Daten (data at rest), also dem Ort, an dem die Daten auf Datenträgern gespeichert sind, und der Verarbeitung, also dem Ort, an dem das Modell ausgeführt wird. Anbieter behandeln diese Aspekte getrennt, und nicht immer stehen dafür dieselben Regionen zur Verfügung.
OpenAI bietet die Speicherung von Inhalten unter anderem in Europa (EWR und Schweiz), im Vereinigten Königreich und in den USA an. Die sogenannte Inference Residency, also die Ausführung des Modells in einer bestimmten Region, ist laut Dokumentation für Europa, die USA und die Vereinigten Arabischen Emirate verfügbar. Das Angebot ist auf berechtigte API-Kunden sowie neue Kunden von ChatGPT Enterprise und Edu beschränkt – für ChatGPT Business steht diese Option nicht zur Verfügung. Google Workspace ermöglicht über die Funktion Data Regions, abgedeckte Daten in den USA oder in Europa zu speichern; dazu gehören auch Prompts und Antworten von Gemini. Die Funktion ist an bestimmte Editionen gebunden. Microsoft führt Copilot für Kunden aus der EU als einen Dienst innerhalb der EU Data Boundary und seit dem 1. März 2024 als abgedeckten Dienst in seinen Zusagen zur Datenresidenz. Direkt aus der Dokumentation stammt außerdem ein wichtiger Hinweis: Modelle von Drittanbietern, die als Unterauftragnehmer eingesetzt werden, müssen nicht von der EU Data Boundary erfasst sein. Somit beeinflusst auch die Wahl des Modells innerhalb von Copilot, wo die Verarbeitung stattfindet.
Wie dies mit der DSGVO zusammenhängt, kann niemand in einem allgemeinen Artikel verbindlich beantworten – es hängt davon ab, welche Daten Sie in welcher Rolle und auf welcher Rechtsgrundlage verarbeiten. Die Bewertung einer Übermittlung in ein Drittland gehört in die Hände eines Juristen. Die Auswahl einer Region löst allein noch kein Problem. Es gibt jedoch Situationen, in denen eine Verarbeitung innerhalb der EU sowohl die Dokumentation als auch Gespräche mit Kunden vereinfacht. Halten Sie deshalb in Ihrer Tabelle für jedes Tool fest, ob der Anbieter überhaupt eine Region zur Auswahl stellt, ob diese bei Ihrem Tarif verfügbar ist und ob sie tatsächlich aktiviert wurde. Gerade der letzte Punkt sorgt häufig für Überraschungen: Die Funktion existiert, wurde im konkreten Workspace aber nie eingeschaltet. Daneben besteht die regulatorische Ebene des AI Act, dem diese Website eigene Artikel widmet.
KI-Richtlinie: Was darf eingegeben werden und wer entscheidet?
Aus einer Liste wird erst dann eine Regel, wenn sie schriftlich festgehalten ist. Dafür ist keine Richtlinie in juristischer Sprache nötig; zwei Seiten genügen. Folgende Punkte sollten darin enthalten sein:
- Was niemals eingegeben werden darf. Personenbezogene Daten von Kunden und Beschäftigten, Vertragsinhalte, Passwörter und Zugangsdaten, Quellcode mit Schlüsseln, vertrauliche Unterlagen sowie Materialien Dritter, zu deren Weitergabe Sie nicht berechtigt sind.
- Was eingegeben werden darf und in welche ausdrücklich benannten Tools.
- Wer ein neues Tool genehmigt und wie lange die Genehmigung dauert.
- Was zu tun ist, wenn bereits etwas eingegeben wurde – wem der Vorfall gemeldet werden muss und dass auf die Meldung keine Sanktion folgt. Ohne diesen Punkt werden Sie von einem Vorfall nichts erfahren.
- Wer die Richtlinie einmal jährlich überprüft, denn die Bedingungen der Anbieter und die Namen ihrer Tarife ändern sich (siehe die Umbenennung von ChatGPT Team in Business).
Regeln, an die sich niemand erinnert, funktionieren nicht. Verbinden Sie die Richtlinie daher mit einer Schulung, die im Beitrag über KI-Schulungen für Unternehmen behandelt wird.
Wann die Cloud nicht ausreicht: Bereiche, deren Daten das Unternehmensnetz nicht verlassen dürfen
Bei einigen Geschäftsbereichen helfen weder ein Unternehmenskonto noch eine europäische Region. Lohnabrechnungen, medizinische Unterlagen, vertrauliche Dokumente und Know-how, das den Wert des Unternehmens ausmacht – hier ist die Frage „Wer speichert das auf seinen Datenträgern?“ wichtiger als die Zusage, dass kein Training stattfindet. Die Lösung ist ein Modell, das auf eigener Hardware läuft. Welche Bereiche dazu gehören, erläutert der Beitrag über KI ohne Cloud. Ob ein solches Modell die tschechische Sprache gut genug beherrscht, zeigt der Vergleich lokaler Modelle anhand tschechischer Aufgaben.
Häufig gestellte Fragen
Reicht es nicht, KI einfach zu verbieten? Ein pauschales Verbot ohne Alternative verlagert die Nutzung auf private Geräte und Konten, über die das Unternehmen keine administrative Kontrolle besitzt. Das Verbot eines bestimmten Tools in Verbindung mit einer genehmigten Alternative funktioniert dagegen.
Was ist, wenn wir feststellen, dass bereits jemand einen Kundenvertrag eingegeben hat? Ermitteln Sie, in welches Tool und über welches Konto der Vertrag eingegeben wurde. Prüfen Sie für dieses Konto die Trainingseinstellungen und beurteilen Sie anhand der Art der Daten, ob ein meldepflichtiger Vorfall vorliegt. Die rechtliche Bewertung einer möglichen Meldepflicht gehört in die Hände eines Juristen.
ITHOPE führt in Brno KI-Audits für kleine und mittlere Unternehmen durch: Inventur der eingesetzten Tools, Prüfung der Kontotypen und Einstellungen, Ausarbeitung von Regeln sowie – für Bereiche, deren Daten das Unternehmen nicht verlassen dürfen – Bereitstellung eines lokalen Modells auf eigener Hardware. Ein Audit zeigt häufig auch, wer auf welche Daten zugreifen kann und ob eine Wiederherstellung der Daten möglich ist. Dazu gehören IT-Verwaltung und Datensicherung sowie die Übersicht der Dienstleistungen IT für Unternehmen.
Quellen
- OpenAI: Wie Ihre Daten zur Verbesserung der Modellleistung verwendet werden — https://help.openai.com/en/articles/5722486-how-your-data-is-used-to-improve-model-performance
- OpenAI: FAQ zu Data Controls — https://help.openai.com/en/articles/7730893-data-controls-faq
- OpenAI: Datenschutz für Unternehmen — https://openai.com/enterprise-privacy/
- OpenAI: Datenresidenz und Inference Residency für ChatGPT — https://help.openai.com/en/articles/9903489-data-residency-and-inference-residency-for-chatgpt
- Google: Gemini-Apps und Ihre Daten — https://support.google.com/gemini/answer/13594961
- Google Workspace: Datenschutz-Hub für generative KI — https://knowledge.workspace.google.com/admin/generative-ai/generative-ai-in-google-workspace-privacy-hub
- Microsoft: Daten, Datenschutz und Sicherheit für Microsoft Copilot — https://learn.microsoft.com/en-us/copilot/microsoft-365/microsoft-365-copilot-privacy
Wo Sie uns finden
ITHOPE ist eine Firma aus Brno, Tschechien: wir machen Datenrettung von Festplatten, RAID und NAS, PC- und Notebook-Service und IT für Unternehmen, alles im eigenen Labor in der Viniční 3587/216, 615 00 Brno.
Telefon +420 775 556 063 (rund um die Uhr). Das Gerät können Sie persönlich bringen oder per Kurier schicken (Zásilkovna, PPL).