Zum Inhalt springen
Synnous Consulting
EU AI Act & Compliance7 Min Lesezeit
Porträt von Martha Giannakoudi
Martha Giannakoudi

ChatGPT rechtssicher nutzen: Was der Fall Samsung lehrt

Wenn heute jemand aus Deinem Team einen Vertragsentwurf in ein Chatfenster kopiert, um ihn zusammenfassen zu lassen: Wüsstest Du davon? Bei Samsung wusste es niemand. Bis es zu spät war.

Die Kurzfassung
  • Der Fall Samsung: Am 11. März 2023 gab die Halbleitersparte ChatGPT frei. Innerhalb von 20 Tagen landeten Quellcode, Prüfprogramme und eine Besprechungsmitschrift im Chatfenster. Im Mai 2023 folgte das Verbot, im Juni 2026 die neue Freigabe, diesmal nur nach Sicherheitsschulung.
  • Datenschutz (DSGVO) ist der Punkt, an dem es ernst wird: Personenbezogene Daten gehören nur in Werkzeuge mit Auftragsverarbeitungsvertrag. Private Konten haben keinen, auch die bezahlten nicht.
  • Der EU AI Act verlangt für die Nutzung keine Genehmigung. Er verlangt Maßnahmen für die KI-Kompetenz der Leute (Art. 4, Bemühenspflicht, kein eigenes EU-Bußgeld) und seit 2. August 2026 Transparenz, wo Menschen mit KI interagieren (Art. 50).
  • ChatGPT Business und Enterprise, Microsoft Copilot mit Geschäftskonto und Claude Team oder Enterprise trainieren nach Anbieterzusage standardmäßig nicht mit Euren Eingaben und bieten einen Auftragsverarbeitungsvertrag.
  • Vier Regeln reichen für die meisten Unternehmen. Sie passen auf eine Seite, und genau deshalb werden sie gelesen.

In einem Sortierzentrum gibt es einen Moment, in dem ein Paket auf das Band gelegt wird. Bis dahin lässt sich alles ändern, Adresse, Inhalt, Empfänger. Eine Sekunde später liegt es auf dem Band, und ab da bestimmt die Anlage, wohin es geht. Zurückholen ist keine Option mehr.

Eine Eingabe in ein Chatfenster ist genau dieser Moment.

Was tatsächlich passiert ist

Am 11. März 2023 erlaubte Samsung den Beschäftigten seiner Halbleitersparte die Nutzung von ChatGPT, um Arbeitsabläufe zu beschleunigen. Innerhalb von zwanzig Tagen gab es drei dokumentierte Vorfälle.

WannWas passierteWozu
März 2023fehlerhafter Quellcode eines Programms für eine interne Messdatenbank wird eingegebenum den Fehler beheben zu lassen
wenige Tage späterProgrammcode zur Erkennung defekter Halbleiterausrüstung wird eingegebenum ihn optimieren zu lassen
kurz daraufdie Mitschrift einer internen Besprechung wird eingegebenum daraus ein Protokoll zu erstellen (manche Berichte sprechen von einer Präsentation)
30. März 2023das Magazin Economist Korea berichtet über die drei Vorfälle
1. Mai 2023Samsung untersagt generative KI vorläufig auf Firmengeräten, zuerst in der GerätesparteReaktion
12. Juni 2026Samsung gibt ChatGPT, Gemini und Claude in der Gerätesparte offiziell frei, nach zwei Monaten Test mit rund 2.500 Beschäftigten und nur für alle, die eine Sicherheitsschulung abgeschlossen habenneuer Anlauf

Was mich an diesem Fall beschäftigt, ist nicht die Technik. Es ist, dass in allen drei Fällen Menschen ihre Arbeit gut machen wollten. Niemand hat Daten weitergegeben, um Schaden anzurichten. Alle drei haben ein Problem gelöst, und zwar schneller als vorher.

Die eigentliche Fehlentscheidung lag vorher

Der Fehler passierte nicht am Chatfenster. Er passierte drei Wochen früher, als die Nutzung freigegeben wurde, ohne zu klären, was hineindarf.

Eine Freigabe ohne Regel ist eine Einladung mit unklaren Grenzen. Wer sie ausspricht, überlässt jedem Einzelnen eine Abwägung, für die die wenigsten die Grundlagen haben. Und dann passiert, was in solchen Situationen immer passiert: Menschen entscheiden nach dem, was die Aufgabe erfordert, nicht nach dem, was juristisch heikel ist.

Die Reaktion, die Nutzung anschließend ganz zu verbieten, ist der zweite Fehler derselben Sorte. Sie verlagert das Verhalten auf private Geräte, wo es niemand mehr sieht. Wie das aussieht, habe ich in einem eigenen Beitrag zur Schatten-KI beschrieben.

Was rechtlich wirklich zählt

Hier lohnt eine saubere Trennung, weil in diesem Feld viel durcheinandergeht.

Datenschutz nach DSGVO ist der Punkt, an dem es für die meisten Unternehmen ernst wird. Sobald personenbezogene Daten in ein Werkzeug gelangen, für das kein Auftragsverarbeitungsvertrag besteht, habt Ihr ein Problem. Verantwortlich im Sinne der DSGVO ist dabei Euer Unternehmen, nicht der Anbieter. Die Bußgelder der DSGVO sind real. Wie umkämpft das Feld trotzdem ist, zeigt ausgerechnet der bekannteste Fall: Die italienische Datenschutzbehörde verhängte Ende 2024 eine Strafe von 15 Millionen Euro gegen OpenAI. Das Landgericht Rom hat sie im März 2026 aufgehoben, weil es die italienische Behörde für nicht zuständig hielt. Über die Vorwürfe selbst hat es nicht entschieden.

Der EU AI Act regelt etwas anderes. Für die Nutzung eines Sprachmodells verlangt er keine Genehmigung. Er verlangt aber zweierlei. Seit Februar 2025 muss jedes Unternehmen, das KI einsetzt, Maßnahmen für die KI-Kompetenz seiner Leute ergreifen (Art. 4). Seit dem Digital Omnibus vom 27. Juli 2026 ist das ausdrücklich eine Bemühenspflicht: Maßnahmen ergreifen, kein Niveau garantieren, und ein eigenes EU-Bußgeld gibt es dafür nicht. Und seit dem 2. August 2026 gilt Transparenz gegenüber Menschen, die mit KI interagieren (Art. 50). Das ist Thema unseres Beitrags zur Kennzeichnungspflicht.

Geschäftsgeheimnisse sind der dritte, oft vergessene Bereich. Ein Quellcode oder eine Kalkulation ist selten personenbezogen und trotzdem das Wertvollste, was ein Unternehmen besitzt. Der Samsung-Fall betraf genau diese Kategorie.

Welche Fristen und Pflichten sonst noch gelten, steht in unserer Übersicht zum EU AI Act 2026.

Was die Geschäftsverträge zusagen, Stand Oktober 2026

ChatGPT. Bei ChatGPT Business (bis August 2025 „Team"), Enterprise und der API trainiert OpenAI nach eigener Zusage standardmäßig nicht mit Euren Eingaben. Einen Auftragsverarbeitungsvertrag bietet OpenAI für Business, Enterprise und die API an, für Kund*innen aus der EU mit OpenAI Ireland. Speicherung in Europa lässt sich für neue Enterprise-Arbeitsbereiche und neue API-Projekte wählen. Bei privaten Konten, auch Plus und Pro, darf OpenAI Eingaben zum Training nutzen, solange niemand es in den Einstellungen abschaltet, und einen Auftragsverarbeitungsvertrag gibt es dafür nicht.

Microsoft Copilot. Mit Geschäftskonto (Microsoft Copilot und Copilot Chat, früher „Microsoft 365 Copilot") gelten Microsofts Datenschutznachtrag, die EU-Datengrenze und die Zusage, Eingaben nicht zum Training der Grundmodelle zu nutzen.

Claude. Bei Claude Team, Enterprise und der API trainiert Anthropic nicht mit Euren Eingaben, außer jemand gibt ausdrücklich Feedback oder stimmt zu. Der Auftragsverarbeitungsvertrag ist Teil der kommerziellen Bedingungen. Gespeichert werden die Daten laut Anthropic in den USA. Bei privaten Konten (Free, Pro, Max) entscheidet jede Person selbst, ob ihre Chats ins Training gehen. Mit Zustimmung werden sie bis zu fünf Jahre gespeichert.

Verträge ändern sich. Wer ein Werkzeug freigibt, schaut einmal im Jahr in die aktuellen Bedingungen und klärt mit der Datenschutzberatung, ob sie zu Euren Daten passen.

ChatGPT rechtssicher nutzen: vier Regeln für den Alltag

Regelwerke mit zwanzig Punkten liest niemand. Diese vier reichen für die meisten Unternehmen.

  1. Nichts eingeben, was Ihr nicht auch einer externen Dienstleisterin schicken würdet. Diese Faustregel versteht jede*r ohne juristische Vorbildung, und sie trifft in den allermeisten Fällen die richtige Entscheidung.
  2. Personenbezogene Daten nur in Werkzeugen mit Auftragsverarbeitungsvertrag. Namen, Bewerbungen, Krankmeldungen, Kundendaten. Wenn Ihr keinen Vertrag habt, gehören sie nicht hinein, auch nicht „anonymisiert", wenn die Person erkennbar bleibt.
  3. Ein freigegebenes Werkzeug benennen. Ein guter erlaubter Weg verhindert mehr als jedes Verbot.
  4. Klären, wer Ergebnisse verantwortet, bevor etwas nach außen geht. Diese Frage kostet in der Praxis mehr Zeit als alle Datenschutzfragen zusammen.

Diese vier Sätze passen auf eine Seite. Genau das ist der Punkt: Was nicht auf eine Seite passt, wird nicht gelesen und ändert deshalb nichts.

Die Stunde Arbeit, die alles verhindert hätte

An diesem Fall ist bemerkenswert, wie schnell er von einer Ermöglichung in ein Verbot kippte. Innerhalb weniger Wochen wurde aus „nutzt das gern" ein „nutzt das nicht mehr". Beides sind Entscheidungen, die eine Zwischenstufe überspringen, und in dieser Zwischenstufe liegt die ganze Arbeit.

Samsung hat diese Zwischenstufe übrigens nachgeholt. Die neue Freigabe von 2026 kam nach einem Test, mit einer Auswahl an Werkzeugen und mit einer Bedingung: Zugang bekommt nur, wer die Sicherheitsschulung abgeschlossen hat. Das hat drei Jahre gedauert.

Ich halte das Überspringen für das eigentliche Versäumnis, und ich sehe es häufig. Eine Freigabe ohne Regeln ist bequem, weil sie Aufbruchstimmung erzeugt. Ein Verbot ist bequem, weil es Verantwortung abschiebt. Dazwischen liegt eine Stunde Arbeit, in der jemand aufschreibt, was hineindarf und wer prüft.

Diese Stunde ist eine der günstigsten Versicherungen, die ein Unternehmen im Zusammenhang mit KI abschließen kann.

Was Du jetzt tun kannst

Schreib die vier Regeln von oben auf eine Seite, setz Euren Firmennamen darüber und schick sie ins Team. Das dauert zwanzig Minuten und ist mehr, als die meisten Unternehmen bis heute haben.

Der nächste Schritt nach der Regel

Eine Regel sagt, was hineindarf. Ob Eure Leute wissen, warum, ist die Frage von Art. 4. Der Art.-4-Check zeigt in fünf Fragen und zwei Minuten, wo Ihr steht, mit Ampel und nächstem Schritt. Ohne Anmeldung, nichts wird gespeichert. Zum Art.-4-Check

Für die ganze Belegschaft gibt es die KI Business School GO: vier Live-Sessions à 90 Minuten online, mittwochs von 10:00 bis 11:30 Uhr, nächster Start am 18. November 2026, höchstens 50 Menschen je Runde. Der Umgang mit Daten und der Rechtsrahmen sind feste Teile davon. 190 € netto je Person, ab 15 Plätzen 140 €, mit Nachweis über die KI-Kompetenzschulung nach Art. 4 EU AI Act. Zur KI Business School GO

Wenn Ihr für eine Abteilung etwas braucht, das genau auf Eure Daten und Abläufe passt, arbeiten wir in Inhouse-Workshops daran: an Euren echten Fällen, mit den Grenzen, die für Euch gelten.

Eine Sekunde später liegt das Paket auf dem Band. Ab da bestimmt die Anlage, wohin es geht.

Häufige Fragen

Dürfen wir ChatGPT im Unternehmen überhaupt einsetzen? Ja. Entscheidend ist, welche Daten hineingehen und ob für das genutzte Angebot ein Auftragsverarbeitungsvertrag besteht. Die Business- und Enterprise-Varianten der Anbieter sind dafür gemacht, private Konten in aller Regel nicht, auch die bezahlten wie ChatGPT Plus oder Claude Pro.

Reicht es, Namen zu schwärzen? Nur, wenn die Person danach wirklich nicht mehr identifizierbar ist. Ein geschwärzter Name in einem Text, der Abteilung, Position und Vorfall beschreibt, schützt niemanden.

Was ist mit Texten, die eine KI mitgeschrieben hat? Solange ein Mensch das Ergebnis prüft und verantwortet, ist das unproblematisch. Eine Kennzeichnungspflicht nach Art. 50 EU AI Act, seit 2. August 2026 anwendbar, entsteht erst dort, wo Menschen den Eindruck bekommen könnten, mit einer KI zu sprechen oder echtes Material vor sich zu haben.

Dieser Beitrag ersetzt keine Rechtsberatung. Für die Bewertung Eures konkreten Falls gehört eine Datenschutzberatung dazu.

Quellen: Fall Samsung: Economist Korea, 30.03.2023; t3n, 08.04.2023; Korea Herald über Asia News Network, 04.05.2023 (Verbot ab 1. Mai 2023); Seoul Economic Daily, 27.05.2026, Digital Today/Yonhap, 11.06.2026 und CIO, Juni 2026 (Freigabe ab 12. Juni 2026). OpenAI-Bußgeld: Garante per la protezione dei dati personali, Provvedimento Nr. 755 vom 2. November 2024; Aufhebung durch das Tribunale di Roma, Urteil vom 18. März 2026, berichtet von Punto Informatico, 20.03.2026 und diritto.it. Anbieterbedingungen: OpenAI, Enterprise privacy (Stand 08.01.2026), OpenAI, Data Processing Addendum (gültig ab 01.01.2026), OpenAI, How your data is used to improve model performance, OpenAI, Data residency in Europe; Microsoft Learn, Enterprise data protection in Microsoft Copilot und Data, Privacy, and Security for Microsoft Copilot; Anthropic Privacy Center, Is my data used for model training? (Stand 18.08.2026), How do I view and sign your DPA? (16.03.2026), Where are your servers located? (15.06.2026), Claude Code Docs, Data usage (Verbraucherkonten). Recht: Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 4 und Art. 50, in der Fassung der Verordnung (EU) 2026/1744 (Digital Omnibus), in Kraft seit 27.07.2026. Alle abgerufen am 28.10.2026.

TeilenLinkedInPer Mail
Porträt von Martha Giannakoudi
Geschrieben von
Martha Giannakoudi

Gründerin von Synnous, erfahrene Führungskraft und Personalerin, Autorin von „Ethische KI in der Praxis“ (Springer). Leitet die KI Business School mit Niklas Greczak.

Wo steht Ihr bei KI?

18 Fragen, 7 Minuten, sofort ein PDF-Report mit Reifegrad-Index und EU-AI-Act-Status. Kostenlos.

Weiterlesen

Zum Nachschlagen:KI-GlossarPrompts zum KopierenEigenen Prompt prüfen

Nächstes Event · Di., 08.12.2026 · 12:00–13:00 Uhr
Der KI-Jahresrückblick 2026: 4 Jahre ChatGPT, mit Martha Giannakoudi

Online, kostenlos · Zwölf KI-Schlagzeilen aus 2026, Du stimmst live ab, wir checken die Fakten. Eine Stunde, online, mit Martha Giannakoudi.

Kostenloses Ticket →