6 min readSanitized Ai Team

DLP für ChatGPT: Sensible Daten stoppen, bevor sie das Unternehmen verlassen

Data SecurityDLPLLM SecurityShadow AIPII

Mitarbeitende nutzen ChatGPT häufig für völlig nachvollziehbare Aufgaben: eine E-Mail überarbeiten, ein Meeting zusammenfassen, Code prüfen, ein Angebot entwerfen oder ein technisches Konzept erklären. Das Datenschutzproblem beginnt, wenn der Prompt zusätzlich Informationen enthält, die der Mitarbeitende nie außerhalb einer genehmigten Geschäftsumgebung hätte senden sollen.

Data Loss Prevention, kurz DLP, soll dieses Risiko verringern. Im Zusammenhang mit ChatGPT bedeutet DLP, sensible Informationen vor oder während der Übermittlung zu erkennen und dann die passende Reaktion anzuwenden. Je nach Situation kann diese Reaktion eine Warnung, eine Schwärzung, das Blockieren der Übermittlung oder deren Zulassung im Rahmen einer genehmigten Richtlinie sein.

Ein gutes DLP-Programm sollte nicht jeden ChatGPT-Prompt als verdächtig behandeln. Es sollte Mitarbeitenden helfen, KI produktiv zu nutzen, und zugleich verhindern, dass Informationen eine Grenze überschreiten, die die Organisation so nicht vorgesehen hat.

Legen Sie zuerst fest, was nicht geteilt werden darf

Bevor ein Unternehmen verhindern kann, dass sensible Daten ChatGPT erreichen, muss es entscheiden, was als sensibel gilt.

Dazu gehören in der Regel Informationen wie Kundendatensätze, personenbezogene Daten, Finanzinformationen, Mitarbeiterdaten, Zugangsdaten, Quellcode, Rechtsdokumente, geistiges Eigentum und vertrauliche Geschäftspläne. OWASP nennt ausdrücklich Kategorien wie personenbezogene Daten, Finanzangaben, Gesundheitsdaten, Zugangsdaten, Rechtsdokumente und vertrauliche Geschäftsdaten als sensible Informationen, die in Anwendungen mit großen Sprachmodellen (LLM) Risiken erzeugen können.

Entscheidend ist, weit gefasste Kategorien in Regeln zu übersetzen, die Mitarbeitende tatsächlich verstehen. Wer dem Personal sagt, es solle keine „vertraulichen Informationen“ eingeben, lässt Raum für Interpretation. Eine klarere Richtlinie könnte festlegen, dass Kundenkontonummern, unveröffentlichte Finanzergebnisse, Passwörter, API-Schlüssel, Mitarbeiterakten und vertrauliche Verträge nicht in nicht genehmigte KI-Tools eingegeben werden dürfen.

Je konkreter die Beispiele sind, desto leichter fällt es Mitarbeitenden und DLP-Kontrollen, einheitliche Entscheidungen zu treffen.

Wissen Sie, welche ChatGPT-Version Ihre Mitarbeitenden nutzen

Nicht jedes ChatGPT-Konto wird auf dieselbe Weise verwaltet.

OpenAI gibt an, dass Eingaben und Ausgaben von ChatGPT Business und ChatGPT Enterprise standardmäßig nicht zum Training seiner Modelle verwendet werden. Verwaltete Arbeitskonten können zudem organisatorischen Kontrollen für Datenzugriff, Aufbewahrung, Auditierung und weitere Richtlinien unterliegen. Persönliche Arbeitsbereiche folgen anderen Bedingungen und Einstellungen.

Diese Unterscheidung ist wichtig, weil ein Mitarbeitender, der ein privates Konto für Firmenarbeit nutzt, möglicherweise außerhalb der Kontrollen arbeitet, die die Organisation anwenden wollte.

Ein praktischer erster Schritt ist, festzulegen, welche ChatGPT-Umgebungen für die Arbeit genehmigt sind. Sicherheitsteams sollten außerdem verstehen, ob Mitarbeitende zwischen privaten und verwalteten Konten wechseln können, ob Dateiuploads erlaubt sind und welche administrativen Kontrollen im genehmigten Arbeitsbereich zur Verfügung stehen.

DLP wird deutlich schwieriger, wenn die Organisation nicht weiß, wohin Mitarbeitende Informationen senden.

Blicken Sie über kopierten Text hinaus

Sensible Informationen gelangen nicht nur über einen getippten Prompt in ChatGPT.

Mitarbeitende können Dokumente, Tabellen, Bilder, Codedateien und weiteres Material hochladen. Ein zur Zusammenfassung hochgeladenes Dokument kann weit mehr Informationen enthalten, als der Mitarbeitende teilen wollte. Eine Tabelle, die für eine einzige Frage verwendet wird, kann in anderen Spalten auch Namen, Kontonummern, Gehälter oder interne Prognosen enthalten.

Deshalb sollten DLP-Kontrollen nach Möglichkeit sowohl den Prompt-Text als auch Dateiuploads berücksichtigen.

Dasselbe Prinzip gilt für kopierten Code. Ein Entwickler möchte vielleicht nur Hilfe beim Debuggen einer einzelnen Funktion, nimmt aber versehentlich einen API-Schlüssel, einen internen Hostnamen, eine Kundenkennung oder proprietäre Logik aus dem umgebenden Code mit auf.

Bevor Informationen einen KI-Dienst erreichen, sollte die Organisation fragen, ob die gesamte Übermittlung für die Aufgabe notwendig ist.

Wählen Sie die passende Reaktion für unterschiedliche Risikostufen

Jeden Prompt zu blockieren, der einen möglichen sensiblen Begriff enthält, ist selten praktikabel. Das erzeugt Fehlalarme und kann Mitarbeitende frustrieren, die legitime Arbeit erledigen wollen.

Ein besserer Ansatz ist, je nach Datenart und Kontext unterschiedlich zu reagieren.

Eine Situation mit geringem Risiko könnte eine lehrreiche Warnung auslösen. Wenn ein Mitarbeitender zum Beispiel die E-Mail-Adresse eines Kunden angibt, während er ChatGPT bittet, eine Support-Antwort zu verbessern, könnte das System ihn daran erinnern, unnötige Kennungen zu entfernen.

Eine Situation mit höherem Risiko könnte eine automatische Schwärzung rechtfertigen. Namen, Kontonummern, E-Mail-Adressen oder andere Kennungen könnten entfernt werden, wenn die Aufgabe nicht von ihnen abhängt.

Manche Informationen sollten für nicht genehmigte Ziele schlicht blockiert werden. Passwörter, private Schlüssel, streng vertrauliche Datensätze oder sensible strategische Informationen sind Beispiele, bei denen eine Warnung möglicherweise nicht ausreichend schützt.

Ziel ist es, dort Reibung zu erzeugen, wo sie nützt, statt jede KI-Interaktion zu erschweren.

Bieten Sie Mitarbeitenden eine sicherere Alternative

DLP funktioniert besser, wenn Mitarbeitende verstehen, was sie nach einer Blockierung tun sollen.

Stoppt eine Sicherheitskontrolle einen Prompt ohne Erklärung, probiert der Mitarbeitende womöglich eine andere KI-Website, nutzt ein privates Gerät oder sucht einen anderen Umweg. Stattdessen sollte die Meldung erklären, welche Art von Information erkannt wurde, und einen sicheren nächsten Schritt nennen.

Das kann bedeuten, identifizierende Details zu entfernen, ein genehmigtes verwaltetes ChatGPT-Konto zu nutzen, echte Kundendaten durch Beispieldaten zu ersetzen oder das Sicherheitsteam zu fragen, ob ein bestimmter Anwendungsfall genehmigt werden kann.

So wird DLP von einer Hürde zu einer Form von Schulung in Echtzeit.

Werten Sie aus, was Ihre DLP-Warnungen aussagen

Wiederholte Warnungen können mehr verraten als einzelne Richtlinienverstöße.

Versucht eine Abteilung häufig, Kundendatensätze zur Zusammenfassung hochzuladen, kann das auf einen legitimen Arbeitsablauf hindeuten, der eine sicherere genehmigte Lösung braucht. Lösen Entwickler wiederholt Erkennungen von Zugangsdaten aus, braucht die Organisation womöglich besseres Secrets-Management oder klarere Hinweise für KI-gestütztes Programmieren.

Der Zweck von DLP ist nicht, einfach Verstöße zu sammeln. Die Daten sollten Sicherheits- und Datenschutzteams helfen zu verstehen, wie Mitarbeitende KI tatsächlich nutzen und wo bestehende Richtlinien nicht zur realen Arbeit passen.

DLP für ChatGPT ist am wirksamsten, wenn es klare Datenregeln, genehmigte KI-Umgebungen, geeignete technische Kontrollen und praktische Hinweise für Mitarbeitende verbindet. Das Ziel ist nicht, sensible Informationen durch das Verbot nützlicher Tools von KI fernzuhalten. Es geht darum, dass Mitarbeitende ChatGPT nutzen können, ohne versehentlich Daten an einen Ort zu schicken, an den das Unternehmen sie nie senden wollte.

Das Zeitproblem im Kern von DLP ist, dass ein abgesendeter Prompt sich nicht zurückholen lässt. Ein Kundendatensatz, der in eine Bitte um eine bessere Antwort eingefügt wird, eine Tabelle, die für eine einzige Frage hochgeladen wird, ein API-Schlüssel, der in einem Code-Ausschnitt vergessen wurde: Sobald der Mitarbeitende die Eingabetaste drückt, hat die Information ChatGPT bereits erreicht. Auf diesem Prinzip baut Sanitized Ai auf: sensible Daten wie Kundenkennungen, Zugangsdaten und vertrauliche Geschäftsdetails zu erkennen und zu schwärzen, bevor der Prompt das Tool erreicht, damit Mitarbeitende den Nutzen des Assistenten behalten, ohne das Risiko einzugehen.

Wählen Sie in diesem Quartal den ChatGPT-Anwendungsfall, auf den sich Ihre Teams am meisten verlassen, und gehen Sie durch, wie die Aufgabe tatsächlich erledigt wird, gemessen an Ihren Datenregeln. Listen Sie auf, welche Kennungen, Zugangsdaten und Dateitypen sich entfernen ließen, ohne die Antwort zu verändern, und machen Sie deren Entfernung zum Standard für diese Aufgabe statt zur Ausnahme. Wenn Sie sehen möchten, wie sensible Daten vor der Übermittlung statt danach erkannt werden können, fordern Sie eine Demo an und gehen Sie Ihren eigenen Arbeitsablauf gemeinsam mit uns durch.

See how Sanitized Ai stops sensitive data from leaving the prompt box. Writing your own rules instead? Start from our free AI acceptable use policy generator.