Generative KI hat verändert, wie Datenverlust in einem Unternehmen aussehen kann. Ein Mitarbeiter muss keine Tabelle mehr auf eine unbekannte Dateiaustausch-Seite hochladen, um ein Risiko zu erzeugen. Er kann einen Kundendatensatz, ein Quellcode-Snippet, eine Vertragsklausel oder eine interne Finanzprognose in einen KI-Assistenten einfügen, weil er Hilfe beim Abschluss einer legitimen Aufgabe möchte.
Genau hier wird die Verhinderung von Datenverlust bei KI nützlich. Data Loss Prevention (DLP) ist die Gesamtheit der Kontrollen, mit denen sensible Informationen identifiziert und das Risiko verringert wird, dass sie irgendwohin geteilt, hochgeladen, kopiert oder übertragen werden, wo sie nicht hingehören. Wenn Mitarbeiter generative KI nutzen, muss DLP Prompts, hochgeladene Dateien, Browseraktivität, verbundene Anwendungen und manchmal die Antworten des Modells berücksichtigen.
Das Ziel ist nicht, Mitarbeiter von der Nutzung von KI abzuhalten. Sicherheitsteams brauchen eine Möglichkeit, gewöhnliche Arbeit von Situationen zu unterscheiden, in denen die geteilten Daten unnötiges Risiko erzeugen.
Beginnen Sie mit den Daten, nicht mit dem KI-Tool
Sicherheitsteams können sich leicht darauf konzentrieren, welche KI-Anwendungen Mitarbeiter nutzen. Diese Sichtbarkeit ist wichtig, beantwortet aber nicht die wichtigste Frage: Welche Informationen verlassen tatsächlich die Organisation?
Ein nützliches AI-DLP-Programm beginnt damit, die Daten zu definieren, die geschützt werden müssen. Dazu können personenbezogene Daten, Kundendatensätze, Zahlungsdaten, Mitarbeiterinformationen, Quellcode, Zugangsdaten, Rechtsdokumente, geistiges Eigentum oder vertrauliche Geschäftspläne gehören.
OWASP führt persönliche Informationen, Finanzdetails, Gesundheitsdaten, Sicherheits-Zugangsdaten, Rechtsdokumente und vertrauliche Geschäftsdaten unter den Arten sensibler Informationen auf, die über Large-Language-Model-Systeme offengelegt werden können. Es empfiehlt Kontrollen wie Datenbereinigung, Eingabevalidierung, Zugangskontrollen und Beschränkungen der Datenquellen, die KI-Systemen zur Verfügung stehen.
Sobald diese Kategorien klar sind, können Sicherheitsteams entscheiden, was blockiert werden sollte, was eine Warnung auslösen sollte und was erlaubt sein kann, wenn geeignete Schutzmaßnahmen vorhanden sind.
Betrachten Sie die Wege, auf denen Informationen in KI-Systeme gelangen
Das direkte Tippen in einen Chatbot ist nur ein Weg.
Mitarbeiter können PDFs, Tabellen, Screenshots, Besprechungsprotokolle, Quelldateien oder ganze Ordner hochladen. KI-Funktionen können auch in Browser, Produktivitätssuiten, Kundensupport-Plattformen, Coding-Tools und andere von Mitarbeitern bereits genutzte Software eingebettet sein.
Das ist wichtig, denn eine Richtlinie, die sich nur auf das Kopieren und Einfügen von Text konzentriert, kann große Lücken hinterlassen. Sicherheitsteams sollten die wichtigsten Wege abbilden, auf denen Mitarbeiter Unternehmensinformationen an KI-Dienste senden können, und feststellen, welche dieser Wege für bestehende Kontrollen sichtbar sind.
Das Generative AI Profile von NIST behandelt Datenschutz und Informationssicherheit als Risiken, die bei der Nutzung generativer KI-Systeme berücksichtigt werden sollten. Das Framework ermutigt Organisationen außerdem, beabsichtigte Verwendungszwecke, Nutzer, Datenquellen und den Kontext, in dem ein KI-System betrieben wird, zu dokumentieren.
Für ein Sicherheitsteam bedeutet das eine praktische Inventarisierung: Welche KI-Tools sind genehmigt, welche werden lediglich genutzt, mit welchen Arten von Informationen gehen Mitarbeiter um, und wie können diese Informationen jedes Tool erreichen.
Alles zu blockieren ist meist eine schlechte DLP-Strategie
Eine DLP-Regel, die jeden Prompt mit einem Namen oder einer Zahl blockiert, mag sicher aussehen, kann aber schnell unbrauchbar werden. Mitarbeiter begegnen bei der täglichen Arbeit Namen, Kontoreferenzen, Daten und anderen gängigen Angaben. Wenn das System harmlose Aktivitäten ständig unterbricht, ignorieren Menschen eher Warnungen oder suchen einen anderen Weg, um die Aufgabe zu erledigen.
Stattdessen sollten Kontrollen Kontext und Sensibilität widerspiegeln.
Ein Prompt, der den Namen einer öffentlich bekannten Führungskraft enthält, ist etwas anderes als ein Prompt, der einen Kundennamen in Kombination mit einer Kontonummer und Transaktionshistorie enthält. Ein kurzes Codebeispiel ist etwas anderes als ein vollständiges, geschütztes Repository. Eine öffentliche Pressemitteilung ist etwas anderes als ein noch nicht veröffentlichter Übernahmeplan.
Hier wird Klassifizierung besonders wichtig. Sicherheitsteams sollten an Kombinationen aus Daten, Ziel, Nutzer, Aktion und Geschäftskontext denken, statt sich auf eine einzelne Schlüsselwortübereinstimmung zu verlassen.
Entscheiden Sie, wann zu warnen, zu schwärzen oder zu blockieren ist
Nicht jede riskante Aktion erfordert dieselbe Reaktion.
Eine Warnung kann gut funktionieren, wenn ein Mitarbeiter möglicherweise nicht erkennt, dass ein Prompt sensible Informationen enthält. Schwärzung kann nützlich sein, wenn die Aufgabe auch nach dem Entfernen von Elementen wie Namen, E-Mail-Adressen, Kennungen oder Zugangsdaten noch erledigt werden kann. Blockieren ist eher angebracht, wenn die Informationen hochsensibel sind oder das Ziel nicht genehmigt ist.
Stellen Sie sich zum Beispiel vor, ein Mitarbeiter fügt ein Support-Ticket in ein KI-Tool ein, und das Ticket enthält die E-Mail-Adresse, Telefonnummer und Kontokennung eines Kunden. Anstatt die gesamte Aufgabe zu blockieren, könnte eine Kontrolle diese Felder identifizieren und dem Mitarbeiter erlauben, nach deren Entfernung fortzufahren.
Die beste Reaktion hängt von der Risikobereitschaft der Organisation, den regulatorischen Verpflichtungen und dem tatsächlichen Zweck des KI-Anwendungsfalls ab.
Messen Sie, ob die Kontrollen helfen
AI DLP sollte nützliche Informationen für das Sicherheitsteam erzeugen, nicht nur mehr Warnmeldungen.
Verfolgen Sie, welche KI-Dienste Mitarbeiter nutzen, welche Kategorien sensibler Daten erkannt werden, wo Verstöße am häufigsten auftreten, wie oft Nutzer Warnungen übergehen und welche Teams wiederholt auf dasselbe Richtlinienproblem stoßen. Diese Muster können aufzeigen, wo Mitarbeiter bessere Anleitung brauchen oder wo ein genehmigter KI-Workflow sicherer wäre als wiederholte Ausnahmen.
NIST beschreibt KI-Risikomanagement als eine fortlaufende Tätigkeit statt einer einmaligen Überprüfung. Dieser Ansatz ist besonders relevant für generative KI, da sich Tools, Integrationen, Mitarbeiterverhalten und verfügbare Kontrollen ständig ändern.
Ein praktisches Programm zur Verhinderung von Datenverlust bei KI kombiniert daher Sichtbarkeit, Datenklassifizierung, verhältnismäßige Durchsetzung und Mitarbeiterschulung. Sicherheitsteams müssen nicht jeden harmlosen Prompt prüfen. Sie brauchen genug Kontext, um die Momente zu erkennen, in denen sensible Informationen im Begriff sind, eine Grenze zu überschreiten, die die Organisation nicht beabsichtigt hat.
Der Grund, warum die Durchsetzung vor der Übermittlung erfolgen muss, ist einfach: Sobald ein Prompt einen KI-Dienst erreicht, kann er nicht mehr zurückgeholt werden. Eine Warnung, die ausgelöst wird, nachdem der Kundendatensatz bereits gesendet wurde, ist eine Aufzeichnung eines Vorfalls, keine Kontrolle. Auf diesem Prinzip ist Sanitized AI aufgebaut. Es erfasst sensible Informationen in einem Prompt und schwärzt sie, bevor die Übermittlung die Hände des Mitarbeiters verlässt, sodass die Aufgabe dennoch erledigt wird, ohne dass die Kontonummer, das Zugangsdatum oder die Vertragsklausel eine Grenze überschreitet, die die Organisation nie beabsichtigt hat.
Wählen Sie in diesem Quartal einen KI-Workflow mit hohem Volumen aus, auf den sich Ihre Teams bereits verlassen, etwa Support-Mitarbeiter, die Tickets zusammenfassen, oder Ingenieure, die Code einfügen, und bilden Sie genau ab, welche Datenkategorien durch ihn fließen und wo Ihre bestehenden Kontrollen sie sehen können. Diese eine Inventarisierung wird Ihnen zeigen, ob Sie bessere Anleitung, einen genehmigten Workflow oder eine Durchsetzung benötigen, die handelt, bevor der Prompt gesendet wird. Wenn Sie sehen möchten, wie Schwärzung vor der Übermittlung gegen Ihre eigenen Szenarien funktioniert, fordern Sie eine Demo an.