KI-Datenschutz: Was Unternehmen wissen müssen, bevor Mitarbeitende KI-Tools nutzen

KI-Tools sind bereits Teil des Arbeitsalltags. Mitarbeitende nutzen sie, um Notizen zusammenzufassen, E-Mails umzuschreiben, Dokumente zu prüfen, Code zu generieren und Recherchen zu organisieren. Die Datenschutzfrage ist nicht, ob Mitarbeitende diese Tools nützlich finden. Sie lautet vielmehr, ob die Organisation versteht, welche Informationen eingegeben werden, wohin diese Informationen gelangen und welche Kontrollen greifen, bevor sensible Daten Teil eines Prompts werden.

Damit ist der KI-Datenschutz weniger ein einzelnes technisches Problem als vielmehr ein Problem der Arbeitsprozesse. Ein Unternehmen kann strenge Datenschutzrichtlinien haben und dennoch Risiken schaffen, wenn Mitarbeitende nicht wissen, was sie bedenkenlos in ein KI-Tool einfügen können.

Beginnen Sie damit, zu verstehen, was Mitarbeitende tatsächlich teilen

Ein KI-Prompt kann weit mehr sensible Informationen enthalten, als der oder die Mitarbeitende annimmt. Eine Support-Kraft könnte eine Kundenbeschwerde in einen KI-Assistenten einfügen, um eine prägnante Antwort zu erstellen. Die Beschwerde könnte einen Namen, eine E-Mail-Adresse, eine Kontonummer, eine Kaufhistorie oder Details zu einer persönlichen Situation enthalten.

Der oder die Mitarbeitende denkt möglicherweise nur an die Aufgabe, die erledigt werden soll. Aus Datenschutzsicht muss die Organisation jedoch auch die im Prompt enthaltenen Informationen berücksichtigen.

Bevor Sie KI-Tools freigeben, ermitteln Sie die Arten von Daten, mit denen Mitarbeitende regelmäßig umgehen. Dazu können Kundendaten, Mitarbeiterinformationen, Finanzdaten, Verträge, interne Strategiedokumente, Quellcode, Zugangsdaten oder Informationen gehören, die unter Vertraulichkeitspflichten fallen.

Eine hilfreiche Faustregel ist einfach: Wenn die Organisation zögern würde, die Information in ein unbekanntes Drittanbietersystem einzugeben, sollten Mitarbeitende sie auch nicht automatisch in ein KI-Tool eingeben.

Gehen Sie nicht davon aus, dass jedes KI-Konto Daten gleich behandelt

Der Name des KI-Anbieters ist nur ein Teil der Datenschutzfrage. Kontotyp, Produkt, Einstellungen und Vertrag können beeinflussen, wie Daten behandelt werden.

So gibt OpenAI beispielsweise an, dass Daten aus ChatGPT Business, Enterprise, Edu, Healthcare, Teachers und seiner API-Plattform standardmäßig nicht zum Training seiner Modelle verwendet werden. Persönliche ChatGPT-Arbeitsbereiche verfügen über andere Datenkontrollen, darunter eine Einstellung, mit der Nutzende der Verwendung neuer Konversationen zur Modellverbesserung widersprechen können.

Deshalb ist eine Richtlinie, die lediglich besagt „Mitarbeitende dürfen ChatGPT nutzen“, unvollständig. Die Organisation sollte festlegen, welches Konto oder welchen Arbeitsbereich Mitarbeitende nutzen sollen und welche Dienste tatsächlich geprüft wurden.

Sicherheits- und Datenschutzteams sollten fragen:

• Handelt es sich um ein freigegebenes Geschäftskonto oder ein persönliches Konto?
• Werden eingereichte Inhalte zum Modelltraining verwendet?
• Wie lange werden Prompts und Dateien aufbewahrt?
• Können Administratoren die Aufbewahrung konfigurieren?
• Sind Apps oder Integrationen von Drittanbietern aktiviert?
• Wo werden Organisationsdaten gespeichert oder verarbeitet?
• Welche Zugriffs-, Prüf- und Verwaltungskontrollen sind verfügbar?

Die Antworten sollten dokumentiert werden, statt sie den einzelnen Mitarbeitenden zur Recherche zu überlassen.

Reduzieren Sie die Menge personenbezogener Informationen in Prompts

Eine der einfachsten Möglichkeiten, das KI-Datenschutzrisiko zu senken, besteht darin, Informationen nicht weiterzugeben, die für die Aufgabe nicht erforderlich sind.

Angenommen, ein oder eine Mitarbeitende möchte, dass ein KI-Assistent die Formulierung einer Kunden-E-Mail verbessert. Das Modell benötigt möglicherweise die Bedeutung und den Tonfall der Nachricht, aber wahrscheinlich nicht den vollständigen Namen, die Telefonnummer, die Adresse, die Kontonummer oder andere identifizierende Angaben des Kunden.

Das Entfernen oder Ersetzen dieser Angaben vor der Übermittlung begrenzt eine unnötige Offenlegung. Dieser Gedanke deckt sich mit den Datenschutzempfehlungen kanadischer Datenschutzbehörden, die betonen, personenbezogene Daten auf das für einen angemessenen Zweck Notwendige zu beschränken und beim Einsatz generativer KI datenschutzfreundliche Ansätze zu verwenden.

Unternehmen können dies erleichtern, indem sie Mitarbeitenden Beispiele dafür geben, was zu entfernen ist, statt sich auf vage Anweisungen wie „Teilen Sie keine sensiblen Informationen“ zu verlassen.

Geben Sie Mitarbeitenden einen klaren Entscheidungsprozess an die Hand

Eine nützliche KI-Richtlinie sollte jemandem helfen, im entscheidenden Moment eine Entscheidung zu treffen.

Bevor Mitarbeitende Arbeitsinformationen in ein KI-Tool eingeben, sollten sie sich fragen können:

1. Ist dieses Tool von der Organisation freigegeben?
2. Enthält der Prompt personenbezogene, vertrauliche, regulierte oder geschützte Informationen?
3. Kann ich die Aufgabe erledigen, nachdem ich identifizierende oder sensible Details entfernt habe?
4. Lade ich ein Dokument hoch, das mehr Informationen enthält, als das Modell tatsächlich benötigt?
5. Wäre es mir angenehm, diese Datennutzung gegenüber dem Kunden, dem oder der Mitarbeitenden oder dem Geschäftspartner zu erklären, auf den sie sich bezieht?

Wenn die Antwort unklar ist, sollten Mitarbeitende wissen, wo sie Unterstützung erhalten.

Ein solcher Prozess ist nützlicher als eine lange Richtlinie, die Mitarbeitende selten lesen.

Behandeln Sie KI-Datenschutz als fortlaufende Governance-Aufgabe

KI-Tools, Funktionen, Integrationen und Anbieterrichtlinien ändern sich. Eine einmal erteilte Freigabe sollte nicht als dauerhaft betrachtet werden.

Das AI Risk Management Framework des National Institute of Standards and Technology und dessen Generative AI Profile ermutigen Organisationen, KI-Risiken als fortlaufenden Prozess statt als einmalige Prüfung zu handhaben.

In der Praxis bedeutet das, dass Organisationen freigegebene Tools, die Nutzung durch Mitarbeitende, Aufbewahrungseinstellungen, Integrationen, neue Anwendungsfälle und Vorfälle mit unangemessener Datenweitergabe regelmäßig überprüfen sollten.

Das Ziel ist nicht, eine sinnvolle KI-Einführung zu blockieren. Es geht darum, genügend Transparenz und Orientierung zu schaffen, damit Mitarbeitende KI nutzen können, ohne raten zu müssen, wo die Datenschutzgrenzen liegen.

Für die meisten Organisationen ist der beste Ausgangspunkt unkompliziert: Wissen Sie, welche KI-Tools Mitarbeitende nutzen, legen Sie fest, welche Informationen nicht übermittelt werden dürfen, geben Sie die richtigen Geschäftsumgebungen frei, bringen Sie Mitarbeitenden bei, wie sie unnötige sensible Daten entfernen, und überdenken Sie diese Entscheidungen, während sich die Technologie verändert.

Alle hier beschriebenen Kontrollen teilen eine Einschränkung: Ist ein Prompt einmal übermittelt, lässt er sich nicht mehr zurückrufen. Eine Aufbewahrungseinstellung oder eine Richtlinienprüfung hilft Ihnen zu durchdenken, was als Nächstes passiert, doch keine von beiden macht den Moment rückgängig, in dem die Kontonummer eines Kunden oder eine vertrauliche Vertragsklausel die Hände des Mitarbeitenden verlässt. Deshalb ist der zuverlässigste Ort, um eine Datenschutzgrenze durchzusetzen, bevor der Prompt das Tool erreicht, nicht danach. Auf diesem Prinzip baut Sanitized AI auf: sensible Details aus einem Prompt zu erkennen und zu schwärzen, bevor er übermittelt wird, sodass nur die sichere Version der Anfrage jemals das KI-Tool erreicht.

Wählen Sie in diesem Quartal einen Arbeitsablauf, bei dem Mitarbeitende routinemäßig echte Arbeitsdaten in einen KI-Assistenten einfügen, etwa Kundensupport-Antworten oder Dokumentzusammenfassungen, und erfassen Sie genau, welche identifizierenden oder regulierten Informationen typischerweise mit diesen Prompts mitwandern. Diese eine Bestandsaufnahme zeigt Ihnen, wo Orientierung allein nicht ausreicht und wo eine Kontrolle, die vor der Übermittlung greift, die Lücke schließen würde. Wenn Sie sehen möchten, wie sich diese Grenze automatisch durchsetzen lässt, fordern Sie eine Demo an.