Die Opt-Out-Illusion: Warum die Deaktivierung des KI-Trainings Ihre Daten nicht sicher macht

Eine Datenschutzbeauftragte, mit der ich letzten Monat sprach, ging mit vermeintlich guten Neuigkeiten in das Büro ihres CISO. Der ChatGPT Enterprise-Account des Unternehmens hatte das Training deaktiviert (Opt-Out). Daten wurden nicht zur Verbesserung von Modellen verwendet. Die Rechtsabteilung hatte das DPA (Data Processing Agreement) geprüft. Alle atmeten auf.

Zwei Wochen später fügte ein Ingenieur die vollständige Krankengeschichte eines Kunden in einen Prompt ein, um eine Support-Antwort zu entwerfen. Das Opt-Out funktionierte genau wie beworben. Die Daten verließen dennoch das Gebäude.

Dies ist die Lücke, die Organisationen immer wieder überrascht. "Trainieren Sie nicht mit unseren Daten" ist ein enges Versprechen über eine spezifische nachgelagerte Nutzung. Es sagt fast nichts darüber aus, wer den Prompt auf dem Übertragungsweg sehen kann, wo er zur Missbrauchsüberwachung protokolliert wird, wie lange er in Aufbewahrungswarteschlangen liegt oder was Ihr Mitarbeiter überhaupt erst eingegeben hat.

Die Kontrolle, die Sie gekauft haben, ist nicht die Kontrolle, die Sie brauchten

Die meisten Enterprise-KI-Vereinbarungen lösen das Problem des Modelltrainings, weil dies die schlagzeilenträchtige Sorge ist, die früh in den Datenschutzdiskurs Eingang fand. Die Anbieter haben reagiert. Opt-Outs für das Training sind mittlerweile Standard.

Die tatsächliche Risikofläche sieht in der Praxis anders aus. Ein regulierter Datensatz wird nicht unreguliert, weil der Anbieter versprochen hat, nicht daraus zu lernen. HIPAA, die DSGVO und die meisten vertraglichen Vertraulichkeitsverpflichtungen kümmern sich um die Offenlegung, nicht um das Training. In dem Moment, in dem ein geschützter Datensatz eine autorisierte Umgebung verlässt, haben Sie ein Expositionsereignis, unabhängig davon, was der Empfänger danach damit macht.

Der Schalter für das Training ist eine Komfortdecke über einem viel größeren Problem.

Wo das eigentliche Leck entsteht

Das Leck beginnt fast nie beim Modell. Es beginnt bei einer Person, die unter Zeitdruck steht und das fähigste Tool, das sie hat, um Hilfe bei der anstehenden Aufgabe bittet. Sie fügen einen Vertrag ein. Eine Patientenakte. Ein Vorstands-Dokument. Eine Liste von Kunden-E-Mails.

Die Entscheidung, auf die es ankam, fiel, bevor der Prompt gesendet wurde. Sobald es sich in der Netzwerkanfrage befindet, ist jede nachgelagerte Kontrolle nur noch Schadensbegrenzung.

Aus diesem Grund scheitert eine Governance, die nur auf Anbietervereinbarungen aufbaut, immer wieder bei Audits und überrascht Vorstände. Sie optimiert die falsche Ebene. Der Fehlerpunkt ist der Tastendruck, nicht der Vertrag.

Was sich ändert, wenn Sie weiter an den Ursprung gehen

Wenn Sie eine sichere KI-Einführung anstelle einer eingeschränkten KI-Einführung wünschen, muss die Kontrolle dort ansetzen, wo das Risiko tatsächlich entsteht – in dem Moment, in dem der Prompt verfasst wird, auf dem Gerät, bevor überhaupt etwas über das Netzwerk geht. Das bedeutet, dass überprüft werden muss, was im Begriff ist zu gehen, regulierte Inhalte gekennzeichnet werden müssen und dem Mitarbeiter ein Weg aufgezeigt werden muss, der ihn nicht zwingt, zwischen seiner Deadline und den Richtlinien des Unternehmens zu wählen.

Das ist das Prinzip hinter Sanitized AI: Prävention am Punkt der Eingabe (Prompting), lokal verarbeitet, sodass das Opt-Out ein nützliches Versprechen des Anbieter bleibt und kein tragender Pfeiler.

Die Frage des Trainings ist real. Es ist nur nicht diejenige, die bestimmt, ob Ihre Daten dort bleiben, wo sie hingehören.