„Trainiert ChatGPT mit unseren Unternehmensdaten?“ klingt wie eine Ja-oder-Nein-Frage, doch die Antwort hängt davon ab, wie Mitarbeiter ChatGPT nutzen.
Ein unternehmensverwalteter ChatGPT-Arbeitsbereich wird anders behandelt als ein persönliches ChatGPT-Konto. Diese Unterscheidung ist wichtig, denn ein Mitarbeiter kann Unternehmensarbeit erledigen, während er in einem persönlichen Konto angemeldet ist, obwohl die Organisation selbst eine genehmigte Geschäftsumgebung erworben hat.
Diesen Unterschied zu verstehen ist nützlicher, als anzunehmen, dass alles, was in ChatGPT eingegeben wird, automatisch für das Training verwendet wird, oder im anderen Extrem davon auszugehen, dass sämtliche Unternehmensinformationen ausgeschlossen sind.
Geschäftsdaten von ChatGPT werden standardmäßig nicht für das Training verwendet
OpenAI erklärt, dass Eingaben oder Ausgaben aus ChatGPT Business, ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare, ChatGPT for Teachers oder seiner API-Plattform standardmäßig nicht verwendet werden, um seine Modelle zu trainieren oder zu verbessern.
Praktisch bedeutet das, dass Prompts und generierte Antworten in diesen Geschäftsprodukten standardmäßig vom Modelltraining ausgeschlossen sind, sofern eine Organisation sich nicht ausdrücklich dafür entscheidet, geeignete Daten zu teilen.
Dies ist ein Grund, warum Unternehmen festlegen sollten, welchen ChatGPT-Arbeitsbereich Mitarbeiter nutzen sollen. Wenn die Organisation eine verwaltete Umgebung genehmigt hat, sollten Mitarbeiter nicht annehmen, dass die Nutzung eines persönlichen Kontos dieselbe Standardbehandlung bietet.
Persönliche ChatGPT-Konten funktionieren anders
Bei Diensten, die für Einzelpersonen gedacht sind, kann OpenAI nach eigenen Angaben Inhalte verwenden, um seine Modelle zu verbessern, sofern der Nutzer dies nicht deaktiviert.
Für persönliche Free-, Plus- und Pro-Arbeitsbereiche von ChatGPT können Nutzer das Modelltraining über Einstellungen, Datenkontrollen und die Einstellung Das Modell für alle verbessern ausschalten. Sobald diese Einstellung deaktiviert ist, werden neue Konversationen nicht zum Training der Modelle von OpenAI verwendet.
Daraus entsteht ein wichtiges Problem am Arbeitsplatz. Wenn ein Mitarbeiter ein persönliches ChatGPT-Konto öffnet und Unternehmensinformationen hineinkopiert, hat die Organisation möglicherweise überhaupt keine Kontrolle über die relevante Datenschutzeinstellung.
Eine Richtlinie, die besagt „Wir verwenden ChatGPT Business“, löst dieses Problem nicht, wenn Mitarbeiter für manche Aufgaben weiterhin zu persönlichen Konten wechseln.
„Nicht für das Training verwendet“ bedeutet nicht „nicht verarbeitet“
Dies ist eine der wichtigsten Unterscheidungen, die Mitarbeiter verstehen sollten.
Ein KI-Dienst muss Informationen dennoch verarbeiten, um auf einen Prompt zu antworten. Das Training ist eine separate Frage danach, ob dieser Inhalt später verwendet wird, um die Modelle des Anbieters zu verbessern.
Die Tatsache, dass Geschäftsdaten standardmäßig vom Training ausgeschlossen sind, bedeutet nicht, dass Organisationen Aufbewahrung, Zugriff, Sicherheit oder Vertraulichkeit ignorieren können. OpenAI erklärt, dass Geschäftsdaten im Ruhezustand und bei der Übertragung verschlüsselt werden und dass qualifizierte Organisationen bestimmte Aufbewahrungskontrollen konfigurieren können.
Unternehmen sollten dennoch prüfen, wie lange Informationen aufbewahrt werden, wer darauf zugreifen kann, welche Integrationen aktiviert sind, was mit hochgeladenen Dateien geschieht und ob die beabsichtigte Nutzung internen Richtlinien oder vertraglichen Verpflichtungen entspricht.
Ein verwaltetes Arbeitskonto kann der Organisation außerdem mehr Kontrolle geben
Ein verwaltetes ChatGPT-Konto sollte als Arbeitsplatzsystem behandelt werden.
OpenAI erklärt, dass Administratoren verwalteter ChatGPT-Konten je nach Konfiguration der Organisation und geltendem Recht auf Daten des Kontos zugreifen, sie exportieren, prüfen, aufbewahren oder löschen können. Administratoren können möglicherweise auch verwalten, ob bestimmte Daten zur Modellverbesserung an OpenAI weitergegeben werden, sofern diese Optionen verfügbar sind.
Das bedeutet nicht, dass jeder Vorgesetzte automatisch jede Konversation eines Mitarbeiters lesen kann. OpenAI erklärt beispielsweise, dass gewöhnliche Mitglieder eines ChatGPT-Business-Arbeitsbereichs nicht automatisch die privaten Chatverläufe der anderen sehen.
Der entscheidende Punkt ist, dass ein unternehmensverwaltetes Konto der Organisation Governance-Optionen bietet, die nicht verfügbar sind, wenn Mitarbeiter ihre Arbeit über nicht zugehörige persönliche Konten erledigen.
Machen Sie das Training nicht zur einzigen Datenschutzfrage
Mitarbeiter fragen manchmal, ob ein Anbieter mit ihren Daten trainiert, als ob dies bestimmen würde, ob es sicher ist, die Informationen einzugeben.
Dem ist nicht so.
Stellen Sie sich vor, ein Mitarbeiter hat ein noch nicht veröffentlichtes Übernahmedokument. Selbst wenn die genehmigte KI-Umgebung Geschäftsdaten vom Modelltraining ausschließt, kann das Dokument dennoch durch interne Richtlinien, eine Vertraulichkeitsvereinbarung oder eine rechtliche Verpflichtung beschränkt sein. Der Mitarbeiter sollte es nicht einfach hochladen, nur weil das Modelltraining deaktiviert ist.
Dasselbe Prinzip gilt für Kundendaten, Passwörter, privaten Quellcode, geschütztes Material, Mitarbeiterinformationen und andere sensible Daten.
Bevor Sie Unternehmensinformationen eingeben, fragen Sie sich, ob die Organisation diese Art von Daten für diesen speziellen KI-Workflow genehmigt hat.
Was sollten Mitarbeiter prüfen, bevor sie ChatGPT für die Arbeit nutzen?
Ein einfacher Ablauf kann die meisten Missverständnisse verhindern.
Prüfen Sie zunächst, welches Konto Sie verwenden. Wenn Ihr Arbeitgeber einen verwalteten ChatGPT-Arbeitsbereich bereitstellt, nutzen Sie diese Umgebung für genehmigte Arbeit anstelle eines persönlichen Kontos.
Berücksichtigen Sie zweitens die Information selbst. Enthält der Prompt Kundendaten, vertrauliche Dokumente, Zugangsdaten, geschützten Code oder etwas anderes, das das Unternehmen einschränkt?
Entfernen Sie drittens Informationen, die das Modell nicht benötigt. Eine Kunden-E-Mail lässt sich oft umformulieren, ohne den Namen des Kunden, die Kontonummer, die Adresse oder andere identifizierende Details einzubeziehen.
Befolgen Sie schließlich die Richtlinie der Organisation, auch wenn das Produkt starke Datenschutzkontrollen bietet. Technische Einstellungen ersetzen nicht die Unternehmensregeln dazu, welche Informationen mit einem externen Dienst geteilt werden dürfen.
Also, trainiert ChatGPT mit Unternehmensdaten?
Für die aktuellen Geschäftsprodukte von OpenAI lautet die Standardantwort nein. OpenAI erklärt, dass es seine Modelle standardmäßig nicht mit Eingaben und Ausgaben aus seinen Geschäftsangeboten trainiert.
Für persönliche ChatGPT-Dienste können Inhalte zur Verbesserung der Modelle verwendet werden, sofern der Nutzer dies nicht über die verfügbaren Datenkontrollen deaktiviert.
Deshalb sollten Unternehmen präzise sein, wenn sie über den Datenschutz von ChatGPT sprechen. Die Frage ist nicht einfach, ob ein Mitarbeiter „ChatGPT nutzt“. Kontotyp, Arbeitsbereich, Einstellungen und die eingegebenen Informationen spielen alle eine Rolle.
Eine klare Arbeitsplatzregel ist leichter zu befolgen: Nutzen Sie die genehmigte Unternehmensumgebung, halten Sie beschränkte Informationen fern, sofern der Workflow nicht autorisiert wurde, und nehmen Sie niemals an, dass ein persönliches ChatGPT-Konto denselben Standardeinstellungen folgt wie ein verwalteter Geschäftsarbeitsbereich.
Die Trainingsfrage ist immer nur die halbe Wahrheit, denn sobald ein Prompt ChatGPT erreicht, kann er nicht zurückgerufen, bearbeitet oder rückgängig gemacht werden. Ob der Inhalt später zur Modellverbesserung verwendet wird oder nicht, das sensible Material hat die Kontrolle der Organisation bereits in dem Moment verlassen, in dem der Mitarbeiter die Eingabetaste drückt. Auf diesem Prinzip baut Sanitized AI auf: Die entscheidende Kontrolle muss handeln, bevor der Prompt eingereicht wird, indem sie beschränkte Informationen erfasst und schwärzt, sodass Kontotyp und Datenschutzeinstellungen zur zweiten Verteidigungslinie werden statt zur einzigen.
Wählen Sie in diesem Quartal einen stark frequentierten KI-Workflow in Ihrer Organisation und halten Sie zwei Dinge fest: welche ChatGPT-Umgebung Mitarbeiter dafür nutzen sollen und welche Informationskategorien unabhängig von den Datenschutzeinstellungen niemals in diesen Workflow gelangen dürfen. Diese eine dokumentierte Regel verwandelt eine vage Sorge über das Training in eine durchsetzbare Erwartung. Wenn Sie sehen möchten, wie Schwärzung diese Regel durchsetzen kann, bevor ein Prompt überhaupt eingereicht wird, fordern Sie eine Demo an.