KI-Tools können lange Teil der täglichen Arbeit werden, bevor ein formelles KI-Programm besteht. Mitarbeitende nutzen Chatbots, um E-Mails zu entwerfen, Coding-Assistenten, um Software-Probleme zu beheben, Meeting-Tools, um Gespräche zusammenzufassen, oder KI-Funktionen, die bereits in Produktivitätsanwendungen eingebaut sind. Sicherheits- und Datenschutzteams wissen vielleicht, dass es diese Aktivität gibt, ohne ein klares Bild davon zu haben, wie verbreitet sie ist.
Die Überwachung der KI-Nutzung soll diese Sichtbarkeitslücke schließen. Sie hilft einer Organisation zu verstehen, welche KI-Dienste Mitarbeitende nutzen, welche Arten von Informationen an sie gesendet werden könnten und ob die Aktivität den Unternehmensrichtlinien entspricht. Gut gemacht, unterstützt Überwachung eine sicherere Einführung von KI. Schlecht gemacht, kann sie zu viele Mitarbeiterdaten erheben und dennoch die Risiken übersehen, auf die es ankommt.
Beginnen Sie mit den Fragen, die Sie tatsächlich beantworten müssen
Bevor Sie Protokolle sammeln oder Kontrollen einführen, legen Sie fest, was die Organisation wissen muss.
Für viele Teams gehören dazu die Fragen, welche KI-Dienste genutzt werden, ob diese Dienste genehmigt sind, welche Abteilungen sie am häufigsten verwenden, ob Mitarbeitende Dateien hochladen und ob sensible Daten übermittelt werden. Diese Fragen unterscheiden sich davon, jeden Prompt aufzuzeichnen, den ein Mitarbeitender schreibt.
Die Office of the Privacy Commissioner of Canada rät Arbeitgebern, die Überwachung am Arbeitsplatz spezifisch, gezielt, verhältnismäßig und möglichst wenig eingreifend zu halten. Sie empfiehlt außerdem, die Erhebung auf das für den angegebenen Zweck Notwendige zu beschränken und Mitarbeitende transparent über Art und Umfang der Überwachung zu informieren.
Dieser Grundsatz ist ein nützlicher Ausgangspunkt für KI. Wenn die Erkenntnis, dass eine eingeschränkte Datenkategorie erkannt wurde, ausreicht, um eine Richtlinie durchzusetzen, ist es womöglich nicht nötig, die gesamte Unterhaltung zu speichern.
Tools, Konten und Datenflüsse überwachen
KI-Nutzung findet nicht nur auf öffentlichen Chatbot-Websites statt. Mitarbeitende können über Browser-Erweiterungen, Entwicklungsumgebungen, Meeting-Assistenten, Office-Software, Suchwerkzeuge, Kundenservice-Systeme und andere Anwendungen auf KI zugreifen.
Sicherheitsteams sollten deshalb nach mehreren Arten von Signalen suchen. Web- und Netzwerkaktivität kann helfen, unbekannte KI-Dienste zu erkennen. Identitätssysteme können neue, mit Unternehmenskonten verbundene Anwendungen zeigen. Beschaffungsunterlagen können kostenpflichtige KI-Tools offenlegen, die einzelne Abteilungen gekauft haben. Endpoint- oder Cloud-Sicherheitstools können zusätzliche Sichtbarkeit auf Dienste und Dateiübertragungen bieten.
Das britische National Cyber Security Centre weist darauf hin, dass Technologien wie Cloud Access Security Brokers (CASBs) und Secure Access Service Edge (SASE) Plattformen Organisationen helfen können, nicht genehmigte Cloud-Dienste zu erkennen und mehr Einblick in die Netzwerkaktivität zu gewinnen.
Kein einzelnes Signal liefert ein vollständiges Bild. Mehrere Quellen zu kombinieren ist meist nützlicher, als sich auf eine statische Liste von KI-Websites zu verlassen.
Nutzung von riskanter Nutzung trennen
Eine große Zahl von KI-Interaktionen bedeutet nicht zwangsläufig, dass eine Organisation ein großes Sicherheitsproblem hat.
Ein Mitarbeitender, der einen KI-Assistenten nutzt, um öffentliche Marketingtexte umzuformulieren, erzeugt ein ganz anderes Risiko als jemand, der eine Tabelle mit Kundendaten in einen nicht genehmigten Dienst hochlädt. Überwachung wird nützlicher, wenn sie genug Kontext erfasst, um diese Situationen zu unterscheiden.
Sicherheits- und Datenschutzteams können Faktoren wie das Ziel, ob das Tool genehmigt ist, die erkannte Datenart, ob eine Datei hochgeladen wurde und die von der Kontrolle ergriffene Maßnahme berücksichtigen. Ziel ist es, bedeutsame Richtlinienverstöße zu erkennen, statt jede KI-Interaktion als verdächtig zu behandeln.
Das Generative Artificial Intelligence Profile des NIST soll Organisationen helfen, die mit generativer KI verbundenen Risiken während ihrer Nutzung und Bewertung zu steuern. Das umfassendere AI Risk Management Framework ermutigt Organisationen, KI-Risiken als fortlaufenden Prozess zu identifizieren, zu bewerten, zu steuern und zu überwachen.
Auf wiederkehrende Muster achten
Ein blockierter Prompt kann ein Fehler eines Mitarbeitenden sein. Fünfzig ähnliche Warnungen aus derselben Abteilung können auf ein Workflow-Problem hindeuten.
Angenommen, ein Finanzteam versucht wiederholt, interne Tabellen zur Analyse in KI-Tools hochzuladen. Die unmittelbare Reaktion könnte sein, sensible Uploads zu blockieren. Die längerfristige Reaktion sollte fragen, warum das Team immer wieder dieselbe Handlung versucht. Vielleicht braucht es eine genehmigte KI-Umgebung, die die Aufgabe sicher unterstützen kann.
Überwachungsdaten können zeigen, wo Richtlinie und tatsächliche Arbeit auseinanderklaffen. Die wiederholte Nutzung eines nicht genehmigten Meeting-Assistenten kann darauf hindeuten, dass Mitarbeitende ein freigegebenes Transkriptionstool brauchen. Häufige Funde von Zugangsdaten in Coding-Prompts können nahelegen, dass Entwickler klarere Vorgaben oder bessere Praktiken im Umgang mit Geheimnissen benötigen.
Muster können Überwachung von einer Compliance-Übung in eine Quelle betrieblicher Erkenntnisse verwandeln.
Gegenüber Mitarbeitenden transparent sein
Mitarbeitende sollten verstehen, was die Organisation überwacht und warum.
Eine Richtlinie kann erklären, dass das Unternehmen den Zugriff auf KI-Dienste, bestimmte Dateiübertragungen oder Kategorien sensibler Daten überwacht, um Unternehmens- und Kundeninformationen zu schützen. Sie sollte, wo es relevant ist, auch erklären, was nicht erhoben wird.
Kanadische Datenschutzleitlinien betonen Transparenz, Erforderlichkeit, Verhältnismäßigkeit und Schutzmaßnahmen bei der Mitarbeiterüberwachung. Der Zugriff auf Überwachungsdaten sollte auf Personen beschränkt sein, die ihn wirklich benötigen, und die Aufbewahrung sollte auf den für den angegebenen Sicherheits- oder Governance-Zweck notwendigen Zeitraum begrenzt sein.
Klare Kommunikation hilft Mitarbeitenden außerdem zu verstehen, dass die Überwachung die sichere Nutzung von KI unterstützen soll und nicht heimlich jede ihrer Fragen bewertet.
Messen, ob Überwachung zu besseren Entscheidungen führt
Ein nützliches Überwachungsprogramm sollte Maßnahmen hervorbringen, nicht nur Dashboards.
Teams können die Zahl neu entdeckter KI-Dienste, die am häufigsten erkannten Kategorien sensibler Daten, den Anteil der Aktivität in genehmigten Umgebungen, wiederkehrende Richtlinienprobleme und die Zeit für die Prüfung neuer Tools verfolgen. Diese Kennzahlen können zeigen, ob sich die KI-Governance im Lauf der Zeit verbessert.
Das beste Ergebnis ist nicht null KI-Aktivität. Es ist mehr Sichtbarkeit darüber, wie KI genutzt wird, weniger unnötige Datenexpositionen und klarere genehmigte Wege für Mitarbeitende, die KI produktiv einsetzen möchten.
Die Überwachung der KI-Nutzung funktioniert, wenn sie Organisationen hilft, genug zu sehen, um Risiken zu steuern, ohne Informationen nur deshalb zu erheben, weil es möglich ist. Konzentrieren Sie sich auf Tools, sensible Daten, Ziele und Muster. Diese Signale sagen Sicherheits- und Datenschutzteams meist weit mehr als eine Datenbank mit jedem Prompt der Mitarbeitenden.
Überwachung hat eine eingebaute Grenze: Sie kann zeigen, was gesendet wurde, doch sobald ein Prompt abgesendet ist, lässt er sich nicht zurückholen. Eine Warnung über eine Kundentabelle oder ein eingefügtes Passwort kommt, nachdem die Informationen das Tool bereits erreicht haben. Auf diesem Prinzip basiert Sanitized Ai: sensible Daten in Prompts und Uploads werden erkannt und geschwärzt, bevor der Prompt das Tool erreicht, sodass die Signale, die Ihr Team prüft, verhinderte Expositionen beschreiben statt solcher, die bereinigt werden müssen.
Notieren Sie in diesem Quartal die fünf Fragen, die Ihre Sicherheits- und Datenschutzteams von der Überwachung der KI-Nutzung am dringendsten beantwortet haben möchten, und vergleichen Sie sie mit dem, was Sie heute sehen können. Behalten Sie die Erhebung bei, die nur Kategorien, Ziele und Muster braucht, und streichen Sie jene, die nur existiert, weil sie möglich war. Teilen Sie das Ergebnis dann in verständlicher Sprache mit den Mitarbeitenden. Wenn Sie sehen möchten, wie die Schwärzung vor dem Absenden statt danach erfolgen kann, fordern Sie eine Demo an und gehen Sie Ihren eigenen Workflow mit uns durch.