Was ist Schatten-KI, und warum beunruhigt sie Sicherheitsteams?

Eine Mitarbeiterin öffnet ein kostenloses KI-Tool, um vor einem Meeting ein Dokument zusammenzufassen. Ein anderer nutzt einen Coding-Assistenten, den die IT nie geprüft hat. Jemand fügt einen KI-Meetingbot hinzu, weil er Zeit beim Protokollieren spart. Keiner von ihnen will die Sicherheit umgehen. Sie wählen schlicht die Werkzeuge, die ihre Arbeit erleichtern.

Das ist der Kerngedanke von Schatten-KI: Mitarbeitende nutzen KI-Werkzeuge für ihre Arbeit, ohne dass das Unternehmen sie förmlich genehmigt, verwaltet oder auch nur von ihnen weiß.

Die Sorge ist nicht, dass jedes nicht genehmigte KI-Tool gefährlich wäre. Die Sorge ist, dass Sicherheits- und Datenschutzteams Risiken nicht steuern können, die sie nicht sehen.

Schatten-KI ist vor allem ein Sichtbarkeitsproblem

Schatten-KI ist eng mit Schatten-IT verwandt, also mit Technik, die außerhalb der üblichen Genehmigungs- und Verwaltungsprozesse eingesetzt wird. Das UK National Cyber Security Centre weist ausdrücklich darauf hin, dass Schatten-IT auch ohne Erlaubnis genutzte KI-Technologien umfassen kann, oft Schatten-KI genannt. Es betont ebenso, dass dieses Verhalten in der Regel nicht böswillig ist. Mitarbeitende greifen zu inoffiziellen Werkzeugen, weil genehmigte Optionen fehlen, langsam sind oder nicht den nötigen Funktionsumfang bieten.

Diese Unterscheidung ist wichtig, denn ein Unternehmen, das Schatten-KI nur als Fehlverhalten der Belegschaft behandelt, übersieht womöglich, warum das Verhalten überhaupt entsteht.

Ein Entwickler fügt vielleicht Code in einen öffentlichen Chatbot ein, weil die Fehlersuche über interne Kanäle zu lange dauert. Eine Projektleiterin verbindet einen KI-Transkriptionsdienst mit ihren Meetings, weil niemand klar erklärt hat, ob das erlaubt ist. Das Sicherheitsproblem beginnt dort, wo diese Werkzeuge außerhalb der Kontrollen liegen, auf die sich das Unternehmen sonst verlässt.

Das erste Risiko ist, nicht zu wissen, wohin Unternehmensdaten fließen

KI-Werkzeuge können Geschäftsinformationen über Prompts, Datei-Uploads, Integrationen sowie automatisierte Meeting- oder Workflow-Funktionen erhalten.

Nehmen Sie einen Mitarbeiter, der eine Tabelle hochlädt, damit eine KI Trends erkennt. Ihn interessieren vielleicht nur wenige Spalten, doch die Datei kann auch Kundennamen, E-Mail-Adressen, Umsatzzahlen, interne Notizen oder Kontokennungen enthalten. Wurde das Tool nie geprüft, weiß das Unternehmen womöglich nicht, wie diese Informationen verarbeitet, gespeichert, aufbewahrt oder abgerufen werden.

Das National Cyber Security Centre warnt, dass sich bei nicht verwalteten Diensten kaum nachvollziehen lässt, wo Unternehmensdaten verarbeitet werden oder wo sie letztlich landen. Seine Hinweise zu öffentlichen großen Sprachmodellen raten außerdem davon ab, sensible Informationen in Anfragen aufzunehmen, wenn ihre Offenlegung ein Problem wäre.

Das heißt nicht, dass jeder KI-Prompt ein Datenleck erzeugt. Es heißt, dass die Fragen, die ein Unternehmen einem Anbieter normalerweise stellen würde, vielleicht nie gestellt wurden.

Schatten-KI reißt auch Lücken in die Governance

Ein Unternehmen kann eine KI-Richtlinie, eine Liste genehmigter Anbieter, Regeln zur Datenklassifizierung und einen Incident-Response-Prozess haben. Diese Kontrollen greifen nur, wenn Mitarbeitende Systeme nutzen, die auch darunterfallen.

Führt eine Abteilung still einen neuen KI-Dienst ein, wissen Sicherheitsteams womöglich nicht, wer Zugriff hat, welche Daten übermittelt werden oder ob der Dienst seine Bedingungen geändert hat.

Das Generative Artificial Intelligence Profile des NIST empfiehlt, ein Inventar generativer KI-Systeme zu führen und dabei Aspekte wie Datenherkunft, menschliche Aufsicht, sensible Daten, zugrunde liegende Modelle und Zugriffswege zu berücksichtigen.

Ein Inventar klingt nach Verwaltung, löst aber ein praktisches Problem. Sie können nicht entscheiden, welche KI-Systeme strengere Kontrollen brauchen, solange Sie nicht wissen, welche Systeme tatsächlich genutzt werden.

Ein KI-Verbot beseitigt Schatten-KI nicht zwangsläufig

Ein pauschales Verbot wirkt wie die einfachste Antwort. In der Praxis kann es nützliche KI-Aktivität nur noch weiter aus dem Blickfeld drängen.

Mitarbeitende greifen zu inoffizieller Technik, weil sie eine echte Aufgabe zu erledigen haben. Bietet der genehmigte Weg keine vernünftige Alternative, finden manche trotzdem ein anderes Werkzeug.

Eine bessere Reaktion beginnt damit, den Bedarf zu verstehen. Welche Teams nutzen KI? Welche Aufgaben wollen sie lösen? Welche Werkzeuge sind beliebt, und warum wählen Mitarbeitende gerade diese?

Manche Werkzeuge verdienen eine formelle Genehmigung. Andere müssen blockiert werden, weil ihre Datenpraktiken oder Sicherheitskontrollen die Anforderungen nicht erfüllen. Bestimmte Anwendungsfälle sind nur akzeptabel, wenn Mitarbeitende zuvor sensible Informationen entfernen.

Das ergibt eine deutlich brauchbarere Orientierung als eine Regel, die schlicht sagt: „Nutzen Sie keine KI."

Achten Sie auf das Verhalten, nicht nur auf eine Liste von Websites

Schatten-KI verändert sich schnell. Eine Liste gesperrter Chatbot-Domains erfasst einen Teil der Aktivität, doch KI-Funktionen stecken zunehmend in Browsern, Produktivitätsanwendungen, Meeting-Software, Entwicklungsumgebungen und anderen Diensten.

Sicherheitsteams sollten deshalb in Handlungen und Datenflüssen denken. Nützliche Fragen sind: Laden Mitarbeitende sensible Dateien zu nicht genehmigten Diensten hoch? Geben sie personenbezogene oder vertrauliche Informationen in KI-Prompts ein? Verbinden sie KI-Anwendungen von Drittanbietern mit Unternehmenskonten?

Ziel ist nicht, jedes Gespräch mitzulesen. Überwachung sollte verhältnismäßig sein und sich an Unternehmensrisiko, Datenschutzerwartungen und berechtigten Sicherheitsbedürfnissen ausrichten.

Geben Sie Mitarbeitenden einen genehmigten Weg

Der wirksamste Weg, Schatten-KI zu verringern, besteht oft darin, die sicherere Option zur einfacheren zu machen.

Mitarbeitende sollten wissen, welche KI-Tools genehmigt sind, welche Informationen sie eingeben dürfen, welche Arten von Informationen eingeschränkt sind und an wen sie sich wenden, wenn sie einen neuen Dienst ausprobieren möchten. Genehmigungsprozesse sollten außerdem praktikabel genug sein, dass niemand das Gefühl hat, sie umgehen zu müssen.

Unterstützen lässt sich das durch kurze Schulungen, klare Beispiele, genehmigte Unternehmenstools und ein unkompliziertes Verfahren, neue KI-Anwendungen zu beantragen.

Schatten-KI ist letztlich ein Signal. Sie zeigt, wo Mitarbeitende Nutzen in KI sehen und wo Governance, Werkzeuge oder Schulung noch nicht dort angekommen sind, wo tatsächlich gearbeitet wird.

Sicherheitsteams müssen nicht über Nacht jedes nicht genehmigte Experiment abstellen. Ein besserer Ausgangspunkt: Sichtbarkeit gewinnen, verstehen, warum bestimmte Werkzeuge genutzt werden, sensible Daten schützen und genehmigte Alternativen anbieten, die denselben Bedarf decken.

Genau dort muss die Kontrolle ansetzen. Ist ein Prompt einmal an ein öffentliches Tool übermittelt, lässt er sich nicht zurückholen — der wirksame Moment ist deshalb der unmittelbar davor. Auf diesem Prinzip baut Sanitized AI auf: Sensible Inhalte werden erkannt und geschwärzt, bevor der Prompt das KI-Tool erreicht, und die Person erhält eine Erklärung in klarer Sprache, während sie noch arbeitet. Aus dem Beinahe-Vorfall wird ein Lernmoment, und der genehmigte Weg wird zum einfachen.

Die Frage, die sich dieses Quartal zu beantworten lohnt, ist nicht, wie viele KI-Tools Sie gesperrt haben. Sondern ob Sie die benennen könnten, die Ihre Teams letzte Woche genutzt haben — und sagen könnten, was mit ihnen abgeflossen ist. Wenn Sie sehen möchten, wie diese Sichtbarkeit in der Praxis aussieht, fordern Sie eine Demo an.