Shadow AI in klinischen Arbeitsabläufen: Der blinde Fleck, den die EMR-Sicherheit übersieht

Eine Pflegefachkraft beendet einen komplexen Termin, öffnet einen neuen Browser-Tab und fügt die Behandlungsnotiz in ChatGPT ein, um einen sauberen Überweisungsbrief zu entwerfen. Die Notiz enthält den Namen der Patientin, das Geburtsdatum, eine Diagnose und eine Medikamentenliste. Der Überweisungsbrief kommt in Sekunden geschliffen zurück. Das EMR-System im Tab nebenan – mit rollenbasierter Zugriffskontrolle, Audit-Protokollen und Verschlüsselung im Ruhezustand – hat nichts davon aufgezeichnet. Die geschützten Gesundheitsdaten haben soeben die Kontrolle der Organisation verlassen, und es gibt keine Möglichkeit, sie zurückzuholen.

Dies ist die Lücke in der klinischen Datensicherheit, die die meisten Gesundheitsorganisationen nie gemessen haben. Enormer Aufwand fließt in die Absicherung der elektronischen Patientenakte: Zugriffsüberprüfungen, Break-Glass-Protokollierung, auf PHIPA- und Bill-C-27-Konformität geprüfte Integrationen. All das regelt Daten innerhalb des Systems der Aufzeichnung. Nichts davon regelt das Eingabefeld, zu dem eine Fachkraft in dem Moment greift, in dem das EMR-System nicht schnell genug das leistet, was sie braucht.

Warum die EMR-Sicherheit das Eingabefeld nicht sehen kann

EMR-Sicherheit ist um eine Grenze herum aufgebaut: das System der Aufzeichnung und seine genehmigten Integrationen. Alles, was durch diese Grenze fließt, wird protokolliert, mit Berechtigungen versehen und ist nachweisbar. Die zugrunde liegende Annahme lautet, dass sich PHI zwischen bekannten Systemen auf bekannten Wegen bewegt.

Generative KI bricht diese Annahme. Die Fachkraft kopiert Text aus dem EMR-System – ein legitimer, unsichtbarer Vorgang – und fügt ihn irgendwo ein, wo das EMR-System keinerlei Beziehung hat. Aus Sicht der Aufzeichnung ist nichts passiert. Keine Integration wurde ausgelöst, kein Export protokolliert, keine Richtlinie angestoßen. Die Daten erschienen einfach in einem öffentlichen Tool über die alltäglichste Schnittstelle der Computerwelt: Kopieren und Einfügen.

Deshalb bleibt so viel KI-Nutzung unbemerkt. Die Untersuchung von LayerX aus dem Jahr 2025 ergab, dass Organisationen in rund 89 % der KI-Nutzung keinerlei Einblick haben und dass 82 % der in KI eingefügten Daten aus nicht verwalteten, persönlichen Konten stammen. In einem klinischen Umfeld bedeutet das: der Überweisungsbrief, die Entlassungszusammenfassung, der Versicherungswiderspruch – alle in einem persönlichen ChatGPT-Tab verfasst, das kein IT-Dashboard des Gesundheitswesens je erfassen wird. Die Daten von Netskope aus 2025 beziffern das Risiko: Die durchschnittliche Organisation protokolliert etwa 223 Richtlinienverstöße mit sensiblen Daten pro Monat über GenAI-Apps, und 54 % davon betreffen regulierte Daten.

Die Arbeitsabläufe, in denen PHI tatsächlich abfließt

Das Risiko ist nicht abstrakt, und es ist nicht böswillig. Es ist das natürliche Ergebnis überlasteter Menschen, die das schnellste verfügbare Werkzeug nutzen. Bedenken Sie, wo es auftaucht:

Eine Terminverwaltungskraft fügt eine Reihe von Patientennamen und Telefonnummern in ein KI-Tool ein, um sie in eine Anrufliste umzuformatieren. Ein Forscher lädt einen Datensatz, dessen De-Identifizierung noch läuft, in einen Chatbot, um Ausreißer zu finden – bevor die Identifikatoren tatsächlich entfernt sind. Eine Ärztin fasst eine umfangreiche Akte für eine Familie in verständliche Sprache zusammen und fügt die vollständige Vorgeschichte ein, um einen lesbaren Absatz zurückzubekommen. Eine Verwaltungskraft lädt eine Tabelle mit Abrechnungsdaten hoch – SINs, Geburtsdaten, Diagnosecodes –, damit die KI die Anomalien findet.

Jeder dieser Fälle ist jemand, der unter Druck seine Arbeit gut macht, mit dem besten verfügbaren Werkzeug. Die Analyse von Cyberhaven aus 2025 ergab, dass rund 40 % der KI-Interaktionen sensible Daten betreffen und dass der sensible Anteil der an KI übermittelten Unternehmensdaten auf etwa 35 % gestiegen ist – von rund 11 % zwei Jahre zuvor. Das Gesundheitswesen steht am schärfsten Ende dieses Trends: hohe Datensensibilität, starke Regulierung und Fachkräfte, die ohnehin schon den ganzen Tag in browserbasierter SaaS leben.

Auch die Einsätze sind nicht theoretisch. Der IBM Cost of a Data Breach Report 2025 weist dem Gesundheitswesen die höchsten durchschnittlichen Kosten einer Datenpanne aller Branchen zu – 7,42 Mio. USD – und stellte fest, dass Datenpannen mit hohem Shadow-AI-Anteil im Durchschnitt etwa 670.000 USD mehr kosten. Derselbe Bericht merkt an, dass 97 % der Organisationen mit einer KI-bezogenen Datenpanne über keine angemessenen KI-Zugriffskontrollen verfügten.

Warum die Antwort kein weiteres Verbot ist

Die instinktive Reaktion ist, die Tools zu sperren. Das funktioniert nicht, und Führungskräfte im Gesundheitswesen haben es schon scheitern sehen. Als Samsung 2023 ChatGPT verbot, nachdem Ingenieure Quellcode eingefügt hatten, kam das Verbot erst, nachdem die Daten bereits weg waren – und die Lektion lässt sich verallgemeinern: Verbote verlagern die Nutzung auf private Geräte und private Konten, wo die Sichtbarkeit auf null sinkt. Gartner stellte fest, dass 88 % der Mitarbeiter mit Zugang zu Unternehmens-KI auch persönliche KI-Tools für die Arbeit nutzen.

Eine Fachkraft, die KI nicht mit einem Arbeits-Login nutzen kann, wird sie in der Pause auf ihrem Handy nutzen. Die Daten verlassen die Organisation trotzdem; Sie haben nur aufgehört, sie sehen zu können. Und ein Verbot bestraft die Produktivitätsgewinne, die KI überhaupt erst lohnenswert machen, also umgehen die Menschen es still und leise und hören auf, Ihnen zu sagen, was sie nutzen.

Governance schlägt Verbot. Die Kontrollen, die die PHI-Exposition tatsächlich verringern, wirken auf der Ebene der Daten, nicht des Tools: Die sensiblen Inhalte im Prompt werden erkannt, bevor er abgeschickt wird, und – entscheidend – der Person wird im Moment erklärt, was markiert wurde und warum. Das Schwärzen der Identifikatoren, während eine realistische Platzhalterversion durchgelassen wird, bedeutet, dass die KI weiterhin einen brauchbaren Überweisungsbrief liefert, sodass niemand einen Grund hat, die Kontrolle zu umgehen. Jeder markierte Prompt wird zu einem kleinen Stück Schulung, und mit der Zeit wird die Belegschaft messbar besser im sicheren Umgang mit KI. Führungskräfte erhalten einen Überblick darüber, wo sich KI-Risiken konzentrieren – eine Aufzeichnung des Richtlinienereignisses, niemals der Patientendaten selbst.

Dies ist das Prinzip, auf dem Sanitized AI aufgebaut ist: Sensible Daten sollten erkannt werden, bevor ein Prompt jemals ein öffentliches KI-Tool erreicht, denn sobald PHI übermittelt ist, bleibt nichts mehr zu kontrollieren.

Die Frage, die Sie sich dieses Quartal stellen sollten

Ihr EMR-Audit sagt Ihnen, wer eine Akte gelesen hat. Es sagt Ihnen nichts darüber, ob diese Akte eine Stunde später in ein öffentliches KI-Tool eingefügt wurde. Das sind zwei verschiedene Sicherheitsflächen, und die meisten Gesundheitsorganisationen haben nur eine davon instrumentiert.

Der praktische Schritt in diesem Quartal ist herauszufinden, was tatsächlich in dem Browser-Tab neben dem EMR-System passiert – nicht durch Befragung des Personals, das untertreibt, sondern indem man prüft, ob PHI überhaupt über das Eingabefeld abfließen kann. Wenn Sie das nicht beantworten können, hat Ihre klinische Data Governance genau dort einen blinden Fleck, wo Ihre am meisten ausgelasteten Menschen arbeiten. Wenn Sie sehen möchten, wie das Erkennen von PHI, bevor sie die Organisation verlässt, in der Praxis funktioniert, fordern Sie eine Demo an.