„Shadow-KI“ ist in Ihrem Unternehmen präsent: Erkennen, kontrollieren und steuern Sie sie innerhalb von 30 Tagen

Generative KI hat sich in den meisten Unternehmen innerhalb von weniger als 18 Monaten von einer Kuriosität zu einer kritischen Infrastruktur entwickelt. 80% der Beschäftigten nutzen mittlerweile nicht genehmigte KI-Tools bei der Arbeit. Mehr als die Hälfte gibt zu, sensible Unternehmensdaten, Quellcode, Kundendaten und Vertragsbedingungen in Modelle einzufügen, die die eingegebenen Daten speichern und daraus lernen. Unsere eigenen internen Daten zeigen, dass stündlich Tausende von Versuchen unternommen werden, Daten an nicht genehmigte GenAI-Tools weiterzuleiten.

Dies ist die größte, schnellste und am wenigsten wahrnehmbare Veränderung hinsichtlich der Art und Weise, wie Daten ein Unternehmen verlassen, seit der Umstellung auf die Cloud, und den Sicherheitsteams wurde keine Zeit zur Planung eingeräumt.

Die Frameworks, auf die sich die meisten Unternehmen stützen, wurden für eine Welt entwickelt, in der Daten in bekannten Repositorien gespeichert waren, über bekannte Kanäle übertragen wurden und von bekannten Anwendungen genutzt wurden. Keine dieser Annahmen trifft auf einen Browser-Tab zu, in dem ChatGPT geöffnet ist. Im Folgenden wird erläutert, wie Sie das Problem angehen sollten. Die Darstellung orientiert sich an den drei Fragen, die jedem CISO derzeit gestellt werden: Können Sie nachvollziehen, wie Ihre Mitarbeiter KI einsetzen? Können Sie den Einsatz steuern, ohne die KI dabei zu beeinträchtigen? Können Sie dies jemandem beweisen, der Beweise benötigt?

Transparenz: Was man nicht sieht, kann man nicht steuern

Ganze 69 % der Unternehmen vermuten lediglich, dass in ihrem Umfeld KI zum Einsatz kommt, können dies jedoch nicht bestätigen. Der Grund dafür ist struktureller Natur. Die meisten bestehenden Investitionen im Bereich Datenschutz dienen der Überprüfung von Inhalten, die über bekannte Kanäle übertragen werden: E-Mail, genehmigte Cloud-Anwendungen sowie den Datenausgang aus dem Netzwerk über einen Proxy. Browserbasierte GenAI entspricht diesem Modell nicht. Das Einfügen in ChatGPT ist keine Dateiübertragung. Es handelt sich um einen Tastenanschlag. Eine Anfrage an einen Nischen-KI-Assistenten, den Ihr Entwicklerteam letzte Woche installiert hat, stellt keine genehmigte Anwendung dar. Es handelt sich um einen Desktop-Prozess, von dem Ihr CASB noch nie gehört hat.

Um Einblick in die „Shadow-KI“ zu gewinnen, müssen die Kanäle überwacht werden, in denen KI-Aktivitäten tatsächlich stattfinden – nämlich auf den Endgeräten und im Browser –, und diese Informationen müssen ohne monatelange Arbeit an der Erstellung von Richtlinien oder der Kennzeichnung von Inhalten sichtbar gemacht werden. Die Endpunktüberwachung erkennt Desktop-KI-Anwendungen wie ChatGPT Desktop, Claude Desktop und Cursor, die von Entwicklerteams ohne Einbeziehung der IT-Abteilung eingesetzt werden. Browser-Erweiterungen erfassen Eingaben, Einfügungen und Uploads, die vollständig innerhalb einer Browsersitzung stattfinden. Das Signal muss anschließend automatisch nach Nutzer, Relevanz der Inhalte und Zielort priorisiert werden, da das Datenvolumen in einer Organisation mit 5.000 Mitarbeitern zu groß ist, als dass ein Analystenteam eine manuelle Triage vornehmen könnte.

Das erste Ergebnis, das jedes seriöse „Shadow-AI“-Programm liefern muss, sind die Daten, die aus Annahmen Beweise machen.

Kontrolle: Vorschriften allein reichen nicht aus, und pauschale Kontrollmaßnahmen bremsen die Innovation

Der erste Reflex der meisten Sicherheitsorganisationen, wenn sie zum ersten Mal feststellen, dass sie durch „Shadow AI“ gefährdet sind, besteht darin, eine Richtlinie zu erarbeiten und die Mitarbeiter dazu zu bewegen, dieser zuzustimmen. Diese Reaktion ist zwar vernünftig, funktioniert aber nicht. Etwa die Hälfte der Beschäftigten gibt an, dass sie private KI-Konten auch nach einem Unternehmensverbot weiterhin nutzen würden. 

Hard-Blocks beseitigen dieses Verhalten nicht. Sie schränken die Transparenz hinsichtlich des Nutzungsverhaltens ein, verlagern dieses auf nicht verwaltete Geräte und untergraben das Vertrauen zwischen der Sicherheitsabteilung und den übrigen Mitarbeitern.

Die Frage ist nicht, ob die Vorschriften durchgesetzt werden sollen. Es geht darum, die Maßnahmen in einer Weise durchzusetzen, die in einem angemessenen Verhältnis zum Risiko eines bestimmten Ereignisses steht. Ein einmaliger Fehler eines Marketinganalysten, der den Entwurf einer Pressemitteilung in ChatGPT eingefügt hat, ist ein lehrreicher Moment und kein Anlass für Ermittlungen. Die richtige Reaktion ist ein zeitnaher Hinweis, der die Richtlinie erläutert und die zulässige Alternative aufzeigt. Ein wiederholter Regelverstoß, bei dem Quellcode in dasselbe Tool eingefügt wird, stellt einen gesonderten Vorfall dar und rechtfertigt eine dauerhafte Sperre.

Dies ist der Unterschied zwischen rein inhaltsbezogenen Kontrollen und risikobewussten adaptiven Kontrollen. Inhaltsbezogene Steuerelemente behandeln jedes Ereignis gleich, da sie ausschließlich die Datei berücksichtigen. Risikobewusste Kontrollmaßnahmen behandeln Ereignisse unterschiedlich, da sie den Benutzer, die Datenquelle und den Zielort als Einheit betrachten. Die wichtigste Funktion eines modernen Shadow-AI-Programms ist die Fähigkeit, verhältnismäßige Kontrollmaßnahmen einzusetzen, die risikoorientiert reagieren.

Governance: Eine schriftlich festgelegte Richtlinie ist noch keine durchgesetzte Richtlinie

Nahezu jedes Unternehmen verfügt über Richtlinien zur zulässigen Nutzung von KI, die im Jahr 2024 verfasst, im Jahr 2025 aktualisiert und auf einer Wiki-Seite veröffentlicht wurden, die so gut wie kein Mitarbeiter gelesen hat. Die Kluft zwischen den Richtlinien und deren Umsetzung ist der Grund, warum sich die meisten CISOs an dieser Diskussion beteiligen. Der Vorstand fragt: „Wie hoch ist das Risiko?“ Der Prüfungsausschuss fragt: „Welche Kontrollmaßnahmen gibt es?“ In immer mehr Ländern stellt die Aufsichtsbehörde die Frage: „Wo sind Ihre Nachweise dafür, dass Ihre Richtlinie in der Praxis umgesetzt wird?“ Keine dieser Fragen lässt sich mit einer Wiki-Seite beantworten. Sie benötigen ein System zur Datenerfassung.

Die Nachweise zur Governance bestehen aus drei Komponenten. Ein Prüfpfad der KI-Aktivitäten pro Benutzer, der mindestens 90 Tage lang aufbewahrt wird, da die meisten Untersuchungen im Zusammenhang mit ausscheidenden Mitarbeitern so weit zurückreichen. Dokumentierte Durchsetzungsmaßnahmen, Sperren, Freigaben und Schulungsveranstaltungen, die mit bestimmten Nutzern und bestimmten Richtlinienregeln verknüpft sind – denn genau das möchte eine Aufsichtsbehörde sehen. Sowie eine für den Vorstand aufbereitete Darstellung, die die operativen Daten in eine zusammenhängende Erzählung umwandelt: Wie wird KI in diesem Unternehmen eingesetzt, von wem, mit welchen Daten und wie sieht die Entwicklung der Risikominderung im Quartalsvergleich aus?

Shadow AI: Transparenz vom ersten Tag an mit Incydr

Die Sichtbarkeitsebene bildet die Grundlage, auf der alles andere aufbaut. Die folgende Schritt-für-Schritt-Anleitung zeigt, wie Incydr bereits ab dem ersten Tag der Bereitstellung Aktivitäten von Shadow AI aufdeckt, ohne dass Richtlinien oder eine Kennzeichnung erforderlich sind.

Shadow AI ins Rampenlicht rücken

Incydr – Transparenz bei Endgeräten und Browsern – in nur 2 Minuten.

Warum Geschwindigkeit für den heutigen Datenschutz von entscheidender Bedeutung ist

Die am längsten laufenden Datenschutzprojekte in dieser Kategorie sind diejenigen, bei denen versucht wird, alles auf einmal zu erledigen. Klassifizieren Sie alle Daten, erstellen Sie alle Richtlinien und integrieren Sie jedes System, bevor ein Signal erzeugt wird. Bis das Programm einsatzbereit ist, hat sich die KI-Landschaft bereits zweimal verändert, und die ursprünglichen Annahmen sind mittlerweile überholt.

Ein 30-tägiger „Proof of Value“, der auf eine gezielte Liste von Nutzern ausgerichtet ist, bei denen Sie ein Risiko vermuten, liefert bereits in der ersten Woche ein aussagekräftiges Bild. Bereitstellung der Endgeräte in weniger als 2 Stunden. Bei Browser-Erweiterungen entscheidet sich alles bereits am zweiten Tag. Bis zum Ende der ersten Woche ist die Frage nach der Sichtbarkeit für diese Zielgruppe geklärt. Ab Woche 2 verfügen Sie über genügend Daten, um die Muster zu erkennen. Bis zum 30. Tag verfügen Sie über Belege, Kontrollmechanismen und ein Governance-Konzept für einen definierten Teil der Belegschaft sowie über einen Plan zur Ausweitung dieses Konzepts. Die Gefahr einer Offenlegung der KI entwickelt sich zu schnell. Das Programm muss schneller vorankommen.

Die nächste Ebene: KI-Agenten, die im Auftrag von Menschen handeln

Bei „Shadow AI“, wie es derzeit existiert, handelt es sich um einen Menschen, der Daten in ein Tool einfügt. Die nächste Ebene, die in den meisten großen Unternehmen bereits zum Einsatz kommt, ist autonom: KI-Agenten, die im Namen der Mitarbeiter Maßnahmen ergreifen, auf Daten zugreifen, Arbeitsabläufe auslösen und über Model Context Protocol-Server eine Verbindung zu Systemen herstellen, welche Modelle direkt mit GitHub, Slack und Produktionsdatenbanken verknüpfen. Ganze 80 % der Fortune-500-Unternehmen setzen Agenten ein. Nur 14 % verfügen über eine vollständige Sicherheitszulassung dafür.

Sichtbarkeit vor Kontrolle. Kontrolle vor Steuerung. Jede nicht genehmigte Datenübertragung wird erfasst, da sich die KI schneller entwickelt als der Planungszyklus.

Die Definition des Begriffs „Insider“ verändert sich in Echtzeit. Ein Insider ist nicht mehr nur ein Mitarbeiter. Es handelt sich um einen Mitarbeiter sowie jeden Beauftragten, der in dessen Namen, mit dessen Zugangsdaten und unter Verwendung dessen Datenbeständen tätig ist. Die Datenschutzgrundlage, die heute die Übermittlung einer Textpassage an ChatGPT ermöglicht, ist dieselbe Grundlage, die morgen die Übermittlung von Quellcode durch einen autonomen Agenten ermöglichen muss. Die Investition, die heute in die Sichtbarkeit getätigt wird, ist die Investition, die das Handeln autonomer Akteure bestimmt. Da Mimecast seine Plattform auf agentische Risiken ausweitet, wird auch die zugrunde liegende Signalbasis entsprechend erweitert.