Shadow-KI: Wie die unkontrollierte Nutzung von KI durch Mitarbeiter Ihre Angriffsfläche vergrößert

Das Interesse an künstlicher Intelligenz geht mittlerweile weit über bloße Neugier hinaus. Generative KI-Tools sind mittlerweile in den täglichen Arbeitsabläufen fast aller Abteilungen fest verankert – von der Technik über das Marketing bis hin zum Finanzwesen –, wo die Mitarbeiter sie zum Verfassen von E-Mails, zur Datenanalyse, zur Erstellung von Code und zur Automatisierung von Routineaufgaben nutzen. Die Produktivitätssteigerungen sind real, doch ebenso real ist das damit verbundene Risiko.

Und ein Großteil dieses Risikos ist nicht erkennbar. Ein Großteil des heutigen Einsatzes von KI am Arbeitsplatz ist undokumentiert, unreguliert oder den für den Schutz des Unternehmens verantwortlichen Personen gänzlich unbekannt. Dies ist das Problem der „Shadow-AI“, also der KI-Tools, -Plattformen und -Modelle, die von Mitarbeitern ohne Wissen, Genehmigung oder Aufsicht seitens der IT- und Sicherheitsteams genutzt werden. Betrachten Sie dies als die Weiterentwicklung der „Shadow-IT“ im Zeitalter der KI – jene seit langem bestehende Herausforderung, dass Mitarbeiter nicht genehmigte Software nutzen. „Shadow-KI“ birgt jedoch ein weitaus größeres Risiko, da diese Tools von Natur aus auf Daten angewiesen sind.

Das Ausmaß der Kluft zwischen Bewusstsein und Handeln ist auffällig. Der Bericht „State of Human Risk 2026“ von Mimecast, der auf einer Umfrage unter 2.500 Entscheidungsträgern aus den Bereichen IT-Sicherheit und IT in neun Ländern basiert, ergab, dass zwar 80% der Unternehmen Bedenken hinsichtlich des Verlusts sensibler Daten durch generative KI-Tools haben, 60% jedoch noch immer keine spezifische Strategie zur Bekämpfung KI-bedingter Bedrohungen verfolgen. Nur 40 % fühlen sich vollständig vorbereitet. Genau in dieser Lücke zwischen dem Erkennen der Bedrohung und der Bereitschaft, ihr zu begegnen, kommt die „Shadow-KI“ voll zur Geltung.

Wie die Nutzung von KI durch Mitarbeiter die Angriffsfläche vergrößert

Es lässt sich nicht leugnen, welche Chancen die künstliche Intelligenz in Bezug auf Produktivität, Innovation und Wachstum eröffnet. Doch jedes Mal, wenn ein Mitarbeiter eine Kundenliste in einen kostenlosen Chatbot einfügt, einen Finanzbericht in einen KI-Zusammenfassungsdienst hochlädt oder firmeneigenen Code in einen nicht genehmigten Programmierassistenten eingibt, setzt er sensible Informationen potenziell Systemen von Drittanbietern aus, deren Richtlinien zur Datenaufbewahrung und -sicherheit unbekannt sind.

Vertrauen Sie Ihre Geschäftsgeheimnisse oder Preismodelle einem Dritten an, der vertraglich nicht zum Schutz dieser Daten verpflichtet ist? Der unkontrollierte Einsatz von KI-Tools kann für Unternehmen eine Reihe von Cyberrisiken mit sich bringen, darunter:

Datenoffenlegung und Datenlecks. Nicht genehmigte KI-Tools verfügen häufig nicht über Sicherheitsmaßnahmen auf Unternehmensniveau. Wenn Mitarbeiter vertrauliche Daten wie Kundendaten, Geschäftsgeheimnisse oder strategische Pläne in diese Plattformen eingeben, können diese Informationen gespeichert, für das Training von Modellen verwendet oder durch eine Sicherheitsverletzung offengelegt werden. Die finanziellen Folgen sind gravierend: Durch versteckte, KI-bedingte Sicherheitsverletzungen steigen die durchschnittlichen Kosten pro Vorfall um Hunderttausende Dollar.

Verstöße gegen Vorschriften. Branchen, die Vorschriften wie der DSGVO, dem HIPAA oder SOC 2 unterliegen, sind besonderen Risiken ausgesetzt. Wenn Daten durch ungeprüfte KI-Systeme fließen, können Unternehmen unwissentlich gegen Vorschriften zur Datenspeicherung, zur Einwilligung oder zur Datenverarbeitung verstoßen, wodurch das Unternehmen dem Risiko von behördlichen Sanktionen und rechtlicher Haftung ausgesetzt ist.

Eine neue, agentengesteuerte Angriffsfläche. Der Verlust von Unternehmensdaten ist nicht mehr nur ein Problem, das auf Menschen zurückzuführen ist. KI-Agenten und automatisierte Arbeitsabläufe breiten sich im gesamten Unternehmen rasch aus und greifen auf sensible Daten über Wege zu, für deren Überwachung herkömmliche Sicherheitstools nie konzipiert wurden – beispielsweise über MCP-vernetzte Arbeitsabläufe, kommerzielle Agenten, von Anwendern erstellte Automatisierungen und „Schatten“-KI-Tools. Die Einführung schreitet schneller voran als die Regulierung. Zahlreiche Organisationen setzen mittlerweile aktive KI-Agenten ein, doch nur ein kleiner Teil davon hat ihnen eine vollständige Sicherheitszulassung erteilt.

Verlust von Governance und Rechenschaftspflicht. Wenn KI ohne Aufsicht geschäftliche Entscheidungen in Bereichen wie der Personalauswahl, der Finanzanalyse oder der Kundenkommunikation beeinflusst, verlieren Unternehmen die Möglichkeit, diese Ergebnisse zu überprüfen, zu erläutern oder zu begründen. Dies führt zu einem Vakuum in Bezug auf die Rechenschaftspflicht, zumal die behördliche Kontrolle der KI-gestützten Entscheidungsfindung zunimmt.

Bedrohungen durch Insider. Je stärker KI in die Betriebsabläufe integriert wird, desto mehr Möglichkeiten ergeben sich für Mitarbeiter innerhalb eines Unternehmens, ihren Zugriff zu nutzen, um Modelle oder Daten für böswillige Zwecke oder zum persönlichen Vorteil zu manipulieren. Das Gesamtbild der menschlichen Risikofaktoren untermauert diese Feststellung: Nur ein kleiner Teil der Mitarbeiter ist für die überwiegende Mehrheit der Sicherheitsvorfälle verantwortlich.

Neue Kontrollmaßnahmen für neue Bedrohungen

Shadow AI wird nicht verschwinden. Die Mitarbeiter werden auch weiterhin nach den effektivsten Werkzeugen suchen, die ihnen zur Verfügung stehen – mit oder ohne Genehmigung. Die Lösung besteht nicht darin, KI zu verbieten – für die meisten Unternehmen ist dies weder nachhaltig noch wünschenswert. Die Lösung besteht darin, dies zu regeln. Führungskräfte in der Wirtschaft können einen Ansatz für die Einführung von KI entwickeln, der ihrem jeweiligen Risikoprofil entspricht, indem sie die folgenden Schritte unternehmen:

Richten Sie einen KI-Lenkungsausschuss ein. Richten Sie eine Arbeitsgruppe ein, in der Vertreter aus den Bereichen IT, Cybersicherheit, Daten und Analytik sowie wichtige Stakeholder aus dem Unternehmen vertreten sind. Dieser Ausschuss kann KI-Praktiken und -Richtlinien, einschließlich des Einsatzes von Tools, des Datenaustauschs sowie der Parameter für die Datenspeicherung und -löschung, überprüfen und diese an die unternehmensweite Risikotoleranz der Organisation anpassen.

Führen Sie eine grundlegende KI-Risikobewertung durch. Ermitteln Sie, welche Tools und Systeme bereits im Einsatz sind und welche spezifischen Schwachstellen sich aus deren Nutzung ergeben könnten, und legen Sie anschließend anhand einer Risiko-Nutzen-Abwägung Prioritäten für Abhilfemaßnahmen fest. Etablierte Rahmenwerke, wie beispielsweise das NIST-Rahmenwerk für das Risikomanagement im Bereich der künstlichen Intelligenz, können Führungskräften dabei helfen, die Risiken von KI-Systemen in Bezug auf Cybersicherheit und Datenschutz zu durchdenken.

Stellen Sie sichere Alternativen und eine unternehmensweite KI-Richtlinie bereit. Mitarbeiter greifen auf nicht zugelassene Tools zurück, wenn die zugelassenen nicht verfügbar oder nicht gut genug sind. Bieten Sie sichere Alternativen auf Unternehmensniveau an und verbinden Sie diese mit klaren, kommunizierten Regeln darüber, welche Tools zugelassen sind, welche Daten weitergegeben werden dürfen und welche Offenlegungspflichten bei KI-gestützter Arbeit bestehen.

Legen Sie Cybersicherheitsstandards für KI-Tools fest. Da KI-Tools so große Datenmengen verarbeiten, sind sie besonders attraktive Ziele für Cyberkriminelle. Prüfen Sie die Sicherheitsmaßnahmen und -praktiken eines Anbieters vor der Einführung gründlich, einschließlich der Frage, ob die Plattform von Grund auf sicher konzipiert ist und welche Schwachstellen sie möglicherweise aufweist.

Kommunizieren und aufklären. Teilen Sie die KI-Richtlinien ausdrücklich allen Mitarbeitern und Auftragnehmern mit und integrieren Sie dieses Thema in regelmäßige Schulungen zur Sensibilisierung für Sicherheitsfragen, damit alle über neue Bedrohungen und bewährte Vorgehensweisen auf dem Laufenden bleiben. Bemerkenswert ist, dass heute nur eine Minderheit der Organisationen regelmäßige Sensibilisierungsschulungen mit einer kontinuierlichen Überwachung kombiniert – den beiden Maßnahmen, mit denen sich eine nicht genehmigte Nutzung von KI am ehesten aufdecken lässt, bevor sie Schaden anrichtet.

Monitor mit adaptiver Steuerung. Statische Regeln können nicht mit der Art und Weise Schritt halten, wie Mitarbeiter und KI-Tools in Echtzeit interagieren. Setzen Sie Zugriffskontrollen durch, achten Sie auf Anomalien im Nutzerverhalten und implementieren Sie adaptive Kontrollmechanismen sowie Datensicherheit in der Laufzeit, die einen unified Überblick über die Aktivitäten von Menschen und Agenten bieten – von Endgeräten und Browsern bis hin zu SaaS-Anwendungen, E-Mail und KI-Tools.

Die Quintessenz

Für Unternehmen besteht ein außerordentliches Potenzial, generative KI zur Steigerung der Produktivität zu nutzen; dieses Potenzial ist jedoch nicht risikofrei, und die Zeitspanne zwischen der Erkennung von KI-Bedrohungen und der entsprechenden Vorbereitung darauf stellt eine echte Schwachstelle dar. Unternehmen müssen die Risiken, die mit fortschrittlicher KI und agentenbasierten Arbeitsabläufen einhergehen, proaktiv bewerten und angehen. Dank einer besseren Transparenz und geeigneter adaptiver Kontrollmechanismen können ein Unternehmen und seine Mitarbeiter diese neuen Funktionen sicher nutzen und gleichzeitig die Sicherheit der Unternehmens- und Kundendaten gewährleisten.