Zugriffskontrollen für KI-Agenten: Was IT-Teams wissen müssen

KI-Agenten sind nun in der Lage, Dateien zu lesen, APIs aufzurufen, Daten zwischen Systemen zu übertragen und Maßnahmen weitgehend eigenständig zu ergreifen. Genau das macht sie so nützlich – und genau das macht sie so riskant. Ohne eine angemessene Zugriffskontrolle kann es vorkommen, dass ein Agent, der eigentlich zur Unterstützung einer bestimmten Aufgabe entwickelt wurde, weitaus mehr Bereiche berührt, als er sollte. Dadurch entstehen Risiken durch unbefugten Zugriff und die Ausweitung von Berechtigungen, die von herkömmlichen Kontrollmechanismen für KI-Systeme nicht erkannt werden können.

Was versteht man unter der Zugriffskontrolle für KI-Agenten?

Die Zugriffskontrolle für KI-Agenten umfasst die Gesamtheit der Richtlinien und technischen Kontrollmaßnahmen, die regeln, was ein KI-Agent nutzen, ändern oder versenden darf. Dies gilt überall dort, wo ein Agent zum Einsatz kommen könnte: Datenquellen, Anwendungen, APIs, Tools, Dateien, Plattformen für die Zusammenarbeit und damit verbundene Arbeitsabläufe.

In der Praxis entscheidet diese Ebene darüber, ob die Anfrage eines Bearbeiters genehmigt oder abgelehnt wird. Darüber hinaus wird erläutert, wie weit diese Genehmigung reicht – sei es nun, um einen gut gemeinten Upload zu unterbinden oder um ein kompromittiertes Konto aufzuspüren, das im Hintergrund unbemerkt Daten oder geistiges Eigentum abzieht.

Inwiefern sich der Zugriff durch Agenten vom Zugriff durch Menschen unterscheidet

Menschliche Nutzer handeln in der Regel direkt. Sie melden sich an, navigieren durch eine Benutzeroberfläche und treffen Entscheidungen im Handumdrehen. Makler arbeiten unterschiedlich. Ein autonomer Agent handelt häufig im Auftrag eines menschlichen Benutzers, eines Teams, eines Arbeitsablaufs oder einer Maschinenidentität, wobei nicht immer eine Person jeden einzelnen Schritt überprüft.

Dieser Unterschied wirft konkrete Fragen zur Zuordnung auf: Wer hat diese Aktion genehmigt, welche Zugangsdaten oder welche Identität hat der Akteur verwendet, und entsprach die Aktion tatsächlich der Aufgabe, für die sie genehmigt wurde? Bei der Beantwortung dieser Fragen beginnt sich die Zugriffskontrolle über Agenten von der herkömmlichen Benutzerzugriffsverwaltung zu unterscheiden.

Warum benötigen KI-Agenten eine Zugriffskontrolle?

Agentenbasierte KI birgt Sicherheitsrisiken, die bei herkömmlichen Anwendungen nicht auftreten. Aus diesem Grund sind die Sicherheit von KI-Agenten und die Zugriffskontrolle für Teams, die autonome Systeme verwalten, mittlerweile zu einer Priorität geworden und nicht mehr nur eine nachträgliche Überlegung. Die Gründe lassen sich auf eine Handvoll praktischer Aspekte zurückführen, die bei fast jeder Implementierung auftreten.

• Schützt sensible Daten. Durch die Einschränkung der Zugriffsrechte eines Agenten wird verhindert, dass sensible Informationen unnötigerweise offengelegt werden, selbst wenn die Aufgabe des Agenten nur einen kleinen Teil eines Systems betrifft.
• Verhindert unbefugte Aktionen von Agenten. Klare Grenzen verhindern, dass ein Agent Maßnahmen ergreift, die über das hinausgehen, wozu er tatsächlich berechtigt ist, und schließen so einen gängigen Weg für unbefugten Zugriff ab.
• Verringert das Risiko einer sofortigen Injektion. Ein strengerer Zugriff verringert die Wahrscheinlichkeit, dass manipulierte Eingaben einen Agenten zu unsicherem oder unbeabsichtigtem Verhalten veranlassen können. Durch die Einschränkung dessen, worauf ein Agent zugreifen kann, wird begrenzt, wie viel Schaden eine manipulierte Eingabeaufforderung tatsächlich anrichten kann.
• Unterstützt die Einhaltung gesetzlicher Vorschriften. Durchsetzte Zugriffsrichtlinien helfen Unternehmen dabei, Vorschriften wie die DSGVO, HIPAA und SOC 2 sowie weitergehende rechtliche, Governance- und Prüfungsanforderungen einzuhalten. Übersichtliche Zugriffsprotokolle sorgen zudem dafür, dass Audits schneller und reibungsloser ablaufen.
• Ermöglicht eine sichere Automatisierung in großem Maßstab. Dank strenger Kontrollmaßnahmen können Unternehmen den Einsatz von Agenten ausweiten, ohne dass das Risiko im gleichen Maße zunimmt. Genau diese Ausgewogenheit ist es, die eine breitere Einführung von Agenten langfristig nachhaltig macht.
• Steuert das Risiko im Zusammenhang mit menschlichen Akteuren. Die Zugriffskontrolle verhindert, dass Agenten weitreichende Berechtigungen von Menschen übernehmen, ohne dabei das Urteilsvermögen anzuwenden, das eine Person normalerweise an den Tag legen würde. Diese Unterscheidung ist besonders dann von Nutzen, wenn ein Agent Zugriffsrechte erbt, die er eigentlich gar nicht benötigt.

Dank der Zugriffskontrolle können Unternehmen den Einsatz von Agenten sicher skalieren, anstatt darauf zu hoffen, dass nichts schiefgeht.

Grundprinzipien für die Zugriffskontrolle bei KI-Agenten

Eine Handvoll Grundsätze tauchen in ausgereiften Programmen zur Agentensicherheit und KI-Governance immer wieder auf, und sie bauen aufeinander auf, anstatt für sich allein zu stehen. Wenn man sie einzeln betrachtet, lässt sich leichter erkennen, wie sie sich zu einem umfassenden Konzept der Zugangskontrolle zusammenfügen.

Identität und Authentifizierung des Agenten

Jeder Agent benötigt eine überprüfbare Identität, die sich von den Menschen und Diensten, mit denen er interagiert, unterscheidet und mit derselben Sorgfalt authentifiziert wird, wie sie auch für menschliche Zugangsdaten gilt, anstatt in einen gemeinsamen API-Schlüssel integriert zu sein. Durch diese Trennung können Sicherheitsteams einzelne Agenten voneinander unterscheiden und den Zugriff eines single Agenten widerrufen, ohne dass dadurch alle damit verbundenen Komponenten beeinträchtigt werden.

Zuschreibung zwischen Mensch und Agent

Die Handlungen eines Agenten lassen sich stets auf eine Person, ein Team oder einen Prozess zurückführen, die bzw. der dahinter steht, selbst wenn der Agent mit einem gewissen Maß an Autonomie agiert. Durch die Zuordnung wird die Aktivität eines Agenten dem Nutzer zugeordnet, der ihn eingesetzt hat, wodurch aus einer Anomalie ein Vorfall wird, den ein Sicherheitsteam tatsächlich untersuchen kann.

Autorisierungsmodelle: RBAC und ABAC

Bei der rollenbasierten Zugriffskontrolle werden Berechtigungen entsprechend der Funktion eines Benutzers zugewiesen, während bei der attributbasierten Zugriffskontrolle Bedingungen wie der Kontext und die Sensibilität der Daten geprüft werden, bevor einer Anfrage stattgegeben wird. Mitarbeiter profitieren häufig von beidem: Dabei legen Rollen eine Grundlage fest, während Attribute diese für jede einzelne Anfrage präzisieren.

Prinzip der geringsten Berechtigungen von Grund auf

Ein Agent sollte nur über die Zugriffsrechte verfügen, die für seine aktuelle Aufgabe erforderlich sind, und nicht über diejenigen, die er möglicherweise für Aufgaben benötigt, die er später übernehmen könnte. Dadurch wird der Schaden begrenzt, den ein kompromittierter oder fehlerhafter Agent anrichten kann, und diese Funktion muss von Anfang an integriert werden, anstatt erst nach dem Start des Agenten hinzugefügt zu werden.

Bereichsbezogener Zugriff und Berechtigungen

Durch die Eingrenzung des Zugriffsbereichs wird der Zugriff eines Benutzers auf die spezifischen Systeme, Funktionen und Daten beschränkt, die für eine Aufgabe erforderlich sind, anstatt ihm Zugriff auf eine weitreichende Umgebung zu gewähren, in der übermäßige Zugriffsrechte ungenutzt bleiben. Ein Beauftragter mit weitreichenden Zugriffsrechten birgt ein hohes Risiko, unabhängig davon, ob er diese Zugriffsrechte jemals ausübt oder nicht.

Zeitlich und aufgabenbezogen begrenzte Berechtigungen

Die einem Beauftragten gewährte Zugriffsberechtigung sollte erlöschen, sobald dessen Aufgabe erledigt ist. Indem Berechtigungen sowohl an eine festgelegte Laufzeit als auch an einen genehmigten Zweck gebunden werden, wird verhindert, dass dauerhafte Zugriffsrechte zu verwaisten Berechtigungen werden, an deren Widerruf niemand mehr denkt.

Richtlinienbasierte Steuerung

Einheitliche, zentral verwaltete Richtlinien legen fest, wie Mitarbeiter unternehmensweit auf Daten und Tools zugreifen können, anstatt diese Entscheidungen den einzelnen Teams oder Ad-hoc-Konfigurationen zu überlassen. Dadurch erhalten Sicherheitsteams eine zentrale Anlaufstelle, um Regeln festzulegen und durchzusetzen, und die Berechtigungen der Agenten lassen sich anhand eines bekannten Standards nachprüfen.

Validierung zur Laufzeit und Sicherheitsvorkehrungen

Die bei der Bereitstellung getroffenen Zugriffsentscheidungen reichen allein nicht aus, da sich die Anfragen eines Agenten im laufenden Betrieb ändern können. Die Laufzeitvalidierung überprüft jede Anfrage in Echtzeit und blockiert Aktionen, die außerhalb der genehmigten Richtlinien liegen, wodurch auch solche Aktionen abgefangen werden, die ein statischer Berechtigungssatz durchgelassen hätte.

Nachprüfbarkeit und kontinuierliche Überwachung

Jede Handlung eines Beauftragten sollte auch lange nach ihrem Eintreten noch nachvollziehbar und überprüfbar sein. Durch die kontinuierliche Überwachung verfügen Sicherheitsteams über Aufzeichnungen, auf die sie bei der Untersuchung eines Vorfalls oder zur Überprüfung, ob ein Agent weiterhin im vorgesehenen Rahmen arbeitet, zurückgreifen können.

Verhaltenskonttext

Die Handlungen eines Akteurs gewinnen an Bedeutung, wenn sie anhand einer Referenzlinie für normales Verhalten gemessen werden. Durch den Abgleich einer Anfrage mit typischen Mustern für einen bestimmten Benutzer, einen bestimmten Arbeitsablauf oder einen bestimmten Datensatz werden Aktivitäten identifiziert, die zwar technisch gesehen im Rahmen der Berechtigungen eines Bearbeiters liegen, aber dennoch ungewöhnlich erscheinen.

Zentrale Herausforderungen bei der Absicherung von KI-Agenten

Selbst Organisationen, die diese Grundsätze verstehen, stoßen bei dem Versuch, sie umzusetzen, auf erhebliche Schwierigkeiten. Die im Folgenden aufgeführten Herausforderungen treten in der Regel unabhängig von der Unternehmensgröße oder der Branche auf.

• Dynamisches, nichtdeterministisches Verhalten. Ein und derselbe Akteur kann in ähnlichen Situationen unterschiedlich handeln, was es erschwert, Zugriffsentscheidungen im Voraus vorherzusagen. Diese Unvorhersehbarkeit führt dazu, dass statische, einmalige Zugriffsprüfungen weitaus weniger nützlich sind.
• Agenten mit zu weitreichenden Berechtigungen. Benutzer erhalten häufig mehr Zugriffsrechte, als für ihre Aufgaben tatsächlich erforderlich sind, und dieser ungenutzte Zugriff stellt ein Risiko der Rechteausweitung dar, das nur darauf wartet, ausgenutzt zu werden. Oft bleibt dies unbemerkt, bis eine Prüfung oder ein Vorfall eine genauere Betrachtung erforderlich macht.
• Komplexe Abhängigkeiten innerhalb der Lieferkette. Vernetzte Tools, Modelle und APIs, die Daten aus verbundenen Systemen abrufen, können die Risiken in der Lieferkette in einer Weise vergrößern, die Teams nicht vollständig kontrollieren können. Jede neu hinzugefügte Integration stellt einen weiteren potenziellen Zugangspunkt zu sensiblen Systemen dar.
• Eingeschränkte Transparenz hinsichtlich der Handlungen der Mitarbeiter. Oftmals ist es schwierig, genau nachzuvollziehen, worauf ein Agent zugegriffen, was er geändert oder was er versendet hat – insbesondere angesichts einer stetig wachsenden Anzahl von Tools. Dieser blinde Fleck erschwert es, einen Vorfall im Nachhinein zu untersuchen oder zu erklären.
• Skalierung der Zugriffsverwaltung. Die Verwaltung von Berechtigungen wird schwieriger, je mehr Systeme und Arbeitsabläufe von Agenten genutzt werden. Was bei einer Handvoll Agenten funktioniert, kann auf Unternehmensebene schnell an seine Grenzen stoßen.
• Risiko bei Maschinenlaufgeschwindigkeit. Agenten können auf Daten zugreifen, diese verschieben oder ändern, bevor ein Sicherheitsteam manuell darauf reagieren kann. Bis ein Mensch dies bemerkt, ist die Handlung möglicherweise bereits abgeschlossen.
• Zuordnungslücken. Teams kann es schwerfallen, die Aktion eines Agenten im Nachhinein dem richtigen Benutzer, Dienstkonto oder Workflow zuzuordnen, insbesondere wenn mehrere Dienstkonten sich überschneidende Berechtigungen besitzen. Ohne eine eindeutige Zuordnung verlangsamt sich die Reaktion auf Vorfälle gerade dann, wenn Schnelligkeit am wichtigsten ist.

Keine dieser Herausforderungen schließt den Einsatz von Agenten aus. Damit ist lediglich gemeint, dass die Zugriffskontrolle von Anfang an integriert sein muss und nicht erst nachträglich hinzugefügt werden darf.

Bewährte Verfahren für die Zugriffskontrolle bei KI-Agenten

Die Umsetzung der oben genannten Grundsätze in ein funktionierendes Programm lässt sich auf eine Reihe konkreter Maßnahmen zurückführen. Jede davon schließt eine bestimmte Lücke, die häufig entsteht, sobald die Agenten vom Testbetrieb in den tatsächlichen Produktionsbetrieb übergehen.

Ordnen Sie jeden Agenten einem Zugriffsinhaber zu

Jeder Agent benötigt einen festgelegten Eigentümer, der für dessen Berechtigungen verantwortlich ist. Dieser Verantwortliche legt fest, welchen Arbeitsablauf der Bearbeiter unterstützt, und genehmigt etwaige Änderungen an dessen Zugriffsrechten.

Die Identität des Akteurs von der menschlichen Identität trennen

Jeder Agent sollte über eine eigene Identität verfügen, anstatt die Zugriffsrechte über ein menschliches Konto zu erben. Die Zuordnung zum jeweiligen Nutzer, Team oder Prozess, der bzw. das hinter dem Agenten steht, muss weiterhin gewährleistet bleiben.

Zugriff nach Aufgabe definieren

Die Berechtigungen sollten dem genehmigten Arbeitsablauf eines Agenten entsprechen und nicht den umfassenderen Zugriffsrechten des Benutzers oder der Anwendung, mit der er verbunden ist. Durch diese Art der Zugriffsbeschränkung wird verhindert, dass ein Mitarbeiter Berechtigungen erhält, die er nicht benötigt.

Verwenden Sie einen vorübergehenden und widerrufbaren Zugriff

Für sensible Vorgänge sind kurzfristige Zugangsdaten erforderlich, die erst unmittelbar vor der Ausführung ausgestellt werden, und nicht dauerhafte Berechtigungen. Ein Zugriff, der von selbst abläuft, schränkt ein, welche Daten offengelegt werden, falls ein Agent kompromittiert wird.

Laufzeit-Berechtigungsprüfungen durchführen

Die zu Beginn erteilten Berechtigungen sollten nicht der einzige Kontrollpunkt sein. Durch eine erneute Überprüfung der Zugriffsrechte, wenn ein Mitarbeiter eine sensible oder ungewöhnliche Aktion ausführen möchte, lassen sich die Änderungen seit der ursprünglichen Zugriffsgewährung erkennen.

Zugriffsprotokolle aufbewahren

Jede Entscheidung über den Zugriff sollte zusammen mit dem Grund für die Gewährung des Zugriffs und dem Namen der Person, die diese genehmigt hat, protokolliert werden. In den Protokollen sollte zudem festgehalten werden, ob die daraus resultierende Maßnahme den Richtlinien entsprach.

Beziehungen zwischen Mensch, Agenten und Daten überwachen

Die Darstellung dieser Zusammenhänge verdeutlicht, welche Agenten mit welchen Datenquellen interagieren und welche Benutzer und Prozesse hinter den einzelnen Agenten stehen. Diese Transparenz ermöglicht es, eine Aktion über die gesamte Kette hinweg zurückzuverfolgen, die von ihr berührt wurde.

Entwickeln Sie Steuerelemente, die mit der Geschwindigkeit der Agenten reagieren

Die Agenten können schneller handeln, als eine manuelle Überprüfung mithalten kann. Kontrollmechanismen müssen in Echtzeit durch automatisierte Sperrmechanismen und Richtlinienvorgaben funktionieren und nicht durch regelmäßige Zugriffsprüfungen.

5 Schritte für den Zugriff auf KI-Agenten in der Produktion

Der Übergang von der Planung zur Produktion muss nicht kompliziert sein, doch es ist hilfreich, eine einheitliche Abfolge einzuhalten. Die folgenden Schritte decken alle Aspekte ab, von der Ersteinrichtung bis hin zur laufenden Wartung.

1. Weisen Sie jedem Agenten eine eindeutige Identität zu. Erstellen Sie für jeden Agenten eine eindeutige Identität, damit dessen Zugriff, Aktivitäten und Zuständigkeiten tatsächlich nachverfolgt werden können.
2. Legen Sie Berechtigungen nach dem Prinzip der geringsten Privilegien fest. Beschränken Sie den Zugriff jedes Agenten auf die spezifischen Systeme, Daten und Aktionen, die für seine genehmigte Aufgabe erforderlich sind, und gehen Sie nicht darüber hinaus.
3. Wenden Sie richtlinienbasierte Zugriffskontrollen an. Legen Sie anhand klarer Sicherheitsrichtlinien fest, auf welche Ressourcen Agenten zugreifen dürfen, wann sie Maßnahmen ergreifen dürfen und unter welchen Bedingungen.
4. Überwachen Sie die Aktivitäten der Mitarbeiter in Echtzeit. Verfolgen Sie das Verhalten von Agenten, Zugriffsanfragen und ungewöhnliche Aktionen in Echtzeit in der Produktionsumgebung – und nicht erst im Nachhinein.
5. Überprüfen und aktualisieren Sie die Berechtigungen regelmäßig. Überprüfen Sie die Zugriffsrechte der Mitarbeiter regelmäßig, da sich Arbeitsabläufe, Tools, Datenquellen und geschäftliche Anforderungen im Laufe der Zeit ändern.

Betrachten Sie diese Schritte als einen Zyklus und nicht als einmalige Einführung. Da sich die Zugriffsrechte der Agenten im Zuge von Änderungen an Tools und Arbeitsabläufen häufig verschieben, ist der Überprüfungsschritt ebenso wichtig wie die Einrichtung.

Wie kann Mimecast die Zugriffskontrolle für KI-Agenten unterstützen?

Mimecast Agentic AI Security unterstützt Unternehmen dabei, KI-Agenten in unternehmensweiten Umgebungen zu identifizieren, zu verwalten und zu schützen. Es bietet Sicherheitsteams einen Überblick über die Agenten selbst, die dahinterstehenden Beziehungen zwischen Mensch und Agent, Governance-Workflows, Richtlinienverstöße und Risikobewertungen – und zwar alles an einem Ort, anstatt über verschiedene, voneinander getrennte Tools verstreut zu sein.

Diese Transparenz ist von Bedeutung, da die Zugriffskontrolle für Agenten letztendlich davon abhängt, dass man versteht, welche Benutzer, Agenten, Tools und Datenquellen an einem bestimmten Arbeitsablauf beteiligt sind. Mimecast unterstützt Teams dabei, riskante Aktivitäten von Agenten zu erkennen, bevor diese zu Datenlecks, Verstößen gegen Richtlinien oder unsicheren Handlungen führen, und schließt so die Lücke zwischen der Festlegung einer Zugriffsrichtlinie und der tatsächlichen Überprüfung, ob diese auch eingehalten wird.

Entwicklung einer sichereren Zugriffskontrolle für KI-Agenten

KI-Agenten können nahezu reibungslos auf Unternehmensdaten und Tools zugreifen sowie über verschiedene Arbeitsabläufe hinweg agieren – genau aus diesem Grund benötigen sie vom ersten Tag an klar definierte Zugriffsgrenzen. Die Sicherung agentenbasierter KI beginnt mit einer einfachen Umstellung in der Denkweise: Behandeln Sie KI-Agenten wie jede andere Identität, damit Sicherheitsteams über einen einheitlichen Ansatz zur Verwaltung von Zugriffsentscheidungen verfügen, anstatt jedes Mal, wenn ein neuer Agent hinzukommt, improvisieren zu müssen.

Die Organisationen, die dies richtig angehen, warten nicht darauf, dass ein negatives Ergebnis sie zum Handeln zwingt. Sie integrieren Identitätsmanagement, die Durchsetzung von Richtlinien und die Überwachung von Anfang an in die Agentenprogramme.

Wenn Ihr Unternehmen den Einsatz von Agenten ausweitet und einen besseren Überblick darüber benötigt, wozu diese Agenten tatsächlich in der Lage sind, bietet Ihnen Mimecast Agentic AI Security die Möglichkeit, KI-Agenten zu identifizieren, zu steuern und zu sichern, bevor deren Zugriff zu einem Sicherheitsrisiko wird.