Was ist ein KI-Agent für Unternehmen? Vorteile, Anwendungsfälle und Sicherheitsrisiken

KI-Agenten für Unternehmen verlagern den Schwerpunkt der KI von „Beantworten Sie diese Frage“ hin zu „Erledigen Sie diese Aufgabe“. Dieser Wandel schafft echten geschäftlichen Mehrwert, verändert jedoch auch das Sicherheitsmodell. Wenn ein KI-System auf Unternehmensdaten zugreifen, Tools nutzen, Arbeitsabläufe auslösen und unternehmensweit in verschiedenen Systemen agieren kann, benötigen Teams mehr als nur gute Eingabeaufforderungen. Es bedarf klarer Zuständigkeiten, Zugriffskontrollen, Überwachungsmaßnahmen und Steuerungsmechanismen hinsichtlich der Funktionen, die jeder Agent ausführen darf.

Was ist ein KI-Agent für Unternehmen?

Ein KI-Agent für Unternehmen ist ein KI-gestütztes Softwaresystem, das ein Geschäftsziel verfolgen und Aufgaben mit einem gewissen Maß an Autonomie ausführen kann. Im Gegensatz zu einem Tool, das lediglich eine Antwort generiert, kann ein Agent selbst feststellen, welche Informationen er benötigt, den richtigen Kontext einbeziehen, zugelassene Tools nutzen und im Rahmen eines Workflows Maßnahmen ergreifen.

Genau das unterscheidet einen KI-Agenten von einem einfachen Chatbot oder KI-Assistenten. Ein Chatbot reagiert in der Regel auf eine Eingabe und wartet auf die nächste Anweisung. Andererseits kann ein KI-Agent für Unternehmen mehrstufige Prozesse über verschiedene Umgebungen hinweg abwickeln, darunter Microsoft 365, Google Workspace und CRM-Plattformen. Es lässt sich zudem mit verschiedenen Ticket-Systemen, Datenbanken, Cloud-Anwendungen und internen Wissensdatenbanken kombinieren.

Da ein KI-Agent für Unternehmen im geschäftlichen Umfeld eingesetzt wird, interagiert er mit Unternehmensdaten, Berechtigungen, Richtlinien und Arbeitsabläufen. Dies macht die Technologie zwar zu einem leistungsstarken Werkzeug für die Produktivität, führt jedoch auch zu einem anderen Risikoprofil als bei der allgemeinen Nutzung generativer KI.

Wie funktionieren KI-Agenten in Unternehmen?

KI-Agenten für Unternehmen wandeln ein Ziel in eine Abfolge miteinander verbundener Schritte um. Sie sammeln Informationen aus zugelassenen Systemen, entscheiden, welche Maßnahme als Nächstes zu ergreifen ist, nutzen Werkzeuge zur Erledigung der Aufgabe, überprüfen anschließend das Ergebnis und nehmen bei Bedarf Anpassungen vor. Dadurch eignen sie sich für den Kundenservice, den IT-Support, die Berichterstellung und andere Unternehmensabläufe; dies bedeutet jedoch auch, dass klare Grenzen gesetzt werden müssen, da sie Zugriff auf Daten, Systeme und Entscheidungen haben, die das Unternehmen betreffen.

• Ein Ziel festlegen: Die Arbeit beginnt mit einer Benutzeranfrage oder einem Geschäftsziel, beispielsweise der Zusammenfassung eines Dokuments oder der Erstellung einer Übersicht über Kundenverlängerungen.
• Kontext erfassen: Der Mitarbeiter ruft Informationen aus zugelassenen Quellen ab, darunter Dokumente, E-Mail-Verläufe, CRM-Datensätze, Ticket-Systeme, interne Wikis, Datenbanken oder frühere Interaktionen.
• Planen Sie die einzelnen Schritte: Der Sachbearbeiter unterteilt das Ziel in kleinere Maßnahmen, wie beispielsweise das Abrufen von Daten, den Abgleich von Datensätzen, das Erstellen eines Entwurfs, das Einholen einer Genehmigung oder die Aktualisierung eines Systems.
• Verwenden Sie zugelassene Tools: Der Zugriff auf Tools ermöglicht es dem Mitarbeiter, eine Verbindung zu Unternehmensanwendungen, APIs, Datenbanken oder Systemen herzustellen, die zur Erledigung der Aufgabe erforderlich sind.
• Maßnahmen durchführen: Nachdem der Plan festgelegt wurde, kann der Bearbeiter Datensätze aktualisieren, Tickets weiterleiten, Berichte erstellen, Workflows auslösen oder Entwürfe zur Überprüfung versenden.
• Überprüfen Sie das Ergebnis: Der Mitarbeiter überprüft die Systemantworten, den Aufgabenfortschritt, etwaige Fehler oder die Ausgabequalität, um festzustellen, ob die Maßnahme erfolgreich war.
• Passen Sie den Arbeitsablauf an: Wenn sich etwas ändert, kann der Bearbeiter einen Schritt wiederholen, zu einem anderen Tool wechseln, um Klarstellung bitten oder die Aufgabe an einen menschlichen Prüfer weiterleiten.

Dieser schrittweise Prozess ist es, der KI-Agenten für Unternehmen nützlicher macht als einfache KI-Assistenten. Aus diesem Grund benötigen Unternehmen zudem eine solide Governance, Zugriffskontrolle und Überwachung bei jeder Agent-Bereitstellung.

Was sind die wichtigsten Arten von KI-Agenten für Unternehmen?

KI-Agenten für Unternehmen lassen sich nach ihrem Autonomiegrad gruppieren. Je mehr Autonomie ein Akteur besitzt, desto mehr Berechtigungen, Überwachung und Kontrolle sind in der Regel erforderlich. Ein Assistent mit geringem Risiko, der öffentlich zugängliche Inhalte zusammenfasst, erfordert andere Kontrollmechanismen als ein autonomer Agent, der Finanzdaten aktualisieren oder externe Nachrichten versenden kann.

Reaktive Stoffe

Ein neues Ticket, eine neue Nachricht oder eine neue Richtlinienwarnung kann diesen Agenten-Typ auslösen. Es klassifiziert Inhalte, leitet Anfragen weiter, kennzeichnet Probleme oder empfiehlt einen nächsten Schritt auf der Grundlage festgelegter Regeln oder erlernter Muster.

Aufgabenbasierte Agenten

Bei wiederholbaren Aufgaben führen aufgabenbasierte Agenten einen definierten Prozess von Anfang bis Ende durch. Zu den gängigen Beispielen zählen die Erstellung eines Berichts, die Zusammenfassung eines Vertrags, die Aktualisierung eines Datensatzes oder die Vorbereitung einer Antwort zur Überprüfung durch einen Mitarbeiter.

Planungsbeauftragte

Größere Ziele erfordern oft eine Abfolge kleinerer Schritte. Planungsbeauftragte entscheiden, welche Informationen abgerufen werden sollen, welche Tools zum Einsatz kommen und in welcher Reihenfolge die einzelnen Schritte durchgeführt werden müssen, um den Arbeitsablauf abzuschließen.

Kooperative Agenten

In mehrstufigen Arbeitsabläufen arbeiten kollaborative Agenten mit anderen Agenten, Systemen oder Menschen zusammen. Sie können Aufgaben aufteilen, Hintergrundinformationen austauschen, Ergebnisse überprüfen oder Arbeiten an ein anderes System oder einen anderen Prüfer weiterleiten.

Autonome Agenten

Auf der höchsten Autonomieebene können Agenten mit begrenztem menschlichem Eingriff umfassendere Ziele verfolgen. Sie können planen, Werkzeuge einsetzen, Maßnahmen durchführen, sich an neue Informationen anpassen und ihre Arbeit über mehrere Schritte hinweg fortsetzen.

Anwendungsfälle für KI-Agenten im Unternehmensbereich

KI-Agenten für Unternehmen sind dann von Nutzen, wenn die Arbeit auf sich wiederholenden Schritten, verstreuten Informationen und der Übergabe zwischen Personen oder Systemen beruht. Sie können Hintergrundinformationen sammeln, Ergebnisse aufbereiten und Routineaufgaben erledigen, sodass die Teams weniger Zeit mit sich wiederholenden Tätigkeiten verbringen müssen.

Kundensupport

Im Kundensupport können Mitarbeiter Kundenanliegen zusammenfassen, den Kundenverlauf abrufen, Antwortvorschläge unterbreiten, die Dringlichkeit einstufen und routinemäßige Servicemaßnahmen durchführen. Dies kann das Kundenerlebnis verbessern, indem Support-Teams bei jeder Kundeninteraktion schneller auf relevante Hintergrundinformationen zugreifen können.

IT-Servicemanagement

Für IT-Teams können KI-Agenten für Unternehmen Tickets einer ersten Einstufung unterziehen, mögliche Ursachen identifizieren, Lösungen vorschlagen oder genehmigte Abhilfemaßnahmen auslösen. Dies ermöglicht schnellere Reaktionszeiten, ohne dass jedes Problem zunächst manuell geprüft werden muss.

Mitarbeiter-Helpdesks

Die Mitarbeiter können interne Fragen beantworten, Anfragen weiterleiten, Informationen zu Richtlinien abrufen und Mitarbeiter bei gängigen Abläufen unterstützen. Dies eignet sich besonders gut für Teams in den Bereichen Personalwesen, IT, Finanzen und Betrieb, die sich mit wiederkehrenden internen Anfragen befassen.

Berichtserstellung

Ein Mitarbeiter kann Daten aus mehreren Systemen erfassen, die Ergebnisse zusammenfassen, Berichte erstellen und die Ausgabe zur Überprüfung aufbereiten. Dies hilft Teams dabei, verstreute Informationen in umsetzbare Erkenntnisse umzuwandeln, ohne bei Null anfangen zu müssen.

Beschaffung

Beschaffungsteams können Agenten nutzen, um Anbieter zu vergleichen, Kaufanträge zu prüfen, Vertragsdetails zu überprüfen und Genehmigungsabläufe zu unterstützen. Der Agent kann die Arbeit vorbereiten, während Menschen weiterhin Entscheidungen mit weitreichenden Auswirkungen genehmigen.

Verwaltungsabläufe

Verwaltungsmitarbeiter können Besprechungen planen, Datensätze aktualisieren, Zusammenfassungen erstellen, Aufgaben koordinieren und die routinemäßige Dokumentation verwalten. Diese Anwendungsfälle sind für sich genommen oft klein, können jedoch auf Unternehmensebene zu einer erheblichen Zeitersparnis führen.

Welche Vorteile bieten KI-Agenten für Unternehmen?

KI-Agenten für Unternehmen können die Produktivität steigern, indem sie den manuellen Arbeitsaufwand reduzieren und Routineaufgaben mithilfe von Arbeitsabläufen schneller abwickeln. Anstatt die Mitarbeiter zu bitten, dieselben Informationen zu sammeln, Daten zwischen Systemen zu kopieren oder sich wiederholende Ausgabedaten zu erstellen, können die Agenten viele dieser Schritte im Hintergrund übernehmen.

Der größere Mehrwert ergibt sich aus Beständigkeit und Umfang. KI-Agenten für Unternehmen können Teams dabei helfen, mehr Anfragen zu bearbeiten, mehr Informationen zusammenzufassen und mehr Arbeitsabläufe zu unterstützen, ohne dass dafür eine entsprechende Anzahl an Mitarbeitern eingestellt werden muss. Zudem können sie den Zugang zu Wissen verbessern, indem sie relevante Zusammenhänge aus Dokumenten, Systemen und früheren Interaktionen aufzeigen.

Dennoch sollten Berater die Entscheidungsfindung unterstützen, anstatt die Verantwortung für Entscheidungen mit weitreichenden Folgen zu übernehmen. In regulierten Branchen oder bei sensiblen Geschäftsfunktionen lautet das richtige Modell nicht: „Lassen Sie den Mitarbeiter über alles entscheiden.“ Es lautet: „Der Sachbearbeiter soll genehmigte Schritte vorbereiten, weiterleiten, empfehlen und abschließen, während die Verantwortlichen weiterhin für wichtige Ergebnisse zur Rechenschaft gezogen werden.“

Welche Sicherheitsrisiken gehen von KI-Agenten in Unternehmen aus?

KI-Agenten in Unternehmen bergen Risiken, da sie KI-Fähigkeiten mit Zugriffsrechten, Werkzeugen, Daten und Handlungsmöglichkeiten verbinden. Eine einfache KI-Anwendung, die Texte entwirft, hat nur eine begrenzte Reichweite. Ein KI-Agent für Unternehmen, der Datensätze abrufen, APIs aufrufen, E-Mails verarbeiten oder Arbeitsabläufe auslösen kann, erfordert strengere Kontrollmaßnahmen.

• Übermäßige Zugriffsrechte: Ein Mitarbeiter sollte nur auf die Systeme, Daten und Tools zugreifen dürfen, die für seine genehmigte Aufgabe erforderlich sind. Ein Mitarbeiter im Support-Ticket-Service benötigt keinen Zugriff auf Gehaltsdaten, Rechtsakten, Finanzsysteme oder die E-Mails der Geschäftsleitung.
• Offenlegung sensibler Daten: Mitarbeiter können vertrauliche Daten, Kundendaten, Mitarbeiterinformationen, Finanzdaten und regulierte Informationen abrufen, zusammenfassen, speichern oder weitergeben. Teams benötigen einen Überblick darüber, wohin diese Daten übertragen werden und wer darauf zugreifen kann.
• Unklare Zuständigkeiten: Jeder Agent benötigt einen klar definierten Verantwortlichen, der für die Genehmigung, Überwachung, Aktualisierung, Berechtigungen, Leistung und Außerbetriebnahme zuständig ist. Ohne Verantwortungsübernahme können riskante Verhaltensweisen ungelöst bleiben.
• Unzureichende Zugriffskontrolle: Eine mangelhafte Authentifizierung, eine zu großzügige Autorisierung oder fehlende Regeln zum Prinzip der geringsten Berechtigungen können dazu führen, dass Mitarbeiter auf Systeme oder Daten zugreifen können, auf die sie keinen Zugriff haben sollten. Die Kontrollmaßnahmen sollten sich auf den Akteur, den menschlichen Nutzer und die beteiligten Werkzeuge beziehen.
• Missbrauch von Maschinenidentitäten: KI-Agenten nutzen häufig Dienstkonten, API-Schlüssel, Tokens und andere Maschinenidentitäten. Sollten diese Zugangsdaten übermäßige Berechtigungen gewähren oder nur unzureichend überwacht werden, können Angreifer sie in allen Unternehmenssystemen missbrauchen.
• Einschleusung von Befehlen: Bösartige Befehle können das Verhalten eines Agenten manipulieren, wenn dieser E-Mails, Dokumente, Webseiten, Tickets oder andere nicht vertrauenswürdige Inhalte verarbeitet. Dies wird umso gravierender, wenn der Beauftragte diese Anweisungen umsetzen kann.
• „Shadow-AI“-Agenten: Mitarbeiter können nicht genehmigte Agenten außerhalb der formellen Kontrollstrukturen erstellen oder einbinden. Diese „Schatten“-KI-Agenten können auf Daten zugreifen, Tools nutzen und Aktionen ausführen, ohne dass dies ordnungsgemäß nachvollziehbar ist, überprüft wird oder kontrolliert wird.

Diese Risiken bedeuten nicht, dass KI-Agenten im Unternehmensbereich vermieden werden sollten. Das bedeutet, dass Unternehmen den Einsatz von Agenten wie jede andere Unternehmenstechnologie mit erheblichen Auswirkungen behandeln müssen: mit klarer Zuständigkeit, eingeschränktem Zugriff, überwachten Aktivitäten und Kontrollmaßnahmen, die den tatsächlichen Funktionen des Agenten entsprechen.

Wie können Unternehmen KI-Agenten steuern?

Gute Regierungsführung beginnt mit Eigenverantwortung. Unternehmen müssen wissen, welche Agenten zugelassen sind, wem sie zugeordnet sind, welche Anwendungsfälle sie unterstützen, auf welche Daten sie zugreifen können, welche Tools sie nutzen dürfen und wann sie außer Betrieb genommen werden sollten.

Ein praxisorientiertes KI-Governance -Modell sollte zudem festlegen, wer die Agenten genehmigt, wer die Nutzung überwacht, wer die Ergebnisse überprüft und wer im Falle eines Fehlers Maßnahmen ergreift. Ohne diese Klarheit wird die Einführung von KI in Unternehmen schwer zu bewältigen, da immer mehr Teams KI-Agenten in ihre tägliche Arbeit integrieren.

Lebenszyklusregeln festlegen

Für jeden Agenten sollte eine Dokumentation vorliegen, die dessen Zweck, den Datenzugriff, den Zugriff auf Tools, den Verantwortlichen für die Bereitstellung, den Genehmigungsstatus sowie die Kriterien für die Außerbetriebnahme abdeckt. Die Bereitstellung von Agenten sollte kein einmaliger Vorgang sein. Berechtigungen, Nutzungsmuster, Ergebnisse und geschäftliche Anforderungen sollten regelmäßig überprüft werden.

Abgleich der Bewertung mit dem Risiko

Ein Agent mit geringem Risiko, der öffentliche Dokumente zusammenfasst, benötigt nicht denselben Prozess wie ein Agent, der auf sensible Daten zugreifen oder Arbeitsabläufe auslösen kann. Agenten mit höherem Risiko sollten einer strengeren Überprüfung, klareren Prüfpfaden und einer manuellen Genehmigung für wichtige Maßnahmen unterliegen.

Wie können Unternehmen ihre KI-Agenten absichern?

Sicherheitsmaßnahmen müssen den gesamten Arbeitsablauf des Agenten abdecken, nicht nur das KI-Modell. Das Ziel besteht darin, zu steuern, was der Agent sehen kann, was er tun kann, wer die Aktion genehmigt hat und wie Teams ungewöhnliches Verhalten erkennen können.

• Wenden Sie das Prinzip der geringsten Berechtigungen an: Beschränken Sie den Zugriff jedes Mitarbeiters auf die Systeme, Daten und Tools, die für seine genehmigte Aufgabe erforderlich sind. Ein breiter Zugriff mag auf den ersten Blick nützlich erscheinen, führt jedoch zu vermeidbaren Sicherheitsrisiken.
• Identität überprüfen: Bestätigen Sie, ob hinter jeder Aktion eines Agenten ein menschlicher Benutzer, eine Maschinenidentität, ein Dienstkonto oder API-Anmeldedaten stehen. Die Identität stellt einen Zusammenhang zwischen den Handlungen eines Akteurs und seiner Rechenschaftspflicht her.
• Einsatz von Tools einschränken: Legen Sie fest, welche Tools ein Agent nutzen darf, welche Aktionen er ausführen darf und wann eine Genehmigung durch einen Mitarbeiter erforderlich ist. Dadurch sinkt die Wahrscheinlichkeit, dass ein Agent außerhalb seines vorgesehenen Arbeitsablaufs handelt.
• Eingaben validieren: Überprüfen Sie Eingabeaufforderungen, Dateien, E-Mails, Webinhalte und andere Eingaben, bevor diese die Entscheidungsfindung oder die Ausführung eines Agenten beeinflussen, insbesondere wenn Agenten nicht vertrauenswürdige Inhalte verarbeiten.
• Agentenspeicher verwalten: Überwachen Sie, welche Daten die Agenten speichern, abrufen und wiederverwenden können. Vertrauliche Informationen oder manipulierte Inhalte sollten in zukünftigen Arbeitsabläufen nicht unbemerkt verbleiben.
• Erkennung von Prompt-Injektionen: Überprüfen Sie E-Mails, Dokumente, Webseiten und Inhalte aus der Zusammenarbeit auf böswillige Anweisungen, die darauf abzielen, das Verhalten von Agenten zu beeinflussen.
• Arbeitsabläufe überwachen: Verfolgen Sie die Aktionen der Mitarbeiter, den Einsatz von Tools, den Datenzugriff, die Ergebnisse, Eskalationen und Ausnahmen. Durch die Überwachung können Teams ungewöhnliche Verhaltensweisen erkennen, bevor sie zu einem größeren Problem werden.

Diese Maßnahmen sind am wirksamsten, wenn sie gemeinsam angewendet werden. Ein KI-Agent für Unternehmen ist am sichersten, wenn seine Identität, seine Berechtigungen, seine Werkzeuge, seine Eingaben, sein Speicher und seine Aktionen von Anfang an transparent sind und kontrolliert werden.

Wie kann Mimecast dazu beitragen, KI-Agenten in Unternehmen zu schützen?

Mimecast Agentic AI Security unterstützt Unternehmen dabei, Risiken im Zusammenhang mit agentenbasierter KI in unternehmensweiten Umgebungen zu bewältigen, indem es den Teams einen besseren Einblick in die Aktivitäten der Agenten, die Identität der Personen, Verhaltensrisiken sowie die Steuerung der Agentenaktionen gewährt. 

Dies ist wichtig, da es bei der Sicherheit von KI-Agenten in Unternehmen nicht nur um das Modell geht. Es geht auch darum, wer den Agenten autorisiert hat, auf welche Daten er zugegriffen hat, welche Tools er verwendet hat und ob die dahinter stehende Person Anzeichen für ein Risiko aufweist.

Mimecast unterstützt einen mehrschichtigen Ansatz zur Absicherung von KI-Agenten in den Bereichen Kommunikation, Zusammenarbeit, Daten und Arbeitsabläufe. Da die Mitarbeiter E-Mails, Dateien, Links, Dokumente und Nachrichten zur Zusammenarbeit bearbeiten können, wird die Kommunikationssicherheit zu einem Bestandteil der Sicherheit der Mitarbeiter. Mimecast unterstützt Unternehmen dabei, automatisierte Arbeitsabläufe mit dem human risk management zu verknüpfen, sodass Teams die Einführung von KI im Unternehmen absichern können, ohne dabei den Überblick oder die Kontrolle zu verlieren.

Vorbereitung auf die sichere Einführung von KI-Agenten in Unternehmen

KI-Agenten für Unternehmen können mehrstufige Aufgaben erledigen, Wissen skalieren, die betriebliche Effizienz steigern und eine schnellere Ausführung über verschiedene Unternehmenssysteme hinweg ermöglichen. Sie können Unternehmen dabei unterstützen, den Schritt von einfacher KI-Unterstützung hin zu intelligenter Automatisierung in den Bereichen Kundenservice, IT, Beschaffung, Berichterstattung und Unternehmensabläufe zu vollziehen.

Diese Chance birgt ein echtes Risiko. Agenten, die auf Unternehmensdaten zugreifen, Tools nutzen und Maßnahmen ergreifen, benötigen eine klare Zuständigkeitszuordnung, Zugriff nach dem Prinzip der geringsten Berechtigungen, eine verifizierte Identität, Eingabeschutz, Workflow-Überwachung und Governance. Mimecast bietet Unternehmen die Möglichkeit, diese Kontrollmechanismen zu stärken, die Aktivitäten der KI-Agenten mit menschlichen Risiken in Verbindung zu bringen und die KI-Agenten des Unternehmens zu schützen, wenn diese in die alltäglichen Geschäftsabläufe integriert werden.