- Dieser Blog wurde ursprünglich auf der Code42-Website veröffentlicht, aber mit der Übernahme von Code42 durch Mimecast stellen wir sicher, dass er auch für Besucher der Mimecast-Website verfügbar ist.
- Generative KI-Tools bergen erhebliche Datensicherheitsrisiken, wenn sensible Informationen eingegeben werden. Diese können jedoch durch gezielte Richtlinien, Aufklärung und Technologieintegration gemildert werden.
- Ein ausgewogenes Verhältnis zwischen Risikomanagement und Innovation ermöglicht es Unternehmen, die Vorteile von GenAI-Tools sicher zu nutzen, ohne die Sicherheit oder Compliance zu gefährden.
Blog
Hat ChatGPT ein Datenleck?
Ein bewusster, ausgewogener Ansatz in Bezug auf Menschen, Prozesse und Technologie ist die einzige Möglichkeit, das Risiko eines Datenlecks durch ein GenAI-Tool wirklich zu mindern.
Von The Mimecast Cyber Insights Blog Team
Wichtige Punkte
Im November 2022 veröffentlichte OpenAI ChatGPT, ein Tool für generative künstliche Intelligenz (GenAI), das seitdem die Welt im Sturm erobert hat. Nur zwei Monate nach dem Start hatte es über 100 Millionen Nutzer und war damit "die am schnellsten wachsende Verbraucheranwendung in der Geschichte". Und ChatGPT ist nicht allein.
Jede neue Technologie birgt zwar Risiken, aber das bedeutet nicht, dass alle Risiken brandneu sind. Es kann sogar sein, dass Unternehmen feststellen, dass sie bereits über viele der Mitarbeiter, Prozesse und Technologien verfügen, um die Risiken von GenAI-Tools zu mindern, diese aber noch feinjustieren müssen, um diese neue Technologiekategorie zu berücksichtigen.
Dennoch sollten Unternehmen nicht davon ausgehen, dass sie bereits vor diesen Risiken geschützt sind, sondern sie sollten ihre Risiken bewusst minimieren.
Mitarbeiter lieben GenAI. Schatten-KI liebt Ihre Daten. Da 90% der Datenverluste durch Shadow AI durch einfache Kopier- und Einfügevorgänge entstehen, könnten Ihre vertraulichen Informationen unbemerkt verloren gehen. Mimecast überwacht die riskante Nutzung von GenAI in Echtzeit, so dass Sie Innovationen ermöglichen können, ohne die Sicherheit zu gefährden.
Inwiefern können GenAI-Tools wie ChatGPT ein Risiko für sensible Informationen darstellen?
Die meisten GenAI-Tools sind so konzipiert, dass sie eine "Aufforderung" des Benutzers entgegennehmen, die aus einem eingegebenen/eingefügten Text, einer Textdatei, einem Bild, Live- oder aufgezeichnetem Audio, einem Video oder einer Kombination daraus bestehen kann, und dann eine Aktion auf der Grundlage der verwendeten Aufforderung ausführen. ChatGPT kann zum Beispiel den Inhalt einer Eingabeaufforderung zusammenfassen ("Fassen Sie diese Besprechungsnotizen zusammen...") und Quellcode debuggen ("Finden Sie heraus, was mit diesem Code nicht stimmt...").
Das Risiko besteht darin, dass diese Prompts von den Entwicklern des GenAI-Tools überprüft und möglicherweise zum Training einer zukünftigen Version des Tools verwendet werden können. Bei öffentlichen Tools werden die Prompts Teil des Sprachmodells selbst und füttern es mit Inhalten und Daten, die es sonst nicht hätte. Wenn diese Aufforderungen nur Informationen enthalten, die bereits öffentlich sind, besteht möglicherweise nur ein geringes Risiko. Wenn die Besprechungsnotizen im obigen Beispiel jedoch sensible Informationen enthalten oder der Quellcode urheberrechtlich geschützt ist, haben diese vertraulichen Daten nun die Kontrolle des Sicherheitsteams verlassen und gefährden möglicherweise Compliance-Verpflichtungen und den Schutz des geistigen Eigentums.
Verwandte Tags
- Artificial Intelligence
