- Ce blog a été publié à l'origine sur le site web de Code42, mais avec l'acquisition de Code42 par Mimecast, nous veillons à ce qu'il soit également disponible pour les visiteurs du site web de Mimecast.
- Les outils d'IA générative présentent des risques importants pour la sécurité des données si des informations sensibles sont saisies, mais ces risques peuvent être atténués par une politique intentionnelle, l'éducation et l'intégration de la technologie.
- L'équilibre entre la gestion des risques et l'innovation permet aux organisations d'exploiter en toute sécurité les avantages des outils de GenAI sans compromettre la sécurité ou la conformité.
Blog
Est-ce que ChatGPT divulgue des données ?
Une approche intentionnelle et équilibrée entre les personnes, les processus et la technologie est le seul moyen de réduire réellement le risque de fuite de données via un outil GenAI.
Par The Mimecast Cyber Insights Blog Team
Key Points
En novembre 2022, OpenAI a lancé ChatGPT, un outil d'intelligence artificielle générative (GenAI), qui a depuis pris le monde d'assaut. Deux mois seulement après son lancement, elle comptait plus de 100 millions d'utilisateurs, ce qui en fait "l'application grand public à la croissance la plus rapide de l'histoire". Et ChatGPT n'est pas le seul.
Si toute nouvelle technologie présente des risques, cela ne veut pas dire que les risques sont tous nouveaux. En fait, les entreprises peuvent constater qu'elles disposent déjà d'un grand nombre de personnes, de processus et de technologies pour atténuer les risques liés aux outils de la GenAI, mais qu'elles doivent les affiner pour inclure cette nouvelle catégorie de technologie.
Cela dit, les entreprises ne doivent pas penser qu'elles sont déjà protégées contre ces risques ; elles doivent au contraire s'efforcer de les atténuer.
Les employés adorent GenAI. L'IA de l'ombre aime vos données. Avec 90% des pertes de données de Shadow AI se produisant par de simples actions de copier-coller, vos informations confidentielles pourraient passer inaperçues. Mimecast surveille en temps réel l'utilisation risquée de la GenAI afin que vous puissiez favoriser l'innovation sans compromettre la sécurité.
Découvrez comment Mimecast sécurise l'utilisation de la GenAI
Comment les outils de GenAI tels que ChatGPT peuvent-ils présenter des risques pour les informations sensibles ?
La plupart des outils GenAI sont conçus pour recevoir une "invite" de l'utilisateur, qui peut être un texte saisi/collé, un fichier texte, une image, un son en direct ou enregistré, une vidéo, ou une combinaison de ces éléments, puis pour effectuer une action en fonction de l'invite utilisée. ChatGPT, par exemple, peut résumer le contenu d'une invite ("résumez ces notes de réunion...") et déboguer le code source ("identifiez ce qui ne va pas avec ce code...").
Le risque est que ces messages peuvent être examinés par les développeurs de l'outil GenAI et peuvent être utilisés pour former une future version de l'outil. Dans le cas des outils publics, les messages-guides font partie intégrante du modèle linguistique lui-même, lui fournissant un contenu et des données dont il ne disposerait pas autrement. Toutefois, dans l'exemple ci-dessus, si les notes de réunion contenaient des informations sensibles ou si le code source était propriétaire, ces données confidentielles ont maintenant quitté le contrôle de l'équipe de sécurité et peuvent mettre en péril les obligations de conformité et les protections de la propriété intellectuelle.
Mots-clés associés
- Artificial Intelligence
