Sécuriser la manière dont les collaborateurs utilisent l'IA générative

La plateforme SASE de Cloudflare offre une visibilité et des contrôles d'utilisation destinés à protéger la façon dont les employés, les sous-traitants et les autres utilisateurs interagissent avec les outils d'IA générative tels que ChatGPT. Par exemple, Cloudflare améliore la visibilité et atténue les risques en classifiant les outils d'IA utilisés, en détectant les erreurs de configuration, en appliquant des politiques d'accès basées sur l'identité et en limitant les entrées et les sorties de données sensibles.

L'IA fantôme (Shadow AI) désigne l'utilisation non autorisée d'outils d'IA sans l'approbation de l'organisation, généralement par les services informatiques ou de sécurité. La plateforme SASE de Cloudflare observant le trafic entre les utilisateurs et les applications, les entreprises peuvent identifier et analyser l'utilisation de ces outils non autorisés, évaluer les risques qui les accompagnent et appliquer des politiques pour autoriser, bloquer, isoler ou appliquer d'autres protections.

La gestion de la stratégie de sécurité de l'IA (ou AI-SPM) désigne une approche proactive en matière de surveillance et d'atténuation des risques, notamment des vulnérabilités, des problèmes de conformité et des fuites de données. L'agent CASB (Cloud Access Security Broker) de Cloudflare surveille en continu, via l'API, les outils d'IA générative approuvés à la recherche d'erreurs de configuration ou de données exposées au repos. Associée à la Secure Web Gateway (SWG), la Data Loss Prevention (DLP) assure une protection en temps réel en repérant les pratiques d'IA fantôme et en examinant activement les invites des utilisateurs et les réponses des modèles. Cela permet aux organisations de prévenir les fuites de données sensibles lors des interactions avec les modèles d'IA, d'appliquer des politiques de contrôle d'accès granulaires à toutes les applications d'IA générative et de gérer les risques tout au long du cycle de vie des données d'IA.

La protection des invites désigne la manière dont Cloudflare détecte, bloque et enregistre les saisies des utilisateurs dans les outils d'IA générative afin d'atténuer les risques de fuites de données et d'activités malveillantes. Pour chaque invite utilisateur, Cloudflare peut analyser à la fois le contenu et le contexte d’une invite avant d’appliquer une politique de sécurité. Par exemple, si une invite contient des données sensibles telles que des informations d'identification personnelle, du code source, des données financières ou des informations de santé, les administrateurs peuvent configurer des politiques DLP pour bloquer et enregistrer cette invite. Cloudflare détecte également l'intention des utilisateurs dans les invites IA, afin de prévenir les actions risquées telles que les tentatives de débridage, les demandes de code malveillant ou les tentatives d'extraction d'informations d'identification personnelle.