Proteggere l'uso dell'IA generativa per la forza lavoro

La piattaforma SASE di Cloudflare offre visibilità e controlli di utilizzo per proteggere le modalità con cui dipendenti, collaboratori esterni e altri utenti interagiscono con strumenti di IA generativa come ChatGPT. Ad esempio, Cloudflare estende la visibilità e mitiga i rischi classificando gli strumenti di intelligenza artificiale utilizzati, rilevando le configurazioni errate, applicando policy di accesso basate sull'identità e limitando gli input e gli output di dati sensibili.

L'espressione Shadow AI si riferisce all'uso non autorizzato di strumenti di intelligenza artificiale, effettuato senza l'approvazione dell'organizzazione, in genere dai reparti IT o di sicurezza. Poiché la piattaforma SASE di Cloudflare analizza il traffico tra utenti e app, le organizzazioni possono identificare e analizzare l'uso di questi strumenti non autorizzati, valutare i rischi che comportano e applicare policy per consentire, bloccare, isolare o applicare altre protezioni.

La gestione della condizione di sicurezza dell'IA (o AI-SPM) si riferisce a un approccio proattivo per monitorare e mitigare i rischi, tra cui vulnerabilità, problemi di conformità e perdite di dati. Cloud Access Security Broker (CASB) di Cloudflare monitora costantemente gli strumenti GenAI approvati tramite API per rilevare configurazioni errate e dati a riposo esposti. La prevenzione della perdita di dati (DLP), combinata con Secure Web Gateway (SWG), fornisce protezione in tempo reale rilevando l'utilizzo della shadow AI e ispezionando attivamente i prompt degli utenti e le risposte dei modelli. Ciò consente alle organizzazioni di prevenire la fuga di dati sensibili durante l'interazione con i modelli di intelligenza artificiale, di applicare criteri di controllo degli accessi granulari in tutte le applicazioni GenAI e di gestire i rischi durante l'intero ciclo di vita dei dati di intelligenza artificiale.

La protezione dei prompt si riferisce al modo in cui Cloudflare rileva, blocca e registra gli input degli utenti negli strumenti di GenAI per mitigare i rischi di fughe di dati e/o attività dannose. Per ogni prompt dell'utente, Cloudflare può analizzare sia il contenuto che i contesti di un prompt prima di applicare una policy di sicurezza. Ad esempio, se un prompt include dati sensibili come informazioni di identificazione personale (PII), codice sorgente, dati finanziari o informazioni sanitarie, gli amministratori possono impostare criteri di DLP per bloccare e registrare quel prompt. Cloudflare rileva anche l'intento dell'utente nei prompt di IA, prevenendo azioni rischiose come tentativi di jailbreak, richieste di codice dannoso o tentativi di estrazione di informazioni di identificazione personale (PII).