CyberArk presenta FuzzyAI: protezione dai jailbreak dei modelli AI

CyberArk ha presentato FuzzyAI, uno strumento open source innovativo per proteggersi dai jailbreak dei modelli AI. L’adozione diffusa dei modelli AI introduce nuove sfide di sicurezza, spesso sottovalutate. FuzzyAI si propone come soluzione per testare sistematicamente i modelli rispetto a input potenzialmente dannosi, permettendo di individuare punti deboli e rendere più sicuro il loro utilizzo.

FuzzyAI e la difesa dai jailbreak dei modelli AI

Il fulcro del framework è un avanzato fuzzer, uno strumento capace di identificare difetti e vulnerabilità del software. Utilizzando oltre dieci tecniche di attacco, FuzzyAI è in grado di bypassare filtri etici, esporre prompt di sistema nascosti e analizzare la generazione di output pericolosi. Questo consente alle aziende di rafforzare i guardrail dei propri modelli AI. E ciò ovviamente migliora la sicurezza delle implementazioni sia in ambienti cloud che locali.

Un altro aspetto distintivo di FuzzyAI è la sua natura collaborativa. Il framework è stato progettato per essere estendibile, consentendo a ricercatori e aziende di personalizzare i test e aggiungere nuove metodologie di attacco specifiche per i loro domini. Questa apertura favorisce lo sviluppo continuo di tecniche di difesa e attacco, creando un ecosistema in evoluzione sostenuto dalla comunità degli utenti.

Come sottolineato dai responsabili di CyberArk, l’obiettivo di FuzzyAI è affrontare un problema emergente nel panorama tecnologico. In un contesto in cui la sicurezza dei modelli AI è cruciale per evitare abusi e proteggere dati sensibili, strumenti come FuzzyAI diventano indispensabili per garantire uno sviluppo responsabile e sicuro dell’intelligenza artificiale.

Peretz Regev, Chief Product Officer di CyberArk, ha dichiarato quanto segue: “Il lancio di FuzzyAI sottolinea l’impegno di CyberArk per la protezione dell’AI e aiuta le aziende a compiere un significativo passo avanti nell’affrontare i problemi di sicurezza insiti nell’’’utilizzo in evoluzione di questi modelli. Sviluppato dai CyberArk Labs, FuzzyAI ha mostrato sul campo la capacità di effettuare il jailbreak di tutti i principali modelli di AI testati, e consentendo ad aziende e ricercatori di identificarne i punti deboli e rafforzare attivamente i propri sistemi contro le minacce emergenti.”

Echo Dot (Ultimo modello) | Altoparlante intelligente Wi-Fi e Bluetooth, suono più potente e dinamico, con Alexa | Anthracite

• SUONO RICCO E AVVOLGENTE: goditi un’esperienza audio migliorata con voci più nitide e bassi più profondi per un’esperienza Echo Dot immersiva.
• MUSICA E PODCAST: ascolta musica, audiolibri e podcast da Amazon Music, Audible, Apple Music, Spotify e molto altro, tramite wi-fi o Bluetooth.
• FELICE DI AIUTARTI: chiedi ad Alexa le previsioni del tempo, di impostare dei timer, di rispondere alle tue domande o semplicemente raccontarti barzellette.
• LA TUA CASA INTELLIGENTE, SEMPRE PIÙ SEMPLICE: controlla i dispositivi per Casa Intelligente compatibili con la tua voce o imposta routine per azioni basate sulla temperatura.
• MIGLIORI INSIEME: sincronizza più dispositivi Echo compatibili o associa Fire TV per la massima esperienza visiva.

Acquista su Amazon