AI e cybersecurity: le due facce della medaglia

Nell’ultimo periodo, l’intelligenza artificiale, generativa e non, ha preso rapidamente piede sia tra gli utenti finali che le aziende, quest’ultime spinte dal rapido sviluppo di modelli linguistici di grandi dimensioni (LLM) e di strumenti come ChatGPT. Quali sono, però, le implicazioni per la cybersecurity di questi nuovi strumenti AI?

L’intelligenza artificiale è presente da anni nelle soluzioni di sicurezza di molti vendor,  in particolare sotto forma di machine learning (ML), con l’obiettivo di migliorarne l’efficacia e potenziarne le capacità. L’intelligenza artificiale ha infatti un potenziale immenso per rafforzare la sicurezza e consentire ai difensori di essere all’avanguardia rispetto alle minacce. Tuttavia, l’approccio basato sulle tecnologie di intelligenza artificiale non è sempre il più efficace, in quanto le funzionalità basate su AI/ML sono valide solo quanto i dati e i processi utilizzati per addestrare i modelli, e la complessità della tecnologia crea ulteriori ostacoli e limitazioni.

AI contro le email fraudolente

I sistemi di intelligenza artificiale eccellono nell’identificare pattern comportamentali in enormi quantità di dati e trarre risultati significativi da essi. Per dimostrare i vantaggi dell’intelligenza artificiale, prendiamo per esempio le truffe di payroll. Questo tipo di attacco, sempre più frequente, sfuggono costantemente agli strumenti di sicurezza email, come rileva una recente indagine di Proofpoint. Secondo la ricerca, infatti, 400 minacce di deviazione delle buste paga hanno eluso 12 strumenti di sicurezza email.

Gli attacchi sono difficili da rilevare in quanto di solito le email truffa non contengono allegati o link malevoli. Senza contare che le soluzioni email tradizionali analizzano i messaggi di posta elettronica dopo la consegna, il che allunga i tempi di detection. Dato che questo approccio non è scalabile, molti team di sicurezza scelgono di implementare i controlli solo per un gruppo selezionato, come i dirigenti, sebbene i criminali prendano di mira una categoria molto più ampia di persone.

È proprio qui che gli strumenti basati su intelligenza artificiale, compresa quella generativa, offrono un enorme vantaggio. Infatti, il rilevamento delle minacce basato su AI/ML, insieme a quello pre-delivery basato su LLM, può essere utilizzato per interpretare il tono e l’intento contestuale di un’email. L’approccio basato su AI aiuta a proteggere l’azienda bloccando email fraudolente e dannose prima che raggiungano i dipendenti, riducendo notevolmente la loro esposizione queste minacce.

Naviga in sicurezza – Ottieni da questo link il 71% di Sconto con NordVPN

Non tutti gli strumenti alimentati dall’AI sono uguali

Per operare in modo efficace, le soluzioni di AI e ML hanno bisogno di enormi quantità di dati di alta qualità, perché i modelli imparano da esempi, non da regole. Perciò, prima di adottare soluzioni basate su AI e ML è giusto porsi un alcune domande.

Dove vengono ottenuti i dati per l’addestramento?

Nonostante sia facile recuperare dati per l’addestramento di applicazioni AI generiche, lo stesso non si può dire per quelle di intelligence sulle minacce. I dati di addestramento utilizzati dal vendor devono riflettere non solo gli scenari del mondo reale, ma anche le minacce specifiche che interessano una determinata azienda e il suo staff.

Come vengono integrate AI e ML nel processo di rilevamento?

Le tecnologie basate su intelligenza artificiale non sono efficienti, efficaci o affidabili per tutti i tipi di minacce, il che rende fondamentale l’integrazione di altre tecniche, come ad esempio regole e firme, o processi “human-in-the-loop“.

Uno strumento di AI sarebbe adatto alle sfide della nostra azienda?

Non sempre gli strumenti AI/ML sono adatti per affrontare specifiche sfide tecniche, dato che i modelli sono complessi e ad alta intensità di calcolo, e possono richiedere più tempo per essere eseguiti rispetto a funzionalità meno complicate. A volte, semplici tecniche basate su regole sono più efficaci, soprattutto quando la rapidità di risposta è fondamentale. È quindi necessario comprendere chiaramente gli obiettivi di sicurezza e il percorso ideale per raggiungerli.

L’AI generativa è anche nelle mani dei criminali informatici

Mentre molti vendor di sicurezza, da anni, hanno integrato senza problemi l’AI nei loro strumenti, lo stesso non si può dire per l’AI generativa. Questa sta stravolgendo il nostro modo di lavorare, imparare, addirittura interagire con il mondo, il che ha spinto anche i governi a reagire per affrontare i rischi di questa tecnologia in rapida ascesa.

Uno dei rischi principali, in ambito di sicurezza informatica, è che i criminali usino l’AI generativa per compiere azioni illecite. Infatti, secondo un’indagine condotta da Proofpoint nel 2023 sui componenti dei consigli di amministrazione, il 59% riteneva che le tecnologie emergenti come la AI generativa rappresentassero un rischio per la sicurezza della propria azienda.

I criminali informatici stanno già abusando di questa tecnologia per sviluppare strumenti dannosi come generatori di email di phishing e deepfake, malware in grado di modificarsi autonomamente e molto altro ancora. Quello che possiamo fare ora per arginare queste nuove minacce è rimanere all’erta, concentrarci sulle minacce più immediate e assicurarsi di disporre di una protezione robusta.

Questo articolo è stato tratto dalle parole di Daniel Rapp, Group Vice President, AI/ML di Proofpoint. Per maggiori informazioni, vi invitiamo a consultare il sito web di Proofpoint.

Intelligenza Artificiale | Il Futuro a portata di mano: da ChatGPT a Gemini e oltre | Una guida completa per svelare, comprendere e dominare l'IA nella vita e nel lavoro

• Rome, Charles D. (Autore)

12,99 EUR

Acquista su Amazon