Team di sicurezza contro criminali informatici: le sfide dell’AI secondo Veracode

È innegabile che l’intelligenza artificiale stia alterando il modo in cui viviamo la tecnologia, creando nuove opportunità per le aziende di ogni settore e dimensione. Tuttavia, sotto il punto di vista della sicurezza, è anche fonte di sfide per le aziende: Massimo Tripodi di Veracode ci espone in che modo l’AI può essere utilizzata dai criminali informatici, e come le aziende possono sfruttarla per difendersi.

Il “lato oscuro” dell’intelligenza artificiale: le sfide per le aziende

L’intelligenza artificiale è diventata uno strumento importante per le aziende, al punto che per il 56% dei responsabili aziendali questa rappresenta un vantaggio competitivo importante. L’anno scorso, in Italia, il mercato nazionale dell’AI ha fatto segnare un +52%, raggiungendo il valore di 760 milioni di euro, dopo aver già registrato un +32% nel 2022 rispetto all’anno precedente. E la crescita non accenna a diminuire.

L’intelligenza artificiale è però uno strumento complesso, e la sua adozione necessita la giusta considerazione e la ricerca di equilibrio tra obiettivi di business e requisiti di sicurezza. Ciò richiede ai team di sicurezza delle aziende uno sforzo nel comprendere comprendere strategie e tattiche dei criminali informatici alla luce di questa evoluzione tecnologica, in modo da poter implementare e soddisfare i più adeguati requisiti di protezione per contrastare le loro minacce.

Come l’intelligenza artificiale aiuterà i criminali informatici

L’intelligenza artificiale, nelle mani dei criminali informatici, è un’arma molto potente e potenzialmente devastante. Basti pensare a come questa possa aiutare gli attaccanti a scalare la portata degli attacchi di social engineering e di impersonificazione.

Facciamo un esempio. Immaginiamo che un criminale informatico abbia compromesso l’indirizzo di posta elettronica di un direttore finanziario: l’attaccante avrà  comunque bisogno di tempo per esaminare le vecchie email e comprendere come la vittima si rivolge a determinate persone, al fine di imitarla con successo in un attacco di social engineering. Con l’aiuto dell’AI generativa, invece, i cybercriminali possono accelerare immensamente il processo, fornendo allo strumento AI i dati di partenza. Con i dati forniti, l’AI generativa può scrivere testi e imitare voci individuali in maniera rapida e accurata, elevando il successo degli attacchi.

Inoltre, l’AI può essere utilizzata per creare falle non rilevabili tramite la revisione umana del codice, portando a diversi attacchi diffusi alla supply chain delle aziende che utilizzano inconsapevolmente pacchetti open source compromessi nel loro software.

Come l’intelligenza artificiale aiuterà i team di sicurezza

I “blue team”, ovviamente, non stanno rimanendo con le mani in mano. Infatti, le aziende in ambito della sicurezza informatica stanno facendo passi da gigante per quanto riguarda l’implementazione dell’intelligenza artificiale nel proprio flusso d’operazione. In quanto strumento altamente adattabile, l’AI può essere utilizzata per individuare e risolvere vulnerabilità, analizzare le minacce e monitorare il traffico di rete molto più agilmente degli attuali strumenti di sicurezza utilizzati dalle aziende.

Inoltre, l’intelligenza artificiale può rappresentare una sorta di assistente per i SOC (Security Operations Center), in grado di alleggerli da una parte dei loro compiti più ripetitivi o a meno valore aggiunto. In particolare, l’intelligenza artificiale generativa permetterà di ottimizzare le risorse dedicate alla protezione dei dati, in modo da garantire una remediation più rapida e efficiente, e migliorare la postura di sicurezza complessiva. In questo modo i team IT potranno recuperare tempo prezioso per concentrarsi su attività più complesse, come la gestione delle vulnerabilità, la valutazione dei rischi e la progettazione dell’architettura di protezione.

Un watermark per l’intelligenza artificiale?

Il problema più impellente è quello dell’impersonificazione: i team IT hanno quindi bisogno di un’autenticazione più forte e di una verifica dell’identità dei loro interlocutori. La tecnologia AI legittima deve essere verificata e convalidata prima di poter essere utilizzata. Siamo davanti a un caso molto simile a quello delle fotocopiatrici a colori: quando raggiunsero un livello di precisione tale da poter facilmente contraffare il denaro, i servizi segreti statunitensi riuscirono a convincere un gran numero di produttori a inserire un watermark in tutte le pagine stampate. Se non si fossero adeguati, avrebbero potuto essere considerati complici della contraffazione effettuata tramite i loro dispositivi, e ciò ha spinto i produttori a incorporare volontariamente i watermark.

Oggi si potrebbe proporre alle aziende di AI legittima di incorporare un watermark, o almeno un riconoscimento, simile. Il problema sta negli strumenti di AI open source, con gli attaccanti che potrebbero potenzialmente decodificare il firmware ed eliminarlo. Una soluzione potrebbe essere quella di rendere illegale la mancata divulgazione dell’AI, aggiungendo un ulteriore reato a carico dei criminali che la utilizzano, anche se in realtà questo potrebbe non rivelarsi essere un deterrente decisivo.

Per maggiori informazioni sull’utilizzo dell’intelligenza artificiale in ambito cybersecurity, vi invitiamo a consultare il sito di Veracode.

Offerta

Intelligenza artificiale in pratica. Diventare maestri nell'utilizzo dei modelli OperAI

• Alto, Valentina (Autore)

28,50 EUR

Acquista su Amazon