I lati oscuri dell’intelligenza artificiale secondo Cynet

L’azienda israeliana Cynet che si occupa di cybersecurity e rilevamento di minacce informatica, ha riscontrato un aumento della creazione di e-mail di phishing tramite l’intelligenza artificiale, svelando così alcuni aspetti di questa tecnologia che meritano attenzione.

Che cos’è il phishing ?

Il phishing è un tipo di truffa effettuata in rete attraverso la quale un malintenzionato cerca di ingannare l’utente vittima convincendola a fornire informazioni personali. La richiesta di dati può variare, dall’inserimento di dati finanziari, codici di accesso a indirizzi; tutto questo fingendosi un ente affidabile in una comunicazione digitale. Il termine phishing si ispira alla pesca, poiché la vittima deve abboccare, quindi ricadere nella trappola del malintenzionato.

Tra i principali attacchi phishing da cui scaturisce l’installazione di ransomware si distinguono gli “Infostealer“, questi sono malware che sottraggono delle informazioni personali alle vittime per poi rivenderle a poche decine di dollari all’interno di canali Telegram, senza accedere al Darkweb.

Un ransomware di tipo Infostealer è piuttosto difficile da rilevale: si tratta di malware silenti che si limitano a rubare dei dati, ma senza fare alcuna azione al sistema.

I lati oscuri dell’intelligenza artificiale rilevati da Cynet

Con l’arrivo delle intelligenze artificiali, in particolare nel novembre scorso è stato lanciato da OpenAI il servizio ChatGPT, che fin da subito ha riscosso un grande successo. La grande fama ottenuta ha permesso anche ad alcuni malintenzionati di commettere dei reati in rete.

Tramite il servizio CyOps Lighthouse, una componente della Cyber threat Intelligence, Cynet ha rilevato un aumento della creazione di e-mail di phishing con modelli Generative Pre-trained Transformer (GPT). Questi modelli sfruttano l’apprendimento profondo per produrre testo simile al linguaggio naturale umano, sono quindi in grado grado di generare attacchi più sofisticati e su larga scala.
La Cyber threat intelligence che abbiamo citato poc’anzi consiste in una serie di dati contenti informazioni dettagliate sulle minacce alla sicurezza informatica. Solitamente finalizzati a prendere di mira organizzazioni pubbliche o aziende.

Grazie alla maggiore accessibilità di queste tecnologie, e la loro facilità d’uso anche senza competenze tecniche, l’intelligenza artificiale ha permesso una maggiore espansione di questo tipo di reati. Secondo Cynet la percentuale di vittime di e-mail di phishing scritte con l’utilizzi di sistemi generativi di AI è cinque volte superiore alla norma.

L’intelligenza artificiale secondo Cynet

Secondo Marco Lucchina, Channel Manager di Cynet: “i modelli Generative Pre-trained Transformer offrono più velocità e automazione ai cybercriminali. Al momento i modelli GPT non sono in grado di modificare in modo decisivo il panorama delle minacce, offrono solo una maggiore accessibilità anche a persone sprovviste di competenze tecniche. ” Marco Lucchina aggiunge: “Sfruttando la potenza della tecnologia dell’intelligenza artificiale, di cui ChatGPT si può considerare massimo esponente, le aziende e i privati possono migliorare la loro produttività con nuove e potenti soluzioni. E’ fondamentale bilanciare i benefici e i rischi e garantire che l’IA venga utilizzata in modo etico e responsabile“.

Concludiamo aggiungendo che la sofisticazione di un attacco risiede nella precisione linguistica e nell’integrazione di codice. Prima dell’arrivo degli applicativi GPT era un tecnico a dover ideare l’attacco. Ora qualsiasi persona dotata di fantasia e talento criminale è in grado di escogitare l’attacco servendosi di queste tecnologie di AI. Un cambio di paradigma non da poco!