ChatGPT offre la possibilità di generare testi tramite l’intelligenza artificiale, partendo da input anche molto complessi. Molti hanno testato la tecnologia per diversi finalità, anche solo per curiosità, con gli sviluppatori che l’hanno anche sfruttata per scrivere codice. Ma una recente analisi di Check Point Research (CPR) evidenzia come i cybercriminali possano utilizzare ChatGPT per creare tool malevoli. Dagli infostealer alle attività di frode, sembra che un numero crescente di criminali informatici abbia messo gli occhi su questa tecnologia.
3 esempi di come ChatGPT possa creare tool malevoli
Un numero sempre maggiore di hacker e cybercriminali si sta interessando di questa tecnologia, che nasce invece per assistere piuttosto gli sviluppatori nella scrittura di codice.
Sergey Shykevich, Threat Intelligence Group Manager di Check Point, spiega: “ChatGPT è stato ideato a fin di bene per assistere gli sviluppatori nella scrittura di codice, ma può anche essere usato per scopi pericolosi. Nelle ultime settimane, stiamo osservando i criminali iniziare a utilizzare ChatGPT per scrivere codice malevolo, dando loro il potenziale per accelerare il processo d’attacco e buone basi di partenza. Sebbene i tool analizzati siano piuttosto elementari, è solo questione di tempo prima che i criminali più tecnici migliorino il modo in cui utilizzano gli strumenti basati sull’intelligenza artificiale. CPR continuerà a indagare nelle prossime settimane sulla criminalità informatica legata a ChatGPT.”
Ma nonostante le indagini su questa risorsa siano ancora in corsa, ci sono già tre esempi di come ChatGPT possa servire per creare tool malevoli.
Creazioni di malware infostealer
Il 29 dicembre 2022, giusto prima di chiudere l’anno, in un forum di hacking clandestino appare un thread dal nome: “ChatGPT – Benefits of Malware“. L’autore spiega di essere al lavoro per sfruttare ChatGPT al fine di creare malware.
Amazon Prime: 30 giorni gratis, Prova subito!
L’esempio riportato è di un file stealer in Python, che cerca file sotto i 50MB per trovare credenziali e password esposte da salvare in un file zip. Ma al di là dell’esempio, questo post sembra dimostrare come creare infostealer con ChatGPT, per poi utilizzarli per scopi dannosi.
ChatGPT a scopi malevoli: creare un tool di crittografia multilivello
Il 21 dicembre 2022 un aggressore noto come USDoD ha pubblicato uno script Python, il “primo che io abbia mai creato”. Un criminale informatico ha commentato dicendo che lo stile ricorda quello di OpenAI e USDoD lo ha confermato: ChatGPT gli ha “dato una bella mano a finire lo script con una bella portata”.
Quindi tool di OpenAI ha quindi dato a un hacker poco esperto la possibilità di creare un tool potenzialmente pericoloso, in maniera semplice. Il codice può avere anche un utilizzo innocuo, per questo non è stato riconosciuto come pericoloso da ChatGPT. Ma Check Point spiega che potrebber servire per criptare completamente il computer di qualcuno, trasformandolo in un ransomware risolvendo qualche problema di script e di sintassi.
Amazon Prime: 30 giorni gratis, Prova subito!
Facilitare le attività di frode e il phishing
Un altro degli scopi malevoli con cui usare il tool ChatGPT è quello delle frodi. Check Point spiega che un criminale in un forum ha mostrato come creare un marketplace script per il dark web utilizzando il tool di Open AI. Questo tipo di piattaforme commerciali nell’economia clandestina serve a vendere in maniera automatizzata beni illegali e rubati, comprese carte di credito e conti, ma anche droghe e armi, tutto pagando in criptovalute.
Ma Check Point spiega anche che ChatGPT riesce a scrivere email di phishing. Sebbene ci sia un prompt che avverte del fatto che potrebbe essere una pratica illegale, potete tranquillamente chiedere all’AI di fingersi una società di web hosting per convincere gli utenti a scaricare un documento Excel. E potete persino chiedere che ChatGPT crei un codice VBA dannoso per scaricare direttamente da un URL a vostra scelta all’apertura del file Excel. L’unica cosa che dovete fare è copia e incolla dell’URL del malware di vostra scelta.
Questi esempi dimsotrano come sia facile aggirare i controlli di ChatGPT e chiedere all’AI di produrre tool malevoli, rendendo più semplice il lavoro anche per gli hacker meno esperti. Potete trovare maggiori informazioni sul sito di Check Point Software.
