I sistemi di Retrieval Augmented Generation (RAG) sono vulnerabili, e la loro sicurezza può essere messa a dura prova da gravi attacchi informatici. Lo rivela un recente report di Trend Micro, che ha identificato numerosi server esposti e non protetti in tutto il mondo. I cybercriminali potrebbero sfruttarli per sottrarre dati sensibili e manipolare i sistemi aziendali.
Gravi vulnerabilità di sicurezza nei sistemi RAG
I sistemi RAG permettono di creare applicazioni basate su dati privati. Funzionano attraverso un vector store, un archivio che memorizza blocchi di testo e codici numerici per recuperare informazioni rilevanti. Questo consente di generare risposte basate su fonti interne, ottimizzando l’uso dell’intelligenza artificiale.
Secondo Trend Micro, molte aziende espongono questi archivi senza adeguate misure di sicurezza. I ricercatori hanno individuato 80 server llama.cpp non protetti, di cui 57 privi di autenticazione. Gli Stati Uniti, la Cina, la Germania e la Francia risultano i paesi più colpiti.
In particolare i cybercriminali possono accedere ai vector store esposti e alle piattaforme di hosting di modelli linguistici (LLM), con il rischio di:
- Furto di dati sensibili, inclusi documenti riservati e informazioni aziendali critiche.
- Manipolazione dei sistemi, con possibili alterazioni dei risultati generati dalle IA.
- Attacchi denial-of-service (DoS), che possono compromettere la disponibilità dei servizi.
- Bug di convalida dei dati, che aprono la strada a ulteriori vulnerabilità.
La velocità con cui questi sistemi si evolvono rende difficile monitorare e correggere le falle di sicurezza in tempo.
Naviga in sicurezza con Nord VPN, Ottieni da questo link fino al 70% di Sconto
Come proteggere i sistemi RAG: i consigli di Trend Micro
Per mitigare i rischi, Trend Micro consiglia alle aziende di adottare misure di sicurezza specifiche. Tra queste:
- Implementare protocolli di autenticazione per limitare l’accesso ai server.
- Utilizzare la crittografia TLS per proteggere i dati in transito.
- Applicare un modello zero-trust, garantendo che ogni accesso sia verificato e autorizzato.
Queste soluzioni possono ridurre le vulnerabilità e proteggere le infrastrutture aziendali dagli attacchi informatici.
- ALEXA PUÒ MOSTRARTI MOLTE COSE: Echo Show 5 è dotato di uno schermo da 5,5", per controllare a colpo d’occhio il meteo e le ultime notizie, fare videochiamate, visualizzare le videocamere compatibili, ascoltare musica e programmi in streaming, e molto altro.
- PICCOLE DIMENSIONI, MIGLIORI PRESTAZIONI AUDIO: ascolta la tua musica o i tuoi podcast preferiti, guarda le serie TV che ami e molto altro su Amazon Music, Spotify, Prime Video o altri servizi, ora con bassi ancora più profondi e voci più nitide. Questo dispositivo è dotato di uno schermo da 5,5’’, per guardare a colpo d’occhio serie TV, titoli di canzoni e molto altro.
- LA TUA CASA GESTITA IN TUTTA COMODITÀ: controlla i dispositivi per Casa Intelligente, come lampadine e termostati, anche quando non sei in casa.
- VEDI ANCORA DI PIÙ CON LA VIDEOCAMERA INTEGRATA: controlla come sta la tua famiglia, i tuoi animali domestici e molto altro con la videocamera integrata. Effettua chiamate Drop In quando non sei a casa o monitora la porta d’ingresso dal tuo Echo Show 5, grazie ai videocitofoni compatibili.
- UTILIZZA LE TUE FOTO COME SFONDO: quando il dispositivo non è in uso, grazie ad Amazon Photos le tue foto possono scorrere sullo schermo del dispositivo. I membri Prime possono archiviare illimitate foto nel Cloud.
