Opportunità e rischi per la privacy ai tempi dell’AI nei social network

L’Intelligenza Artificiale – AI – ormai è ovunque, anche su social come TikTok e Instagram: quali sono i rischi per la privacy? Questa è la domanda che si sono posti Jack West, Jinjie Li e Kassem Fawaz nel loro articolo pubblicato su ACM Digital Library.

Questo studio ha analizzato come Instagram e TikTok utilizzino modelli di AI sui dispositivi degli utenti. Ciò non può che sollevare delle questioni cruciali sulla privacy e sulla trasparenza delle piattaforme social oggigiorno.

Instagram e TikTok: i problemi di privacy con l’AI

Tradizionalmente, i modelli di intelligenza artificiale operavano sui server delle aziende, elaborando i dati raccolti dai dispositivi degli utenti. Con l’aumento della potenza di calcolo degli smartphone, molte piattaforme hanno spostato questi modelli direttamente sui dispositivi, riducendo i costi di gestione e migliorando le prestazioni.

Tuttavia, questa transizione ha eliminato una distinzione fondamentale: prima, i dati lasciavano il dispositivo per essere analizzati; ora, l’analisi avviene direttamente sullo smartphone senza che l’utente ne sia necessariamente consapevole.

Il caso emblematico di TikTok

Lo studio ha rilevato che TikTok attiva un modello di visione artificiale ogni volta che la fotocamera è aperta e rileva un volto. Il sistema analizza ogni singolo fotogramma, stimando età, genere e altre caratteristiche dell’utente. I risultati vengono memorizzati in un file crittografato, senza evidenze che questi dati lascino il dispositivo.

Tuttavia, i test effettuati hanno dimostrato che TikTok tende a sovrastimare l’età dei bambini, spesso classificandoli come tredicenni, età minima richiesta per aprire un account sulla piattaforma. Inoltre, l’analisi dei dati ha mostrato imprecisioni significative nell’identificazione del genere per utenti con pelle scura. Ciò solleva ovvie e doverose preoccupazioni sul potenziale impatto discriminatorio di tali tecnologie.

Il modello di Instagram

Instagram, invece, utilizza un modello di AI quando un utente seleziona un’immagine da caricare come Reel, anche senza pubblicarla effettivamente. Questo modello assegna oltre 500 etichette diverse all’immagine, identificando oggetti, tratti del viso e persino riferimenti culturali e religiosi. Un ulteriore aggiornamento ha ampliato il modello a 1.500 concetti, dimostrando come le piattaforme social continuino a sviluppare queste tecnologie senza rallentamenti.

Uno degli aspetti più preoccupanti emersi dallo studio riguarda i bias algoritmici. Le immagini di donne asiatiche venivano infatti spesso associate alla Grande Muraglia Cinese. Mentre le immagini di donne bianche erano più frequentemente etichettate con il termine “bionda”.

Gli utenti e la percezione sull’AI di Instagram e TikTok

Per comprendere l’impatto di queste pratiche sull’uso dei social media, i ricercatori hanno intervistato 21 utenti di Instagram e TikTok. Le reazioni sono state estremamente diverse e variegate fra loro. TikTok ha generato le maggiori preoccupazioni, poiché l’uso dell’AI era automatico e non segnalato. Molti utenti si sono detti infastiditi dalla mancanza di controllo su quando e come il modello analizzasse le loro immagini.

Instagram, al contrario, è stato percepito in modo più positivo perché il modello si attivava solo quando l’utente sceglieva un’immagine. Tuttavia, la mancanza di chiarezza sulle informazioni estratte ha comunque generato diffidenza. Dopo aver scoperto queste pratiche, otto partecipanti hanno ridotto l’uso delle app, alcuni hanno disabilitato i permessi della fotocamera e un utente ha disinstallato TikTok.

Le soluzioni per una maggiore trasparenza

Lo studio, pubblicato su ACM Digital Library, suggerisce che le piattaforme dovrebbero essere più trasparenti su come utilizzano l’AI locale. Attualmente, molte di queste pratiche non vengono spiegate chiaramente nelle policy sulla privacy. Una possibile soluzione potrebbe essere l’introduzione di etichette di sicurezza per l’AI, simili alle attuali etichette di privacy nelle app.

Queste etichette dovrebbero includere, al fine di essere il più trasparenti possibile per gli utenti, i vari dati che vengono analizzati, con quale frequenza e con quale scopo vengono utilizzati, e se le informazioni estratte vengono archiviate oppure condivise.