Costantemente il nome di Telegram finisce sulle maggiori testate, non solo nazionali, a causa dei reati che si consumano all’interno dei suoi gruppi. Tra i precedenti più noti, gruppi di pedofili e revenge porn. Ormai non possiamo più definirla una semplice piattaforma per la messaggistica istantanea: è più simile a un vero e proprio ecosistema sviluppatosi nella rete. E con l’evolversi delle tecnologie che vengono introdotte nei canali Telegram, evolvono anche i rischi. L’ultimo, in ordine cronologico, è rappresentato dai deepfake.
Cosa sono i deepfake
Il termine deepfake nasce nel 2017 per mano di un utente di Reddit noto come “deepfakes”. L’utente, insieme ad altri seguaci, iniziò a creare e diffondere video in cui sostituiva i volti di attori pornografici con quelli di altre celebrità. Cominciarono a circolare anche video più “innocenti”, dove il volto di Nicolas Cage compariva in vari film.
Già in precedenza era possibile sovrapporre volti, soprattutto nel caso di fotografie, utilizzando programmi come Photoshop. L’avvento delle intelligenze artificiali, tuttavia, ha migliorato sensibilmente i risultati. Vari siti, tra cui Reddit, Twitter e Pornhub, hanno deciso di vietare tali contenuti, ben consapevoli dei danni che questo tipo di materiale potrebbe causare.
Il principale limite a tecniche simili è stato, in questi anni, la necessità di fornire al pc un numero considerevole di foto del volto da inserire, prese da varie angolature. Oltre a questo, è necessario poi disporre di un hardware sufficientemente potente da processare tali dati. Purtroppo, però, problemi del genere vengono ormai superati velocemente.
Deepfake su Telegram
Secondo un’indagine della compagnia “Sensity“, azienda specializzata nel tracciare i rischi legati alle IA, i deepfake sono ormai diventati facilmente accessibili a chiunque abbia uno smartphone e una connessione internet, tramite Telegram. Il report parla infatti di centinaia di migliaia di donne “spogliate virtualmente”.
Fornendo poche immagini, spesso prese dai social network delle vittime, gli autori di questi contenuti possono produrre in pochi istanti foto in cui il volto della vittima è “montato” su di un corpo nudo. Spesso con risultati particolarmente realistici, difficilmente riconoscibile come fake.
Tali contenuti, ovviamente, finiscono per diventare strumenti per il revenge porn, oltre che per ricattare le vittime. In passato, poi, per utilizzare programmi simili erano necessarie capacità di programmazione. Il fatto che oggi basti accedere a Telegram rende questo strumento un’arma utilizzabile davvero da chiunque.
L’accesso a questo canale Telegram, oltretutto, è gratuito: basta accedervi, caricare l’istantanea del volto da sovrapporre, e nell’arco di pochi minuti, o secondi, si riceve il contenuto richiesto. Con la versione premium, poi, è possibile rimuovere il watermark del bot, rendendo la foto realistica.
Le nuove vittime dei deepfake
In passato, vittime di questa tecnologia erano normalmente attrici o altre celebrità, delle quali è possibile trovare in rete molte fotografie. Le nuove vittime, tuttavia, sono perlopiù colleghe, compagne di scuola, “amiche”. In teoria, basterebbe caricare una sola foto in rete per cadere vittima di tali abusi.
La ricerca ha rilevato che influencer e altre celebrità rappresentano oggi il 30% delle vittime di tale strumento. Il 70%, infatti, è composto da soggetti “privati”, potenzialmente minorenni, di varie nazionalità: principalmente Russia, Argentina, Italia e Stati Uniti. Gli utilizzatori, contando sia quelli provenienti dal bot originale sia quelli riferibili ai canali affiliati, sono oltre cento mila. Principalmente provengono dalla Russia o da Paesi dell’ex Unione Sovietica.
Ad oggi, gli strumenti per proteggersi da tali abusi sono praticamente nulli, soprattutto per vittime non “tutelate” dalla fama.
Le indagini in Italia sul bot Telegram
Il Garante per la protezione dei dati personali ha aperto un’istruttoria nei confronti di Telegram per la condivisione di tali contenuti. Il Garante si sta concentrando sul software derivato da DeepNude e ora diffuso sul social network russo. DeepNude è stato uno dei primi programmi a semplificare estremamente le competenze e materiali necessari a produrre un deepfake.
Come riporta la nota dell’Autorità, infatti, “Preoccupato per gli effetti prodotti dal software e dalla sua diffusione tra gli utenti del social, il Garante per la protezione dei dati personali composto da Pasquale Stanzione, Ginevra Cerrina Feroni, Agostino Ghiglia e Guido Scorza ha deciso di aprire un’istruttoria nei confronti di Telegram, social già oggetto di un’attività di verifica da parte dell’Autorità”.
Un’altra rilevante criticità messa in luce nella nota, poi, è l’eventuale conservazione delle immagini manipolate da parte del software.
A cura di
Federico Villa
FONTI:
CREDITS: