Da Scarlett Johansson a Renzi, la storia del Deepfake

Oggi l’informazione è a disposizione di tutti con un semplice click, basta inserire una parola in un motore di ricerca per ottenere centinaia di migliaia di risultati. Il problema non è più l’accesso alla conoscenza, quanto piuttosto il saper distinguere una singola informazione veritiera e pertinente nel mezzo di questo flusso caotico. Nell’era di fake news e post-verità, bufale e crisi delle fonti, “l’ultima crisi morale di Internet” (come la definisce il sito Mashable) è costituita dal deepfake.

Di cosa si parla quando si parla di deepfake

Forse non tutti hanno sentito nominare il deepfake, ma sicuramente in molti hanno visto il video rilasciato da Striscia la Notizia il 23 settembre 2019 che promette di mostrare un fuorionda di Matteo Renzi, accompagnato dall’ambigua didascalia “Sarà lui o non sarà lui?”.

Questo è solo l’esempio più recente ed eclatante della potenza dei deepfake, video fake realizzati grazie al deep learning e all’intelligenza artificiale, che presentano immagini catturate da Internet e adattate a un nuovo contesto attraverso realistici face-swap (scambi di viso).

Tale tecnica si basa prevalentemente sul machine learning, che consiste nell’offrire a un programma una grande quantità di filmati del soggetto che si vuole rappresentare, in modo che l’intelligenza artificiale realizzi la mappatura del viso e ne apprenda le espressioni facciali.

Da Emma Watson a Scarlett Johansson: porno e deepfake

Il deepfake nasce intorno al 2017 e ha come involontarie protagoniste diverse celebrità di Hollywood. In quell’anno infatti su Reddit iniziano a circolare filmati pornografici (pubblicati da un utente che si serviva del non casuale user di Deepfakes) che ritraggono svariate star cinematografiche.

La prima vittima è Gal Godot, nota per aver impersonato Wonder Woman, seguita ben presto da Taylor Swift, Emma Watson, Jennifer Lawrence, Scarlett Johansson e molte altre. L’attrice impersonante la Vedova Nera nella celebre serie degli Avengers spiega al Washington Post come combattere la diffusione di tali filmati sia una battaglia inutile.

Proprio dal punto di vista legale, spiega l’attrice, che si riscontrano gli ostacoli principali. Poiché infatti nei diversi Paesi non valgono le stesse regole sui diritti d’immagine e sui diritti d’autore, si può ottenere la rimozione dei video in uno Stato ma non in un altro.

Fake news e politica, il caso Barack Obama

Nonostante nel febbraio 2018 il canale dedicato ai deepfakes sia stato messo al bando da Reddit, ben presto questa modalità di video si è diffusa e dal porno ha raggiunto l’ambito della politica.

Nell’aprile dello stesso anno, BuzzFeed, in collaborazione con Jordan Peele, rilascia un video deepfake in cui un Barack Obama estremamente realistico si esprime in modo assai poco conveniente, pronunciando frasi come “Il Presidente Trump è un completo cretino”.

Lo scopo del video, in questo caso specifico, è quello di mettere in guardia sui reali pericoli di questa tecnica, costituendo così un precoce esempio di educazione civica digitale nei confronti del deepfake. Non a caso le prime parole pronunciate da Obama nel video annunciano che oggi è facile far credere che chiunque stia dicendo qualunque cosa.

Il Deepfake di Matteo Renzi: “Zingaretti come Bombolo”

Affermazioni ugualmente sconvenienti vengono rilasciate dal finto Matteo Renzi nel deepfake recentemente pubblicato da Striscia la Notizia. “Conte ha la faccia da cretino” e “Zingaretti ha il carisma di Bombolo” sono solo alcune delle assurde dichiarazioni che il leader di Italia Viva sembra rivelare fuori onda.

Questa volta però, l’educazione civica digitale non ha nulla a che fare con il deepfake. L’ambiguità caratterizza infatti il video pubblicato da Striscia la Notizia, tanto che nel corso del programma Ezio Greggio aggiunge:

Cose così Renzi le pensa, mica le dice.

Proprio da questo video emerge come l’ambiguità renda pericoloso il deepfake. Possiamo accorgerci che il video di Renzi è un fake per la qualità del montaggio e possiamo anche dubitare che il politico abbia effettivamente pronunciato tali parole. Eppure le affermazioni sconvenienti che emergono rischiano di confermare i pregiudizi che nutriamo nei suoi confronti, portandoci a credere alla veridicità del deepfake. Molti utenti sui social hanno rivelato di non aver notato che il video fosse un falso.

Deepfake e educazione civica digitale

I video deepfake, per via del loro realismo, possono costituire un effettivo ostacolo alla creazione di un web sostenibile. Soprattutto quando tali video vengono spacciati per veri, costituiscono un pericolo. E’ frequente, per esempio, la creazione di deepfake da utilizzare come revenge porn. È per questa ragione che sempre più progetti di educazione civica digitale vengono creati allo scopo di contrastarli.

Tale obiettivo è però arduo da raggiungere, sia perché i deepfake sono difficili da individuare, sia perché sono ormai diffusissimi. Basti pensare alle innumerevoli app di face swap esistenti e accessibili a tutti, e al successo che riscuotono. Face Swap, Face Swap Celebrity Camera e alcune funzioni di Snapchat ne sono solo un esempio.

Il primo metodo per identificare i deepfake consisteva nel monitorare la frequenza con cui i soggetti battevano le palpebre. Nei video fake, infatti, questa era diversa rispetto alla realtà. Tuttavia, ben presto l’algoritmo dei deepfake si è adattato, e oggi tale differenza non esiste più. Si sono dovute quindi cercare nuove soluzioni al problema.

Come smascherare i deepfake

Un esempio è costituito dalla ricerca di Siwei Lyu, docente all’ Albany State University di New York. Lyu ha sviluppato un algoritmo in grado di osservare i pixel in alcuni fotogrammi specifici. Pare che, nei momenti in cui il soggetto del video deepfake non stia guardando direttamente in camera, certi tratti somatici vengano disallineati (anche se in maniera impercettibile). L’algoritmo creato dal ricercatore è in grado di percepire queste variazioni, identificando così i video deepfake.

Ciò che è certo è che la strada da percorrere per riuscire ad identificare e contrastare efficacemente i deepfake è ancora lunga, e che l’educazione civica digitale gioca in questo ambito un ruolo fondamentale: sensibilizzare gli utenti alla problematica costituisce infatti il primo (doveroso e necessario) passo per risolverla.

A cura di

Ilaria Aceto

FONTI:

CREDITS: