Deepfake: definizione e caratteristiche

Deepfake: definizione

Viene definito deepfake la tecnica che applica l’intelligenza artificiale ai video, sovrapponendo il volto di un’altra persona al protagonista.
Nato nel 2017 come esperimento dell’Università di Washington, il deepfake si è presto affermato come strumento per la diffusione di messaggi fuorvianti, che vanno dall’ironia alla manipolazione. Alla base dell’ilarità, della confusione o della manipolazione del fruitore del video, lo scambio di identità.
Seppur nato con intenti non certo immorali, il deepfake si presta dunque anche a utilizzi illegittimi e può costituire una vera e propria minaccia per la pubblica opinione e la reputazione di aziende e privati. Per esempio, diventa uno strumento a sostegno dei contenuti delle fake news.

Le prime fasi del deepfake: la pornografia

Benché in Italia le prime preoccupazioni si siano diffuse per la sua applicazione alla politica, il 96% dei video deepfake sul web è di genere pornografico. Questo emerge da un report di Deeptrace, azienda specializzata nel riconoscimento del deepfake nei video online.

In particolare, il deepfake viene utilizzato per sovrapporre i visi di attrici e cantanti famose ai volti delle pornostar dei video originali. Come sottolinea il report di Deeptrace, il fenomeno riguarda pressoché solo le donne: è minima la percentuale di uomini protagonisti di video di questo tipo in ambito pornografico.

Il deepfake come minaccia

La presidente del Senato, Elisabetta Casellati, in apertura del convegno “La minaccia del deepake”, ha definito il fenomeno:

Una nuova e temibile minaccia che in futuro rischia di trasformare l’ecosistema digitale in un mondo in cui distinguere il vero dal falso sarà sempre più arduo.

Ha poi aggiunto:

Le possibili conseguenze di un suo uso illegittimo sono angosciose: si possono per esempio creare falsi video in cui politici e personaggi pubblici fanno dichiarazioni di un certo peso. […] Il deepfake è in grado di trasformarsi in un’arma pericolosa ed efficace per creare notizie false che già oggi sono molto utilizzate per manipolare l’opinione pubblica.

Casellati non è l’unica personalità del mondo politico ad aver espresso preoccupazione per la diffusione degli utilizzi illegittimi del deepfake. Sono molti coloro che auspicano un intervento legislativo e una maggiore consapevolezza da parte dei fruitori del web. Non esistono infatti delle norme che regolino l’utilizzo del deepfake né leggi che lo sanzionino a livello penale.

Proposte contro

Da questo punto di vista ci si muove a livello mondiale con interventi e proposte che arrivano anche dai colossi dell’informatica e dell’informazione.

Google, per esempio, ha pubblicato un database di video deepfake, e Twitter ha introdotto delle modifiche alla policy volte a rendere gli utenti maggiormente consapevoli riguardo i contenuti fruiti. In questo senso, Twitter ha avviato anche una collaborazione con il «New York Times» e con Adobe; collaborazione che ha come obiettivo quello di fornire chiarimenti sugli autori dei video e sulle modifiche apportate allo stesso in corso d’opera. L’intento, dichiarato dal responsabile ricerca e sviluppo del «New York Times», è riassunto nell’affermazione che segue:

Distinguere le vere news su internet è una delle maggiori sfide che i lettori si trovano ad affrontare. Combattere la cattiva informazione richiede che l’intero ecosistema – creatori, editori e piattaforme – lavori insieme.

Twitter e deepfake

Se si rivolge a Twitter per capire cosa succede nel mondo, vogliamo che l’utente abbia un’idea del contesto del contenuto che sta vedendo. Tentativi deliberati di fuorviare o confondere le persone con media manipolati mettono a rischio l’integrità della conversazione.

Questo quanto si legge nel post con cui Twitter ha lanciato la nuova policy. La piattaforma segnala con una nota i tweet che contengono video deepfake, che tuttavia non vengono rimossi, a meno che costituiscano un pericolo tangibile. Il tentativo è dunque in direzione di una presa di consapevolezza da parte degli utenti.

Il database di Google

Nella stessa direzione va la proposta di Google, con la creazione di un database di video deepfake. L’intento è quello di fornire agli utenti del web gli strumenti per il riconoscimento di video falsi.

Deepfake Detection Challenge

Anche Amazon è intervenuta nel dibattito sul deepfake, appoggiando Facebook e Microsoft nel progetto Deepfake Detection Challenge, che vede coinvolti anche il MIT e l’Università di Oxford. L’obiettivo, in questo caso, è la creazione di sistemi open source per il rilevamento di video deepfake.

ll ruolo dell’educazione civica digitale

Se da una parte va riconosciuto l’impegno delle grandi aziende e delle istituzioni per combattere l’utilizzo illegittimo del deepfake, rimane comunque evidente che un ruolo primario debba essere giocato dall’educazione civica digitale. L’aumento di consapevolezza degli utenti del web è la chiave per un ecosistema digitale più sostenibile, a prova di fake.

FONTI:

CREDITS: