Deepfake sono video in cui il soggetto è scambiato la faccia utilizzando algoritmi di apprendimento automatico. La pratica è stata creata da Redditore Deepfakes, che ha lanciato un subreddit dedicato per condividere i video nel novembre 2017. Nel gennaio 2018, l'applicazione desktop FakeApp è stata rilasciata come strumento per la creazione di video modificati digitalmente.
Il 2 novembre 2017, i deepfakes Redditor hanno creato /r/deepfakes [1] subreddit come luogo in cui condividere i suoi video sessualmente espliciti modificati digitalmente in cui il volto del soggetto è stato scambiato con una celebrità o un personaggio pubblico. Secondo Redditor, la tecnologia utilizza le librerie open source Keras e TensorFlow per eseguire gli scambi di volti.
L'8 gennaio 2018, l'account Reddit deepfakeapp ha annunciato il lancio di FakeApp, un'applicazione descritta come 'uno strumento desktop per la creazione di deepfake'. [Due] Quel mese, /r/fakeapp [3] subreddit dedicato alle discussioni sul software ha raccolto oltre 2.500 abbonati. Il 30 gennaio, /r/facesets [7] subreddit è stato lanciato per consentire agli utenti di condividere set di immagini di volti estratte per la creazione di deepfake.
Il 25 gennaio 2018 Redditor [8] far cadere fakes ha pubblicato un video nel subreddit /r/deepfakes, una community in cui le persone usano un'applicazione di deep learning chiamata FakeApp per sostituire i volti delle persone nei video, di di Andy Samberg sostituito con di Nicolas Cage . Il video (mostrato sotto) ha ricevuto più di 600 voti positivi (97% di voti positivi) e 20 commenti.
Diversi giorni dopo, i derpfakes hanno incollato la faccia di Cage su quella di Amy Adam dal film Uomo d'acciaio . Il post (mostrato sotto, a sinistra) ha ricevuto più di 2.000 punti (98% di voti positivi) e 90 commenti. Inoltre, il 26 gennaio, i derpfakes hanno messo la testa di Cage su quella di Harrison Ford nel film predatori dell'arca perduta (mostrato sotto, a destra).
L'11 dicembre 2017, il Vice sito di notizie sulla tecnologia Scheda madre [4] ha pubblicato un articolo intitolato ' AI -Assisted Fake Porn Is Here and We're All Fucked', che conteneva interviste a vari esperti sulle implicazioni etiche della tecnologia dei deepfake. Il 24 gennaio, Motherboard [5] ha pubblicato un articolo di follow-up sul programma FakeApp intitolato 'Siamo veramente fottuti: tutti stanno realizzando ora porno falso generato dall'intelligenza artificiale'. Il 31 gennaio 2018, YouTuber Filippo De Franco ha caricato un video che parla di DeepFakes e FakeApp.
Il 27 gennaio 2018 è stato rilasciato il canale YouTube di Derpfakes, che presenta video sicuri per il lavoro creati con il software deepfakes. In un mese, il canale ha ricevuto più di 400.000 visualizzazioni di video e 1.300 iscritti.
Il 31 gennaio 2018, il sito di hosting multimediale Gfycat ha iniziato a rimuovere tutti i media relativi ai deepfake. Quel giorno, scheda madre [6] ha pubblicato un articolo sull'epurazione, che includeva una dichiarazione di un portavoce di Gfycat che ha rivelato che la società stava 'rimuovendo attivamente questo contenuto'.
Il 7 febbraio 2018, il subreddit /r/deepfakes è stato bandito dallo staff di Reddit per aver violato la politica sui contenuti del sito 'contro la pornografia involontaria' (mostrata sotto). Inoltre, Reddit ha anche rimosso i subreddit /r/deepfakensfw, /r/youtubefakes, /r/CelebFakes, /r/doppelbangher, /r/facesets e /r/xray.
In una dichiarazione al sito di notizie tecnologiche di Vice Motherboard, [13] un portavoce di Reddit ha spiegato il ragionamento alla base della nuova restrizione a livello di sito:
'Reddit si sforza di essere una piattaforma accogliente e aperta per tutti, confidando che i nostri utenti mantengano un ambiente che coltivi una conversazione genuina. A partire dal 7 febbraio 2018, abbiamo apportato due aggiornamenti alla nostra politica a livello di sito in materia di pornografia involontaria e sessuale o allusiva contenuti che coinvolgono minori. Queste norme erano precedentemente combinate in un'unica regola; ora saranno suddivise in due distinte. Le comunità incentrate su questi contenuti e gli utenti che pubblicano tali contenuti saranno banditi dal sito'.
Quel giorno, un thread sul divieto raggiunse la prima pagina di /r/KotakuInAction. [9] Nel frattempo, l'amministratore di Redditor landoflobsters ha inviato un post a /r/announcements [14] sull'aggiornamento delle regole a livello di sito. Sempre il 7 febbraio, diversi siti di notizie hanno pubblicato articoli sul divieto, tra cui The Verge, [10] Inverso [undici] e BoingBoing . [12]
Dopo il divieto, molti utenti sono passati alla scheda /deepfakes/ 8chan [18] e la comunità /v/DeepFakes su Vota . [17]
Il 16 febbraio 2018, Reddit ha bandito il subreddit /r/FakeApp, una community dedicata ai video sicuri per il lavoro creati con il software Fake App, lasciando un avviso che era stato bandito per aver violato la loro politica contro la 'pornografia involontaria'. Quel giorno, Il punto quotidiano [quindici] ha pubblicato un articolo sul divieto, rilevando che una cache recente [16] della prima pagina del subreddit era 'dominato da discussioni tecniche sul software, mescolate con alcuni falsi non pornografici'.
Il 17 aprile 2018, BuzzFeed twittato [19] un video deepfake dell'ex presidente Barack Obama giocato da Uscire direttore Jordan Peel . Il post ha ricevuto più di 13.000 retweet e 29.000 Mi piace in 24 ore. Quel giorno, il video è stato pubblicato anche su YouTube [27] (mostrato sotto), dove ha ricevuto più di 100.000 visualizzazioni in meno di 24 ore.
Il video avverte della tecnologia che può essere utilizzata per ingannare gli spettatori. Nel pezzo, Peele afferma: 'Questo è un momento pericoloso. Andando avanti, dobbiamo essere più vigili con ciò di cui ci fidiamo dal Internet .' [venti]
@BuzzFeedNews ha seguito il post twittando [ventuno] suggerimenti per identificare questo tipo di falsi. Hanno scritto: 'Ecco come evitare di innamorarsi di video falsi come questo: 1) Non saltare alle conclusioni 2) Considera la fonte 3) Controlla dove si trova (e non è) online 4) Guarda attentamente l'oratore bocca 5) Rallenta il video.' Il post (mostrato sotto) ha ricevuto più di 350 retweet e 750 Mi piace in 24 ore.
Quel giorno, Twitter [22] ha pubblicato una pagina Momenti sul video.
Diversi media hanno coperto il video, tra cui Business Insider, [23] il Circolo AV, [24] Fox News , [25] La Mary Sue [26] e altro ancora.
Il 13 settembre 2018, tre legislatori hanno inviato una lettera al Direttore dell'intelligence nazionale chiedendo un rapporto sui deepfake entro la metà di dicembre 2018. Adam Schiff (D-California), Stephanie Murphy (D-Fla.) e Carlos Curbelo (R) -Fla.), gli autori della lettera, hanno scritto al regista Daniel Coats, esortandolo a indagare su Deep Fakes, che, secondo loro, potrebbe essere un problema di sicurezza nazionale e potrebbe essere utilizzato da nazioni straniere ostili o altri attori nefasti. [28]
La lettera recita:
Video, immagini o audio contraffatti potrebbero essere utilizzati per prendere di mira persone per ricatto o per altri scopi nefasti di maggiore preoccupazione per la sicurezza nazionale, potrebbero anche essere utilizzati da attori stranieri o nazionali per diffondere disinformazione. Man mano che la tecnologia deep fake diventa più avanzata e più accessibile, potrebbe rappresentare una minaccia per il discorso pubblico e la sicurezza nazionale degli Stati Uniti, con implicazioni ampie e preoccupanti per le campagne di misure attive offensive contro gli Stati Uniti.
[1] Reddit – /r/deepfake (pagina non disponibile)
[Due] Reddit – post fakeapp (pagina non disponibile)
[3] Reddit – /r/app falsa (pagina non disponibile)
[4] Scheda madre – Il porno falso assistito dall'intelligenza artificiale è qui ed è stato tutto scopato
[5] Scheda madre - Siamo davvero fottuti
[6] Scheda madre – I creatori di porno falsi generati dall'IA sono stati eliminati dal loro host preferito
[7] Reddit (tramite Wayback Machine) – /r/sfaccettature
[8] Reddit – r/deepfakes è stato bandito
[9] Reddit – r/deepfakes è stato bandito
[10] Il confine – Reddit vieta le comunità porno AI deepfake
[undici] Inverso – Reddit ha appena bandito r/Deepfakes
[12] BoingBoing – Reddit chiude il subreddit di Deepfakes
[13] Scheda madre – Reddit ha appena chiuso il subreddit di Deepfakes
[14] Reddit – Aggiornamento sulle regole a livello di sito relative alla pornografia involontaria e alla sessualizzazione dei minori
[quindici] Il punto quotidiano – Reddit reprime FakeApp
[16] Archivio Web – Archivio App falso
[17] Voat (tramite Wayback Machine) – /v/DeepFakes
[18] 8chan – /deepfake/
[19] Twitter – Post di @BuzzFeed
[venti] BuzzFeed – Questo PSA sulle notizie false di Barack Obama non è quello che sembra
[ventuno] Twitter – Tweet di @BuzzFeedNews
[22] Twitter – Non crederai a quello che dice Obama in questo video 😉
[23] Business Insider - Un video virale che sembrava mostrare Obama che chiamava Trump un 'tuffo' mostra una nuova tendenza inquietante chiamata 'deepfakes'
[24] Il Circolo AV - Jordan Peele costringe Obama a definire Trump un 'imbecille completo' in PSA sulla tecnologia dei video falsi
[25] Fox News - Jordan Peele si allea con BuzzFeed per il video di notizie false di Obama carico di imprecazioni
[26] La Mary Sue – Jordan Peele crea un falso PSA Obama per mostrare quanto sia facile
[27] Youtube - Non crederai a quello che dice Obama in questo video! 😉
[28] House.gov – Lettera al Direttore
