1. DeepFake e Detection

Nel 2021 modificare un’immagine o un video è diventato qualcosa di molto semplice.

Da Photoshop a Gimp per le immagini e, grazie all’intelligenza artificiale (deeplearning) per i video, è possibile creare manipolazioni estremamente realistiche. E qui sta il problema, essendo le falsificazioni sempre più sofisticate, così come le tecniche per nascondere le falsificazioni, anche l’occhio più allenato non riesce a distinguere più il vero dal falso.

Era il 2017 quando su Reddit è apparso il primo videofake, che presentava al mondo di internet una nuova dimensione, ricca di opportunità ma purtroppo anche di notevoli pericoli. È per questo che negli ultimi 15 anni la comunità scientifica e la MultiMedia Forensics hanno intensificato gli sforzi e prodotto molte tecniche per la rivelazione automatica delle manipolazioni sia di immagini che di video, ma la battaglia e lungi dall’essere vinta.

In tutto questo si aggiunge il fenomeno delle condivisioni tramite i canali social, che ad ogni re-invio modifica, generalmente comprimendo, il file originale, rendendo sempre più difficile se non impossibile riuscire a rilevare le manipolazioni.

2. I DeepFake

Questo scenario è ulteriormente peggiorato con l’avvento del “deep learning”, una branca dell’intelligenza artificiale, e in particolare con l’uso delle reti neurali convoluzionali (CNN), ne abbiamo parlato nel progetto precedente.

Nato per risolvere svariati problemi complessi che vanno dall’analisi dei big data alla computer-vision e molto altro, ha purtroppo visto enormi progressi anche nella sviluppo di software che possono causare minacce alla privacy, alla democrazia e alla sicurezza nazionale, i deepfake appunto.

 

Con questa nuova tecnologia è possibile effettuare manipolazioni estremamente sofisticate non solo di immagini, ma anche di video. Su internet è già possibile trovare app scaricabili anche gratuitamente, come DeepFake, che permettono di generare contenuti manipolati molto realistici. L’unico requisito è avere elevate quantità di dati a disposizione (i cosiddetti dataset) per addestrare correttamente la rete neurale.

La vera rivoluzione è che queste nuove metodologie richiedono poca a nessuna abilità da parte dell’utente. Infatti, non bisogna modificare manualmente l’illuminazione, ruotare il volto, o perdere ore e ore per rendere la contraffazione quanto più realistica possibile. La rete neurale è in grado di apprendere da sola cosa fare a partire dai dati disponibili. E’ chiaro quindi perché questa tecnologia spaventi così tanto: ha messo alla portata di tutti manipolazioni che prima richiedevano un elevato livello di competenza o un attrezzato set cinematografico.

In particolare, le manipolazioni ai volti sono quelle che hanno una maggiore impatto visivo. E’ possibile infatti sostituire il volto di una persona a quello di un’altra, oppure modificare l’espressione del volto di qualcuno, magari un politico, e con esso anche le parole che sta pronunciando. Tra l’altro, non solo è possibile realizzare manipolazioni localizzate, ma anche generare immagini completamente sintetiche, o modificare gli attributi di immagini vere. Il livello di realismo e di sofisticazione in quest’ultimo caso è dovuto ad una tecnologia molto potente che si basa sulle reti generative avversarie (GAN).

Un primo lavoro (¹):
per capire come funzionano i deepfake

DeepFake: le origini

1. Impersonification: cybersecurity e Identity Protection
1.1 Identità
1.2 Credenziali
1.3 Impersonificazione
1.4 Considerazioni su come proteggersi

2. Deep Fake e deep learning
2.1 Le reti neurali
2.2 Gli autoencoder
2.3 L’addestramento

3. Individuazione e analisi delle tecniche per la generazione di immagini e video fake
3.1 DeepFakes
3.2 Neural Textures
3.3 Face2Face
3.4 FaceSwap

Considerazioni Finali

Bibliografia

(¹) Questo lavoro è stato realizzato durante il corso di laurea triennale in Ingegneria Informatica come tesi in “Sicurezza delle reti e Cyber Security” presso l’UNIVERSITAS MERCATORUM (ROMA). A cura di Luca Murgianu, relatore il Prof. Roberto Caldelli.

Un approfondimento (²):
per imparare a distinguere il vero dal falso

1. MultiMedia Forensics

2. Il fenomeno DeepFake

3 Le tipologie di manipolazione

3.1 Pixel-based

3.2 Format-based

3.3 Camera-based

3.4 Physically-based

3.5 Geometric-based

4 Tecniche di videofake detection

5 Cosa dice il Garante della Privacy italiano

5.1 Il falso che ti ruba la faccia e la privacy

Considerazioni Finali

Bibliografia

(²) Questo lavoro è stato realizzato durante il corso post-laurea in “CRIMINALITA’ INFORMATICA E INVESTGAZIONI DIGITALI” tenutosi presso l’UNIVERSITA’ DEGLI STUDI DI MILANO (LA STATALE). A cura di Luca Murgianu, coordinatore il Prof. Giovanni Ziccardi.