Codemotion 2022 - Pushing Deepfakes to the Limit

Tra le varie presentazioni che abbiamo visto durante i due giorni di conferenza non si può non citare quella riguardo al mondo del deepfake e tutto ciò che ne concerne.

Per chi fosse nuovo agli argomenti trattati il deepfake è una tecnica utilizzata per la sintesi di immagini umane basata sull'intelligenza artificiale che utilizza la tecnologia di apprendimento automatico chiamata Generative Adversarial Networks per combinare e sovrapporre immagini e video esistenti con video o immagini originali.

Il termine deepfake deriva dalla tecnologia sottostante deep learning, che è una forma di intelligenza artificiale. Gli algoritmi di deep learning, che insegnano da soli a risolvere i problemi quando vengono forniti grandi set di dati, vengono utilizzati per scambiare volti nei contenuti video e digitali per creare supporti falsi dall'aspetto realistico.

L'intelligenza artificiale deve imparare a svolgere il compito che gli è stato assegnato: il processo di apprendimento automatico aiuta a raggiungere l'obiettivo per approssimazioni successive. Serve quindi un "video di destinazione" che costituisce la base per il deepfake e due dataset relativi ai volti della persona da sostituire e quella da inserire nel video. In questo modo i movimenti della bocca e della testa risulteranno precisi e sembreranno più reali.

Avendo a disposizione dataset sufficientemente ampi si otterranno risultati strabilianti: l'intelligenza artificiale, usando modelli ben approntati, consentirà di produrre un video deepfake difficile da riconoscere come tale.

Sono stati mostrati degli esperimenti sociali nei quali una persona in videochiamata con un’altra è riuscita a ottenere informazioni sensibili o addirittura dei soldi fingendosi un amico o familiare della persona chiamata.

Ovviamente tutto questo ci deve far pensare a quanto sia pericoloso questo fenomeno sempre più diffuso, ma allo stesso tempo potrebbe avere delle applicazioni molto utili nel campo delle comunicazioni, con i dovuti permessi e le dovute precauzioni.

Questa tecnologia ha ancora molte limitazioni, ma visti i passi da gigante che si sono fatti negli ultimi anni non sappiamo se un giorno potrebbe davvero risultare efficace al 100% e priva di punti deboli, per adesso basta far passare una mano davanti al volto della persona che fa uso di deepfake per rompere tutta la “magia” ma un giorno forse le cose saranno diverse.