Pronti per le Ultime notizie? Il computer riconosce i falsi profondi
I ricercatori hanno trovato il punto debole dei falsi profondi? Una semplice analisi matematica dei pixel rivela schemi sorprendenti nelle immagini generate dall'intelligenza artificiale.
I deep fake sono immagini, foto e video falsi creati dall'intelligenza artificiale. Vengono creati con l'aiuto di reti di apprendimento profondo e spesso appaiono così ingannevolmente reali da ingannare facilmente gli spettatori ignari. Se vuoi provare tu stesso, puoi visitare il sito web whichfaceisreal.com per indovinare quale di due volti è quello vero e quale quello generato dal computer. Anche con l'aiuto di un software, questa distinzione non è sempre attendibile.
Tuttavia, il sito web non è stato in grado di individuare il volto reale e quello generato dal computer.
Tuttavia, è possibile che almeno il computer non cada più nell'inganno, poiché una semplice analisi matematica dei pixel aiuta a riconoscere la manipolazione. Come ha riferito un team di sviluppatori guidati da Joel Frank dell'Università Ruhr di Bochum alla Conferenza Internazionale sull'Apprendimento Automatico (ICML), i falsi profondi si rivelano con un vistoso schema a griglia quando vengono convertiti in una rappresentazione di frequenza.
Gli artefatti rivelano il falso
Nella trasformazione discreta del coseno, l'immagine viene espressa come somma di diverse funzioni coseno, spiegano i ricercatori. Mentre le immagini naturali sono costituite in gran parte da funzioni a bassa frequenza, le immagini generate artificialmente mostrano vari tipi di artefatti nella gamma ad alta frequenza.
Un'immagine naturale (a sinistra) e una generata dal computer (a destra)
La struttura a griglia potrebbe essere una caratteristica di tutte - o almeno di tutte le attuali - reti di apprendimento profondo che generano immagini. Questo sembra essere un problema strutturale di tutti gli algoritmi di apprendimento profondo, spiega Franchi. "Partiamo dal presupposto che dagli artefatti descritti nel nostro studio è sempre possibile capire se si tratta di un'immagine deep fake creata con l'apprendimento automatico."
I deep fake vengono solitamente creati con l'aiuto di due reti neurali artificiali che lavorano l'una contro l'altra in una sorta di competizione. Una impara a creare immagini che sembrino il più possibile naturalistiche, mentre l'altra impara a distinguere queste immagini false da quelle reali. Nel corso del processo di apprendimento, i risultati di entrambe le reti diventano sempre migliori. La tecnologia è nota come Generative Adversarial Networks o GAN e fornisce le migliori imitazioni fino a oggi.
Se vuoi andare tu stesso a caccia di falsi con l'aiuto della scoperta dei ricercatori di Bochum, puoi scaricare il codice del gruppo da GitHub.
Spettro della scienza
Siamo partner di Spektrum der Wissenschaft e vogliamo rendere più accessibili a te informazioni fondate. Segui Spektrum der Wissenschaft se ti piacciono gli articoli.
[[small:]]
Gli esperti della scienza e della ricerca riferiscono sulle ultime scoperte nei loro campi – competenti, autentiche e comprensibili.