Nouveautés + tendances

Prêt pour les fake news ? Un ordinateur détecte les deep fakes

30/7/2020

Traduction : traduction automatique

Les chercheurs ont-ils trouvé le point faible des deep fakes ? Lors d'une simple analyse mathématique des pixels, les images générées par l'IA se trahissent par des motifs frappants.

Les deep fakes sont des images, des photos et des vidéos truquées créées par une intelligence artificielle. Elles sont créées à l'aide de réseaux d'apprentissage en profondeur et sont souvent si trompeuses qu'elles peuvent facilement tromper les personnes qui ne se doutent de rien. Pour ceux qui souhaitent essayer, le site whichfaceisreal.com permet de deviner lequel des deux visages est le vrai et lequel est généré par ordinateur. Même avec l'aide de logiciels, cette distinction n'est pas toujours fiable.

Il se peut toutefois que l'ordinateur au moins ne soit bientôt plus dupe de la supercherie, car une simple analyse mathématique des pixels permet de détecter la manipulation. Comme le rapporte une équipe de développeurs dirigée par Joel Frank de l'Université de la Ruhr à Bochum lors de l'International Conference on Machine Learning (ICML), les deep fakes se trahissent par un motif de grille remarquable lorsqu'on les convertit en une représentation fréquentielle.

Les artefacts trahissent le fake

La transformation en cosinus discret consiste à exprimer l'image comme la somme de nombreuses fonctions cosinus différentes, expliquent les chercheurs. Alors que les images naturelles sont composées en grande partie de fonctions de basse fréquence, les images générées artificiellement montrent différents types d'artefacts dans la zone de haute fréquence.

Une image naturelle (gauche) et une image générée par ordinateur (droite)

Une image naturelle (à gauche) et une image générée par ordinateur (à droite) | La structure en grille pourrait être une caractéristique de tous les réseaux d'apprentissage profond - ou du moins de tous les réseaux actuels - qui génèrent des images.
Il semble s'agir d'un problème structurel de tous les algorithmes d'apprentissage profond, explique Frank. "Nous partons du principe que les artefacts décrits dans notre étude permettent toujours de savoir s'il s'agit d'une image deep fake créée par l'apprentissage automatique".

La plupart du temps, les deep fakes sont créés à l'aide de deux réseaux neuronaux artificiels qui s'affrontent dans une sorte de compétition. L'un apprend à produire des images d'apparence aussi naturelle que possible, l'autre apprend à distinguer ces fausses images des vraies. Au fur et à mesure de l'apprentissage, les résultats des deux réseaux s'améliorent. Cette technique porte le nom de Generative Adversarial Networks ou GAN et fournit les meilleures imitations à ce jour.

Les personnes qui souhaitent se lancer dans la chasse aux faux à l'aide de la découverte des chercheurs de Bochum peuvent télécharger le code du groupe sur GitHub.

Spektrum der Wissenschaft

Nous sommes partenaires de Spectre des Sciences et souhaitons vous rendre l'information plus accessible. Suivez Spectre des Sciences si vous aimez ses articles.

[[small:]]

Cet article plaît à 26 personne(s)

Spektrum der Wissenschaft

Wissenschaft aus erster Hand

dirdjaja@spektrum.de

Des experts de la science et de la recherche rendent compte des dernières découvertes dans leur domaine – de manière compétente, authentique et compréhensible.

Informatique

Suivez les thèmes et restez informé dans les domaines qui vous intéressent.

Nouveautés + tendances

Du nouvel iPhone à la résurrection de la mode des années 80. La rédaction fait le tri.

Tout afficher

4 commentaires

later

Recherche

Prêt pour les fake news ? Un ordinateur détecte les deep fakes

Les artefacts trahissent le fake

Spektrum der Wissenschaft

4 commentaires

Top 10 catégories

Aller à

4 commentaires

Digitec Offre du jour