Prêt pour les fake news ? Un ordinateur détecte les deep fakes
Les chercheurs ont-ils trouvé le point faible des deep fakes ? Lors d'une simple analyse mathématique des pixels, les images générées par l'IA se trahissent par des motifs frappants.
Les deep fakes sont des images, des photos et des vidéos truquées créées par une intelligence artificielle. Elles sont créées à l'aide de réseaux d'apprentissage en profondeur et sont souvent si trompeuses qu'elles peuvent facilement tromper les personnes qui ne se doutent de rien. Pour ceux qui souhaitent essayer, le site whichfaceisreal.com permet de deviner lequel des deux visages est le vrai et lequel est généré par ordinateur. Même avec l'aide de logiciels, cette distinction n'est pas toujours fiable.
Il se peut toutefois que l'ordinateur au moins ne soit bientôt plus dupe de la supercherie, car une simple analyse mathématique des pixels permet de détecter la manipulation. Comme le rapporte une équipe de développeurs dirigée par Joel Frank de l'Université de la Ruhr à Bochum lors de l'International Conference on Machine Learning (ICML), les deep fakes se trahissent par un motif de grille remarquable lorsqu'on les convertit en une représentation fréquentielle.
Les artefacts trahissent le fake
La transformation en cosinus discret consiste à exprimer l'image comme la somme de nombreuses fonctions cosinus différentes, expliquent les chercheurs. Alors que les images naturelles sont composées en grande partie de fonctions de basse fréquence, les images générées artificiellement montrent différents types d'artefacts dans la zone de haute fréquence.
Une image naturelle (à gauche) et une image générée par ordinateur (à droite) | La structure en grille pourrait être une caractéristique de tous les réseaux d'apprentissage profond - ou du moins de tous les réseaux actuels - qui génèrent des images.
Il semble s'agir d'un problème structurel de tous les algorithmes d'apprentissage profond, explique Frank. "Nous partons du principe que les artefacts décrits dans notre étude permettent toujours de savoir s'il s'agit d'une image deep fake créée par l'apprentissage automatique".
La plupart du temps, les deep fakes sont créés à l'aide de deux réseaux neuronaux artificiels qui s'affrontent dans une sorte de compétition. L'un apprend à produire des images d'apparence aussi naturelle que possible, l'autre apprend à distinguer ces fausses images des vraies. Au fur et à mesure de l'apprentissage, les résultats des deux réseaux s'améliorent. Cette technique porte le nom de Generative Adversarial Networks ou GAN et fournit les meilleures imitations à ce jour.
Les personnes qui souhaitent se lancer dans la chasse aux faux à l'aide de la découverte des chercheurs de Bochum peuvent télécharger le code du groupe sur GitHub.
Spektrum der Wissenschaft
Nous sommes partenaires de Spectre des Sciences et souhaitons vous rendre l'information plus accessible. Suivez Spectre des Sciences si vous aimez ses articles.
[[small:]]
Des experts de la science et de la recherche rendent compte des dernières découvertes dans leur domaine – de manière compétente, authentique et compréhensible.