Fertig Fake-News? Computer erkennt Deep Fakes

Spektrum der Wissenschaft

30.7.2020

Bilder: Thomas Kunz

Haben Forscher die Schwachstelle von Deep Fakes gefunden? Bei einer simplen mathematischen Analyse der Pixel verraten sich Bilder, die die KI erzeugt hat, durch auffällige Muster.

Womöglich wird aber zumindest der Computer bald nicht mehr auf die Täuschung hereinfallen, denn eine einfache mathematische Analyse der Pixel hilft, die Manipulation zu erkennen. Wie ein Entwicklerteam um Joel Frank von der Ruhr-Universität Bochum auf der International Conference on Machine Learning (ICML) berichtet, verraten sich Deep Fakes durch ein auffälliges Gittermuster, wenn man sie in eine Frequenzdarstellung umwandelt.

Artefakte verraten den Fake

Deep Fakes werden zumeist mit Hilfe zweier künstlicher neuronaler Netze hergestellt, die in einer Art Wettkampf gegeneinander arbeiten. Das eine lernt, möglichst naturalistisch aussehende Bilder zu erzeugen, das andere lernt, diese Fake-Bilder von echten zu unterscheiden. Im Verlauf des Lernvorgangs werden die Ergebnisse beider Netze immer besser. Die Technik läuft unter dem Namen Generative Adversarial Networks oder GAN und liefert die bislang besten Imitate.

Wer mit Hilfe der Entdeckung der Bochumer Forscher selbst auf Fake-Jagd gehen möchte, kann den Code der Gruppe auf GitHub herunterladen.

Spektrum der Wissenschaft

Wir sind Partner von Spektrum der Wissenschaft und möchten dir fundierte Informationen besser zugänglich machen. Folge Spektrum der Wissenschaft, falls dir die Artikel gefallen.

Spektrum der Wissenschaft

Wissenschaft aus erster Hand

dirdjaja@spektrum.de

Experten aus Wissenschaft und Forschung berichten über die aktuellen Erkenntnisse ihrer Fachgebiete – kompetent, authentisch und verständlich.

Folgen

---

Computing

Folge Themen und erhalte Updates zu deinen Interessen

Thema folgen

---

News & Trends

Vom neuen iPhone bis zur Auferstehung der Mode aus den 80er-Jahren. Die Redaktion ordnet ein.

Alle anzeigen