Hintergrund
NeuralHash Update: Von Erklärungsversuchen, Hackern und der Backdoor, die keine sein soll
von Dominik Bärlocher
Apple NeuralHash gegen Privatsphäre: Die Büchse der Pandora wird geöffnet
6.8.2021
Apple wird ein System ausrollen, das Kindesmissbrauch auf dem Smartphone aufspürt. Einer manuellen Überprüfung folgend sollen die Behörden verständigt werden. Das Feature klingt zwar gut, ist aber ein Alptraum für die Privatsphäre.
Damit sticht Apple in ein Wespennest der Security: Sicherheit vs. Privatsphäre. Was ist wie schwer zu gewichten?
Die Fakten
Dein iPhone analysiert bereits Bilder, dein Android auch
Dein Smartphone analysiert bereits Bilder nach ihrem Inhalt. Das kannst du einfach überprüfen. Mach deine Galerie-App auf, benutze die Suchfunktion. Wenn du nach «Katze» suchst, dann tauchen Bilder deiner Katze auf. Und die von anderen Katzen.
Das geschieht, indem die Galerie-App sogenannte Fingerprints auf dein Smartphone lädt. Also Parameter, die das Aussehen einer Katze definieren. Ein Teil dieser Parameter kannst du selbst definieren. Wenn ich ein Foto von Videoproduzentin Stephanie Tresch zur Hand nehme, dann kennt Apple Photos die Frau auf dem Bild nicht.
Bilder haben eine Nummer
Jede Bilddatei, genau wie jede andere Datei, hat eine eigene Nummer, die sich berechnen lässt. Ein sogenannter Hashwert. Dieser Hash ist kleiner als die Bilddatei, ist daher effizienter auf Datenbankebene.
Wenn du deiner besten Freundin ein Selfie schickst, dann bekommt dieses Bild einen Hashwert zugewiesen. Wenn sie es weiterschickt, dann hat das weitergeschickte Bild denselben Hash. Wenn das Bild aber verändert wird, von farbig zu schwarzweiss zum Beispiel, dann ändert sich auch der Hash.
So kann ein einzigartiges Bild verfolgt werden, wenn es von einer zentralen Instanz als «nicht gut» bezeichnet wird. Gerade bei unerlaubter Pornografie, wo Bilder die Runde machen, kann die Hash-Verfolgung zu schnellen Fahndungserfolgen führen. Wenn das Bild aber stets verändert wird, dann wird das mit dem Hash schwieriger.
Hashes können mit einfachen Mitteln manipuliert werden.
Was ist NeuralHash?
Das System NeuralHash ist bestätigt. Die Funktionsweise soll der Suchfunktion deiner Galerie-App gleichen. Das System indiziert automatisch Bilder nach gewissen Kriterien. Im Falle der aktuellen Story sind das Bilder von «Kindesmissbrauch». Wenn NeuralHash eine gewisse Anzahl von Bildern findet, die dem Fingerprint des «Kindesmissbrauch» entsprechen, dann werden diese Bilder entschlüsselt und an Apple übermittelt.
Privatsphäre ist ein Menschenrecht
Ein Menschenrecht ist etwas, das jedem Menschen überall zu jeder Zeit zusteht oder zustehen sollte. Es ist unveräusserlich, kann also nicht abgetreten oder verkauft werden. Auch sind die Menschenrechte unteilbar. Es ist nicht möglich, Menschenrecht A zu vertreten, aber sich gegen Menschenrecht B zu stellen.
Die Vereinten Nationen definieren die Privatsphäre in Artikel 12 in der allgemeinen Erklärung der Menschenrechte eindeutig als Menschenrecht:
Apple pflichtet dem bei und hat die Privatsphäre zu einer Grundfeste des Konzerns erklärt:
Privatsphäre ist ein Grundrecht. Und Datenschutz zählt bei Apple zu den Kernwerten.
Google singt ein ähnliches Lied. Facebook als soziales Netzwerk, dessen Kernmechanismus die Präsentation der ehemals privaten Daten an der Öffentlichkeit ist, gibt sich auch grosse Mühe, dass nichts Schlimmes mit deinen Daten geschieht.
Es gibt den «Apple Effect»
Apple ist im Jahr 2021 die mächtigste Marke der Welt. Damit geht, wie der Titel bereits impliziert, Macht einher. Wenn Apple etwas macht, dann hat das Signalwirkung. Und: Der Rest der Technologiewelt braucht Apple weit mehr als Apple den Rest der Technologiewelt braucht.
Der sogenannte Apple Effect, Macht gepaart mit Signalwirkung, darf nicht unterschätzt werden. Wenn Apple ein Feature einführt, dann leidet die Konkurrenz, die dieses Feature bereits früher hatte. Und Konkurrenten sehen sich im Zugzwang.
Die Probleme
NeuralHash schlägt in der Information Security und bei Privatsphärenaktivisten hohe Wellen. Diese sind nicht nur technologischer Natur, sondern vor allem ethisch-philosophischer.
Verschlüsselung, die umgangen wird
Wenn Apple deine Bilder nach Anzeichen von Kindesmissbrauch durchsuchen soll, dann muss die Verschlüsselung deiner iCloud Backups umgangen werden. Daher wird in NeuralHash ein Fingerprint «Kindesmissbrauch» erstellt und in die App Photos integriert.
Dann durchsucht die Photos App laut Seite 4 des White Papers deine Bilder auf deinem iPhone, umgeht jede Verschlüsselung elegant. Damit hat Apple einen Weg gefunden, auf zwei Hochzeiten zu tanzen. Sie können die Verschlüsselung haben und sie auch umgehen. Denn die Bilder auf deinem iPhone sind im Klartext gespeichert.
NeuralHash kann beliebig konfiguriert werden
Damit NeuralHash effektiv gegen Kindesmissbrauch ist, muss jemand definieren, wie Kindesmissbrauch im Bild aussieht. Und: Ab welchem Grad des Kindesmissbrauchs das System anschlägt. Braucht der Fingerprint «Kindesmissbrauch» nur «blaues Auge» oder schlägt das System erst bei «blaues Auge» + «blutige Lippe» an?
Wer entscheidet das? Worauf basieren diese Entscheidungen? Ab wo ist Kindesmissbrauch schlimm genug?
Erschwerend kommt hinzu, dass NeuralHash laut Seite 3 des White Papers unsichtbar ist und du keinen Einfluss darauf hast.
Wehret den Anfängen
Wenn NeuralHash erst einmal auf die Menschheit losgelassen wird, dann kann es nicht mehr aufgehalten werden. Wenn die Galerie App Stephanie Tresch von hinten erkennen kann, basierend auf ihrem blauen Mantel und der Tatsache, dass sie an einem bestimmten Ort eine Kamera hält, dann kann dieselbe Suchfunktion auf so ziemlich alles und jeden angesetzt werden.
Wer verspricht uns, dass Apple diese Funktion nicht missbraucht?
NeuralHash kann für Gutes wie auch für Böses verwendet werden. Es ist durchaus möglich, dass nach Kindesmissbrauch auch Jagd nach Hautkrebs gemacht wird. Auf der Kehrseite ist es auch möglich, dass Apple ein gigantisches Archiv von Penisbildern anlegt, denn NeuralHash sieht vor, dass Bilder entschlüsselt und übermittelt werden.
Information-Security-Experten wie der Kryptographie-Professor Matthew Green befürchten, dass NeuralHash ein Angriff auf die End-to-End Encryption ist.
Apple baut Massenüberwachung
«Das ist eine entsetzliche Idee, da sie zur Massenüberwachung unserer Laptops und Smartphones führt», sagt Ross Anderson, Professor für Security Engineering der University of Cambridge, in der Financial Times.
Die Polizei ist scharf auf NeuralHash
Technologie ist Politik, Politik ist Technologie
Wenn Apple sich dagegen stellen würde, dann ginge dem Konzern ein grosser Markt verloren. Wenn Apple mitmacht, dann würden Menschen darunter leiden.
Apples Entscheidungen haben Signalwirkung. «Das wird Tür und Tor weit aufmachen», sagt Matthew Green, Security Professor an der John Hopkins University, in der Financial Times, «Regierungen werden die Funktion von allen einfordern.»
False Positives
Wenn NeuralHash nach Bildern von Gewalt sucht, dann sucht es nach Faktoren, die nicht nur dann zustande kommen können, wenn Gewalt geschieht. «Blaues Auge», «blutige Lippe» und dergleichen können auch im Sport geschehen. UFC-Kämpferin Cristiane Justino Venâncio alias Cris Cyborg ist nach ihren Kämpfen – und manchmal schon während den Kämpfen – übel zugerichtet.
Wenn sie genug Bilder hat, auf denen sie aus der Nase blutet oder ein blaues Auge hat, dann schlägt NeuralHash an. Eine Anzahl Bilder wird an Apple übermittelt, wo ein Mensch diese Bilder ansieht. Im Rahmen von Cris Cyborgs Alltag ist das nichts aussergewöhnliches. Das würde ein Apple-Mitarbeiter erkennen und das Ticket schliessen. Trotzdem: Die Bilder hat der Mitarbeiter gesehen.
Ein False Positive ist nicht nur ein Verstoss gegen ein Menschenrecht, sondern er geschieht auch noch grundlos. Irgendwer bei Apple schaut einfach ein paar Bilder aus dem privaten Archiv der Kämpferin an. Grundlos.
Die Frage hier ist, ob sogenannte False Positives in Ordnung sind. Und wenn ja, wie oft darf ein False Positive vorkommen, bevor NeuralHash zu weit geht? Wer bestimmt diese Zahl? Wer überwacht diese Zahl?
Apple beschreibt auf Seite 3 des White Papers die Anzahl der False Positives als «extrem niedrig». Auf der folgenden Seite wird von einem False Positive in einer Billion Untersuchungen gesprochen. Zudem würden alle Reports vor der Übermittlung an NCMEC geprüft werden.
Eine Frage des Vertrauens
Können wir Apple vertrauen?
Apple macht sich einen guten Namen damit, dass der Konzern die Privatsphäre zur firmeneigenen Grundfeste gemacht hat. Aber: Apple hat keinerlei Verpflichtung dies aufrecht zu erhalten.
Ideologie bei Firmen ist immer ein Marketing Tool. Denn bei Firmen zählt nicht – egal, wie oft das ein CEO sagt –, wie viel Gutes die Firma der Welt tun kann. Es zählt einzig und allein das Geld. Apple muss iPhones verkaufen. Apple setzt sich Wachstumsziele, die erfüllt werden müssen. Sobald diese Zahlen nicht mehr stimmen, dann ändert Apple seine Richtung. Genau so, wie es jedes andere Unternehmen auch tun würde.
Autohersteller sind derzeit gerade in so einem Richtungswechsel. Wo vor zehn Jahren Tesla noch als lustiges Kuriosum abgetan wurde, werden ganze Automarken von Benzin auf Elektro umgestellt. Der Umwelt zuliebe, versteht sich. Nicht, weil Gesetzgeber immer mehr restriktive Gesetze für Benzinfahrzeuge erlassen, Steuervergünstigungen für Elektrokäufer sprechen und – nicht zuletzt – die Leute Elektrofahrzeuge kaufen wollen.
Was also verspricht, dass Apple für immer die Privatsphärenschützerin bleibt, die sie heute ist?
Das Fazit
Die Privatsphäre muss unangetastet bleiben. Es darf keine Ausnahmen geben. Menschenrechte stehen auch Verbrechern zu.
Selbst wenn eine Ausnahme viel Gutes bewirken würde, so würde diese Ausnahme einen Präzedenzfall setzen, der kein gutes Ende erlaubt.
Update: Apple gibt Antworten
Apple hat am 9. August 2021 ein zweites Whitepaper veröffentlicht, das Antworten auf einige der Fragen in diesem Artikel gibt.
Journalist. Autor. Hacker. Ich bin Geschichtenerzähler und suche Grenzen, Geheimnisse und Tabus. Ich dokumentiere die Welt, schwarz auf weiss. Nicht, weil ich kann, sondern weil ich nicht anders kann.
Security
Folge Themen und erhalte Updates zu deinen Interessen
Smartphone
Folge Themen und erhalte Updates zu deinen Interessen
Familie
Folge Themen und erhalte Updates zu deinen Interessen
Hintergrund
Interessantes aus der Welt der Produkte, Blicke hinter die Kulissen von Herstellern und Portraits von interessanten Menschen.
Alle anzeigen
