Warum Anthropic ein KI-Modell deaktiviert und was das bedeutet
Das führende KI-Unternehmen muss Ausländern den Zugang zu seinem Cybersecurity-Modell verweigern. Die umstrittene Anordnung der US-Regierung sorgt international für Unverständnis und Unbehagen.
Anthropic wollte mit «Mythos» zeigen, wozu generative KI in der Cybersecurity fähig ist. Drei Tage nach dem Start der öffentlich verfügbaren Version «Fable» sind beide Modelle wieder offline – nicht wegen eines technischen Defekts, sondern auf Anordnung der US-Regierung. Der Fall zeigt, wie viel Macht die Politik über grosse Tech-Konzerne hat und wirft international Fragen zur Abhängigkeit auf.
Ein «nationales Sicherheitsrisiko»
Am Abend des 12. Juni erhielt Anthropic ein Exportkontrollschreiben des Handelsministeriums. Demnach musste der Anbieter den Zugang zu Fable 5 und Mythos 5 für alle «foreign nationals» sperren, egal ob diese in den USA oder im Ausland sitzen. Auch ausländische Anthropic-Mitarbeitende waren ausdrücklich eingeschlossen. In der Praxis konnte das Unternehmen diese Vorgabe nur erfüllen, indem es die Modelle weltweit deaktivierte.
Die normalen Claude-Modelle bleiben online. Fable 5 und Mythos 5 sind Varianten davon. Beide fokussieren auf Code-Analyse und die Suche nach Schwachstellen. Mythos 5 ist das leistungsfähigere, nicht öffentlich verfügbare Modell, Fable 5 die breiter zugängliche Version mit zusätzlichen Schutzschichten. Anthropic hatte Mythos selbst als zu gefährlich beschrieben, um es öffentlich auszurollen. Fable 5 sollte mit einem entschärften Interface riskante Anfragen zu Exploits und Angriffstools blocken.
Die US-Regierung begründet das Verbot mit Hinweisen, die unter anderem von Amazon stammen sollen. Dort hätten Forschende Fable 5 dazu gebracht, Schwachstellen in Code zu erkennen. Zwar wies das Modell eine direkte Anfrage zunächst ab. Mit einer Umformulierung in Richtung «repariere diesen Code» lieferte es dennoch Hinweise auf Bugs, die sich theoretisch für Angriffe nutzen lassen. Washington argumentiert, dass so die Schutzmechanismen umgangen werden könnten und das Modell deshalb ein nationales Sicherheitsrisiko sei.
Anthropic widerspricht dieser Darstellung. In einer öffentlichen Stellungnahme spricht das Unternehmen von einem «potenziellen, schmalen, nicht universellen Jailbreak». Dieser fördere nur einzelne, bereits bekannte und eher kleine Schwachstellen zutage. Andere Modelle wie GPT 5.5 könnten das auch, teilweise sogar ohne Umgehung von Schutzmechanismen. Wenn ein solcher Fall ausreicht, um ein Modell vom Markt zu nehmen, liesse sich laut Anthropic kaum noch ein Frontier-System mit Code-Fähigkeiten produktiv betreiben.
China-Sorgen und angespanntes Verhältnis
Parallel zum angeblichen Jailbreak-Problem gab es offenbar Hinweise, dass eine China-nahe Gruppe zeitweise Zugang zu Mythos hatte. Aus Sicht der US-Regierung besteht damit ein Risiko, dass ein ausgereiftes US-Modell per Distillation nachgebaut oder in Teilen extrahiert werden könnte. Beweise gibt es dafür nicht.
Die Kontroverse fällt in eine ohnehin angespannte Phase. Anthropic und Teile der US-Regierung liegen seit Monaten im Streit. Denn das Unternehmen weigert sich, seine Modelle für umfassende Überwachung im Inland oder für autonome Waffensysteme bereitzustellen. Das Verteidigungsministerium stufte Anthropic daraufhin als «Supply Chain Risk» ein. Gegen diese Einstufung geht der Konzern juristisch vor. Zwischenzeitlich schien sich die Lage zu entspannen, weil Behörden Zugang zu Mythos für eigene Cyber-Verteidigungsprojekte wollten.
Quelle: Shutterstock
Vorgehen irritiert Expertinnen und Politiker
Der Fall wird zum Test für die neue KI-Strategie der USA, die Trump Anfang Juni per Dekret vorgestellt hat. Demnach können KI-Unternehmen ihre Frontier-Modelle 30 Tage vor Veröffentlichung freiwillig auf Risiken prüfen lassen. Dass nun eines der ersten Modelle unter diesem Regime mit einem abrupten Zugriffsstopp belegt wird, sorgt in der Branche für Unruhe. Branchenverbände und Thinktanks sprechen von einem faktischen Zulassungssystem: Eine kleine Runde im Weissen Haus entscheidet, ob ein System auf dem Markt bleiben darf.
Kritik kommt auch aus der Sicherheitscommunity. In einem offenen Brief fordern Dutzende Expertinnen und Experten, die Beschränkungen aufzuheben. Sie halten fest, dass KI längst in grossem Stil zur Fehlersuche und Exploit-Generierung genutzt wird. Modelle wie Mythos seien in diesem Feld zwar stark, aber nicht einzigartig. Das Verbot treffe vor allem Teams, die Produktionssysteme und Legacy-Code absichern sollen. Cyberkriminelle könnten stattdessen auf Open-Weight-Modelle oder ältere Techniken ausweichen. Die US-Regierung nehme also den eigenen Firmen ein wichtiges Werkzeug weg, während potenzielle Angreifer weitermachen.
International hat der Fall die Debatte über unabhängige KI-Modelle neu belebt. In Europa dämmert es der Politik, dass sich die Staaten von einigen wenigen US-Anbietern abhängig und dadurch angreifbar machen. Der abrupte Stopp von Fable 5 und Mythos 5 gilt für viele als Warnsignal, dass Washington im Zweifel nach eigenen Sicherheitsinteressen entscheidet – ohne Rücksicht auf Verbündete.
Europa tut sich bisher schwer damit, eigene KI-Modelle zu entwickeln und verfügt nicht über eine vergleichbare Server-Infrastruktur. Das französische Mistral ist zwar relativ leistungsfähig, kann aber nicht mit Claude, ChatGPT und Gemini mithalten. Apertus, das Open-Source-Modell der ETH, liegt noch weiter zurück und ist ohnehin nicht primär als Chatbot gedacht.
Streit könnte sich negativ auf IPO auswirken
Für Anthropic ist der Konflikt auch ein finanzielles Problem. Das Unternehmen will demnächst an die Börse. Das Verbot eines Flaggschiff-Modells und ein regulatorisches Fadenkreuz auf dem Rücken könnten sich negativ auf den Appetit von Investoren auswirken. In seiner Stellungnahme betont das Unternehmen, man unterstütze das Recht der Regierung, wirklich unsichere Modelle zu stoppen. Aber Anthropic fordert dafür ein transparentes, technisch fundiertes Verfahren. Der aktuelle Schritt erfülle diese Kriterien nicht.
Klar ist schon jetzt: Die Affäre markiert einen Wendepunkt. Zum ersten Mal nutzt die US-Regierung Exportkontrollen, um nicht nur Hardware, sondern auch den Zugang zu einem einzelnen KI-Modell einzuschränken. Kunden haben erlebt, wie ein wichtiges Werkzeug von einem Tag auf den anderen verschwindet. Einige werden künftig genauer hinsehen, welche politischen Risiken sie bei der Wahl ihrer KI-Plattform mitkaufen.
Mein Fingerabdruck verändert sich regelmässig so stark, dass mein MacBook mich nicht erkennt. Der Grund: Sitze ich nicht vor einem Bildschirm oder stehe hinter einer Kamera, hänge ich oft an den Fingerspitzen in einer Felswand.
Interessantes aus der Welt der Produkte, Blicke hinter die Kulissen von Herstellern und Portraits von interessanten Menschen.
Alle anzeigen
