Anthropic Claude Fable 5 und Mythos 5: US-Exportbeschränkungen verdeutlichen KI-Sicherheitsproblem

Anthropics Claude Fable 5 und Mythos 5 stehen im Zentrum einer grundsätzlichen Debatte über die Kontrolle fortgeschrittener KI-Fähigkeiten. Das Unternehmen führt seit Freitag Gespräche mit dem Weißen Haus, konnte aber noch keine Einigung erzielen, die eine Wiederfreischaltung ermöglichen würde.

Dual-Use-Problem bei KI-Cybersicherheitsmodellen

Seit dem Debut von Mythos im April hat Anthropic betont, dass das Modell erweiterte Fähigkeiten besitzt - sowohl zum Auffinden von Software-Schwachstellen für Verteidiger als auch zum Entwickeln von Exploits für potenzielle Angreifer. "Ein Großteil der fortgeschrittenen Nutzung von KI-Modellen ist dual verwendbar: Dieselben Anfragen, die in den Händen von Cybersicherheits-Profis und Biologieforschern nützlich sind, könnten in den Händen böswilliger Akteure gefährlich sein", schrieb Anthropic in einem Blog-Post.

Das Unternehmen hatte zunächst eine Version namens Mythos Preview an ein ausgewähltes Konsortium im Rahmen von "Project Glasswing" veröffentlicht. Mythos 5 wurde ebenfalls privat an diese Gruppe freigegeben, während Claude Fable 5 öffentlich verfügbar war - allerdings mit spezifischen Blockaden für Anfragen zu Biologie und Cybersicherheit.

Branchenweite Entwicklung nicht aufzuhalten

Die Trump-Administration beschränkte beide Modelle, da sie befürchtet, dass Fable 5s Schutzmaßnahmen umgangen werden können, um vollen Zugang zu Mythos 5-Fähigkeiten zu erhalten. Cybersicherheits-Experten argumentieren jedoch, dass dieser institutionelle Konflikt lediglich eine harte Wahrheit verschleiert: Ähnliche Fähigkeiten werden in naher Zukunft bei mehreren Unternehmen und Open-Weight-Entwicklern verfügbar sein.

"Es ist extrem kurzsichtig zu denken, dass keine anderen Anthropic-Konkurrenten ähnliche Fähigkeiten wie Mythos entwickeln werden oder dass sie dies nicht bereits getan haben", erklärt Tarah Wheeler, Chief Security Officer der Cybersicherheits-Beratungsfirma TPO Group. OpenAI hat beispielsweise bereits im April ein cybersicherheitsfokussiertes Modell privat veröffentlicht und eine erweiterte Cybersicherheitsstrategie angekündigt.

Bruce Schneier von der Harvard University betont: "Es ist nicht ein Modell; es ist der allgemeine Technologietrend. Kleinere, günstigere, Open-Source-Modelle können mit ausgefeilterem Prompting Mythos/Fables Leistung erreichen."

Regulatorische Herausforderungen für Unternehmen

Für europäische Unternehmen, die KI-Modelle evaluieren oder implementieren, zeigt der Fall die Komplexität regulatorischer Compliance auf. Unternehmen müssen sowohl US-Exportkontrollen als auch EU-Vorschriften wie den AI Act berücksichtigen. Die Situation verdeutlicht, dass technische Fähigkeiten nicht durch einzelne Anbieterrestriktionen kontrollierbar sind.

Experten fordern transparentere und breitere Pläne für den Umgang mit KI-Fortschritten in sensiblen Bereichen. "Die politische Frage ist nicht, ob eine Technologie Risiken birgt", erklärt Chris Wysopal von Veracode. "Die Frage ist, ob eine spezifische Beschränkung das Risiko sinnvoll reduziert oder hauptsächlich diejenigen verlangsamt, die Systeme sicherer machen wollen."

Ausblick für KI-Sicherheit

Die Kontroverse um Anthropics Claude Fable 5 und Mythos 5 markiert einen Wendepunkt in der Diskussion über KI-Governance. Während Regierungen versuchen, fortgeschrittene Fähigkeiten zu kontrollieren, entwickelt sich die Technologie branchenweit weiter. Für Praktiker bedeutet dies, dass Sicherheitsstrategien nicht auf die Verfügbarkeit spezifischer Modelle angewiesen sein können, sondern grundsätzliche technologische Trends berücksichtigen müssen.

Diese Analyse basiert auf Berichterstattung von Wired über die aktuellen Entwicklungen bei Anthropic und den regulatorischen Reaktionen der US-Regierung.