Anthropics Claude Fabel 5 & Mythos Suspension

Anthropic hat Claude Fable 5 und Mythos 5 ausgesetzt, nachdem eine Anweisung der US-Regierung Sicherheitsbedenken hinsichtlich des Zugriffs auf die neuesten KI-Modelle des Unternehmens aufgeworfen hatte.

Der Schritt folgte einer Regierungsanordnung, die Anthropic zufolge den Zugang für ausländische Staatsangehörige, einschließlich ausländischer Mitarbeiter, aussetzen musste. Das Unternehmen deaktivierte jedoch beide Modelle für alle Kunden, um die Anordnung zu erfüllen.

Warum Anthropic die Modelle offline nahm

Laut der Erklärung von Anthropic berief sich die US-Regierung bei der Ausstellung der Exportkontrollanweisung auf nationale Sicherheitsbehörden. Das Unternehmen erklärte, die Anordnung enthalte keine detaillierten öffentlichen Angaben zu den Bedenken.

Anthropic erklärte, man gehe davon aus, dass die Behörden glaubten, eine Methode gefunden zu haben, um Claude Fable 5 zu umgehen oder zu „jailbreaken“. Das Unternehmen argumentierte, dass das gemeldete Problem eng gefasst sei und sich auf die Identifizierung einer kleinen Anzahl zuvor bekannter, geringfügiger Schwachstellen beziehe.

Was mit Fable 5 und Mythos 5 geschah

Anthropic erklärte, dass die Anweisung letztendlich eine abrupte Abschaltung sowohl von Claude Fable 5 als auch von Mythos 5 für alle Kunden zur Folge hatte, nicht nur für die in der Anordnung genannten Gruppen.

Das Unternehmen erklärte auch, dass der Zugriff auf seine anderen Anthropic-Modelle nicht betroffen sei. Das bedeutet, dass die Unterbrechung speziell mit den neuesten High-End-Modellen und nicht mit der gesamten Claude-Produktreihe zusammenhängt.

Warum das Problem wichtig ist

Claude Fable 5 wurde als eine eingeschränkte Version von Anthropics leistungsfähigerem Mythos 5-System präsentiert, mit Kontrollen, die den Missbrauch in Bereichen wie der Cybersicherheit reduzieren sollen. Die Aussetzung lenkt die Aufmerksamkeit erneut darauf, wie Regierungen reagieren könnten, wenn fortschrittliche KI-Systeme als Sicherheitsrisiken angesehen werden.

Der Fall zeigt auch, wie schwierig es sein kann, den Modellzugriff nach Benutzerkategorie zu trennen, sobald ein Dienst bereits breit über Cloud-Produkte und gemeinsame Plattformen bereitgestellt wird.

Anthropics Position

Anthropic hat gegen die Maßnahme protestiert und erklärt, die vorgelegten Beweise rechtfertigten eine so umfassende Abschaltung nicht. Das Unternehmen erklärte, die gemeldete Umgehung sei nicht universell und scheine keine größere Steigerung der realen Angreiferfähigkeiten im Vergleich zu anderen öffentlich verfügbaren Modellen zu bewirken.

Diese Antwort passt zu Anthropics breiterem Argument, dass Beschränkungen für fortschrittliche KI-Modelle einem klaren und strukturierten Prozess folgen sollten, anstatt einer abrupten Anweisung mit begrenzter Erklärung.

Was als Nächstes passiert

Vorerst sind Claude Fable 5 und Mythos 5 offline, während Anthropic an der Einhaltung und dem breiteren Streit um die Regierungsanordnung arbeitet. Die Episode wird wahrscheinlich für die KI-Politik, Exportkontrollen und Modellfreigabestandards weiterhin wichtig sein.

Claude Fable 5 steht im Mittelpunkt eines großen KI-Politikstreits, und Leser, die nach Tech-Zubehör suchen, können Komodoty hier durchsuchen: https://komodoty.com/collections/alternative-accessories