Suspension de Claude Fable 5 et Mythos d'Anthropic

Anthropic a suspendu Claude Fable 5 et Mythos 5 après qu'une directive du gouvernement américain ait soulevé des préoccupations de sécurité concernant l'accès aux nouveaux modèles d'IA de l'entreprise.

Cette décision fait suite à un ordre du gouvernement qui, selon Anthropic, exigeait la suspension de l'accès pour les ressortissants étrangers, y compris les employés étrangers, mais l'entreprise a désactivé les deux modèles pour tous les clients afin de se conformer.

Pourquoi Anthropic a mis les modèles hors ligne

Selon la déclaration d'Anthropic, le gouvernement américain a invoqué les autorités de sécurité nationale lors de l'émission de la directive de contrôle des exportations. L'entreprise a déclaré que l'ordre ne contenait pas de détails publics spécifiques sur la préoccupation.

Anthropic a déclaré comprendre que les fonctionnaires croyaient qu'une méthode avait été trouvée pour contourner, ou "jailbreaker", Claude Fable 5. L'entreprise a soutenu que le problème signalé était étroit et lié à l'identification d'un petit nombre de vulnérabilités mineures déjà connues.

Ce qu'il est advenu de Fable 5 et Mythos 5

Anthropic a déclaré que l'effet net de la directive a été un arrêt brutal de Claude Fable 5 et Mythos 5 pour tous les clients, pas seulement les groupes nommés dans l'ordre.

L'entreprise a également déclaré que l'accès à ses autres modèles Anthropic ne serait pas affecté. Cela signifie que la perturbation est spécifiquement liée aux nouveaux modèles haut de gamme plutôt qu'à l'ensemble de la gamme Claude.

Pourquoi la question est importante

Claude Fable 5 avait été présenté comme une version restreinte du système Mythos 5 plus performant d'Anthropic, avec des contrôles destinés à réduire les abus dans des domaines tels que la cybersécurité. La suspension attire une nouvelle attention sur la manière dont les gouvernements peuvent réagir lorsque les systèmes d'IA de pointe sont perçus comme créant des risques de sécurité.

L'affaire montre également à quel point il peut être difficile de séparer l'accès aux modèles par catégorie d'utilisateur une fois qu'un service est déjà largement déployé via des produits cloud et des plateformes partagées.

La position d'Anthropic

Anthropic a contesté l'action et a déclaré que les preuves qui lui ont été montrées ne justifiaient pas un arrêt aussi large. L'entreprise a déclaré que le contournement signalé n'était pas universel et ne semblait pas créer un bond majeur dans les capacités réelles des attaquants par rapport à d'autres modèles accessibles au public.

Cette réponse s'inscrit dans l'argument plus large d'Anthropic selon lequel les restrictions sur les modèles d'IA avancés devraient suivre un processus clair et structuré plutôt qu'une directive abrupte avec des explications limitées.

Que se passe-t-il ensuite

Pour l'instant, le résultat immédiat est que Claude Fable 5 et Mythos 5 sont hors ligne pendant qu'Anthropic travaille sur la conformité et le litige plus large concernant l'ordre gouvernemental. L'épisode restera probablement important pour la politique de l'IA, les contrôles à l'exportation et les normes de publication des modèles.

Claude Fable 5 est au centre d'un important différend politique sur l'IA, et les lecteurs à la recherche d'accessoires technologiques peuvent consulter Komodoty ici : https://komodoty.com/collections/alternative-accessories