Anthropic suspend ses modèles d'IA suite à une directive US
Anthropic a reçu une directive du gouvernement américain pour suspendre l'accès à ses modèles Mythos 5 et Fable 5, craignant un 'jailbreak'. Le PDG Dario Amodei a négocié avec les autorités, tandis que des rumeurs pointent vers une implication chinoise.
« Anthropic wrote in a release on Friday that the company believed that the government 'believes it has become aware of a method of bypassing, or ‘jailbreaking’ Fable 5.' » — The Verge AI
Que faut-il retenir ?
- Anthropic a reçu une directive à 17h21 le vendredi pour suspendre l'accès à Mythos 5 et Fable 5.
- Le PDG Dario Amodei a négocié avec le secrétaire au Trésor Scott Bessent et d'autres responsables.
- Un rapport indique qu'un groupe lié à la Chine aurait accédé à la technologie.
- Amazon CEO Andy Jassy aurait signalé des inquiétudes après des tests de sécurité sur Fable 5.
Pourquoi cette nouvelle compte-t-elle ?
Cet incident illustre les tensions croissantes entre les entreprises d'IA et les gouvernements sur la régulation des modèles avancés. Les professionnels du secteur doivent anticiper des restrictions accrues et des audits de sécurité renforcés, impactant les stratégies de déploiement et de collaboration internationale.
90-minute ultimatum pour suspendre l'accès aux modèles
💬 Dario Amodei, PDG d'Anthropic
Public concerné : entreprises, développeurs
Pourquoi le gouvernement américain a-t-il demandé la suspension de Mythos 5 et Fable 5 ?
Le gouvernement craignait un contournement des garde-fous de Fable 5, potentiellement exploité par des entités étrangères. Anthropic a confirmé une vulnérabilité, mais souligne qu'elle n'est pas unique à ses modèles.
