Anthropic propose une régulation stricte pour l'IA frontière
Anthropic publie un essai et deux cadres politiques pour réguler l'IA frontière. Le PDG Dario Amodei compare la lenteur régulatoire à l'inaction de Treebeard dans 'Le Seigneur des Anneaux'. L'entreprise propose des audits tiers obligatoires et des seuils stricts pour les modèles à haut risque.
« Within one to two years, he says, we could see what he calls 'Powerful AI,' or 'a country of geniuses in a data center.' » — The Decoder
Que faut-il retenir ?
- Anthropic propose des audits tiers obligatoires pour les modèles d'IA frontière.
- Les règles ciblent les développeurs formant des modèles avec plus de 10^25 FLOP.
- Les seuils incluent 500 millions de dollars de revenus ou 1 milliard dépensé en recherche annuelle.
- Anthropic suggère des rapports de risque tous les 6 mois et des évaluateurs indépendants.
Pourquoi cette nouvelle compte-t-elle ?
Ces propositions pourraient redéfinir la régulation de l'IA aux États-Unis et influencer les politiques mondiales. Les entreprises développant des modèles avancés devront se conformer à des exigences strictes de transparence et de sécurité, impactant leurs stratégies de développement et leurs coûts.
10^25 FLOP pour les modèles à haut risque
💬 Dario Amodei, PDG d'Anthropic
Public concerné : entreprises, développeurs
Quels sont les critères proposés par Anthropic pour réguler l'IA frontière ?
Anthropic propose des seuils basés sur la puissance de calcul (10^25 FLOP), les revenus (500 millions de dollars) ou les dépenses en recherche (1 milliard de dollars annuels). Les développeurs doivent aussi publier des rapports de risque tous les 6 mois et engager des évaluateurs indépendants.
