Anthropic et OpenAI conçoivent des puces sur mesure pour l'IA
Anthropic a confirmé la création d'une équipe interne pour concevoir ses propres puces pour Claude, suivant une tendance où les laboratoires d'IA cherchent à maîtriser leur matériel. OpenAI a déjà lancé Jalapeño, un processeur spécialisé dans l'inférence des LLM. Ces développements visent à optimiser les performances des modèles d'IA.
« « Jalapeño a été conçu de zéro pour l’inférence de LLM, à partir d’informations détaillées issues de notre collaboration étroite avec les chercheurs d’OpenAI » » - Blog du Modérateur
Que faut-il retenir ?
- Anthropic a confirmé la création d'une équipe interne pour concevoir des puces sur mesure pour Claude.
- OpenAI a lancé Jalapeño, un processeur conçu avec Broadcom pour l'inférence des LLM.
- Anthropic recrute pour sa « custom silicon team » avec des salaires annuels de 320 000 à 485 000 dollars.
- Anthropic examine le procédé 2 nanomètres de Samsung et discute de puces avec Microsoft et Fractile.
Pourquoi cette nouvelle compte-t-elle ?
La conception de puces sur mesure par Anthropic et OpenAI marque une étape cruciale dans l'optimisation des performances des modèles d'IA, en particulier pour l'inférence. Cela permet de réduire les coûts et d'améliorer l'efficacité, tout en réduisant la dépendance vis-à-vis des fournisseurs externes comme Nvidia. Ces développements pourraient influencer la manière dont les entreprises technologiques conçoivent leurs infrastructures matérielles à l'avenir.
320 000 à 485 000 dollars annuels
💬 Richard Ho, Responsable du programme matériel d’OpenAI
Public concerné : développeurs, entreprises
Pourquoi Anthropic et OpenAI conçoivent-ils leurs propres puces ?
Anthropic et OpenAI conçoivent des puces sur mesure pour optimiser l'inférence des modèles d'IA, réduisant ainsi les coûts et améliorant l'efficacité tout en diminuant leur dépendance vis-à-vis des fournisseurs externes comme Nvidia.
🔧 Outils mentionnés