Tencent lance Hy3, un modèle IA open-source performant
Tencent a officiellement publié Hy3, un modèle IA open-source utilisant une architecture Mixture-of-Experts (MoE) avec 295 milliards de paramètres. Il égalerait les performances de modèles deux à cinq fois plus grands, avec un taux d'hallucination réduit de 12,5% à 5,4%. Hy3 est disponible sous licence Apache 2.0 sur Hugging Face, ModelScope et GitHub.
« Tencent says Hy3 matches the performance of models two to five times its size. » — The Decoder
Que faut-il retenir ?
- Hy3 utilise une architecture Mixture-of-Experts (MoE) avec 295 milliards de paramètres totaux.
- 21 milliards de paramètres sont actifs à un moment donné, plus 3,8 milliards pour une couche MTP supplémentaire.
- Dans une évaluation à l'aveugle par 270 experts, Hy3 a obtenu 2,67 sur 4, battant GLM-5.1 à 2,51.
- Le taux d'hallucination est passé de 12,5% à 5,4% dans les tests internes.
Pourquoi cette nouvelle compte-t-elle ?
Hy3 représente une avancée significative dans les modèles IA open-source, offrant des performances comparables à des modèles beaucoup plus grands. Sa disponibilité sous licence Apache 2.0 et son intégration dans des produits populaires comme WeChat en font un outil accessible et potentiellement disruptif pour les développeurs et les entreprises.
295 milliards de paramètres totaux
Public concerné : développeurs, entreprises
Quelles sont les performances de Hy3 par rapport à d'autres modèles IA ?
Hy3 égalerait les performances de modèles deux à cinq fois plus grands selon Tencent, avec un score de 2,67 sur 4 dans une évaluation à l'aveugle et un taux d'hallucination réduit à 5,4%.
