ByteDance lance iLLaDA, un modèle de langage à diffusion
ByteDance et des chercheurs de l'Université Renmin ont développé iLLaDA, un modèle de langage à diffusion de 8B. Il égale Qwen2.5 au niveau de base mais est moins performant après le fine-tuning. iLLaDA est entraîné sur 12 000 milliards de tokens, améliorant nettement son prédécesseur LLaDA.