Test-time compute
Test-time compute (calcul à l'inférence)
Terme IA
Intermédiaire
📖 Définition
Le test-time compute désigne la quantité de calcul allouée au moment de l'inférence — quand le modèle répond — par opposition au calcul d'entraînement. Pendant des années, l'industrie a investi quasi exclusivement dans des modèles plus gros entraînés sur plus de données. Depuis o1 d'OpenAI fin 2024, une nouvelle dimension de scaling est apparue : laisser le modèle réfléchir plus longtemps à l'inférence. Doubler le temps de raisonnement peut équivaloir à doubler la taille du modèle. Pour les PME québécoises, cela signifie qu'un petit modèle réfléchi peut surpasser un grand modèle rapide.
💬 En termes simples
C'est le passage du « réponse instantanée » au « laisse-moi réfléchir 30 secondes » qui change la qualité de la réponse.
🎯 Exemple concret
Une équipe de R&D pharmaceutique à Laval configure son LLM pour allouer 60 secondes de raisonnement par requête sur les analyses moléculaires — coût quadruplé, qualité doublée selon leurs benchmarks internes.
💡 Le saviez-vous ?
En 2026, plusieurs labs estiment que le test-time compute pourrait sextupler la performance des modèles sans augmenter leur taille — un changement de paradigme aussi important que le passage à l'apprentissage profond.