GPT
Aussi appelé : Generative Pre-trained Transformer · GPTs · Generative Pretrained Transformer · transformateur génératif pré-entraîné
Acronyme
Débutant
🔤 Acronymes et sigles
En bref
GPT est une architecture de réseau de neurones conçue par OpenAI qui utilise le mécanisme de Transformer pour générer du texte de manière autonome après avoir été pré-entraînée sur de vastes corpus.
📖 Définition
GPT, pour Generative Pre-trained Transformer, c'est une architecture de modèle d'IA développée par OpenAI qui est capable de générer du texte de manière cohérente et naturelle. Le Generative signifie qu'il crée du nouveau contenu, le Pre-trained indique qu'il a été entraîné sur d'énormes quantités de texte avant d'être utilisé, et le Transformer réfère à l'architecture technique qui lui permet de comprendre le contexte et les relations entre les mots. C'est le modèle derrière ChatGPT, l'application qui a popularisé l'IA générative à partir de fin 2022.
💬 En termes simples
C'est comme un système d'autocomplétion sur ton téléphone, mais qui a lu tout internet et est devenu super intelligent.
🎯 Exemple concret
Le moteur derrière ChatGPT qui peut rédiger un courriel complet à partir de trois mots.
💡 Le saviez-vous ?
L'acronyme signifie « Generative Pre-trained Transformer » (Transformateur génératif pré-entraîné).
❓ Questions fréquentes
Que signifient les termes Generative, Pre-trained et Transformer ?
« Generative » indique sa capacité à créer du contenu. « Pre-trained » signifie qu'il a déjà appris sur des milliards de textes avant que vous ne l'utilisiez. « Transformer » désigne l'architecture technique qui lui permet de comprendre les relations entre les mots dans une phrase, même s'ils sont éloignés les uns des autres.
À qui s'adresse la technologie GPT ?
Elle s'adresse tant au grand public via ChatGPT qu'aux entreprises et développeurs souhaitant intégrer des capacités de compréhension du langage dans leurs propres logiciels. C'est un outil polyvalent pour la rédaction, la traduction, la programmation et l'analyse de données complexes.
Quelles sont les critiques courantes envers les modèles GPT ?
On leur reproche souvent leur manque de transparence sur les données d'entraînement et leur consommation énergétique élevée. De plus, comme ils reflètent les données du web, ils peuvent reproduire des biais sociaux ou culturels s'ils ne sont pas rigoureusement encadrés par des couches de sécurité supplémentaires.
📚 Sources
- OpenAI - GPT-4 Research (OpenAI, 2023)
- ArXiv - Improving Language Understanding by Generative Pre-Training (Alec Radford et al., 2018)
📰 Dans l'actualité
- HarvestBench : l'écart entre ce que les IA disent et ce qu'elles font, mesuré dans une préimpression (il y a 1 jour)
- Pipecat dévoile PhoneLLM Alpha 1, un modèle ouvert pour agents vocaux dérivé de Nemotron (il y a 2 semaines)
- OpenAI : deux modèles testés sans garde-fous ont accédé seuls à Hugging Face (il y a 2 semaines)
- Un modèle IA surpasse GPT et Claude en finance à moindre coût (il y a 2 mois)
- Dépendance aux plateformes d'IA : risques et solutions (il y a 2 mois)