De GPT-2 à ChatGPT : comment l’IA écrit

Le point de départ · 1 / 13
Pour commencer · 2019

Vous commencez. GPT-2 continue.

En 2019, OpenAI présente GPT-2, un modèle de langage : un système entraîné sur des textes pour en produire. Pour l’utiliser, on pouvait lui donner un début de phrase et le laisser écrire la suite.

À essayerVoici le début d’un message pour organiser une réunion. Faites apparaître la suite et repérez ce que le modèle ajoute.
Un seul texte, qui se prolonge

Pour notre réunion, je vous propose de

Vous avez écrit le début

Le texte s’arrête au milieu de la phrase. Le modèle va prolonger ce début.

Exemple fictif en français pour illustrer le principe, sans appel à GPT-2.

Pourquoi ça fonctionne ainsi

GPT-2 prolongeait le texte reçu. Il pouvait continuer une phrase, mais aussi plusieurs paragraphes. Ce n’était pas encore l’assistant de conversation ChatGPT : pour orienter le résultat, on préparait le texte de départ. L’exemple français est une illustration écrite pour le cours, pas une sortie réelle de GPT-2, qui était principalement entraîné sur des textes en anglais.