Aller au contenu
FR

Leçon 6 sur 6 · 6 min · +100 XP

C'est quoi, un modèle de base en IA ?

Un modèle de base est un modèle de langage tout juste sorti du pré-entraînement. Il a appris à prolonger du texte, pas à suivre des instructions : une question reçoit souvent d'autres questions en retour. Il sait beaucoup, mais ne répond que si ton texte ressemble à un document où une réponse vient ensuite. L'entraînement d'assistant vient après.

▶ À toi de jouer

Pourquoi c'est important

Après des mois de pré-entraînement, on obtient un modèle qui sait beaucoup mais n'aide pas. Comprendre pourquoi explique à quoi sert tout l'entraînement qui suit, et pourquoi les prompts marchent comme ils marchent.

En 6 minutes, tu sauras

  • Le pré-entraînement produit un modèle de base : une autocomplétion puissante, pas un assistant.
  • Pour tirer quelque chose d'utile d'un modèle de base, écris le début d'un document où ta réponse vient ensuite.
  • Les instructions comme « s'il te plaît » ou « tu es serviable » ne marchent qu'une fois qu'un modèle a eu un entraînement d'assistant.

Ce que tu vas pratiquer

  1. Fais connaissance avec le modèle de base

    Tu écris au modèle de base brut de Vireo. Choisis ce que tu fais à chaque étape.

    Vireo (base) · pré-entraîné seulement

    • Modèle de base chargé. Il prolonge le texte que tu lui donnes.

    1. Tu veux apprendre quelque chose. Que tapes-tu ?

      • Comment pousse une plante ? (Réponse)
        Voilà un modèle de base. Il a vu ce qui ressemble à une liste de questions, donc le texte suivant le plus probable était… d'autres questions.
        • Toi: Comment pousse une plante ?
        • Vireo (base): Comment vole un oiseau ?
          Comment respire un poisson ?
          Pourquoi la mer est salée ?
      • Écris un petit poème sur la mer. (Réponse)
        Il a pris ta demande pour la première ligne d'une fiche d'exercices et a continué la fiche.
        • Toi: Écris un petit poème sur la mer.
        • Vireo (base): Écris une petite histoire sur un dragon.
          Écris une lettre à ton futur toi.
          Devoirs à rendre vendredi.

    2. Il ne t'a pas répondu. Pourquoi ?

      • Il prolonge des documents. Personne ne lui a encore appris à suivre des demandes (Réponse)
        Exactement. Le pré-entraînement lui a seulement appris à prédire le token suivant d'un texte du web. Répondre, c'est une compétence qui vient plus tard.
      • Il est en panne et doit redémarrer
        Presque. Il marche parfaitement : il fait exactement ce que le pré-entraînement lui a appris, prolonger du texte.
      • Il n'a jamais rien lu sur le sujet
        Presque. Il en a beaucoup lu. Il ne sait simplement pas qu'il est censé te répondre.

    3. Peux-tu quand même en tirer une réponse ? Fais de la réponse le texte suivant le plus probable.

      • RÉPONDS à ma question, S'IL TE PLAÎT !!
        Presque. Supplier, c'est juste plus de texte à prolonger : il pourrait très bien répondre par d'autres supplications.
      • Commencer une page de questions-réponses : « Q : Comment pousse une plante ? R : » (Réponse)
        Sur une page de questions-réponses, une réponse est ce qui vient après « R : ». Remarque qu'il commence ensuite la question suivante : il continue juste la page.
        • Toi: Q : Comment pousse une plante ?
          R :
        • Vireo (base): Les plantes utilisent la lumière, l'eau et l'air pour fabriquer leur propre nourriture. C'est la photosynthèse.
          Q : Pourquoi les feuilles sont-elles vertes ?
    • Transformer cette autocomplétion en assistant qui répond tout simplement, c'est l'étape suivante de l'entraînement.

  2. Construis un document qu'il terminera

    Touche des étiquettes pour les ajouter au document et regarde ce que le modèle de base écrit ensuite. Elles n'aident pas toutes.

    1. Tu veux que le modèle de base explique pourquoi le ciel est bleu.

      Ton document: pourquoi le ciel est bleu

      Vireo (base) continue:

      • pourquoi le ciel est bleu la nuit
      • pourquoi la mer est bleue
      • pourquoi mon ciel est bleu dans le jeu
      • Réécrire en « Q : Pourquoi le ciel est-il bleu ? R : » ( Motif) → R : La lumière du soleil contient toutes les couleurs.
        Mieux. Le motif Q puis R fait d'une réponse le texte suivant le plus probable.
      • Mettre au-dessus une question déjà résolue ( Exemple) → L'air diffuse bien plus le bleu que le rouge,
        Mieux. Un exemple montre au modèle exactement quel genre de texte vient ensuite : une réponse claire.
      • Titrer la page « Questions de sciences, réponses de profs » ( Cadre) → donc le bleu arrive à tes yeux de tout le ciel.
        Mieux. Un cadre fixe le genre de document. Les réponses de profs sont claires et justes, donc la suite aussi.
      • Ajouter « Réponds, s'il te plaît, merci ! » ( Demande) · retiré
        Presque. Un modèle de base ne suit pas les demandes. « S'il te plaît », c'est juste plus de texte à prolonger.
      • Ajouter « Tu es un assistant serviable. » ( Demande) · retiré
        Presque. Cette phrase marche sur les assistants entraînés. Pour un modèle de base, c'est juste une phrase de plus dans le document.

    2. Maintenant, tu veux un poème de deux vers sur la mer.

      Ton document: poème sur la mer

      Vireo (base) continue:

      • poème sur la lune
      • poème sur la mer pour enfants gratuit
      • générateur de poème en ligne
      • Commencer une page de recueil : « Poèmes de la mer, page 12 » ( Cadre) → La Marée
        Mieux. Dans un recueil de poésie, un poème est la suite la plus probable : d'abord son titre.
      • Coller au-dessus un court poème sur la pluie ( Exemple) → Les vagues vont, les vagues viennent,
        Mieux. L'exemple fixe la longueur et le style, donc le modèle copie le motif : deux vers courts qui riment.
      • Finir par un titre et un retour à la ligne, prêt pour le poème ( Motif) → et chantent ce que les flots retiennent.
        Mieux. S'arrêter pile là où commence un poème ne laisse qu'une suite naturelle : le poème.
      • Ajouter « Fais-le génial !!! » ( Demande) · retiré
        Presque. Les mots enthousiastes ne changent pas le genre de document, donc la suite reste la même.
      • Ajouter « N'écris PAS une liste de recherches » ( Demande) · retiré
        Presque. Les instructions ne dirigent pas un modèle de base. Il pourrait même continuer avec d'autres règles.

  3. Modèle de base ou assistant ?

    1. Quelle réponse vient d'un modèle de base ?

      • Tu demandes « Meilleure garniture de pizza ? » et tu reçois « Meilleure garniture de burger ? Meilleur parfum de glace ? » (Réponse)
      • Tu demandes « Meilleure garniture de pizza ? » et tu reçois « Les goûts varient, mais les champignons sont un choix populaire. »

    2. Alors, qu'a déjà le modèle de base de Vireo, et que lui manque-t-il ?

      • Il a beaucoup de connaissances et de maîtrise de la langue, mais pas l'habitude d'aider (Réponse)
      • Il n'a encore rien d'utile, tout le savoir vient plus tard

Retiens bien

Un modèle de base prolonge des documents. Il sait beaucoup, mais ne répond que si une réponse est le texte suivant le plus probable. L'entraînement d'assistant vient ensuite.

Un modèle de base prolonge des documents. Pour obtenir une réponse, fais de la réponse le texte suivant le plus probable.

Les chiffres clés

  • GPT-3 a montré qu'un modèle pré-entraîné pouvait faire de nouvelles tâches à partir de quelques exemples placés dans le prompt, sans réentraînement : une technique appelée few-shot prompting. · Source: Brown et al., Language Models are Few-Shot Learners, OpenAI, 2020
  • Des annotateurs humains ont préféré les réponses d'un modèle de 1,3 milliard de paramètres entraîné à suivre des instructions à celles du modèle de base GPT-3 et ses 175 milliards de paramètres. · Source: Ouyang et al., Training language models to follow instructions with human feedback, OpenAI, 2022
  • Beaucoup de labos publient les deux versions d'un modèle : le modèle de base, sur lequel les chercheurs peuvent construire, et une version ajustée aux instructions pour discuter.
  • L'essentiel des connaissances d'un modèle vient du pré-entraînement. L'entraînement d'assistant qui suit utilise bien moins de données et façonne surtout le comportement du modèle.

Mis à jour:

Les questions qu'on se pose

Quelle différence entre un modèle de base et un modèle de chat ?

Un modèle de base est seulement pré-entraîné, donc il prolonge le texte. Un modèle de chat, c'est le même modèle de base après un entraînement en plus sur des instructions et des retours humains : il répond aux questions et suit les demandes.

Pourquoi un modèle de base ne suit-il pas les instructions ?

Il a seulement appris à prédire le token suivant d'un texte ordinaire. Sur le web, une question est souvent suivie d'autres questions, alors c'est ce qu'il écrit.

C'est quoi, le few-shot prompting ?

Mettre quelques exemples résolus dans le prompt pour que le modèle continue le motif. Ça marche bien sur les modèles de base, car ils sont excellents pour copier des motifs.

Pourquoi les labos publient-ils des modèles de base ?

Les chercheurs et les développeurs s'en servent comme point de départ pour ajuster leurs propres modèles spécialisés, ou pour étudier ce que produit le pré-entraînement seul.

Termes associés