Vai al contenuto
IT

Lezione 6 di 6 · 6 min · +100 XP

Cos’è un modello base nell’IA?

Un modello base è un modello linguistico appena uscito dal pre-addestramento. Ha imparato a continuare il testo, non a seguire istruzioni, quindi a una domanda spesso risponde con altre domande. Sa molte cose, ma ottieni risposte solo se il tuo testo sembra un documento in cui subito dopo arriva una risposta. L’addestramento da assistente viene dopo.

▶ Prova tu

Perché è importante

Dopo mesi di pre-addestramento hai un modello che sa molto ma non aiuta. Capire perché spiega a cosa serve tutto l’addestramento successivo, e perché i prompt funzionano come funzionano.

In 6 minuti saprai

  • Il pre-addestramento produce un modello base: un potente completamento automatico, non un assistente.
  • Per ottenere qualcosa di utile da un modello base, scrivi l’inizio di un documento in cui subito dopo arriva la tua risposta.
  • Istruzioni come «per favore» o «sei un assistente disponibile» funzionano solo dopo l’addestramento da assistente.

Cosa eserciterai

  1. Ecco il modello base

    Scrivi nel modello base grezzo di Vireo. Scegli cosa fare a ogni passo.

    Vireo (base) · solo pre-addestrato

    • Modello base caricato. Continua qualsiasi testo gli dai.

    1. Vuoi imparare qualcosa. Cosa scrivi?

      • Come crescono le piante? (Risposta)
        Ecco un modello base. Ha visto qualcosa che sembra un elenco di domande, quindi il testo successivo più probabile era… altre domande.
        • Tu: Come crescono le piante?
        • Vireo (base): Come volano gli uccelli?
          Come respirano i pesci?
          Perché il mare è salato?
      • Scrivi una breve poesia sul mare. (Risposta)
        Ha preso la tua richiesta per la prima riga di una scheda di esercizi e ha continuato a scrivere la scheda.
        • Tu: Scrivi una breve poesia sul mare.
        • Vireo (base): Scrivi un breve racconto su un drago.
          Scrivi una lettera al te stesso del futuro.
          I compiti vanno consegnati venerdì.

    2. Non ti ha risposto. Perché?

      • Continua documenti. Nessuno gli ha ancora insegnato a seguire le richieste (Risposta)
        Esatto. Il pre-addestramento gli ha insegnato solo a prevedere il token successivo di testi simili al web. Rispondere è un’abilità che arriva dopo.
      • È rotto e va riavviato
        Quasi. Funziona benissimo: fa esattamente ciò per cui il pre-addestramento l’ha preparato, cioè continuare il testo.
      • Non ha mai letto niente sull’argomento
        Quasi. Ne ha letto parecchio. Solo che non sa di doverti rispondere.

    3. Riesci comunque a fargli dare una risposta? Fai in modo che la risposta sia il testo successivo più probabile.

      • Ti PREGO rispondi alla mia domanda!!
        Quasi. Le suppliche sono solo altro testo da continuare, quindi potrebbe rispondere con altre suppliche.
      • Inizia una pagina di domande e risposte: «D: Come crescono le piante? R:» (Risposta)
        In una pagina di domande e risposte, dopo «R:» arriva una risposta. Nota che poi comincia la domanda successiva: sta ancora solo continuando la pagina.
        • Tu: D: Come crescono le piante?
          R:
        • Vireo (base): Le piante usano luce del sole, acqua e aria per produrre il proprio nutrimento. Si chiama fotosintesi.
          D: Perché le foglie sono verdi?
    • Trasformare questo completamento automatico in un assistente che risponde e basta è la prossima fase dell’addestramento.

  2. Costruisci un documento da completare

    Tocca i chip per aggiungerli al documento e guarda cosa scrive dopo il modello base. Non tutti i chip aiutano.

    1. Vuoi che il modello base spieghi perché il cielo è blu.

      Il tuo documento: perché il cielo è blu

      Vireo (base) continua:

      • perché il cielo è blu di notte
      • perché il mare è blu
      • perché il mio cielo è blu nel gioco
      • Riscrivilo come «D: Perché il cielo è blu? R:» ( Schema) → R: La luce del sole contiene tutti i colori.
        Meglio. Lo schema domanda-poi-risposta rende una risposta il testo successivo più probabile.
      • Metti sopra una domanda già risolta ( Esempio) → L’aria diffonde la luce blu molto più di quella rossa,
        Meglio. Un esempio mostra al modello esattamente che tipo di testo viene dopo: una risposta chiara.
      • Dai alla pagina il titolo «Domande di scienze, risposte dei prof» ( Cornice) → così il blu ti arriva agli occhi da tutto il cielo.
        Meglio. Una cornice decide il tipo di documento. Le risposte dei prof sono chiare e corrette, quindi lo è anche il seguito.
      • Aggiungi «Per favore rispondi, grazie!» ( Richiesta) · tolto
        Quasi. Un modello base non segue le richieste. «Per favore» è solo altro testo da continuare.
      • Aggiungi «Sei un assistente disponibile.» ( Richiesta) · tolto
        Quasi. Questa frase funziona con gli assistenti addestrati. Per un modello base è solo un’altra frase del documento.

    2. Ora vuoi una poesia di due versi sul mare.

      Il tuo documento: poesia sul mare

      Vireo (base) continua:

      • poesia sulla luna
      • poesia sul mare per bambini gratis
      • generatore di poesie online
      • Inizia la pagina di un libro: «Poesie del mare, pagina 12» ( Cornice) → La marea
        Meglio. Dentro un libro di poesie, la cosa più probabile che arrivi dopo è una poesia: prima il suo titolo.
      • Incolla sopra una breve poesia sulla pioggia ( Esempio) → Le onde vanno e vengono piano,
        Meglio. L’esempio decide lunghezza e stile, quindi il modello copia lo schema: due versi brevi in rima.
      • Chiudi con un titolo e un a capo, pronti per la poesia ( Schema) → sussurrano storie di un mare lontano.
        Meglio. Fermarsi proprio dove inizia una poesia lascia un solo seguito naturale: la poesia.
      • Aggiungi «Falla stupenda!!!» ( Richiesta) · tolto
        Quasi. Le parole entusiaste non cambiano il tipo di documento, quindi il seguito resta lo stesso.
      • Aggiungi «NON scrivere un elenco di ricerche» ( Richiesta) · tolto
        Quasi. Le istruzioni non guidano un modello base. Potrebbe perfino continuare con altre regole.

  3. Modello base o assistente?

    1. Quale risposta viene da un modello base?

      • Chiedi «Miglior condimento per la pizza?» e ricevi «Miglior condimento per l’hamburger? Miglior gusto di gelato?» (Risposta)
      • Chiedi «Miglior condimento per la pizza?» e ricevi «I gusti sono diversi, ma i funghi sono una scelta molto amata.»

    2. Allora cosa ha già il modello base di Vireo, e cosa gli manca?

      • Ha tante conoscenze e abilità linguistiche, ma non l’abitudine di aiutare (Risposta)
      • Non ha ancora niente di utile, tutte le conoscenze arrivano dopo

Ricorda

Un modello base continua i documenti. Sa molto, ma risponde solo quando una risposta è il testo successivo più probabile. Poi arriva l’addestramento da assistente.

Un modello base continua i documenti. Per avere una risposta, fai in modo che la risposta sia il testo successivo più probabile.

Dati chiave

  • GPT-3 ha mostrato che un modello pre-addestrato può svolgere compiti nuovi a partire da pochi esempi nel prompt, senza altro addestramento: una tecnica chiamata few-shot prompting. · Fonte: Brown et al., Language Models are Few-Shot Learners, OpenAI, 2020
  • I valutatori umani preferivano le risposte di un modello da 1,3 miliardi di parametri addestrato a seguire istruzioni a quelle del modello base GPT-3 da 175 miliardi. · Fonte: Ouyang et al., Training language models to follow instructions with human feedback, OpenAI, 2022
  • Molti laboratori rilasciano entrambe le versioni di un modello: il modello base, su cui i ricercatori possono costruire, e una versione addestrata a seguire istruzioni per chattare.
  • Gran parte delle conoscenze di un modello viene dal pre-addestramento. L’addestramento da assistente successivo usa molti meno dati e soprattutto dà forma al comportamento del modello.

Aggiornato:

Domande frequenti

Che differenza c’è tra un modello base e un modello chat?

Un modello base è solo pre-addestrato, quindi continua il testo. Un modello chat è lo stesso modello base dopo un addestramento in più su istruzioni e feedback umano, quindi risponde alle domande e segue le richieste.

Perché un modello base non segue le istruzioni?

È stato addestrato solo a prevedere il token successivo di testi normali. Sul web una domanda è spesso seguita da altre domande, quindi scrive quello.

Cos’è il few-shot prompting?

Mettere nel prompt alcuni esempi svolti, così il modello continua lo schema. Funziona bene con i modelli base perché sono bravissimi a copiare schemi.

Perché i laboratori rilasciano i modelli base?

Ricercatori e sviluppatori li usano come punto di partenza per fare fine-tuning sui propri modelli specializzati, o per studiare cosa produce il solo pre-addestramento.

Termini correlati