Pular para o conteúdo
PT

Aula 6 de 6 · 6 min · +100 XP

O que é um modelo base em IA?

Um modelo base é um modelo de linguagem recém-saído do pré-treinamento. Ele aprendeu a continuar textos, não a seguir instruções, então uma pergunta muitas vezes recebe mais perguntas de volta em vez de uma resposta. Ele sabe muita coisa, mas só responde se o seu texto parecer um documento em que a resposta vem a seguir. O treino de assistente vem depois.

▶ Pratique

Por que isso importa

Depois de meses de pré-treinamento, você tem um modelo que sabe muito, mas não ajuda. Entender por quê explica para que serve todo o treino seguinte e por que os prompts funcionam como funcionam.

Em 6 minutos você vai conseguir

  • O pré-treinamento produz um modelo base: um autocompletar poderoso, não um assistente.
  • Para tirar algo útil de um modelo base, escreva o começo de um documento em que a sua resposta vem a seguir.
  • Instruções como “por favor” ou “você é prestativo” só funcionam depois que o modelo recebe treino de assistente.

O que você vai praticar

  1. Conheça o modelo base

    Você digita no modelo base bruto do Vireo. Escolha o que fazer em cada passo.

    Vireo (base) · só pré-treinado

    • Modelo base carregado. Ele continua qualquer texto que você der.

    1. Você quer aprender uma coisa. O que você digita?

      • Como as plantas crescem? (Resposta)
        Isso é um modelo base. Ele viu algo parecido com uma lista de perguntas, então o texto seguinte mais provável era… mais perguntas.
        • Você: Como as plantas crescem?
        • Vireo (base): Como os pássaros voam?
          Como os peixes respiram?
          Por que o mar é salgado?
      • Escreva um poema curto sobre o mar. (Resposta)
        Ele achou que seu pedido era a primeira linha de uma folha de exercícios e continuou escrevendo a folha.
        • Você: Escreva um poema curto sobre o mar.
        • Vireo (base): Escreva uma história curta sobre um dragão.
          Escreva uma carta para você no futuro.
          Entregar a lição de casa na sexta.

    2. Ele não respondeu. Por quê?

      • Ele continua documentos. Ninguém o ensinou ainda a atender pedidos (Resposta)
        Exato. O pré-treinamento só o ensinou a prever o próximo token de textos parecidos com os da web. Responder é uma habilidade que vem depois.
      • Está com defeito e precisa reiniciar
        Quase. Ele funciona perfeitamente: faz exatamente o que o pré-treinamento ensinou, que é continuar texto.
      • Ele nunca leu nada sobre o assunto
        Quase. Ele leu bastante sobre isso. Só não sabe que deveria responder a você.

    3. Ainda dá para tirar uma resposta dele? Faça da resposta o texto seguinte mais provável.

      • POR FAVOR, responda minha pergunta!!
        Quase. Implorar é só mais texto para continuar, então ele pode muito bem responder com mais súplicas.
      • Comece uma página de perguntas e respostas: “P: Como as plantas crescem? R:” (Resposta)
        Numa página de perguntas e respostas, o que vem depois de “R:” é uma resposta. Repare que ele já começa a próxima pergunta: continua só completando a página.
        • Você: P: Como as plantas crescem?
          R:
        • Vireo (base): As plantas usam luz do sol, água e ar para fazer o próprio alimento. Isso se chama fotossíntese.
          P: Por que as folhas são verdes?
    • Transformar esse autocompletar num assistente que simplesmente responde é a próxima etapa do treino.

  2. Monte um documento que ele vai completar

    Toque nas fichas para colocá-las no documento e veja o que o modelo base escreve a seguir. Nem toda ficha ajuda.

    1. Você quer que o modelo base explique por que o céu é azul.

      Seu documento: por que o céu é azul

      Vireo (base) continua:

      • por que o céu é azul à noite
      • por que o mar é azul
      • por que meu céu ficou azul no jogo
      • Reescrever como “P: Por que o céu é azul? R:” ( Padrão) → R: A luz do sol tem todas as cores.
        Melhorou. O padrão de P e depois R faz de uma resposta o texto seguinte mais provável.
      • Colocar acima uma pergunta já respondida ( Exemplo) → O ar espalha a luz azul muito mais que a vermelha,
        Melhorou. Um exemplo mostra ao modelo exatamente que tipo de texto vem depois: uma resposta clara.
      • Dar à página o título “Perguntas de ciências, respondidas por professores” ( Moldura) → e o azul chega aos seus olhos de todo o céu.
        Melhorou. Uma moldura define o tipo de documento. Respostas de professores são claras e corretas, e a continuação também fica.
      • Acrescentar “Por favor, responda, obrigado!” ( Pedido) · retirada
        Quase. Um modelo base não atende pedidos. “Por favor” é só mais texto para continuar.
      • Acrescentar “Você é um assistente prestativo.” ( Pedido) · retirada
        Quase. Essa linha funciona em assistentes treinados. Para um modelo base, é só mais uma frase do documento.

    2. Agora você quer um poema de dois versos sobre o mar.

      Seu documento: poema sobre o mar

      Vireo (base) continua:

      • poema sobre a lua
      • poema sobre o mar infantil grátis
      • gerador de poemas online
      • Começar uma página de livro de poesia: “Poemas do Mar, página 12” ( Moldura) → A Maré
        Melhorou. Dentro de um livro de poesia, um poema é a coisa seguinte mais provável: primeiro o título.
      • Colar acima um poema curto sobre a chuva ( Exemplo) → A onda vem, a onda vai,
        Melhorou. O exemplo define o tamanho e o estilo, então o modelo copia o padrão: dois versos curtos com rima.
      • Terminar com um título e uma quebra de linha, pronto para o poema ( Padrão) → e o sol no mar devagar cai.
        Melhorou. Parar bem onde um poema começa deixa só uma continuação natural: o poema.
      • Acrescentar “Capricha, hein!!!” ( Pedido) · retirada
        Quase. Palavras de empolgação não mudam o tipo de documento, então a continuação fica igual.
      • Acrescentar “NÃO escreva uma lista de buscas” ( Pedido) · retirada
        Quase. Instruções não guiam um modelo base. Ele pode até continuar com mais regras.

  3. Modelo base ou assistente?

    1. Qual resposta veio de um modelo base?

      • Você pergunta “Melhor sabor de pizza?” e recebe “Melhor sabor de sorvete? Melhor recheio de pastel?” (Resposta)
      • Você pergunta “Melhor sabor de pizza?” e recebe “Os gostos variam, mas calabresa é uma escolha popular.”

    2. Então, o que o modelo base do Vireo já tem, e o que falta?

      • Tem muito conhecimento e domínio da língua, mas não o hábito de ajudar (Resposta)
      • Ainda não tem nada útil, todo o conhecimento vem depois

Lembre-se

Um modelo base continua documentos. Ele sabe muito, mas só responde quando a resposta é o texto seguinte mais provável. O treino de assistente vem depois.

Um modelo base continua documentos. Para ter uma resposta, faça dela o texto seguinte mais provável.

Fatos principais

  • O GPT-3 mostrou que um modelo pré-treinado conseguia fazer tarefas novas a partir de alguns exemplos colocados no prompt, sem treinar de novo, uma técnica chamada few-shot prompting. · Fonte: Brown et al., Language Models are Few-Shot Learners, OpenAI, 2020
  • Avaliadores humanos preferiram as respostas de um modelo de 1,3 bilhão de parâmetros treinado para seguir instruções às do modelo base GPT-3, de 175 bilhões. · Fonte: Ouyang et al., Training language models to follow instructions with human feedback, OpenAI, 2022
  • Muitos laboratórios lançam as duas versões de um modelo: o modelo base, para pesquisadores construírem em cima, e uma versão ajustada por instruções para conversar.
  • A maior parte do conhecimento de um modelo vem do pré-treinamento. O treino de assistente posterior usa bem menos dados e molda principalmente o comportamento.

Atualizado:

Perguntas frequentes

Qual a diferença entre um modelo base e um modelo de chat?

Um modelo base só foi pré-treinado, então continua textos. Um modelo de chat é o mesmo modelo base depois de treino extra com instruções e feedback humano, por isso responde perguntas e atende pedidos.

Por que um modelo base não segue instruções?

Ele só foi treinado para prever o próximo token de textos comuns. Na web, uma pergunta muitas vezes é seguida de mais perguntas, então é isso que ele escreve.

O que é few-shot prompting?

É colocar alguns exemplos resolvidos no prompt para o modelo continuar o padrão. Funciona bem com modelos base porque eles são ótimos em copiar padrões.

Por que os laboratórios lançam modelos base?

Pesquisadores e desenvolvedores os usam como ponto de partida para ajustar seus próprios modelos especializados, ou para estudar o que o pré-treinamento sozinho produz.

Termos relacionados