Pular para o conteúdo
PT

Aula 3 de 8 · 6 min · +100 XP

Como um chatbot de IA escreve as respostas?

Um chatbot de IA roda num grande modelo de linguagem que escreve um pedacinho de palavra por vez, chamado token. A cada passo, ele dá uma nota a cada próximo token possível conforme a chance de vir depois do texto até ali, escolhe um, acrescenta e repete. Como prevê palavras prováveis em vez de consultar fatos, confira as respostas importantes.

▶ Pratique

Por que isso importa

Um chatbot não pesquisa respostas. Ele prevê o próximo token de novo e de novo, e isso explica por que soa fluente, por que as respostas variam e por que pode errar.

Em 6 minutos você vai conseguir

  • Chatbots escrevem um token por vez, escolhendo um próximo pedaço de texto provável.
  • A temperatura deixa as respostas mais seguras ou mais surpreendentes, por isso elas variam.
  • Uma resposta confiante e bem escrita ainda pode estar errada. Confira o que importa.

O que você vai praticar

  1. Na casa de máquinas

    Toque em cada cartão para ver o que tem atrás.

    🧩 O que é um token?
    Um pedacinho de texto: uma palavra inteira, parte de uma palavra ou um sinal de pontuação. “Inacreditável” pode virar “in”, “acredit” e “ável”.
    📚 Como a Lumi aprendeu?
    Lendo quantidades enormes de texto e treinando um jogo: esconder o próximo token, adivinhar, comparar, ajustar. Bilhões de vezes.
    📊 O que ela prevê?
    Não uma palavra só, mas uma nota para cada próximo token possível: a chance de cada um depois do texto até ali.
    🔁 E como a resposta aparece?
    A Lumi escolhe um token provável, coloca no texto e prevê de novo. Palavra por palavra, até a resposta acabar.

  2. Seja o modelo de linguagem

    Escolha a próxima palavra. Depois veja a chance de cada opção. As porcentagens são ilustrativas, inventadas para mostrar a ideia, não tiradas de um modelo real.

    1. Muito obrigado pela sua ___

      • ajuda: 40% (a mais provável)
      • atenção: 15%
      • mensagem: 8%
      • betoneira: 0,1%
      • outras palavras: 37%
      Depois de “muito obrigado pela sua”, palavras como “ajuda” aparecem muito em textos escritos por pessoas, então ganham notas altas. “Betoneira” é possível, só que raríssima.

    2. A capital da França é ___

      • Paris: 85% (a mais provável)
      • uma: 5%
      • Lyon: 1%
      • outras palavras: 9%
      Quando um fato aparece em incontáveis textos, uma palavra fica muito acima das outras. Aqui a palavra mais provável também é a verdadeira.

    3. Era uma vez um ___

      • menino: 30% (a mais provável)
      • rei: 15%
      • dragão: 5%
      • liquidificador: 0,2%
      • outras palavras: 50%
      Chatbots nem sempre pegam a palavra do topo. Um ajuste chamado temperatura controla o quanto a escolha é ousada. Teste o botão.
      • Temperatura: Baixa. Era uma vez um menino que morava numa pequena vila.
      • Temperatura: Alta. Era uma vez um liquidificador que sonhava em visitar a Lua.

    4. A Dra. Mira Okafor, uma cientista inventada, ganhou o Prêmio Nobel de ___

      • Física: 30% (a mais provável)
      • Química: 25%
      • Medicina: 20%
      • Literatura: 2%
      • outras palavras: 23%
      A Dra. Okafor não existe, mas toda opção soa plausível e alguma vai ser escolhida. É assim que um chatbot produz uma resposta fluente que é simplesmente falsa.

  3. Da pergunta à resposta

    Você faz uma pergunta à Lumi. Coloque os passos em ordem.

    1. Você envia sua mensagem
    2. O texto é dividido em tokens
    3. O modelo dá nota a cada próximo token possível
    4. Um token provável é escolhido e entra no texto
    5. O modelo prevê de novo, até a resposta ficar pronta

  4. O que isso significa para você?

    1. Você faz a mesma pergunta duas vezes à Lumi e recebe duas respostas diferentes. Por quê?

      • Ela escolhe entre palavras prováveis, com um pouco de acaso (Resposta)
      • Ela pensou melhor e mudou de ideia

    2. A Lumi responde com fluência e confiança. O que dá para concluir?

      • Está bem escrito, o que não diz nada sobre ser verdade (Resposta)
      • Deve estar certo, parece tão seguro

Lembre-se

Um chatbot prevê o próximo token de novo e de novo. Fluente quer dizer provável, não necessariamente verdadeiro.

Um chatbot prevê a próxima palavra. Fluente quer dizer provável, não necessariamente verdadeiro.

Fatos principais

  • Em 1951, Claude Shannon mediu o quanto o inglês é previsível pedindo que pessoas adivinhassem a próxima letra de um texto, uma versão inicial do jogo que os modelos de linguagem jogam hoje. · Fonte: C. E. Shannon, Prediction and Entropy of Printed English, Bell System Technical Journal, 1951
  • A maioria dos grandes modelos de linguagem atuais é construída sobre o Transformer, um tipo de rede neural apresentado num artigo científico de 2017. · Fonte: Vaswani et al., Attention Is All You Need, NeurIPS 2017
  • Pelo AI Act da União Europeia, quem oferece sistemas de IA que conversam diretamente com pessoas, como chatbots, precisa garantir que elas saibam que estão falando com uma IA, a menos que isso já seja óbvio. A regra vale desde 2 de agosto de 2026. · Fonte: AI Act da UE, Regulamento (UE) 2024/1689, artigo 50
  • Um modelo de linguagem não guarda uma lista de fatos para consultar. O que ele sabe está espalhado pelos números do modelo, aprendidos com padrões dos textos de treino.

Atualizado:

Perguntas frequentes

O que é um grande modelo de linguagem (LLM)?

Um grande modelo de linguagem (LLM, na sigla em inglês) é um modelo de IA treinado com quantidades enormes de texto para prever o próximo token. Chatbots usam um LLM para escrever as respostas pedaço por pedaço.

O que é um token na IA?

Token é o pedacinho de texto com que um modelo de linguagem trabalha: uma palavra inteira, parte de uma palavra ou um sinal de pontuação. Os modelos leem e escrevem texto como sequências de tokens.

Um chatbot entende o que diz?

Não do jeito que as pessoas entendem. Ele aprendeu padrões de linguagem muito detalhados, o que permite respostas úteis, mas não tem um jeito direto de saber se uma frase é verdadeira.

Por que o chatbot dá respostas diferentes para a mesma pergunta?

Em geral, o chatbot sorteia entre várias próximas palavras prováveis em vez de sempre pegar a primeira. Uma escolha diferente no começo leva a uma resposta escrita de outro jeito, ou às vezes diferente.

Termos relacionados