Pular para o conteúdo
PT

Aula 2 de 8 · 6 min · +100 XP

Como saber se uma resposta da IA é verdadeira?

Para checar uma resposta da IA, peça as fontes e abra cada uma você mesmo, para ver se existem e se dizem mesmo o que a IA afirma. Confira fatos, números, datas e citações importantes numa fonte confiável e independente. Cuidado extra com números exatos, estudos citados e frases atribuídas a pessoas: chatbots inventam isso de forma convincente.

▶ Pratique

Por que isso importa

Chatbots escrevem textos fluentes e confiantes, mesmo quando um detalhe está errado ou foi inventado. Você vai treinar como achar o que precisa ser checado e como checar rápido.

Em 6 minutos você vai conseguir

  • Cheque primeiro números exatos, estudos citados, frases e links.
  • Abra cada fonte e veja se ela diz mesmo aquilo.
  • A confiança de um chatbot não é prova. Use uma fonte independente.

O que você vai praticar

  1. Quatro checagens rápidas

    Você não precisa checar cada palavra. Foque nestes pontos.

    🔗 Abra a fonte
    Peça as fontes e clique nelas. A página existe? Ela diz mesmo aquilo?
    🔢 Números e datas exatos
    Números muito precisos são fáceis de inventar. Procure o mesmo número numa fonte independente.
    💬 Citações e nomes
    Essa pessoa disse mesmo isso? Pesquise a frase exata. Citações e estudos inventados parecem muito reais.
    🧭 Compare
    Procure a afirmação em outro lugar confiável, como um site oficial, uma enciclopédia ou um livro didático.

  2. O que precisa ser checado?

    Esta é a resposta da Lumi para o Pedro. Toque em cada afirmação que ele deve checar antes de usar.

    Lumi
    As abelhas são polinizadoras essenciais. Um estudo de 2019 do Instituto Global das Abelhas concluiu que 87,4% das lavouras precisam de abelhas. Como disse um cientista famoso: “Sem abelhas, só nos restam quatro anos.” As abelhas se comunicam por uma “dança do requebrado”. Fonte: revista-pesquisa-abelhas.example/2019/lavouras Espero que ajude na sua apresentação! 🐝

  3. O que você faria?

    Cenas curtas. Escolha o melhor próximo passo.

    1. Você abre o artigo que a Lumi citou. Ele existe, mas não fala nada sobre aquele número.

      • Tiro o número ou acho uma fonte real para ele (Resposta)
      • Uso, afinal o link funciona

    2. Você pergunta à Lumi: “Tem certeza?” Ela responde: “Sim, tenho certeza absoluta.”

      • Ótimo, então está resolvido
      • Confiro numa fonte independente mesmo assim (Resposta)

    3. A Lumi sugere um título rápido para um poema. Você precisa checar?

      • Não, não há nenhum fato para checar (Resposta)
      • Sim, toda palavra da IA precisa de fonte

  4. A rotina de checagem

    Coloque os passos numa ordem que faça sentido.

    1. Separe as afirmações que importam: números, nomes, citações
    2. Peça as fontes à IA
    3. Abra cada fonte e veja se ela diz o mesmo
    4. Compare com uma fonte confiável e independente
    5. Use só o que você conseguiu confirmar

Lembre-se

Fluente não é verdadeiro. Abra a fonte, compare e deixe de fora o que não conseguir confirmar.

Abra a fonte. Se não achar, não use.

Fatos principais

  • Em 2023, um tribunal federal dos EUA multou dois advogados e o escritório deles em US$ 5.000 por apresentarem uma petição com processos inexistentes, criados por um chatbot. · Fonte: US District Court, Southern District of New York, Mata v. Avianca, decisão sobre sanções, junho de 2023
  • O NIST, agência de padrões dos EUA, lista a “confabulação”, conteúdo falso ou inventado dito com confiança, como um dos 12 riscos principais da IA generativa. · Fonte: NIST, AI 600-1 Generative AI Profile, 2024
  • Chatbots podem produzir referências, links e citações que parecem reais mas não existem, então uma fonte só tem valor depois que você a abre e confere o que ela diz.
  • Pesquisar a afirmação em outra aba, a chamada leitura lateral, é um dos jeitos mais rápidos de ver se fontes confiáveis concordam.

Atualizado:

Perguntas frequentes

A IA pode inventar fontes?

Sim. Chatbots podem criar títulos de artigos, links, estudos e citações que parecem reais, mas não existem ou não dizem o que é afirmado. Abra sempre a fonte você mesmo.

Por que a IA dá respostas erradas?

Um modelo de linguagem prevê palavras prováveis a partir de padrões dos dados de treino. Isso deixa o texto fluente, mas não garante que cada detalhe seja verdadeiro ou atual.

Perguntar “tem certeza?” à IA é uma boa checagem?

Sozinho, não. Um chatbot pode confirmar uma resposta errada ou mudar uma certa. Use uma fonte independente para confirmar fatos.

Quais respostas da IA mais precisam ser checadas?

Tudo em que você vai confiar ou compartilhar: números, datas, citações, nomes e conselhos de saúde, jurídicos ou de dinheiro. Ideias criativas e redação precisam de menos checagem.

Termos relacionados