Letramento em IA / Glossário

Alucinação da IA

Uma alucinação da IA é quando uma ferramenta de IA produz uma informação que soa confiante e plausível, mas é falsa ou inventada, como um fato falso, uma citação que ninguém disse ou uma fonte que não existe.

Os modelos de linguagem escrevem prevendo as próximas palavras prováveis, não consultando fatos checados. Quando falta boa informação, eles ainda conseguem dar uma resposta fluente, e essa resposta pode ser inventada.

Exemplos comuns são títulos de livros inventados, datas erradas, links que não existem, processos judiciais fictícios e frases colocadas na boca de pessoas reais. O tom confiante faz com que pareçam verdade.

Para se proteger, peça as fontes e abra cada uma, confira afirmações importantes num site confiável, tenha cuidado redobrado com saúde, dinheiro e assuntos jurídicos, e nunca copie uma resposta da IA num trabalho da escola ou num documento do trabalho sem conferir.