Letramento em IA / Glossário

Viés algorítmico

Viés algorítmico é quando um sistema de IA ou outra ferramenta automática dá resultados injustamente melhores ou piores para alguns grupos de pessoas, muitas vezes por causa de exemplos distorcidos ou ausentes nos dados.

A IA aprende com dados do passado. Se esses dados representam pouco algumas pessoas, ou refletem decisões injustas do passado, o modelo pode aprender e repetir esses padrões, por exemplo funcionando pior para alguns tons de pele, sotaques ou nomes.

O viés também pode vir de como o problema foi montado: o que o sistema deve prever, quais informações usa e quem confere os resultados. Em geral não é intencional, e por isso precisa ser testado.

Uma IA justa precisa de dados variados, testes com grupos diferentes e revisão humana das decisões importantes. No Brasil, a LGPD permite pedir a revisão de decisões tomadas só por sistemas automáticos e explicações sobre os critérios usados.