Como o viés entra na inteligência artificial?
Viés na IA é quando um sistema de inteligência artificial dá resultados piores ou injustos para alguns grupos de pessoas. Em geral vem dos dados de treino: grupos que faltam ou são raros, decisões passadas injustas ou rótulos com suposições de quem rotulou. O modelo aprende esses padrões como regras. Dados diversos, testes por grupo e revisão humana ajudam.
▶ Pratique
Por que isso importa
Um modelo não tem opiniões, mas copia o que os dados mostram. Se algumas pessoas ficam de fora dos exemplos, a IA funciona pior para elas, sem que ninguém tenha querido isso.
Em 6 minutos você vai conseguir
- O viés na IA costuma vir de dados de treino incompletos, distorcidos ou injustos.
- Um sistema pode ter viés mesmo sem nunca ver um dado sensível.
- Teste os resultados por grupo e mantenha revisão humana em decisões importantes.
O que você vai praticar
Treine o sensor de mãos
A maioria das fotos da pilha mostra o mesmo tipo de mão. Escolha até 5 fotos de treino, aperte Treinar e veja quem o sensor reconhece.
Mão · Sem mão
Exemplos de treino
- Mão adulta de pele clara, palma para cima → Mão
- Mão de pele clara, dedos abertos → Mão
- Mão de pele clara, vista de lado → Mão
- Outra mão de pele clara, acenando → Mão
- Mão adulta de pele escura → Mão
- A mãozinha de uma criança → Mão
- Mão com luva de trabalho → Mão
- Pia vazia → Sem mão
- Uma esponja embaixo da torneira → Sem mão
- Uma caneca embaixo da torneira → Sem mão
Casos de teste
- Uma mão de pele escura → Mão
Só havia mãos de pele clara no treino, então o sensor aprendeu que “mão” é pele clara. Ninguém quis isso; foram os dados. - A mão de uma criança → Mão
Não havia crianças no treino, então mãos pequenas não foram reconhecidas. Grupos que faltam viram grupos em que a IA falha. - Uma mão de luva → Mão
Mãos de luva parecem diferentes. Entre os usuários reais há faxineiras e enfermeiros que usam luva o dia todo. - Uma mão de pele clara → Mão
Sem nenhum exemplo de pele clara, o sensor também não tinha referência para esta mão. - Um prato na pia → Sem mão
O modelo nunca viu um objeto que não é mão, então não soube diferenciar e ligou a torneira.
Como o viés entra
Toque em cada cartão para ver como acontece.
- 🕳️ Pessoas que faltam
- Alguns grupos são raros ou nem aparecem nos dados, então o modelo funciona pior para eles. Como a torneira que não via algumas mãos.
- 📜 Histórico injusto
- Se as decisões do passado eram injustas, um modelo treinado com elas aprende a repeti-las, e ainda pode fazê-las parecer objetivas.
- 🏷️ Rótulos enviesados
- Rótulos vêm de pessoas. Se quem rotula compartilha uma suposição, o modelo aprende isso como fato.
- 📮 Pistas escondidas
- Mesmo sem perguntar sobre um grupo, um modelo pode pegar pistas ligadas a ele, como o CEP ou um hobby.
Rastreie o viés
Uma empresa treina uma IA de triagem de currículos com dez anos das próprias contratações, quando contratava principalmente homens. Qual é o risco?
- Ela aprende a preferir currículos parecidos com os antigos contratados (Resposta)
- Nenhum risco, computador não é machista
Um modelo nunca vê a cor ou raça de ninguém, mas usa o CEP de casa. Ele ainda pode ter viés?
- Sim, o CEP pode funcionar como substituto de grupos (Resposta)
- Não, tirar o campo tira o viés
O que reduz o viés?
Escolha tudo o que ajuda.
- Perguntar quem está faltando nos dados de treino
- Testar a precisão separadamente para grupos diferentes
- Deixar quem é afetado por decisões pedir revisão humana
- Incluir pessoas diversas ao criar e testar
- Confiar no resultado porque foi um computador que fez
- Só juntar mais dos dados que você já tem
Lembre-se
A IA copia seus dados, lacunas incluídas. Pergunte quem está faltando e teste para todo mundo.
Fatos principais
- Um estudo de 2018 com três sistemas comerciais de classificação de gênero encontrou taxas de erro de até 34,7% para mulheres de pele mais escura, contra no máximo 0,8% para homens de pele mais clara. · Fonte: Buolamwini & Gebru, Gender Shades, Conference on Fairness, Accountability and Transparency, 2018
- Ao testar quase 200 algoritmos de reconhecimento facial, o instituto americano de padrões NIST viu que as taxas de falso positivo muitas vezes variavam de 10 a 100 vezes entre grupos demográficos, conforme o algoritmo. · Fonte: NIST, Face Recognition Vendor Test Part 3: Demographic Effects (NISTIR 8280), 2019
- O AI Act da União Europeia classifica como de alto risco a IA usada para recrutar ou selecionar candidatos a vagas, o que traz exigências como checagem da qualidade dos dados e supervisão humana. · Fonte: AI Act da UE, Regulamento (UE) 2024/1689, Anexo III
- Um sistema de IA pode parecer preciso no geral e falhar muito com um grupo pequeno, porque uma média alta esconde resultados ruins para as pessoas que são raras nos dados.
Atualizado:
Perguntas frequentes
Qual é um exemplo de viés algorítmico?
Sistemas de análise facial que erram muito mais com mulheres de pele mais escura do que com homens de pele mais clara, ou uma ferramenta de contratação treinada com antigos contratados que dá notas menores a quem não se parece com eles.
A IA pode ter viés se é só matemática?
Pode. A matemática aprende com dados, e os dados refletem o mundo e decisões humanas do passado. Se os exemplos são distorcidos ou incompletos, os resultados também serão.
Como reduzir o viés na IA?
Use dados diversos e representativos, teste os resultados separadamente para grupos diferentes, envolva as pessoas afetadas, documente os limites e mantenha revisão humana em decisões importantes. No Brasil, a LGPD já permite pedir a revisão de decisões tomadas só por sistemas automáticos.
O que é viés algorítmico?
Viés algorítmico é quando um sistema automatizado produz resultados sistematicamente injustos para certas pessoas ou grupos. O viés na IA é a forma mais comum hoje.
Termos relacionados