Alfabetización en IA / Glosario
Sesgo algorítmico
El sesgo algorítmico es cuando un sistema de IA u otra herramienta automática da resultados injustamente mejores o peores para algunos grupos de personas, a menudo por ejemplos desequilibrados o ausentes en sus datos.
La IA aprende de datos del pasado. Si esos datos representan poco a algunas personas, o reflejan decisiones injustas del pasado, el modelo puede aprender y repetir esos patrones, por ejemplo funcionar peor con algunos tonos de piel, acentos o nombres.
El sesgo también puede venir de cómo se plantea el problema: qué se le pide predecir al sistema, qué información usa y quién revisa los resultados. Casi nunca es intencionado, y por eso hay que buscarlo con pruebas.
Una IA justa necesita datos variados, pruebas con distintos grupos y revisión humana de las decisiones importantes. En la UE, además, puedes pedir explicaciones y que una persona revise una decisión automática importante sobre ti.
Apréndelo en una lección de 6 minutosCómo se cuelan los sesgosentran datos torcidos, salen resultados torcidos