Nuestra vieja amiga IA

Ya sabes lo que significa IA. No solo significa inteligencia artificial, sino usar información para hacer predicciones y tomar decisiones. La IA impulsa el feed de las redes sociales que sugiere la siguiente publicación, proporciona información para seleccionar los comerciales que aparecen en tu servicio de streaming, acciona el software que acaba de completar automáticamente esta oración. En situaciones más importantes, puede determinar si calificas para recibir una fianza o un préstamo hipotecario. Esto significa que los sistemas con IA habilitada toman decisiones sobre ti y por ti. Los efectos de esto pueden ser terribles, incluso poco éticos.

Cuando la IA decide lo que debes ver o quién «eres», también está decidiendo lo que no debes ver y quién no «serás».

¿Dónde están los humanos?

Dondequiera que mires, puedes ver la IA tomando decisiones por nosotros. Pero no se trata simplemente de un ordenador actuando por sí mismo. La IA está diseñada por nosotros, los humanos, y eso tiene un gran impacto en todo lo que hace. Somos los humanos quienes le decimos al ordenador qué cosas debe considerar y qué tan alto debe clasificar ciertos puntos de datos. Lo que se esperaba de la IA era lograr que un ordenador llegara a una conclusión mediante el uso de información objetiva y alguna programación sofisticada. La realidad es que la IA es tan injusta como los creadores que la entrenaron.

He aquí algunos ejemplos. Veamos los puntajes de crédito: los algoritmos preparados de manera sesgada pueden calcular un puntaje más bajo para una mujer que para un hombre, lo que a su vez puede afectar qué tarjetas de crédito podrá abrir o qué hipotecas podrá solicitar. Otro ejemplo es la contratación laboral: los encargados de la selección de personal que dependen demasiado de los programas informáticos pueden reforzar inadvertidamente algunos puntos ciegos relacionados con la raza y el género. Incluso sucede con los precios de los seguros de automóviles: cuando hay algoritmos confusos que determinan quién debe pagar más o menos por una misma cobertura, da la oportunidad de establecer precios injustos.

Cansu Canca nos guía a través de este problema. Mira el siguiente vídeo para obtener más información sobre dónde y cómo se introduce el sesgo humano en los sistemas con IA habilitada.