¿Alguna vez has estado del lado receptor de un proceso burocrático que parecía desafiar toda lógica? Soy Richard Whitt, miembro de Mozilla, y he vuelto con la segunda parte sobre «El futuro de las IA personales». La última vez, hablamos sobre la inteligencia artificial (IA) que opera detrás de nuestras pantallas virtuales y en nuestras escenas ambientales. En este episodio de Mozilla Explica, analizaremos cómo opera la IA en lo que yo llamo burocracias invisibles. Mira el episodio a continuación o sigue leyendo para saber más sobre este tema.

Las burocracias invisibles son aquellos sistemas avanzados que toman decisiones sobre nosotros, generalmente sin que les brindemos información e incluso sin que lo sepamos. A menudo lo hacen en nombre de grandes instituciones, como el gobierno, o grandes corporaciones. Qué clase trabajos conseguimos, qué préstamos bancarios nos serán concedidos, incluso qué beneficios gubernamentales podemos recibir: desde el registro para votar hasta los pagos de la seguridad social. Innumerables decisiones de ese tipo se toman a diario, incluso si no somos conscientes de ellas.

A pesar de que son presentadas como recursos útiles o que ahorran trabajo, las IA detrás de estos 'invisibles' representan a grandes corporaciones o agencias gubernamentales, que recopilan nuestros datos, nos analizan y toman decisiones de enorme trascendencia para nuestro bienestar. En el pasado, eran las personas las responsables de tomar esas decisiones. Hoy, son los algoritmos informáticos los que priorizan rígidamente los procesos, reglas y procedimientos, a menudo sin una supervisión o juicio humanos. Estos sistemas pueden emplear involuntariamente algoritmos altamente sesgados y sets de datos defectuosos. Y todo esto sucede sin que tengamos ningún medio legítimo de apelar u objetar.

En nuestra última charla, presentamos el concepto de IA Personal (IAP), una IA que realmente representa nuestros mejores intereses, en lugar del de una corporación ávida de datos. Estas IA se pueden programar para representarnos como seres humanos individuales, no como puntos de datos. Pueden proteger nuestra privacidad, seguridad e identidad, al mismo tiempo que promueven nuestros mejores intereses.

Las IA personales también pueden funcionar como nuestros agentes de confianza para interactuar con las burocracias invisibles, comunicándose directamente con las IA institucionales en nuestro nombre.

Por ejemplo, podría pedirle al gobierno o a la IA corporativa que le dé a mi IAP las razones específicas por las que tomaron una decisión particular: la adjudicación o el rechazo de un préstamo, la entrevista para un trabajo o la prolongación de mi pena de prisión. Mi IAP podría hacer preguntas informadas, evaluar las evidencias utilizadas, indagar sobre el resultado, e incluso cuestionar directamente el análisis y la justificación basada en datos de tales decisiones.

¿Cómo podemos llegar a eso desde el punto en el que estamos?

Necesitamos que la tecnología, los mercados, los estándares y las leyes se alineen, de modo que los gobiernos y las empresas puedan adaptarse a estas nuevas herramientas de los ciudadanos.

En particular, necesitamos trabajar con nuestros funcionarios, reguladores y agencias gubernamentales para exigir el «derecho a delegar» decisiones importantes sobre nuestras interacciones en línea a un tercero de confianza, y el «derecho a indagar» utilizando mi IAP para cuestionar y disputar los sistemas institucionales de IA que toman decisiones importantes sobre mi persona y sobre mi familia.

¿Quieres profundizar más en este tema? Puedes leer más sobre esto en mi artículo «Democratizar la IA: garantizar la autonomía humana sobre nuestras 'pantallas, escenas e invisibles' informáticos».