¿Qué pasaría si Alexa, Siri o Google Home estuvieran realmente hechos a tu medida y solo para ti? ¿Un asistente personal que trabajara para tus intereses, no para los intereses financieros de una gran empresa? Soy Richard Whitt, miembro de Mozilla, he trabajado como abogado especializado en políticas públicas en Google y soy el fundador de la Fundación GLIA, una organización sin ánimo de lucro, que se dedica a crear tecnologías centradas en las personas. En este episodio de Mozilla Explica, exploro estas ideas y lo que se necesitaría para hacerlas realidad. Puedes verlo a continuación o seguir leyendo.

IAs institucionales en nuestras vidas

Hay tres tipos de inteligencia artificial (IA) con las que interactuamos habitualmente: lo que yo llamo las pantallas en línea, las escenas del entorno y la burocracia que pasa desapercibida. En esta entrada del blog, hablaré de las dos primeras, las pantallas y las escenas. Permaneced atentos a la segunda parte, en la que hablaremos de la burocracia que pasa desapercibida.

El primer tipo de IA se encuentra detrás de las pantallas en línea de nuestros ordenadores y dispositivos móviles. Se encuentra en los motores de recomendación que hacen posible nuestras interacciones cotidianas con la web. Facebook, Twitter, YouTube y otros cientos de sitios web utilizan la IA para sugerir qué artículos leer, qué vídeos ver e incluso con quién deberíamos salir.

El segundo tipo de IA se encuentra en nuestras escenas del entorno. Los asistentes virtuales como Siri de Apple, Asistente de Google y Alexa de Amazon están presentes en nuestras salas de estar y dormitorios, en nuestros dispositivos móviles e incluso en nuestros cuerpos en forma de relojes y anillos. Estos asistentes están dotados de formas avanzadas de inteligencia artificial, que les permiten responder a nuestras órdenes e incluso ofrecer sus propias sugerencias.

¿Para quiénes trabajan realmente estas IAs?

No hay duda de que estas IAs son útiles en nuestras vidas.

Y las empresas que las crean y las emplean quieren, sin duda, que creamos que actúan en nuestro interés.

En realidad, sin embargo, estas IAs representan a grandes empresas empeñadas en vendernos algo, o en captar nuestros datos personales para venderlos a terceros de los que nunca has oído hablar: anunciantes, corredores de datos. O bien, pueden tratar tus datos de manera imprudente y permitir que otros los hackeen o los roben. Las filtraciones de datos de grandes instituciones como Facebook son sorprendentemente comunes.

Además, estos sistemas a menudo se construyen de una manera que integra los prejuicios sociales en su programación. Ya sea por la forma en que se programaron o por la forma en que se prepararon, conllevan un sesgo implícito contra las poblaciones minoritarias.

¿Y si tuviéramos un futuro diferente, en el que estos asistentes virtuales trabajaran realmente para nosotros? ¿Y que sólo respondieran ante nosotros?

Cómo las IAs personales pueden mejorar nuestra vida digital

Una IA personal (IAP) es similar a las IA de las grandes instituciones, como las que tienen Amazon o Google en sus asistentes personales, salvo por una gran diferencia: están programadas para representarnos a nosotros, como seres humanos individuales.

Esta programación implica que no tienen conflictos de intereses, como el imperativo primordial de vendernos productos o ofrecernos anuncios. Tampoco sería fácil que fueran hackeadas por terceros en la sombra con intención de robar nuestras identidades.

En su lugar, utilizan el aprendizaje automático para evaluar lo que realmente queremos, y adoptan medidas para hacerlo realidad. Pueden proteger nuestra privacidad, seguridad e identidad, al mismo tiempo que promueven nuestros propios intereses en línea.

¿Cómo puede ocurrir esto? En definitiva, interactuando directamente con IAs institucionales como Alexa, o Google Home en nuestro nombre.

¿Cómo funcionaría esto?

Estos son algunos ejemplos. Imagina que le dices a Alexa que deje de recopilar datos para su motor de recomendación en línea y que, en su lugar, le das los datos que ha recopilado a tu IAP para que puedas crear tu propia fuente de contenidos seleccionados. O que tu IAP indique a otros asistentes digitales que no recopilen datos sobre ti o tu familia cuando visites la casa de un amigo o un restaurante local, o incluso que te notifique si estás siendo vigilado por la red de sensores de una ciudad inteligente.

¿Cómo se llega desde aquí?

Hay varias maneras de aumentar las probabilidades de este futuro prometedor. La tecnología está disponible en gran medida, pero siguen existiendo preguntas: ¿quién proporcionaría estos servicios? ¿Quién los pagaría? ¿Sería un beneficio público? Habrá resistencia por parte de las plataformas: es poco probable que quieran hacer interoperables sus IAs.

En definitiva, puede que la ley y la política posibiliten este futuro. Te animo a que le pidas a tus funcionarios electos que exijan dos cosas que hoy no tenemos: una es el derecho a delegar, que es esencialmente la idea de que un tercero en el que confías tome decisiones en tu nombre, y de exigir a las plataformas que obedezcan sus instrucciones.

Lo segundo sería lo que yo llamo derecho a consultar. Esta es una obligación para las IA de interactuar y, esencialmente, de poder hablar con los otros sistemas. Esto permitiría a tu IAP cuestionar, buscar información adicional e incluso desafiar las decisiones que estas IAs están tomando sobre tu vida.