La visión de Mozilla para una IA fiable

Mozilla está publicando su documento: « Crear una IA confiable».

Hace poco más de dos años, Mozilla puso en marcha un proyecto ambicioso: decidir hacia dónde dirigir nuestros esfuerzos para impulsar el movimiento de personas comprometidas con la construcción de un mundo digital más saludable. Así llegamos a la idea de una IA fiable.

Cuando Mozilla empezó su actividad en 1998, el crecimiento de la web estaba definiendo el destino de la informática, así que Mozilla concentró su actividad en los estándares web y en la creación de un nuevo navegador. Hoy en día, la informática y la sociedad digital en la que todos estamos inmersos se define por enormes cantidades de datos, sofisticados algoritmos y la omnipresencia de sensores y dispositivos. Estamos en la era de la IA. Preguntarnos hoy sobre cuestiones como «¿el funcionamiento de esta tecnología favorece la acción humana?» o «¿tengo el control de lo que ocurre con mis datos?» equivale a las preguntas que nos hacíamos hace 20 años sobre «¿cómo podemos mantener la web abierta y libre?».

Hay mucho en juego en esta era actual de la informática, que dependerá en gran manera de la forma que acabe adoptando la tecnología de Internet, una tecnología que ya consumimos a diario más de 4 mil millones de personas. Cada vez más, la IA está detrás de los teléfonos inteligentes, las redes sociales, las tiendas online, los automóviles, los asistentes domésticos inteligentes y casi cualquier otro tipo de dispositivo electrónico. Dado el poder y la omnipresencia de estas tecnologías, la cuestión de si la IA ayuda y empodera o, por el contrario, explota y excluye, influirá enormemente en la evolución de nuestra sociedad durante las próximas décadas.

Tomar la dirección equivocada es mucho más fácil de lo que pensamos. Puesto que nos hemos apresurado a integrar la automatización y recopilación de datos en casi todo lo que hacemos, ya podemos percibir el potencial que tiene la IA para reforzar los sesgos ya establecidos o para dirigirnos a contenidos peligrosos. Y sabemos que hay poca transparencia o rendición de cuentas cuando un sistema de IA difunde noticias falsas o identifica erróneamente un rostro. Además, como individuos, rara vez tenemos autoridad sobre lo que sucede con nuestros datos o con las decisiones automatizadas que generan. Si estas tendencias continúan, es probable que acabemos viviendo en un mundo distópico dominado por la IA, que profundizará la brecha entre quienes tienen un poder inmenso y quienes carecen de él.

Por otro lado, tenemos a un número significativo de personas que está identificando estas tendencias peligrosas y nos advierte que «¡hay otra manera de hacer las cosas!». Al igual que ocurrió con el nacimiento del código abierto, un movimiento creciente formado por tecnólogos, investigadores, responsables políticos, abogados y activistas está buscando formas de encaminar el futuro de la informática hacia la responsabilidad y el empoderamiento. Están desarrollando software capaz de detectar los sesgos de la IA, redactando nuevas leyes de protección de datos, inventando herramientas legales para que las personas tengan el control sobre sus datos y están poniendo en marcha organizaciones que defiendan una IA justa y ética. Si estas personas, y Mozilla se cuenta entre ellas, consiguen su propósito, podremos crear un mundo en el que la IA ayude a toda la humanidad en vez de someterla.

Después de mantener conversaciones estimulantes con estas personas, Mozilla decidió destinar al tema de la IA fiable los más de 20 millones de dólares que invierte cada año en movimientos a favor de un mundo digital más saludable. A lo largo de 2020, hemos redactado un documento titulado "Construir una IA fiable" para registrar los desafíos, las ideas y las iniciativas surgidas durante estas conversaciones. Y hoy publicamos la versión final de dicho documento.

Este documento no es fruto de una investigación tradicional, es más bien un plan de acción que establece los pasos que Mozilla y otras personas con las mismas ideas podrían adoptar para hacer realidad una IA fiable. Este cambio es posible, del mismo modo que se ha podido hacer la transición hacia el agua limpia y los automóviles más seguros en respuesta a los riesgos para las personas y la sociedad. El documento sugiere el código que debemos redactar, los proyectos que debemos financiar, las cuestiones que debemos defender y las leyes que debemos aprobar. Es un conjunto de herramientas útil para tecnólogos, filántropos, activistas y legisladores.

El documento gira en torno a ocho grandes desafíos a los que se enfrenta el mundo en relación al uso de IA en las tecnologías de Internet que todos usamos a diario. Nos referimos a temas como: sesgos, derecho a la intimidad, transparencia, seguridad y la concentración del poder de la IA en manos de unas pocas grandes empresas tecnológicas. El documento también describe cuatro oportunidades para hacer frente a estos desafíos, sustentadas en la idea de que hay desarrolladores, inversores, responsables políticos y un gran número de personas a favor de que la IA funcione de manera diferente y únicamente en beneficio de toda la sociedad. Juntos, tenemos la oportunidad de escribir código, procesar datos, crear leyes y elegir tecnologías que nos encaminen en la buena dirección.

Como todos los proyectos importantes de Mozilla, este documento fue creado mediante un enfoque de código abierto. Después de 18 meses de conversaciones, investigación y experimentación, publicamos un primer borrador en mayo y, a continuación, invitamos a todo el mundo a opinar y participar. Desde grupos de derechos digitales en Polonia hasta activistas de derechos civiles de los EE. UU., desde expertos norteamericanos en aprendizaje automático hasta responsables políticos en los niveles más altos de Europa, desde activistas, escritores y creadores hasta profesores de las universidades más prestigiosas. Hemos revisado todo el contenido en base a las opiniones y comentarios recibidos para dotarlo de mucha más solidez y, en consecuencia, hemos refinado nuestras definiciones de "IA" y de "tecnología de consumo". También hemos reforzado la perspectiva de la justicia racial en todo el documento y hemos ampliado los puntos de vista relacionados con la diversidad geográfica, racial y de género.

En los próximos meses y años, este documento servirá de modelo para la creación de movimientos de activismo de la Fundación Mozilla, centrados en la investigación, la defensa de derechos y la concesión de subvenciones. Nuestro trabajo empieza a mostrar sus frutos: la advertencia de Mozilla en torno a las recomendaciones de YouTube ha puesto de manifiesto dramáticamente lo que ocurre cuando la IA asume el mando. El Data Futures Lab y el European AI Fund que estamos desarrollando en colaboración con otras fundaciones, respaldan proyectos e iniciativas que reinventan el diseño y la implantación de una IA fiable en varios continentes. Asimismo, colaboradores de prestigio y premiados por Mozilla, como Sylvie Delacroix, Deborah Raj y Neema Iyer están estudiando cómo interacciona la IA con la gobernanza de datos, la igualdad y el sesgo sistémico. Todo el trabajo de la Fundación Mozilla realizado hasta ahora ha servido para retroalimentar el documento, en un claro ejemplo de aprendizaje a través de la práctica.

También esperamos que este trabajo traiga nuevas oportunidades para la gente que construye la tecnología que usamos a diario. Durante tanto tiempo, crear tecnología que valorase a las personas ha sido sinónimo de recopilar poca o ninguna información sobre ellas. Si bien la privacidad sigue siendo un enfoque central de organizaciones como Mozilla, pensamos que es necesario encontrar formas de proteger y empoderar a los usuarios que también incluyan la recopilación y el uso de sus datos para ofrecerles las experiencias que desean. Como apuntamos en el documento, cada vez hay más desarrolladores, incluyendo muchos de nuestros colegas de la Mozilla Corporation, que están explorando nuevas vías en esta dirección.

Gracias por tu atención. Deseo que juntos nos pongamos manos a la obra para hacerlo realidad.