Si bien las herramientas de IA generativas, como ChatGPT, se popularizaron hace menos de dos años, ya han modificado la totalidad de la experiencia en línea. Estas herramientas también han generalizado el concepto de «IA». Si bien la tecnología existe de alguna forma desde hace décadas, nunca antes había sido tan visible y accesible para el público en general.

De acuerdo con una investigación de Pew, casi un tercio de los jóvenes estadounidenses usan ChatGPT en el trabajo y es un número que va en aumento. Los consumidores se sienten tanto entusiasmados como preocupados por esta tecnología. Sin embargo, en medio de esta rápida aceptación que genera una mezcla de emociones, la IA generativa se incorpora rápidamente a los productos ya existentes, sin proporcionar información básica acerca de cómo se desarrollan o cómo funcionan los modelos en diversos contextos. Y, paradójicamente, si bien las posibilidades de la IA generativa se venden como «ilimitadas», es difícil para los consumidores elegir entre diferentes modelos de IA o cambiar de modelo.

Por todo esto, Mozilla está añadiendo un chatbot de IA a la barra lateral de Firefox; se trata de un experimento que desarrollaremos a lo largo de los próximos meses. Es parte de nuestro compromiso con una internet donde la elección sea un principio fundamental. Esto no solo ofrecerá opciones a las personas que usan Firefox, sino que también demostrará cómo se puede incorporar el control y la transparencia a nivel del usuario en las tecnologías de consumo.

Para los usuarios que conocen a Mozilla únicamente por su trabajo relativo a productos, esta podría parecer una incursión temprana en la IA. En un sentido estrictamente enfocado en los productos, esto es cierto. Pero para quienes conocen Mozilla por su ámbito de trabajo más amplio (investigación, defensoría, filantropía), está claro que este es un paso más en una ambiciosa trayectoria de trabajo existente en torno a la IA. Con esta última función agregada a la barra lateral de Firefox, pondremos a prueba la mejor manera de fusionar todos nuestros valores relativos a la IA para incorporarlos en nuestros productos con el fin de mejorar tanto nuestras ofertas como las de otros.

Con esta última función agregada a la barra lateral de Firefox, pondremos a prueba la mejor manera de fusionar todos nuestros valores relativos a la IA para incorporarlos en nuestros productos con el fin de mejorar tanto nuestras ofertas como las de otros.

~

En 2020, Mozilla publicó el libro blanco sobre IA confiable, iniciando formalmente su enfoque estratégico con respecto a esta tecnología. (A principio de este año, publicamos una actualización). En los años posteriores, cuando se nos ha preguntado: «¿Qué significa confiable?», lo definimos como un ecosistema donde los consumidores de IA tengan la posibilidad de elegir y donde los desarrolladores de IA sean responsables de sus tecnologías. Estos son los fundamentos que han informado nuestro trabajo sobre IA (desde las políticas hasta el desarrollo de productos) desde entonces.

Por ejemplo, *Privacidad no incluida, nuestra guía para compradores de tecnologías de consumo, ha centrado su atención en los productos de IA. Nuestra edición más reciente ayuda a los consumidores a evaluar la privacidad y la seguridad de los chatbots para relaciones. Actualmente estamos trabajando en otra edición para ayudar a los consumidores a evaluar otros chatbots de uso general, como ChatGPT y Microsoft Copilot. Ya estamos pensando en cómo integrar nuestros hallazgos directamente en la barra lateral para los usuarios, lo que permitirá brindarles más contexto sobre las herramientas que están (o no están) usando. Tener la posibilidad de elegir no se trata solo de disponer de un menú de opciones de chatbots, también es comprender cómo esas opciones se alinean con nuestros valores y nuestras prioridades.

Mientras tanto, otras investigaciones y actividades de defensoría de Mozilla se han centrado en la transparencia y el acceso de los investigadores; elementos clave para hacer que la IA sea más confiable. Hemos instado a Microsoft a que sea más abierto sobre los datos que usa para el entrenamiento de su IA; clasificamos plataformas en función de su apertura al escrutinio de actores independientes; y estamos llevando a cabo un análisis exhaustivo del ecosistema de auditoría de la IA. También hemos comenzado a trabajar en el acceso de los investigadores a los modelos; recientemente lanzamos 0din, un programa de cazadores de bugs para modelos de lenguaje de gran escala, y continuamos explorando la IA de código abierto con Mozilla.ai.

Con el lanzamiento de la barra lateral, estamos aplicando todos estos aprendizajes a nuestro trabajo de productos. Lo cual, en realidad, es un terreno familiar: la elección del usuario y la responsabilidad corporativa han sido valores de Firefox durante décadas.

Estamos felices de poder fusionar estos valores en el diseño de nuestros productos, ya que existe un vacío de características que ofrezcan opciones significativas a las personas dentro de las tecnologías de consumo impulsadas por la IA. Por otra parte, también somos realistas a la hora de llevar esta filosofía al ámbito de los productos. No solo los consumidores todavía están descubriendo estas tecnologías, sino también los desarrolladores. Desde los grandes nombres como OpenAI hasta los proyectos más pequeños, desde las iniciativas de código cerrado hasta las de código abierto: nadie tiene todas las respuestas. En lugar de esperar a un costado, queremos entrar en el juego y ayudar a las soluciones pioneras, incluso si eso significa no tener todas las respuestas de antemano. Un problema en el que nos centramos particularmente es la interoperabilidad: ¿cómo puede garantizar Mozilla que los chatbots de código abierto más pequeños también puedan conectarse (y, en muchos casos, mejorar) el ecosistema existente?

Durante más de 25 años, el trabajo de productos de Mozilla ha liderado con valores. Hoy, continuamos esta tradición en el ámbito de la IA y llevamos principios como la agentividad, la responsabilidad y el código abierto a un ecosistema que los necesita.