Gran parte de la labor de movilización de Mozilla se centra en desarrollar una inteligencia artificial (IA) fiable.
Necesitamos avanzar hacia un mundo de IA que sea útil, en lugar de perjudicial, para los seres humanos. Esto significa dos cosas: La acción humana es una parte esencial de cómo se construye la IA. Y la responsabilidad de las empresas por la IA es real y se hace cumplir.
La necesidad de este trabajo es urgente. Cada día aparecen en las noticias historias preocupantes sobre los efectos de la IA, los big data y el marketing dirigido. Y leemos una y otra vez que el público está perdiendo la confianza en las grandes tecnologías y carece de alternativas. Somos muchos los que nos sentimos impotentes ante estos sistemas. En Mozilla nos dedicamos a dar voz a las personas cuando se utilizan máquinas para tomar decisiones importantes, y a dar forma a cómo se toman.
Entre los valores que consideramos centrales se encuentran:
- PRIVACIDAD: ¿Cómo se recopilan, almacenan y comparten los datos? Nuestros datos personales alimentan todo, desde mapas de tráfico hasta publicidad dirigida. La IA fiable debería permitir a los usuarios decidir cómo se utilizan sus datos y qué decisiones se toman con ellos.
- EQUIDAD: Hemos visto una y otra vez cómo el sesgo aparece en los modelos computacionales, los datos y los marcos detrás de la toma de decisiones automatizada. Los valores y objetivos de un sistema deben ser conscientes del poder y tratar de minimizar el daño. Además, los sistemas de IA que dependen de trabajadores humanos deberían proteger a las personas de la explotación y el exceso de trabajo.
- CONFIANZA: Las personas deben tener capacidad de decisión y control sobre sus datos y resultados algorítmicos, sobre todo teniendo en cuenta los altos riesgos para los individuos y las sociedades. Por ejemplo, cuando los sistemas de recomendación en línea empujan a las personas hacia contenido extremo y engañoso, pudiendo desinformarlas o radicalizarlas.
- SEGURIDAD: Los sistemas de IA pueden conllevar un alto riesgo de explotación por parte de los malos actores. Los desarrolladores deben aplicar medidas estrictas para proteger nuestros datos y nuestra seguridad personal. Además, el consumo excesivo de energía y la extracción de recursos naturales para la computación y el aprendizaje automático aceleran la crisis climática.
- TRANSPARENCIA: Las decisiones automatizadas pueden tener un gran impacto personal, sin embargo, las razones de las decisiones a menudo son opacas. Necesitamos exigir transparencia para que podamos comprender completamente estos sistemas y su potencial de daño.
Luchamos por una IA fiable de muchas maneras diferentes:
Mozilla analiza la IA en la tecnología de consumo
Trabajamos con constructores, investigadores, activistas y otros profesionales para responsabilizar a las empresas y los productos de IA influyentes. Diagnosticamos lo que está mal, esbozamos medidas para mejorar los productos y las políticas y luego nos unimos a los consumidores para presionar a las empresas a tomar medidas.
Mozilla defiende la privacidad de los datos de las personas: Mozilla está defendiendo la privacidad de los datos con más fuerza que nunca, cuando lo que está en juego es más importante que nunca, y a medida que nos adentramos en el nuevo mundo de la IA.
Mozilla ayuda a las personas a crear tecnología fiable: Apoyamos a personas y proyectos que están desarrollando productos éticos: tecnología de código abierto centrada en el ser humano que libera el poder y el potencial de Internet.