La majorité des efforts de Mozilla pour donner de l’élan au mouvement sont orientés vers le développement d’une intelligence artificielle (IA) digne de confiance.
Nous devons évoluer vers un monde où l’intelligence artificielle est plus utile que nuisible pour les êtres humains. Cela signifie deux choses : d’une part, l’interaction humaine est au cœur de la façon dont l’intelligence artificielle est conçue, d’autre part la responsabilité des entreprises en matière d’intelligence artificielle est réelle et contrainte.
Ces efforts sont urgents. Chaque jour, des articles préoccupants sur les effets de l’IA, du Big Data et du marketing ciblé sont publiés. Et à maintes reprises, nous lisons que le public perd confiance dans les géants de la tech et n’a pas d’alternatives. Beaucoup d’entre nous se sentent impuissants face à ces systèmes. Chez Mozilla, nous souhaitons que les gens aient leur mot à dire lorsque des machines sont utilisées pour prendre des décisions importantes, et qu’ils puissent définir la manière dont ces décisions sont prises.
Voici certaines valeurs que nous considérons comme essentielles :
- VIE PRIVÉE : Comment les données sont-elles collectées, stockées et partagées ? Nos données personnelles alimentent tout, de la représentation de la circulation sur les cartes routières jusqu’aux publicités ciblées. Une IA digne de confiance devrait laisser les personnes décider de la manière dont leurs données sont utilisées et quelles décisions elles servent à prendre.
- ÉQUITÉ : Nous avons vu à maintes reprises comment les biais se manifestent dans les modèles de calcul, les données et les frameworks à l’origine de la prise de décision automatisée. Les valeurs et les objectifs d’un système doivent prendre en considération leur pouvoir et chercher à réduire les préjudices qu’ils peuvent causer. De plus, les systèmes d’IA qui dépendent de travailleurs humains devraient protéger les personnes de l’exploitation et du surmenage.
- CONFIANCE : Les internautes devraient pouvoir contrôler et garder le contrôle de leurs données et des résultats des algorithmes, surtout compte tenu des enjeux de taille pour les individus et la société. Par exemple, lorsque des systèmes de recommandation en ligne poussent les internautes vers des contenus extrêmes et trompeurs, pouvant les désinformer ou les radicaliser.
- SÉCURITÉ : Les systèmes d’IA peuvent comporter un risque élevé d’exploitation par des personnes malveillantes. Les développeurs doivent mettre en œuvre des mesures strictes pour protéger nos données et notre sécurité personnelle. De plus, la consommation d’énergie excessive et l’extraction de ressources naturelles pour l’informatique et l’apprentissage automatique accélèrent la crise climatique.
- TRANSPARENCE : Les décisions automatisées peuvent avoir d’énormes impacts au niveau personnel, mais les raisons de ces décisions sont souvent obscures. Nous devons imposer une plus grande transparence afin de pouvoir parfaitement comprendre ces systèmes et à quel point ils peuvent être néfastes.
Nous luttons pour une IA digne de confiance de différentes manières :
Mozilla examine l’IA dans les technologies grand public
Nous travaillons avec des expert·e·s, des chercheur·euse·s, des militant·e·s et d’autres personnes pour que les produits d’IA et les entreprises influentes prennent leurs responsabilités. Nous diagnostiquons les problèmes ; décrivons les mesures à prendre pour améliorer les produits et les politiques ; puis, nous nous joignons aux consommateurs et consommatrices pour faire pression sur les entreprises afin qu’elles agissent.
Mozilla se bat pour la protection des données des individus : Mozilla défend la protection des données avec plus de conviction que jamais, alors même que les enjeux atteignent des sommets et à l’heure où nous entrons dans le nouveau monde de l’IA.
Mozilla aide les individus à créer une technologie digne de confiance : nous soutenons des personnes et des projets qui développent des produits éthiques — des technologies open source, centrées sur l’humain, qui libèrent la puissance et le potentiel d’Internet.