La majorité des efforts de Mozilla pour donner de l’élan au mouvement sont orientés vers le développement d’une IA digne de confiance.

Nous devons évoluer vers un monde où l’intelligence artificielle est plus utile que nuisible pour les êtres humains. Pour nous, cela signifie deux choses : d’une part, l’interaction humaine est au cœur de la façon dont l’intelligence artificielle est conçue et intégrée, d’autre part la responsabilité des entreprises est réelle et contrainte.

La nécessité de ce travail est urgente. Chaque jour sont publiés des articles concernant les effets de l’IA, du Big Data et du marketing ciblé. Et à maintes reprises, nous lisons que le public perd confiance dans les grands groupes high-tech sans pour autant avoir d’autres solutions.

Beaucoup d’entre nous ne comprennent pas encore bien comment l’IA impacte régulièrement nos vies et se sentent impuissants face à ces systèmes. Chez Mozilla, nous nous engageons à faire en sorte que nous comprenions tous que nous pouvons et devons avoir notre mot à dire lorsque des machines sont utilisées pour prendre des décisions importantes et pour déterminer la manière dont ces décisions sont prises.

Voici les enjeux :
  • VIE PRIVÉE : Nos données personnelles alimentent tout, de la représentation de la circulation sur les cartes routières jusqu’aux publicités ciblées. Une IA digne de confiance devrait laisser les personnes décider de la manière dont leurs données sont utilisées et quelles décisions elles servent à prendre.
  • ÉQUITÉ : Nous avons vu à maintes reprises que les biais historiques peuvent se manifester dans les prises de décision automatisées. Pour lutter efficacement contre la discrimination, nous devons examiner de près les objectifs et les données qui alimentent notre IA.
  • CONFIANCE : Les algorithmes de sites comme YouTube poussent souvent les internautes vers des contenus extrémistes et trompeurs. La refonte de ces systèmes de recommandation de contenus pourrait grandement contribuer à lutter contre la désinformation.
  • SÉCURITÉ : Les experts ont tiré la sonnette d’alarme sur le fait que l’IA pourrait accroître les risques de sécurité et la cybercriminalité. Les développeurs de plateformes devront mettre en place des mesures plus strictes pour protéger nos données et notre sécurité personnelle.
  • TRANSPARENCE : Les décisions automatisées peuvent avoir un impact énorme au niveau personnel, mais les raisons de ces décisions sont souvent obscures. Nous avons besoin de progrès majeurs en matière de clarté et de transparence pour protéger les utilisateurs.

Nous abordons la lutte pour une IA digne de confiance de trois façons clés :

Image changement de systèmes
Nous avons fait évoluer le débat et ne parlons plus de « comportement individuel » mais de « changement de système ».

Renée DiResta, boursière Mozilla, a joué un rôle prépondérant pour orienter le débat sur la désinformation en le faisant passer des « fausses informations » à « la liberté d’expression n’est pas synonyme de liberté d’atteindre n’importe quelle audience ». Les entreprises ont réagi : Pinterest a cessé de partager les résultats de recherche sur la vaccination et Facebook a commencé à ajouter des informations de l’OMS aux posts liés à la vaccination.

Image entreprises responsables
Nous obligeons les entreprises à prendre leurs responsabilités et notre approche fait des émules.

Dans le cadre de notre campagne Regrets sur YouTube, nous avons recueilli les témoignages d’utilisateurs de YouTube sur le moteur de recommandation de la plateforme qui les a conduits dans des recoins étranges et parfois dangereux du site. Ce travail a été rendu possible grâce à nos propres recherches sur l’IA digne de confiance, des articles de presse et grâce à des ingénieurs de YouTube qui se sont exprimés.

Image innovations IA dignes de confiance
Nous soutenons les innovations pour une IA digne de confiance.

Le projet « Meridio Project » de Dave Gehring, titulaire d’une bourse Mozilla, cherche à créer un cadre économique viable pour soutenir le journalisme en se passant du modèle publicitaire actuel basé sur la surveillance. Il a constaté l’intérêt pour le projet et a décrit les besoins des éditeurs de presse. Il s’apprête désormais à mettre en place la plateforme qui permettra de fournir ces services.