Ah l’IA, notre vieille amie

À présent, vous savez ce qu’est l’IA. Il ne s’agit pas seulement d’intelligence artificielle, mais aussi du fait qu’elle recueille des informations et les utilise pour faire des prédictions et prendre des décisions. L’IA alimente le flux des réseaux sociaux en suggérant le prochain message, elle décide des publicités qui apparaissent sur votre service de streaming, elle pilote le logiciel qui vient de compléter automatiquement cette phrase. Dans des situations plus graves, elle peut déterminer si vous êtes admissible à une caution ou à un prêt immobilier. Cela signifie que les systèmes dotés d’une IA prennent des décisions à votre sujet, mais aussi à votre place. Les effets de cette situation peuvent être désastreux — voire contraires à l’éthique.

Lorsque l’IA décide de ce que vous devriez voir ou de ce que vous « êtes », elle décide également de ce que vous ne devriez pas voir et de ce que vous ne « serez » pas.

Où sont les humains ?

Tout autour de nous, l’IA fait des choix pour nous. Mais ce n’est pas simplement un ordinateur qui agit seul. L’IA est conçue par nous, les humains, et cela a un impact énorme sur tout ce qu’elle fait. C’est nous, les humains, qui disons à l’ordinateur ce qu’il doit prendre en compte et à quel niveau il doit classer certains points de données. Avec l’IA, on s’attendait à ce qu’un ordinateur parvienne à une conclusion en utilisant des informations objectives et un codage sophistiqué. La réalité est que l’IA est tout aussi injuste que les créateurs qui l’ont entraînée.

En voici des exemples récents. Prenons l’exemple des scores de crédit — les algorithmes entraînés de manière biaisée peuvent calculer un score inférieur pour une femme par rapport à un homme, ce qui pourrait à son tour affecter les cartes de crédit qu’elles pourraient obtenir ou les prêts hypothécaires qu’elles pourraient demander. Un autre exemple est l’embauche — les recruteurs qui s’appuient trop sur les logiciels peuvent renforcer par inadvertance les préjugés racistes ou sexistes. Il y a même une tarification pour l’assurance automobile — lorsque des algorithmes opaques déterminent qui doit payer moins ou plus pour une couverture similaire, cela donne lieu à une tarification inéquitable.

Cansu Canca nous guide à travers ces problématiques. Regardez la vidéo ci-dessous pour savoir où et comment l’erreur humaine est introduite dans les systèmes basés sur l’IA.