A IA, nossa velha amiga

Agora você já sabe o que é a IA. Não só significa inteligência artificial, mas também coleta informações e as usa para fazer previsões e tomar decisões. A IA alimenta o feed da mídia social que sugere o próximo post, informa os comerciais que aparecem em seu serviço de streaming, dirige o software que acabou de completar automaticamente esta frase. Em situações mais sérias, pode determinar se você se qualifica para uma fiança ou um crédito imobiliário. Isto significa que os sistemas orientados pela IA tomam decisões sobre si e também tomam decisões por si. Os efeitos disso podem ser terríveis ou até mesmo antiéticos.

Quando a inteligência artificial decide o que você deve ver ou "quem você é", também decide o que você não deve ver e "quem você não será".

Onde estão os humanos?

À nossa volta, você pode encontrar a IA fazendo escolhas por nós. Mas não se trata apenas de um computador agindo por conta própria. A IA é projetada por nós, humanos, e isso tem um enorme impacto em tudo que a IA faz. Somos nós, humanos, que dizemos ao computador o que deve considerar e o quão alto ele deve classificar certos dados. A expectativa com relação à IA era que um computador chegaria a uma conclusão usando informações objetivas e algum código extravagante. A realidade é que a IA é tão injusta quanto os criadores que a treinaram.

Aqui estão alguns exemplos. Veja as pontuações de crédito, algoritmos treinados de forma tendenciosa, que podem calcular uma pontuação mais baixa para uma mulher em comparação com um homem. Isso pode afetar os cartões de crédito que eles podem usar ou as hipotecas que podem solicitar. Outro exemplo é a contratação de emprego. Os recrutadores que se baseiam demasiado no software podem inadvertidamente reforçar os pontos cegos relacionados com a raça e o sexo. Existem até preços de seguro automóvel em que algoritmos obscuros determinam quem deve pagar menos ou mais para uma cobertura semelhante, resultando numa oportunidade de preços injustos.

Cansu Canca nos orienta sobre este problema. Assista ao vídeo abaixo para obter mais informação sobre onde e como o preconceiro humano é introduzido em sistemas orientados pela IA.