E se o Alexa fosse realmente feito sob medida para você, e apenas para você? Um assistente pessoal que trabalhasse para seus melhores interesses, não para os interesses financeiros de uma grande corporação? Sou Richard Whitt, membro da Mozilla, ex-advogado de políticas públicas do Google e fundador da organização sem fins lucrativos GLIA Foundation, que se dedica à criação de tecnologias centradas no ser humano. Neste episódio do Mozilla Explica, exploro essas ideias e o que seria necessário para fazer isso acontecer. Você pode assistir abaixo ou continuar lendo.

Inteligências artificiais institucionais em nossas vidas

Existem três tipos de inteligência artificial (IA) com as quais interagimos regularmente: o que eu denomino telas online, cenas ambientais e burocráticas invisíveis. Nesta publicação do blog, abordarei as duas primeiras, telas e cenas. Fique atento à segunda parte, quando falaremos sobre as burocráticas invisíveis.

O primeiro tipo de Inteligência artificial fica atrás das telas online, de nossos computadores e dispositivos móveis. Ela é encontrada nos mecanismos de recomendação que potencializam nossas interações diárias com a web. Facebook, Twitter, YouTube e centenas de outros sites usam Inteligência artificial para sugerir quais artigos ler, quais vídeos assistir e até mesmo quem deveríamos namorar.

O segundo tipo de Inteligência artificial fica em nossas cenas ambientais. Assistentes virtuais, como Siri da Apple, Google Assistant e Alexa da Amazon, residem em nossas salas e quartos, em nossos dispositivos móveis e até mesmo em nossos corpos na forma de aparelhos de vestir como relógios e anéis. Esses assistentes virtuais são movidos por formas avançadas de inteligência artificial, que lhes permitem responder aos nossos comandos e até oferecer suas próprias sugestões de ações.

Para quem essas Inteligências artificiais realmente trabalham?

Não há dúvida de que essas Inteligências artificiais são úteis na nossa vida diária.

E as empresas que as criam e empregam certamente querem que acreditemos que elas atuando em nosso melhor interesse.

Na realidade, entretanto, essas Inteligências artificiais representam grandes corporações, ávidas para nos vender algo, ou sugar nossos dados pessoais para vender a terceiros, dos quais você nunca ouviu falar — anunciantes, negociantes de dados. Ou elas podem tratar seus dados sem cuidado, permitindo que outros os invadam ou roubem. Vazamentos de dados de grandes instituições como o Facebook são surpreendentemente comuns.

Além disso, esses sistemas são frequentemente construídos de uma forma que incorpora preconceitos sociais em sua programação. Seja por como foram programados ou como foram treinados, eles carregam viés implícitos contra populações minoritárias.

E se, entretanto, tivéssemos um futuro diferente, quando esses assistentes virtuais realmente trabalhassem para nós? E prestassem contas apenas para nós?

Como inteligências artificiais pessoais podem melhorar nossas vidas digitais

Uma inteligência artificial pessoal é semelhante às inteligências artificiais de grandes instituições, como as que a Amazon ou o Google têm em seus assistentes pessoais, exceto por uma diferença fundamental: são programadas para nos representar, como seres humanos individuais.

Essa programação significa que elas não têm conflitos de interesse, como o imperativo preponderante de nos vender produtos ou veicular anúncios. Nem seriam facilmente invadidas por terceiros obscuros que tentam roubar nossas identidades.

Em vez disso, elas usam aprendizado de máquina para avaliar o que realmente queremos e tomar medidas para que aconteça. Elas podem proteger nossa privacidade, segurança e identidade, e ao mesmo tempo promover nossos melhores interesses online.

Como isso pode acontecer? Resumindo, interagindo diretamente com inteligências artificiais institucionais como Alexa ou Google Home em nosso nome.

De que forma isso funcionaria?

Aqui estão alguns exemplos. Imagine falar para a Alexa parar de coletar dados para seu mecanismo de recomendação online e, em vez disso, fornecer os dados que já foram coletados para sua inteligência artificial pessoal, para você poder criar seu próprio alimentador de conteúdo sob sua seleção. Ou fazer com que sua inteligência artificial pessoal notifique outros assistentes digitais para não coletar dados sobre você ou sua família quando estiver visitando a casa de um amigo ou um restaurante, ou mesmo te notificar se estiver sendo monitorado por uma rede de sensores inteligentes de uma cidade.

Como chegar lá a partir daqui?

Existem várias maneiras de aumentar a probabilidade desse futuro promissor. A tecnologia está amplamente disponível, mas as dúvidas permanecem: Quem forneceria esses serviços? Quem pagaria por eles? Isso seria um benefício público? Haverá resistência das plataformas? É improvável que queiram tornar suas inteligências artificiais interoperáveis.

Em última instância, pode caber à política e à legislação possibilitar esse futuro. Encorajo você a pedir a seus representantes eleitos que exijam duas coisas que não temos hoje. Uma é o direito de delegar, que é essencialmente a ideia de ter um terceiro em quem você confia para tomar decisões em seu nome e exigir que as plataformas obedeçam às suas instruções.

A segunda seria o que chamo de direito de consultar. Esta é uma obrigação das inteligências artificiais interoperar e essencialmente ser capazes de se comunicar com os outros sistemas. Isso permitiria à sua inteligência artificial pessoal fazer perguntas, buscar informações adicionais e até desafiar as decisões que essas inteligências artificiais tomam sobre sua vida.