O que a inteligência artificial sabe sobre você? Muito mais do que você imagina.

Você provavelmente está ciente de que empresas e governos coletam dados sobre você, como seu nome e onde você mora. Mas seu perfil digital não é baseado apenas nos dados que você escolhe compartilhar, todos os tipos de dados adicionais sobre você são gerados por algoritmos de machine learning. Esses algoritmos analisam coisas como a hora do dia em que você está online, se você está propenso a erros de digitação e que tipo de coisas você pesquisa.

Esses algoritmos usam esses dados para tomar decisões sobre você e por você, e fazem isso todos os dias – muitas vezes sem nem mesmo sabermos. Geralmente acontece “atrás da tela”, sem nos incomodar, de forma suave e eficiente.

A tomada de decisão algorítmica pode ter mais peso do que você poderia esperar. Embora os algoritmos façam coisas inócuas ou úteis, como alterar os semáforos quando você se aproxima de um cruzamento, eles também decidem qual conteúdo exibir em seu feed de rede social. Existem também algoritmos que ajudam pessoas reais a decidir se você pode obter uma hipoteca, entrar em uma determinada universidade ou se qualificar para um seguro.

Mas, para começar, como elas obtêm informações sobre você para tomar essas decisões?

É tudo baseado em seus dados – e no que é conhecido como seu perfil digital. Saiba mais no vídeo abaixo, apresentando a advogada de direitos humanos e de tecnologia Katarzyna Szymielewicz e presidente da nossa organização parceira, Fundação Panoptykon, ou continue lendo.

As três camadas do seu perfil digital

Camada um

A primeira camada é a que nós mesmos controlamos – são informações que costumamos dar voluntariamente quando usamos computadores, telefones ou qualquer outra coisa conectada à internet: seu nome de usuário, seu nome real, suas fotos, seus amigos, seus gostos, o que você pesquisa, quem você bloqueou de seus contatos. Na maioria dos casos, você pode optar por não compartilhar esse tipo de dados por meio de uma combinação de desativação, evitando plataformas que consomem muitos dados e excluindo seu histórico de atividades, mas isso exigirá atenção e autocontrole constantes. É uma tarefa bastante difícil se você simplesmente quer viver parte de sua vida online com certo grau de espontaneidade.

A má notícia é que mesmo que você consiga controlar essa primeira camada do seu perfil, há mais duas que são construídas sem você saber. Pelo simples fato de estar online e fazer coisas online, você está compartilhando muito mais do que você imagina.

Camada dois

A segunda camada em seu perfil digital inclui traços do que você faz online – os dados coletados sobre seus dados ou “metadados”. Podem ser os sites que você visita, sua localização atual e até coisas como a velocidade com que você digita (e quantos erros comete!)

Também inclui um registro de qualquer atividade “conectada”. Por exemplo, se você tem uma geladeira inteligente, ela sabe que manteve a porta aberta por 3 minutos às 2 da manhã para aquele lanche noturno. E não vai esquecer.

É quase impossível evitar que esse tipo de dados seja coletado sobre você ou optar por não participar dessa observação comportamental constante.

Camada três

O que mais os algoritmos podem aprender sobre nós após já ter observado cada movimento que fizemos online?

Eles podem aprender mais comparando os dados que coletaram sobre você nas camadas 1 e 2 com os dados que coletaram de outras pessoas, estabelecendo padrões nessas informações. As máquinas fazem suposições e previsões sobre você com base em estatísticas. Elas usam todo o "conhecimento" anterior reunido sobre você, bem como observações feitas sobre seus amigos ou pessoas semelhantes a você, para prever coisas como sua etnia, em quem pode votar, se está esperando um bebê, se adora jogar, e até se sofre de uma doença mental.

É essa terceira camada do seu perfil digital – chamada de “dados inferidos” – que é mais valiosa para empresas que usam IA. Com base nessas suposições, elas decidem coisas como quais anúncios devem mostrar para você e se você deve obter um empréstimo.

E é praticamente impossível para você controlar ou mesmo descobrir o que essas máquinas pensam de você.

A boa notícia?

As pessoas estão começando a fazer algo a respeito desse problema para que você possa recuperar o controle de suas informações. Nossos parceiros na Panoptykon estão se certificando de que haja salvaguardas legais para nos proteger e que as reclamações legais contra empresas com fome de dados resultem em multas pesadas. Aqui na Mozilla, estamos repensando como seus dados são coletados e usados em conjunto no The Data Futures Lab, um espaço experimental para instigar novas abordagens de gerenciamento de dados que dão maior controle e instrumentos às pessoas. É uma longa marcha, mas estamos caminhando na direção certa.