Ferramentas de IA generativa, como o ChatGPT, se tornaram populares há menos de dois anos, mas já reformularam a experiência online. Essas ferramentas também introduziram o conceito de "IA" no mainstream. Embora a tecnologia exista em algumas formas há décadas, nunca antes foi tão visível e acessível ao público em geral.

Aproximadamente um terço dos jovens americanos agora utilizam o ChatGPT no trabalho, de acordo com a pesquisa do Pew, um número que está aumentando. Enquanto isso, os consumidores se sentem animados e preocupados com a tecnologia. Em meio a essa rápida aceitação e emoção mista, no entanto, a IA generativa está sendo rapidamente incorporada aos produtos existentes sem informações básicas sobre como os modelos subjacentes são construídos ou executados em vários contextos. E, paradoxalmente, embora as possibilidades da IA generativa sejam comercializadas como "ilimitadas", é difícil para os consumidores escolher e alternar entre diferentes modelos de IA.

Hoje, a Mozilla está adicionando recursos de chatbot de IA à barra lateral do Firefox, um experimento que desenvolveremos nos próximos meses. Faz parte do nosso compromisso com uma internet onde a escolha é um princípio fundamental. Essa abordagem não apenas oferecerá opções às pessoas que usam o Firefox, mas também demonstrará como o controle e a transparência no nível do consumidor podem ser incorporados à tecnologia de consumo.

Para os usuários que conhecem a Mozilla apenas por seu trabalho com produtos, isso pode parecer uma incursão precoce na IA. Em um sentido estritamente do produto, isso é verdade. Mas para aqueles que conhecem a Mozilla por seu amplo escopo de trabalho — pesquisa, defesa, filantropia — fica claro que este é o próximo passo em um corpo de trabalho existente e ambicioso em torno da IA. Com esse novo recurso da barra lateral do Firefox, vamos testar a melhor maneira de integrar nossos valores em torno da IA em nossos produtos para melhorar tanto nossas ofertas quanto as de outros.

Com esse novo recurso da barra lateral do Firefox, vamos testar a melhor maneira de integrar nossos valores em torno da IA em nossos produtos para melhorar tanto nossas ofertas quanto as de outros.

~

Em 2020, a Mozilla publicou nosso documento técnico sobre IA confiável, dando início formalmente ao nosso foco estratégico na tecnologia. (Publicamos uma atualização no início deste ano.) Então, nos anos seguintes, nos perguntaram: “O que significa confiável?" Definimos "confiável" como um ecossistema de IA onde os consumidores de IA têm uma escolha e também onde os criadores de IA podem ser responsabilizados por sua tecnologia. Esses fundamentos têm orientado nosso trabalho em IA — desde políticas até o desenvolvimento de produtos — desde então.

Por exemplo, *Privacidade não incluída, nosso guia de compradores de tecnologia para consumidores, voltou sua atenção para produtos de IA. Nossa edição mais recente ajuda os consumidores a avaliar a privacidade e a segurança dos chatbots de relacionamento. Atualmente, estamos trabalhando em outra edição para ajudar os consumidores a avaliar chatbots de uso geral, como o ChatGPT e o Microsoft Copilot. Já estamos pensando em como integrar nossas descobertas diretamente à experiência da barra lateral dos usuários, dando-lhes mais contexto sobre as ferramentas que estão (ou não) usando. Porque escolha não se trata apenas de ter um menu de opções de chatbot — também envolve entender como essas opções se alinham com nossos valores e prioridades.

Enquanto isso, outras pesquisas e defesas da Mozilla têm se concentrado em transparência e acesso dos pesquisadores — alavancas-chave para tornar a IA mais confiável. Nós incentivamos a Microsoft a ser mais transparente sobre os dados utilizados no treinamento de IA; classificamos as plataformas em sua abertura ao escrutínio independente; e estamos conduzindo uma análise abrangente do ecossistema de auditoria de IA. Também estamos começando a trabalhar no acesso de pesquisadores aos próprios modelos; lançamos recentemente o 0din, um programa de recompensas por bugs para modelos de linguagem de grande escala; e continuamos a explorar a IA de código aberto com o Mozilla.ai.

Com o lançamento de hoje da barra lateral, estamos aplicando todos esses aprendizados ao trabalho do nosso produto. O que, na verdade, é um terreno familiar: a escolha do usuário e a responsabilidade corporativa são valores do Firefox há décadas.

Estamos empolgados em fundir esses valores em nosso design de produto porque há um vazio de recursos que oferecem às pessoas escolhas significativas dentro da tecnologia de consumo baseada em IA. Também somos realistas em trazer essa filosofia para o campo do produto. Não são apenas os consumidores que ainda estão descobrindo essa tecnologia — são os construtores também. De grandes nomes como a OpenAI a projetos menores, de iniciativas de código fechado a iniciativas de código aberto: ninguém tem todas as respostas. Em vez de observar passivamente, queremos nos envolver ativamente e ajudar a desenvolver soluções pioneiras — mesmo que isso signifique não ter todas as respostas com antecedência. Um problema em que estamos particularmente focados é a interoperabilidade: como a Mozilla pode garantir que chatbots menores e de código aberto também possam se conectar (e, em muitos casos, melhorar) o ecossistema existente?

Por mais de 25 anos, o trabalho de produto da Mozilla sempre liderou com valores. Hoje, continuamos com essa tradição no domínio da IA e introduzimos princípios como agência, responsabilidade e código aberto em um ecossistema que carece de mais desses elementos.