As guerras da IA estão esquentando. No final de 2022, o oChatGPT da Open AI ganhou as manchetes por nos mostrar como um novo mecanismo de pesquisa poderia se parecer. O ChatGPT (que significa “Generative Pre-trained Transformer”) é um chatbot — que pode processar consultas e fornecer informações relevantes para responder a perguntas sobre fatos históricos, receitas, dimensões do carro e muito mais. Como bônus, o ChatGPT permite que você responda perguntas em inglês simples, para que você não seja forçado a escrever consultas como “como parar de fazer cocô de cachorro em todos os lugares do reddit. O resultado é, essencialmente, uma caixa de pesquisa com a qual você pode enviar mensagens para frente e para trás. Isso quase faz com que a pesquisa do Google pareça um pouco primitiva. A Microsoft, fabricante do Bing e maior investidora em IA aberta, concorda com isso.

O ChatGPT, e a versão mais recente do GPT-4, fornece respostas completas — ele pode até escrever seu código, escrever sua carta de apresentação e passar no exame de direito. Ele também fornece respostas completamente erradas às vezes. É preocupante a confiança com que o ChatGPT apresenta informações imprecisas. Isso não impediu as redações de repensar quantos escritores contratam nem os professores de se manifestarem contra o chatbot. (Embora nem todos os professores. Alguns abraçam a mudança.)

A emoção em torno da inteligência artificial é tudo menos artificial. Pelo menos para alguns. Professores universitários ou recrutadores de emprego estão menos do que animados em ter que discernir palavras humanas de conversas de chatbots. Especialistas do setor estão menos do que entusiasmados com uma potencial onda de desinformação, assinando uma carta aberta que adverte sobre o potencial da IA de “inundar nossos canais de informação com propaganda e inverdade. Aqueles que assinaram dizem que“ tais decisões não devem ser delegadas a líderes de tecnologia não eleitos. “Questões como essa são exatamente o que a Mozilla procura abordar com o Desafio de Computação Responsável, garantindo que os programas de ensino superior enfatizem o impacto político e social da tecnologia. E também com a Mozilla.ai, uma startup com a missão de facilitar a criação de IA de código aberto e ética.

À medida que entramos neste admirável mundo novo, onde até mesmo a mensagem do Snapchat de um amigo pode ser escrita por IA, você pode querer saber um pouco mais sobre os recursos e limitações dos chatbots. Você consegue identificar um parágrafo escrito por IA? Você pode dizer se seu colega de trabalho está realmente respondendo a você e não ao ChatGPT? Você sabe como detectar desinformação nas respostas de um chatbot porque o Bing infundido com ChatGPT definitivamente ainda erra os fatos às vezes? Nem sempre é possível saber se uma IA escreveu alguma cópia, mas às vezes você pode detectar a linguagem escrita pelo ChatGPT e outros bots usando uma ferramenta de detector e observando a linguagem estranha. Continue lendo para saber como.

Como detectar o texto do ChatGPT você mesmo?

Você pode detectar o texto escrito no ChatGPT usando ferramentas online como a OpenAI API Key. A ferramenta vem da própria Open AI, a empresa que fez o ChatGPT. Vale ressaltar que o app não é perfeito. A Open AI diz que a ferramenta precisa de pelo menos 1.000 palavras antes de poder farejar o conteúdo gerado pela IA, então algo como uma mensagem de texto gerada pela IA pode voar sob seu radar. Além disso, mesmo que obtenha as 1.000 palavras necessárias, nem sempre é 100% preciso na detecção de IA versus linguagem escrita humana. O texto feito por IA que foi editado por um humano também pode enganar a ferramenta.

(novidade: Desde julho de 2023, uma nova atualização do ChatGPT não inclui mais o uso do classificador de inteligência artificial que o Open AI usava para detectar texto gerado por inteligência artificial. A partir do início de 2024, a empresa chegou a colocar sua ferramenta original em modo offline. A empresa afirma estar trabalhando em maneiras novas e mais eficazes de detectar texto gerado por inteligência artificial, bem como áudio e vídeo gerados por inteligência artificial).

A ferramenta Open AI pode não ser perfeita, mas existem outras ofertas no mundo de detecção de texto ChatGPT. O blog Geek Culture no Medium lista outras opções feitas por pessoas em Princeton e Stanford. Se é fundamental saber se o texto foi escrito por um bot ou um humano, testá-lo em várias ferramentas pode ajudar. O ChatGPT está mudando rapidamente, então os resultados podem variar.

Detectando Texto do ChatGPT: As Ressalvas

É importante enfatizar que nenhum método de detecção de texto escrito por IA é infalível — isso inclui opções usando ferramentas disponíveis hoje. Jesse McCrosky é um cientista de dados da Mozilla Foundation que alerta sobre as limitações das ferramentas de detecção de texto da IA. “As ferramentas de detecção sempre serão imperfeitas, o que as torna quase inúteis para a maioria das aplicações”, diz McCrosky. “Não se pode acusar um aluno de usar IA para escrever seu ensaio com base no resultado de uma ferramenta de detector que você sabe que tem 10% de chance de dar um falso positivo.”

De acordo com McCrosky, pode ser impossível ter um verdadeiro detector de IA porque sempre será possível que o software escreva textos “indetectáveis” ou crie texto com a intenção específica de evitar esses tipos de detectores. E depois há o fato de que as ferramentas de IA disponíveis para nós estão sempre melhorando. “Pode haver algum sentido de uma ‘corrida armamentista‘ entre os detectores de texto do ChatGPT e os evasores de detectores, mas nunca haverá uma situação em que os detectores possam ser confiáveis”, diz McCrosky.

Como detectar desinformação no ChatGPT?

Não é segredo que o ChatGPT pode (e tem) espalhado desinformação e desinformação. A Microsoft pode estar usando ferramentas como as da NewsGuard para limitar as respostas enganosas que sua IA dá, mas o problema ainda é motivo de preocupação. O Instituto Poynter tem nossas dicas favoritas para detectar desinformação no ChatGPT: 1) verificar padrões e inconsistências, 2) procurar sinais de erro humano e verificar o contexto. Se uma resposta do ChatGPT repetir algo várias vezes, tiver erros estranhos que uma pessoa não faria ou disser algo que não faz sentido no contexto do que você está lendo, você pode estar lendo conteúdo enganoso. Verifique os links de origem na parte inferior de suas respostas do ChatGPT e certifique-se de fazer sua própria pesquisa fora do ChatGPT também. Trate-o como um ponto de partida e não como a palavra final.

O ChatGPT é divertido, mas cuidado

O ChatGPT oferece um vislumbre interessante de um mundo cheio de respostas de chatbots, mas também atua como um aviso das desvantagens. Com grande inteligência vem grande responsabilidade. À medida que o Bing e o ChatGPT (e Sydney?) aprendem a ser um chatbot melhor, nós, como usuários, teremos que continuar a usar as ferramentas de detecção do ChatGPT para verificar se as palavras que estamos vendo são feitas pelo homem e se os fatos que estamos compartilhando são de fato factuais.

O ChatGPT Escreveu Isso? Veja como saber

Escrito por: Xavier Harding

Editado por: Ashley Boyd, Audrey Hingle, Carys Afoko, Innocent Nwani

SEO Insight: Aslam Shaffraz