Las guerras de IA se están acalorando. A finales de 2022, Chat GPT de Open AI apareció en los titulares para mostrarnos cómo podrían verse los nuevos motores de búsqueda. ChatGPT (que significa «Generative Pre-trained Transformer» o «transformador preentrenado generativo») es un chatbot que puede procesar consultas y devolver información relevante para responder preguntas sobre hechos históricos, recetas, dimensiones de automóviles y muchas cosas más. Como beneficio adicional, ChatGPT te permite formular preguntas en un lenguaje natural, es decir que no es necesario que escribas tus consultas como «cómo evitar la caca de perros en todas partes reddit». El resultado es, esencialmente, un cuadro de búsqueda con el que puedes intercambiar mensajes de ida y vuelta. Casi hace que la búsqueda de Google nos parezca algo un poco primitivo. Microsoft, el fabricante de Bing y el mayor inversor en Open AI, está de acuerdo con esto.

ChatGPT, y su última versión GPT-4, proporciona respuestas completas: puede escribir tu código, escribir tu carta de presentación y hasta aprobar tu examen de derecho. A veces también da respuestas totalmente incorrectas. Es preocupante la confianza con la que ChatGPT puede darnos información inexacta. Eso no ha impedido que las salas de redacción de noticias reconsideren la cantidad de redactores que contratarán ni que los profesores salgan a manifestarse en contra del chatbot (Aunque no todos. Algunos aceptan el cambio).

La emoción en torno a la inteligencia artificial es de todo menos artificial. Al menos para algunos. Los profesores universitarios y los reclutadores de empleados no están tan encantados con tener que distinguir los escritos humanos de las creados por un chatbot. Los expertos de la industria tampoco están maravillados por la posible ola de desinformación que esto puede generar, y han firmando una carta abierta donde se advierte acerca del potencial de la IA para «inundar nuestros canales de información con propaganda y mentiras». Quienes la han firmado dicen que «esas decisiones no deben delegarse a líderes tecnológicos que no han sido electos». Temas como este son exactamente lo que Mozilla busca abordar con su Responsible Computing Challenge, con el fin de asegurar que los programas de educación superior hagan un énfasis en el impacto político y social de la tecnología . Lo mismo se busca con Mozilla.ai, una startup que tiene la misión de facilitar la creación de IA ética y de código abierto.

A medida que entramos en este nuevo mundo donde incluso el mensaje de Snapchat de un amigo podría haber sido escrito por una IA, es posible que quieras saber un poco más sobre las capacidades y limitaciones de los chatbots. ¿Es posible distinguir si un párrafo fue escrito por una IA? ¿Se puede saber si tu compañero de trabajo realmente te está respondiendo y no se trata de ChatGPT? ¿Sabes cómo detectar información incorrecta en las respuestas de un chatbot, ya que Bing más ChatGPT aún suelen equivocarse? No siempre es posible saber si fue una IA la que escribió algo, sin embargo, a veces se puede detectar un texo escrito por Chat GPT y otros bots utilizando una herramienta de detección y prestando atención a algunos usos extraños del lenguaje. Sigue leyendo para saber cómo hacerlo.

¿Cómo puedes detectar textos de ChatGPT por ti mismo(a)?

Puedes detectar si un texto fue escrito por Chat GPT utilizando herramientas en línea como OpenAI API Key. Esta herramienta proviene de la misma Open AI, la empresa creadora de Chat GPT. Vale la pena señalar que la aplicación no es perfecta. Open AI explica que la herramienta necesita al menos 1000 palabras para poder detectar contenidos generado por una IA, por lo que algunos elementos, como los mensajes de texto generados por IA, podrían no ser detectados. Además, incluso si le das las 1000 palabras que necesita, no siempre tiene un 100 % de precisión para distinguir entre el lenguaje de una IA y el lenguaje humano. Un texto generado por una IA y luego editado por un humano también puede engañar a la herramienta.

(Actualización: Desde julio de 2023, la nueva actualización de ChatGPT ya no incluye el uso del clasificador de IA que utilizaba Open AI para detectar textos generados por IA y, desde inicios de 2024, la compañía incluso ha retirado su herramienta original. La compañía afirma que están trabajando en formas nuevas y más efectivas de detectar textos, audio y vídeo generados por IA).

La herramienta de Open AI no es perfecta, pero también existen otras ofertas en el mundo de la detección de textos de ChatGPT. El blog de Medium llamado Geek Culture enumera otras opciones desarrolladas por gente de Princeton y Stanford. En los casos en los que tiene una importancia crítica el distinguir si un texto fue escrito por un bot o un humano, puede servir probarlo en múltiples herramientas. ChatGPT cambia rápidamente, por lo que lo que tardes en hacerlo puede variar.

Detectar textos de ChatGPT: Advertencias

Es importante aclarar que ningún método para detectar textos escritos por una IA es infalible, esto incluye las opciones que usan las herramientas disponibles actualmente. Jesse McCrosky, un científico de datos de la Fundación Mozilla, advierte sobre las limitaciones de las herramientas de detección de textos de IA. «Las herramientas de detección siempre serán imperfectas, lo que las hace casi inútiles para la mayoría de las necesidades», explica McCrosky. «No se puede acusar a un estudiante de que ha usado una IA para escribir un ensayo basándose en lo que dice una herramienta de detección que se sabe que tiene un 10 % de posibilidades de dar un falso positivo».

Según McCrosky, quizás sea imposible tener un verdadero detector de IA, ya que siempre será posible hacer que el software escriba textos «indetectables» o cree textos destinados específicamente a evadir detectores. También se debe tener en cuenta el hecho de que las herramientas de IA disponibles se mejoran constantemente. «Si bien existe una sensación como de “carrera armamentista” entre detectores de textos de Chat GPT y evasores de detectores, nunca habrá una situación en la que se pueda confiar totalmente en los detectores», dice McCrosky.

¿Cómo detectar información incorrecta en ChatGPT?

No es ningún secreto que ChatGPT puede haber estado (y ha estado) difundiendo desinformación e información incorrecta. Si bien Microsoft utiliza herramientas como las de NewsGuard para limitar las respuestas engañosas que genera su IA, el problema sigue siendo un motivo de preocupación. El Instituto Poynter brinda nuestros consejos favoritos para detectar información incorrecta en Chat GPT: 1) verificar la presencia de patrones e inconsistencias, 2) buscar signos de error humano y verificar el contexto. Si una respuesta de ChatGPT repite algo varias veces, tiene errores extraños que una persona no cometería o dice algo que no tiene sentido en el contexto de lo que estás leyendo, es posible que se trate de un contenido engañoso. Comprueba los enlaces de origen en la parte inferior de tus respuestas de Chat GPT y asegúrate de hacer tu propia investigación fuera de ChatGPT. Debes tratar a esta herramienta como un punto de partida y no como la última palabra.

ChatGPT es divertido, pero ten cuidado

ChatGPT nos brinda una emocionante visión de un mundo lleno de respuestas generadas por un chatbot, pero también actúa como una advertencia de sus desventajas. Una gran inteligencia conlleva una gran responsabilidad. Mientras Bing y ChatGPT (¿y Sydney?) aprenden a ser un chatbot mejor, nosotros, como usuarios, tendremos que seguir utilizando las herramientas de detección de ChatGPT para comprobar que lo que estamos leyendo ha sido creado por un humano y que los datos que compartimos son verdaderos.

¿Chat GPT escribió esto? Aquí te mostramos cómo hacer para saberlo

Redactado por: Xavier Harding

Editado por: Ashley Boyd, Audrey Hingle, Carys Afoko, Innocent Nwani

Información de SEO: Aslam Shaffraz