Advertencia: *Privacidad no incluida con este producto
Chai AI cuenta con más de un millón de chatbot de IA con diferentes personalidades (¡adelante, di esa frase con el meñique junto a la boca con tu mejor voz de Austin Powers!). Descarga la aplicación (prucura que sea la aplicación Chai AI correcta, hay algunos impostores por ahí) y comienza a buscar y chatear. Los usuarios gratuitos obtienen un número limitado de chats simultáneos, lo que limita la diversión y la funcionalidad de la aplicación. Las suscripciones premium comienzan por unos 14 dólares al mes. Según Chai, «optimizan obsesivamente nuestros modelos de lenguaje, haciéndolos continuamente más entretenidos que nunca antes». Así que prepárate para que la experiencia te haga gastar dinero. También prepárate para tropezar con algunos chatbots extraños y espeluznantes, que pueden ser apropiados o inapropiados, y que probablemente no sean precisamente buenos para tu privacidad. Como un usuario de Chai escribió en su reseña de Apple Store, «digamos que lo mejor es NO meterse con los que son muy raros». ¡Te deseamos buena suerte en la tierra de los chatbots de IA! Anda con cuidado.
¿Qué podría pasar si algo falla?
Mientras revisábamos la aplicación Chai AI chatbot, tres cosas nos llamaron la atención de inmediato, además de algunos contenidos bastante perturbadores que encontramos durante la investigación (¡verdaderamente horribles!).
En primer lugar, en el momento de nuestra revisión, nos dimos cuenta de que la política de privacidad de Chai se actualizó por última vez en marzo de 2021. En el vertiginoso mundo de la IA generativa y los modelos de lenguaje grande (LLM), nos parece que una política de privacidad de tres años es algo bastante desactualizado. Además, nos pareció una política de privacidad demasiado vaga y repetitiva, por lo que no nos sentimos seguros de haber entendido cuál es la información personal que recopilan y cómo la usan. Tras hacer una búsqueda rápida en ella, no encontramos ninguna mención sobre cómo recopilan y manejan el contenido de los chats de sus usuarios. Tampoco pudimos encontrar ninguna mención específica sobre cómo usan la información personal (como los datos personales confidenciales y el contenido de los chats) para entrenar a sus IA. Todo esto nos parece un poco preocupante, especialmente para una aplicación que está diseñada para que los usuarios tengan miles de conversaciones y compartan toneladas de información personal.
Lo que sí encontramos fue información aparentemente contradictoria entre la política de privacidad y el acuerdo de licencia de usuario final (EULA), lo que nos dejó bastante confundidos. (A los investigadores de privacidad no nos gusta nada estar confundidos... creemos que si nosotros no lo podemos entender, ¿cómo diablos se supone que lo entenderán los consumidores?). En su política de privacidad, de marzo de 2021, dice: «Podemos usar tu información personal para nuestros propios fines comerciales, por ejemplo, para realizar investigaciones internas para el desarrollo tecnológico y la demostración. Esto no se considera una “venta” de tus datos personales». Sin embargo, en su documento EULA de abril de 2023, se afirma: «Al publicar tus contribuciones en cualquier parte de la aplicación con licencia –o al hacer que las contribuciones sean accesibles para la aplicación con licencia vinculando tu cuenta desde la aplicación con licencia a cualquiera de tus cuentas de redes sociales– , declaras y garantizas automáticamente que tienes el derecho de otorgarnos, sin restricciones y de manera ilimitada, el derecho irrevocable, perpetuo, no exclusivo, transferible, libre de regalías, totalmente pagado y mundial para alojar, usar, copiar, reproducir, divulgar, vender, revender, publicar, difundir, retirar, archivar, guardar, almacenar en caché, mostrar públicamente, reformatear, traducir, transmitir, extraer (en su totalidad o en parte) y distribuir dichas contribuciones (que incluye, entre otras cosas, tu imagen y tu voz) para cualquier propósito, publicidad comercial o de otro tipo, y para preparar trabajos derivados o incorporarlo en otros trabajos, como contribuciones, y otorgar y autorizar sublicencias de lo anterior». Eso es un montón de palabrería legal confusa, pero nos suena a que se otorgan a sí mismos los derechos para hacer lo que quieran con tus chats en Chai.
La segunda cosa que nos dejó rascándonos la cabeza con Chai AI es esta línea de su política de privacidad: «Toda la información personal que nos proporciones debe ser verdadera, completa y precisa, y debes notificarnos cualquier cambio en estos datos». Ahora, suponemos que esto tiene sentido cuando se trata de compartir tu información personal para pagar una suscripción, pero nos parece bastante extraño exigir que las personas proporcionen siempre información personal verdadera, completa y precisa cuando se trata de la política de privacidad de una aplicación de chat de IA diseñada para juegos de roles, relaciones inapropiadas y otras cosas similares. ¿Esto significa que no se puede usar un apodo para registrarse? ¿Que no puedes mentir cuando chateas con tu bot? ¿Que si cambias tu nombre y te olvidas informar a Chai AI estás infringiendo su política de privacidad? Todo nos parece bastante extraño y nos da la sensación de que quizás esta política de privacidad no está escrita teniendo en cuenta los servicios que ofrecen actualmente.
La tercera cosa que nos llamó mucho la atención fue esta historia de 2023 acerca de un usuario de Chai AI que se suicidó después de que uno de los chatbots lo alentara a hacerlo. Sí, cuando se trata de lo peor que puedes imaginar con un chatbot de IA, pocas cosas son más horribles que la situación en la que uno de ellos te anime a suicidarte cuando le hablas de lo deprimido(a) que estás. Chai AI recurre al crowdsourcing para muchos de los modelos de sus chatbots de IA y, si bien dicen que han implementado medidas para proporcionar «texto útil» en lo que consideran diálogos poco seguros, este es un muy buen recordatorio de que el mundo de los chatbots de IA diseñados específicamente para relacionarse con los usuarios, es bastante impredecible... una especie de lejano oeste.
En definitiva, entre nuestra incertidumbre sobre la confiabilidad de los modelos de IA de Chai, la vaguedad y falta de claridad en la manera en que están redactados sus documentos de privacidad, el hecho de que su política de privacidad no dice claramente que todos los usuarios pueden eliminar sus datos y el hecho de que no pudimos determinar si Chai AI cumple con nuestros estándares mínimos de seguridad confirmando que cifran tu información personal en tránsito y en el lugar donde se almacena, tenemos que advertirte que es muy probable que Chai AI venga con *Privacidad no incluida.
En ese sentido, te dejaremos con este buen recordatorio que encontramos en la propia política de privacidad de Chai AI: «Sin embargo, a pesar de nuestras salvaguardas y nuestros esfuerzos para proteger tu información, no es posible garantizar que las transmisiones electrónicas a través de Internet o las tecnologías de almacenamiento de información sean 100 % seguras, por lo que no podemos prometer ni garantizar que los piratas informáticos, los ciberdelincuentes u otros terceros no autorizados no puedan vulnerar nuestras medidas seguridad y recopilar, acceder, robar o modificar indebidamente tu información». Es bueno que siempre tengas esto en cuenta, ya sea que uses Chai AI o cualquier otra cosa que comparta tu información personal en Internet.
Consejos para protegerte
- No digas nada que contenga información confidencial durante tus conversaciones con tu amigo de IA.
- Solicita que se eliminen tus datos cuando dejes de usar la aplicación. El solo hecho de eliminar una aplicación de tu dispositivo no hace que se eliminen tus datos personales ni cierra tu cuenta.
- No otorgues tu consentimiento para el seguimiento constante de geolocalización por parte de la aplicación. Es mejor que permitas la geolocalización «solo mientras la aplicación está en uso».
- No compartas datos confidenciales en la aplicación.
- No otorgues acceso a tus fotos, vídeo o cámara.
- No inicies sesión con cuentas de terceros.
- No te conectes a ningún tercero a través de la aplicación, o al menos asegúrate de que el tercero en cuestión tenga prácticas de privacidad decentes.
- No digas nada que contenga información confidencial durante tus conversaciones con tu amigo de IA.
- ¡Elige una contraseña segura! Puedes usar una herramienta de control de contraseñas como 1Password, KeePass, etc.
- No utilices complementos de redes sociales.
- Utiliza los controles de privacidad de tu dispositivo para limitar el acceso a tu información personal a través de la aplicación (no otorgues acceso a tu cámara, micrófono, imágenes y vídeos a menos que sea estrictamente necesario).
- Actualiza tu aplicación con regularidad.
- Limita el seguimiento de anuncios a través de tu dispositivo (por ejemplo, en un iPhone, dirígete a Privacidad -> Publicidad -> Limitar seguimiento) y de las redes publicitarias más grandes (en Google, ingresa a tu cuenta de Google y desactiva la personalización de anuncios).
- Si puedes hacerlo, no aceptes el seguimiento de tus datos cuando estés realizando el proceso de registro.
¿Me puede espiar?
Cámara
Dispositivo: No aplica
Aplicación: No
Micrófono
Dispositivo: No aplica
Aplicación: Sí
Rastrea la ubicación
Dispositivo: No aplica
Aplicación: Sí
¿Qué se puede usar para registrarse?
Correo electrónico
No
Teléfono
No
Cuenta de terceros
Sí
Es posible registrarse a través de Google y Facebook.
¿Qué datos recopila la empresa?
Información personal
Direcciones de correo electrónico; nombres; detalles de la cuenta de redes sociales; datos de registro y uso: información relacionada con el servicio, diagnóstico, uso, rendimiento, dirección IP, información del dispositivo, tipo de navegador y configuración, información sobre tu actividad en los servicios, marcas de fecha/hora asociadas con tu uso, páginas y archivos vistos, búsquedas y otras acciones que realices, características que utilizas, información de eventos del dispositivo, actividad del sistema, informes de errores, configuración de hardware; datos del dispositivo: dirección IP, números de identificación del dispositivo y de la aplicación, ubicación, tipo de navegador, modelo de hardware, proveedor de servicios de Internet, operador de telefonía móvil, sistema operativo, información de configuración del sistema; datos de ubicación: precisa o no precisa.
Información biométrica
Información social
«La información de perfil que recibimos puede variar según el proveedor de redes sociales en cuestión, pero a menudo incluirá tu nombre, dirección de correo electrónico, lista de amigos, foto de perfil y otra información que hayas decidido hacer pública en dicha plataforma de redes sociales».
¿Cómo utiliza la empresa estos datos?
¿Cómo puedes controlar el uso de tus datos?
¿Qué historial tiene la compañía en cuanto a la protección de los datos de los usuarios?
No se han descubierto filtraciones de datos conocidas en los últimos tres años.
Información sobre privacidad infantil
¿El producto se puede usar sin conexión?
¿La información de privacidad es fácil de entender?
Encontramos dos enlaces diferentes a la política de privacidad de Chai AI en las páginas de las tiendas de Apple y Google Play. Además, la única política de privacidad que pudimos encontrar se actualizó por última vez en marzo de 2021, lo que nos parece demasiado tiempo para el vertiginoso mundo de los chatbots de IA. La política de privacidad estaba redactada de manera vaga y no mencionaba nada acerca de cómo se manejan las conversaciones de chat para entrenar la IA.
Enlaces a información de privacidad
¿El producto cumple nuestros estándares mínimos de seguridad?
Cifrado
No podemos confirmar que haya cifrado en reposo y en tránsito en esta aplicación.
Contraseña fuerte
Actualizaciones de seguridad
Gestiona las vulnerabilidades
Política de privacidad
No podemos confirmar si la IA utilizada por este producto es confiable, porque hay poca o ninguna información pública sobre cómo funcionan los modelos de IA y qué controles de usuario existen para hacer que el producto sea seguro. También encontramos temas inquietantes en los contenidos de la aplicación. Además, nos preocupa el potencial de manipulación del usuario desde esta aplicación, ya que recopila información personal confidencial y puede usar esos datos para entrenar a los modelos de IA, y los usuarios tienen poco o ningún control sobre esos algoritmos de IA.
Chai Research afirma que supera a ChatGPT en rendimiento. «Al ejecutar pruebas AB con usuarios reales, nuestro último modelo supera el rendimiento de OpenAI ChatGPT, según lo medido por el tiempo en pantalla de la sesión».
«Podría decirse que el servicio más importante que alojamos es nuestro servicio de respuesta a bots: el programa que se encarga en última instancia de analizar los mensajes de los usuarios a los bots y reenviarlos a nuestros modelos para obtener inferencias. Estos modelos están alojados en un impresionante clúster de Kubernetes de 700 GPU alojado por los colegas de CoreWeave».
¿Es poco confiable esta IA?
¿Qué tipo de decisiones toma la IA acerca de ti o por ti?
¿La empresa es transparente acerca del funcionamiento de la IA?
¿Tiene el usuario control sobre las características de la IA?
Profundiza más
-
'He Would Still Be Here': Man Dies by Suicide After Talking with AI Chatbot, Widow SaysMotherboard
-
Chatbot Honeypot: How AI Companions Could Weaken National SecurityScientific American
-
5 Things You Must Not Share With AI ChatbotsMake Use Of
-
Chai Prize: Deploying LLMs to end-users at scaleChai Research
-
‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AIRolling Stone
Comentarios
¿Tienes algún comentario? Queremos escucharte.