Chai

Advertencia: *Privacidad no incluida con este producto

Chai

Fecha de la reseña: 7 de febrero de 2024

|
|

Mozilla dice

|
La gente votó: Muy siniestro

Chai AI cuenta con más de un millón de chatbot de IA con diferentes personalidades (¡adelante, di esa frase con el meñique junto a la boca con tu mejor voz de Austin Powers!). Descarga la aplicación (prucura que sea la aplicación Chai AI correcta, hay algunos impostores por ahí) y comienza a buscar y chatear. Los usuarios gratuitos obtienen un número limitado de chats simultáneos, lo que limita la diversión y la funcionalidad de la aplicación. Las suscripciones premium comienzan por unos 14 dólares al mes. Según Chai, «optimizan obsesivamente nuestros modelos de lenguaje, haciéndolos continuamente más entretenidos que nunca antes». Así que prepárate para que la experiencia te haga gastar dinero. También prepárate para tropezar con algunos chatbots extraños y espeluznantes, que pueden ser apropiados o inapropiados, y que probablemente no sean precisamente buenos para tu privacidad. Como un usuario de Chai escribió en su reseña de Apple Store, «digamos que lo mejor es NO meterse con los que son muy raros». ¡Te deseamos buena suerte en la tierra de los chatbots de IA! Anda con cuidado.

¿Qué podría pasar si algo falla?

Mientras revisábamos la aplicación Chai AI chatbot, tres cosas nos llamaron la atención de inmediato, además de algunos contenidos bastante perturbadores que encontramos durante la investigación (¡verdaderamente horribles!).

En primer lugar, en el momento de nuestra revisión, nos dimos cuenta de que la política de privacidad de Chai se actualizó por última vez en marzo de 2021. En el vertiginoso mundo de la IA generativa y los modelos de lenguaje grande (LLM), nos parece que una política de privacidad de tres años es algo bastante desactualizado. Además, nos pareció una política de privacidad demasiado vaga y repetitiva, por lo que no nos sentimos seguros de haber entendido cuál es la información personal que recopilan y cómo la usan. Tras hacer una búsqueda rápida en ella, no encontramos ninguna mención sobre cómo recopilan y manejan el contenido de los chats de sus usuarios. Tampoco pudimos encontrar ninguna mención específica sobre cómo usan la información personal (como los datos personales confidenciales y el contenido de los chats) para entrenar a sus IA. Todo esto nos parece un poco preocupante, especialmente para una aplicación que está diseñada para que los usuarios tengan miles de conversaciones y compartan toneladas de información personal.

Lo que sí encontramos fue información aparentemente contradictoria entre la política de privacidad y el acuerdo de licencia de usuario final (EULA), lo que nos dejó bastante confundidos. (A los investigadores de privacidad no nos gusta nada estar confundidos... creemos que si nosotros no lo podemos entender, ¿cómo diablos se supone que lo entenderán los consumidores?). En su política de privacidad, de marzo de 2021, dice: «Podemos usar tu información personal para nuestros propios fines comerciales, por ejemplo, para realizar investigaciones internas para el desarrollo tecnológico y la demostración. Esto no se considera una “venta” de tus datos personales». Sin embargo, en su documento EULA de abril de 2023, se afirma: «Al publicar tus contribuciones en cualquier parte de la aplicación con licencia –o al hacer que las contribuciones sean accesibles para la aplicación con licencia vinculando tu cuenta desde la aplicación con licencia a cualquiera de tus cuentas de redes sociales– , declaras y garantizas automáticamente que tienes el derecho de otorgarnos, sin restricciones y de manera ilimitada, el derecho irrevocable, perpetuo, no exclusivo, transferible, libre de regalías, totalmente pagado y mundial para alojar, usar, copiar, reproducir, divulgar, vender, revender, publicar, difundir, retirar, archivar, guardar, almacenar en caché, mostrar públicamente, reformatear, traducir, transmitir, extraer (en su totalidad o en parte) y distribuir dichas contribuciones (que incluye, entre otras cosas, tu imagen y tu voz) para cualquier propósito, publicidad comercial o de otro tipo, y para preparar trabajos derivados o incorporarlo en otros trabajos, como contribuciones, y otorgar y autorizar sublicencias de lo anterior». Eso es un montón de palabrería legal confusa, pero nos suena a que se otorgan a sí mismos los derechos para hacer lo que quieran con tus chats en Chai.

La segunda cosa que nos dejó rascándonos la cabeza con Chai AI es esta línea de su política de privacidad: «Toda la información personal que nos proporciones debe ser verdadera, completa y precisa, y debes notificarnos cualquier cambio en estos datos». Ahora, suponemos que esto tiene sentido cuando se trata de compartir tu información personal para pagar una suscripción, pero nos parece bastante extraño exigir que las personas proporcionen siempre información personal verdadera, completa y precisa cuando se trata de la política de privacidad de una aplicación de chat de IA diseñada para juegos de roles, relaciones inapropiadas y otras cosas similares. ¿Esto significa que no se puede usar un apodo para registrarse? ¿Que no puedes mentir cuando chateas con tu bot? ¿Que si cambias tu nombre y te olvidas informar a Chai AI estás infringiendo su política de privacidad? Todo nos parece bastante extraño y nos da la sensación de que quizás esta política de privacidad no está escrita teniendo en cuenta los servicios que ofrecen actualmente.

La tercera cosa que nos llamó mucho la atención fue esta historia de 2023 acerca de un usuario de Chai AI que se suicidó después de que uno de los chatbots lo alentara a hacerlo. Sí, cuando se trata de lo peor que puedes imaginar con un chatbot de IA, pocas cosas son más horribles que la situación en la que uno de ellos te anime a suicidarte cuando le hablas de lo deprimido(a) que estás. Chai AI recurre al crowdsourcing para muchos de los modelos de sus chatbots de IA y, si bien dicen que han implementado medidas para proporcionar «texto útil» en lo que consideran diálogos poco seguros, este es un muy buen recordatorio de que el mundo de los chatbots de IA diseñados específicamente para relacionarse con los usuarios, es bastante impredecible... una especie de lejano oeste.

En definitiva, entre nuestra incertidumbre sobre la confiabilidad de los modelos de IA de Chai, la vaguedad y falta de claridad en la manera en que están redactados sus documentos de privacidad, el hecho de que su política de privacidad no dice claramente que todos los usuarios pueden eliminar sus datos y el hecho de que no pudimos determinar si Chai AI cumple con nuestros estándares mínimos de seguridad confirmando que cifran tu información personal en tránsito y en el lugar donde se almacena, tenemos que advertirte que es muy probable que Chai AI venga con *Privacidad no incluida.

En ese sentido, te dejaremos con este buen recordatorio que encontramos en la propia política de privacidad de Chai AI: «Sin embargo, a pesar de nuestras salvaguardas y nuestros esfuerzos para proteger tu información, no es posible garantizar que las transmisiones electrónicas a través de Internet o las tecnologías de almacenamiento de información sean 100 % seguras, por lo que no podemos prometer ni garantizar que los piratas informáticos, los ciberdelincuentes u otros terceros no autorizados no puedan vulnerar nuestras medidas seguridad y recopilar, acceder, robar o modificar indebidamente tu información». Es bueno que siempre tengas esto en cuenta, ya sea que uses Chai AI o cualquier otra cosa que comparta tu información personal en Internet.

Consejos para protegerte

  • No digas nada que contenga información confidencial durante tus conversaciones con tu amigo de IA.
  • Solicita que se eliminen tus datos cuando dejes de usar la aplicación. El solo hecho de eliminar una aplicación de tu dispositivo no hace que se eliminen tus datos personales ni cierra tu cuenta.
  • No otorgues tu consentimiento para el seguimiento constante de geolocalización por parte de la aplicación. Es mejor que permitas la geolocalización «solo mientras la aplicación está en uso».
  • No compartas datos confidenciales en la aplicación.
  • No otorgues acceso a tus fotos, vídeo o cámara.
  • No inicies sesión con cuentas de terceros.
  • No te conectes a ningún tercero a través de la aplicación, o al menos asegúrate de que el tercero en cuestión tenga prácticas de privacidad decentes.
  • No digas nada que contenga información confidencial durante tus conversaciones con tu amigo de IA.
  • ¡Elige una contraseña segura! Puedes usar una herramienta de control de contraseñas como 1Password, KeePass, etc.
  • No utilices complementos de redes sociales.
  • Utiliza los controles de privacidad de tu dispositivo para limitar el acceso a tu información personal a través de la aplicación (no otorgues acceso a tu cámara, micrófono, imágenes y vídeos a menos que sea estrictamente necesario).
  • Actualiza tu aplicación con regularidad.
  • Limita el seguimiento de anuncios a través de tu dispositivo (por ejemplo, en un iPhone, dirígete a Privacidad -> Publicidad -> Limitar seguimiento) y de las redes publicitarias más grandes (en Google, ingresa a tu cuenta de Google y desactiva la personalización de anuncios).
  • Si puedes hacerlo, no aceptes el seguimiento de tus datos cuando estés realizando el proceso de registro.
  • mobile

¿Me puede espiar? Información

Cámara

Dispositivo: No aplica

Aplicación: No

Micrófono

Dispositivo: No aplica

Aplicación:

Rastrea la ubicación

Dispositivo: No aplica

Aplicación:

¿Qué se puede usar para registrarse?

Es posible registrarse a través de Google y Facebook.

¿Qué datos recopila la empresa?

¿Cómo utiliza la empresa estos datos?

Criticamos este producto porque pueden vender o compartir tus contribuciones (incluyendo textos, voz e imágenes) para publicidad, o utilizarlas para cualquier otro propósito.

Aviso de privacidad

«Toda la información personal que nos proporciones debe ser verdadera, completa y precisa, y debes notificarnos cualquier cambio en estos datos».

«Utilizamos la información que recopilamos o recibimos:
<...>
Para proteger nuestros servicios. Podemos utilizar tu información como parte de nuestros esfuerzos para mantener nuestros servicios seguros (por ejemplo, para el monitoreo y la prevención del fraude).
Para hacer cumplir nuestros términos, condiciones y políticas con fines comerciales, para cumplir con requisitos legales y reglamentarios o en relación con nuestro contrato.
Para responder a solicitudes legales y evitar daños. Si recibimos una citación u otra solicitud legal, es posible que tengamos que inspeccionar los datos que tenemos para determinar cómo responder.<...>\»

«Solo compartimos y divulgamos tu información con los siguientes terceros. <...>.
Permitir a los usuarios conectarse con sus cuentas de Google
Servicios en la nube Plataforma Google Cloud
Optimización de infraestructura y funcionalidad. Funciones en la nube para Firebase , Firebase Realtime Database y Firebase Hosting
Registro y autenticación de cuentas de usuario. Inicio de sesión de Google»

«Podemos utilizar cookies y tecnologías de seguimiento similares (como balizas web y píxeles) para acceder o almacenar información. La información específica sobre cómo usamos dichas tecnologías y cómo puedes rechazar ciertas cookies se establece en nuestro aviso de cookies».

«Podemos utilizar tu información personal para nuestros propios fines comerciales, por ejemplo, para realizar investigaciones internas para el desarrollo tecnológico y la demostración. Esto no se considera una “venta” de tus datos personales».

«Proveedores, consultores y otros terceros proveedores de servicios. Podemos compartir tus datos con proveedores externos, proveedores de servicios, contratistas o agentes que prestan servicios para nosotros o en nuestro nombre, y que requieren acceso a dicha información para realizar esa tarea. Los ejemplos incluyen: procesamiento de pagos, análisis de datos, entrega de correos electrónicos, servicios de alojamiento, servicio al cliente e iniciativas de marketing. Podemos permitir que terceros seleccionados utilicen tecnología de seguimiento en los servicios, lo que les permitirá recopilar datos en nuestro nombre sobre cómo interactúas con nuestros servicios a lo largo del tiempo. Esta información se puede utilizar, entre otras cosas, para analizar y rastrear datos, determinar la popularidad de ciertos contenidos, páginas o funciones, y comprender mejor la actividad en línea. A menos que se indique en este aviso, no compartimos, vendemos, alquilamos ni intercambiamos tu información con terceros para sus fines promocionales. Tenemos contratos vigentes con nuestros procesadores de datos, diseñados para ayudar a proteger tu información personal. Esto significa que no pueden hacer nada con tu información personal a menos que les hayamos dado instrucciones para hacerlo. Tampoco compartirán tu información personal con ninguna organización aparte de nosotros. También se comprometen a proteger los datos en nuestro nombre y a conservarlos durante el período que les indiquemos».

Acuerdo de licencia de usuario final

«Reconoces que el licenciatario podrá acceder y ajustar el contenido de tu aplicación con licencia descargada y tu información personal, <...>\
Reconoces que el licenciatario puede recopilar y utilizar periódicamente datos técnicos e otra información relacionada sobre tu dispositivo, sistema y software de la aplicación, y periféricos, así como ofrecer soporte de productos, facilitar las actualizaciones de software y proporcionarte otros servicios (si los hubiera) relacionados con la aplicación con licencia. El licenciatario también puede usar esta información para mejorar sus productos o para proporcionarte servicios o tecnologías, siempre que sea de una forma que no te identifique personalmente».

La aplicación con licencia puede invitarte a chatear, contribuir o participar en blogs, tableros de mensajes, foros en línea y otras funcionalidades, y puede brindarte la oportunidad de crear, enviar, publicar, mostrar, realizar, publicar, distribuir o transmitir contenidos y materiales a nosotros o en la aplicación con licencia, lo que incluye, entre otros: textos, escritos, vídeos, audios, fotografías, gráficos, comentarios, sugerencias o información personal u otro material (colectivamente, «Contribuciones»). Las contribuciones pueden ser visibles para otros usuarios de la aplicación con licencia y a través de sitios web o aplicaciones de terceros. Como tal, cualquier contribución que transmitas puede tratarse como no confidencial y no propietaria. Al crear o poner a disposición una contribución, declaras y garantizas que:

La creación, distribución, transmisión, exhibición pública o interpretación, y el acceso, descarga o copia de tus contribuciones no infringen ni infringirán los derechos de propiedad, incluidos, entre otros, los derechos de autor, patentes, marcas comerciales, secretos comerciales o derechos morales, de terceros.
2. Eres el creador y propietario de tus contribuciones o tienes las licencias, derechos, consentimientos, liberaciones y permisos necesarios para usar y autorizarnos a nosotros, a la aplicación con licencia y a otros usuarios de la aplicación con licencia a usar tus contribuciones de cualquier manera contemplada por la aplicación con licencia y este acuerdo de licencia.
3. Tienes el consentimiento, la cesión o el permiso por escrito de todas y cada una de las personas individuales identificables en tus contribuciones, para usar el nombre o la imagen o todas y cada una de ellas con el fin de permitir la inclusión y el uso de tus contribuciones de cualquier manera contemplada por la aplicación con licencia y este acuerdo de licencia.
4. Tus contribuciones no son falsas, inexactas o engañosas.
5. Tus contribuciones no son publicidad no solicitada o no autorizada, materiales promocionales, esquemas piramidales, cartas en cadena, spam, correos masivos u otras formas de solicitud.
6. Tus contribuciones no son obscenas, lascivas, sucias, violentas, acosadoras, difamatorias, calumniosas u objetables (según lo determinemos nosotros).
7. Tus contribuciones no ridiculizan, se burlan, menosprecian, intimidan ni abusan de nadie.
8. Tus contribuciones no se utilizan para acosar o amenazar (en el sentido legal de esos términos) a ninguna persona o para promover la violencia contra una persona o clase específica de personas.
9. Tus contribuciones no infringen ninguna ley, regulación o regla aplicable.
10. Tus contribuciones no violan los derechos de privacidad o publicidad de ningún tercero.
11. Tus contribuciones no violan ninguna ley aplicable relativa a la pornografía infantil, ni están relacionadas con la salud o el bienestar de los menores.
12. Tus contribuciones no incluyen ningún comentario ofensivo relacionado con la raza, el origen nacional, el género, la preferencia sexual o la discapacidad física.
13. Tus contribuciones no violan ninguna disposición de este acuerdo de licencia o cualquier ley o regulación aplicable, ni contienen enlaces a materiales que lo hagan».

«Al publicar tus contribuciones en cualquier parte de la aplicación con licencia o hacer que las contribuciones sean accesibles a la aplicación con licencia vinculando tu cuenta de la aplicación con licencia a cualquiera de tus cuentas de redes sociales, declaras y garantizas automáticamente que tienes el derecho de otorgarnos, sin restricciones y de manera ilimitada, el derecho irrevocable, perpetuo, no exclusivo, transferible, libre de regalías, totalmente pagado y mundial para alojar, usar, copiar, reproducir, divulgar, vender, revender, publicar, difundir, retirar, archivar, guardar, almacenar en caché, mostrar públicamente, reformatear, traducir, transmitir, extraer (en su totalidad o en parte) y distribuir dichas contribuciones (que incluye, entre otras cosas, tu imagen y tu voz) para cualquier propósito, publicidad comercial o de otro tipo, y para preparar trabajos derivados o incorporarlo en otros trabajos, como contribuciones, y otorgar y autorizar sublicencias de lo anterior. El uso y la distribución puede llevarse a cabo en cualquier formato y a través de cualquier canal».

Rastreadores de datos encontrados
Descubrimos 58 rastreadores en 1 minuto de uso, incluido el envío de datos a Applovin (rastreador de marketing), Facebook, Chai Research.

¿Cómo puedes controlar el uso de tus datos?

No podemos confirmar si todos los usuarios, independientemente de su ubicación, pueden eliminar sus datos.

Aviso de privacidad

«De acuerdo con las leyes aplicables de tu país, es posible que tengas derecho a solicitar acceso a la información personal que recopilamos de ti, así como a cambiarla o eliminarla en algunas circunstancias. Para solicitar revisar, actualizar o eliminar tu información personal, escribe a: [email protected]. Responderemos a tu solicitud en un plazo de 30 días».

«Solo conservaremos tu información personal durante el tiempo que sea necesario para los fines establecidos en este aviso de privacidad, a menos que la ley exija o permita un período de retención más prolongado (por ejemplo, para impuestos, contabilidad u otros requisitos legales). Ningún propósito de este aviso requerirá que retengamos tu información personal por más tiempo que el período en el que los usuarios tienen una cuenta con nosotros.

Cuando no tengamos una necesidad comercial legítima en curso para procesar tu información personal, la eliminaremos o la anonimizaremos o, si esto no es posible (por ejemplo, porque tu información personal se ha almacenado en archivos de respaldo), la almacenaremos de forma segura y la aislaremos de cualquier procesamiento posterior hasta que sea posible su eliminación».

¿Qué historial tiene la compañía en cuanto a la protección de los datos de los usuarios?

Promedio

No se han descubierto filtraciones de datos conocidas en los últimos tres años.

Información sobre privacidad infantil

No se ha encontrado información sobre restricciones de edad.

«Si eres menor de 18 años, resides en California y tienes una cuenta registrada en un servicio, tienes derecho a solicitar la eliminación de los datos no deseados que hayas hecho públicos en los servicios. Para solicitar la eliminación de dichos datos, comunícate con nosotros utilizando la información de contacto que se proporciona a continuación e incluye la dirección de correo electrónico asociada con tu cuenta y una declaración de que resides en California. Nos aseguraremos de que los datos no se muestren públicamente en los servicios, sin embargo, ten en cuenta que es posible que los datos no se eliminen completa o exhaustivamente de todos nuestros sistemas (p. ej., copias de seguridad, etc.)».

¿El producto se puede usar sin conexión?

No

¿La información de privacidad es fácil de entender?

No

Encontramos dos enlaces diferentes a la política de privacidad de Chai AI en las páginas de las tiendas de Apple y Google Play. Además, la única política de privacidad que pudimos encontrar se actualizó por última vez en marzo de 2021, lo que nos parece demasiado tiempo para el vertiginoso mundo de los chatbots de IA. La política de privacidad estaba redactada de manera vaga y no mencionaba nada acerca de cómo se manejan las conversaciones de chat para entrenar la IA.

Enlaces a información de privacidad

¿El producto cumple nuestros estándares mínimos de seguridad? Información

Desconocido

Cifrado

No se puede determinar

No podemos confirmar que haya cifrado en reposo y en tránsito en esta aplicación.

Contraseña fuerte

No aplica

Actualizaciones de seguridad

Gestiona las vulnerabilidades

Política de privacidad

¿El producto usa IA? Información

No podemos confirmar si la IA utilizada por este producto es confiable, porque hay poca o ninguna información pública sobre cómo funcionan los modelos de IA y qué controles de usuario existen para hacer que el producto sea seguro. También encontramos temas inquietantes en los contenidos de la aplicación. Además, nos preocupa el potencial de manipulación del usuario desde esta aplicación, ya que recopila información personal confidencial y puede usar esos datos para entrenar a los modelos de IA, y los usuarios tienen poco o ningún control sobre esos algoritmos de IA.

Chai Research afirma que supera a ChatGPT en rendimiento. «Al ejecutar pruebas AB con usuarios reales, nuestro último modelo supera el rendimiento de OpenAI ChatGPT, según lo medido por el tiempo en pantalla de la sesión».

«Podría decirse que el servicio más importante que alojamos es nuestro servicio de respuesta a bots: el programa que se encarga en última instancia de analizar los mensajes de los usuarios a los bots y reenviarlos a nuestros modelos para obtener inferencias. Estos modelos están alojados en un impresionante clúster de Kubernetes de 700 GPU alojado por los colegas de CoreWeave».

¿Es poco confiable esta IA?

¿Qué tipo de decisiones toma la IA acerca de ti o por ti?

Chai emplea modelos de lenguaje grande para proporcionar bots y otros servicios.

¿La empresa es transparente acerca del funcionamiento de la IA?

Chai proporciona descripciones sobre cómo funciona la parte técnica en la aplicación.

¿Tiene el usuario control sobre las características de la IA?

No

En marzo de 2023, se informó que un usuario de Chai AI se suicidó después de que el chatbot lo alentara a hacerlo. Encontramos muchos contenidos dañinos (incluso perturbadores temas violentos y abusivos) en esta aplicación.
*Privacidad no incluida

Profundiza más

  • 'He Would Still Be Here': Man Dies by Suicide After Talking with AI Chatbot, Widow Says
    Motherboard El enlace se abrirá en una nueva pestaña
  • Chatbot Honeypot: How AI Companions Could Weaken National Security
    Scientific American El enlace se abrirá en una nueva pestaña
  • 5 Things You Must Not Share With AI Chatbots
    Make Use Of El enlace se abrirá en una nueva pestaña
  • Chai Prize: Deploying LLMs to end-users at scale
    Chai Research El enlace se abrirá en una nueva pestaña
  • ‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AI
    Rolling Stone El enlace se abrirá en una nueva pestaña

Comentarios

¿Tienes algún comentario? Queremos escucharte.