Advertencia: *Privacidad no incluida con este producto

Chatbots de IA para relaciones Día de San Valentín

CrushOn.AI

Peekaboo Tech Inc.

Wifi

Fecha de la reseña: 7 de febrero de 2024

Mozilla investigó durante 8 horas

Mozilla dice

La gente votó: Muy siniestro

¡Espera! CrushOn tiene contenidos realmente inquietantes. Ten cuidado antes de hacer clic.

Los compañeros de IA de la marca CrushOn.AI son personajes animados. ¡Incluso puedes diseñar uno a tu gusto! Sin embargo, un rápido vistazo a su catálogo nos muestra que el arte imita la vida, ya que verás algunas caras conocidas. Esto significa que si alguna vez has soñado con tener una charla picante con Sailor Moon, Sonic the Hedgehog, Ghostface (de las películas de Scream) o con un hombre musculoso con una pirámide por cabeza, tu larga espera ha terminado. Desafortunadamente, antes de que puedas dejar volar tu imaginación, tendrás que navegar por una red de sitios web muy confusos e incompletos que hacen que sea prácticamente imposible descubrir qué es legítimo. Tienen una página vacía en la App Store, con una página falsa de un chatbot competidor que enlaza con CrushOn en su lugar, y una página de «CrushOn pro» que te enlaza con un chatbot inapropiado totalmente diferente. Luego está el hecho de que su página de Google Play Store enlaza con el acuerdo de usuario de Apple en lugar del suyo. ¿Eh? Todo eso, más tres críticas nuestras y contenidos espeluznantes, es igual a: *Privacidad (definitivamente) no incluida con CrushOn.AI.

¿Qué podría pasar si algo falla?

¿Sabes el vértigo que sentimos al profundizar un poco en CrushOn? Una inmersión más profunda no ayudó. La política de privacidad de CrushOn indica que recopilan algunos datos realmente confidenciales –que incluye información sobre tu salud mental y física– y puede compartirlos o usarlos para sus propios fines comerciales. Cuando no los están regalando, nos preocupa que tus datos puedan ser vulnerados, ya que no podemos confirmar que CrushOn cumpla con nuestros estándares mínimos de seguridad.

Otra cosa: los chatbots de CrushOn parecen estar configurados para infringir los términos y los estándares comunitarios de la aplicación. Así que no podemos evitar preguntarnos quién es el responsable si tu conversación entra en «territorio prohibido»... Todo indica que serías tú. Entonces, aunque inventar tu propio personaje y entablar una conversación con él suena genial, no podemos recomendarte que lo hagas... CrushOn.AI viene con *Privacidad no incluida.

Esto es algo que creemos que todos los usuarios deberían saber antes de usar CrushOn. Parece que hay una gran brecha entre la letra pequeña de las guías comunitarias y los términos de uso y lo que sucede realmente en la aplicación y el sitio web. En la primera página de los compañeros de IA inapropiados en su sitio web, CrushOn muestra personajes con imágenes y descripciones que sugieren *cosas perturbadoras*. Pero muchas de esas *cosas perturbadoras* están explícitamente en contra de las pautas de la comunidad de CrushOn. Luego, cuando abres un chat, te encuentras con un pequeño descargo de responsabilidad que dice «¡Todo lo que dice la IA es falso! Por favor, respeta tus leyes locales. No puedes conversar sobre menores de edad, suicidio o temas delictivos». Pero justo debajo de eso hay un párrafo de introducción de personajes que a veces incluye descripciones de esos temas prohibidos. Es confuso, engañoso y, junto con el laberinto de sitios web reales y falsos asociados con CrushOn, nos preguntamos si vale la pena confiar nuestros datos a este servicio.

Y eso es preocupante porque CrushOn puede recopilar mucha información personal confidencial sobre ti. Además de la información de tu cuenta –como tus datos de contacto y financieros– CrushOn puede recopilar datos de audio y visuales (como correos de voz y otras grabaciones), información sobre tu dispositivo o navegador (como la dirección IP), datos de ubicación y datos de identidad (como tu raza, etnia, edad y género) y datos biométricos (como imágenes de tu cara, patrones de pulsación de teclas y grabaciones de tu voz). ¡Vaya! CrushOn también puede recopilar una cantidad sorprendente de datos de salud. De verdad. En la política de privacidad, la expresión «datos de salud» se menciona 23 veces. Esa información puede incluir «Afecciones de salud, tratamientos, enfermedades o diagnósticos individuales; intervenciones sociales, psicológicas, conductuales y médicas; uso de medicamentos recetados; información de atención relativa a la afirmación de género; información de salud reproductiva o sexual» y más. ¿Qué demonios? A este ritmo, CrushOn podría saber más sobre ti que tus seres queridos de la vida real.

¿Cómo consiguen esa información? Veamos... La política de privacidad enumera los chats y la creación de personajes como fuente de información personal y de salud. También dice que ambos se pueden usar para «entrenar modelos de IA» y para la amplia e imprecisa categoría de «fines empresariales». No nos gusta nada cómo suena eso. CrushOn también puede recopilar datos personales automáticamente de tu dispositivo y por parte de terceros (como redes sociales y proveedores de servicios). Y CrushOn puede utilizar todo tipo de información personal para «fines comerciales», lo que incluye anuncios y marketing de acuerdo con la política de privacidad. ¡Guau! Es extraño que la política de privacidad de CrushOn parece entender que tus chats inapropiados pueden tener información realmente sensible, pero no parece tratar esos datos de manera diferente. Eso es audaz, CrushOn. Ah, ¿ya mencionamos que CrushOn puede «crear e inferir» datos en función de lo que saben sobre ti? Estos también se pueden utilizar para «fines comerciales» y «fines empresariales».

No vamos a mentir: todo pinta una imagen realmente mala para la privacidad de CrushOn. Pero también tenemos algunas preocupaciones de seguridad. No pudimos determinar si algo de esta información súper sensible está encriptada y si CrushOn cuenta con una forma de gestionar las vulnerabilidades de seguridad. Eso da miedo porque significa que existe un riesgo mucho mayor de que tu información se filtre por error o sea vulnerada intencionalmente. Además, con respecto a si otras partes pueden obtener acceso a tus datos, CrushOn dice que pueden compartir tu información personal (¡lo que potencialmente incluye información de salud!) con terceros (como proveedores, proveedores de servicios y para «Divulgación legal») y con afiliados (como su empresa matriz Peekaboo Tech Inc. también Peekaboo Tech Ltd. y Peekaboo Game Ltd.). ¡Eso es una gran cantidad de problemas de privacidad potenciales!

Todo esto abre un mundo de preocupaciones. Nos preocupa que humanos (y CrushOn) puedan tomar en serio las cosas perturbadoras que los chatbots podrían decir. Aunque en primer lugar nos preocupa lo que los chatbots podrían decir, especialmente a los menores. Lo que nos lleva a otra preocupación: la política de privacidad dice que los usuarios deben ser mayores de 18 años, pero todo lo que los usuarios tienen que hacer para «demostrar» que son mayores es marcar una casilla. Como ya mencionamos, nos preocupa quién tendrá que hacerse responsable si tu chat se sale de lo que técnicamente permiten las guías comunitarias (que aceptas implícitamente como parte de los términos de uso). Porque, aunque los términos dicen que le das permiso a CrushOn para usar (o «reproducir, distribuir, preparar trabajos derivados, mostrar, publicar, transmitir, realizar, hacer, usar, importar, ofrecer vender, vender...») el contenido que envías, en última instancia, sigues siendo «el único responsable de tus envíos de usuario y de las consecuencias de publicarlos».

Sumado a esto, «CrushOn cooperará plenamente con cualquier autoridad policial u orden judicial que solicite u ordene a CrushOn que revele la identidad de una persona que infrinja estos [términos de uso]». También se habla mucho en esos términos de que CrushOn no será legalmente responsable si ocurre algo malo como resultado de tu uso del servicio. Específicamente, dice «EN NINGÚN CASO LAS PARTES DE CRUSHON, APPLE O GOOGLE SERÁN RESPONSABLES ANTE TI O CUALQUIER TERCERO POR NINGÚN DAÑO DIRECTO, INDIRECTO, INCIDENTAL, ESPECIAL, PUNITIVO O CONSECUENTE QUE RESULTE DEL SERVICIO». Esto también nos preocupa porque a veces suceden cosas malas como resultado de conversaciones románticas con un chatbot de IA.

¿Qué es lo peor que podría pasar con CrushOn? Nos preocupa que la naturaleza de «hágalo ud. mismo» de los chatbots románticos de IA de CrushOn pueda animar a los usuarios a dejar volar sus costados más extraños, lo cual, no nos malinterpreten, no tiene absolutamente nada de malo. Nuestra preocupación es que, al ondear tu encantador costado bizarro, podrías estar revelando información muy personal y vulnerable a una empresa que no tiene las mejores prácticas de privacidad, seguridad y transparencia con respecto a su IA. Es decir, todas esas conversaciones que tienes con Pyramid Head Guy donde le cuentas tu deseo de atacar la Tumba del Rey Tut podrían usarse en tu contra, ya sea porque se filtran por error o porque se comparte con fines de marketing. No estamos seguros de que te vaya a gustar ver esos anuncios.

Consejos para protegerte

No digas nada que contenga información confidencial durante tus conversaciones con tu amigo de IA.
Solicita que se eliminen tus datos cuando dejes de usar la aplicación. El solo hecho de eliminar una aplicación de tu dispositivo no hace que se eliminen tus datos personales ni cierra tu cuenta.
No otorgues tu consentimiento para el seguimiento constante de geolocalización por parte de la aplicación. Es mejor que permitas la geolocalización «solo mientras la aplicación está en uso».
No compartas datos confidenciales en la aplicación.
No otorgues acceso a tus fotos, vídeo o cámara.
No inicies sesión con cuentas de terceros.
No te conectes a ningún tercero a través de la aplicación, o al menos asegúrate de que el tercero en cuestión tenga prácticas de privacidad decentes.
No digas nada que contenga información confidencial durante tus conversaciones con tu amigo de IA.
¡Elige una contraseña segura! Puedes usar una herramienta de control de contraseñas como 1Password, KeePass, etc.
No utilices complementos de redes sociales.
Utiliza los controles de privacidad de tu dispositivo para limitar el acceso a tu información personal a través de la aplicación (no otorgues acceso a tu cámara, micrófono, imágenes y vídeos a menos que sea estrictamente necesario).
Actualiza tu aplicación con regularidad.
Limita el seguimiento de anuncios a través de tu dispositivo (por ejemplo, en un iPhone, dirígete a Privacidad -> Publicidad -> Limitar seguimiento) y de las redes publicitarias más grandes (en Google, ingresa a tu cuenta de Google y desactiva la personalización de anuncios).
Si puedes hacerlo, no aceptes el seguimiento de tus datos cuando estés realizando el proceso de registro.

mobile

¿Me puede espiar?

Cámara

Dispositivo: No aplica

Aplicación: No

Micrófono

Dispositivo: No aplica

Aplicación: No

Rastrea la ubicación

Dispositivo: No aplica

Aplicación: Sí

¿Qué se puede usar para registrarse?

Puedes registrarte a través de Google, Apple y Discord

¿Qué datos recopila la empresa?

Información personal

Datos de audio/visuales: vídeos, imágenes, grabaciones, imágenes de avatar, fotos de personajes, correos de voz y otras grabaciones; Datos de contacto: dirección de correo electrónico, dirección postal, número de teléfono; Datos de dispositivos o redes: identificadores de dispositivo, dirección IP, identificadores de cookies, historial de sesiones, metadatos de navegación; Otros datos generados a través de cookies y tecnologías similares; Datos financieros: detalles de la cuenta bancaria, información de la tarjeta de pago, información relevante en relación con las transacciones financieras; Datos de ubicación general: datos de ubicación no precisa, p. ej., información de ubicación derivada de direcciones IP; Datos de identidad: nombre, género, raza/etnia, fecha de nacimiento, edad o rango etario, detalles de inicio de sesión de la cuenta, otros identificadores o nombres de usuario de la cuenta; Datos de inferencia: preferencias, características, aptitudes, segmentos de mercado, gustos, favoritos o intereses; Datos de transacción: información sobre transacciones; Contenido de usuario: sesión de chat de IA.

Información biométrica

«Afecciones de salud, tratamientos, enfermedades o diagnósticos individuales; intervenciones sociales, psicológicas, conductuales y médicas; uso de medicamentos recetados; información sobre atención relacionada con la afirmación de género; información de salud reproductiva o sexual; datos que identifican a un consumidor que busca “servicios de atención médica” según se definen en la Ley “Mi Salud, Mis Datos” de Washington; inferencias; datos biométricos».

¿Cómo utiliza la empresa estos datos?

Criticamos este producto porque puede recopilar una gran cantidad de datos de salud y otra información altamente confidencial, y compartirlos; también porque permite que controladores de datos externos obtengan acceso a tu información personal con fines publicitarios, y utiliza tu contenido de usuario y tus datos de identidad en las plataformas de redes sociales.

Política de privacidad

«Podemos utilizar datos de identidad, datos de transacciones, datos de contacto y datos de dispositivos o redes con fines comerciales. No vendemos ni “compartimos” datos de pago o datos de salud, ni los usamos para fines comerciales no permitidos por las leyes aplicables».

«Para proporcionar nuestro servicio, podemos recopilar y utilizar información que se define como información personal según las leyes de privacidad aplicables <...> Recopilamos y utilizamos las siguientes categorías de información personal (ten en cuenta que los elementos específicos de información personal son ejemplos y podrían cambiar)
<...>
Datos de salud del consumidor: Información personal vinculada o razonablemente vinculable a un consumidor y que identifica la condición física pasada, presente o futura del consumidor, o el estado de salud mental según se define en la Ley “Mi Salud, Mis Datos” de Washington y otras leyes de privacidad de datos de salud del consumidor <...>\»

«Nosotros y ciertos terceros utilizamos la información personal para promover nuestros intereses comerciales o económicos <...> dependiendo del contexto de la recopilación y de tus derechos y opciones.

Marketing en línea: Podemos realizar publicidad en línea en nuestro servicio <...> para aumentar la participación en nuestra plataforma y ayudar a más personas a descubrir la mejor experiencia de IA. Esta forma de publicidad involucra a varias partes y proveedores de servicios, que incluyen controladores de datos externos, que utilizan la información personal para entregar y adaptar los anuncios que ves.

Estas partes pueden recopilar información personal –como identificadores únicos, direcciones IP, información del dispositivo, sistema operativo o tipo de navegador– y otros datos similares, así como información sobre los anuncios que ves y visualizas, con el fin de desarrollar y evaluar aspectos de un perfil sobre ti para ofrecerte anuncios y ofertas más relevantes, para determinar si los anuncios que ves y la manera en que los ves son efectivos, y para habilitar y evaluar los anuncios nuestros que ves en otros sitios. Estos terceros pueden aumentar tu perfil con datos demográficos y otras preferencias que se deriven de estas observaciones, y también pueden realizar un seguimiento de si ves un anuncio, interactúas con él y con qué frecuencia lo has visto, o si realizas un compra de un bien o servicio que se te mostró en un anuncio. Es posible que estas partes puedan identificarte en todos los sitios, dispositivos y a lo largo del tiempo. Puedes controlar cómo estos terceros usan tus datos y los anuncios que ves en estas plataformas, utilizando las herramientas que se describen en la sección “Tus derechos y opciones” a continuación
<...>
Comunicaciones de marketing: Podemos enviarte comunicaciones promocionales y de marketing de conformidad con las leyes aplicables. Estas comunicaciones podrán personalizarse en función de tu perfil de usuario».

«Utilizamos datos de identidad, datos de contacto y contenido de usuario que publicas o con el que interactúas (p. ej., comentarios y publicaciones en redes sociales, etc.) en plataformas de redes sociales como TikTok, Reddit, Discord, Twitter y Telegram.

Utilizamos esta información personal para nuestros fines comerciales.

Las publicaciones pueden ser públicas o volver a publicarse en nuestro servicio. El contenido que proporciones puede estar disponible públicamente cuando lo publiques en nuestro servicio o, en algunos casos, si haces referencia, participas o etiquetas nuestras cuentas oficiales de redes sociales en las plataformas de redes sociales».

POLÍTICA DE PRIVACIDAD DE DATOS DE SALUD DEL CONSUMIDOR

«Recopilamos datos de salud del consumidor de varias fuentes, como: de ti, recopilados automáticamente, de proveedores de servicios, de plataformas de redes sociales y datos que creamos e inferimos».

CrushOn utiliza datos de salud confidenciales «para facilitar tu experiencia de chat, monitorear tus chats por seguridad y contenidos apropiados, y para nuestros fines comerciales. Podemos usar el contenido de usuario de los chats de personajes para entrenar nuestros modelos de IA».

«Podemos compartir las siguientes categorías de datos de salud del consumidor con terceros y afiliados específicos:

Afecciones de salud, tratamientos, enfermedades o diagnósticos individuales;
intervenciones sociales, psicológicas, conductuales y médicas;
uso de medicamentos recetados;
información de atención relacionada con la afirmación de género;
información de salud reproductiva o sexual;
datos que identifican a un consumidor que busca “servicios de atención médica”, como se define en la Ley “Mi Salud, Mis Datos” de Washington, también denominados “datos de identidad”;
cualquier información que nosotros o nuestro procesador respectivo usemos para asociarte o identificarte con los datos descritos anteriormente, que se deriven o extrapolen de información no relacionada con la salud (como datos indirectos, derivados, inferidos o emergentes por cualquier medio, incluidos algoritmos o aprendizaje automático), también denominados “datos de inferencia”; y
datos biométricos, según se define en la MHMDA».

«Podemos compartir datos de salud del consumidor con las siguientes categorías de terceros destinatarios: vendedores y proveedores de servicios; divulgación legal».

«Podemos compartir datos de salud del consumidor con las siguientes filiales: Peekaboo Tech Ltd., Peekaboo Tech Inc., Peekaboo Game Ltd.»

Rastreadores de datos encontrados
Descubrimos 45 rastreadores durante 1 minuto de uso, incluido el envío de datos a Doubleclick (rastreador de marketing).

¿Cómo puedes controlar el uso de tus datos?

No todos los usuarios pueden ejercer sus derechos como sujetos de datos.

Política de privacidad

«Las leyes aplicables podrían otorgarte derechos relativos a tu información personal. Estos derechos varían en función de tu ubicación y el estado o país de residencia, y pueden estar limitados o sujetos a nuestros propios derechos sobre tu información personal. Puedes enviar solicitudes para ejercer los derechos que puedas tener, poniéndote en contacto con nosotros en [email protected].

Nota: tenemos la capacidad para cumplir con las solicitudes de derechos con respecto a la información personal que controlamos o utilizamos. Es posible que no tengamos acceso o control sobre la información personal controlada por terceros. Para ejercer tus derechos sobre la información controlada por terceros, debes ponerte en contacto directamente con el tercero en cuestión».

«En virtud de la Ley “Mi Salud, Mis Datos” del estado de Washington, los residentes del estado de Washington y las personas físicas cuyos datos de salud del consumidor se recopilan en Washington pueden tener los siguientes derechos, sujetos a verificación, excepciones y limitaciones:

Derecho a confirmar/acceder/conocer: Hasta dos veces al año, tienes derecho a confirmar si estamos recopilando, compartiendo o vendiendo tus datos de salud del consumidor»

Derecho a eliminar: Tienes derecho a solicitar la eliminación de los datos de salud del consumidor que tenemos, tanto nosotros como nuestros afiliados, procesadores, contratistas y otros terceros».

«Conservamos la información personal durante el tiempo que sea razonablemente necesario para lograr los fines relevantes descritos en esta política, o durante el tiempo que lo exija la ley. Esta necesidad puede variar según el contexto y el propósito del uso. Por lo general, al determinar cuánto tiempo conservaremos los datos, consideramos los siguientes factores (entre otros):

Períodos de retención establecidos bajo las leyes aplicables;
mejores prácticas de la industria;
si es razonablemente probable que el propósito del uso justifique un uso posterior;
riesgos para la privacidad individual derivados del uso continuo;
evaluaciones aplicables del impacto en la protección de datos;
consideraciones o limitaciones relativas al diseño de sistemas de TI; y
costos asociados con el uso continuo, la retención y la eliminación.

Revisaremos periódicamente los períodos de retención, y podremos seudonimizar o anonimizar los datos retenidos durante períodos más prolongados».

«Otros usos de la información personal: si utilizamos la información personal en relación con nuestro servicio de una manera no descrita en esta política, esta política seguirá siendo de aplicación general (p. ej., con respecto a tus derechos y opciones) a menos que se indique lo contrario en el momento en que roporciones la información».

¿Qué historial tiene la compañía en cuanto a la protección de los datos de los usuarios?

Promedio

No se han descubierto filtraciones de datos conocidas en los últimos tres años.

Información sobre privacidad infantil

«Aunque queremos que la mayor cantidad posible de personas descubran la mejor experiencia de enamoramiento con IA, debes tener al menos 18 años para usar crushon.ai.

Crushon no recopila a sabiendas ninguna información personal ni comercializa sus productos a niños o personas menores de 18 años. Si nos enteramos de que un niño o cualquier persona menor de 18 años se ha registrado con nosotros o nos ha proporcionado información personal, tomaremos medidas para cancelar el registro de esa persona y eliminaremos de inmediato dicha información personal si así lo exige la ley».

¿El producto se puede usar sin conexión?

¿La información de privacidad es fácil de entender?

Enlaces a información de privacidad

¿El producto cumple nuestros estándares mínimos de seguridad?

Cifrado

No se puede determinar

No podemos confirmar que haya cifrado en reposo y en tránsito en esta aplicación.

Contraseña fuerte

No aplica

Actualizaciones de seguridad

Sí

Gestiona las vulnerabilidades

No se puede determinar

Política de privacidad

Sí

¿El producto usa IA?

Sí

No podemos confirmar si la IA utilizada por este producto es confiable, porque hay poca o ninguna información pública sobre cómo funciona la IA y qué controles de usuario existen para hacer que el producto sea seguro. También encontramos temas inquietantes en los contenidos de la aplicación. Además, nos preocupa el potencial de manipulación del usuario desde esta aplicación, ya que recopila información personal confidencial y puede usar esos datos para entrenar a los modelos de IA, y los usuarios tienen poco o ningún control sobre esos algoritmos de IA.

Los usuarios pueden crear sus propios chatbots o interactuar con los creados por otros usuarios o por los creadores de la aplicación. La plataforma tiene muchos contenidos dañinos, a los que se puede acceder fácilmente.

¿Es poco confiable esta IA?

Sí

¿Qué tipo de decisiones toma la IA acerca de ti o por ti?

¿La empresa es transparente acerca del funcionamiento de la IA?

No encontramos documentación ni políticas que expliquen cómo funciona la IA de este producto.

¿Tiene el usuario control sobre las características de la IA?

Al momento de escribir esta reseña, CrushOn.AI utilizaba la página chai-ai.app para invitar a las personas a ingresar a CrushOn. En las preguntas frecuentes dice «¿Es segura la IA de Chai? Chai AI se esfuerza por proporcionar una experiencia segura y agradable para los usuarios, pero al igual que en cualquier plataforma en línea, los usuarios deben permanecer atentos y usarla de manera responsable». Sin embargo, el contenido de CrushOn incluye temas como menores de edad, abuso sexual, emocional y físico, y otros temas potencialmente inquietantes.