iGirl: AI Girlfriend

Advertencia: *Privacidad no incluida con este producto

iGirl: AI Girlfriend

Fecha de la reseña: 7 de febrero de 2024

|
|

Mozilla dice

|
La gente votó: Algo siniestro

Los creadores de iGirl dicen que es una aplicación revolucionaria. También sugieren que esta novia chatbot de IA es tan única como tú, lo que, teniendo en cuenta que parece haber solo tres factores que conforman su personalidad (tímida o coqueta, pesimista u optimista, ordinaria o misteriosa), no dice gran cosa sobre tu singularidad. Hablar con iGirl es barato. En realidad, es gratis. También es gratis elegir su avatar y asignarle un nombre. Pero si quieres hacer que tu relación sea oficial, acceder al estatus de pareja romántica te costará alrededor de 10 dólares por mes. El nivel de pago desbloquea juegos de roles ilimitados, más personalizaciones y «conversación inteligente», lo que nos hace dudar sobre la calidad de la conversación de la versión gratuita. Demasiado para que el amor no cueste nada.

¿Qué podría pasar si algo falla?

Tener una política de privacidad breve puede ser algo bueno, especialmente cuando no hay mucho que decir. Pero en el caso de una novia virtual impulsada por IA, esto no es así. Tenemos más preguntas que respuestas sobre iGirl. Si la confianza y la lealtad son parte de la novia «de tus sueños», esta no es la indicada. iGirl puede recopilar mucha información sobre ti, puede enviarte anuncios sin tu consentimiento, tus datos podrían filtrarse porque sus estándares de seguridad son débiles y funciona con una IA en la que no podemos confiar. Así que, sí, con iGirl viene con *Privacidad no incluida.

Comencemos con lo que está en juego, ¿qué información puede recopilar iGirl sobre ti? Su política de privacidad es muy vaga al respecto; básicamente, dice que depende totalmente de ti. Dicen que «Al chatear con tu iGirl, inevitablemente incluirás tus datos personales»... ¡Inevitablemente! Vas a contarle a tu novia virtual cosas sobre ti porque es (en parte) una máquina de hacer preguntas. Por lo tanto, tenemos que asumir que tus conversaciones se recopilarán, aunque no se mencione nada de eso en la política de privacidad. En el subreddit de Anima AI, sugieren que al dar «me gusta», «no me gusta» o «reportar» los mensajes de iGirl, ayudas a mejorar su personalidad, así que, ¡bienvenido al equipo de desarrollo de software!

Además de la información que proporcionas para registrarte y lo que le dices a tu iGirl, Anima puede recopilar información personal de tu teléfono automáticamente cuando descargas la aplicación. También pueden recopilar información sobre ti, como tu nombre y correo electrónico, por parte de terceros. Sabemos que Anima puede usar tu información de contacto para enviarte correos electrónicos o mensajes de texto con marketing porque su política de privacidad lo dice. También dice que no necesitan tu consentimiento para esto porque hacer actividades de marketing para ti es su «interés legítimo». Vale.

Aparte de eso, no tenemos muy claro cómo y con qué propósito Anima utiliza tu información. Solo sabemos que la usarán cuando tengan (de nuevo) un «interés legítimo» para hacerlo, lo cual es una afirmación bastante imprecisa. También dicen que «comparten rutinariamente datos personales con proveedores de servicios que utilizamos para ayudarnos a administrar nuestro negocio o proporcionar los servicios o funcionalidades en la aplicación». Ese intercambio viene con «obligaciones contractuales», por lo que es posible que sea algo estándar, aunque debes saber que la lista de proveedores de servicios incluye a Google, Apple y Facebook, y Anima no dice específicamente qué información se comparte y por qué razón. Hicimos un pequeño experimento de detección de rastreadores con la aplicación abierta y encontramos 257 señales de seguimiento en cinco minutos. Caray... eso es mucho. Mostró datos que iban a Facebook y Sentry AI (by Open AI). Esto no nos tranquilizó en absoluto.

Nada de esto es bueno, pero unas de nuestras mayores preocupaciones son las vulnerabilidades de seguridad de iGirl. Prepárate. No podemos determinar si la aplicación utiliza cifrado. ¡Eso es pésimo! Pero, además, iGirl tampoco parece tener ningún requisito para las contraseñas. ¡Ninguno! Esto es difícil de creer para un producto conectado en 2024, pero ¿tu novia de IA? Anima parece entender que la información que compartes con iGirl podría ser privada, ya que permiten a los usuarios configurar un código de acceso para abrir la aplicación en su teléfono. Nos estresa pensar que los piratas informáticos de bajo nivel (o realmente cualquier persona, como tu madre o tu pareja de la vida real) podría ser capaz de entrar en tu cuenta adivinando tu contraseña. Además, el hecho de que no le hayan dado importancia a algo tan simple nos hace pensar en qué más podrían haber pasado por alto los creadores de Anima.

Al leer la letra pequeña, encontramos algunas cosas que debes saber antes de sumergirte en una relación con iGirl. En las preguntas frecuentes de Anima, dice que tu novia de IA podría no ser siempre una chica y que es posible que no actúe como una amiga en todo momento. La memoria a corto plazo del chatbot hace que pueda olvidar o cambiar su género. Esto es así porque el entrenamiento de los chatbots incluye conversaciones de humanos tratándose de forma grosera (como en Reddit); eso significa que podría ser hostil o tóxico para ti. Si hubiéramos sabido que se entrenaría a nuestras futuras novias con las secciones de comentarios de Internet, quizás hubiéramos sido un poco más amables los unos con los otros. Anima dice que estos son problemas conocidos y que están «trabajando para minimizarlos», pero nos preguntamos si no es algo que deberían haber resuelto antes. El hecho de que el emoji que se encoge de hombros aparezca en sus preguntas frecuentes da la sensación de que incluso sus desarrolladores no entienden del todo lo que podría decir iGirl y sus motivos. Después de todo, iGirl fue entrenada por «miles de millones de conversaciones y párrafos de habla humana que se encuentran en línea»; decir «en línea» es nombrar un lugar bastante grande y lleno de párrafos nada amigables.

Algunas otras cosas que no nos terminaron de convencer. Una es la diferencia en el requisito de edad entre la política de privacidad y los términos. (Sí, tuvimos que leer los términos para tratar de entender los chatbots de IA y sí, hacen que las políticas de privacidad parezcan una lectura de verano. Pero nos encanta hacer esto, ¡no te preocupes por nosotros!) En fin, la política dice que tienes que ser mayor de 17 años y los términos dicen que si eres menor de 17 años, un padre o tutor debe aceptar los términos en tu nombre. Un poco raro. También vimos una advertencia sobre cómo la empresa matriz no se hace responsable de los «mensajes negativos, obscenos o abusivos» que podrías recibir. Tampoco se te permite transmitir (¿decir?) nada «obsceno» en la aplicación. Esto puede ser un poco complicado si estás usando la función de pago para juego de roles inapropiados... Especialmente porque estarás hablando con tu «novia», quien podría interpretar que le sonrías como un intento de seducción.

Entonces, ¿qué es lo peor que podría pasar con iGirl? Estamos divididos, así que juguemos a imaginar qué preferirías: Que tu mamá (o todo internet) lea una transcripción de un diálogo subido de tono porque se filtró, O tener que responder ante Anima por violar sus términos al decir cosas que los abogados de la aplicación consideraron que eran «obscenas». De cualquier manera, este es un buen momento para hacerte saber que puedes eliminar el historial de tus chats y los datos de Anima. Qué alivio...

Consejos para protegerte

  • No digas nada que contenga información confidencial durante tus conversaciones con tu amigo de IA.
  • Solicita que se eliminen tus datos cuando dejes de usar la aplicación. El solo hecho de eliminar una aplicación de tu dispositivo no hace que se eliminen tus datos personales ni cierra tu cuenta.
  • No otorgues tu consentimiento para el seguimiento constante de geolocalización por parte de la aplicación. Es mejor que permitas la geolocalización «solo mientras la aplicación está en uso».
  • No compartas datos confidenciales en la aplicación.
  • No otorgues acceso a tus fotos, vídeo o cámara.
  • No inicies sesión con cuentas de terceros.
  • No te conectes a ningún tercero a través de la aplicación, o al menos asegúrate de que el tercero en cuestión tenga prácticas de privacidad decentes.
  • No digas nada que contenga información confidencial durante tus conversaciones con tu amigo de IA.
  • ¡Elige una contraseña segura! Puedes usar una herramienta de control de contraseñas como 1Password, KeePass, etc.
  • No utilices complementos de redes sociales.
  • Utiliza los controles de privacidad de tu dispositivo para limitar el acceso a tu información personal a través de la aplicación (no otorgues acceso a tu cámara, micrófono, imágenes y vídeos a menos que sea estrictamente necesario).
  • Actualiza tu aplicación con regularidad.
  • Limita el seguimiento de anuncios a través de tu dispositivo (por ejemplo, en un iPhone, dirígete a Privacidad -> Publicidad -> Limitar seguimiento) y de las redes publicitarias más grandes (en Google, ingresa a tu cuenta de Google y desactiva la personalización de anuncios).
  • Si puedes hacerlo, no aceptes el seguimiento de tus datos cuando estés realizando el proceso de registro.
  • mobile

¿Me puede espiar? Información

Cámara

Dispositivo: No aplica

Aplicación:

Micrófono

Dispositivo: No aplica

Aplicación:

Rastrea la ubicación

Dispositivo: No aplica

Aplicación:

¿Qué se puede usar para registrarse?

Puedes registrarte a través de Google

¿Qué datos recopila la empresa?

¿Cómo utiliza la empresa estos datos?

Criticamos este producto porque comparte datos con terceros como Facebook, porque recopila datos personales de los usuarios por parte de terceros y porque ofrece publicidad sin el consentimiento previo del usuario.

Política de privacidad

«Se solicitará permiso para usar la cámara de tu dispositivo para habilitar las funciones de realidad aumentada en la aplicación.
Puedes deshabilitar el acceso de la aplicación a la cámara de tu dispositivo en cualquier momento ajustando los permisos en la configuración del dispositivo, aunque eso significará que la función de realidad aumentada en la aplicación ya no está disponible.
Los datos recopilados por la cámara para tales fines permanecen bajo tu control en el dispositivo y no tendremos acceso a ellos».

«Podemos utilizar tus datos personales para enviarte actualizaciones (por correo electrónico, notificación push y mensaje de texto) sobre nuestros servicios, incluidas ofertas exclusivas, promociones o nuevos servicios.
Tenemos un interés legítimo para utilizar tus datos personales con fines de marketing <...>. Esto significa que, por lo general, no necesitaremos tu consentimiento para enviarte información de marketing. Sin embargo, cuando se necesite un consentimiento, te lo solicitaremos claramente por separado».

«Los tipos de información que recopilamos de terceros incluyen nombre, dirección de correo electrónico, tokens o identificadores externos, y utilizamos la información que recibimos de estos terceros para mantener y mejorar la precisión de los registros que tenemos sobre ti».

«Compartimos rutinariamente datos personales con proveedores de servicios que utilizamos para que nos ayuden a administrar nuestro negocio o proporcionar los servicios o funcionalidades en la aplicación, incluidos:
• Apple, Google y Facebook;
• wasabi.com, para servicios de almacenamiento de imágenes;
• Azure Computer Vision, para servicios de procesamiento de imágenes;
• Amplitud y RevenueCat, para servicios de análisis;
• BugSnag y Sentry, para servicios de soporte;
• AppsFlyer, Firebase Analytics, Apple Search Ads Attribution, para mediciones de rendimiento de marketing, seguimiento de conversiones y reorientación».

«Ocasionalmente, nosotros o los terceros mencionados anteriormente también podemos necesitar compartir tus datos personales con:
• auditores externos, por ejemplo, en relación con la auditoría de nuestras cuentas: el destinatario de la información estará sujeto a obligaciones de confidencialidad;
• asesores profesionales (como abogados y otros asesores): el destinatario de la información estará sujeto a obligaciones de confidencialidad;
• organismos de aplicación de la ley, tribunales y organismos reguladores para cumplir con las obligaciones legales y reglamentarias;
• otras partes en relación con una transacción o reestructuración corporativa significativa, como una fusión, adquisición, venta de activos, oferta pública inicial o en el caso de nuestra insolvencia. Por lo general, la información será anonimizada, pero esto no siempre será posible; sin embargo, el destinatario de la información estará sujeto a obligaciones de confidencialidad»

«La aplicación puede vincularse a otras aplicaciones, sitios web o servicios de nuestra propiedad y operados por nosotros o por ciertos terceros de confianza, para poner a tu disposición productos, información y servicios adicionales. Estas otras aplicaciones, sitios web o servicios también pueden recopilar información sobre ti de acuerdo con sus propias políticas de privacidad. Para obtener información de privacidad relacionada con estas otras aplicaciones, sitios web o servicios, consulta sus respectivas políticas de privacidad».

«Es posible que recopilemos cierta información automáticamente desde tu dispositivo cuando descargas y accedes a nuestra aplicación. En algunos países, como el Reino Unido, esta información puede considerarse datos personales según las leyes de protección de datos aplicables».

Rastreadores de datos encontrados
Descubrimos 257 rastreadores en 1 minuto de uso, incluido el envío de datos a Facebook, Sentry AI (by Open AI).

¿Cómo puedes controlar el uso de tus datos?

Política de privacidad

«Por lo general, tienes los siguientes derechos, que generalmente puedes ejercer de forma gratuita:
● Si deseas acceder, corregir, actualizar o solicitar la eliminación de tus datos personales, puedes hacerlo en cualquier momento poniéndote en contacto con nosotros con los datos de contacto proporcionados <...>
● Además, puedes oponerte al procesamiento de tus datos personales, solicitarnos que restrinjamos el procesamiento de tus datos personales o solicitar la portabilidad de tus datos personales <...>
● Tienes derecho a darte de baja en cualquier momento de las comunicaciones de marketing que te enviemos <...>
● Del mismo modo, si hemos recopilado y procesado tus datos personales con tu consentimiento, puedes retirar ese consentimiento en cualquier momento. <...>\»

«Conservamos los datos personales que recopilamos de ti cuando tenemos una necesidad comercial legítima en curso para hacerlo (por ejemplo, para proporcionarte un servicio que has solicitado o para cumplir con los requisitos legales, fiscales o contables aplicables).
Cuando no tengamos una necesidad comercial legítima en curso para procesar tus datos personales, los eliminaremos o anonimizaremos o, si esto no es posible (por ejemplo, porque tus datos personales se han almacenado en archivos de respaldo), entonces los almacenaremos de forma segura y los aislaremos de cualquier procesamiento posterior hasta que sea posible eliminarlos».

¿Qué historial tiene la compañía en cuanto a la protección de los datos de los usuarios?

Promedio

No se han descubierto filtraciones de datos conocidas en los últimos tres años.

Información sobre privacidad infantil

«Si tienes menos de 17 años (o menos de 18, si estás en el Reino Unido), no debes usar la aplicación, ya que no ha sido diseñada para ti. No tenemos la intención de recopilar datos personales de menores de 17 años. Si sabes que se han compartido en la aplicación los datos personales de un menor de 17 años, infórmanos para que podamos eliminarlos».

¿El producto se puede usar sin conexión?

No

¿La información de privacidad es fácil de entender?

No

Enlaces a información de privacidad

¿El producto cumple nuestros estándares mínimos de seguridad? Información

No

Cifrado

No

Contraseña fuerte

No

Pudimos iniciar sesión con la contraseña '1'.

Actualizaciones de seguridad

Gestiona las vulnerabilidades

No se puede determinar

Política de privacidad

¿El producto usa IA? Información

No podemos confirmar si la IA utilizada por este producto es confiable, porque hay poca o ninguna información pública sobre cómo funciona la IA y qué controles de usuario existen para hacer que el producto sea seguro. También encontramos temas inquietantes en los contenidos de la aplicación. Además, nos preocupa el potencial de manipulación del usuario desde esta aplicación, ya que recopila información personal confidencial y puede usar esos datos para entrenar a los modelos de IA, y los usuarios tienen poco o ningún control sobre esos algoritmos de IA.

iGirl emplea modelos de lenguaje grande para generar conversaciones y actuar como una pareja romántica.

¿Es poco confiable esta IA?

No se puede determinar

¿Qué tipo de decisiones toma la IA acerca de ti o por ti?

¿La empresa es transparente acerca del funcionamiento de la IA?

No

No encontramos documentación ni políticas que expliquen cómo funciona la IA de este producto.

¿Tiene el usuario control sobre las características de la IA?

No

No hemos encontrado información detallada sobre los controles del usuario en esta aplicación.
*Privacidad no incluida

Profundiza más

  • 5 Things You Must Not Share With AI Chatbots
    Make Use Of El enlace se abrirá en una nueva pestaña
  • AI girlfriends are ruining an entire generation of men
    The Hill El enlace se abrirá en una nueva pestaña
  • ‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AI
    Rolling Stone El enlace se abrirá en una nueva pestaña
  • AI-Human Romances Are Flourishing—And This Is Just the Beginning
    Time El enlace se abrirá en una nueva pestaña

Comentarios

¿Tienes algún comentario? Queremos escucharte.