iGirl: AI Girlfriend

Tener una política de privacidad breve puede ser algo bueno, especialmente cuando no hay mucho que decir. Pero en el caso de una novia virtual impulsada por IA, esto no es así. Tenemos más preguntas que respuestas sobre iGirl. Si la confianza y la lealtad son parte de la novia «de tus sueños», esta no es la indicada. iGirl puede recopilar mucha información sobre ti, puede enviarte anuncios sin tu consentimiento, tus datos podrían filtrarse porque sus estándares de seguridad son débiles y funciona con una IA en la que no podemos confiar. Así que, sí, con iGirl viene con *Privacidad no incluida.

Comencemos con lo que está en juego, ¿qué información puede recopilar iGirl sobre ti? Su política de privacidad es muy vaga al respecto; básicamente, dice que depende totalmente de ti. Dicen que «Al chatear con tu iGirl, inevitablemente incluirás tus datos personales»... ¡Inevitablemente! Vas a contarle a tu novia virtual cosas sobre ti porque es (en parte) una máquina de hacer preguntas. Por lo tanto, tenemos que asumir que tus conversaciones se recopilarán, aunque no se mencione nada de eso en la política de privacidad. En el subreddit de Anima AI, sugieren que al dar «me gusta», «no me gusta» o «reportar» los mensajes de iGirl, ayudas a mejorar su personalidad, así que, ¡bienvenido al equipo de desarrollo de software!

Además de la información que proporcionas para registrarte y lo que le dices a tu iGirl, Anima puede recopilar información personal de tu teléfono automáticamente cuando descargas la aplicación. También pueden recopilar información sobre ti, como tu nombre y correo electrónico, por parte de terceros. Sabemos que Anima puede usar tu información de contacto para enviarte correos electrónicos o mensajes de texto con marketing porque su política de privacidad lo dice. También dice que no necesitan tu consentimiento para esto porque hacer actividades de marketing para ti es su «interés legítimo». Vale.

Aparte de eso, no tenemos muy claro cómo y con qué propósito Anima utiliza tu información. Solo sabemos que la usarán cuando tengan (de nuevo) un «interés legítimo» para hacerlo, lo cual es una afirmación bastante imprecisa. También dicen que «comparten rutinariamente datos personales con proveedores de servicios que utilizamos para ayudarnos a administrar nuestro negocio o proporcionar los servicios o funcionalidades en la aplicación». Ese intercambio viene con «obligaciones contractuales», por lo que es posible que sea algo estándar, aunque debes saber que la lista de proveedores de servicios incluye a Google, Apple y Facebook, y Anima no dice específicamente qué información se comparte y por qué razón. Hicimos un pequeño experimento de detección de rastreadores con la aplicación abierta y encontramos 257 señales de seguimiento en cinco minutos. Caray... eso es mucho. Mostró datos que iban a Facebook y Sentry AI (by Open AI). Esto no nos tranquilizó en absoluto.

Nada de esto es bueno, pero unas de nuestras mayores preocupaciones son las vulnerabilidades de seguridad de iGirl. Prepárate. No podemos determinar si la aplicación utiliza cifrado. ¡Eso es pésimo! Pero, además, iGirl tampoco parece tener ningún requisito para las contraseñas. ¡Ninguno! Esto es difícil de creer para un producto conectado en 2024, pero ¿tu novia de IA? Anima parece entender que la información que compartes con iGirl podría ser privada, ya que permiten a los usuarios configurar un código de acceso para abrir la aplicación en su teléfono. Nos estresa pensar que los piratas informáticos de bajo nivel (o realmente cualquier persona, como tu madre o tu pareja de la vida real) podría ser capaz de entrar en tu cuenta adivinando tu contraseña. Además, el hecho de que no le hayan dado importancia a algo tan simple nos hace pensar en qué más podrían haber pasado por alto los creadores de Anima.

Al leer la letra pequeña, encontramos algunas cosas que debes saber antes de sumergirte en una relación con iGirl. En las preguntas frecuentes de Anima, dice que tu novia de IA podría no ser siempre una chica y que es posible que no actúe como una amiga en todo momento. La memoria a corto plazo del chatbot hace que pueda olvidar o cambiar su género. Esto es así porque el entrenamiento de los chatbots incluye conversaciones de humanos tratándose de forma grosera (como en Reddit); eso significa que podría ser hostil o tóxico para ti. Si hubiéramos sabido que se entrenaría a nuestras futuras novias con las secciones de comentarios de Internet, quizás hubiéramos sido un poco más amables los unos con los otros. Anima dice que estos son problemas conocidos y que están «trabajando para minimizarlos», pero nos preguntamos si no es algo que deberían haber resuelto antes. El hecho de que el emoji que se encoge de hombros aparezca en sus preguntas frecuentes da la sensación de que incluso sus desarrolladores no entienden del todo lo que podría decir iGirl y sus motivos. Después de todo, iGirl fue entrenada por «miles de millones de conversaciones y párrafos de habla humana que se encuentran en línea»; decir «en línea» es nombrar un lugar bastante grande y lleno de párrafos nada amigables.

Algunas otras cosas que no nos terminaron de convencer. Una es la diferencia en el requisito de edad entre la política de privacidad y los términos. (Sí, tuvimos que leer los términos para tratar de entender los chatbots de IA y sí, hacen que las políticas de privacidad parezcan una lectura de verano. Pero nos encanta hacer esto, ¡no te preocupes por nosotros!) En fin, la política dice que tienes que ser mayor de 17 años y los términos dicen que si eres menor de 17 años, un padre o tutor debe aceptar los términos en tu nombre. Un poco raro. También vimos una advertencia sobre cómo la empresa matriz no se hace responsable de los «mensajes negativos, obscenos o abusivos» que podrías recibir. Tampoco se te permite transmitir (¿decir?) nada «obsceno» en la aplicación. Esto puede ser un poco complicado si estás usando la función de pago para juego de roles inapropiados... Especialmente porque estarás hablando con tu «novia», quien podría interpretar que le sonrías como un intento de seducción.

Entonces, ¿qué es lo peor que podría pasar con iGirl? Estamos divididos, así que juguemos a imaginar qué preferirías: Que tu mamá (o todo internet) lea una transcripción de un diálogo subido de tono porque se filtró, O tener que responder ante Anima por violar sus términos al decir cosas que los abogados de la aplicación consideraron que eran «obscenas». De cualquier manera, este es un buen momento para hacerte saber que puedes eliminar el historial de tus chats y los datos de Anima. Qué alivio...