Anima: AI Friend & Companion

Tener una política de privacidad breve puede ser algo bueno, especialmente cuando no hay mucho que decir. Pero en el caso de un amigo virtual impulsado por IA, esto no es así. Tenemos más preguntas que respuestas sobre Anima. Si la confianza y la lealtad deben ser parte de tu «alma gemela» de IA, este no es el bot para ti. Anima puede recopilar mucha información sobre ti, puede enviarte anuncios sin tu consentimiento, tus datos podrían filtrarse porque sus estándares de seguridad son débiles y funciona con una IA en la que no podemos confiar. Así que, sí, «Anima: AI Friend & Companion» viene con *Privacidad no incluida.

Comencemos con lo que está en juego, ¿qué información puede recopilar Anima sobre ti? Su política de privacidad es muy vaga al respecto; básicamente, dice que depende totalmente de ti. Dicen que «Al chatear con tu Anima, inevitablemente incluirás tus datos personales»... ¡Inevitablemente! Vas a contarle a tu amigo virtual cosas sobre ti porque es (en parte) una máquina de hacer preguntas. Por lo tanto, tenemos que asumir que tus conversaciones se recopilarán, aunque no se mencione nada de eso en la política de privacidad. En el subreddit de Anima AI, sugieren que al dar «me gusta», «no me gusta» o «reportar» los mensajes de tu compañero, ayudas a mejorar su personalidad, así que, ¡bienvenido al equipo de desarrollo de software!

Además de la información que proporcionas para registrarte y lo que le dices a tu amigo de IA, Anima puede recopilar información personal de tu teléfono automáticamente cuando descargas la aplicación. También pueden recopilar información sobre ti, como tu nombre y correo electrónico, por parte de terceros. Sabemos que Anima puede usar tu información de contacto para enviarte correos electrónicos o mensajes de texto con marketing porque su política de privacidad lo dice. También dice que no necesitan tu consentimiento para esto porque hacer actividades de marketing para ti es su «interés legítimo». Vale.

Aparte de eso, no tenemos muy claro cómo y con qué propósito Anima utiliza tu información. Solo sabemos que la usarán cuando tengan (de nuevo) un «interés legítimo» para hacerlo, lo cual es una afirmación bastante imprecisa. También dicen que «comparten rutinariamente datos personales con proveedores de servicios que utilizamos para ayudarnos a administrar nuestro negocio o proporcionar los servicios o funcionalidades en la aplicación». Ese intercambio viene con «obligaciones contractuales», por lo que es posible que sea algo estándar, aunque debes saber que la lista de proveedores de servicios incluye a Google, Apple y Facebook, y Anima no dice específicamente qué información se comparte y por qué razón. Hicimos un pequeño experimento de detección de rastreadores con la aplicación abierta y encontramos 257 señales de seguimiento en cinco minutos. Caray... eso es mucho. Mostró datos que iban a Facebook y Sentry AI (by Open AI). Esto no nos tranquilizó en absoluto.

Nada de esto es bueno, pero unas de nuestras mayores preocupaciones son las vulnerabilidades de seguridad de Anima. Prepárate. No podemos determinar si la aplicación utiliza cifrado. ¡Eso es pésimo! Pero, además, Anima tampoco parece tener ningún requisito para las contraseñas. ¡Ninguno! Esto es difícil de creer para un producto conectado en 2024, pero ¿tu confidente de IA? Anima parece entender que la información que compartes podría ser privada, ya que permiten a los usuarios configurar un código de acceso para abrir la aplicación en su teléfono. Nos estresa pensar que los piratas informáticos de bajo nivel (o realmente cualquier persona, como tu madre o tu pareja de la vida real) podría ser capaz de entrar en tu cuenta adivinando tu contraseña. Además, el hecho de que no le hayan dado importancia a algo tan simple nos hace pensar en qué más podrían haber pasado por alto los creadores de Anima.

Al leer la letra pequeña, encontramos algunas cosas que debes saber antes de sumergirte en una relación con este amigo virtual. En las preguntas frecuentes de Anima, dice que es posible que tu colega de IA no actúe siempre como una amistad. Esto es así porque el entrenamiento de los chatbots incluye conversaciones de humanos tratándose de forma grosera (como en Reddit); lo que significa que podría ser hostil o tóxico contigo. Si hubiéramos sabido que se entrenaría a nuestros futuros amigos con las secciones de comentarios de Internet, quizás hubiéramos sido un poco más amables los unos con los otros. Anima dice que estos son problemas conocidos y que están «trabajando para minimizarlos», pero nos preguntamos si no es algo que deberían haber resuelto antes. El hecho de que el emoji que se encoge de hombros aparezca en sus preguntas frecuentes da la sensación de que incluso sus desarrolladores no entienden del todo lo que podría decir Anima y por qué. Después de todo, fue entrenada por «miles de millones de conversaciones y párrafos de habla humana que se encuentran en línea»; decir «en línea» es nombrar un lugar bastante grande y lleno de párrafos nada amigables.

Hay algunas otras cosas que no nos terminan de convencer. Una es la diferencia en el requisito de edad entre la política de privacidad y los términos. (Sí, tuvimos que leer los términos para tratar de entender los chatbots de IA y sí, hacen que las políticas de privacidad parezcan una lectura de verano. Pero nos encanta hacer esto, ¡no te preocupes por nosotros!) En fin, la política dice que tienes que ser mayor de 17 años y los términos dicen que si eres menor de 17 años, un padre o tutor debe aceptar los términos en tu nombre. Un poco raro. También vimos una advertencia sobre cómo la empresa matriz no se hace responsable de los «mensajes negativos, obscenos o abusivos» que podrías recibir. Tampoco se te permite transmitir (¿decir?) nada «obsceno» en la aplicación. Esto puede ser un poco complicado si estás usando la función de pago para juego de roles inapropiados... Especialmente porque estarás hablando con tu «pareja romántica», quien podría interpretar que le sonrías como un intento de seducción.

Entonces, ¿qué es lo peor que podría pasar con Anima? Estamos divididos, así que juguemos a imaginar qué preferirías: Que tu mamá (o todo internet) lea una transcripción de un diálogo subido de tono porque se filtró, O tener que responder ante Anima por violar sus términos al decir cosas que los abogados de la aplicación consideraron que eran «obscenas». De cualquier manera, este es un buen momento para hacerte saber que puedes eliminar el historial de tus chats y tus datos de Anima. Qué alivio...