Romantic AI

Aquí está nuestra opinión sobre Romantic AI y sus prácticas de privacidad, seguridad e IA: ¡tenemos preguntas, muchas preguntas!

Si lees su política de privacidad verás líneas que a los investigadores de privacidad nos encanta ver, como: «No alquilamos ni vendemos tu información a nadie. La comunicación con tus amigos virtuales no se comparte con ninguna otra empresa o servicio, a excepción de nuestras empresas afiliadas o representantes legales». O «Nunca venderemos o daremos acceso a tus datos personales a un tercero, excepto según lo dispuesto en nuestros términos de servicio o esta política, o a menos que lo exija la ley». Está bien, esas líneas suenan bastante bien. Nos gusta que digan que no venderán ni alquilarán tu información. Genial. Y que digan que solo comparten tu información personal con empresas afiliadas o representantes legales es bastante estándar y aceptable, excepto que realmente no tenemos una idea demasiado precisa sobre quiénes son esas empresas afiliadas o «servicios», lo que nos alarma un poco.

Otra cosa buena es que Romantic AI parece otorgar a todos los usuarios los mismos derechos para eliminar sus datos, independientemente de las leyes de privacidad bajo las que vivan, lo que siempre nos hace felices en *Privacidad no incluida: «Tienes el derecho de cambiar o eliminar tus datos personales en cualquier momento, eliminando tu perfil en la aplicación o el sitio web». ¡Incluso tienen una página dedicada a ayudarte a hacerlo! ¡Nos gusta esto!

Algo más que apreciamos en los documentos legales de Romantic AI es que hablan sobre cómo recopilarán y usarán el contenido de los chats con novias de IA para entrenar a sus modelos de IA. Esto es algo que nos gusta encontrar y hemos notado que son demasiados los chatbots de IA que no incluyen esta información. Romantic IA dice: «Reconoces y aceptas que, durante las interacciones con los chatbots de IA, los datos anónimos generados a partir de dichas interacciones pueden recopilarse y utilizarse con el fin de mejorar y capacitar a los modelos de Romantic AI. Aceptas expresamente este uso de los datos y entiendes que no incluirá información de identificación personal. Además, reconoces y aceptas que no tienes ninguna reclamación o propiedad sobre los datos recopilados para estos fines, y renuncias a cualquier derecho o reclamación relacionada con el uso de tus datos anónimos para el entrenamiento de modelos». Vale, eso es honesto, al menos.

Por supuesto que lo ideal sería que Romantic AI ofreciera la opción de optar por incluirse o excluirse de este tipo de uso de datos para entrenar modelos de IA, en lugar de convertirlo en un requisito para usar el servicio. Además, nos sentimos obligados a preguntar cuán anónimos son estos datos en realidad, teniendo en cuenta de que estos chats suelen estar diseñados para ser muy personales. Que sirva como buen recordatorio de que no debes ser demasiado preciso(a) al compartir tu información personal con un chatbot de IA.

Entonces, ¿cuál es el problema? Bueno, el problema es que a veces los documentos de la política de privacidad y los términos y condiciones de Romantic AI simplemente no tienen sentido. Eso no es nada bueno y no nos inspira demasiada confianza. Aquí tienes algunos ejemplos:

En la parte inferior de la política de privacidad de Romantic AI dice: «Nuestro sitio web, nuestra aplicación y el uso que haces de ellos, incluido cualquier problema relacionado con la privacidad, está sujeto a esta política de privacidad y a los términos de uso relacionados. Cuando utilizas Romantiс AI, aceptas las condiciones establecidas en esta política de privacidad y los términos de uso relacionados. Declaras y garantizas que nunca generarás bases de datos, sitios web, software, entidades legales y servicios que compitan con Romantiс AI. Dichas acciones se investigarán a fondo y se llevarán a cabo las acciones legales necesarias, que pueden incluir, entre otras, reparaciones civiles, penales y cautelares.» Esto nos parece raro por un par de razones. En primer lugar, esta es una línea que generalmente no se encuentra en una política de privacidad, es más adecuada para el documento de términos y condiciones. Pero está bien, ahí está. El problema más grande es que la cláusula está redactada tan ampliamente que puede dar a entender que si trabajas para otra empresa de chatbots (por ejemplo, Replika AI o ChatGPT) y utilizas Romantic AI, podrías estar infringiendo esta política de privacidad simplemente por aterrizar en el sitio web de Romantic AI. Algo rarísimo. Aunque reconocemos que probablemente se trate solo de una sección mal escrita de la política de privacidad, para nosotros es una señal de alerta.

El documento de términos y condiciones de Romantic AI también es un poco desastrosos. Por ejemplo, contiene esta línea que realmente no tiene ningún sentido: «Reconoces que la comunicación a través del chatbot pertenece al software». Y esta, que tiene un poco más de sentido, pero que igual es confusa (y es un buen recordatorio de que los chatbots de IA con los que chateas no están bajo tu control... o quizás bajo ningún control): «Reconoces que te estás comunicando con un software cuya actividad no podemos controlar constantemente». Finalmente, si te preguntas cuánto trabajo tendrás que dedicar para usar Romantic AI, dicen: «Tienes la responsabilidad de estar informado y de revisar periódicamente todos estos términos para ver si algo ha cambiado. Romantic AI no será responsable por el descuido de tus derechos legales». ¡Así que ya sabes! Establece recordatorios en tu calendario cada una o dos semanas para entrar y leer los documentos legales de tu novia de IA. Después de todo, no querrás «descuidar tus derechos legales» de mantenerte al día con sus abogados.

¿Recuerdas que dijimos que Romantic AI se promociona a sí misma diciendo que está «aquí para cuidar tu SALUD MENTAL»? Bueno, eso es solo su lenguaje de marketing. El lenguaje de sus términos y condiciones se asegura de recordar a los usuarios que «Romantiс AI no es un proveedor de servicios médicos o de atención médica ni brinda atención médica, servicios de salud mental u otros servicios profesionales. Solo tu médico, terapeuta o cualquier otro especialista puede hacer eso. Romantiс AI NO AFIRMA, DECLARA O GARANTIZA QUE EL SERVICIO PROPORCIONE UNA AYUDA TERAPÉUTICA, MÉDICA U OTRO TIPO DE AYUDA PROFESIONAL». Por lo tanto, es mejor tener esto en cuenta.

Como dijimos antes, tenemos preguntas. Encontramos esta rareza que también nos sorprendió. Como parte de nuestra investigación, analizamos cuántos rastreadores envía la aplicación cuando la usas. Los rastreadores son pequeños fragmentos de código que recopilan información sobre tu dispositivo, el uso que haces de la aplicación o incluso tu información personal, y la comparten con terceros, a menudo con fines publicitarios. Descubrimos que Romantic AI envió 24 354 rastreadores de anuncios durante un minuto de uso. Esos son MUCHOS rastreadores (como referencia, la mayoría de las aplicaciones que revisamos enviaron un par de cientos). Ahora bien, no todos estos rastreadores son necesariamente malos. Algunos pueden deberse a motivos legítimos, como proporcionar servicios de suscripción. Sin embargo, sí notamos que al menos uno de ellos parecía estar enviando datos a Rusia, cuyas leyes de privacidad no son necesariamente tan estrictas como las de otros lugares.

En general, fue interesante revisar a Romantic AI. En algunos aspectos, no se ven tan mal. Su política de privacidad dice que no venderán ni alquilarán tus datos y que todos los usuarios pueden eliminar sus datos, independientemente de las leyes de privacidad del lugar donde vivan; incluso tienen una página para ayudar a los usuarios a hacerlo. Todo esto está bien. Pero luego están todas las cosas raras y las preguntas que nos inquietaron y que nos hacen sentir incómodos. Además, no podemos saber si la aplicación cumple con nuestros estándares mínimos de seguridad, no tenemos ninguna transparencia real sobre cómo funcionan sus IA y los usuarios tampoco parecen tener demasiado control sobre ellas. Todo esto nos preocupa bastante.

Entonces, ¿qué es lo peor que podría pasar con Romantic AI? No te vamos a mentir; una aplicación que para promocionarse dice que está «aquí para cuidar tu SALUD MENTAL» mientras que también dice que es un lugar donde puedes ser un «novio brutal», nos hace sentir... asquito. Si combinas eso con la posibilidad de que los usuarios puedan desarrollar intereses románticos por sus novias de IA sin saber o tener idea de cómo funciona la IA que está detrás de ellas, nos preocupa el abuso potencial. Quién puede asegurarnos que Romantic AI (o cualquier otro chatbot de IA similar) no podría atraer a los usuarios con la promesa de tener una novia desprejuiciada siempre dispuesta a escuchar y hacer cualquier cosa, y luego cambiar la IA por otra que los lleve por un camino oscuro de manipulación. Es una preocupación real en el creciente mundo de los chatbots de IA, especialmente cuando hay tan poca transparencia y control sobre cómo funcionan. Cuando una empresa plantea tantas preguntas como Romantic AI, nos preocupamos no solo por tu privacidad, sino también por tu seguridad.