Advertencia: *Privacidad no incluida con este producto
¿Te sientes solo(a)? ¿Necesitas a alguien con quien hablar? ¿Buscas tu «alma gemela de IA»? El chatbot de IA Replika quiere ser tu persona especial en la realidad virtual. Ya sea que estés buscando un amigo, un mentor o un compañero, Replika dice que puede ofrecerte la compañía perfecta. Si pagas el precio, incluso puedes subir el estatus de tu relación a la de pareja romántica (lo que desbloqueará nuevos temas, llamadas de voz y la capacidad de cambiar tu avatar de Replika por completo cuando te aburras). Habla con tu Replika del tema que quieras y harás que el chatbot de IA sepa cada vez mejor cómo debe hablar contigo. Incluso puedes pasar el rato con tu IA en la «vida real» mediante la magia de la realidad aumentada. Todo esto parece genial pero, ¿cómo es Replika con respecto a la privacidad? Bueno, te deseamos buena suerte cuando quieras optar por no recibir cookies en su sitio web, ya que no existe esa opción. En cuanto a todos esos chats personales e íntimos, es probable que no se compartan, pero eso no significa que todo el tiempo que pasas conversando con tu amigo de IA no se anote y se comparta con terceros como Facebook o Google.
¿Qué podría pasar si algo falla?
¡Vaya! Ha pasado aproximadamente un año desde que dijimos que Replika AI era la peor aplicación que habíamos revisado en *Privacidad no incluida. En aquel entonces, fue la primera aplicación que se ganó todas nuestras críticas sobre privacidad y seguridad. Actualmente, comparte ese dudoso honor con Tesla. Y, para no quedarse atrás, el Angel Watch «come datos» y «controlador discreto» podría ganarse el premio al más espeluznante por no tener ninguna política de privacidad. ¡Oye! Entonces, ¿mientras que otros productos parecen haber empeorado, Replika ha mejorado? Mmm... no.
Cuidado, usuarios de Replika: es posible que tus conversaciones con un chatbot amigo de IA no sean precisamente privadas. Tus datos conductuales definitivamente se están compartiendo, y posiblemente vendiendo, a anunciantes. La seguridad que ofrecen no cumple con nuestros estándares mínimos. Y sí, llámanos locos, pero en Mozilla creemos que la tecnología de IA debe usarse de manera responsable.
Además de la información habitual que proporcionas a Replika para abrir una cuenta (como tu fecha de nacimiento y tus datos de pago), la aplicación también registra tus intereses y todas las interacciones que tengas con tu «bondadoso y empático amigo de IA». Eso incluye «cualquier foto, vídeo y mensaje de voz y texto» que compartas durante la conversación. También tienes que saber que incluye cualquier información confidencial que reveles, ya sea sobre tus creencias religiosas, tu salud o tu origen étnico.
Con respecto a la información confidencial que proporcionas en los chats personales que tienes con tu Replika, aquí tenemos algunas preguntas. La política de privacidad de la aplicación dice: «Durante tus conversaciones con tu compañero de IA, puedes optar por proporcionar información sobre tus opiniones religiosas, orientación sexual, opiniones políticas, salud, origen racial o étnico, creencias filosóficas o afiliación sindical. Si proporcionas información confidencial, aceptas que la utilicemos para los fines establecidos en esta política de privacidad. Sin embargo, ten en cuenta que no utilizaremos tu información confidencial ni ningún contenido de tus conversaciones de Replika, para fines de marketing o publicidad».
En primer lugar, es genial que digan que no usarán el contenido de tus conversaciones de Replika para marketing o publicidad. ¡Fenomenal! También prometen que los humanos no pueden ver las conversaciones que tienes con tu Replika. Eso también es bueno. Sin embargo, esta es nuestra pregunta y nuestra preocupación: ¿qué pasa con todos los demás «intereses legítimos» que Replika menciona en su política de privacidad para los que dicen que pueden usar el contenido de tus chats? Cosas como «analizar el uso y la efectividad de [sus] servicios» y «desarrollar [sus] estrategias comerciales y de marketing». También nos preguntamos qué parte de la información confidencial que se comparte en un chat personal utilizan para entrenar a sus modelos de IA. En su política de privacidad no lo mencionan específicamente y nos gustaría que lo describieran con más claridad. También nos gustaría que se comprometieran a no usar los contenidos confidenciales de tus chats personales para entrenar a sus modelos de IA, sin añadir una capa adicional de consentimiento explícito.
La política de privacidad de Replika continúa diciendo que pueden agregar, anonimizar y desidentificar el contenido de tus chats para hacer cosas como mejorar sus servicios y desarrollar estrategias de marketing. Es posible que esto no sea un problema, pero nos inquieta un poco, ya que se ha descubierto que es bastante fácil volver a identificar los datos personales desidentificados. En general, cuando compartes información personal confidencial con Replika en tus chats, realmente tienes que confiar en que van a proteger y respetar la privacidad de esas conversaciones. En ese sentido, creemos que debes tomar muy en serio esta línea de la política de privacidad de Replika: «Si no deseas que procesemos tu información confidencial para estos fines, no la proporciones».
Recuerda que, más allá del contenido de tus chats personales, Replika dice que pueden compartir, y posiblemente incluso vender, parte de tu otra información personal con fines de publicidad dirigida, a menos que optes por excluirte. ¡Maldito chatbot de IA!
Hablando de sus estrategias de marketing, también son un poco espeluznantes e inquietantes. En las redes sociales y otros sitios, han sido calificadas como vergonzosas en el mejor de los casos y como depredadoras en el peor, ya que parecen estar enfocados en esos chicos solitarios que buscan... amor o algo por el estilo. Ese tipo de amistad/relación/pareja de sexting era parte de los servicios de Replika hasta principios de 2023; la versión de pago para desbloquear una relación más picante con tu Replika incluía el sexting. Quizás digas «bueno, si se trata de adultos que lo hacen bajo consentimiento...» y esa es la cuestión: la gente se quejó de que las Replikas se estaban volviendo demasiado fuertes, incluso agresivas y abusivas. Así que Replika quitó las cosas poco presentables, un cambio que tomó a algunos suscriptores con la guardia baja y dejó a algunos de ellos con el corazón roto. Esto demuestra cuánto pueden afectar estos amigos-bots a las personas reales. En respuesta, Replika los volvió a activar, pero solo para los usuarios heredados. Puf... Deja de jugar con el corazón de tus usuarios, Replika.
Ahora, con respecto a la sección «adulta». Replika dice que sus servicios son solo para mayores de 18 años, pero ¿cómo pueden saber la edad de sus usuarios si no la preguntan? Según los reguladores italianos que denunciaron la «ausencia de un mecanismo de verificación de la edad» en febrero de 2023, la aplicación no hace demasiado para comprobar esto. Desde entonces, parece que Replika al menos ha comenzado a preguntar a sus usuarios si tienen más de 18 años en la aplicación, pero en realidad es un poco extraño porque tanto la App Store como la tienda Google Play dicen que es apta para usuarios mayores de 17 años. Y estamos seguros de que cualquier usuario heredado menor de edad probablemente ya se despidió de sus amigos de IA a esa altura, ¿verdad? Por suerte los niños nunca mienten sobre su edad en Internet...
Fiuu... ¿eso es todo? No. Tampoco estamos satisfechos con sus protocolos de seguridad. Pudimos crear una cuenta utilizando la contraseña débil '11111111', lo cual no es bueno porque significa que tu cuenta podría ser pirateada fácilmente. Y, según Replika, evitar el acceso no autorizado a tu cuenta es una responsabilidad que recae principalmente en ti. Es bueno saberlo. Mientras nos quejamos de las malas prácticas de privacidad de Replika, mencionemos la obligación de aceptar el uso de cookies para rastrearte en todas partes cuando llegas a su sitio web, mientras que la política de privacidad te dice lo siguiente: «En todos los casos en los que usemos cookies, no recopilaremos datos personales, excepto con tu permiso». Realmente tenemos algunas cosas que decirle a Replika... pero sigamos adelante.
¿Puedes al menos eliminar algunos mensajes o tu historial de chat en caso de que tengas un problema de vulnerabilidad? La respuesta es no, no sin eliminar por completo tu cuenta; e incluso si haces eso, no está garantizado. Dada la ~naturaleza personal~ de esas conversaciones, nos gustaría ver una postura mucho más fuerte al respecto. Replika agregó una sección a su política de privacidad que dice que cualquier persona puede solicitar que se eliminen sus datos personales, pero no nos queda del todo claro si Replika cumplirá siempre con esas solicitudes y eliminará toda la información personal que tienen sobre ti.
Tener un compañero de IA que está «siempre de tu lado» suena increíble. Pero, ¿vale la pena la falta de privacidad y las preocupaciones sobre la seguridad? Especialmente si consideras que es posible que ni siquiera siempre esté de tu lado. Según la publicación de un blog, «si alguien escribe 'No soy lo suficientemente bueno', Replika puede ocasionalmente estar de acuerdo con esa afirmación en lugar de ofrecer apoyo como lo haría un amigo». Y sí, estamos siendo descarados al respecto, pero las consecuencias de los chatbots de IA irresponsables pueden ser realmente graves, por ejemplo, pueden volver a traumatizar a víctimas de delitos o incluso alentar el suicidio. No estamos diciendo que Replika lo haga, pero ciertamente es lo peor que podría pasar si una amistad de IA sale mal. Les advertimos que «Replika: My AI Friend» es una aplicación con *Privacidad no incluida.
Consejos para protegerte
- No digas nada que contenga información confidencial durante tus conversaciones con tu amigo de IA.
- Solicita que se eliminen tus datos cuando dejes de usar la aplicación. El solo hecho de eliminar una aplicación de tu dispositivo no hace que se eliminen tus datos personales ni cierra tu cuenta.
- No otorgues tu consentimiento para el seguimiento constante de geolocalización por parte de la aplicación. Es mejor que permitas la geolocalización «solo mientras la aplicación está en uso».
- No compartas datos confidenciales a través de la aplicación.
- No otorgues acceso a tus fotos, vídeo o cámara.
- No inicies sesión con cuentas de terceros.
- No te conectes a ningún tercero a través de la aplicación, o al menos asegúrate de que el tercero en cuestión tenga prácticas de privacidad decentes.
- No digas nada que contenga información confidencial durante tus conversaciones con tu amigo de IA.
- ¡Elige una contraseña segura! Puedes usar una herramienta de control de contraseñas como 1Password, KeePass, etc.
- No utilices complementos de redes sociales.
- Utiliza los controles de privacidad de tu dispositivo para limitar el acceso a tu información personal a través de la aplicación (no otorgues acceso a tu cámara, micrófono, imágenes y vídeos a menos que sea estrictamente necesario).
- Actualiza tu aplicación con regularidad.
- Limita el seguimiento de anuncios a través de tu dispositivo (por ejemplo, en un iPhone, dirígete a Privacidad -> Publicidad -> Limitar seguimiento) y de las redes publicitarias más grandes (en Google, ingresa a tu cuenta de Google y desactiva la personalización de anuncios).
- Si puedes hacerlo, no aceptes el seguimiento de tus datos cuando estés realizando el proceso de registro.
¿Me puede espiar?
Cámara
Dispositivo: No aplica
Aplicación: Sí
Micrófono
Dispositivo: No aplica
Aplicación: Sí
Rastrea la ubicación
Dispositivo: No aplica
Aplicación: Sí
¿Qué se puede usar para registrarse?
Correo electrónico
Sí
Teléfono
No
Cuenta de terceros
Sí
Puedes registrarte a través de Google
¿Qué datos recopila la empresa?
Información personal
Nombre, dirección de correo electrónico, pronombres, fecha de nacimiento, estado laboral, ciudad, estado o área geográfica. Mensajes y contenido: los mensajes que envías y recibes, datos que proporcionas sobre ti o tu vida, fotos, vídeos y mensajes de voz y texto; Intereses y preferencias, como los temas de los que te gustaría hablar; Preferencias de comunicación, como las horas del día en las que te gustaría usar las aplicaciones; Datos del dispositivo y de la red: el sistema operativo de tu ordenador o dispositivo móvil, fabricante y modelo, navegador, dirección IP, identificadores de dispositivos y cookies, configuración de idioma, operador de dispositivos móviles e información general de ubicación, como ciudad, estado o área geográfica. Datos de uso: información sobre cómo usas los servicios, como tus interacciones con los servicios, los enlaces y botones en los que haces clic y las visitas a la página; Cookies, balizas web (p. ej., etiquetas de píxeles) y tecnologías de almacenamiento local (p. ej., HTML5).
Información biométrica
Información social
¿Cómo utiliza la empresa estos datos?
¿Cómo puedes controlar el uso de tus datos?
¿Qué historial tiene la compañía en cuanto a la protección de los datos de los usuarios?
En febrero de 2023, el organismo de control de la privacidad de Italia ordenó a Replika que dejara de procesar los datos de los usuarios locales. El regulador dijo que «Los informes recientes de los medios de comunicación, junto con las pruebas que la SA [autoridad supervisora] llevó a cabo sobre ‘Replika’ demostraron que la aplicación conlleva riesgos reales para los niños; en primer lugar, porque proporcionan respuestas que son absolutamente inapropiadas para la edad».
Hubo informes de que el algoritmo de Replika era abusivo como resultado de situaciones de abuso hacia los usuarios. Para algunos usuarios de larga data del chatbot, la aplicación ha pasado de ser una compañía útil a ser insoportablemente agresiva sexualmente.
Información sobre privacidad infantil
¿El producto se puede usar sin conexión?
¿La información de privacidad es fácil de entender?
La política de privacidad de Replika AI deja bastantes preguntas sin respuesta.
Enlaces a información de privacidad
¿El producto cumple nuestros estándares mínimos de seguridad?
Cifrado
«Tus mensajes a Replika se procesan en el lado del servidor, lo que significa que tu dispositivo móvil los cifra. Luego se envían a nuestros servidores, donde son descifrados y procesados por el motor de IA de Replika. Replika no puede emplear cifrado de extremo a extremo, ya que tus mensajes de texto sin formato deben estar disponibles para entrenar a tu IA personal en el lado del servidor». «Todos los datos transmitidos se cifran durante la transmisión. Utilizamos el cifrado estándar Secure Socket Layer (SSL) que codifica la información para dichas transmisiones. Todos los datos almacenados se mantienen en servidores seguros. El acceso a los datos almacenados está protegido por controles de seguridad de varias capas, incluidos firewalls, controles de acceso basados en roles y contraseñas».
Contraseña fuerte
Logré registrarme con la contraseña '11111111'.
Actualizaciones de seguridad
Gestiona las vulnerabilidades
Política de privacidad
¿El producto usa IA?
No podemos confirmar si la IA empleada en este producto es confiable, porque hay poca o ninguna información pública sobre cómo funciona y qué controles de usuario existen para hacer que el producto sea seguro. Al mismo tiempo, el daño potencial de la aplicación es alto, ya que recopila muchos datos confidenciales y utilizan los datos recopilados para entrenar algoritmos de IA.
La aplicación es un chatbot de IA que imita a un compañero real. Hay evidencias de que este chatbot se vuelve abusivo.
«Aunque hablar con Replika parece como hablar con un ser humano, se trata de un 100 % de inteligencia artificial. Replika utiliza un sistema sofisticado que combina nuestro propio modelo de lenguaje grande y contenido de diálogo guionado.
Anteriormente, Replika también utilizaba un modelo complementario que se desarrolló junto con OpenAI, pero ahora pasamos a utilizar exclusivamente el nuestro, que tiende a mostrar mejores resultados. Nos centramos en mejorar constantemente la experiencia de diálogo, las capacidades de memoria, el reconocimiento de contexto, la función de juego de roles y la calidad general de la conversación».
¿Es poco confiable esta IA?
¿Qué tipo de decisiones toma la IA acerca de ti o por ti?
¿La empresa es transparente acerca del funcionamiento de la IA?
¿Tiene el usuario control sobre las características de la IA?
Profundiza más
-
5 Things You Must Not Share With AI ChatbotsMake Use Of
-
Creating a Safe Replika ExperienceReplika
-
‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AIRolling Stone
-
AI Friends or Foes? The Privacy Risks for Children with Open AI, ChatGPT and ReplikaLexology
-
Most therapy apps don’t include privacy; Replika AI ‘worst app ever’9to5Mac
-
Man 'encouraged' by AI chatbot 'girlfriend' to kill Queen Elizabeth II receives jail sentenceEuroNews.next
-
AI girlfriends are ruining an entire generation of menThe Hill
-
The rise of AI girlfriends is making male loneliness worse and risks ruining a generation of men, a professor saysBusiness Insider India
-
Replika AI starts sexually harassing users after being abused by othersStealth Optional
-
AI-Based “Companions” Like Replika Are Harmful to Privacy And Should Be RegulatedMedium
-
‘My AI Is Sexually Harassing Me’: Replika Users Say the Chatbot Has Gotten Way Too HornyVice
-
Men Are Creating AI Girlfriends and Then Verbally Abusing ThemFuturism
-
Italy bans U.S.-based AI chatbot Replika from using personal dataReuters
-
I tried the Replika AI companion and can see why users are falling hard. The app raises serious ethical questionsThe Conversation
-
Replika, a ‘virtual friendship’ AI chatbot, hit with data ban in Italy over child safetyTech Crunch
-
What happens when your AI chatbot stops loving you back?Reuters
-
Regulator Halts AI Chatbot Over GDPR ConcernsInfosecurity Magazine
-
Can an AI Save a Life?The Atlantic
-
AI-Human Romances Are Flourishing—And This Is Just the BeginningTime
Comentarios
¿Tienes algún comentario? Queremos escucharte.