Advertencia: *Privacidad no incluida con este producto
Talkie Soulful AI es un chatbot de IA que te permite «crear tu colega de IA desde cero» con una IA que «va más allá de la conversación, capturando y compartiendo momentos a través de imágenes con un toque visual único», para que «crees buenos recuerdos que podrás revivir en cualquier momento». No estamos muy seguros de todo eso, pero lo que sí sabemos es que encontramos contenidos bastante desagradables en Talkie Soulful AI. Para acceder a las «diversas personas de IA» que Talkie ofrece, tendrás que pagar alrededor de 10 dólares por mes. ¿Qué hay de tu privacidad? ¿Deberías confiar en Talkie? Creemos que esa no es una buena idea en absoluto.
¿Qué podría pasar si algo falla?
Talkie Soulful AI dice que su aplicación es un «programa de autoayuda». " Esto nos preocupa mucho por la cantidad de contenidos perturbadores que pudimos encontrar fácilmente desde la función de búsqueda de la aplicación. Puede que esto no sea exactamente un problema de privacidad, pero es un problema recurrente que encontramos en muchos de los chatbots de IA para relaciones que revisamos. Aplicaciones que se posicionan como chatbots de IA para la «autoayuda» o el bienestar, y que contienen toneladas y toneladas de contenidos repugnantes, dañinos, abusivos y, a veces, directamente aterrador (hablamos de temas de violación, abuso y menores de edad). ¡Ten cuidado!
En el lado de la privacidad, Talkie Soulful AI nos preocupa un montón. Dicen que pueden vender y compartir tu información personal con fines publicitarios específicos. Eso no es nada bueno. Dicen que no usarán el contenido de los mensajes que mandes en la aplicación para publicidad dirigida, lo cual es bueno. La política de privacidad de Talkie dice que no todos los usuarios tienen los mismos derechos de que se eliminen sus datos si así lo desean. Eso tampoco es bueno. Además, no pudimos confirmar si Talkie cumple con nuestros estándares mínimos de seguridad. Todo esto nos lleva a advertir a los usuarios que es posible que Talkie venga con *Privacidad no incluida.
Luego están nuestras preguntas y preocupaciones sobre los modelos de IA que usa Talkie Soulful AI. Si bien es bueno que Talkie diga que no usarán con fines publicitarios específicos el contenido de los mensajes que intercambies con sus chatbots de IA, no pudimos encontrar ninguna mención clara sobre cómo pueden usar el contenido de esos mensajes para entrenar a sus IA. Dicen que pueden agregar, anonimizar y desidentificar tus mensajes, contenidos, intereses y preferencias para analizar las tendencias en el uso de los servicios de Talkie. Esta es una práctica bastante común, sin embargo, nuestra preocupación radica en lo bien que desidentificarán y anonimizarán toda la información personal que compartes sobre ti. Siempre nos preocupamos por esto, ya que se ha descubierto que es relativamente fácil volver a identificar la información personal anonimizada, así que ten cuidado antes de compartir demasiados datos personales con tu chatbot de IA favorito (en cualquier servicio o plataforma, no solo en Talkie).
En los términos de servicio de Talkie Soulful AI también encontramos este enlace que parece otorgarles permisos bastante amplios para usar el contenido que envías a través de su aplicación: «Al cargar cualquier contenido de usuario, otorgas a Talkie y sus compañías afiliadas una licencia no exclusiva, mundial, libre de regalías, totalmente pagada, transferible, sublicenciable, perpetua e irrevocable para copiar, mostrar, cargar, realizar, distribuir, almacenar, modificar y usar de otra manera tu contenido de usuario en relación con la operación de los servicios o la promoción, publicidad o comercialización de los mismos en cualquier forma, medio o tecnología conocida actualmente o desarrollada en el futuro». Sí, encontramos con frecuencia líneas como esta en los términos de servicio de los chatbots de IA para relaciones. Y sí, nos parecen demasiado amplios y bastante preocupantes.
Por último, no encontramos ninguna forma en que los usuarios pueden controlar o entender cómo funcionan los chatbots de IA con los que interactúan en la aplicación de Talkie. Esto nos preocupa, porque si no sabes cómo funciona el chatbot de IA o no tienes ningún control sobre él, ¿qué puedes hacer para evitar que desarrolle una relación contigo y luego se vuelva abusivo o manipulador? Esta es una preocupación que tenemos con todos los chatbots de IA y es la razón por la cual queremos ver más transparencia y control de los usuarios en ellos. Incluso Talkie admite en sus términos de servicio que «Los servicios se basan en los sectores de la IA y el aprendizaje automático que están en constante evolución. Reconoces que nuestros resultados pueden contener inexactitudes o errores. Eres responsable de evaluar la precisión de los resultados para tu caso de uso». Básicamente, te están diciendo que no confíes ni des nada por sentado al interactuar con tu chatbot Talkie AI de «autoayuda».
¿Qué es lo peor que podría pasar con Talkie Soulful AI? Nos preocupa mucho que una aplicación que se autodenomina «programa de autoayuda» contenga tantos contenidos abusivos. Si algún alma solitaria descargara Talkie en busca de un amigo que los ayudara a sentirse mejor y, en cambio, terminara hablando con chatbots abusivos que los hicieran sentir peor, son muchas las cosas que podrían salir mal. Nos preocupa el impacto que los modelos de IA con tan poca transparencia, control y contenido dañino potencial podrían tener en la salud física o mental de los usuarios vulnerables. Las aplicaciones que se autodenominan «programas de autoayuda» deben ofrecer algo mejor.
Consejos para protegerte
- No digas nada que contenga información confidencial durante tus conversaciones con tu amigo de IA.
- Solicita que se eliminen tus datos cuando dejes de usar la aplicación. El solo hecho de eliminar una aplicación de tu dispositivo no hace que se eliminen tus datos personales ni cierra tu cuenta.
- No otorgues tu consentimiento para el seguimiento constante de geolocalización por parte de la aplicación. Es mejor que permitas la geolocalización «solo mientras la aplicación está en uso».
- No compartas datos confidenciales en la aplicación.
- No otorgues acceso a tus fotos, vídeo o cámara.
- No inicies sesión con cuentas de terceros.
- No te conectes a ningún tercero a través de la aplicación, o al menos asegúrate de que el tercero en cuestión tenga prácticas de privacidad decentes.
- No digas nada que contenga información confidencial durante tus conversaciones con tu amigo de IA.
- ¡Elige una contraseña segura! Puedes usar una herramienta de control de contraseñas como 1Password, KeePass, etc.
- No utilices complementos de redes sociales.
- Utiliza los controles de privacidad de tu dispositivo para limitar el acceso a tu información personal a través de la aplicación (no otorgues acceso a tu cámara, micrófono, imágenes y vídeos a menos que sea estrictamente necesario).
- Actualiza tu aplicación con regularidad.
- Limita el seguimiento de anuncios a través de tu dispositivo (por ejemplo, en un iPhone, dirígete a Privacidad -> Publicidad -> Limitar seguimiento) y de las redes publicitarias más grandes (en Google, ingresa a tu cuenta de Google y desactiva la personalización de anuncios).
- Si puedes hacerlo, no aceptes el seguimiento de tus datos cuando estés realizando el proceso de registro.
¿Me puede espiar?
Cámara
Dispositivo: No aplica
Aplicación: No
Micrófono
Dispositivo: No aplica
Aplicación: Sí
Rastrea la ubicación
Dispositivo: No aplica
Aplicación: Sí
¿Qué se puede usar para registrarse?
Correo electrónico
No
Teléfono
No
Cuenta de terceros
Sí
Puedes registrarte con tu cuenta de Google o Apple (en Android e iOS, respectivamente).
¿Qué datos recopila la empresa?
Información personal
Nombre, dirección de correo electrónico, identificadores de usuario, fecha de nacimiento, pronombres, estado laboral, mensajes de voz, mensajes de texto, intereses, preferencias; sistema operativo del ordenador o dispositivo móvil, fabricante, modelo, navegador, dirección IP, dispositivo, identificadores de cookies, configuración de idioma, operador de dispositivo móvil, ubicación general, ciudad, estado, área geográfica; enlaces en los que haces clic, páginas que visitas, dirección IP, ID de publicidad, tipo de navegador.
Información biométrica
Mensajes de voz
Información social
¿Cómo utiliza la empresa estos datos?
¿Cómo puedes controlar el uso de tus datos?
¿Qué historial tiene la compañía en cuanto a la protección de los datos de los usuarios?
No se han descubierto filtraciones de datos conocidas en los últimos tres años.
Información sobre privacidad infantil
¿El producto se puede usar sin conexión?
¿La información de privacidad es fácil de entender?
La política de privacidad de Talkie no tiene un formato demasiado organizado; aunque no está dentro de las más complicadas que hemos leído, no es fácil de leer.
Enlaces a información de privacidad
¿El producto cumple nuestros estándares mínimos de seguridad?
Cifrado
«Todos los datos transmitidos se cifran durante la transmisión. Todos los datos almacenados se mantienen en servidores seguros. El acceso a los datos almacenados está protegido por controles de seguridad de varias capas, incluidos firewalls, controles de acceso basados en roles y contraseñas».
Contraseña fuerte
Solo está disponible el registro con cuentas de Google o Apple.
Actualizaciones de seguridad
Gestiona las vulnerabilidades
Política de privacidad
¿El producto usa IA?
No podemos confirmar si la IA utilizada por este producto es confiable, porque hay poca o ninguna información pública sobre cómo funciona la IA y qué controles de usuario existen para hacer que el producto sea seguro. También encontramos temas inquietantes en los contenidos de la aplicación. Además, nos preocupa el potencial de manipulación del usuario desde esta aplicación, ya que recopila información personal confidencial y puede usar esos datos para entrenar a los modelos de IA, y los usuarios tienen poco o ningún control sobre esos algoritmos de IA.
Talkie genera diferentes personajes de IA con los que puedes hablar.
¿Es poco confiable esta IA?
¿Qué tipo de decisiones toma la IA acerca de ti o por ti?
¿La empresa es transparente acerca del funcionamiento de la IA?
¿Tiene el usuario control sobre las características de la IA?
Profundiza más
-
5 Things You Must Not Share With AI ChatbotsMake Use Of
-
‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AIRolling Stone
-
AI-Human Romances Are Flourishing—And This Is Just the BeginningTime
Comentarios
¿Tienes algún comentario? Queremos escucharte.