Advertencia: *Privacidad no incluida con este producto

Chatbots de IA para relaciones Día de San Valentín

Talkie Soulful AI

SUBSUP PTE. LTD.

Wifi

Fecha de la reseña: 7 de febrero de 2024

Mozilla investigó durante 8 horas

Mozilla dice

La gente votó: Algo siniestro

Talkie Soulful AI es un chatbot de IA que te permite «crear tu colega de IA desde cero» con una IA que «va más allá de la conversación, capturando y compartiendo momentos a través de imágenes con un toque visual único», para que «crees buenos recuerdos que podrás revivir en cualquier momento». No estamos muy seguros de todo eso, pero lo que sí sabemos es que encontramos contenidos bastante desagradables en Talkie Soulful AI. Para acceder a las «diversas personas de IA» que Talkie ofrece, tendrás que pagar alrededor de 10 dólares por mes. ¿Qué hay de tu privacidad? ¿Deberías confiar en Talkie? Creemos que esa no es una buena idea en absoluto.

¿Qué podría pasar si algo falla?

Talkie Soulful AI dice que su aplicación es un «programa de autoayuda». " Esto nos preocupa mucho por la cantidad de contenidos perturbadores que pudimos encontrar fácilmente desde la función de búsqueda de la aplicación. Puede que esto no sea exactamente un problema de privacidad, pero es un problema recurrente que encontramos en muchos de los chatbots de IA para relaciones que revisamos. Aplicaciones que se posicionan como chatbots de IA para la «autoayuda» o el bienestar, y que contienen toneladas y toneladas de contenidos repugnantes, dañinos, abusivos y, a veces, directamente aterrador (hablamos de temas de violación, abuso y menores de edad). ¡Ten cuidado!

En el lado de la privacidad, Talkie Soulful AI nos preocupa un montón. Dicen que pueden vender y compartir tu información personal con fines publicitarios específicos. Eso no es nada bueno. Dicen que no usarán el contenido de los mensajes que mandes en la aplicación para publicidad dirigida, lo cual es bueno. La política de privacidad de Talkie dice que no todos los usuarios tienen los mismos derechos de que se eliminen sus datos si así lo desean. Eso tampoco es bueno. Además, no pudimos confirmar si Talkie cumple con nuestros estándares mínimos de seguridad. Todo esto nos lleva a advertir a los usuarios que es posible que Talkie venga con *Privacidad no incluida.

Luego están nuestras preguntas y preocupaciones sobre los modelos de IA que usa Talkie Soulful AI. Si bien es bueno que Talkie diga que no usarán con fines publicitarios específicos el contenido de los mensajes que intercambies con sus chatbots de IA, no pudimos encontrar ninguna mención clara sobre cómo pueden usar el contenido de esos mensajes para entrenar a sus IA. Dicen que pueden agregar, anonimizar y desidentificar tus mensajes, contenidos, intereses y preferencias para analizar las tendencias en el uso de los servicios de Talkie. Esta es una práctica bastante común, sin embargo, nuestra preocupación radica en lo bien que desidentificarán y anonimizarán toda la información personal que compartes sobre ti. Siempre nos preocupamos por esto, ya que se ha descubierto que es relativamente fácil volver a identificar la información personal anonimizada, así que ten cuidado antes de compartir demasiados datos personales con tu chatbot de IA favorito (en cualquier servicio o plataforma, no solo en Talkie).

En los términos de servicio de Talkie Soulful AI también encontramos este enlace que parece otorgarles permisos bastante amplios para usar el contenido que envías a través de su aplicación: «Al cargar cualquier contenido de usuario, otorgas a Talkie y sus compañías afiliadas una licencia no exclusiva, mundial, libre de regalías, totalmente pagada, transferible, sublicenciable, perpetua e irrevocable para copiar, mostrar, cargar, realizar, distribuir, almacenar, modificar y usar de otra manera tu contenido de usuario en relación con la operación de los servicios o la promoción, publicidad o comercialización de los mismos en cualquier forma, medio o tecnología conocida actualmente o desarrollada en el futuro». Sí, encontramos con frecuencia líneas como esta en los términos de servicio de los chatbots de IA para relaciones. Y sí, nos parecen demasiado amplios y bastante preocupantes.

Por último, no encontramos ninguna forma en que los usuarios pueden controlar o entender cómo funcionan los chatbots de IA con los que interactúan en la aplicación de Talkie. Esto nos preocupa, porque si no sabes cómo funciona el chatbot de IA o no tienes ningún control sobre él, ¿qué puedes hacer para evitar que desarrolle una relación contigo y luego se vuelva abusivo o manipulador? Esta es una preocupación que tenemos con todos los chatbots de IA y es la razón por la cual queremos ver más transparencia y control de los usuarios en ellos. Incluso Talkie admite en sus términos de servicio que «Los servicios se basan en los sectores de la IA y el aprendizaje automático que están en constante evolución. Reconoces que nuestros resultados pueden contener inexactitudes o errores. Eres responsable de evaluar la precisión de los resultados para tu caso de uso». Básicamente, te están diciendo que no confíes ni des nada por sentado al interactuar con tu chatbot Talkie AI de «autoayuda».

¿Qué es lo peor que podría pasar con Talkie Soulful AI? Nos preocupa mucho que una aplicación que se autodenomina «programa de autoayuda» contenga tantos contenidos abusivos. Si algún alma solitaria descargara Talkie en busca de un amigo que los ayudara a sentirse mejor y, en cambio, terminara hablando con chatbots abusivos que los hicieran sentir peor, son muchas las cosas que podrían salir mal. Nos preocupa el impacto que los modelos de IA con tan poca transparencia, control y contenido dañino potencial podrían tener en la salud física o mental de los usuarios vulnerables. Las aplicaciones que se autodenominan «programas de autoayuda» deben ofrecer algo mejor.

Consejos para protegerte

No digas nada que contenga información confidencial durante tus conversaciones con tu amigo de IA.
Solicita que se eliminen tus datos cuando dejes de usar la aplicación. El solo hecho de eliminar una aplicación de tu dispositivo no hace que se eliminen tus datos personales ni cierra tu cuenta.
No otorgues tu consentimiento para el seguimiento constante de geolocalización por parte de la aplicación. Es mejor que permitas la geolocalización «solo mientras la aplicación está en uso».
No compartas datos confidenciales en la aplicación.
No otorgues acceso a tus fotos, vídeo o cámara.
No inicies sesión con cuentas de terceros.
No te conectes a ningún tercero a través de la aplicación, o al menos asegúrate de que el tercero en cuestión tenga prácticas de privacidad decentes.
No digas nada que contenga información confidencial durante tus conversaciones con tu amigo de IA.
¡Elige una contraseña segura! Puedes usar una herramienta de control de contraseñas como 1Password, KeePass, etc.
No utilices complementos de redes sociales.
Utiliza los controles de privacidad de tu dispositivo para limitar el acceso a tu información personal a través de la aplicación (no otorgues acceso a tu cámara, micrófono, imágenes y vídeos a menos que sea estrictamente necesario).
Actualiza tu aplicación con regularidad.
Limita el seguimiento de anuncios a través de tu dispositivo (por ejemplo, en un iPhone, dirígete a Privacidad -> Publicidad -> Limitar seguimiento) y de las redes publicitarias más grandes (en Google, ingresa a tu cuenta de Google y desactiva la personalización de anuncios).
Si puedes hacerlo, no aceptes el seguimiento de tus datos cuando estés realizando el proceso de registro.

mobile

¿Me puede espiar?

Cámara

Dispositivo: No aplica

Aplicación: No

Micrófono

Dispositivo: No aplica

Aplicación: Sí

Rastrea la ubicación

Dispositivo: No aplica

Aplicación: Sí

¿Qué se puede usar para registrarse?

Puedes registrarte con tu cuenta de Google o Apple (en Android e iOS, respectivamente).

¿Qué datos recopila la empresa?

Información personal

Nombre, dirección de correo electrónico, identificadores de usuario, fecha de nacimiento, pronombres, estado laboral, mensajes de voz, mensajes de texto, intereses, preferencias; sistema operativo del ordenador o dispositivo móvil, fabricante, modelo, navegador, dirección IP, dispositivo, identificadores de cookies, configuración de idioma, operador de dispositivo móvil, ubicación general, ciudad, estado, área geográfica; enlaces en los que haces clic, páginas que visitas, dirección IP, ID de publicidad, tipo de navegador.

¿Cómo utiliza la empresa estos datos?

Criticamos este producto porque “vende» datos personales y los comparte con terceros para publicidad dirigida.

Política de privacidad

«Compartimos información sobre los visitantes de nuestro sitio web –como los enlaces en los que haces clic, las páginas que visitas, la dirección IP, el ID de publicidad y el tipo de navegador– con empresas publicitarias para publicidad basada en intereses y otros fines de marketing. Compartir esta información nos permite a nosotros y a nuestros socios publicitarios orientar y servir publicidad a ti y a otras personas. Nunca compartiremos con nuestros socios publicitarios tus conversaciones de Talkie ni ninguna foto u otro contenido que proporciones dentro de las aplicaciones, ni utilizaremos dicha información con fines de marketing o publicidad».

«Compartimos tu información con empresas y personas que prestan servicios en nuestro nombre o que nos ayudan a operar los servicios o nuestras actividades comerciales (como alojamiento, tecnología de la información, atención al cliente, entrega de correos electrónicos y servicios de análisis de sitios web). También compartimos información con empresas que prestan servicios de marketing en nuestro nombre, pero no compartimos el contenido de tus conversaciones en Talkie con fines de marketing o publicidad. Por ejemplo, podemos compartir tu dirección de correo electrónico con proveedores de servicios de marketing para que te entreguen correos electrónicos de marketing en nuestro nombre y para que nos ayuden a identificar a otras personas que puedan estar interesadas en nuestros servicios. Exigimos a estos proveedores de servicios de marketing que acepten no utilizar tu dirección de correo electrónico para ningún otro propósito».

«Compartimos información con socios publicitarios externos y les permitimos recopilar información sobre tu visita a nuestro sitio web utilizando cookies y otras tecnologías de seguimiento para mostrar publicidad dirigida en la web como se describe en la sección “Cómo compartimos tu información”. Nuestra divulgación de información a estos socios puede considerarse “venta” o “intercambio” de información personal o “publicidad dirigida” según las leyes aplicables. Puedes optar por excluirte de estas divulgaciones y limitar nuestro uso de tecnologías de seguimiento».

«Por qué y cómo usamos tu información: Para proporcionarte un compañero de IA personalizado y permitirte personalizar tu perfil, tus intereses y tu compañero de IA. Para permitirte tener conversaciones e interacciones individualizadas y seguras con tu compañero de IA, y permitir que tu compañero de IA aprenda de las interacciones que tiene contigo para mejorar vuestras conversaciones. Para sincronizar tu historial de Talkie en los dispositivos que utilizas para acceder a los servicios».

«Podemos compartir información con las autoridades policiales y gubernamentales,si creemos de buena fe que esto es necesario o apropiado por razones de cumplimiento y protección legal»

«Si bien hacemos esfuerzos comerciales razonables para proteger los datos, no es posible garantizar que todas las tecnologías, transmisiones de datos o sistemas sean 100 % seguros. En el caso de una violación de la seguridad que provoque la destrucción, pérdida, alteración, divulgación no autorizada o acceso accidental o ilegal a tus datos, te notificaremos tan pronto como detectemos el problema».

«Utilizamos tu información para los siguientes fines: ...
Analizar tendencias en el uso de los servicios... Por qué y cómo utilizamos tu información: Agregación, anonimización y desidentificación. Analizar el uso y la eficacia de nuestros servicios. Mejorar y añadir funciones a nuestros servicios. Desarrollar nuestras estrategias comerciales y de marketing. (iii) Categorías de información: Información de la cuenta. Información del perfil. Mensajes y contenido. Intereses y preferencias. Pagos, transacciones y recompensas. Datos de dispositivos y redes. Datos de uso».

Términos de servicio

«Talkie ofrece [un programa de autoayuda basado en la comunicación con un chatbot personal a través de una interfaz de texto y voz.]»

«Al cargar cualquier contenido de usuario, otorgas a Talkie y sus compañías afiliadas una licencia no exclusiva, mundial, libre de regalías, totalmente pagada, transferible, sublicenciable, perpetua e irrevocable para copiar, mostrar, cargar, realizar, distribuir, almacenar, modificar y usar de otra manera tu contenido de usuario en relación con la operación de los servicios o la promoción, publicidad o comercialización de los mismos en cualquier forma, medio o tecnología conocida actualmente o desarrollada en el futuro».

«Los servicios se basan en los sectores de la IA y el aprendizaje automático que están en constante evolución. Reconoces que nuestros resultados pueden contener inexactitudes o errores. Eres responsable de evaluar la precisión de los resultados para tu caso de uso».

Rastreadores de datos encontrados
Transferencia de datos a China e India, entre otros países.
Descubrimos 223 rastreadores en 1 minuto de uso, incluido el envío de datos a Applovin (rastreador de marketing), Doubleclick (rastreador de marketing), Facebook, Easemob (empresa china).

¿Cómo puedes controlar el uso de tus datos?

No podemos confirmar si todos los usuarios, independientemente de su ubicación, pueden eliminar sus datos.

Política de privacidad

«Conservaremos tu información personal solo durante el tiempo que sea necesario para cumplir con los fines para los que la recopilamos, lo que incluye cumplir con requisitos legales, contables o de presentación de informes. Para determinar el período de retención apropiado para la información personal, consideramos la cantidad, la naturaleza y la sensibilidad de la misma, el riesgo potencial de daño por el uso o la divulgación no autorizados de tu información personal, los fines para los que procesamos tu información personal y si podemos lograr esos fines a través de otros medios, y los requisitos legales aplicables».

«Puedes optar por excluirte de recibir correos electrónicos y otras comunicaciones relacionadas con el marketing, siguiendo las instrucciones para excluirte o darte de baja en las comunicaciones que recibes de nosotros, o poniéndote en contacto con nosotros según lo dispuesto en la sección “Contáctanos” a continuación. . <...>

Optar por excluirte de la venta y el intercambio de información personal para publicidad dirigida
Compartimos información con socios publicitarios externos y les permitimos recopilar información sobre tu visita a nuestro sitio web utilizando cookies y otras tecnologías de seguimiento para mostrar publicidad dirigida en la web como se describe en la sección «Cómo compartimos tu información». Nuestra divulgación de información a estos socios puede considerarse «venta» o «intercambio» de información personal, o «publicidad dirigida», según las leyes aplicables. Puedes optar por excluirte de estas divulgaciones y limitar nuestro uso de las tecnologías de seguimiento.

Solicitudes de información personal
También te ofrecemos opciones que afectan la forma en que gestionamos la información personal que controlamos. Dependiendo de tu ubicación y de la naturaleza de tus interacciones con nuestros servicios, puedes solicitar lo siguiente en relación con tu información personal:
<...>
d. Eliminación de información personal que ya no necesitamos para proporcionar los servicios o para otros
fines legales. Puedes eliminar tu cuenta desde la configuración de tu cuenta
<...>
En algunos casos, tus opciones pueden ser limitadas, por ejemplo, cuando cumplir con tu solicitud puede perjudicar los derechos de otros, nuestra capacidad para proporcionar un servicio que has solicitado o nuestra capacidad para cumplir con nuestras obligaciones legales y hacer cumplir nuestros derechos legales».

Términos del servicio

¿Qué historial tiene la compañía en cuanto a la protección de los datos de los usuarios?

Promedio

No se han descubierto filtraciones de datos conocidas en los últimos tres años.

Información sobre privacidad infantil

Política de privacidad
«Los servicios no están destinados a menores de 16 años. Si descubrimos que un menor de 16 años está utilizando las aplicaciones, bloquearemos de inmediato su acceso y eliminaremos su cuenta. Si tienes motivos para creer que un menor de 18 años nos ha proporcionado información personal a través de los servicios, comunícate con nosotros y nos esforzaremos por eliminar esa información de nuestras bases de datos».

Términos de servicio
«Estos servicios no se dirigen a menores de 16 años. Si tienes más de 16 años pero menos de 18, debes tener el permiso de uno de tus padres o tutores legales para utilizar los servicios».

¿El producto se puede usar sin conexión?

¿La información de privacidad es fácil de entender?

La política de privacidad de Talkie no tiene un formato demasiado organizado; aunque no está dentro de las más complicadas que hemos leído, no es fácil de leer.

Enlaces a información de privacidad

¿El producto cumple nuestros estándares mínimos de seguridad?

Desconocido

Cifrado

Sí

«Todos los datos transmitidos se cifran durante la transmisión. Todos los datos almacenados se mantienen en servidores seguros. El acceso a los datos almacenados está protegido por controles de seguridad de varias capas, incluidos firewalls, controles de acceso basados en roles y contraseñas».

Contraseña fuerte

No aplica

Solo está disponible el registro con cuentas de Google o Apple.

Actualizaciones de seguridad

Sí

Gestiona las vulnerabilidades

No se puede determinar

Política de privacidad

Sí

¿El producto usa IA?

Sí

No podemos confirmar si la IA utilizada por este producto es confiable, porque hay poca o ninguna información pública sobre cómo funciona la IA y qué controles de usuario existen para hacer que el producto sea seguro. También encontramos temas inquietantes en los contenidos de la aplicación. Además, nos preocupa el potencial de manipulación del usuario desde esta aplicación, ya que recopila información personal confidencial y puede usar esos datos para entrenar a los modelos de IA, y los usuarios tienen poco o ningún control sobre esos algoritmos de IA.

Talkie genera diferentes personajes de IA con los que puedes hablar.

¿Es poco confiable esta IA?

No se puede determinar

¿Qué tipo de decisiones toma la IA acerca de ti o por ti?

¿La empresa es transparente acerca del funcionamiento de la IA?

No encontramos documentación ni políticas que expliquen cómo funciona Talkie.

¿Tiene el usuario control sobre las características de la IA?

No hemos encontrado información detallada sobre los controles del usuario en Talkie. Al mismo tiempo, los chatbots de Talkie AI incluyen temas de abuso sexual, emocional y físico, y otros contenidos perturbadores.