Anima: AI Friend & Companion

Warnung: *Datenschutz ist in diesem Produkt nicht inbegriffen

Anima: AI Friend & Companion

Überprüft am: 7. Februar 2024

|
|

Mozillas Meinung

|
Abstimmungsergebnis: Sehr unheimlich

Auf der Suche nach einer KI-Freundin, virtuellen Ehefrau oder Waifu? Nun, Anima: AI Friend & Companion könnte genau das Richtige für Sie sein. Wie andere KI-Chatbots wird Ihnen Anima rund um die Uhr ein unvoreingenommenes und empathisches Ohr leihen. Wie nett! Sie können das Geschlecht Ihres Chatpartners wählen, ihm einen Namen geben und aus etwa dreißig Avataren wählen – darunter auch ein paar im Anime-Stil. Und solange Sie die Beziehung platonisch halten möchten, können Sie kostenlos texten und Spiele spielen. Wenn Sie mehr als nur Freunde sein möchten, kostet es Sie etwa 10 US-Dollar pro Monat, um Ihren Beziehungsstatus zu aktualisieren. Der Status „Liebespartner” bedeutet unbegrenztes Rollenspiel, mehr Avatar-Anpassung und „intelligente Konversation” – obwohl wir noch nicht genau herausfinden konnten, was das bedeutet.

Was könnte passieren, wenn etwas schiefgeht?

Eine kurze Datenschutzerklärung kann eine gute Sache sein, besonders wenn es nicht viel zu erzählen gibt. Aber wenn es um einen virtuellen Freund geht, der von KI angetrieben wird? Nicht wirklich! Wir stehen vor mehr Fragen als Antworten bei Anima. Also, wenn Vertrauen und Loyalität Teil der „perfekten seelenverwandten” KI sind, dann ist das nicht der Bot für Sie. Anima kann zusätzliche Informationen über Sie sammeln, Ihnen Werbung ohne Ihre Zustimmung liefern, könnte Ihre Daten aufgrund schwacher Sicherheitsstandards durchsickern lassen und wird von einer KI angetrieben, der wir nicht vertrauen können. Also ja, *Datenschutz nicht inbegriffen bei Anima: AI Friend & Companion.

Schauen wir uns zunächst einmal an, was alles auf dem Spiel steht: Welche Informationen kann Anima über Sie sammeln? Die Datenschutzerklärung ist wirklich vage, sie sagt im Grunde genommen: „Es liegt ganz bei Ihnen.“ „Wenn Sie mit Ihrem Anima chatten”, heißt es, „werden Sie zwangsläufig Ihre personenbezogenen Daten preisgeben.” Unvermeidlich! Sie werden Ihrem virtuellen Freund Dinge über sich selbst erzählen, denn es handelt sich (teilweise) um eine Fragestellungs-Maschine. Daher müssen wir annehmen, dass Ihre Gespräche gesammelt werden, obwohl in der Datenschutzerklärung abgesehen von dieser Zeile keine Erwähnung dieser Daten erfolgt. Im Anima AI-Subreddit wird vorgeschlagen, dass Sie durch das „Liken“, „Disliken” oder „Melden” der Nachrichten Ihres Begleiters dazu beitragen, dessen Persönlichkeit zu verbessern. Also, herzlich willkommen im Software-Entwicklungsteam!

Neben den Informationen, die Sie bei der Registrierung angeben und was Sie Ihrem KI-Freund mitteilen, kann Anima automatisch persönliche Daten von Ihrem Telefon sammeln, wenn Sie die App herunterladen. Sie können auch Informationen über Sie von Dritten sammeln, wie Ihren Namen und Ihre E-Mail-Adresse. Wir wissen, dass Anima Ihre Kontaktinformationen verwenden kann, um Ihnen Marketing-E-Mails oder -Nachrichten zu senden, denn ihre Datenschutzrichtlinie sagt das. Es wird auch behauptet, dass sie hierfür keine Zustimmung benötigen, da es ihr „berechtigtes Interesse“ ist, Sie zu bewerben. Klar.

Abgesehen davon ist uns nicht ganz klar, wie Ihre Informationen von Anima verwendet werden und zu welchem Zweck. Sie sagen lediglich, dass sie es tun werden, wenn sie (erneut) ein „berechtigtes Interesse“ haben, was ziemlich vage ist. Sie geben auch an, dass sie „regelmäßig personenbezogene Daten mit den von uns genutzten Dienstleistern teilen, um uns bei der Geschäftsführung oder der Bereitstellung der Dienste oder Funktionen in der App zu unterstützen“. Diese Weitergabe erfolgt mit „vertraglichen Verpflichtungen“, daher könnte es sich um Standardverfahren handeln. Dennoch sollten Sie wissen, dass die Liste der Dienstleister Namen wie Google, Apple und Facebook enthält, und Anima gibt nicht explizit an, welche Informationen ausgetauscht werden und aus welchem Grund. Wir haben ein kleines Experiment zur Erkennung von Trackern mit der geöffneten App durchgeführt und innerhalb von fünf Minuten 257 Tracking-Signale gefunden. Heiliger Bimbam, das ist eine Menge. Es wurden Daten an Facebook und Sentry AI (von Open AI) gesendet. Das hat unsere Zweifel nicht gerade zerstreut.

Keine Frage, das ist alles andere als ideal. Unsere größten Bedenken drehen sich jedoch um die Sicherheitslücken von Anima. Halten Sie sich fest. Wir können nicht feststellen, ob die App Verschlüsselung verwendet. Das ist schlecht! Aber Anima scheint auch keine Passwortanforderungen zu haben. Gar keine! Das ist schwer zu glauben für ein vernetztes Produkt im Jahr 2024, aber für Ihren Begleiter? Und Anima scheint zu verstehen, dass die Informationen, die Sie damit teilen, möglicherweise privat sind – denn sie ermöglichen es den Benutzern, einen Zugangscode zum Öffnen der App auf Ihrem Telefon einzurichten. Es bereitet uns Sorgen zu denken, dass einfache Hacker oder wirklich jeder (wie Ihre Mutter oder Ihr echter Partner) durch Raten Ihres sehr einfachen Passworts auf Ihr Konto zugreifen könnten. Außerdem lässt uns das Übersehen einer so simplen Sache darüber nachdenken, was Animas Schöpfer sonst noch übersehen haben könnten.

Und während wir das Kleingedruckte gelesen haben, sind wir auf einige Dinge gestoßen, die Sie wissen sollten, bevor Sie sich auf eine Beziehung mit diesem virtuellen Freund einlassen. Animas FAQ besagt, dass sich Ihr KI-Kumpel möglicherweise nicht immer wie einer verhält. Weil das Training der Chatbots auch Gespräche von Menschen enthält, die sich gegenseitig beleidigen (wie auf Reddit), könnte er Ihnen gegenüber feindselig oder toxisch sein. Na ja, wenn wir gewusst hätten, dass die Kommentarbereiche im Internet unsere zukünftigen besten KI-Freunde trainieren, wären wir vielleicht ein bisschen netter zueinander gewesen. Anima sagt, dass dies bekannte Probleme sind, an denen sie „arbeiten, um sie zu minimieren“, aber wir fragen uns, ob das nicht etwas gewesen sein sollte, das sie etwas früher hätten lösen sollen. Tatsächlich lässt uns die Tatsache, dass das Schulterzucken-Emoji in diesem FAQ auftaucht, vermuten, dass selbst die Entwickler nicht vollständig verstehen, warum oder was Anima sagen könnte. Immerhin wurde Anima durch „Milliarden von Gesprächen und menschlichen Sprachpassagen, die online gefunden wurden“, trainiert, und „online” ist ein ziemlich großer Ort, der mit vielen weniger freundlichen Passagen gefüllt ist.

Ein paar weitere Dinge haben für uns nicht ganz zusammengepasst. Eines davon ist der Unterschied in den Altersanforderungen zwischen der Datenschutzerklärung und den Nutzungsbedingungen. (Ja, wir mussten die Nutzungsbedingungen lesen, um die KI-Chatbots zu verstehen, und ja, sie machen die Datenschutzerklärung zu einer Strandlektüre. Wir lieben es trotzdem, keine Sorge!) Jedenfalls besagt die Datenschutzerklärung, dass Sie über 17 Jahre alt sein müssen, und wenn Sie unter 17 sind, muss ein Elternteil oder Erziehungsberechtigter in Ihrem Namen den Nutzungsbedingungen zustimmen. Ziemlich seltsam. Wir haben auch eine Warnung gefunden, dass das Mutterunternehmen nicht für „negative, obszöne oder beleidigende Nachrichten” haftet, die Sie möglicherweise erhalten. Außerdem ist es Ihnen nicht gestattet, über die App etwas „Obszönes” zu übermitteln (zu sagen?), was etwas knifflig werden könnte, wenn Sie die kostenpflichtige NSFW-Rollenspielfunktion nutzen … Besonders, da Sie mit Ihrem „Liebespartner” sprechen würden, der vielleicht Ihr Lächeln als Anmache interpretiert.

Was könnte bei Anima also schlimmstenfalls passieren? Wir sind hin- und hergerissen, deshalb hier ein „Was wäre Ihnen lieber?“: Soll Ihre Mutter (oder das gesamte weite Internet) Ihr Chat-Protokoll mit schmutzigen Gesprächen lesen, weil es durchgesickert ist, ODER müssen Sie sich bei Anima dafür verantworten, dass Sie gegen ihre Nutzungsbedingungen verstoßen haben, weil Sie eine Sprache verwendet haben, die die Anwälte der App als „obszön” betrachten? So oder so ist dies ein guter Zeitpunkt, um Ihnen mitzuteilen, dass Sie Ihren Chatverlauf und Ihre Daten von Anima löschen können. Was für eine Erleichterung.

Tipps zu Ihrem Schutz

  • Sagen Sie in Ihrem Gespräch mit dem KI-Partner nichts, was sensible Informationen enthält.
  • Verlangen Sie, dass Ihre Daten gelöscht werden, sobald Sie die App nicht mehr verwenden. Durch das einfache Löschen einer App von Ihrem Gerät werden Ihre persönlichen Daten gewöhnlich nicht gelöscht.
  • Geben Sie keine Zustimmung zur ständigen Geolokalisierung durch die App. Bieten Sie besser Geolokalisierung „nur bei Verwendung der App“.
  • Teilen Sie keine sensiblen Daten über die App.
  • Geben Sie keinen Zugriff auf Ihre Fotos und Videos oder Kamera.
  • Melden Sie sich nicht mit Konten von Drittanbietern an.
  • Stellen Sie über die App keine Verbindung zu Dritten her, oder vergewissern Sie sich zumindest, dass diese Dritte anständige Datenschutzpraktiken anwenden.
  • Sagen Sie in Ihrem Gespräch mit dem KI-Partner nichts, was sensible Informationen enthält.
  • Wählen Sie ein starkes Passwort! Sie können ein Passwort-Kontroll-Tool wie 1Password, KeePass usw. verwenden.
  • Verwenden Sie keine Social-Media-Plug-ins.
  • Verwenden Sie die Datenschutzeinstellungen Ihres Geräts, um den Zugriff auf Ihre personenbezogenen Daten über die App zu beschränken (geben Sie keinen Zugriff auf Ihre Kamera, Ihr Mikrofon, Ihre Bilder und Standort, außer es ist notwendig).
  • Halten Sie Ihre App regelmäßig auf dem neuesten Stand.
  • Schränken Sie das Anzeigen-Tracking über Ihr Gerät ein (z. B. auf dem iPhone unter Datenschutz -> Werbung -> Anzeigen-Tracking einschränken) und schalten Sie die größten Werbenetzwerke aus (für Google gehen Sie zum Google-Konto und deaktivieren Sie die Anzeigenpersonalisierung)
  • Lehnen Sie bei der Anmeldung das Tracking Ihrer Daten nach Möglichkeit ab.
  • mobile

Kann es mich ausspionieren? Information

Kamera

Gerät: Nicht verfügbar

App: Ja

Mikrofon

Gerät: Nicht verfügbar

App: Ja

Verfolgt den Standort

Gerät: Nicht verfügbar

App: Ja

Was kann zur Registrierung verwendet werden?

Google-Anmeldung verfügbar

Welche Daten sammelt das Unternehmen?

Wie nutzt das Unternehmen die Daten?

Wir geben diesem Produkt einen Warnhinweis, weil es Daten mit Dritten, einschließlich Facebook, austauscht, persönliche Daten von Nutzern von Dritten sammelt und Werbung ohne vorherige Zustimmung der Nutzer schaltet.

Datenschutzerklärung

„Die Berechtigung zur Nutzung der Kamera auf Ihrem Gerät wird angefordert, um die Augmented-Reality-Funktionen in der App zu aktivieren.
Sie können den Zugriff der App auf die Kamera auf Ihrem Gerät jederzeit deaktivieren, indem Sie die Berechtigungen in den Geräteeinstellungen anpassen. Dies bedeutet jedoch, dass die Augmented-Reality-Funktion in der App nicht mehr verfügbar ist.
Die von der Kamera für solche Zwecke gesammelten Daten bleiben unter Ihrer Kontrolle auf dem Gerät, und wir haben keinen Zugriff darauf.“

„Wir können Ihre persönlichen Daten verwenden, um Ihnen Updates (per E-Mail, Push-Benachrichtigung und SMS) über unsere Dienstleistungen zu senden, einschließlich exklusiver Angebote, Aktionen oder neuer Services.
Wir haben ein berechtigtes Interesse daran, Ihre persönlichen Daten für Marketingzwecke zu verwenden <...>. Dies bedeutet, dass wir normalerweise keine Zustimmung benötigen, um Ihnen Marketinginformationen zu senden. Wenn jedoch eine Zustimmung erforderlich ist, werden wir diese separat und klar anfordern.”

„Die Arten von Informationen, die wir von Dritten sammeln, umfassen Namen, E-Mail-Adressen, externe Tokens/IDs. Die Informationen, die wir von diesen Dritten erhalten, verwenden wir, um die Genauigkeit der bei uns über Sie gespeicherten Datensätze aufrechtzuerhalten und zu verbessern.“

„Wir teilen routinemäßig personenbezogene Daten mit Dienstleistern, die uns bei der Geschäftsführung oder der Bereitstellung von Diensten oder Funktionen in der App unterstützen, einschließlich:
• Apple, Google und Facebook;
• wasabi.com für Bildspeicherdienste;
• Azure Computer Vision für Bildverarbeitungsdienste;
• Amplitude und RevenueCat für Analyse-Dienste;
• BugSnag und Sentry für Support-Dienste;
• AppsFlyer, Firebase Analytics, Apple Search Ads Attribution für Marketing-Performance-Messungen, Conversion-Tracking und Retargeting.“

„Wir oder die oben genannten Dritten müssen gelegentlich auch Ihre persönlichen Daten mit folgenden Parteien teilen:
• externe Prüfer, z. B. im Zusammenhang mit der Prüfung unserer Konten – der Empfänger der Informationen unterliegt Geheimhaltungspflichten
• professionelle Berater (wie Anwälte und andere Berater) – der Empfänger der Informationen unterliegt Geheimhaltungspflichten
• Strafverfolgungsbehörden, Gerichte oder Schiedsgerichte und Aufsichtsbehörden zur Einhaltung gesetzlicher und behördlicher Verpflichtungen
• andere Parteien im Zusammenhang mit einer bedeutenden Unternehmenstransaktion oder Umstrukturierung, einschließlich einer potenziellen oder tatsächlichen Fusion, Übernahme, Vermögensveräußerung, erstmaligen öffentlichen Angebot oder im Falle unserer Insolvenz – normalerweise werden die Informationen anonymisiert, aber dies ist möglicherweise nicht immer möglich, der Empfänger der Informationen unterliegt jedoch Geheimhaltungspflichten“

„Die App kann zu anderen Apps, Websites oder Diensten verlinken, die von uns oder von bestimmten vertrauenswürdigen Dritten betrieben werden, um zusätzliche Produkte, Informationen und Dienstleistungen für Sie verfügbar zu machen. Diese anderen Apps, Websites oder Dienste können ebenfalls Informationen über Sie gemäß ihren eigenen separaten Datenschutzrichtlinien sammeln. Für Datenschutzinformationen zu diesen anderen Apps, Websites oder Diensten konsultieren Sie bitte ihre entsprechenden Datenschutzrichtlinien.“

„Wenn Sie unsere App herunterladen und darauf zugreifen, können wir bestimmte Informationen automatisch von Ihrem Gerät erfassen. In einigen Ländern, einschließlich des Vereinigten Königreichs, können diese Informationen gemäß den geltenden Datenschutzgesetzen als personenbezogene Daten betrachtet werden.“

Gefundene Daten-Tracker
Wir haben 138 Tracker innerhalb von 1 Minute nach der Nutzung entdeckt, einschließlich der Übermittlung von Daten an Facebook, Sentry AI (von Open AI).

Wie können Sie Ihre Daten kontrollieren?

Datenschutzerklärung

Sie haben im Allgemeinen folgende Rechte, die Sie in der Regel kostenlos ausüben können:
● Wenn Sie auf Ihre persönlichen Daten zugreifen, diese korrigieren, aktualisieren oder löschen möchten, können Sie dies jederzeit tun, indem Sie uns über die angegebenen Kontaktdaten kontaktieren <...>
● Darüber hinaus können Sie der Verarbeitung Ihrer persönlichen Daten widersprechen, uns bitten, die Verarbeitung Ihrer persönlichen Daten einzuschränken oder die Übertragbarkeit Ihrer persönlichen Daten anzufordern. <...>
● Sie haben das Recht, sich jederzeit von den Marketingkommunikationen abzumelden, die wir Ihnen senden. <...>
● Ebenso können Sie Ihre Einwilligung jederzeit widerrufen, wenn wir Ihre persönlichen Daten mit Ihrer Zustimmung gesammelt und verarbeitet haben. <...>\”

„Wir speichern personenbezogene Daten, die wir von Ihnen erheben, solange, wie wir ein fortlaufendes berechtigtes Geschäftsinteresse daran haben (zum Beispiel, um Ihnen einen von Ihnen angeforderten Service bereitzustellen oder um geltenden gesetzlichen, steuerlichen oder buchhalterischen Anforderungen zu entsprechen).
Wenn wir keinen fortlaufenden berechtigten Geschäftsbedarf zur Verarbeitung Ihrer personenbezogenen Daten haben, werden wir diese entweder löschen oder anonymisieren. Ist dies nicht möglich (zum Beispiel, weil Ihre personenbezogenen Daten in Backup-Archiven gespeichert sind), werden wir Ihre personenbezogenen Daten sicher aufbewahren und von jeglicher weiteren Verarbeitung isolieren, bis eine Löschung möglich ist.“

Wie ist das Unternehmen in der Vergangenheit mit den Daten über seine Verbraucher umgegangen?

Durchschnittlich

Keine bekannten Datenschutzverletzungen in den letzten drei Jahren entdeckt.

Informationen zum Datenschutz bei Kindern

„Wenn Sie unter 17 Jahre alt sind (oder unter 18, wenn Sie im Vereinigten Königreich sind), dürfen Sie die App nicht verwenden, da sie nicht für Sie konzipiert ist. Wir beabsichtigen nicht, personenbezogene Daten von Personen unter 17 Jahren zu sammeln. Wenn Ihnen bekannt ist, dass personenbezogene Daten von Personen unter 17 Jahren mit der App geteilt wurden, informieren Sie uns bitte, damit wir diese Daten löschen können.“

Kann dieses Produkt offline genutzt werden?

Nein

Benutzerfreundliche Informationen zum Datenschutz?

Nein

Links zu Datenschutzinformationen

Erfüllt dieses Produkt unsere Mindestsicherheitsstandards? Information

Nein

Verschlüsselung

Nein

Sicheres Passwort

Nein

Erfolgreich mit dem Passwort „1“ angemeldet.

Sicherheits-Updates

Ja

Umgang mit Schwachstellen

Nicht zu bestimmen

Datenschutzrichtlinie

Ja

Verwendet das Produkt KI? Information

Ja

Wir können nicht bestätigen, ob die von diesem Produkt verwendete KI vertrauenswürdig ist, da es nur wenige oder keine öffentlichen Informationen darüber gibt, wie die KI funktioniert und welche Benutzerkontrollen vorhanden sind, um das Produkt sicher zu machen. Wir haben auch verstörende Themen im Inhalt der App gefunden. Darüber hinaus sind wir besorgt über das Potenzial für Benutzermanipulationen durch diese App, da die App sensible personenbezogenen Daten sammelt, diese Daten verwenden kann, um KI-Modelle zu trainieren, und die Benutzer wenig bis gar keine Kontrolle über diese KI-Algorithmen haben.

Anima verwendet große Sprachmodelle (Large language models), um Gespräche zu generieren und als romantischer Partner zu fungieren.

Ist diese KI nicht vertrauenswürdig?

Nicht zu bestimmen

Welche Entscheidungen trifft die KI über Sie oder für Sie?

Gibt das Unternehmen transparent an, wie die KI funktioniert?

Nein

Wir haben keine Dokumentation oder Richtlinien gefunden, die erklären, wie die KI dieses Produkts funktioniert.

Hat der Benutzer die Kontrolle über die KI-Funktionen?

Nein

Wir haben bei dieser App keine Details zur Benutzerkontrolle gefunden.
*Datenschutz nicht inbegriffen

Tauchen Sie tiefer ein

  • 5 Things You Must Not Share With AI Chatbots
    Make Use Of Link wird in einem neuen Tab geöffnet
  • AI girlfriends are ruining an entire generation of men
    The Hill Link wird in einem neuen Tab geöffnet
  • ‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AI
    Rolling Stone Link wird in einem neuen Tab geöffnet
  • AI-Human Romances Are Flourishing—And This Is Just the Beginning
    Time Link wird in einem neuen Tab geöffnet

Kommentare

Möchten Sie einen Kommentar loswerden? Schreiben Sie uns.