Anima: AI Friend & Companion

Eine kurze Datenschutzerklärung kann eine gute Sache sein, besonders wenn es nicht viel zu erzählen gibt. Aber wenn es um einen virtuellen Freund geht, der von KI angetrieben wird? Nicht wirklich! Wir stehen vor mehr Fragen als Antworten bei Anima. Also, wenn Vertrauen und Loyalität Teil der „perfekten seelenverwandten” KI sind, dann ist das nicht der Bot für Sie. Anima kann zusätzliche Informationen über Sie sammeln, Ihnen Werbung ohne Ihre Zustimmung liefern, könnte Ihre Daten aufgrund schwacher Sicherheitsstandards durchsickern lassen und wird von einer KI angetrieben, der wir nicht vertrauen können. Also ja, *Datenschutz nicht inbegriffen bei Anima: AI Friend & Companion.

Schauen wir uns zunächst einmal an, was alles auf dem Spiel steht: Welche Informationen kann Anima über Sie sammeln? Die Datenschutzerklärung ist wirklich vage, sie sagt im Grunde genommen: „Es liegt ganz bei Ihnen.“ „Wenn Sie mit Ihrem Anima chatten”, heißt es, „werden Sie zwangsläufig Ihre personenbezogenen Daten preisgeben.” Unvermeidlich! Sie werden Ihrem virtuellen Freund Dinge über sich selbst erzählen, denn es handelt sich (teilweise) um eine Fragestellungs-Maschine. Daher müssen wir annehmen, dass Ihre Gespräche gesammelt werden, obwohl in der Datenschutzerklärung abgesehen von dieser Zeile keine Erwähnung dieser Daten erfolgt. Im Anima AI-Subreddit wird vorgeschlagen, dass Sie durch das „Liken“, „Disliken” oder „Melden” der Nachrichten Ihres Begleiters dazu beitragen, dessen Persönlichkeit zu verbessern. Also, herzlich willkommen im Software-Entwicklungsteam!

Neben den Informationen, die Sie bei der Registrierung angeben und was Sie Ihrem KI-Freund mitteilen, kann Anima automatisch persönliche Daten von Ihrem Telefon sammeln, wenn Sie die App herunterladen. Sie können auch Informationen über Sie von Dritten sammeln, wie Ihren Namen und Ihre E-Mail-Adresse. Wir wissen, dass Anima Ihre Kontaktinformationen verwenden kann, um Ihnen Marketing-E-Mails oder -Nachrichten zu senden, denn ihre Datenschutzrichtlinie sagt das. Es wird auch behauptet, dass sie hierfür keine Zustimmung benötigen, da es ihr „berechtigtes Interesse“ ist, Sie zu bewerben. Klar.

Abgesehen davon ist uns nicht ganz klar, wie Ihre Informationen von Anima verwendet werden und zu welchem Zweck. Sie sagen lediglich, dass sie es tun werden, wenn sie (erneut) ein „berechtigtes Interesse“ haben, was ziemlich vage ist. Sie geben auch an, dass sie „regelmäßig personenbezogene Daten mit den von uns genutzten Dienstleistern teilen, um uns bei der Geschäftsführung oder der Bereitstellung der Dienste oder Funktionen in der App zu unterstützen“. Diese Weitergabe erfolgt mit „vertraglichen Verpflichtungen“, daher könnte es sich um Standardverfahren handeln. Dennoch sollten Sie wissen, dass die Liste der Dienstleister Namen wie Google, Apple und Facebook enthält, und Anima gibt nicht explizit an, welche Informationen ausgetauscht werden und aus welchem Grund. Wir haben ein kleines Experiment zur Erkennung von Trackern mit der geöffneten App durchgeführt und innerhalb von fünf Minuten 257 Tracking-Signale gefunden. Heiliger Bimbam, das ist eine Menge. Es wurden Daten an Facebook und Sentry AI (von Open AI) gesendet. Das hat unsere Zweifel nicht gerade zerstreut.

Keine Frage, das ist alles andere als ideal. Unsere größten Bedenken drehen sich jedoch um die Sicherheitslücken von Anima. Halten Sie sich fest. Wir können nicht feststellen, ob die App Verschlüsselung verwendet. Das ist schlecht! Aber Anima scheint auch keine Passwortanforderungen zu haben. Gar keine! Das ist schwer zu glauben für ein vernetztes Produkt im Jahr 2024, aber für Ihren Begleiter? Und Anima scheint zu verstehen, dass die Informationen, die Sie damit teilen, möglicherweise privat sind – denn sie ermöglichen es den Benutzern, einen Zugangscode zum Öffnen der App auf Ihrem Telefon einzurichten. Es bereitet uns Sorgen zu denken, dass einfache Hacker oder wirklich jeder (wie Ihre Mutter oder Ihr echter Partner) durch Raten Ihres sehr einfachen Passworts auf Ihr Konto zugreifen könnten. Außerdem lässt uns das Übersehen einer so simplen Sache darüber nachdenken, was Animas Schöpfer sonst noch übersehen haben könnten.

Und während wir das Kleingedruckte gelesen haben, sind wir auf einige Dinge gestoßen, die Sie wissen sollten, bevor Sie sich auf eine Beziehung mit diesem virtuellen Freund einlassen. Animas FAQ besagt, dass sich Ihr KI-Kumpel möglicherweise nicht immer wie einer verhält. Weil das Training der Chatbots auch Gespräche von Menschen enthält, die sich gegenseitig beleidigen (wie auf Reddit), könnte er Ihnen gegenüber feindselig oder toxisch sein. Na ja, wenn wir gewusst hätten, dass die Kommentarbereiche im Internet unsere zukünftigen besten KI-Freunde trainieren, wären wir vielleicht ein bisschen netter zueinander gewesen. Anima sagt, dass dies bekannte Probleme sind, an denen sie „arbeiten, um sie zu minimieren“, aber wir fragen uns, ob das nicht etwas gewesen sein sollte, das sie etwas früher hätten lösen sollen. Tatsächlich lässt uns die Tatsache, dass das Schulterzucken-Emoji in diesem FAQ auftaucht, vermuten, dass selbst die Entwickler nicht vollständig verstehen, warum oder was Anima sagen könnte. Immerhin wurde Anima durch „Milliarden von Gesprächen und menschlichen Sprachpassagen, die online gefunden wurden“, trainiert, und „online” ist ein ziemlich großer Ort, der mit vielen weniger freundlichen Passagen gefüllt ist.

Ein paar weitere Dinge haben für uns nicht ganz zusammengepasst. Eines davon ist der Unterschied in den Altersanforderungen zwischen der Datenschutzerklärung und den Nutzungsbedingungen. (Ja, wir mussten die Nutzungsbedingungen lesen, um die KI-Chatbots zu verstehen, und ja, sie machen die Datenschutzerklärung zu einer Strandlektüre. Wir lieben es trotzdem, keine Sorge!) Jedenfalls besagt die Datenschutzerklärung, dass Sie über 17 Jahre alt sein müssen, und wenn Sie unter 17 sind, muss ein Elternteil oder Erziehungsberechtigter in Ihrem Namen den Nutzungsbedingungen zustimmen. Ziemlich seltsam. Wir haben auch eine Warnung gefunden, dass das Mutterunternehmen nicht für „negative, obszöne oder beleidigende Nachrichten” haftet, die Sie möglicherweise erhalten. Außerdem ist es Ihnen nicht gestattet, über die App etwas „Obszönes” zu übermitteln (zu sagen?), was etwas knifflig werden könnte, wenn Sie die kostenpflichtige NSFW-Rollenspielfunktion nutzen … Besonders, da Sie mit Ihrem „Liebespartner” sprechen würden, der vielleicht Ihr Lächeln als Anmache interpretiert.

Was könnte bei Anima also schlimmstenfalls passieren? Wir sind hin- und hergerissen, deshalb hier ein „Was wäre Ihnen lieber?“: Soll Ihre Mutter (oder das gesamte weite Internet) Ihr Chat-Protokoll mit schmutzigen Gesprächen lesen, weil es durchgesickert ist, ODER müssen Sie sich bei Anima dafür verantworten, dass Sie gegen ihre Nutzungsbedingungen verstoßen haben, weil Sie eine Sprache verwendet haben, die die Anwälte der App als „obszön” betrachten? So oder so ist dies ein guter Zeitpunkt, um Ihnen mitzuteilen, dass Sie Ihren Chatverlauf und Ihre Daten von Anima löschen können. Was für eine Erleichterung.