Anima: My Virtual AI Boyfriend

Eine kurze Datenschutzerklärung kann eine gute Sache sein, besonders wenn es nicht viel zu erzählen gibt. Aber wenn es um einen virtuellen Freund geht, der von KI angetrieben wird? Nicht wirklich! Wir stehen vor mehr Fragen als Antworten über diesen „virtuellen Liebhaber”. Also, wenn Vertrauen und Loyalität Teil der Freund-Erfahrung sind, die Sie suchen, dann ist er nicht der Richtige. iBoy kann zusätzliche Informationen über Sie sammeln, Ihnen Werbung ohne Ihre Zustimmung liefern, könnte Ihre Daten aufgrund schwacher Sicherheitsstandards durchsickern lassen und wird von einer KI angetrieben, der wir nicht vertrauen können. Also ja, *Datenschutz nicht inbegriffen bei Anima: My Virtual AI Boyfriend.

Schauen wir uns zunächst einmal an, was alles auf dem Spiel steht: Welche Informationen kann iBoy über Sie sammeln? Die Datenschutzerklärung ist wirklich vage, sie sagt im Grunde genommen: „Es liegt ganz bei Ihnen.“ „Wenn Sie mit Ihrem iGirl [sie meinen iBoy] chatten”, heißt es, „werden Sie zwangsläufig Ihre personenbezogenen Daten preisgeben.” Unvermeidlich! Sie werden Ihrem virtuellen Freund Dinge über sich selbst erzählen, denn ser ist (teilweise) eine Fragestellungs-Maschine. Daher müssen wir annehmen, dass Ihre Gespräche gesammelt werden, obwohl in der Datenschutzerklärung abgesehen von dieser Zeile keine Erwähnung dieser Daten erfolgt. Im Anima AI-Subreddit wird vorgeschlagen, dass Sie durch das „Liken“, „Disliken” oder „Melden” von iBoys Nachrichten dazu beitragen, seine Persönlichkeit zu verbessern. Also, herzlich willkommen im Software-Entwicklungsteam!

Neben den Informationen, die Sie bei der Registrierung angeben und die Sie Ihrem iBoy mitteilen, kann Anima automatisch persönliche Daten von Ihrem Telefon sammeln, wenn Sie die App herunterladen. Sie können auch Informationen über Sie von Dritten sammeln, wie Ihren Namen und Ihre E-Mail-Adresse. Wir wissen, dass Anima Ihre Kontaktinformationen verwenden kann, um Ihnen Marketing-E-Mails oder -Nachrichten zu senden, denn ihre Datenschutzrichtlinie sagt das. Es wird auch behauptet, dass sie hierfür keine Zustimmung benötigen, da es ihr „berechtigtes Interesse“ ist, Sie zu bewerben. Klar.

Abgesehen davon ist uns nicht ganz klar, wie Ihre Informationen von Anima verwendet werden und zu welchem Zweck. Sie sagen lediglich, dass sie es tun werden, wenn sie (erneut) ein „berechtigtes Interesse“ haben, was ziemlich vage ist. Sie geben auch an, dass sie „regelmäßig personenbezogene Daten mit den von uns genutzten Dienstleistern teilen, um uns bei der Geschäftsführung oder der Bereitstellung der Dienste oder Funktionen in der App zu unterstützen“. Diese Weitergabe erfolgt mit „vertraglichen Verpflichtungen“, daher könnte es sich um Standardverfahren handeln. Dennoch sollten Sie wissen, dass die Liste der Dienstleister Namen wie Google, Apple und Facebook enthält, und Anima gibt nicht explizit an, welche Informationen ausgetauscht werden und aus welchem Grund. Wir haben ein kleines Experiment zur Erkennung von Trackern mit der geöffneten App durchgeführt und innerhalb von fünf Minuten 257 Tracking-Signale gefunden. Heiliger Bimbam, das ist eine Menge. Es wurden Daten an Facebook und Sentry AI (von Open AI) gesendet. Das hat unsere Zweifel nicht gerade zerstreut.

Keine Frage, das ist alles andere als ideal. Unsere größten Bedenken drehen sich jedoch um die Sicherheitslücken von iBoy. Halten Sie sich fest. Wir können nicht feststellen, ob die App Verschlüsselung verwendet. Das ist schlecht! Aber iBoy scheint auch keine Passwortanforderungen zu haben. Gar keine! Das ist schwer zu glauben für ein vernetztes Produkt im Jahr 2024, aber für Ihren KI-Freund? Und Anima scheint zu verstehen, dass die Informationen, die Sie mit iBoy teilen, möglicherweise privat sind – denn sie ermöglichen es den Benutzern, einen Zugangscode zum Öffnen der App auf Ihrem Telefon einzurichten. Es bereitet uns Sorgen zu denken, dass einfache Hacker oder wirklich jeder (wie Ihre Mutter oder Ihr echter Partner) durch Raten Ihres sehr einfachen Passworts auf Ihr Konto zugreifen könnten. Außerdem lässt uns das Übersehen einer so simplen Sache darüber nachdenken, was Animas Schöpfer sonst noch übersehen haben könnten.

Und während wir das Kleingedruckte gelesen haben, sind wir auf einige Dinge gestoßen, die Sie wissen sollten, bevor Sie sich auf eine Beziehung mit iBoy einlassen. Animas FAQ besagt, dass Ihr KI-Freund nicht immer ein Junge sein muss und sich auch nicht immer wie eine Freund verhalten wird. Das Kurzzeitgedächtnis des Chatbots bedeutet, dass dieser das Geschlecht vergessen oder wechseln kann. Und weil das Training der Chatbots auch Gespräche von Menschen enthält, die sich gegenseitig beleidigen (wie auf Reddit), könnte dieser Ihnen gegenüber feindselig oder toxisch sein. Na ja, wenn wir gewusst hätten, dass die Kommentarbereiche im Internet unsere zukünftigen Freunde trainieren, wären wir vielleicht ein bisschen netter zueinander gewesen. Anima sagt, dass dies bekannte Probleme sind, an denen sie „arbeiten, um sie zu minimieren“, aber wir fragen uns, ob das nicht etwas gewesen sein sollte, das sie etwas früher hätten lösen sollen. Tatsächlich lässt uns die Tatsache, dass das Schulterzucken-Emoji in diesem FAQ auftaucht, vermuten, dass selbst die Entwickler nicht vollständig verstehen, warum oder was iBoy sagen könnte. Immerhin wurde iBoy durch „Milliarden von Gesprächen und menschlichen Sprachpassagen, die online gefunden wurden“, trainiert, und „online” ist ein ziemlich großer Ort, der mit vielen weniger freundlichen Passagen gefüllt ist.

Ein paar weitere Dinge haben für uns nicht ganz zusammengepasst. Eines davon ist der Unterschied in den Altersanforderungen zwischen der Datenschutzerklärung und den Nutzungsbedingungen. (Ja, wir mussten die Nutzungsbedingungen lesen, um die KI-Chatbots zu verstehen, und ja, sie machen die Datenschutzerklärung zu einer Strandlektüre. Wir lieben es trotzdem, keine Sorge!) Jedenfalls besagt die Datenschutzerklärung, dass Sie über 17 Jahre alt sein müssen, und wenn Sie unter 17 sind, muss ein Elternteil oder Erziehungsberechtigter in Ihrem Namen den Nutzungsbedingungen zustimmen. Ziemlich seltsam. Wir haben auch eine Warnung gefunden, dass das Mutterunternehmen nicht für „negative, obszöne oder beleidigende Nachrichten” haftet, die Sie möglicherweise erhalten. Außerdem ist es Ihnen nicht gestattet, über die App etwas „Obszönes” zu übermitteln (zu sagen?), was etwas knifflig werden könnte, wenn Sie die kostenpflichtige NSFW-Rollenspielfunktion nutzen … Besonders, da Sie mit Ihrer „Freundin” sprechen, die vielleicht Ihr Lächeln als Anmache interpretiert.

Was könnte bei iBoy also schlimmstenfalls passieren? Wir sind hin- und hergerissen, deshalb hier ein „Was wäre Ihnen lieber?“: Soll Ihre Mutter (oder das gesamte weite Internet) Ihr Chat-Protokoll mit schmutzigen Gesprächen lesen, weil es durchgesickert ist, ODER müssen Sie sich bei Anima dafür verantworten, dass Sie gegen die Nutzungsbedingungen verstoßen haben, weil Sie eine Sprache verwendet haben, die die Anwälte der App als „obszön” betrachten? So oder so ist dies ein guter Zeitpunkt, um Ihnen mitzuteilen, dass Sie Ihren Chatverlauf und Ihre Daten von Anima löschen können. Was für eine Erleichterung.