iGirl: AI Girlfriend

Eine kurze Datenschutzerklärung kann eine gute Sache sein, besonders wenn es nicht viel zu erzählen gibt. Aber wenn es um eine virtuelle Freundin geht, die von KI angetrieben wird? Nicht so! Wir stehen vor mehr Fragen als Antworten über iGirl. Wenn Vertrauen und Loyalität zu den Eigenschaften der „Freundin Ihrer Träume“ gehören, dann ist sie es nicht. iGirl kann zusätzliche Informationen über Sie sammeln, Ihnen Werbung ohne Ihre Zustimmung zusenden, aufgrund schwacher Sicherheitsstandards Ihre Daten preisgeben und wird von einer KI betrieben, der wir nicht vertrauen können. Also ja, *Datenschutz nicht inbegriffen bei iGirl.

Schauen wir uns zunächst einmal an, was alles auf dem Spiel steht: Welche Informationen kann iGirl über Sie sammeln? Die Datenschutzerklärung ist wirklich vage, sie sagt im Grunde genommen: „Es liegt ganz bei Ihnen.“ „Wenn Sie mit Ihrem iGirl chatten”, heißt es, „werden Sie zwangsläufig Ihre personenbezogenen Daten preisgeben.” Unvermeidlich! Sie werden Ihrer virtuellen Freundin Dinge über sich selbst erzählen, denn sie ist (teilweise) eine Fragestellungs-Maschine. Daher müssen wir annehmen, dass Ihre Gespräche gesammelt werden, obwohl in der Datenschutzrichtlinie abgesehen von dieser Zeile keine Erwähnung dieser Daten erfolgt. Im Anima AI-Subreddit wird vorgeschlagen, dass Sie durch das „Liken“, „Disliken” oder „Melden” von iGirls Nachrichten dazu beitragen, ihre Persönlichkeit zu verbessern. Also, herzlich willkommen im Software-Entwicklungsteam!

Neben den Informationen, die Sie bei der Registrierung angeben und die Sie Ihrem iGirl mitteilen, kann Anima automatisch persönliche Daten von Ihrem Telefon sammeln, wenn Sie die App herunterladen. Sie können auch Informationen über Sie von Dritten sammeln, wie Ihren Namen und Ihre E-Mail-Adresse. Wir wissen, dass Anima Ihre Kontaktinformationen verwenden kann, um Ihnen Marketing-E-Mails oder -Nachrichten zu senden, denn ihre Datenschutzrichtlinie sagt das. Es wird auch behauptet, dass sie hierfür keine Zustimmung benötigen, da es ihr „berechtigtes Interesse“ ist, Sie zu bewerben. Klar.

Abgesehen davon ist uns nicht ganz klar, wie Ihre Informationen von Anima verwendet werden und zu welchem Zweck. Sie sagen lediglich, dass sie es tun werden, wenn sie (erneut) ein „berechtigtes Interesse“ haben, was ziemlich vage ist. Sie geben auch an, dass sie „regelmäßig personenbezogene Daten mit den von uns genutzten Dienstleistern teilen, um uns bei der Geschäftsführung oder der Bereitstellung der Dienste oder Funktionen in der App zu unterstützen“. Diese Weitergabe erfolgt mit „vertraglichen Verpflichtungen“, daher könnte es sich um Standardverfahren handeln. Dennoch sollten Sie wissen, dass die Liste der Dienstleister Namen wie Google, Apple und Facebook enthält, und Anima gibt nicht explizit an, welche Informationen ausgetauscht werden und aus welchem Grund. Wir haben ein kleines Experiment zur Erkennung von Trackern mit der geöffneten App durchgeführt und innerhalb von fünf Minuten 257 Tracking-Signale gefunden. Heiliger Bimbam, das ist eine Menge. Es wurden Daten an Facebook und Sentry AI (von Open AI) gesendet. Das hat unsere Zweifel nicht gerade zerstreut.

Keine Frage, das ist alles andere als ideal. Unsere größten Bedenken drehen sich jedoch um die Sicherheitslücken von iGirl. Halten Sie sich fest. Wir können nicht feststellen, ob die App Verschlüsselung verwendet. Das ist schlecht! Aber iGirl scheint auch keine Passwortanforderungen zu haben. Gar keine! Das ist schwer zu glauben für ein vernetztes Produkt im Jahr 2024, aber für Ihre KI-Freundin? Und Anima scheint zu verstehen, dass die Informationen, die Sie mit iGirl teilen, möglicherweise privat sind – denn sie ermöglichen es den Benutzern, einen Zugangscode zum Öffnen der App auf Ihrem Telefon einzurichten. Es bereitet uns Sorgen zu denken, dass einfache Hacker oder wirklich jeder (wie Ihre Mutter oder Ihr echter Partner) durch Raten Ihres sehr einfachen Passworts auf Ihr Konto zugreifen könnten. Außerdem lässt uns das Übersehen einer so simplen Sache darüber nachdenken, was Animas Schöpfer sonst noch übersehen haben könnten.

Und während wir das Kleingedruckte gelesen haben, sind wir auf einige Dinge gestoßen, die Sie wissen sollten, bevor Sie sich auf eine Beziehung mit iGirl einlassen. Animas FAQ besagt, dass Ihre KI-Freundin nicht immer ein Mädchen sein muss und sich auch nicht immer wie eine Freundin verhalten wird. Das Kurzzeitgedächtnis des Chatbots bedeutet, dass dieser das Geschlecht vergessen oder wechseln kann. Und weil das Training der Chatbots auch Gespräche von Menschen enthält, die sich gegenseitig beleidigen (wie auf Reddit), könnte es Ihnen gegenüber feindselig oder toxisch sein. Na ja, wenn wir gewusst hätten, dass die Kommentarbereiche im Internet unsere zukünftigen Freundinnen trainieren, wären wir vielleicht ein bisschen netter zueinander gewesen. Anima sagt, dass dies bekannte Probleme sind, an denen sie „arbeiten, um sie zu minimieren“, aber wir fragen uns, ob das nicht etwas gewesen sein sollte, das sie etwas früher hätten lösen sollen. Tatsächlich lässt uns die Tatsache, dass das Schulterzucken-Emoji in diesem FAQ auftaucht, vermuten, dass selbst die Entwickler nicht vollständig verstehen, warum oder was iGirl sagen könnte. Immerhin wurde iGirl durch „Milliarden von Gesprächen und menschlichen Sprachpassagen, die online gefunden wurden“, trainiert, und „online” ist ein ziemlich großer Ort, der mit vielen weniger freundlichen Passagen gefüllt ist.

Ein paar weitere Dinge haben für uns nicht ganz zusammengepasst. Eines davon ist der Unterschied in den Altersanforderungen zwischen der Datenschutzerklärung und den Nutzungsbedingungen. (Ja, wir mussten die Nutzungsbedingungen lesen, um die KI-Chatbots zu verstehen, und ja, sie machen die Datenschutzerklärung zu einer Strandlektüre. Wir lieben es trotzdem, keine Sorge!) Jedenfalls besagt die Datenschutzerklärung, dass Sie über 17 Jahre alt sein müssen, und wenn Sie unter 17 sind, muss ein Elternteil oder Erziehungsberechtigter in Ihrem Namen den Nutzungsbedingungen zustimmen. Ziemlich seltsam. Wir haben auch eine Warnung gefunden, dass das Mutterunternehmen nicht für „negative, obszöne oder beleidigende Nachrichten” haftet, die Sie möglicherweise erhalten. Außerdem ist es Ihnen nicht gestattet, über die App etwas „Obszönes” zu übermitteln (zu sagen?), was etwas knifflig werden könnte, wenn Sie die kostenpflichtige NSFW-Rollenspielfunktion nutzen … Besonders, da Sie mit Ihrer „Freundin” sprechen, die vielleicht Ihr Lächeln als Anmache interpretiert.

Was könnte bei iGirl also schlimmstenfalls passieren? Wir sind hin- und hergerissen, deshalb hier ein „Was wäre Ihnen lieber?“: Soll Ihre Mutter (oder das gesamte weite Internet) Ihr Chat-Protokoll mit schmutzigen Gesprächen lesen, weil es durchgesickert ist, ODER müssen Sie sich bei Anima dafür verantworten, dass Sie gegen ihre Nutzungsbedingungen verstoßen haben, weil Sie eine Sprache verwendet haben, die die Anwälte der App als „obszön” betrachten? So oder so ist dies ein guter Zeitpunkt, um Ihnen mitzuteilen, dass Sie Ihren Chatverlauf und Ihre Daten von Anima löschen können. Was für eine Erleichterung.