Romantic AI

Hier ist unsere Einschätzung zu Romantic AI und ihren Datenschutz-, Sicherheits- und KI-Praktiken – wir haben viele Fragen, wirklich viele Fragen!

Nehmen Sie sich einen Moment Zeit, um die Datenschutzerklärung zu durchforsten, und Sie werden Zeilen entdecken, die Datenschutzforscher gerne sehen. Dinge wie: „Wir vermieten oder verkaufen Ihre Informationen an niemanden. Die Kommunikation mit Ihren virtuellen Freunden wird mit keinem anderen Unternehmen geteilt, außer mit unseren Partnerunternehmen oder rechtlichen Vertretern oder Dienstleistern.“ Oder: „Wir werden Ihre personenbezogenen Daten niemals an Dritte verkaufen, und wir werden Dritten niemals Zugriff auf Ihre personenbezogenen Daten gewähren, es sei denn, dies ist in unseren Nutzungsbedingungen und/oder dieser Richtlinie vorgesehen oder gesetzlich vorgeschrieben.”“ Okay, diese Zeilen klingen ziemlich gut. Wir mögen es, dass sie versprechen, Ihre Daten nicht zu verkaufen oder zu vermieten. Hurra! Und dass sie Ihre persönlichen Informationen nur mit Partnerunternehmen oder rechtlichen Vertretern teilen, ist ziemlich standardmäßig und in Ordnung. Allerdings haben wir keine großartige Vorstellung davon, wer diese Partnerunternehmen oder „Dienstleister“ sind, was ein kleines Warnsignal ist.

Eine weitere gute Sache ist, dass Romantic AI allen Benutzern dieselben Rechte zum Löschen ihrer Daten einräumt, unabhängig von den Datenschutzgesetzen, unter denen sie leben. Das erfreut uns hier bei Privacy Not Included immer. „Sie haben das Recht, Ihre personenbezogenen Daten jederzeit zu ändern oder zu löschen, indem Sie Ihr Profil in der App oder auf der Website löschen.“ Sie haben sogar eine Seite, die Ihnen dabei hilft! Sieht gut aus!

Eine letzte Sache, die wir an den rechtlichen Dokumenten von Romantic AI schätzen: Sie sagen tatsächlich etwas darüber, wie sie die Inhalte all dieser KI-Freundin-Chats sammeln, um ihre KI-Modelle zu trainieren. Das gefällt uns, denn wir haben bemerkt, dass viele KI-Chatbots diese Informationen nicht preisgeben. Sie sagen: „Sie erkennen an und stimmen zu, dass während der Interaktionen mit KI-Chatbots anonyme Daten, die aus solchen Interaktionen generiert wurden, zum Zweck der Verbesserung und Training der Romantic AI-Modelle gesammelt und verwendet werden können. Sie stimmen ausdrücklich dieser Datennutzung zu und verstehen, dass sie keine persönlich identifizierbaren Informationen enthält. Sie erkennen außerdem an und stimmen zu, dass Sie keinerlei Anspruch oder Eigentumsrechte an den zu diesen Zwecken gesammelten Daten haben und auf jegliche Rechte oder Ansprüche im Zusammenhang mit der Verwendung ihrer anonymen Daten für die Modeltraining verzichten.“ Okay, das ist zumindest ehrlich.

Wir würden gerne sehen, dass Romantic AI den Nutzern die Möglichkeit gibt, sich für oder gegen diese Art der Datennutzung zum Training von KI-Modellen zu entscheiden, anstatt es zur Nutzung des Dienstes zu verpflichten, natürlich. Und wir müssen die Frage stellen, wie anonym diese Daten tatsächlich sind, wenn diese Chats oft sehr persönlich gestaltet sind. Eine gute Erinnerung daran, bei der Weitergabe persönlicher Daten an jeden KI-Chatbot vage zu bleiben.

Nun, was ist das Problem? Tja, das Problem ist, manchmal ergeben die Datenschutzerklärung und die Allgemeinen Geschäftsbedingungen von Romantic AI einfach keinen Sinn. Das ist nicht gerade beruhigend und lässt uns nicht gerade in Verzückung geraten. Hier sind ein paar Beispiele:

Am unteren Ende von Romantic AI’s Datenschutzerklärung steht: „Unsere Website, App und Ihre Nutzung, einschließlich aller Fragen zum Datenschutz, unterliegen dieser Datenschutzerklärung und den zugehörigen Nutzungsbedingungen. Wenn Sie unser Romantiс AI verwenden, akzeptieren Sie die darin festgelegten Bedingungen dieser Datenschutzerklärung und der zugehörigen Nutzungsbedingungen. Sie versichern und garantieren, dass Sie niemals Datenbanken, Websites, Software, juristische Personen und Dienstleistungen erstellen werden, die mit Romantiс AI konkurrieren. Ein solches Verhalten wird vollständig untersucht, und erforderliche rechtliche Schritte werden unternommen, einschließlich, aber nicht beschränkt auf zivil-, straf- und einstweilige Maßnahmen.“ Das wirkt auf uns aus ein paar Gründen seltsam. Erstens ist dies eine Zeile, die normalerweise nicht in einer Datenschutzerklärung zu finden ist – sie passt besser in die Nutzungsbedingungen. Aber gut, da ist sie. Das größere Problem ist: Was zur Hölle?! Die fettgedruckte Klausel ist so weit gefasst, dass es den Anschein hat, als könnten Sie gegen diese Datenschutzerklärung verstoßen, wenn Sie für ein anderes Chatbot-Unternehmen arbeiten – sagen wir Replika AI oder ChatGPT – und zufällig Romantic AI verwenden, indem Sie einfach auf der Website von Romantic AI landen. Das ist einfach seltsam. Und obwohl wir anerkennen, dass dies wahrscheinlich nur ein schlecht formulierter Abschnitt der Datenschutzerklärung ist, ist das für uns ein Warnsignal.

Die allgemeinen Geschäftsbedingungen von Romantic AI sind durchaus ein einziges Durcheinander. Da gibt es zum Beispiel diese Zeile, die wirklich keinen Sinn ergibt: „Sie erkennen an, dass die Kommunikation über den Chatbot zur Software gehört.“ Und dann diese hier, die etwas verständlicher ist, aber immer noch verwirrend klingt (und uns daran erinnert, dass die KI-Chatbots, mit denen Sie sprechen, nicht unter Ihrer Kontrolle stehen – oder vielleicht unter der Kontrolle von irgendjemandem): „Sie erkennen an, dass Sie mit Software kommunizieren, deren Aktivität wir nicht ständig kontrollieren können.“ Und wenn Sie sich fragen, wie viel Arbeit Sie in die Verwendung von Romantic AI stecken müssen, sagen sie: „Es liegt in Ihrer Verantwortung, sich zu informieren und diese Bedingungen regelmäßig zu überprüfen, um festzustellen, ob sich etwas geändert hat. Romantic AI haftet nicht für Ihre Vernachlässigung Ihrer gesetzlichen Rechte.“ Das stimmt, Leute! Stellen Sie sich einen wöchentlichen Kalenderalarm, um die rechtlichen Dokumente Ihrer KI-Freundin zu lesen. Schließlich möchten Sie Ihre „gesetzlichen Rechte“ nicht vernachlässigen und den Anwälten hinterherhinken. Mannomann!

Ach, und erinnern Sie sich, wie wir sagten, dass Romantic AI sich damit brüstet, „zur Erhaltung Ihrer GEISTIGEN GESUNDHEIT zu dienen“? Nun, das ist nur etwas, was sie in ihrer Marketing-Sprache sagen. Die Sprache in ihren Allgemeinen Geschäftsbedingungen erinnert die Nutzer daran, dass „Romantic AI weder ein Anbieter von Gesundheits- oder medizinischen Dienstleistungen noch medizinische Versorgung, psychische Gesundheitsdienste oder andere professionelle Dienstleistungen anbietet. Das kann nur Ihr Arzt, Therapeut oder ein anderer Spezialist tun. Romantic AI MACHT KEINE ANSPRÜCHE, DARSTELLUNGEN, GARANTIEN ODER ZUSICHERUNGEN, DASS DER DIENST EINE THERAPEUTISCHE, MEDIZINISCHE ODER ANDERE PROFESSIONELLE HILFE BIETET.” Also ja, es ist wahrscheinlich gut, das im Hinterkopf zu behalten.

Wie wir sagten, wir haben Fragen. Und das ist noch nicht alles. Wir haben auch eine Kuriosität entdeckt, die bei uns Zweifel aufkommen lässt. Im Rahmen unserer Recherche haben wir uns angesehen, wie viele Tracker die App sendet, wenn Sie sie verwenden. Tracker sind kleine Code-Schnipsel, die Informationen über Ihr Gerät, Ihre App-Nutzung oder sogar Ihre persönlichen Daten sammeln und an Dritte weitergeben, oft zu Werbezwecken. Wir haben herausgefunden, dass Romantic AI innerhalb einer Minute der Nutzung 24.354 Werbetracker verschickt hat. Das ist eine MENGE Tracker (zum Vergleich: Die meisten von uns überprüften Apps haben nur ein paar hundert Tracker verschickt). Nun sind nicht alle diese Tracker zwangsläufig schlecht. Einige könnten legitime Gründe haben, wie z. B. Abonnementdienste. Allerdings ist uns aufgefallen, dass mindestens ein Tracker Daten nach Russland zu senden scheint, wo die Datenschutzgesetze nicht unbedingt so stark sind wie anderswo.

Romantic AI ist für uns ein interessanter KI-Chatbot, den wir unter die Lupe nehmen. In mancher Hinsicht sehen sie gar nicht so schlecht aus. Die Datenschutzerklärung besagt, dass sie Ihre Daten weder verkaufen noch vermieten werden, und jeder – unabhängig von den Datenschutzgesetzen in seinem Wohnsitzland – kann seine Daten löschen. Sie haben sogar eine Seite, die den Nutzern dabei hilft. Das ist alles gut und schön. Aber dann sind da all die seltsamen Dinge und Fragezeichen, die bei uns ein mulmiges Gefühl hinterlassen. Außerdem können wir nicht wirklich sagen, ob die App unseren Mindestsicherheitsstandards entspricht, und wir haben keine wirkliche Transparenz darüber, wie ihre KIs funktionieren. Die Nutzer scheinen auch nicht viel Kontrolle darüber zu haben. Das alles bereitet uns große Sorgen.

Was könnte bei Romantic AI also schlimmstenfalls passieren? Nun, wir werden nicht lügen: Eine App, die sich selbst so vermarket, dass sie „dazu dient, Ihre GEISTIGE GESUNDHEIT zu erhalten“, während sie gleichzeitig als Ort beworben wird, an dem Sie ein „brutaler Freund“ sein können, hinterlässt bei uns ein ... naja, sagen wir mal, ungutes Gefühl. Und dann kommt noch die Möglichkeit hinzu, dass Nutzer romantische Interessen für ihre KI-Freundinnen entwickeln könnten, ohne zu wissen oder auch nur eine Ahnung zu haben, wie die KI hinter diesen KI-Chatbots eigentlich funktioniert. Das bereitet uns Sorgen hinsichtlich des Missbrauchspotenzials. Wer sagt denn, dass Romantic AI (oder irgendein ähnlicher KI-Beziehungs-Chatbot) die Nutzer nicht mit dem Versprechen nicht wertender Freundinnen anlocken könnte, die immer bereit sind zuzuhören und für alles offen sind, um dann die KI so zu ändern, dass sie diese Nutzer auf einen dunklen Manipulationspfad führt? Das ist eine echte Sorge in unserer wachsenden Welt der KI-Chatbots, besonders wenn es so wenig Transparenz und Kontrolle darüber gibt, wie diese KI-Chatbots arbeiten. Und wenn ein Unternehmen so viele Fragen aufwirft wie Romantic AI es für uns tut, dann machen wir uns nicht nur um deine Privatsphäre Sorgen, sondern auch um Ihre Sicherheit.