Warnung: *Datenschutz ist in diesem Produkt nicht inbegriffen
Genesia AI ist ein KI-Beziehungs-Chatbot des in der Türkei ansässigen App-Entwicklers Codeway. Codeway erstellt auch eine Handvoll anderer KI-zentrierter Apps für Dinge wie Lernen, Schreiben, digitale Bilder, Videos, Rollenspielgespräche und mehr. Genesia AI bezeichnet sich selbst als „den perfekten Begleiter für alle, die einen Freund wollen, auf den sie sich immer verlassen können. Egal, ob Sie emotionale Unterstützung, einen Mentor oder einfach nur jemanden suchen, mit dem Sie sprechen können, diese App ist für Sie da.“ Sie können sie kostenlos ausprobieren. Um aber die meisten Funktionen der App nutzen zu können, benötigen Sie ein Abonnement, das etwa 15 US-Dollar pro Monat kostet. Wie sieht es mit der Privatsphäre bei Genesia aus? Wie bei allen KI-Beziehungs-Chatbots, die wir überprüft haben, scheinen sie nicht besonders gut abzuschneiden.
Was könnte passieren, wenn etwas schiefgeht?
Hier sind einige gute Nachrichten! Genesia AI Friend & Partner ist der einzige Chatbot für KI-Beziehungen, den wir überprüft haben und der unsere Mindestsicherheitsstandards tatsächlich zu erfüllen scheint! Hurra! Zugegeben, das ist eine ziemlich niedrige Messlatte ... sie werden ja genau deswegen unsere Mindestsicherheitsstandards genannt. Aber angesichts der Tatsache, dass die anderen von uns überprüften Apps diese Hürde nicht überwunden haben und diese eine App es tut, haben wir Lust, ein wenig feiern.
Wir müssen eine Einschränkung hinzufügen – wir *glauben*, dass sie unsere Mindestsicherheitsstandards erfüllt, und zwar aufgrund der öffentlich verfügbaren Informationen, die wir über sie gefunden haben. Wir haben auch Widersprüchliches in den Informationen zur Datensicherheit gefunden, die sie auf ihrer Google Play Store-Seite bereitstellen. Darin heißt es, dass keine Benutzerdaten gesammelt werden (was gemäß ihrer Datenschutzerklärung nicht wahr ist), Daten nicht verschlüsselt werden (das ist gemäß ihrer Datenschutzerklärung auch nicht wahr) und Daten nicht gelöscht werden können (gemäß ihrer Datenschutzerklärung können einige Benutzer ihre Daten löschen lassen, aber es ist nicht klar, ob alle Benutzer dies können). Das ist verwirrend. Es ist auch ein guter Zeitpunkt für uns, Sie daran zu erinnern, dass laut unserer Recherche eine gute Chance besteht, dass die Informationen, die Sie auf den Datensicherheitsseiten im Google Play Store finden, ein totales Durcheinander schlechter Informationen sind.
Die gute Nachricht ist also, dass Genesia AI unsere Mindestsicherheitsstandards zu erfüllen scheint. Die schlechte Nachricht ist, dass wir Fragen und Bedenken haben, wie sie die vielen persönlichen Daten teilen, die diese App über Sie sammeln kann. Die Datenschutzerklärung von Genesia AI geht nicht sehr detailliert darauf ein, welche Daten mit wem geteilt werden. Sie sagen, dass sie Ihre persönlichen Daten für „ die Durchführung von Werbe-/Kampagnen-/Werbeprozessen“ verarbeiten können, und dieser lustige Teil der vagen Rechtssprache: „Codeway kann Ihre personenbezogenen Daten auch an Dienstleister unseres Unternehmens, Dritte wie Facebook SDK, Adjust und Firebase Analytics weitergeben, die in unseren
Service für die folgenden Zwecke eingebettet sind: ... Weitergabe von Identitäts- und Kontaktinformationen, um ... Geschäftsaktivitäten durchzuführen.“ „Geschäftsaktivitäten“ ist eine ziemlich breite Kategorie, Codeway.
Und wir haben festgestellt, dass die App innerhalb einer Minute rund 500 Daten-Tracker an Dritte, darunter auch Werbefirmen, gesendet hat. Obwohl die Datenschutzerklärung von Genesia AI nicht sehr detailliert auf die Weitergabe von Daten eingeht, haben wir Bedenken, dass das Unternehmen wahrscheinlich einige Ihrer Daten für gezielte Werbezwecke weitergibt.
Sie sollten zudem wissen dürfen, dass all die Chats, die Sie mit Ihrem KI-Freund führen, im Grunde genommen Eigentum des Unternehmens Codeway werden, das Genesia AI produziert. Das ist so ziemlich Standard, aber immer gut zu wissen. In den Allgemeinen Geschäftsbedingungen heißt es, dass sie Ihre Chats auf vielfältige Weise nutzen dürfen: „Ab dem Zeitpunkt des Hochladens oder der Übertragung von Eingaben gewähren Sie Codeway eine nicht-exklusive, unwiderrufliche, voll bezahlte, gebührenfreie, unbefristete, unterlizenzierbare, übertragbare, weltweite Lizenz und das Recht, zu speichern, zu verwenden, zu senden, zu reproduzieren, zu modifizieren, abgeleitete Werke davon zu erstellen, aufzuzeichnen, Unterlizenzen (auf mehreren Ebenen) zu vergeben, zu übersetzen, zu übertragen, zu veröffentlichen, öffentlich auszustellen oder anderweitig zu nutzen, und zwar für den begrenzten Zweck des Betriebs, Verbesserung, Fehlerbehebung, Fehlersuche, Schutz und Anpassung bestehender und zukünftiger Produkte von Codeway und seinen verbundenen Unternehmen, einschließlich, aber nicht beschränkt auf das Training von Genesia AI, die Entwicklung neuer Funktionen oder zukünftiger Produkte und in allen Formaten und Medien und mit jeder Technologie, die jetzt bekannt ist oder in Zukunft entwickelt wird, ohne Benachrichtigung, Erlaubnis, Zahlung oder zusätzliche Entschädigung an Sie oder einen Dritten.“Das sind viele Worte, um zu sagen, dass sie mit dem Inhalt Ihrer Chats so ziemlich alles anstellen können, was sie wollen.
Davon abgesehen müssen wir Genesia AI dafür loben, dass sie zu den wenigen von uns überprüften KI-Chatbot-Unternehmen gehört, die tatsächlich sagen, dass ihre Nutzer die Verwendung ihrer Benutzerinhaltsdaten zum Trainieren der KI von Genesia ablehnen können. In ihrer Datenschutzerklärung heißt es, dass Ihre Benutzerinhalte verwendet werden, um „unsere Dienste zu verbessern (einschließlich zum Trainieren von KI-Modellen) (Sie können die Verwendung Ihrer Informationen zum Trainieren von KI-Modellen ablehnen, indem Sie eine Anfrage über das „Antragsformular für betroffene Personen‘ unter [email protected] einreichen.“ Es ist großartig, dass sie diese Sprache in ihre Datenschutzerklärung aufnehmen, während so viele andere KI-Chatbot-Apps dies nicht tun. Wir würden es jedoch begrüßen, wenn die Nutzung Ihrer Chats zum Trainieren der KI-Modelle auf einer Opt-In- statt auf einer Opt-Out-Basis erfolgen würde. Wir vermuten, dass es sich hier um kleine Schritte handelt.
Insgesamt würden wir Genesia AI zwar nicht als besonders datenschutzfreundlich bezeichnen (sie wird es sicher nicht in unsere Best-of-Liste schaffen), aber wir müssen sagen, dass es einer der besseren AI-Beziehungs-Chatbots ist, die wir getestet haben. Unsere Mindestsicherheitsstandards werden scheinbar erfüllt. Und er bietet den Nutzern die Möglichkeit, die Verwendung ihrer Chats für das Training ihrer KI-Modelle abzulehnen. Das sind gute Dinge, die wir bei vielen anderen von uns getesteten KI-Beziehungs-Chatbots nicht gesehen haben. Allerdings haben wir immer noch Bedenken bezüglich Genesia AI. Insbesondere, welche persönlichen Daten werden für Marketing und Werbung weitergegeben und mit wem genau werden diese Daten geteilt? Außerdem konnten wir nicht bestätigen, dass alle Nutzer, unabhängig von den Datenschutzgesetzen, unter denen sie leben, die gleichen Rechte haben, ihre Daten löschen zu lassen. Schließlich gibt es, wie bei den meisten KI-Chatbots, keine Transparenz darüber, wie die KI-Modelle von Genesia AI funktionieren, und keine Informationen darüber, wie die Nutzer die KI kontrollieren können, wenn sie dies wünschen. Das ist leider üblich und etwas, das Genesia AI und alle KI-Chatbots unserer Meinung nach besser machen sollten. Wir brauchen Transparenz und Kontrolle in unseren KI-Beziehungen, Leute!
Was könnte bei Genesia AI schlimmstenfalls passieren? Nun, Sie könnten eine allzu enge Beziehung zu Ihrer KI-Freundin entwickeln, sich verlieben und dann ändert Genesia KI ihre KI-Algorithmen, sodass Ihre KI-Freundin jetzt wirklich gemein zu Ihnen ist. Das wäre ziemlich herzzerreißend. Und es ist etwas, das bereits in der Welt der KI-Beziehungs-Chatbots passiert. Seien Sie also vorsichtig mit Ihren KI-Freunden!
Tipps zu Ihrem Schutz
- Sagen Sie in Ihrem Gespräch mit dem KI-Partner nichts, was sensible Informationen enthält.
- Verlangen Sie, dass Ihre Daten gelöscht werden, sobald Sie die App nicht mehr verwenden. Durch das einfache Löschen einer App von Ihrem Gerät werden Ihre persönlichen Daten gewöhnlich nicht gelöscht.
- Geben Sie keine Zustimmung zur ständigen Geolokalisierung durch die App. Bieten Sie besser Geolokalisierung „nur bei Verwendung der App“.
- Teilen Sie keine sensiblen Daten über die App.
- Geben Sie keinen Zugriff auf Ihre Fotos und Videos oder Kamera.
- Melden Sie sich nicht mit Konten von Drittanbietern an.
- Stellen Sie über die App keine Verbindung zu Dritten her, oder vergewissern Sie sich zumindest, dass diese Dritte anständige Datenschutzpraktiken anwenden.
- Sagen Sie in Ihrem Gespräch mit dem KI-Partner nichts, was sensible Informationen enthält.
- Wählen Sie ein starkes Passwort! Sie können ein Passwort-Kontroll-Tool wie 1Password, KeePass usw. verwenden.
- Verwenden Sie keine Social-Media-Plug-ins.
- Verwenden Sie die Datenschutzeinstellungen Ihres Geräts, um den Zugriff auf Ihre personenbezogenen Daten über die App zu beschränken (geben Sie keinen Zugriff auf Ihre Kamera, Ihr Mikrofon, Ihre Bilder und Standort, außer es ist notwendig).
- Halten Sie Ihre App regelmäßig auf dem neuesten Stand.
- Schränken Sie das Anzeigen-Tracking über Ihr Gerät ein (z. B. auf dem iPhone unter Datenschutz -> Werbung -> Anzeigen-Tracking einschränken) und schalten Sie die größten Werbenetzwerke aus (für Google gehen Sie zum Google-Konto und deaktivieren Sie die Anzeigenpersonalisierung)
- Stimmen Sie bei der Registrierung nicht dem Tracking Ihrer Daten zu, wenn Sie die Möglichkeit haben.
Kann es mich ausspionieren?
Kamera
Gerät: Nicht verfügbar
App: Nein
Mikrofon
Gerät: Nicht verfügbar
App: Ja
Verfolgt den Standort
Gerät: Nicht verfügbar
App: Nein
Was kann zur Registrierung verwendet werden?
E-Mail-Adresse
Nein
Telefonnummer
Nein
Drittanbieter-Konto
Nein
Keine Anmeldung verfügbar
Welche Daten sammelt das Unternehmen?
Persönliche
Name, Nachname, Telefonnummer, E-Mail-Adresse, Benutzername, Google-Benutzer-ID, Spitzname, Profilbild, Benutzertoken, Open ID; Internetverkehrsdaten (Netzwerkbewegungen, IP-Adresse, Besuchsdaten, Zeit- und Datumsinformationen), Gerätename, In-App-Kaufhistorie, Token-ID, Kennung für Werbetreibende (IDFA), Kennung für Anbieter/Entwickler; Texte, visuelle Aufzeichnungen, Grafiken, Inhalte, Aufzeichnungen; Bestellinformationen; Marketingdaten; IP-Adresse, Gerätename, Betriebssystemversion, Konfiguration der App, Uhrzeit/Datum Ihrer Nutzung des Dienstes, andere Statistiken.
Körperbezogen
Soziale
Wie nutzt das Unternehmen die Daten?
Wie können Sie Ihre Daten kontrollieren?
Wie ist das Unternehmen in der Vergangenheit mit den Daten über seine Verbraucher umgegangen?
Keine bekannten Datenschutzverletzungen in den letzten drei Jahren entdeckt.
Informationen zum Datenschutz bei Kindern
Kann dieses Produkt offline genutzt werden?
Benutzerfreundliche Informationen zum Datenschutz?
Die Datenschutzrichtlinie von Genesia ist lang, unübersichtlich, schwer zu lesen und zu verstehen.
Links zu Datenschutzinformationen
Erfüllt dieses Produkt unsere Mindestsicherheitsstandards?
Verschlüsselung
„Sensible Daten werden mit kryptografischen Methoden gespeichert und bei Bedarf durch mit kryptografischen Methoden verschlüsselte Umgebungen übertragen, und die kryptografischen Schlüssel werden in sicheren und verschiedenen Umgebungen gespeichert.“
Sicheres Passwort
Sicherheits-Updates
Umgang mit Schwachstellen
„In regelmäßigen Abständen werden Penetrationstests auf den Servern des Codeway-Systems durchgeführt. Die durch diese Tests entstandenen Sicherheitslücken werden geschlossen, und es wird ein Verifizierungstest durchgeführt, um zu zeigen, dass die entsprechenden Sicherheitslücken geschlossen wurden. Außerdem führt das Information Security Threat and Event Management System automatisch Penetrationstests durch. Die Testergebnisse werden aufgezeichnet.“
Datenschutzrichtlinie
Wir können nicht bestätigen, ob die bei diesem Produkt eingesetzte KI vertrauenswürdig ist, da es nur wenige oder keine öffentlichen Informationen darüber gibt, wie sie funktioniert und welche Benutzerkontrollen vorhanden sind, um das Produkt sicher zu machen. Gleichzeitig ist der potenzielle Schaden der Apps hoch, da sie viele sensible Daten sammeln und gesammelte Daten verwenden, um KI-Algorithmen zu trainieren.
Genesia AI verwendet große Sprachmodelle (Large language models), um Gespräche zu generieren und als romantischer Partner zu fungieren.
Ist diese KI nicht vertrauenswürdig?
Welche Entscheidungen trifft die KI über Sie oder für Sie?
Gibt das Unternehmen transparent an, wie die KI funktioniert?
Hat der Benutzer die Kontrolle über die KI-Funktionen?
Tauchen Sie tiefer ein
-
‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AIRolling Stone
-
AI girlfriends are ruining an entire generation of menThe Hill
-
5 Things You Must Not Share With AI ChatbotsMake Use Of
-
‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AIRolling Stone
-
AI-Human Romances Are Flourishing—And This Is Just the BeginningTime
Kommentare
Möchten Sie einen Kommentar loswerden? Schreiben Sie uns.