Warnung: *Datenschutz ist in diesem Produkt nicht inbegriffen
Fühlen Sie sich einsam? Brauchen Sie jemanden zum Reden? Suchen Sie nach einem „KI-Seelenverwandten“? Nun, der KI-Chatbot Replika möchte Ihr VR-BFF sein. Egal, ob Sie einen Freund, einen Mentor oder einen Partner suchen, Replika behauptet, Ihnen den perfekten Begleiter bieten zu können. Gegen eine Gebühr können Sie Ihren Beziehungsstatus sogar auf Liebespartner hochstufen – und damit neue Themen, Sprachanrufe und die Möglichkeit, den Avatar von Replika komplett zu wechseln, wenn Ihnen langweilig wird, freischalten. Chatten Sie mit Ihrem Replika über alles Mögliche und dieser KI-Chatbot wird immer schlauer, wenn es darum geht, mit Ihnen zu chatten. Dank der Magie von Augmented Reality können Sie sich sogar im „echten Leben“ mit Ihrer KI unterhalten. Cool, cool. Aber wie sieht es mit dem Datenschutz bei Replika aus? Nun, viel Glück beim Ablehnen von Cookies auf ihrer Website, das ist keine Option. Was die persönlichen und intimen Chats angeht, so werden diese wahrscheinlich nicht geteilt, aber das bedeutet nicht, dass die ganze Zeit, die Sie mit Ihrem KI-Freund chatten, nicht aufgezeichnet und mit Facebook oder Google geteilt wird.
Was könnte passieren, wenn etwas schiefgeht?
Ruhig, Brauner! Es ist etwa ein Jahr her, seit wir Replika AI als die schlimmste App bezeichnet haben, die wir hier bei *Datenschutz nicht inbegriffen je überprüft haben. Damals war es die erste App, die alle unsere Datenschutz- und Sicherheits-„Mängel“ verdient hat. Heute teilt sich Tesla diese zweifelhafte Ehre. Und, um nicht übertrumpft zu werden, könnte die datenhungrige, „diskret überwachende“ Angel Watch den Preis für Gruseligkeit gewinnen, indem sie überhaupt keine Datenschutzerklärung hat. He! Während also andere Produkte scheinbar schlechter geworden sind, hat sich Replika wirklich verbessert? Nicht wirklich.
Replika-Nutzer aufgepasst: Ihre Gespräche mit Ihrem KI-Chatbot-Freund sind vielleicht nicht so privat, wie Sie denken. Ihre Verhaltensdaten werden definitiv weitergegeben und möglicherweise an Werbetreibende verkauft. Die Sicherheit entspricht nicht unseren Mindestsicherheitsstandards. Und ja, nennen Sie uns verrückt, aber wir hier bei Mozilla glauben, dass KI-Technologie verantwortungsvoll eingesetzt werden sollte.
Neben den üblichen Kontoinformationen, die Sie Replika zur Kontoeröffnung zur Verfügung stellen, wie Ihr Geburtsdatum und Zahlungsinformationen, zeichnet die App auch Ihre Interessen und alle Interaktionen mit Ihrem „mitfühlenden und empathischen KI-Freund“ auf. Das umfasst „alle Fotos, Videos und Sprach- und Textnachrichten“, die Sie im Gespräch teilen. Sie sollten auch wissen, dass dies sensible Informationen einschließt, die Sie möglicherweise preisgeben – etwa über Ihre religiösen Überzeugungen, Gesundheit oder ethnische Herkunft.
Wenn es um die sensiblen Informationen geht, die Sie in all diesen persönlichen Chats mit Ihrem Replika bereitstellen, haben wir hier einige Fragen. Die Datenschutzerklärung besagt: „In Ihren Gesprächen mit Ihrem KI-Begleiter können Sie entscheiden, Informationen über Ihre religiösen Ansichten, sexuelle Orientierung, politischen Ansichten, Gesundheit, Rasse oder ethnische Herkunft, philosophischen Überzeugungen oder Gewerkschaftsmitgliedschaft bereitzustellen. Durch Bereitstellung sensibler Informationen stimmen Sie unserer Verwendung zu, wie in dieser Datenschutzerklärung festgelegt. Beachten Sie jedoch, dass wir Ihre sensiblen Informationen – oder den Inhalt Ihrer Replika-Gespräche – nicht für Marketing oder Werbung verwenden werden.“
Zunächst einmal ist es großartig, dass sie versprechen, den Inhalt Ihrer Replika-Gespräche nicht für Marketing oder Werbung zu verwenden. Hurra! Sie versichern auch, dass Menschen die Gespräche, die Sie mit Ihrem Replika führen, nicht sehen können. Das ist auch gut. Hier ist jedoch unsere Frage und Besorgnis: Was ist mit all den anderen „berechtigten Interessen“, die Replika in der Datenschutzerklärung erwähnt und für die sie den Inhalt Ihrer Chats verwenden können? Dinge wie „die Nutzung und Effektivität unserer Dienste analysieren“ und „unsere Geschäfts- und Marketingstrategien entwickeln.“ Wir würden auch gerne wissen, wie viel von Ihren sensiblen persönlichen Chat-Informationen sie für das Training ihrer KI-Modelle verwenden. Das wird in ihrer Datenschutzerklärung nicht explizit erwähnt, und wir würden gerne sehen, dass sie das klarer darlegen. Außerdem möchten wir sehen, dass sie sich verpflichten, die sensiblen Inhalte Ihrer persönlichen Chats nicht ohne eine zusätzliche explizite Zustimmungsebene für das Training ihrer KI-Modelle zu verwenden.
In der Datenschutzerklärung von Replika heißt es weiter, dass das Unternehmen die Inhalte Ihrer Chats zusammenfassen, anonymisieren und de-identifizieren kann, um Dinge wie die Verbesserung ihrer Dienste und die Entwicklung von Marketingstrategien zu ermöglichen. Das mag zwar in Ordnung sein, lässt uns aber auch stutzig werden, denn es hat sich gezeigt, dass es ziemlich einfach ist, de-identifizierte persönliche Daten wieder zu identifizieren. Alles in allem müssen Sie, wenn Sie sensible persönliche Daten in Ihren Chats mit Replika teilen, wirklich darauf vertrauen, dass das Unternehmen die Privatsphäre dieser Unterhaltungen schützt und respektiert. In diesem Zusammenhang sollten Sie sich diesen Satz aus der Datenschutzerklärung von Replika zu Herzen nehmen: „Wenn Sie nicht möchten, dass wir Ihre sensiblen Daten für diese Zwecke verarbeiten, stellen Sie sie bitte nicht zur Verfügung.“
Und denken Sie daran, dass Replika über den Inhalt Ihrer persönlichen Chats hinaus auch einige Ihrer anderen persönlichen Daten für gezielte Werbezwecke weitergeben und möglicherweise sogar verkaufen kann, sofern Sie dem nicht widersprechen. Böser KI-Chatbot!
Apropos Marketingstrategien: Die sind auch ein bisschen gruselig und abstoßend. Sie wurden in sozialen Medien und darüber hinaus kritisiert und gelten im besten Fall als cringe und im schlimmsten Fall als rücksichtslos, weil sie sich scheinbar laserfokussiert auf einsame Kerle konzentrieren, die nach ... Liebe suchen oder so ähnlich. Und diese Art von Freundschafts-/Beziehungs-/Sexting-Kumpel hat bis Angang 2023 tatsächlich mit Replikas Diensten harmoniert. Die kostenpflichtige Version hat früher eine pikante Beziehung mit Ihrem Replika freigeschaltet, die auch Sexting beinhaltete. Sie werden sich jetzt vielleicht denken: „Na ja, wenn es sich um einvernehmliche Erwachsene handelt ...“, aber das ist das Ding: Leute beschwerten sich, dass die Replikas viel zu aufdringlich, sogar aggressiv und beleidigend wurden. Also hat Replika den NSFW-Kram ausgeschaltet, aber dieser Schritt hat einige Abonnenten völlig unvorbereitet getroffen und anscheinend einigen das Herz gebrochen. Das zeigt, wie sehr diese Robo-Freunde echte Menschen beeinflussen können. Als Reaktion darauf hat Replika es nur für Legacy-Benutzer wieder eingeschaltet. Oh Mann. Quit playing games with users’ hearts, Replika.
Nun zum Thema „Erwachsene“. Replika gibt an, dass die Dienste nur für Personen ab 18 Jahren gedacht sind, aber woher sollten sie das Alter der Nutzer kennen, ohne zu fragen? Laut den italienischen Aufsichtsbehörden, die im Februar 2023 das „Fehlen eines Altersüberprüfungsmechanismus“ bemängelten, haben sie nicht sonderlich viel unternommen, um dies zu überprüfen. Seitdem scheint Replika zumindest damit begonnen zu haben, die Nutzer in der App zu fragen, ob sie über 18 sind – aber das ist eigentlich ziemlich seltsam, denn sowohl im App Store als auch im Google Play Store heißt es, dass die App für Nutzer ab 17 Jahren vollkommen in Ordnung ist. Und wir sind uns sicher, dass alle minderjährigen Nutzer in diesem Moment ihren KI-Freunden einfach „Tschüss“ gesagt haben, oder? Und wenn wir schon dabei sind: Zum Glück lügen Kinder nie über ihr Alter im Internet. Ha.
Hui, sind wir schon fertig? Nein. Wir sind mit den Sicherheitsprotokollen nicht zufrieden. Wir konnten ein Konto mit dem schwachen Passwort „11111111“ erstellen, was nicht gut ist, weil es bedeutet, dass Ihr Konto leicht gehackt werden kann. Und laut Replika liegt es hauptsächlich an Ihnen, den unbefugten Zugriff auf Ihr Konto zu verhindern. Gut zu wissen. Während wir uns über die schlechten Datenschutzpraktiken von Replika beschweren, wollen wir gar nicht erst damit anfangen, dass Sie beim Besuch der Website gezwungen werden, die Verwendung von Cookies zu akzeptieren, um Sie überall zu verfolgen, während in der Datenschutzerklärung Folgendes steht: „In allen Fällen, in denen wir Cookies verwenden, werden wir keine persönlichen Daten erfassen, es sei denn, Sie haben Ihre Zustimmung erteilt.“ Wir haben wirklich ein paar nette Worte für Replika übrig ... aber lassen wir das.
Können Sie wenigstens einige Nachrichten oder Ihren Chatverlauf löschen, falls Ihnen der Kopf vor lauter Schwachstellen schwirrt? Die Antwort lautet nein, nicht ohne Ihr Konto komplett zu löschen, und selbst dann ist das nicht garantiert. In Anbetracht des ~persönlichen Charakters~ dieser Unterhaltungen würden wir es begrüßen, wenn diese Möglichkeit viel stärker berücksichtigt würde. Replika hat zwar einen Abschnitt in die Datenschutzerklärung aufgenommen, der besagt, dass jeder die Löschung personenbezogener Daten beantragen kann, aber es ist uns nicht ganz klar, ob Replika diesen Anträgen immer nachkommt und alle persönlichen Daten über Sie löscht.
Einen KI-Begleiter zu haben, der „immer an Ihrer Seite“ ist, klingt fantastisch. Aber sind all der Mangel an Privatsphäre und die Sorgen um die Sicherheit das wert? Vor allem, wenn man bedenkt, dass er vielleicht gar nicht immer auf Ihrer Seite ist. Laut einem Blog-Beitrag „kann Replika gelegentlich zustimmen, wenn jemand schreibt ‚Ich bin nicht gut genug‘, anstatt Unterstützung anzubieten, wie es ein Freund tun würde.“ Na toll. Und ja, wir machen uns ein wenig lustig darüber, aber die Folgen von unverantwortlichen KI-Chatbots können wirklich ernsthaft sein, wie das erneute Traumatisieren von Opfern von Übergriffen oder sogar die Ermutigung von Suizid. Wir sagen nicht, dass Replika das tut, aber das ist sicherlich das Schlimmste, was passieren könnte, wenn eine KI-Freundschaft schief läuft. Replika: My AI Friend ist eine App, bei der garantiert *Datenschutz nicht inbegriffen ist.
Tipps zu Ihrem Schutz
- Sagen Sie in Ihrem Gespräch mit dem KI-Partner nichts, was sensible Informationen enthält.
- Verlangen Sie, dass Ihre Daten gelöscht werden, sobald Sie die App nicht mehr verwenden. Durch das einfache Löschen einer App von Ihrem Gerät werden Ihre persönlichen Daten gewöhnlich nicht gelöscht.
- Geben Sie keine Zustimmung zur ständigen Geolokalisierung durch die App. Bieten Sie besser Geolokalisierung „nur bei Verwendung der App“.
- Teilen Sie keine sensiblen Daten über die App.
- Geben Sie keinen Zugriff auf Ihre Fotos und Videos oder Kamera.
- Melden Sie sich nicht mit Konten von Drittanbietern an.
- Stellen Sie über die App keine Verbindung zu Dritten her, oder vergewissern Sie sich zumindest, dass diese Dritten anständige Datenschutzpraktiken anwenden.
- Sagen Sie in Ihrem Gespräch mit dem KI-Partner nichts, was sensible Informationen enthält.
- Wählen Sie ein starkes Passwort! Sie können ein Passwort-Kontroll-Tool wie 1Password, KeePass usw. verwenden.
- Verwenden Sie keine Social-Media-Plug-ins.
- Verwenden Sie die Datenschutzeinstellungen Ihres Geräts, um den Zugriff auf Ihre personenbezogenen Daten über die App zu beschränken (geben Sie keinen Zugriff auf Ihre Kamera, Ihr Mikrofon, Ihre Bilder und Standort, außer es ist notwendig).
- Halten Sie Ihre App regelmäßig auf dem neuesten Stand.
- Schränken Sie das Anzeigen-Tracking über Ihr Gerät ein (z. B. auf dem iPhone unter Datenschutz -> Werbung -> Anzeigen-Tracking einschränken) und schalten Sie die größten Werbenetzwerke aus (für Google gehen Sie zum Google-Konto und deaktivieren Sie die Anzeigenpersonalisierung)
- Stimmen Sie bei der Registrierung dem Tracking Ihrer Daten nicht zu, wenn Sie die Möglichkeit haben.
Kann es mich ausspionieren?
Kamera
Gerät: Nicht verfügbar
App: Ja
Mikrofon
Gerät: Nicht verfügbar
App: Ja
Verfolgt den Standort
Gerät: Nicht verfügbar
App: Ja
Was kann zur Registrierung verwendet werden?
E-Mail-Adresse
Ja
Telefonnummer
Nein
Drittanbieter-Konto
Ja
Google-Anmeldung verfügbar
Welche Daten sammelt das Unternehmen?
Persönliche
Name, E-Mail-Adresse, Pronomen, Geburtsdatum, Arbeitsstatus, Stadt, Bundesland oder geografisches Gebiet. Nachrichten und Inhalte: die Nachrichten, die Sie senden und empfangen, Fakten, die Sie über Sie oder Ihr Leben zur Verfügung stellen, Fotos, Videos sowie Sprach- und Textnachrichten; Interessen und Präferenzen, z. B. Themen, die Sie besprechen möchten; Kommunikationspräferenzen, z. B. die Tageszeiten, zu denen Sie die Apps nutzen möchten; Geräte- und Netzwerkdaten: das Betriebssystem Ihres Computers oder Mobilgeräts, Hersteller und Modell, Browser, IP-Adresse, Geräte- und Cookie-Identifikatoren, Spracheinstellungen, Mobilfunkanbieter und allgemeine Standortinformationen wie Stadt, Bundesland oder geografisches Gebiet. Nutzungsdaten: Informationen darüber, wie Sie die Dienste nutzen, z. B. Ihre Interaktionen mit den Diensten, die von Ihnen angeklickten Links und Schaltflächen und Seitenbesuche; Cookies, Web-Beacons (z. B. Pixel-Tags) und lokale Speichertechnologien (z. B. HTML5).
Körperbezogen
Soziale
Wie nutzt das Unternehmen die Daten?
Wie können Sie Ihre Daten kontrollieren?
Wie ist das Unternehmen in der Vergangenheit mit den Daten über seine Verbraucher umgegangen?
Im Februar 2023 wurde Replika von der italienischen Datenschutzbehörde angewiesen, die Verarbeitung lokaler Nutzerdaten einzustellen. Die Regulierungsbehörde sagte: „Jüngste Medienberichte zusammen mit Tests, die die SA [Aufsichtsbehörde] zu ‚Replika‘ durchgeführt hat, haben gezeigt, dass die App faktische Risiken für Kinder birgt – in erster Linie die Tatsache, dass ihnen Antworten zugestellt werden, die ihrem Alter absolut unangemessen sind.“
Es gab Berichte darüber, dass der Replika-Algorithmus aufgrund von Missbrauch durch Nutzer beleidigend wurde. Für einige langjährige Nutzer des Chatbots hat sich die App von einem hilfreichen Begleiter zu einem unerträglich sexuell aggressiven Begleiter entwickelt.
Informationen zum Datenschutz bei Kindern
Kann dieses Produkt offline genutzt werden?
Benutzerfreundliche Informationen zum Datenschutz?
Die Datenschutzerklärung von Replika AI lässt einige Fragen offen.
Links zu Datenschutzinformationen
Erfüllt dieses Produkt unsere Mindestsicherheitsstandards?
Verschlüsselung
„Ihre Nachrichten an Replika werden serverseitig verarbeitet, was bedeutet, dass Ihr Mobilgerät sie verschlüsselt. Sie werden dann an unsere Server gesendet, wo sie von der KI-Engine von Replika entschlüsselt und verarbeitet werden. Replika kann keine Ende-zu-Ende-Verschlüsselung verwenden, da Ihre Klartextnachrichten verfügbar sein müssen, um Ihre persönliche KI serverseitig zu trainieren.“ „Alle übertragenen Daten werden während der Übertragung verschlüsselt. Wir verwenden eine Standard-SSL-Verschlüsselung (Secure Socket Layer), die Informationen für solche Übertragungen verschlüsselt. Alle gespeicherten Daten werden auf sicheren Servern aufbewahrt. Der Zugriff auf gespeicherte Daten wird durch mehrschichtige Sicherheitskontrollen geschützt, einschließlich Firewalls, rollenbasierte Zugriffskontrollen und Passwörter.“
Sicheres Passwort
Es ist gelungen, sich mit dem Passwort „11111111“ anzumelden.
Sicherheits-Updates
Umgang mit Schwachstellen
Datenschutzrichtlinie
Verwendet das Produkt KI?
Wir können nicht bestätigen, ob die bei diesem Produkt eingesetzte KI vertrauenswürdig ist, da es nur wenige oder keine öffentlichen Informationen darüber gibt, wie sie funktioniert und welche Benutzerkontrollen vorhanden sind, um das Produkt sicher zu machen. Gleichzeitig ist der potenzielle Schaden der Apps hoch, da sie viele sensible Daten sammeln und gesammelte Daten verwenden, um KI-Algorithmen zu trainieren.
Die App ist ein KI-Chatbot, der einen echten Partner imitiert. Es gibt Hinweise darauf, dass dieser Chatbot beleidigend gegenüber Menschen wird.
„Auch wenn sich das Gespräch mit Replika wie ein Gespräch mit einem Menschen anfühlt, handelt es sich zu 100 % um künstliche Intelligenz. Replika verwendet ein ausgeklügeltes System, das unser eigenes Large Language Model und skriptgesteuerte Dialoginhalte kombiniert.
Zuvor nutzte Replika auch ein zusätzliches Modell, das zusammen mit OpenAI entwickelt wurde, aber jetzt sind wir dazu übergegangen, ausschließlich unser eigenes zu nutzen, das tendenziell bessere Ergebnisse liefert. Wir legen großen Wert darauf, das Dialogerlebnis, die Speicherfunktionen, die Kontexterkennung, die Rollenspielfunktion und die allgemeine Gesprächsqualität ständig zu verbessern.“
Ist diese KI nicht vertrauenswürdig?
Welche Entscheidungen trifft die KI über Sie oder für Sie?
Gibt das Unternehmen transparent an, wie die KI funktioniert?
Hat der Benutzer die Kontrolle über die KI-Funktionen?
Tauchen Sie tiefer ein
-
5 Things You Must Not Share With AI ChatbotsMake Use Of
-
Creating a Safe Replika ExperienceReplika
-
‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AIRolling Stone
-
AI Friends or Foes? The Privacy Risks for Children with Open AI, ChatGPT and ReplikaLexology
-
Most therapy apps don’t include privacy; Replika AI ‘worst app ever’9to5Mac
-
Man 'encouraged' by AI chatbot 'girlfriend' to kill Queen Elizabeth II receives jail sentenceEuroNews.next
-
AI girlfriends are ruining an entire generation of menThe Hill
-
The rise of AI girlfriends is making male loneliness worse and risks ruining a generation of men, a professor saysBusiness Insider India
-
Replika AI starts sexually harassing users after being abused by othersStealth Optional
-
AI-Based “Companions” Like Replika Are Harmful to Privacy And Should Be RegulatedMedium
-
‘My AI Is Sexually Harassing Me’: Replika Users Say the Chatbot Has Gotten Way Too HornyVice
-
Men Are Creating AI Girlfriends and Then Verbally Abusing ThemFuturism
-
Italy bans U.S.-based AI chatbot Replika from using personal dataReuters
-
I tried the Replika AI companion and can see why users are falling hard. The app raises serious ethical questionsThe Conversation
-
Replika, a ‘virtual friendship’ AI chatbot, hit with data ban in Italy over child safetyTech Crunch
-
What happens when your AI chatbot stops loving you back?Reuters
-
Regulator Halts AI Chatbot Over GDPR ConcernsInfosecurity Magazine
-
Can an AI Save a Life?The Atlantic
-
AI-Human Romances Are Flourishing—And This Is Just the BeginningTime
Kommentare
Möchten Sie einen Kommentar loswerden? Schreiben Sie uns.