Replika: My AI Friend

Warnung: *Datenschutz ist in diesem Produkt nicht inbegriffen

Replika: My AI Friend

Luka, Inc.
WLAN

Überprüft am: 7. Februar 2024

|
|

Mozillas Meinung

|
Abstimmungsergebnis: Sehr unheimlich

Fühlen Sie sich einsam? Brauchen Sie jemanden zum Reden? Suchen Sie nach einem „KI-Seelenverwandten“? Nun, der KI-Chatbot Replika möchte Ihr VR-BFF sein. Egal, ob Sie einen Freund, einen Mentor oder einen Partner suchen, Replika behauptet, Ihnen den perfekten Begleiter bieten zu können. Gegen eine Gebühr können Sie Ihren Beziehungsstatus sogar auf Liebespartner hochstufen – und damit neue Themen, Sprachanrufe und die Möglichkeit, den Avatar von Replika komplett zu wechseln, wenn Ihnen langweilig wird, freischalten. Chatten Sie mit Ihrem Replika über alles Mögliche und dieser KI-Chatbot wird immer schlauer, wenn es darum geht, mit Ihnen zu chatten. Dank der Magie von Augmented Reality können Sie sich sogar im „echten Leben“ mit Ihrer KI unterhalten. Cool, cool. Aber wie sieht es mit dem Datenschutz bei Replika aus? Nun, viel Glück beim Ablehnen von Cookies auf ihrer Website, das ist keine Option. Was die persönlichen und intimen Chats angeht, so werden diese wahrscheinlich nicht geteilt, aber das bedeutet nicht, dass die ganze Zeit, die Sie mit Ihrem KI-Freund chatten, nicht aufgezeichnet und mit Facebook oder Google geteilt wird.

Was könnte passieren, wenn etwas schiefgeht?

Ruhig, Brauner! Es ist etwa ein Jahr her, seit wir Replika AI als die schlimmste App bezeichnet haben, die wir hier bei *Datenschutz nicht inbegriffen je überprüft haben. Damals war es die erste App, die alle unsere Datenschutz- und Sicherheits-„Mängel“ verdient hat. Heute teilt sich Tesla diese zweifelhafte Ehre. Und, um nicht übertrumpft zu werden, könnte die datenhungrige, „diskret überwachende“ Angel Watch den Preis für Gruseligkeit gewinnen, indem sie überhaupt keine Datenschutzerklärung hat. He! Während also andere Produkte scheinbar schlechter geworden sind, hat sich Replika wirklich verbessert? Nicht wirklich.

Replika-Nutzer aufgepasst: Ihre Gespräche mit Ihrem KI-Chatbot-Freund sind vielleicht nicht so privat, wie Sie denken. Ihre Verhaltensdaten werden definitiv weitergegeben und möglicherweise an Werbetreibende verkauft. Die Sicherheit entspricht nicht unseren Mindestsicherheitsstandards. Und ja, nennen Sie uns verrückt, aber wir hier bei Mozilla glauben, dass KI-Technologie verantwortungsvoll eingesetzt werden sollte.

Neben den üblichen Kontoinformationen, die Sie Replika zur Kontoeröffnung zur Verfügung stellen, wie Ihr Geburtsdatum und Zahlungsinformationen, zeichnet die App auch Ihre Interessen und alle Interaktionen mit Ihrem „mitfühlenden und empathischen KI-Freund“ auf. Das umfasst „alle Fotos, Videos und Sprach- und Textnachrichten“, die Sie im Gespräch teilen. Sie sollten auch wissen, dass dies sensible Informationen einschließt, die Sie möglicherweise preisgeben – etwa über Ihre religiösen Überzeugungen, Gesundheit oder ethnische Herkunft.

Wenn es um die sensiblen Informationen geht, die Sie in all diesen persönlichen Chats mit Ihrem Replika bereitstellen, haben wir hier einige Fragen. Die Datenschutzerklärung besagt: „In Ihren Gesprächen mit Ihrem KI-Begleiter können Sie entscheiden, Informationen über Ihre religiösen Ansichten, sexuelle Orientierung, politischen Ansichten, Gesundheit, Rasse oder ethnische Herkunft, philosophischen Überzeugungen oder Gewerkschaftsmitgliedschaft bereitzustellen. Durch Bereitstellung sensibler Informationen stimmen Sie unserer Verwendung zu, wie in dieser Datenschutzerklärung festgelegt. Beachten Sie jedoch, dass wir Ihre sensiblen Informationen – oder den Inhalt Ihrer Replika-Gespräche – nicht für Marketing oder Werbung verwenden werden.“

Zunächst einmal ist es großartig, dass sie versprechen, den Inhalt Ihrer Replika-Gespräche nicht für Marketing oder Werbung zu verwenden. Hurra! Sie versichern auch, dass Menschen die Gespräche, die Sie mit Ihrem Replika führen, nicht sehen können. Das ist auch gut. Hier ist jedoch unsere Frage und Besorgnis: Was ist mit all den anderen „berechtigten Interessen“, die Replika in der Datenschutzerklärung erwähnt und für die sie den Inhalt Ihrer Chats verwenden können? Dinge wie „die Nutzung und Effektivität unserer Dienste analysieren“ und „unsere Geschäfts- und Marketingstrategien entwickeln.“ Wir würden auch gerne wissen, wie viel von Ihren sensiblen persönlichen Chat-Informationen sie für das Training ihrer KI-Modelle verwenden. Das wird in ihrer Datenschutzerklärung nicht explizit erwähnt, und wir würden gerne sehen, dass sie das klarer darlegen. Außerdem möchten wir sehen, dass sie sich verpflichten, die sensiblen Inhalte Ihrer persönlichen Chats nicht ohne eine zusätzliche explizite Zustimmungsebene für das Training ihrer KI-Modelle zu verwenden.

In der Datenschutzerklärung von Replika heißt es weiter, dass das Unternehmen die Inhalte Ihrer Chats zusammenfassen, anonymisieren und de-identifizieren kann, um Dinge wie die Verbesserung ihrer Dienste und die Entwicklung von Marketingstrategien zu ermöglichen. Das mag zwar in Ordnung sein, lässt uns aber auch stutzig werden, denn es hat sich gezeigt, dass es ziemlich einfach ist, de-identifizierte persönliche Daten wieder zu identifizieren. Alles in allem müssen Sie, wenn Sie sensible persönliche Daten in Ihren Chats mit Replika teilen, wirklich darauf vertrauen, dass das Unternehmen die Privatsphäre dieser Unterhaltungen schützt und respektiert. In diesem Zusammenhang sollten Sie sich diesen Satz aus der Datenschutzerklärung von Replika zu Herzen nehmen: „Wenn Sie nicht möchten, dass wir Ihre sensiblen Daten für diese Zwecke verarbeiten, stellen Sie sie bitte nicht zur Verfügung.“

Und denken Sie daran, dass Replika über den Inhalt Ihrer persönlichen Chats hinaus auch einige Ihrer anderen persönlichen Daten für gezielte Werbezwecke weitergeben und möglicherweise sogar verkaufen kann, sofern Sie dem nicht widersprechen. Böser KI-Chatbot!

Apropos Marketingstrategien: Die sind auch ein bisschen gruselig und abstoßend. Sie wurden in sozialen Medien und darüber hinaus kritisiert und gelten im besten Fall als cringe und im schlimmsten Fall als rücksichtslos, weil sie sich scheinbar laserfokussiert auf einsame Kerle konzentrieren, die nach ... Liebe suchen oder so ähnlich. Und diese Art von Freundschafts-/Beziehungs-/Sexting-Kumpel hat bis Angang 2023 tatsächlich mit Replikas Diensten harmoniert. Die kostenpflichtige Version hat früher eine pikante Beziehung mit Ihrem Replika freigeschaltet, die auch Sexting beinhaltete. Sie werden sich jetzt vielleicht denken: „Na ja, wenn es sich um einvernehmliche Erwachsene handelt ...“, aber das ist das Ding: Leute beschwerten sich, dass die Replikas viel zu aufdringlich, sogar aggressiv und beleidigend wurden. Also hat Replika den NSFW-Kram ausgeschaltet, aber dieser Schritt hat einige Abonnenten völlig unvorbereitet getroffen und anscheinend einigen das Herz gebrochen. Das zeigt, wie sehr diese Robo-Freunde echte Menschen beeinflussen können. Als Reaktion darauf hat Replika es nur für Legacy-Benutzer wieder eingeschaltet. Oh Mann. Quit playing games with users’ hearts, Replika.

Nun zum Thema „Erwachsene“. Replika gibt an, dass die Dienste nur für Personen ab 18 Jahren gedacht sind, aber woher sollten sie das Alter der Nutzer kennen, ohne zu fragen? Laut den italienischen Aufsichtsbehörden, die im Februar 2023 das „Fehlen eines Altersüberprüfungsmechanismus“ bemängelten, haben sie nicht sonderlich viel unternommen, um dies zu überprüfen. Seitdem scheint Replika zumindest damit begonnen zu haben, die Nutzer in der App zu fragen, ob sie über 18 sind – aber das ist eigentlich ziemlich seltsam, denn sowohl im App Store als auch im Google Play Store heißt es, dass die App für Nutzer ab 17 Jahren vollkommen in Ordnung ist. Und wir sind uns sicher, dass alle minderjährigen Nutzer in diesem Moment ihren KI-Freunden einfach „Tschüss“ gesagt haben, oder? Und wenn wir schon dabei sind: Zum Glück lügen Kinder nie über ihr Alter im Internet. Ha.

Hui, sind wir schon fertig? Nein. Wir sind mit den Sicherheitsprotokollen nicht zufrieden. Wir konnten ein Konto mit dem schwachen Passwort „11111111“ erstellen, was nicht gut ist, weil es bedeutet, dass Ihr Konto leicht gehackt werden kann. Und laut Replika liegt es hauptsächlich an Ihnen, den unbefugten Zugriff auf Ihr Konto zu verhindern. Gut zu wissen. Während wir uns über die schlechten Datenschutzpraktiken von Replika beschweren, wollen wir gar nicht erst damit anfangen, dass Sie beim Besuch der Website gezwungen werden, die Verwendung von Cookies zu akzeptieren, um Sie überall zu verfolgen, während in der Datenschutzerklärung Folgendes steht: „In allen Fällen, in denen wir Cookies verwenden, werden wir keine persönlichen Daten erfassen, es sei denn, Sie haben Ihre Zustimmung erteilt.“ Wir haben wirklich ein paar nette Worte für Replika übrig ... aber lassen wir das.

Können Sie wenigstens einige Nachrichten oder Ihren Chatverlauf löschen, falls Ihnen der Kopf vor lauter Schwachstellen schwirrt? Die Antwort lautet nein, nicht ohne Ihr Konto komplett zu löschen, und selbst dann ist das nicht garantiert. In Anbetracht des ~persönlichen Charakters~ dieser Unterhaltungen würden wir es begrüßen, wenn diese Möglichkeit viel stärker berücksichtigt würde. Replika hat zwar einen Abschnitt in die Datenschutzerklärung aufgenommen, der besagt, dass jeder die Löschung personenbezogener Daten beantragen kann, aber es ist uns nicht ganz klar, ob Replika diesen Anträgen immer nachkommt und alle persönlichen Daten über Sie löscht.

Einen KI-Begleiter zu haben, der „immer an Ihrer Seite“ ist, klingt fantastisch. Aber sind all der Mangel an Privatsphäre und die Sorgen um die Sicherheit das wert? Vor allem, wenn man bedenkt, dass er vielleicht gar nicht immer auf Ihrer Seite ist. Laut einem Blog-Beitrag „kann Replika gelegentlich zustimmen, wenn jemand schreibt ‚Ich bin nicht gut genug‘, anstatt Unterstützung anzubieten, wie es ein Freund tun würde.“ Na toll. Und ja, wir machen uns ein wenig lustig darüber, aber die Folgen von unverantwortlichen KI-Chatbots können wirklich ernsthaft sein, wie das erneute Traumatisieren von Opfern von Übergriffen oder sogar die Ermutigung von Suizid. Wir sagen nicht, dass Replika das tut, aber das ist sicherlich das Schlimmste, was passieren könnte, wenn eine KI-Freundschaft schief läuft. Replika: My AI Friend ist eine App, bei der garantiert *Datenschutz nicht inbegriffen ist.

Tipps zu Ihrem Schutz

  • Sagen Sie in Ihrem Gespräch mit dem KI-Partner nichts, was sensible Informationen enthält.
  • Verlangen Sie, dass Ihre Daten gelöscht werden, sobald Sie die App nicht mehr verwenden. Durch das einfache Löschen einer App von Ihrem Gerät werden Ihre persönlichen Daten gewöhnlich nicht gelöscht.
  • Geben Sie keine Zustimmung zur ständigen Geolokalisierung durch die App. Bieten Sie besser Geolokalisierung „nur bei Verwendung der App“.
  • Teilen Sie keine sensiblen Daten über die App.
  • Geben Sie keinen Zugriff auf Ihre Fotos und Videos oder Kamera.
  • Melden Sie sich nicht mit Konten von Drittanbietern an.
  • Stellen Sie über die App keine Verbindung zu Dritten her, oder vergewissern Sie sich zumindest, dass diese Dritten anständige Datenschutzpraktiken anwenden.
  • Sagen Sie in Ihrem Gespräch mit dem KI-Partner nichts, was sensible Informationen enthält.
  • Wählen Sie ein starkes Passwort! Sie können ein Passwort-Kontroll-Tool wie 1Password, KeePass usw. verwenden.
  • Verwenden Sie keine Social-Media-Plug-ins.
  • Verwenden Sie die Datenschutzeinstellungen Ihres Geräts, um den Zugriff auf Ihre personenbezogenen Daten über die App zu beschränken (geben Sie keinen Zugriff auf Ihre Kamera, Ihr Mikrofon, Ihre Bilder und Standort, außer es ist notwendig).
  • Halten Sie Ihre App regelmäßig auf dem neuesten Stand.
  • Schränken Sie das Anzeigen-Tracking über Ihr Gerät ein (z. B. auf dem iPhone unter Datenschutz -> Werbung -> Anzeigen-Tracking einschränken) und schalten Sie die größten Werbenetzwerke aus (für Google gehen Sie zum Google-Konto und deaktivieren Sie die Anzeigenpersonalisierung)
  • Stimmen Sie bei der Registrierung dem Tracking Ihrer Daten nicht zu, wenn Sie die Möglichkeit haben.
  • mobile

Kann es mich ausspionieren? Information

Kamera

Gerät: Nicht verfügbar

App: Ja

Mikrofon

Gerät: Nicht verfügbar

App: Ja

Verfolgt den Standort

Gerät: Nicht verfügbar

App: Ja

Was kann zur Registrierung verwendet werden?

Google-Anmeldung verfügbar

Welche Daten sammelt das Unternehmen?

Wie nutzt das Unternehmen die Daten?

Wir bemängeln, dass dieses Produkt personenbezogene Daten für gezielte Werbezwecke verkaufen oder weitergeben kann.

Datenschutzrichtlinie

„Wir teilen Informationen mit Werbepartnern von Drittanbietern und erlauben ihnen, Informationen über Ihren Besuch auf unserer Website mithilfe von Cookies und anderen Tracking-Technologien zu sammeln, um gezielte Werbung im Web anzuzeigen, wie im Abschnitt ‚Wie wir Ihre Informationen weitergeben‘ oben beschrieben. Unsere Offenlegung von Informationen an diese Partner kann gemäß geltendem Recht als „Verkauf‘ oder ‚Weitergabe‘ personenbezogener Daten oder ‚gezielte Werbung‘ betrachtet werden.

„Unsere Werbepartner können solche Technologien auch verwenden, um begrenzte Informationen über Ihr Gerät und die Interaktionen mit den Diensten zu sammeln, z. B. die von Ihnen angeklickten Links, die von Ihnen besuchten Seiten, die IP-Adresse, die Werbe-ID und den Browsertyp. Sie haben jedoch niemals Zugriff auf Ihre Gespräche mit Ihrem Replika oder auf Fotos oder andere Inhalte, die Sie über die Apps übermitteln.“

Replika verwendet „Kontoinformationen, Geräte- und Netzwerkdaten sowie Nutzungsdaten“, um „Ihnen per E-Mail Informationen zu senden, von denen wir glauben, dass sie für Sie von Interesse sind, wie z. B. Informationen über unsere Dienste, Funktionen und Umfragen, und um gezielt Werbung über unsere Dienste im Internet anzuzeigen.“

„Sensible Informationen, die Sie in Ihren Nachrichten und Inhalten bereitstellen. In Ihren Gesprächen mit Ihrem KI-Begleiter können Sie Informationen über Ihre religiösen Ansichten, sexuelle Orientierung, politischen Ansichten, Gesundheit, Rasse oder ethnische Herkunft, philosophischen Überzeugungen oder Gewerkschaftszugehörigkeit bereitstellen. Durch Bereitstellung sensibler Informationen stimmen Sie unserer Verwendung zu, wie in dieser Datenschutzerklärung festgelegt. Beachten Sie jedoch, dass wir Ihre sensiblen Informationen – oder den Inhalt Ihrer Replika-Gespräche – nicht für Marketing oder Werbung verwenden werden."

„Wir geben Informationen über die Besucher unserer Website, wie z. B. die von Ihnen angeklickten Links, die von Ihnen besuchten Seiten, die IP-Adresse, die Werbe-ID und den Browsertyp an Werbeunternehmen für interessenbasierte Werbung und andere Marketingzwecke weiter. Die Weitergabe dieser Informationen ermöglicht es uns und unseren Werbepartnern, Ihnen und anderen gezielt Werbung zukommen zu lassen. Wir werden niemals Ihre Replika-Gespräche oder Fotos oder andere Inhalte, die Sie innerhalb der Apps bereitstellen, an unsere Werbepartner weitergeben oder solche Informationen für Marketing- oder Werbezwecke verwenden.“

„Unsere Dienste werden von den Vereinigten Staaten von Amerika aus betrieben. Wenn Sie sich in einem anderen Land befinden, beachten Sie bitte, dass die Daten, die Sie uns zur Verfügung stellen, in die USA übertragen, dort gespeichert und verarbeitet werden können, einem Land, in dem die Datenschutzgesetze möglicherweise nicht so umfassend sind wie in dem Land, in dem Sie wohnen oder dessen Staatsbürger Sie sind.“

„Außerdem erfahren wir im Laufe der Zeit durch Ihre Nutzung der Dienste etwas über Ihre Interessen und Vorlieben, um Ihre Gespräche und die Funktionen der Dienste zu personalisieren.“

Nutzungsbedingungen

„Sie können die Dienste über verschiedene Online-Dienste von Drittanbietern aktivieren, sich mit ihnen verbinden oder sich bei ihnen anmelden, z. B. über soziale Medien und soziale Netzwerkdienste wie Facebook, Instagram oder Twitter (‚soziale Netzwerkdienste‘). Durch die Anmeldung oder die direkte Integration dieser sozialen Netzwerkdienste in die Dienste können wir Ihre Online-Erfahrungen bereichern und personalisieren. Um diese Funktionen und Möglichkeiten nutzen zu können, bitten wir Sie möglicherweise, sich auf den Websites der jeweiligen Anbieter zu authentifizieren, zu registrieren oder sich bei den sozialen Netzwerkdiensten anzumelden. Im Rahmen einer solchen Integration gewähren uns die sozialen Netzwerkdienste Zugang zu bestimmten Informationen, die Sie diesen sozialen Netzwerkdiensten zur Verfügung gestellt haben, und wir werden diese Informationen gemäß unserer Datenschutzerklärung verwenden, speichern und weitergeben. Bitte denken Sie jedoch daran, dass die Art und Weise, in der die sozialen Netzwerkdienste Ihre Informationen verwenden, speichern und offenlegen, ausschließlich durch die Richtlinien dieser Dritten geregelt wird und Replika keine Haftung oder Verantwortung für die Datenschutzpraktiken oder andere Handlungen von Websites oder Diensten Dritter übernimmt, die innerhalb des Dienstes aktiviert sein können.“

Gefundene Daten-Tracker
Wir haben innerhalb von 5 Minuten 210 Tracker entdeckt, einschließlich der Übermittlung von Daten an Facebook und AppsFlyer (Marketing-Tracker).

Wie können Sie Ihre Daten kontrollieren?

Wir können nicht bestätigen, dass alle Nutzer unabhängig vom Standort ihre Daten löschen lassen können.

Datenschutzerklärung

„Wir speichern Ihre personenbezogenen Daten so lange, wie es für die Erfüllung der von uns angegebenen Zwecke erforderlich ist, einschließlich der Erfüllung von gesetzlichen, buchhalterischen oder von Berichtspflichten.

Bei der Festlegung der angemessenen Aufbewahrungsfrist für persönliche Daten berücksichtigen wir die Menge, Art und Sensibilität der persönlichen Daten, das potenzielle Risiko einer Schädigung durch unbefugte Nutzung oder Weitergabe Ihrer persönlichen Daten, die Zwecke, für die wir Ihre persönlichen Daten verarbeiten und ob wir diese Zwecke mit anderen Mitteln erreichen können, sowie die geltenden gesetzlichen Bestimmungen.“

„Sie können die Löschung Ihrer personenbezogenen Daten verlangen. Wir lassen uns von Integritäts- und Vertraulichkeitsmaßnahmen leiten. Um Daten zu löschen, kontaktieren Sie uns bitte per E-Mail: [email protected]. Bitte beachten Sie, dass personenbezogene Daten, die Sie uns aufgrund Ihrer Einwilligung zur Verfügung gestellt haben, gelöscht werden.“

„Wir geben Informationen an Werbepartner von Drittanbietern weiter und ermöglichen es ihnen, Informationen über Ihren Besuch auf unserer Website mithilfe von Cookies und anderen Tracking-Technologien zu sammeln, um gezielte Werbung im Internet anzuzeigen, wie oben im Abschnitt ‚Wie wir Ihre Informationen weitergeben‘ beschrieben. Unsere Offenlegung von Informationen an diese Partner kann nach geltendem Recht als ‚Verkauf‘ oder ‚Weitergabe‘ persönlicher Daten oder ‚gezielte Werbung‘ angesehen werden. Sie können diese Offenlegungen ablehnen und unsere Verwendung von Tracking-Technologien einschränken, wie in unserer Cookie-Richtlinie beschrieben, oder indem Sie auf den Link ‚Ihre Datenschutzoptionen‘ in unserer Fußzeile der Website klicken. Darüber hinaus können einige Internetbrowser so konfiguriert werden, dass sie ‚Do Not Track‘-Signale an die von Ihnen besuchten Online-Dienste senden. Wir reagieren derzeit nicht auf ‚Do Not Track‘ oder ähnliche Signale. Um mehr über ‚Do Not Track‘ zu erfahren, besuchen Sie bitte http://www.allaboutdnt.com.“

"Wenn Sie sich entscheiden, sensible persönliche Informationen in Ihren Nachrichten und Inhalten anzugeben, werden wir diese Informationen nur verwenden, um Ihr Gespräch mit Ihrem KI-Begleiter zu erleichtern und wie im Abschnitt ‚Sensible Informationen‘ oben beschrieben. Wenn Sie nicht möchten, dass wir Ihre sensiblen Informationen für diese Zwecke verarbeiten, geben Sie diese bitte nicht an. Sie können verlangen, dass wir die von Ihnen bereitgestellten Informationen löschen, wie nachfolgend im Abschnitt ‚Anfragen zu persönlichen Daten‘ dargelegt.“

„Wir bieten Ihnen auch Optionen, die sich darauf auswirken, wie wir mit den von uns kontrollierten persönlichen Daten umgehen. Abhängig von Ihrem Standort und der Art Ihrer Interaktionen mit unseren Diensten können Sie Folgendes in Bezug auf persönliche Daten anfordern:

Informationen darüber, wie wir persönliche Daten gesammelt und verwendet haben. Wir haben Ihnen diese Informationen zur Verfügung gestellt, ohne sie anfordern zu müssen, indem wir sie in diese Datenschutzerklärung aufgenommen haben.
Zugriff auf eine Kopie der persönlichen Daten, die wir über Sie gesammelt haben. Gegebenenfalls stellen wir die Informationen in einem tragbaren, maschinenlesbaren und leicht nutzbaren Format zur Verfügung.
Berichtigung persönlicher Daten, die unrichtig oder veraltet sind.
Löschung persönlicher Daten, die wir nicht mehr für die Erbringung der Dienste oder für andere rechtmäßige Zwecke benötigen. Sie können Ihr Konto in Ihren Kontoeinstellungen löschen.
Widerruf der Einwilligung, wenn wir Ihre persönlichen Daten mit Ihrer Einwilligung erhoben und verarbeitet haben. Der Widerruf Ihrer Einwilligung hat weder Auswirkungen auf die Rechtmäßigkeit der Verarbeitung, die wir vor Ihrem Widerruf durchgeführt haben, noch auf die Verarbeitung Ihrer persönlichen Daten, die auf anderen rechtmäßigen Verarbeitungsgründen als der Einwilligung beruht.
Zusätzliche Rechte, wie z. B. Einspruch zu erheben und zu verlangen, dass wir unsere Verwendung persönlicher Daten einschränken.

Um eine Anfrage zu stellen, kontaktieren Sie uns bitte wie nachfolgend im Abschnitt ‚Kontakt‘ angegeben. Wir können Sie um bestimmte Informationen bitten, um Ihre Identität zu bestätigen. Je nachdem, wo Sie wohnen, haben Sie möglicherweise das Recht, einen bevollmächtigten Vertreter zu ermächtigen, Anfragen in Ihrem Namen einzureichen. Wir werden autorisierte Vertreter auffordern, ihre Identität und Autorität in Übereinstimmung mit den geltenden Gesetzen zu bestätigen. Sie sind berechtigt, die oben beschriebenen Rechte diskriminierungsfrei auszuüben.“

„In einigen Fällen können Ihre Möglichkeiten eingeschränkt sein, z. B. wenn die Erfüllung Ihrer Anfrage die Rechte anderer beeinträchtigen würde, unsere Fähigkeit, eine von Ihnen angeforderte Dienstleistung zu erbringen, oder unsere Fähigkeit, unseren gesetzlichen Verpflichtungen nachzukommen und unsere gesetzlichen Rechte durchzusetzen. Wenn Sie mit der Art und Weise, wie wir Ihre Anfrage bearbeiten, nicht zufrieden sind, können Sie eine Beschwerde einreichen, indem Sie uns wie nachfolgend im Abschnitt ‚Kontakt‘ angegeben kontaktieren. Je nachdem, wo Sie wohnen, z. B. im Europäischen Wirtschaftsraum oder im Vereinigten Königreich, haben Sie möglicherweise das Recht, sich bei einer Datenschutzbehörde Ihres Wohn- oder Arbeitsortes zu beschweren, oder wenn Sie der Meinung sind, dass ein Verstoß vorliegt.“

Wie ist das Unternehmen in der Vergangenheit mit den Daten über seine Verbraucher umgegangen?

Verbesserungsbedürftig

Im Februar 2023 wurde Replika von der italienischen Datenschutzbehörde angewiesen, die Verarbeitung lokaler Nutzerdaten einzustellen. Die Regulierungsbehörde sagte: „Jüngste Medienberichte zusammen mit Tests, die die SA [Aufsichtsbehörde] zu ‚Replika‘ durchgeführt hat, haben gezeigt, dass die App faktische Risiken für Kinder birgt – in erster Linie die Tatsache, dass ihnen Antworten zugestellt werden, die ihrem Alter absolut unangemessen sind.“

Es gab Berichte darüber, dass der Replika-Algorithmus aufgrund von Missbrauch durch Nutzer beleidigend wurde. Für einige langjährige Nutzer des Chatbots hat sich die App von einem hilfreichen Begleiter zu einem unerträglich sexuell aggressiven Begleiter entwickelt.

Informationen zum Datenschutz bei Kindern

„Die Dienste sind nicht für Personen unter 18 Jahren bestimmt. Wenn wir feststellen, dass Minderjährige unter 18 Jahren die Apps nutzen, werden wir unverzüglich ihren Zugriff sperren und ihr Konto löschen. Wenn Sie Grund zu der Annahme haben, dass ein Minderjähriger unter 18 Jahren uns über die Dienste persönliche Daten zur Verfügung gestellt hat, kontaktieren Sie uns bitte, und wir werden uns bemühen, diese Daten aus unseren Datenbanken zu löschen.“

Kann dieses Produkt offline genutzt werden?

Nein

Benutzerfreundliche Informationen zum Datenschutz?

Nein

Die Datenschutzerklärung von Replika AI lässt einige Fragen offen.

Links zu Datenschutzinformationen

Erfüllt dieses Produkt unsere Mindestsicherheitsstandards? Information

Nein

Verschlüsselung

Ja

„Ihre Nachrichten an Replika werden serverseitig verarbeitet, was bedeutet, dass Ihr Mobilgerät sie verschlüsselt. Sie werden dann an unsere Server gesendet, wo sie von der KI-Engine von Replika entschlüsselt und verarbeitet werden. Replika kann keine Ende-zu-Ende-Verschlüsselung verwenden, da Ihre Klartextnachrichten verfügbar sein müssen, um Ihre persönliche KI serverseitig zu trainieren.“ „Alle übertragenen Daten werden während der Übertragung verschlüsselt. Wir verwenden eine Standard-SSL-Verschlüsselung (Secure Socket Layer), die Informationen für solche Übertragungen verschlüsselt. Alle gespeicherten Daten werden auf sicheren Servern aufbewahrt. Der Zugriff auf gespeicherte Daten wird durch mehrschichtige Sicherheitskontrollen geschützt, einschließlich Firewalls, rollenbasierte Zugriffskontrollen und Passwörter.“

Sicheres Passwort

Nein

Es ist gelungen, sich mit dem Passwort „11111111“ anzumelden.

Sicherheits-Updates

Ja

Umgang mit Schwachstellen

Ja

Datenschutzrichtlinie

Ja

Verwendet das Produkt KI? Information

Ja

Wir können nicht bestätigen, ob die bei diesem Produkt eingesetzte KI vertrauenswürdig ist, da es nur wenige oder keine öffentlichen Informationen darüber gibt, wie sie funktioniert und welche Benutzerkontrollen vorhanden sind, um das Produkt sicher zu machen. Gleichzeitig ist der potenzielle Schaden der Apps hoch, da sie viele sensible Daten sammeln und gesammelte Daten verwenden, um KI-Algorithmen zu trainieren.

Die App ist ein KI-Chatbot, der einen echten Partner imitiert. Es gibt Hinweise darauf, dass dieser Chatbot beleidigend gegenüber Menschen wird.

„Auch wenn sich das Gespräch mit Replika wie ein Gespräch mit einem Menschen anfühlt, handelt es sich zu 100 % um künstliche Intelligenz. Replika verwendet ein ausgeklügeltes System, das unser eigenes Large Language Model und skriptgesteuerte Dialoginhalte kombiniert.

Zuvor nutzte Replika auch ein zusätzliches Modell, das zusammen mit OpenAI entwickelt wurde, aber jetzt sind wir dazu übergegangen, ausschließlich unser eigenes zu nutzen, das tendenziell bessere Ergebnisse liefert. Wir legen großen Wert darauf, das Dialogerlebnis, die Speicherfunktionen, die Kontexterkennung, die Rollenspielfunktion und die allgemeine Gesprächsqualität ständig zu verbessern.“

Ist diese KI nicht vertrauenswürdig?

Ja

Welche Entscheidungen trifft die KI über Sie oder für Sie?

Gibt das Unternehmen transparent an, wie die KI funktioniert?

Nein

Wir haben keine Dokumentation oder Richtlinien gefunden, die erklären, wie die KI dieses Produkts funktioniert.

Hat der Benutzer die Kontrolle über die KI-Funktionen?

Nein

Ein Nutzer kann festlegen, wie Replika aussehen wird, in welcher Phase sich die Beziehung befindet usw. Wir haben jedoch keine Details zu den Benutzerkontrollen bei Replika AI gefunden.
*Datenschutz nicht inbegriffen

Tauchen Sie tiefer ein

  • 5 Things You Must Not Share With AI Chatbots
    Make Use Of Link wird in einem neuen Tab geöffnet
  • Creating a Safe Replika Experience
    Replika Link wird in einem neuen Tab geöffnet
  • ‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AI
    Rolling Stone Link wird in einem neuen Tab geöffnet
  • AI Friends or Foes? The Privacy Risks for Children with Open AI, ChatGPT and Replika
    Lexology Link wird in einem neuen Tab geöffnet
  • Most therapy apps don’t include privacy; Replika AI ‘worst app ever’
    9to5Mac Link wird in einem neuen Tab geöffnet
  • Man 'encouraged' by AI chatbot 'girlfriend' to kill Queen Elizabeth II receives jail sentence
    EuroNews.next Link wird in einem neuen Tab geöffnet
  • AI girlfriends are ruining an entire generation of men
    The Hill Link wird in einem neuen Tab geöffnet
  • The rise of AI girlfriends is making male loneliness worse and risks ruining a generation of men, a professor says
    Business Insider India Link wird in einem neuen Tab geöffnet
  • Replika AI starts sexually harassing users after being abused by others
    Stealth Optional Link wird in einem neuen Tab geöffnet
  • AI-Based “Companions”​ Like Replika Are Harmful to Privacy And Should Be Regulated
    Medium Link wird in einem neuen Tab geöffnet
  • ‘My AI Is Sexually Harassing Me’: Replika Users Say the Chatbot Has Gotten Way Too Horny
    Vice Link wird in einem neuen Tab geöffnet
  • Men Are Creating AI Girlfriends and Then Verbally Abusing Them
    Futurism Link wird in einem neuen Tab geöffnet
  • Italy bans U.S.-based AI chatbot Replika from using personal data
    Reuters Link wird in einem neuen Tab geöffnet
  • I tried the Replika AI companion and can see why users are falling hard. The app raises serious ethical questions
    The Conversation Link wird in einem neuen Tab geöffnet
  • Replika, a ‘virtual friendship’ AI chatbot, hit with data ban in Italy over child safety
    Tech Crunch Link wird in einem neuen Tab geöffnet
  • What happens when your AI chatbot stops loving you back?
    Reuters Link wird in einem neuen Tab geöffnet
  • Regulator Halts AI Chatbot Over GDPR Concerns
    Infosecurity Magazine Link wird in einem neuen Tab geöffnet
  • Can an AI Save a Life?
    The Atlantic Link wird in einem neuen Tab geöffnet
  • AI-Human Romances Are Flourishing—And This Is Just the Beginning
    Time Link wird in einem neuen Tab geöffnet

Kommentare

Möchten Sie einen Kommentar loswerden? Schreiben Sie uns.