Mozilla-Forschung: Wasserzeichen und Inhaltskennzeichnung im Kampf um eine wirksame Unterscheidung von KI-generierten Inhalten

Gängige Methoden zur Offenlegung synthetischer Inhalte werden in der Mozilla-Analyse nur als „schwach“ oder „mittelmäßig“ eingestuft. Unzulänglichkeiten bleiben angesichts der Rekordzahl von Wahlen im Jahr 2024 bestehen

(BERLIN, DEUTSCHLAND | 26. FEBRUAR 2024) – Während sich KI-generierte Inhalte von Präsidenten und Popstars im Internet verbreiten, schneiden die gängigsten Formen der Erkennung und Offenlegung laut einer neuen Mozilla-Analyse bestenfalls „schwach“ oder „mittelmäßig“ ab.

Die Studie mit dem Titel „Wir vertrauen auf Transparenz? Bewertung der Wirksamkeit von Wasserzeichen und Kennzeichnung KI-generierter Inhalte“ ergab, dass Strategien und Technologien zur Unterscheidung synthetischer Inhalte durch Internetnutzer - wie Wasserzeichen und Kennzeichnung - auf erhebliche Herausforderungen stoßen. Mithilfe eines Fitness-Checks haben die Forscher sieben verschiedene maschinenlesbare und menschenlesbare Methoden bewertet, von denen keine eine „gute“ Bewertung erhielt.

Der Mangel an effektiven Schutzmaßnahmen ist besonders akut, da mehr als die Hälfte der Weltbevölkerung sich darauf vorbereitet, in diesem Jahr Wahlen abzuhalten, einschließlich in den USA, Indien, Russland, Südafrika und Mexiko. Milliarden von Menschen werden zu den Urnen gehen, während eine Vielzahl von leicht zugänglichen KI-Chatbots, Text- und Bildgeneratoren und Sprachklonplattformen aufblüht. Diese Werkzeuge und die Inhalte, die sie produzieren, beeinträchtigen bereits die Integrität der Wahlen in Argentinien, der Slowakei, Indien und darüber hinaus.

Mozillas Forschung bietet Empfehlungen zur Stärkung der Erkennung und Offenlegung. Zum Beispiel die Priorisierung maschinenlesbarer Methoden in Verbindung mit robusten Erkennungsmechanismen am Verteilungspunkt. Neue Governance-Ansätze wie menschenzentrierte regulatorische Sandboxes würden es politischen Entscheidungsträgern ermöglichen, neue Vorschriften auf ihre Auswirkungen hin zu testen.

Ramak Molavi Vasse’i, Forschungsleiter für KI-Transparenz bei Mozilla und Mitautor des Berichts, sagt: „Wenn es darum geht, synthetischen Inhalt zu identifizieren, sind wir in einer Situation, in der das Glas halb voll, das Glas halb leer ist. Aktuelle Wasserzeichen- und Kennzeichnungstechnologien sind vielversprechend und einfallsreich, insbesondere wenn sie zusammen verwendet werden. Dennoch reichen sie nicht aus, um die Gefahren nicht offengelegten synthetischen Inhalts effektiv zu bekämpfen – insbesondere angesichts dutzender Wahlen weltweit.“

Molavi Vasse'i fügt hinzu: „Unternehmen wie OpenAI haben Wahlstandards veröffentlicht, um den Missbrauch ihrer Produkte zu verhindern, aber freiwillige Anforderungen sind nicht ausreichend. Und während Unternehmen wie Meta branchenweite Bemühungen zur Kennzeichnung von KI-generierten Inhalten vorgeschlagen haben, ist es entscheidend, dass offene Standards mit der Beteiligung aller Stakeholder, insbesondere der potenziell Betroffenen, geschaffen werden. Darüber hinaus sollte eine Koalition mächtiger Akteure wie Meta, Google und Adobe nicht zu Torwächtern der Inhaltsintegrität werden.“

______

WESENTLICHE ERGEBNISSE

Menschenorientierte Offenlegungsmethoden sind unzureichend

Sichtbare Kennzeichnungen und hörbare Warnungen stützen sich stark auf die Wahrnehmung des Empfängers. Darüber hinaus sind sie anfällig für Manipulationen und können Schäden, sobald sie eingetreten sind, möglicherweise nicht verhindern oder wirksam beheben. Während diese Methoden darauf abzielen zu informieren, können sie zu Informationsüberflutung führen, was das öffentliche Misstrauen und gesellschaftliche Spaltungen erhöht.

Allgemeine Fitness : SCHWACH

Maschinenlesbare Methoden können effektiv sein, wenn sie mit robusten Erkennungsmechanismen kombiniert werden

Unsichtbare Wasserzeichen, die während der Erstellung und Verteilung von Inhalten eingebettet werden, bieten eine relative Sicherheit gegen Manipulationen durch bösartige Akteure. Dennoch ist ihre gesamte Wirksamkeit ohne robuste und unvoreingenommene Erkennungstools beeinträchtigt.

Allgemeine Fitness: MITTELMÄSSIG

Notwendigkeit eines ganzheitlichen Ansatzes zur Governance

Weder menschenorientierte noch maschinenlesbare Methoden allein bieten eine umfassende Lösung. Es muss ein vielschichtiger Ansatz verfolgt werden, der technologische, regulatorische und bildungsbezogene Maßnahmen kombiniert, um die Schäden durch nicht offengelegte, von KI generierte Inhalte effektiv zu mildern.

_______

DEFINITIONEN

(Maschinenlesbare Methoden)

Kryptografisches Wasserzeichen: Geheime Informationen werden in die kryptographischen Funktionen (oder Schaltkreise) von Inhalten kodiert, die dann nur durch einen Verschlüsselungs-/Entschlüsselungsprozess erkannt, entfernt oder geändert werden können.

Frequenzkomponenten-Wasserzeichen: Inhalte werden in verschiedene Frequenzteile zerlegt, und ein Wasserzeichen wird dann in die weniger angriffs- und veränderungsempfindlichen Niederfrequenzbänder eingefügt.

Metadaten-Wasserzeichen: Eine Beschreibung der Autoreninformationen, Zeitstempel, Bearbeitungshistorie und der verwendeten Software wird in den Inhalt eingebettet.

Statistisches Wasserzeichen: Die Informationen werden in die statistischen Muster der Datenstruktur des Inhalts eingefügt. Dabei werden in der Regel Pixel, Farbrahmen, Tonkomponenten oder andere Werte unmerklich verändert.

(Menschenorientierte Methoden)

Audiokennzeichnungen: Hörbare Elemente, die direkt auf den Inhalt aufgebracht werden und dessen Ursprung offenlegen.

Offenlegungen und Beschreibungen: Schriftliche Informationen wie Verfasserzeilen, Bildunterschriften, Beschreibungen oder Tags werden verwendet, um die Nutzer über den Inhalt zu informieren.

Visuelle Kennzeichnungen: Geschriebene oder grafische Elemente, wie Nährwertkennzeichnungen oder Symbole, die direkt auf den Inhalt aufgebracht werden, um dessen Ursprung offenzulegen.

Pressekontakte:

Europa: Tracy Kariuki, [email protected]

USA | Helena Dea Bala, [email protected]