Mozillas Vision für vertrauenswürdige KI

Mozilla veröffentlicht sein White Paper „Entwicklung vertrauenswürdiger KI“.

Vor etwas mehr als zwei Jahren rief Mozilla ein ehrgeiziges Projekt ins Leben: Wir wollten herausfinden, worauf wir uns konzentrieren müssen, um auf eine gesündere digitale Welt hinzuarbeiten. Das Ergebnis ist eine Idee: vertrauenswürdige KI.

Bei der Gründung von Mozilla 1998 war es noch das Internet, das bestimmte, wohin sich die Welt des Computing entwickelte. Deshalb legten wir den Fokus darauf, Richtlinien fürs Netz zu schreiben und einen Browser zu entwickeln. Heute wird die Welt des Computing – und die digitalisierte Gesellschaft, in der wir alle leben – von riesigen Datenschätzen, anspruchsvollen Algorithmen und omnipräsenten Sensoren und Geräten definiert. Es ist die Ära der KI. Wenn wir Fragen stellen wie „Unterstützt diese Technologie das Handeln von Menschen?“ oder „Habe ich die Kontrolle darüber, was mit meinen Daten passiert?“, ist das, als hätten wir vor 20 Jahren gefragt: „Wie sorgen wir dafür, dass das Internet offen und für alle frei zugänglich bleibt?“.

Diese Ära des Computings – und wie sie internetfähige Technologien beeinflusst, die täglich von mehr als 4 Mrd. Nutzern genutzt werden – birgt hohe Risiken. Smartphones, soziale Netzwerke, Online-Shops, Autos, Home-Assistenten und nahezu alle anderen Arten elektronischer Geräte werden mehr und mehr von KI angetrieben. Wenn man bedenkt, welchen Einfluss diese Technologien haben und wie weit verbreitet sie sind, wird folgende Frage enorm wichtig dafür sein, in welche Richtung sich unsere Gesellschaft in den kommenden Jahrzehnten entwickelt: Hilft und ermächtigt KI oder beutet und grenzt sie aus?

Wir könnten ganz leicht auf Abwege geraten. Mit Eile haben wir jedes neue Gerät so ausgestattet, dass es Daten sammeln kann und automatisch funktioniert. So konnten wir miterleben, wie KI Vorurteile bestärkt oder uns auf gefährliche Inhalte aufmerksam macht. Transparenz und Verantwortlichkeit sind Mangelware, wenn KI Fehlinformationen verbreitet oder ein Gesicht falsch identifiziert. Außerdem stehen wir als Menschen ziemlich hilflos da, wenn es darum geht, was mit unseren Daten passiert oder welche automatischen Entscheidungen getroffen werden. Wenn wir so weitermachen wie bisher, landen wir wahrscheinlich in einer dystopischen KI-basierten Welt, in der die Gräben zwischen den Machthabern und den Machtlosen immer tiefer gehen.

Gleichzeitig macht eine erhebliche Anzahl Menschen auf die Missstände und Folgendes aufmerksam: Es geht auch anders! Ähnlich wie in den Anfangszeiten von Open Source gibt es unter Technologen, Forschern, Politikern, Rechtsanwälten und Aktivisten eine Bewegung, die sich dafür einsetzt, die Zukunft des Computing zu verändern. Dabei sind Handlungsmacht und Ermächtigung von zentraler Bedeutung. Software wird entwickelt, die in der KI verankerte Vorurteile entdeckt. Es werden neue Gesetze zum Schutz der Daten geschrieben. Es werden rechtliche Tools erfunden, damit Menschen Herr ihrer Daten sind. Es werden Organisationen gegründet, die sich für eine ethische und gerechte KI einsetzen. Wenn diese Menschen – und wir von Mozilla zählen uns dazu – erfolgreich sind, haben wir die Chance auf eine Welt, in der KI der Menschheit eher hilft, als ihr zu schaden.

Durch inspirierende Gespräche mit diesen Menschen hat Mozilla den Entschluss gefasst, die über 20 Mio. USD, die wir jedes Jahr ausgeben, vornehmlich für die Entwicklung einer vertrauenswürdigen KI einzusetzen. Wir haben 2020 ein Paper namens „Building trustworthy AI“ geschrieben, in dem wir die Herausforderungen und Ideen skizzieren, auf die wir während dieser Gespräche gestoßen sind. Heute veröffentlichen wir die endgültige Version dieses Papers.

Dabei handelt es sich nicht um traditionelle Forschung. Es handelt sich vielmehr um eine Art Handlungsplan, an dem wir von Mozilla und Gleichgesinnte sich orientieren können, um vertrauenswürdige KI in die Realität umzusetzen. Dieser Wandel ist möglich, genau wie es möglich war, Autos sicherer und sauberes Wasser zugänglich zu machen, um Risiken für Menschen und die Gesellschaft zu minimieren. Das Paper zeigt, welche Codes wir schreiben, welche Projekte wir fördern, welche Probleme wir angehen und welche Gesetze wir umsetzen müssen. Es ist ein Toolkit für Technologen und Philanthropen, für Aktivisten und Gesetzgeber.

Dabei stehen acht große Herausforderungen im Mittelpunkt, denen wir uns stellen müssen, wenn es um die Nutzung von KI in internetfähigen Verbraucherprodukten geht. Dazu gehören: Vorurteile; Datenschutz; Transparenz; Sicherheit und die Machtstellung einiger Big-Tech-Unternehmen. Wir skizzieren aber auch vier Ansatzpunkte, die uns bei der Bewältigung dieser Herausforderungen helfen können. Dabei geht es vor allem darum, dass es Entwickler, Investoren, Gesetzgeber und eine breite Öffentlichkeit gibt, die sich für eine andere KI einsetzen, einer KI, die für uns arbeitet. Zusammen können wir Code und Gesetze schreiben, Daten verarbeiten und Technologien wählen, die uns auf den richtigen Weg schicken.

Wie jedes größere Mozilla-Projekt wurde auch dieses Paper mit einem Open-Source-Ansatz erarbeitet. Der Entwurf, den wir im Mai veröffentlichten, war das Ergebnis von 18 Monaten voller Gespräche, Forschung und Experimente. Wir haben die Leute nach ihrer Meinung zu diesem Entwurf gefragt und sie auch erhalten. Menschen und Organisationen aus der ganzen Welt meldeten sich zu Wort: von Gruppen für digitale Rechte in Polen bis hin zu Bürgerrechtsaktivisten in den USA, von Experten für maschinelles Lernen in Nordamerika bis hin zu politischen Entscheidungsträgern auf höchster Ebene in Europa, von Aktivisten, Schriftstellern und Kreativen bis hin zu Ivy-League-Professoren. Wir haben das Paper auf der Grundlage dieses Inputs überarbeitet, um es noch besser zu machen. Mithilfe des Feedbacks konnten wir unsere Definitionen von KI und Verbrauchertechnologie verfeinern. Es hat uns dazu veranlasst, den Aspekt des Rassismus stärker zu berücksichtigen. Außerdem haben wir das Feedback genutzt, um mehr verschiedene Blickwinkel im Paper aufzunehmen, wie etwa Geografie, ethnische Hintergründe und Gender Diversity.

In den kommenden Monaten und Jahren wird dieses Dokument als Richtlinie für unsere Arbeit an Internet-Bewegungen dienen. Dabei konzentrieren wir uns auf Forschung sowie Lobby- und Stiftungsarbeit und haben auch schon angefangen: Mozillas Lobbyarbeit rund um Empfehlungen bei YouTube hat hervorgehoben, wie problematisch es sein kann, wenn KI bestimmt, welche Videos den Usern vorgeschlagen werden. Das Data Futures Lab und der European AI Fund, die wir mit Partnerorganisationen entwickeln, unterstützen Projekte und Initiativen, die kontinentübergreifend an der Neugestaltung des Designs und der Entwicklung vertrauenswürdiger KI arbeiten. Partner von Mozilla und Awardgewinner wie Sylvie Delacroix, Deborah Raj und Neema Iyer untersuchen, wie sich KI, Data Governence, Gleichberechtigung und systemische Vorurteile überschneiden. Neue und alte Arbeiten wie diese spiegeln sich in unserem White Paper wider.

Wir hoffen auch, dass wir Menschen, die an der Entwicklung von Technologien arbeiten, mit unserer Arbeit neue Wege aufzeigen können. Lange war die Entwicklung von Technologie, die Menschen wertschätzt, synonym damit, wenige oder gar keine Daten über sie zu sammeln. Natürlich bleibt Datenschutz unser Hauptanliegen und das anderer. Wir müssen Verbraucher ermächtigen und schützen und dabei das Sammeln und die Nutzung von Daten miteinbeziehen. Wie das Paper beschreibt, gibt es mehr und mehr Entwickler – darunter einige unserer Kollegen bei der Mozilla Corporation –, die den Weg in diese Richtung ebnen.

Vielen Dank für Ihre Aufmerksamkeit. Wir freuen uns auf die Arbeit mit Ihnen.