Ein Großteil der Arbeit von Mozilla beim Aufbau von Bewegungen konzentriert sich auf die Entwicklung von vertrauenswürdiger KI.
Wir müssen uns auf eine Welt der KI zubewegen, die den Menschen eher hilft als schadet. Für uns bedeutet dies zwei Dinge: Die menschliche Entscheidungsfreiheit ist ein zentraler Bestandteil der Art und Weise, wie KI aufgebaut und integriert wird, und die Rechenschaftspflicht des Unternehmens ist real und wird durchgesetzt.
Diese Arbeit ist dringend notwendig. Täglich erscheinen besorgniserregende Nachrichten über die Auswirkungen von KI, Big Data und gezieltem Marketing; und immer wieder lesen wir, dass die Öffentlichkeit das Vertrauen in Big Tech verliert, aber keine Alternativen hat.
Viele von uns verstehen noch nicht ganz, wie KI regelmäßig unser Leben berührt und fühlen sich angesichts dieser Systeme machtlos. Wir bei Mozilla setzen uns dafür ein, dass wir alle verstehen, dass wir mitbestimmen können und müssen, wann Maschinen wichtige Entscheidungen treffen – und Einfluss darauf nehmen, wie diese Entscheidungen getroffen werden.
Die wichtigen Punkte sind:
- DATENSCHUTZ: Unsere personenbezogenen Daten reichen von Verkehrskarten bis hin zu gezielter Werbung. Vertrauenswürdige KI sollte es den Menschen ermöglichen, zu entscheiden, wie ihre Daten verwendet werden und welche Entscheidungen damit getroffen werden.
- FAIRNESS: Wir haben immer wieder gesehen, dass sich historische Verzerrungen in der automatisierten Entscheidungsfindung zeigen können. Um Diskriminierung wirksam zu bekämpfen, müssen wir uns die Ziele und Daten, die unsere KI befeuern, genau ansehen.
- VERTRAUEN: Algorithmen auf Websites wie YouTube treiben Menschen häufig zu extremen, irreführenden Inhalten. Die Überarbeitung dieser Inhaltsempfehlungssysteme könnte dazu beitragen, Fehlinformationen einzudämmen.
- SICHERHEIT: Experten warnen davor, dass KI Sicherheitsrisiken und Internetkriminalität erhöhen könnte. Plattformentwickler müssen strengere Maßnahmen ergreifen, um unsere Daten und die persönliche Sicherheit zu schützen.
- TRANSPARENZ: Automatisierte Entscheidungen können große persönliche Auswirkungen haben, die Gründe für Entscheidungen sind jedoch oft undurchsichtig. Wir brauchen Durchbrüche in Erklärbarkeit und Transparenz, um die Benutzer zu schützen.
Wir nähern uns dem Kampf um vertrauenswürdige KI auf drei wichtige Arten:
Wir verlagern die Konversation von „persönlichem Verhalten“ auf „Systemveränderung“.
Der Stipendiat Renée DiResta hat entscheidend dazu beigetragen, Diskussionen über Falschinformationen von „Fake News“ auf „Redefreiheit bedeutet nicht unbegrenze Reichweite“ zu lenken. Unternehmen haben reagiert: Pinterest teilt keine Suchergebnisse zu Impfungen mehr und Facebook wirbt mit Postings zu Impfungen für Informationen der WHO.
Wir ziehen Unternehmen zur Verantwortung und unsere Vorgehensweise breitet sich aus.
Für unsere Kampagne YouTube-Bedauern haben wir YouTube-Nutzerberichte über die Empfehlungs-Engine der Plattform gesammelt, die sie in bizarre und manchmal gefährliche Bahnen gelenkt haben. Diese Arbeit wurde von unserer eigenen Forschung über vertrauenswürdige KI gefördert, Geschichten in den Medien und von YouTube-Ingenieuren, die sich geäußert haben.
Wir unterstützen Innovationen zu vertrauenswürdiger KI.
Mit dem „Meridio-Projekt“ des Stipendiaten Dave Gehring soll ein tragfähiger wirtschaftlicher Rahmen geschaffen werden, um den Journalismus außerhalb des aktuellen überwachungsbasierten Anzeigenmodells zu unterstützen. Er hat das Interesse festgestellt und die Bedürfnisse der Verlage dokumentiert und wird nun die Plattform für die Bereitstellung von Diensten aufbauen.