Ein werteorientierter Ansatz für KI und Produkte

Generative KI-Tools wie ChatGPT sind vor weniger als zwei Jahren in den Mainstream eingetreten, haben aber bereits das Online-Erlebnis neu geformt. Diese Tools haben auch das Konzept der „KI“ in den Mainstream eingeführt. Obwohl die Technologie in einigen Formen seit Jahrzehnten existiert, war sie noch nie so sichtbar und zugänglich für die breite Öffentlichkeit.

Fast ein Drittel der jüngeren Amerikaner verwendet laut Pew-Forschung nun ChatGPT bei der Arbeit, eine Zahl, die zunimmt. Gleichzeitig sind die Verbraucher sowohl begeistert als auch besorgt über die Technologie. Trotz dieser schnellen Übernahme und gemischten Gefühle wird generative KI jedoch schnell in bestehende Produkte integriert, ohne grundlegende Informationen darüber, wie die zugrunde liegenden Modelle erstellt werden oder in verschiedenen Kontexten funktionieren. Und paradoxerweise ist es, obwohl die Möglichkeiten der generativen KI als „grenzenlos“ vermarktet werden, für Verbraucher schwierig, zwischen verschiedenen KI-Modellen zu wählen und zu wechseln.

Heute fügt Mozilla der Firefox-Sidebar KI-Chatbot-Funktionen hinzu, ein Experiment, auf das wir in den kommenden Monaten aufbauen werden. Es ist Teil unseres Engagements für ein Internet, in dem die Wahlmöglichkeit ein zentraler Grundsatz ist. Dieser Ansatz bietet nicht nur den Nutzern von Firefox eine Wahlmöglichkeit - er zeigt auch, wie Kontrolle und Transparenz auf Verbraucherebene in Verbrauchertechnologie integriert werden können.

Für Nutzer, die Mozilla ausschließlich für seine Produktarbeit kennen, mag dies wie ein früher Vorstoß in die KI erscheinen. Im strengen Sinne des Produkts ist das wahr. Aber für diejenigen, die Mozilla für seinen breiteren Leistungsumfang kennen – Forschung, Empfehlungen, Philanthropie – ist klar, dass dies der nächste Schritt in einem bestehenden, ehrgeizigen Arbeitsbereich rund um KI ist. Mit dieser neuesten Sidebar-Funktion von Firefox werden wir testen, wie wir am besten unsere Werte rund um KI in unsere Produkte einfließen lassen können, um sowohl unsere Angebote als auch die anderer zu verbessern.

Im Jahr 2020 veröffentlichte Mozilla unser White Paper zur vertrauenswürdigen KI und leitete damit offiziell unseren strategischen Fokus auf diese Technologie ein. (Wir haben in diesem Jahr bereits ein Update veröffentlicht.) Damals und in den folgenden Jahren wurden wir oft gefragt: „Was bedeutet vertrauenswürdig?“ Wir definieren „vertrauenswürdig“ als ein KI-Ökosystem, in dem die Nutzer von KI eine Wahl haben und die Entwickler von KI für ihre Technologie zur Rechenschaft gezogen werden können. Diese Grundprinzipien haben seitdem unsere Arbeit mit KI geprägt – von der Richtlinie bis zur Produktentwicklung.

Zum Beispiel hat sich *Datenschutz nicht inbegriffen, unser Einkaufsführer für Verbrauchertechnologie, auf KI-Produkte konzentriert. Unsere neueste Ausgabe hilft Verbrauchern, die Privatsphäre und Sicherheit von Beziehungs-Chatbots zu bewerten. Derzeit arbeiten wir an einer weiteren Ausgabe, um Verbrauchern bei der Bewertung von allgemeineren Chatbots, wie ChatGPT und Microsoft Copilot, zu helfen. Wir denken bereits darüber nach, wie wir unsere Erkenntnisse direkt in das Sidebar-Erlebnis der Benutzer integrieren können, um ihnen mehr Kontext über die Tools zu geben, die sie verwenden (oder nicht verwenden). Denn die Wahl besteht nicht nur darin, ein Menü von Chatbot-Optionen zu haben – es geht auch darum zu verstehen, wie diese Optionen mit unseren Werten und Prioritäten übereinstimmen.

In der Zwischenzeit haben sich andere Forschungen und Empfehlungen von Mozilla auf Transparenz und Zugang für Forscher konzentriert – wichtige Hebel, um KI vertrauenswürdiger zu machen. Wir haben Microsoft dazu aufgerufen, offener über seine KI-Trainingsdaten zu sein; Plattformen hinsichtlich ihrer Offenheit für unabhängige Prüfungen eingestuft; und führen eine umfassende Analyse des KI-Audit-Ökosystems durch. Wir beginnen auch mit der Arbeit am Zugang der Forscher zu den Modellen selbst; haben kürzlich 0din gestartet, ein Bug-Bounty-Programm für Large Language Models; und setzen unsere Erkundung von Open-Source-KI mit Mozilla.ai fort.

Mit der heutigen Einführung der Sidebar wenden wir all diese Erkenntnisse auf unsere Produktarbeit an. Was eigentlich bekanntes Terrain ist: Benutzerwahl und Unternehmensverantwortung sind seit Jahrzehnten Werte von Firefox.

Wir freuen uns darauf, diese Werte in unser Produktdesign zu integrieren, denn es gibt eine Lücke an Funktionen, die den Menschen bedeutungsvolle Entscheidungen innerhalb der von KI angetriebenen Verbrauchertechnologie bieten. Wir sind auch realistisch, wenn es darum geht, diese Philosophie in den Produktbereich zu bringen. Es sind nicht nur die Verbraucher, die diese Technologie noch herausfinden – es sind auch die Ersteller. Von großen Namen wie OpenAI bis hin zu kleineren Projekten, von Closed-Source-Initiativen bis hin zu Open-Source-Projekten: Niemand hat alle Antworten. Anstatt im Abseits zu warten, wollen wir uns einmischen und Lösungen vorantreiben – auch wenn das bedeutet, dass wir nicht alle Antworten im Voraus haben. Ein Thema, auf das wir uns besonders konzentrieren, ist die Interoperabilität: Wie kann Mozilla sicherstellen, dass auch kleinere, Open-Source-Chatbots in das bestehende Ökosystem einsteigen können (und in vielen Fällen dieses verbessern)?

Seit mehr als 25 Jahren hat die Produktarbeit von Mozilla immer mit Werten geführt. Heute setzen wir diese Tradition im Bereich der KI fort und bringen Prinzipien wie Handlungsfähigkeit, Rechenschaftspflicht und Open-Source in ein Ökosystem ein, das mehr davon benötigt.