Waren Sie schon einmal in einen bürokratischen Prozess involviert, der komplett unlogisch erschien? Ich bin Mozilla-Fellow Richard Whitt, zurück mit Teil zwei über die Zukunft persönlicher KIs. Letztes Malhaben wir über die künstliche Intelligenz (KI) gesprochen, die hinter unseren Online-Bildschirmen und in unseren Umgebungsszenen arbeitet. In dieser Episode von „Mozilla erklärt“ sprechen wir darüber, wie KI in dem funktioniert, was ich bürokratische Unsichtbare nenne. Sehen Sie sich die Folge unten an oder lesen Sie weiter, um mehr zu erfahren.

Bürokratische Unsichtbare sind die fortschrittlichen Systeme, die Entscheidungen über uns treffen, normalerweise ohne unser Zutun oder sogar unser Wissen, oft im Auftrag großer Institutionen wie der Regierung oder großer Unternehmen. Welche Jobs wir bekommen, welche Bankkredite wir möglicherweise erhalten, sogar welche staatlichen Leistungen wir erhalten – von der Wahlregistrierung bis hin zu Sozialversicherungsbeiträgen. Unzählige solcher Entscheidungen passieren täglich, auch wenn wir uns ihrer nicht bewusst sind.

Auch wenn sie als hilfreich oder arbeitssparend dargestellt werden, repräsentieren die KIs hinter diesen „Unsichtbaren“ große Unternehmen oder Regierungsbehörden, die unsere Daten sammeln, uns analysieren und äußerst folgenreiche Entscheidungen über unser Wohlergehen treffen. In der Vergangenheit waren Menschen für diese Entscheidungen verantwortlich. Heute sind es Computeralgorithmen, die Prozesse, Regeln und Verfahren streng priorisieren, oft ohne menschliche Aufsicht oder Beurteilung. Diese Systeme können unbeabsichtigt stark verzerrte Algorithmen und fehlerhafte Datensätze verwenden. Und dies alles geschieht, ohne dass wir eine legitime Möglichkeit haben, Einspruch oder Widerspruch einzulegen.

Letztes Malhaben wir das Konzept einer persönlichen KI (PAI) eingeführt, einer KI, die wirklich unsere Interessen vertritt und nicht die eines datenhungrigen Unternehmens. Diese KIs können so programmiert werden, dass sie uns als einzelne Menschen darstellen, nicht als Datenpunkte. So könnten sie unsere Privatsphäre, Sicherheit und Identität schützen und gleichzeitig unsere Interessen fördern.

Persönliche KI-Systeme können auch unsere vertrauenswürdigen Agenten sein, die mit den bürokratischen Unsichtbaren interagieren – indem sie in unserem Namen direkt mit institutioneller KI kommunizieren.

Ein Beispiel könnte sein, die KI der Regierung oder von Unternehmen zu bitten, meiner PAI die spezifischen Gründe zu nennen, warum eine bestimmte Entscheidung getroffen wurde, z. B. warum ich keinen Kredit oder keine Einladung zu einem Bewerbungsgespräch erhalten habe oder warum meine Gefängnisstrafe verlängert wurde. Dann wäre meine PAI in der Lage, fundierte Fragen zu stellen, dieselben Beweise zu bewerten, das Ergebnis abzufragen und sogar die analytische und datenbasierte Begründung für solche Entscheidungen direkt in Frage zu stellen.

Wie ist der Weg dorthin?

Wir müssen die Technologie, die Marktplätze, die Standards und die Gesetze angleichen, damit die Regierungen und Unternehmen diese neuen Bürgerinstrumente aufnehmen können.

Insbesondere müssen wir mit unseren gewählten Amtsträgern, Aufsichtsbehörden und Regierungsbehörden zusammenarbeiten, um ein „Recht auf Delegieren“, nämlich das Delegieren von wichtigen Entscheidungen über die eigenen Online-Interaktionen an einen vertrauenswürdigen Dritten, und ein „Recht auf Abfragen“ zu fordern, indem ich meine PAI verwende, um institutionelle KI-Systeme, die wichtige Entscheidungen über mich und meine Familie treffen, zu hinterfragen und herauszufordern.

Möchten Sie mehr über dieses Thema erfahren? Sie können mehr darüber in meinem Artikel „Democratizing AI: Ensuring human autonomy over our computational “screens, scenes, and unseens”“ lesen.