Was wäre, wenn Alexa wirklich auf Sie und nur auf Sie maßgeschneidert wäre? Eine persönliche Assistentin, die in Ihrem besten Interesse und nicht im finanziellen Interesse eines Großkonzerns arbeiten würde? Ich bin Richard Whitt, Mozilla-Mitglied, ehemaliger Google-Anwalt für Öffentlichkeitsarbeit und Gründer der gemeinnützigen GLIA Foundation, die sich der Entwicklung menschenzentrierter Technologien widmet. In dieser Folge von Mozilla Erklärt gehe ich auf diese Ideen ein und erkläre, was nötig wäre, um sie zu verwirklichen. Sie können es sich unten ansehen oder weiter lesen.

Institutionelle KIs in unserem Leben

Es gibt drei Arten von künstlicher Intelligenz (KI), mit denen wir regelmäßig interagieren: Was ich Online-Bildschirme nenne, Umgebungsszenen und bürokratische Unsichtbarkeiten. In diesem Blogbeitrag werde ich die ersten beiden, Bildschirme und Szenen, behandeln. Bleiben Sie dran für Teil zwei, in dem wir über bürokratische Unsichtbarkeiten sprechen werden.

Die erste Art von KI sitzt hinter den Online-Bildschirmen unserer Computer und mobilen Geräte. Sie findet sich in den Empfehlungsmaschinen, die unsere täglichen Interaktionen mit dem Internet steuern. Facebook, Twitter, YouTube und Hunderte anderer Websites nutzen KI, um uns vorzuschlagen, welche Artikel wir lesen, welche Videos wir uns ansehen und sogar mit wem wir uns verabreden sollten.

Die zweite Art von KI ist in unseren Umgebungsszenen platziert. Virtuelle Assistenten (VAs) wie Apples Siri, Google Assistant und Amazons Alexa befinden sich in unseren Wohn- und Schlafzimmern, auf unseren mobilen Geräten und sogar an unserem Körper in Form von Wearables wie Uhren und Ringen. Diese VAs werden durch fortschrittliche Formen der künstlichen Intelligenz angetrieben, die es ihnen ermöglichen, auf unsere Befehle zu reagieren und sogar eigene Handlungsvorschläge zu unterbreiten.

Für wen arbeiten diese KIs wirklich?

Es besteht kein Zweifel, dass diese KI bei der Bewältigung unseres Lebens nützlich ist.

Und die Unternehmen, die sie entwickeln und beschäftigen, wollen uns sicherlich glauben machen, dass sie in unserem besten Interesse handeln.

In Wirklichkeit vertreten diese KI jedoch große Unternehmen, die uns etwas verkaufen wollen oder unsere persönlichen Daten aufsaugen, um sie an Dritte zu verkaufen, von denen Sie noch nie etwas gehört haben - an Werbetreibende oder Datenvermittler. Oder sie gehen sorglos mit Ihren Daten um und erlauben es anderen, sie zu hacken oder zu stehlen. Datenschutzverletzungen bei großen Institutionen wie Facebook sind erstaunlich häufig.

Darüber hinaus sind diese Systeme oft so aufgebaut, dass gesellschaftliche Vorurteile in ihre Programmierung einfließen. Entweder aufgrund der Art und Weise, wie sie programmiert wurden oder wie sie ausgebildet wurden, sind sie mit impliziten Vorurteilen gegenüber Minderheiten behaftet.

Was aber, wenn wir eine andere Art von Zukunft hätten, in der diese virtuellen Assistenten wirklich für uns arbeiten würden? Und nur uns gegenüber rechenschaftspflichtig wären?

Wie persönliche KI unser digitales Leben verbessern kann

Eine persönliche KI (PAI) ähnelt den KIs großer Institutionen, wie sie Amazon oder Google in ihren persönlichen Assistenten haben, bis auf einen großen Unterschied: Sie sind so programmiert, dass sie uns als individuelle Menschen repräsentieren.

Diese Programmierung bedeutet, dass sie keine Interessenkonflikte haben, wie z. B. das oberste Gebot, uns Produkte zu verkaufen oder uns Werbung zu zeigen. Auch wären sie nicht so leicht von zwielichtigen Dritten zu hacken, die unsere Identitäten stehlen wollen.

Stattdessen verwenden sie maschinelles Lernen, um zu beurteilen, was wir tatsächlich wollen, und ergreifen Maßnahmen, um dies zu verwirklichen. Sie können unsere Privatsphäre, Sicherheit und Identität schützen und gleichzeitig unsere besten Interessen im Internet fördern.

Wie kann das passieren? Kurz gesagt, indem Sie in unserem Namen direkt mit institutionellen KIs wie Alexa oder Google Home interagieren.

Wie würde das funktionieren?

Hier sind nur ein paar Beispiele. Stellen Sie sich vor, Sie sagen Alexa, dass sie aufhören soll, Daten für ihre Online-Empfehlungsmaschine zu erfassen, und geben stattdessen die erfassten Daten an Ihr PAI weiter, damit Sie Ihren eigenen kuratierten Feed mit Inhalten erstellen können. Oder dass Ihr PAI andere digitale Assistenten benachrichtigt, keine Daten über Sie oder Ihre Familie zu erfassen, wenn Sie das Haus eines Freundes oder ein Restaurant in der Nähe besuchen, oder Sie sogar zu benachrichtigen, wenn Sie von einem Sensornetzwerk einer intelligenten Stadt überwacht werden.

Wie kommen wir von hier dorthin?

Es gibt eine Reihe von Möglichkeiten, wie wir die Chancen für diese vielversprechende Zukunft erhöhen können. Die Technologie ist weitgehend verfügbar, aber es bleiben Fragen: Wer würde diese Dienste anbieten? Wer würde für sie bezahlen? Wäre dies ein öffentlicher Nutzen? Von Seiten der Plattformen wird es Widerstand geben - sie werden ihre KI wahrscheinlich nicht interoperabel machen wollen.

Letztendlich kann es an Recht und Politik liegen, diese Zukunft zu ermöglichen. Ich bitte Sie dringend, Ihre gewählten Vertreter aufzufordern, zwei Dinge zu fordern, die wir heute nicht haben: Zum einen das Delegationsrecht, d. h. die Möglichkeit, eine dritte Partei, der man vertraut, in seinem Namen Entscheidungen treffen zu lassen, und die Verpflichtung der Plattformen, deren Anweisungen zu befolgen.

Die zweite wäre das, was ich ein Recht auf Abfrage nenne. Dies ist eine Verpflichtung für KIs, zusammenzuarbeiten und im Wesentlichen in der Lage zu sein, mit den anderen Systemen kommunizieren zu können. Dies würde es Ihrer PAI ermöglichen, die Entscheidungen, die diese KIs über Ihr Leben treffen, in Frage zu stellen, zusätzliche Informationen einzuholen und sogar anzufechten.