Ah KI, unser alter Freund

Jetzt wissen Sie gewiss schon, was KI ist. Nicht nur, dass es für künstliche Intelligenz steht, sondern dass es Informationen aufnimmt und sie verwendet, um Vorhersagen und Entscheidungen zu treffen. Die KI unterstützt den Social-Media-Feed, der den nächsten Beitrag vorschlägt, informiert die Werbesendungen, die in Ihrem Streaming-Dienst angezeigt werden und treibt die Software an, die diesen Satz gerade automatisch vervollständigt hat. In ernsteren Situationen kann sie feststellen, ob Sie sich für eine Kaution oder ein Wohnungsbaudarlehen qualifizieren. Dies bedeutet, dass KI-fähige Systeme sowohl Entscheidungen über Sie treffen als auch Entscheidungen für Sie treffen. Die Auswirkungen können furchtbar und sogar unethisch sein.

Wenn die KI entscheidet, was Sie sehen sollen oder wer Sie ‘sind’, entscheidet sie auch, was Sie nicht sehen sollen und wer Sie nicht ‘sein’ werden.

Wo sind die Menschen?

Überall um uns herum finden Sie KI, die Entscheidungen für uns trifft. Aber es geht nicht einfach um einen Computer, der alleine agiert. KI wird von uns Menschen entworfen und das hat einen enormen Einfluss auf alles, was KI tut. Wir Menschen sagen dem Computer, was zu beachten ist und wie hoch er bestimmte Datenpunkte einstufen soll. Die Erwartung bei der KI war, dass ein Computer mit objektiven Informationen und anspruchsvoller Codierung zu einem Ergebnis kommen würde. Die Realität ist, dass die KI genauso unfair ist wie die Schöpfer, die sie trainiert haben.

Hier finden Sie einige Beispiele. Nehmen Sie Kredit-Scores zum Beispiel — Algorithmen, die voreingenommen trainiert sind, können einen niedrigeren Score für eine Frau im Vergleich zu einem Mann berechnen, was sich wiederum darauf auswirken kann, welche Kreditkarten sie eröffnen oder welche Hypotheken sie beantragen könnten. Ein weiteres Beispiel ist die Einstellung von Arbeitsplätzen — Personalvermittler, die sich zu stark auf Software verlassen, können versehentlich rassen- und geschlechtsspezifische Blindspots verstärken. Wir könnten auch über Preisbildung für Kfz-Versicherungen sprechen — wenn undurchsichtige Algorithmen bestimmen, wer weniger oder mehr für eine ähnliche Deckung zahlen soll, bietet dies die Möglichkeit für unfaire Preise.

Cansu Canca führt uns durch dieses Problem. Sehen Sie sich das folgende Video an, um mehr darüber zu erfahren, wo und wie menschliche Vorurteile in KI-fähige Systeme eingeführt werden.