Czy kiedykolwiek byłeś stroną biurokratycznego procesu, który wydawał się przeczyć logice? Jestem Richard Whitt, współpracownik Mozilli, i przedstawiam drugą część „Przyszłości osobistej sztucznej inteligencji”. Ostatnim razem rozmawialiśmy o sztucznej inteligencji (SI), która pracuje w tle za naszymi ekranami online i w naszym środowisku. W tym odcinku serii „Mozilla wyjaśnia” omawiamy, jak działa tzw. biurokratyczna niewidoczna SI. Obejrzyj poniższy odcinek lub czytaj dalej, aby dowiedzieć się więcej.

Biurokratyczna niewidoczna SI to zaawansowane systemy, które podejmują dotyczące nas decyzje, zwykle bez naszego wkładu, a nawet naszej wiedzy, często w imieniu dużych instytucji, takich jak rząd lub wielkie korporacje. Jaką pracę dostaniemy, jakie kredyty bankowe możemy otrzymać, a nawet do jakich świadczeń rządowych jesteśmy uprawnieni – od rejestracji do głosowania po płatności w ramach ubezpieczenia społecznego. Codziennie zapadają niezliczone takie decyzje, choć często nie jesteśmy tego świadomi.

Mimo że jest przedstawiana jako pomocna lub oszczędzająca pracę, sztuczna inteligencja stojąca za tymi „niewidocznymi działaniami” reprezentuje duże korporacje lub agencje rządowe, które gromadzą nasze dane, analizują nas i podejmują decyzje dotyczące naszego dobrobytu, wynikające w dużej mierze z tych właśnie analiz. W przeszłości za podejmowanie tych decyzji odpowiadali ludzie. Dziś są to algorytmy komputerowe, które sztywno ustalają priorytety procesów oraz zasady i procedury, często bez ludzkiego nadzoru i osądu. Systemy te mogą nieumyślnie wykorzystywać wysoce stronnicze algorytmy i wadliwe zestawy danych. A to wszystko dzieje się bez możliwości odwołania się lub sprzeciwu.

Ostatnim razem wprowadziliśmy koncepcję osobistej sztucznej inteligencji (OSI): sztucznej inteligencji, która naprawdę reprezentuje nasze najlepsze interesy, a nie interesy żądnych danych korporacji. Wspomnianą OSI można zaprogramować tak, aby reprezentowała nas jako indywidualne istoty ludzkie, a nie zbiory danych. Aby mogła chronić naszą prywatność, bezpieczeństwo i tożsamość, jednocześnie działając w naszym najlepszym interesie.

OSI może być również naszym zaufanym przedstawicielem wchodzącym w interakcje z biurokratyczną niewidoczną SI — poprzez bezpośrednią komunikację z instytucjonalną SI w naszym imieniu.

Przykładem może być zwrócenie się do rządowej lub korporacyjnej SI o podanie mojej OSI konkretnych powodów, dla których podjęta została dana decyzja – dotycząca na przykład tego, czy udzielono mi pożyczki, zaproszono mnie na rozmowę kwalifikacyjną lub przedłużono mi karę więzienia. Wtedy moja OSI byłaby w stanie zadać bazujące na faktach pytania, ocenić te same dowody, zapytać o wynik, a nawet bezpośrednio zakwestionować analityczne i oparte na danych uzasadnienie takiej decyzji.

Jak to osiągnąć?

Potrzebujemy technologii, rynków, standardów i odpowiednich przepisów prawa, aby rządy i firmy mogły dostosować się do tych nowych narzędzi obywatelskich.

W szczególności musimy we współpracy z wybranymi przez nas urzędnikami, organami regulacyjnymi i agencjami rządowymi dążyć do wprowadzenia „prawa do delegowania” ważnych decyzji dotyczących interakcji online na zaufaną stronę trzecią oraz „prawa do zadawania pytań” za pomocą OSI, która będzie w stanie kwestionować i podważać działanie instytucjonalnych systemów sztucznej inteligencji podejmujących ważne decyzje dotyczące nas i naszych rodzin.

Chcesz dowiedzieć się więcej na ten temat? Możesz przeczytać więcej na ten temat w moim artykule „Demokratyzacja SI: Zapewnienie ludzkiego nadzoru nad «ekranami, scenami i niewidocznymi aspektami» sztucznej inteligencji”.