Ach AI, nasza stara przyjaciółka

Już wiesz, czym jest AI. Nie tylko to, że jest to skrót oznaczający sztuczną inteligencję, ale także to, że gromadzi informacje i wykorzystuje je do przewidywania i podejmowania decyzji. AI zasila kanały w mediach społecznościowych, sugerując następny post, dobierając reklamy, które pojawiają się w Twojej usłudze streamingowej, czy też wspomagając oprogramowanie, które właśnie automatycznie uzupełniło to zdanie. W poważniejszych sytuacjach może określić, czy kwalifikujesz się do udzielenia poręczenia lub kredytu mieszkaniowego. Oznacza to, że systemy obsługujące sztuczną inteligencję podejmują decyzje zarówno o Tobie, jak i za Ciebie. Skutki tych operacji mogą być poważne — nawet nieetyczne.

Kiedy AI decyduje o tym, co powinieneś zobaczyć lub kim „jesteś”, decyduje również o tym, czego nie powinieneś widzieć i kim nie „będziesz”.

Gdzie są ludzie?

Wokół nas można znaleźć systemy sztucznej inteligencji dokonujące za nas wyborów. Ale to nie jest tylko samodzielnie działający komputer. Sztuczna inteligencja została zaprojektowana przez nas, ludzi, a to ma ogromny wpływ na wszystko, co robi sztuczna inteligencja. To my, ludzie, mówimy komputerowi, co musi wziąć pod uwagę i jak wysoko powinien oceniać pewne punkty danych. W przypadku sztucznej inteligencji oczekiwano, że komputer będzie wyciągać wnioski, wykorzystując obiektywne informacje i wymyślne kodowanie. W rzeczywistości sztuczna inteligencja jest tak samo niesprawiedliwa jak twórcy, którzy ją szkolili.

Oto kilka przykładów. Weźmy oceny kredytowe — algorytmy wyszkolone w tendencyjny sposób mogą obliczyć niższy wynik dla kobiety w porównaniu do mężczyzny, co z kolei może wpłynąć na to, jakie karty kredytowe mogą otworzyć lub o jakie hipoteki mogą się ubiegać. Innym przykładem jest zatrudnianie pracowników — rekruterzy, którzy zbyt mocno polegają na oprogramowaniu, mogą nieumyślnie wzmocnić słabe punkty związane z rasą i płcią. Problemem może być nawet wycena ubezpieczenia samochodu — gdy niejasne algorytmy określają, kto powinien płacić mniej lub więcej za podobne ubezpieczenie, mogą być narzucane nieuczciwe ceny.

Cansu Canca opowiada nam o tym problemie. Obejrzyj poniższy film, aby dowiedzieć się więcej o tym, gdzie i jak ludzkie uprzedzenia są wprowadzane do systemów obsługujących sztuczną inteligencję.