Co wie o tobie sztuczna inteligencja? O wiele więcej niż myślisz.

Prawdopodobnie zdajesz sobie sprawę, że firmy i rządy gromadzą dane o Tobie, takie jak Twoje imię i to gdzie mieszkasz. Ale Twój profil cyfrowy nie jest oparty tylko na danych, które zdecydujesz się udostępnić, wszelkiego rodzaju dodatkowe dane o Tobie są generowane przez algorytmy uczenia maszynowego. Algorytmy te analizują takie rzeczy, jak pora dnia, w której jesteś online, czy masz skłonność do literówek i jakiego rodzaju rzeczy szukasz.

Algorytmy te wykorzystują te dane do podejmowania decyzji o Tobie i za Ciebie, i robią to codziennie – często nawet bez naszej wiedzy. Zwykle dzieje się to „za ekranem”, bez przeszkadzania nam, w płynny i sprawny sposób.

Algorytmiczne podejmowanie decyzji może mieć większą wagę, niż można by się spodziewać. Chociaż algorytmy robią nieszkodliwe lub pomocne rzeczy, takie jak zmiana sygnałów drogowych, gdy zbliżasz się do skrzyżowania, decydują również, jakie treści wyświetlać w Twoim kanale mediów społecznościowych. Istnieją również algorytmy, które pomagają prawdziwym ludziom w podejmowaniu decyzji, czy możesz otrzymać kredyt hipoteczny, dostać się na konkretną uczelnię lub zakwalifikować się do ubezpieczenia.

Ale w jaki sposób uzyskują informacje o Tobie, aby w ogóle podejmować takie decyzje?

Wszystko opiera się na Twoich danych – i tak zwanym Twoim cyfrowym profilu. Dowiedz się więcej z poniższego filmu z Katarzyną Szymielewicz, prawniczką zajmującą się prawami człowieka i technologii oraz prezesem naszej partnerskiej organizacji, Fundacji Panoptykon, lub czytaj dalej.

Trzy warstwy Twojego profilu cyfrowego

Warstwa pierwsza

Pierwsza warstwa to ta, którą sami kontrolujemy – to informacje, które często podajemy dobrowolnie, gdy korzystamy z komputerów, telefonów lub czegokolwiek innego podłączonego do internetu: Twoja nazwa użytkownika, Twoje prawdziwe imię, Twoje zdjęcia, Twoi znajomi, Twoje upodobania, co Ty szukałeś, kogo zablokowałeś w swoich kontaktach. W większości przypadków możesz nie udostępniać tego typu danych, łącząc rezygnację, unikanie platform wymagających dużej ilości danych i usuwanie historii aktywności, ale będzie to wymagało ciągłej uwagi i samokontroli. To dość trudne zadanie, jeśli chcesz po prostu żyć częścią swojego życia online z pewną dozą spontaniczności.

Zła wiadomość jest taka, że nawet jeśli uda Ci się kontrolować tę pierwszą warstwę swojego profilu, są jeszcze dwie, które są budowane nawet bez Twojej wiedzy. Przez sam fakt bycia online i robienia rzeczy online, udostępniasz o wiele więcej, niż mogłoby ci się wydawać.

Warstwa druga

Druga warstwa w Twoim cyfrowym profilu zawiera ślady tego, co robisz online – dane zebrane o Twoich danych lub „metadane”. Mogą to być odwiedzane witryny, Twoja aktualna lokalizacja, a nawet takie rzeczy, jak szybkość pisania (i liczba błędów, które popełniasz!)

Zawiera również pieczątkę wszelkich „powiązanych” działań. Na przykład, jeśli masz inteligentną lodówkę, wie, że przytrzymałeś drzwi otwarte przez 3 minuty o 2 nad ranem, aby zjeść późną przekąskę. I nie zapomni.

Jest prawie niemożliwe, aby zapobiec gromadzeniu tego typu danych o Tobie lub zrezygnować z tej ciągłej obserwacji behawioralnej.

Warstwa trzecia

Czego jeszcze algorytmy mogą się o nas dowiedzieć po tym, jak zaobserwowały już każdy nasz ruch online?

Mogą dowiedzieć się więcej, porównując dane zebrane o Tobie z warstw 1 i 2 z danymi zebranymi od innych osób i ustalając wzorce w tych informacjach. Maszyny dokonują założeń i prognoz na Twój temat na podstawie statystyk. Wykorzystują całą zebraną wcześniej „wiedzę” o tobie, a także obserwacje poczynione na temat twoich przyjaciół lub osób podobnych do ciebie, aby przewidzieć rzeczy takie jak twoje pochodzenie etniczne, na kogo możesz głosować, czy możesz spodziewać się dziecka, jeśli kochasz hazard, a nawet jeśli cierpisz na chorobę psychiczną.

To właśnie ta trzecia warstwa Twojego cyfrowego profilu – zwana „danymi wnioskowanymi” – jest najbardziej wartościowa dla firm korzystających z SI. Opierając się na tych założeniach, decydują o takich rzeczach, jak reklamy, które powinni Ci pokazać i czy powinieneś otrzymać pożyczkę.

I jest prawie niemożliwe, abyś mógł kontrolować, a nawet odkryć, co myślą o tobie te maszyny.

Dobre wieści?

Ludzie zaczynają coś robić z tym problemem, abyś mógł odzyskać kontrolę nad swoimi informacjami. Nasi partnerzy w Panoptykonie upewniają się, że istnieją zabezpieczenia prawne, które nas chronią, a skargi prawne przeciwko firmom, które są głodne danych, skutkują wysokimi grzywnami. W Mozilli na nowo zastanawiamy się, w jaki sposób Twoje dane są gromadzone i wykorzystywane w całości w The Data Futures Lab („Laboratorium Przyszłości Danych”), eksperymentalnej przestrzeni do inicjowania nowych podejść do zarządzania danymi, które dają ludziom większą kontrolę i sprawczość. To długi marsz, ale idziemy w dobrym kierunku.