Hello world. Jak być człowiekiem w epoce maszyn

Zdajesz sobie sprawę, że sztuczna inteligencja już teraz podejmuje decyzje za Ciebie?

Dlaczego pewien znany sklep internetowy mógł stwierdzić, że jego klientka jest w ciąży, zanim ona sama zdała sobie z tego sprawę? Czy chcemy, żeby wyroki w sądzie wydawał pozbawiony empatii ale zawsze obiektywny i precyzyjny algorytm? Czy w zamian za lepszą obsługę medyczną będziemy gotowi powierzyć korporacjom nasze tajemnice i rodzinne sekrety?

Od historycznej rozgrywki szachowej z 1997 roku, w której Garri Kasparow przegrał z komputerem Deep Blue, po autonomiczne pojazdy i wpływ nowych technologii na wyniki wyborów — Hannah Fry, brytyjska matematyczka, popularyzatorka nauki i niekwestionowana gwiazda wykładów z cyklu TED, wprowadza nas w świat, w którym o ludzkich losach coraz częściej decydują maszyny.

Nieustannie słyszymy o inteligentnych wieżowcach, inteligentnych miastach, inteligentnym transporcie i projektowaniu. Urządzenia wokół nas mają być smart: telefon, samochód, zegarek, dom, również lodówka, a nawet pieluchy. Mają podpowiadać, zgadywać nasze intencje, wyręczać w każdym zadaniu.

Czy wkrótce komputerowe programy i sztuczne inteligencje będą podejmować większość decyzji za nas? Czy będą decydować o naszym zdrowiu, edukacji i zarządzać naszym czasem? Jak wejść z nimi w możliwie najlepszą symbiozę?

“Hello world” jest klejnotem współczesnej literatury naukowej.
Alex Bellos, autor Alex’s Adventures w Numberland

Ta książka pokazuje, dlaczego dobrzy pisarze naukowi są dziś niezbędni.
Katy Guest, „Guardian”

Witamy w nowoczesnym świecie wielkich zbiorów danych. Masz przerąbane!
Cathy O’Neil, autorka Weapons Of Math Destruction

Hannah Fry (ur. 1984) – brytyjska matematyczka i popularyzatorka nauki. Pracuje na UCL w Londynie. Naukowo zajmuje się matematycznym opisem ludzkich zachowań. Współpracuje m.in. z BBC i CNN. Znana jest także z bardzo popularnych wystąpień w ramach konferencji TED.

Dane

Cofnijmy się do roku 2004, kiedy Mark Zuckerberg – wówczas jeszcze student college’u, który właśnie stworzył Facebook – wymienił z kolegą kilka wiadomości na komunikatorze internetowym:
 
„ZUCK: Także jakbyś potrzebował info o kimś z Harvardu…
ZUCK: To wal.
ZUCK: Mam ponad 4000 maili, zdjęć, adresów…
[KOLEGA ZUCKA]: Co? Jak ty to zrobiłeś?
ZUCK: Sami mi przysyłali.
ZUCK: Nie wiem czemu.
ZUCK: Ufają mi.
ZUCK: Debile”[1].
 
Słowa te wypływały w 2018 roku wielokrotnie na falach skandalu politycznego wokół Facebooka; dziennikarze forsowali tezę o makiawelicznym stosunku firmy do prywatności użytkowników. Moim zdaniem moglibyśmy w naszych interpretacjach przechwałek dziewiętnastolatka wykazać się trochę większą wspaniałomyślnością. Ale uważam też, że Zuckerberg się mylił. Ludzie nie przesyłali mu swoich danych osobowych ot tak, po prostu. Był to dla nich barter – w zamian za swoje dane otrzymali dostęp do algorytmu pozwalającego im na swobodny kontakt z przyjaciółmi i rodziną; dostali własną przestrzeń, w której mogli się dzielić swoim życiem z innymi. Otrzymali własną prywatną sieć w bezkresnej przestrzeni World Wide Web. Nie wiem jak ty, ale ja wtedy, w tamtym czasie, uważałam, że to naprawdę niezły układ. Ta logika ma jednak pewną ukrytą wadę: nie zawsze potrafimy sobie uzmysłowić długoterminowe implikacje podobnego barteru. Rzadko jest dla nas jasne, co nasze dane potrafią, czy też jak wielką mogą mieć wartość dla twórców takiego czy innego sprytnego algorytmu. Innymi słowy: nawet nie wiemy, jak tanio się sprzedaliśmy.

Dużo, tanio, Tesco

Supermarkety jako jedne z pierwszych zdały sobie jasno sprawę z wartości indywidualnych profili klientów. W sektorze, gdzie firmy bezustannie walczą o uwagę klienta, każda minimalna poprawa jakości może się przełożyć na ogromny zysk. Tym właśnie powodowała się brytyjska sieć Tesco, kiedy w 1993 roku wprowadziła swoją przełomową kampanię pilotażową.
Pod okiem zespołu kierowanego przez małżeństwo Edwinę Dunn i Clive’a Humby’ego w wybranych marketach Tesco zaczęto oferować klientom zupełnie nową kartę klubową – pokazywany przy kasie plastik, rozmiarami i kształtem przypominający kartę kredytową. Zasady gry były proste: za każdą transakcję z wykorzystaniem karty klubowej Tesco klient otrzymywał punkty obniżające wartość przyszłych zakupów, a firma – możliwość rejestrowania zakupów i kojarzenia ich z nazwiskiem klienta[2].
Dane zebrane podczas tej pierwszej kampanii były bardzo skąpe – oprócz imienia, nazwiska i adresu klienta komputer rejestrował tylko wydaną na zakupy sumę oraz dzień zakupu, ignorując przy tym zupełnie zawartość koszyka. A przecież mimo tak skromnego zasiewu Dunn i Humby zebrali fenomenalne plony.
Odkryli bowiem, że ogromny procent całej sprzedaży generuje niewielka garstka lojalnych klientów. Znali ich adresy, mogli więc prześledzić, z jak daleka byli oni gotowi przyjechać do swojego sklepu. Dowiedzieli się, w których rejonach miast Tesco przegrywa z konkurencją, a w których nad nią góruje. Zgromadzone dane pozwoliły stwierdzić, którzy klienci przychodzą do sklepu codziennie, a którzy przyjeżdżają na zakupy wyłącznie w weekendy. Ta wiedza pozwoliła zespołowi Dunn i Humby’ego opracować plan sterowania zachowaniem konsumentów – za pośrednictwem poczty firma rozesłała posiadaczom karty klubowej Tesco specjalne kupony. Klienci wydający najwięcej otrzymali vouchery na kwotę od 3 do 30 funtów, a ci, którzy wydawali nieco mniej, dostali na zachętę mniejsze kwoty – od 1 do 10 funtów. Rezultaty akcji przerosły najśmielsze oczekiwania. Niemal 70 procent kuponów zostało zrealizowanych, a ich właściciele wracali do kas z pełnymi koszykami: posiadacze karty klubowej zostawili w sklepach łącznie o 4 procent pieniędzy więcej niż klienci, którzy karty nie mieli.
Dwudziestego drugiego listopada 1994 roku Clive Humby zaprezentował wyniki kampanii pilotażowej na zebraniu zarządu spółki Tesco. Pokazał zgromadzone dane, wskaźniki odpowiedzi, dowody satysfakcji konsumentów, doskonałe wyniki sprzedaży. Zarząd wysłuchał go w milczeniu. Jako pierwszy po prezentacji odezwał się prezes zarządu. „Jestem przerażony. Po trzech miesiącach wiecie więcej o moich klientach niż ja po trzydziestu latach”[3].
Karty klubowe wydano wszystkim klientom i w powszechnej opinii to one właśnie pozwoliły Tesco zostawić w tyle swojego głównego rywala, spółkę Sainsbury’s, i zostać największą siecią supermarketów w Wielkiej Brytanii. Z upływem czasu rejestrowano coraz więcej danych, co jeszcze ułatwiło analizę zachowań konsumentów.
Na początku ery zakupów internetowych zespół Dunn i Humby’ego wprowadził zakładkę pod nazwą „Moje ulubione”, w której wszystkie produkty zakupione z kartą klubową wyróżniano natychmiast po zalogowaniu się klienta na stronie Tesco. Sukces nowej funkcjonalności był porównywalny z sukcesem samej karty. Klienci mogli szybko zlokalizować poszukiwane produkty bez konieczności nawigowania przez kolejne ekrany. Sprzedaż wzrosła, a klienci byli zadowoleni.
Były jednak wyjątki. Wkrótce po wprowadzeniu nowej zakładki na stronie Tesco pewna klientka poskarżyła się firmie, że jej dane zostały sfałszowane. Kiedy zamawiała produkty przez internet, na jej liście ulubionych produktów wyświetliły się prezerwatywy. Nie mógł ich kupić jej mąż, bo ich nie używał. Na prośbę klientki analitycy Tesco przejrzeli historię karty i ustalili, że wszystko się zgadza. Firma wolała jednak nie doprowadzać do kryzysu małżeńskiego i podjęła dyplomatyczną decyzję – przeprosiła klientkę za „błąd w systemie” i usunęła inkryminowane artykuły z jej listy ulubionych produktów.
Clive Humby w swojej książce o Tesco pisze, że jest to żelazne, choć niepisane prawo w firmie: kiedy tylko na liście zakupowej pojawiają się produkty potencjalnie kłopotliwe, Tesco przeprasza i usuwa dane. W podobnym duchu wypowiedział się Eric Schmidt, kiedy był prezesem zarządu firmy Google – że stara się zawsze wyczuwać, gdzie przebiega granica. „Polityką Google’a jest zbliżać się do śliskiej granicy, ale jej nie przekraczać”[4].
Kiedy jednak zgromadzisz wystarczająco dużą liczbę informacji, trudno powiedzieć, czy w ogóle zostanie jeszcze coś, czego nie zdołasz dowiedzieć się o człowieku. Produkty spożywcze mówią nie tylko o tym, co lubisz jeść, lecz także – jaką jesteś osobą. Wystarczy dokładnie przeanalizować nawyki konsumenckie klienta, żeby dobrze poznać jego charakter. Czasem – jak w przypadku wspomnianych wyżej prezerwatyw – dowiesz się o sprawach, o których wolałabyś nie wiedzieć. Częściej jednak gdzieś głęboko w gąszczu naszych danych można znaleźć perełki, które firmy potrafią zamienić w złoto.

Rynek Targetu

W 2002 roku amerykańska sieć wielkich dyskontów Target zaczęła szukać w danych swoich klientów nieoczywistych prawidłowości[5]. Target sprzedaje wszystko – od mleka i bananów, przez pluszowe zabawki, po meble ogrodowe – i jak chyba każda sieć detaliczna od początku obecnego stulecia, ma sposoby na to, żeby za pomocą numerów kart kredytowych i wyników ankiet przypisać klienta do wszystkiego, co ten kiedykolwiek kupił w jego sklepach, a co za tym idzie – dokładnie przeanalizować zachowania swoich konsumentów.
Historia ta wywołała skandal w całej Ameryce. Otóż najpierw analitycy Targetu odkryli, że wyraźny wzrost częstotliwości kupowania przez kobiety nieperfumowanych balsamów do ciała dla niemowląt jest często poprzedzony utworzeniem w sklepie przez te same klientki listy prezentów na baby shower. Dane wskazywały na wyraźne trendy. Kobiety na początku drugiego trymestru ciąży zaczynają się martwić o rozstępy, a więc wzrost zainteresowania kremami nawilżającymi podpowiadał prawdopodobny scenariusz rozwoju wypadków. Zaglądasz w dane sprzed paru miesięcy i widzisz, że te same kobiety wywożą z supermarketów pełne kosze witamin i suplementów takich jak wapń i cynk. Skaczesz więc znowu kilka miesięcy do przodu i dane mówią ci nawet, kiedy kobieta ma termin, bo tuż przed rozwiązaniem w koszyku lądują największe opakowania waty[6].
Przyszła matka to marzenie każdej sieci. Zrób z niej lojalną klientkę, dopóki jest w ciąży, a prawie na pewno kobieta będzie kupować twoje produkty jeszcze długo po urodzeniu dziecka; zachowania konsumentek kształtują się bardzo szybko pod wpływem głodnych niemowląt, które zaczynają się głośno dopominać o swoje w trakcie cotygodniowej wyprawy mamy do supermarketu. Informacje zgromadzone przez analityków Targetu miały nieocenioną wartość, bo mogły zapewnić sieci zdecydowaną przewagę nad konkurencją w branży.
Dalej poszło już łatwo. Na bazie danych swoich klientek Target uruchomił algorytm obliczający prawdopodobieństwo zajścia w ciążę. Kobietom, które przekroczyły określony próg, automatycznie wysyłano pocztą serię kuponów na produkty mogące zainteresować przyszłe matki: pieluchy, balsamy do ciała, chusteczki nawilżane i tak dalej.
Z początku nie działo się nic strasznego, ale mniej więcej rok później do jednego z supermarketów Targetu w Minneapolis wparował ojciec nastolatki, żądając natychmiastowej rozmowy z kierownikiem sklepu. Mężczyzna się wściekł, bo jego córka dostała pocztą przesyłkę z kuponami na produkty ciążowe – czyżby Target zachęcał młodzież do uprawiania niebezpiecznego seksu? Kierownik sklepu najmocniej go przepraszał i kilka dni później zatelefonował jeszcze do niego, żeby przekazać mu od firmy wyrazy ubolewania. Wtedy już jednak, jak można przeczytać w artykule w „New York Timesie”, ojciec nastolatki sam był gotów przeprosić kierownika sklepu.
„Odbyłem rozmowę z córką – powiedział mu – i okazuje się, że w moim domu dzieją się rzeczy, o których kompletnie nie miałem pojęcia. Córka ma termin w sierpniu”.
Nie wiem, co ty o tym sądzisz, ale dla mnie cała ta sytuacja – kiedy marketowy algorytm informuje ojca o ciąży jego nastoletniej córki, zanim dziewczyna będzie gotowa, żeby sama mu o tym powiedzieć – to już stanowczo przekroczenie granicy. Ten przypadek nie wystarczył jednak Targetowi, by całkiem zrezygnować ze swojego algorytmu.
Wyjaśnił to jeden z dyrektorów sieci: „Zaobserwowaliśmy, że jeżeli kobiety w ciąży nie wiedzą o tym, że są monitorowane, wykorzystują nasze kupony. Zakładają po prostu, że wszystkie klientki sklepu dostały tę samą przesyłkę z kuponami na pieluchy i łóżeczko. Jeśli tylko ich nie spłoszymy, wszystko jest OK”.
A zatem Target ciągle używa po cichu swojego algorytmu ciążowego, podobnie jak większość współczesnych sieci. Z tą różnicą, że teraz do kuponów typowo ciążowych dodaje kupony na bardziej neutralne produkty, żeby klientki się nie zorientowały, iż są profilowane: obok reklamy łóżeczka dla dziecka może się pojawić reklama kieliszków do wina. Albo przy kuponie na ubranka niemowlęce znajdzie się reklama wody kolońskiej.
Target nie jest jedyną siecią, która korzysta z podobnych narzędzi. Historie o tym, co można wyczytać z twoich danych, rzadko przedostają się do prasy, ale algorytmy do ich analizowania istnieją – dyskretnie ukryte głęboko na tyłach korporacyjnego frontu. Mniej więcej rok temu rozmawiałam z dyrektorem do spraw danych w pewnej firmie ubezpieczeniowej. Otóż firma ta korzysta ze szczegółowego profilu nawyków zakupowych pozyskanego z programu lojalnościowego sieci marketów. Analiza tych danych wykazała, że osoby gotujące w domu rzadziej zgłaszają szkody mieszkaniowe, a więc są dla ubezpieczyciela bardziej dochodowe. To oczywiście zgodne z tym, co nam podpowiada zdrowy rozsądek – jest raczej oczywiste, że grupa ludzi gotowych inwestować swój czas, siłę i pieniądze w przyrządzenie od zera wymyślnej potrawy we własnej kuchni musi się z grubsza pokrywać z grupą osób, które nie pozwalają dzieciom grać w domu w piłkę. Tylko skąd firma ubezpieczeniowa wie, którzy jej klienci lubią gotować w domu? Otóż w koszykach tych klientów zidentyfikowano kilka produktów, które korelują z niskim „wskaźnikiem szkodowości”. Jak powiedział mój rozmówca, najważniejszym z tych produktów, który pozwoli na najpewniejszą identyfikację osoby odpowiedzialnej i dumnej z samodzielnego prowadzenia domu, jest świeży koper włoski.
Jeśli aż tyle informacji da się wyciągnąć z nawyków zakupowych osób funkcjonujących w świecie rzeczywistym, to można sobie wyobrazić, jakie wnioski dałoby się wyciągnąć, gdyby uzyskało się dostęp do pełniejszych danych. I czego można by się dowiedzieć o drugim człowieku, gdyby rejestrowało się wszystkie jego poczynania w świecie wirtualnym.