Sztuczna inteligencja. Złudne obietnice, realne możliwości

Rewolucja w medycynie i niezawodne strategie biznesowe – rozwojowi sztucznej inteligencji towarzyszą liczne obietnice. Coraz częściej kluczowe decyzje banków, sądów czy instytucji pomocy społecznej oparte są na algorytmach. Czy słusznie?

Autorzy – uznani eksperci w dziedzinie AI – sprawdzają, kiedy sztuczna inteligencja naprawdę działa, a kiedy jest tylko marketingowym chwytem. Predykcyjna AI ma za zadanie oszacować ryzyko recydywy czy przewidzieć wybuch pandemii, ale często okazuje się nieskuteczna i prowadzi do błędnych decyzji. Generatywna AI dostarcza pozornie atrakcyjnych treści w kilka sekund, lecz równie szybko może szerzyć dezinformację. Narzędzia moderujące wykorzystywane w mediach społecznościowych nie zawsze potrafią odróżnić realne zagrożenia od niewinnych postów.

Problem nie leży wyłącznie w technologii. Polega on także na projektowaniu i wdrażaniu systemów przez firmy oraz publiczne instytucje często bez odpowiedniej kontroli społecznej. Skuteczne regulacje prawne i zrozumienie słabych punktów AI pozwolą unikać tych pułapek i racjonalnie wykorzystać jej potencjał.

Czy wiesz, że:
– aby zwiększyć swoje szanse w procesie rekrutacji, kandydaci dopisują w CV białą czcionką nazwy prestiżowych uczelni niewidoczne dla ludzi, ale czytelne dla algorytmów?
– holenderskie narzędzie do wykrywania wyłudzeń zasiłków przyczyniło się do niesłusznego oskarżenia około 30 tysięcy rodzin?
– YouTube usunął nagrania partii szachów, bo algorytm odczytywał frazy w stylu „White is better” jako rasistowskie komentarze?

W przeciwieństwie do wyznawców nieskończonej mocy AI, podsycających medialny szum wokół tej technologii, Arvind Narayanan i Sayash Kapoor nie wyolbrzymiają lęków przed sztuczną inteligencją. Trzeźwo rozprawiają się z szarlatanerią AI i z tymi, którzy chcą przekonać świat, że powinniśmy paść na kolana przed potęgą innowacji. Ta publikacja pozwala zdystansować się od strachu przed AI i nadmiernego entuzjazmu wobec niej. To pierwszy krok, by wymagać od twórców technologii rozwiązań naprawdę potrzebnych i rzeczywiście działających.
Sylwia Czubkowska, autorka książki Bóg techy, współautorka podcastu TOK FM Techstorie

W czasach gdy o sztucznej inteligencji mówi się niemal wyłącznie w kategoriach przełomu i nieuchronnej rewolucji, ta książka działa jak zimny prysznic. Pokazuje, że granica między realną innowacją a technologicznym kuglarstwem bywa cienka, a krytyczne myślenie jest dziś równie ważne jak kompetencje techniczne. Potrzebujemy więcej takich otrzeźwiających głosów.
dr hab. Aleksandra Przegalińska, prof. ALK, prorektorka ds. innowacji i AI na ALK, Senior Research Associate, Harvard University

Uczciwe spojrzenie na naturalne limity AI. Pozycja napisana przystępnym językiem przez kompetentnych naukowców, oparta na konkretnych przykładach. To lektura obowiązkowa w erze powszechnej fascynacji tymi technologiami.
prof. dr hab. Piotr Jerzy Durka, durka.info; Uniwersytet Warszawski, Wydział Fizyki

Zrozumiały i praktyczny poradnik, napisany z tak potrzebną dozą sceptycyzmu, pomoże czytelnikom dostrzec największe zagrożenia przesłonięte przez całe zamieszanie wywołane przez AI.
Kate Crawford, autorka książki Atlas sztucznej inteligencji. Władza, pieniądze i środowisko naturalne (Bo.wiem, 2024)

Ta książka to powiew świeżego powietrza w natłoku entuzjastycznych doniesień medialnych oraz podszytych lękiem dyskusji o sztucznej inteligencji. Ten świetnie napisany, wciągający przewodnik to obowiązkowa lektura dla osób, które chcą zrozumieć, gdzie leżą granice możliwości sztucznej inteligencji oraz jakie zagrożenia niesie ze sobą AI.
Melanie Mitchell, autorka książki Artificial Intelligence: A Guide for Thinking Humans

Arvind Narayanan jest profesorem informatyki na Uniwersytecie Princeton oraz dyrektorem tamtejszego Center for Information Technology Policy (Ośrodka Regulacji Technik Informatycznych). Nadzorował również prowadzony na tym uniwersytecie Web Transparency and Accountability Project (Program Przejrzystości i Odpowiedzialności Internetowej), badający, w jaki sposób firmy gromadzą oraz wykorzystują dane osobowe. Jako jeden z pierwszych wykazał obecność stereotypów kulturowych w uczeniu maszynowym. Narayanan jest laureatem Presidential Early Career Award for Scientists and Engineers (PECASE).

Sayash Kapoor jest doktorantem Center for Information Technology Policy (Ośrodka Regulacji Technik Informatycznych) Uniwersytetu Princeton, gdzie bada wpływ AI na społeczeństwo. Wcześniej zajmował się sztuczną inteligencją zarówno komercyjnie, jak i naukowo – w Facebooku, na Uniwersytecie Columbia oraz na Politechnice Federalnej w Lozannie. Jest laureatem nagrody ACM FAccT za najlepszy artykuł naukowy i zdobywcą specjalnego wyróżnienia na konferencji ACM CSCW.

Wstęp

Wyobraźmy sobie alternatywną rzeczywistość, w której w celu opisania dowolnych środków transportu stosuje się tylko zbiorcze pojęcie „pojazd”. Jest ono na tyle pojemne, że obejmuje samochody, autobusy, rowery, statki kosmiczne oraz wszelkie inne metody przemieszczania się z punktu A do punktu B. W takim świecie zwyczajna rozmowa może przyprawić o ból głowy. Ludzie toczą burzliwe dyskusje na temat wpływu pojazdów na środowisko naturalne, ale jedni mówią o rowerach, a drudzy o ciężarówkach. Na polu techniki rakietowej właśnie doszło do przełomu i media informują, że pojawiły się nowe, szybsze pojazdy, więc widzowie dzwonią do salonów samochodowych (ups, oczywiście chodzi o salony pojazdowe), żeby spytać o dostępność tych modeli. Klienci, zagubieni w świecie
pełnym pojazdów, łatwo padają ofiarami wszechobecnych oszustów.
Jeśli w powyższym scenariuszu zastąpimy słowo „pojazd” wyrażeniem „sztuczna inteligencja”, otrzymamy całkiem dokładny opis sytuacji, z którą mamy obecnie do czynienia.
Sztuczna inteligencja (Artificial Intelligence, czyli w skrócie AI) stała się terminem zbiorczym obejmującym luźno powiązane ze sobą rozwiązania technologiczne. Taki ChatGPT niewiele ma wspólnego z – powiedzmy – oprogramowaniem bankowym oceniającym zdolność kredytową klientów ubiegających się o pożyczkę. Choć i jedno, i drugie klasyfikujemy jako AI, w kluczowych kwestiach – opisujących ich zasadę działania, zastosowanie, użytkowników oraz ograniczenia – nie mogłyby się bardziej od siebie różnić.
Zarówno chatboty, jak i generatory obrazów, takie jak Dall-E, Stable Diffusion czy Midjourney, określamy mianem generatywnej sztucznej inteligencji. Ten rodzaj AI pozwala w ciągu kilku sekund uzyskać różnorakie treści; w przypadku chatbotów będą to odpowiedzi na zapytania (prompty), nierzadko sformułowane w całkiem naturalny sposób, a generatory obrazów tworzą materiały wizualne na podstawie niemal dowolnego opisu, ot, choćby takiego: „ubrana w różowy sweterek krowa stoi w kuchni”. Jeszcze inne specjalizują się w generowaniu mowy czy nawet muzyki.
Technologie generatywnej AI rozwijają się w zawrotnym tempie, a mówimy tu o imponujących i namacalnych zmianach. Musimy jednak jeszcze trochę poczekać, zanim uda się je przekuć w pełnoprawny, niezawodny produkt, którego nikt nie zdoła wykorzystać w celach niezgodnych z jego przeznaczeniem. Nie zmienia to faktu, że popularyzacji technologii tego typu towarzyszą entuzjazm, lęk i dezinformacja.
Czymś innym jest predykcyjna AI tworząca prognozy wykorzystywane przy podejmowaniu decyzji. W dziedzinie utrzymania porządku publicznego AI może spróbować odpowiedzieć na pytanie: „Do ilu przestępstw dojdzie jutro w danej okolicy?”. W zarządzaniu zasobami: „Jak wysokie jest prawdopodobieństwo, że konkretne urządzenie ulegnie w przyszłym miesiącu awarii?”. A przy zatrudnianiu pracowników: „Jak określony kandydat poradzi sobie na tym stanowisku?”.
Aktualnie zarówno sektor prywatny, jak i rządowy korzystają z predykcyjnej AI, choć z jej efektywnością bywa różnie. Bardzo trudno jest zgadnąć, co przyniesie przyszłość, a sztuczna inteligencja nijak nam w tym nie pomoże. Jasne, możemy oddelegować ją do analizy dostępnych danych, aby wyłowiła prawidłowości statystyczne – na przykład jeśli pożyczkobiorca ma stałe zatrudnienie, to prawdopodobnie spłaci pożyczkę – co samo w sobie może być użyteczne. Ale problem polega na tym, że predykcyjnej AI często przypisuje się funkcje, którymi ta nie dysponuje, i wykorzystuje się ją do podejmowania decyzji wpływających na życie i karierę konkretnych osób. To na tym polu najczęściej spotykamy się z nieuczciwym promowaniem cudownych właściwości AI.
Kiedy piszemy o „cudownych właściwościach”, mamy na myśli zastosowania, do których AI nie została zaprojektowana i którym nie podoła. Jako że termin „sztuczna inteligencja” obejmuje obszerny katalog technologii i zastosowań, większość z nas nie potrafi z marszu rozróżnić, które rodzaje AI zapewniają efekty zgodne z opisem, a które obiecują użytkownikom gruszki na wierzbie. I jest to poważny problem społeczny, bo umiejętność oddzielenia ziarna od plew ma kluczowe znaczenie, jeśli chcemy w pełni wykorzystać potencjał AI, a jednocześnie uniknąć ewentualnych zagrożeń – często manifestujących się na naszych oczach.

Niniejsza książka ma charakter poradnika ułatwiającego zorientowanie się, które rozwiązania algorytmiczne to pic na wodę oraz kiedy szum wokół sztucznej inteligencji jest nieuzasadniony. Wyposażymy czytelników w zestaw podstawowych pojęć umożliwiających rozróżnienie generatywnej i predykcyjnej sztucznej inteligencji oraz wszelkich innych rodzajów AI. Dostarczymy wam zdroworozsądkowych kryteriów, dzięki którym zdołacie ocenić, czy twierdzenia o domniemanych postępach na polu AI są prawdą, czy bujdą. Dzięki temu będziecie z większym dystansem podchodzić do wiadomości traktujących o sztucznej inteligencji i zwracać uwagę na niuanse, które częstokroć trudno dostrzec na pierwszy rzut oka. Lepsze zrozumienie natury sztucznej inteligencji zaspokoi waszą ciekawość naukową i będzie miało przełożenie na umiejętność wykorzystania – lub powstrzymania się od wykorzystania – AI w życiu codziennym oraz pracy. Spróbujemy też przekonać czytelników i czytelniczki, że predykcyjna AI nie tylko obecnie nie działa zgodnie z opisem, ale także najprawdopodobniej nigdy nie będzie tak działać, gdyż przewidywanie ludzkiego zachowania jest co do zasady problematyczne. I wreszcie liczymy, że czytelnicy i czytelniczki rozważą kwestię osobistej odpowiedzialności – oraz możliwości odmiany stanu rzeczy – w odniesieniu do szkodliwych zastosowań wszystkich takich narzędzi.

Sztuczna inteligencja jako produkt – początki

Generatywna AI objawiła się światu w listopadzie 2022 roku wraz z premierą bota ChatGPT. Na ironię zakrawa fakt, że ów chatbot zadebiutował bez większego szumu, a twórcy programu – firma OpenAI – potraktowali udostępnioną wersję jako „wstępny model rozwojowy”1. Kiedy jednak użytkownicy zaczęli publikować zabawne i zaskakujące efekty jego pracy, program z dnia na dzień zyskał szaloną popularność. Na przykład programista Thomas Ptacek poprosił bota ChatGPT o pomoc w wyjęciu z magnetowidu kanapki posmarowanej masłem orzechowym, zaznaczając przy tym, że oczekuje odpowiedzi w duchu Biblii Króla Jakuba2. Oto, jak ona brzmiała:

Człek pewien doświadczył wielkiej troski z winy kromki posmarowanej masłem orzechowym, gdyż ta wsunięta została do magnetowidu jego i nijak nie potrafił jej wydobyć.
Wzniósł zatem błaganie do Boga: „Panie mój, kanapka utknęła w magnetowidzie na dobre i nijak nie potrafię jej wydłubać. Cóż mam uczynić?”.
Odrzekł Pan: „Nie lękaj się, dziecię me, gdyż poprowadzę dłoń twą i wskażę sposób. Chwyć nóż do masła, ostrożnie wsuń ostrze między kanapkę a krawędź magnetowidu i nieśpiesznie rozdziel jedno od drugiego. Wykaż się cierpliwością i wytrwałością, a wydobędziesz kromkę, a magnetowid odzyska dawną sprawność”.
Człek uczynił, jak mu kazano, i oto kromka wydobyta została z magnetowidu, on zaś doświadczył ratunku.
Rzekł Pan: „Zaprawdę, powiadam ci, nie wkładaj więcej kanapek z masłem orzechowym do magnetowidu, gdyż nie tam ich miejsce. Trzymaj je w lodówce bądź na talerzu”.
Człek usłuchał rady Pana swego i zawsze już odkładał kanapki tam, gdzie przynależą, oszczędzając sobie trosk i niedoli. Amen.

Dwa miesiące później z bota ChatGPT korzystało już podobno ponad sto milionów użytkowników3. OpenAI nie spodziewało się tak ogromnego zainteresowania programem i nie zdołało zabezpieczyć wystarczającej mocy obliczeniowej wymaganej do obsługi tak wielu zapytań.

Nie trzeba było długo czekać, żeby po bota ChatGPT sięgnęli również programiści – okazało się bowiem, że chatbotowi wystarczy dostarczyć opis oczekiwanej funkcji, aby ten wygenerował adekwatny fragment kodu. Dotychczas analogiczną funkcjonalność oferował starszy program GitHub Copilot, ale po premierze bota ChatGPT zainteresowanie wykorzystaniem AI wzrosło. Raz, że pozwalało to skrócić czas potrzebny do napisania aplikacji, a dwa, że nawet laicy mogli teraz stworzyć własny prosty program.
Wkrótce Microsoft wykupił od OpenAI licencję na korzystanie z tej technologii i zaimplementował w swojej wyszukiwarce Bing chatbota udzielającego użytkownikom odpowiedzi bazujących na wynikach wyszukiwania. W 2021 roku Google dysponował już własnym chatbotem, ale firma nie udostępniła go użytkownikom ani nie zintegrowała ze swoimi produktami4. Decyzja Microsoftu dotycząca Binga została odczytana przez szefostwo Google’a jako realne zagrożenie, czego konsekwencją była rychła zapowiedź zintegrowanego chatbota – Barda (później przemianowanego na Gemini).
To wtedy wszystko zaczęło się sypać. W nagraniu promującym Barda chatbot stwierdził, że Kosmiczny Teleskop Jamesa Webba jako pierwszy wykonał zdjęcie planety spoza Układu Słonecznego. Pewien astrofizyk wytknął mu jednak, że to nieprawda5. I wyszło na to, że chatbot Google’a nie poradził sobie nawet ze specjalnie wybranym dla niego wyzwaniem. Wystarczyła doba, aby wycena firmy spadła o 100 miliardów dolarów. Inwestorzy wystraszyli się, że jeśli Google zgodnie z zapowiedzią połączy Barda ze swoją wyszukiwarką, ta zacznie udzielać błędnych odpowiedzi na banalne pytania6.
Wpadka Google’a, choć bolesna, była raptem zapowiedzią potężnej fali problemów chatbotów na polu weryfikowania faktów. Ich słabość wynika bezpośrednio ze sposobu działania tego typu programów. Chatboty przyswajają wzorce statystyczne pozyskane z materiału źródłowego – w przeważającej mierze treści internetowych – aby wygenerować zmodyfikowaną odpowiedź bazującą na wspomnianych prawidłowościach. Z tym że niekoniecznie pamiętają treść materiałów, na których je szkolono (więcej na ten temat w rozdziale czwartym).
AI jest na potęgę wykorzystywana niezgodnie z przeznaczeniem. Zdarzało się, że serwisy informacyjne publikowały na swoich łamach artykuły poświęcone ważnym kwestiom – chociażby porady finansowe – w których aż roiło się od błędów, gdyż zostały wygenerowane przez AI, i kontynuowano ten proceder, nawet kiedy prawda wyszła na jaw7. Na platformie sprzedażowej Amazon aż roi się od książek „napisanych” przez sztuczną inteligencję, w tym poradników dla grzybiarzy – w takich przypadkach bezkrytyczna wiara w treść danej publikacji może skutkować śmiertelnie niebezpiecznymi konsekwencjami8.
Sytuację chatbotów – ich wad i wszelkiego rodzaju zastosowań – najłatwiej byłoby podsumować stwierdzeniem, że świat zwariował na punkcie tak zawodnej technologii. Ale byłoby to nadmierne uproszczenie.
Jesteśmy zdania, że w sektorach opartych na wiedzy wykorzystanie chatbotów może się wiązać z licznymi korzyściami. My sami używamy ich na etapie zbierania informacji, i to w najprzeróżniejszy sposób: poczynając od tak prozaicznych zadań, jak poprawne formatowanie cytatów, a kończąc na celach, których nie udałoby się zrealizować bez wsparcia, jak rozczytywanie napisanych naukowym żargonem prac naukowych z zupełnie obcych nam dziedzin.
Jest jeden haczyk: korzystanie z chatbotów tak, aby uniknąć wszechobecnych pułapek, wymaga wysiłku i praktyki. Jednocześnie znacznie łatwiej jest wykorzystać tę technologię niewłaściwie: osoba, która chce szybko zarobić parę groszy, powiedzmy, dzięki książce wygenerowanej przez AI, nie będzie zawracała sobie głowy jej treścią. To dlatego chatboty tak łatwo stają się narzędziem nadużyć.
Przy tej okazji należałoby zadać drażliwe pytania dotyczące władzy. Wyobraźmy sobie, że firmy stojące za wyszukiwarkami zdecydują, aby zastąpić dziesięć pierwszych odnośników odpowiedziami wygenerowanymi przez AI. Nawet przy założeniu, że chatbot zacznie uważniej dobierać fakty, nadal będzie to co do zasady narzędzie do przepisywania treści znalezionych w Internecie, które udaje, że do wszystkiego doszło samo, nie przekierowuje ruchu na stronę z materiałem źródłowym ani nie przysparza jej zysków. Podszywanie się wyszukiwarek pod autorów treści internetowych groziłoby naruszeniem praw autorskich. Wydaje się, że odpowiedzi wygenerowane przez AI omijają tę pułapkę, choć liczne pozwy (piszemy o stanie na rok 2024) mogą odmienić ten stan rzeczy9.

AI wstrząsa przemysłem rozrywkowym

Kolejną technologią z kategorii generatywnej AI, która oczarowała użytkowników, jest tworzenie obrazów na podstawie opisu tekstowego. Według szacunków do połowy 2023 roku użytkownicy wygenerowali ponad miliard grafik za pomocą narzędzi Dall-E 2 od OpenAI, Firefly od Adobe oraz Midjourney (od firmy o tej samej nazwie)10. Kolejnym szeroko rozpowszechnionym generatorem obrazów jest Stable Diffusion od Stability AI; twórcy programu udostępnili jego kod źródłowy, co oznacza, że każdy może dostosować go do swoich potrzeb. Narzędzia oparte na kodzie Stable Diffusion pobrano ponad dwieście milionów razy. Jako że użytkownicy korzystają z programu na własnych komputerach, nie sposób powiedzieć, ile obrazów wygenerowano przy jego pomocy, ale możemy śmiało założyć, że nawet kilka miliardów.
Za sprawą generatorów obrazów rynek rozrywkowy ogromnie się powiększył11. W odróżnieniu od treści tworzonych dotychczas te wykreowane przez sztuczną inteligencję można w nieskończoność modyfikować. Jedni zachwycają się fantastycznymi krajobrazami lub pejzażami miejskimi. Ktoś inny woli obrazki przedstawiające postacie historyczne we współczesnym świecie lub słynnych ludzi w nietypowych dla nich sytuacjach, na przykład papieża w kurtce puchówce, zwanego Balenciaga Pope. Dużą popularnością cieszą się sztucznie wygenerowane zwiastuny filmów, choćby produkcji ze świata Gwiezdnych wojen, ale zrealizowanych w stylu Wesa Andersona – z symetrycznymi kadrami i dziwacznymi sceneriami w pastelowej palecie barw.

Generowanie obrazów nie jest jednak wyłącznie domeną hobbystów – również w przedsięwzięciach komercyjnych znalazło się miejsce dla aplikacji rozrywkowych. Pewna firma zajmująca się produkcją gier komputerowych stworzyła w swojej grze postać, z którą gracz może przeprowadzić realistycznie brzmiącą rozmowę12. Wiele aplikacji do edycji zdjęć wyposażono w funkcje generatywnej AI. Chcesz, żeby na zdjęciach z twojego przyjęcia urodzinowego pojawiły się balony? Wystarczy poprosić.
Kwestia sztucznej inteligencji była jednym z głównych punktów spornych podczas hollywoodzkich protestów z 2023 roku13. Aktorzy obawiali się, że studia filmowe wykorzystają produkcje z ich udziałem do trenowania narzędzi AI pozwalających generować na podstawie scenariusza nowych materiałów wideo „z udziałem” postaci niczym się nieróżniących od aktorów ze zdjęć i nagrań, na których przeszkolono sztuczną inteligencję. Innymi słowy, studia mogłyby w nieskończoność zarabiać na wizerunku aktorów oraz ich wcześniejszych dokonaniach, nie dzieląc się zarobionymi pieniędzmi z artystami.
I choć protesty dobiegły końca, napięcia między pracownikami a tymi, którzy dzierżą kapitał, na pewno jeszcze powrócą, tym bardziej że technologia nie stoi w miejscu14. Wiele firm pracuje nad programami generującymi materiały wideo na podstawie tekstu, nie brakuje też takich, które skupiły swoje wysiłki na automatyzacji scenariopisarstwa. Efekty ich pracy mogą pozostawiać nieco do życzenia od strony artystycznej, ale to raczej nie powstrzyma studiów taśmowo produkujących kolejne letnie przeboje.

Jesteśmy zdania, że w dłuższej perspektywie odpowiednia technologia i dopasowane do niej przepisy powinny położyć kres większości problemów i zwielokrotnić korzyści. Na przykład już teraz pojawia się wiele obiecujących rozwiązań, które ograniczyłyby ryzyko konfabulacji u chatbotów, a przypadki zamierzonej dezinformacji byłyby zwalczane za pośrednictwem rozwiązań prawnych. Póki co odnalezienie się w świecie generatywnej AI jest jednak drogą przez mękę – mówimy bowiem o narzędziach cechujących się ogromnym potencjałem i wysoką zawodnością. To trochę tak, jakby każdemu człowiekowi na świecie wręczyć za darmo piłę tarczową.
Sensowne włączenie AI do naszego życia potrwa. Przyjrzyjmy się sytuacji w szkołach i na uczelniach, gdzie sztuczna inteligencja generuje wypracowania i „zdaje” egzaminy. Postawmy sprawę jasno – AI nie zagraża sektorowi edukacji, nie bardziej niż dopuszczenie do użytku kalkulatorów15. Przy odpowiednim poziomie nadzoru stanie się wręcz cennym narzędziem wspomagającym naukę. Lecz aby tak się stało, konieczna będzie reforma obejmująca programy nauczania, stosowane metody przekazywania wiedzy oraz egzaminowania. W hojnie finansowanych ośrodkach edukacyjnych, takich jak Princeton – gdzie obaj wykładamy – AI jawi się jako szansa, a nie wyzwanie. Powiemy więcej – my zachęcamy studentów do korzystania ze sztucznej inteligencji. Kiedy jednak w ręce milionów studentów trafiło narzędzie, którym można się posłużyć w niecnym celu – ChatGPT – na wielu innych uczelniach zapanował chaos.
Czy społeczeństwo jest skazane na reaktywny odbiór kolejnych osiągnięć na polu generatywnej AI? A może mamy w sobie dość silnej woli, aby wspólnie przeprowadzić strukturalne zmiany, które pozwoliłyby sprawiedliwiej rozłożyć korzyści i koszty innowacji, niezależnie od ich charakteru?

Predykcyjna AI – szumne obietnice wymagają twardych dowodów

Generatywnej AI towarzyszą, zwłaszcza w krótszej perspektywie, liczne społeczne koszty i ryzyka. Niemniej jesteśmy zdania, że na dłuższą metę tego rodzaju sztuczna inteligencja powinna w pozytywny sposób wpłynąć na nasze życie. Inaczej sprawy się mają z predykcyjną AI.
Od kilku lat obserwujemy znaczący przyrost aplikacji służących do określania społecznych skutków poszczególnych decyzji. Rzekomo – przynajmniej według deklaracji ich twórców – umożliwiają one przewidzenie konkretnego zachowania, na przykład czy osoba stająca przed sądem dopuści się w przyszłości kolejnych przestępstw lub czy kandydat ubiegający się o pracę sprawdzi się na danym stanowisku. Predykcyjna AI, w odróżnieniu od generatywnej, często w ogóle nie działa16.
Obywatele Stanów Zjednoczonych, którzy ukończyli sześćdziesiąty piąty rok życia, mogą korzystać z Medicare, programu ubezpieczenia zdrowotnego dotowanego z budżetu państwa. W celu obniżenia kosztów usługi świadczeniodawcy Medicare wykorzystali do pracy sztuczną inteligencję, która przewiduje czas hospitalizacji pacjenta17. Z tym że jej szacunki niejednokrotnie okazują się błędne. Dobrze ilustruje to przypadek pewnej osiemdziesięciopięciolatki, której przewidywany okres pobytu w szpitalu oszacowano na siedemnaście dni. Ale po upływie tego terminu pacjentka nadal skarżyła się na silny ból i potrzebowała asysty przy korzystaniu z balkonika. Mimo tego ubezpieczyciel wstrzymał płatności. W takich sytuacjach wdrożeniu sztucznej inteligencji towarzyszą jak najlepsze intencje. Na przykład gdyby nie predykcyjna AI, w interesie domów opieki społecznej byłoby przetrzymywać kuracjuszy w szpitalu jak najdłużej. Często jednak z upływem czasu zmienia się zarówno cel, jak i sposób wdrażania AI. Nietrudno sobie wyobrazić, że podmioty współpracujące z Medicare sięgnęły po te rozwiązania, aby przenieść na domy opieki choćby ułamek odpowiedzialności, ale koniec końców AI posłużyła do wyciskania pieniędzy z systemu – bez względu na koszty społeczne.

Analogiczne historie pomału stają się normą. Przedsiębiorcy oferujący narzędzia AI asystujące przy zatrudnianiu przekonują, że ich produkty na podstawie mowy ciała, stylu komunikacji oraz innych powierzchownych cech widocznych na trzydziestosekundowym nagraniu potrafią ocenić, czy ktoś jest osobą serdeczną, otwartą i dobrą. Ale czy mają ku temu podstawy? I czy AI naprawdę potrafi przewidzieć efektywność pracownika? Niestety, firmy wysuwające te twierdzenia nie zdołały wiarygodnie potwierdzić skuteczności swoich rozwiązań. Nie brakuje za to dowodów na to, że jest na odwrót – próby przewidzenia przyszłości jednostki nastręczają ogromnych problemów, o czym więcej w rozdziale trzecim.
W 2013 roku amerykańska firma ubezpieczeniowa Allstate powierzyła sztucznej inteligencji oszacowanie stawek ubezpieczeniowych w stanie Maryland, co miało służyć zwiększeniu przychodów przy jednoczesnej minimalizacji utraty klientów. Efektem była „lista naiwniaków” obejmująca osoby, których stawki za ubezpieczenie wzrosły niewspółmiernie do poprzednich lat18. Dominującą grupą na liście były osoby powyżej sześćdziesiątego drugiego roku życia, co było jasnym dowodem na stronniczość algorytmu. Sztuczna inteligencja mogła wyczytać z dostępnych danych, że osoby starsze będą w mniejszym stopniu zmotywowane, aby szukać ubezpieczyciela z lepszą ofertą. Podniesienie stawek zapewne oznaczało większy zarobek dla ubezpieczyciela, ale było naganne z moralnego punktu widzenia. Stan Maryland odrzucił wysuniętą przez Allstate propozycję wdrożenia AI. Tłumaczył, że byłoby to działanie o charakterze dyskryminacyjnym, firma korzysta jednak z tego modelu w co najmniej dziesięciu innych stanach*.

* Ten przykład, jak wiele innych, do których odwołujemy się w książce, dotyczy Stanów Zjednoczonych, gdzie żyjemy i pracujemy. Wnioski z nich wywiedzione mają jednak charakter globalny.

Jeśli komuś się nie podoba, że jego/jej CV będzie oceniane przez sztuczną inteligencję, może po prostu nie aplikować na stanowiska, w których do oceny aplikacji używa się AI. Ale kiedy z predykcyjnej sztucznej inteligencji korzysta rząd, zwykły obywatel zostaje pozbawiony pola manewru. (To samo można powiedzieć, gdy w kolejnych firmach o zatrudnieniu zaczyna decydować ta sama AI). Wiele krajów korzysta z narzędzi szacujących ryzyko popełnienia przestępstwa, aby ocenić, czy oskarżony kwalifikuje się do zwolnienia za kaucją. Mamy dowody na to, że tego typu systemy cechuje nieobiektywność – są w nie wpisane uprzedzenia związane z rasą, płcią oraz wiekiem. A problem okazuje się jeszcze większy, jeśli chodzi o ocenę ryzyka recydywy – tu AI okazuje się zaledwie nieco skuteczniejsza od rzutu monetą.
Możliwe, że jednym z powodów niskiej efektywności tego rodzaju narzędzi jest niedobór kluczowych informacji. Wyobraźmy sobie AI oceniającą określony katalog cech – wiek, liczbę wykroczeń oraz historię łamania prawa wśród krewnych – i trójkę podsądnych, którzy w oczach sztucznej inteligencji wpadają w te same widełki. Każdy uzyskałby tę samą ocenę ryzyka recydywy. W naszej hipotetycznej sytuacji jeden z oskarżonych głęboko żałuje swojego czynu, drugi został bezpodstawnie aresztowany, a trzeci nie może się doczekać, żeby dokończyć to, co zaczął. AI nie potrafi uwzględnić tych różnic w swoich prognozach.

Na niekorzyść predykcyjnej sztucznej inteligencji przemawia również fakt, że w interesie osób, o których losie decyduje sztuczna inteligencja, jest oszukanie systemu. W jednym z przypadków AI użyto, aby oszacować długość życia pacjenta po przeszczepie nerki19. Decydenci kierowali się założeniem, że do zabiegu powinni zostać dopuszczeni pacjenci, którym prawdopodobnie zostało najwięcej czasu. Sęk w tym, że taka polityka działa demobilizująco na osoby cierpiące na schorzenia nerek, gdyż zniechęca je do zadbania o swoje zdrowie. Dlaczego? Ponieważ jeśli ich problemy z nerkami staną się wystarczająco poważne w młodszym wieku, mają większą szansę na przeszczep! Całe szczęście, że podczas prac nad tym systemem uwzględniono ścieżkę proceduralną z udziałem pacjentów, lekarzy oraz innych zainteresowanych podmiotów. Dzięki temu problem demotywacji pacjentów wyszedł na światło dzienne i porzucono pomysł wykorzystania predykcyjnej AI w procesie selekcji biorców kwalifikujących się do przeszczepu.
W kolejnych dwóch rozdziałach przytoczymy liczne przykłady sytuacji, w których predykcyjna AI zawiodła. Czy z czasem jej efektywność może się poprawić? Naszym zdaniem odpowiedź jest, niestety, negatywna. Wady tego typu sztucznej inteligencji mają charakter immanentny. Wizje roztaczane przez twórców predykcyjnej AI są tak atrakcyjne, gdyż automatyzacja poprawia efektywność podejmowania decyzji, tyle że w tym przypadku ceną jest rozproszenie odpowiedzialności. Dopóki firmy z sektora AI nie dostarczą przekonujących dowodów na skuteczność swoich rozwiązań, powinniśmy traktować ich deklaracje z dużym dystansem.

O kuszących uproszczeniach w ocenianiu AI

Sztuczną inteligencję dzielimy na dwie główne kategorie: generatywną oraz predykcyjną. Ale ile jeszcze jej rodzajów rozróżniamy? Nie sposób powiedzieć, ponieważ nie ma zgody w kwestii tego, co jest sztuczną inteligencją, a co nią nie jest.

W identyfikacji AI mogą pomóc trzy pytania dotykające kwestii realizacji zadania przez komputer. Wszystkie one dotykają istoty sztucznej inteligencji, ale żadne jej w pełni nie definiuje. Pytanie numer jeden: czy dane zadanie wymaga od człowieka kreatywności lub specjalnego przeszkolenia? Jeśli odpowiedź brzmi „tak”, a komputer zdoła je wykonać, możemy mieć do czynienia z AI. Właśnie z tego powodu na przykład programy generujące treści wizualne klasyfikujemy jako AI. Człowiek, któremu powierzylibyśmy stworzenie obrazu czy zdjęcia, musiałby dysponować określonymi umiejętnościami i doświadczeniem, choćby w dziedzinie sztuk wizualnych lub grafiki. Choć jeszcze w drugiej dekadzie XXI wieku sztuczna inteligencja nie radziła sobie z zadaniem, które dla człowieka jest zupełnie proste, czyli z rozpoznawaniem obiektów na zdjęciach, obrazach i rysunkach – nieważne, czy byłby to mały kotek, czy dzbanek do herbaty – to taką działalność zwykle klasyfikowano jako funkcję AI. Wygląda na to, że porównanie z ludzką inteligencją nie jest jedynym istotnym kryterium.

Pytanie numer dwa: czy twórca kodu dookreślił w nim możliwości programu, czy też rozwinęły się one pośrednio, choćby przez analizę przykładów lub przeszukiwanie bazy danych? Jeśli zachowanie systemu pojawiło się pośrednio, to można je uznać za przejaw sztucznej inteligencji. Proces analizy przykładowych treści nazywamy uczeniem maszynowym, klasyfikowanym jako sztuczna inteligencja. Specyfika tego kryterium tłumaczy, dlaczego ustalanie stawek ubezpieczeniowych na podstawie komputerowej analizy danych moglibyśmy uznać za funkcję AI, ale gdyby komputer przedstawił wyniki na podstawie wkładu eksperckiego – nawet jeśli w obu przypadkach obliczenia przebiegałyby analogicznie – już nie mielibyśmy do czynienia ze sztuczną inteligencją. Nie zmienia to faktu, że wiele ręcznie programowanych systemów, jak niektóre roboty sprzątające rozpoznające przeszkody i zapamiętujące układ ścian, uznawanych jest za AI.

Trzecie kryterium dotyczy kwestii podejmowania decyzji w sposób mniej lub bardziej autonomiczny i tego, czy system dysponuje elastycznością pozwalającą mu przynajmniej w ograniczonym stopniu zaadaptować się do środowiska, w którym funkcjonuje. Jeśli odpowiedź brzmi „tak”, możemy uznać go za sztuczną inteligencję. Dobrym przykładem są tutaj samochody autonomiczne, które klasyfikujemy jako AI. Ale podobnie jak w przypadku drugiego kryterium, to również samo w sobie nie wyczerpuje definicji sztucznej inteligencji – typowy, pozbawiony elektroniki termostat nie potrzebuje AI. Jego działanie bazuje na zasadzie wywołanego wzrostem lub spadkiem temperatury rozszerzania się i kurczenia metalu, co skutkuje otwieraniem lub blokowaniem zaworu.

W ostatecznym rozrachunku przyklejenie danemu produktowi etykiety AI jest w przeważającej mierze kwestią jego dotychczasowego zastosowania, działań marketingowych oraz innych czynników. My nie będziemy zawracać sobie głowy brakiem spójnej definicji. W przypadku książki poświęconej sztucznej inteligencji może się to wydawać dziwne. Mimo to powtarzamy: nie da się ująć istoty sztucznej inteligencji w jednym zdaniu. Dlatego skupimy się głównie na różnych rodzajach AI, a dopóki każdy z nich będzie dobrze określony, powinniśmy uniknąć wszelkich niejasności.
Warto wspomnieć o jeszcze jednej, humorystycznej definicji sztucznej inteligencji, która dotyka istotnej kwestii: „AI jest tym wszystkim, czego jeszcze nie zrobiono”. Innymi słowy, kiedy dana aplikacja czy program przestają popełniać błędy, użytkownicy oswajają się z nimi i traktują je tak, jakby zawsze były niezawodne – nie dostrzegają już w nich komponentu AI. Przykładów takich sytuacji jest bez liku: roboty odkurzające, takie jak Roomba; autopilot w samolotach; funkcja autouzupełniania na telefonach; rozpoznawanie odręcznego pisma; rozpoznawanie mowy; filtry blokujące niechcianą korespondencję; autokorekta – tak, dobrze przeczyta-liście; były takie czasy, kiedy automatyczne sprawdzanie pisowni stanowiło nie lada wyzwanie!
To wspaniałe narzędzia. W bezinwazyjny sposób czynią nasze życie łatwiejszym. Właśnie takiej AI chcemy więcej. Ale jako że nikomu nie chciałoby się czytać kilkusetstronicowej książki o zaletach programów służących wyszukiwaniu literówek, skupiliśmy się na tych zastosowaniach sztucznej inteligencji, którym sporo brakuje do doskonałości. Niemniej pragniemy podkreślić, że nie powinniśmy wrzucać wszystkich rodzajów AI do jednego worka – wręcz przeciwnie.

Przy odrobinie szczęścia w przyszłości niektóre technologie oparte na sztucznej inteligencji będziemy traktować jako naszą codzienność. Obecnie media informują o samochodach autonomicznych głównie w kontekście wypadków i ofiar śmiertelnych20. Problem bezpieczeństwa był wielokrotnie niedoszacowywany, ale koniec końców nie jest przeszkodą nie do pokonania. Znacznie większym wyzwaniem dla społeczeństwa będą masowe zwolnienia towarzyszące powszechnemu wdrażaniu tej technologii – a mówimy o milionach kierowców samochodów ciężarowych i taksówek, jak również osób świadczących usługę wspólnych przejazdów. Nie zmienia to faktu, że jeśli zdołamy uporać się z zagrożeniami dla pasażerów oraz zadbamy o należne reformy społeczne i polityczne, w przyszłości samochody autonomiczne mogą się stać kolejnym elementem codzienności – takim jak obecnie są windy.

Niemniej jesteśmy zdania, że inne typy AI – ze szczególnym naciskiem na predykcyjną sztuczną inteligencję – raczej nie będą prędko uznane za coś normalnego. Umiejętność przewidywania zachowań społecznych nie jest kwestią technologiczną, a decydowanie o przyszłości człowieka na podstawie szacunków trwale obarczonych wadliwością zawsze będzie budziło wątpliwości natury moralnej.