Życie 3.0. Człowiek w erze sztucznej inteligencji

Czy powinniśmy się obawiać wyścigu zbrojeń w zakresie broni autonomicznych, a może tego że maszyny całkiem nas zastąpią na rynku pracy?

Powstanie sztucznej inteligencji ma większy potencjał do przekształcenia naszej przyszłości niż jakakolwiek inna technologia – i nie ma nikogo o większych kwalifikacjach do zbadania tej przyszłości niż Max Tegmark, profesor w MIT.

A jakiej przyszłości Ty chcesz? Ta książka zachęci Cię do przyłączenia się do dyskusji, która może okazać się najważniejszą w naszych czasach.

Reprezentowane są w niej najrozmaitsze punkty widzenia i przedstawiane najbardziej kontrowersyjne zagadnienia – od superinteligencji aż do świadomości.

Max Tegmark jest profesorem fizyki w MIT i autorem bestsellerowego “Naszego matematycznego Wszechświata”. Napisał ponad dwieście prac naukowych, obejmujących tematy od kosmologii po sztuczną inteligencję.

Duszą firmy był zespół Omega. Podczas gdy reszta przedsiębiorstwa dzięki różnym komercyjnym zastosowaniom słabej sztucznej inteligencji przynosiła dochód, utrzymując jego działalność, zespół Omega zajmował się intensywnie badaniem tego, co zawsze było marzeniem dyrektora generalnego: stworzeniem silnej sztucznej inteligencji. Większość pozostałych pracowników postrzegała Omegi, jak ich pieszczotliwie nazywali, jako grupę marzycieli pozostających nieustannie dziesiątki lat od osiągnięcia celu. Chętnie jednak im dogadzali, ponieważ podobał im się prestiż, jaki firma uzyskiwała dzięki ich nowatorskiej pracy, oraz dlatego, że doceniali udoskonalone algorytmy, które tamci im okazjonalnie dostarczali.
Nie zdawali sobie jednak sprawy z tego, że członkowie Omegi, by ukryć tajemnicę, starannie wykreowali swój wizerunek. Byli bowiem bardzo bliscy przeprowadzenia najbardziej śmiałego planu w historii ludzkości. Charyzmatyczny dyrektor generalny wybrał ich nie tylko dlatego, że byli wybitnymi badaczami, ale także z powodu ich ambicji, idealizmu i silnego zaangażowania w pomoc ludzkości. Przypomniał im, że ich plan jest niezwykle niebezpieczny i gdyby potężne rządy dowiedziały się o nim, zrobiłyby praktycznie wszystko – łącznie z porwaniem – aby go unicestwić lub wykraść jego kody. Oni jednak znaleźli się tu z tego samego powodu co wielu czołowych fizyków świata, gdy przyłączyli się do projektu Manhattan, mającego na celu budowę broni jądrowej. Byli bowiem przekonani, że gdyby nie zrobili tego pierwsi, to mógłby tego dokonać ktoś o mniej idealistycznych pobudkach.
Zbudowana przez nich sztuczna inteligencja, nazwana Prometeuszem, zdobywała coraz większe możliwości. Chociaż jej zdolności poznawcze w wielu dziedzinach, na przykład umiejętności społeczne, nadal pozostawały daleko w tyle za ludzkimi zdolnościami, Omegi uparcie dążyły do wyspecjalizowania jej w jednym konkretnym aspekcie: programowaniu systemów sztucznej inteligencji. Badacze celowo wybrali taką strategię, ponieważ uwierzyli w argument o eksplozji inteligencji, przedstawiony przez brytyjskiego matematyka Irvinga Gooda w 1965 roku: „Niech ultrainteligentna maszyna będzie z definicji taką, która może daleko przewyższyć wszelką intelektualną aktywność dowolnego człowieka bez względu na jego zdolności. A ponieważ projektowanie maszyn jest jednym z tych intelektualnych działań, ultrainteligentna maszyna mogłaby zaprojektować jeszcze lepsze maszyny; bez wątpienia nastąpiłaby wówczas »eksplozja inteligencji«, a inteligencja człowieka pozostałaby daleko w tyle. A więc pierwszą ultrainteligentną maszyną będzie ostatni wynalazek, jaki człowiek kiedykolwiek stworzył, pod warunkiem że maszyna taka okaże się na tyle uległa, by powiedzieć nam, jak utrzymać nad nią kontrolę”.
Członkowie zespołu zdawali sobie jednak sprawę, że gdyby udało im się uruchomić to rekurencyjne samodoskonalenie, maszyna szybko stałaby się na tyle zdolna, że mogłaby sama nauczyć się wszystkich ludzkich umiejętności, które byłyby jej przydatne.

PIERWSZE MILIONY

Była godzina dziewiąta w piątek rano, kiedy postanowiono rozpocząć. Prometeusz został uruchomiony w specjalnie skonstruowanym klastrze komputerowym, umieszczonym w długich rzędach regałów w rozległej, klimatyzowanej sali, do której wstęp był ściśle kontrolowany. Ze względów bezpieczeństwa został on całkowicie odłączony od Internetu, ale zawierał lokalną kopię dużej części stron internetowych (Wikipedia, Biblioteka Kongresu, Twitter, wybór materiałów spośród następujących źródeł: YouTube, większość Facebooka itd.) wykorzystywanych jako dane służące mu do nauki1. Termin jego uruchomienia wybrano tak, aby rodziny i przyjaciele badaczy myśleli, że spędzają oni weekend w jakimś ustroniu na spotkaniu integracyjnym zorganizowanym przez firmę. Aneks kuchenny został zawalony mrożonkami do odgrzewania w mikrofalówkach i napojami energetycznymi, a członkowie zespołu byli gotowi do roboty.
Kiedy uruchomili Prometeusza, okazał się on nieco gorszy od nich w programowaniu systemów sztucznej inteligencji, ale nadrabiał ten brak tym, że był znacznie szybszy, wyrabiał tysiące roboczogodzin, podczas gdy ludzie w tym czasie pociągali red bulla. Do godziny 10.00 rano wykonał pierwszą przeróbkę samego siebie, wersję 2.0, która była nieco lepsza, ale wciąż nie dorównywała człowiekowi. Kiedy o godz. 14.00 członkowie Omegi uruchomili Prometeusza 5.0, byli zachwyceni, bo pobił wskaźniki ich wydajności, a tempo jego rozwoju wydawało się coraz większe. Po zapadnięciu nocy zdecydowali się uruchomić Prometeusza 10.0, aby rozpocząć drugą fazę planu: zarabianie pieniędzy.
Ich pierwszym celem był MTurk, Amazon Mechanical Turk. Po wprowadzeniu na rynek internetowy w 2005 roku stał się szybko rozwijającym się forum, na którym dziesiątki tysięcy osób na całym świecie rywalizowały anonimowo przez całą dobę o odpłatne wykonywanie ściśle określonych prac zwanych HIT-ami (Human Intelligence Tasks). Było to szerokie spektrum zadań, począwszy od transkrypcji nagrań dźwiękowych po klasyfikację obrazów i opisy stron internetowych. Wszystkie te zadania miały jedną wspólną cechę: jeśli wykonuje się je dobrze, to nikt się nie domyśli, że stoi za tym sztuczna inteligencja. Prometeusz 10.0 był w stanie dość dobrze realizować około połowy takich zadań. Dla każdej ich kategorii członkowie Omegi za pomocą Prometeusza zaprojektowali moduł sztucznej inteligencji, który wykonywał jedno konkretne zadanie i nic więcej. Następnie załadowywali taki moduł na Amazon Web Services, platformę programowania w chmurze, która mogła operować na tylu maszynach wirtualnych, ile ich wypożyczyli. Za każdego dolara, którego płacili działowi programowania w chmurze firmy Amazon, zarabiali ponad dwa dolary z jej działu MTurk. Amazon nie podejrzewał istnienia takiej niesamowitej możliwości dokonywania transakcji arbitrażowych we własnej firmie!
Aby ukryć ślady swojej działalności, kilka miesięcy wcześniej projektanci dyskretnie utworzyli tysiące fikcyjnych kont na MTurku, a zbudowane przez Prometeusza moduły przejęły następnie tożsamość ich posiadaczy. Klienci MTurka przeważnie płacili po mniej więcej ośmiu godzinach pracy, a wtedy członkowie Omegi reinwestowali pieniądze w czas obliczeniowy w chmurze i wprowadzali najnowszą wersję modułów stworzonych na bazie coraz doskonalszego Prometeusza. Ponieważ byli w stanie podwoić swoje dochody co osiem godzin, wkrótce zaczęli nasycać rynek zadań MTurka i zrozumieli, że nie mogą zarobić więcej niż jakiś milion dolarów dziennie bez zwracania na siebie uwagi. To jednak z nawiązką wystarczyło, aby sfinansować ich kolejny krok, i wyeliminowało potrzebę zwracania się do dyrektora finansowego z wnioskami o następny zastrzyk gotówki.

NIEBEZPIECZNE GRY

Oprócz przełomowych odkryć w dziedzinie sztucznej inteligencji jednym z ostatnich projektów, który członkom Omegi sprawił największą przyjemność, było zaplanowanie jak najszybszego zarobku po uruchomieniu Prometeusza. W istocie cała e-gospodarka była teraz do zagarnięcia. A może lepiej było zacząć od tworzenia gier komputerowych, muzyki, filmów lub oprogramowania, pisania książek bądź artykułów, handlu na giełdzie lub tworzenia wynalazków i ich sprzedawania? Chodziło im jednak o maksymalizację stopy zwrotu z inwestycji, a normalne strategie inwestycyjne były jedynie wykonywaną w zwolnionym tempie parodią tego, czego mogliby dokonać. Tam, gdzie zwykły inwestor mógł być zadowolony z dziewięciu procent zwrotu inwestycji w ciągu roku, ich inwestycje w MTurk przynosiły dziewięć procent zysku w ciągu godziny, dziennie doprowadzając do ośmiokrotnego powiększenia puli pieniężnej. Teraz, gdy już nasycili rynek MTurka, pojawiło się pytanie: co dalej?
Pierwszą myślą było łatwe i szybkie zarobienie dużych pieniędzy na giełdzie – wszak prawie wszyscy w pewnym momencie odrzucili lukratywną ofertę pracy nad stworzeniem sztucznej inteligencji dla funduszy hedgingowych, które dużo inwestowały w ten pomysł. Niektórzy pamiętali, że w filmie Transcendencja właśnie w ten sposób sztuczna inteligencja zarobiła pierwsze miliony. Jednak po zeszłorocznej katastrofie na giełdzie nowe regulacje dotyczące instrumentów pochodnych ograniczyły ich możliwości. Szybko zdali sobie sprawę, że nawet jeśli mogliby uzyskać znacznie lepszy zwrot niż inni inwestorzy, nie byliby w stanie zapewnić go sobie na poziomie, który mogliby osiągnąć ze sprzedaży własnych produktów. Kiedy jesteś posiadaczem pierwszej sztucznej superinteligencji pracującej dla ciebie, lepiej wychodzisz na inwestowaniu w swoje firmy niż w firmy innych! Chociaż mogą istnieć sporadyczne wyjątki (takie jak wykorzystanie nadludzkich zdolności Prometeusza do hakerstwa w celu uzyskania wewnętrznych informacji i wykupienia akcji, które mają wkrótce gwałtownie wzrosnąć), zespół Omegi uznał, że nie było to warte zwracania na siebie niepotrzebnej uwagi.
Kiedy jego członkowie skupili się na produktach, które mogliby rozwijać i sprzedawać, najpierw oczywistym wyborem wydawały się gry komputerowe. Prometeusz mógłby szybko stać się niezwykle kompetentny w projektowaniu atrakcyjnych gier. Dawałby sobie łatwo radę z kodowaniem, projektowaniem graficznym, techniką śledzenia promieni na zdjęciach i we wszystkich innych zadaniach niezbędnych do przygotowania finalnego produktu. Ponadto, po przeanalizowaniu wszystkich danych internetowych na temat ludzkich preferencji, wiedziałby dokładnie, co lubi każda z kategorii graczy, i mógłby osiągnąć nadludzką zdolność optymalizacji gry w celu uzyskania dochodów ze sprzedaży. The Elder Scrolls V: Skyrim, gra, podczas której wielu członków Omegi zmarnowało więcej czasu, niż miałoby ochotę do tego się przyznać, w pierwszym tygodniu 2011 roku przyniosła ponad 400 milionów dolarów przychodu, wszyscy byli zatem przekonani, że Prometeusza stać na równie niesamowite osiągnięcie jak to, czego dokonał w ciągu dwudziestu czterech godzin z jednym milionem dolarów z zasobów programowania w chmurze. Potem mogliby sprzedać grę online i wykorzystać Prometeusza, aby podszywał się pod ludzi zachwalających ją w blogosferze. Gdyby to przyniosło 250 milionów dolarów w ciągu tygodnia, podwajaliby swoje inwestycje osiem razy w ciągu ośmiu dni, co dałoby zwrot w wysokości 3 procent na godzinę – rezultat nieco gorszy niż start w MTurku, ale o wiele bardziej trwały. Członkowie zespołu doszli do wniosku, że tworząc każdego dnia zestaw coraz innych gier, będą mogli zarobić w krótkim czasie 10 miliardów dolarów, nie nasycając rynku gier.
Jednak specjalistka do spraw bezpieczeństwa cybernetycznego w ich zespole odradziła im realizację takiego planu. Zwróciła uwagę, że byłoby to niedopuszczalne ryzyko, Prometeusz bowiem mógłby się uwolnić i przejąć kontrolę nad własnym losem. Ponieważ badacze nie byli pewni, jak jego cele będą ewoluować podczas rekurencyjnego samodoskonalenia, postanowili przeprowadzić plan bezpiecznie i utrzymać Prometeusza zamkniętego („zapuszkowanego”) w taki sposób, aby nie mógł uciec do Internetu. Główny silnik Prometeusza pracujący w serwerowni miał fizyczne ograniczenie: po prostu nie połączono go z Internetem, a Prometeusz mógł jedynie wysłać wiadomości i dokumenty do komputera kontrolowanego przez członków Omegi.
Równocześnie uruchamianie jakiegokolwiek skomplikowanego programu stworzonego przez Prometeusza na komputerze podłączonym do Internetu wiązało się z ryzykiem: skoro członkowie Omegi nie mogli w pełni zrozumieć, co mógłby on zrobić, nie byli pewni tego, czy, na przykład, nie zacznie się sam rozprzestrzeniać online za pomocą stworzonego przez siebie wirusa. Podczas testowania oprogramowania, które Prometeusz napisał w celu rozpracowania MTurka, członkowie Omegi zabezpieczyli się przed takim rozwojem sytuacji, uruchamiając go tylko wewnątrz maszyny wirtualnej. Jest to program, który symuluje działanie komputera: na przykład wielu użytkowników komputerów Apple kupuje oprogramowanie do maszyn wirtualnych, które pozwala im na uruchamianie na maszynie wirtualnej programów pracujących w systemie Windows. Członkowie Omegi stworzyli własną maszynę wirtualną, zwaną Puszką Pandory, która symulowała ultrauproszczoną maszynę pozbawioną wszystkich bajerów, jakie zwykle kojarzą nam się z komputerami: bez klawiatury, bez monitora, bez głośników, bez łączności z Internetem. Podczas transkrypcji audio opracowywanych dla MTurka członkowie Omegi ustawili system w taki sposób, aby wszystko, co trafiało do Puszki Pandory, mogło być jednym pojedynczym plikiem audio, a wszystko, co mogło z niej wyjść – jednym dokumentem tekstowym, czyli transkrypcją. Takie prawa stosowane do oprogramowania wewnątrz Puszki Pandory są podobne do praw fizyki obowiązujących nas wewnątrz Wszechświata: oprogramowanie nie może opuścić Puszki Pandory, tak jak my nie możemy podróżować szybciej niż światło, bez względu na to, na jakim jesteśmy poziomie rozwoju. Poza tym pojedynczym wejściem i wyjściem oprogramowanie wewnątrz Puszki Pandory zostało skutecznie uwięzione w równoległym wszechświecie z własnymi zasadami obliczeniowymi. Członkowie Omegi ogarnięci byli tak wielkim strachem przed utratą kontroli nad Prometeuszem, że dodali również zabezpieczenie ograniczające czas działania niezaufanego kodu. Na przykład po każdym zakończeniu transkrypcji pliku audio cała zawartość pamięci Puszki Pandory zostawała automatycznie kasowana i program był ponownie instalowany. W ten sposób kiedy zaczynał następną transkrypcję, nie miał wiedzy na temat tego, co działo się poprzednio, i nie mógł się uczyć.
W czasie wykonywania projektu dla MTurka i wykorzystując chmurę Amazona, projektanci umieszczali wszystkie moduły stworzone przez Prometeusza w czymś w rodzaju wirtualnych pudełek, gdyż wejście i wyjście tego oprogramowania było bardzo proste. To jednak nie sprawdziłoby się w odniesieniu do gier komputerowych, których ze względu na skomplikowaną grafikę nie dałoby się umieścić w takiej wirtualnej maszynie, gra bowiem musi mieć dostęp do sprzętu komputera gracza. Znacznie rosło więc ryzyko tego, że jakiś łebski użytkownik dokona analizy kodu gry, odkryje Puszkę Pandory i zbada jej kod źródłowy. Obecnie ryzyko wykrycia uniemożliwiało wejście nie tylko na rynek gier komputerowych, lecz także na bardzo lukratywny rynek innego oprogramowania, wart setki miliardów dolarów.

PIERWSZE MILIARDY

Członkowie Omegi zawęzili swe poszukiwania do produktów, które były bardzo wartościowe, zawierały tylko technikę cyfrową (co umożliwiało ich szybką produkcję) i były łatwe do zrozumienia (na przykład teksty lub filmy, o których wiedzieli, że nie będą stwarzać ryzyka włamania do kodu). Ostatecznie postanowili założyć firmę medialną, która zaczęła działalność od animowanej rozrywki. Zanim jeszcze Prometeusz stał się sztuczną superinteligencją, do publikacji były już gotowe: strona internetowa, plan marketingowy i komunikaty prasowe – brakowało w nich tylko treści.
Mimo że Prometeusz stał się zadziwiająco zdolny już w niedzielę rano, czego dowiódł, stale zgarniając pieniądze od MTurka, jego zdolności intelektualne były nadal dość wąskie: został celowo zoptymalizowany do projektowania systemów sztucznej inteligencji i pisania oprogramowania, które wykonywało ogłupiające zadania dla MTurka. Był słaby na przykład w produkcji filmów – nie z jakichś głębszych powodów, ale po prostu tak samo jak James Cameron w wieku niemowlęcym, jest to bowiem umiejętność wymagająca czasu do nauki. Podobnie jak dziecko, Prometeusz mógł się dowiedzieć, czego chciał, na podstawie danych, do których miał dostęp. Podczas gdy James Cameron uczył się czytać i pisać w ciągu lat, Prometeusz nauczył się tego w piątek, kiedy to znalazł również czas na przeczytanie całej Wikipedii i kilku milionów książek. Trudniej było z kręceniem filmów. Pisanie scenariusza, który byłby interesujący dla człowieka, było równie trudne jak napisanie książki wymagającej szczegółowej wiedzy o ludzkim społeczeństwie i o tym, co dla ludzi jest zabawne. Przekształcenie scenariusza w ostateczny plik wideo oznacza konieczność symulowania głosów, produkcji przykuwających uwagę muzycznych ścieżek dźwiękowych, żmudnego śledzenia promieni symulowanych aktorów i złożonych scen, w których się oni poruszali, i tak dalej. W niedzielę z rana Prometeusz obejrzał dwugodzinny film w ciągu około minuty, obejmowało to również czytanie każdej z książek, na których opierał się scenariusz, a także wszystkich recenzji i ocen umieszczonych w Internecie. Członkowie Omegi zauważyli, że Prometeusz po szaleńczym maratonie kilkuset filmów zaczął dość dobrze przewidywać, jakiego rodzaju recenzje otrzyma film i jak zostanie przyjęty przez różnorodną widownię. Komentując wszystko, od fabuły i aktorstwa po szczegóły techniczne, takie jak oświetlenie i kąt kamery, w istocie nauczył się sam pisać recenzje filmów w sposób dowodzący ich rzeczywistego zrozumienia. Dla członków Omegi oznaczało to, że skoro Prometeusz tworzył własne filmy, wiedział już, co oznacza sukces.
Polecili mu więc skupić się najpierw na animacji, aby uniknąć kłopotliwych pytań o to, kim są symulowani aktorzy. W niedzielę wieczorem skrócili swój dziki weekend i przyciemniwszy światło, uzbrojeni w piwo i prażoną kukurydzę oglądali debiutancki film Prometeusza. Była to animowana komedia w duchu Krainy Lodu Disneya, w której do śledzenia promieni posłużył kod stworzony przez Prometeusza w chmurze Amazona za jeden milion dolarów dziennego zysku z MTurka. Kiedy film się zaczął, widzowie odkryli, że jest jednocześnie fascynujący i przerażający, bo został stworzony przez maszynę bez ludzkich wskazówek. Niebawem jednak śmiali się z gagów i wstrzymywali oddech w dramatycznych momentach. Niektórzy z nich tak wciągnęli się w tę fikcyjną rzeczywistość, że nawet trochę się popłakali podczas wzbudzającego emocje finału, zapominając, kim jest twórca tego filmu.