Sztuczna inteligencja może zdestabilizować społeczeństwa. "Mamy tsunami AI"

Niedawno poznaliśmy książkę ubiegłorocznego noblisty w dziedzinie ekonomii Darona Acemoglu, który wskazuje, że innowacje nie mogą łamać przepisów, w ramach których chcemy je widzieć. Polemizuje w niej też z obietnicą, jakoby AI miała przynieść bajeczny wzrost produktywności. Teraz bardzo poważne obawy związane ze skutkami, jakie dla ludzi może przynieść sztuczna inteligencja wyraża Yuval Noah Harari, filozof i antropolog, profesor historii Uniwersytetu Hebrajskiego w Jerozolimie, autor książki "Sapiens: A Brief History of Humankind", która została przetłumaczona na blisko 40 języków i sprzedana w 25 mln egzemplarzy.

 Jesteśmy jak dzieci - wierzymy w bajki. No - powiedzmy - nie w bajki, tylko w "historie", "opowieści". One nas łączą, budują pomiędzy nami zaufanie, a wszystko, co robimy opiera się na zaufaniu. Potrafimy współpracować ze sobą, dzięki temu, że wierzymy w historię, którą inni ludzie wymyślili i opowiedzieli. Taką historią może być np. religia. Inną, niezwykle trwałą, łączącą mocno ludzi na całym świecie, jest opowieść o pieniądzu. I właśnie ta opowieść ma się ku końcowi - twierdzi Yuval Noah Harari w swojej ostatniej książce "Nexus. Krótka historia informacji od epoki kamienia do sztucznej inteligencji", wydanej pod koniec ubiegłego roku.

- Jak zbudować zaufanie między nieznajomymi? Odpowiedź brzmi: poprzez "historie".

Budujemy zaufanie, wymyślając historie, w które wierzy wiele osób (...) najbardziej udaną historią, jaka kiedykolwiek została opowiedziana, jest historia o pieniądzach. To w zasadzie jedyna historia, w którą wierzą wszyscy - mówi w wywiadzie udzielonym Bruce’owi Edwardsowi i opublikowanym na portalu "Finance & Development" Międzynarodowego Funduszu Walutowego.

Według Harariego pieniądze jako takie są bezwartościowe. Ale nadaliśmy im wartość tworząc stojąca za nimi opowieść. Póki ludzie wierzą w tę sama historię mówiąca o wartości pieniądza można za zwykłe kawałki papieru kupić co się chce. Wartość pieniądza odzwierciedla zaufanie do emitenta pieniądza, czyli do państwa. Pieniądz ma wartość, póki ludzie mają do niego zaufanie. Stąd też nazwa pieniądza, którym płacimy - pieniądz fiducjarny.

- Pieniądze to opowieść, fikcja - nie mają obiektywnej wartości - powiedział w wywiadzie Harari.

Odmienna historia niż za pieniądzem fiducjarnym stoi za kryptowalutami, jak Bitcoin lub Etherum. Ich wyznawcy mówią - państwa finansują swoje istnienie wciąż rosnącym długiem, a więc emitowany przez nie pieniądz nie jest wart zaufania. Kryptowaluty - jak Bitcoin - powstały dzięki matematycznym algorytmom i rządza nimi nie politycy, lecz prawa matematyki. Zaufajcie im, a nie politykom - wzywają. W taką opowieść wierzą kryptowalutciarze.

- Ich wartość zależy od historii, które ludzie opowiadają na ich temat, i w które wierzą - mówi w wywiadzie Yuval Noah Harari.

A co się stanie, jeśli ludzie stracą zaufanie do opowieści o pieniądzu? Właśnie w najnowszej książce Harari twierdzi, że odchodzimy od gospodarki opartej na pieniądzu ku gospodarce, której podstawą jest wymiana informacji.

- Coraz więcej transakcji na świecie odbywa się w sposób informacje w zamian za informacje, a nie coś w zamian za pieniądze. A władza, bogactwo, znaczenie bogactwa zmienia się z posiadania wielu dolarów na posiadanie wielu petabajtów informacji - mówi.

Prosty przykład - wyszukiwarka, której używamy na co dzień. Szukamy w niej informacji. Wpisujemy w niej zapytanie o polecany ekspres do kawy, koszt ubezpieczenia na wycieczkę do Bari, albo o to jak dojechać do Yumy i tysiące innych. Nie mówiąc już o zapytaniach o bibliografię Harariego. Uzyskujemy te informacje, ale w zamian powierzamy wyszukiwarce informacje o sobie - planach, upodobaniach itp. To właśnie typowa transakcja - informacja za informację.

- Co się stanie, jeśli najpotężniejsi ludzie i korporacje będą bogaci w tym sensie, że będą mieli ogromne zasoby informacji, których nawet nie będą chcieli monetyzować, wymieniać na pieniądze, ponieważ mogą dostać wszystko, czego chcą, w zamian za informacje? (...) Jeśli możesz kupić usługi i towary za pomocą informacji, to nie potrzebujesz pieniędzy - mówi Harari.

Tymczasem informacja to nie to samo, co prawda, która jest kosztowna, i której poszukiwanie wymaga czasu i nakładów pracy. Prawda wymaga badań, zbierania dowodów. Pożywieniem sztucznej inteligencji nie jest prawda, tylko informacja. Ale to jeszcze nie wszystko.    

 Najważniejsze jest to, że sztuczna inteligencja to najpotężniejsza technologia, jaką ludzie do tej pory wymyślili. Dlaczego? Bo może podejmować samodzielnie decyzje i samodzielnie tworzyć nowe opowieści. Może podejmować np. decyzje finansowe i wymyślać nowe instrumenty finansowe. Jeszcze nie teraz, bo AI, którą znamy dzisiaj "jest tylko bardzo prymitywnym pierwszym krokiem w rewolucji AI".

Sztuczna inteligencja będzie nam opowiadać historie tworzone bez udziału człowieka. Ale to nie będą już historie "ludzkie", służące temu, by budować zaufanie. To będą "obce" historie, tworzone przez "obcą" inteligencję (AI - jak mówi Harari - może być akronimem "alien intelligence"). O ile wcześniej opowiadane historie narodziły się w ludzkiej wyobraźni, te, które poda nam sztuczna inteligencja mogą nie mieć nic wspólnego z wyobraźnią człowieka, ani z ludzkim doświadczeniem. Jakie mogą być tego konsekwencje?  

- Mamy trzęsienie ziemi. Społeczeństwa ludzkie opierają się na zaufaniu; zaufanie opiera się na informacjach, na komunikacji, a poważna zmiana w technologii komunikacyjnej destabilizuje zaufanie między ludźmi. Rezultatem jest społeczne i polityczne trzęsienie ziemi. Wraz z rozwojem AI po raz pierwszy widzimy, że historie, które podtrzymują społeczeństwa ludzkie, są generowane przez inteligencję nieludzką (...) Jest obca w tym sensie, że podejmuje decyzje i wymyśla pomysły w fundamentalnie inny sposób niż istoty ludzkie. To obcy typ inteligencji. I jest bardzo niebezpieczne - powiedział.

- Mogą to być opowieści religijne lub opowieści finansowe (...) Niebezpieczeństwo polega na tym, że AI może wynaleźć instrumenty finansowe, których żaden człowiek nie jest w stanie zrozumieć, a co dopiero regulować - dodał.

Kolejna obawa myśliciela związana ze sztuczną inteligencją polega na tym, że bardzo mała liczba krajów uczestniczy w rewolucji AI, a większość jest bardzo daleko w tyle. Jakie to może mieć konsekwencje?

- (...) jeśli nie będziemy ostrożni, będzie to powtórka rewolucji przemysłowej na sterydach. W XIX wieku kilka krajów (...) uprzemysłowiło się jako pierwsze. Większość krajów nie rozumiała, co się dzieje (...) w ciągu kilku dekad cały świat został bezpośrednio podbity lub pośrednio zdominowany przez te kilka potęg przemysłowych. Jest wiele krajów, które dopiero teraz zaczynają się odbudowywać po szkodach wyrządzonych w wyniku tego (...) podboju - mówi Harari

- A teraz mamy tsunami AI. Pomyśl, co maszyna parowa i telegraf zrobiły z równością na świecie, a następnie pomnóż to przez 10, przez 100, przez 1000. Wtedy zaczynasz rozumieć konsekwencje monopolizacji ogromnej mocy AI przez zaledwie kilka krajów i pozostawienia wszystkich innych w tyle, aby były eksploatowane i zdominowane w sposób, którego nie było w historii - dodaje.

- AI może zrobić dla nas ogromnie korzystne rzeczy, ale jest to egzystencjalne zagrożenie, jeśli wymknie się spod naszej kontroli - konkluduje Yuval Noah Harari.

Jacek Ramotowski