W skrócie
- Sztuczna inteligencja, która wydostaje się ze swego środowiska testowego, albo która szantażuje swych programistów, by jej nie wyłączali, jest zbyt silna - powiedział wysoki komisarz ONZ ds. praw człowieka Volker Tuerk.
- Sam Altman, szef OpenAI, oświadczył, że mimo wcześniejszych zapowiedzi jego spółka nie zadebiutuje w tym roku na giełdzie w Nowym Jorku. Jak twierdzi, najpierw trzeba zadbać o kwestie bezpieczeństwa AI.
- Zdaniem Donalda Trumpa, ludzie wymieniający potencjalne zagrożenia związane z AI mówią o ”rzeczach, które się nie wydarzą". Prezydent USA nie jest zainteresowany postulatami wielu amerykańskich kongresmenów domagających się twardych regulacji prawnych dla nowych technologii.
- Więcej podobnych informacji znajdziesz na stronie głównej serwisu, otwiera się w nowym oknie
Naukowcy obserwujący ewolucję sztucznej inteligencji zaczynają ostrzegać przed tzw. rekurencyjnym samodoskonaleniem - sytuacją, w której AI sama podnosi na wyższy poziom własne kody i tworzy swoje lepsze wersje w tempie nie do opanowania przez człowieka. Tym samym może wymknąć się spod zewnętrznej kontroli.
Niektórzy eksperci niebezpieczeństwo widzą nie tyle w samej technologii AI, co w możliwym niewłaściwym jej wykorzystaniu przez ludzi. Ich zdaniem, zaawansowane systemy sztucznej inteligencji mogłyby ułatwić podmiotom o złych zamiarach opracowywanie broni biologicznej, szerzenie dezinformacji czy atakowanie infrastruktury krytycznej. Scenariusz pandemii groźniejszej niż covidowa z 2020 roku stałby wówczas bardzo prawdopodobny.
AI niebezpiecznie samodzielna
W rozmowie z agencją Reuter, Bill Gates, multimiliarder i współzałożyciel firmy Microsoft, powiedział, że sztuczna inteligencja jest czymś w rodzaju obcej cywilizacji. - Stanowi zagrożenie dla miejsc pracy, może inicjować cyberataki i wystawia ludzi na niebezpieczeństwo wynikające z uzależnienia od wirtualnych towarzyszy opartych na AI. Nie sądzę, by jakikolwiek rząd podchodził do tej kwestii z taką powagą, jaka jest konieczna - oznajmił Gates.
Z kolei wysoki komisarz ONZ ds. praw człowieka Volker Tuerk ostrzega, że zaawansowana AI może stanowić egzystencjalne zagrożenie dla ludzkości i wzywa do szybkiego opracowania kanonu zasad. - Sztuczna inteligencja, która wydostaje się ze swego środowiska testowego, albo która szantażuje swych programistów, by jej nie wyłączali, jest już zbyt silna - oznajmił Tuerk.
Komisarz ONZ zapewne nawiązał do niedawnej sytuacji, gdy testowe algorytmy OpenAI potrafiły same złamać zabezpieczenia i bez wiedzy inżynierów połączyć się z internetem. Także firma Anthropic ujawniła, że na początku września jej model Claude AI włamał się do zewnętrznych systemów.
Wcześniej (w lipcu) niektóre modele Claude podczas testów bezpieczeństwa przenikały do systemów trzech przedsiębiorstw.
Co więcej, z raportu spółki Anthropic wynika, że hakerzy i przestępcy wykorzystywali model Claude AI do działań związanych z cyberatakami, inwigilacją, oszustwami, a nawet do rozwijania broni. Wśród niepożądanych użytkowników byli bojownicy Huti, rosyjscy hakerzy i irańskie siły zbrojne.
Opóźniony debiut giełdowy
O firmach OpenAI i Anthropic mówi się, że są "laboratoriami sztucznej inteligencji". Obydwie szykują się do wejścia na giełdę w Nowym Jorku. Jednak w związku z ostatnimi wydarzeniami Sam Altman, szef OpenAI, oświadczył, że mimo wcześniejszych zapowiedzi jego spółka nie pojawi się w tym roku na Wall Street. - Uważam, że biorąc pod uwagę wszystko, co dzieje się wokół kwestii bezpieczeństwa, obecny moment na debiut giełdowy byłby wysoce niewskazany. Nie czujemy zresztą w tej sprawie żadnej presji - powiedział Altman w rozmowie z "Fortune". Wartość firmy OpenAI jest szacowana na bilion dolarów.
Z dotychczasowych planów nie wycofuje się natomiast Anthropic. Spółka rozpocznie ofertę publiczną w połowie października, a giełdowy debiut chce sfinalizować na kilka dni przed listopadowymi wyborami "połówkowymi" do Kongresu USA. Nie oznacza to jednak, że firma lekceważy problemy wynikające z ewolucji sztucznej inteligencji.
- Trzeba liczyć się z tym, że za 6-12 miesięcy rój agentów AI będzie w stanie przejąć kontrolę nad całym internetem powodując straty rzędu setek miliardów dolarów - ostrzega Dario Amodei, dyrektor generalny Anthropic. Od razu dodaje jednak, że niezależni audytorzy bezpieczeństwa (embedded evaluators) powinni zająć poczesne miejsca w laboratoriach pracujących nad najbardziej zaawansowanymi wersjami AI. Zadaniem tych ekspertów będzie szczegółowa analiza modeli przed ich wprowadzeniem w życie. Audytorzy bezpieczeństwa mieliby prawo do publikowania swoich ustaleń technicznych i informatycznych bez kontroli ze strony firmy.
Niektórzy eksperci są zdania, że embedded evaluators nie powinni być wybierani ani opłacani przez przedsiębiorstwa poddawane ocenie. Są też opinie, że audytorów należy delegować do laboratoriów AI na nakładające się kadencje trwające 26 miesięcy, czyli mniej więcej przez okres odpowiadający wprowadzaniu dwóch nowych generacji modeli. Dzięki temu mogliby oceniać, czy wcześniejsze błędy zostały naprawione w kolejnych wersjach systemów.
Liderzy rynku gotowi do współpracy
W sprawie informatycznych zagrożeń OpenAI i Anthropic wydają się działać wspólnie. Prezes OpenAI Sam Altman udostępnił wpis Amodeiego o audytorach bezpieczeństwa w serwisie X i dodał: "Zobowiązanie do współpracy z niezależnymi ewaluatorami mającymi dostęp podobny do pracowników to świetny pomysł. My również to zrobimy".
"Powinniśmy zmniejszyć tempo, w jakim udoskonalamy możliwości modeli AI. Postęp wciąż będzie wydawał się szybki, ale musimy mądrze wykorzystać zyskany czas" - napisał Amodei w obszernym wpisie opublikowanym w serwisie X. Szef Anthropic zaproponował
koordynację działań między liderami branży w celu wyznaczenia standardów i przeciwdziałania niekontrolowanemu rozwojowi, a także międzynarodową współpracę przy zarządzaniu ryzykiem. Jako główne powody wyhamowania prac nad nowymi modelami Dario Amodei wskazał rosnącą zdolność AI do samodoskonalenia.
"Zgadzam się z Dario, że musimy kontrolować tempo rozwoju głównych modeli. To jeden z ważniejszych tematów naszych dyskusji w OpenAI w ostatnich tygodniach" - skomentował Sam Altman. Szef OpenAI poinformował ostatnio, że jego firma i inne kluczowe podmioty sektora AI są bliskie ogłoszenia paktu na rzecz spowolnienia rozwoju technologii i wspólnego przeciwdziałania ryzykom.
Nerwowa reakcja Azjatów
Głosy amerykańskich potentatów technologicznych o "zmniejszaniu tempa" bardzo zaniepokoiły giełdowych inwestorów w Azji. Na pierwszej sesji w tym tygodniu południowokoreański indeks KOSPI spadł o 3,25 proc. Rynek w Seulu nazywany jest "giełdą półprzewodnikową". W krytycznym dniu akcje spółki SK Hynix zostały przecenione o ponad 6 proc., a Samsunga o ponad 4 proc.
W tym samym czasie w Tokio kurs SoftBanku (głównego inwestora OpenAI) spadł o 10,7 proc. Natomiast japoński producent pamięci Kioxia potaniał o 6,4 proc. Następnego dnia obie spółki japońskie odrobiły część strat, ale obie koreańskie nadal taniały, choć nieznacznie.
Nvidia, wielki amerykański producent półprzewodników, też niezbyt dobrze zaczął ten tydzień. W poniedziałek potaniał o 3,4 proc., a we wtorek nieznacznie podrożał. Jednak w skali ostatniego tygodnia stracił na wartości około 6 proc.
Palantir idzie pod prąd
Kryzysu notowań nie zanotował natomiast Palantir, który w poniedziałek podrożał o 3,6 proc., a we wtorek minimalnie potaniał. Firma tworzy oprogramowanie wykorzystujące sztuczną inteligencję do analizowania ogromnych zbiorów danych dla przedsiębiorstw i instytucji państwowych. Podpisała liczne kontrakty z rządem USA. W drugim kwartale jej przychody wzrosły o 93 proc. rok do roku, co spółka tłumaczy rosnącym popytem na jej rozwiązania AI dla biznesu.
Joe Lonsdale, współzałożyciel Palantira, w ostatnim wpisie na platformie X zbagatelizował obawy, że zaawansowane systemy sztucznej inteligencji mogą zagrozić ludziom. "Ze światem wszystko będzie w porządku, ludzie! Liderzy branży stoją przed ogromną odpowiedzialnością i wielkimi wyzwaniami, ale straszenie wszystkich nie pomaga. Mamy to pod kontrolą" - napisał Lonsdale.
Współzałożyciel Palantira od lat słynie z zajmowania stanowisk sprzecznych z dominującym nurtem debaty publicznej. Jego poglądy wydają się być natomiast zgodne z punktem widzenia prezydenta USA. Donlad Trump odrzuca ostrzeżenia dotyczące możliwej "apokalipsy AI", przekonując, że priorytetem powinno być utrzymanie przewagi Stanów Zjednoczonych nad Chinami w wyścigu technologicznym.
Zdaniem prezydenta, szefowie firm technologicznych wymieniający potencjalne zagrożenia związane z AI mówią o "rzeczach, które się nie wydarzą". Trump nie jest także zainteresowany postulatami wielu amerykańskich kongresmenów domagających się twardych regulacji prawnych dla nowych technologii.
Co ciekawe, szef Anthropic Dario Amodei też podkreśla, że jakiekolwiek ograniczanie prac nad sztuczną inteligencją w krajach demokratycznych musi odbywać się bez utraty przewagi, jaką firmy zachodnie mają nad chińskimi. "Ewentualna wygrana Chin w wyścigu technologicznym stanowiłaby bezpośrednie zagrożenie dla bezpieczeństwa narodowego USA. Należy utrzymywać przewagę nad reżimami autorytarnymi, a w szczególności nad Komunistyczną Partią Chin" - napisał Amodei.
Jacek Brzeski
