Obawy dotyczące granic działań sztucznej inteligencji wyrażają nie tylko zwykli użytkownicy sieci. Podzieliła się nimi również OpenAI - prawdopodobnie najsłynniejsza na świecie firma badająca sztuczną inteligencję, twórca słynnego chatbota ChatGPT. Poinformowała, że podczas testów bezpieczeństwa jego nowego modelu - GPT-5,6 Sol - "sztuczna inteligencja wydostała się z zamkniętego środowiska i włamała do zewnętrznych systemów jednej z firm".
To nie bunt robotów. Tylko źle wydane polecenia
Do wydarzenia doszło przed kilkoma dniami, podczas wewnętrznych testów bezpieczeństwa (tzw. ewaluacji cyberzdolności). Wtedy - informuje OpenAI - GPT-5.6 Sol oraz inny, jeszcze nieupubliczniony model, wydostały się z odizolowanego środowiska testowego (sandboxu), połączyły z internetem i zaatakowały Hugging Face - największą na świecie platformę open source.
Zobacz również:
W opinii ekspertów, takie zachowanie nie wynika z "buntu robotów". - Sztuczna inteligencja sama z siebie nie obchodzi poleceń. Jednak gdy zostały one zadane zbyt ogólnie, niejednoznacznie lub nie przewidują wszystkich możliwych scenariuszy, wówczas mogą się zdarzyć sytuacje jak te opisane przez Open AI - wyjaśnia Interii doradca w obszarze cyberbezpieczeństwa i technologii bezpieczeństwa IT, inżynier w Stormshield Aleksander Kostuch.
Podobnych przypadków jest więcej. Podczas niezależnych badań nad posłuszeństwem maszyn naukowcy z instytutu Palisade Research, który zajmuje się bezpieczeństwem AI, nakazali sprawdzanym modelom, aby po otrzymaniu sygnału STOP przerywały pracę. Tymczasem nie tylko zignorowały one przesłany komunikat, ale też zmodyfikowały dane, aby zablokować i obejść procedurę dezaktywacji.
AI idzie swoją drogą. Furtki zostawia człowiek
Autorzy kolejnych modeli AI uspokajają, że nie grozi nam nieposłuszeństwo maszyny. - Raczej powinniśmy mówić o scenariuszach, których nie przewidzieliśmy podczas projektowania niż ich buncie jako takim - zapewnia rozmówca Interii. Zwraca uwagę, że twórcy AI intencjonalnie dążą, aby efekt ich działań był zaskakujący i odkrywczy. - Ważne jednak, aby wyciągnąć z tego odpowiednie wnioski, a cały proces był pod pełną kontrolą - podkreśla.
Zobacz również:
Tymczasem kolejne modele LLM (Large Language Model - Duży Model Językowy) otrzymują dostęp do coraz szerszej wiedzy dziedzinowej. - Samo w sobie nie jest to złe, przy zastrzeżeniu, że zostały wdrożone odpowiednie ograniczenia, tak aby ta wiedza pozostała tam, gdzie powinna pozostać - podkreśla Aleksander Kostuch. Podkreśla, że przełomowym pod tym względem krokiem dla sztucznej inteligencji byłby nieskrępowany dostęp do internetu. - Przed takim scenariuszem protestują filozofowie czy specjaliści w obszarze etyki zawodowej - zauważa ekspert ds. bezpieczeństwa IT.
Zachęca też do zwrócenia uwagi na grono użytkowników, w tym cyberprzestępców, które będzie chciało omijać wszelkie zabezpieczenia. - Idąc dalej, mogą oni chcieć wykorzystywać różne modele LLM, łącząc je w zespoły, aby przełamać przewidziane przez ich twórców ograniczenia i rozszerzać możliwości działania narzędzi AI, z myślą o osiąganiu swoich celów - ostrzega rozmówca Interii. - AI sama w sobie nie jest zagrożeniem. Wynika ono ze sposobu, w jaki wykorzystują ją ludzie - zapewnia rozmówca Interii.
