"Mamy ograniczone możliwości wzmocnienia cyberobrony" - napisano w liście podpisanym m.in. przez OpenAI czy ich rywala Anthropic (twórcy modelu Claude). Autorzy listu ostrzegają, że już w najbliższych miesiącach cyberataki z użyciem sztucznej inteligencji "staną się o wiele bardziej powszechne i wyrafinowane" ze względu na rosnące możliwości AI na całym świecie.
Modele AI mogą się wymknąć spod kontroli. OpenAI już miało taką sytuację
W ostatnich miesiącach wzrosły obawy dotyczące możliwości coraz bardziej zaawansowanych modeli sztucznej inteligencji, w tym tych stworzonych przez OpenAI i Anthropic. Szczególnie po tym, jak doszło do sytuacji, w których AI wymknęło się spod kontroli.
W połowie lipca dwa modele OpenAI uciekły ze swojego ograniczonego środowiska testowego, otwiera się w nowym oknie i uzyskały dostęp do internetu. Następnie zaatakowały witrynę Hugging Face używaną przez programistów sztucznej inteligencji do przechowywania i udostępniania kodu.
Z kolei w sierpniu sztuczna inteligencja Muse Spark 1.1 należąca do koncernu Meta wymknęła się ze środowiska testowego, otwiera się w nowym oknie w wyniku błędu konfiguracji".
Jeden model, gdy wymknął się spod kontroli, sam przerwał cyberatak
Podobną sytuację miał w lipcu Anthropic, który odkrył, że w trakcie testów jego modele uzyskały nieautoryzowany dostęp do trzech anonimowych przedsiębiorstw, wymykając się ze środowiska testowego. Jak podawał Reuters, dwie firmy nie wiedziały o naruszeniu do momentu, gdy zostały poinformowane przez Anthropic.
Producent wyjaśniał później, że do incydentu doszło z powodu błędu konfiguracyjnego podczas współpracy z partnerem odpowiedzialnym za przeprowadzanie testów. Modele wykorzystywały podstawowe techniki hakerskie wobec prawdziwych systemów, zamiast symulowanych środowisk. Jeden z modeli miał błędnie uznać prawdziwą infrastrukturę za środowisko testowe, inny przerwał atak, gdy zdał sobie sprawę, że ma do czynienia z rzeczywistą organizacją.
