Kto odpowiada za błędy sztucznej inteligencji? "Nie jest łatwo stworzyć jednolite zasady"

•  Regulacje nie nadążają za rozwojem AI
• Rynek AI rośnie aż o 33 proc. rok do roku
• Niezbędne stało się ustalenie zasad korzystania z zebranych informacji, czyli etyka danych
• Dziś każda firma sama określa zasady korzystania z danych
• Nawet zwykłe dane użyte w nieodpowiedni sposób stają się danymi wrażliwymi

Jak wskazuje rozmówca Interii Biznes, sztuczna inteligencja (AI) to "bardziej szansa dla ludzkości niż zagrożenie, ale musimy do niej podchodzić z rozwagą".

- AI otacza nas już praktycznie w każdej dziedzinie życia np. odblokowujemy telefon odciskiem palca bądź funkcją rozpoznawania twarzy, korzystamy w wielu miejscach z asystenta głosowego itp. A zatem AI nam pomaga, choć znamy też przykłady jej niewłaściwego wykorzystania, jak choćby użycie danych z Facebooka do celów politycznych. Podchodząc w odpowiedni sposób jesteśmy jednak w stanie korzystać z możliwości sztucznej inteligencji i zarazem uniknąć katastrofy - powiedział Piotr Rozenbajgier.

Ekspert SAS Poland podkreśla, że obecnie firmy same starają się w sposób etyczny korzystać z danych, które są podstawą AI.

- Robią to we własnym interesie, bo utrata danych przez klientów, czy nawet narażenie ich na taką sytuację, to cios w reputację, którą bardzo trudno odbudować. Ustawodawcy mają jednak z AI duży kłopot - choćby ze zdefiniowaniem, czym ona właściwie jest i czy zaliczamy do niej np. wszystkie algorytmy używane do analiz statystycznych. Ustawodawca europejski próbuje narzucić pewne ramy, ale głównie dla systemów wysokiego ryzyka, czyli tych, które mają znaczenie dla naszego zdrowia czy bezpieczeństwa publicznego. Mniej interesuje się np. systemami do wyszukiwania i odtwarzania muzyki. Nie jest łatwo stworzyć jednolite zasady dla tak wielu bardzo różnych systemów - zauważył. 

Piotr Rozenbajgier zaznaczył, że obecnie nie wiadomo, kogo pociągnąć do odpowiedzialności za ewentualne błędy AI. 

- Algorytmy dostarcza firma, ale tworzy je wiele osób - trudno byłoby więc wskazać winowajcę np. wypadku spowodowanego przez pojazd autonomiczny. Jeśli nie udaje się nam odblokować telefonu przez funkcję rozpoznawania twarzy, to też mówimy o błędzie - wprawdzie o mniejszych konsekwencjach, bo zapewne odblokujemy telefon manualnie - a więc również tu pojawia się kwestia odpowiedzialności za ten błąd. Bardzo trudno zatem stworzyć jeden akt prawny, który miałby regulować błędy w tak różnych dziedzinach życia - stwierdził. 

- Technologia i jej wykorzystywanie rozwijają się bardzo dynamicznie. Mamy już rynki regulowane, gdzie korzystanie z algorytmów jest ściśle określone i nadzorowane np. badania kliniczne czy określanie ryzyka kredytowego. Myślę że nałożenie ograniczeń na wszystkie algorytmy wokół nas będzie trudne, to raczej konsumenci powinni wybierać takie rozwiązania, do których mają zaufanie. Jeżeli chcę korzystać z urządzenia powinienem wiedzieć, jakie może to przynieść konsekwencje. W bankowości czy ubezpieczeniach nasze dane cały czas przechodzą przez algorytmy - pytanie, czy jesteśmy tego świadomi - dodał. 

Rozmówca Interii Biznes stwierdził, że "człowiek nie jest istotą doskonałą, dlatego nie jest może stworzyć doskonałego algorytmu", a w każdym oprogramowaniu będą pojawiały się błędy. 

- Zwykle dowiadujemy się, że dane urządzenie korzysta z algorytmu, ale trudno znaleźć bardziej szczegółowe informacje. Być może należałoby wprowadzić konieczność ich podawania. Na pewno trzeba do tego wszystkiego podchodzić racjonalnie - wybierać dziedziny życia, w których rzeczywiście chcemy świadomie gromadzić nasze dane i z nich korzystać. Nic nie zastąpi zdrowego rozsądku - podsumował. 

Rozmawiał Wojciech Szeląg