Programista Jim Browning jest znanym "łowcą oszustów" - infiltruje środowiska cyberprzestępców, demaskuje ich metody, dostarcza dowody służbom oraz pomaga ofiarom przekrętów.
Na youtubowym kanale Browninga można znaleźć m.in. filmy, na których prezentuje metody oszustów - np. zarejestrowane rozmowy z przestępcami podającymi się za policjantów, czy pracowników banków wraz z jego autorskimi omówieniami. Materiały te cieszą się porą popularnością, ale film opublikowany na początku kwietnia, wzbudził większe niż zazwyczaj zainteresowanie. Obejrzano go już ponad 7,7 mln razy.
"Łowca oszustów" ujawnił nową metodę cyberprzestępców z wykorzystaniem AI
Film jest zapisem wideoczatu w cyberprzestępcą, który najpierw zadzwonił do Browninga. "Ten oszust z fałszywej firmy o nazwie Global Metrix zaoferował odzyskanie moich skradzionych kryptowalut" - wyjaśnia w opisie youtuber.
Programista od początku wiedział, że mężczyzna nie jest osobą, za którą się podaje, ale był zaskoczony, gdy ten zaproponował rozmowę przez aplikację do wideorozmów. Kiedy się połączyli, zrozumiał, dlaczego przestępca nalegał na wideoczat - chciał "pochwalić się" technologią deepfake. Oszust użył specjalnego filtra, który zmienił jego twarz, a być może także i resztę sylwetki.
Youtuber nie dał się zwieźć. Zaczął nalegać, żeby rzekomy pracownik Global Metrix udowodnił, że "nie jest AI" i w tym celu przyłożył trzy palce do twarzy. Gdyby oszust spełnił jego prośbę - filtr by się rozmył.
Dzwoniący początkowo zignorował prośbę, a potem naskoczył na "ofiarę" mówiąc, że prosi o zbyt wiele i po chwili się rozłączył.
Ekspert ds. cyberbezpieczeństwa w UKNF: Realny i wykonalny technicznie mechanizm
- Mechanizm pokazany na nagraniu jest realny i technicznie wykonalny. Narzędzia umożliwiające nakładanie cudzej twarzy na obraz z kamery w czasie rzeczywistym są dostępne publicznie, a część z nich działa na typowym sprzęcie konsumenckim - komentuje Paweł Piekutowski, zastępcy dyrektora Departamentu Cyberbezpieczeństwa w Urzędzie Komisji Nadzoru Finansowego, którego poprosiliśmy o obejrzenie filmu i ocenienie, czy jest prawdziwy, czy został zainscenizowany.
- Oszust nie potrzebuje już zaawansowanej infrastruktury, aby w trakcie wideorozmowy prowadzonej przez popularne komunikatory stosować filtr deepfake - ostrzega ekspert.
- Niezależnie od tego, czy konkretne nagranie zostało przygotowane w celach edukacyjnych lub na potrzeby zasięgów, przedstawiony scenariusz odpowiada zjawisku obserwowanemu w realnych sprawach - dodaje.
Oszustwo z filtrem deepfake AI. Prośba o dotknięcie twarzy nie daje "pełnej pewności"
Prośba o dotknięcie twarzy może pomóc w zdemaskowaniu oszustwa. Piekutowski zastrzega jednak, że ta technika weryfikacyjna nie zawsze daje "pełną pewność".
- Nowsze modele coraz lepiej radzą sobie z częściowym przesłonięciem twarzy dłonią. Bardziej wiarygodne sygnały ostrzegawcze to ostry obrót głowy w profil, zasłonięcie jednego oka, szybki ruch dłonią przed twarzą lub pokazanie przedmiotu tuż przy policzku - tłumaczy ekspert, podkreślając, że żadna z tych metod nie jest w pełni niezawodna, a wraz z rozwojem technologii ich skuteczność będzie maleć.
Deepfake są wykorzystywane w reklamach fałszywych platform inwestycyjnych
Specjaliści z Departamentu Cyberbezpieczeństwa w UKNF obserwują wykorzystywanie deepfake'ów głównie w dwóch obszarach. - Pierwszy obszar to oszustwa inwestycyjne kierowane do klientów detalicznych - wskazuje Piekutowski.
W przypadku Polski są to najczęściej reklamy dotyczące fałszywych inwestycji. Oszust wykorzystuje wizerunek znanej osoby - przedsiębiorcy, przedstawiciela instytucji państwowej lub celebryty do stworzenia deepfake, pod który podkłada wygenerowany głos zachwalający rzekomą platformę inwestycyjną.
Zobacz również:
- Materiały te powodują przekierowanie potencjalnych ofiar na strony fałszywych platform, gdzie po rejestracji kontaktują się osoby podszywające się pod doradców domów maklerskich, banków lub funduszy inwestycyjnych - wyjaśnia przedstawiciel UKNF.
- Drugi obszar to wykorzystanie deepfake w operacjach grup APT (wyspecjalizowane siatki cyberprzestępcze, za którymi często stoją rządy wrogich państw - przyp. red.), wymierzonych w pracowników organizacji - mówi Piekutowski.
Grupy APT wykorzystują deepfake wideo do podszywania się pod pracowników IT
W raporcie "Socjotechnika grup APT w procesach rekrutacyjnych i relacjach biznesowych" zespół CSIRT KNF opisał m.in. schemat, w którym operatorzy powiązani z grupami APT budują fałszywe tożsamości pracowników IT i ubiegają się o zatrudnienie w firmach prowadzących zdalną rekrutację - wskazuje ekspert, dodając, że wideorozmowy są jego kluczowym elementem.
Operatorzy - czyli oszuści - podczas takich rozmów wykorzystują deepfake wideo działające w czasie rzeczywistym, a także narzędzia do modyfikacji głosu. Inna osoba prowadzi natomiast "coaching".
Oszuści mogą stworzyć wizerunek dowolnej osoby. Nie muszą mieć doświadczenia
- Obecnie stworzenie w pełni funkcjonalnej syntetycznej tożsamości ze zdjęciem i działającym deepfake'em wideo jest możliwe na standardowym komputerze, bez doświadczenia technicznego - stwierdził Piekutowski zapytany, czy oszuści mogą wykorzystać technologię pokazaną na filmie Browninga do tworzenia filtrów z wizerunkami prawdziwych osób np. pracowników istniejących instytucji.
- Bariera wejścia do tego typu oszustw jest bardzo niska. Jest to scenariusz, który oceniamy jako istotne zagrożenie - ostrzega Piekutowski, wskazując, że do "skonfigurowania filtra odwzorowującego konkretną osobę wystarczy materiał wideo publicznie dostępny w internecie". - A im większa obecność medialna danej osoby, tym łatwiej stworzyć przekonujący model jej wizerunku - zauważa ekspert.
W jego opinii w "grupie podwyższonego ryzyka" są m.in. członkowie zarządów instytucji finansowi, analitycy, którzy udzielają komentarzy na temat sytuacji na rynkach, rzecznicy prasowi i eksperci występujący publicznie.
Słowa Piekutowskiego wskazują, że metody z filtrem można użyć także do stworzenia wizerunku wnuczka, syna, córki czy koleżanki, a następnie wykorzystać do oszustwa na tzw. legendę. Warto mieć to na uwadze, publikując w mediach społecznościowych swoje zdjęcia i filmy oraz materiały, na których widać twarze bliskich osób. "Prywatne" profile również są zagrożone. Jeśli oszust przejmie czyjś profil, będzie miał dostęp do treści opublikowanych przez znajomych tej osoby.
Hanna Sidorska
