Spis treści:
- Deepfake'i zalewają sieć. Oszuści wykorzystali prezydenta Nawrockiego, premiera Tuska czy prezesa Glapińskiego
- Przybywa osób wykorzystanych przez deepfake'i. Tak działa proceder
- W tym państwie udało się skutecznie ograniczyć deepfake'i
- "Model warszawski" w walce z deepfake'ami. Polska dostarczyła precedensu
- Ekspert o wyeliminowaniu deeapfake'ów: Konieczna obowiązkowa weryfikacja tożsamości każdego reklamodawcy
Prezes InPostu Rafał Brzoska wszedł w konflikt z Metą w związku z masowym wyświetlaniem na Facebooku i Instagramie fałszywych reklam typu deepfake, które bezprawnie wykorzystywały jego wizerunek oraz wizerunek jego żony do wyłudzania pieniędzy. Procederu nie zatrzymały wyroki sądów czy decyzja Urzędu Ochrony Danych Osobowych (UODO) nakazujące blokadę nielegalnych treści.
W sierpniu na Facebooku (platforma należąca do Mety) została opublikowana sponsorowana reklama, otwiera się w nowym oknie, która sugerowała, że przedsiębiorca został zatrzymany. Zdjęcie przedstawiało skutą kajdankami osobę w szlafroku z twarzą Brzoski. Wszystko działo się z udziałem policji, która przeszukiwała dom.
W tym przypadku zareagował sam wicepremier i minister cyfryzacji Krzysztof Gawkowski. Stwierdził, że Meta musi zrozumieć, iż "nie jest ponad prawem" i ma obowiązek, a także środki oraz technologie, by skutecznie blokować takie treści. Do tego zapowiedział, że zwróci się do firmy o pilne wyjaśnienia dotyczące przestrzegania przepisów DSA i eliminowania oszukańczych reklam. Jednak wykorzystywanie wizerunku Brzoski do tworzenia deepfake'ów nie jest odosobnionym przypadkiem, a w ostatnim czasie w sieci pojawiła się cała seria podobnych materiałów.
Deepfake'i zalewają sieć. Oszuści wykorzystali prezydenta Nawrockiego, premiera Tuska czy prezesa Glapińskiego
- Znana twarz robi w reklamie to, co mundur na ulicy: wyłącza pytanie, kim jesteś, i zostawia tylko pytanie, czego chcesz. Anonimowa twarz sprzedaje obietnicę, znana twarz sprzedaje gwarancję - tłumaczy mechanizm w rozmowie z Interią Biznes Robert Nogacki, radca prawny i partner zarządzający Kancelarii Prawnej Skarbiec, specjalizujący się m.in. w sprawach bezprawnego wykorzystywania wizerunku w internecie i w prawie platform cyfrowych.
W listopadzie ubiegłego roku w sieci pojawił się film, w którym wykorzystano wizerunek prezydenta Karola Nawrockiego. W przerobionym komputerowo nagraniu stylizowanym na fragmenty programu informacyjnego włożono w usta polityka słowa o zarobkach sięgających 3 tys. złotych dziennie.
Zobacz również:
Oszuści posłużyli się manipulacją. Wykorzystali fragmenty prawdziwych wywiadów z prezydentem Nawrockim, a następnie za pomocą sztucznej inteligencji sfałszowali jego głos oraz ruch ust. Do tego wykorzystali kilka trików: wspomnieli o długich kolejkach przed bankomatami czy ograniczonej liczbie miejsc. Zadbali także o uwiarygodnienie swojego przekazu. W usta polityka włożyli słowa o "wsparciu banku polskiego" czy "oficjalnej licencji rządu".
Przed dwoma laty po sieci krążyło podobne nagranie, ale tym razem z udziałem ówczesnego prezydenta Andrzeja Dudy. Polityk obiecywał w nim rzekomy dochód pasywny - tym razem w wysokości 4 tys. zł dziennie. Było to kolejne oszustwo z wykorzystaniem AI.
Oszuści wykorzystywali także wizerunek prezesa NBP. Adam Glapiński miał rzekomo promować platformę inwestycyjną i obiecywać każdemu, kto zainwestuje tysiąc złotych, miesięczny zarobek "od 11 do 20 tys. zł, zależnie od warunków rynkowych". Mechanizm był podobny - wykorzystano fragmenty konferencji "Polski złoty i niezależność NBP jako fundamenty rozwoju gospodarczego", jednak w jej trakcie Glapiński ani słowem nie wypowiedział się na temat żadnej platformy inwestycyjnej.
Podobną fałszywą reklamę przemycono w marcu tego roku w nagraniu fikcyjnego wywiadu Glapińskiego u Moniki Olejnik w TVN24. W trakcie niego "ujawniono" informacje także o platformie inwestycyjnej, którą elity finansowe mają "ukrywać przed zwykłymi Polakami". "Ponad 7 mld zł czystego zysku. Średni użytkownik zarabia od 11 tys. do 23 tys. zł miesięcznie. Bez kredytów. Bez prowizji dla banków. I co najciekawsze - mamy informacje, że pracownicy NBP sami korzystają z tej platformy" - słychać było w sfingowanym materiale. Następnie widać było, jak Glapiński zrywa mikrofon i ucieka ze studia - wszystko działo się przy oklaskach widzów. Co więcej, mimo interwencji, materiał ponownie wracał i był odtwarzany.
Nie zawsze jednak deepfake'owe materiały służą celom reklamowym - w niektórych przypadkach są wykorzystywane do osiągania politycznych korzyści czy siania dezinformacji w społeczeństwie. W tym kontekście oszuści przy użyciu AI stworzyli inną zmyśloną sytuację w studiu "Kropki nad i", w którym wytworzono debatę pomiędzy Karolem Nawrockim a Donaldem Tuskiem. I choć politycy nie spotykają się na wspólnych wywiadach, a grafika już na pierwszy rzut oka wyglądała na wygenerowaną przez AI, to szybko stała się jednym z najbardziej komentowanych materiałów w mediach społecznościowych.
O tym, że materiał został przygotowany w celach politycznych, najlepiej świadczy reakcja internautów. W pewnym momencie nagrania premier miał nie wytrzymać napięcia, wstać i wyjść ze studia. Internauci szybko zaczęli komentować sytuację: "Brawo Panie Prezydencie!", "Tuskowi puszczają nerwy", "Nie wytrzymał napięcia", "Panie Prezydencie, ogromny szacunek".
Nie tylko osoby publiczne czy politycy padają ofiarą podobnych manipulacji. Oszuści chętnie wykorzystują także wizerunki lekarzy i ekspertów do promowania fałszywych leków, suplementów czy kosmetyków, a także celebrytów i influencerów do reklamowania fikcyjnych produktów czy usług.
Przybywa osób wykorzystanych przez deepfake'i. Tak działa proceder
Z wyliczeń NASK, otwiera się w nowym oknie wynika, że tylko w 2024 roku w fałszywych materiałach wykorzystano wizerunki co najmniej 121 polskich osób publicznych. Dobór osób, których wizerunek jest wykorzystywany w deepfake'ach, nie jest przypadkowy - każda rozpoznawalna twarz pozwala oszustom dotrzeć do innej grupy potencjalnych ofiar.
- Rafał Brzoska, otwiera się w nowym oknie uosabia prywatny sukces i trafia do ludzi marzących o przedsiębiorczości, prezydent i prezes NBP niosą powagę państwa i trafiają do ostrożnych, którzy nigdy nie kliknęliby w reklamę z celebrytą, ale zaufają instytucji - wylicza Interii Biznes Robert Nogacki.
Kilka miesięcy temu Reuters opublikował serię materiałów, w których ustalił na podstawie wewnętrznych dokumentów Mety, że około 10 proc. jej przychodów w 2024 roku, czyli blisko 16 mld dolarów, mogło pochodzić z reklam oszustw, nielegalnego hazardu i zakazanych towarów. Meta później zakwestionowała tę kalkulację jako zawyżoną. Jak wynikało z doniesień, w grudniu 2024 r. analitycy koncernu oszacowali, że platformy Mety wyświetlają dziennie 15 mld reklam o podwyższonym ryzyku oszustwa. Co więcej, jeśli system nie miał co najmniej 95 proc. pewności, że reklamodawca jest oszustem, Meta nie musiała blokować jego konta - podejrzany mógł nadal kupować reklamy, tyle że po wyższej stawce, co oznaczało dodatkowy przychód dla platformy.
- System, w którym karą za podejrzenie oszustwa jest wyższa stawka reklamowa, nie ma luki; sam jest luką - komentuje prawnik. Zdaniem eksperta usuwanie pojedynczych kreacji to koszenie trawy przy zepsutym systemie nawadniania. Wskazuje, że kampanię można uczynić nieopłacalną, uderzając w jej kluczowe elementy: skuteczniejsza weryfikacja utrudnia oszustom zakładanie kont, szybkie zabezpieczenia sądowe ograniczają skalę procederu, a odpowiedzialność finansowa platform zmienia ich kalkulację.
W tym państwie udało się skutecznie ograniczyć deepfake'i
Australia często wymienia jest za przykład państwa, któremu udało się skutecznie ograniczyć deepfake'i, otwiera się w nowym oknie w internecie. Kraj działa dwutorowo; obok procesu ACCC, w którym Meta odpowiada jako pomocnik naruszeń swoich reklamodawców, państwo wprowadziło nowe przepisy nakładające na banki, operatorów i platformy obowiązek aktywnego przeciwdziałania oszustwom.
Jednak Nogacki w rozmowie z Interią Biznes wskazuje, że to Tajwan poradził sobie z tym wzywaniem lepiej. - Gdy w 2023 r. nakazano tam platformom weryfikować tożsamość każdego reklamodawcy produktów finansowych, liczba reklam oszustw inwestycyjnych spadła o 96 proc., a Meta, otwiera się w nowym oknie podporządkowała się pod groźbą kar przewyższających jej lokalne zyski. Według ujawnionych szacunków własnych inżynierów koncernu, globalne wdrożenie takiej weryfikacji zajęłoby niecałe sześć tygodni i kosztowało około dwóch miliardów dolarów. Wewnętrzny dokument strategiczny nazwał tę perspektywę "czarnym łabędziem", przy czym czarnym łabędziem nie jest tu katastrofa, lecz konieczność sprawdzania klientów - zauważa ekspert.
"Model warszawski" w walce z deepfake'ami. Polska dostarczyła precedensu
UE ma przepisy do walki z deepfake'ami. Akt o usługach cyfrowych (DSA) nakłada na platformy obowiązek odpowiedniego projektowania algorytmów i interfejsów, tak aby ograniczać rozpowszechnianie dezinformacji, oszustw i nielegalnych treści, a od 2 sierpnia jest obowiązek oznaczania treści syntetycznych z AI. - Brakuje jej nie przepisów, lecz pierwszej kary, która boli, a precedens już jest, bo w grudniu Komisja nałożyła na platformę X 120 milionów euro - wskazuje Nogacki. W odwecie strona KE na X została zablokowana.
W Polsce prezydent Nawrocki nie podpisał ustawy wdrażającej DSA. Nasz kraj ma jednak również swoje narzędzia. - Polska, paradoksalnie, dostarczyła dwóch precedensów - zauważa ekspert.
Prezes UODO w sierpniu 2024 r. po raz pierwszy w Europie użył trybu pilnego z RODO, nakazując Mecie wstrzymanie reklam z wizerunkami państwa Brzosków, a Sąd Apelacyjny w Warszawie 27 marca odrzucił obronę opartą na biernym hostingu, wskazując, że platforma sama decyduje, weryfikuje, pobiera wynagrodzenie i targetuje. Do tego dochodzi ścieżka karna z art. 190a § 2 kodeksu karnego, penalizującego podszywanie się z użyciem cudzego wizerunku, z karą do ośmiu lat.
- Problem leży gdzie indziej: pojedynczy pokrzywdzony wygrywa sprawę, ale przegrywa skalę, bo wariantów reklam z samym Brzoską naliczono 263, a fałszywy wywiad prezesa NBP wraca na platformy od miesięcy mimo dementi. Prawo nie jest o krok za oszustami; jest o krok za platformą, bo to ona widzi ich pierwsza. Dlatego przełomem nie będzie kolejne orzeczenie przeciwko anonimowemu sprawcy, tylko przeniesienie obowiązku prewencji tam, gdzie jest wiedza i infrastruktura - podkreśla Nogacki.
Ekspert o wyeliminowaniu deeapfake'ów: Konieczna obowiązkowa weryfikacja tożsamości każdego reklamodawcy
- Gdybym miał wskazać jedno rozwiązanie dla Polski i Unii, to byłaby to obowiązkowa weryfikacja tożsamości każdego reklamodawcy produktów finansowych przed emisją, z dopuszczeniem reklamy inwestycyjnej wyłącznie dla podmiotów z rejestru licencjonowanych instytucji, u nas naturalnie w oparciu o listy KNF - odpowiada ekspert z Kancelarii Prawnej Skarbiec.
Zobacz również:
- To rozwiązanie sprawdzone empirycznie na Tajwanie, wykonalne technicznie w tygodnie, według szacunków samej Mety, i możliwe do wyegzekwowania w Unii bez nowej legislacji, przez środki ograniczania ryzyk systemowych z DSA - podkreśla.
Do skuteczniejszego egzekwowania zostają jeszcze dwa istniejące instrumenty: postępowanie Komisji przeciwko Mecie, otwarte od kwietnia 2024 r. dotyczące nieuczciwych i wprowadzających w błąd reklam oraz systemów rekomendacji oraz art. 50 AI Act, zgodnie z którym każdy deepfake musi być jasno oznaczony. Reklamowy deepfake z założenia ukrywa swój sztuczny charakter, co stanowi bezpośrednie naruszenie unijnych wymogów przejrzystości.
- Regulacja zacznie działać w dniu, w którym rachunek się odwróci; dziś kara wciąż jest bardziej opłacalna niż utrata zysków z fałszywych reklam - podsumowuje prawnik.
Sebastian Tałach
