Liczący około 150 osób zespół moderatorów TikToka w Berlinie zajmował się usuwaniem z serwisu nielegalnych treści, w tym przemocy, pornografii, mowy nienawiści i dezinformacji. Po zmianach za te prace odpowiedzialna będzie zewnętrzna firma wspierana przez AI.
AI zastąpi moderatorów TikToka. Związkowcy protestują
Po zapowiedziach chińskiego koncernu ByteDance, do którego należy TikTok, w lipcu w Berlinie około 50 osób protestowało przeciw planom serwisu na zastąpienie moderatorów sztuczną inteligencją.
Związkowcy prezentowali banery z napisami: "Wytrenowaliśmy wasze maszyny - zapłaćcie nam, na co zasługujemy". Niemiecki związek zawodowy reprezentujący pracowników sektora usług Ver.di zapowiedział dalsze działania, jeśli firma nie wycofa się z planowanych zwolnień. Związki zawodowe ostrzegają, że AI potrafi błędnie klasyfikować nawet niewinne treści.
"To niebezpieczne. Nie można moderacji oddać w pełni algorytmom" - powiedziała Sara Tegge, jedna ze zwolnionych moderatorek, cytowana przez agencję AFP.
TikTok będzie "mniej bezpieczny" bez moderatorów?
Według informacji VRT w berlińskim biurze TikToka pracowało 11 moderatorów odpowiedzialnych za język niderlandzki. Jeden z nich, cytowany anonimowo, ostrzega: "Już teraz często reagujemy za późno na niebezpieczne trendy, bo jesteśmy zbyt małym zespołem. Zastąpienie nas przez AI tylko pogorszy sytuację. Aplikacja stanie się mniej bezpieczna". Również eksperci podchodzą do tej decyzji krytycznie.
"AI nie potrafi rozpoznać subtelnych form mowy nienawiści ukrytej w emoji, kodach czy muzyce. Tylko człowiek ma ten kontekst" - mówił na antenie VRT Radio 1 specjalista ds. AI Olivier Cauberghs.
Jego zdaniem zwolnienia moderatorów wpisują się w globalny trend wycofywania się platform z inwestycji w ręczną moderację, co może prowadzić do wzrostu liczby treści nielegalnych lub nieodpowiednich.
W 2024 roku TikTok zwolnił cały zespół moderatorów treści w Amsterdamie, a więc około 300 osób. Zespół odpowiadał za weryfikację treści w językach: niderlandzkim, angielskim i włoskim. TikTok utrzymuje, że większość treści naruszających regulamin jest już usuwana dzięki sztucznej inteligencji. Jednocześnie firma zapewnia, że ręczna moderacja będzie kontynuowana w Europie, ale realizowana przez podwykonawców.
