Sztuczna inteligencja już umie kłamać. Powstaną sprzedawcy i negocjatorzy

ChatGPT, zaskakująco elokwentny chatbot, olśnił internet swoją zdolnością do odpowiadania na wszelkiego rodzaju zawiłe pytania - choć nie zawsze zgodnie z prawdą. Niektórzy próbują już teraz wykorzystać biegłość bota do odgrywania różnych ról. Mają nadzieję wykorzystać sztuczną inteligencję, taką jak ta stojąca za ChatGPT, do tworzenia programów, które mogą przekonywać, namawiać i dręczyć z nadludzką wytrwałością - w niektórych przypadkach, aby wzmocnić pozycję konsumentów, ale w innych, aby zwiększyć sprzedaż.

Joshua Browder, dyrektor generalny DoNotPay, firmy automatyzującej zadania administracyjne, w tym kwestionowanie mandatów za parkowanie i żądanie odszkodowania od linii lotniczych, opublikował w tym tygodniu film przedstawiający chatbota negocjującego w imieniu klienta cenę usługi internetowej. Negocjatora zbudowano w oparciu o technologię AI, która napędza ChatGPT. Chatbot jest w stanie narzekać na słabą usługę internetową i odrzucać uwagi agenta Comcast na czacie online, z powodzeniem negocjując zniżkę w wysokości 120 dolarów rocznie.

Browder przyznaje, że jego prototypowy bot negocjacyjny wyolbrzymił opis przerw w dostępie do internetu, ale twierdzi, że zrobił to w sposób "podobny do tego, jak zrobiłby to klient". Twierdzi, że technologia może być potężną pomocą dla klientów stojących w obliczu korporacyjnej biurokracji.

DoNotPay wykorzystał GPT-3, model językowy stojący za ChatGPT, który OpenAI udostępnia programistom jako usługę komercyjną. Browder mówi, że firma dostosowała GPT-3, szkoląc go na przykładach udanych negocjacji oraz wykorzystując odpowiednie informacje prawne. Ma nadzieję zautomatyzować znacznie więcej niż tylko rozmowę z Comcast, w tym negocjacje z ubezpieczycielami zdrowotnymi. - Jeśli możemy zaoszczędzić klientowi 5 tys. dolarów rocznie na rachunku medycznym, to jest to prawdziwa wartość - mówi Browder.

ChatGPT to implementacja nowej linii programów sztucznej inteligencji z obsługą języka tworzonych przy użyciu ogromnych ilości informacji tekstowych zebranych z zasobów sieci. Algorytmy, które przetrawiły ten materiał szkoleniowy, mogą naśladować pismo ludzkie i odpowiadać na pytania, wydobywając z nich przydatne informacje. Ale ponieważ działają na tekście, używając statystycznego dopasowywania wzorców, a nie rozumienia świata, są skłonne do generowania płynnych nieprawd.

Ostatnio pojawiło się wielu nowych płynnych agentów konwersacyjnych opartych na tym nowym podejściu do sztucznej inteligencji językowej. W maju 2021 r. Google zaprezentowało opracowywanego zaawansowanego chatbota o nazwie LaMDA i reklamowało go jako przyszłość wyszukiwania. W czerwcu inżynier w firmie został zawieszony po dziwacznym stwierdzeniu, że program wykazuje oznaki świadomości. Startupy pracują nad podobnymi botami do zadań takich jak dostarczanie rozrywki lub pełnienie funkcji osobistych asystentów.

Browder z DoNotPay nie jest jedyną osobą, która postrzega ChatGPT i stojącą za nim technologię jako sposób na automatyzację perswazji. Jeden z lekarzy zamieścił na Twitterze film pokazujący, w jaki sposób bot może napisać list, aby przekonać ubezpieczyciela do zapłaty za określoną procedurę, cytując nawet literaturę naukową, choć z wątpliwą dokładnością.

Browder mówi, że już bierze udział w "wyścigu zbrojeń" z firmami, które używają zautomatyzowanych narzędzi, aby zneutralizować jego usługi. Oczekuje, że teraz się to nasili, ale twierdzi, że przyszłość będzie polegać na tym, że to boty zaczną rozmawiać ze sobą, aby uzyskać optymalny wynik.

Jonas Kaiser, adiunkt na Uniwersytecie Suffolk w Bostonie, który bada internetowe dezinformacje i zalecenia algorytmiczne, mówi, że koszt tworzenia dużych modeli językowych - często sięgający dziesiątków milionów dolarów - oznacza, że duże firmy mogą mieć przewagę. 

- Firmy mogą i prawdopodobnie będą trenować model językowy pod kątem określonego, pożądanego rezultatu - na przykład wycofania reklamacji przez klienta lub podpisania nowej umowy - mówi.

Niektóre firmy już korzystają z modeli językowych sztucznej inteligencji, aby pomóc sprzedawcom doskonalić ich prezentacje. Eilon Reshef, współzałożyciel i dyrektor ds. produktów w Gong, firmie wykorzystującej sztuczną inteligencję do optymalizacji sprzedaży, widzi duży potencjał w ChatGPT.

Gong wykorzystuje sztuczną inteligencję do analizowania tekstu ofert sprzedaży używanych podczas rozmów telefonicznych i na piśmie oraz do przekazywania informacji zwrotnych sprzedawcom. Reshef mówi, że skłonność generatorów języka do fabrykowania treści oznacza, że człowiek nadal powinien nadzorować tę technologię.

ChatGPT wywołał spekulacje na temat tego, jak AI może wyprzeć ludzi z niektórych rodzajów pracy biurowej. David Autor, ekonomista z MIT, który bada wpływ sztucznej inteligencji na pracę, mówi, że jest zbyt wcześnie, aby stwierdzić, czy ta nowa generacja technologii sztucznej inteligencji wzmocni ludzką pracę, czy ją zastąpi. Widzi jednak duży potencjał zakłóceń w obu miejscach pracy za sprawą komercyjnej adaptacji systemów podobnych do ChatGPT, oraz, w szerszym społeczeństwie, poprzez złośliwe zastosowania. 

- To będzie siać wszelkiego rodzaju spustoszenie. Możliwości oszustw będą po prostu niesamowite - ostrzega.

Krzysztof Maciejewski