OpenAI pobierał od klientów najniższą możliwą cenę za subskrypcję ChataGPT. Celem było ściągnięcie jak największej ich ilości, co było standardową taktyką w Dolinie Krzemowej. Jak jednak ocenił rozmowie z agencją AFP Kevin Simback z inkubatora startupów Delphi Labs, te czasy powoli mijają i firmy zajmujące sztuczną inteligencją muszą zacząć zarabiać na siebie.
Giganci AI muszą zacząć na siebie zarabiać. Wzrosną koszty wykorzystania AI
Jak ostrzega Simback liderzy OpenAI i Anthropic chcą wejść na giełdę jeszcze w tym roku, a aby ściągnąć inwestorów, będą musieli zapewnić rentowność swoim firmom. Ekspert ocenia, że do tej pory to inwestorzy "płacili rachunki" za to, aby firmy mogły oferować tani dostęp do sztucznej inteligencji.
Wzrost kosztów szczególnie odczują firmy korzystające z agentów AI. Te w przeciwieństwie do chatbotów, które tylko odpowiadają na pytania, aktywnie "pracują", np. rezerwując spotkania, pisząc kod czy zarządzając plikami. Jedno uruchomienie takowych może pobudzić dziesiątki agentów jednocześnie, a każdy z nich pobiera opłaty w tokenach. Tokeny to podstawowa jednostka używana przez firmy zajmujące się sztuczną inteligencją do wystawienia rachunku klientów. Jedno zadanie wykonane agentem może kosztować nawet dziesięć razy więcej tokenów, niż jedna wiadomość na czacie.
Koszt użycia sztucznej inteligencji wyższy niż koszt zatrudnienia pracowników
Do obsługi tych zadań potrzebne są chipy komputerowe i centra danych, które już nie nadążają za popytem.
"Zwłaszcza wśród programistów koszt wykorzystania sztucznej inteligencji do takich celów jak kodowanie wzrósł wykładniczo. Wszystkie koszty rosną" - mówił Mark Barton z z firmy konsultingowej Omniux.
Jak z kolei mówi AFP analityk Jack Gold z J.Gold Associates w niektórych przypadkach koszt tokenów przekracza koszty miesięcznego lub nawet dwumiesięcznego zatrudnienia pracownika.
Zmiana w użyciu AI w firmach. Meta każde oszczędzać, a firmy przechodzą na darmowe lub specjalistyczne modele
Meta (właściciel Facebooka i Instagrama) do tej pory zachęcała pracowników do używania wielu tokenów, żeby sprawdzić ich produktywność. Jak podaje "Wall Street Journal", teraz firma zaczęła mieć wątpliwości, a do pracowników wysłano wiadomość, aby oszczędzali moce przerobowe AI.
"Nikt nie powinien używać narzędzi AI dla samego korzystania" - napisał w wiadomości do pracowników Mety dyrektor ds. technologii Andrew Bosworth.
Niektóre firmy w celu ograniczenia kosztów zaczynają przechodzić na lokalne modele AI open source, które można pobrać na dysk. Nie są tak wydajne, jak np. ChatGPT czy Claude, ale wystarczające do prostszych zadań. Inne decydują się na specjalistyczne modele dostosowane do ich branż.
"Duży, duży model monolityczny kosztuje 15 dolarów za milion tokenów, ale jeśli użyjesz mniejszego minimodelu, możesz obniżyć ten poziom do około pięciu centów" - mówi Adrian Balfour z firmy konsultingowej Enverso.
Podobne opinie przedstawiał w wywiadzie z Interią Biznes w połowie maja Sebastian Kondracki, współtwórca Bielik AI. Jak zapowiadał, gdy ceny najbardziej popularnych modeli, jak np. ChatGPT pójdą w górę, to coraz więcej firm zacznie decydować się na mniejsze, lokalne modele, które będą tańsze i bardziej skrojone pod potrzeby poszczególnych firm.
