Ако сте използвали безплатна версия на ChatGPT или някой от конкурентите му, задвижвани от изкуствен интелект, със сигурност сте получили добра сделка. Технологични гиганти като Microsoft, Google и Anthropic са инвестирали стотици милиарди долари в разработването на големи езикови модели (LLM) – технологията, която стои зад тези иновативни услуги.

В резултат на това получаването на помощ от ChatGPT, Claude или Gemini за съставяне на реч или планиране на ваканция е изключително изгодно за крайния потребител. Разбира се, тези компании се стремят да възвърнат огромните си инвестиции и предлагат платени версии на своите AI продукти, които включват допълнителни функции за специализирани задачи като програмиране или фактуриране.

Същевременно на пазара се появяват и други компании, които разработват и продават услуги, базирани на AI агенти – софтуер, обикновено изграден върху голям езиков модел и обучен да изпълнява конкретни задачи. Определянето на цена за тези услуги обаче се оказва изненадващо сложно.

„Да се опитваш да обвържеш някого с модел на разходите за следващите 12 месеца, две или три години просто няма смисъл, честно казано, защото ние не знаем какво ще се случи“, казва Саймън Гуч от Saviynt – компания за управление на идентичността, която интегрира агентен AI в своите услуги.

Какво е "токеномика" и защо е непредсказуема?

Причината за тази несигурност се крие в бързо променящата се икономика на токените – градивните елементи на големите езикови модели и агентния AI.

Когато потребител зададе въпрос на LLM като ChatGPT или Claude, поиска да генерира програмен код или да автоматизира процес, подаденият текст се разбива на математически единици, наречени токени. Моделът обработва тези токени и генерира отговор, който също е под формата на токени, преди да бъде преобразуван обратно в разбираем текст, код или команди.

Проблемът е, че този процес не е напълно предвидим. Малки промени във формулировката на една заявка могат да доведат до напълно различни отговори. Една и съща заявка невинаги генерира идентичен резултат, а различните модели също дават различни отговори. При агентните системи ситуацията става още по-сложна, тъй като компаниите често използват множество AI агенти едновременно, което увеличава както потреблението на токени, така и непредвидимостта на разходите.

Неконтролируеми разходи: Дори гигантите изпитват затруднения

Според анализ на Goldman Sachs цената на отделните токени е спаднала рязко през последните години. В същото време обаче броят на токените, използвани от бизнеса и потребителите, е скочил стремително. Банката прогнозира, че потреблението ще се увеличи 24 пъти между 2026 и 2030 г., достигайки 120 квадрилиона токена месечно.

Въпреки това компаниите и индивидуалните потребители често имат ограничена представа колко токени всъщност изразходват, докато не получат месечната си сметка. Дори технологични гиганти се сблъскват с този проблем. Според съобщенията Microsoft е ограничила използването на някои външни инструменти за програмиране от своите инженери, а Uber е изчерпала годишния си бюджет за AI токени само за няколко месеца.

„Хората откриват, че е наистина трудно да управляват този разход... резултатът не е детерминиран и следователно стойността също не е детерминирана“, коментира Уил Вентърс, доцент по дигитални иновации в London School of Economics.

Как компаниите се опитват да управляват разходите за AI?

В търсене на решение, компаниите прилагат различни стратегии за овладяване на разходите. Някои от тях включват:

Използване на лични акаунти: По-малки организации заобикалят проблема, като използват лични акаунти с фиксирана такса, макар тази практика да не е устойчива в дългосрочен план.
Внимателен подбор на модели: Компаниите трябва да обмислят по-внимателно кои AI модели използват за конкретни задачи, за да оптимизират разходите.
Прецизиране на заявките: Формулирането на по-точни и детайлни заявки може значително да намали ненужното потребление на токени.

Роб Стийл, финансов директор в iplicit, прави аналогия: „Не бихте изпратили някого от семейството си да пазарува за седмицата без подробни инструкции какво точно очаквате да има в кошницата, нали?“

Предизвикателството да прехвърлиш сметката на клиента

Ситуацията се усложнява още повече, когато компаниите вградят AI в продукт, използван от хиляди клиенти. Разходите могат да нараснат лавинообразно, особено при използването на агентни процеси, където добавянето на нови AI агенти става с едно натискане на бутон.

В крайна сметка тези разходи трябва да бъдат прехвърлени върху крайните клиенти, но все още никой не е намерил идеалното решение.

„Никой все още не е намерил правилното решение“, признава Бил Питърсън от Sumo Logic.

Компанията му обмисля различни варианти за таксуване на новите си услуги, базирани на AI, като общо повишаване на цените, плащане според постигнатите резултати или таксуване на „пакети“. Всяка ценова структура обаче може да се окаже остаряла, ако доставчиците на LLM променят собствените си стратегии. Тази променливост в ценообразуването затруднява бюджетирането и не се харесва на клиентите.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !