Витрати на самостійних ШІ-агентів збільшаться в п’ять разів до 2028 року, прогнозує Gartner

Зниження вартості токенів не вирішить проблеми, коли складні операційні процеси споживають їх у значно більшій кількості, попереджає аналітична фірма Gartner. 

Залишити коментар

Згідно з прогнозом Gartner, до кінця 2028 року видатки на робочі потоки, що задіюють автономний ШІ (Agentic AI), збільшаться більш ніж у п’ять разів. Це зумовлено переходом користувачів до більш комплексних сценаріїв використання цієї технології, як зазначає The Register.

Поки Nvidia та інші технологічні лідери активно просувають інференс та ШІ-агентів як наступний етап розвитку штучного інтелекту, Gartner висловлює застереження: вартість впровадження подібних систем буде зростати, навіть попри зниження цін на базові моделі.

Аналітики провели дослідження молодого сегменту ринку ШІ-агентів — систем, що здатні діяти самостійно для досягнення поставлених завдань — і виявили численні виклики попереду.

Навіть не беручи до уваги значні ризики для безпеки, такі програмні агенти виявляються набагато складнішими за традиційних чат-ботів.

У Gartner висловлюють переконання, що зниження цін на моделі стимулюватиме створення більш заплутаних операційних потоків. Однак, підвищене споживання токенів у цих потоках нівелює економію від низьких тарифів, призводячи до збільшення загальних витрат на інференс.

Іншими словами, токени стають доступнішими за ціною, але ця економія не компенсує подорожчання просунутих ШІ-можливостей. Темпи інновацій перевищують динаміку зниження витрат.

«Сувора економіка „парадоксу інференсу“ яскраво проявляється у відмінності між звичайним чат-ботом та ШІ-агентом. Якщо звичайний чат-бот має лише прочитати й інтерпретувати запит та швидко надати, ймовірно, правильну відповідь, то ШІ-агент мусить безперервно аналізувати, вести переговори та піддавати сумніву власні дії,» — зазначає старший директор-аналітик Gartner Вілл Соммер.

Усі ці процеси сумуються: передача завдання моделі-агенту для міркування збільшує витрати на інференс щонайменше вп’ятеро, а зі зростанням складності завдання — ще більше.

Для досягнення рентабельності таких інструментів необхідна або суттєво вища віддача, ніж від базових моделей, або краща оптимізація інференсу, маршрутизації та оркестрації. Це передбачає призначення кожного завдання найбільш відповідній за вартістю та можливостями моделі.

Перехід частини постачальників від фіксованої підписки до моделі оплати за фактичне використання лише загострив ситуацію. Сценарії з високим споживанням токенів за такої моделі ведуть до неконтрольованого зростання рахунків.

Не дивно, що на початку цього року Gartner прогнозувала: приблизно 40% компаній згорнуть або виведуть з експлуатації своїх ШІ-агентів через проблеми з цієї розрекламованої технології.

Нагадаємо, що у червні Gartner прогнозувала: вже до 2028 року інструменти для ШІ-кодингу можуть коштувати більше, ніж середня заробітна плата розробника.