Перша половина 2026 року в сфері штучного інтелекту ознаменувалася терміном “tokenmaxxing”, що означає заохочення співробітниками компаній максимально використовувати можливості ШІ. Однак, проаналізувавши витрати на ці послуги, багато компаній переглядають свій підхід. Тепер увага зміщується на “modelmaxxing” – стратегію ефективного використання різних моделей ШІ. Це передбачає спрямування складних, інтелектуально вимогливих завдань на потужні, дорожчі моделі, тоді як простіші та повторювані завдання виконуються більш старими та дешевшими аналогами. Цей підхід, як показує досвід, допомагає оптимізувати витрати та підвищити ефективність роботи з ШІ.
Прощання з Tokenmaxxing
Існують вагомі аргументи на користь використання найновіших моделей ШІ. Як зазначає Кейлін Восс з OpenAI, вдосконалені моделі “зменшують кількість спроб, потребу в нагляді та марнування зусиль”. Однак, не всі завдання вимагають таких значних витрат. Брайан Армстронг, генеральний директор Coinbase, наголосив на цьому у своєму дописі у X: “80% робочих навантажень будуть виконуватися на моделях, на 99% дешевших, протягом 12-18 місяців”. Решта 20% завдань, де “IQ maxxing є важливим”, продовжать працювати на найновіших моделях. Кріс Маконі, співзасновник AI-стартапу Hechura, завжди дотримувався філософії “людина в циклі” і не використовував автоматизованих ботів для безперервного кодування. Вибір моделі є ключовим елементом його підходу, спрямованого проти “tokenmaxxing”. Маконі пригадує цикл популярності OpenClaw – AI-агента, що працював на Mac Mini і споживав значну кількість токенів через цілодобове використання та широку автономію. При налаштуванні свого OpenClaw, Маконі спочатку використовував доступні моделі Gemini, а потім перейшов на Haiku від Anthropic. “Я не боюся пробувати ці моделі нижчого класу, щоб побачити, чи можуть вони надати нам необхідний інтелект”, – каже він.
Творчі способи економії токенів
Танві Пісал, 29-річна UX-дизайнерка, яка працює у великій технологічній компанії, навчилася на власному досвіді більш ефективно використовувати моделі ШІ. Пісал використовує такі інструменти, як Figma, ChatGPT та Claude для мозкового штурму та розробки документів з вимогами до продукту. Вона має корпоративну підписку на ChatGPT і базовий пакет Claude Pro за $20 на місяць. На початкових етапах вона намагалася використовувати Claude для створення UX “з нуля”, що призвело до “марнування місяців токенів” без завершення завдання.
“Тому зараз я спочатку розробляю все у Figma, а потім завантажую скріншоти в Claude. Я прошу Claude зберегти інтерфейс без змін і створити всю функціональність і потік”, – додає Пісал. “Такий підхід, що базується на дизайні, справді допомагає мені економити токени”. Вона також обирає мозковий штурм ідей за допомогою ChatGPT (безкоштовно завдяки корпоративному плану), а потім використовує вдосконалені ідеї в Claude для створення більш відшліфованих документів. Алехандра Томас, інженер-програміст і творець технічного контенту з Нью-Йорка, проводить тести кожної нової моделі, щоб визначити її сильні сторони. “Я намагаюся не використовувати найдорожчу або найсучаснішу модель просто тому, що вона доступна. Для простих завдань я завжди використовую легші моделі або не використовую їх взагалі”, – каже Томас. Ед Стівенс, генеральний директор компанії з продажу AI-рішень Scoot, вважає за краще “обрати модель і працювати з нею”. Його інженери вибирають модель, тестують її кілька місяців, а потім визначають, чи відповідає вона вимогам. Якщо з’являється нова, приваблива модель, або якщо вони вважають, що можуть досягти того ж результату дешевше, вони змінюють вибір. Концепція максимально ефективного використання кожного токена відображає “мислення дефіциту”, за словами Дена Аріелі, дослідника поведінкової економіки та професора Університету Дюка. Аріелі порівнює токени з хвилинами розмови на мобільних телефонах у минулому, коли користувачі намагалися максимально використати доступний час, навіть якщо це означало дзвінки небажаним абонентам. “Токени створюють модель дефіциту, коли люди не можуть використовувати стільки, скільки хочуть. Це створює ціль для використання та психологію марнотратства, якщо ціль не досягнута”, – пояснює він. Щоб уникнути додаткових витрат після досягнення ліміту, користувачі переходять на моделі інших компаній.
Існують інструменти для цього
Якщо “modelmaxxing” здається виснажливим, хороша новина полягає в тому, що вам не доведеться приймати ці рішення самостійно. Стартапи, що спеціалізуються на маршрутизації моделей, стають все більш популярними. Ці компанії надають програмне забезпечення, яке призначає завдання конкретним моделям (іноді включаючи open-source) залежно від їх складності. Ці стартапи користуються великим інтересом з боку венчурних фондів, отримуючи значні інвестиції, як, наприклад, OpenRouter. Девід Гілмор, керівник компанії Rayline, розповідає, що їхній інструмент перехоплює запити та визначає, чи можна їх виконати за допомогою дешевших, часто open-source моделей. Багато клієнтів його фірми стають жертвами “моменту FOMO (страху втратити можливість)”, а потім, побачивши рахунок за API, усвідомлюють необхідність оптимізації. Кількість компаній, що використовують платформи маршрутизації, поступово зростає. За словами головного економіста Ramp, Ара Харазяна, минулого року близько 1% компаній використовували маршрутизатори моделей, а цього року цей показник становить 5%. Інвестиційна фірма BlockSpaceForce зі Сан-Франциско використовує OpenRouter, Fireworks та Together AI. Спенсер Янг, керуючий партнер фірми, також рекомендує спочатку запитувати дешевшу модель, чи потрібна для завдання більш дорога. “Самі моделі стають дуже хорошими в оцінці власної складності”, – зазначає Янг. Деякі компанії продовжують надавати перевагу найновішим і найдорожчим моделям. Маконі з Hecura пояснює це лінню. “Люди не хочуть докладати зусиль, щоб зрозуміти, які моделі краще підходять для певних завдань. Вони просто хочуть їхати на хвилі хайпу”.
За даними порталу: www.businessinsider.com