Вартість використання передових моделей штучного інтелекту стала актуальним питанням для багатьох компаній. За словами генерального директора OpenAI Сема Альтмана, використання “токенів” – одиниць вимірювання обсягу оброблюваної інформації – значно зросло. Це призвело до того, що бюджетування у сфері ШІ перетворилося на “величезну проблему”, яка раптово постала перед бізнесом.
Сем Альтман зазначив, що найбільший споживач токенів OpenAI витрачає 100 мільярдів на місяць.
Інтенсивність використання токенів
Історія компанії OpenAI демонструє стрімке зростання споживання токенів. Шість з половиною років тому, за словами Альтмана, найбільший споживач токенів у компанії використовував близько 100 000 токенів на місяць. Тоді це, ймовірно, було найбільшим показником у світі.
На сьогоднішній день, середньостатистичний користувач OpenAI витрачає приблизно стільки ж. Однак, найактивніший споживач у компанії використовує близько 100 мільярдів токенів щомісяця. Альтман також зазначив, що компанія виявила споживача поза межами OpenAI, який витрачає ще більше, що він особисто вважає “принизливим”.
Культура компанії OpenAI заохочує активне використання токенів. Існують внутрішні рейтинги споживання, а співробітники часто діляться своїми вражаючими показниками у соціальних мережах. Це підсилюється тим, що OpenAI також є продавцем токенів.
Винятки та корпоративні обмеження
Хоча співробітники OpenAI демонструють надзвичайно високі показники споживання, існують і інші приклади. Зокрема, згадується випадок, коли один зі співробітників витратив 603 мільярди токенів за 30 днів. Інші джерела повідомляють про споживання 210 мільярдів токенів за тиждень одним співробітником.
На противагу цій тенденції, багато інших компаній починають обмежувати використання токенів. Amazon припинив ведення рейтингу споживання токенів, а Uber, за повідомленнями, встановив ліміти після того, як його операційний директор висловив занепокоєння щодо обґрунтованості таких витрат.
Майбутнє оптимізації витрат
Сем Альтман наголосив на необхідності оптимізації витрат, посилаючись на актуальний мем: “Моя компанія витратила весь бюджет 2026 року за перший квартал, чи можете ви зробити це ефективніше?”. Він зазначив, що OpenAI працює над удосконаленням своїх моделей та пошуком нових шляхів надання “більшої цінності за менших витрат”.
За його словами, питання оптимізації витрат стало актуальним досить раптово. На початку 2026 року ця проблема взагалі не піднімалася, і користувачі були цілком задоволені обсягами витрат. Однак, зараз витрати на ШІ стали “величезною проблемою”.
Інформація підготовлена на основі матеріалів: www.businessinsider.com