Штучний інтелект (ШІ) справді трансформує різні сфери, і саме в цьому полягає його головна небезпека: коли технологія кардинально змінює усталені процеси, ринок часто перестає ставити критично важливі запитання.
Нинішній ажіотаж навколо ШІ підживлюється не лише інноваційними проривами. За ним стоїть потужна суміш жадібності та страху втраченої вигоди. Коли ці два чинники домінують, раціональна поведінка поступається місцем ірраціональним діям. Це не вирок самій технології, а радше спостереження за динамікою ринку, адже подібні сценарії вже траплялися.
Ознаки надмірного оптимізму
Існує чітка ознака того, що ринок перетнув межу від обґрунтованого захоплення до ірраціонального оптимізму: вартість капіталу наближається до нуля. Коли ризики перестають враховуватися у ціноутворенні, зникає й ринкова дисципліна. Питання про окупність інвестицій, про потенційні наслідки збоїв — усе це приноситься в жертву в гонитві за швидким прибутком.
Капітал зараз розподіляється майже безконтрольно. Підприємці засвоїли: додавання згадки про «ШІ» до опису будь-якого продукту автоматично відкриває багато дверей. Великі корпорації здійснюють масштабні закупівлі, пов’язані з ШІ, але переважно в рамках досліджень та розробок (R&D), намагаючись зрозуміти, що означає ця технологія для їхнього бізнесу, перш ніж конкуренти вирвуться вперед. Паралельно діє механізм рециркуляції: значна частина доходів компаній, що працюють у сфері ШІ, надходить від інших таких компаній, які купують обчислювальні потужності та послуги. Кожен долар у таких транзакціях умовно прирівнюється до десяти.
Це і є проблема короткострокового перебільшення. Шлях від революційної технології до сталої цінності ніколи не буває прямим — епоха доткомів яскраво це продемонструвала. Ми схильні переоцінювати короткостроковий ефект і недооцінювати довгостроковий. Наразі ми перебуваємо саме у фазі завищених очікувань.
Реальні перешкоди для впровадження
Поряд із потоком капіталу, що спрямовується в ШІ, існує довгий і переважно невирішений перелік реальних перешкод для його масового впровадження.
Серед них — рекурсивне забруднення даних. Великі мовні моделі генерують величезні обсяги контенту, який потім використовується як навчальний матеріал для наступного покоління моделей. Помилки та “галюцинації” посилюються з кожним циклом. Це схоже на багаторазове копіювання копії: якість незмінно знижується, і зрештою стає неможливо встановити первинне джерело. Індустрія вже звертається до синтетичних даних, щоб компенсувати брак якісного людського контенту, — проте це може прискорити деградацію, а не усунути її.
Ще серйознішою є проблема “відотруєння” даних. Зловмисники можуть навмисно спотворювати навчальну вибірку, і одного разу впроваджений “отруйний” елемент залишається в моделі назавжди. Особливо небезпечним є військовий сценарій: ШІ, навчений розпізнавати “своїх” і “чужих” на основі скомпрометованих даних, виявить приховану вразливість лише в розпал реального конфлікту. Задокументовано, що для “отруєння” мовних моделей будь-якого розміру достатньо лише 250 шкідливих документів — це робить атаки на навчальні дані не гіпотетичною загрозою, а цілком актуальною проблемою кібербезпеки.
Окремою проблемою є непрозорість моделей. Постачальники ШІ-рішень переважно приховують внутрішню будову своїх систем. Перевірити незалежно, наскільки модель безпечна, об’єктивна та точна, практично неможливо. Віцепрезидент Cisco Том Гілліс (Tom Gillis) прямо вказує: для чутливих завдань моделі слід запускати на власній інфраструктурі, а не в хмарі, — тому що ніхто точно не знає, що там відбувається.
Доки ці проблеми не будуть вирішені для кожного конкретного сценарію використання, масове впровадження ШІ не відбудеться — і не повинно відбуватися — в тому масштабі, який ринок закладає у поточні оцінки.
Прискорена динаміка та ризики
Головна небезпека ШІ полягає не в тому, що щось може піти не так, а в тому, як швидко це може статися. Історично людина в ланцюжку ухвалення рішень виконувала роль своерідного запобіжника — того, що сповільнювало процеси достатньо, щоб у потрібний момент увімкнулося судження. Агентний ШІ цей запобіжник повністю усуває.
Самі лише наслідки для наступальних кібератак мають змусити будь-яку раду директорів насторожитися. Раніше економічна доцільність стримувала зловмисників від повної автоматизації атак: це було невигідно. Машинне навчання усуває це обмеження. Коли ШІ-системи взаємодіють одна з одною поза межами контрольованого середовища, і щось йде не так на швидкості машини — зупинити це може виявитися неможливим. Непередбачувані наслідки цієї технології, про які ми ще навіть не почали думати, розвиватимуться не повільно.
Довгострокова перспектива та відповідальність
Усе вищезазначене — не аргумент проти ШІ. Ядерна енергія є одним із найпотужніших і найчистіших джерел енергії, створених людством. Водночас вона є матеріалом для створення бомб. Технологія сама по собі не робить вибору. Вибір робимо ми. Різниця — в наявності чи відсутності дисципліни, обмежень та тверезої оцінки наслідків.
Компанії та інвестори, які сформують довгостроковий ландшафт ШІ, — це не ті, хто рухається найшвидше просто зараз. Це ті, хто рухається найбільш усвідомлено. Коли вартість капіталу нормалізується — а це відбудеться — вистоять саме ті, хто впроваджував ШІ під конкретні завдання, хто будував розуміння ризиків та доходності перед масштабуванням. Саме так завжди будувалися стійкі компанії.
Для рад директорів та керуючих капіталом завдання — не пригальмувати, а сфокусуватися. Ставити запитання, які ринок зараз ігнорує. Розмежовувати R&D та виробниче розгортання. Чітко розуміти, на якому етапі реально перебуває організація. Вимагати конкретики у сценаріях застосування: “ми використовуємо ШІ” — це не стратегія. Враховувати ризики у фінансових моделях та порядку денному рад директорів як пріоритетні фактори, а не другорядні деталі.
Довгостроковий трансформаційний потенціал ШІ є реальним — і його, як і раніше, недооцінюють. Золото існує. Але дисципліна полягає в тому, щоб відрізняти його від блискіток і мати терпіння, щоб ця відмінність мала значення.
Резюме UA Бізнес: Поточна гіпероцінка ШІ-активів, спричинена страхом втрати вигоди, ігнорує фундаментальні проблеми безпеки та масштабованості, що може призвести до корекції ринку. Довгостроковий успіх залежатиме від компаній, які зосередяться на вирішенні цих проблем, а не на сліпому гнанні за трендами.