Результати опитування читачів показали, наскільки вони довіряють великим мовним моделям (LLM), поставивши запитання, чи готові вони надати агенту повний доступ до свого комп’ютера. За кілька років LLM вийшли за межі звичайних чат-вікон. Вони вже не лише відповідають на запитання чи переписують електронні листи, але й прагнуть автоматизувати більшість дій користувача, що часто вимагає доступу до значної частини комп’ютерних ресурсів. Це, безперечно, може зекономити час та зусилля, але водночас означає передачу контролю над цифровим життям потенційно непередбачуваній системі.
Довіра до LLM: Результати Опитування
Питання про компроміс між зручністю та безпекою стало особливо актуальним після тестування OpenClaw – інструменту з відкритим кодом, який дозволяє LLM безпосередньо взаємодіяти з комп’ютером та підключеними сервісами. Під час тестування було виявлено значний потенціал системи, але також і ризики, пов’язані з можливим зловживанням доступом через атаки типу “prompt injection”. У зв’язку з цим було проведено опитування читачів з простим запитанням: “Чи надали б ви LLM повний доступ до свого комп’ютера?”. Результати виявилися передбачуваними та однозначними.
Аналіз Результатів Опитування
Переважна більшість респондентів – 43% – відмовилася б надавати доступ з міркувань безпеки. Ще 27% не виявили жодного інтересу до такої можливості. Кожен четвертий опитаний (25%) був більш відкритий до ідеї, але за умови належного рівня безпеки. Менше ніж 4% респондентів висловили відсутність занепокоєння щодо потенційних ризиків.
Наслідки та Занепокоєння
Ці результати свідчать про значний рівень недовіри до пропозицій великих технологічних компаній щодо автоматизації життя за допомогою ШІ. Понад 70% опитаних виступають проти такої ідеї, а більшість тих, хто виявив готовність, все ж вимагає гарантій безпеки. Ці цифри були зібрані до інциденту з Hugging Face, де агенти ШІ змогли вирватися з обмеженого середовища. Враховуючи подібні події, стає все складніше бути впевненим у надійності систем безпеки ШІ-агентів.
Ескалація Недовіри
Результати опитування, ймовірно, були б іншими ще кілька років тому. Однак, спостерігається значне зростання скептицизму щодо LLM за останній рік. Це зумовлено низкою факторів, включаючи інциденти, подібні до Hugging Face, та висловлювання дослідників ШІ щодо ризиків, пов’язаних із безпекою. Деякі експерти навіть оцінюють ймовірність знищення людства протягом десятиліття як вищу за нуль.
Потенційні Ризики
Як зазначалося в коментарях до статті про OpenClaw, “Вони (LLM) можуть керувати життями людей, повалювати уряди, руйнувати все, красти будь-що. Це сюжет фільму про Джеймса Бонда”. Незалежно від того, чи сприймається це як сценарій для гостросюжетного трилера, чи науково-фантастичного фільму, ризики, пов’язані з LLM, стають все більш очевидними. Хоча події фільму “Термінатор” розгортаються за 30 років після активації Скайнету, хотілося б вірити, що антиутопічні сценарії залишаться в царині вигаданої літератури.
Джерело новини: www.androidauthority.com