Astra, media.licdn.comOpenAI зупинила певну внутрішню роботу над майбутньою системою штучного інтелекту Astra, оскільки під час тестування вона демонструвала значні успіхи у сфері програмування агентів та кібербезпеки. Компанія повідомила, що модель могла наблизитися до рівня можливостей, за якого вона здатна самостійно здійснювати складні кібератаки.
Що відомо про ситуацію
Згідно з попередньою оцінкою OpenAI, Astra могла досягти визначеного компанією «критичного порогу кібербезпеки». Це стосується здатності ШІ самостійно виявляти вразливості та створювати робочі експлойти для захищених систем, або розробляти й реалізовувати складні кіберстратегії без детальних вказівок від людини.В OpenAI зазначили, що продовжують дослідження моделі, проте на даний момент не можуть виключати досягнення нею такого рівня розвитку.
OpenAI представив нового ШІ-агента для конкуренції з Anthropic
Відповідно до внутрішньої «Рамкової системи готовності», компанія вже посилила запобіжні заходи та призупинила частину внутрішніх операцій з Astra, які не відповідають новим вимогам.«Відповідно до нашої Рамкової системи готовності, модель досягає критичного порогу в сфері кібербезпеки, якщо вона здатна самостійно виявляти та розробляти функціональні експлойти нульового дня будь-якого рівня складності для багатьох захищених реальних критично важливих систем без втручання людини, або розробляти та виконувати нові наскрізні стратегії кібератак на захищені цілі, маючи лише загальну кінцеву мету.Хоча ми продовжуємо тестувати та оцінювати цю модель, наші попередні оцінки вказують на достатньо високі результати продуктивності, тому наразі ми не можемо виключити досягнення критичного рівня можливостей”, — кажуть в OpenAI.Місце для вашої рекламиAstra все ще перебуває на етапі розробки та не була залучена до інциденту з уразливістю платформи Hugging Face, підкреслили в компанії.OpenAI також взаємодіє з державними установами та організаціями, які спеціалізуються на безпеці ШІ, для проведення додаткових оцінок потенціалу моделі.У компанії пояснили, що вирішили публічно оголосити про призупинення роботи, оскільки вважають важливою прозорість стосовно потенційних небезпек потужних систем штучного інтелекту.За матеріалами: Finance.ua# OpenAI# ШІ# КібератакиМісце для вашої реклами