OpenAI розглядає можливість обмежити темпи розробки найпотужніших моделей штучного інтелекту, якщо до цієї ініціативи приєднаються інші провідні лабораторії.
Про це пише Bloomberg із посиланням на джерела, знайомі з перебігом закритої зустрічі компанії.
Генеральний директор OpenAI Сем Альтман обговорив таку можливість зі співробітниками під час загальних зборів цього тижня. За його словами, компанія потенційно готова сповільнити розробку передового ШІ спільно з кількома іншими лабораторіями.
Водночас Альтман визнав, що не всі конкуренти можуть погодитися на обмеження. Bloomberg не повідомляє про конкретні переговори, домовленості або терміни можливого сповільнення, тому наразі йдеться лише про позицію керівництва OpenAI.
OpenAI вже сповільнювала навчання моделей
Заява стосується ширшої координації між розробниками, а не нової односторонньої зупинки проєктів OpenAI. У серпні компанія вже сповільнила частину навчання найпотужніших моделей і перенаправила дослідників та обчислювальні ресурси на посилення безпеки.
Окремо OpenAI виступила за узгоджені міжнародні правила оцінювання можливостей і ризиків ШІ. Компанія допускає, що такі правила мають визначати, коли розробку моделей потрібно сповільнювати або повністю зупиняти.
