Розробники компанії OpenAI припинили можливість використання своїх продуктів кіберзлочинцями, пов’язаними з урядами різних країн.
We disrupted five state-affiliated malicious cyber actors’ use of our platform.
Work done in collaboration with Microsoft Threat Intelligence Center. https://t.co/xpEeQDYjrQ
— OpenAI (@OpenAI) February 14, 2024
Спільно з Microsoft Threat Intelligence вони виявили та видалили п’ять акаунтів, що належать зловмисникам. Серед них:
- Пов’язані з урядом КНР хакери Charcoal Typhoon і Salmon Typhoon;
- Crimson Sandstorm (Іран);
- Emerald Sleet (КНДР);
- Forest Blizzard (РФ).
Під час розслідування встановлено, що Charcoal Typhoon за допомогою ШІ досліджували різні інструменти кібербезпеки, налагодження коду і створення контенту для фішингових кампаній.
Salmon Typhoon перекладали технічні документи, вивчали діяльність спецслужб і регіональних суб’єктів загроз, а також з’ясовували способи приховування шкідливих процесів у системі.
Crimson Sandstorm за допомогою ChatGPT створювали фішингові додатки та сайти.
Emerald Sleet, крім написання шкідливого коду, розшукували експертів і організації, що займаються питаннями оборони в Азіатсько-Тихоокеанському регіоні.
Forest Blizzard запитували інформацію про протоколи супутникового зв’язку і технології радіолокаційної візуалізації.
Microsoft, in collaboration with OpenAI, is publishing research on emerging threats in the age of AI, focusing on identified activity associated with known threat actors Forest Blizzard, Emerald Sleet, Crimson Sandstorm, and others. Learn more: https://t.co/y68MDypDXM
— Microsoft Threat Intelligence (@MsftSecIntel) February 14, 2024
У результаті внутрішнього розслідування OpenAI з’ясували, що версія чат-бота GPT-4 пропонує лише обмежені можливості для виконання зловмисних завдань. Проте розробники мають намір покращувати безпеку своїх продуктів, вивчаючи реальний досвід їхнього використання в кіберзлочинній діяльності та запроваджуючи посилений моніторинг користувацької взаємодії з платформою.
Раніше ForkLog повідомляв, що OpenAI представила функцію «пам’яті» для ChatGPT.
