Український стартап Makenude.ai, яким користується 40 000 людей, навчив штучний інтелект роздягати дівчат на фото. Це приносить йому сотні тисяч доларів. Але притягнути власників стартапу до відповідальності майже неможливо. Чи можна захиститися від таких сервісів?
«Лише одним кліком миші перегляньте будь-яку дівчину без одягу» – короткий опис продукту на сайті українського стартапу Makenude.ai. Він заснований ще у 2021 році, однак заговорили про нього лише у 2023-му. Видання dev.ua у жовтні опублікувало інтерв’ю із засновником, який спілкувався на правах анонімності.
У команді працює 14 осіб, розповів засновник. Свої прізвища вони не розголошують. «Не бачимо необхідності займатись якоюсь медійною діяльністю», – пояснює причину один із розробників, який спілкувався з Forbes на умовах анонімності.
Як працює продукт? Клієнт завантажує на сайт фото дівчини для обробки, ШІ-алгоритм аналізує його та домальовує приховані одягом частини тіла. Нейромережа стартапу побудована на базі моделі Stable Diffusion, яку створив стартап Stability AI у співпраці з низкою академічних дослідників і некомерційних організацій. Довчали нейромережу на реальних фото з оголеними людьми, ідеться на сайті Makenude.ai.
Передплата Makenude.ai коштує від $9,99 до $299. За це користувач отримує від 30 до 3000 кредитів. Обробка одного фото – три кредити.
Сервісом користується майже 40 000 людей, говорить розробник Makenude.ai. Лише 3% клієнтів – українці, більшість – зі США. В Україні сервіс працює в обмін на донат для ЗСУ. «За останній тиждень ми нарахували підписок на 87 000 грн», – стверджує розробник.
Перекласти відповідальність
На сайті Makenude.ai – десяток прикладів з обробленими фото. Сервіс радить завантажувати світлини дівчат у купальниках та пояснює, як завантажити фото з соцмережі Instagram.
Поширювати контент із соцмережі не заборонено. «Однак якщо його переробляти під матеріали, які мають ознаки порнографічного характеру, то ця діяльність незаконна», – говорить Андрій Вознюк, керівний партнер адвокатського об’єднання «Вознюк і Туровський».
Притягнути Makenude.ai до відповідальності перед українським законодавством практично нереально, каже Вознюк. Проблема не лише в тому, що юридично стартап зареєстрований не в Україні. «Зображення виготовляються програмою, тобто розробники сервісу відповідають лише за створення та функціонування комп’ютерної програми», – додає він.
Сервіс забороняє користувачам використовувати зображення людей без їхньої згоди. Однак це ніким не перевіряється. «Користувач лише зазначає, що його дії не порушують права третіх осіб, а сам він є автором матеріалів або має права інтелектуальної власності для його завантаження та використання», – говорить Станіслав Польовий, адвокат Gracers Law Firm.
Український стартап Makenude.ai, яким користується 40 000 людей, навчив штучний інтелект роздягати дівчат на фото.
Ще один запобіжник стартапу – згода користувача, що той обробляє фото із власною метою, а не для розповсюдження. Стартап зберігає оброблене фото на платформі протягом місяця. «Якщо клієнт завантажить зображення і буде його поширювати, може понести кримінальну відповідальність особисто, але власникам сервісу нічого не буде», – говорить Польовий.
Досі скарг від «роздягнених» Makenude.ai не отримував, говорить розробник. На всіх оброблених фото є водяний знак, який вказує, що воно не справжнє. «Якщо комусь хочеться зробити щось схоже на реальне фото, то наш сервіс із цим не допоможе. Таке роблять у Photoshop уже десятки років», – розповідає розробник і додає, що «продукт» має «мультяшний» вигляд.
Також стартап не дозволяє обробку підлітків, державних діячів, військових, вагітних та вірян, запевняє розробник. «На сервісі працює штат, який 24/7 фільтрує обробку», – каже він.
Бум сервісів, які «роздягають» дівчат
-
Soulgen
$9,99 на місяць
-
Undress.vip
Безкоштовно
-
DeepNude AI
$9,99 на місяць
-
AI Undressing
$5,49–37,99 на місяць
-
DreamGF
$9,99–99,99 на місяць
Поки що немає закону, який би забороняв схожим стартапам перекладати відповідальність на користувачів. У тексті європейського законопроєкту AI Act не згадується «діпфейк-порно» напряму, говорить керівниця відділу етики та партнерства у ШІ-стартапі Respeecher Анна Булах. «Варто дочекатися фінальної версії законопроєкту», – каже Польовий.
Чи існує ймовірність, що такий пункт з’явиться? Депутат Європарламенту від Іспанії Хорді Каньяс Перес надіслав запит до Єврокомісії. Там він порушує питання легальності таких сервісів на прикладі ClothOff, який використовували для «роздягання» неповнолітніх.
Діпфейк-порно можуть визнати нелегальним контентом на рівні окремих країн, додає Булах. «Ми закриємо доступ до сайту з країн, де такі сервіси будуть заборонені», – говорить розробник Makenude.ai.
Як діпфейк-порно регулюється у світі, розповідає Анна Булах
У червні 2023-го парламент Великої Британії вніс поправки до запропонованого законопроєкту про безпеку в інтернеті, який розширить повноваження уряду щодо переслідування людей за поширення без згоди порнографічних діпфейків (NPD), а також «порно з помсти» та інші форми сексуального насильства на основі зображень.
Попри відсутність федеральних норм щодо діпфейків у США, деякі штати ухвалили закони, які регулюють їх використання, головним чином спрямовані на боротьбу з діпфейк-порнографією. Каліфорнія і Техас були першими штатами, що ухвалили закони у 2019-му.
1 липня 2020-го у Бельгії запровадили нове законодавство, яке безпосередньо стосується обставин «порнопомсти». Законодавство передбачає штраф у розмірі від €200 до €15 000, а також можливе покарання у вигляді позбавлення волі на строк від шести місяців до п’яти років.
У 2016 році Франція ухвалила закон про цифрову республіку, забезпечивши основу для захисту та заперечень у ситуаціях використання персональних даних. Тоді до Кримінального кодексу було введено нову статтю 226-2-1 для розвʼязання проблеми «порнопомсти».
Читати більше Згорнути
Кого і як можна притягнути до відповідальності
Щоб зменшити шанс стати жертвою такого сервісу, Польовий радить видалити свої фото з Google. «Необхідно заповнити форму й «пояснити» Google, чому потрібно видалити такий контент», – говорить він. Також слід встановити приватний профіль у соцмережах, щоб обмежити вільний доступ будь-кого до світлин, додає він.
Якщо фото та відео уже використано секс-ботами, то перш за все потрібно звернутися до адміністрації сайту, де розміщене фото, із вимогою видалити його. «Потрібно надіслати на електронну пошту сайту листа, що ви не давали згоду на розміщення матеріалів, – каже Польовий. – Обов’язково потрібно додати посилання».
Додатково користувач може зробити знімок з екрана сайту, щоб у майбутньому він міг бути доказом. Це дозволить притягнути людину до відповідальності за використання немайнових прав людини без її згоди, каже Польовий. Таке порушення карається штрафом, який визначить суд.
Ще один варіант – притягнути до відповідальності за поширення персональних даних. «Будь-яка фотографія людини – це її персональні дані, – каже Максим Носарєв, засновник та СЕО юридичної компанії Tretten Lawyers. – В Україні це менше карається, на відміну від ЄС та США, але шанс є».
Якщо експертиза покаже, що фото має порнографічний характер, то зловмисник може відповісти за поширення порнографії. «У випадку з фотографіями йому загрожуватиме до трьох років обмеження волі», – говорить Вознюк.