Київський ШІ-стартап роздягає жінок. Ми роздягли Makenude з юридичного, етичного та ринкового погляду
Український стартап Makenude.ai «роздягає» жінок на фотографіях за допомогою штучного інтелекту. Ви обережні та ні з ким не ділитеся нюдсами? Не врятує, якщо той, хто хоче побачити вас оголеною, має ваше фото в одязі та $9,99 на рахунку.
ШІ-алгоритм аналізує фото і домальовує приховані одягом частини тіла. Якщо ви чоловік, вийде смішно: алгоритм додасть вам жіночі груди. Якщо жінка, то сміятися навряд чи захочеться: малює ШІ дуже реалістично.
Перше питання, яке виникло у команди SPEKA, коли ми дізналися про цей стартап з інтервʼю колег: а таке взагалі легально? Але це було перше питання, далеко не останнє. Тож ми розібрали кейс Makenude.ai з учасниками ринку, що самі працюють з ШІ, IT-юристами та психологами, щоб дізнатися:
- Чи законно в Україні пропонувати такі послуги?
- Чи може жінка, фото якої «обробили», притягти до відповідальності команду стартапу або замовника послуги?
- Чи справді робота Makenude.ai не потрапляє у категорію порнографії?
- Чим загрожує таке роздягання психіці жертв ШІ-оброблення?
- Чи справді Makenude.ai здатен гарантувати, що сервісом не зможуть скористатися для оброблення фото неповнолітніх.
Що врешті вийшло?
Як Пилип з конопель. Звідки взявся Makenude.ai
Makenude.ai існує вже два роки, з 2021-го, але заговорили про нього лише у жовтні 2023-го, коли видання dev.ua випустило інтервʼю із засновником стартапу Денисом, який приховує своє прізвище, як і решта команди (і ми цілком розуміємо чому). У команді 14 людей, а проєкт на сайті рекламують як #1 Deepnude service 2023 року.
Чи є попит на послуги Makenude.ai? Засновник стверджує, що є. Сервіс працює за моделлю передплати, а зображення обробляє за власні «кредити». Одне оголене фото — три кредити, найдешевша передплата — 30 кредитів за $9,99, найдорожча — 3 тис. кредитів за $299. На сайті проєкту стверджують, що «задовольнили» вже понад 8,2 тис. клієнтів.
Сервіс вебаналітики SimilarWeb показує дані Makenude.ai лише з липня 2023 року і станом на вересень фіксує понад 820 тис. візитів на сайт щомісяця. Більша частина користувачів сервісу з Індії (22,4%), за нею йдуть США (15,67%) та Японія (8,53%). Остання у четвірці шанувальників Makenude.ai русня: 7,61% користувачів сервісу, за даними SimilarWeb, саме звідти. Понад 84% користувачів приходять на сайт із мобільних браузерів.
Засновник упевнений, що його діяльність не порушує законодавство України, і запевняє, що команда 24/7 моніторить сервіс, аби банити тих, хто намагається завантажити фотки підлітків, вагітних жінок, релігійних та державних діячів. Щодо питань конфіденційності каже, що це, мовляв, художній малюнок оголеної коханої, тому порушенням конфіденційності вважати його не можна. Щоправда, на сайті Makenude зображення вельми фотореалістичні.
Дипфейк чи «еротичний малюнок»: у чому різниця
Одним із перших і найбільш відомих дипфейків стало порновідео, куди додали обличчя акторки Галь Гадот. У 2017 році про це написало видання Motherboard, а користувач Reddit з ніком deepfakes похвалився, що саме він був автором відео. Так і поширився термін deepfake. Дипфейки — це маніпуляційний контент, створений за допомогою технології deep learning.
Дипфейк з Галь Гадот створили, приліпивши обличчя акторки до тіла порноактриси. Згодом жертвами аналогічних вправ стали Наталі Портман, Емма Вотсон, Наталі Дормер та інші. Чим це відрізняється від того, що робить Makenude.ai?
Замість того щоб клеїти обличчя людини до чужого оголеного тіла, алгоритм Makenude домальовує оголені частини, орієнтуючись на анатомію реального тіла людини. Тож навіть якщо експертові відрізнити змінене зображення буде неважко, для звичайного користувача творіння ШІ може виглядати набагато більш реалістичним, ніж традиційний дипфейк.
Сіра зона. Що про сервіс думають українські підприємці та експерти з ШІ
SPEKA поговорила з представниками української IT-спільноти, зокрема, тими, що самі працюють зі штучним інтелектом. Ми отримали змішані результати, бо більшість взагалі не чула про цей стартап. Проте деякі погодилися поділитися своїми думками.
Вадим Роговський, CEO та засновник ШІ-стартапу з підбору одягу 3DLOOK, розглянув Makenude.ai з двох боків — як бізнес і як сумнівний з погляду етики продукт.
«Як підприємець я вважаю, що загалом Makenude.ai не робить нічого настільки поганого. Я розумію, що це сіра зона, де немає регулювання. Але багато підприємців, що заробили великі гроші в Україні, спершу працювали у сірих та чорних зонах, а зараз роблять білі проєкти. Якщо фаундер Makenude надалі витрачатиме ці гроші на проєкти, що будуть приносити більше цінності суспільству, ринку й користувачам, я гадаю, що нічого поганого тут немає. З регуляцією йому буде набагато складніше займатися цим бізнесом, і цей стартап тимчасовий у тому вигляді й з тим функціоналом, який існує натепер.
Але мені як батьку було б не ок, коли б моя дочка ходила до школи, а її однокласники користувалися такими сервісами та дивилися на її nude-фото, зроблені за допомогою ШІ. Етичний бік тут, безумовно, важливий, і з етичного погляду з цим проєктом не гаразд».
Богдан Кіт, Head of Product у Tumblr, наголосив, що у деяких штатах США є закони про не консенсуальну порнографію, які криміналізують поширення сексуального контенту без згоди (в Україні також можуть невдовзі ухвалити таку норму. — Ред.). Богдан вважає, що ризиків багато, але такі сервіси існували й раніше. Він певен, що згодом з’являться сервіси, які будуть продавати знаменитостям послуги з пошуку і видалення такого контенту під ключ.
SPEKA звернулася по коментар до компанії Reface, яка теж працює з візуальним AI, але займалася протилежним завданням — захистом свого сервісу від спроб за його допомогою створити порнодипфейки. Reface пообіцяла надати свою позицію, щойно отримаємо коментар, одразу додамо його до матеріалу.
«Це не порно, а еротичні малюнки» — стверджують у Makenude. А що кажуть юристи?
Максим Носарев, засновник та CEO компанії Tretten Lawyers, що надає юридичні послуги в IT, розповів, які проблеми можуть виникнути у Makenude.ai в контексті українського законодавства.
«Порнографія це чи ні, може сказати лише судовий експерт. Це дуже тонке питання. У своїй практиці я бачив різні експертизи щодо цього. Інколи, коли нібито все і зрозуміло, експерт дає висновок, що це не порнографія. І навпаки.
Якщо є висновок експертизи, що це порнографія, можна говорити про відповідальність за статтею 301 Кримінального кодексу України».
Що регулює стаття 301 Кримінального кодексу України
Стаття 301. Ввезення, виготовлення, збут і розповсюдження порнографічних предметів
1. Ввезення в Україну творів, зображень або інших предметів порнографічного характеру з метою збуту чи розповсюдження або їх виготовлення, зберігання, перевезення чи інше переміщення з тією самою метою, або їх збут чи розповсюдження, а також примушування до участі в їх створенні караються штрафом від однієї тисячі до чотирьох тисяч неоподатковуваних мінімумів доходів громадян або арештом на строк до шести місяців, або обмеженням волі на строк до трьох років.
2. Ті самі дії, вчинені щодо кіно- та відеопродукції, комп'ютерних програм порнографічного характеру, а також збут неповнолітнім чи розповсюдження серед них творів, зображень або інших предметів порнографічного характеру, караються штрафом від двох тисяч до п’яти тисяч неоподатковуваних мінімумів доходів громадян або обмеженням волі на строк до п'яти років, або позбавленням волі на той самий строк.
3. Дії, передбачені частинами першою або другою цієї статті, вчинені повторно або за попередньою змовою групою осіб, або з отриманням доходу у великому розмірі, караються позбавленням волі на строк від трьох до семи років з позбавленням права обіймати певні посади чи займатися певною діяльністю на строк до трьох років.
Примітка. Для цілей статей 301 та 301-1 цього Кодексу отримання доходу у великому розмірі має місце, коли його сума у двісті і більше разів перевищує неоподатковуваний мінімум доходів громадян.
Експерти з юридичних питань кажуть, що, згідно зі ст. 301, порнографічною продукцією може бути як фото, так і зображення, створене за допомогою комп’ютерної графіки чи згенероване ШІ.
Питання ідентифікації зображення як порнографічної продукції буде залежати від експертизи (критерії вважати зображення порнографією регулює закон «Про медіа»).
Як зміниться стаття 301 у разі схвалення її нової редакції
Як наголошують юристи, на розгляді Верховної Ради перебуває «Проєкт Закону про внесення змін до Кримінального кодексу України щодо забезпечення свободи від втручання в приватне життя людини» № 9623. Документ пропонує запровадити відповідальність також за виготовлення порнографічної продукції із зображенням людини, якій про це невідомо. Також ця редакція дає визначення порнографії: зображення особи у реальному чи змодельованому відверто сексуальному образі або задіяної у реальній чи змодельованій відверто сексуальній поведінці, або будь-яке зображення статевих органів у сексуальних цілях.
Стаття 301. Незаконний обіг порнографії та примушення до її створення
1. Розповсюдження або збут порнографії без згоди особи, яка у ній зображена, або виготовлення такої продукції із зображенням особи, якій невідомо про такі дії, караються штрафом від однієї тисячі до трьох тисяч неоподатковуваних мінімумів доходів громадян або арештом на строк до шести місяців, або обмеженням волі на строк до трьох років.
…
4. Дії, передбачені частинами першою, другою або третьою цієї статті, вчинені повторно, за попередньою змовою групою осіб або з отриманням доходу у великому розмірі, або з використанням влади, службових чи професійних повноважень, караються штрафом від десяти тисяч до двадцяти п'яти тисяч неоподатковуваних мінімумів доходів громадян або позбавленням волі на строк від семи до десяти років з позбавленням права обіймати певні посади чи займатися певною діяльністю на строк до трьох років або без такого.
Примітка. 1. Під порнографією у статі 301 цього Кодексу слід розуміти будь-які матеріальні об'єкти, предмети, друковану, аудіо-, відеопродукцію, повідомлення та матеріали, продукцію засобів масової інформації, змістом яких є зображення особи у реальному чи змодельованому відверто сексуальному образі або задіяної у реальній чи змодельованій відверто сексуальній поведінці, або будь-яке зображення статевих органів у сексуальних цілях.
…
3. Для цілей статей 301 та 301-1 цього Кодексу отримання доходу у великому розмірі має місце, коли його сума у двісті і більше разів перевищує неоподатковуваний мінімум доходів громадян.
Що робити, якщо вас «роздягнули» на фото
Ви надіслали нюдси своєму партнеру або партнерці, а коли посварились, ваші оголені фото потрапили у масову розсилку — типовий сценарій порнопомсти. Але розвиток нейромереж завів нас далі. Такі проєкти, як Makenude, дозволяють людині, якій ви не подобаєтесь, створити ваші фейкові нюдси. Впоратись із такою ситуацією допоможе не тільки психотерапія, а й звернення до суду. Так, попри те що в Україні подібні норми не є досконалими, захистити честь через суд цілком реально.
Ще один юридичний аспект, де також можливе покарання — публічне поширення персональних даних. Фотографія людини, розміщена будь-де без її згоди — це незаконне поширення персональних даних. Стаття 188-39 КпАП передбачає за це штраф від 5100 до 17 000 грн.
А прецедент є?
В Україні вже є випадки, коли такі позови задовольняли, розповідають у Treten Lawyers. Наприклад, у 2022 році у Тернополі до відповідальності за вивішування у підʼїзді будинку та публікацію у Viber персональних даних боржників притягнули голову ОСББ. Він отримав штраф у розмірі 1700 грн (сто неоподатковуваних мінімумів доходів громадян).
За незаконне збирання, використання та поширення особистої інформації можлива й кримінальна відповідальність. Її передбачає ч. 1 ст. 182 Кримінального кодексу України. Найбільше покарання — обмеження волі на строк до трьох років.
В Україні також є прецедент покарання за порнопомсту. У 2019 році в Миколаєві чоловіка притягнули до відповідальності за статтями КК 182 та 301 за створення та розповсюдження порновідео з його колишньою дружиною. Він отримав, зокрема, два роки позбавлення волі.
Що нам про це каже Кримінальний кодекс України
Стаття 182. Порушення недоторканності приватного життя
1. Незаконне збирання, зберігання, використання, знищення, поширення конфіденційної інформації про особу або незаконна зміна такої інформації, крім випадків, передбачених іншими статтями цього Кодексу, караються штрафом від п'ятисот до однієї тисячі неоподатковуваних мінімумів доходів громадян або виправними роботами на строк до двох років, або арештом на строк до шести місяців, або обмеженням волі на строк до трьох років.
Зміст такої інформації складають відомості про приватне життя особи, що становлять її особисту чи сімейну таємницю (зокрема, інформація про освіту, сімейний стан, релігійність, стан здоров`я, дата і місце народження, майновий стан та інші персональні дані про особу). Особисту таємницю становлять відомості про приватне життя конкретної особи, які ця особа бажає зберегти в таємниці від інших осіб. Такими відомостями можуть бути відомості про її здоров’я, інтимне життя (зокрема наявність позашлюбних інтимних стосунків), хобі, особливість сімейних стосунків (народження поза шлюбом дитини тощо).
Як такий сервіс може вплинути на підлітків? Розповідають психологи
Засновник проєкту стверджує: команда підтримки постійно банить акаунти, що намагаються завантажити, зокрема, фотографії підлітків. Проте, наскільки кваліфіковано ця команда зможе відрізнити фото 16-річної дівчини від 18-річної, є питання. Також підлітки імовірно можуть без проблем використовувати сервіс для «роздягання» дорослих жінок.
Ми розпитали психотерапевтів, як використання цього сервісу, а найгірше оброблення фото неповнолітньої дівчини і розповсюдження його в її школі чи соціальному колі може вплинути на підлітків.
Ольга Мала
дитяча психологиня, гештальт-терапевтка«Для гармонійного розвитку підлітку потрібна інформація з реального світу. Такі ШІ-зображення формують безконтактне, ілюзорне відчуття свого тіла та тіла іншої людини. В результаті мозок створює асоціальний нейронний зв’язок поведінки, яка порушує особисті кордони та кордони іншої людини: неповажне ставлення до тіла, насильницьке доторкання до тіла без дозволу, відсутність симпатії при сексуальному збудженні, неможливість сексуальної розрядки в реальності.
У дорослому житті можливі розлади поведінки. Це може проявлятися у неповазі до оточення, насильницьких діях, безконтрольному зловживанні своєю силою тощо».
Дана Нечипорук
дитяча психологиня«Самооцінка людини формується з 12 до 17 років, і вона дуже хитка. Неприйняття групою, булінг — особливо довготривалий — діє як психотравма, тому що це довготривалий стрес середньої чи високої інтенсивності.
Теми, які найбільше можуть поранити — зовнішність, чужі секрети, розповсюдження неправди про особистість. І якщо все це разом використати, буде руйнівний ефект, який може спричинити ця програма».
Роман Мельниченко
психолог, експерт зі стосунків«Інтимність, сексуальність жінки все-таки не так відкрита у суспільстві, як чоловіча. Це наслідки традиційного суспільства, в якому ми досі живемо і якого намагаємось позбутися. Тому простого розв’язання проблеми я як психотерапевт та громадянин наразі не бачу, адже немає відповідних законів».
Вибіркова сексуалізація. Чому сервіс роздягає лише жінок
Цікаво, що алгоритм Makenude, попри заявлені на сайті 5270 годин тренувань, не вміє роздягати чоловіків. Якщо завантажити у систему чоловіче фото, система домалює жіноче тіло.
Вибіркова сексуалізація — поширена проблема у світі, і боротьба з нею триває. Наприклад, в Україні за сексизм у рекламі почали штрафувати лише від січня 2022 року. Hawkeye Initiative бореться із сексизмом у коміксах, ставлячи супергероїв-чоловіків у абсурдні пози, які вважаються в індустрії «нормальними» для жінок.
Засновник Makenude пояснює відсутність функції «роздягти чоловіка» тим, що попиту на неї немає: фото чоловіків завантажують хіба для жарту. Сам сайт сервісу прикрашений вкрай сексуалізованими зображеннями оголених жінок, і якщо у нижньому блоці тіла гіпертрофовані, наче з реклами казино, то на основному зображенні дівчина зображена вельми реалістично, зокрема після роздягання: ШІ до страшного реалістично враховує персональну анатомію. І не знаю, як ви, а особисто ми з першого погляду не скажемо, чи є дівчині на фото 18.
