Нейромережі та політика: як Midjourney бореться із шахрайством на власному сервісі

Генеративний штучний інтелект може стати засобом для спаму, шахрайства та дискредитації відомих людей. Зокрема, користувачі застосовують сервіси із ШІ, щоб створювати фотографічно схожі фейкові картинки. Одним із таких сервісів є Midjourney. Ми з’ясували, як компанія намагається боротися проти нецільового використання свого контенту.  

Чому Midjourney став платним і до чого тут Папа Римський

У березні 2023 року Midjourney випустила п’яту версію свого сервісу і підняла фотореалістичність своїх зображень на новий рівень. Дехто почав створювати та тиражувати зображення відомих людей. Наприклад картинка Папи Римського у стильній дорогій куртці від Balenciaga стала вірусною і чимало людей повірили у її справжність. 

Також широкий резонанс мало зображення з фальшивим арештом Дональда Трампа. 

Врешті Девід Хольц, засновник і генеральний директор Midjourney, оголосив про те, що Midjourney буде платним сервісом ($10 на місяць). Раніше Midjourney пропонував 25 безплатних генерацій зображень перед тим, як почати стягувати передплату. Багато хто, не бажаючи платити, просто реєстрував нові акаунти. 

А Еліота Гіґінса, журналіста і засновника платформи Bellingcat, який згенерував зображення арешту Дональда Трампа, заблокували. 

Підписуйтеся на наші соцмережі

Які ще заходи планує здійснити Midjourney для модерації контенту

За словами Девіда Хольца, окрім обов’язкової оплати його компанія планує запровадити нові заходи безпеки, як-от двофакторна автентифікація та перевірка особи. Він також закликав користувачів бути відповідальними за свої генерації та не використовувати їх для створення дезінформації чи порушення авторських прав.

Чому заблокували художника Джастіна Брауна 

Митець Джастін Браун вирішив в оригінальний спосіб привернути увагу до проблеми дезінформації за допомогою штучного інтелекту. Він використав генератор зображень Midjourney, щоб створити арти з політиками, які зраджують своїх партнерів. 

«Мене забанили у Midjourney AI за створення реалістичних зображень політиків, що зраджують своїм дружинам, які я створив для серії «ШІ зробить революцію в індустрії шантажу», — написав творець зображень Джастін Браун у Twitter, демонструючи зображення.  Він також додав, що «якщо ШІ використовують з розумом і наміром, він може стати зброєю». Автор завжди говорив, що це згенерований контент. 

Кого з політиків згенерував Браун і до чого тут Reddit?

Серед політиків, яких зображав Браун, були кілька кандидатів у президенти 2024 року: чинний президент Джо Байден, колишній президент Дональд Трамп, колишній губернатор Нью-Джерсі Кріс Крісті та губернатор Флориди Рон ДеСантіс.

Зображення очевидно неправдоподібні, але деякі особи доволі схожі на реальних політиків. Варто також наголосити, що компанія заблокувала Брауна лише після того,  як він опублікував зображення на Reddit. На думку Брауна, це означає, що інші користувачі зможуть створювати подібні зображення й надалі.

«Після того, як серія набула популярності на Reddit, модератори видалили її, і майже одразу прилетів бан від Midjourney, — сказав Браун. — Раніше я стикався із заблокованими промптами за нецензурні слова чи суперечливі цифри, але жодного разу не отримував бану».

Також автор зазначає, що сервіс не надав пояснення щодо причини бану, але час випуску на Reddit і заборона збіглися. 

Зображення, створені штучним інтелектом, уже використовували у кількох політичних рекламних роликах, а підроблені зображення та голоси становлять загрозу для демократії. Браун зізнається, що він уже бачив, як деякими зображеннями зловживали.

«Я ніколи не представляв зображення [у фотосерії] як справжні, — сказав Браун. — Але я знаю, що деякі з цих зображень узяли інші та поділилися ними поза контекстом, тому я не здивуюся, якщо знайдуться люди, які повірять, що вони справжні».