Боти для роздягання: ще одна проблема Telegram, яку доведеться вирішувати Дурову
Здебільшого коли йдеться про створення дипфейк-відео чи зображень, люди думають, що жертвами цих недитячих забавок є політики, кінозірки чи співачки. Натомість боти для роздягання, які занадто вільно почувають себе на платформі Telegram, існують та використовуються зловмисниками не перший рік. Їхня поява та популярність призвели до тривожного явища, коли користувачі можуть створювати відверті зображення людей без особливих зусиль.
Розслідування, проведене журналістами Wired, не лише виявило велику кількість таких «роздягаючих» ботів, але й представило емпіричну оцінку в 4 млн користувачів, які взаємодіяли з ними. Це явище викликає серйозні етичні проблеми щодо використання фотографій без дозволу не лише повнолітніх жінок, але й підлітків. А доступність цих інструментів на платформі створює серйозні ризики не лише для конфіденційності жертв цих недитячих забавок, але й для норм цифрової безпеки загалом. Окрім того, велика кількість таких ботів — це ще одна проблема, з якою доведеться мати справу Павлові Дурову, який після арешту у Франції намагається покращити модерацію свого сервісу.
Неймовірна простота роздягання: як Telegram став платформою для створення deepfake
У 2020 році експерт із дипфейків Генрі Айдер знайшов першого Telegram-бота, який «роздягав» фотографії та створював відверті зображення. Ситуація у 2024 році лише погіршилась, попри те що світ давно зрозумів серйозність загрози дипфейків і почав боротися з ними на законодавчому та інституційному рівні.
Журналісти Wired виявили цілу екосистему Telegram-ботів (вони їх назвали Nudify-ботами) для створення дипфейків, якими, за їхніми попередніми оцінками, користується понад 4 млн юзерів.
Підписуйтеся на наші соцмережі
Деякі з цих ботів «знімають одяг» із зображень, наданих користувачами, інші обіцяють створювати фото та відео людей, які займаються сексом. Автори цих ботів пообіцяли журналістам надати «все, що ви хочете про обличчя чи одяг на фотографії, представленій вами».
«Така популярність цих інструментів викликає серйозне занепокоєння, адже вони справді руйнують життя та створюють жахливий сценарій передусім для дівчат і жінок. Особливо небезпечним є те, що досі так легко отримати до них доступ та знайти їх у мережі, в одному з найпопулярніших застосунків у світі», — коментує для Wired ситуацію Генрі Айдер.
Якщо раніше жертвами поширення порнографічних дипфейків були знаменитості, наприклад, Тейлор Свіфт, а подекуди політики, то останнім часом зростає популярність виготовлення дипфейків із фотографій дівчат-підлітків. Wired наводить приклад результатів нещодавнього опитування, яке показало, що 40% студентів та учнів у США підтвердили випадки поширення дипфейків у своїх школах.
Порнопомста епохи штучного інтелекту
Створення дипфейк-відео без згоди жертв, які стають фігурантами таких роликів, є новим варіантом такого явища, як порнопомста. Цей спосіб булінгу існує давно, він виник майже одночасно із соцмережами і на початках передбачав шантаж переважно жінок за допомогою їхніх відвертих фото.
Порнопомста спершу виглядала як погрози завантажити в мережу матеріали сексуального характеру (або інтимних фотографій), щоб принизити та залякати людину. Часто порнопомсті передував злом пристрою жертви. Подекуди колишні партнери використовували фотографії з інтимних фотосесій своїх жертв.
У 2022-2023 роках цей простий варіант порнопомсти трансформувався у зростання популярності так званих undress-інструментів — застосунків та сайтів для роздягання жінок, які набули особливого поширення у 2023 році.
Ситуація з Nudify-ботами у Telegram є розвитком способів порнопомсти. Якщо раніше зловмисники використовували Telegram для обміну фотографіями та відео своїх жертв (як в історії з поширенням дипфейків Тейлор Свіфт), то Nudify-боти та канали спростили створення дипфейків буквально до декількох кліків.
Знайти дипфейк за два кліки
Проста перевірка пошуку в Telegram сервісів, про який написали американські медіа, показує, що такі боти дійсно існують і для доступу для них не потрібні особливі інструменти. Запит у пошуковому рядку Telegram термінів «дипфейк», «діпфейк» та «deepfak» або «deepnud» (саме так, без останньої літери) покаже вам перелік ботів та каналів, які займаються створенням дипфейків. Цікаво, що видача у Telegram-пошуку у відповідь на українське написання терміна покаже лише один канал, автори якого створюють дипфейки відомих людей.
Іще ряснішим буде різноманіття таких ботів та каналів завдяки простому запиту в Google «deepfake telegram» — тут вам запропонують і найкращі Depfake-боти, і прямі посилання на відповідні канали чи боти. Цікаво, що посилання на статтю Wired із розслідуванням цієї історії ми змогли отримати лише через анонімний пошук. Це свідчить про те, що Google занадто сильно підлаштовується під запити користувачів (ймовірно, через мову інтерфейсу та попередніх запитів) та приховує навіть нові англомовні матеріали з аналізом цієї проблеми.
У статті про поширення дипфейк-ботів у Telegram журналісти Wired писали про звернення до компанії щодо таких акаунтів на їхній платформі. Компанія не відповіла на запит, проте боти, які виявили у Wired та пов’язані з ними канали, раптово зникли. Натомість їхні автори пообіцяли «зробити ще одного бота» наступного дня. Той факт, що завдяки простому пошуку ми змогли побачити таких ботів у Telegram, свідчить про те, що поки Telegram якщо і реагує на такі акаунти на платформі, то робить це в «ручному» режимі після звернень. Що не заважає авторам ботів дуже оперативно створити їх іще раз. Тобто Telegram залишається такою собі хостинг-платформою для інструментів, які поширюють контент для дорослих та використовуються для порнопомсти. Це ще один приклад використання сервісу Павла Дурова для незаконної діяльності поряд з іншими патернами злочинного використання Telegram, як-от тероризм, екстремізм чи відмивання грошей.
Нові Telegram-виклики
Після арешту та початку розслідування діяльності Дурова й Telegram у компанії багато що змінили у своїх усталених практиках роботи. До прикладу, компанія пообіцяла передавати правоохоронцям дані порушників у відповідь на їхні запити. Окрім того, компанія оновила угоду з користувачами, в якій зафіксувала факт більш активного моніторингу за контентом юзерів.
Існування такої великої кількості deepfake-ботів у Telegram — це новий виклик для компанії, і не лише для неї. Така ситуація загрожує особистій конфіденційності та безпеці усіх користувачів цифрових платформ. Окрім того, можливість генерувати інтимні зображення без згоди жертв та ще й з мінімальними зусиллями створила новий ландшафт цифрової експлуатації, який важко регулювати. Проте компанія буде змушена відреагувати на розслідування журналістів Wired та на існування і легку доступність цих інструментів, особливо після подій останніх місяців щодо Telegram. Зробити вигляд, що Telegram — це лише сервіс, який об’єднує людей для використання лише з корисною метою, уже не вийде. Особливо в аспекті законодавчих змін щодо покарання за дипфейки, які запроваджують дедалі більше країн.
