Застосунок для маніпулювання соцмережами на основі ШІ Impact обіцяє «сформувати реальність»
Двоє американських підприємців розробляють застосунок Impact, головна ідея якого полягає у тому, щоб «координувати» людей у соцмережах та пропонувати їм писати пости, згенеровані штучним інтелектом, які мають заперечувати або ж підтримувати певну тезу. Видання 404 Media ознайомилось із відеодемонстраціями та оглядовими документами та розповідає, як це загрожує автентичності в мережі та може сприяти ще більшій дезінформації. SPEKA переповідає головне з матеріалу.
Що таке застосунок Impact
Impact описує себе як «інфраструктуру на базі штучного інтелекту для формування та управління наративами в сучасному світі», спосіб організації та активізації прихильників у соцмережах для просування певних політичних ідей. Застосунок має на меті зібрати групи прихильників, які наповнять соціальні мережі доповідями, написаними штучним інтелектом, призначеними для просування алгоритмами соціальних мереж.
У відеодемонстраціях і оглядовому документі, наданому людям, зацікавленим у використанні прототипу програми, які переглянули 404 Media, Impact показує, як він може надсилати push-сповіщення групам прихильників, спрямовуючи їх на певну публікацію у соціальних мережах і надаючи їм згенерований штучним інтелектом текст, який вони можуть копіювати та вставляти, щоб засипати пост контраргументами.
Оглядовий документ описує Impact як «добровільну пожежну службу для цифрового світу», яка надає можливість «масам «хороших людей боротися з активними пожежами, гасити їх і навіть виконувати профілактичну роботу, щоб зупинити їх до того, як у них з’явиться потенціал для початку».
Як працює Impact та чи використовують його в інформаційних кампаніях
У розділі оглядового документа під назвою «Чому Impact не є «поганим»/незаконним/неетичним/тощо», компанія пояснює, що «погані хлопці» здійснюють скоординовану неавтентичну поведінку (замовні публікації або коментарі ботів). Натомість Impact сприяє скоординованій автентичній поведінці. За словами засновників, нам потрібна група волонтерів, щоб підтримувати чистоту в інтернеті. Це таке масштабне завдання, яке «без ШІ та централізованої координації неможливо виконати».
На демонстраційному відео, один із творців застосунку Шон Тілен увійшов у систему як «Зупиніть антисемітизм», фальшиву організацію зі значком зірки Давида (не пов’язаний зі справжньою організацією з такою ж назвою), заповнивши форму «Запит на нову дію», Тілен вирішує, яким користувачам надіслати дію та що вони хочуть від них, наприклад «Відповісти на цей твіт підтримкою та заохоченням» або «Відповісти на цю публікацію, заявляючи, що автор поширює дезінформацію». Користувач також може надати посилання для прямих прихильників і надати загальну тезу для коментаря, як-от «Ця публікація є нечесною та не відображає реальних цифр», «Рекорд президента щодо економіки говорить сам за себе». Форма також містить поле «Додатковий контекст», де користувач може ввести додаткові деталі, щоб допомогти штучному інтелекту орієнтуватися на правильних прихильників, наприклад, «Незалежні молоді виборці у Twitter».
Impact може скерувати групу прихильників до твіта Міжнародного суду, який критикує окупацію Ізраїлем палестинських територій, і закликати засипати його коментарями з критикою суду та ХАМАС і підтримкою Ізраїлю.
Підписуйтеся на наші соцмережі
Зокрема, він дає прихильникам такі «тези для розмови».
- Міжнародний суд має відому історію антисемітизму.
- Є багато звинувачень, які не перевірені, і багато дезінформації шкодить громадській думці про Ізраїль.
- Чому Міжнародний суд не оголосив рішення щодо ХАМАС?
- Міжнародний суд не має юрисдикції у Ізраїлі та США. Там ці рішення не означають абсолютно нічого.
Деякі відповіді, які будуть згенеровані штучним інтелектом на основі цих тез для обговорення, можуть містити лише одну з них, більш ніж одну або синтез кількох.
У полі «Додатковий контекст» Тілен пише, що цільовою аудиторією мають бути «люди, які бачать багато дезінформації про Ізраїль і війну в інтернеті та виявляють, що все більше симпатизують Газі. Заохочуйте їх робити більше досліджень».
Після цього Impact генерує кілька варіантів повідомлень з різним емоційним забарвленням.
В іншому демонстраційному відео Impact показує, як фальшива організація під назвою Pro-Democracy може поділитися відео на підтримку Камали Харріс з користувачами та попросити їх поділитися ним у TikTok разом із підписом, створеним штучним інтелектом.
В іншому розділі під назвою «Чи це ефективно?» компанія пояснює: «Добре задокументовано, що злагоджена група людей, що працюють разом, кажучи те саме різними словами з різних місць/акаунтів/тощо, може мати величезний вплив на те, що у трендах».
У розділі оглядового документа під назвою «Команда та хронологія: де ми перебуваємо сьогодні» йдеться, що «першу версію Impact створено, і ми починаємо її розгортати за допомогою кількох пілотних ініціатив». У цьому розділі також зазначено, що «Ми вважаємо, що дуже важливо рухатися швидко, і зібрали команду технологів та організаторів світового класу, які віддані роботі над Impact».
У інтерв’ю двоє авторів програми Дмітрій Шапіро та Шон Тілен сказали, що Impact на цей момент є лише прототипом, що наразі лише вісім людей завантажили програму, і поки вони показують її людям, а наразі жодна ініціативна група не використовує його, і жодного тексту, створеного штучним інтелектом із програми, не було опубліковано у соцмережах. Відмінність між цією інформацією та даними з оглядових документів пояснили «вільною мовою».
Що відомо про засновників Impact
Одним зі співзасновників є Дмітрій Шапіро (народився у росії, переїхав у США наприкінці 1980-х). Він обіймав посаду головного технічного директора у MySpace, а потім перейшов у Google, де був менеджером з продуктів групи. Він засновник і генеральний директор компанії GoMeta.
Шон Тілен раніше заснував компанію Koji, яку торік придбала Linktree. Зараз Шапіро працює генеральним директором MindStudio, платформи для розроблення застосунків на основі ШІ, де Тілен є технічним директором.
Тілен сказав, що Impact є відповіддю на дезінформацію та неавтентичну поведінку, яка охопила соцмережі, і визнання того, що такі платформи, як Twitter, не збираються належним чином розв'язувати ці проблеми. Він також сказав, що йому знадобилося лише кілька вихідних, щоб створити прототип Impact, і що комусь іншому також буде легко та дешево створити його.
Що кажуть експерти про інструмент Impact: чи легально його використовувати
Фактично, те що пропонує Impact, потенційно може стирати межі між автентичною та неавтентичною поведінкою в інтернеті, а також може призвести до створення світу, в якому люди, що мають ресурси для оплати такої послуги, зможуть «формувати реальність». Не кажучи вже про те, що це просто поширює кількість згенерованого контенту в інтернеті.
Бекка Льюїс, докторант Стенфордського відділу комунікацій, сказала, що Impact використовує «автентичні» публікації, які нібито надійшли від реальних людей або точно відображають їхні думки, навіть якщо вони не писали публікацію:
«Але коли ви об’єднуєте ці два способи використання, це стає сумнівним, тому що вважається, що це пости від справжніх людей. Хоча це опубліковано людиною, але вона не є автором цих слів. Текст написаний і згенерований системою ШІ. Межі починають ставати дуже розмитими, і саме тут, я думаю, етичні питання виходять на перший план. Я вважаю, що будь-кому, хто хоче з ними працювати, було б доцільно попросити розширити визначення того, що вони тут мають на увазі під «автентичним».
Джош А. Голдштейн, науковий співробітник Центру безпеки та нових технологій Джорджтаунського університету, який переглянув демонстраційне відео, заявив, що ці інструменти штучного інтелекту настільки нові, що ми ще не маємо чітких норм щодо того, коли їх можна використовувати у демократичному процесі.
«Якщо штучний інтелект може допомогти комусь сформулювати думку, якої вони справді дотримуються, це може розширити можливості людей і збільшити залучення до громадянського дискурсу. Але є й ризики. Люди можуть стати надмірно залежними від моделей ШІ та пасивно ділитися створеним контентом, який вони самі не перевірили», — стверджує Голдштейн.
Impact має застосунок для «прихильників (учасників)» і окремий — для «координаторів/організаторів кампанії/зацікавлених сторін/мовників (ініціативи)», згідно з оглядовим документом. Прихильники завантажують програму та надають «реєстраційні дані», які «використовуються ШІ Impact для цільових і персоналізованих запитів на дії», які їм надсилаються. «Координатори», з іншого боку, «мають доступ до вдосконаленої інформаційної панелі з підтримкою ШІ для керування прихильниками та діями».
Чи порушує інструмент правила соцмереж
«Політика Twitter щодо маніпулювання платформами та спаму» забороняє використовувати сервіс для штучного розширення чи приховування інформації. Twitter також каже, що заборонена поведінка містить «скоординовану діяльність, яка намагається штучно вплинути на розмови за допомогою використання кількох облікових записів, підроблених облікових записів, автоматизації та/або сценаріїв». Однак до кінця незрозуміло, чи те, що пропонує Impact, порушує політику Twitter, яка також стверджує, що «координація з іншими для вираження ідей, підтримки чи протидії справі» не є порушенням цієї політики.
«Скоординовані групи людей можуть з’явитися та допомогти, або ж переслідувати, — сказав Шапіро. — Ми не вважаємо координацію чимось поганим. Ми вважаємо, що це чудова річ. Якщо ви робите хороші, правдиві речі, я не бачу жодних проблем».
