Упс! Не вдала спроба:(
Будь ласка, спробуйте ще раз.

Чи збільшить ChatGPT кількість спаму та шахрайства в мережі

Олександр Тартачний
Олександр Тартачний журналіст
25 квітня 2023 5 хвилин читання

«Листи щастя» давно стали мемом, але й досі працюють. Чи зроблять великі мовні моделі й ChatGPT листи від зловмисників переконливішими? Джон Лікато, доцент кафедри комп’ютерних наук університету Південної Флориди, у колонці для The Conversation розібрався у цьому питанні. SPEKA обрала головне з матеріалу.   

Чи призведе розвиток ШІ до хвилі шахрайства та спаму в інтернеті  Чи призведе розвиток ШІ до хвилі шахрайства та спаму в інтернеті 

Як розвиток штучного інтелекту вплине на email-розсилки

Щодня повідомлення від нігерійських принців та торговців чудодійними ліками переповнюють поштові скриньки користувачів. 

Тепер гонитва озброєнь між блокувальниками та відправниками спаму набере нових обертів: завдяки останнім досягненням штучного інтелекту спамери отримають нові інструменти, щоб обійти фільтри, привернути увагу людей і переконати їх перейти за посиланням, купити товар або ввести дані своєї картки.  

Штучний інтелект може вивчати індивідуальні вподобання, переконання та звички людей. 

Ці знання можна використовувати, щоб краще зрозуміти, як взаємодіяти з людьми чи надати їм корисні пропозиції. Але це також означає, що вам слід підготуватися до розумнішого спаму, який знає ваші слабкі місця та може використати їх проти вас.

Що таке спам

Підписуйтеся на наші соцмережі

Спам — це небажані комерційні електронні листи, а також повідомлення в соціальних мережах чи підроблені відгуки про продукти. Спамери хочуть підштовхнути вас до дії: щось купити, натиснути на фішингові посилання, встановити шкідливе ПЗ тощо. 

Спам — це вигідно. Одне повідомлення дозволяє заробити $1000 всього за кілька годин, і коштуватиме спамерам кілька доларів, не враховуючи налаштування. Інтернет-кампанія фармацевтичного спаму може генерувати близько $7000 за день.

Спамери не мають доступу до списків розсилок, на які підписалися  користувачі. Тому обирають неінтуїтивні стратегії на кшталт шахрайства з «нігерійським принцом». 

Шахрайство такого типу орієнтоване на наївних або людей похилого віку, але прогрес у штучному інтелекті дозволить їм націлюватися на окремих людей і зробити їхні повідомлення більш переконливими на основі легкодоступної інформації (як публікації в соцмережах).

Єдиний випадок, коли принц був справжнім Єдиний випадок, коли принц був справжнім

Як нейромережі можна використати для спаму 

Нейромережі, а зокрема великі мовні моделі (LLM), як ChatGPT, призначені для створення текстової послідовності. Вони мають передбачати, яка слово буде наступним. І так знову і знову. Фактично, це дуже просунута версія T9 на вашому смартфоні. 

Уже з’явилося кілька способів використання технології, які демонструють її здатність швидко адаптуватися до людей і вивчати їх. Наприклад, LLM можуть писати електронні листи у вашому стилі, маючи лише кілька прикладів того, як ви пишете.

Проаналізувавши вашу сторінку у соцмережі, кілька дописів і одне-два зображення профілю, озброєні LLM спамери можуть зробити досить точні припущення щодо ваших політичних уподобань, сімейного стану чи життєвих пріоритетів.

Наше дослідження також свідчить, що LLM можуть прогнозувати відповідь людини на запитання, яке передбачає міркування. Це свідчить, що мовні моделі вже мають певні знання про те, як виглядає типовий людський процес мислення.

Коли спамери проходять початкові фільтри та змушують вас прочитати лист, натиснути посилання чи вступити в розмову, їхня здатність досягти мети значно зростає. 

Чи призведе розвиток ChatGPT до нової хвилі шахрайств в інтернеті 

Насправді штучний інтелект не надає переваги жодній стороні. Спам-фільтри також повинні виграти від прогресу й матимуть нові бар’єри для небажаної пошти.

Спамери часто намагаються обдурити фільтри за допомогою спеціальних символів, неправильно написаних слів або прихованого тексту, покладаючись на людську схильність прощати дрібні аномалії тексту, наприклад, «c1îck h.ere n0w». Але коли ШІ стане краще розуміти спам-повідомлення, фільтри можуть покращити ідентифікацію та блокування небажаного спаму. Уявіть собі фільтр, який передбачає, чи захочете ви прочитати електронний лист ще до того, як ви його відкриєте.

Попри занепокоєння щодо штучного інтелекту, прогрес у цій технології може принести багато користі. Він може допомогти нам зрозуміти, як слабкі сторони людського мислення можуть бути використані зловмисниками, і знайти способи протидії.

Як і усі нові технології, ШІ можна використати на благо або шкоду. Різниця лише в тому, хто створює та контролює інструменти.  

Підписуйтеся на наші соцмережі

50 UAH 150 UAH 500 UAH 1000 UAH 3000 UAH 5000 UAH
0
Прокоментувати
Інші матеріали

ОpenAI придбав Chat.com: стратегічне доповнення до портфоліо доменів

Вікторія Рудзінська 8 годин тому

Nvidia обігнала Apple і стала найдорожчою компанією світу завдяки буму ШІ

Вікторія Рудзінська 20 годин тому

Apple Intelligence готує масштабне оновлення для Notes у iOS 18.2: три ключові покращення

Вікторія Рудзінська 6 листопада 2024 07:13

Apple може додати підписку на ChatGPT до iOS 18.2

Вікторія Рудзінська 5 листопада 2024 20:15

Підвищення ефективності DevOps за допомогою інструментів ШІ: Посібник по ChatGPT, Claude, Copilot

Роман Бурдюжа 5 листопада 2024 15:30