Чи збільшить ChatGPT кількість спаму та шахрайства в мережі
«Листи щастя» давно стали мемом, але й досі працюють. Чи зроблять великі мовні моделі й ChatGPT листи від зловмисників переконливішими? Джон Лікато, доцент кафедри комп’ютерних наук університету Південної Флориди, у колонці для The Conversation розібрався у цьому питанні. SPEKA обрала головне з матеріалу.
Як розвиток штучного інтелекту вплине на email-розсилки
Щодня повідомлення від нігерійських принців та торговців чудодійними ліками переповнюють поштові скриньки користувачів.
Тепер гонитва озброєнь між блокувальниками та відправниками спаму набере нових обертів: завдяки останнім досягненням штучного інтелекту спамери отримають нові інструменти, щоб обійти фільтри, привернути увагу людей і переконати їх перейти за посиланням, купити товар або ввести дані своєї картки.
Штучний інтелект може вивчати індивідуальні вподобання, переконання та звички людей.
Що таке спам
Підписуйтеся на наші соцмережі
Спам — це небажані комерційні електронні листи, а також повідомлення в соціальних мережах чи підроблені відгуки про продукти. Спамери хочуть підштовхнути вас до дії: щось купити, натиснути на фішингові посилання, встановити шкідливе ПЗ тощо.
Спам — це вигідно. Одне повідомлення дозволяє заробити $1000 всього за кілька годин, і коштуватиме спамерам кілька доларів, не враховуючи налаштування. Інтернет-кампанія фармацевтичного спаму може генерувати близько $7000 за день.
Спамери не мають доступу до списків розсилок, на які підписалися користувачі. Тому обирають неінтуїтивні стратегії на кшталт шахрайства з «нігерійським принцом».
Шахрайство такого типу орієнтоване на наївних або людей похилого віку, але прогрес у штучному інтелекті дозволить їм націлюватися на окремих людей і зробити їхні повідомлення більш переконливими на основі легкодоступної інформації (як публікації в соцмережах).
Як нейромережі можна використати для спаму
Нейромережі, а зокрема великі мовні моделі (LLM), як ChatGPT, призначені для створення текстової послідовності. Вони мають передбачати, яка слово буде наступним. І так знову і знову. Фактично, це дуже просунута версія T9 на вашому смартфоні.
Проаналізувавши вашу сторінку у соцмережі, кілька дописів і одне-два зображення профілю, озброєні LLM спамери можуть зробити досить точні припущення щодо ваших політичних уподобань, сімейного стану чи життєвих пріоритетів.
Коли спамери проходять початкові фільтри та змушують вас прочитати лист, натиснути посилання чи вступити в розмову, їхня здатність досягти мети значно зростає.
Чи призведе розвиток ChatGPT до нової хвилі шахрайств в інтернеті
Насправді штучний інтелект не надає переваги жодній стороні. Спам-фільтри також повинні виграти від прогресу й матимуть нові бар’єри для небажаної пошти.
Спамери часто намагаються обдурити фільтри за допомогою спеціальних символів, неправильно написаних слів або прихованого тексту, покладаючись на людську схильність прощати дрібні аномалії тексту, наприклад, «c1îck h.ere n0w». Але коли ШІ стане краще розуміти спам-повідомлення, фільтри можуть покращити ідентифікацію та блокування небажаного спаму. Уявіть собі фільтр, який передбачає, чи захочете ви прочитати електронний лист ще до того, як ви його відкриєте.
Попри занепокоєння щодо штучного інтелекту, прогрес у цій технології може принести багато користі. Він може допомогти нам зрозуміти, як слабкі сторони людського мислення можуть бути використані зловмисниками, і знайти способи протидії.
Як і усі нові технології, ШІ можна використати на благо або шкоду. Різниця лише в тому, хто створює та контролює інструменти.
