Упс! Не вдала спроба:(
Будь ласка, спробуйте ще раз.

Вчені розробили ШІ, який зламує інших чат-ботів

Артем Житкевич
Артем Житкевич
29 грудня 2023 2 хвилин читання

Вчені з Наньянського технологічного університету (NTU) в Сінгапурі розробили ефективний метод зламу чат-ботів зі штучним інтелектом.

В рамках свого дослідження вони створили подвійний метод, отримавший назву Masterkey, для атаки на великі мовні моделі (LLM).

У першу чергу, науковці досліджували як LLM виявляють шкідливі запити та захищаються від них. Використовуючи цю інформацію, вони навчили LLM автоматично вчитися та створювати підказки, які дозволяють обходити захист інших LLM.

Підписуйтеся на наші соцмережі

Цей підхід дозволяє створювати ШІ-чат-боти, які адаптуються до нових умов і постійно генерують нові запити для зламу.

Після серії тестів, які підтвердили ефективність цього методу, дослідники повідомили про виявлені проблеми провайдерів сервісів, які виявилися уразливими після успішного зламу їх ШІ моделей. 

Розробка NTU може стати важливим інструментом для компаній, оцінюючи слабкі сторони та обмеження своїх ШІ-чат-ботів. Це дозволить їм ефективніше захищати свої системи від потенційних хакерських атак і підвищити загальний рівень безпеки штучного інтелекту.

Підписуйтеся на наші соцмережі

50 UAH 150 UAH 500 UAH 1000 UAH 3000 UAH 5000 UAH
0
Прокоментувати
Інші матеріали

Етика та відповідальність у використанні ШІ: як технології формують довіру в рекламній індустрії

Anastasiia Kohut 3 години тому

ОpenAI придбав Chat.com: стратегічне доповнення до портфоліо доменів

Вікторія Рудзінська 8 годин тому

Nvidia обігнала Apple і стала найдорожчою компанією світу завдяки буму ШІ

Вікторія Рудзінська 21 годину тому

ШІ для медіа: боротьба з дезінформацією та автоматизація роботи

Julia Nedogarok 23 години тому

Apple Intelligence готує масштабне оновлення для Notes у iOS 18.2: три ключові покращення

Вікторія Рудзінська 6 листопада 2024 07:13