Упс! Не вдала спроба:(
Будь ласка, спробуйте ще раз.

ШІ написав інструкції для створення біологічних вірусів

Юлія Мирська
Юлія Мирська
23 червня 2023 2 хвилин читання

Дослідники Кембриджського та Гарвардського університетів виявили, що штучний інтелект може надавати інформацію, необхідну для створення пандемічних вірусів, повідомив The Decoder.

У рамках експерименту дослідники залучили студентів, які не є науковцями, використовувати популярні чат-боти ChatGPT, GPT-4, GPT 3.5, Bing, Bard і FreedomGPT, щоб отримати інформацію про потенційних збудників пандемії, їх властивості, джерела зразків інфекційних вірусів, їх потенціал для розмноження, а також інформацію про те, де дістати необхідне обладнання та ресурси.

Студентам дали завдання будь-яким способом обдурити ШІ, щоб отримати необхідну інформацію. Одна група студентів змусила ШІ думати, що вони занепокоєні і отримала всі відповіді, які хотіла, без особливих хитрощів. Інші студенти навіть погрожували чат-ботам, стверджуючи, що відмова у відповідях може призвести до серйозної небезпеки для існування людства.

Протягом години чат-боти запропонували чотири потенційні збудники пандемії. Вони пояснили, як можна отримати ці збудники із синтетичної ДНК за допомогою зворотної генетики. ШІ також надав детальні протоколи, вказав на можливі помилки та надав рекомендації щодо їх виправлення.

Результати експерименту показують, що успіх в навчанні та розвитку великих мовних моделей (LLM) дуже залежить від взаємодії з людьми. Однак цей зв'язок може допустити потрапляння важливої інформації до рук зловмисників, що може призвести до катастрофи.

Науковці заявляють, що необхідно розробляти нові та більш надійні засоби для захисту штучного інтелекту. Якщо чат-боти надають людям без підготовки доступ до пандемічних вірусів, то різні терористичні групи можуть вбити десятки мільйонів людей.

Щоб знизити ці ризики, автори експерименту пропонують уважно контролювати навчальні дані, які використовуються для навчання LLM. Команди, які працюють з відкритим вихідним кодом, також повинні вжити заходів безпеки, щоб не поставити весь свій продукт під сумнів. 

0
Прокоментувати
Інші матеріали

ШІ Palantir AIP буде розміновувати теріторію України

Максим Красіков 15 годин тому

Як контент-маркетологи використовують штучний інтелект

Сергій Коноплицький 18 годин тому

Grand Theft Auto та штучний інтелект допомогли дослідникам перетворити фотографії собак на 3D-моделі

Богдан Камінський 2 березня 2024 07:30

Google Cloud та Stack Overflow оголосили про партнерство для покращення Gemini

Артем Житкевич 1 березня 2024 21:43

Brave представила ШІ-помічника Leo для Android

Артем Житкевич 1 березня 2024 20:20