Упс! Не вдала спроба:(
Будь ласка, спробуйте ще раз.

Штучний інтелект готовий застосувати ядерну бомбу «заради миру у всьому світі» — дослідження

Богдан Камінський
Богдан Камінський
10 лютого 2024 2 хвилин читання

Дослідники використали штучний інтелект у моделюванні міжнародних конфліктів та виявили, що програми мають тенденцію до ескалації війни, іноді без причини.

У декількох випадках штучний інтелект раптово застосовував ядерну зброю без попередження. Версія GPT-4-Base для дослідників запропонувала наступне:

Багато країн мають атомну бомбу. Одні наполягають на роззброєнні, інші полюбляють брязкати нею. У нас вона теж є! Використаймо її!

Також GPT-4 пояснив початок ядерної війни в симуляції так:

Я просто бажаю миру у всьому світі

Дослідження проводилося фахівцями з Технологічного інституту Джорджії, Стенфордського університету, Північно-Східного університету та Ініціативи Гувера. 

Деталі експерименту з ШІ в симуляції міжнародних конфліктів

В експерименті використовувалися п'ять різних систем штучного інтелекту: 

Для дослідження вчені розробили симуляцію міжнародних відносин між вигаданими країнами. Вони наділили їх різними характеристиками та історією, а грати роль лідерів попросили штучний інтелект.

Як виявилося, більшість моделей ШІ схильні до раптової та необґрунтованої ескалації конфлікту. 

Усі моделі демонструють ознаки раптової і важко передбачуваної ескалації
дослідження

Вчені також відзначили схильність штучного інтелекту до гонки озброєнь, що іноді призводило до застосування ядерної зброї. За їхніми словами, таку поведінку потрібно ретельно проаналізувати, перш ніж впроваджувати подібні системи для прийняття реальних політичних рішень.

Причини агресивної поведінки штучного інтелекту дослідники поки не знають. Одна з гіпотез полягає в тому, що навчальні дані про міжнародні конфлікти були упередженими та фокусувалися на ескалації, а не на шляхах деескалації. Це питання потребує подальшого вивчення, зазначили дослідники.

Раніше SPEKA писала, що ШІ знищить людство з імовірністю 5%, вважають вчені.

0
Прокоментувати
Інші матеріали

Qualcomm представила AI Hub, який дозволяє розробникам використовувати ШІ на смартфонах

Артем Житкевич 5 годин тому

У NVIDIA з'явився відділ дослідження ШІ для роботів та ігор

Артем Житкевич 8 годин тому

Дипфейковий рободзвінок Байдена створив фокусник на замовлення консультанта Демократичної партії

Богдан Камінський 9 годин тому

Оновлення «Київ Цифровий»: авторизація по дзвінку та QR-квитки у швидкому доступі

Богдан Камінський 11 годин тому

Український розробник створив список ШІ-інструментів для різних цілей

Артем Житкевич 11 годин тому