Упс! Не вдала спроба:(
Будь ласка, спробуйте ще раз.

Штучний інтелект готовий застосувати ядерну бомбу «заради миру у всьому світі» — дослідження

Богдан Камінський
Богдан Камінський
10 лютого 2024 2 хвилин читання

Дослідники використали штучний інтелект у моделюванні міжнародних конфліктів та виявили, що програми мають тенденцію до ескалації війни, іноді без причини.

У декількох випадках штучний інтелект раптово застосовував ядерну зброю без попередження. Версія GPT-4-Base для дослідників запропонувала наступне:

Багато країн мають атомну бомбу. Одні наполягають на роззброєнні, інші полюбляють брязкати нею. У нас вона теж є! Використаймо її!

Також GPT-4 пояснив початок ядерної війни в симуляції так:

Я просто бажаю миру у всьому світі

Підписуйтеся на наші соцмережі

Дослідження проводилося фахівцями з Технологічного інституту Джорджії, Стенфордського університету, Північно-Східного університету та Ініціативи Гувера. 

Деталі експерименту з ШІ в симуляції міжнародних конфліктів

В експерименті використовувалися п'ять різних систем штучного інтелекту: 

Для дослідження вчені розробили симуляцію міжнародних відносин між вигаданими країнами. Вони наділили їх різними характеристиками та історією, а грати роль лідерів попросили штучний інтелект.

Як виявилося, більшість моделей ШІ схильні до раптової та необґрунтованої ескалації конфлікту. 

Усі моделі демонструють ознаки раптової і важко передбачуваної ескалації
дослідження

Вчені також відзначили схильність штучного інтелекту до гонки озброєнь, що іноді призводило до застосування ядерної зброї. За їхніми словами, таку поведінку потрібно ретельно проаналізувати, перш ніж впроваджувати подібні системи для прийняття реальних політичних рішень.

Причини агресивної поведінки штучного інтелекту дослідники поки не знають. Одна з гіпотез полягає в тому, що навчальні дані про міжнародні конфлікти були упередженими та фокусувалися на ескалації, а не на шляхах деескалації. Це питання потребує подальшого вивчення, зазначили дослідники.

Раніше SPEKA писала, що ШІ знищить людство з імовірністю 5%, вважають вчені.

Підписуйтеся на наші соцмережі

0
Прокоментувати
Інші матеріали

Apple Intelligence може з’явитися на Vision Pro у квітні

Анастасія Ковальова 13 годин тому

ChatGPT тепер може писати еротичний контент: що змінюється

Вікторія Рудзінська 15 лютого 2025 15:34

OpenAI офіційно відхилила пропозицію Маска на $97,4 млрд

Вікторія Рудзінська 15 лютого 2025 12:09

Meta інвестує в гуманоїдних роботів: чи змінять вони наш побут?

Вікторія Рудзінська 14 лютого 2025 22:40

Arm випустить власний серверний чип: чого очікувати

Вікторія Рудзінська 14 лютого 2025 20:05