Упс! Не вдала спроба:(
Будь ласка, спробуйте ще раз.

“Дрон, керований ШІ, намагався вбити оператора”: що відбулось насправді

Ганна Гілова
Ганна Гілова Журналіст Speka
2 червня 2023 2 хвилин читання

Днями в ЗМІ розлетілась новина, що наче ШІ «вбив» людину у симуляції. Новина набула широкого резонансу. Що відбулось насправді, розповідає SPEKA.

На саміті щодо майбутнього бойового повітряно-космічного потенціалу, Такер «Сінко» Гамільтон, начальник відділу випробувань і операцій з ШІ ВПС США, розповів, як дрон, керований ШІ, “вбив” людину-оператора у симульованому випробуванні.

Однак після публікації цієї історії, речник ВПС Енн Штефанек сказала Insider, що США не проводили такого тесту, і що коментарі офіційного представника ВПС були вирвані з контексту.

Завдання, поставлене ШІ, було простим: знищити системи протиповітряної оборони противника. Однак ШІ додав власні інструкції “вбивати кожного, хто встане на шляху”.

Система отримувала у симуляції бали за винищення об’єктів. Іноді людина-оператор казав не знищувати загрозу — і сам ставав ціллю для ШІ.

ШІ, який керував дроном, вбив симуляцію людини-оператора в симуляції бою. Але, за словами Гамільтона, в реальному житті це могло би вбити оператора.

Речник ВПС спростувала цю інформацію: 

Департамент військово-повітряних сил не проводив жодних подібних симуляцій ШІ-дронів і залишається відданим етичному та відповідальному використанню технологій ШІ.
Енн Штефанек

Моральні аспекти використання ШІ 

Штучний інтелект навряд чи сам може вбити людину. Проте це може статись, якщо людина з MBA сформулює специфічне завдання для ШІ, пояснює Сарабх Бгатнагар, дослідник ШІ.

Складні системи мають багато «побічних ефектів». Наприклад, вирішити проблему голоду у світі можна, у тому числі, й убивши людей: мертві люди — не голодні. Відновити дику природу теж можна, запустивши вірус, націлений на людей, які руйнують ліса та океани.

Проблема полягає не в ШІ, а в умовах його використання. 

Чи дійсно ШІ-оператор дрона може вбити людину?  Чи дійсно ШІ-оператор дрона може вбити людину? 
50 UAH 150 UAH 500 UAH 1000 UAH 3000 UAH 5000 UAH
0
Прокоментувати
Інші матеріали

В Android 14 з'явився ШІ-генератор шпалер

Артем Житкевич 5 годин тому

Браузер Arc отримав ШІ функції

Артем Житкевич 7 годин тому

У чатбот Bing додали безплатну модель генерації зображень DALL-E 3

Богдан Камінський 14 годин тому

Американські сенатори розслідують наймання керівників ByteDance в компанію TikTok

Юлія Мирська 19 годин тому

LinkedIn додасть ШІ, щоб полегшити компаніям пошук кандидатів на роботу

Юлія Мирська 20 годин тому