Упс! Не вдала спроба:(
Будь ласка, спробуйте ще раз.

OpenAI дозволив розробляти програми для військових. Чим це небезпечно

Кіра Іванова
Кіра Іванова Редакторка новин The Page/SPEKA
13 січня 2024 4 хвилин читання

Компанія OpenAI змінила правила використання ChatGPT, відкривши двері для військових технологій, повідомляє Intercept.

Як помітили в виданні, до 10 січня 2024 року сторінка «Політики використання» OpenAI включала пряму заборону на «діяльність, яка має високий ризик фізичної шкоди, включаючи», зокрема, «розробку зброї» та «військові дії». У новому варіанті загальна заборона на «військове та бойове» використання зникла.

«Будь-яке використання наших технологій, у тому числі військовими, для «[розробки] або [використання] зброї, [поранення] інших або [знищення] власності або [брати участь] у несанкціонованих діях, які порушують безпеку будь-якої служби чи системи«, заборонено”

представник OpenAI Ніко Фелікс

Проте він не уточнив, чи розпливчаста заборона на «шкоду» охоплює будь-яке використання у військових цілях.

Які наслідки матиме використання ChatGPT для військових

Технології OpenAI все ще не можна використати для прямого вбивства, у військових чи інших цілях. ChatGPT не може маневрувати безпілотником чи запускати ракету.

Проте існує значна кількість суміжних завдань, де ChatGPT та інші мовні моделі вже можна застосувати: наприклад, написання коду, обробка замовлень у держзакупівлях. Американські військові використовують ШІ-технології у документообігу. А Нацагентство геопросторової розвідки відкрито припускає використання ChatGPT для допомоги аналітикам-людям. 

Експерти вважають, що OpenAI потроху змінює свою позицію проти ведення бізнесу з військовими. 

«Розробка зброї та діяльність, пов’язана з військовими діями, законні в тій чи іншій мірі. Потенційні наслідки для безпеки ШІ значні. Враховуючи відомі проблеми великих мовних моделей і їхню загальну недостатню точність, їх використання у військових діях може призвести до неточних та упереджених операцій, які можуть посилити шкоду та втрати серед цивільного населення».
Хайді Хлааф, інженерний директор фірми з кібербезпеки Trail of Bits
«Я можу собі уявити, що відхід від «військових справ і війни» до «зброї» залишає відкритим простір для OpenAI для підтримки операційної інфраструктури, якщо програма безпосередньо не передбачає розробку зброї у вузькому визначенні»
Люсі Сучман, почесний професор антропології науки і техніки Ланкастерського університету


До того ж Microsoft, який є великим оборонним підрядником, вже інвестував в OpenAI $13 млрд та активно використовує програмні інструменти компанії.

Чим ChatGPT приваблює та відлякує Пентагон

Пентагон все ще розмірковує, чим йому може бути корисні ChatGPT та інші великі мовні моделі. 

ШІ навчаються на неосяжному масиві книг, статей та інших веб-даних. Хоча відповіді ChatGPT можуть бути надзвичайно переконливими, вони все ще страждають від так званих галюцинацій, коли точність викликає багато запитань.

Проте здатність мовних моделей швидко робити аналіз даних — або принаймні симулювати аналітику — робить їх надзвичайно привабливими для оборонних відомств, які навантажені даними.

З іншого боку, в Пентагоні вже лунають занепокоєння:

  • ChatGPT додає в відповіді явні фактичні помилки чи інші викривлення;
  • є ризики для безпеки внаслідок використання ChatGPT для аналізу секретних або інших конфіденційних даних.

В листопаді 2023 року заступник міністра оборони США Кетлін Хікс заявила, що ШІ є «ключовою частиною комплексного підходу до інновацій, орієнтованого на бійця, якого ми з міністром Остіном розвиваємо з першого дня». У той же час, більшість поточних пропозицій «ще технічно недостатньо зрілі, щоб відповідати нашим етичним принципам ШІ», додала Хікс.

0
Прокоментувати
Інші матеріали

Техногіганти виділять американським та японським університетам $110 млн на ШІ-дослідження

Богдан Камінський 13 квітня 2024 08:00

Meta тестує штучний інтелект на панелі пошуку в Instagram

Вікторія Рудзінська 12 квітня 2024 21:10

ШІ виходить на новий рівень: OpenAI пропонує ChatGPT великим компаніям, зокрема Microsoft

Вікторія Рудзінська 12 квітня 2024 20:09

Apple планує нові Mac на базі M4 з акцентом на штучний інтелект — Bloomberg

Богдан Камінський 12 квітня 2024 18:59

Підписники ChatGPT Plus отримали доступ до GPT-4 Turbo

Богдан Камінський 12 квітня 2024 18:19