OpenAI дозволив розробляти програми для військових. Чим це небезпечно
Компанія OpenAI змінила правила використання ChatGPT, відкривши двері для військових технологій, повідомляє Intercept.
Як помітили в виданні, до 10 січня 2024 року сторінка «Політики використання» OpenAI включала пряму заборону на «діяльність, яка має високий ризик фізичної шкоди, включаючи», зокрема, «розробку зброї» та «військові дії». У новому варіанті загальна заборона на «військове та бойове» використання зникла.
«Будь-яке використання наших технологій, у тому числі військовими, для «[розробки] або [використання] зброї, [поранення] інших або [знищення] власності або [брати участь] у несанкціонованих діях, які порушують безпеку будь-якої служби чи системи«, заборонено”
представник OpenAI Ніко Фелікс
Проте він не уточнив, чи розпливчаста заборона на «шкоду» охоплює будь-яке використання у військових цілях.
Які наслідки матиме використання ChatGPT для військових
Технології OpenAI все ще не можна використати для прямого вбивства, у військових чи інших цілях. ChatGPT не може маневрувати безпілотником чи запускати ракету.
Проте існує значна кількість суміжних завдань, де ChatGPT та інші мовні моделі вже можна застосувати: наприклад, написання коду, обробка замовлень у держзакупівлях. Американські військові використовують ШІ-технології у документообігу. А Нацагентство геопросторової розвідки відкрито припускає використання ChatGPT для допомоги аналітикам-людям.
Експерти вважають, що OpenAI потроху змінює свою позицію проти ведення бізнесу з військовими.
До того ж Microsoft, який є великим оборонним підрядником, вже інвестував в OpenAI $13 млрд та активно використовує програмні інструменти компанії.
Чим ChatGPT приваблює та відлякує Пентагон
Пентагон все ще розмірковує, чим йому може бути корисні ChatGPT та інші великі мовні моделі.
ШІ навчаються на неосяжному масиві книг, статей та інших веб-даних. Хоча відповіді ChatGPT можуть бути надзвичайно переконливими, вони все ще страждають від так званих галюцинацій, коли точність викликає багато запитань.
Проте здатність мовних моделей швидко робити аналіз даних — або принаймні симулювати аналітику — робить їх надзвичайно привабливими для оборонних відомств, які навантажені даними.
З іншого боку, в Пентагоні вже лунають занепокоєння:
- ChatGPT додає в відповіді явні фактичні помилки чи інші викривлення;
- є ризики для безпеки внаслідок використання ChatGPT для аналізу секретних або інших конфіденційних даних.
В листопаді 2023 року заступник міністра оборони США Кетлін Хікс заявила, що ШІ є «ключовою частиною комплексного підходу до інновацій, орієнтованого на бійця, якого ми з міністром Остіном розвиваємо з першого дня». У той же час, більшість поточних пропозицій «ще технічно недостатньо зрілі, щоб відповідати нашим етичним принципам ШІ», додала Хікс.
