OpenAI запускає новий проєкт з безпеки штучного інтелекту

За словами CEO OpenAI Сема Альтмана, його компанія створює нову команду для оцінки, прогнозування та захисту від ризиків ШІ.

Нова команда має назву Preparedness (Пiдготовленiсть) та очолює її Олександр Мадрі, професор Массачусетського технологічного інституту. 

Проєкт базується на понятті підготовленості до можливих сценаріїв, коли ШІ буде використовуватися для шкоди, як зараз, так і в майбутньому.

Команда допоможе відстежувати, оцінювати, прогнозувати та захищати від катастрофічних ризиків використання ШІ.

Місія команди Preparedness також включає розробку та підтримку політики ризико-орiєнтованої розробки (RDP).

RDP детально описує пiдхiд OpenAI до розробки суворих оцiнок можливостей та монiторингу передових моделей ШІ, створення спектру захисних заходiв та встановлення структури управлiння для забезпечення вiдповiдальностi та нагляду на протязi всього процесу розробки.