ШІ-агенти загрожують конфіденційності користувачів, вважає голова Signal

Президентка Signal Мередіт Віттакер попередила, що агенти штучного інтелекту можуть загрожувати конфіденційності користувачів. Про це вона заявила на конференції SXSW в Техасі, повідомляє Techcrunch.

Віттакер вважає, що використання ШІ-агентів рівнозначне «поміщенню вашого мозку в банку». Вона впевнена, що нова парадигма обчислень, де штучний інтелект виконує завдання від імені користувачів, має «глибоку проблему» як з конфіденційністю, так і з безпекою.

Чому використання ШІ-агентів загрожує безпеці даних

ШІ-агенти продаються як спосіб підвищити цінність життя, бо виконують різні онлайн-завдання для користувача: шукають концерти, бронюють квитки, планують події у календарі і повідомляють друзям, що подію заброньовано.

Підписуйтеся на наші соцмережі

Водночас, пояснює вона, агенту штучного інтелекту для виконання цих завдань знадобиться більше доступу:

Щоб керувати процесами у користувацькій системі ШІ-агент повинен мати доступи рівня root-дозволів і доступ до кожної з цих баз даних. І, ймовірно, у відкритому вигляді, тому що немає моделі, яка б робила це зашифровано, попередила Віттакер.

Потужна ШІ-модель навряд чи буде робити все це на пристрої користувача. Майже напевно інформація надсилається на хмарний сервер, обробляється і надсилається назад. 

Чому Signal не матиме інтеграції з ШІ-агентами

Якби Signal інтегрувався з агентами ШІ, це підірвало б конфіденційність повідомлень користувачів. Агент має отримати доступ до програми, щоб відправити повідомлення друзям, а також отримати дані, щоб узагальнити ці повідомлення.

Так Віттакер прокоментувала дискусію про те, що галузь ШІ побудована на моделі масового збору даних. Парадигма штучного інтелекту «чим більше [даних], тим краще» має потенційні погані наслідки, впевнена Віттакер.

Віттакер попередила, що завдяки агентському ШІ людство підриває конфіденційність і безпеку в ім’я «чарівного бота-джина, який подбає про життєві труднощі».