Чи може ШІ перехитрити нас і знищити людство? Професор ШІ вважає, що не варто хвилюватися

У 1989 році політолог Френсіс Фукуяма передбачив, що ми наближаємося до кінця історії. Він мав на увазі, що схожі ліберально-демократичні цінності закріплюються у суспільствах по всьому світу. Наскільки він міг помилятися? Демократія сьогодні явно занепадає. Деспотії та автократії зростають.

Однак, можливо, Фукуяма був правий з самого початку, але в іншому сенсі. Можливо, ми дійсно наближаємося до кінця історії. Тобто до «гри над людством», пише для The Conversation професор AI Університету Нового Південного Уельсу Тобі Волш. SPEKA публікує адаптований переклад есе, де він викладає свої думки щодо того, чому нам не варто боятися ШІ.

Передбачення про небезпеки ШІ

Є багато варіантів, як усе може закінчитися: глобальна пандемія, велетенський метеорит, кліматична катастрофа. Але один кінець, про який дедалі частіше говорять, — це штучний інтелект. Це одна з тих потенційних катастроф, що, як і зміна клімату, здається, повільно підкрадається до нас, але, як багато хто тепер побоюється, може незабаром знищити нас.

У 2022 році Сем Альтман, генеральний директор OpenAI — однієї з найбільш швидкозростальних компаній в історії капіталізму, пояснив всі за і проти:

У грудні 2024 року Джеффрі Хінтон, якого часто називають хрещеним батьком ШІ і який нещодавно отримав Нобелівську премію з фізики, оцінив ймовірність того, що ШІ може призвести до вимирання людства протягом наступних 30 років, як «від 10% до 20%». Це досить серйозні прогнози від людини, яка багато знає про штучний інтелект.

Альтман і Хінтон не перші, хто турбується про те, що станеться, коли ШІ стане розумнішим за нас. Візьміть хоча б Алана Тюрінга, якого багато хто вважає засновником галузі штучного інтелекту. Журнал Time вніс Тюрінга до списку 100 найвпливовіших людей 20 століття. 

В інтерв'ю журналу LIFE у 1970 році ще один із засновників напряму Марвін Мінський прогнозував:

Математик Ірвінг Гуд, який працював разом із Тюрінгом у Блечлі-Парку під час Другої світової війни, передбачив, як машини можуть захопити контроль. Гуд назвав це вибухом інтелекту (intelligence explosion). Це момент, коли машини стануть достатньо розумними, щоб почати самовдосконалюватися.

Гуд передбачив, що сингулярність створить суперрозумну машину. Він дещо зловісно припустив, що це буде «останній винахід, який коли-небудь знадобиться людині».

Коли ШІ може нас перехитрити?

Коли саме машинний інтелект може перевершити людський, ще неясно. Але, враховуючи нещодавній прогрес у великих мовних моделях, як-от ChatGPT, багато хто вважає, що це може статися дуже скоро. І, щоб додати солі на рану, ми, можливо, навіть пришвидшуємо цей процес.

Підписуйтеся на наші соцмережі

Ми ніколи раніше не робили таких масштабних ставок на одну технологію. Як наслідок, багато людей вважає, що терміни, коли машини зрівняються з людським інтелектом, а незабаром і перевершать його, стрімко скорочуються.

Ілон Маск передбачив, що машини перехитрують нас до 2025-2026 роів. Даріо Амодей, генеральний директор конкурента OpenAI, компанії Anthropic, припустив, що «ми досягнемо цього у 2026-му або 2027-му». Шейн Легг, співзасновник Google DeepMind, назвав 2028 рік, а генеральний директор Nvidia Дженсен Хуанг — 2029 рік. 

Звісно, є й протилежні думки. Ян Лекун, головний науковий співробітник Meta, стверджує, що «на це підуть роки, якщо не десятиліття». А професор Гері Маркус прогнозує, що це станеться «можливо, через 10 або 100 років».

Можливі сценарії

Коли комп'ютери зрівняються з нашим інтелектом, було б самовпевнено думати, що вони його не перевершать. Зрештою людський інтелект — це лише еволюційна випадковість. Ми часто конструюємо системи, щоб бути кращими за природу. Літаки, наприклад, літають далі, вище і швидше, ніж птахи. І є багато причин, чому електронний інтелект може бути кращий за біологічний.

Комп'ютери, наприклад, набагато швидше виконують багато обчислень. Комп'ютери мають величезну пам'ять. Комп'ютери ніколи не забувають. А у вузьких сферах, як-от гра в шахи, читання рентгенівських променів або складання білків, комп'ютери вже перевершують людину.

Тож як саме суперінтелектуальний комп'ютер знищить нас? Тут аргументи стають розпливчастими. Хінтон сказав в інтерв'ю New York Times:

На аргумент Хінтона є контраргументи, пише Тобі Волш. Діти контролюють батьків, але не є розумнішими. Так само і президенти США не є розумнішими за всіх громадян США. 

Але в широкому сенсі Хінтон має рацію. Ми повинні, наприклад, пам'ятати, що саме інтелект поставив нас на чолі планети. І мавпи, і мурахи тепер залежать від нашої доброї волі для свого подальшого існування.

Ті, хто боїться штучного суперінтелекту, часто стверджують, що ми не можемо точно знати, як саме він загрожує нашому існуванню. Як ми можемо передбачити плани чогось набагато розумнішого за нас? Це ніби попросити собаку уявити собі Армагеддон термоядерної війни.

ШІ може атакувати критичну інфраструктуру

Система штучного інтелекту може автономно виявляти вразливі місця у критично важливій інфраструктурі, наприклад, в електромережах або фінансових системах. Потім вона може атакувати ці слабкі місця, руйнуючи основу, що об'єднує суспільство.

ШІ може створити нові смертельні патогени 

Або ж система ШІ може створити нові патогени, які будуть настільки смертельними і швидко передаватимуться, що пандемія, яка виникне в результаті, знищить нас. Після COVID-19 це, мабуть, сценарій, з яким багато хто з нас може погодитися.

ШІ створить самовідтворювані наноагенти, які вбиватимуть людей за сигналом

Інші сценарії набагато фантастичніші. Один із таких запропонував дослідник ШІ Еліезер Юдковський. Він передбачає створення штучним інтелектом самовідтворюваних наномашин, які проникають у кров людини. Ці мікроскопічні бактерії складаються з алмазоподібних структур і можуть розмножуватися за допомогою сонячної енергії та розсіюватися завдяки атмосферним течіям. Він вважає, що вони непомітно проникатимуть в організм людини і, отримавши синхронізований сигнал, вивільнятимуть смертельні токсини, спричиняючи смерть кожного носія.

Надання ШІ повноважень над нашою критичною інфраструктурою було б дуже безвідповідальним. Ми вже впровадили у наші системи засоби захисту, щоб запобігти злому критичної інфраструктури з боку зловмисників. Наприклад, австралійський уряд вимагає від операторів критичної інфраструктури «виявляти і, наскільки це можливо, вживати заходів для мінімізації або усунення матеріальних ризиків, які можуть мати відповідний вплив на їхні активи».

Так само надання ШІ можливості синтезувати (потенційно шкідливу) ДНК було б вкрай безвідповідальним. Але знову ж таки ми вже запровадили запобіжники, щоб не допустити зловмисників (людей) до замовлення шкідливої ДНК поштою. Штучний інтелект цього не змінить. Ми не хочемо, щоб погані гравці, людські чи штучні, мали таку можливість.

Переваги суперінтелекту

Якщо не брати до уваги агентуру, суперінтелект мене не дуже хвилює з кількох причин. По-перше, інтелект приносить мудрість і смирення. Найрозумніша людина та, яка знає, як мало вона знає.

По-друге, на нашій планеті вже є суперінтелект. І це не призвело до кінця людських справ, зовсім навпаки. Жодна людина не знає, як побудувати атомну електростанцію. Але колективно люди володіють цим знанням. Наш колективний інтелект набагато випереджає наш індивідуальний інтелект.

По-третє, конкуренція тримає цей колективний інтелект під контролем. Існує здорова конкуренція між колективним інтелектом таких корпорацій, як Apple і Samsung. І це добре.

Звичайно, самої лише конкуренції недостатньо. Уряди все ще мають втручатися і здійснювати регулювання, щоб запобігти негативним наслідкам, таким як монополії, що шукають ренту. Ринки потребують правил, щоб добре функціонувати. Але і тут конкуренція між політиками врешті приведе до хороших результатів. Нам, безумовно, потрібно буде потурбуватися про регулювання ШІ. Так само як ми регулюємо автомобілі, мобільні телефони і суперінтелектуальні корпорації.

Ми вже бачимо, як Європейський Союз активізувався. Закон ЄС про штучний інтелект, який набув чинності на початку 2025 року, регулює високоризиковане використання ШІ в таких сферах, як розпізнавання облич, скоринг соціальних кредитів і прихована реклама. Закон ЄС про ШІ, ймовірно, стане вірусним, подібно до того, як багато країн наслідували приклад ЄС у сфері захисту персональних даних, ухваливши Загальний регламент про захист даних.

Висновок: нам не варто хвилюватися, бо ризики не нові і їх озвучують

Тобі Волш вважає, що вам не варто надто хвилюватися, адже розумні люди, навіть ті, що мають Нобелівські премії, як Джеффрі Хінтон, попереджають про ризики штучного інтелекту. Не дивно, що розумні люди надають інтелекту занадто багато значення.

Насправді я схвалюю неминучу появу більш розумного штучного інтелекту. Це тому, що я очікую, що це зумовить більше усвідомлення, можливо, навіть посилення нашої власної людяності, каже Тобі Волш.

Розумні машини можуть зробити нас кращими людьми, зробивши людські стосунки ще ціннішими. Навіть якщо у майбутньому ми зможемо запрограмувати машини з більшим емоційним і соціальним інтелектом, я сумніваюся, що ми будемо співчувати їм так само, як людині. Машина не буде закохуватися, оплакувати померлого друга, відчувати прекрасний аромат, голосно сміятися або плакати під час перегляду сумного фільму. Це унікальні людські переживання. І оскільки машини не поділяють цих переживань, ми ніколи не будемо ставитися до них так, як ми ставимося одне до одного.

Машини знизять вартість створення багатьох життєво необхідних речей, тому вартість життя різко впаде. Однак ті речі, які все ще будуть зроблені людською рукою, обов'язково будуть рідкісними і дуже дорогими. Ми бачимо це вже сьогодні. Дедалі більше цінується ручна робота, ремісниче мистецтво.

Інтелектуальні машини можуть вдосконалити нас, будучи більш розумними, ніж ми коли-небудь зможемо бути. Наприклад, ШІ може перевершити людський інтелект, знаходячи інформацію у масивах даних, занадто великих для людини, або обчислюючи більше чисел, ніж людина могла б обчислити за все своє життя. Новітній антибіотик був знайдений не завдяки людській винахідливості, а завдяки машинному навчанню. Отже, ми можемо з нетерпінням чекати на майбутнє, в якому наука і технології розвиватимуться завдяки штучному інтелекту.

А розумні машини можуть вдосконалити нас, даючи нам можливість більше цінувати людські цінності. Спроби (і в багатьох випадках невдалі) запрограмувати машини з етичними цінностями можуть привести нас до кращого розуміння наших власних людських цінностей. Це змусить нас дуже точно відповісти на запитання, від яких ми часто ухилялися в минулому. Як ми повинні цінувати інші життя? Що означає бути чесним і справедливим? В якому суспільстві ми хочемо жити?