Хрещений батько ШІ отримав Нобелівську премію. Тепер він застерігає людство від своєї спадщини
Джеффрі Хінтон, один з так званих хрещених батьків штучного інтелекту, отримав Нобелівську премію за розроблення тієї самої технології, що, як він побоюється, може призвести до кінця світу, пише Popular Science.
Хінтон і його колега Джон Хопфілд отримали Нобелівську премію з фізики у вівторок за важливі ранні роботи над штучними нейронними мережами, які відтоді лягли в основу потужних моделей ШІ, розроблених Google, OpenAI та іншими компаніями. Робота пари, яка черпає натхнення в архітектурі людського мозку, проклала шлях до прогресу в машинному навчанні, яке зараз використовується в усьому — від виявлення шахрайства до безпілотних автомобілів. На думку Хінтона, технологія, яку він допоміг започаткувати, також становить серйозний ризик для безпеки людини.
Мозок людини — як приклад мозку машини
Хопфілд та Хінтон проводили дослідження ще у 1970-1980-х, коли навіть не було зрозуміло, до чого може призвести ця технологія. Тим більше що ніхто не міг спрогнозувати, що ШІ стане приголомшливою за розвитком та впливом галуззю.
Хопфілд відомий тим, що поєднав висновки фізики, біології та нейронауки для створення «мережі Хопфілда», здатної зберігати та відтворювати закономірності з даних. Пізніше Хінтон розвинув цю ідею і створив власну мережу під назвою «машина Больцмана», яка може виявляти закономірності у великих масивах даних. Разом ці досягнення стали важливими першими кроками на шляху до створення машин, здатних класифікувати зображення. Це використали у майбутньому у більш сучасних моделях штучного інтелекту для швидкого навчання на основі зображень і закономірностей, що зберігаються у величезних масивах даних.
Підписуйтеся на наші соцмережі
Знання про нейронні мережі та розуміння того, як людський мозок використовує нейрони для сприйняття нової інформації, відтоді стали технологічною основою для великих мовних моделей, як-от ChatGPT, а також моделей розпізнавання зображень, які використовують тепер від скринінгу раку до розпізнавання облич. Раніше Хінтон і кілька його колег вже отримали Премію Тюрінга за свою роботу над нейронними мережами.
У заяві Нобелівського комітету йдеться, що робота Хопфілда і Хінтона відкрила нові «способи використання комп’ютерів» для вирішення складних суспільних проблем.
Тривога доктора Хінтона
Хінтон, який раніше називав сучасні технології штучного інтелекту екзистенційною загрозою для людства, був здивований рішенням Шведської королівської академії. Це не дивно, тому що ніхто з вчених ніколи достеменно не знає, що його очікує найвища нагорода.
Раніше Хінтон висловлював застереження щодо розвитку ШІ. Він навіть залишив свою посаду в Google, щоб більш вільно критикувати галузь, яку допоміг створити. 75-річний дослідник спершу повірив, що прогрес таких компаній, як Google, Microsoft та OpenAI, запропонує нові потужні способи створення мови, хоча й «нижчі» за людські можливості. Проте минулого року технологічний прогрес приватних компаній почав його непокоїти. Тепер він дивиться на технологію більш оптимістично, але все одно наголошує на потенційних загрозах.
«Це чудово у багатьох випадках, — говорить Хінтон в інтерв’ю Post. — Це означатиме величезне підвищення продуктивності. Але ми також маємо турбуватися про низку можливих поганих наслідків... Я стурбований тим, що загальним наслідком цього може стати те, що системи, розумніші за нас, врешті усе під свій контроль».
Google звернулася до Хінтона у 2012 році, після того як він і кілька його колег здійснили прорив у програмуванні нейронних мереж. Хінтон приєднався до компанії як дослідник і віцепрезидент і працював над просуванням їхніх зусиль у галузі ШІ. Технологія розвивалася набагато швидше, ніж Хінтон очікував.
«В ідею про те, що ці штуки можуть стати розумнішими за людей, — сказав Хінтон в інтерв'ю The New York Times у 2023 році, — мало хто вірив. Більшість людей вважали, що це дуже далека перспектива. І я думав, що це дуже далека перспектива. Я думав, що це станеться через 30-50 років, а то й довше. Очевидно, що я більше так не думаю».
Хінтон додав тоді, що на відміну від ядерної зброї неможливо дізнатися, чи таємно працюють над цією технологією компанії або країни. Найкраща надія полягає в тому, щоб провідні вчені світу співпрацювали над способами контролю над технологією.
Хай там як, а наукова спільнота гідно оцінила внесок вченого, завдяки праці якого ми маємо сьогодні штучний інтелект.