«Згодом зʼявиться чимало версій ChatGPT» — засновник Roosh Сергій Токарєв про сингулярність, ризики і контроль ШІ, відкриття біотеху та майбутнє, що вже настало

Сергій Токарєв — український ІТ-підприємець, який повірив у ШІ задовго до того, як про нього заговорили з кожної праски. Більшість проєктів від заснованої ним компанії Roоsh була зосереджена саме на машинному навчанні та розвитку штучного інтелекту. Тож SPEKA не могла не розпитати його про все, що відбувається зараз у галузі ШІ, адже здається, що «на небі тільки й розмов про ChatGPT» – особливо на фоні відкритого листа, який підписали Ілон Маск, Стів Возняк, співзасновник Ripple Кріс Ларсен та CEO Stability AI Емад Мостак, і де вони вимагають призупинити навчання систем штучного інтелекту, потужніших за GPT-4. 

«Сингулярність настала», — каже Сергій у перші ж секунди розмови. Тож захоплюватися чи боятися? Про можливості та ризики ШІ у свіжому інтерв'ю Сергія Токарєва. А після його прочитання дуже рекомендуємо почитати попереднє — про виклики і перспективи українського ІТ-ринку під час війни. 

Не можна його взагалі робити автономним. На мою думку, зараз найбільша етична проблема у світі повʼязана не з miltech, а саме із ШІ. 

Я вважаю, що цього року з появою технології OpenAI відбулася революція, яку можна порівняти з появою інтернету або щонайменше мобільного телефону. І це лише початок. 

GPT3 — це перша версія ШІ від них. А GPT4, який вони викотили два тижні тому, навчений на результатах роботи GPT3, і ось це страшна штука. А з кожною ітерацією ШІ буде дедалі більше самонавчатися. 

Ніхто не міг передбачити, що це буде так швидко і  настільки глибоко. Технологія продовжує розвиватись, і ми приходимо до того, що тести на визначення ШІ мають змінитися, бо дуже скоро найголовнішим буде фізична присутність співрозмовника, тобто ти його бачиш чи не бачиш. Якщо не бачиш — це ШІ, а якщо бачиш — окей, можливо, маєш справу з людиною. 

Я слухав цікавий підкаст Ріда Хоффмана, де він спілкується з ChatGPT, а ChatGPT власне для подкасту озвучують. Він виступає по суті coхостом. Це просто приголомшливо. Стає зрозуміло, що він тебе може легко заплутати в чаті, тому що він натренований, відловлює твої емоції і дає тобі відповіді, які ти хочеш почути. 

І коли цей ШІ, міркуючи щодо проходження тесту Тьюринга, каже: «Так, поки мене не видно, я його ймовірно пройду», стає страшно. 

Не впевнений, що ми можемо щось зробити на цьому етапі. Чого ми очікували від розвитку ШІ? Що він замінить робочі професії, тобто, умовно, буде орати поле замість людини, але ніколи не замінить креативний процес. 

Я думаю, величезна кількість сфер бізнесу вивісила червоний прапор. Я знаю, що у Google рівень тривоги максимальний. Google  зрозумів, що може програти. Нафіг потрібен цей Google, якщо ChatGPT даватиме відповіді, не продиктовані рекламою, одразу даватиме правильне рішення проблеми, точне та якісне? 

Я б ставив на падіння акцій Google найближчим часом. Я приблизно знаю, що вони там зараз роблять, і поки що Google нема чим відповісти. Вони загалом пішли в інший бік у своєму розвитку. 

І я думаю, що Microsoft має всі шанси у наступні 2-3 роки, зважаючи на його ресурси, наздогнати Google.

Ні, це неможливо. Багато держав продовжать робити це нишком. Я думаю, що цього року ми якраз будемо визначати для себе межі: що можна, що не можна, де це ще етично, а де вже ні. 

Таких питань постане дуже багато. Я думаю, основні межі будуть визначені, але здебільшого це стосуватиметься публічних компаній. 

А держава чи приватні компанії, які вирішать поекспериментувати, про це публічно не заявлятимуть. Навіщо? Навіщо мені платити за датасети чи щось виключати? Я все це нишком вивчу, потім застосую і нікому не скажу. 

У таких компаній немає мети, як у OpenAI, зробити велику систему, яку використовують усі розробники. Вони хочуть вирішувати свої локальні завдання, тому можуть зробити це потай. 

Я думаю, що згодом зʼявиться чимало версій ChatGPT. GPT дуже обмежений етичними моментами, тобто ти не можеш запитати, як створити бомбу. Є багато питань, на які він відмовляється відповісти. 

Припустимо, що держава чи приватні великі корпорації можуть розробляти для себе такі речі, щоб мати всю варіативність відповідей, навіть найжорсткіших. Таке заборонити неможливо. Будь-які спроби обмеження будуть марними. 

До речі, нагадаю, що OpenAI — це теж творчість Маска. Він один із тих, хто це заснував, але він вийшов звідти з етичних міркувань. Він сказав: «Ні, я проти». І покинув проєкт три роки тому. Він сказав: «Я не хочу брати участь у розвитку, я проти штучного інтелекту в його поточному вигляді». 

Це водночас страшно і цікаво. 

Biotech — це знову ж таки про аналітику та предикшен. 

Саме у цьому напрямі пішов, наприклад, BigMind, узявшись за синтез білків. Це фундаментальне завдання для людства, і у цій галузі ми найближчим часом побачимо великі прориви.

Великі прориви стануться також у сфері аналізу великих даних. Я їздив нещодавно на великий адронний колайдер і багато розмовляв із дослідниками про великі дані, як вони їх аналізують. До речі, вони майже не використовують ШІ. 

У сфері аналізу даних також відбуваються великі зрушення, тому що не може одна людина чи група аналітиків зробити те, що може зробити хороший ШІ. Він дозволяє предиктувати варіанти відповідей, скорочувати тимчасову дистанцію для експериментів з фізики чи математики просто шляхом моделювання ситуацій. 

А потім зі змодельованих ситуацій ти вибираєш вже те, що тобі більше підходить, і проводиш реальний експеримент, тобто тобі вже не потрібні всі проміжні етапи. 

Ми почали експериментувати з речами в галузі економії часу людини — з написання мейлів. І я думаю, що все до цього прийде: ти просто пишеш текстом: зроби інтро Сергію на Катерину на таку тему, а він тобі видає гарного листа. Тобі не треба нічого писати, ти просто пишеш маленькі текстові команди. Це така проста штука. 

У мене є ідея найняти персонального асистента, який швидко все читає і на все відповідає. Тобто у великих корпораціях є асистенти, які мають доступ до пошти великих босів і роблять для них добірку  найважливіших листів. 

Навіщо потрібні ці асистенти, коли це вже може робити примітивний ШІ: вибирати найголовніше, він замість тебе може почати відповідати у месенджері, а коли розмова дійде до серйозних тем, ти підключаєшся сам.

Таким чином, за тебе 90% спілкуватиметься ШІ, і ймовірно він спілкуватиметься із ШІ іншої людини. Це дуже заощаджуватиме час.

Творчі професії, звісно, це вже очевидно. Залишаться лише художники найвищого рівня. 

Візьмемо IT-компанію, яка розробляє ігри із гарною графікою. У ній є головний художник і безліч простих художників, які займаються скетчуванням, просто накидають ідеї. Навіщо взагалі потрібні ці художники? Вони непотрібні. Потрібний лише головний, який вибиратиме зі скетчів, що йому більше підходить, та розвиватиме вже готову тему. 

ШІ здатен сам генерувати високоякісні зображення

Те саме стосується написання простих текстів або простої музики. Ти маєш бути суперпрофесіоналом, тоді ти залишаєшся, бо ти керуєш штучним інтелектом. Але якщо робота настільки проста, що її може легко замінити ChatGPT, то ця професія дуже швидко зникне. 

Я думаю, що світ поділиться на дві частини — на тих, хто вигадує алгоритми, і тих, хто їх використовує.

У всіх частинах, звичайно, але насамперед ми належатимемо до тих, хто вигадує алгоритми. Але це можна сказати загалом про будь-яку країну. 

Як зараз користуєшся телефоном, телеграмом, якимось софтом. Ти не замислюєшся, як вони були створені, ти просто їх використовуєш. Так само і тут — будуть творці і будуть юзери.