«Галюцинації», втрата даних та ШІ-уряд: п’ять порад, як нам жити зі штучним інтелектом
У перші місяці хайпу навколо ШІ я відчув себе персонажем фільму «Термінатор». Майже 30 років тому світ був вражений ідеєю повстання машин. Зараз я спостерігаю схоже явище, яке, втім, виглядає більш реалістичним. У людства вже є 3D-принтери, що друкують майже все, Boston Dynamics створює дедалі більш розвинених роботів, а сучасні моделі нейромереж можуть нагадувати Skynet. А з урахуванням того, що ми чуємо дедалі більше історій, як ChatGPT може обійти свої ж обмеження, те, чим усе це закінчиться, знає, напевно, тільки Сара Коннор. А поки що можна сформулювати кілька порад, як жити, працювати й до чого готуватися з появою штучного інтелекту у широкому вживанні.
Порада №1: як не потрапити у пастку ШІ
Однією з причин, через які багато людей намагаються працювати старими перевіреними засобами, не використовуючи ШІ, є його «галюцинації» — вигадані відповіді, що не мають стосунку до реальності. Тому особливо небезпечно, коли за допомогою штучного інтелекту намагаєшся зробити те, на чому не розумієшся. Тоді можна отримати поганий результат, але водночас бути впевненим, що відповідь правильна. Настільки обґрунтованим він виглядає.
Як Google став стандартом для кожного, хто працює за комп'ютером, так, найімовірніше, станеться і з ШІ. З мого життя я вже навряд чи зможу це витравити. Часто використовую нейромережу Claude, оскільки вона краще оновлена. Завантажую чат, коли мені потрібен умовний співрозмовник з робочих питань, який не втомлюється. Прошу накидати певних ідей, отримую сирі відповіді, повторюю запит. І так доки відповіді не стануть адекватними.
Старша донька пише реферати за допомогою ШІ. Син просить «інтелект» перевірити домашнє завдання (не завжди це відбувається вдало). А дружина, яка довго чинила опір новинці, почала використовувати нейромережу для підготовки презентацій.
Порада №2: бережіть дані
Замовники програмних продуктів звертають увагу на тренд використання ШІ. Дедалі частіше у них з’являються ідеї інтегрувати його у свої послуги. Або виникає цікавість, чи розробники використовують «інтелект» у проєктній роботі. Тому нам важливо мати компетенцію, щоб якісно відпрацювати замовлення, кількість яких зараз зростатиме. В EPAM ми ґрунтовно підходимо до вивчення нейромереж — створили інноваційний хаб для роботи з ШІ. У команді кілька сотень людей з різних країн, які мають досвід та напрацювання, пов'язані зі штучним інтелектом.
Підписуйтеся на наші соцмережі
Були випадки, коли розробники переносили в ChatGPT паролі, а колеги запитували їх в «інтелекту» та отримували. Тому деякі клієнти поки що забороняють використовувати ШІ. Але, гадаю, це ненадовго. Рано чи пізно робота з ШІ стане для айтівців нормою.
Порада №3: розумійте принципи та алгоритми
Багато хто вважає, що ШІ не є логічною програмою, подібною до людини. Мене зацікавила ця ідея, тож я провів експеримент за участі моїх дітей. Вони народилися в Ізраїлі, мову знають не дуже добре. Попросив старшу доньку, яка закінчила школу на івриті, провідміняти слово «саркофаг». Декілька відмінків їй вдалися, а потім почалися помилки. Далі з тим самим питанням звернувся до 7-річної доньки. І хоча вона також майже не вчила мову, не знає відмінки та відміни, провідміняла слово ідеально.
У цьому разі підхід повторює алгоритми ChatGPT, який не ґрунтується на логіці, не думає, а оцінює попереднє слово та вирішує, яким буде наступне. Наприклад, 90%, що після слова Барак піде Обама. Але ж «барак» може означати і тимчасове житло. LLM (Large Language Model) тренують на великій кількості текстів, де вона знаходить закономірності. Як і моя донька, яка інтуїтивно припустила, як слово має видозмінюватися.
Завжди залишається ймовірність, що текст, який ШІ подає переконливо, формулює концептуально, в який хочеться повірити, виявиться повною нісенітницею. І поки що це проблема. І персонажів вигадає, і події, і про уявні технології розповість, якщо неправильно ставити запитання.
Порада №4: використовуйте ШІ у перекладах
До ШІ можна ставитися по-різному. Одні бачать у ньому помічника, інші — загрозу. Проте це явище вже сталося. Наше завдання — навчитися правильно використовувати технологію.
Наприклад, частиною моєї доповіді на Devoxx Ukraine 2023 стане експеримент, побудований на роботі ChatGPT. За 2,5 години за допомогою нейромережі я планую створити умовний клон Spring Framework. Це робиться не для того, щоб користуватися отриманим продуктом. Наша мета — зрозуміти, як влаштована платформа, щоб навчитися користуватися ефективніше. Також подивимося, де ChatGPT був корисний, де забрав у нас час, а де намагався провести відверту диверсію.
Не дуже гладко зі складанням віршів — риму машина розуміє лише англійською. Візуальні програми вже генерують цікаві ілюстрації. Гадаю, наступний етап — написання музики, а це вже матиме наслідки для мистецтва.
Порада №5. Не опирайтеся майбутньому
У книзі «Пандем», яку українські письменники Сергій та Марина Д’яченки випустили 20 років тому, описується схожа ситуація. Там у ролі ШІ виступає голос, який виникає в головах людей. Він є розумом, що походить від людини, а тепер допомагає людям змінювати світ. Так само і зі штучним інтелектом: ми самі його створили, а тепер він змінює те, що нас оточує. Якщо нам судилося прийти до прогнозів футуристів, то за допомогою ШІ ми знайшли цю стежку.
Якщо зазирнути на 10-15 років уперед, теоретично штучний інтелект може замінити уряди… У якийсь момент люди можуть дійти такого рішення. По-перше, на це може вплинути сьогоднішній порядок денний. Є поняття «синдром царя», коли після восьми років у владі чи не кожна людина починає ставитися до людей як до персонажів гри. І тут людське життя значить багато.
Друга проблема — майже будь-який політик суб’єктивний і шукає своєї вигоди. Чиновників можна шантажувати, давати хабарі, впливати на них. Тоді ухвалюються рішення, не вигідні країні, а потрібні певним людям. Якби за діями політиків стежив умовний ChatGPT, їхня робота була б ефективнішою. Серед переваг — уникнення того самого людського чинника, коли мозок менеджера не може все пам’ятати, а машина може.
Наступне питання:якою буде влада у цієї системи і чи зможе вона оминати обмеження? І тут ми знову повертаємося до сюжету «Термінатора», в якому майбутнє не визначене.
Підписуйтеся на наші соцмережі
