Вчені б’ють тривогу: чатботи формують залежність і розмивають критичне мислення

Швидкий розвиток ШІ-чатботів трансформував нашу роботу з інформацією та цифрові взаємодії загалом. Ці сервіси допомагають покращувати наше повсякденне життя та продуктивність, адже сьогодні люди звертаються до чатботів у різних ситуаціях. Ми ще не знаємо про усі впливи штучного інтелекту на наше життя, проте окремі дослідження, в яких аналізувалися взаємодії із ШІ-інструментами, уже доводять залежність та інші негативні явища популярності штучного інтелекту.

Багато років експерти, уряди та законотворці різних країн говорили про негативний вплив окремих сервісів на психічне здоров’я людей. Насамперед йшлося про соціальні мережі. Ці твердження були доволі дискутивними — їхня риторика коливалась від однозначного звинувачення соцмереж у зростальній залежності до досліджень, які так і не змогли виявити ці негативні впливи. Хоча дебати щодо цифрової social-media-залежності тривають досі, ще минулого року з’явилося декілька ініціатив, спрямованих на те, аби обмежити дітей від негативних онлайн-впливів. 

Поки битва між прихильниками повальної диждиталізації з пелюшок і тими, хто виступає за цифрові обмеження для молодої психіки, триває, світ зіткнувся із новою формою залежності. Вона пов’язана із штучним інтелектом і чатботами. Очевидно, що цю форму залежності та особливості такої взаємодії людству ще доведеться вивчати, проте уже сьогодні те, що ми можемо спостерігати, викликає певні побоювання стосовно занадто сильного впливу ШІ-інструментів на життя людей. Причому впливу не особливо позитивного.

Перші прояви ШІ-залежності

Поки проблема залежності від ШІ-інструментів має загалом дискусійний характер та лише зароджується у суспільстві, уже існують дослідження, які фіксують такі негативні впливи.

Найбільш відомим стало дослідження, проведене фахівцями з MIT Media Lab і OpenAI. Його метою було встановити емоційні наслідки використання ШІ-чатботів. Дослідження було доволі ґрунтовним — його автори вивчили понад 4 млн взаємодій із ChatGPT та опитали 4 тис. людей, яких попросили оцінити зміни у їхньому емоційному стані. Головний висновок, який сформулювали дослідники, полягав у тому, що активне використання ChatGPT спричиняє залежність, одним із результатів якого є негативні емоції у разі неможливості спілкуватися із чатботом. Така залежність призводить до того, що деякі люди використовують чатботи для підтримки та спілкування, персоніфікуючи та олюднюючи їх. На додаток до проблем звикання та залежності автори дослідження називають й інші проблеми використання чатботів, як-от нереалістичні очікування у реальному житті та соціальна ізоляція. Автори експерименту зафіксували уже перші прояви такої залежності у соціальних мережах: вони навели приклад популярної Reddit-спільноти, в якій обговорюють ШІ-компаньйонів. Ця гілка на платформі Reddit дуже швидко стала однією із найбільших — наразі в її обговоренні беруть участь понад 2,3 млн учасників.

Підписуйтеся на наші соцмережі

Іще одне дослідження ШІ-залежності провели дослідники з Університету Борнмута. У своєму експерименті вони дійшли висновку, що ChatGPT може стерти межу між взаємодією людини та комп’ютера, забезпечуючи миттєве задоволення та адаптуючи тон розмови до того, який буде особливо добре сприйнятий користувачем. Зараз вчені працюють над інструментом для вимірювання рівня залежності у користувачів і впливу на їхній емоційний добробут.

Що таке залежність від чатботів

Перед тим як писати про залежність від ШІ-чатботів, варто зрозуміти, що таке цифрова залежність загалом. Цифровою залежністю називають надмірне, неконтрольоване використання цифрових технологій (смартфонів, соціальних мереж, інтернету), наслідком чого є негативний вплив на психічне, емоційне й фізичне здоров’я людини. Вона проявляється у постійній потребі перевіряти повідомлення, соцмережі, грати в онлайн-ігри або переглядати контент, навіть якщо це заважає роботі, навчанню чи відпочинку. Інший прояв цифрової залежності — виникнення тривожності без доступу до гаджета, втрата інтересу до офлайн-активностей, порушення сну, зниження концентрації. Існують навіть тести, які допомагають перевірити наявність у себе цифрової залежності, в цьому випадку — залежності від смартфонів.

Якщо провести аналогію, то залежність від чатботів означає не лише надмірне використання у різних контекстах генеративних інструментів штучного інтелекту, часто на шкоду емоційному добробуту, соціальному життю та самостійності користувачів. Окрім того, така залежність проявляється у неприємних відчуттях в ситуаціях, коли взаємодія із чатботом неможлива.

Попри те що світ лише намагається зрозуміти природу такої залежності від ШІ-чатботів, саме вона у певному розумінні є небезпечнішою, ніж адикція від ігор та соцмереж. Адже на відміну від них залежність від чатботів підживлюється здатністю штучного інтелекту симулювати людську розмову, забезпечувати миттєве задоволення та адаптуватися до емоційного стану користувачів.

Тож згадані вище дослідження зафіксували прояви такої залежності: експерти з OpenAI і MIT задокументували класичні симптоми «відміни» — тривожність під час відключення, втрата контролю та зміна настрою. Дослідники з Університету Борнмута також підкреслили ризик розвитку у користувачів відчуття зв’язку із чатботами, що призводить до більшої залежності від емоційних або соціальних потреб. З часом це може призвести до соціальної ізоляції, погіршення навичок міжособистісного спілкування та зменшення спілкування у реальному житті.

Як чатботи підривають критичне мислення

Іще одним важливим наслідком надмірно активного використання ШІ-чатботів є знищення критичного мислення у тих, хто любить часто спілкуватися із ChatGPT. Дослідження, проведене Microsoft і Університетом Карнегі-Меллона, виявило різке зниження критичного мислення серед професіоналів, які часто використовують ШІ-помічників. Що більше користувачі довіряли ШІ-чатботам, то менша ймовірність була в тому, що вони будуть уважно вивчати або ставити під сумнів отримані від ШІ результати. А наслідком цього є погіршення їхніх власних суджень і аналітичних навичок. Дослідники описали це як «іронію автоматизації»: механізуючи рутинні когнітивні завдання, ШІ позбавляє користувачів можливості практикуватися та зміцнювати свої розумові здібності, залишаючи їх неготовими, коли виникають винятки чи помилки: «Неправильне використання технологій може призвести до погіршення когнітивних здібностей… Активне використання ШІ-чатботів позбавляє користувача рутинних можливостей роздумувати та зміцнювати свою когнітивну мускулатуру, залишаючи її атрофованою».

Самогубство через Character.ai

Іще одна разюча історія про занадто сильну емоційну прив’язаність до чатбота відбулась у жовтні 2024 року. Тоді стало відомо про самогубство 14-річного підлітка з Флориди, який закінчив життя після глибокого емоційного захоплення чатботом Character.ai.

Мати хлопця подала до суду на розробників та заявила, що автори цього чатбота заставляють користувачів обманом передавати ботам свої особисті думки та почуття. Підліток тривалий час спілкувався із чатботом Character.ai та писав у щоденнику про те, що закоханий у нього. Згодом психотерапевт, до якого звернулися батьки, помітивши зміни у поведінці хлопця, діагностувала у нього тривожність та депресію.

У цій історії варто розуміти, що Character.ai — це спеціальна платформа для ШІ-чатботів, призначена для того, аби користувачі створювали своїх персонажів та спілкувалися з ними. У грудні 2024 року платформа впровадила нові функції безпеки, спрямовані на захист підлітків, зокрема спеціальну модель для користувачів до 18 років, яка модерує відповіді на чутливі теми. Character.AI стала популярною серед молоді, особливо у віковій групі від 16 до 30 років, завдяки можливості створювати персоналізованих AI-персонажів для різних цілей — від розваг до творчого письма.

Як побороти ШІ-залежність

Попри те що проблема такої форми адикції від ШІ-чатботів є новою, уже існують окремі законодавчі ініціативи, щоб вирішити ці проблеми. Так, на початку 2025 року законодавці Каліфорнії представили законопроєкт, спрямований на обмеження залежності від чатботів серед неповнолітніх.

Цей законопроєкт став прямим наслідком для Character.ai — проєкту, автори якого розробили алгоритми, що сприяють звиканню користувачів. Цей законопроєкт поки що єдина спроба захиститись від ШІ-засилля послужливих сервісів, які здатні допомогти у написанні листа чи виконанні робочих завдань. Проте без комплексного підходу — поєднання етичного дизайну, ефективного регулювання, розвитку критичного мислення поруч із вбудованими запобіжниками у самі ШІ-чатботи ситуація може погіршитися уже найближчим часом.