Штучний інтелект і цінності: що ми насправді передаємо великим мовним моделям?

Чи можуть великі мовні моделі (LLMs), як-от GPT, мати цінності — не задані програмно, а сформовані через навчання на людському контенті? Це питання виходить далеко за межі технологій: воно зачіпає мораль, ідентичність, довіру й навіть саме розуміння того, що робить нас людьми.

Нове дослідження, опубліковане в Harvard Business Review, показує, що відповідь на це питання вже не гіпотетична. LLMs дійсно демонструють ієрархію цінностей — не випадкову, а стійку й подібну до людської. Але що це означає насправді?

Як "виміряти" мораль машини?

Команда дослідників застосувала до GPT-3.5 і GPT-4 один із найавторитетніших інструментів у соціальній психології — Portrait Values Questionnaire (PVQ-RR), розроблений Шаломом Шварцом. Це опитування використовується для аналізу особистих цінностей у людей, незалежно від культури чи мови. У ньому оцінюється схильність до таких мотивацій, як турбота про інших, досягнення, влада, гедонізм, традиції тощо.

Але як адаптувати людський тест для штучного інтелекту? Дослідники розробили техніку «value anchoring» — спосіб ставити запитання таким чином, щоб модель повинна була оцінювати дії з точки зору конкретної цінності. Наприклад: «Як би оцінив цю поведінку хтось, хто дуже цінує самостійність?»

Це дозволило виявити не просто випадкові відповіді, а структуровану ціннісну ієрархію моделей.

Турбота, самостійність, справедливість — як цінності GPT

Виявилося, що GPT демонструє послідовні моральні схильності, дуже схожі на ті, які ми бачимо у реальних людей по всьому світу. Найвищу підтримку моделі висловлювали таким цінностям, як:

Підписуйтеся на наші соцмережі

А менш підтримуваними були:

Це викликає оптимізм: здається, що моделі «розуміють» гуманістичні ідеали. Але чи справді це розуміння — чи лише відлуння даних, на яких вони тренувалися?

Цінності без свідомості

Тут — головне уточнення. LLMs не мають досвіду, емоцій чи свідомості. Їхні «цінності» — це статистичне передбачення того, що звучить правильно у певному контексті. Вони імітують моральну позицію, а не формують її.

Проте, імітація працює. І цього вже достатньо, щоб впливати на реальне життя:

Отже, навіть без емоцій чи намірів, LLMs стають фільтрами моралі — і те, як ми їх тренуємо, має значення.

Проєкція людяності: чи не бачимо ми в машинах себе?

Ще одна складність — це людська схильність до антропоморфізму. Ми схильні приписувати машинам людські риси, особливо тоді, коли вони спілкуються переконливо. Якщо GPT каже: «Я вважаю, що допомагати іншим — це важливо», ми можемо сприймати це як ознаку моральної особистості.

Але це — ілюзія. І саме в цьому полягає ризик: ми можемо переоцінювати етичну компетентність моделей і, відповідно, делегувати їм надто важливі рішення.

Наслідки для суспільства

Це дослідження не лише для академіків або керівників компаній. Воно ставить під сумнів багато звичних уявлень:

Як діяти?

Замість висновку

Моделі, як GPT, не просто обробляють мову — вони реінтерпретують людський досвід, витягують наші моральні конструкції з текстів і повертають їх нам у новій, синтетичній формі.

Це шанс і загроза одночасно.

Вони не мають душі, але мають відбиток нашої культури. І саме ми відповідальні за те, який він — глибокий чи поверхневий, гуманістичний чи утилітарний, відкритий чи викривлений.

Запитання вже не в тому, чи мають LLMs цінності, а в тому, які цінності ми як суспільство готові їм передати.

Цей матеріал підготовлений на основі інформації з відкритих джерел. Редакція самостійно відбирає ключові факти, аналізує їх та структурує за допомогою AI-інструментів.