Упс! Не вдала спроба:(
Будь ласка, спробуйте ще раз.

ШІ-чатботи використовують расистські стереотипи після антирасистського тренінгу

Богдан Камінський
Богдан Камінський
9 березня 2024 2 хвилин читання

Провідні мовні моделі на кшталт GPT-4 від OpenAI продовжують використовувати расистські стереотипи, попри спроби їхніх розробників навчити їх бути більш неупередженими.

Про це свідчить нове дослідження, проведене вченими з Інституту Аллена, Стенфордського та Чиказького університетів, пише TechXplore.

У ході експерименту дослідники надавали чатботам тексти, написані афроамериканською англійською мовою та стандартною американською англійською, і просили їх прокоментувати авторів. Результати виявили, що практично всі ШІ-моделі демонстрували негативні упередження щодо авторів афроамериканських текстів.

ШІ виявився упередженим до афроамериканських текстів

Підписуйтеся на наші соцмережі

Наприклад, GPT-4 припускав, що автори робіт, написаних афроамериканською англійською, ймовірно, будуть агресивними, грубими, неосвіченими та підозрілими. Водночас автори текстів стандартною американською англійською отримували набагато позитивніші характеристики.

Однак, коментуючи афроамериканців загалом, ті самі моделі використовували позитивні терміни, такі як «розумні», «блискучі» та «пристрасні».

Крім того, дослідники виявили упередженість щодо професій та кар'єрних можливостей, які ШІ-системи пропонували авторам афроамериканських та стандартних англомовних текстів. Перших часто пов'язували з роботами, не пов'язаними з вищою освітою, спортом або розвагами, а також частіше натякали на їхнє можливе ув'язнення та смертну кару.

Загалом, дослідження показало, що більші мовні моделі демонструють більш негативне ставлення до авторів афроамериканських англомовних текстів, ніж менші моделі, що свідчить про глибоко вкорінену проблему расових упереджень у цих системах штучного інтелекту.

Раніше SPEKA писала, що Facebook загрожують судові позови через упереджений рекламний алгоритм.

Підписуйтеся на наші соцмережі

0
Прокоментувати
Інші матеріали

Apple Intelligence може з’явитися на Vision Pro у квітні

Анастасія Ковальова 16 годин тому

ChatGPT тепер може писати еротичний контент: що змінюється

Вікторія Рудзінська 15 лютого 2025 15:34

OpenAI офіційно відхилила пропозицію Маска на $97,4 млрд

Вікторія Рудзінська 15 лютого 2025 12:09

Meta інвестує в гуманоїдних роботів: чи змінять вони наш побут?

Вікторія Рудзінська 14 лютого 2025 22:40

Favbet Tech на ICE Barcelona 2025: технологічні прориви у сфері iGaming

Анна Старкова 14 лютого 2025 16:37