Call of Duty виявляє мову ворожнечі за допомогою штучного інтелекту
Компанія Activision почала використовувати в відеоіграх Call Of Duty інструмент модерації на базі штучного інтелекту, який виявляє дискримінаційні висловлювання та домагання в режимі реального часу в онлайн-матчах.
Про це пише SkyNews.
Інструмент під назвою ToxMod розробила компанія Modulate. За допомогою ШІ він вчиться та адаптується на льоту без чітких людських інструкцій, використовуючи алгоритми та дані для розпізнавання шаблонів.
Технічний директор Activision Майкл Венс сказав, що це допоможе зробити гру «веселою, чесною і доброзичливою для всіх гравців».
Геймери не зможуть відмовитися від прослуховування ШІ, якщо тільки вони повністю не вимкнуть голосовий чат в грі.
ToxMod розгорнули напередодні виходу CoD: Modern Warfare III
Activision заявила, що її наявні інструменти, включаючи скарги геймерів та автоматичний моніторинг чатів і імен користувачів, вже дозволили обмежити спілкування для 1 млн акаунтів.
Кодекс поведінки Call Of Duty забороняє знущання і переслідування, включаючи образи за ознаками раси, сексуальної орієнтації, гендерної ідентичності, віку, культури, віросповідання та країни походження.
За словами Венса, ToxMod значно посилить зусилля компанії з модерації, класифікуючи токсичну поведінку за ступенем її тяжкості, перш ніж модератор вирішить, чи варто вживати заходів.
Наразі функцію додано до ігор CoD: Modern Warfare II та Warzone, але поки що лише в США. Повне розгортання почнеться з виходом Modern Warfare III 10 листопада.
