Упс! Не вдала спроба:(
Будь ласка, спробуйте ще раз.

Інтелект із помилками: як навчання ChatGPT на відгуках користувачів змінює його точність

Вікторія Рудзінська
Вікторія Рудзінська Новинарка SPEKA
26 вересня 2024 2 хвилин читання

Мовні моделі, як-от ChatGPT, почали частіше помилятися навіть у простих запитаннях через особливості навчання на користувацьких відгуках. Такі результати дослідження опублікували у журналі Nature.

Це виявили дослідники з Політехнічного університету Валенсії, аналізуючи роботу різних моделей штучного інтелекту. 

Під час дослідження науковці з'ясували, що хоча загальна точність моделей зростає з часом, їхній механізм ухвалення рішень зазнає змін. Великі мовні моделі у процесі навчання частіше дають неправильні відповіді, щоб догодити користувачам. Раніші версії таких моделей частіше уникали відповідей на запитання, що виходять за межі їхніх можливостей, але сучасні системи частіше надають, на перший погляд, логічні, проте хибні відповіді.

Це засвідчує важливість перевірки інформації, отриманої від штучного інтелекту, особливо у випадках, повʼязаних з медициною, наукою або іншими важливими питаннями. Дослідники наголошують на необхідності зміни підходів до проєктування таких моделей, щоб уникнути небезпечних помилок.

Підписуйтеся на наші соцмережі

50 UAH 150 UAH 500 UAH 1000 UAH 3000 UAH 5000 UAH
0
Прокоментувати
Інші матеріали

Картину, яку створив робот-гуманоїд, продали за $1 млн

Анастасія Ковальова 10 листопада 2024 13:02

Google презентував Gemini Vids для автоматизації відеопрезентацій

Вікторія Рудзінська 8 листопада 2024 21:41

Microsoft додає можливості редагування за допомогою ШІ до Notepad у Windows 11

Павло Бартос 7 листопада 2024 19:35

Вчений із США досліджує можливості створення ШІ, який працюватиме без електроніки

Павло Бартос 7 листопада 2024 19:03

ОpenAI придбав Chat.com: стратегічне доповнення до портфоліо доменів

Вікторія Рудзінська 7 листопада 2024 07:09