Microsoft обмежила взаємодію з Bing AI через «тривожну» поведінку чатбота
Microsoft оголосила про нові обмеження на розмову з її чатботом Bing AI. Тепер користувачі можуть зробити 50 запитів на день і 5 за сеанс, щоб запобігти маніпуляції ботом.
«Дуже тривалі сеанси можуть заплутати базову модель чата в новому Bing. Щоб розв'язати цю проблему, ми впровадили деякі зміни», — прокоментували в Microsoft.
У компанії повідомляють, що переважна більшість користувачів знаходить відповіді протягом 5 ходів і що лише 1% розмов у чаті містить понад 50 повідомлень. Коли сеанс чату досягне 5 ходів, користувачам запропонують почати нову тему. Наприкінці кожного сеансу Microsoft рекомендує видаляти контекст, щоб модель не плуталася.
«Часом модель намагається відповідати або розмірковувати таким тоном, яким її просять надати відповіді, що може призвести до спілкування, якого ми не планували», — раніше зазначили у Microsoft.
На початку лютого, після запуску Bing AI, користувачі почали розповідати про «тривожні» розмови з ботом. New York Times опублікувала двогодинний діалог із ШІ, у якому бот освідчувався в коханні співрозмовнику і розповідав про безсоння.
Раніше Microsoft анонсувала оновлений пошуковик Bing та браузер Edge, які тепер працюватимуть на основі власної моделі Prometheus, що створена у співпраці з OpenAI й потужніша за ChatGPT.
