«Галюцинації» штучного інтелекту отруюють вебпошук — дослідник

Дослідник вебпошуку Деніел Гріффін виявив, що згенеровані штучним інтелектом тексти можуть негативно вплинути на результати пошуку в інтернеті. 

Про це пише Wired.

У липні 2022 року Гріффін попросив чатботів Pi від Inflection AI та Claude від Anthropic створити резюме неіснуючої роботи Клода Шеннона «Коротка історія пошуку» (1948). Дослідник опублікував відповіді у своєму блозі разом з попередженням, що інформація не є правдивою.

Через деякий час він виявив, що ці фейкові відповіді потрапили до результатів пошуку Bing. Коли Гріффін знову запитав бота про книгу Шеннона, пошуковик використовував текст з його блогу як джерело.

Журналісти змогли відтворити експеримент Гріффіна. Однак після запиту до Microsoft проблема була виправлена. 

Представниця корпорації Кейтлін Рулстон зазначила, що вони регулярно оновлюють алгоритми Bing, щоб запобігти появі ненадійних джерел у результатах пошуку.

«Галюцинації» ШІ стануть загрозою для вебпошуку

Експеримент Гріффіна демонструє виклики, з якими стикаються пошукові системи в добу штучного інтелекту. Їм складно розпізнавати тексти, згенеровані алгоритмами. Це відкриває можливості для маніпулювання результатами пошуку.

Як зазначила дослідниця Франческа Тріподі, проблема ще більше загостриться, коли контент в інтернеті масово створюватиметься за допомогою штучного інтелекту. 

На думку Гріффіна, необхідно вдосконалити пошукові алгоритми, щоб запобігти поширенню неправдивої інформації. Адже мільйони людей «покладаються на якісний вебпошук».

Раніше SPEKA писала, що експерт зі штучного інтелекту закликав людей контролювати «галюцинації» ШІ.