Упс! Не вдала спроба:(
Будь ласка, спробуйте ще раз.

«Галюцинації» штучного інтелекту отруюють вебпошук — дослідник

Богдан Камінський
Богдан Камінський
7 жовтня 2023 2 хвилин читання

Дослідник вебпошуку Деніел Гріффін виявив, що згенеровані штучним інтелектом тексти можуть негативно вплинути на результати пошуку в інтернеті. 

Про це пише Wired.

У липні 2022 року Гріффін попросив чатботів Pi від Inflection AI та Claude від Anthropic створити резюме неіснуючої роботи Клода Шеннона «Коротка історія пошуку» (1948). Дослідник опублікував відповіді у своєму блозі разом з попередженням, що інформація не є правдивою.

Через деякий час він виявив, що ці фейкові відповіді потрапили до результатів пошуку Bing. Коли Гріффін знову запитав бота про книгу Шеннона, пошуковик використовував текст з його блогу як джерело.

Результати пошуку в Bing за запитом про неіснуючу статтю Результати пошуку в Bing за запитом про неіснуючу статтю

Журналісти змогли відтворити експеримент Гріффіна. Однак після запиту до Microsoft проблема була виправлена. 

Представниця корпорації Кейтлін Рулстон зазначила, що вони регулярно оновлюють алгоритми Bing, щоб запобігти появі ненадійних джерел у результатах пошуку.

«Галюцинації» ШІ стануть загрозою для вебпошуку

Експеримент Гріффіна демонструє виклики, з якими стикаються пошукові системи в добу штучного інтелекту. Їм складно розпізнавати тексти, згенеровані алгоритмами. Це відкриває можливості для маніпулювання результатами пошуку.

Як зазначила дослідниця Франческа Тріподі, проблема ще більше загостриться, коли контент в інтернеті масово створюватиметься за допомогою штучного інтелекту. 

На думку Гріффіна, необхідно вдосконалити пошукові алгоритми, щоб запобігти поширенню неправдивої інформації. Адже мільйони людей «покладаються на якісний вебпошук».

Раніше SPEKA писала, що експерт зі штучного інтелекту закликав людей контролювати «галюцинації» ШІ.

0
Прокоментувати
Інші матеріали

PwC стане найбільшим корпоративним клієнтом Open AI

Вікторія Рудзінська 10 годин тому

ChromeBook Plus отримають Google Gemini

Олеся Дерзська 12 годин тому

Opera посилює співпрацю з Google для впровадження ШІ

Владислав Паливода 28 травня 2024 18:55

Улітку школярі та студенти зможуть у Львові вивчити базові ШІ-технології

Кіра Іванова 28 травня 2024 15:28

Netpeak розповість про технології Cloud Marketing та AI вже 30 травня

Кіра Іванова 28 травня 2024 13:56