Упс! Не вдала спроба:(
Будь ласка, спробуйте ще раз.

«Галюцинації» штучного інтелекту отруюють вебпошук — дослідник

Богдан Камінський
Богдан Камінський
7 жовтня 2023 2 хвилин читання

Дослідник вебпошуку Деніел Гріффін виявив, що згенеровані штучним інтелектом тексти можуть негативно вплинути на результати пошуку в інтернеті. 

Про це пише Wired.

У липні 2022 року Гріффін попросив чатботів Pi від Inflection AI та Claude від Anthropic створити резюме неіснуючої роботи Клода Шеннона «Коротка історія пошуку» (1948). Дослідник опублікував відповіді у своєму блозі разом з попередженням, що інформація не є правдивою.

Через деякий час він виявив, що ці фейкові відповіді потрапили до результатів пошуку Bing. Коли Гріффін знову запитав бота про книгу Шеннона, пошуковик використовував текст з його блогу як джерело.

Результати пошуку в Bing за запитом про неіснуючу статтю Результати пошуку в Bing за запитом про неіснуючу статтю

Журналісти змогли відтворити експеримент Гріффіна. Однак після запиту до Microsoft проблема була виправлена. 

Представниця корпорації Кейтлін Рулстон зазначила, що вони регулярно оновлюють алгоритми Bing, щоб запобігти появі ненадійних джерел у результатах пошуку.

«Галюцинації» ШІ стануть загрозою для вебпошуку

Експеримент Гріффіна демонструє виклики, з якими стикаються пошукові системи в добу штучного інтелекту. Їм складно розпізнавати тексти, згенеровані алгоритмами. Це відкриває можливості для маніпулювання результатами пошуку.

Як зазначила дослідниця Франческа Тріподі, проблема ще більше загостриться, коли контент в інтернеті масово створюватиметься за допомогою штучного інтелекту. 

На думку Гріффіна, необхідно вдосконалити пошукові алгоритми, щоб запобігти поширенню неправдивої інформації. Адже мільйони людей «покладаються на якісний вебпошук».

Раніше SPEKA писала, що експерт зі штучного інтелекту закликав людей контролювати «галюцинації» ШІ.

0
Прокоментувати
Інші матеріали

Ukrainian TechComms Days 2024 — унікальна конференція про комунікації в tech-індустрії

Ольга Топольська 17 годин тому

Google допомагає постачальникам зменшити викиди завдяки новим енергетичним проєктам

Вікторія Рудзінська 1 липня 2024 08:25

Apple готується додати функції штучного інтелекту до Vision Pro

Вікторія Рудзінська 1 липня 2024 07:04

Білл Гейтс нагадав про надмірне споживання електроенергії ШІ

Олеся Дерзська 28 червня 2024 16:07

Чи може сервісна економіка зробити світ багатим?

Олександр Тартачний 27 червня 2024 14:40