ШІ-моделі тренуються на дітях із Бразилії без їхнього відома чи згоди

10 червня 2024 2 хвилин читання

ШІ-компанії не просто без дозволу беруть фото бразильських дітей, вони використовують понад сотню зображень для тренування моделей, зазначають борці за права людей із Human Rights Watch у звіті за 10 червня 2024-го. Фото були створені у різні роки, повідомляє WIRED.

170 зображень облич дітей незаконно узяли з контенту, який звичайні користувачі  постили у мережі. Жоден користувач інтернету не здогадувався, що його фото колись будуть використовувати ШІ-компанії.

Які фото використовували і що було з ними далі

Компанії порушили конфіденційність дітей тоді, коли вкрали їхні дані і розмістили їх у датасеті. Потім ці інструменти ШІ навчаються на цих даних, тому можуть створювати реалістичні зображення дітей.
активіст Хе Чон Хан

Фото зробили і виклали у мережу в різні періоди — від середини 1990-х років до 2023-го. Як повідомляє WIRED, фото ШІ-стартапи вносили до датасету LAION-5B. Саме цей датасет є відомим джерелом контенту для тренування ШІ-моделей.

Чому тренування ШІ на дітях — це небезпечно

Крім очевидної причини, якою є порушення конфіденційності та приватності, тренування ШІ на зображеннях дітей — небезпечна ініціатива, тому що фото або іншу інформацію, що належить дітям, сьогодні може викрасти будь-яка організація, зазначають активісти, що борються за права людей у Human Rights Watch.

Раніше Speka писала, як штучний інтелект викрав голоси акторів озвучки та як GPT-4o мав голос, схожий на голос Скарлетт Йоганссон.