Штучний інтелект Sudowrites «вчився» писати тексти за допомогою порнографічних фанфіків

У США працює Sudowrites AI, який вміє писати текст за автора. Виявилось, що одна з найбільших моделей штучного інтелекту «вчилась» на порнографічних фанфіках. 

Sudowrites вчиться через «серфінг» усього інтернету, аналізуючи такі джерела, як Вікіпедія та Common Crawl. Проте AI не вміє відрізняти джерело знань, тому не розрізняє судові реєстри від, наприклад, фанфіку по Гаррі Поттеру. 

Це вперше помітив один із користувачів Reddit — kafetheresu. Роздивляючись, як працює Sudowrites, він згадав про AO3 — найбільше та найстаріше некомерційне сховище з відкритим вихідним кодом для фанфіків та інших фантворів. 

Підписуйтеся на наші соцмережі

Після кількох тестів kafetheresu помітив, що штучний інтелект дійсно аналізував твори з AO3. Для цього користувач Reddit навмисно «просив» у нейромережі тексти про кейпоп-гурт BTS чи Гаррі Поттера й отримував текст, наповнений NSFW-контентом.  

«Ми з друзями запідозрили, що Sudowrites, а також інші помічники AI-Writing, які використовують GPT-3, можуть використовувати AO3 як „набір даних для навчання“, оскільки це один із найбільших і найдоступніших текстових архівів», — зазначив kafetheresu.

Крім того, kafetheresu нагадує, що автори штучних інтелектів не переймаються за авторське право чи умови конфіденційності.

«Я сподіваюся, що AO3 буде проти цього, оскільки я не хочу, щоб мою наполегливу працю викрадали та використовували для звільнення письменників„, — резюмував kafetheresu.

Раніше SPEKA розповідала, що таке штучний інтелект та як він трансформує світ.