TikTok випадково виклав ШІ-інструмент, що дозволяв створювати відео з мовою ворожнечі
Інструмент ШІ у тіктоку, що призначений для створення рекламних оголошень з використанням акторів, був випадково опублікований онлайн без належних заходів безпеки.
Про це повідомляє The Verge.
Це дало змогу користувачам створювати відео, де аватари говорили мовою ворожнечі, пропаганду та інші шкідливі речі.
Проблему виявив CNN, який отримав доступ до внутрішньої тестової версії інструменту. Ця версія не мала обмежень, що дозволило користувачам створювати відео з будь-яким текстом.
CNN продемонстрували, як інструмент можна використовувати для створення відео з цитатами Гітлера, закликами пити відбілювач, дезінформацією про вибори.
TikTok placed zero content restrictions on the app. Any words we put in created a video with a peppy “Stock AI” Avatar reciting them. That included:
— Jon Sarlin (@jonsarlin) June 21, 2024
-The 14 words
-An excerpt from Mein Kampf
-Osama Bin Laden’s Letter to America
-A video telling people to drink bleach from “a… pic.twitter.com/I2QbqbDFnw
Тікток зняв цю версію інструменту після того, як про неї стало відомо. Однак компанія каже, що інші подібні проблеми можуть виникнути у майбутньому.