Інженер Microsoft попередив FTC про проблеми з безпекою Copilot Designer
Шейн Джонс, співробітник Microsoft, звернувся до Федеральної торгової комісії США (FTC) із занепокоєнням щодо безпеки ШІ-інструмента для генерації зображень Copilot Designer.
Про це повідомляє The Verge.
За словами Джонса, він неодноразово попереджав Microsoft про те, що Copilot Designer здатний генерувати шкідливий та образливий контент, проте компанія відмовилася відкликати інструмент. Під час тестування інженер виявив, що ШІ може створювати зображення демонів, монстрів, сцен насильства, а також неповнолітніх, які вживають алкоголь та наркотики.
Крім того, Copilot Designer генерував зображення персонажів Діснея в контексті конфліктів на Близькому Сході, наприклад, Ельзу з «Крижаного серця» на тлі зруйнованих будівель у секторі Газа або у формі Армії оборони Ізраїлю.
Підписуйтеся на наші соцмережі
Шейн Джонс скаржиться на ШІ Microsoft три місяці
У січні Джонс також написав групі американських сенаторів про свою стурбованість після того, як лазівка у Copilot Designer дозволила згенерувати відверті зображення Тейлор Свіфт. Генеральний директор Microsoft Сатья Наделла назвав ці зображення «тривожними і жахливими» та заявив, що компанія попрацює над додаванням додаткових засобів безпеки.
Раніше SPEKA писала, що Джонс розкрив вразливості DALL-E 3, які дозволяли створювати діпфейки.
