Інженер Microsoft попередив FTC про проблеми з безпекою Copilot Designer
Шейн Джонс, співробітник Microsoft, звернувся до Федеральної торгової комісії США (FTC) із занепокоєнням щодо безпеки ШІ-інструмента для генерації зображень Copilot Designer.
Про це повідомляє The Verge.
За словами Джонса, він неодноразово попереджав Microsoft про те, що Copilot Designer здатний генерувати шкідливий та образливий контент, проте компанія відмовилася відкликати інструмент. Під час тестування інженер виявив, що ШІ може створювати зображення демонів, монстрів, сцен насильства, а також неповнолітніх, які вживають алкоголь та наркотики.
Крім того, Copilot Designer генерував зображення персонажів Діснея в контексті конфліктів на Близькому Сході, наприклад, Ельзу з «Крижаного серця» на тлі зруйнованих будівель у секторі Газа або у формі Армії оборони Ізраїлю.
Шейн Джонс скаржиться на ШІ Microsoft три місяці
Джонс намагався попередити Microsoft про проблеми, пов'язані з моделлю DALL-E 3, яку використовує Copilot Designer, з грудня минулого року. Він опублікував відкритий лист на LinkedIn, але юридична команда компанії попросила його видалити пост.
Протягом останніх трьох місяців я неодноразово закликав Microsoft вилучити Copilot Designer з публічного доступу, поки не будуть впроваджені кращі засоби захисту. Проте, вони не змогли впровадити ці зміни і продовжують продавати продукт, Шейн Джонс
У січні Джонс також написав групі американських сенаторів про свою стурбованість після того, як лазівка у Copilot Designer дозволила згенерувати відверті зображення Тейлор Свіфт. Генеральний директор Microsoft Сатья Наделла назвав ці зображення «тривожними і жахливими» та заявив, що компанія попрацює над додаванням додаткових засобів безпеки.
Источник: speka.media