Після появи звітів про проблемне використання штучного інтелекту для створення неприйнятних зображень на телефонах Huawei, корпорація Apple вжила аналогічних заходів для видалення з AppStore застосунків, які використовували генеративний ШІ для створення фальшивих картинок оголених людей.
Детально
Ці програми рекламувалися як “генератори мистецтва”, здатні роздягнути будь-яку панянку абсолютно безкоштовно. Видалення відповідного ПЗ відбулося після того, як редакція 404 Media виявила і поділилася посиланнями на зазначені додатки та їхню рекламу.
Примітно, що ці програми були доступні в AppStore з 2022 року. Розробники щосили рекламували свої “дітища” на сайтах для дорослих. Пізніше “творцям” дозволили залишатися в магазині застосунків за умови видалення реклами з таких сайтів, однак щонайменше одне з таких ПЗ продовжувало відображати неприйнятний контент аж до початку поточного року (видалення застосунку з гугловського PlayStore відбулося зовсім недавно).
Цей інцидент порушує питання про реактивну модерацію і можливість використання розробниками всіляких лазівок. Тема спливла на поверхню в самий невідповідний для “яблучників” час – у момент підготовки до форуму WWDC 2024, де очікуються важливі анонси в галузі штучного інтелекту для iOS 18 і Siri.
Інцидент також впливає на зусилля Apple зі створення репутації відповідальної компанії у сфері розробки штучного інтелекту, включно з етичним ліцензуванням даних навчання. Запізніле видалення додатків NCI може мати негативний вплив на цей імідж.
