Apple вирішила видалити додатки, здатні «роздягати» дівчат за допомогою генеративного ШІ

Після появи звітів про проблемне використання штучного інтелекту для створення неприйнятних зображень на телефонах Huawei, корпорація Apple вжила аналогічних заходів для видалення з AppStore застосунків, які використовували генеративний ШІ для створення фальшивих картинок оголених людей.

Детально

Ці програми рекламувалися як “генератори мистецтва”, здатні роздягнути будь-яку панянку абсолютно безкоштовно. Видалення відповідного ПЗ відбулося після того, як редакція 404 Media виявила і поділилася посиланнями на зазначені додатки та їхню рекламу.

Примітно, що ці програми були доступні в AppStore з 2022 року. Розробники щосили рекламували свої “дітища” на сайтах для дорослих. Пізніше “творцям” дозволили залишатися в магазині застосунків за умови видалення реклами з таких сайтів, однак щонайменше одне з таких ПЗ продовжувало відображати неприйнятний контент аж до початку поточного року (видалення застосунку з гугловського PlayStore відбулося зовсім недавно).

Цей інцидент порушує питання про реактивну модерацію і можливість використання розробниками всіляких лазівок. Тема спливла на поверхню в самий невідповідний для “яблучників” час – у момент підготовки до форуму WWDC 2024, де очікуються важливі анонси в галузі штучного інтелекту для iOS 18 і Siri.

Інцидент також впливає на зусилля Apple зі створення репутації відповідальної компанії у сфері розробки штучного інтелекту, включно з етичним ліцензуванням даних навчання. Запізніле видалення додатків NCI може мати негативний вплив на цей імідж.