Apple приняла решение удалить приложения, способные «раздевать» девушек с помощью генеративного ИИ

После появления отчетов о проблемном использовании искусственного интеллекта для создания неприемлемых изображений на телефонах Huawei, корпорация Apple приняла аналогичные меры для удаления из AppStore приложений, использовавших генеративный ИИ для создания фальшивых картинок обнаженных людей.

Подробности

Эти программы рекламировались в качестве «генераторов искусства», способных раздеть любую барышню совершенно бесплатно. Удаление соответствующего ПО произошло после того, как редакция 404 Media обнаружила и поделилась ссылками на указанные приложения и их рекламу.

Примечательно, что эти программы были доступны в AppStore с 2022 года. Разработчики вовсю рекламировали свои «детища» на сайтах для взрослых. Позднее “творцам” разрешили оставаться в магазине приложений при условии удаления рекламы с таких сайтов, однако минимум одно из таких ПО продолжало отображать неприемлемый контент вплоть до начала текущего года (удаление приложения из гугловского PlayStore произошло совсем недавно).

Этот инцидент поднимает вопросы о реактивной модерации и возможности использования разработчиками всевозможных лазеек. Тема всплыла на поверхность в самое неподходящее для «яблочников» время – в момент подготовки к форуму WWDC 2024, где ожидаются важные анонсы в области искусственного интеллекта для iOS 18 и Siri.

Инцидент также оказывает влияние на усилия Apple по созданию репутации ответственной компании в сфере разработки искусственного интеллекта, включая этическое лицензирование данных обучения. Запоздалое удаление приложений NCI может оказать негативное воздействие на этот имидж.