Apple ужесточила правила App Store для ИИ-дипфейков и «раздевающих» приложений
Разработчики должны заранее предотвращать публикацию интимных изображений без согласия людей и удалять такой контент. За недостаточные меры защиты приложение могут исключить из App Store.
Apple обновила правила модерации App Store, прямо распространив их на приложения с ИИ, которые создают интимные изображения людей без их согласия. Разработчики таких сервисов теперь обязаны заранее предотвращать появление подобного контента и удалять его; если меры защиты окажутся недостаточными или нарушения не будут устранены после уведомления, приложение могут удалить из магазина.
Изменения касаются в том числе так называемых nudify-приложений — сервисов, которые с помощью ИИ создают откровенные изображения реальных людей. Ранее правила App Store уже запрещали сексуально откровенный контент, однако новая формулировка отдельно называет приложения для создания ИИ-контента и требует от их авторов активной модерации несанкционированных интимных дипфейков.
Apple также уточнила правило против схемы «одобрение с последующей подменой». Под запретом остаются приложения, которые скрывают функции при проверке или добавляют их после одобрения — в частности, возможности для создания таких изображений. За добавление функций, которых не было в версии, представленной на ревью, разработчика могут исключить не только из App Store, но и из программы Apple Developer.
Кроме того, компания распространила запрет на приложения, способствующие торговле людьми или эксплуатации детей, на альтернативные способы распространения приложений. Apple заявила, что удаляет приложения и прекращает работу с разработчиками, нарушающими эти требования.