Meta показывала рекламу ИИ-сервиса с дипфейками женщин-политиков
По данным Ars Technica, рекламная кампания приложения Kromix была рассчитана только на мужчин и продвигала генерацию откровенных роликов с лицами реальных людей. Meta удалила объявления после запроса WIRED.
Платформы Meta показывали рекламу Kromix — ИИ-приложения для обработки изображений, которое, как утверждает Ars Technica, предлагало создавать сексуализированные дипфейки с внешностью реальных людей, включая женщин, похожих на американских политиков.
В одном из роликов была показана женщина, внешне похожая на известного американского политика: после кадра на фоне флагов США видео переходило к порнографической сцене с персонажем с тем же лицом. Закадровый голос называл сервис инструментом «без ограничений» и заявлял, что все персонажи — реальные люди.
Согласно библиотеке рекламы Meta, объявления были нацелены исключительно на мужчин и выходили под слоганом «Unleash Next-gen AI Magic». В Meta сообщили, что связанный с кампанией аккаунт разместил 32 объявления. Они демонстрировались от пяти до 46 часов, причём большинство набрало не более десяти показов. Реклама была удалена после того, как WIRED направил компании запрос.
Kromix позиционировал себя как «ИИ-стилизатор изображений». Ars Technica пишет, что платным пользователям предлагали загружать фотографии для создания роликов по различным сценариям, в том числе сексуализированным и связанным с насилием. До запроса WIRED приложение было доступно в App Store; представитель сервиса не ответил на запрос журналистов.
Случай произошёл на фоне проблем Meta и Apple с модерацией инструментов для создания интимных изображений без согласия людей. Ранее городской прокурор Сан-Франциско потребовал от Apple удалить 13 конкретных приложений такого типа.