Meta изменит подсказки ИИ после вирусного видео о вопросах о детях
Компания признала, что её ИИ не должен был предлагать пользователю вопросы личного характера. Поводом стало видео пользовательницы Instagram, рассказавшей, что Meta AI, по её словам, собрал сведения о её дочерях из прежних публикаций и постов родственников.
Meta внесла изменения в механизм подсказок своего ИИ-ассистента после вирусного видео пользовательницы о слишком личных вопросах о семье. Представительница компании Дина Эль-Кассаби заявила The Verge, что Meta «не справилась» с задачей и функция не должна была предлагать подобные вопросы.
Поводом стало видео пользовательницы Instagram Кэли Робинс, опубликованное на прошлой неделе. По её словам, после одновременной публикации ролика в Facebook под видео, где она с ребёнком поёт в автомобиле, Meta AI показал подсказку: «Кто ребёнок-пассажир?».
Робинс утверждает, что после выбора этой подсказки ассистент связал сведения о её дочерях из её прежних публикаций и постов родственников. Затем он предложил новые вопросы — в том числе о возрасте детей и о том, где семья живёт. Также, по словам пользовательницы, Meta AI показал фотографии её дочерей, включая снимок, который, как она утверждает, был удалён несколько лет назад.
Эль-Кассаби сообщила, что Meta исправила проблему, из-за которой ИИ предлагал запросы на личные темы. По её словам, функция создавалась, чтобы помогать пользователям узнавать больше о темах и публикациях, которые их интересуют; ответ после нажатия на подсказку формируется из информации, уже доступной пользователю. В случае Робинс ассистент мог использовать видео, в которых она называла имена дочерей, добавила представительница Meta.
ИИ-ассистент Meta встроен в Facebook, Instagram, WhatsApp и Messenger и может отвечать на вопросы, писать публикации и генерировать изображения. В июле компания также убрала функцию создания ИИ-дипфейков других пользователей Instagram после резкой критики.