Instagram объявил об изменении правил маркировки профилей с персонажами, созданными с помощью ИИ. Платформа также начнёт ограничивать охват аккаунтов, где используются ИИ-люди без соответствующей пометки.
Сервис переименует текущую метку «AI creator» в «AI-generated profile». В Instagram пояснили, что новая формулировка понятнее для пользователей и показывает, что человек на странице полностью или в значительной части создан с помощью ИИ.
По новым правилам авторы, которые не укажут такую пометку для ИИ-профиля, могут столкнуться со снижением охвата. При этом сама по себе публикация аккаунта с ИИ-персонажем не будет наказываться, если профиль отмечен корректно.
В Instagram отдельно уточнили, что новая метка нужна не для любого применения ИИ. Если пользователь редактирует фото, улучшает подписи, делает графику или вносит другие творческие правки, использовать пометку AI-generated profile не требуется.
Компания объяснила изменение жалобами пользователей, которые принимали такие страницы за аккаунты реальных людей. Позже выяснялось, что изображённый человек был полностью создан ИИ.
«По мере того как генеративный ИИ занимает всё больше места в создании контента, мы слышим, что людям не нравится видеть профиль, который кажется человеческим, а потом узнавать, что показанный в нём человек создан ИИ», — заявили в Instagram. «Пользователи хотят знать, когда в профиле показан человек, сгенерированный ИИ».
Обновление выходит на фоне растущего раздражения из-за ИИ-контента, поскольку ИИ-инфлюенсеры всё чаще появляются в соцсетях. Ранее в этом году приложение для знакомств Goose стало предметом расследования Wired после того, как сеть предположительно сгенерированных ИИ мужских инфлюенсеров продвигала сервис в Instagram.
По данным Wired, журналисты нашли более двух десятков аккаунтов, которые выглядели как страницы ИИ-инфлюенсеров. Некоторые из них, как сообщается, писали потенциальным пользователям в личные сообщения и предлагали зарегистрироваться.
Ещё один рискованный сегмент — контент о здоровье и благополучии. The New York Times сообщала в июле, что обнаружила в соцсетях сотни созданных ИИ врачей, целителей и wellness-персонажей, которые продвигали добавки или распространяли заявления о здоровье.
Заявление Instagram появилось после критики в адрес компании из-за ИИ-инструмента, который позволял пользователям генерировать изображения с использованием внешности других людей. Пользователи возмутились тем, что их публичный контент в Instagram применялся без явного согласия, после чего Meta удалила эту функцию.
На прошлой неделе Meta заключила мировое соглашение на $18 млрд с американскими штатами по обвинениям, связанным с влиянием Facebook и Instagram на детей и подростков. По условиям соглашения компания введёт для подростков лимит использования Facebook и Instagram по умолчанию — два часа в день, блокировку в «ночном режиме», отключение уведомлений в учебные часы и другие ограничения.
Источник: заявление Instagram, Wired, The New York Times.
*Организация Meta (владелец Facebook и Instagram) признана экстремистской организацией и ее деятельность запрещена на территории России.