Meta начнёт использовать ИИ для проверки фото и видео на визуальные признаки, которые могут указывать, что пользователю меньше 13 лет и его аккаунт нужно удалить из Facebook или Instagram. Об этом компания объявила во вторник.
По словам Meta, система анализирует общие визуальные сигналы, включая рост и строение костей, чтобы оценить примерный возраст человека. В компании подчеркнули: «Мы хотим ясно заявить: это не технология распознавания лиц. Наш ИИ оценивает общие признаки и визуальные сигналы, например рост или строение костей, чтобы определить примерный возраст человека; он не устанавливает, кто именно изображён на фото. Объединяя такие визуальные данные с анализом текста и взаимодействий, мы можем заметно увеличить число найденных и удалённых аккаунтов несовершеннолетних».
Система визуального анализа уже работает в ряде стран, а Meta готовит более широкий запуск.
Компания заявила, что эта мера входит в программу по недопуску детей младше 13 лет на её платформы. Для этого Meta уже использует ИИ, который анализирует профили целиком и ищет контекстные сигналы, например упоминания дней рождения или школьных классов. Проверка охватывает публикации, комментарии, биографии профилей, подписи и другие форматы.
В будущем Meta собирается расширить применение этой технологии на другие части своих приложений, включая Instagram Live и Facebook Groups.
Если система решит, что пользователь может быть младше допустимого возраста, Meta деактивирует аккаунт. Чтобы избежать удаления, человеку нужно будет подтвердить возраст через процедуру верификации, которую использует компания.
Объявление прозвучало через несколько недель после того, как жюри в Нью-Мексико обязало Meta выплатить 375 млн долларов гражданских штрафов за введение потребителей в заблуждение по поводу безопасности платформ и создание риска для детей. Суд также потребовал внести в сервисы компании базовые изменения. После этого Meta пригрозила прекратить работу своих соцсетей в штате.
Это дело стало одним из нескольких исков, с которыми Meta и другие крупные IT-компании сталкиваются из-за вопросов безопасности детей.
Также во вторник Meta сообщила о расширении технологии, которая автоматически переводит подростков в более строгий режим Teen Accounts в Instagram, на 27 стран ЕС и Бразилию. Такие аккаунты получают дополнительные ограничения: личные сообщения могут отправлять только подписки или уже связанные пользователи, вредные комментарии скрываются, а профиль по умолчанию становится закрытым.
Кроме того, компания впервые запускает эту технологию для Facebook в США. Затем, в июне, она появится в Великобритании и странах ЕС.
Источник: Meta.
*Организация Meta (владелец Facebook и Instagram) признана экстремистской организацией и ее деятельность запрещена на территории России.