Компания Google запустила программу по обнаружению и блокировке видео с шокирующим контентом только после серии инцидентов с детскими видео и угрозой потери рекламодателей. Система работает на основе искусственного интеллекта, пишут СМИ со ссылкой на источники, знакомые с проектом.

Внтуреннее название программы - «trashy video classifier», передает Vc. ru со ссылкой на Bloobmerg.

Google тестировала ее в 2015 году, но запустила только после серии инцидентов с детскими видео Elsagate в 2017 году, рассказал бывший сотрудник YouTube. Тогда в сервисе появились видео для детей, содержащие сцены насилия и не блокируемые фильтрами родительского контроля.

YouTube столкнулся с бойкотом рекламодателей, которые выступили против распространения в видеосервисе нелегального и шокирующего контента.

В Google подтвердили, что у компании есть программа, которая просматривает видео на домашней странице YouTube и панели с рекомендациями роликов. Система анализирует отзывы пользователей, сообщающих о вводящих в заблуждение или шокирующих видео, а также другие данные, например, количество лайков и дислайков.

Запуск такого классификатора свидетельствует о том, что YouTube может регулировать распространение шокирующего контента, указывает Bloomberg. Однако бывшие и нынешние сотрудники компании отмечают, что YouTube начинает серьезно относиться к таким проблемам только когда они угрожают финансовому благополучию компании или под внешним давлением.

Подробнее читайте на vz.ru