В России запускается новая инициатива по использованию искусственного интеллекта для выявления запрещенного контента. Об этом сообщил Павел Боюка, директор по ИИ-продуктам компании «Оператор Газпром ИД». Основой этого проекта станет отечественная платформа Video Tagging System (VTS), которая будет заниматься автоматической модерацией видео-, аудио- и текстовых материалов.
Инновационная система модерации контента
По мнению Боюки, внедрение VTS значительно упростит работу модераторов и поможет снизить риски, связанные с регулированием, юридическими вопросами и репутацией цифровых платформ. Система, как утверждается, способна увеличить эффективность команд модераторов более чем в десять раз. Уже сейчас VTS адаптирована для поиска нецензурной лексики и пропаганды наркотиков.
Особенности и преимущества VTS
Платформа включает более 15 нейросетевых моделей, которые позволяют анализировать действия и объекты в кадре, распознавать речь и эмоции, а также обрабатывать текстовые и графические данные. Эта мощная система помогает автоматически создавать точную разметку нарушений с указанием временных меток, что значительно ускоряет процесс проверки контента.
VTS обладает гибкостью, позволяя использовать как предустановленные правила модерации, так и индивидуальные сценарии, которые можно подстраивать под требования конкретной платформы. В зависимости от настроек система может автоматически блокировать контент либо передавать его на дополнительную проверку модератору.
Передовые технологии для повышения качества
Использование Zero-Shot-подхода и каскадных моделей с перекрестной валидацией позволяет VTS запускать новые сценарии без необходимости в дополнительном обучении. Это снижает вероятность ложных срабатываний и обеспечивает стабильное качество работы при обработке больших объемов данных.
