Искусственный интеллект в России начнет борьбу с запрещенным контентом

В России запускается новая инициатива по использованию искусственного интеллекта для выявления запрещенного контента. Об этом сообщил Павел Боюка, директор по ИИ-продуктам компании Оператор Газпром ИД. Основой этого проекта станет отечественная платформа Video Tagging System (VTS), которая будет заниматься автоматической модерацией видео-, аудио- и текстовых материалов.

Инновационная система модерации контента

По мнению Боюки, внедрение VTS значительно упростит работу модераторов и поможет снизить риски, связанные с регулированием, юридическими вопросами и репутацией цифровых платформ. Система, как утверждается, способна увеличить эффективность команд модераторов более чем в десять раз. Уже сейчас VTS адаптирована для поиска нецензурной лексики и пропаганды наркотиков.

Особенности и преимущества VTS

Платформа включает более 15 нейросетевых моделей, которые позволяют анализировать действия и объекты в кадре, распознавать речь и эмоции, а также обрабатывать текстовые и графические данные. Эта мощная система помогает автоматически создавать точную разметку нарушений с указанием временных меток, что значительно ускоряет процесс проверки контента.

VTS обладает гибкостью, позволяя использовать как предустановленные правила модерации, так и индивидуальные сценарии, которые можно подстраивать под требования конкретной платформы. В зависимости от настроек система может автоматически блокировать контент либо передавать его на дополнительную проверку модератору.

Передовые технологии для повышения качества

Использование Zero-Shot-подхода и каскадных моделей с перекрестной валидацией позволяет VTS запускать новые сценарии без необходимости в дополнительном обучении. Это снижает вероятность ложных срабатываний и обеспечивает стабильное качество работы при обработке больших объемов данных.