ИИ в борьбе с запрещённым контентом

Партнёр Comnews Research Леонид Коник считает, что искусственный интеллект (ИИ) поможет в поиске нежелательного и запрещённого контента. РКН планирует выделить на эти цели 2,3 млрд рублей в рамках плана цифровизации.

По словам Леонида Коника, технология позволит блокировать копии запрещённых сайтов не по интернет-адресам, а по ключевым словам, выражениям и другим признакам. Также можно будет выявлять тех, кто скопировал или процитировал такой контент.

Бизнес-консультант Positive Technologies Алексей Лукацкий предлагает расширить технические средства противодействия угрозам (ТСПУ) функциями машинного обучения из корпоративных систем анализа трафика. Это позволит в масштабе Рунета выявлять зашифрованный трафик, методы обхода блокировок (например, через VPN), DDoS-атаки, связи с ботнетами и вредоносными серверами кибермошенников. Технологии также смогут классифицировать запрещённые веб-приложения и отличать легальный стриминг от пиратского скачивания.

Лукацкий отмечает, что машинное обучение позволяет точечно «деградировать» трафик, а не применять массовые меры. Технология DPI с ИИ способна определять тип трафика там, где традиционные методы неэффективны.

Анонимный эксперт RKS-Global утверждает, что ИИ на ТСПУ сможет создавать автофильтры для VPN и поиска контента (текстов, изображений, видео) на разных языках. В качестве примера он приводит опыт Китая, который использует подобные технологии для мониторинга интернета.

Текущие ИИ-решения

По словам руководителя службы Андрея Липова, нейросети способны анализировать текст, аудио и видео, сокращая время обнаружения запрещённого контента до шести часов.

Замглавы Вадим Субботин сообщил, что система обрабатывает 0,5 млн материалов в сутки и выявляет около двух тысяч нарушений. Автоматизация освобождает операторов для решения более сложных задач, повышает эффективность работы и снижает затраты.

РКН использует систему «Окулус» для поиска запрещённого контента в видео и аудио, а «Вепрь» — для выявления «точек напряжённости» в соцсетях и СМИ.

Тестирование

Тестирование ИИ в области мониторинга персональных данных показало эффективность на уровне 60%, сообщил замглавы Милош Вагнер. Для повышения точности требуются обширные датасеты, создание которых на данный момент слишком затратно.