Правительство Великобритании представило новый онлайн-инструмент для обнаружения и удаления джихадистского видео, который имеет высокий уровень эффективности. Министерство Внутренних Дел заявило, что инструмент автоматического изучения интернет-пространства, разработанный с помощью компании ASI Data Science, может идентифицировать 94% загрузок видео исламского государства (ИГ) со средним уровнем погрешности 0,005%. Это означает, что 940 из каждых 100 000 размещенных в интернете видеороликов ИГ могут быть правильно идентифицированы, но из того же объема, пять видеороликов, не носящих пропаганду ИГ, будут ложно идентифицированы программой.
Хотя еще потребуется доработка, этот инструмент, направленный на небольшие потоковые видео и сайты, выглядит убедительно. После развертывания он будет автоматически помечать подозрительные видео в течение нескольких минут после загрузки. Затем модераторы – люди смогут установить, следует ли блокировать отмеченные видео или нет. Учитывая точность инструмента, их работа максимально упроститься. Как минимум, часть опасного контента будет точно обнаружена и помечена для блокировки. Однако есть несколько областей, в которых еще предстоит найти решения.
Важнейшей составляющей проекта является то, что предлагаемая модель полицейского надзора в интернете опирается на человеческое участие для принятия окончательных решений. Это важно, поскольку ложная маркировка доброкачественного контента как экстремистского может иметь серьезные последствия для человека, который создал сообщение в интернете или разместил видео. В лучшем случае, их конкретный пост будет заблокирован, а в худшем они могут быть допрошены или даже арестованы.
Почти все системы искусственного интеллекта принимают свои решения на основе набора шаблонов или правил, которые либо определяются экспертами – людьми, либо собираются из данных с использованием алгоритмов программ сканирования. Это означает, что любая система хороша настолько, насколько хороши данные, используемые в ней. Технологии еще не достигли такого уровня, когда каждое решение, принятое таким инструментом обнаружения будет непогрешимо.
В то время как некоторые типы контента явно незаконны или оскорбительны, существует оттенки серого непристойности и оскорбительности. Эксперты не всегда соглашаются с тем, что должно или не должно быть заблокировано. Глобальное правовое и культурное разнообразие также играет определенную роль – то, что является законным или даже социально терпимым в одной части мира, может нарушить закон в другой.
Министерство Внутренних Дел не раскрывает, какие базы данных использовались для запуска инструмента блокировки экстремизма. Что еще более важно, не ясны руководящие принципы -конкретные критерии и пороги, используемые для маркировки видео как «ЦЕЛЬ» или «НЕ ЦЕЛЬ». Различные способы взаимодействия людей с контентом также создают проблемы. Жестокие образы обычно достаточно ясны; однако использование метафоры и инсинуации может быть использовано для маскировки уровня насилия и оскорбительности в части текста. Но новая система МВД Великобритании специализируется на видео, это означает, что потребуются дополнительные и более сложные инструменты, чтобы зачистки текстового джихадистского контента.
На данный момент инструмент обучен обнаруживать только видео ИГ. Но недавние события, такие как убийство депутата Джо Кокса, теракт возле мечети в Финсбери парк и рост преступлений на почве ненависти, демонстрируют, что контент, размещенный ультраправыми организациями, столь же опасен.
Ранее Facebook и YouTube – после интенсивного политического давления также сообщили о своей работе в этом направлении. Они внедряют системы блокировки или опции «быстро убрать» для экстремистского материала. Используемая технология аналогична системам, которые идентифицируют защищенный авторским правом контент на видео сайтах и сканирует видео на наличие цифровых отпечатков, что позволяет быстро удалить весь контент с соответствующими учетными данными. Теоретически, оборудование может перехватывать попытки репоста контента, который уже был помечен как экстремистский, но не будет иметь возможности автоматически блокировать видео, которые ранее не просматривались.
Безусловно, усилия МВД Великобритании по искоренению джихада в интернете должны быть приняты, но еще многое предстоит сделать. Несовершенные системы искусственного интеллекта и инструменты механической проверки контента пока не являются всеобъемлющим ответом на все беды общества. Необходима разработка и внедрение программ, направленных на профилактику (ранее обнаружение и купирование) проявлений радикализации. А здесь, зачастую, более эффективно – живое, человеческое общение, чем холодные математические алгоритмы.
