Искусственный интеллект на страже Facebook

В компании утверждают, что система искусственного интеллекта (ИИ), используемая Facebook для выявления террористического контента, всё лучше справляется со своей задачей.

Руководитель отдела глобальной политики Facebook Моника Бикерт (Monika Bickert) и глава по контртеррористической политике соцсети Брайан Фишман (Brian Fishman) заявили, что на сегодня 99 процентов удаляемого контента, связанного с экстремистскими организациями ИГ («Исламское государство») и «Аль-Каеда», Facebook находит с помощью ИИ-системы прежде, чем пользователи помечают сообщения, как террористические. Более того, в ряде случаев искусственный интеллект вообще не позволяет публиковать контент.

Впрочем, в руководстве Facebook предупредили, что автоматические инструменты блокировки всё ещё далеки от совершенства.

«Система, настроенная на поиск контента одной из террористических группировок, может не среагировать на сообщения от других экстремистов из-за языковых и стилистических различий в их пропаганде», — приводит пояснение топ-менеджеров агентство Bloomberg.

Учитывая это, в соцсети решили сосредоточить внимание на ИГ и «Аль-Каеда», так как, по мнению Facebook, именно они представляют наибольшую угрозу миру. В дальнейшем в Facebook рассчитывают усовершенствовать автоматические инструменты с тем, чтобы с их помощью находить контент других экстремистских организаций.

В руководстве Facebook добавили, что, несмотря на действенные автоматические инструменты блокировки, людям по-прежнему необходимо следить за базами данных, содержащими примеры публикаций, фото- и видеоматериалов террористической направленности, которые используются для обучения ИИ-системы. Также люди оценивают адекватность принятых системой решений. Для выполнения этих функций Facebook увеличивает штат и привлекает лингвистов, ученых, бывших сотрудников правоохранительных органов и аналитиков разведывательных служб.

Компания Марка Цукерберга неоднократно подвергалась критике со стороны правительств разных стран из-за того, что соцсеть используется террористами для пропаганды и вербовки новых сторонников. Особенно резкие высказывания звучали от премьер-министра Великобритании: Тереза Мэй (Theresa May) призвала власти демократических государств ужесточить регулирование в отношении американского интернет-гиганта и его коллег Microsoft, Twitter и Google. По словам Мэй, чтобы быть на шаг впереди террористов, интернет-компаниям необходимо развивать технологии автоматизированного поиска и удаления сообщений экстремистской направленности.

Специалист по проблеме терроризма Петер Нойман (Peter Neumann) из лондонского Королевского колледжа отметил, что искусственный интеллект обладает большим потенциалом в данной сфере, однако предупредил, что эффективность работы ИИ-систем зависит от вносимых в них данных, и что для оценки нюансов и контекста по-прежнему крайне важно участие людей. Взято с nag.ru