Представители компании Facebook объявили о проведении расследования, по итогам которого были заблокированы сотни поддельных аккаунтов из США, Вьетнама и Грузии, которые использовались в рамках масштабных кампаний по манипуляции общественным мнением в социальных сетях Facebook и Instagram.
Отмечается, что в этих аккаунтах использовались фотографии, созданные с применением технологий искусственного интеллекта, из-за чего распознать обман невооружённым глазом было крайне сложно. Об этом объявил руководитель отдела кибербезопасности компании Facebook Натаниэль Глейхер (Nathaniel Gleicher).
В общей сложности блокировке подверглись 610 аккаунтов, 89 страниц и 156 групп в социальной сети Facebook, а также 72 аккаунта в Instagram. Администрация Facebook связывает большую часть заблокированных аккаунтов с компанией Epoch Media Group, которая выпускает консервативное издание The Epoch Times.
Отмечается, что в рамках кампании на рекламу в социальных сетях было потрачено порядка $9 млн. Контент, размещаемый через поддельные аккаунты, преимущественно предназначался для пользователей из США и Вьетнама.
Кроме того, разработчики выявили и заблокировали достаточно крупную сеть поддельных аккаунтов на территории Грузии. В неё входило 39 аккаунтов и более 300 страниц. Предполагается, что данная сеть связана с грузинским правительством, а её предназначение сводилось к формированию положительного мнения о действующей власти и критике оппозиционных партий.
Facebook говорит о том, что обнаруженные поддельные аккаунты наглядно демонстрируют, как эволюционируют инструменты, используемые для дезинформации и манипуляции общественным мнением. Фотографии для поддельных профилей создавались с помощью алгоритмов, работающих на основе нейросетей с машинным обучением. Однако представитель Facebook отметил, что созданные таким образом фотографии не мешают автоматизированным системам компании выявлять поддельные аккаунты, поскольку этот процесс основывается на анализе поведения учётных записей.