Согласно новым правилам, администрация социальной сети будет удалять размещаемые пользователями видеозаписи, которые были отредактированы с помощью ИИ-технологий, чтобы сформировать впечатление о том, что показанный в ролике человек сказал то, чего в реальности он не говорил.
Новые правила нацелены на видео, отредактированные с применением технологий искусственного интеллекта, использование которых позволяет создавать качественные подделки, отличить которые простым пользователям крайне сложно. По сообщениям сетевых источников, новые правила вводятся специально в преддверии выборов президента США в 2020 году, чтобы предотвратить распространение дезинформации внутри популярной платформы.
В сообщении говорится о том, что отредактированные с использованием ИИ-технологий видео не так часто встречаются в сети Интернет. Однако они представляют опасность для общества, поскольку могут использоваться для воздействия на мнение пользователей социальной сети. Кроме того, администрация социальной сети будет удалять так называемые «deepfakes» — видео, в которых с помощью специальных алгоритмов лицо одного человека заменено другим. Современные технологии позволяют редактировать видео и заменять лица людей таким образом, что распознать подделку становится непросто.
Стоит отметить, что не все редактируемые видео будут удаляться или помечаться администрацией Facebook как поддельный контент. К примеру, социальная сеть не будет удалять сатирические и пародийные ролики, целью создания которых не являлась манипуляция общественным мнением. Кроме того, администрация разрешает публиковать видео, которые редактировались только для исключения ненужных слов или изменения их порядка.