В апреле 2019 года из публикаций Bloomberg стало известно о том, как тысячи сотрудников Amazon по всему миру прослушивают аудиозапросы, адресованные голосовому помощнику Alexa в смарт-колонках Echo, чтобы улучшить их работу.
Полгода спустя скандальная история получила продолжение. 10 октября агентство рассказало о новых фактах того, как Amazon вторгается в частную жизнь пользователей. Оказывается, персонал компании может не только подслушивать владельцев “умных” динамиков, но и подглядывать за людьми через облачную камеру видеонаблюдения Cloud Cam.
Десятки работников Amazon в Индии и Румынии просматривают отрывки видеозаписей, сделанных с помощью Cloud Cam, сообщили агентству пять человек занятых в проекте, либо непосредственно знакомых с ним. Короткие видеоролики затем используются для обучения алгоритмов искусственного интеллекта. В частности, их тренируют отличать реальную угрозу от ложной (например, попытку незаконного проникновения в дом от прыгнувшей на диван кошки).
Благодаря ИИ-алгоритмам смартфоны могут понимать речь людей, а финансистам искусственный интеллект помогает предвидеть колебания на фондовом рынке. Тем не менее, ИИ-технология еще далека от совершенства. Так, Cloud Cam могут послать сигнал тревоги хозяину дома просто из-за шуршания бумаги, а голосовые помощники Apple Siri и Amazon Alexa периодически допускают ошибки при распознавании команд. Когда-нибудь все эти недочеты будут исправлены, но пока искусственному интеллекту нужна помощь людей, и немалая.
Как рассказали информаторы Bloomberg, которые попросили не раскрывать своих имен, в обычный рабочий день сотрудники Amazon могут отсматривать около 150 видеороликов длительностью от 20 до 30 секунд.
В пресс-службе Amazon агентству сообщили, что записи с камер Cloud Cam присылают работающие на компанию тестировщики продукции, а также владельцы устройств, которые отправляют видео для устранения недочетов, вроде ошибочного оповещения или плохого качества картинки.
“Мы серьезно подходим к вопросу неприкосновенности частной жизни и предоставляем пользователям возможность контроля за видеозаписями Cloud Cam”, – заверила представитель Amazon. Также она подчеркнула, что за исключением тех случаев, когда записи предоставляются компании для устранения недочетов, возможность просмотра видео с камер есть только у самих клиентов.
Между тем, нигде в пользовательском соглашении к Cloud Cam прямо не говорится, что люди участвуют в процессе обучения алгоритмов обнаружения движения, которые применяются в камере.
Хотя в Amazon настаивают, что все записи предоставляются добровольно, двое собеседников Bloomberg рассказали, что среди отрывков видео сотрудникам порой попадались такие, которыми люди вряд ли бы захотели делиться. Например, кадры интимной близости.
По словам инсайдеров, неподобающее видео помечается и отфильтровывается, чтобы случайно не попасть в материалы для обучения искусственного интеллекта. Пресс-секретарь Amazon не смогла объяснить, почему среди добровольно предоставляемых записей оказывается видео с нежелательными кадрами.
Сотрудники Amazon, с которыми побеседовали журналисты, утверждают, что в отделе, работающем с записями Cloud Cam, действуют строгие правила безопасности. В частности, в Индии под этот проект отведен отдельный этаж, где трудятся десятки человек. Доступ туда ограничен, а персоналу запрещено пользоваться мобильными телефонами. Тем не менее, это не помешало некоторым работникам передавать видеоролики, попавшие к ним на проверку, своим коллегами, не входящими в команду Cloud Cam, заявил Bloomberg один из информаторов.
Камеры Cloud Cam дебютировали на рынке в 2017-м. Наряду со смарт-динамиками Echo, это еще одно устройство, с помощью которого Amazon рассчитывает получить преимущество на формирующемся рынке систем “умного” дома. Купив Cloud Cam за 120 долларов, пользователь получит подключаемую к интернету камеру, которая будет следить за происходящим в доме в отсутствие хозяев и оповестит в случае подозрительной активности. Владельцы Cloud Cam могут бесплатно просматривать сделанные камерой записи за последние 24 часа. За дополнительную абонплату в размере от 7 до 20 долларов в месяц, длительность хранимой видеоистории можно продлить от 7 до 30 дней. Также при желании можно настроить персонализированные оповещения – например, на плач ребенка или при появлении дыма.
Amazon не раскрывает данные о продажах Cloud Cam, но это лишь одно из множества подобных устройств на рынке, наряду с камерами Google Nest и Ring (последняя также принадлежит Amazon).