Apple буде сканувати фото користувачів тільки для заявлених цілей

Apple спробувала розвіяти побоювання користувачів і правозахисників, стурбованих новою політикою компанії, що дозволяє IT-гігантові сканувати фотографії користувачів в хмарному сховищі iCloud, виявляючи знімки, потенційно містять елементи насильства над дітьми. В Apple заявляють, що мова йде саме про таких типах злочинів, і компанія не стане розширювати спектр «виявляється» контенту і, тим більше ділитися будь-якою іншою інформацією за запитом чиїх би то не було органів влади.

Минулого тижня компанія анонсувала два інструменти. Один буде використовувати алгоритми машинного навчання, розмиваючи «дорослі» зображення, що надсилаються дітям в додатку Messages. Додатково про отримання дитиною такого контенту або спробі його відправлення будуть повідомлятися батьки дітей до 12 років. Другий інструмент буде сканувати всі фотографії в iCloud, виявляючи фото з елементами насильства над дітьми. У цьому випадку компанія буде повідомляти не батьки, а правоохоронні органи.

Плани компанії викликали стурбованість правозахисників, які побоюються, що діяльність Apple може вийти за рамки місії із забезпечення безпеки дітей. За даними Apple, компанія не раз отримувала запити влади розширити список аналізованого контенту, але завжди відмовляла у відповідь на подібні запити. На ділі відомо, що компанія часто йде на компроміси з органами влади в різних регіонах — від продажу iPhone без додатка FaceTime в країнах, що забороняють шифровані відеодзвінки, до видалення тисяч додатків з китайської версії App Store.

Це не єдині, але досить яскраві приклади. Крім того, існують деякі побоювання, що функція «розмиття» дорослого контенту в додатку Messages буде давати збої. Хоча алгоритми не передбачають відправку самих знімків в Apple або правоохоронним органам, незрозуміло, наскільки точно функція буде визначати неприйнятний контент і чи не буде, наприклад, розмивати цілком нешкідливі кадри.

Правозахисники побоюються, що одним перемиканням прапорців можна буде заборонити пересилку чого завгодно не тільки дітям, а й дорослим. Як стверджують представники групи Electronic Frontier Foundation, недавні спроби сервісу Tumblr блокувати потенційно відвертий контент — приклад того, як технології не змогли впоратися із завданням. Джерело