Восени 2020 року співробітники Scale AI з Венесуели, які працюють у віддаленому режимі, розмістили на онлайн-форумах кілька знімків, герої яких явно не хотіли б їх публікації. На одному з них опинилася жінка під час відвідин вбиральні. Фотографії зробив не людина, а робот-пилосос iRobot Roomba J7 – далі вони опинилися в компанії Scale AI, яка наймає людей по всьому світу для маркування фото, аудіо та відео з метою навчання систем штучного інтелекту.
Представники компанії iRobot (зараз перебуває в процесі поглинання компанією Amazon) підтвердили, що знімки були зроблені пилососами Roomba у 2020 році. Проте виробник зазначив, що це були модифіковані версії машин, які ніколи не надходили у вільний продаж, а передавалися співробітникам компанії та іншим особам, які за винагороду погодилися транслювати дані для навчання системи штучного інтелекту. Коли на пристрої вмикається запис, на корпусі загоряється спеціальний індикатор, а учасники дослідження можуть видаляти всі матеріали конфіденційного характеру.
Однак, як зазначає MIT Technology Review, збір даних сьогодні ведеться і на споживчих пристроях від смартфонів до пральних машин — це необхідно для навчання численних алгоритмів штучного інтелекту, і чим сильніше середовище, в якому збирається ця інформація, наближена до природної, тим вища цінність цих даних. Виробники часто користуються розпливчастими формулюваннями, щоб отримати максимальну свободу у збиранні та розповсюдженні інформації про споживачів.
Однією з найважливіших завдань при цьому є розмітка даних, що збираються – створення коротких пояснень, що описують, що зображено на фото або відео, або про що говорять на аудіозаписі. Вирішенням цього завдання займаються спеціальні компанії — це молода галузь, що активно розвивається, річний оборот якої до 2030 року, за прогнозами аналітиків, досягне $13,3 млрд. Одним з найбільших гравців цієї індустрії є заснована у 2016 році Scale AI, яка у форматі краудсорсингу користується послугами громадян країн, що розвиваються – витік даних пилососів Roomba допустили її співробітники, які обговорювали робочі питання онлайн.
За словами представників iRobot, лише Scale AI було передано понад 2 млн зображень для навчання штучного інтелекту, але розміткою даних для виробника займаються й інші платформи. Глава iRobot Колін Енгл (Colin Angle) заявив, що виробник буде змушений розірвати відносини з підрядником, який допустив такий витік – компанія також проведе розслідування інциденту і вживе заходів для запобігання такому в майбутньому.