Довіряти алгоритмам штучного інтелекту поки не можна

Використання поліцейської системи розпізнавання осіб, заснованої на алгоритмах штучного інтелекту, вперше призвело до арешту невинну людину. Вона сплутала його з справжнім злочинцем. За даними видання The New York Times, поліцейські американського міста Детройт у січні цього року затримали для перевірки якогось Роберта Джуліана-Борчака Вільямса (Robert Julian-Borchak Williams). Після того як Вільямса доставили в поліцейську дільницю, його заарештували, тому що система розпізнавання осіб визначила в ньому злочинця, який у 2018 році скоїв магазинну крадіжку. Як з’ясувалося пізніше, система на базі ІІ-алгоритмів зробила помилку, але Вільямсу все одно довелося провести 30 годин за гратами, поки поліцейські не розібралися в ситуації.

Противники систем розпізнавання осіб вже довгий час стверджують, що дана технологія ще недостатньо досконала для точного пошуку і визначення злочинців. Самі розробники подібних систем не раз застерігали органи правопорядку від їх використання в якості єдиного надійного доказового інструменту для затримання. Але як виявилося, у випадку з Вільямсом дана система стала єдиним «доказом» на користь арешту невинну людину.

Примітно, що програмне забезпечення для ідентифікації осіб, яке використовувалося детройтської поліцією разом з результатами перевірки Вільямса вивела наступне повідомлення: «Цей документ не є позитивним ідентифікатором. Він являє собою тільки слідчу версію і не є підставою для затримання».

Після внесення застави Вільямса відпустили, а коли розібралися в ситуації — навіть вибачилися. Але цей випадок створив прецедент, який вказує на набагато ширшу проблему — цілком довіряти алгоритмам штучного інтелекту поки не можна.

«Я серйозно підозрюю, що це не перший випадок помилки системи, в результаті якої був заарештований чоловік, що не робив злочину. Швидше за все, це всього лише перший випадок, коли про це стало відомо громадськості», — підсумувала адвокат Клер Гарві (Clare Garvie), до якої видання The New York Times попросило прокоментувати ситуацію.