Мета оштрафована за впровадження дискримінаційних алгоритмів

Уряд США подав до суду на Meta у Нью-Йорку за те, що певним користувачам забороняється перегляд онлайн-реклами нерухомості на основі їхньої національності, раси, релігії, статі та сімейного стану. У скарзі йдеться, що Meta порушила американський закон про справедливе житло (FHA) , який захищає людей, які бажають купити чи орендувати нерухомість, від дискримінації.

Відповідно до закону, власники житла забороняють продавати чи здавати в оренду свої будинки чи рекламувати будинки для певних демографічних груп, а також виселяти орендарів на основі їхньої демографічної ознаки. Прокуратура подала до суду на Meta, стверджуючи, що її алгоритми дискримінують користувачів, націлюючи рекламу житла на основі їхньої «раси, кольору шкіри, релігії, статі, інвалідності, сімейного стану та національного походження».

Деміан Вільямс, прокурор США з Південного окружного суду Нью-Йорка, сказав: «Коли компанія розробляє та впроваджує технологію, яка позбавляє користувачів можливостей житла повністю або частково на основі захищених характеристик, вона порушує FHA, як і коли компанії займаються дискримінаційною рекламою, використовуючи більш традиційні рекламні методи. Через цей новаторський судовий процес Meta вперше змінить свою систему показу реклами, щоб усунути алгоритмічну дискримінацію. Але якщо Meta не зможе продемонструвати, що вона достатньо змінила свою систему, щоб захистити від алгоритмічної упередженості, цей офіс продовжить судовий процес».

Мета погодилася сплатити штраф у розмірі $115 054, щоб припинити цю справу. Компанія також погодилася внести необхідні зміни у свої алгоритми для системи націлювання реклами. Уряд США не може накласти на компанію більший штраф, оскільки це максимальний штраф за порушення закону.

В угоді йдеться, що Meta припинить використовувати рекламний інструмент для розміщення реклами під назвою інструмент «Спеціальна аудиторія реклами», який покладається на дискримінаційний алгоритм, щоб знайти користувачів, які «зовні схожі» на інших користувачів на основі характеристик, захищених FHA.

Meta також погодилася розробити нову систему протягом наступних шести місяців, щоб усунути расові та інші відмінності, спричинені використанням алгоритму персоналізації. Ця справа стала першим випадком, коли Meta потрапила до суду за систему націлювання та доставляння реклами. Джерело