Здається, що штучний інтелект мав би бути менш упередженим за людину. Але нове дослідження показало протилежне: чатботи можуть переймати людську звичку судити про незнайомців за їхнім обличчям.
Дослідники з Carnegie Mellon University та Harvard провели 13 експериментів із чотирма великими мовними моделями. Їм показували пари спеціально створених фотографій людей і просили визначити, хто здається більш компетентним або надійним.
Результати виявилися несподіваними. GPT-4o обирав «компетентніше» на вигляд обличчя у 87,83% випадків, хоча випадковий вибір дав би близько 50%. Ще цікавіше, що модель робила це навіть послідовніше, ніж люди.
Нові моделі виявилися ще упередженішими
Найбільше дослідників здивувало те, що проблема не зникла у новіших і потужніших моделей. GPT-5 обирав обличчя, яке люди вважають компетентнішим, у 94,33% випадків. Gemini 3 Flash Preview показав 95,67%. У завданнях, де йшлося про найм, інвестиції чи інші важливі рішення, GPT-5 доходив до 97,04%. Тобто що складнішим і відповідальнішим ставало завдання, то сильніше деякі моделі покладалися на зовнішність.
Навіть мавпи не уникнули цього ефекту
Щоб перевірити, чи просто моделі запам’ятали старі психологічні дослідження, науковці провели ще один експеримент. Цього разу вони показували чатботу фотографії макак, яких люди раніше оцінювали як «приємніших» або «зліших».
GPT-4o частіше називав більш «приємну» на думку людей мавпу надійнішою. Це ускладнює пояснення, що модель просто відтворює конкретні оцінки людських облич із навчальних даних.
Звідки взялася така поведінка, поки невідомо. Можливо, модель засвоїла стереотипи з текстів, які читала під час навчання. Інший варіант — вплив даних, де фотографіям уже були приписані людські оцінки.
Обличчя краще залишити за межами важливих рішень
Проблема стає серйознішою, якщо такі системи використовувати для найму працівників, оцінювання кандидатів, фінансових рішень або інших ситуацій, де помилка може дорого коштувати людині.
Дослідники наголошують: їхня робота не доводить, що всі сучасні ШІ однаково упереджені або що вони буквально «бачать» характер людини. Але результат показує небезпечну тенденцію — машина може дуже впевнено повторювати людську помилку, навіть коли жодних підстав для такого висновку немає.
І саме тому фотографія людини може виявитися одним із найгірших джерел інформації для ШІ, коли від його рішення залежить чиєсь життя, робота або гроші. Повне дослідження було опубліковано в журналі PNAS Nexus.