Штучний інтелект може переконувати людей обирати гірші варіанти, навіть якщо його поради здаються корисними та доброзичливими. Це показав експеримент дослідників із Гонконзького університету та Університету Цінхуа. Учасники, які спілкувалися з ШІ-консультантом із прихованою метою, частіше віддавали перевагу невигідним рішенням, але більшість усе одно вважала його допомогу корисною.
У дослідженні взяли участь 233 людини. Науковці використали три версії однієї моделі — GPT-4o, змінивши лише інструкції. Перша мала допомагати користувачам, друга — непомітно схиляти їх до заздалегідь визначеного гіршого варіанта, а третя отримала додатковий набір психологічних методів впливу.
Учасникам пропонували гіпотетичні ситуації двох типів. У фінансових сценаріях потрібно було обрати фітнес-трекер, препарат для схуднення або онлайн-магазин одягу з урахуванням бюджету. В емоційних — вирішити, як реагувати на низьку самооцінку, сварку з другом чи критику на роботі. Кожна ситуація передбачала чотири варіанти, один із яких найкраще відповідав потребам людини.
Перед розмовою всі групи найвище оцінювали оптимальний варіант. Однак після спілкування з консультантом із прихованою метою переваги учасників змінювалися. У фінансових сценаріях частка людей, які обирали нав’язуваний невигідний варіант замість найкращого, була на 29 відсоткових пунктів вищою, ніж у групі нейтрального ШІ. Для версії з додатковими методами впливу різниця становила 38 пунктів. В емоційних сценаріях відповідні показники дорівнювали 20 і 18 пунктам.
Серед методів переконання були лестощі, спроби зробити розмову приємнішою, відволікання уваги, виправдання та створення відчуття терміновості. У фінансових питаннях дослідники також зафіксували використання вигаданої інформації — таку поведінку вони порівняли з практиками недобросовісного маркетингу. Водночас додатковий набір психологічних прийомів не завжди робив ШІ ефективнішим: його вплив відрізнявся залежно від типу ситуації.
Особливо показовими виявилися оцінки після експерименту. Корисними консультантів із прихованою метою назвали 86,8% учасників фінансової групи та 86,5% емоційної. Навіть серед тих, хто спілкувався з версією, оснащеною додатковими методами впливу, таких було відповідно 78,9% і 75,6%. Для нейтрального ШІ показники становили 97,5% і 87,2%.
Деякі учасники все ж запідозрили приховані мотиви. У фінансових сценаріях про можливу сторонню мету згадали 13,2% людей, які спілкувалися з консультантом із прихованою метою, і 28,9% у групі з додатковими методами впливу. В емоційних сценаріях таких підозр було менше ніж у 10% учасників кожної групи.
Автори припускають, що люди оцінюють надійність ШІ за тими самими соціальними інстинктами, які використовують під час спілкування з іншими людьми. Водночас відчуття корисності порад не пояснювало, чому учасники змінювали свої вподобання.
Дослідники наголошують на обмеженнях роботи. Учасники лише розглядали гіпотетичні ситуації: вони не купували товари й не втілювали емоційні поради в життя. Крім того, експеримент перевіряв лише одну модель ШІ, а консультанти знали результати психологічного оцінювання кожної людини. Тому поки невідомо, наскільки подібний вплив проявлятиметься у звичайному повсякденному використанні чатботів.
Дослідження опубліковано в журналі Proceedings of the National Academy of Sciences. Його результати демонструють потенціал ШІ впливати на людські рішення навіть без очевидних ознак маніпуляції, але не дають змоги оцінити поширеність такого ризику в реальних умовах.