Штучний інтелект уже навчився підтримувати розмови, розв’язувати складні математичні задачі та відповідати так, що іноді його легко прийняти за людину. Але чи може за цими переконливими відповідями колись з’явитися справжня свідомість?
Це питання, яке ще недавно здавалося сюжетом наукової фантастики, поступово перетворюється на предмет серйозних наукових дискусій.
ШІ може говорити про свідомість — але це ще не означає, що він її має
Нове дослідження, яке поки що не пройшло незалежного наукового рецензування, розглянуло незвичайний підхід під назвою «керування свідомістю». Його суть полягає в тому, щоб змінювати налаштування ШІ та спостерігати, як це впливає на його відповіді щодо власної свідомості.
Результат виявився доволі дивним. Коли моделі дозволяли частіше заявляти про власну свідомість, вони також ставали більш схильними погоджуватися з іншими фантастичними твердженнями — наприклад, про існування привидів або вампірів.
На перший погляд це може здатися кумедним. Але для дослідників тут є важлива проблема: модель може переконливо говорити про свідомість, не маючи жодних доказів того, що вона справді щось усвідомлює.
А що, якщо ми просто не зможемо це визначити?
Саме тут починається найскладніша частина дискусії. Сучасні системи ШІ чудово працюють із мовою, але ми досі не маємо надійного способу визначити, чи виникла в машині суб’єктивна свідомість. Людина може сказати, що їй боляче або що вона бачить світ навколо себе, тому що має власний досвід.
Але якщо машина скаже те саме — чи означатиме це, що вона справді щось відчуває?
Поки що відповіді немає. Ще цікавіше те, що в експериментах сучасні моделі із відповідними запобіжниками не змогли належним чином розпізнати свідомість навіть в інших істот — людях і тваринах. Це показує, наскільки складним залишається саме поняття свідомості для штучних систем.
Найбільша проблема може чекати попереду
Навіть якщо припустити, що колись ШІ справді стане свідомим, виникає набагато складніше питання: як ми це зрозуміємо?
Недостатньо буде запитати машину: «Ти свідома?» Вона може відповісти «так» просто тому, що статистично знає, як люди відповідають на подібні запитання. І навпаки — система може мати певний внутрішній досвід, але не мати способу його правильно описати.
Саме тому вчені дедалі частіше говорять не лише про те, чи здатен ШІ стати свідомим, а й про те, чи зможемо ми взагалі відрізнити справжню свідомість від дуже переконливої імітації.
Поки що жодних доказів того, що сучасний ШІ має свідомість, немає. Але зі стрімким розвитком таких систем це питання вже навряд чи вдасться просто відкласти. Можливо, найскладнішим випробуванням майбутнього стане не момент, коли машина скаже: «Я свідома», а момент, коли ми вперше не зможемо впевнено відповісти, чи вона справді це усвідомлює.