Розвиток технологій вже найближчими десятиліттями має створити нове чудо: машину, яка здатна думати самостійно. Однак експерти вважають, що радіти цьому доведеться недовго: роботи зі штучним інтелектом знищать людство. Вони кажуть, що штучний розум є найбільшою загрозою існуванню людей.
Науковці і раніше замислювалися про часи, коли машини стануть розумнішими за своїх творців. Проте тепер вони починають говорити про це все гучніше: одним з перших свою схвильованість виразив Ілон Маск – засновник автовиробника Tesla. У жовтні він сказав, що штучний інтелект є найбільшою загрозою для людства.
Естафету підхопив відомий популяризатор науки Стівен Хокінг. Хоча через свій стан здоров’я він має користуватися «розумними» машинами, справжній штучний розум його лякає.
Причини для хвилювання
У науковців немає сумніву, що колись настане день, в якому комп’ютери стануть розумнішими за людей. Кремнієві машини вже випереджають своїх біологічних творців, наприклад, легко виграють у них у шахи ще з 1996 року.
Вирішувати надскладні математичні рівняння може сьогодні будь-який смартфон, а для деяких подібних задач навіть не потрібно нічого вводити: достатньо лише сфотографувати математичний вираз.
Машини сьогодні випереджають людей не лише в точних іграх типу шахів та точних науках. Машина IBM Watson декілька років тому перемогла в американській телегрі Jeopardy. Вона також консультує лікарів для визначення точного діагнозу пацієнтів у США.
Це не всі приклади того, як машини випереджають людей в їхній роботі та розвагах. Комп’ютери повільно, проте впевнено опановують нові сфери діяльності та стають в них ліпшими та швидшими спеціалістами, ніж люди.
Суперкомп’ютер IBM Watson обігрує людей у телевікторинах
Чи варто боятися
Може здаватися, що жахання штучним інтелектом – це чергова байка, як, наприклад, проблема 2000 року. Тоді експерти передрікали повний крах комп’ютерних мереж та систем через настання нового століття. Однак цього разу загроза може виявитися реальною, адже як тільки люди створять перший в історії штучний розум, він далі зможе самостійно розробити свою ліпшу версію. Люди йому будуть взагалі непотрібні.
«Я не думаю, що етичні наслідки від появи штучного розуму будуть мінімальними, – каже експерт зі штучного інтелекту Ніл Якобштейн. Він вважає, що людство повинно зважити наслідки того, що воно створює та підготуватися до радикальних змін, які можуть виникнути. – Краще зробити це, поки технології не розвинені та не існує штучного інтелекту. Можливість того, що щось піде не так зростає, коли ви не задумуєтесь про це».
Професор когнітивної робототехніки в Імперському Коледжі Мюрей Шанахан каже, що сьогодні дослідники не задумуються про безпеку свої систем, щоб їх можна було зупинити у разі збою.
«Розробники штучного інтелекту не вважають це проблемою, тоді як широка публіка вважає, – каже він. – Я думаю, правильна відповідь знаходиться між цими крайнощами. Немає потреби панікувати зараз. Я не думаю, що ми створимо схожий на людський розум в найближчі 10-20 років».
Одна з головних проблем на шляху штучного інтелекту – це слабке розуміння того, як його розробити. «Ми насправді не знаємо, чи краще копіювати природу, чи створювати з нуля», – каже науковець.
Безпілотні дрони мають початки штучного інтелеку. Вони самі приймають рішення про вбивство, однак не атакують своїх господарів
Боятися варто людей
Фантаст Чарльз Стросс каже, що небезпека від штучного розуму існує, проте її причина не в тому, що він стане розумнішим за людей чи не захоче працювати на своїх господарів.
«Ніхто не хоче мати штучний розум, який встановлюватиме свої цілі, – каже він. – Якщо він думатиме про себе, то, скоріше, знайде свій еквівалент лежанню на дивані перед телевізором».
Стросс вважає, що небезпека від штучного інтелекту в майбутньому походитиме не від нього, а від людей, яким він служить. «Наша найбільша загроза від штучного розуму, – каже він, – це свідомість, яка встановлює їхні цілі».
У якості такого прикладу він наводить безпілотних дронів. «Дрони не вбивають людей, які керують ними. Зате вони вбивають тих, на кого їх направляють, – каже він. – Необхідно ставити питання до господарів машин. Машини – це просто ще одне віддзеркалення нас самих».