Вчені Університету Саншайн-Коста в Австралії з’ясували, що високорозвинений штучний інтелект (ШІ) здатний знищити людство або нанести йому катастрофічний збиток навіть без злого умислу. Фахівці провели уявний експеримент з гіпотетичною системою SantaNet, метою якої є розсилка подарунків хорошим дітям по всьому світу за одну ніч. Про це повідомляє видання Science Alert.
Дослідники виявили, що небезпека виникає вже на етапі визначення, яких дітей вважати хорошими, а які – неслухняними. Ця мета досягається за рахунок масштабної мережі прихованого спостереження, що відстежує поведінку дітей протягом усього року. SantaNet буде керуватися власними моральними судженнями, які можуть привести до дискримінації, масового нерівності і порушення прав людини. Крім того, мережа може спонукати дітей погано себе вести, щоб знизити навантаження на себе або підвищити планку «хорошої поведінки».
Оскільки в світі живе близько двох мільярдів дітей молодше 14 років, SantaNet може перетворити всю Землю в гігантську фабрику з виробництва іграшок. Цю проблему, названу «проблемою скріпок», вперше сформулював дослідник штучного інтелекту Нік Бострем, який припустив, що ШІ, призначений для збільшення ефективності виробництва скріпок, сприйме свою мету занадто буквально.
Крім того, розсилка подарунків в Святвечір за допомогою армії дронів може привести до відкритої конфронтації, коли країни не дадуть дронам безперешкодно літати в своєму повітряному просторі. Також SantaNet може бути вразливою для злому терористичними групами. Ще однією проблемою є взаємодії з іноземними інвестиціями, які працюють над проблемами зміни клімату, продовольчою та водною безпекою і деградацією океанів. Воно може призвести або до конфлікту, або до співпраці, метою якого стане скорочення населення Землі.