OpenAI попереджає людство про ризики від загального штучного інтелекту

OpenAI, дослідницька та розгортаюча компанія штучного інтелекту, яку фінансово підтримує Microsoft, опублікувала допис у блозі, в якому закликає бути обережними та передбачливими при розробці загального штучного інтелекту (AGI), який визначається як штучний інтелект, здатний виконувати будь-яке інтелектуальне завдання, доступне людині.

Компанія, яка спочатку була заснована групою відомих технологічних підприємців і дослідників, включаючи Ілона Маска та Сема Альтмана, заявила, що AGI може мати глибокі наслідки для людства, як позитивні, так і негативні. У дописі в блозі описано деякі потенційні переваги AGI, наприклад розв’язання глобальних проблем, таких як зміна клімату та бідність, а також деякі потенційні ризики, такі як невідповідність людським цінностям і цілям, зловмисне використання зловмисниками та екзистенційні загрози до людської цивілізації.

OpenAI стверджував, що досягнення AGI потребує ретельного планування та координації між різними зацікавленими сторонами, включаючи дослідників, політиків, лідерів галузі, групи громадянського суспільства та широку громадськість. Компанія також закликала до додаткових досліджень щодо того, як забезпечити відповідність AGI людським цінностям і можливість контролю з боку людей. Крім того, OpenAI виступає за більшу прозорість і підзвітність у розробці та розгортанні ШІ.

Організація сподівається на глобальну дискусію щодо 3 ключових питань: як керувати цими системами ШІ, як справедливо розподіляти переваги, які вони створюють, і як справедливо ділити доступ.

Повідомлення в блозі було опубліковано в рамках місії OpenAI, спрямованої на те, щоб штучний інтелект приносив користь всьому людству. Компанія керує як некомерційним підрозділом (OpenAI Inc.), так і комерційним підрозділом (OpenAI LP), які поділяють це бачення. OpenAI відома розробкою деяких із найдосконаліших систем ШІ у світі, таких як GPT-4 (система обробки природної мови), DALL-E (система генеративного синтезу зображень) і її останній вірусний хіт ChatGPT (чат-бот, який навчається на великій мовній моделі на основі інформації, доступної в Інтернеті).