В OpenAI запропонували нові принципи для контролю розвитку ШІ

За останні місяці нейромережі стали надзвичайно популярними. Багато в чому це заслуга ChatGPT та генеративних нейромереж. Однак розробники дивляться в майбутнє і прогнозують нові проблеми на цій ниві. У блозі OpenAI вийшла стаття, де йдеться про доволі швидку появу Artificial general intelligence (AGI). Це можна перекласти як «ШІ загального призначення», самі ж автори мають на увазі під цим терміном ШІ, який може будь-які завдання не гірші за людину, а часом навіть краще.Згенеровано нейромережею Midjourney

У статті йдеться про те, що AGI має «розширити можливості людства для максимального процвітання», однак він може принести також і потенційні проблеми. Щоб завчасно підготуватися до них, OpenAI запропонували набір принципів, якими команда керується у своїй роботі над AGI.

Список їх виглядає так:

• Розгортання та вивчення не надто потужних ШІ-систем у реальному світі, що дозволить отримати досвід роботи з ними та зворотний зв’язок.
• Спрощення доступу до ШІ систем для всіх бажаючих.
• Підтримка ШІ людських цінностей та переваг.
• Взаємодія міжнародних структур для використання та регулювання ШІ.
• Обмін даними та досвідом про прогрес ШІ з громадськістю, а також залучення зацікавлених сторін, які можуть зробити внесок у розвиток ШІ.

Це лише основні моменти, інші можуть виникнути вже в міру розвитку AGI й залежатиму від перерахованих вище факторів. Адже поки що складно передбачити, наскільки швидко розвиватиметься така ШІ, наскільки гарною буде координація зусиль та взаємодія між різними країнами. Також неясно, наскільки добре AGI враховуватиме саме людські цілі, утримування та переваги.

В OpenAI також зазначили, що у них самих є не всі відповіді та рішення для потенційних проблем у майбутньому, особливо після того, як AGI стане масовим явищем. Там розраховують, що у довгостроковій перспективі ці та інші вимоги до розвитку ШІ стануть обов’язковими для всіх.