ЄС голосує за обмеження ChatGPT

У четвер законодавці ЄС проводять вирішальне голосування щодо встановлення обмежень щодо використання ШІ, наприклад ChatGPT, у Європейському Союзі. Комітети Європейського парламенту викладуть свою позицію щодо майбутніх переговорів з державами-членами ЄС, які мають на меті створити закон, який запобігатиме зловживанням у використанні штучного інтелекту, водночас залишаючи простір для інновацій.

Блок хоче стати світовим піонером у регулюванні технології, яка викликала інтерес громадськості та компаній за останні кілька місяців. Рух Брюсселя до цієї мети фактично почався два роки тому з пропозиції Європейської Комісії. Країни-члени ЄС виступили зі своєю переговорною позицією наприкінці минулого року.

Але поява з того часу ChatGPT, Midjourney та інших програм штучного інтелекту значною мірою привернула увагу парламенту до цього питання, що призвело до лавини поправок, які необхідно розглянути. Після голосування в комітетах у четвер наступного місяця Європейський парламент скаже своє слово на пленарному засіданні.

«Я вважаю, що ми пропонуємо дуже хороший і збалансований текст», який захищає людей, водночас допускаючи інновації», — сказав Брандо Беніфей, один із головних членів Європарламенту щодо тексту, який буде проголосований у четвер.

Двосічний меч

Незважаючи на те, що штучний інтелект має великі перспективи, він також є палкою з двома кінцями як технічний інструмент. Це може врятувати життя, наприклад, шляхом вдосконалення медичних оцінок, або його можуть використовувати авторитарні режими для вдосконалення масового спостереження.

Для широкого загалу поява ChatGPT наприкінці минулого року стала джерелом цікавості та захоплення: користувачі підписувалися, щоб спостерігати, як він пише есе, вірші чи виконує переклади за лічені секунди.

Штучний інтелект для створення зображень, як-от Midjourney та DALL-E, також викликав онлайн-ажіотаж, щоб створити схожих на Ван Гогів чи Папу Римського в пуховій куртці, тоді як музичні сайти зі штучним інтелектом вразили своєю здатністю створювати навіть людський спів.

Проте ця технологія має великий потенціал для фальсифікації, щоб обдурити людей і схилити громадську думку. Це підштовхнуло Ілона Маска та деяких дослідників закликати ввести мораторій, поки законодавчі рамки не зможуть наздогнати.

Позиція Європейського парламенту відповідає основним напрямкам, викладеним у пропозиції комісії, яка керувалася чинними законами ЄС щодо безпеки продукції, які покладають на виробників обов’язок перевірок.

Суть підходу ЄС полягає в тому, щоб мати список видів діяльності з «високим ризиком» для ШІ.

Комісія пропонує, щоб призначення охоплювало системи в чутливих областях, таких як критична інфраструктура, освіта, людські ресурси, громадський порядок і управління міграцією. Деякі із запропонованих правил для цієї категорії забезпечать людський контроль над штучним інтелектом, надання технічної документації та наявність системи управління ризиками.

Кожна держава-член ЄС матиме наглядовий орган, який буде стежити за дотриманням правил.

Однак багато депутатів Європарламенту хочуть обмежити критерії «високого ризику», щоб вони охоплювали лише програми штучного інтелекту, які, як вважають, загрожують безпеці, здоров’ю чи основним правам. Інші, такі як група Зелених, виступають проти цього. Що стосується генеративного ШІ, такого як ChatGPT, парламент розглядає певний набір зобов’язань, подібних до тих, що застосовуються до списку «високого ризику».

Депутати Європарламенту також хочуть, щоб компанії зі штучним інтелектом запровадили захист від незаконного контенту та захищених авторським правом робіт, які можуть використовуватися для навчання їхніх алгоритмів. Пропозиція комісії вже передбачає сповіщення користувачів, коли вони контактують з машиною, і вимагає, щоб додатки для створення зображень заявляли, що їхній результат був створений штучно.

Пряма заборона траплятиметься рідко й стосуватиметься лише додатків, які суперечать цінностям Європи, наприклад типу масового стеження та систем рейтингу громадян, які використовуються в Китаї. Законодавці хочуть додати заборони на ШІ розпізнавати емоції, а також позбутися винятків, які б дозволяли правоохоронним органам віддалено біометрично ідентифікувати людей у ​​громадських місцях. Вони також хочуть запобігти копіюванню фотографій, опублікованих в Інтернеті, для навчання алгоритмів, якщо не отримано дозвіл відповідних людей.