Хінтон, чиї розробки лежать в основі сучасних генеративних ШІ систем, побоюється, що прагнення технічної індустрії до створення продуктів на основі штучного інтелекту може призвести до небезпечних наслідків.

Ця «прага нового» здатна викликати як поширення хибної інформації, так і втрату робочих місць, і навіть загрожувати людству.

Фахівець наголосив, що активна співпраця провідних вчених у галузі ШІ може запобігти його виходу з-під контролю. Він також висловив побоювання, що технологія може змінити ринок праці, спочатку доповнюючи людей, а потім замінюючи їх на робочих місцях, пов’язаних з виконанням рутинних завдань.

Незважаючи на критичні зауваження про його звільнення з Google, Хінтон уточнив свої мотиви, написавши в твіттері: «Я пішов з Google, щоб вільно говорити про небезпеки ШІ, не переймаючись тим, як це вплине на Google. Google діяв дуже відповідально».

“Запам’ятайте, якщо ви зробите крок назад і подумаєте про всі речі в житті, які або зручні, або корисні, або прекрасні для суспільства зараз, то вони одночасно містили в собі потенційну шкоду”, – зазначив Хуанг.

За його словами, розробники створюватимуть потужні інструменти на основі ШІ, і необхідно забезпечити створення правового регулювання та дотримання соціальних норм, які поки що не сформовані.

«Все розвивається просто зараз. Той факт, що ми всі говоримо про це, ставить нас у краще положення», — упевнений керівник корпорації.

Хуанг має великий вплив в індустрії ШІ через постійне використання чіпів Nvidia в комп’ютерах та інших пристроях.

Розробники розповіли, що ресурс дозволяє завантажити старі чи просто розмиті фотографії, після чого штучний інтелект вивчить контент та підвищить різкість завдяки своїм власним алгоритмам. І хоча спочатку користувачі соціальних мереж поставилися до анонсу ресурсу дуже скептично, насправді виявилося, що проект розробника справді дуже ефективно покращує фотографії. Наприклад, з кадру, що є місивом з пікселів, сайт зробив цілком привабливу фотографію високої якості — важко навіть уявити, що це зроблено за допомогою ШІ.

Але новітні розробки використовують не тільки звичайні користувачі для «повеселитися». Виявилося, що недавно і студенти почали використовувати ШІ-інструменти. Тепер нейромережі пишуть есе за них.

Якщо раніше учні були змушені вивчати тему та писати цілі полотна, які надалі редагувалися, то тепер їм достатньо вбити кілька ключових слів. Після цього сучасні технології зроблять усю брудну роботу за них.

Слід зазначити, що фахівці та викладачі неоднозначно ставляться до такого підходу до виконання домашніх робіт студентами. Хтось вважає, що це логічний результат, так як технології не стоять на місці. Інші кажуть, що використовувати ШІ для написання есе — це читерство.

Справа в тому, що після того, як нейромережу навчили, її дуже важко змусити вирішувати зовсім нове завдання. І якщо їй вдається перевчитися, зрештою буде пошкоджено стару пам’ять.

Цю проблему можна вирішити лише за допомогою так званої «консолідації пам’яті» — процесу, який допомагає перетворити недавні короткострокові спогади на довготривалі. Часто це відбувається під час швидкого сну.

Вчені використали модель нейронної мережі для імітації сенсорної обробки та навчання з підкріпленням у мозку тварини, а потім поставили перед нею дві окремі завдання. Потім команда перевірила, чи мережа демонструватиме катастрофічне забування, і це, звичайно, сталося. Кожне навчання для другого завдання завдавало шкоди першому. Але, змусивши мережу імітувати біологічний сон, дослідники зрештою виявили, що ШІ може «згадати», як виконати перше завдання.