НаукаТехнології

ШІ DALL-E 2 створив власну мову, яка не піддається розшифровці

0

Різні системи штучного інтелекту вже здатні створювати речі, які виглядають для людей зовсім чужорідними. Щобільше, в історії вже траплялися випадки, коли системи штучного інтелекту винаходили свою мову, один раз це настільки стривожило дослідників, що вони навіть вважали за краще обнулити систему, перервавши ланцюжок розвитку інтелекту, що пішов у незрозумілому для них напрямку. Цього разу відзначилася система DALL-E 2, створена фахівцями компанії Google, яка спочатку призначається для генерації зображень за текстовим словесним описом.

Зазначимо, що нейронні мережі системи DALL-E 2 були попередньо натреновані на величезній кількості зображень, супроводжуваних докладним текстовим описом. Вибудовані нейронні зв’язки формують свого роду базу даних, у якій фігурують взаємозв’язки між символами, словами та елементами зображень.

“Чудеса” із системою DALL-E 2 були помічені, коли їй було поставлено завдання, що полягала в самостійній генерації текстового опису та відповідного зображення. Виявилося, що система у своїх надрах оперує своєю власною незрозумілою мовою зі своїми власними словами для переважної більшості іменників.

Дослідники вважають, що основною причиною того, що сталося, є те, що опис зображень, на яких тренувалася система, були представлені різними мовами. Це змусило систему привести ці описи до якогось “середнього знаменника” і порівняти отриманий результат з елементами зображень. Принципи, використані системою для створення “середнього знаменника”, поки що є загадкою для вчених, як і є загадкою свого роду нова мова, що складається з усереднених даних.

У факті створення системою штучного інтелекту своєї мови дослідники вбачають потенційну небезпеку. Уявіть собі, якщо ця мова буде розшифрована людиною, яка має не дуже хороші цілі, тоді ця людина зможе скласти цією мовою завдання для штучного інтелекту, який, виконуючи його, почне атакувати Інтернет чи інші критичні елементи інфраструктури. А решта людей навіть не зможе зрозуміти, що саме відбувається і з якої причини.

Саме тому зараз дослідники тримають систему DALL-E 2 в ізоляції від решти світу, спостерігаючи за процесами, що відбуваються в ній, і потім, до чого приведе її подальший розвиток. Однак тут варто згадати, що у світі є ще один варіант подібної системи, DALL-E Mini, загальнодоступної, але має набагато більш обмежені можливості в порівнянні з системою DALL-E 2. Джерело

Читати також

Коментарі

Коментування закрите.