Пентагон створив робочу групу із генеративного штучного інтелекту, яка отримала назву Task Force Lima. Про це повідомило видання Defense One. Основним завданням групи стане визначення рівня безпеки під час використання у Держдепі генеративного штучного інтелекту. Фахівці мають виявити ситуації, в яких використання стає небезпечним.
Також група буде досліджувати, як інші країни можуть використовувати цей тип ШІ, щоб завдати шкоди Сполученим Штатам.
«З’явиться ціла низка варіантів використання, які стануть новими векторами атак не лише для міністерства оборони, але й для корпорацій. І нам доведеться… старанно з’ясувати, як їх вирішити», – сказав керівник групи Крейг Мартелл.
Генеративний штучний інтелект – це один з видів штучного інтелекту, що відрізняється здатністю генерувати аудіо, текст та зображення на основі наданих йому матеріалів. Міністерство оборони Сполучених Штатів поки не поспішає впроваджувати ШІ для полегшення своєї роботи. Йому доведеться працювати з гігантськими обсягами даних, з якими сучасні ШІ можуть не впоратись і видавати неправдиві дані.
Такі неправдиві і, можливо, навіть спотворені дані фахівці називають “галюцинаціями”. У Держдепі планують використовувати ШІ, до прикладу, для узагальнення великої кількості документів, створення чернеток звітів та іншої документації або пошуку необхідної проблеми. Task Force Lima допоможе Пентагону краще зрозуміти, що йому потрібно придбати для досягнення амбіцій у сфері ШІ.
Мова йде про збільшення обсягів хмарних сервісів, даних або синтетичних даних, моделей або нічого з переліченого. Мартелл вважає, що сфера ШІ ще занадто молода для того, щоб мати остаточне розуміння його значущості.
Мартелл зазначив, що більш широке питання полягає в тому, чи має Міністерство оборони достатньо прикладів використання генеративного ШІ і де б він міг би бути корисним за умови розуміння ризиків.
Ще одна проблема – це розробка інтуїтивно зрозумілого інтерфейсу та швидке формування конкретних і зрозумілих відповідей: сучасні цивільні генеративні ШІ вимагають великої кількості правильно поставлених запитів для отримання всіх необхідних відповідей. Штучний інтелект інших типів вже використовують в оборонній сфері. Джерело