Можливості інструментів генерації зображень на основі штучного інтелекту просунулися до такого рівня, коли люди можуть помилково сприймати їх за автентичні зображення або зображення, створені не штучним інтелектом. Це викликає занепокоєння щодо їх можливого неправильного використання.
OpenAI вже представив водяні знаки для зображень, створених DALL-E 3, щоб зберегти прозорість щодо джерела та поважати автентичність. Зараз компанія розробляє новий інструмент, який зможе відрізнити реальні зображення від тих, які генерує модель DALL-E, створена на основі тексту.
Генеративні інструменти AI від OpenAI включатимуть метадані C2PA
Офіційний блог OpenAI оголосив, що вони працюють над новими методами виявлення контенту, створеного ШІ. За словами компанії, мета полягає в тому, щоб допомогти дослідникам вивчати автентичність контенту та приєднатися до Керівного комітету Coalition for Content Provenance and Authenticity Steering Committee (C2PA), широко використовуваного стандарту для сертифікації цифрового контенту. Це дозволить творцям позначати та сертифікувати свій вміст, щоб підтвердити його справжнє походження.
OpenAI каже, що вони також інтегрують метадані C2PA для Sora, моделі генерації відео компанії, коли вона буде запущена широко. Для тих, хто не знає, Sora також, ймовірно, буде преміум-інструментом для створення тексту у відео, як DALL-E 3, доступ до якого матимуть лише платні передплатники. Згідно з попереднім звітом, Sora стане доступною для громадськості протягом 2024 року.
OpenAI створює новий інструмент для виявлення контенту, створеного DALL-E 3
Як згадувалося вище, OpenAI також працює над новим інструментом, який використовує ШІ для виявлення зображень, згенерованих DALL-E 3. Більш конкретно, він передбачає ймовірність того, що зображення буде створено інструментом. За словами компанії, зображення все ще можна виявити після стиснення зображення, зміни насиченості або навіть обрізання зображення. Не кажучи вже про те, що ці інструменти спрямовані на те, щоб бути більш стійкими до спроб видалити сигнали про походження вмісту.
Інструмент виявлення досягає точності 98% для зображень, створених за допомогою DALL-E, і, що більш важливо, не позначає зображення, створені не штучним інтелектом, як створені штучним інтелектом.
Компанія вже відкрила програми для доступу до нового інструменту виявлення зображень для своєї першої групи тестувальників. Він включає дослідницькі лабораторії та некомерційні журналістські організації, що займаються дослідженнями, і має на меті збір відгуків через Програму доступу дослідників.