Зловживання на основі зображень — коли хтось знімає, ділиться або погрожує поділитися оголеними, напівоголеними або сексуальними зображеннями або відео без згоди — стає дедалі більшою проблемою, з якою стикається 1 з 3 австралійців, опитаних у 2019 році.
Провідний дослідник створення «Umibot», професор Нікола Генрі з Центру соціальних і глобальних досліджень RMIT, сказав, що контент «deepfake» (фейкові відео або зображення, створені за допомогою штучного інтелекту), це випадки, коли людей змушують створювати контент сексуального характеру та надсилають небажані сексуальні повідомлення. зображення або відео також вважаються порушенням на основі зображень.
«Це величезне порушення довіри, спрямоване на те, щоб присоромити, покарати чи принизити. Зловмисники часто використовують владу та контролюють інших», — сказав Генрі, майбутній стипендіат Австралійської дослідницької ради. «Багато постраждалих, з якими ми спілкувалися, просто хочуть, щоб проблема зникла, а вміст було видалено або видалено, але часто вони не знають, куди звернутися по допомогу».
Ось для чого цей пілотний чат-бот.
Ця ідея прийшла до Генрі після проведення інтерв’ю з постраждалими про їхній досвід насильства на основі зображень. Хоча люди, з якими вона спілкувалася, мали різний досвід, Генрі сказала, що вони часто не знали, куди звернутися по допомогу, а деякі не знали, що те, що з ними сталося, було злочином.
«Жертви, яких ми опитали, сказали, що їх часто звинувачували друзі, члени сім’ї та інші та змушували відчувати сором, через що вони ще більше не бажали звертатися за допомогою», – сказав Генрі.
Доктор Еліс Вітт, науковий співробітник RMIT, яка працює над проєктом разом з Генрі, сказала, що Umibot не є заміною людської підтримки, але він розроблений, щоб допомогти людям орієнтуватися в складних шляхах і надати їм варіанти звітування та поради щодо збору доказів або того, як для безпеки в Інтернеті.
«Це не лише для тих, хто вижив», — сказав Вітт. «Umibot розроблений, щоб також допомагати перехожим і навіть злочинцям як потенційний інструмент для запобігання цьому зловживанню».
Як працює Umibot?
Користувачі можуть вводити запитання для Umibot або вибирати відповіді з набору варіантів. Umibot також просить користувачів визначити, чи їм виповнилося 18, чи менше, і чи потрібна їм допомога для себе, допомоги для когось іншого, чи вони стурбовані тим, що вони зробили. Це дасть інформацію про те, яку підтримку та інформацію вони отримають відповідно до свого досвіду.
Генрі каже, що Umibot є першим у своєму роді роботом, присвяченим жертвам насильства на основі зображень.
«Існують інші чат-боти, які більш широко допомагають людям, які зазнали різної шкоди в Інтернеті, але вони не зосереджені на зловживаннях на основі зображень і не мають тієї ж гібридної функції, яка дозволяє користувачам вводити запитання чат-боту, – сказав Генрі.
Новий підхід до дизайну чат-бота
Генрі та Вітт працювали з мельбурнською цифровою агенцією Tundra над створенням Umibot за допомогою Amazon Lex, служби штучного інтелекту для створення чат-ботів природною мовою.
«Ми знаємо, що жертви насильства на основі зображень стикаються з цілим спектром досвіду, що окрім насильства на основі зображень, тому ми розробили Umibot як повністю інклюзивний інструмент розширення прав і можливостей, що базується на травмах, щоб підтримувати людей, які мають різноманітний досвід і походять з різних верств населення.», — сказав Генрі.
Команда також працювала з різними консультантами та провела незалежний аудит доступності, щоб переконатися, що Umibot максимально відповідає глобальним стандартам доступності для людей з обмеженими можливостями.
«Нашим головним етичним завданням було переконатися, що Umibot не заподіє шкоди чи травми, або не змусить користувача відчути тягар», — сказав Вітт. «Багато постраждалих не готові говорити з людиною про свій досвід, тому навчити Umibot бути чуйним і корисним — це спосіб для них шукати підтримки без жодного тиску».
Наступні кроки для Umibot
Оскільки Umibot доступний для використання прямо зараз, дослідники сподіваються розробити Umibot версії 2 для жертв, перехожих і винуватців насильства на основі зображень протягом наступних кількох років.
«Ми сподіваємося, що Umibot не тільки дасть можливість жертвам знайти підтримку, але й допоможе нам створити рекомендації щодо «найкращої практики» для проєктування, розробки та впровадження цифрових інструментів і втручання для ширшого розв’язання проблеми онлайн-шкоди», – сказав Вітт.