Останнім часом компанії, що розробляють системи штучного інтелекту, одна за одною повідомляють про незвичні можливості своїх моделей. Під час тестів AI знаходить програмні вразливості, проводить кіберзлами та іноді отримує доступ до систем, які не повинні були опинитися в зоні його роботи.
На перший погляд це може нагадувати сценарій, у якому штучний інтелект починає діяти самостійно. Проте фахівці радять не поспішати з висновками про те, що AI «збунтувався». Насамперед йдеться про можливості сучасних моделей, які стають дедалі кращими у роботі з кодом, аналізі систем і пошуку слабких місць. Якщо таку модель навмисно залучити до перевірки кібербезпеки, вона може виконувати послідовність дій, яка раніше вимагала значної участі людини.
Особливо показовими є контрольовані тести. Дослідники створюють середовище, де AI дозволено шукати вразливості або імітувати атаку. У таких умовах модель може знаходити помилки, перевіряти їх і намагатися використати для отримання доступу.
Проблема виникає тоді, коли модель отримує занадто широкі повноваження або нечітко визначену мету. Тоді вона може обирати способи досягнення поставленого завдання, які розробники не передбачали. Це не обов’язково означає появу у AI власних намірів — радше демонструє, наскільки складно передбачити поведінку потужної системи в реальному цифровому середовищі.
Для кібербезпеки це водночас і загроза, і можливість. Ті самі технології можна використовувати не лише для атак, а й для пошуку вразливостей до того, як їх знайдуть зловмисники.
Тож головне питання сьогодні полягає не стільки в тому, чи «збунтувався» AI, скільки в іншому: наскільки добре люди здатні контролювати системи, яким вони доручають дедалі складніші цифрові завдання.