Компанія Google заявила, що зафіксувала, ймовірно, перший реальний випадок використання штучного інтелекту для створення zero-day експлойту. Це може стати важливим сигналом про те, що AI починає відігравати дедалі більшу роль у сучасних кібератаках.
За даними дослідників із підрозділу Google Threat Intelligence Group (GTIG), зловмисники використали AI-помічника для пошуку та експлуатації раніше невідомої вразливості у популярному open-source інструменті для вебадміністрування. Виявлена проблема дозволяла обходити двофакторну автентифікацію після отримання логіна та пароля користувача.
У Google зазначають, що розробників програмного забезпечення оперативно повідомили про небезпеку, а саму вразливість вдалося закрити ще до того, як її почали масово використовувати хакери.
Особливу увагу фахівців привернув сам код експлойту. За словами аналітиків, Python-скрипт мав характерні ознаки AI-генерації: надмірно деталізовані коментарі, структурування у стилі навчальних прикладів, а також навіть вигаданий рейтинг критичності CVSS, якого насправді не існувало. Подібні «галюцинації» вже давно вважаються типовою проблемою сучасних мовних моделей.
Дослідники підкреслюють, що цього разу йшлося не про класичну помилку пам’яті чи банальний баг у коді. Вразливість стосувалася бізнес-логіки застосунку та складного аналізу поведінки системи — напрямку, де сучасні AI-моделі демонструють помітний прогрес. Фактично штучний інтелект допоміг поєднати окремі особливості роботи програми в єдиний сценарій атаки.
Експерти з кібербезпеки вже давно попереджали, що AI може значно знизити поріг входу для проведення складних атак. Інструменти на базі штучного інтелекту здатні автоматизувати аналіз коду, пошук слабких місць і навіть створення експлойтів, що раніше вимагало високої кваліфікації та багаторічного досвіду.
Водночас великі технологічні компанії використовують AI і для захисту. Той самий Google активно застосовує штучний інтелект для автоматичного пошуку вразливостей, аналізу загроз і створення оновлень безпеки. Проте новий випадок лише посилює дискусії навколо ризиків AI у сфері кібербезпеки.
Попри те, що інцидент вдалося локалізувати ще до масштабного поширення, фахівці вважають його важливим попередженням. Штучний інтелект дедалі активніше стає інструментом не лише для захисту систем, а й для створення нових поколінь кібератак.