Искусственный интеллект готовится взять на себя роль защитника от кибератак

В настоящее время сложилась такая ситуация, что хакеры располагают в среднем 312 сутками на то, чтобы использовать уязвимости «нулевого дня» до тех пор, пока эти уязвимости не будут выявлены экспертами по кибербезопасности и не устранены программистами. В связи с этим руководство Управления перспективных исследовательских программ Пентагона DARPA приступает к реализации новой программы, целью которой является определение того, сможет ли искусственный интеллект взять на себя работу по обнаружению и устранению уязвимостей в программном обеспечении, тратя на это несколько секунд или минут времени?

В рамках этой новой программы будет устроено соревнование Cyber Grand Challenge, которое будет представлять собой настоящее сражение систем искусственного интеллекта. Эти системы будут стремиться взломать сервера условного противника и, одновременно, защищать свои собственные сервера, «на лету» находя и устраняя недостатки программного обеспечения. Победитель соревнования получит приз в 2 миллиона долларов, 1 миллион будет дан обладателю второго места, а за третье место сумма приза составляет 750 тысяч долларов.

В результате всего этого руководство DARPA планирует получить систему искусственного интеллекта, пусть и нуждающуюся в дальнейшее доработке, но уже способную в какой-то мере оказать помощь людям в деле защиты сетевого программного обеспечения от кибератак.
В настоящее время «обороноспособность» в области кибербезопасности обеспечивается постоянной работой групп высококвалифицированных специалистов, которые буквально вручную выявляют все признаки угроз и пытаются с ними справиться в режиме реального времени. Это очень сложное и утомительное занятие, а количество сообщений об ошибках в случае сбоев программного обеспечения, каждое из которых требует анализа, может составлять сотни и тысячи.

Внедрение систем искусственного интеллекта в эту область позволит не только избавить людей от работы по мониторингу текущей ситуации. Эти системы могут производить более быстрый и более всесторонний анализ, минимизировать время реакции, автоматически генерируя корректирующие программные коды, устраняющие обнаруженные уязвимости.

Проведение соревнования Cyber Grand Challenge запланировано на 4 августа 2016 года в Лас-Вегасе. На протяжении 10 часов участники команд смогут только наблюдать за тем, как их «детища» сражаются друг с другом в виртуальном цифровом пространстве. Но самое интересное предстоит испытать командам, которым удастся добраться до финала. Их системы искусственного интеллекта будут действовать в рамках изолированной от мира сети, а на подзащитных серверах будет функционировать совершенно новый и неизвестный им программный код. Это означает, что системе искусственного интеллекта придется самостоятельно определить, изучить язык сетевого общения и логику программного взаимодействия прежде, чем она сможет приступить к обнаружению и устранению уязвимостей.
Для того, чтобы атаковать конкурентов, системы искусственного интеллекта должны самостоятельно обнаружить слабые места серверов противника. Если такое слабое место будет обнаружено, то системе потребуется сообщить об этом членам жюри и составить прогноз того, что может случиться с программным обеспечением в случае использования обнаруженной уязвимости. Это походит на игрока в бильярд, который планирует сложный удар с несколькими касаниями, который должен закончиться попаданием шара в определенную лузу. Системы искусственного интеллекта не будут пытаться «валить» сервера конкурентов, они будут набирать очки, обнаруживая уязвимости в чужих серверах, и терять очки в случае, если они не смогут защитить свои собственные сервера, вовремя устраняя обнаруживаемые слабые места.

«Через 21 день мы собираемся произвести большой научный эксперимент в области искусственного интеллекта и одновременно эксперимент по обеспечению жизнеспособности компьютерных систем. Пока мы даже не готовы представить себе какие результаты нам удастся получить» — пишут представители DARPA, — «Но даже убедительная победа в соревновании Cyber Grand Challenge станет лишь первым шагом на длинно пути развития искусственного интеллекта. Следующим шагом станет выступление победителя на конференции хакеров DEF CON 2016, где искусственному интеллекту уже предстоит противостоять действиям высококвалифицированных людей-экспертов».