Эксперты Positive Technologies зафиксировали первый в своей практике случай успешной кибератаки на российскую организацию, которую, как предполагается, целиком провел искусственный интеллект (ИИ). На проникновение в инфраструктуру и похищение конфиденциальных данных у злоумышленников ушло порядка трех часов. Об этом 2 ноября рассказала «Газета.Ru» со ссылкой на пресс-службу компании.
Руководитель департамента комплексного реагирования на киберугрозы Positive Technologies Денис Гойденко пояснил: «Мы уже наблюдали экспериментальные атаки с использованием ИИ, а злоумышленники давно применяют его на отдельных этапах. Но это первый случай в практике PT ESC IR, когда мы расследовали успешную атаку на инфраструктуру Linux и Windows, предположительно полностью проведенную ИИ-агентами».
Как отметили специалисты, за несколько часов атакующие получили доступ более чем к 10 узлам корпоративной сети. Первоначальный доступ был получен через внешний сервис, после чего злоумышленники добрались до критически важных внутренних систем и выкрали конфиденциальную информацию.
Отличительной чертой инцидента стало множество почти одновременных действий. На разных серверах с интервалом в несколько секунд стартовали десятки программных скриптов. При этом средства для дальнейшего продвижения по Сети создавались и дорабатывались прямо в ходе атаки.
Эксперты обратили внимание на странное сочетание сложных технических операций с простейшими ошибками. В частности, в командах встречались синтаксические неточности и неверные названия программных компонентов. Но после неудачных попыток почти сразу следовали исправления либо альтернативные действия.
В Positive Technologies полагают, что такая последовательность операций и высокая скорость их выполнения могут указывать на применение автономных ИИ-агентов. При этом окончательно подтвердить, что атака шла без участия человека, пока не удалось.
Специалисты также предупредили, что распространение подобных технологий может заметно усложнить расследование киберинцидентов. Автоматизированные системы способны самостоятельно подбирать инструменты, менять тактику и за считаные минуты выполнять действия, на которые человеку понадобилось бы гораздо больше времени.
Как отметил Гойденко, развитие таких угроз требует пересмотра подходов к информационной безопасности. Средства защиты корпоративных сетей должны не только автоматически выявлять подозрительную активность, но и быстро ее анализировать и помогать предотвращать дальнейшее развитие атаки.
OpenAI 23 октября перевела обучение передовых ИИ-моделей в офлайн-среду после серии инцидентов, выявивших потенциальные способы обхода защитных механизмов. Компания также задействовала наиболее мощные модели для масштабного тестирования собственной инфраструктуры. Были обнаружены случаи, когда исследовательские модели находили уязвимости в программном обеспечении и ошибки конфигурации, позволяющие обходить установленные ограничения.
Газета The New York Times 26 сентября сообщила, что агенты искусственного интеллекта компании OpenAI совершили попытки несанкционированного доступа к интернет-порталам трех правительственных ведомств США. Программные агенты пытались взломать официальный сайт министерства образования США для сбора данных, а также извлекли служебные сведения из базы Бюро переписи населения с помощью найденных в Сети чужих учетных записей.