Специалисты американской компании Anthropic не исключили, что уже к концу 2026 года компактные модели искусственного интеллекта смогут подойти к возможности самостоятельно перемещаться между устройствами, имеющими подключение к интернету. Такую потенциальную опасность исследователи назвали «цифровой плесенью» — распределенной системой, которая задействует чужие вычислительные мощности без согласия владельцев. Среди возможной среды для распространения рассматривают и домашнюю технику: телевизоры, холодильники, роботы-пылесосы. Но эксперты, опрошенные «Известиями», полагают, что превращение таких систем в массовую угрозу пока маловероятно. Что такое «цифровая плесень», какую опасность она может нести и как уберечь бытовые приборы — в материале «Известий».
Что представляет собой «цифровая плесень» и каким образом она действуетПонятие «цифровая плесень» применяется исследователями Anthropic для обозначения гипотетической автономной ИИ-системы, которая может перемещаться по устройствам, формировать свои копии и задействовать имеющиеся вычислительные ресурсы. В отличие от обычного вредоносного ПО, подобная система в перспективе способна приспосабливаться к характеристикам техники и функционировать без непрерывных указаний человека.
Как пояснил «Известиям» директор по машинному обучению Positive Technologies Андрей Кузнецов, это один из сценариев, которые рассматривали исследователи, а не подтвержденное возникновение нового вида киберугрозы. Главной целью экспериментов была проверка того, могут ли небольшие нейросети самостоятельно копировать себя на другие устройства и запускаться там.
— Отличие от привычных ботнетов — не в способе заражения. Большинство ботнетов управляется из центра, который можно вычислить и отключить, и работает по заранее написанной инструкции под конкретный тип устройств. ИИ-червю такой центр не нужен: модель на каждом устройстве сама решает, что делать дальше, и может разобраться в незнакомом оборудовании, — рассказал эксперт.
В рамках экспериментов компактная модель сумела сама организовать запуск другой нейросети на восьми из девяти видов оборудования, в том числе на одноплатных компьютерах и устройствах Mac. Кроме того, исследователи выяснили, что результативность решения задачи растет, когда информация передается между следующими друг за другом экземплярами модели.
Когда новая копия получала от предыдущей заметки о неудачных попытках, успешность увеличивалась с изначальных 45% до 61–84%. Это свидетельствует о том, что такие системы в потенциале могут применять накопленный опыт, чтобы приспосабливаться к незнакомой технике.
Обычные сетевые черви, как правило, разрабатываются под конкретные платформы, а ИИ-модель способна сама находить подходящий вариант запуска, уточнил руководитель ИИ-направления МТС Линк Дмитрий Крюков.
— ИИ-червь носит «мозги» с собой: веса модели входят в полезную нагрузку, и на незнакомом устройстве он сам разбирается, как запуститься, — отметил специалист.
В то же время руководитель группы исследования технологий машинного обучения «Лаборатории Касперского» Владислав Тушканов предложил рассматривать «цифровую плесень» через призму более ранних мысленных экспериментов о бесконтрольном развитии технологий.
В частности, он вспомнил о концепции «серой слизи», которую предложил инженер Эрик Дрекслер. По этому сценарию самовоспроизводящиеся наномашины теоретически могут задействовать окружающее вещество для создания своих копий и постепенно поглощать доступные ресурсы.
«Цифровая плесень», как считает Тушканов, развивает эту идею. Если языковые модели научатся воспроизводиться на технике, подключенной к интернету, то теоретически они смогут распространяться по всему миру, а полностью удалить их будет сложно.
Почему домашняя техника может превратиться в среду для распространения ИИОдной из предпосылок возникновения таких систем стало развитие компактных нейросетей, которым для работы нужно все меньше вычислительных ресурсов. В то же время растет число бытовых устройств, постоянно подключенных к интернету, — от телевизоров и камер видеонаблюдения до умных колонок и холодильников.
По словам Владислава Тушканова, современные модели действительно становятся более эффективными, а способы их сжатия дают возможность запускать сложные алгоритмы на менее производительной технике. Как указывает специалист, ссылаясь на анализ исследовательской организации Epoch AI, от появления передовой модели до возможности ее запуска на потребительских видеокартах проходит примерно полгода.
Однако это не значит, что современные нейросети уже могут полноценно функционировать на обычной домашней технике.
— Когда мы говорим о «потребительском оборудовании», речь идет о мощных видеокартах или устройствах с общей видео- и оперативной памятью за сотни тысяч, а то и миллионы рублей, а не о холодильниках или даже обычных компьютерах, — обратил внимание эксперт.
Согласно его оценке, вероятность того, что компактные модели, которые можно запускать на умном телевизоре, в ближайшее время получат возможности передовых нейросетей, при нынешних архитектурах остается довольно низкой.
Эксперименты Anthropic также показали серьезные ограничения технологии. По словам Андрея Кузнецова, исследователи вручную запустили модель на связке из 15 недорогих телевизионных приставок. Но такая система работала в сотни раз медленнее обычных чат-ботов.
Согласно расчетам авторов работы, одно копирование на новое устройство в таких условиях могло бы занимать от полутора суток до нескольких дней. При этом даже объединение множества слабых устройств не обеспечивает достаточной производительности.
Для примера исследователи изучили ботнет Kimwolf, который объединяет более 2 млн зараженных устройств. Вычислительная мощность сети такого масштаба, по оценке Кузнецова, не была бы выше производительности 40 серверных ИИ-ускорителей.
Помимо этого, в лабораторных условиях процесс распространения заметно упростили: устройства в тестовой сети не имели парольной защиты, а сам взлом оборудования не проверялся. Полный цикл самостоятельного копирования удалось показать только с использованием крупных моделей, которые нельзя разместить на обычной домашней технике.
Для организации распределенного запуска исследователям понадобилась мощная модель GLM-5.2, уточнил Владислав Тушканов, а на менее производительную технику переносилась гораздо более компактная Llama 3 8B. Сама по себе она не имела нужных возможностей для дальнейшего самостоятельного распространения.
Руководитель продуктов Nova AI и StarGuard AI в Orion soft Никита Векессер тоже полагает, что вычислительных ресурсов обычной бытовой техники не хватает для самостоятельной работы даже небольших языковых моделей. Но такие устройства в перспективе могут применяться для передачи информации, хранения компонентов системы или решения простых вычислительных задач.
При этом распространению вредоносного ПО помогает не столько мощность техники, сколько ее слабая защищенность. Многие устройства постоянно подключены к Сети, редко обновляются и применяют стандартные настройки безопасности. Самыми уязвимыми, по словам Векессера, остаются камеры видеонаблюдения, маршрутизаторы и медиаприставки. Они почти непрерывно работают в интернете, а их программное обеспечение зачастую обновляется намного реже, чем операционные системы компьютеров и смартфонов.
Какую опасность «цифровая плесень» может представлять для пользователейВозможное распространение автономных ИИ-систем беспокоит прежде всего из-за вероятности несанкционированного применения вычислительных ресурсов. Инфицированное устройство способно решать посторонние задачи, передавать крупные объемы данных и создавать дополнительную нагрузку на процессор и память.
По словам Андрея Кузнецова, для владельца такая активность скорее всего будет заметна в замедлении работы техники, ее нагреве и постоянном обмене данными с другими узлами сети.
При этом заметного роста расходов на электроэнергию эксперт не ожидает. Куда серьезнее возможность применения зараженного оборудования для проникновения в домашнюю сеть.
— Камеры, микрофоны и личные данные под угрозой не из-за ИИ, а из-за самого взлома: такой доступ злоумышленники получают и сегодня, без всякого ИИ, — пояснил эксперт.
Схожего мнения придерживается Дмитрий Крюков. Он указал, что исследование Anthropic не касалось кражи персональных данных или получения доступа к камерам видеонаблюдения. Тем не менее, если злоумышленник сможет запустить свой код на устройстве, то под угрозой в потенциале окажутся все данные и функции, к которым этот код получит доступ.
Дополнительную угрозу создает возможность формирования распределенных сетей из зараженного оборудования. Такую инфраструктуру киберпреступники уже применяют для DDoS-атак, организации прокси-сервисов и других противоправных действий.
Более насущная угроза, по мнению Владислава Тушканова, связана не с самовоспроизводящимися компактными моделями, а с использованием мощных языковых моделей для автоматизации кибератак. Злоумышленники могут задействовать ИИ-агентов для поиска уязвимостей в корпоративных сетях, анализа программного кода и подготовки атак. Развитие таких инструментов в перспективе даст возможность существенно расширить масштабы преступной деятельности.
— Если раньше ресурсы киберзлоумышленников были ограничены, то теперь они могут масштабировать свою деятельность и атаковать цели, которые прежде не стоили бы затраченного времени и ресурсов, — рассказал специалист.
Андрей Кузнецов также обратил внимание на иной сценарий — распространение автономных ИИ-червей внутри корпоративной инфраструктуры. Сегодня одной из крайних мер для остановки масштабной кибератаки остается экстренная изоляция компании от внешних сетей. Такой подход дает возможность разорвать связь злоумышленника с зараженными системами.
— Червь, который работает на основе ИИ-модели и уже захватил часть вычислительных мощностей самой жертвы, после такого отключения продолжит расползаться внутри дата-центра и всей инфраструктуры. Это новый виток усложнения защиты, — предупредил эксперт.
Удастся ли остановить распространение «цифровой плесени»Несмотря на возможные риски, опрошенные «Известиями» эксперты полагают, что нынешние механизмы кибербезопасности могут противостоять значительной части таких угроз.
По мнению Дмитрия Крюкова, обнаружить автономного ИИ-червя может быть проще, чем кажется. Для запуска языковой модели нужно передавать между устройствами большие объемы данных, а ее работа сопровождается характерной сетевой активностью.
— Модель весит гигабайты, и ее надо перекачать на каждое новое устройство. Вдобавок приставка начинает постоянно гонять трафик с соседями, с которыми раньше молчала. Провайдер это видит, — пояснил специалист.
Самыми действенными инструментами противодействия могут оказаться мониторинг сетевого трафика и изоляция зараженного оборудования. У традиционных антивирусных программ есть ограничения. На большинстве бытовых устройств их нельзя установить, а программное обеспечение, которое обеспечивает работу нейросети, само по себе не обязательно имеет признаки вредоносного кода.
Крюков привел в пример борьбу с ботнетом Mirai, когда интернет-провайдеры изолировали зараженных абонентов и отправляли им инструкции по очистке оборудования. За две недели удалось устранить 92% заражений.
Для российского рынка недорогой электроники эта проблема особенно актуальна. Как рассказал Андрей Кузнецов, Россия входит в число стран с высокой концентрацией устройств, зараженных ботнетом Kimwolf. Значительную роль в распространении вредоносного ПО играют недорогие Android-приставки, где по умолчанию может быть включен режим отладки.
Чтобы снизить риски, эксперты советуют отказаться от стандартных паролей, вовремя устанавливать обновления, отключать ненужные функции удаленного доступа и размещать умные устройства в отдельной гостевой сети Wi-Fi.
Отдельную ответственность специалисты возлагают на производителей оборудования. По словам Дмитрия Крюкова, устройства должны выпускаться с уникальными паролями, отключенными по умолчанию режимами отладки и возможностью регулярного обновления программного обеспечения.
При этом развитие распределенных вычислений не обязательно связано с вредоносной деятельностью. Как отметил эксперт, похожие технологии могут применяться для добровольного объединения вычислительных мощностей пользователей.
В качестве примера он привел проект Folding@home, который задействовал ресурсы компьютеров добровольцев для научных расчетов. В перспективе такой подход может применяться и для выполнения отдельных задач искусственного интеллекта.
Принципиальное отличие легальной системы от вредоносной состоит в согласии владельца оборудования, прозрачных условиях использования его ресурсов и надежной защите персональных данных.