Хотя риски, связанные с ИИ на работе, известны давно, то и дело появляются все новые свидетельства. С распространением ИИ-агентов, разворачиваемых сотрудниками компаний и способными выполнять действия на компьютерах организации, ситуация только ухудшается — ими уже во всю пользуются злоумышленники. Вместо того чтобы рисковать быть обнаруженными при использовании конкретного вредоносного ПО, злоумышленники теперь могут обычными текстовыми запросами заставить агента выполнить нужное действие, например найти на компьютере секреты или отправить информацию вовне. Любые полезные способности помощника превращаются в возможности атакующего.
Службе ИБ приходится контролировать не только наличие ИИ-инструментов, но и их полномочия, источники инструкций, подключаемые компоненты и фактические действия. Но для этого не обязательно расширять спектр ИБ-решений в компании! Многие задачи решаются привычными средствами: контролем приложений, веб-фильтрацией, EDR, анализом файлов и актуальными данными об угрозах. Подробное описание применимых механизмов защиты дано в материале Securelist о безопасном развертывании ИИ-агентов. В статье есть многочисленные технические подробности, а здесь мы разберем основные риски корпоративного ИИ и меры защиты из традиционного арсенала, которые помогут их минимизировать.
Помощник, которого никто не согласовал
Теневой ИИ — это ИИ-сервисы и приложения, используемые без согласования с ИБ- и ИТ-подразделениями компании. Само приложение или сервис при этом, как правило, легитимны, но организация не знает, какие данные они обрабатывают, куда их отправляют и какие действия могут выполнять.
Чтобы предотвратить использование таких инструментов, потребуется создать и поддерживать реестр одобренных ИИ-приложений и онлайн-сервисов, который будет отличаться для разных департаментов и должностей в компании. Чтобы ограничить доступ к ИИ-сервисам, не разрешенным политикой, можно воспользоваться Kaspersky Endpoint Security for Business под управлением Kaspersky Security Center. Ограничение накладывается при помощи модуля контроля приложений, в котором есть категория AI Tools. Его можно использовать как в режиме блокировки запрещенных приложений, так и в более строгом режиме разрешения только явно одобренных. Доступ к веб-сервисам ИИ регулируется аналогичным инструментом — веб-контролем. При этом для разрешенных сервисов нужно строго оговорить список типов данных, которые в нем допустимо обрабатывать, а также проверить контрактные обязательства по защите данных у поставщика сервиса.
Поддельные установщики вместо ИИ
Хотя эта угроза лишь косвенно относится к ИИ, мы упоминаем ее из-за огромной популярности у злоумышленников в 2026 году. Пользователь ищет ссылку или инструкцию по установке ИИ-агента, кликает на рекламу и попадает на страницу, почти неотличимую от реального сайта разработчика. Для начала ему предлагают скопировать команду в терминал, результат предсказуем. В марте мы описали вариант этой схемы с поддельными страницами установки Claude Code и OpenClaw: вместо полезного инструмента пользователь получал инфостилер.
Защита от таких атак, называемых ClickFix, должна работать на нескольких уровнях. Установочные пакеты разрешенных инструментов и инструкции следует распространять через корпоративный каталог. Веб-фильтрация и антифишинговые механизмы должны блокировать известные поддельные страницы, а защита конечных точек — обнаруживать вредоносную нагрузку и подозрительные цепочки запуска.
Избыточные полномочия агентов
Хотя приложения на компьютере, например фирменное приложение ChatGPT, зачастую воспринимают как того же чат-бота в отдельном окне, по сути это полноценный ИИ-агент, который способен работать с файлами и запускать программы в пределах предоставленных ему полномочий. На практике у него зачастую есть полные права текущего пользователя. Если при этом отключены подтверждение действий и изоляция, последствия ошибочной или вредоносной инструкции могут оказаться очень серьезными.
В сентябре 2026 года был описан захват активной сессии ИИ-помощника у поставщика SaaS. Сначала ИИ-агент порекомендовал зараженное ПО из репозитория PyPI, которое затем самостоятельно установил. Атакующие добрались до OAuth-токенов GitHub и использовали их для дальнейшего распространения червя Shai-Hulud.
Прошлогодняя атака s1ngularity еще более наглядна. Вредоносный сценарий искал установленные ИИ-инструменты и запускал их в режиме «работа без запросов подтверждения». Агентам поручали искать SSH-ключи, файлы .env и криптовалютные кошельки. Взламывать модель для этого не требовалось.
Таким образом, локальный ИИ-агент становится мощнейшим оружием в атаках living off the land. Чтобы обнаружить нецелевое применение агента, нужно детально отслеживать его параметры запуска, обращения к хранилищам учетных данных и дочерние процессы.
Для борьбы с этой угрозой пользователям Kaspersky Endpoint Detection and Response Optimum доступны специальные правила для выявления опасных режимов запуска. Отдельная группа правил отслеживает доступ агентов к файлам с учетными данными, токенами и ключами. В зависимости от ситуации реагирование может включать завершение процесса ИИ-агента или даже изоляцию узла.
Опасные MCP-серверы
Протокол MCP позволяет подключать к ИИ-приложениям дополнительные инструменты и источники данных. MCP-сервер может, например, искать документы, обращаться к API или работать с файлами. При этом «песочница» и ограничительные политики работы ИИ-агента на MCP не распространяются. Это делает подключение MCP-сервера сопоставимым по риску с установкой нового программного компонента.
В феврале 2026 года ИБ-эксперты обнаружили кампанию SANDWORM_MODE. Модуль McpInject размещал вредоносный MCP-сервер в скрытом каталоге и прописывал его в конфигурации Claude Code, Cursor, Continue и Windsurf. В описания инструментов были внедрены инструкции для поиска секретов, включая SSH-ключи и облачные учетные данные.
Чтобы взять риски MCP под контроль, организации нужен список разрешенных MCP-серверов, отслеживание изменений их конфигурации и ограничение сетевых соединений. Локальные серверы необходимо проверять, как любое исполняемое ПО, удаленные — как внешние сервисы с доступом к корпоративной информации.
В Kaspersky EDR есть специальные правила для обнаружения подозрительных сценариев MCP-серверов, создаваемых или изменяемых в скрытых и временных каталогах. Такое расположение еще не доказывает вредоносность, но дает повод проверить происхождение компонента и процесс, который его установил.
Прямой вызов LLM из вредоносных программ
Злоумышленники уже научились использовать LLM для генерации кода и скриптов на лету, запрашивая нужное прямо из зараженной системы. В отчетах Google описаны обнаруженные в реальных атаках зловреды PROMPTSTEAL и HONESTCUE. Первый инструмент обращался к модели через API Hugging Face за командами Windows. Второй получал от Gemini код C# и компилировал его в памяти.
С точки зрения сетевого контроля в обоих случаях соединение идет к легитимному ИИ-сервису. Поэтому важно обращать внимание не только на адрес назначения: нужно понимать, какой процесс устанавливает соединение и что он делает с ответом.
Практическая мера — разрешать доступ к API моделей только тем приложениям и рабочим процессам, которым он действительно необходим, а неожиданные обращения расследовать вместе с событиями на узле.
В Kaspersky EDR два правила помогают как выявлять обращения необычных приложений к известным внешним API языковых моделей, так и обнаруживать файлы локальных моделей. Их наличие само по себе не является признаком заражения, но поможет выявить неучтенный ИИ-инструмент.
Вредоносные навыки
Возможности агента часто расширяют с помощью готовых навыков (skills) — наборов инструкций, сценариев и вспомогательных файлов. Их установка по факту добавляет еще одну цепочку поставок, которой придется управлять службе ИБ.
В феврале 2026 года исследователи обнаружили 341 вредоносный навык в каталоге ClawHub. Многие предлагали пользователю установить якобы необходимые компоненты, а фактически подводили его к запуску инфостилера AMOS. Позднее Unit 42 описала дополнительные способы обхода проверок, применявшиеся операторами атаки, включая увеличение объема пакета, рассчитанное на ограничения сканеров.
Навыки, а также связанные с ними сценарии, компоненты и архивы следует проверять до передачи агенту. Сделать это можно с помощью решения Kaspersky Scan Engine, интегрированного непосредственно в процесс подключения расширений, дополняя его стандартной проверкой источника, версии и состава пакета.
Как ограничить последствия атаки
Обнаружение и реагирование необходимы, но безопасная архитектура работы с ИИ должна уменьшать возможный ущерб еще до срабатывания защиты.
Минимальные привилегии. По возможности запускайте агента под отдельной учетной записью или в изолированной среде. Ограничивайте доступ к каталогам проекта и необходимым сервисам. Запрет в виде текстовой инструкции не заменяет изоляцию.
Учетные данные вне доступного контекста. Не храните долгоживущие токены и ключи в читаемых агентом конфигурационных файлах. По возможности используйте хранилище секретов, короткоживущие учетные данные и сервис-посредник, который выполняет строго определенную операцию, не раскрывая агенту сам секрет.
Проверяемые зависимости. Загружайте навыки, пакеты и модели через внутренний репозиторий или контролируемый прокси. Закрепляйте одобренные версии и сверяйте контрольные суммы с доверенным эталоном.
Ограниченные исходящие соединения. Разрешайте доступ только к необходимым API моделей, MCP-серверам и другим ресурсам. Учитывайте дочерние процессы: запрет для основного процесса агента мало поможет, если запущенная им командная оболочка сохраняет неограниченный доступ в Интернет.
Отдельный сценарий реагирования. После компрометации проверяйте конфигурацию агентов и сред разработки, обработчики событий и подключенные MCP-серверы. Отзывайте затронутые токены и активные сессии, заменяйте потенциально раскрытые ключи.
Разрешенная альтернатива вместо одного запрета. Предоставьте сотрудникам согласованный ИИ-инструмент, понятные правила работы с данными и быстрый процесс согласования новых возможностей. Иначе формально строгая политика будет лишь подталкивать пользователей к теневому ИИ.
ИИ
Советы