AppSec Solutions разработали систему, которая решает проблему скрытых угроз в ML-моделях

Безопасность Искусственный интеллект

06 Августа 2026 13:02 06 Авг 2026 13:02

| Поделиться

AppSec Solutions разработали систему, которая решает проблему скрытых угроз в ML-моделях

AppSec Solutions добавила в платформу AppSec.Track проверку ML-моделей из публичных репозиториев. AppSec.Track стала первым российским решением, которое позволяет анализировать модели из Hugging Face до их попадания в корпоративную инфраструктуру и предотвращать выполнение потенциально вредоносного кода на рабочих станциях разработчиков и в CI/CD-конвейерах.

При запросе модели из Hugging Face через корпоративный репозиторий она автоматически помещается в «карантин» — изолированную среду, где проходит анализ без запуска. После завершения проверки AppSec.Track определяет, можно ли использовать модель в корпоративной среде.

Помимо самой модели, платформа проверяет библиотеки и зависимости, необходимые для ее работы. Для этого используется собственная база данных уязвимостей, которая охватывает основные экосистемы распространения программных компонентов, включая PyPI, npm, Maven, NuGet, а также специализированные ML-репозитории. На этапе сборки AppSec.Track формирует SBOM (список компонентов ПО) и автоматически проверяет их на наличие известных рисков.

«Модели из публичных хабов распространяются в сериализованных форматах, которые при загрузке способны выполнить произвольный код на машине разработчика или прямо в CI. Достаточно один раз подтянуть заражённую модель, чтобы злоумышленник получил доступ к среде. Классический сканер зависимостей такую угрозу не видит: вредонос спрятан внутри самого файла модели, а не в списке пакетов. Правильный ответ индустрии — переезд на safetensors. Этот формат по своей конструкции не хранит исполняемый код. Но пока значительная часть публичных хабов лежит в pickle, необходим механизм предварительной проверки. Поэтому мы разделили тестирования на два этапа: на входе в контур модель разбирается изнутри и дальше не пересканируется, а на сборке её окружение контролируется по SBOM через наш фид», — сказалМихаил Макаров, руководитель продукта AppSec.Track.

Ранее в AppSec.Track появилась интеграция с MCP (Model Context Protocol), которая позволяет ИИ-ассистентам в среде разработки напрямую обращаться к платформе. Разработчики могут проверять сторонние open-source-компоненты, выявлять уязвимости, а также находить несуществующие и вредоносные пакеты прямо в диалоге с ИИ-ассистентом.

• Подобрать оптимальный тариф на IaaS на ИТ-маркетплейсе CNewsMarket среди десятков поставщиков

Поделиться

Подписаться на новости

Короткая ссылка