Уязвимости Spring AI и ONNX: как дыры в ИИ-фреймворках угрожают утечками данных и чужими моделями

Критические уязвимости в популярных ИИ-фреймворках Spring AI и ONNX превращают их из инструментов разработки в открытые двери для атак. Обнаруженные в марте баги включают SQL-инъекции, JSONPath-инъекции и обход проверки доверия при загрузке моделей. Эти уязвимости возникают на стыке ответственности — между ML-командами, продуктами вендоров и внутренними ассистентами, — где архитектура и безопасность часто отстают от внедрения. Фреймворки, воспринимаемые как «научная приблуда», на деле становятся новым вектором атаки на инфраструктуру и данные компаний.

Проблема усугубляется тем, что эти инструменты уже глубоко интегрированы в продакшн-среды. Уязвимости позволяют злоумышленникам не только похищать конфиденциальные данные, но и подменять или загружать вредоносные модели машинного обучения. Это создает прямую угрозу для бизнесов, которые активно внедряют ИИ, но не успевают адаптировать под него свои практики безопасности.

Ситуация требует немедленного пересмотра подходов к защите ИИ-стэка. Командам необходимо выйти за рамки традиционного тестирования и начать рассматривать фреймворки как критически важные компоненты инфраструктуры. Без этого компании рискуют столкнуться не только с утечками, но и с компрометацией своих AI-моделей, что может привести к серьезным операционным и репутационным последствиям. Чек-листы и ревизия архитектуры становятся не рекомендацией, а необходимостью для всех, кто использует Spring AI, ONNX и аналогичные решения в продакшене.