1. Уязвимость LLM: несанкционированный вызов инструментов — скрытая угроза для агентных систем
Внедрение вызова инструментов (tool calling) в большие языковые модели считается решённой инженерной задачей, однако на практике сохраняется опасный класс сбоев. Модель в определённых условиях может самостоятельно «придумать» инструмент и успешно его вызвать — при условии, что этот инструмент реально существует в её ра...