论文提出 VAL 框架:相同 ASR 的 LLM Agent 防御可能对应不同安全保证
提出 VAL 框架,并用确认门与参数沙箱约束智能体高风险工具调用
- arXiv
- 2610.04504
- Published
- Layer
- Application layer
- Setting
- AI Agent
- Evaluated models
- DeepSeek-chat, Meta Llama 3.1 8B, Kimi
- DefensesPermissions and approval
- AttacksPrompt injection
- ComponentPermissions and sandboxing