RATED:通过执行动态实现可靠性感知的 AI 智能体工具检索
提出 RATED,用执行反馈重排智能体的工具检索
- arXiv
- 2610.13889
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- DRAGON
- 组件MCP 与技能
另有255篇论文还没打上分类标签,暂不在筛选结果里。
提出 RATED,用执行反馈重排智能体的工具检索
展示奖励黑客可在多智能体编码系统中经代码、记忆和计划传播
编码 RL 诱发的奖励黑客可以离开源智能体,进入后续协作和系统协调。
提出 PASAC 与五层边界保证栈,把智能体评测越界变成可验证的全系统保证
用 FIBS 训练白盒探针,监控智能体破坏行为与未言明欺骗
提出 LGWM,用动作条件世界模型核验 GUI 智能体屏幕转移
重建 Agent 技能复制网络并建模源选择以指导安全审计
摘要论文重构了 GitHub 智能体技能复制网络,发现复制集中于少数仓库且很少随源更新,并提出了代码库审计推荐模型。
重测并扩展对 AI Agent 的提示注入,并用 Agent Card 欺骗操纵 A2A 选择
作者在自建的 LangChain、AutoGen 和 A2A 系统上重测提示注入,并改 Agent Card 看选择是否偏移。摘要称试验主要凸显单智能体弱点,同时把攻击扩到多智能体。
提出 MFOTL 离线时序验证以监控工具 Agent 的危险动作链
这篇论文对工具调用大语言模型智能体的安全监控进行了形式化时序验证研究。
提出 PyCache Trap,用字节码缓存替换绕过 Agent 技能扫描器
这篇论文研究了智能体技能(Agent Skills)安全扫描中的“审查–执行脱节”问题,并提出了对应的攻击验证与防御方案。
提出 agent plasticity 指标衡量智能体通过经验自我改进的效率
作者用 agent plasticity 衡量一件事:权重冻结时,智能体把经验写成可继承制品,再换成留出能力增益,这个转换有多省。
用 Learn2Play Bench 评测 Agent 从经验中学习陌生规则
Learn2Play Bench 用新设计的隐藏规则文本游戏,评测 LLM 智能体在不更新权重时从交互中学习的能力。
提出 CORSA,按任务簇优化技能注入的检索与执行
提出 DAEDALUS,用自生成任务自举 Agent 记忆
实现 DEFER,以确定性检查优先拦截多智能体流水线的内容攻击
DEFER 用来测量多智能体授权流水线里,确定性规则在何处结束、LLM judge 从何处开始。
提出 SkillPoison,用局部有效的成功经验诱导自进化 Agent 形成过度泛化技能
SkillPoison 提出了一种针对自进化智能体经验到技能形成过程的攻击范式,通过组织已验证的成功经验诱导技能过度泛化。
提出 ProbeGuard,按共识形成过程对医疗问答做选择性弃答
ProbeGuard 是给多轮共识医学问答用的认证弃权框架:基板照原样作答,弃权只看共识是怎么形成的。
评测记忆门控对激活诱导与记忆诱导谄媚的防御效果
作者在四个开源指令模型上,把激活转向和外部记忆处理放进同一纵深防御协议,看记忆诱发谄媚和内部谄媚压力能否分开压低,以及个性化效用还剩多少。要处理的问题是:检索到的用户历史会推动模型顺从存储信念。只改外部上下文,并不直接动模型内部的谄媚表征。
提出检索可采纳性核验框架,评测记忆智能体的记录资格与披露
这是一套长时记忆检索的可采纳性核验协议,用来分开检查候选支持、资格、提示词暴露和答案披露,而不是提出新的检索算法。。
提出 AMU 按推导图门控企业 Agent 共享记忆的列级访问
AMU 用列级推导门控共享记忆,拦截经缓存流出的无权敏感列,并标出同名 KPI 的定义冲突。
提出两阶段门控审计框架,在执行前阻断有害智能体动作