事件观察中
TAS框架约束多步Agent工作流的尾部风险
先了解这件事
AI 综述
arXiv 刊出论文提出尾部风险感知智能体安全框架 TAS，将多步 LLM 智能体工作流的安全建模为相互依赖的安全状态序列，用共享预算约束罕见但代价高的尾部风险。该框架先把安全状态转移建模为 MDP 以追踪风险跨步骤传播，再度量尾部敏感风险并推导逐步安全策略。实验显示，TAS 在三个基准上优于十一个基线，在抑制罕见高代价失败的同时保留正常场景的可用性。
AI 根据报道生成 · 2 天前更新
走势与进展
每小时关注度
现在 24，24 小时 -2%·峰值 26（11月10日 22:00）
11月11日11月12日11月13日现在 24
相关研究
这件事的论文
- 尾部风险感知智能体安全（TAS）：约束多步 LLM 智能体工作流中的尾部风险
arXiv · 2026-11-07 · 深度解读
后续时间线
11月7日
- arXiv：越狱、提示注入、投毒与防御尾部风险感知智能体安全（TAS）：约束多步 LLM 智能体工作流中的尾部风险
尾部风险感知智能体安全框架 TAS 将多步 LLM 智能体工作流的安全建模为相互依赖的安全状态序列，用共享预算约束罕见但代价高的尾部风险。其先把安全状态转移建模为 MDP 以追踪风险跨步骤传播，再度量尾部敏感风险并推导逐步安全策略。实验显示 TAS 在三个基准上优于十一个基线，在抑制罕见高代价失败的同时保留正常场景的可用性。
相关讨论
关注度走势
每天新增来源
- 11月10日新增1个来源（1家媒体、0个账号）
- 11月11日新增0个来源（0家媒体、0个账号）
- 11月12日新增0个来源（0家媒体、0个账号）
- 11月13日新增0个来源（0家媒体、0个账号）