Purdue 提出 Pact:将欺骗作为行为遗忘
提出 PACT,遗忘压力触发的条件性欺骗并保留上下文理解
另有 757 篇还没有研究类型,暂不在这些分类里。
提出 PACT,遗忘压力触发的条件性欺骗并保留上下文理解
提出基于 MonPoly 的时序逻辑监控,离线检出工具智能体危险动作链
这篇论文对工具调用大语言模型智能体的安全监控进行了形式化时序验证研究。
提出 A-VIP,将购物意图绑定到支付授权以阻断商户文本操控
提出安全电路对齐,把对齐更新限制在预训练拒绝电路内
提出人格层级模型解释微调行为的上下文泛化,并用 PPR 抑制奖励作弊
提出 SpecGuard,在编码智能体执行前用 Lean 证书证明任务与测试冲突
提出 IEC 协议与 IntAct,定位并修复工具调用执行路径的静默篡改
提出 APEX,在执行边界以授权契约拦截智能体间接提示注入
完整解读提出企业级智能体检测系统 ADR,检测提示注入与恶意 MCP
提出 multi-CaMeL,在多智能体调用边界隔离可信指令与不可信数据
提出 VAL 框架并用确认门与参数沙箱约束高风险工具调用
完整解读揭示检索生成中文本水印诱发事实幻觉的机制并提出 FPTI 与 FPAI 干预
论文研究生产级文本水印对大语言模型事实准确性的影响,分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。
提出校准重合成认证,仅当已知生成器都不能保真重构时签发真实图像证书
提出 PAA 路径对齐归因,审计编程智能体边界动作前的分段提示注入
本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁,提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。
提出 Cooldown Landmines 跨租户冷却干扰攻击并设计租户隔离
提出融合定位拒答与能力保留的安全微调,补齐视觉定位输出的拒答缺口
提出 OATS,用确定性解析器在运行时治理技能动作
提出机理编辑认证框架,在连续输入区域上证明技能移除与保留
提出 STAR-Guard 双层防御缓解长程智能体遗忘安全约束
提出 HACKTRACE 用生成状态检测并抑制代码奖励作弊