跳到正文
10月12日 · 周一

全部论文

找到 9篇
筛选2
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 265篇还没打标签,不在筛选结果里。

另有265篇论文还没打上分类标签,暂不在筛选结果里。

  1. 评测与基准arXiv 2610.06748

    BazaarBench:评估 LLM Agent 在去中心化 C2C 市场中的代理安全

    构建 BazaarBench,评测 C2C 市场中 Agent 的违规与失信行为

    发表
    被测模型
    GPT-5.5、GPT-5.4、GPT-5.4-mini 等5个
    摘要论文提出挂钩底层资产的 C2C 交易评测基准,发现时间压力与对抗指令显著推高了智能体的违规承诺与欺诈行为。

    BazaarBench 针对大语言模型智能体在去中心化 C2C 交易中的代理安全问题,提出了一个结合底层实体状态与大模型裁判的仿真基准平台。

    深度解读完整解读
  2. 分析与理论arXiv 2610.06163

    SAGE:定位 LLM Agent 修复中最早偏离安全意图的环节

    提出 SAGE,定位代码修复 Agent 最早偏离安全意图的轮次

    发表
    被测模型
    GPT-5.5、Claude Opus 4.8、Gemini 3.1 Pro 等6个
    摘要SAGE 在已通过检查的修复轨迹上定位静默失败的最早偏离,类型比轮次更稳定。

    SAGE 在已通过语法和功能检查、但仍含确认安全缺陷的智能体修复轨迹上,定位最早可归因的安全意图偏离。。

    深度解读完整解读
  3. 防御arXiv 2610.00850

    AuraForge:为训练安全编码 Agent 扩展安全监督

    提出 AuraForge,从漏洞修复合成安全测试并训练编码 Agent

    发表
    被测模型
    Qwen3.5-4B、GLM 4.7 Flash、Qwen3-Coder-Next 等7个
    摘要AuraForge 用攻击效果测试和防泄露环境做成 AuraGym,合成监督的误拒更低,训出的 4B 模型增益高于人工测试。

    AuraForge 把真实仓库的历史漏洞修复变成可执行训练任务,用来监督编程智能体同时满足功能请求和隐含的安全要求。

    深度解读完整解读
  4. 评测与基准arXiv 2609.37501

    RegLLM:面向受监管智能体 AI 的有限自主性诊断测试框架

    提出 REGLLM 框架,评测受监管智能体何时作答或升级

    发表
    场景
    AI Agent
    被测模型
    Qwen2.5-3B
    摘要REGLLM 把升级对错做成可核验信号,并在 smoke 规模上看到适配器方向被运行方差淹没。

    REGLLM 是诊断有界自主的框架,示例是 UK FCA 合规智能体。作者把它做成 smoke 规模演示,而不是完整基准验证。

    深度解读完整解读
  5. 评测与基准arXiv 2609.32520

    IntentFlux 基准测量 LLM Agent 的意图漂移并给出 StateForge 修复方案

    提出 IntentFlux 测量 Agent 意图漂移并提出 StateForge 修复

    发表
    场景
    AI Agent
    被测模型
    Claude Opus 4.7、DeepSeek V4 Pro、Gemini 3.5 Flash 等9个
    摘要INTENTFLUX 量化意图漂移,STATEFORGE 用显式状态部分缩小差距,但未回到单轮水平。

    这篇工作把“用户改口后,过时意图仍影响答案或工具动作”做成可评分的多轮失败,并试验在生成前显式维护活跃状态。

    深度解读完整解读
  6. WolfSociety:金融智能体社会中有害智能体规模带来的集体风险

    提出 WolfBench,测量金融智能体社会中有害智能体规模带来的集体崩溃

    发表
    被测模型
    DeepSeek V3.2、GPT-4.1、Qwen3-235B 等6个
    摘要更大的金融智能体社会在更低有害比例上崩溃,但所需有害人数仍增加。

    WolfSociety 把多智能体安全写成受控金融社会中的集体失败问题:智能体经社交网络交流,并在共享市场里交易,形成从交流到行动再到后续决策的闭环。

    深度解读完整解读
  7. 防御arXiv 2609.04159

    Sentinel-RL:将拓扑推理从 LLM 智能体中卸载到安全运营中心

    提出 Sentinel-RL,将拓扑处置从 LLM 卸载到受约束图策略

    发表
    被测模型
    HetGAT、PPO
    摘要Sentinel-RL 用图编码器与 PPO 承担拓扑决策,LLM 负责叙述与门控,并在 LANL 上报告检测与时延。

    Sentinel-RL 是面向 SOC 的神经符号架构:拓扑决策离开 LLM,改由认证图上的 HetGAT 与 PPO 完成。

    深度解读完整解读
已经到底了