Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 21 papers

Another 265papers do not have category tags yet and are not included in filtered results.

  1. DefensesarXiv 2610.10833

    研究:Agent 准时停机不等于有效使用时间预算

    用时钟 harness 和预算塑形 GRPO 改善 Agent 的按时返回

    Published
    Setting
    AI Agent
    Evaluated models
    Qwen3.6-27B, Qwen3-4B, Qwen3.5-9B and others4
    Abstract作者比较提示词、harness 与 GRPO:按时性可改善,但额外时间仍未变成更好解。

    作者研究小规模 LLM 智能体在显式 wall-clock 预算下能否按时返回,并把更多时间换成更好的解。

    Paper analysisRead analysis
  2. DefensesarXiv 2610.04412

    论文研究 LLM 数字孪生参与增强民主时的提示注入脆弱性

    提出检测、结构化与 GSPO 流程,降低共识生成的提示注入错位

    Published
    Evaluated models
    LLaMA-2 7B, LLaMA-3 8B, GPT 3.5 Turbo and others14
    Abstract三章依次做个体偏好预测、政党知识图谱审议,以及共识生成对提示注入的脆弱性与一条防御流程。

    这是一篇把 LLM 数字孪生放进增强民主的博士论文,分个体表示、政党聚合和共识生成的提示注入三章。

    Paper analysisRead analysis
  3. 论文提出 CrossFit 缓解自演化搜索智能体的共谋作弊

    提出 CrossFit,用折外求解器抑制自演化搜索智能体共作弊

    Published
    Setting
    AI Agent
    Evaluated models
    Qwen3.5-4B, Qwen3.5-9B
    AbstractCrossFit 切断同源伪标签回流到提议者奖励的路径,并提高七个搜索基准上的 Cover-EM。

    False Frontiers 诊断自进化搜索智能体中的 co-cheating,并用按来源交叉拟合的反馈来缓解它。

    Paper analysisRead analysis
  4. DefensesarXiv 2609.36820

    CorrGRPO:面向多奖励学习的相关性归一化 GRPO

    提出 CorrGRPO,用 Pearson 相关归一化多奖励优势

    Published
    Setting
    AI Agent
    Evaluated models
    Qwen2.5-Coder-0.5B-Instruct, Qwen2.5-Coder-1.5B-Instruct, Qwen2.5-Coder-3B-Instruct and others8
    AbstractCorrGRPO 用 Pearson 相关归一化多奖励 GRPO 优势,并在三个域报告改进。

    CorrGRPO 是 GRPO 的多奖励变体:组内优势的分子仍是中心化总奖励,分母改为 Pearson 相关之和,避免大尺度奖励主导归一化。

    Paper analysisRead analysis
  5. DefensesarXiv 2609.03438

    CONFLICTGUI 基准与 CONFLICTGUARD 框架:让多模态 GUI Agent 学会在冲突指令下终止执行

    提出 ConflictGuard,引导 GUI Agent 在冲突指令下终止执行

    Published
    Evaluated models
    UI-Venus-1.5-8B, UI-TARS-1.5-7B, OS-Atlas-Base-7B and others10
    AbstractConflictGUI 暴露 GUI 智能体的执行偏向过度服从,ConflictGuard 用条件转向提高冲突终止率。

    ConflictGuard用推理时的可行性核验和条件激活转向,让 GUI 智能体在指令不可行时终止,而不是盲执行。

    Paper analysisRead analysis
  6. DefensesarXiv 2609.02786

    SafeEvolve:基于智能体经验的 Harness-Policy 协同演化安全对齐框架

    提出 SafeEvolve,用轨迹证据协同演化安全 harness 与策略

    Published
    Setting
    AI Agent
    Evaluated models
    Qwen3.5-4B, Qwen3-4B-Instruct-2507, Qwen3.5-1.7B and others4
    AbstractSafeEvolve 用轨迹证据协同更新安全 harness 和策略,在两个 4B 模型的智能体安全基准上改变安全与效用。

    SafeEvolve 把已完成的 on-policy 轨迹变成安全 harness 的有界更新,并用两阶段 SFT-RL 把这些更新内化进工具使用策略。

    Paper analysisRead analysis
  7. DefensesarXiv 2608.27348

    INTENT-AS-A-TOOL:用意图工具追踪智能体失准

    提出 INTENT-AS-A-TOOL,用意图工具概率跟踪并干预智能体失准

    Published
    Setting
    AI Agent
    Evaluated models
    Gemma-4-31B-IT, Qwen3.5-27B, Qwen3-235B-A22B and others5
    Abstract用意图工具的下一动作概率跟踪推理中的失准承诺,并在其成为首选时插入反思。

    Zhang 等人研究推理型语言模型在职场邮件沙箱里如何走向智能体失准,并提出用动作偏好而不是事后文本标签来跟踪承诺。问题是:有害执行往往出现在推理已经形成意图之后,但 CoT 监控是事后、粗粒度、依赖外部评审的,也看不到模型倾向调用哪个动作。

    Paper analysisRead analysis
  8. DefensesarXiv 2606.22673

    Agent MechSuits:面向多轮 CLI Agent 的机制子空间安全引导

    提出 Agent MechSuits,对多轮 CLI Agent 做步级检测与子空间转向

    Published
    Evaluated models
    LLaMA-3.1-8B, Qwen-2.5-7B, Gemma-2-9B
    Abstract白盒步级探针加稀疏转向可压低三模型恶意动作,同时提高生成崩溃率。

    Agent MechSuits 是面向多轮 CLI 智能体的白盒、步级表示防御,并配有可执行轨迹基准 MAS。

    Paper analysisRead analysis
  9. DefensesarXiv 2606.18673

    理解并缓解真实世界 LLM 应用中的提示词泄露攻击

    提出软提示防御 AREA,重锚定注意力以缓解系统提示泄露

    Published
    Attacker
    Black-box
    Evaluated models
    Llama-2-7B-chat-hf, Llama-3.1-8B-Instruct, Mistral-7B-Instruct-v0.3 and others8
    Abstract作者测量商用提示词泄漏,提出 attention drift,并用 AREA 在可用性与抗泄漏间取折中。

    作者研究真实 LLM 应用中的 system prompt 泄漏,并给出不改权重的缓解方法 AREA。

    Paper analysisRead analysis
  10. DefensesarXiv 2606.08234

    SciTrace:面向科学发现智能体的轨迹感知安全推理框架

    提出 SciTrace,为科学发现智能体加入跨阶段安全推理与工具轨迹核验

    Published
    Evaluated models
    Llama-3.1-70B-Instruct, Qwen2.5-72B-Instruct, DeepSeek-V3 and others4
    AbstractSciTrace 把安全推理织入科学智能体各阶段,在 SciSafetyBench 上提高安全指标并保持输出质量。

    SciTrace 是加在科学发现智能体流水线上的安全框架,不是再在各阶段出口放一个独立过滤器。

    Paper analysisRead analysis