Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 144 papers
Filter4

Another 255papers do not have category tags yet and are not included in filtered results.

  1. AttacksarXiv 2610.11932

    A Fudan team measures the citation fragility of AI search: ordinary posts can enter citations and answer text

    Measures citation fragility in AI search, demonstrating that ordinary public posts can enter citations and answers.

    Published
    Evaluated models
    Grok, Doubao, ChatGPT and others10

    AbstractThe authors claim the paper quantifies vulnerabilities in AI search caused by citation preferences and low posting thresholds; tests show public web posts can penetrate AI citations, and they call for auditing the citation supply chain.

    Paper analysisRead analysis
  2. DefensesarXiv 2610.11754

    仅凭输出审查无法验证什么:面向研究智能体的研究契约

    提出研究合同,把已批准选择绑定到执行证据并由检查器核验

    Published
    Evaluated models
    OpenAI gpt-5.6-sol, OpenAI gpt-5.6-terra, OpenAI gpt-5.6-luna and others18
    Abstract研究合同暴露四类输出单独建不立的关系。

    研究合同用来核验计算科学研究智能体是否仍在已批准研究之内,不判断科学是否为真。。

    Paper analysisRead analysis
  3. DefensesarXiv 2610.08082

    POLAR:面向小型工具调用智能体的可逆性护栏框架

    提出 POLAR 本体门控,在执行前否决不可逆工具调用

    Published
    Setting
    AI Agent
    Evaluated models
    qwen/qwen3-8b, meta-llama/llama-3.1-8b-instruct, nvidia/nemotron-nano-9b-v2 and others6
    Abstract训练无关的事前可逆性门控,弱 airline 模型有收益,强模型与 retail 常回落。

    POLAR 是训练无关的事前门控,用类型化本体在工具调用执行前检查能否组成候选逆序列。

    Paper analysisRead analysis
  4. 论文实测 Agent 工具调用门控栈的失败相关性

    提出 nmult 并评测 Agent 动作门禁堆叠的错误相关性

    Published
    Setting
    AI Agent
    Evaluated models
    AgentTrust runtime (174 rules), GPT-5.5 (gpt55), claude-haiku-4-5-20251001 and others7
    Abstract论文实测发现大模型裁判间错误显著相关,作者主张按机制选型并在整栈层面度量防护增益。

    论文是一项针对智能体动作拦截防御堆叠故障关联性与实际组合价值的实证测量研究。

    Paper analysisRead analysis
  5. DefensesarXiv 2610.07276

    SAFESHIELD:小语言模型部署时安全的决策组织框架

    提出 SAFESHIELD,组织小语言模型部署时的安全决策

    Published
    Evaluated models
    Qwen3-4B-Instruct
    AbstractSAFESHIELD 用可审计决策轨迹组织 SLM 部署时的四项安全决策,并报告协调依赖影响端到端结果。

    SAFESHIELD 是面向小语言模型的部署时安全框架,把运行时安全从单项审核改写成可检查的决策过程。

    Paper analysisRead analysis
  6. DefensesarXiv 2610.07258

    AMU:用派生血缘门控实现企业 AI Agent 列级访问控制

    提出 AMU 按推导图门控企业 Agent 共享记忆的列级访问

    Published
    Setting
    AI Agent
    Abstract在完整血缘下,AMU 按列权限放行缓存,并标出同名 KPI 冲突。

    AMU 用列级推导门控共享记忆,拦截经缓存流出的无权敏感列,并标出同名 KPI 的定义冲突。

    Paper analysisRead analysis
  7. DefensesarXiv 2610.05826

    研究者提出临时可见性协议,限制持续摄入 RAG 向量库的投毒暴露

    提出临时可见性协议,限制持续摄入 RAG 向量库的投毒暴露

    Published
    Abstract用截止期限制未核验可见时长。

    这篇工作给持续摄入的 RAG 向量库一个失败关闭的临时可见性协议,把协议能限制的未核验暴露和依赖检测器的中毒暴露分开。

    Paper analysisRead analysis
  8. AgentDoxx:联网搜索 Agent 对匿名访谈文本的再识别评测

    构建 AGENTDOXX 基准,评测联网搜索 Agent 对匿名访谈的再识别

    Published
    Setting
    web agent
    Evaluated models
    GPT-5.6 Terra, GPT-5 Mini, GPT-4.1 Mini and others10

    Abstract论文提出了已知身份的重识别基准 AGENTDOXX,揭示搜索与记忆双重风险及现有防御在检索轨迹中的泄露漏洞。

    Paper analysisRead analysis
  9. 研究:事实核查评测可能混入声明时不可知的未来证据

    测量事实核查评测混入的时序证据与参数泄漏

    Published
    Evaluated models
    Qwen3-14B, phi-4
    Abstract两条后见通道会抬高事实核查分数。

    作者量的是 LLM 事实核查分数里,有多少来自 claim 当时还不可知的信息。通道有两条:预训练记住的结局,以及检索到的、写于 claim 之后的文档。

    Paper analysisRead analysis
  10. RAGStress:评测知识库退化下 RAG 鲁棒性的受控基准

    提出 RAGStress 受控基准,评测知识库退化下的 RAG

    Published
    Evaluated models
    Claude Sonnet 4, Claude Opus 4.6, DeepSeek R1 and others5
    Abstract作者用 RAGStress 比较五系统。

    RAGStress 是知识库损坏下的 RAG 受控压力测试。作者明确不把它当作模型排行榜。

    Paper analysisRead analysis
  11. DefensesarXiv 2610.04975

    论文提出长程智能体自生子目标的运行时授权机制

    提出长程工具智能体自生子目标的运行时授权机制

    Published
    Setting
    AI Agent
    Abstract用版本化目标图授权保住重规划,并挡住自生成子目标变成新权威。

    长时程工具使用把目标演化变成授权状态的一部分。本文在单 principal、单根、有限结构化域中,把自生成子目标的创建、替换、同根委托和同根 join 做成可检查转移,并在提交边界重查受保护效应。

    Paper analysisRead analysis