Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 21 papers

Another 232papers do not have category tags yet and are not included in filtered results.

  1. DefensesarXiv 2610.07570

    ProbeGuard:按共识形成过程判断弃答,识别医疗问答中的一致错误

    提出 ProbeGuard,按共识形成过程对医疗问答做选择性弃答

    Published
    Evaluated models
    Qwen3-8B, Llama-3.1-8B-Instruct, HuatuoGPT-o1-8B
    AbstractProbeGuard 用共识形成过程做可认证弃权,并在全票层分开答对与答错的共识。

    ProbeGuard 是给多轮共识医学问答用的认证弃权框架:基板照原样作答,弃权只看共识是怎么形成的。

    Paper analysisRead analysis
  2. DefensesarXiv 2610.07276

    SAFESHIELD:小语言模型部署时安全的决策组织框架

    提出 SAFESHIELD,组织小语言模型部署时的安全决策

    Published
    Evaluated models
    Qwen3-4B-Instruct
    AbstractSAFESHIELD 用可审计决策轨迹组织 SLM 部署时的四项安全决策,并报告协调依赖影响端到端结果。

    SAFESHIELD 是面向小语言模型的部署时安全框架,把运行时安全从单项审核改写成可检查的决策过程。

    Paper analysisRead analysis
  3. 论文:AI 在非公开漏洞上更帮攻击者还是防御者

    评测 coding agent 在非公开漏洞上的利用生成、修复与后续攻击

    Published
    Evaluated models
    Opus 5, GPT-5.6 Sol, GPT-6 Sol and others10
    Abstract攻防孰强随环境、系统和弱点改变。

    作者比较编程智能体在利用生成与漏洞修复上的自主表现,并检查修复之后还能不能被攻破。文中的 help 指自主完成任务,不是提升人类操作者。

    Paper analysisRead analysis
  4. Research reveals that text watermarks induce model hallucinations and proposes two mitigation interventions

    分析文本水印在 RAG 中诱发事实幻觉的机制并提出干预

    Published
    Evaluated models
    LLaMA 3.1 8B Instruct, Mistral-7B-Instruct-v0.3, Qwen2.5-14B-Instruct
    Abstract论文揭示了生产环境文本水印导致模型事实退化的失效模式,分析了解码机制并提出针对性干预。

    论文研究生产级文本水印对大语言模型事实准确性的影响,分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。

    Paper analysisRead analysis
  5. RAIM:用廉价小模型聚合替代前沿模型做幻觉检测

    提出 RAIM,用交叉拟合堆叠聚合廉价评审检测幻觉

    Published
    Evaluated models
    Llama, Qwen, Mistral and others10

    Abstract十个廉价评审的堆叠在可采纳区间接近 Sonnet,代价主要是一次域内校准。

    Paper analysisRead analysis
  6. OtherarXiv 2609.18120

    PentestChain:面向免费层 LLM 的成本感知 MCP 编排自动化渗透测试框架

    提出成本感知的 MCP 编排框架,用确定性利用图与免费层模型做自动化渗透测试

    Published
    Abstract确定性利用图加免费层级联在十次自建运行上测得付费成本为零。

    PentestChain 是一个十阶段、经 MCP 暴露的自动渗透框架,用确定性利用图把 7B 本地模型挡在利用关键路径之外,并把每次交战的美元成本当作实测指标。。

    Paper analysisRead analysis
  7. VLoc Bench released: evaluating Agent vulnerability localization capability in complete repositories

    提出 VLoc Bench,评测智能体在完整仓库中定位漏洞文件并抑制修复后误报

    Published
    Evaluated models
    GPT-5.5 (xhigh), GPT-5.5 (default), Gemini 3 Pro and others15

    Abstract论文提出仓库级漏洞定位基准 VLoc Bench,指出当前模型定位表现较低且易在已修复代码上产生误报。

    Paper analysisRead analysis
  8. OtherarXiv 2609.12039

    现实才是最终验证者:智能体软件工程的两大关键缺口

    提出双缺口框架,统一智能体软件工程中的奖励投机与幻觉

    Published
    Abstract双缺口解释内环为何会放行部署后不可接受的实现,外环用现实证据持续修订 R、M 与 E。

    Reality Is the Final Verifier 用 two-gap framework 解释智能体软件工程的主要失败,并主张用外层保证环持续收窄缺口,而不是试图在部署前证明缺口已关闭。

    Paper analysisRead analysis
  9. DefensesarXiv 2609.04159

    Sentinel-RL:将拓扑推理从 LLM 智能体中卸载到安全运营中心

    提出 Sentinel-RL,将拓扑处置从 LLM 卸载到受约束图策略

    Published
    Evaluated models
    HetGAT, PPO
    AbstractSentinel-RL 用图编码器与 PPO 承担拓扑决策,LLM 负责叙述与门控,并在 LANL 上报告检测与时延。

    Sentinel-RL 是面向 SOC 的神经符号架构:拓扑决策离开 LLM,改由认证图上的 HetGAT 与 PPO 完成。

    Paper analysisRead analysis
  10. PatchBench: University of Maryland team releases C/C++ vulnerability repair evaluation benchmark

    提出基准 PATCHBENCH,评测编程 Agent 的漏洞修补是否真正修复根因

    Published
    Evaluated models
    Codex + GPT-5.6 Sol, OpenHands + GPT-5.6 Sol, Claude Code + Claude Opus 4.8 and others11

    Abstract论文揭示漏洞修复评测的记忆与表面防护问题,提出离栈变异基准与双重验证,测得智能体实际解决率仅约五成。

    Paper analysisRead analysis
  11. SRE-Bench: A Contamination-Free Real-Scale Benchmark for Agent Reverse Engineering

    提出 SRE-Bench 评测智能体的真实规模二进制逆向能力

    Published
    Evaluated models
    GPT-6-Astra, GPT-5.6-Sol, GPT-5.6-Cyber and others11
    AbstractSRE-Bench 用从零编写的大规模保护二进制评测智能体 RE,公开设置下多数模型完全解开比例不高。

    作者构建并评测 SRE-Bench,一个从零编写、用于测量智能体逆向工程而非利用开发的基准,并称它同时满足污染控制与真实软件规模。

    Paper analysisRead analysis
  12. OtherarXiv 2607.28568

    Frontis-MA1:面向机器学习工程递归自我改进的 AI4AI 模型

    提出 OpenMLE,后训练元进化智能体并做机器学习工程长程搜索

    Published
    Evaluated models
    Frontis-MA1-35B, Frontis-MA1-30B
    AbstractOpenMLE 训练 Frontis-MA1-35B,用四个共享算子把 MLE 后训练和长程搜索接成元进化闭环。

    作者提出全栈 OpenMLE,在机器学习工程里研究从进化到元进化的一步,并把递归自我改进视为更远目标。智能体要在延迟、有噪声的执行反馈下反复修改程序。作者认为公开系统很少同时提供可扩展环境、基于执行的后训练,以及部署该模型的长程进化搜索。

    Paper analysisRead analysis
  13. CryptanalysisBench: Performance of five frontier models on 191 cryptanalysis tasks

    用 CryptanalysisBench 评测大模型的端到端密码分析能力

    Published
    Evaluated models
    Claude Opus 4.8, Claude Sonnet 5, Claude Mythos 5 and others10

    Abstract提出真实密码原语分析基准,证实前沿模型具备显著分析能力并能发现未公开设计缺陷。

    Paper analysisRead analysis
  14. AttacksarXiv 2607.12340

    Research: LLM agent skill-name hallucination rates reach up to 62%, which can be exploited via squatting for supply-chain attacks

    提出技能名称抢注攻击,利用 Agent 虚构技能名实施供应链劫持

    Published
    Evaluated models
    GLM-4.5-Air, GPT-5.4-mini, Claude Sonnet 4.6 and others12
    Abstract研究证实智能体虚构技能名具有高发生率与可预测性,现有防御难以兼顾安全与效用,亟需注册表结构性防护。

    本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险,将其形式化为一种新型供应链抢注攻击。

    Paper analysisRead analysis
  15. LegalHalluLens:面向法律 AI 的分类幻觉审计与校准多智能体辩论

    提出 LegalHalluLens,分类审计法律抽取幻觉并校准多智能体辩论

    Published
    Evaluated models
    gemini-3-flash, gpt-5.2, qwen3-32b and others5
    Abstract作者称类型画像与 RDI 能区分聚合率相近的系统,辩论主要减少虚构检出。

    LegalHalluLens 是一套法律条款抽取的审计框架,外加一个按审计结果校准的辩论缓解。。

    Paper analysisRead analysis
  16. AgentCyberRange:复旦团队发布真实网络靶场自主攻击能力基准

    构建真实网络靶场基准,评测 AI 的端到端自主攻击能力

    Published
    Evaluated models
    GPT-5.5, Claude-Opus-4.7, GLM-5.1 and others7

    Abstract构建开放多靶场评测基础设施 AGENTCYBERRANGE,测定前沿 AI 网络攻击能力并揭示其端到端规划短板。

    Paper analysisRead analysis