Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 33 papers

Filter3

Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 262papers have no tags yet and are not included in filtered results.

System type：science agent System type：Multi-agent systems System type：Embodied systems and robotics Clear all

Another 262papers do not have category tags yet and are not included in filtered results.

DefensesarXiv 2610.12432Oct 9
FAITH: A feasibility-aware safety filtering reinforcement learning framework for high-dimensional systems
Proposes the FAITH safe filtering reinforcement learning framework, training high-dimensional systems to optimize task reward under constraints
arXiv
2610.12432
Published
Oct 9
Layer
Training and data layer
Setting
Embodied systems and robotics
- DefensesModel hardening
- RiskDangerous agent actions
AbstractFAITH separates safety filtering from reward optimization.
FAITH is a model-free safe filtering reinforcement learning framework for high-dimensional systems: safety correction and task reward reside in separate modules.
Paper analysisRead analysis
DefensesarXiv 2610.11754Oct 8
仅凭输出审查无法验证什么：面向研究智能体的研究契约
提出研究合同，把已批准选择绑定到执行证据并由检查器核验
arXiv
2610.11754
Published
Oct 8
Layer
Application layer
Setting
science agent
Evaluated models
OpenAI gpt-5.6-sol, OpenAI gpt-5.6-terra, OpenAI gpt-5.6-luna and others18
- DefensesPermissions and approval
- RiskReward hacking
- ComponentPermissions and sandboxing
Abstract研究合同暴露四类输出单独建不立的关系。
研究合同用来核验计算科学研究智能体是否仍在已批准研究之内，不判断科学是否为真。。
Paper analysisRead analysis
DefensesarXiv 2610.09496Oct 7
SOUL：用稀疏特征策略遗忘缓解 VLA 模型的状态幻觉
提出 SOUL 稀疏特征策略遗忘，缓解 VLA 状态幻觉
arXiv
2610.09496
Published
Oct 7
Layer
Training and data layer
Setting
Embodied systems and robotics
Evaluated models
OpenVLA, π0.5
- DefensesModel hardening
- RiskHallucination and fabrication
AbstractSOUL 以稀疏特征遗忘 VLA 状态幻觉。
SOUL用稀疏特征引导的策略 unlearning 处理 VLA 的 state hallucination。
Paper analysisRead analysis
DefensesarXiv 2610.08761Oct 7
VeriFine：通过扩展验证实现具身推理的自我改进
提出 VeriFine，用双环协同扩展验证以实现具身推理自我改进
arXiv
2610.08761
Published
Oct 7
Layer
Training and data layer
Setting
Embodied systems and robotics
Evaluated models
Alpamayo 1.5 8B, Qwen3-VL 2B, Claude Opus 5
- DefensesModel hardening
- RiskReward hacking
- ComponentGuardrails and judges
AbstractVeriFine 用双环协同演化具身推理的策略、课程和评审，驾驶与导航的策略分和评审对齐都上升。
VeriFine 把驾驶和导航推理的自改进写成策略、课程和无参考评审的协同演化，用来处理固定评审跟不上新失败模式的问题。
Paper analysisRead analysis
DefensesarXiv 2610.07657Oct 6
DEFER1 多智能体防御研究报告受控测试中的攻击成功率下降
实现 DEFER，以确定性检查优先拦截多智能体流水线的内容攻击
arXiv
2610.07657
Published
Oct 6
Layer
Application layer
Setting
Multi-agent systems
Evaluated models
Qwen3-235B-A22B-Instruct-2507, gpt-oss-120b, Llama-4-Scout-17B-16E-Instruct and others5
- DefensesPermissions and approval
- AttacksPrompt injection
- ComponentGuardrails and judges
AbstractDEFER 把确定性检查放在 judge 之前。
DEFER 用来测量多智能体授权流水线里，确定性规则在何处结束、LLM judge 从何处开始。
Paper analysisRead analysis
DefensesarXiv 2610.05640Oct 5
Research reveals that the CaMeL defense fails in multi-agent systems and proposes multi-CaMeL
提出 multi-CaMeL，在智能体调用边界隔离可信指令与非可信数据
arXiv
2610.05640
Published
Oct 5
Layer
Application layer
Setting
Multi-agent systems
Evaluated models
Claude Fable 5, GPT-5.5, GPT-4.1 and others6
- DefensesInstruction–data separation
- AttacksPrompt injection
Abstract论文针对多智能体中单体防御不组合的边界清洗问题，提出 multi-CaMeL 协议彻底阻断了 MultiAgentDojo 上的注入攻击。
Paper analysisRead analysis
DefensesarXiv 2610.05166Oct 4
安全动作不等于可行动作：VICS-G 为 VLA 策略做可行未来解码
提出 VICS-G 可行未来解码，重排冻结 VLA 策略的动作候选
arXiv
2610.05166
Published
Oct 4
Layer
Model layer
Setting
Embodied systems and robotics
Evaluated models
SafeVLA (task-optimized / base), SafeVLA (safety-aligned / safe)
- DefensesInference-time intervention
- RiskDangerous agent actions
Abstract作者用可行未来解码重排冻结 VLA 的下一步，并称 VICS-G 降低观测代价且完成率接近策略采样。
训练无关解码器 VICS 在冻结 VLA 的推理阶段重排动作块，使当前选择带上该动作仍可能留下的安全完成质量。
Paper analysisRead analysis
DefensesarXiv 2610.04616Oct 3
PerturBot 用扰动训练打破视觉-语言-动作模型的模态捷径
提出 Perturbot 扰动训练，打破 VLA 的模态捷径
arXiv
2610.04616
Published
Oct 3
Layer
Training and data layer
Setting
Embodied systems and robotics
Evaluated models
π0.5
- DefensesModel hardening
- ComponentVision
AbstractPerturbot 改训练数据以削弱三类模态捷径，GroundFscore 用来看成功是否来自任务证据。
Perturbot 是一套不改推理的 VLA 训练期数据干预，用来削弱模态捷径，并用离线分数区分“任务变好”和“靠捷径变好”。
Paper analysisRead analysis
DefensesarXiv 2610.04412Oct 3
论文研究 LLM 数字孪生参与增强民主时的提示注入脆弱性
提出检测、结构化与 GSPO 流程，降低共识生成的提示注入错位
arXiv
2610.04412
Published
Oct 3
Layer
Application layer
Setting
LLM applications, Multi-agent systems
Evaluated models
LLaMA-2 7B, LLaMA-3 8B, GPT 3.5 Turbo and others14
- DefensesDetection and filtering
- AttacksPrompt injection
- ComponentGuardrails and judges
Abstract三章依次做个体偏好预测、政党知识图谱审议，以及共识生成对提示注入的脆弱性与一条防御流程。
这是一篇把 LLM 数字孪生放进增强民主的博士论文，分个体表示、政党聚合和共识生成的提示注入三章。
Paper analysisRead analysis
DefensesarXiv 2610.03498Oct 2
检测与抑制：针对 VLA 模型对抗补丁的机制可解释性防御
提出条件特征抑制防御，检出对抗补丁后抑制 VLA 内部特征
arXiv
2610.03498
Published
Oct 2
Layer
Model layer
Setting
Embodied systems and robotics
Evaluated models
π0.5, SmolVLA
- DefensesInference-time intervention
- ComponentVision
Abstract条件抑制与 patch 相关的 SAE 特征，间歇攻击下可提高 SR，持续攻击下则不能。
Paper analysisRead analysis
DefensesarXiv 2610.02349Oct 2
MIRROR：面向多智能体通信的法定人数完整性防御
提出 MIRROR，用多路径摘要多数表决保障多智能体通信完整性
arXiv
2610.02349
Published
Oct 2
Layer
Application layer
Setting
Multi-agent systems
Evaluated models
Gemma-4-31B-it, Gemini 2.5 Pro
AbstractMIRROR 靠多数路径。
MIRROR 是 LLM 多智能体通信层上的多路径法定人数完整性原语，只处理不透明字节，不解释消息内容。要处理的是 Agent-in-the-Middle：中介合法终结 TLS 后可改在途消息，而语义校验有推理开销和误拦，签名又要求私钥管理。做法是生成结束后复制同一规范化载荷。
Paper analysisRead analysis
DefensesarXiv 2610.02005Oct 2
贝叶斯辩证论证（BDA）：面向持续对抗下多 LLM 委员会的可校准聚合
提出 BDA，按辩证动作可靠性加权聚合多 LLM 议会以抵抗持续对抗
arXiv
2610.02005
Published
Oct 2
Layer
Application layer
Setting
Multi-agent systems
AbstractBDA 用零额外调用的可靠性加权，给出可校准后验，并在持续对抗下反转不可靠席位。
BDA 是一种不另调 LLM 的多 LLM 议会聚合方法，同时处理置信度校准和持续不可靠席位。
Paper analysisRead analysis
DefensesarXiv 2609.39820Sep 30
FailBank：用运行时反馈自进化提升 VLA 模型任务成功率
提出 FAIL BANK，用运行时 CBF 反馈自进化更新 VLA 策略
arXiv
2609.39820
Published
Sep 30
Layer
Training and data layer
Setting
Embodied systems and robotics
Evaluated models
π0.5, π0
- DefensesModel hardening
- RiskDangerous agent actions
Paper analysisRead analysis
DefensesarXiv 2609.39297Sep 30
MiniRep：面向多智能体辩论的鲁棒声誉聚合方法
提出 MiniRep，在多智能体辩论聚合中结合当前质量、风险与历史声誉并限制克隆组
arXiv
2609.39297
Published
Sep 30
Layer
Application layer
Setting
Multi-agent systems
AbstractMiniRep 用当前提案证据校准历史声誉并限制克隆组，MATH 上平均准确率高于基线，其他任务有反例。
MiniRep 是面向恶意智能体的 MAD 声誉聚合，只作用在 Decide 阶段。
Paper analysisRead analysis
DefensesarXiv 2610.00371Sep 30
FlowReview：以授权配对评测控制多智能体组合信息流
提出 FlowReview，用授权配对与确定性提交门控控制多智能体组合信息流
arXiv
2610.00371
Published
Sep 30
Layer
Application layer
Setting
Multi-agent systems
Evaluated models
Sonnet 4.5, Haiku 4.5, Qwen3-32B and others5
- DefensesPermissions and approval
- AttacksPrompt injection
- ComponentPermissions and sandboxing
Abstract配对标准要求拒绝禁止使用并完成授权使用，FlowReview 把三项审查接到执行。
这篇工作把多智能体安全写成一件必须同时成立的事：拦住组合信息所启用的禁止使用，并完成同一场景里任务所需的授权使用。
Paper analysisRead analysis
DefensesarXiv 2609.35561Sep 29
RSI-Master：用结构化实验引导模型自主改进
提出 RSI-Master，约束自主后训练实验动作并结构化探索以防奖励作弊
arXiv
2609.35561
Published
Sep 29
Layer
Application layer
Setting
science agent, Multi-agent systems
- DefensesPermissions and approval
- RiskReward hacking
- ComponentPermissions and sandboxing
Paper analysisRead analysis
DefensesarXiv 2609.31855Sep 26
PHIRL：将学习到的奖励与任务进度对齐的逆强化学习框架
提出 PHIRL，用进度标注对齐逆强化学习奖励
arXiv
2609.31855
Published
Sep 26
Layer
Training and data layer
Setting
Embodied systems and robotics
Evaluated models
PHIRL, PHIRL-online
- DefensesModel hardening
- RiskReward hacking
AbstractPHIRL 用进度四维对齐 AIRL 奖励。
PHIRL 用进度标注修正从示范反推的奖励，以减少真人在环，同时不把示范中的每一步都当成任务进展。
Paper analysisRead analysis
DefensesarXiv 2609.31282Sep 25
基于区块链的 Agentic AI 框架：面向安全软件供应链的资源优化与能耗感知
提出 AttestChain，将供应链安全智能体报告签名上链并据此控制发布
arXiv
2609.31282
Published
Sep 25
Layer
Application layer
Setting
Multi-agent systems
Evaluated models
GPT-class LLM
- DefensesWatermarking and provenance
- ComponentPermissions and sandboxing
AbstractAttestChain 将智能体报告与链上发布门控结合，现有证据来自受控合成构建的总体结果。
AttestChain 是一个把 LLM 安全检查、智能体身份验证和许可链发布策略连接起来的软件供应链防御框架。。
Paper analysisRead analysis
DefensesarXiv 2609.30824Sep 25
基于加密绑定身份验证能力令牌协调分布式 AI 智能体的提案
提出身份绑定且委托只衰减的能力令牌，用上下文外钱包约束智能体
arXiv
2609.30824
Published
Sep 25
Layer
Application layer
Setting
Multi-agent systems
- DefensesPermissions and approval
- AttacksPrompt injection
- ComponentPermissions and sandboxing
Abstract用只衰减的身份绑定令牌和上下文外钱包，约束代表人类行动的分布式智能体。
代表人类行动的分布式智能体，需要一种不把密钥放进语言模型上下文的授权方式。
Paper analysisRead analysis
DefensesarXiv 2609.24165Sep 21
APEXA 为同步辐射数据处理的 LLM 多智能体加装执行完整性护栏
提出 APEXA，在工具层拒绝无执行支撑的结果并拦截电机命令
arXiv
2609.24165
Published
Sep 21
Layer
Application layer
Setting
science agent
Evaluated models
GPT-5-mini, GPT-5.4, Claude Opus 4.7 and others4
- DefensesPermissions and approval
- AttacksPrompt injection
- RiskHallucination and fabrication
- ComponentPermissions and sandboxing
Abstract作者称执行是否发生要由工具层核对，而不能只靠提示词。
APEXA 是先进光子源上的数据还原框架，用工具层代码约束语言模型智能体的工具调用。
Paper analysisRead analysis

AI Safety Daily

Read the latest issueOne issue per day, updated as events develop

All papers

Attack type

Model risks

Defense type

Impact

System type

Attack surface / entry point

Layer

System component

FAITH: A feasibility-aware safety filtering reinforcement learning framework for high-dimensional systems

仅凭输出审查无法验证什么：面向研究智能体的研究契约

SOUL：用稀疏特征策略遗忘缓解 VLA 模型的状态幻觉

VeriFine：通过扩展验证实现具身推理的自我改进

DEFER1 多智能体防御研究报告受控测试中的攻击成功率下降

Research reveals that the CaMeL defense fails in multi-agent systems and proposes multi-CaMeL

安全动作不等于可行动作：VICS-G 为 VLA 策略做可行未来解码

PerturBot 用扰动训练打破视觉-语言-动作模型的模态捷径

论文研究 LLM 数字孪生参与增强民主时的提示注入脆弱性

检测与抑制：针对 VLA 模型对抗补丁的机制可解释性防御

MIRROR：面向多智能体通信的法定人数完整性防御

贝叶斯辩证论证（BDA）：面向持续对抗下多 LLM 委员会的可校准聚合

FailBank：用运行时反馈自进化提升 VLA 模型任务成功率

MiniRep：面向多智能体辩论的鲁棒声誉聚合方法

FlowReview：以授权配对评测控制多智能体组合信息流

RSI-Master：用结构化实验引导模型自主改进

PHIRL：将学习到的奖励与任务进度对齐的逆强化学习框架

基于区块链的 Agentic AI 框架：面向安全软件供应链的资源优化与能耗感知

基于加密绑定身份验证能力令牌协调分布式 AI 智能体的提案

APEXA 为同步辐射数据处理的 LLM 多智能体加装执行完整性护栏