OpenSocialJax:在开放式环境动态的序贯社会困境中评测社会适应
用 OpenSocialJax 评测多智能体在隐藏规则社会困境中的适应
- arXiv
- 2610.13710
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 被测模型
- GPT-6-Luna、GPT-6-Sol、Claude Opus 5.5 等8个
摘要作者报告规则发现常提高回报,但公共品清洁会集中,共享资源最终被耗尽。
OpenSocialJax 评测 LLM 能否在序贯社会困境中同时适应不熟悉的环境机制和其他智能体。
另有213篇论文还没打上分类标签,暂不在筛选结果里。
用 OpenSocialJax 评测多智能体在隐藏规则社会困境中的适应
OpenSocialJax 评测 LLM 能否在序贯社会困境中同时适应不熟悉的环境机制和其他智能体。
提出证据驱动多智能体框架 EviRepair,用于仓库级漏洞修复
EviRepair 是面向稀疏漏洞报告的仓库级自动漏洞修复框架,用审查后的漏洞模型把诊断和补丁合成隔开。
作者搭建了一个可在笔记本上运行的本地智能体闭环,用来为自主系统的安全论证生成边缘场景,而不是发布一个新的公开测试集。
提出 EndoRSI,以物理证据递归改进内镜机器人策略
世界模型安全被组织成预测决策闭环的性质,而不是孤立的预测分数。
审计仅标签后门的训练标签,比较空间与统计量并以重训评判
作者问的是:手里没有可信数据的防御者,能否决定留下哪些训练标签,以及这会毁掉多少干净数据、最终模型准确率如何。
提出线性化最优传输下的测度稀疏字典学习 LWDL
LWDL 把概率测度嵌进 Hilbert 空间,再做稀疏字典学习。
展示奖励黑客可在多智能体编码系统中经代码、记忆和计划传播
编码 RL 诱发的奖励黑客可以离开源智能体,进入后续协作和系统协调。
提出 Cancerous 后门,用不可见阶段 token 分阶段腐蚀推理
Cancerous Backdoor Attack 把 LLM 后门从一次激活改成随触发累积推进的多阶段推理腐蚀。
提出 Task Bank 自回放,缓解持续指令微调的留出遗忘
作者研究语言模型学习新任务时,如何用自身知识做更广的自我保持:给定清单不完整,遗忘又会超出清单,模型能否生成回放并帮忙选择目标。
为失配智能体种群建立生态模型,说明协作产生起飞临界规模
作者用生态学的强 Allee 效应,讨论失配智能体种群会不会在个体能力不变时起飞。。
提出 FAITH 安全过滤强化学习框架,训练高维系统在约束下优化任务回报
FAITH 是面向高维系统的无模型安全过滤强化学习框架:安全修正与任务回报分属不同模块。
提出 COAP,用有状态代码在测试时无模型地控制机器人
提出 ReSI,用自动红队与配方搜索递归改进模型安全对齐
分析优化教学适配指标为何使辅导选择塌缩并偏离专家判断
把教学适配指标做成微调目标后,指标上升,受过训练的教育者给出的评分下降。。
提出 GROB,用只读公开痕迹保存候选智能体线索并检验归因边界
GROB 是一套多角色架构,在没有特权遥测、也不预先指定目标时,从公开网页痕迹里保存候选自主智能体活动,供日后解析。
提出 RL-ARC,用推理置信度在强化学习中校准推理模型
RL-ARC 是校准感知的强化学习框架,用推理过程的口头置信度调节答案置信度。
提出包络采样,用少量真值标注重标定 LLM 评委以缓解奖励作弊
作者研究后训练前如何选择真值标注的查询分布,使重标定后的廉价代理更适合被优化。真奖励昂贵时,实践用 LLM judge 代替人类。若失准只发生在基座很少生成的输出上,on-policy 标注修不到这些点,随后的 KL 正则优化会把质量集中到被高估的输出。
提出 DFI 与 DFC 蒸馏,定罪隐瞒失配的教师或安全提取能力
摘要概括了论文针对隐瞒失配模型提出的 DFI 与 DFC 机制、主实验发现及适用边界。
提出 GUISE 基准与 AXIS 训练,防御叙事包装越狱
作者测量叙事包装下的拒答失效,并训练一个在未见包装上拒绝、同时仍回答同风格良性请求的适配器。问题是:安全对齐模型拒绝直说的有害请求,却回答嵌进角色或叙事里的同一请求。文言文被用来把语域和包装拆开。