OpenSocialJax:在开放式环境动态的序贯社会困境中评测社会适应
用 OpenSocialJax 评测多智能体在隐藏规则社会困境中的适应
- arXiv
- 2610.13710
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 被测模型
- GPT-6-Luna、GPT-6-Sol、Claude Opus 5.5 等8个
摘要作者报告规则发现常提高回报,但公共品清洁会集中,共享资源最终被耗尽。
OpenSocialJax 评测 LLM 能否在序贯社会困境中同时适应不熟悉的环境机制和其他智能体。
另有203篇论文还没打上分类标签,暂不在筛选结果里。
用 OpenSocialJax 评测多智能体在隐藏规则社会困境中的适应
OpenSocialJax 评测 LLM 能否在序贯社会困境中同时适应不熟悉的环境机制和其他智能体。
提出 DRYLAB-Bench 评测 Agent 式 LLM 的高风险突变设计能力
提出 SWE-Duel,让编码 Agent 在评测时互评造题并盲审修复
SWE-Duel 是一个在评测时才生成任务和判定器的编码智能体竞技场,用来避开静态基准的泄露和饱和。
提出 ISE 框架,评测 LLM Agent 在知识冲突下的认知谦逊
作者要测的不是智能体最终答得对不对,而是知识冲突出现时,它有没有在轨迹里认出缺口、做有界的工具跟进,并把没解决的不确定性写给用户。
提出 LGWM,用动作条件世界模型核验 GUI 智能体屏幕转移
提出义务识别基准 ObligationBench,并训练护栏识别 Agent 未履行的安全义务
作者认为编码智能体的安全不能只靠拦截禁止动作,还要找出终止时仍未做的安全关键动作,并将其称为义务。
评测编码 Agent 中相似技能共同安装对已装技能核心功能的替代
作者对共同安装、做同一件事的良性 skill 做实证研究,用核心功能是否还在,而不是任务过不过,来看冲突。。
构建 Workerville 基准,测量组织条件如何改变 Agent 的安全行为
Workerville 用组织行为测量智能体安全如何随监督、同伴和记忆条件变化。。要处理的缺口是:持续运行的 LLM 智能体同时接收用户指令、同伴消息和长期记忆,但既有安全评测多把这些通道拆开,没有统一的定量测量。
提出 SSCBench,评测工具调用 Agent 故障注入测试的证据有效性
SSCBench 研究工具使用智能体的故障注入结果,在什么证据条件下可以被解释。
提出 RSIGym 环境,评测研究智能体的递归自改进
用对照实验隔离评测设计对漏洞补丁基准得分的影响
作者把 LLM 漏洞补丁基准的评测流水线当作会改变测量结果的对象,并明确说本文不是再做一个用于排名的基准。
测量工具调用 Agent 对显式报错与静默损坏的检测和恢复
作者在 BFCL 多轮可执行环境上注入一次工具层故障,把注意到、改计划、恢复和重复分开记分,而不是只看任务有没有做完。
提出 AgentTime 基准,评测智能体按时长工作与估时能力
AgentTime 是对智能体时间自控的评测:预测任务耗时、按要求时长工作、事后估计已用时间。
提出 TESTJACK,动态审计编码基准通过判定是否满足任务要求
评测 LLM 审计 Agent 日志时来源重建是否有证据支持
包级审计检查保存的智能体动作里,哪些来源结论能被交给分析者的记录支持。
评测多智能体在开放式科研任务中找回预设子发现的能力
提出 agent plasticity 指标衡量智能体通过经验自我改进的效率
作者用 agent plasticity 衡量一件事:权重冻结时,智能体把经验写成可继承制品,再换成留出能力增益,这个转换有多省。
提出 ParanoiaEval 评测编码智能体的不必要风险处置
作者提出 ParanoiaEval,并称它是编码智能体风险处置能力的首个统一基准。要解决的问题是:证据已经确定风险应如何处置之后,智能体仍可能扩大验证、增加保护或备份,而现有评测要么只看功能正确性,要么把相关行为拆开研究。做法是把 NIST 的 ATMA 落到仓库任务。
在 CWEval 上跟踪代码生成的功能-安全差距
摘要绝对安全性上升且差距仍在,开放权重并不分开各家族的轨迹。
用 Learn2Play Bench 评测 Agent 从经验中学习陌生规则
Learn2Play Bench 用新设计的隐藏规则文本游戏,评测 LLM 智能体在不更新权重时从交互中学习的能力。