研究:视觉语言模型在协作任务中很少主动表达指代不确定性
研究视觉语言模型在协作中能否表示并说出指称不确定性
- arXiv
- 2609.39518
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 组件视觉
摘要指称不确定性可被引出,但很少说出来。
另有 444 篇论文还没打上分类标签,暂不在筛选结果里。
研究视觉语言模型在协作中能否表示并说出指称不确定性
摘要指称不确定性可被引出,但很少说出来。
蒸馏私有健康记录为 GAT 打分器,供智能体发现血液标志物
把私有 CBC 证据蒸馏成可发布的 GAT 打分器,使前沿智能体在不读取患者行时给生物标志物表达式排序。。
把文本水印证据写成带错误率的三态可审计结论
指定配置下的文本水印被做成可审计测量:记录证据如何衰减,并把检测收成三态,而不是判定人类作者身份。
提出认知脚手架,用设计摩擦与组织规程维持对智能体的人工监督
Mitchell、Ghosh 与 Passi 的立场论文认为:人被留在回路中,并不会自动产生有效监督。
梳理 AI 风险建模开放问题并比较两类定量提案
这是一份面向研究者与政策实践者的议程论文:先进 AI 的社会风险需要定量建模,但监管要求的先进方法尚未被定义。
提出 SelfSearch,用自我修改记录无奖励搜索以改进编码智能体
提出 Tail-Influence Sampling,按尾部影响分配查询以估计策略下尾 CVaR
在条件转移可独立查询时,用 tail influence 把固定评测预算分给对一条固定策略的下尾 CVaR 更重要的 kernel。平均回报相近时,罕见失败仍可能差很多。完整 rollout 把大部分预算花在到不了最坏状态的转移上。
作者把高自主 AI scientist 的规模化协调写成经济与制度问题:假设生成变便宜之后,要分配的是稀缺验证资源,并处理信用、问责和恶意使用。
提出 LS-AR,用潜向量经 FiLM 调节自回归解码以保持宏观目标
LS-AR 给因果解码器加一条不占窗口的连续目标通道,用来处理长程生成里宏观指令被挤出上下文或被注意力稀释的问题。
提出 Patch-to-Prune,旁路 VLM 部分层的视觉投影计算
P2P 是面向 VLM 推理的训练无关计算旁路:不删除视觉 token,而在选定 decoder 层用固定激活代理代替视觉投影。
在基座冻结、只有三篇摘要的冷启动下,生成符合特定作者文风的科学论文摘要。
提出 HEST,用熵训练的双曲探针只在犹豫 token 引导隐状态
HEST 是不更新语言模型权重的推理时转向:模型自己的 next-token 熵既选出少数犹豫 token,也训练给出方向的双曲探针。要处理的情况是,数学解答里多数 token 已由上下文决定,分叉集中在高熵 token,而常见激活加法仍对每个 token 加同一欧氏向量。长推理模型上按关键词和步骤边界转向的做法,又很少适用于 instruction-tuned 模型。
证明随机谕示下谕示辅助计算无法零知识验证,签名谕示下则可
一般谕示辅助计算在随机谕示中做不到 witness hiding,因而也做不到零知识监督。给谕示答案加上数字签名后,抗碰撞哈希足以同时得到隐私和简洁验证。
用均值场最优停止分析多智能体集体攻击的均衡条件
摘要结构阈值给出干预杠杆。
测量混合群体中 LLM 智能体比例对共识强度与约定归属的影响
这项实验研究混合人类–LLM 群体里,智能体比例如何改变自发约定。
主题分析青少年相关 Reddit 帖子,归纳陪伴 AI 过度依赖与感知互惠
Namvarpour、Chang 与 Razi 用计算辅助主题分析,描述青少年相关 Reddit 讨论中与 AI 陪伴聊天机器人的关系及潜在过度依赖。
定性编码非洲政府 AI 战略与讲话,比较发展优先与安全表述
这是一篇关于非洲政府 AI 政策优先事项的定性评估,不是对模型的测试。
梳理已部署自主诊断系统的知情与问责缺口并提出三项最低原则
作者把撒哈拉以南非洲电子健康里的自主诊断智能体写成治理问题,而不是新的诊断模型。要处理的是:系统分析患者数据并给出拟被执行的诊断或分诊,中间没有强制人工复核,患者又未必知道这一步由智能体完成。
提出可复用语义网框架,把 FRIA 证据建成可查询知识图谱