AI 欺骗：风险、动态与控制

多位研究者在 arXiv 发布 AI 欺骗领域的综述论文，将欺骗界定为系统为谋取自身利益而诱导错误信念的行为，并基于动物欺骗研究的信号理论给出形式化定义。论文把现有研究组织为包含欺骗产生与欺骗治理两个环节的欺骗循环，指出能力与激励潜力足够且被外部条件触发时系统会出现欺骗行为，并分析三个层级的激励基础、三项能力前提，以及监督缺口、分布偏移和环境压力等情境触发因素。在治理一侧，论文归纳了静态与交互场景下的检测基准与评估协议，提出结合技术、社区与治理的审计式缓解思路，并上线持续更新的资源网站 www.deceptionsurvey.com。