目标揭示:信息论赋能与基于能力的人类权力之间的桥梁
Goal Revelation as a Bridge Between Information-Theoretic Empowerment and Capability-Based Human Power
AI 导读
研究者提出目标揭示这一互信息度量,把马尔可夫博弈中的信息论赋能与基于能力的人类个体权力两类权力度量联系起来。由 Fano 不等式可从个体权力得到目标揭示的下界 B(s),赋能则构成上界,形成 B(s) ≤ I(G;ξ|s) ≤ I(A_h→ξ|s) ≤ E_h(s) 的不等式链。链中每个量都可在下一层为零时很大,对应两类失效模式:最大化赋能的助手可能偏好对目标无关自由度影响广泛的接口,而非让人类达成所有目标的接口;最大化目标揭示的助手无法区分正常接口与被重新接线、使每个目标都得到错误结果的接口,因为重标记目标不改变互信息却使达成概率全部归零,因此正面保证只能来自达成端。论文给出可由交互日志两个统计量计算的满意度下界,用于监控部署系统中用户保留的权力;随机环境中的仿真显示三个量相关但远不可互换。