发现智能体:智能体的因果定义与发现算法
Discovering Agents
AI 导读
论文提出智能体的一种形式化因果定义:如果智能体的行动以不同方式影响世界时它会调整自己的策略,那么它就是智能体;作者称这是智能体的首个形式化因果定义。基于这一定义,作者给出从经验数据中发现智能体的因果发现算法。他们还给出因果模型与博弈论影响图之间相互转换的算法,并用该方法澄清了此前因智能体因果建模不当造成的混淆。作者指出,以往因果模型常由建模者直接假定而缺乏依据,建模失误会导致安全分析出错。
相关热点
1 个事件 · 2 条新闻提到
提到这篇论文的新闻
Redwood Research 主张差异化加速AI概念推理
- Redwood Research引用了论文编号或链接支持加速 AI 概念推理能力的基本论证
Efforts like Kenton et al (2022) and Garrabrant et al (2021) to formalize notions of agency.
- Joe Carlsmith引用了论文编号或链接我们能否安全地自动化对齐研究?
Efforts like Kenton et al (2022) and Garrabrant et al (2021) to formalize notions of agency.