跳到正文
原文

发现智能体:智能体的因果定义与发现算法

Discovering Agents

arXiv· arXiv:2208.08345· Zachary Kenton, Ramana Kumar, Sebastian Farquhar, Jonathan Richens, Matt MacDermott, Tom Everitt·本站收录· 14 天前· 原文发表对齐
AI 导读

论文提出智能体的一种形式化因果定义:如果智能体的行动以不同方式影响世界时它会调整自己的策略,那么它就是智能体;作者称这是智能体的首个形式化因果定义。基于这一定义,作者给出从经验数据中发现智能体的因果发现算法。他们还给出因果模型与博弈论影响图之间相互转换的算法,并用该方法澄清了此前因智能体因果建模不当造成的混淆。作者指出,以往因果模型常由建模者直接假定而缺乏依据,建模失误会导致安全分析出错。

相关热点

1 个事件 · 2 条新闻提到

提到这篇论文的新闻

Redwood Research 主张差异化加速AI概念推理

阅读原文arxiv.org