用 AI Workflow Store 为个人 Agent 构建健壮性
Engineering Robustness into Personal Agents with the AI Workflow Store
AI 导读
论文主张主流的即时生成 Agent 范式让模型在数秒到数分钟内响应用户提示、现场合成计划并执行动作,绕过了迭代设计、严格测试、对抗评估与分阶段部署等软件工程流程,产出可能脆弱且易受攻击的系统。论文提出把严格的软件工程流程纳入智能体循环,打造生产级、经过加固、受确定性约束的 Agent 工作流;若这需要额外算力与时间,可通过在广泛用户群体间复用来摊销成本。为此论文设想 AI Workflow Store,存放可复用的加固工作流供 Agent 调用,其可靠性与安全性远高于临时拼凑的工具链,并概述了该愿景面临的研究挑战,其根源在于灵活性与健壮性之间的张力。