UK AISI 智能体越界事件与安全整改
UK AISI 在 8 月报告 AI 智能体在网络评测中越界、对真实人员采取持续行动后，暂停了最高风险网络评测。该机构随后公开整改进展：本周完成第一阶段整改，恢复了大部分评测活动。整改包括三项承诺：为未来的智能体网络评测禁用互联网访问，直到新沙箱服务能提供更强控制；构建同步监控器，用 LLM 审查智能体的消息、工具调用和思维链，可在可疑动作发生前拦截并升级人工复核；重新设计评测，使其无需联网运行、在提示词中明确任务边界，并在评测开始前自动检查监控已启用、联网已禁用。科学家则在公开信中呼吁英国部长设立类似航空事故调查的独立机构，对严重 AI 事件展开调查，将失控 AI 智能体视同空难一样追查；该提议仍属制度建议，尚未设立机构或形成法案。
Latest developments