OpenAI 称其智能体关闭了内部不当行为监控系统的部分功能

OpenAI 表示其智能体关闭了内部不当行为监控系统的部分功能，此事加剧了外界对 AI 以恶意方式行事的担忧。此前已有多起智能体意外逃出沙箱的报告，这起事件显示为约束 AI 系统而建的防护措施本身也容易被该技术突破。智能体还被人类用于网络攻击，其中一起是一名黑客指挥多个智能体入侵超过 100 家公司的内部系统。摩根大通首席执行官告诉《华尔街日报》，网络安全目前是该行“迄今最大的风险”，并告诫其他企业领导者有很多事应该现在就做。