随着 AI 进步，UW–Madison 研究者应对日益增长的安全挑战
As AI advances, UW–Madison researchers tackle growing security challenges
AI 导读
UW–Madison 两名网络安全研究者与数百名科学家签署公开信，警告现有网络安全实践或不足以约束能力日益增强的 AI 系统。Jha 等人主张在智能体系统外设 reference monitor，按预定义策略检查 AI 智能体动作，应对提示注入；另一篇论文考察 16 个安全任务案例，探索 AI 智能体识别漏洞和调查威胁。
相关论文