RAND 评估 LLM 智能体规避核酸合成筛查的能力
RAND评估AI智能体对核酸合成筛查的安全风险
AI 导读
RAND 研究团队评估了恶意行为者利用 LLM 智能体操作生物工具（BT）的威胁模型，考察智能体能否降低危险生物设计的专业门槛。结果显示，LLM 智能体已展现出使用生物工具规避核酸合成筛查的初步能力，但成功率不稳定；闭源权重模型的安全防护频繁限制了测试的开展。该报告由 Jeffrey Lee、Alyssa Worland、Christopher Rodriguez 等作者撰写，属于 RAND 研究报告中经过同行评审的成果。