中国AI安全动态第24期:CAICT发布AI安全报告与编程模型安全评估
AI Safety in China #24
AI 导读
中国信通院(CAICT)发布58页AI安全报告,首次完整公开编程模型安全评估结果,发现多数编程模型缺乏对网络攻击滥用的足够防护。报告承认AGI失控风险但将其列为中低治理优先级,理由是近期发生可能性低。国务院新闻办11月发布军控白皮书,首次在中央政府政策文件中明确提示AI与军民两用化学品融合风险,但未涉及AI驱动的生物、核及网络滥用风险。世界互联网大会专家委员会提出以联合国为中心的前沿AI风险治理框架,强调跨境评估、早期预警与应急响应机制。