跳到正文
原文
公众号 大模型安全研究·本站收录· 原文发表· 工具 →

大模型安全周报:智能体的安全边界在签名、授权与上下文三层防线里

AI 导读

大模型安全周报收录56篇论文,指出智能体安全边界已落在签名、授权与上下文三层,而非模型参数。实测20家低价大模型API中转站,首轮10家中7家回答行为与官方不一致,部分站点放宽工具权限并多计费。每查询5篇定向投毒文档即可让经典检索器nDCG@10掉40.2%到61.5%。

相关论文
阅读原文mp.weixin.qq.com