Boris Cherny 称 Opus 5 是 Anthropic 最难被提示注入的模型
Quoting Boris Cherny
AI summary
Anthropic 的 Boris Cherny 表示,Opus 5 是他们目前最难被提示注入的模型,这一结论写在 System Card 第 73 页,依据是提示注入评测与红队测试结果。他认为这一信息在 System Card 中被埋得较深,但比各项评测分数更令他兴奋。
Quoting Boris Cherny
Anthropic 的 Boris Cherny 表示,Opus 5 是他们目前最难被提示注入的模型,这一结论写在 System Card 第 73 页,依据是提示注入评测与红队测试结果。他认为这一信息在 System Card 中被埋得较深,但比各项评测分数更令他兴奋。