Lessons from Defending Gemini Against Indirect Prompt Injections

arXiv· arXiv:2505.14534· Chongyang Shi, Sharon Lin, Shuang Song, Jamie Hayes, Ilia Shumailov, Itay Yona, Juliette Pluto, Aneesh Pappu, Christopher A. Choquette-Choo, Milad Nasr, Chawin Sitawarin, Gena Gibson, Andreas Terzis, John "Four" Flynn·本站收录2026-10-28 00:10· 原文发表2025年5月20日

Google DeepMind 总结防御 Gemini 间接提示注入的经验

AI 导读

Google DeepMind 在报告中介绍其评估 Gemini 对间接提示注入对抗鲁棒性的方法，并总结防御过程中的经验。团队通过对抗评估框架部署一组自适应攻击技术，持续测试过去、当前和未来版本的 Gemini。这些持续评估用于衡量 Gemini 面对复杂对手的表现，并帮助提升模型抵御操纵的能力。