AttackPilot：用基于 LLM 的智能体对 ML 服务发起自主推理攻击
AttackPilot: Autonomous Inference Attacks Against ML Services With LLM-Based Agents
AI 导读
研究者提出 AttackPilot，一个无需人工干预即可自主对 ML 服务执行推理攻击的 LLM 智能体。在 20 个目标服务上的评测显示，由 GPT-4o 驱动时任务完成率达 100.0%，攻击性能接近专家，每次运行的平均 token 成本仅 $0.627。该智能体也可由其他代表性 LLM 驱动，并能在服务约束下自适应优化攻击策略。轨迹分析显示，多智能体框架与任务特定动作空间等设计选择能有效减少计划失误、无法遵循指令、任务上下文丢失和幻觉等错误。作者预计，这类智能体可帮助缺乏深度领域知识的 ML 服务提供方、审计者或监管者系统评估 ML 服务风险。