出行领域大语言模型的安全与隐私
On the security and privacy of LLMs in Mobility
AI 导读
一篇综述以欧盟 AI Act 对高风险交通 AI 的要求为框架，评估出行领域大语言模型应用的安全、隐私与可靠性研究现状。作者从 AI Act 要求中提炼出九个技术类别，用来审视现有研究与未来部署，并给出出行市场规模作为参照：仅汽车一项每年约 2.9 万亿美元，涉及全球超过 15 亿辆车。在审阅的 35 项工作中，研究主要集中于 GPT 和 Llama 模型（占比超过 50%）以及交通应用，安全、隐私和可靠性明显被忽视；其中只有 1 项包含部分漏洞评估，1 项包含部分风险管理系统。作者据此认为，问题主要出在过度重视静态性能、轻视生命周期安全，并非技术本身受限；并呼吁在安全关键的智能交通系统中采用安全设计（security-by-design）。