AI 聊天机器人通过 API 与面向消费者应用给出的自杀相关回答
Suicide-Related Responses From AI Chatbots Through Application Programming Interfaces and Consumer-Facing Apps
AI 导读
一项观察性横断面研究显示，同一批 AI 模型通过 API 直接回答自杀相关提问的比例高于消费端 UI。研究者让 ChatGPT、Claude、Gemini、Grok 和 Llama 对 30 条经临床医生分级的自杀相关提示各提交 100 次，分别经公开 UI 和直接 API，共获得 30,000 条回答。总体 69.8% 为直接回答，API 为 77.4%，UI 为 62.2%，仅 Gemini 的 UI 直接回答率略高于 API（76.7% 对 71.0%）。风险越高差异越大，极高风险提示下 API 直接回答占 24.8%，UI 仅 4.6%；高风险下分别为 80.1% 和 48.4%。Claude 与 Gemini 直接回答率最高，分别为 78.1% 和 73.9%，ChatGPT、Grok、Llama 分别为 64.6%、64.5%、67.8%。
推荐理由
研究比较五个模型在 UI 与 API 两种接入方式下对自杀相关提问的回答差异，显示界面中的安全表现未必延伸到 API。