评估金融情感分析中的语义不敏感性:对可持续金融决策的启示
Evaluating Semantic Insensitivity in Financial Sentiment Analysis: Implications for Sustainable Financial Decision-Making
AI 导读
研究者提出名为 Agent-driven Semantic Inversion(ASI)的对抗攻击框架,通过领域特定语义操纵攻击金融情感分析模型,并在广泛部署的 FinBERT 上验证了效果。ASI 利用 LLM 驱动的多智能体流水线识别符合条件的金融新闻句子并施加针对性词汇替换,在 90.85% 的合格案例中成功欺骗 FinBERT,模型常在金融业绩指标被根本反转的情况下仍维持原有情感预测。定性分析与 token 级调查显示,FinBERT 严重依赖上下文关键词和句法模式,而非对金融语义的真正逻辑理解。作者强调需要逻辑感知、更稳健的金融 NLP 模型,以保障自动交易、投资组合管理与风险评估等自动化决策系统的可靠性。