人工智能技术的迅猛发展正成为推动新一轮科技革命和产业转型的核心引擎。在深度赋能各行各业的过程中，以生成式大模型为代表的AI技术伴随落地而来的安全风险持续升级。模型生成内容的偏见误导、训练数据隐私泄露、对抗攻击引发的系统崩溃等事件频发。

为应对以上挑战，北银金科建设并上线大模型安全测评平台，创新打造涵盖内容安全性、模型安全性、数据安全性、模型鲁棒性、内容可靠性、应用安全性维度的评估框架。通过AI对抗攻防测试、数据匿名化验证、多模态伦理审查等技术手段，系统性检测大模型抵御对抗样本攻击、数据投毒、提示词劫持等新型威胁的能力，为金融领域的AI应用落地提供保障。