孙松儿：高质量安全语料数据集为AI大模型上“保险”

新华三集团高级副总裁、新华三信息安全技术有限公司总裁孙松儿发言。孙松数据孙宁摄

人民网北京5月9日电 (记者栗翘楚)5月9日，儿高“可信语料筑基，质量智能生态共赢——2026人民网数据智能伙伴大会”在人民日报社举行。安全新华三集团高级副总裁、语料新华三信息安全技术有限公司总裁孙松儿在主题分享环节表示，大模在AI应用加速爆发的型上时代，要以AI全面赋能安全能力提升，保险以安全守护AI健康发展，孙松数据高质量安全语料数据集建设是儿高关键基础。

孙松儿表示，质量AI在提升生产效率、安全带来便捷的语料同时，也带来了安全挑战。大模算力边界安全、模型漏洞利用、数据训练污染等问题日益突出。AI同样被攻击者利用，如开源大模型降低了漏洞挖掘的技术门槛，AI生成的钓鱼邮件、勒索软件模仿用户生态和仪态，上述现象值得关注。

传统的安全防护手段，对新的安全攻击是否仍然有效？孙松儿给出的答案是“拥抱AI”。他表示，业界安全技术发展的趋势只有一个方向——用AI来强安全，用安全来保AI。围绕算力、模型、应用三个层面，需要构建综合安全治理体系，安全的底座至关重要。

孙松儿直言，打造安全的大模型，离不开高质量的安全语料数据集，从攻防对抗的实战视角，将渗透、防护等专业领域知识转化为可用于训练的语料对，是重要方向。建议由牵头单位或联盟推动，形成产学研用协同的安全语料建设机制。

谈到模型安全护栏，孙松儿表示，无论是涉黄、涉恐识别还是合规检测，都需要高质量语料数据集的支撑。在这方面，人民网具备权威性、完整性的先天优势。

“安全和AI，目前从发展方向来看，大家都在拥抱，它不是简单的零和博弈。”孙松儿说。

对于当前AI智能体应用，孙松儿以“龙虾”为例提出思考：“‘龙虾’很火，但目前都是对公域数据的调用。企业要用‘龙虾’，必然涉及核心业务系统的开放，身份管控和权限控制不解决，‘龙虾’走不进企业。”他认为，需要一套AI安全网关作为中间件，做好智能体的身份管理和后端业务系统的权限控制。

栗翘楚

本文地址：http://www.dbgfu.com/news/53f68999257.html