2025中国国际大数据产业博览会（以下简称 “数博会”）期间，360数字安全集团总裁胡振泉受邀出席“数据安全治理与发展”交流活动。他聚焦AI领域关键数据安全治理难题，系统剖析AI领域关键数据面临的内外部双重安全挑战，并提出“以模制模”新范式，以四大智能体为AI领域关键数据安全治理提供可落地的实践路径。

360数字安全集团总裁胡振泉

AI领域关键数据安全风险进入“爆发期”

胡振泉表示，当前大模型技术加速落地、智能体规模化应用，AI已成为推动产业升级的核心动力。但技术红利背后，AI领域关键数据安全风险正进入“集中爆发期”，呈现“内忧外患”的态势。值得一提的是，针对AI系统的战略性攻击成为大国博弈关键战场，黑客可借AI窃取核心数据、生成虚假内容、操控社会舆论，甚至破坏物理世界运行；专业化黑灰产组织更将AI与APT攻击结合，用AI生成木马、病毒等工具打造“数字黑客”智能体，加剧数据泄露与网络攻击风险。

“AI领域数据安全问题已远超传统网络与数据安全范畴。”胡振泉强调，AI安全问题可划分为传统安全、AI内容安全、AI应用安全及未来安全四大类，而其中最为关键的数据安全治理的核心，是确保数据承载的“信息”安全、合法、健康。当前，AI生成虚假数据用于欺诈、输出错误敏感信息、遭恶意提示词诱导泄露数据、因“幻觉”杜撰虚假数据等问题频发，不仅阻碍政企单位AI落地，更可能引发数据安全事故、意识形态扭曲等风险，对AI领域关键数据安全治理提出更高要求。

他进一步指出，传统安全手段难以应对AI数据安全新挑战。传统安全企业缺乏大模型深度研究能力，仅能解决基础数据安全问题；现有大模型企业对数据安全、内容安全认知不足，二者均无法突破AI领域关键数据安全治理瓶颈。

360“以模制模”构建AI数据安全治理新体系

在此背景下，360基于自身AI实践与数据安全治理经验，提出“以模制模”AI安全治理新范式——通过大模型安全卫士应对AI数据安全问题，实现“数网智安一体化”，筑牢AI数据安全防线。具体来看，可靠层面，结合安全大脑与私有化部署，保障数据存储、使用全流程安全；可信层面，借助RAG知识增强与搜索增强，减少大模型“幻觉”，保障输出数据准确性；向善层面，以内容护栏与风控大模型，防范AI被恶意利用生成有害数据；可控层面，依托Agent管控与全程审计，规避智能体被恶意操作导致的关键数据被不可逆地破坏。

在场景化落地过程中，360大模型安全卫士针对不同AI应用场景的特性，制定了差异化数据安全治理策略：面向境内AI公共开放服务，重点围绕“备案合规+全量数据内容安全审核”构建防护体系，确保服务符合监管要求与内容安全标准；针对政企私域AI专用服务，聚焦“客户隐私数据保护、企业机密数据防泄露、意识形态数据导向把控” 三大核心，匹配内部业务数据安全需求；对于政企跨境AI服务，则以“跨境数据访问权限管控、传输加密、存储合规”为关键，解决数据跨境流动中的安全与合规难题。

为将“以模制模”范式转化为实际防护能力，360大模型安全卫士进一步构建四大核心措施，形成AI数据安全闭环治理：一是内容安全智能体，通过幻觉抑制、内容护栏大模型，解决 AI 生成数据虚假、违规问题；二是 AI Agent 安全智能体，依托行为、权限、数据框架，规避智能体执行中的数据失控风险；三是软件安全智能体，识别 AI 供应链开源组件漏洞，从源头杜绝数据泄露；四是AI安全评估智能体，通过红蓝对抗靶场检测数据安全短板，强化防护能力。

“数据安全治理与发展”交流活动作为本届数博会的重要活动之一，由中国国际大数据产业博览会执委会主办，中国互联网协会承办，中国互联网协会数据安全与治理工作委员会、贵州大数据安全工程研究中心、贵州省互联网协会支持。本次活动共500余人参会，得到了与会嘉宾的一致好评。中国互联网协会将继续广泛开展相关活动，为推动数据安全产业高质量发展贡献力量。