网站无障碍 关怀版 无障碍客户端 @isc.org.cn

当前位置

首页> 新闻动态> 协会动态

分支机构动态丨网络与信息安全工作委员会:“政策解码·赋能共赢”沙龙(第二期) 大模型与智能体安全新范式在京举办

2026年04月24日 16:28

4月22日,由中国互联网协会网络与信息安全工作委员会(以下简称“工作委员会”)主办、北京百度网讯科技有限公司承办的“政策解码·赋能共赢”沙龙(第二期)在京举办。本次活动聚焦“大模型与智能体安全新范式”,汇聚政、产、学、研各界专家代表 60 余人,多位嘉宾专程赴京参加本次沙龙。本次沙龙以最新出台的智能体监管政策为切入点,围绕技术攻防与安全检测等核心议题展开深度研讨,并结合企业一线实战经验,共探智能体时代安全治理新路径。

upfile

活动现场

工作委员会副秘书长在致辞中指出,智能体技术的快速演进正在重塑网络安全的攻防格局,其风险已从传统的技术层面向决策执行层面延伸,工作委员会将持续发挥政策宣贯与行业协同的桥梁作用,推动形成覆盖全链路的智能体安全治理合力。对此,他提出四点核心思考:一是布局新兴技术,抢占安全治理先机。二是构建动态评估体系,提升精准治理能力。三是推动安全治理与产业生态深度融合,形成良性循环。四是强化伦理与法律协同,构建全方位治理框架。

upfile

百度杰出架构师、百度安全技术委员会主席包沉浮

包沉浮在致辞中指出,过去谈大模型安全,集中在内容合规与价值观对齐,而随着智能体走入企业业务流程,开始替人类调用API、操作系统及执行,安全风险从内容层向行动层跃迁,演变为融合网络安全、认知安全乃至物理世界安全的复杂命题。AI 安全因此比任何时候都更难、也更重要,百度通过全员普及“龙虾”等落地实践,在验证显著提升办公与研发效率的同时,也积累了大量第一手安全防护经验。百度愿将实战经验输出为行业可参考的实践样本,与产学研用各方携手探索智能体安全的新范式。

在政策解读环节,《人工智能拟人化互动服务管理暂行办法》核心编撰专家系统阐释了新规在服务行为规范、用户权益保护及信息披露等维度的关键要求。专家指出,监管层面正加速构建覆盖生成式AI与拟人化交互服务的全链条治理体系,并强调企业须将合规要求前置,深度融入智能体产品设计研发全流程,实现从“事后补救”向“内生合规”转变。

upfile

中国电子技术标准化研究院网安中心测评实验室副主任何延哲                 

在标准建设环节,何延哲作了题为《AI智能体安全体系构建和评估思路》的主题演讲。他提出,智能体安全评估需要从"感知—规划—行动"全链路出发,重点覆盖提示词注入、工具滥用、权限逃逸等典型风险场景,并通过标准化的评估指标为行业提供可量化、可对标的能力衡量坐标系,推动安全能力从定性描述向定量评测转变。

upfile

复旦大学计算与智能创新学院专任工程师马志远

在学术探索环节,马志远带来了《智能体安全及其自动化实践》的分享。他围绕智能体跨层漏洞、大规模服务风险测绘等前沿研究展开,介绍了团队面向真实世界渗透测试的TermiAgent自动化智能体、Web Agent通用安全评估框架以及MCP生态安全测量平台MCPZoo等一系列研究成果,为产业界提供了将学术洞见转化为安全工程实践的重要参照。

upfile

安恒信息副总裁符春辉  

在产品层面,符春辉分享了《智能体风险检测》的实践路径。他指出,随着智能体自治等级持续演进,安全风险已从内容合规扩展至行动执行全域,安恒信息围绕提示词越狱检测、MCP协议深度扫描、知识库对抗样本防御等六大核心检测通道,构建了覆盖全模态、全周期的智能体风险检测体系,为企业提供了从底层基础设施到上层应用服务的全栈式安全评估能力。

upfile

 百度AI安全护栏算法负责人吕中厚

在运行时防护环节,吕中厚分享了《智能体运行时安全纵深防御实践》。他提出,需在智能体执行链路上构建"输入层前置识别—外部注入净化—风险动作实时阻断—轨迹审计"四层纵深防护架构,以"阻而不断"的原则实现安全干预与业务体验的平衡,并通过自动化攻防闭环推动防护能力持续自进化。

upfile

百度安全风险治理负责人曹新宇

在企业加固环节,曹新宇以《百度内部智能体加固实践》为题,结合OpenClaw如流版、dodo智能体等典型业务场景,介绍了百度在产品安全、身份安全、智能体安全、网络安全与数据安全五个维度的整体加固方案。他重点介绍了可信Skills中心建设、智能体防护插件、零信任全链路加固和操作审计等核心机制,为行业提供了具有参考价值的企业级智能体安全实践样本。

在交流研讨环节,中国电子技术标准化研究院、梆梆安全、启明星辰、深信服等多位参会代表围绕“未来AI发展趋势” “智能体安全风险演进”以及“企业智能体安全体系建设”等核心议题各抒己见,展开了热烈的交流与深入探讨。

本次沙龙的举办,既是工作委员会顺应智能体安全治理新形势的前瞻响应,也是政产学研协同探索规范化发展路径的重要实践。未来,工作委员会将继续发挥平台枢纽作用,以前瞻视野和务实举措为抓手,深化权威政策解读与产业方向指引,为筑牢智能体时代安全底座、推动人工智能高质量发展贡献力量。

2026 Copyrights reserved 京公网安备11010802048025号 京ICP备05006316号 版权所有:中国互联网协会
技术支持:北京圣明慧力科技有限公司