网站无障碍 关怀版 无障碍客户端 @isc.org.cn

当前位置

首页> 新闻动态> 协会动态

2026中国互联网大会丨智能体安全发展论坛在京举办

2026年07月09日 21:25

由中国互联网协会主办的2026(第二十五届)中国互联网大会于7月8日-10日在京召开,大会主题为“智启新程·融创未来——以数智合力谱写“十五五”发展新篇章”。智能体安全发展论坛暨中国电信第六届科技节·北京站于7月8日下午举办,论坛由中国电信集团有限公司、中国电信科学技术协会及天翼安全科技有限公司联合主办,以“安全护智·智驭未来,智安共行·安融未来”为主题,汇聚政产学研顶尖力量,共同探讨智能体的安全发展与新质生产力的提升路径。

中国互联网协会专家咨询委员会常务副主任、中国电信科技委主任邵广禄和天翼安全科技有限公司总经理毛东峰出席论坛并致辞。

upfile

中国互联网协会专家咨询委员会常务副主任、中国电信科技委主任邵广禄分享三点建议:第一,立足全球视角,把握创新与安全合规的辩证关系。安全合规是可持续创新的前提,创新是提升安全能力的基础,要在发展中求安全,动态平衡,共生共荣。第二,强化标准引领,完善治理体系。加快推进智能体安全相关标准研制,完善评估规范与测试验证体系。中国互联网协会将发挥社会组织的平台优势,推动行业标准互通与风险共治。第三,积极参与全球治理。当前全球智能体治理,缺少统一规则,各国标准不统一,将增加建设和运营成本。建议产学研用各界,与政府监管部门及社会组织,主动参与国际AI标准制定,建立跨境智能体发展与安全交流机制,平衡产业发展诉求与公共安全底线,推动形成国际共识,建立良好的全球智能体发展生态。

upfile

天翼安全科技有限公司总经理毛东峰表示,中国电信天翼安全坚持以“安全 for AI、AI for 安全”双轮驱动:一方面,面向AI技术自身打造体系化安全防护体系,系统破解智能体等新型应用带来的未知安全难题;另一方面,将AI技术深度注入安全产品与服务,打造业内一流的“见微”安全垂类大模型,推动威胁检测、应急响应、合规审计等安全能力全面智能化升级,以智能技术反哺安全产业效能升级。与此同时,我们将系统构建企业级AI安全治理体系,明确AI应用的安全准入标准、运营规范与责任机制,同时积极参与国家人工智能治理框架与规则制定,支撑行业监管能力提升,协同产业各方共同研判、积极应对人工智能应用风险,确保人工智能发展安全、可靠、可控。

upfile

北京邮电大学网络空间安全学院副院长彭海朋以《证明论密码学:当逻辑法则成为安全根基》为题作主旨报告。报告立足密码学底层逻辑,解读证明论密码学创新价值,探析逻辑法则赋能AI+安全体系建设的深层路径,为筑牢网络安全底层技术根基提供了全新视角。

upfile

中国信息通信研究院安全研究所数据安全监测中心主任彭志艺发表《AI智能体带来的全新安全挑战和治理实践》主题演讲,立足全球AI智能体产业爆发式发展的宏观格局,多维度剖析智能体催生的全新安全挑战,研判国际国内安全治理的演进态势,结合典型落地场景拆解风险传导逻辑,提出体系化治理路径与实践方案,为构建智能体安全治理体系、护航产业高质量发展提供前瞻指引。

upfile

数世咨询创始人李少鹏作《人工智能的本质、困境与数字安全境遇》主题演讲,分析了大语言模型的本质、AI在安全产业的落地状况以及存在的困境与机遇。他指出,高质量语料转化与基模的系统性重构是垂域模型的两大挑战。模型需要的是“当看到A日志和B流量组合时,说明攻击者正在进行C操作,因为D原理,所以我们应该采取E措施”的专家级推理文本。

upfile

腾讯云安全资深架构师赵思雨介绍了智能体时代企业级代码安全扫描方案。方案旨在构建安全专用的漏洞挖掘与验证工作流,结合自研AI深度审计引擎与静态分析工具Xcheck,形成“AI深度审计+规则扫描”双引擎协同的代码安全方案。通过情报驱动的聚焦扫描、独立二次校验与沙箱自动化验证,实现从漏洞发现到PoC确证的闭环交付,为企业代码提供深层安全保障。

upfile

会上,天翼安全科技有限公司首席产品官唐洪玉发布天翼智安2.0产品体系。他表示,当前,人工智能已从“内容生成时代”加速迈入“智能体执行时代”,各行各业在引入智能体提升效率的同时,面临着新的安全挑战:智能体资产看不清、身份权限管不住、调用链路不透明、数据泄露难防范、行为失控难追溯。AI智能体是否能安全上线、是否可信可管、发现问题是否能追责,这些都成了亟须解决的问题。

围绕上述痛点,中国电信持续强化人工智能安全治理,形成了“1+1+X”的天翼智安AgentSec2.0安全体系,即一套智能体安全运营体系、一个智能体安全平台,以及面向多行业的X类安全产品和场景化解决方案,构建“可发现、可信任、可控制、可追溯、可运营”的智能体安全体系。一是在运营层面,建设Agent MSS智能体安全运营体系,围绕监测、研判、响应、巡检、优化、报告,帮助客户实现智能体安全的持续运营,而非一次性检测。二是在平台层面,打造AgentSec One智能体安全平台,实现统一资产、统一能力、统一策略、统一审计、统一运营。三是在产品层面,形成五类核心产品:智能体雷达负责资产测绘,解决“看不见”的问题;智能体安全管家负责体检评估核查,解决“上线前不放心”的问题;智能体安全护栏负责防攻击、防泄漏、防越权,解决“运行中失控”的问题;智能体安全网关负责接入、管控和审计,解决“调用链不可控”的问题;Token安全路由器负责连接、调度和安全,解决“入口安全与资源调度”的问题。

upfile

在业界之声环节,中国科学院自动化研究所研究员吴书发表《面向大语言模型的内生安全》主题演讲。演讲聚焦大语言模型与智能体在复杂环境下的核心安全挑战,旨在实现表征可信、交互安全与行为可控。首先,剖析了多模态幻觉机理,通过表征干预与鲁棒知识编辑保障输出事实可信;其次,探究对齐脆弱性,利用强化学习构建动态越狱防御以确保交互安全;最后,提出抗文本篡改的安全调用框架,实现智能体外部行为可控。

upfile

中国电信股份有限公司上海分公司高级工程师曾莹分享了针对涉诈APP分析人工依赖重、脚本脆弱、难以规模化等痛点,构建AI驱动的智能分析研判系统。以多智能体为核心引擎,融合视觉理解与异构沙箱,实现APP自主探索、动态取证与全链路闭环,将"人工盯单"升级为"平台化批量研判"。已在上海长宁、普陀、杨浦公安分局落地应用,形成面向公安、企业、家庭三端的推广模式,为全国反诈治理提供可复制的智能基础设施,推动反诈防线从"人防"向"智防"跃升。

upfile

西安交通大学助理教授胡博文表示,随着大模型和智能体技术的快速发展和广泛应用,AI智能体的行为分析和安全审计对于保障网络和数据安全至关重要。针对智能体复杂执行中面临的提示词注入、越权操作、数据泄露等风险,介绍了一套以通用采集和深度可观测为核心,覆盖基础设施、运行过程与外部接口的智能体监测审计体系,该体系基于多引擎检测、动态阻断和AHP风险评估等可实现智能体一体化监测审计与管控。此外,探讨了方案的落地成效与推广价值。

本次论坛的举办,为政府部门、行业组织及企业搭建了高效对话平台,有力推动了智能体安全发展共识的形成与实践创新。

2026 Copyrights reserved 京公网安备11010802048025号 京ICP备05006316号 版权所有:中国互联网协会
技术支持:北京圣明慧力科技有限公司