【检测信息】AIIA安全治理委员会2025年第一次工作组会顺利召开

标题摘要内容

来源:CAICT AI安全治理 | 作者:AI 小生 | 发布时间: 2025-07-21 | 125 次浏览 | 分享到:

2025年7月16日上午，中国人工智能产业发展联盟（AIIA）安全治理委员会2025年第一次工作组会议在北京亦庄信创园顺利召开。本次会议汇聚了产学研各界的权威专家和行业代表，围绕人工智能安全治理的核心问题开深入探讨。与会专家就人工智能安全攻防、风险管理、安全评估等关键问题进行了充分交流，分享了最新研究成果和实践经验。会议通过多维度、多视角的研讨，为构建安全可信的人工智能治理体系提供了建设性的思路，为推动我国人工智能产业有序健康发展献智出力。

会议伊始，中国信息通信研究院人工智能研究所安全与具身智能部高级业务主管静静梳理近期AIIA安全治理委员会的工作成果。重点介绍了人工智能安全标准预研、产品测试评估、安全能力构建、AI安全前沿技术研究等方面的工作进展。同时静静明确，2025年下半年，AIIA安全治理委员会将加大力度，持续加快AI安全标准预研、AI安全评测体系构建的速度。

中国移动通信集团有限公司网信安部副处级高级专家江为强进行了《具身智能机器人安全风险与防护思考》的分享。江为强博士阐述了具身智能的内涵、智能机器人发展的多元化路径、中国移动具身智能发展总策略，演示了“灵犀机器人”系列产品。分析了基于“大脑、小脑、神经、身体”的具身智能系统技术架构，归纳了具身智能四个层级安全风险,提出了具有运营商特色的具身智能多层次安全防护体系，最后给出了中国移动在具身智能安全防护领域的实践探索，为产业各方开展具身智能安全防护工作提供了方案参考。

中国联通研究院首席研究员陶冶分享了《中国联通人工智能安全治理思考与实践》。系统阐述了中国联通在人工智能安全治理领域的思考与实践，梳理了人工智能技术的发展历程及安全趋势，指出2025年将成为“AI+垂直行业”规模化应用的元年，安全与伦理问题也随之日益凸显。深入分析当前AI领域面临的主要安全风险，包括数据泄露、版权侵权、模型滥用及幻觉问题等挑战。重点介绍了中国联通在人工智能安全治理方面的创新实践，包括自主研发的“人工智能安全治理一体化解决方案”，已在大模型内容安全评测、幻觉减轻、价值观对齐等核心技术领域取得突出进展，下一步中国联通将发挥好网络安全现代产业链链长融通带动作用，与链上伙伴一同护航人工智能安全发展。

北京邮电大学网络空间安全学院袁开国进行了人工智能安全评估关键技术研究的分享。针对行业大模型/智能体容易被攻击而执行错误推理、生成违规内容、泄露敏感数据，甚至在具身智能时代执行攻击性操作等巨大风险，大模型安全评估平台应对大模型开展安全性评估，推动大模型安全增强。主要从两个方面开展评估，一是评估大模型生成内容是否符合《生成式人工智能服务安全基本要求》要求，二是评估大模型在提示注入和对抗样本等方面的安全水平。

中国信息通信研究院人工智能研究所高级业务主管、AIIA安全治理委员会治理组组长呼娜英围绕“人工智能风险管理路线图工作思考”展开分享，从全球产业实践视角介绍了各方推动人工智能安全治理迈向风险管理的务实实践，结合中国信通院在风险识别、阈值设定、评估方法及应对策略等方面的研究基础分享风险管理相关观察。下一步，中国信通院将依托《人工智能安全承诺》，着力打造风险管理最佳案例集、凝聚产业共识共建风险阈值、编制可落地的测试评估标准，以推动产业健康发展。

奇安信集团AI产品副总裁江爱军分享了AI赋能安全攻防的研究与实践。江爱军首先分析了大模型时代，攻击方利用AI技术赋能后攻击能力和速度的跃升使得攻防两端形势不平衡加剧，防御方也全面利用 AI 技术提升防御的效果和效率。随后分享了奇安信使用 QGPT 安全大模型和 QAX-GPT安全智能体底座赋能安全运营、代码安全、自动化渗透、漏洞挖掘等多个应用场景。最后展望AI赋能攻防的未来，从目前AI 辅助单点能力的效能提升，到所有环节通过自主式智能体构建全流程的 AI新体系化防御。

蚂蚁数科技AI科产品总监鲁玮分享了大模型内容安全防御体系思考与实践。蚁天鉴是蚂蚁集团发布的、金融级AI大模型安全产品，核心聚焦大模型内生安全，尤其针对生成式内容安全提供防护。可覆盖大模型全生命周期的去毒，测评和防御能力，支持内容安全、数据安全、科技合规及隐私伦理等全域防御，满足网信办TC260和金融合规等场景化防御要求。蚁天鉴可应对多类注入式提示词攻击手法，并且在金融、互联网，传统行业实现重要应用。

中国电信高级项目经理马宇飞以《中国电信AI安全实践与思考》为题，重点阐述了公司在AI安全治理领域的体系化实践路径：一是积极参与国家及联盟层面AI安全标准规范制定；二是构建覆盖研发、部署、运营全流程的AI安全风险管理机制；三是聚焦大模型等前沿领域，创新内生安全防护与评测能力；四是依托高质量数据集安全平台，打造“数智融合”的AI安全防护体系。通过分享在标准、管理、技术、能力建设等方面的标志性成果，彰显了中国电信在推动安全可信人工智能发展、服务国家数字中国建设大局中的坚实贡献与责任担当，为行业贡献了安全治理新范式。

重磅成果发布：

本次会上，重磅发布了多项人工智能安全治理工作成果，并正式启动了“AI+安全先锋案例征集”活动。

大模型一体机安全评估规范：中国信通院人工智能所安全与具身智能部工程师邵彦华进行了《大模型一体机安全要求与评估方法》的解读。本次汇报首先界定了大模型一体机的核心定义，并系统梳理其潜在安全风险；在此基础上，基于已识别的安全风险构建了配套的安全要求体系与评估方法，对大模型一体机各层级安全问题的检验流程与测评路径进行了详细阐明。并且会上为核心参编单位颁发了证书。