1月15日,由深圳市人工智能产业协会主办的团体标准《智能体安全评测规范》技术研讨会在线上线下同步召开。来自政府监管部门、科研机构及腾讯、金蝶等头部企业的数十位专家齐聚,共同为智能体安全评测标准制定建言,助力人工智能产业规范发展。

随着智能体在各行业的应用持续深化,安全风险与合规需求日益凸显,制定统一的安全评测规范是防范技术风险、响应行业迫切诉求的关键举措。深圳市人工智能产业协会执行副会长吕刚在致辞中介绍,协会自2019年成立标准化委员会以来,已在团体标准制定中积累丰富经验,此次聚焦智能体安全领域推进标准制定,既是落实产业规范要求的重要行动,也能为AI产业化进程保驾护航。
会上,杭州君同未来科技有限责任公司标准化负责人索佳慧详细解读了《智能体安全评测规范》的标准内容。该规范涵盖八部分核心内容,围绕输入安全、输出安全、行为安全、工具安全、数据安全五大维度构建评测体系,明确安全优先、全面覆盖等四大原则,采用自动化测试与人工复核相结合的方式,划分三个风险等级并设置评测红线。
研讨环节,专家们重点围绕标准适用范围、五大评测维度的合理性与全面性、评测指标设置逻辑、评测方法科学性、评测流程规范性、安全风险覆盖程度等关键内容展开探讨。同时,就标准与现有国标衔接、智能体定义准确性、测评实施细节、不同应用场景适配性等内容交换视角,为标准完善提供多元思路。

此次智能体安全评测规范技术研讨会的成功举办,有效凝聚了行业共识、汇聚了多方智慧。会议所形成的研讨成果,将为智能体安全评测标准的优化完善提供重要支撑,进一步健全人工智能产业安全治理体系,为AI技术在各行业的规范应用与健康发展筑牢基础。下一步,深圳市人工智能产业协会将联合编制单位,全面梳理、充分吸纳与会专家提出的建设性意见,持续打磨标准内容,着力推动形成兼具科学性、实用性与可操作性的行业评测体系,实现标准可落地、可认证、可推广。未来,协会也将持续发挥桥梁纽带作用,携手产业各方共同筑牢智能体产业安全防线,为产业高质量发展保驾护航。
有意向参与标准工作的企业请与标准编制工作组联系:
标准化工程师杨铭源 13378049306
标准化工程师曾君豪 19256691589