2024年6月12日，由全国网络安全标准化技术委员会主办，中国电子技术标准化研究院、阿里云计算有限公司承办的“人工智能安全技术与标准研讨会”在江西南昌顺利召开，来自网安标委成员单位代表、人工智能相关科研机构专家、企业代表等360余人参加了本次会议。

本次会议邀请到中央网信办网络安全协调局处长唐鑫、清华大学计算机系副主任徐恪、阿里云标准化部副总裁朱红儒等业界专家大咖齐聚一堂，共同探讨人工智能安全治理框架，大模型安全重点风险等事宜。

阿里云标准化业务副总裁朱红儒介绍了生成式人工智能安全标准与治理实践：生成式AI发展至今产生了很多基础技术以及应用模式的创新，也带来了全新的挑战和思考。过去一年，超长上下文、多模态、AI Agent、模型轻量化等技术进一步促进了大模型的发展，同时也带来了全新的风险挑战。阿里云积极参与生成式AI国家标准工作，从数据源头、模型安全、内容生成等AI全链路积极开展实践和推动相关标准工作，致力于发展安全可靠可信可用的大模型技术，通过标准向业界输出优秀实践。

本次研讨会以标准为中心，分享了国内外人工智能安全相关的标准、工作实践、应用思考和实际案例，提出当前形势下面临的风险挑战以及标准化与治理思路，为各方面共同做好人工智能安全工作共享信息、分享经验，为下一步开展人工智能标准研制工作开拓了思路，为促进人工智能安全有序发展、提升人工智能产业安全水平提供支撑。