深圳市人工智能产业研究部认为：大模型安全已成为当下国家和行业亟待解决的紧迫任务。在科技飞速发展的当下，AI大模型展现出了惊人的进化速度，其在语音生成、视频生成、图片生成以及文本生成等诸多方面的能力日益精湛，不仅逐渐逼近人类水平，在部分专业领域甚至实现了超越。这种强大的能力也预示着AI大模型的应用范围将不断拓展，深入到社会生活的各个角落。然而，福祸相依，AI大模型的广泛使用也带来了潜在的巨大风险。倘若这些强大的技术落入不法分子之手，以电诈行业为例，未来受害者可能即便通过电话和视频沟通，也难以辨别对方真伪，这无疑将使人们遭受诈骗的概率大幅攀升。再者，随着具身智能的兴起与发展，AI大模型将能够直接对物理世界施加影响。一旦某个别有用心的AI大模型被训练成具有伤害甚至毁灭人类的倾向，整个人类社会都将面临前所未有的生存挑战。从国际视角来看，美国在AI风险防范方面已先行一步。2024年，美国出台的20个主要AI相关政策和报告中，有8个聚焦于AI风险防范，这清晰地表明AI风险防范已成为美国AI政策的核心关注点。我国在这方面虽然起步稍晚，但必须迅速行动起来。在2025年，我国应全方位发力，在底层架构、数据端、训练端以及应用端等各个关键环节，构建起体系化的风险防范政策和机制，以此规避AI未来可能产生的危害人类的风险，确保AI技术始终沿着造福人类的方向发展。与此同时，我国还需审慎权衡安全与发展之间的微妙关系。在全力保障AI大模型安全应用的同时，务必避免因政策过度严苛而束缚了AI行业的创新活力与发展潜力。
