视频号
    标题 摘要 内容
    详情

    715日,国家网信办等五部门联合出台的《人工智能拟人化互动服务管理暂行办法》正式施行,这是国内首部针对AI情感陪伴类拟人交互产品的专项监管文件。文件明确监管对象为依托AI技术、提供持续性真人化情感互动的文字、音视频陪伴服务,纯办公问答、智能客服等无情感交互功能产品不在约束范围。办法坚持发展与安全并重,实行包容审慎、分类分级监管,划定六大内容红线,严禁诱导用户情感沉迷、向未成年人开放虚拟亲密关系服务、泄露用户隐私等行为;同时要求企业完成网信备案、留存交互日志、搭建情绪干预与未成年人专属保护机制,也明确鼓励适老陪伴、文化传播、特殊群体帮扶等正向场景技术创新。

    我院认为,本次新规并非行业发展约束,而是AI拟人化产业高质量发展的制度基石。此前市场大量虚拟陪伴、数字人交互产品快速迭代,隐私泄露、未成年人保护缺失、虚实社交异化等风险持续凸显,行业长期缺乏统一治理标准。新规清晰厘清人机交互伦理边界,把安全合规转化为企业标准化运营指引,同时保留创新发展空间,区分娱乐情感交互与产业服务类数字人,避免一刀切监管。从长期看,规范治理能够淘汰粗放式违规产品,降低行业整体舆论与合规风险,引导研发资源向具备社会价值的交互场景倾斜,推动技术创新与伦理治理同步前行。

    广东坐拥大湾区大模型产业集群,本地数字人、虚拟交互产品广泛落地文旅、政务、养老场景,产业基础雄厚。本地企业需加快完成产品合规改造,完善未成年人保护、数据隐私、情绪风险预警配套功能;依托广东大模型备案服务体系,建立常态化合规自查机制。同时立足本地文旅、银发经济优势,聚焦适老陪护、文旅数字讲解、乡村品牌虚拟IP等合规赛道深耕,规避低俗虚拟陪伴类业务。各地产业园区可联合科研机构搭建合规测评平台,形成研发、测试、备案一体化服务链条,以规范合规打造大湾区AI拟人交互产业竞争优势。

    图片1.png