为规范人工智能生成合成内容标识，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，国家互联网信息办公室14日就《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见。意见反馈截止时间为2024年10月14日。
征求意见稿提出，人工智能生成合成内容是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。人工智能生成合成内容标识包括显式标识和隐式标识。
根据征求意见稿，网络信息服务提供者应当按照有关强制性国家标准的要求进行标识。服务提供者提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识。征求意见稿指出，提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动。包括提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容等。“内容标识已然成为全球打击虚假有害信息的通行做法。为顺应这一实践趋势和产业需求，国家互联网信息办公室等部门适时发布《人工智能生成合成内容标识办法》（下称《办法》）及配套国家标准《网络安全技术 人工智能生成合成内容标识方法》（下称《标识方法》），全方位、多层次地规范人工智能内容标识要求和方法，迈出了完善我国人工智能治理制度的重要一步。”中国信息通信研究院人工智能研究所所长魏凯表示，《办法》全面回应了对人工智能生成合成内容标识的要求，先行提出了生成合成内容标识的中国方案，加强了服务商生成合成内容标识的规范性，进一步完善了生成式人工智能监管问责体系。
浙江大学计算机科学与技术学院院长，区块链与数据安全全国重点实验室常务副主任任奎认为，国家网信办发布了《人工智能生成合成内容标识办法（征求意见稿）》（以下简称《办法》）以及配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法（征求意见稿）》（以下简称《标准》）的提出规范内容标识，可以防范误解与滥用风险。同时标准化多模态标识与全周期监管，也可推动AI健康发展。面对核心技术革新带来的巨大挑战，《办法》和《标准》对于人工智能产业的开发部署、检测评估、合规管理以及安全应用有着重要的指导作用，让中国能够在全球智能技术浪潮中先行一步。
