中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境

随着生成式人工智能技(jì)术快速(sù)发展，利用人工智能技术生成或合成文(wén)字、图像、音乐、视频、3D等数字内容成为网络空间内容的(de)主要生产方式，不断为(wèi)数字经济、产业发展甚至社会变革(gé)注入(rù)强大动力。然而，伴随内容生成合(hé)成门(mén)槛的不断降(jiàng)低，新(xīn)技术的滥用(yòng)也对网络空间治(zhì)理提出了更大挑战。当前，中美欧等均探索将内容披露和标识(shí)义务入法，国内外多家互联网公司也逐步推进标识嵌(qiàn)入(rù)和管理举(jǔ)措，内容标识已(yǐ)然成(chéng)为全球打击虚假有害信息的通行做法。为顺应这一实践趋势和产业需求(qiú)，国家互(hù)联(lián)网信息办公室(shì)等部门适时发布《人工智能(néng)生成合成内容标识办法》（下称《办法》）及(jí)配套国家标准《网络安全(quán)技术人工智能(néng)生成合成内容标识方法》（下称《标识方法》），全(quán)方位、多层次(cì)地规范人(rén)工智能内容标识要求(qiú)和方(fāng)法，迈出(chū)了(le)完善(shàn)我国人工智能治理制(zhì)度的重要(yào)一步(bù)。

一、问题导(dǎo)向，破(pò)解人(rén)工智能生成合成内容新需求新风险

立足(zú)于生成式(shì)人(rén)工智能健康发展和规(guī)范应用，《办法》以问题为导向，通过系统性、创新性(xìng)制度设计(jì)，全面回应了对人工(gōng)智能生成合成内容标识的要求。

一是先(xiān)行提出生成合成内容标识的中(zhōng)国方案。针对人(rén)工智能内容生成合成带来的颠覆性风险挑战，国际层面也在(zài)不断探索内(nèi)容标识方法和路径。欧(ōu)盟2024年8月正(zhèng)式生效的《人工(gōng)智能法案》规定(dìng)了要确保人工智能生(shēng)成合成(chéng)内容的透(tòu)明度义务(wù)，要求平台添(tiān)加强制性水印。美国(guó)加州2024年8月发布《数字内(nèi)容(róng)溯源标识法案》，要求在人工智能生成物中嵌入可溯源数(shù)据，以确保内容来源的(de)透(tòu)明度(dù)。国际电信联(lián)盟2024年7月(yuè)发布《检测(cè)深度伪造(zào)和生成式人工智能：人工智能水印和多媒体真实性标(biāo)准研讨会的报告(gào)》，包括(kuò)内容标识在(zài)内，初步探(tàn)讨了深度(dù)合成内容(róng)检测的标(biāo)准协作安排。《办法》根植于我国发展实(shí)践，立足长远(yuǎn)、着眼前瞻、行动(dòng)快速，率先通过标准完善(shàn)补充生成式人工(gōng)智能综合治理机制，有力支(zhī)撑了科技向善的治(zhì)理理(lǐ)念，为世界贡献发展与安全并行的人工智能治理中国(guó)方案。

二(èr)是着力(lì)加强服务商生(shēng)成合成内容标识的规范性。随着人工智能生成(chéng)合成内容工具的普及化和可及化发(fā)展，技术应用的门槛较之前大大降(jiàng)低。早在2022年中央网信办等就发布了《互联网信息服务深度(dù)合成管理规定》（以(yǐ)下简称《规定》），明确指出深度合成服(fú)务提供者应当在生成或者编辑的信息内(nèi)容的合理位置、区域进行显著标识，向(xiàng)公众提示深(shēn)度合成情况。但《规定》主要明确了需要添加标识的情况，对于添加标识的位置(zhì)、字型和表达并未做(zuò)出具(jù)体要求，因此各类企业在实施过程中出现了文本内容显式标识不明显、难察觉(jué)，音频、视频等内容显式标识未插入、浅提示，隐式标(biāo)识少信息、难校验等问题(tí)，对于落实监管提出了挑战。出台《办法》，是进一步推进生成合成内容标识(shí)工作的必要举措，对(duì)规范互(hù)联网信息服务深(shēn)度合成管(guǎn)理、解决生(shēng)成合成内(nèi)容标识突出问题、推(tuī)进信(xìn)息网络生态(tài)环境治理意义重大，影(yǐng)响深远。

三是(shì)进一步(bù)完善生成式人工智能监管(guǎn)问责体系。生成式人工智能生成合成内容涉及多种类型的主体，清晰界定各(gè)主体义务更有利于压实主体责任，便利技(jì)术检测实(shí)施，进而(ér)落实精准问责。《办法》不仅界定(dìng)了(le)人工智能(néng)生成合成(chéng)内容的基本概念，更针对服务提供者、传播平台、应用服务分发平台和用户分别规定了具(jù)体标(biāo)识要求，为各(gè)相关主体落实合规指明了方向。由此，《办法》就现行责任制度(dù)作出补充，充分细化了《规定(dìng)》提出的深度合成服务(wù)提供者和技术支持者行(xíng)为规范，为促进新技术新应(yīng)用(yòng)的规范发展提供了有(yǒu)益范(fàn)例。

二、明确要求，促进(jìn)人工智能中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境生成合成(chéng)内容精细化治理

人工智能生成合成内容不仅包括文本、图像、音频、视频(pín)等多种表现形式(shì)，更在(zài)“元宇宙”等交互式、沉浸式(shì)场(chǎng)景中提供了(le)更多实现方案。《标识方法(fǎ)》对于人工智能生成合(hé)成内容进行了(le)全方(fāng)位覆盖，并且进一步明确了《办法》要求和具(jù)体操作指引。

一是区分(fēn)显式标识和隐式标识规范要求。为满足当前可感知和不可感知的两(liǎng)类标(biāo)识方法需要，《标识方法(fǎ)》清晰阐(chǎn)述了(le)各自的关键(jiàn)要(yào)素要求，对于显式标(biāo)识主要围绕文字要素(sù)、位置、字型(xíng)、颜色、音频节奏、视频像素和交互提示等提出要求，对于元(yuán)数据和内容(róng)隐式标识提(tí)出(chū)生(shēng)成合成标(biāo)签要素(sù)、服务提供者要素和内容编号要素等(děng)关键指引。

二是列举显式标识典型应用场景。《标识方法》通过列举式(shì)的方式对(duì)于(yú)显式(shì)标识的应用场景做出了进一步细化，在《规定》中提到的五(wǔ)类(lèi)显著标识应(yīng)用场(chǎng)景(jǐng)之外加以补充，包(bāo)括文生图片等(děng)图片内容生成服务；音乐(lè)等音频内容生成服务；文生(shēng)视频、图生视(shì)频等视频内(nèi)容生成(chéng)服务。新列举的三类(lèi)典型应(yīng)用场景属于2022年后迅速发展起来新型生(shēng)成合成内容形(xíng)式，尤其是ChatGPT、Sora展示出视频内容生成的强大潜能。《标(biāo)识(shí)方法》囊括此三类典型应用场景有利于针对性、前瞻性(xìng)开展监管，符合生成(chéng)式人工智(zhì)能的技术原理与产业需要(yào)。

三是(shì)规范元(yuán)数据(jù)隐式标识格式(shì)要求(qiú)。此(cǐ)前生(shēng)成合成内容隐式标识方法(fǎ)在(zài)不同规模、不同技术水平的企业间应用各不相同，标识的标签信息也(yě)未有(yǒu)一致(zhì)，这就导致(zhì)识别隐式标识对于监管主体和内容平台而言面临挑战。《标识方法(fǎ)》为解决这一问题(tí)，对于隐式标识扩展字段(duàn)关键词和应包括的(de)标签、编号(hào)、预留字段的值等添加了具体说明，为行业(yè)统一、稳定、持续落实隐(yǐn)式标识要求(qiú)提供了有效措(cuò)施。

四是展(zhǎn)示(shì)显式和隐(yǐn)式标识各要求对(duì)应示例。《标识方法》以图片示例的形式对于各类显式和隐式标识要求进行了展示，有助于企业直观了解(jiě)标准要求，避免因文字表述引(yǐn)发的模糊和歧义，从而推(tuī)动行业协同落实，提升治理(lǐ)效(xiào)能。

三、守正创新，兼顾内(nèi)容(róng)生成合成服务(wù)管理与技术(shù)创(chuàng)新应用

人工智能(néng)生(shēng)成合成技术应(yīng)在安全的前提下规范使用、加速发展，以高水平的(de)治理保障高质(zhì)量发展(zhǎn)。《办法》及《标识方法》充分考虑“用”和“管”两侧需求，最大限度(dù)减少内(nèi)容(róng)标识对于用户使用的影响，推动企业自主自愿展(zhǎn)示标识。一是提供(gōng)多种(zhǒng)标识方法，适应更多(duō)产品形态。《标识方法》对于(yú)文本内容显式(shì)标识创新提(tí)出(chū)角标形(xíng)式，仅需在内容(róng)末尾加注角标“AI”即(jí)可高效满(mǎn)足要求，对于音频内(nèi)容则(zé)首次提出音频节(jié)奏(zòu)标识，在音频适当位置加(jiā)入“短长短短”节奏的摩(mó)斯码表示即可达到提示作用。此(cǐ)类标识方法不仅对于企业(yè)而言便于打造不同(tóng)产品样态，也能保(bǎo)障用户使用体验和认知效果，在实(shí)现监管目的(de)的同时也为(wèi)技术发展提供了有效保(bǎo)障。二是划分不同主体责(zé)任，精(jīng)细化避风港原则适用。《办法》虽然将标识添加的责任主要施加于服务提供者和上传内容的用户，但未对传播(bō)平台和应(yīng)用分发平台实施“一刀切”式(shì)的避风港规则。《办法》采取一种更为精细(xì)化(huà)的路径，详细规定传播(bō)平台(tái)应当对文件(jiàn)元数据中(zhōng)的扩(kuò)展字段(duàn)进(jìn)行核验，提示用户生成合成内容信(xìn)息，并在文件元数据中添加传播要素信息(xī)；应用服务分发平台应在应用程序上架或(huò)上线审核前核验服务提供者是否按要(yào)求提供生成合成内(nèi)容标识功能。此举有助于适当调整(zhěng)服务提供(gōng)者、使用者和传(chuán)播分发平台(tái)的义务分(fēn)配，避免相关(guān)平台“隐身”于深度合成(chéng)监(jiān)管体系，从而真正实现齐抓共管(guǎn)、协同共治的治理机制，有效(xiào)维护健康向(xiàng)善的信息网络(luò)生态环境。

作者：魏凯(kǎi)，中国信息通信研究院人工智能研究所所长

来源：“网信中国”微信公众(zhòng)号

校审 | 谨言、珊珊

编辑 | 凌霄

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境