中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境

随着生成式人工智能技术快(kuài)速发展，利(lì)用人工智能技术生成或合成文字(zì)、图像、音乐、视频、3D等(děng)数字内容成为网络空间内容的主要生产方式，不断为数字(zì)经济、产业(yè)发展甚至社会变革注入强大动(dòng)力。然而，伴随内容生成合成门槛的不断降低，新技术(shù)的(de)滥用也对网络空间治理提(tí)出了(le)更大(dà)挑战(zhàn)。当前，中(zhōng)美欧等均探索将内容披露和标识义务入法，国内外多家互联网(wǎng)公司也逐步推进标识嵌入和管理举措(cuò)，内容(róng)标识已然成为全(quán)球打击虚(xū)假(jiǎ)有(yǒu)害(hài)信息的通(tōng)行做法。为顺(shùn)应这(zhè)一实践趋(qū)势和产业(yè)需(xū)求，国家互联网信息办公室等部门适时发布《人(rén)工智(zhì)能生成合成内容标识办法》（下称《办(bàn)法》）及配套国家标准(zhǔn)《网络安全(quán)技术人工智(zhì)能生成合(hé)成内容标识方(fāng)法》（下称《标识方法》），全方位、多层次地规范人(rén)工智能内容标识要求和方法，迈出了(le)完善我国人工智(zhì)能治理制度的重要一步。

一、问题导向，破解人工(gōng)智能生成合成内容新需求新风险(xiǎn)

立足于生成式(shì)人工智能(néng)健康发展和规范应用，《办法》以问题为导向(xiàng)，通(tōng)过系统(tǒng)性、创新性制(zhì)度设计，全面回应了对人工智能生成合成内容标识的要求。

一是先行提出(chū)生成合成内容标(biāo)识的中国方案(àn)。针对人工智能内容(róng)生成合成带来的颠(diān)覆性风(fēng)险挑战，国际层面也在不断探索内容标识方(fāng)法(fǎ)和路径。欧盟(méng)2024年8月正式生效(xiào)的《人工智能法案》规定了(le)要确(què)保人工智能生成合成内容(róng)的透明度义务，要求平台添加强制(zhì)性水印。美国(guó)加州2024年8月发布《数字内容溯源(yuán)标识法案(àn)》，要求在人工智(zhì)能生成物中嵌入可溯源数据，以确保内容来(lái)源(yuán)的(de)透明度。国际电信联盟2024年7月(yuè)发布《检测深度(dù)伪(wěi)造和生成式人工智能：人(rén)工智能水印和多媒体真实性标准研讨会的报告》，包括内容标识在内(nèi)，初步探讨了深度(dù)合成内容检测的标准协作安排。《办法》根植于我国发展实践，立足长远、着眼前(qián)瞻、行动快(kuài)速，率先(xiān)通过标准完善补(bǔ)充生成式(shì)人工智(zhì)能(néng)综合治理机制，有力支撑了科技向善的治理理念，为世界贡献发展与安全并行的(de)人工(gōng)智能治理(lǐ)中国方案。

二是着力(lì)加强服务商生成合成内容标识的规范性。随着人工智能生成合成内容工具的普(pǔ)及化和可(kě)及化发(fā)展(zhǎn)，技(jì)术应用的门槛较之前大大降低。早在2022年中央网信办等就发布了《互联网信息服务深度合成管理(lǐ)规定》（以下简称《规定》），明确指(zhǐ)出深度(dù)合成服务提供者应(yīng)当在生(shēng)成或者(zhě)编(biān)辑的信息内容的合理位置、区域进(jìn)行显著标识，向公众提示深度合成情况(kuàng)。但《规(guī)定》主要明确了需要添加标识的情况(kuàng)，对于添(tiān)加标(biāo)识的(de)位置(zhì)、字型和表达并未做出具体要求，因此各类企业在实施过程中出现了文本内容显式标识不明显、难察觉，音频、视频等(děng)内容显式标识未插(chā)入、浅提示，隐式标识少信息(xī)、难校验等问题，对于落实监管(guǎn)提出了挑战。出(chū)台《办法》，是进(jìn)一步推进(jìn)生成合成内容标识工作的必要举措，对规范(fàn)互联网(wǎng)信息服务深(shēn)度合成管理、解决生(shēng)成合(hé)成内容标识突出问题(tí)、推进信息网络生态环(huán)境治理意义重大，影响深远。

三是进一(yī)步完善生成(chéng)式人工智能监管问责体系。生成式人(rén)工智能生成合成内容涉及(jí)多种类型的主体，清(qīng)晰界定各主体义务更有利于压实主体责任，便利技术检(jiǎn)测实施，进而落实精(jīng)准问责。《办法》不仅界定了(le)人工智能生成(chéng)合成内(nèi)容的基本概念(niàn)，更针对服务提(tí)供者、传播平台、应用服务(wù)分发平台和用户(hù)分别规(guī)定了具体标识要求，为各相关(guān)主(zhǔ)体落(luò)实合规指明(míng)了方向。由此，《办(bàn)法》就现行责任制度作(zuò)出补充(chōng)，充分细化了《规(guī)定》提(tí)出(chū)的深度合(hé)成服务提供(gōng)者和技(jì)术支持者行为规范，为促进(jìn)新技术(shù)新应用的规范发(fā)展提供(gōng)了有益(yì)范例。

二、明确要求，促进人工(gōng)智能(néng)生成合(hé)成(chéng)内容精细化治理(lǐ)

人工智能生成合成内容不仅包括文本、图像、音频、视频等多种表现形式，更在“元宇宙”等交互(hù)式、沉浸(jìn)式场景中提(tí)供了(le)更多实现方案(àn)。《标识方法》对于人工(gōng)智能(néng)生成合成内容进(jìn)行了全方位覆盖(gài)，并且进一步明确(què)了《办法》要求和具(jù)体操作指(zhǐ)引。

一(yī)是(shì)区分显式标识(shí)和隐式标识规范要求。为满足当前可感知和(hé)不可感(gǎn)知的两类标识方法需要，《标识方法》清晰阐述(shù)了各自(zì)的关键要素(sù)要求，对于显式标识主要围绕文字要素、位置、字型、颜色、音频节奏、视频像素和交互提示等提出要求，对(duì)于元数据和内容(róng)隐式标识提出生成合成标签要素、服务提(tí)供者要素和内容编(biān)号要素等关键(jiàn)指引。

二(èr)是列(liè)举显式标识(shí)典型应用场景。《标识方法》通过列举式的方式对于显(xiǎn)式标识的应用场景做出了进一(yī)步细化，在《规定》中提到的五类(lèi)显著(zhù)标识应用场景之(zhī)外加以补充(chōng)，包括文生图片等图片内容生成服(fú)务；音乐(lè)等音频内容生成服务；文生视频、图生视频等视频内容生成服务(wù)。新列(liè)举的三(sān)类(lèi)典(diǎn)型(xíng)应用场(chǎng)景属(shǔ)于2022年后迅速发展(zhǎn)起来新型(xíng)生成合成(chéng)内(nèi)容(róng)形式，尤其是ChatGPT、Sora展示出视(shì)频内容生(shēng)成的强大潜能。《标识方法》囊括(kuò)此三类(lèi)典型应用场景有利于针对性、前瞻性开展监管，符(fú)合生成式人(rén)工智能的技术原理与产(chǎn)业需要。

三(sān)是规范元数据隐式标识格式要求。此前生成合成内容隐式标(biāo)识方法在不同规模(mó)、不同技术水(shuǐ)平的企业间应用各不相同，标识的标签信息也未(wèi)有(yǒu)一致，这就导致识别隐式标识对于监管主(zhǔ)体和内容平台而(ér)言面临(lín)挑战。《标(biāo)识方法》为解决这一问题，对于隐式标识(shí)扩展字(zì)段关(guān)键词和(hé)应包括(kuò)的标签、编号、预留字段的值等添加了具体(tǐ)说明，为行业统一、稳定、持续落实隐式(shì)标识要求提供了有效措施。

四是展示显式和隐式标识各(gè)要求(qiú)对应示例。《标识方法》以图(tú)片(piàn)示例(lì)的形式对于各类显式和隐式标识要求进行了展示，有助于企业(yè)直观了解标准(zhǔn)要求，避免因文字(zì)表述引发的模糊和歧义，从(cóng)而推动行业协同落实，提升治理效(xiào)能。

三(sān)、守正创新，兼(jiān)顾内容生成合(hé)成服务管理(lǐ)与(yǔ)技术创新应用

人工智能生成合成技术应在(zài)安全的前提下规范使用、加速发(fā)展，以高水平的治理保障高质(zhì)量发展。《办法》及《标识方法》充(chōng)分考虑(lǜ)“用”和(hé)“管”两侧需求，最(zuì)大限度减少内容标识对于用户使用的(de)影响，推动企业自主自愿(yuàn)展示标识(shí)。一是(shì)提供多种(zhǒng)标(biāo)识方法(fǎ)，适应更多产品形态(tài)。《标识方法(fǎ)》对(duì)于文(wén)本内容(róng)显式(shì)标(biāo)识(shí)创新提出角标形式，仅需在内(nèi)容末尾加注角标“AI”即(jí)可高(gāo)效满足要求，对于音频(pín)内容则首次提出音频(pín)节奏标识(shí)，在音频适当位(wèi)置加入“短长短短”节奏的摩斯码表(biǎo)示即可达到(dào)提示作用。此类标识方法不仅(jǐn)对于(yú)企业而(ér)言便于打造不同(tóng)产品样态，也能保障(zhàng)用户使用体验和(hé)认知效果，在实现监管目的的同时(shí)也为(wèi)技术发展(zhǎn)提供了有效保障。二是划分不同(tóng)主(zhǔ)体责任，精细化避风港原则适(shì)用。《办法》虽然将标识(shí)添加(jiā)的责任主要(yào)施加于服(fú)务提供(gōng)者和上传内容的(de)用(yòng)户，但(dàn)未对传(chuá中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境n)播平(píng)台和应用分发平台实施“一刀切”式的避风(fēng)港规则。《办法》采取一种更为精细化的路径，详细规定传播平(píng)台应当对文件元数据中的扩展字段进行核验，提示(shì)用户(hù)生成(chéng)合成内(nèi)容信息，并在文(wén)件(jiàn)元数据中添加传播要素信息(xī)；应用服(fú)务分发平台应(yīng)在应用程序上架或上线审核(hé)前核验服务提供者(zhě)是(shì)否(fǒu)按要求提供生成合成内容标(biāo)识功能。此举有助于(yú)适当调整服务提供者、使(shǐ)用者和传播分(fēn)发平台的(de)义(yì)务分配，避免相(xiāng)关平台“隐身”于深度合成监管(guǎn)体系，从而真正(zhèng)实现齐抓共(gòng)管、协同共治的(de)治理机制，有效维护健(jiàn)康向善的信(xìn)息(xī)网络生态环境(jìng)。

作者：魏凯，中国信(xìn)息(xī)通(tōng)信研究(jiū)院人(rén)工智能研究(jiū)所所长

来源：“网(wǎng)信中国(guó)”微信公众号

校(xiào) 审(shěn) | 谨言、珊珊

编辑 | 凌霄

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境