中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境

随着生成式(shì)人工智(zhì)能技术快速(sù)发展，利用人工(gōng)智能技术生成或合成文字、图像、音乐、视频、3D等数字内容成为网络空间内容的主要生(shēng)产方式，不(bù)断为数字经(jīng)济(jì)、产业发展甚至社会变革(gé)注入强大动力。然而，伴随内容生成合成门槛的不断降低，新技术的滥用也对网络空(kōng)间治(zhì)理提出了更大挑战。当前，中美欧等均探索将内容披露和标识(shí)义务入法，国内外多家互联网公司也逐步推进标识嵌(qiàn)入和管理举措，内容标识已然成为全球打击(jī)虚(xū)假有害信息的通行(xíng)做法。为(wèi)顺应这一实践趋势和产业需求，国(guó)家互联网信息办(bàn)公室等部门适时发(fā)布《人工智能生成(chéng)合成内容标识办(bàn)法》（下(xià)称《办法》）及配(pèi)套国家标准《网络安全技术人工智能生成合成内容标(biāo)识方法》（下称《标识方(fāng)法》），全(quán)方位、多(duō)层次地规范人工智能内容标识(shí)要求和方法，迈出(chū)了完善我国(guó)人工智能治理制度(dù)的重要(yào)一步。

一、问题导向，破解人工智能生成合成内容新需求(qiú)新风险

立足(zú)于生成式(shì)人工智(zhì)能健康发展和(hé)规范应用，《办法》以(yǐ)问题为导向，通过系统性、创新(xīn)性制度(dù)设计，全(quán)面回应了(le)对人工(gōng)智能生成合成内容标识的要求。

一是先行提出生(shēng)成合(hé)成内容标识的中国方案。针对人工智能内容生成合成带来的颠覆(fù)性风险(xiǎn)挑战，国际层面也在不断探(tàn)索内容标识方(fāng)法和路径。欧盟2024年8月正(zhèng)式生效的《人工智能法案》规定了要(yào)确保人工智能生成合成内容的透明度义(yì)务，要(yào)求平台添加强制性水(shuǐ)印。美国加州2024年8月发布《数(shù)字内容溯源(yuán)标识法案(àn)》，要求在人(rén)工智能生成物中嵌入(rù)可(kě)溯源数(shù)据，以确保内容来源的透明度。国际电信联盟2024年7月发布《检(jiǎn)测深度伪造和(hé)生成式人工智(zhì)能：人工智(zhì)能(néng)水印和多媒体真(zhēn)实性标准研讨会的报告》，包括内容标识在(zài)内，初(chū)步探讨(tǎ中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境o)了深度合成内容检测(cè)的标准协(xié)作安排。《办法》根植于我(wǒ)国(guó)发展实(shí)践(jiàn)，立(lì)足长远、着眼前瞻、行(xíng)动快(kuài)速，率先通过(guò)标准完善补充生成式人工智能综合(hé)治理机(jī)制，有力支撑了科技向善的治理理念，为(wèi)世(shì)界贡(gòng)献发(fā)展与安(ān)全并(bìng)行的(de)人工智能治理中国方案。

二是着力加强服(fú)务商生成(chéng)合成内(nèi)容标识的规范性。随着人工智(zhì)能生成合成内容工具的普及化和可(kě)及化发展，技术应用的门槛较之前大大降低。早在2022年中(zhōng)央网信办等就发布了《互联网信息服务深度合成(chéng)管理规(guī)定》（以下简称《规定》），明确指出深度合成服务提供者应当在生成或(huò)者编辑的信息(xī)内容(róng)的合理位置、区域(yù)进行显著标(biāo)识，向公(gōng)众提示深度合成(chéng)情况。但《规定》主要明确(què)了需要添加标识的情况，对于添加标识的(de)位置、字型和表达并未做出(chū)具体要(yào)求，因此各类企业在实施过程中出现(xiàn)了文本内容显式标识不明显、难(nán)察觉，音频(pín)、视频等内容显(xiǎn)式标识未插入、浅提示(shì)，隐式(shì)标识少信息、难校验等问题，对于落实监(jiān)管提出了挑战。出(chū)台《办法》，是进一步推进生成合成内容标识工作的必要举措，对规范互联网信息(xī)服务深度合成管(guǎn)理、解决(jué)生成合成内容(róng)标识突出问题、推进信(xìn)息网(wǎng)络(luò)生(shēng)态环境治理意义重(zhòng)大，影响深远(yuǎn)。

三是进(jìn)一步完善生成(chéng)式(shì)人工智能监管问(wèn)责体系(xì)。生(shēng)成式人工(gōng)智能(néng)生成合成内(nèi)容涉及多种类(lèi)型的主(zhǔ)体，清晰界定(dìng)各主体义(yì)务更(gèng)有(yǒu)利于压(yā)实主体责任，便利技术检(jiǎn)测实施(shī)，进(jìn)而落实精准问责。《办法》不(bù)仅界定了人工智能生成合成内容的基本(běn)概念，更(gèng)针对服务提(tí)供(gōng)者(zhě)、传播(bō)平台、应用服务分发平台和(hé)用户(hù)分别规(guī)定了具体标识要求，为各相关主体落(luò)实合规指明(míng)了方向。由此，《办法》就现行责任制度作出补充，充分细化了《规定》提出的深度合成服务提供者和(hé)技术支持者(zhě)行(xíng)为规范，为促进新技术新应用的规范发(fā)展提供了有益范例。

二、明确要求，促进人工智能生成合成内容精(jīng)细化治(zhì)理

人(rén)工智(zhì)能生成合成内容不仅包(bāo)括文本、图像(xiàng)、音频、视频等多(duō)种表现(xiàn)形(xíng)式，更在“元宇宙”等交互式(shì)、沉浸式场景中提供了更多实现方案。《标识方法》对于人(rén)工智能生成合成内容进行了全方位覆盖，并且进一步明确(què)了(le)《办法》要求和具体操作指引。

一(yī)是区(qū)分显式标识和隐式(shì)标识(shí)规范要求。为满足当前可感知和不(bù)可感知的两类标识方法(fǎ)需要(yào)，《标识方法》清(qīng)晰阐述了各自的关键要素要求，对于显式标(biāo)识主要围绕文字要(yà中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境o)素、位置、字(zì)型、颜色、音频(pín)节奏、视频像素和交(jiāo)互(hù)提示等提出要求，对于元数据和内容隐式(shì)标识(shí)提出生成合成标签要素、服(fú)务提供者要素和内(nèi)容编号要素等关键指引。

中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境s-style="font-L">二是(shì)列举显(xiǎn)式标(biāo)识典(diǎn)型应用场景。《标识方(fāng)法(fǎ)》通过列举(jǔ)式的(de)方式对于显式标识(shí)的应用场景做出(chū)了进一步细化，在《规(guī)定》中提到的五类显著(zhù)标识应用场景之外加以(yǐ)补充，包括文生图片等图片(piàn)内容生成服务；音乐等(děng)音频内容生成服务；文生视频、图生视频等视频内容生成服务。新(xīn)列举的三类典型应用场(chǎng)景(jǐng)属于2022年后迅速发展起来新型生成合成内(nèi)容形式(shì)，尤其是ChatGPT、Sora展(zhǎn)示出视频内容生成(chéng)的(de)强大(dà)潜能。《标(biāo)识方法》囊括此三类典型应用场景有利于针对(duì)性、前瞻性开展(zhǎn)监管，符合生成式人工智能的技术原理与产业需(xū)要。

三是规范元数据隐式标识格式要求。此(cǐ)前(qián)生成(chéng)合成内容隐式标识方法(fǎ)在不同规模、不同技术水平的企业间应用各不相同，标(biāo)识的标签信息也未(wèi)有一致，这就导致识别隐式标(biāo)识对于监(jiān)管主体和(hé)内容平台而(ér)言面临挑战。《标识方法》为解(jiě)决这一问题，对于隐式标识扩展字段关(guān)键(jiàn)词和应包括的标签、编号(hào)、预留字段的值等(děng)添加了具体说明，为行业统(tǒng)一、稳定、持(chí)续落实隐式标识要求提供了有效措施。

四是展示显(xiǎn)式(shì)和隐(yǐn)式标识各要求(qiú)对应示例。《标识方法(fǎ)》以图片示例的形式对于各类(lèi)显(xiǎn)式和隐式标识要求进行(xíng)了展示，有助于企业直观了解标准(zhǔn)要求，避免因(yīn)文字表述引发的模糊(hú)和歧义，从而推动行业(yè)协同落(luò)实，提升(shēng)治理效能。

三、守正(zhèng)创新，兼顾内容生成合成服务管(guǎn)理与(yǔ)技术(shù)创(chuàng)新应用

人工智能生成合成技术应在安全的前提下规范使用、加速发展，以(yǐ)高水平的治(zhì)理保障高质量(liàng)发展(zhǎn)。《办法》及《标识方法》充(chōng)分考(kǎo)虑“用”和“管”两侧需求(qiú)，最大限(xiàn)度减少(shǎo)内容标(biāo)识对于(yú)用户使用的影响，推动企(qǐ)业自主(zhǔ)自愿展示标识。一是提供多种标识方法，适(shì)应更(gèng)多产(chǎn)品形态(tài)。《标识方(fāng)法》对于文本内容显式标识创新提出角标形式，仅需在内(nèi)容末尾加注角标“AI”即可高效满足要(yào)求，对于音频(pín)内容则(zé)首次(cì)提出音频节奏标识，在音频适当位置(zhì)加入(rù)“短长短(duǎn)短”节奏的(de)摩斯码表示即可达到提示作用(yòng)。此类标识方法不(bù)仅对于企业而言便(biàn)于(yú)打造不(bù)同产品样态，也能(néng)保障用户使用体验和(hé)认知效果，在实现监管目的的(de)同时也为(wèi)技术发(fā)展提供(gōng)了有(yǒu)效保(bǎo)障。二是划分不同(tóng)主体责任，精细化避风(fēng)港原则适用。《办法》虽然将(jiāng)标识添加的责(zé)任主要施加于服务提供者和(hé)上传内容的用户，但未(wèi)对传播平台和应用分发平(píng)台实施“一刀切”式的避风港规则。《办法》采取一种更(gèng)为精细化的路径，详细规定传播平台应当对文件元数据(jù)中的扩(kuò)展字段进(jìn)行核验，提示用户生成合成内容信息，并在文件元数据(jù)中添加传播要素信息；应(yīng)用服务分发平台应在应用程序上架或上线审核前核验服务提供(gōng)者是否按要求提供(gōng)生成合(hé)成内容标识功能。此举有助(zhù)于适当调整服务提供者(zhě)、使用者和传播分发平台的义务分配，避免(miǎn)相(xiāng)关平台“隐身”于深度合成监管体系，从而真正实现齐抓共管、协同共治的治理机(jī)制，有效维护健康向善的信息网络生态环境。

作者：魏凯(kǎi)，中国信息通(tōng)信研究(jiū)院人工智(zhì)能研究所所长

来源：“网信中国”微信公众号(hào)

校审 | 谨言、珊珊(shān)

编辑 | 凌霄

未经允许不得转载：中央空调,电梯,空气能热水器-中央空调,电梯,空气能热水器中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境