整治AI时代的信任危机
，网信办就AI合成内容的标识办法征求意见

　　随(suí)着生成(chéng)式(shì)AI的爆发，社(shè)交媒体上的内容越来(lái)越真假难辨，人们很难确信(xìn)某张照片或(huò)视频是真实存在的瞬间，以往(wǎng)的一句“眼见(jiàn)为实”在(zài)当下已经需要打(dǎ)上(shàng)问号。

　　为应对这一冲击，9月14日，国家互联 网信(xìn)息办公室发布《人工智能生成(chéng)合(hé)成内容标识办法(fǎ)（征(zhēng)求意见稿）》（下文简称《意见稿》），在《互联网信息服务深度
合成(chéng)管(guǎn)理规定》《生(shēng)成式人工智能服务管理暂行办法》等法律法规上(shàng)，进一(yī)步细化了AI合(hé)成内容的(de)标识办(bàn)法。

　　“这是全球范围内(nèi)第一部关于(yú)人工智能生成合(hé)成内容标识的国家标准(zhǔn)，是关于人(rén)工智能内容治理机制建设的重要探索，对人工智能内容产业的有序发展和业务规则具(jù)有重要的指引意义，也有助(zhù)于(yú)人 工(gōng)智能良性(xìng)生态的培育。”北(běi)京师范大学(xué)法学院副教授、中国互(hù)联网协(xié)会研究中心副主任吴沈括对第一财经(jīng)表示。

　　细化内容生成标识

　　此次的《意(yì)见稿》提出，人工智(zhì)能生成合成内(nèi)容(róng)标识包括显式标识和(hé)隐式标识。显(xiǎn)式标识是指在生成合成内
容或者交(jiāo)互场(chǎng)景界面中添加(jiā)的，以文字、声音、图(tú)形等方(fāng)式呈现并(bìng)可(kě)被用户明显感知到的标(biāo)识。隐式标识是指采取技术(shù)措施在生(shēng)成合成内容文件数据(jù)中(zhōng)添加(jiā)的，不易被用户明显整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见感知(zhī)到的标
识。

　　不同(tóng)互联(lián)网平(píng)台的义务不尽相同。垦丁律所创始合伙人朱骏超告诉记者，网络信(xìn)息(xī)服务提(tí)供者的义务包括确保显式标识、添(tiān)加隐式标识；提供网络信息(xī)内容传播平台服务的服务提(tí)供者的义(yì)务包
括核验隐式标识、添加提示标识、管理疑(yí)整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见似内容，管理疑似(shì)内(nèi)容包(bāo)括(kuò)在疑似生(shēng)成合成内容的文件元(yuán)数据中添加生成合成(chéng)内容属(shǔ)性信息、传播平台(tái)名称或编码、内容(róng)编号等传播要素信息；互联网应用程序分发平台的义(yì)务包(bāo)括核验标识(shí)功能，即在应用程序上架(jià)或上线审核时，核验服务提供(gōng)者(zhě)是否按要(yào)求提供生成合成内容标识功能(néng)。

　　具体而言(yán)，针对(duì)提供生成合成服(fú)务的网络信息服(fú)务提供者，《意(yì)见稿》第四条(tiáo)提出，如(rú)果提供《互联网信息服务深度合成管理规定》第十七(qī)条第一款情形(xíng)规定的深度合成服务，可能导致公众混淆或者(zhě)误认的(de)，应当按要求对生(shēng)成(chéng)合成(chéng)内容添加显式标识 。

　　《互联网信息服务(wù)深度合成(chéng)管理(lǐ)规定》第(dì)十七条第一款提到的具体情形包括(kuò)：智(zhì)能对话、智能写作等模拟自然(rán)人(rén)进行文本的生成或者编(biān)辑服务；合成人声、仿声等 语音生成或者显著改变个人身份特征的编辑服务；人(rén)脸生成(chéng)、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务等。

　　显式标识方式 根据内容表(biǎo)现(xiàn)形式有所差异。如(rú)果(guǒ)是图片，则(zé)需在适当位置添加显著的提示(shì)标识(shí)；如果是视频，则在视频起始画面和视频(pín)播放(fàng)周边(biān)的适当位置添加显著的提示标识，可在视频末尾和中间适当位置添加显著的(de)提示标识，等等。

　　《意(yì)见稿》还要(yào)求提供生成合成服务的网络信息服务提供者，在生成合成(chéng)内容的文件元数据中(zhōng)添加隐式标(biāo)识，隐式标识需包含生成合成内容属性信息、服务提(tí)供者名称或编码、内容编号等制作要素信息。同时，提(tí)供(gōng)网络信(xìn)息内(nèi)容(róng)传播平台应当(dāng)采(cǎi)取措(cuò)施，规范(fàn)生成合成内容传播活动。包(bāo)括提供必要(yào)的标识功能，并提(tí)醒用户(hù)主(zhǔ)动声明发布内(nèi)容中是否包(bāo)含生成合成内容等(děng)。

　　如果违反这(zhè)一规定，未(wèi)对生成合成内容进行标(biāo)识造成严重后果的，将(jiāng)由网信等有(yǒu)关主管部门按照有关法律(lǜ)、行政法规、部门
规章的规(guī)定予以处罚。

　　新壹科技副总裁陈鹏对(duì)记者表示，《意见稿》保护了用户权益，通过显式和(hé)隐式标识，用户(hù)可以更容易地识(shí)别出内容是否由人工智能生成，有助(zhù)于保护(hù)用户的知
情权和选择权。另外，通过这一规范能增强内容可信度，减少误 导(dǎo)和(hé)滥用的可(kě)能性。

　　吴沈括对(duì)记者提到，内容标识(shí)是目 前关于人工智能内容治理中的一种非常重要(yào)的机制设计，它对于避免深度伪造带来的安全风险有非常大的价值，且通过标准(zhǔn)的统(tǒng)一也有助于引导各(gè)方的业务规则、业务设计和业务(wù)模式，对于全链条的风险
防范具有非常重(zhòng)要的作用(yòng)，也能有(yǒu)助于公众识别AI内容的真伪和权威性。

　　汉王科技天地大模型算法负责人彭菲
认为，这一办法(fǎ)的出台具有重要意义和积(jī)极作(zuò)用(yòng)，不仅保护了公民、法人(rén)以及其他组织的合法权益，而且维护国家安全和社会公共利(lì)益。

　　“比如数据(jù)安全(quán)方面，显示和隐式标识(shí)有助于提高数据(jù)的(de)可追溯(sù)性，从而增强(qiáng)数据安全；通过明确标识AI生(shēng)成的内容，有效(xiào)防止误(wù)导(dǎo)性信息的(de)传播，减 少因(yīn)技术滥用而
引发的社会问题。版权管理方面，办法明确AI生(shēng)成(chéng)内容的来源和版权归属，维护了创(chuàng)作者的合法权(quán)益。”彭菲(fēi)认为，通过(guò)这些标识，用户能更容易识别出(chū)合成内容，从而规范和(hé)负责地使用这些内容，减(jiǎn)少(shǎo)虚假信息的传(chuán)播。该办法有助于促使行业(yè)服务提(tí)供者规范地开展业务，推动人工智 能技术的健(jiàn)康(kāng)发展和广泛应用。

　　防范AI犯罪

　　“《意见(jiàn)稿》大意(yì)是说生成
相关(guān)内(nèi)容如图(tú)片、视频、文(wén)字、语音必须(xū)标(biāo)识说(shuō)明为AI生成，防止有人恶意造谣、诈骗，引发(fā)不良(liáng)影响的社会舆论，防止相关犯罪发 生。之前有人非法用他人头像(xiàng)或者脸部做合成，通(tōng)过AI转换语音进行诈骗，类似这种恶性事(shì)件应该杜绝。”AI视频(pín)制作者冯彬告诉(sù)记者。

　　就在8月底，韩国出现多(duō)起利用AI换脸伪造(zào)女(nǚ)性色情露(lù)骨(gǔ)图(tú)像的(de)犯(fàn)罪案，在这(zhè)背后(hòu)，犯(fàn)罪者用深度(dù)伪造技术(shù)（Deepfake）合成(chéng)色情照片和视频，并在(zài)通信软件(jiàn)Telegram的群聊中传播，参与者多达22万人，引发韩国民众恐
慌，有人将(jiāng)其称之为韩国又一“N号房”丑闻 。

　　深度伪造这一技术(shù)犯(fàn)罪，不仅仅出(chū)现在(zài)韩国，这两年在全球都有出现(xiàn)在国内，今年6月，“男子用AI伪(wěi)造学生同事近7000张裸照”冲上微(wēi)博热搜(sōu)。据央(yāng)视新闻消息，犯罪嫌疑人用AI“一键 去衣”技术，深度伪造淫秽图片近(jìn)7000张，再每张1.5元卖出，赚了将近一(yī)万元(yuán)。图片涉及女性(xìng)人数多，包(bāo)括学(xué)生、教师、同事。

　　冯(féng)彬表示(shì)，现在(zài)多个视频平台(tái)都(dōu)有向视频上传者提供类(lèi)似“作者声明：内容为(wèi)AI生(shēng)成(chéng)”的标识(shí)选项(xiàng)，包括抖音(yīn)、b站、快手、视频号，但(dàn)是没(méi)有强(qiáng)制创作者选择(zé)。据他观察，没有(yǒu)标识为AI内容的(de)视频(pín)，平台会识别出一(yī)些并标识类似“疑似AI生成(chéng)”的字段(duàn)。

　　冯(féng)彬认为，平台在标识、提醒内容是否为AI生成方面，应该更严格一(yī)些。相比视频、图片，平台应(yīng)该更难识别文本是否为(wèi)AI生成，而(ér)从传播效果看，视频可能是“假新闻”更多采用(yòng)的载体(tǐ)，AI换(huàn)脸、AI语音这(zhè)些有可能滋生诈骗的内容也尤其值得关注。

　　目前(qián)国内外(wài)已经达成共识，要对AI生成 内容进行标识和管理(lǐ)。去(qù)年(nián)7月，美国白宫与大型科技公司达成协议，为人工智能的开发设(shè)置更多防护措施(shī)，包括开发水(shuǐ)印系统(tǒng)等。欧盟委员会也要求社(shè)交媒体公司标记(jì)所有由人工智能生成的内(nèi)容。

　　科技(jì)公(gōng)司
已(yǐ)经开始尝试用技术(shù)制衡AI滥
用。今年2月，OpenAI 团队推出“AI 生成内容(róng)识(shí)别(bié)器(qì)”，旨在识别文本是由电脑自动生成还是人类撰(zhuàn)写，其本质上是一个区(qū)别(bié)真(zhēn)实内容和 AI 生成内容的分类器。不过，OpenAI 在博(bó)客中指出，此(cǐ)识(shí)别(bié)器对 AI 撰写内(nèi)容的检(jiǎn)出成功率仅为 26%。

　　今年5 月，谷歌在(zài) Google I/O 大会上公布了AI 生成图像识别工具，用户可以通过上(shàng)传来源不明的图片、执行反向图片搜索(suǒ)，了解到(dào)这张 图片被谷歌初次收录的时间、最(zuì)早出现的网站(zhàn)。谷(gǔ)歌还宣布，它自己的生成式 AI 工具
将在每张(zhāng)图(tú)片中包(bāo)含元数(shù)据、嵌入水印，以表明这(zhè)是 AI 生(shēng)成的图像，而不是真实(shí)照片。相比AI 生(shēng)成内容识(shí)别器，数字水印被认为可能(néng)是更有效的方法。

　　更早前，微软在Build 2023开(kāi)发者大(dà)会上(shàng)，宣(xuān)布增加一(yī)项功能，让任何人都能识(shí)别(bié)Bing Image Creator和Microsoft Designer生(shēng)成的图像或视频片段是否(fǒu)是由AI生成(chéng)的(de)。该(gāi)技术使用密(mì)码学方法对AI生成的内容进行标记和签(qiān)名，并附上有(yǒu)关其来源的元数据信息。

　　吴沈括(kuò)表示，企业方面的是微生态，此次出台的标识办(bàn)法标准则是国家和产业 的大生态，“力度(dù)很大”。

　　（本文来自第(dì)一 财经）

责任(rèn)编辑：刘万里 SF014

未经允许不得转载：中央空调,电梯,空气能热水器-中央空调,电梯,空气能热水器 整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见