整 治AI时代的信任危机，网信办就AI合成内容的标识办 法征求意见

　　随着生成(chéng)式AI的爆发，社交媒体上的内容越 来越真假难辨，人们很难确信某张照(zhào)片或视频是真实存在的瞬间，以往的一句“眼见为实”在当(dāng)下已经需要打上问号。

　　为应对这 一(yī)冲击(jī)，9月14日，国家(jiā)互联网(wǎng)信息办公室发布(bù)《人(rén)工智能生成(chéng)合成内(nèi)容标识办法（征求意见(jiàn)稿）》（下文简称《意见稿》），在《互联网信息服务深度合(hé)成管理规定》《生成式(shì)人工智能(néng)服务管理暂行办法》等法律法规上，进一 步细化了AI合(hé)成内容的(de)标(biāo)识办(bàn)法。

　　“这是全球范围(wéi)内第一部关于人工智能生成(chéng)合成内(nèi)容(róng)标识的(de)国家标(biāo)准，是关于人工智能内容治
理机制建设的重要(yào)探索，对(duì)人工智(zhì)能内(nèi)容产业(yè)的有序(xù)发展和(hé)业(yè)务规则具有重要(yào)的 指引(yǐn)意义，也有助于(yú)人工智能良性生态(tài)的培育。”北京师范大学法学院副(fù)教授、中国互(hù)联网协 会(huì)研究中心副主任吴沈括对第一财经表示。

　　细化内容生成标(biāo)识

　　此(cǐ)次的《意(yì)见稿(gǎo)》提(tí)出(chū)，人工智能生成合成内容标识包括显式标识和隐式标识。显式标(biāo)识是指在生成合成内容或者交(jiāo)互场景界面中添(tiān)加的，以文字(zì)、声音、图形等方式呈现并可被用户明显感知到的标识。隐式标识是指采取技术(shù)措施在生成合成内容文件数据中添加的，不易(yì)被用(yòng)户明显感知到的标识。

　　不同互联网平台(tái)的义务不(bù)尽相同。垦丁(dīng)律所创始合伙人朱骏超告诉记者(zhě)，网络
信息服务提供者的义(yì)务包括确保显式标识、添加隐式(shì)标识；提供网络信息内容传播平台服务的服务提供者的义务包括核验隐式(shì)标识、添加提示标识(shí)、管理疑(yí)似内容(róng)，管理疑似内容包括在疑(yí)似生成合成内容的文件元数据中添加生成合成内容属性信息、传(chuán)播平台名称或编(biān)码、内容编号等传播(bō)要(yào)素(sù)信息(xī)；互联网应用(yòng)程序分发平台的义务包括核验(yàn)标识功能，即在应用程序上架或上线审核时，核验服务提供者是否按要求提供生成合成(chéng)内(nèi)容标识(shí)功能。

　　具体而言，针(zhēn)对提供生成合成服(fú)务的网络信息服务提供者，《意(yì)见稿》第四条提出，如果提供《互联网信息服务深度合成管理规(guī)定》第十七条第一款情形规定(dì整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见ng)的深度合成服务
，可(kě)能(néng)导致公众混淆(xiáo)或者(zhě)误认的，应当按要求对(duì)生成合成内(nèi)容添加显式标识。

　　《互 联网信(xìn)息服务深度合成(chéng)管理规定(dìng)》第(dì)十七条第(dì)一款提(tí)到的具体情(qíng)形包括(kuò)：智能(néng)对(duì)话、智能写作等模拟自(zì)然
人进行文本的生成或者编辑
服(fú)务；合成人(rén)声、仿声(shēng)等语音生 成或者(zhě)显著改变个人(rén)身份特(tè)征的编辑服务(wù)；人脸生成、人脸替换、人脸操控(kòng)、姿态操(cāo)控等人物
图像、视频生成或者显(xiǎn)著(zhù)改变个人身份特征的(de)编辑服务等。

　　显式标识方(fāng)式根据内容表现形式有所差异。如果是图片，则需在适当位置添加显著(zhù)的(de)提示标识；如果是视频(pín)，则在视频(pín)起始画(huà)面和视频(pín)播放周边的适当位置添加显著的提(tí)示(shì)标识，可在(zài)视频末尾和中间适当(dāng)位置添加显著的提示标识，等等。

　　《意见稿》还要求提供(gōng)生成(chéng)合成服务的网络信息服务提供者，在(zài)生(shēng)成合成内容的文件元数据中添加隐式标识，隐式标识需包含生成合(hé)成内(nèi)容属性信(xìn)息、服务提供者名称或(huò)编(biān)码、内容编号等制(zhì)作要素信息。同(tóng)时，提供 网络信息内容传播平台应当采取措施，规范生成合成内(nèi)容传播活动。包括(kuò)提供
必要的标识功能，并(bìng)提醒用户主动声明(míng)发布内容(róng)中(zhōng)是否包含生成合成内容等。

　　如果违反这一规定，未对生成合成内容进行(xíng)标识造成严重后果的，将由网信(xìn)等有关主(zhǔ)管部门按照有关法(fǎ)律、行政法规、部门规(guī)章的规定予以(yǐ)处罚。

　　新壹科技副总裁(cái)陈鹏(péng)对记者表(biǎo)示，《意见稿》保护了(le)用户权益，通过(guò)显式和隐式标(biāo)识
，用户可以更容易地识别出内容是否由(yóu)人工智(zhì)能生成，有助于保护用户的知情权和选(xuǎn)择权。另外 ，通过这一规范能增强内容可信度，减少误导和(hé)滥用的可能性。

　　吴沈括对记者提到，内容标识(shí)是目(mù)前关于人工(gōng)智能(néng)内容治理中(zhōng)的一种(zhǒng)非常重(zhòng)要的机(jī)制设计，它对于避免深度(dù)伪造带来的安全风险有非常大的价值，且通过标准(zhǔn)的统一也有助于引导各方的业务规则、业务(wù)设计和
业务模式，对于(yú)全链条的风险防范具有非常重要的作用，也能有助于公众(zhòng)识别AI内容的
真伪和权威性。

　　汉王科(kē)技(jì)天地大模型算法负责人彭菲(fēi)认为(wèi)，这一(yī)办法(fǎ)的出台具有重要意义和积极作(zuò)用，不仅保护了公民、法人以及其他组织的(de)合法权益，而且维护国家安全和社会公(gōng)共利益。

　　“比如数据安(ān)全(quán)方面，显示和隐式标识有助(zhù)于提(tí)高数据的(de)可追溯性，从(cóng)而增强数据安(ān)全；通过明确标识(shí)AI生(shēng)成的内容，有效防止误导性信息的传播，减少因技术滥用而引发的社会问题。版权管(guǎn)理方面，办法明确(què)AI生成(chéng)内容的(de)来源
和版(bǎn)权(quán)归属，维护了(le)创作者的(de)合法权益(yì)。”彭菲(fēi)认为，通过(guò)这些标识，用户能(néng)更容易整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见识别出(chū)合成内容，从而规范和负责地使用
这些内容，减少虚(xū)假信息的传播。该办法(fǎ)有助于促使(shǐ)行业服务提供(gōng)者规范地开展(zhǎn)业(yè)务，推动人工智能(néng)技术的健康发展和(hé)广泛应用。

　　防范AI犯罪

　　“《意(yì)见稿》大意是说生成相(xiāng)关内容如图(tú)片、视频、文字、语(yǔ)音必须标识说明(míng)为AI生成，防止有人(rén)恶意造谣、诈骗，引发不良影(yǐng)响的社会舆论，防止(zhǐ)相关犯(fàn)罪发生。之前有人非法用他(tā)人头像或(huò)者脸部做合成，通过AI转换语音进行诈骗，类似这种恶性事件应该杜绝。”AI视频制作者冯彬告诉记者。

　　就(jiù)在8月底，韩国出现多起利用AI换(huàn)脸伪造女性色情露骨(gǔ)图像(xiàng)的犯罪(zuì)案，在这背后，犯罪者用深度伪(wěi)造技术（Deepfake）合成色情照片和视频，并在通(tōng)信软件Telegram的群聊中传播，参与者多达(dá)22万人，引(yǐn)发韩国民众恐慌，有人将其(qí)称(chēng)之为韩(hán)国又一“N号房”丑闻。

　　深度伪造这一技术犯罪，不仅仅出(chū)现在韩国，这两年 在(zài)全球都有(yǒu)出现在国内，今年6月，“男子用AI伪造(zào)学生(shēng)同事近7000张裸照”冲上微
博热搜。据(jù)央视新闻(wén)消(xiāo)息 ，犯罪嫌疑(yí)人(rén)用AI“一键(jiàn)去衣”技术，深度伪造淫秽图片近7000张，再每张1.5元
卖出，赚(zhuàn)了将(jiāng)近(jìn)一万元。图片(piàn)涉及
女性人数多，包括(kuò)学(xué)生、教师、同事。

　　冯彬表示，现在多个视频(pín)平台都有(yǒu)向视频上传者提供类似“作者(zhě)声明：内容(róng)为AI生成”的标识选项，包(bāo)括抖音、b站、快手、视频号，但(dàn)是没有强制(zhì)创作者选择。据他观察，没有标识为AI内容的视频，平台会识(shí)别出一些并标识类似(shì)“疑似AI生成”的(de)字段。

　　冯(féng)彬认为，平台在标识、提(tí)醒内容是否为AI生成方面，应该更严格一些。相比视(shì)频、图(tú)片(piàn)，平台应该更难识别文本是(shì)否(fǒu)为AI生成，而从传(chuán)播效果看，视频可(kě)能是“假新闻”更多采用的载体，AI换脸、AI语音(yīn)这些有可能滋生(shēng)诈骗的内容也尤其值得关注。

　　目前国内外已(yǐ)经达成共(gòng)识，要对AI生成内容进
行标识和管理。去年7月，美国白宫与(yǔ)大型科技公司达成协议，为人工智能的(de)开发设置更多防护措施，包括开(kāi)发水印系统等。欧(ōu)盟委员会(huì)也要求社交媒体公司标记(jì)所有由人工智能生成(chéng)的内容。

　　科技公司已经开(kāi)始尝试用技(jì)术制衡AI滥(làn)用。今年2月，OpenAI 团队推出(chū)“AI 生成(chéng)内容识别器”，旨在识别文本(běn)是由电脑自动(dòng)生成还是人类(lèi)撰写，其本质(zhì)上(shàng)是一
个(gè)区别
真实(shí)内容(róng)和 AI 生成内(nèi)容的(de)分类器。整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见不过，OpenAI 在博客中指出，此识别器对 AI 撰(zhuàn)写内(nèi)容(róng)的(de)检出成功率仅为(wèi) 26%。

　　今年5 月，谷歌在 Google I/O 大会上公布了(le)AI 生(shēng)成图像(xiàng)识别(bié)工具，用户可以通(tōng)过上传(chuán)来(lái)源不明的图片、执行反(fǎn)向图片(piàn)搜(sōu)索，了解到这张图
片(piàn)被谷歌初(chū)次收录的时间、最早出现的网(wǎng)站。谷歌还
宣布，它自(zì)己的生成式 AI 工具将在每张图片中包含元(yuán)数据、嵌入水印(yìn)，以表明(míng)这是 AI 生成的图像，而不是真实照片。相比AI 生成内容识别器(qì)，数字水印被认为可能是(shì)更(gèng)有效的方法。

　　更早前(qián)，微软在Build 2023开发(fā)者
大(dà)会上，宣布增加一项功能，让(ràng)任何人都能识(shí)别Bing Image Creator和Microsoft Designer生(shēng)成的图像或视(shì)频(pín)片段是(shì)否是由(yóu)AI生成的。该技术使用密码学方法对AI生成的内容进行标记和签名(míng)，并附(fù)上有关其来(lái)源的元数据(jù)信(xìn)息。

　　吴沈括(kuò)表示，企业方(fāng)面的是微生态，此(cǐ)次出台(tái)的标识(shí)办法标准则是国家和产业的大生态，“力(lì)度很大”。

　　（本文来(lái)自第一财经）

责任编辑(jí)：刘万里 SF014

未经允许不得转载：中央空调,电梯,空气能热水器-中央空调,电梯,空气能热水器 整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见