整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见

　　随着生成式AI的爆发，社交(jiāo)媒体上的内(nèi)容(róng)越来越真假难辨，人们很难确信某张照片或视频(pín)是真实存在的瞬(shùn)间，以往的一句(jù)“眼见(jiàn)为实”在当下已经需要打上问号。

　　为应对这一冲击(jī)，9月14日，国家(jiā)互联(lián)网信息办公室发布《人工智能生成合(hé)成内容(róng)标(biāo)识办法（征求意见稿）》（下文简称《意见稿》），在《互联网信息服务深度合(hé)成管理规定
》《生成式人工智能服(fú)务(wù)管理暂行办(bàn)法》等法律法规上，进一步
细(xì)化了AI合成内(nèi)容的标(biāo)识办法。

　　“这是全球范围内(nèi)第(dì)一部关(guān)于人(rén)工智能生成合成内容(róng)标识的国(guó)家标准，是关于人工智能内(nèi)容治理(lǐ)机制建设的重(zhòng)要探索，对人工智能内(nèi)容产业的有序发展和业务规则具有重要的指引意义，也有助于(yú)人工智能良性 生(shēng)态的培育。”北京师范大学法学院(yuàn)副教授、中国互联网协会研究中心副主任(rèn)吴沈括对第(dì)一财经(jīng)表示。

　　细化内容生成标识

　　此(cǐ)次的《意见(jiàn)稿》提出，人工智(zhì)能生成合(hé)成内容标(biāo)识包括(kuò)显式标识(shí)和隐式标识。显式(shì)标识是指在生成合成内容或者交(jiāo)互场景界面中(zhōng)添加的，以文字、声(shēng)音、图形等方式呈现并(bìng)可被用户明显感知到的标(biāo)识。隐式标识是指采取技(jì)术(shù)措施在生成合(hé)成内容文件(jiàn)数据中添(tiān)加的，不易被用(yòng)户明显感知到(dào)的标识。

　　不同(tóng)互 联(lián)网平台的义务不尽相同(tóng)。垦丁律所创(chuàng)始(shǐ)合伙人朱骏超告诉记者，网(wǎng)络信(xìn)息服(fú)务提供者的义务包括确保显式标识(shí)、添加隐式标识；提(tí)供网络信息(xī)内容(róng)传播(bō)平台服务的服务提供者的义务包括核验隐(yǐn)式标识、添加提示标识、管理疑似内容，管理疑似内容包(bāo)括 在疑似生成合成内容的(de)文件元数据(jù)中添加生成合成内容属(shǔ)性信息(xī)、传播平台名称或编码、内容编号(hào)等(děng)传播要素信息；互联(lián)网应用程序分发平台的义务包括核(hé)验标(biāo)识功能，即在应用
程序上架或上(shàng)线审(shěn)核(hé)时，核(hé)验服(fú)务提供(gōng)者是否按要求提供生成合成内容标 识功能。

　　具体(tǐ)而言，针对提供生成合成服务的(de)网络信息服务提供者，《意(yì)见稿》第四条提出，如果提供《互(hù)联网信息(xī)服务深度合成管理规定》第十七条第一款情形规定的(de)深(shēn)度(dù)合成服务(wù)，可能导致公众混淆或者误认的，应当按要求对生成合成内容添加显式(shì)标识。

　　《互(hù)联网信(xìn)息服务深度合成管理规定》第十七条第一(yī)款提到(dào)的具体情形包括：智能对话、智能写作等模拟自然人进行文本的生成或者编辑服(fú)务；合成人声、仿(fǎng)声等语音生成或者显著改(gǎi)变个人身份特征的编辑服务；人(rén)脸生成、人脸替(tì)换、人脸操控、姿态操控等人物图像、视(shì)频生成或者显著改变个人身份特征的编辑服务等。

　　显式标(biāo)识方式根据内容表现(xiàn)形式有所差异。如果是图片，则需在适当位置添加显著的提示标识整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见；如果
是(shì)视频，则在视频起始画面和视频播放周边的 适当位置添加显著(zhù)的(de)提示标识，可在视频(pín)末尾和中间适当(dāng)位置(zhì)添加显著的(de)提示标(biāo)识，等等。

　　《意见稿》还要求 提供生成合成服务的网络信息(xī)服(fú)务提供者，在生 成合成内容的文件元(yuán)数据(jù)中添加(jiā)隐式标识，隐(yǐn)式标识需包含(hán)生成(chéng)合成内容属性信息、服务提供者(zhě)名称或编码、内
容编(biān)号等
制作要素(sù)信息。同(tóng)时，提供网络信息内容传(chuán)播平(píng)台应当采取(qǔ)措施，规范生成(chéng)合成内容传播(bō)活动。包括提供必(bì)要的标(biāo)识功能，并提醒(xǐng)用户主动声明发布内容中是 否包含生成合成内容等。

　　如果违反这一(yī)规定，未(wèi)对生成合成内容进行标识造成严重后果的，将由网信等有关(guān)主(zhǔ)管部门按(àn)照有关法律、行政法规、部门规章的规定予以处罚。

　　新壹科技副总裁陈(chén)鹏对记者(zhě)表示，《意见稿》保护(hù)了用户权益，通过显式和隐式(shì)标识(shí)，用户可以更容易地(dì)识别出内容是否由人工智能(néng)生成，有助于保护整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见用户的知(zhī)情(qíng)权(quán)和选择 权。另外，通过这一规范能增(zēng)强内容可(kě)信(xìn)度，减少误导和滥用的可能性。

　　吴(wú)沈(shěn)括对记者(zhě)提到，内容标识是目前关于人工智能内容(róng)治理中的
一种非常(cháng)重(zhòng)要的机制(zhì)设计(jì)，它对于避免深度伪造带来的 安全风险有(yǒu)非常大(dà)的价值，且通过标准(zhǔn)的统一也有助于(yú)引导各方的业务规则、业务设计和业(yè)务模式，对于全链(liàn)条的风险防范具有非常重要的作用，也能有(yǒu)助于(yú)公众识别(bié)AI内容的(de)真伪和权威性。

　　汉王科技天地大模型 算法负责(zé)人彭菲(fēi)认为，这一办
法的出台具(jù)有重要意义和(hé)积极作用，不仅保护了公民、法人以及其他组织的合法权益(yì)，而且维护国家安全和社会公共利益。

　　“比(bǐ)如数据安全方面，显(xiǎn)示和隐式标识有助(zhù)于提高数据的可追(zhuī)溯性(xìng)，从
而增强数据安全；通(tōng)过明确标识AI生成的内容，有效防止误导性 信息的传播，减少因技术滥(làn)用(yòng)而引发的社会问题。版权(quán)管理方面，办法明确AI生(shēng)成内容的(de)来源和版权
归属，维护了创作者(zhě)的(de)合 法权(quán)益。”彭(péng)菲认(rèn)为，通过这(zhè)些标(biāo)识，用(yòng)户能更容易识(shí)别(bié)出合成内容，从而(ér)规范和负责(zé)地使(shǐ)用这些内容，减少(shǎo)虚假信息的传播。该办法有助于促使行业服务(wù)提供者规范地(dì)开展业务，推动人(rén)工智能技术(shù)的健康发展和(hé)广泛应用。

　　防
范AI犯罪

　　“《意见稿》大意是说生成相(xiāng)关内(nèi)容(róng)如(rú)图片、视(shì)频、文字、语音必须标识说明为AI生成，防(fáng)止有人恶意造谣、诈骗，引发不良影(yǐng)响的(de)社会舆论，防止相关(guān)犯罪发(fā)生。之前有人非法用他人头像或者脸部做合成(chéng)，通过AI转换语音(yīn)进行诈骗，类似(shì)这(zhè)种(zhǒng)恶(è)性事件应该杜绝。”AI视频(pín)制作者冯彬告诉记者。

　　就在8月(yuè)底，韩国出现多起(qǐ)利(lì)用(yòng)AI换脸伪(wěi)造女性色(sè)情露骨(gǔ)图像(xiàng)的犯罪案，在(zài)这背(bèi)后(hòu)，犯罪者用深度伪造(zào)技术（Deepfake）合成色情照片和视频，并在通信软件Telegram的群聊中传(chuán)播，参与者多达22万人，引发韩国民众(zhòng)恐慌，有(yǒu)人将其称之为(wèi)韩国又(yòu)一“N号房”丑闻。

　　深度伪造这一技术犯罪，不仅(jǐn)仅出现在(zài)韩国，这两年在全球都有出现(xiàn)在国内，今年
6月(yuè)，“男子用AI伪(wěi)造学生(shēng)同事近7000张(zhāng)裸照”冲上微博热搜。据央视新(xīn)闻消息，犯罪嫌疑人用AI“一键去衣”技术，深度伪(wěi)造淫秽图片近7000张，再每张1.5元卖出，赚了将近(jìn)一万元。图片涉及女性人数(shù)多，包括学生、教师、同事(shì)。

　　冯彬表(biǎo)示，现在多个视(shì)频平台(tái)都有向(xiàng)视频上(shàng)传者提供类似“作者声明：内容为AI生成”的(de)标识选项，包括抖音、b站、快手、视频号，但是(shì)没有强制创作者选择。据他观察，没有标(biāo)识为AI内(nèi)容的视频，平台会识别出一(yī)些并标识类(lèi)似“疑似AI生成(chéng)”的字段。

　　冯彬认为，平台在标识、提(tí)醒(xǐng)内容是否为AI生成方(fāng)面(miàn)，应该更(gèng)严格一些。相比视频、图片，平(píng)台应该(gāi)更难识别文本是否为AI生(shēng)成(chéng)，而从传播效果看，视频可能是(shì)“假新闻”更多采用的载体，AI换脸、AI语(yǔ)音这些有可能滋(zī)生诈(zhà)骗的内容也(yě)尤其值得关注。

　　目(mù)前国内外已经达成共
识，要对AI生成内容进(jìn)行标识和(hé)管理。去年7月，美国白宫与大型科技公司达成协议，为人工智能的开发设(shè)置更多防(fáng)护措施，包括开发(fā)水印系统等。欧盟(méng)委员会也要求社交媒体公(gōng)司标记所有由人(rén)工智能(néng)生成的内容。

　　科(kē)技公司(sī)已经开(kāi)始尝试(shì)用技术制衡AI滥用。今年(nián)2月，OpenAI 团队推出“AI 生成(chéng)内容识别器(qì)”，旨在识别文本是由电脑自动生成还是人类撰写，其本质上是一个区别真实内容和 AI 生成内容的分类器。不过(guò)，OpenAI 在博客(kè)中指出，此识别器对 AI 撰写内容的检出成功率仅为 26%。

　　今(jīn)年5 月，谷歌(gē)在 Google I/O 大会(huì)上公布了AI 生成图像识(shí)别工具，用户可以通过上传(chuán)来(lái)源不明的图片、执行反向图片搜索(suǒ)，了解到这张图片被谷歌初次收录的时(shí)间、最早出现的网(w整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见ǎng)站。谷歌还宣布，它自己的生成式 AI 工具(jù)将在每张图片中包含元数据、嵌 入(rù)水印，以 表明(míng)这是 AI 生成的图像(xiàng)，而不是真实照片。相比(bǐ)AI 生成内容识别器，数字(zì)水印被认为可能是更有效的方法。

　　更早前(qián)，微软在Build 2023开发者大会上，宣布增加一项功能，让任(rèn)何人都能识别Bing Image Creator和Microsoft Designer生(shēng)成的图像或视频片(piàn)段是否是由AI生成的。该技术使(shǐ)用密码(mǎ)学方法对AI生成的内容进行标记和签名，并附(fù)上有(yǒu)关其来源的元数(shù)据信(xìn)息(xī)。

　　吴沈括表示，企(qǐ)业方面的(de)是微生态(tài)，此次出台的(de)标识办法标准则是(shì)国家和产(chǎn)业的大生态，“力度很大”。

　　（本文(wén)来自第一财经）

责任编(biān)辑(jí)：刘万里 SF014

未经允许不得转载：中央空调,电梯,空气能热水器-中央空调,电梯,空气能热水器 整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见