外滩大会参会规模创新高，人们都在关注如何防止AI作恶

　　9月7日，2024 Inclusion·外滩大会正式(shì)闭幕。事实上，这一天
下午，距离大会闭幕几个小时前，仍有观众在排(pái)队入(rù)场。官方数据显示，本届大会共吸引了5.2万人现场参会，无论是参会规模还是国际嘉宾的数量，均创(chuàng)下了历史新高。除了年轻人，记者注意到，观众队伍(wǔ)中(zhōng)还(hái)有不少老人、小孩。

　　本届外滩大
会以(yǐ)“科技·创造可持续未来”为(wèi)主(zhǔ)题(tí)，包括36场开放见解论坛、10多场创新者外滩大会参会规模创新高，人们都在关注如何防止AI作恶舞台、2场AI创新赛事、1场(chǎng)10000平方米的(de)展览以及1场绿色生活节和1场科技人(rén)才招聘会。据统计，三(sān)天时间内，有30余项AI新(xīn)成果在本届(jiè)外滩(tān)大会发布，包括蚂蚁AI生活管家(jiā)“支小宝”、AI金融管(guǎn)家“蚂小财”，AI健康管家等。

　　10000平(píng)方米的展览场地汇集了众多企业参展，记者观(guān)察到，相比往年(nián)，准备各类装(zhuāng)备体验、互动的厂商越来越多了，许多展台前，观众为参与(yǔ)体(tǐ)验排(pái)起长队(duì)。重视人文性，成为本届(jiè)外滩大(dà)会的一大特点。除了开幕式上24岁的独臂男孩周键借智能仿生手演奏钢琴的动人瞬间，在外滩大会的(de)展区，借助设备(bèi)观众可以体验将脑电波以花朵的形式可视化，让瞬间的(de)情绪形成纪念。还有可实现“拥抱传递”的设备，穿戴上内嵌人造肌肉(ròu)纤维的特制背心，当(dāng)另一个 人拥抱装有(yǒu)压力传(chuán)感(gǎn)器的模(mó)型时，体验者便能(néng)感受到模(mó)拟其声(shēng)控、触觉反馈和温(wēn)度调节等多种感(gǎn)官(guān)元素的“远(yuǎn)程拥抱”。

　　在这一年的外滩大会上，如何让“技术向善”的讨论和研发更加被业界重视。

　　AI医(yī)疗受关注

　　为期三天的展览中，AI医疗的相关(guān)产品、企业展台总有着(zhe)最多(duō)的(de)人流(liú)量，“爸妈记忆力下降了怎么办？”“AI如何辅助癌症筛(shāi)查？”这些问(wèn)题让不少观众不自(zì)觉就迈入了相关展区，不断有老 人加(jiā)入脑健康检测，有年轻人加(jiā)入脑电波的“画图”。

　　“和去年相比，今年外滩大会AI人工智能的份额感觉更(gèng)高了，而且不(bù)是像之(zhī)前傻(shǎ)乎乎的那种，今(jīn)年的很多应用(yòng)是真的有用的(de)，明显能
感觉到算法提升了很多(duō)，比如说面(miàn)部(bù)识别功能(néng)或者语音交互(hù)功能，都感觉上升了(le)一个(gè)档次，效(xiào)果变好了，所以大家体验的(de)热(rè)情也高。”一(yī)位参会的展商对记者表示(shì)。

　　来不及喝口水，达摩院AI医疗 展台的工作人员就迎(yíng)来了下一位咨询的观众，今年的(de)外滩(tān)大会上，达摩院医疗AI实验室展(zhǎn)出了其AI医(yī)学影像分析产品，借助AI技术，这(zhè)项产品(pǐn)能够从平扫CT中进行胰腺癌、食管癌、肠癌、胃癌等八大癌症及一系列慢性病的筛查(chá)，吸引了不少观众。

　　展(zhǎn)台的工作人员告诉记(jì)者，通过AI识 别，这项产品能(néng)够在肝癌、肺(fèi)癌等癌症筛查(chá)中(zhōng)达到90%以上(shàng)的准确率，提升医生(shēng)的工作效率
，补足一些医疗(liáo)资(zī)源不均衡带来的问题。

　　“其实这项技术主要是面向B端的，为医生服务，客户更多是医院、体(tǐ)验机构(gòu)、保(bǎo)险公司、公益组织以及软件厂商(shāng)之(zhī)类的，但这两(liǎng)天外滩大会参会规模创新高，人们都在关注如何防止AI作恶很多个人也非(fēi)常感兴趣。”上述工作人员表示。尽管许多(duō)AI医疗产品并未
直接面向C端用户，但外滩大会的观众们对AI医疗将如何(hé)改变疾病的诊治感到好奇(qí)。

　　博斯腾科技(jì)的(de)展台则吸引到了大(dà)量的老年观众，许多老(lǎo)人纷纷拿出手机(jī)通过
支付宝“碰一碰(pèng)”进行答(dá)题，检测自己得(dé)阿尔兹海默外滩大会参会规模创新高，人们都在关注如何防止AI作恶病(bìng)的风(fēng)险指数。展区的工作(zuò)人员介绍，通过许多数据(jù)、资料的支撑，这款(kuǎn)产品能(néng)够通过答题测验(yàn)、语音交互、动作识别等方(fāng)式(shì)检测阿尔兹海默病，并通过大模型生成用户专属的脑(nǎo)健康训练计划。

　　“我们的产(chǎn)品2020年成型，但借(jiè)助摄像头的动 态识别功能是今年刚推出的，主要是借力于AI功能的发达，包括训练方案的(de)推荐，也的确在大模型(xíng)出现后(hòu)智(zhì)能了很多。”该展区的工作人员告诉(sù)记者。随(suí)着AI的发展，更多AI医疗(liáo)产品的“进化”值得(dé)期(qī)待。

　　需要强(qiáng)调(diào)的是，目前，许(xǔ)多(duō)AI医(yī)疗产品的诊疗(liáo)效果 仍缺乏公开(kāi)数据或第三方权威机构的验(yàn)证，相关展台(tái)的工作人员也均表示AI医疗产品(pǐn)无法完全代替(tì)医生(shēng)诊疗需求，以辅助作用为主。不(bù)过(guò)，AI在医疗(liáo)问题中(zhōng)的应用的确被业界期待(dài)。

　　不少大厂也在押注AI医疗赛道。外滩大(dà)会(huì)上，支付宝发布AI应(yīng)用(yòng)新产品(pǐn)“AI健(jiàn)康管家”，为用户提供找(zhǎo)医生、读报告、陪看(kàn)诊、问(wèn)医保、管(guǎn)健康等30多项AI健康服务。百川智能创始人王小川则介绍，百川智能将(jiāng)重点在(zài)大(dà)医疗(liáo)AI领域做投入(rù)，从儿科医生、全科医生两个切入点发力，希望在明(míng)年(nián)实现(xiàn)医疗的低成(chéng)本和可及性，减少医院的挤(jǐ)兑现象(xiàng)。

　　全国政协常委周汉民在外滩大会的一场论坛(tán)中表示，随着人工智能等新技术的不断发展和应用，医疗产业正迎来一场深刻的(de)变革(gé)。据他(tā)观察，从最初的影像诊断、辅助诊疗、基因检测，到近年(nián)来的药物发(fā)现、临床试验、健康管理等，人工智能在提高精准度与效率、个性(xìng)化(huà)治疗、数据处理等(děng)方面具备显著优势。他指出(chū)，医(yī)疗健康与人工智能的融合还延伸到了中医领域(yù)。

　　谈及人工智(zhì)能在医疗产
业的应用情况，周汉民表示，人工智能在医疗健康产业的应用应着力提高精准性、适(shì)用性(xìng)和安(ān)全(quán)性，此外，还(hái)需(xū)关注(zhù)人工智能的引入是(shì)否会导致医(yī)护(hù)人员技能萎(wēi)缩、对人工智能的信任的误判以及信息超载。

　　以AI对抗AI

　　在期待技术带来美好生(shēng)活的同时，如何预(yù)防 技术“作恶”也成为外滩大会讨(tǎo)论的热点话(huà)题。

　　今年的外滩大会上(shàng)，举办了包括(kuò)“afac2024金融智能创新大赛”和(hé)“全球Deepfake攻防挑战赛”两场子赛事在内的(de)AI创新大赛，由于近日韩国曝出“Deepfake”（深度伪造技术）事件，被认为是采用新(xīn)犯(fàn)罪手段的“N号房”案件重现，以AI对抗AI，Deepfake攻防挑战赛尤其受到观众的挑战。

　　事实上，随着AI技(jì)术的发(fā)展，Deepfake滋生欺诈等黑色产业链(liàn)，AI换脸欺诈带来的(de)经济财产损失、名(míng)誉受(shòu)损等事件正在成为(wèi)全球(qiú)挑战(zhàn)。

　　在外(wài)滩大会展区，许多观众现场拍照，然后利(lì)用(yòng)Deepfake换脸(liǎn)模型和(hé)算法，通过视频活(huó)化、微笑和(hé)眼镜(jìng)模版对观众的真实(shí)照片进(jìn)行换脸，亲身感受了Deepfake的逼真。

　　而在(zài)外滩大会AI创新赛·全球Deepfake攻防挑战赛的表演赛上，观众(zhòng)更是为AI识别AIGC伪造图片(piàn)感到激动(dòng)。在(zài)这场表演赛中，主持人拿 出了(le)9张玛丽(lì)莲梦露(lù)等(děng)女(nǚ)星的照片，其中2张是AIGC伪造(zào)的，选手用自己(jǐ)的参赛(sài)模(mó)型(xíng)给出每张图片的伪造概(gài)率值，并(bìng)对概率值最高的2张 照片与正确答案进行比对。最终，两
支参赛队伍的模型都找到了正确答案。

　　在后续的互(hù)动中(zhōng)，一个有趣(qù)的(de)现象(xiàng)是，人(rén)类肉眼(yǎn)能够(gòu)看出“一眼假”的伪造图片，AI可能(néng)识(shí)别不出，一些肉眼真假(jiǎ)难辨的图(tú)片，AI反而能(néng)识别。新(xīn)加坡科技研(yán)究局周天異教(jiào)授分析，人类在判断图像是否伪(wěi)造会(huì)依赖直(zhí)觉(jué)和逻辑，一些人类一眼便知的问题(tí)AI无法联系(xì)相关背景、情形无法识别，而一些难以识别的(de)图(tú)片，AI一丝不苟、勤勤恳(kěn)恳地完成人类(lèi)指令的工作模式反(fǎn)而能找出问(wèn)题。他表示，相比“一眼(yǎn)假”的图片(piàn)，恰恰是(shì)这(zhè)些难以识(shí)别的图片往往给人类带来更大损失，因此(cǐ)，用AI应对Deepfake有着重要意义。

　　“从(cóng)我们(men)现在看到的数据(jù)来看，我们叫Deepfake的攻击也好，AIGC的生成伪造，今年的攻击量比去(qù)年大概增加了10倍，去年攻击的浓度大概是1%，今年就是10%。整(zhěng)个风(fēng)险其实是呈指
数级上升的情况(kuàng)，这不仅仅是在中国，在韩国，在菲律(lǜ)宾、印尼等国家都有类似的(de)情况发生。”外滩(tān)大会(huì)AI创新赛·全球Deepfake攻防(fáng)挑战赛出题人(rén)、ZOLOZ技术总监姚(yáo)伟斌表示，10%的浓度意味着(zhe)业界发现线上(shàng)的流量 有(yǒu)10%是Deepfake的流量，随着AIGC的发展，生成的成本会
越来越低，效率越来越高，明年可(kě)能不是20%，可(kě)能是50%，这是一个必须重视的威(wēi)胁。

　　更多引(yǐn)导AI向善的观点也在外滩大会被讨论，姚伟斌坦言(yán)，研(yán)发检测算法，只是遏制Deepfake技术滥 用的方(fāng)式之一。这种方式是相对滞 后的。如(rú)果要从根源上(shàng)防范欺诈行为，姚伟斌认(rèn)为应在标准和立法角度，要求给A IGC 内容(róng)建(jiàn)立通用标识，比如每一张AIGC生成的视频或图片都在文件信息里带(dài)一个签名(míng)或水印，这样平(píng)台(tái)管理更有依据，也能让AIGC 可以更可(kě)信。

　　“让人工智能帮(bāng)助人弹钢琴，而不是作恶。”是本届外滩(tān)大会反复强调的价(jià)值观。上海市数(shù)据科(kē)学重点实验室主任肖仰华表示，AI的大规模滥用是可能损(sǔn)害人之为人(rén)的本性的。要有所(suǒ)为有(yǒu)所不为，但凡伤害人之为人之本 性的AI应用(yòng)，我们要谨慎，要加以限制。为此，“我们要重视技术治理，并将治理提前考虑，做(zuò)到未雨绸(chóu)缪。”

　　浙江强脑科技创始人兼CEO韩璧丞则表(biǎo)示，AI伦理(lǐ)委员会(huì)的存在非常重要。技术前进的时候，更应该关注“走
的慢”的人。“当一个足以改变世界的技术出现(xiàn)时，我(wǒ)们先用它来帮助最需要的人(rén)”。

　　（本文来自第一(yī)财经）

责任编辑：李桐

未经允许不得转载：中央空调,电梯,空气能热水器-中央空调,电梯,空气能热水器 外滩大会参会规模创新高，人们都在关注如何防止AI作恶