周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点

专题：2024亚布(bù)力企业家第二十(shí)届夏季(jì)年会

　　新浪科技讯 8月31日下午消息，2024亚布(bù)力企业家(jiā)第二十届夏
季年会在广州举行。论坛期间
，在东方甄(zhēn)选直播间，新东(dōng)方教育科技集团董(dǒng)事长俞敏洪(hóng)与(yǔ)多位企业(yè)周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点家(jiā)对话。360集团创(chuàng)始人、董事长周鸿祎在直播间谈到国内人工
智能发展面临的(de)主要挑战。

　　周鸿祎(yī)表示，有一个(gè)挑(tiāo)战是对错误，对创新的宽容(róng)、理(lǐ)解和(hé)和包容。他表示(shì)，人工智能一定会出(chū)错，但不知道(dào)它(tā)在什么情况下会莫 名其(qí)妙的出错(cuò)。

　　“所以这里面有两种可能，一种是大模型自身会(huì)产生幻觉，”他认为，幻觉(jué)是大模型真正有智力的一种体现，这是它先(xiān)天(tiān)决定的。

　　周鸿祎表(biǎo)示(shì)，也研究了对付幻觉的方法，比如(rú)说用知识对齐，也就是当大模型产生内容之后，去找内容来做对标，但这里面又会有一个陷阱，就是曾几何时我们都认为网上的内容都(dōu)是对的，只要(yào)是印(yìn)成印刷体的(de)内容都是对的，所以用搜索引擎来做对齐，但现在发现网上也有
很多内容被污染了(le)或者被“投毒”了(le)。

　　“比如，如果(guǒ)网上贴了很多关于俞老师的负(fù)面，完(wán)全是无中生有，但这个帖子又没被删掉(diào)，就会被当(dāng)成事实，进入事实库(kù)之后，可能大模型就开始乱说俞老师的坏话。”他还(hái)谈到，Google最近也犯了这样的错误(wù)，有人 在Google里问怎么吃石头，Google就认真回(huí)答说吃石头要磨细了吃，咽不下的时(shí)候(hòu)还用水来送服，石头有很丰富的营养，就成为(wèi)一(yī)个丑闻。原来谷歌是从一(yī)个社区论坛抓取的内容，那里有人恶(è)搞，模拟科(kē)普文章，写了如何吃石头，然后就被谷歌抓取了，谷歌就认为(wèi)这个文章(zhāng)都是对的。

　　周鸿祎指出，以后(hòu)在网上还需要解决的问(wèn)题是(shì)用(yòng)大模型来判断内容(róng)到底对不对，但前提是要有一些对的内容，那就需要(yào)人工筛选一(yī)些内容。

　　他认为，未来随着大模型用的(de)越(yuè)来越多
之后，一定会在回答某些问题的时候可能口出(chū)乱言，碰到这种(zhǒng)情况，建(jiàn)议(yì)用户还(hái)是宽容一点(diǎn)，发现漏(lòu)洞可以主(zhǔ)动通知对方(fāng)去修(xiū)正，而不是大肆渲染，变成巨大的事件。

　　新浪声明(míng)：所有会议实录均为现场速
记整理，未(wèi)经演讲者审(shěn)阅，新浪(làng)网登载此文出于传递更多信息之目的，并(bìng)不意味着(zhe)赞同其观点或证实其描述。

责任编辑：梁斌(bīn) SF055

未经允许不得转载：中央空调,电梯,空气能热水器-中央空调,电梯,空气能热水器 周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点