对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐

专题：2024亚布力企业家第二(èr)十届夏季年会

<对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐p>　　8月30日消息对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐，在2024亚(yà)布力企业家(jiā)第二十届夏季年会期间(jiān)，百度副总裁石(shí)清华对新浪(làng)科技表(biǎo)示，其实大模型的特性是很客观的，你教(jiào)他什么他就回答什么，给他训练什么他就说什么，但是里边有一些价值观的事情要对齐。

　　“我们(men)叫对齐，输出(chū)对齐，比如说一些普世大(dà)众的价值标准，是不能够胡说(shuō)八道的；再比(bǐ)如涉毒(dú)、涉恐、涉(shè)赌(dǔ)等等三十几个(gè)门类敏感信息，我们需要一点点去(qù)对齐，对齐(qí)之(zhī)后，文心一(yī)言才正式发布(bù)。”

　　石清华谈到(dào)，现(xiàn)在百(bǎi)度的文心一(yī)言每天有超过6亿次调用(yòng)，日均处理tokens超1万亿，这个(gè)量级是非常大的，没(méi)办法人工干预，更(gèng)不可(kě)能(néng)人工审(shěn)核，所以(yǐ)大模型必须有最终输出的能力，而且最终输出能力一定要合(hé)理、合(hé)法、合规、合价值观。

　　“大(dà)模型就是一个学(xué)生，你教他什么他就(jiù)会什(shén)么，但同时还(hái)要告诉他什么是对的，什么是(shì)不对的，我们的安全模块就像学生的思想政治教育工作，要明确什么东西能说，什么东西不(bù)能说。”他表示，这是大模型的正常训练，思想政治训练就是安全模块。

　　石清华(huá)表示(shì)，“我们是分成几层对齐的，第一个价(jià)值观对齐，是最(zuì)大的对齐；第二个是(shì)行业对齐，不能回答一些违反行业(yè)普遍规律的问题。第三个(gè)是对企业的对齐，比如服务一个企业的大模型就要充分了解企业的情况(kuàng)和文化。

　　“普世价(jià)值观对齐，行业基(jī)本逻辑(jí)对(duì)齐，特殊客群对齐，训(xùn)练大(dà)模型这些缺一不可，”石清华(huá)谈到。（刘丽丽）

　　新浪声(shēng)明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于(yú)传递更多信息之目(mù)的，并不意味(wèi)着赞同其(qí)观点或证实其描述。

责任编辑：梁斌 SF055

未经允许不得转载：中央空调,电梯,空气能热水器-中央空调,电梯,空气能热水器对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐