对话百度副总裁石清华：大模型的特性
是客观的，但 价值观 要对齐

专题：2024亚布力企业家第二十届夏季年会

　　8月30日消(xiāo)息，在2024亚布力企(qǐ)业家 第二十届夏季年会期间，百度副总裁石清华对新浪科技表示(shì)，其实(shí)大模
型(xíng)的特性是很客观的，你教他什么 他就回答什么，给他训(xùn)练什么他(tā)就说什么，但是里边有(yǒu)一些价值观的事情要对齐。

　　“我们叫对(duì)齐，输出对齐，比如说一些普世(shì)大众(zhòng)的价值(zhí)标准，是不能 够胡说八道的；再比如涉毒、涉恐、涉(shè)赌等等三十几个门类敏感信息，我们需要一点点去对齐对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐，对齐之后，文心一(yī)言
才正式发布。”

　　石清华谈到，现在(zài)百度(dù)的文(wén)心一言每天有超过6亿次调用，日均处理tokens超1万亿，这个量(liàng)级(jí)是非常大的，没办法人(rén)工干预，更(gèng)不可能人(rén)工审核，所以大模型必须有最终(zhōng)输出的能力(lì)，而且最(zuì)终输出(chū)能力一定要合理、合法、合规(guī)、合价(jià)值(zhí)观。

　　“大模型就是(shì)一个学生，你教他什么他(tā)就会什么，但同时还要告诉他什么是对的，什么是不(bù)对的，我们的安全模块就像学生的思想政治教育工作，要明确什么东西能说(shuō)，什(shén)么东(dōng)西不能(néng)说(shuō)。”他(tā)表示，这是大模型的正常训练，思(sī)想(xiǎng)政治训练就是安全模块。

　　石清华表示，“我们是分(fēn)成几层(céng)对齐的，第一(yī)个价(对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐='color: #ff0000; line-height: 24px;'>对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐jià)值观对(duì)齐，是(shì)最大的对齐；第二个是行业对齐，不能回答一些违反(fǎn)行业普遍(biàn)规律的问题。第(dì)三个是对企业的对齐(qí)，比如服务(wù)一个企(qǐ)业的大模型就要充分了解企业的情况和文化。

　　“普世价值观(guān)对齐，行业基本逻辑对齐，特殊客群对齐，训练大模型这些缺一不可，”石 清华谈到。（刘(liú)丽丽(lì)）

　　新浪声明：所有会议实录均为现场速记整理，未经演讲者审(shěn)阅(yuè)，新浪网登(dēng)载此文出于传递更多信(xìn)息之目的，并不意
味着赞同其观(guān)点或证实其描述。

责任编(biān)辑：梁斌 SF055

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修 对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐