对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐

专题：2024亚布力企对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐业家第二十届(jiè)夏季年会

　　8月30日消(xiāo)息，在2024亚布力企业家第二十(shí)届夏季年会期(qī)间，百度副总裁石清华对(duì)新浪科技表示，其实大模型的(de)特性是(shì)很客(kè)观的，你教他什么他就回答什(shén)么，给他训练什么(me)他就说(shuō)什么，但是(shì)里边有一些价值观的(de)事情要对(duì)齐。

　　“我们叫对齐，输出对齐，比如说一些普(pǔ)世大众的价值标准，是不能够胡说八道的；再比(bǐ)如涉毒、涉恐、涉(sh对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐è)赌等等三十 几个门(mén)类敏感信(xìn)息，我们需(xū)要一点点去对齐，对齐之(zhī)后，文(wén)心一言才正式发布。”

对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐　　石清华谈到，现(xiàn)在百度的文心一言每天有超过6亿次调用，日均(jūn)处理tokens超1万亿，这个量级是非常大的，没办法(fǎ)人工(gōng)干预，更不可能人工审核，所以大模型(xíng)必须有最终输出的能力，而且最终(zhōng)输出能力一定要合理、合法、合规、合价值观。

　　“大模型就是一个学(xué)生，你教(jiào)他什(shén)么(me)他就会什么，但同
时还要告诉(sù)他什么(me)是对的，什么是不对的，我(wǒ)们的安全(quán)模块就像(xiàng)学生的思想政治教育工作，要明确什么东西能说，什么东(dōng)西不能(néng)说。”他表示，这是大模型的(de)正(zhèng)常训练，思想政(zhèng)治训练就是安全(quán)模块。

　　石清(qīng)华表示，“我 们是分成几层(céng)对齐的，第(dì)一个价值(zhí)观对齐，是最大的对齐；第 二个是行业对齐，不能回答一些违反行业普遍规律的问题。第三个是对企业的对齐，比如服务一个企业的大(dà)模型(xíng)就要充分了解企业的情况和文化。

　　“普世价(jià)值(zhí)观对齐，行业基本(běn)逻辑对齐，特殊客群(qún)对齐，训练大模型这(zhè)些缺一不可，”石(shí)清华谈到。（刘丽丽(lì)）

　　新浪声明：所有会议实录均为现场速(sù)记整理，未(wèi)经演讲者(zhě)审(shěn)阅，新浪网登载此文出于传递更多信息之(zhī)目的，并不意味着(zhe)赞同其观(guān)点(diǎn)或证实(shí)其描(miáo)述。

责任编辑：梁斌 SF055

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修 对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐