周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点

专题：2024亚布力企(qǐ)业家第二十(shí)届夏(xià)季年会

　　新浪科技讯 8月31日下午消息(xī)，2024亚布力企业家第二(èr)十届夏季年 会在广州举行。论(lùn)坛期间(jiān)，在东方甄选直播间，新东方教(jiào)育科
技(jì)集团董事长俞敏洪与多位(wèi)企业家对话。360集团创 始
人、董事长周鸿(hóng)祎在直播间谈到(dào)国内人工(gōng)智能发展面临的主要挑战。

　　周鸿祎表示，有一个挑(tiāo)战是对错误，对创新的宽容、理解(jiě)和和包容。他表(biǎo)示(shì)，人 工智能一(yī)定会(huì)出错，但不(bù)知道它在什么(me)情况下会莫名其(qí)妙的出错。

　　“所以这(zhè)里面有两(liǎng)种(z周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点hǒng)可
能，一种是大模型(xíng)自身会产生幻(huàn)觉，”他认为，幻觉是大 模型真正有智(zhì)力的一种体现，这是它先天决 定的。

　　周鸿(hóng)祎表示(shì)，也研究了对付幻觉的方法，比如说用知(zhī)识对齐(qí)，也(yě)就是当大(dà)模型产生内容之后，去找(zhǎo)内容来做对标，但这里面又会有一个陷阱，就是曾几何时我们都认为网上的内容(róng)都是对的(de)，只要(yào)是印成印刷体的内容都是对的，所以用搜索引擎(qíng)来做对齐，但现在发现网上(shàng)也有很多内容被污染了或者被“投毒”了。

　　“比如，如果网上(shàng)贴了很多关于俞老师的负面，完全是无中生(shēng)有，但(dàn)这个帖子又没被删掉，就会被当成事实，进入(rù)事实库(kù)之后，可(kě)能大模型就开始乱说俞(yú)老师的坏话。”他还(hái)谈到(dào)，Google最近也犯(fàn)了这(zhè)样的错误，有人在Google里问怎(zěn)么(me)吃 石
头(tóu)，Google就认真回答说吃石头要磨(mó)细了(le)吃，咽不下(xià)的时候还用水来送服，石(shí)头(tóu)有(yǒu)很丰富的营养，就成为一个丑闻。原来谷歌是从一个(gè)社区论坛(tán)抓取的(de)内容，那里有人恶搞(gǎo)，模拟科普文章，写了如何吃石头，然后就被谷歌(gē)抓取(qǔ)了，谷歌就认为这个文(wén)章都是对的。

　　周鸿祎指出，以后在网上还需(xū)要解决的问题是用大模型(xíng)来判断内容(róng)到底对不对，但前(qián)提是要有一些对的内容，那就需要人工筛选一些内容。

　　他认为，未(wèi)来随着大模型(xíng)用的(de)越(yuè)来(lái)越多之后，一定会在回答某些问题的时候可能口出乱言(yán)，碰到(dào)这种情况，建议用户(hù)还是宽容一点，发现漏(lòu)洞可以主动通知对(duì)方去修正，而不是大肆渲染，变成巨大的(de)事件(jiàn)。

　　新浪声(shēng)明：所有(yǒu)会议实录均为现场速(sù)记整理，未(wèi)经演讲(jiǎng)者审阅，新浪网登载此(cǐ)文(wén)出于传递更多信(xìn)息之目的 ，并不(bù)意味着赞同其观点(diǎn)或证实(shí)其描述。

责任编辑(jí)：梁斌 SF055

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修 周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点