周鸿祎谈大模型 出错：可能会在某些时候口出乱言，建议用户宽容一点

专(zhuān)题：2024亚布力企业家(jiā)第二十届夏季年会

　　新浪科技 讯 8月31日下午消息，2024亚(yà)布力企(qǐ)业家第二十届夏季年会在广州举行。论坛期间，在东方甄选直播间，新东方教(jiào)育科技集团董事长俞敏洪与多位(wèi)企业家(jiā)对(duì)话。360集团创始人、董事长(zhǎng)周鸿祎在直播间谈到国内人工智能发展面临(lín)的主要挑战。

　　周鸿祎表示(shì)，有一个挑战是(shì)对(duì)错误，对创新的宽容、理解和和包容(róng)。他表示，人工智能一定会出错，但(dàn)不知道它在什么(me)情况下会莫名其妙(miào)的出错。

　　“所以这里面有两种(zhǒng)可能，一种是大模型自身会产(chǎn)生幻觉，”他(tā)认为，幻觉是大模型真正有智力的一种体现，这是它先天决定的。

　　周鸿祎表示，也研究了对付幻觉的方法，比(bǐ)如说用知识对齐，也就是当(dāng)大模型(xíng)产生内容之后，去(qù)找内容来做对标，但这里面(miàn)又(yòu)会有一个陷阱，就是曾几何时我们都认为网(wǎng)上的(de)内容都是对的，只(zhǐ)要(yào)是印成印(yìn)刷体的内容都是对的(de)，所以用搜索引擎来做对齐，但现在发现(xiàn)网上也有很多内容被污染了或者(zhě)被“投毒”了。

　　“比(bǐ)如，如果网(wǎng)上贴了很多关于俞老师的负面，完全是无中周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点生有，但这(zhè)个帖子(zi)又没被(bèi)删掉，就会被当成事实(shí)，进入(rù)事实库之后(hòu)，可能大模型(xíng)就开
始乱说俞老师(shī)的坏话。”他还谈到，Google最近(jìn)也犯了这样的错误，有(yǒu)人在Google里问(wèn)怎么(me)吃石头，Google就认真回答说吃石头要磨细了吃(chī)，咽不下的时候还用水(shuǐ)来送服(fú)，石(shí)头有很丰富的营养，就成为一个丑闻。原来谷歌是从一个社(shè)区论坛抓取的内容(róng)，那里有人恶搞，模拟科普文章，写了如(rú)何吃石头，然后就被谷歌抓取了，谷歌就认为这个(gè)文章都是对的。

　　周鸿祎指出，以后
在网上还(hái)需要解决(jué)的问(wèn)题是用(yòng)大模型来判断(duàn)内容到底对不对，但前提是要有一些对的内容，那就需要人工(gōng)筛选一些内容 。

　　他 认为(wèi)，未来随着大模型用的越来越多之后，一定会在(zài)回答某(mǒu)些问题的时候可能口(kǒu)出乱言，碰到这种情况，建(jiàn)议用户还是(shì)宽容一点(diǎn)，发现漏洞可以主动通知对方去修正(zhèng)，而不是大肆渲染，变成巨大的 事件。

　　新浪声明：所有会议实录均为现场(chǎng)速(sù)记整理，未经演讲者审(shěn)阅，新浪网登载此文出于(yú)传递更多
信息之目的，并不意味着赞(zàn)同其观点或证实其描述。

责任编辑：梁斌 SF055

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修 周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点