周鸿祎谈大模型 出错：可能会在某些时候口出乱言，建议用户宽容一点

专题：2024亚布力企业(yè)家第(dì)二(èr)十届夏(xià)季年会

　　新浪科技讯 8月31日下午消息，2024亚布力(lì)企业家第二十届夏季(jì)年会在(zài)广州举行。论坛期间，在东方甄选(周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点xuǎn)直播间，新东方教育 科技集团董事(shì)长俞敏 洪与多位(wèi)企业家对话。360集团创始人(rén)、董事(shì)长周鸿(hóng)祎在直播(bō)间 谈到国内(nèi)人工智能发展面(miàn)临的主要挑战。

　　周鸿祎表示，有(yǒu)一个挑战是对错误，对创新的宽容、理解和和包容。他周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点表示，人工智能一定会出错，但不(bù)知(zhī)道(dào)它在什么情况下会莫名其妙的出错。

　　“所以这里面有两种可能，一种是大模型自身会产生幻觉，”他认为，幻觉是(shì)大(dà)模型真正(zhèng)有(yǒu)智力的一种(zhǒng)体现，这(zhè)是它(tā)先天决定的(de)。

　　周鸿祎表示，也研究了对付(fù)幻觉的方法，比如说用知识对齐，也(yě)就
是当大模型(xíng)产生内容之 后，去找内容来做对标，但这里面又会有一(yī)个陷阱，就是曾几何时我们都(dōu)认(rèn)为网上的内容都是对的(de)，只要是印成印刷体(tǐ)的内容都是(shì)对的，所以用搜索引擎来做对齐，但现(xiàn)在发现网上也(yě)有很多内容被污染了或者被“投毒”了。

　　“比如，如果网上(shàng)贴了很多关于(yú)俞老(lǎo)师的
负面，完全是无中生有(yǒu)，但这个帖子又(yòu)没(méi)被删掉，就会被当成事实，进入事实库之后，可能大模型就开始乱说俞老师的坏话。”他还谈到
，Google最近也犯(fàn)了这样的错误，有人在Google里问怎么吃石头，Google就认真回答说吃石头要磨细了吃，咽不下的时候还用水来(lái)送服，石
头有很丰(fēng)富(fù)的营养，就成为一个(gè)丑闻。原来谷歌是从一个社(shè)区论坛(tán)抓取的内容，那里有人恶搞，模拟科普文章，写了如
何吃石头，然后(hòu)就被谷歌抓取了，谷歌就(jiù)认为这个文章(zhāng)都是对的。

　　周 鸿祎指出(chū)，以后在网上还需要
解决的(de)问题是用大(dà)模(mó)型来判断(duàn)内容到底对不对，但前提是要有一些(xiē)对(duì)的内容，那就需要(yào)人工筛选 一些内容。

　　他(tā)认为，未来(lái)随着(zhe)大模型用的(de)越来越 多之后，一定会在回答某些问题的时(shí)候可能口出乱言，碰到这种情况，建(jiàn)议用(yòng)户还是宽容一点，发现漏洞可以主动
通知对方(fāng)去(qù)修正，而不是(shì)大肆渲染，变成巨大的事件。

　　新浪声明：所有会议(yì)实录 均为现场速记整理(lǐ)，未经演(yǎn)讲者审(shěn)阅，新浪网登载此文出于(yú)传递更多信(xìn)息之目(mù)的，并不意味(wèi)着(zhe)赞同其观点或(huò)证实其描述。

责任编(biān)辑：梁斌 SF055

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修 周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点