天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修

Meta继续押宝开源大模型 Llama 3拿下“赛点”?

Meta继续押宝开源大模型 Llama 3拿下“赛点”?

开源与(yǔ)闭(bì)源之争延续(xù)到大模型时代。在寻找“新大陆 ”的路上,开源与闭源的辩论,就像是一(yī)场(chǎng)关于AI未来的“航海策(cè)略”讨论。

开源一派(pài)认为,开(kāi)源能够促进全球(qiú)科研人员和开发者的协作,加速AI技术的迭(dié)代与创新。同时,开源让更(gèng)多人参与到模型的改进和优 化中,通过集体智慧(huì)解决复杂的技术(shù)难题(tí)。

闭源的倡导者则看重其在商业(yè)化、技术保护和产品差异(yì)化方面(miàn)的优势。闭源模型使得(dé)企业能够控制产品(pǐn)的开发节奏和市场策略(lüè),保护其商 业利益。此外,闭源(yuán)也有助(zhù)于企业维护其(qí)技术优(yōu)势,避免竞争对手模仿或超越。

Llama 3的发布让开源大模型在与闭源的竞争中再度“扳回一城”。从测试结果来(lái)看,Llama 3的成(chéng)绩大幅超越了Llama 2,也胜过了GPT-3.5。

在AI这场没有硝烟的(de)“航海竞赛”中,大模型(xíng)已然成为眼前的灯塔。未知的 是,这(zhè)座(zuò)灯塔(tǎ)究竟是向所有(yǒu)航海者开放其光芒,还是仅为特定的(de)船只照亮前行的航(háng)道。

开源在开发者和(hé)研究人员中(zhōng)极受欢迎

Meta正沿着开源路径继续前进。

近日,Meta推出开源大模型(xíng)Llama 3系列,发(fā)布8B和70B两个版本。Meta创始人兼首席执行官扎克伯格在同一天宣布,基于Llama 3,Meta的AI助手现在已经(jīng)覆盖Instagram、WhatsApp、Facebook等全系应用,并单独开(kāi)启了网站。

与Llama 2相比,Llama 3进行了几项关键(jiàn)的改进:使用具128K token(输入数据的最小单元)词汇表的tokenizer(编译器),可以更有效(xiào)地编码语言,从而显(xiǎn)著提升模型性能;在8B和70B模型中都采用分组查询注意 力(GQA),以提 高Llama 3模型的推理(lǐ)效(xiào)率;在8192个token的序列上(shàng)训练模型,使用掩码来确(què)保自注意力(Self-Attention)不会跨越文档边界。

据Meta介绍,Llama 3已经在多(duō)种行(xíng)业基(jī)准测试上展现了最先进的性能,提供了包括改进的推理能(néng)力(lì)在(zài)内的新功(gōng)能,是目前市场上最好(hǎo)的开源大模型。

此外(wài),Llama 3发(fā)布后,微软Azure、谷歌云、百度智能云等陆 续宣布其平台上(shàng)线Llama 3。百度方面此前对《每日经济新闻》记者(zhě)表示,百度智能云千帆大模型平台(tái)在(zài)国内首(shǒu)家推(tuī)出针(zhēn)对Llama 3全(quán)系列版本的训练推(tuī)理方案,便于(yú)开发者进行再训练,搭(dā)建专属大模型。

工业和信息化部工业文化发展中(zhōng)心AI应用工(gōng)作组执行组长、行行AI董事(shì)长李明顺(shùn)在接受《每日经济新闻》记者采访时表示,Meta的Llama 3发布可能会带 来更(gèng)多(duō)AI应用Meta继续押宝开源大模型 Llama 3拿下“赛点”?落地机会和场景,它通过提供更大词汇量的Token词典、更长的输 入上下文长度以(yǐ)及优化的模型结构(gòu),增强了模型的编码效(xiào)率 和推理效率。“现在,比起(qǐ)Llama 2,Llama 3在代码能力和逻辑推理能力(lì)上有显著提升,这可能会促进相关AI应用的性能(提升),尤其是在需要复杂逻辑(jí)和代码理解的场景(jǐng)中去落地。”

OpenAI在GPT-2之后调转船(chuán)头走向闭源,Meta则成为开源界的引领者之一。

从2020年(nián)发(fā)布GPT-3,到引发轰动的GPT-3.5,以及2023年3月发布的GPT-4,都(dōu)是(shì)闭源(yuán)模 型。此(cǐ)前,马斯克起(qǐ)诉OpenAI时(shí)曾直言(yán):“如果OpenAI改名为ClosedAI,我就撤销诉讼。”

李明顺认为,OpenAI的转变可能与其(qí)商业(yè)战略和市场定位有(yǒu)关。“初期开源有助(zhù)于快速(sù)吸引关注和社区参与,但随(suí)着公司的发展,我估计阿尔(ěr)特曼(Sam Altman)的野心和商业梦(mèng)想越来越膨胀了,闭(bì)源可以更好地让它(tā)融资,包括和(hé)微软合作(zuò),保护领(lǐng)先的技术优(yōu)势。”他表示,从OpenAI的转变中 可以看出,开源与闭源的选(xuǎn)择并非固定不变,而是需要根据公司(sī)战略(lüè)目(mù)标、市场环境和产品发展阶段灵活调整。天下没什么事(shì)情是绝(jué)对的,很多开源公司也是拿着次(cì)优代码(mǎ)开源,独家秘方闭源。

在追逐AGI(通用人工智能)这(zhè)颗明珠的道(dào)路上,迄今 为止,Meta依旧持续沿着(zhe)开源的路径前行。

2024年初,扎克伯格在Meta第四季度及2023全年财(cái)报电话会议上表示:“长(zhǎng)期以来,我们的策略是构建并开放源代码(mǎ)通用基础设施,同时保留我们的具体产品实现为专有(yǒu)技术(shù)。”

他认为(wèi),开源带(dài)来 了几个战略好处。首先,开源软件通常更加安全可靠,并且因为社(shè)区的持续反馈、审查和开发,更加高效。其次(cì),开源软(ruǎn)件经常成为行业标准,“当企业开始(shǐ)基于我们(men)的技术栈建(jiàn)立(lì)标准时,这使得(dé)将创(chuàng)新融入(rù)我们的产品变得更加容易。这种微妙的优势,能够迅(xùn)速学习和改进,是巨大的竞争优势,而成为行业标(biāo)准正(zhèng)是这一能力 的关键”。第三,开源在开发者和研究人员中极受欢迎。

开(kāi)源与(yǔ)闭(bì)源并不(bù)矛盾

开源还是闭源,也许是全球人工智能信徒长久的 辩题。在(zài)Llama 3诞(dàn)生前(qián)几天,国内(nèi)同样(yàng)在进行一场“辩论”。

4月11日,百度董事长兼首席执行官李彦宏(hóng)在其内部讲话中直言,大模型开源的意义不大,闭源模型在能力上会持续领先,而不是一时领先,做模型的创业公司既做(zuò)模型又做应用的“双轮驱(qū)动 ”不(bù)是一个好(hǎo)的模式(shì)。在(zài)一周后的Create 2024百度AI开发者大会(huì)上,李彦宏再度提到,大家以前用开源觉得开源便宜,其实在大模型场景(jǐng)下(xià),开源是最贵的,所以开 源模型会越来越落(luò)后。

360公司创始人周鸿祎则持不同的(de)观(guān)点。他表示:“网上有些名人胡说八道,大家也别(bié)被他们忽悠,说开源(yuán)不如闭源好。一句话,今天没有 开源(yuán)就(jiù)没有Linux(操作系(xì)统内核),没有Linux就(jiù)没(méi)有互联网(wǎng),就连说这话的公(gōng)司自己都借助了开源的力量才成长(zhǎng)到今天。”

这段(duàn)发言(yán)被解读为对李彦宏(hóng)观点 的回怼,周鸿祎随后澄清道(dào):“我一直是开(kāi)源的(de)信徒,但是我说开源好,是(4月)13日在哈佛讲的,李厂长(指(zhǐ)李彦宏)说闭源好,是(shì)(4月)16日在北京讲的。”

生数(shù)科技(jì)联合创(chuàng)始人兼CEO唐家(jiā)渝站在闭源的一(yī)边。在4月18日举行的“2024中国生成式AI大会”上,唐家渝表示:“在我们看来,开源、闭源都有各自可以做的商业生态,但是Meta继续押宝开源大模型 Llama 3拿下“赛点”?从模型能力(lì)的提升来说,或者持续走(zǒu)到前列来(lái)说,闭源还是会走到开源 的前面。”

昆仑万维董(dǒng)事长方汉的观点是,开源模型与闭源模(mó)型之间的差距正(zhèng)在不断缩小。4月16日(rì),方汉在接受《每日经济新闻(wén)》记者(zhě)在内的媒体(tǐ)采(cǎi)访(fǎng)时表(biǎo)示,闭源模(mó)型的(de)确(què)是第一(yī),但是开源大模型在2023年到今 年这 一年间,从落后(hòu)两(liǎng)年以(yǐ)上,已经进化到落后4~6个月以上。

此外,方汉认为,在(zài)应用侧,闭源对于产(chǎn)品特(tè)性(xìng)和(hé)长(zhǎng)尾需求(qiú)的满足(zú)都落后于开源大模型,开源大模型是一种生态(tài)构建器,更(gèng)利于满足用(yòng)户的(de)长尾需求。开源(yuán)大模型和闭源大模型是一个(gè)生态的(de)组成部分,不是谁压倒谁,大家都有自己的生存空间,也(yě)都有更好的明天。

不(bù)过,从商业化上来讲,闭源和开源也许并不矛盾。启明创投合伙(huǒ)人周志峰就认为,开源闭源在过(guò)去(qù)几个大浪潮当中没有(yǒu)很(hěn)大的冲突,不(bù)太理解为什么很多(duō)人把闭源(yuán)、开源在AI时代(dài)看成对立(lì)的。

李明(míng)顺的观点则(zé)是,在当前强应用导向的背景(jǐng)下,开源模式具有(yǒu)显著优势,能(néng)够吸引全球范围(wéi)内最广泛的人参与,从而使其创新性保持在较高水平。

相较之下,尽管一些闭源大模型在(zài)技术上具有领先地(dì)位,但其 成本太高。不过他也强调,开源与闭源在(zài)不同公司和应用场景(jǐng)中可(kě)以(yǐ)相互转换。一些基于(yú)开源的产品(pǐn)在发(fā)掘到独(dú)特优势后,可能会通过闭源策略建立竞(jìng)争(zhēng)壁垒。同时(shí),一些闭源公司也会不断将其部分(fēn)产品(pǐn)开源。这两个应(yīng)该(gāi)是共存的(de),未来开源可能用户量(liàng)级上更大,但是行业内,商业化做得(dé)比较好(hǎo)的公司,往往还是闭源的多一点。

在开(kāi)源(yuán)与闭源的辩论中,也许答案并非非此即彼。AI的(de)未来可能既(jì)不是(shì)完(wán)全开放的“自由港”,也不是彻底封闭的“孤岛”,而(ér)是一个既包(bāo)含开放协作也包含封闭竞争的(de)混合生态。在这个生 态(tài)系统中,开放(fàng)与封 闭不是对立的两极,而是一(yī)枚硬币的两面。

未经允许不得转载:天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修 Meta继续押宝开源大模型 Llama 3拿下“赛点”?

评论

5+2=