Meta继续押宝开源大模型 Llama 3拿下“赛点”？

开
源与闭源之争延续到(dào)大模型时代。在寻找“新大陆 ”的(de)路上，开源(yuán)与(yǔ)闭源(yuán)的辩论，就(jiù)像是一场关于AI未来的(de)“航海(hǎi)策略”讨论。

开源一派认为，开源能够促进全球科研人员和开发者的协作，加速AI技术的迭代与创新。同时，开源(yuán)让更多人参与到模型的改进和优化中，通过集(jí)体 智(zhì)慧解决复杂的技术难题。

闭源的倡(chàng)导者则看重(zhòng)其(qí)在商(shāng)业化、技术保护(hù)和(hé)产品差异化(huà)方面的优势。闭源模型使得企业能够控制(zhì)产品(pǐn)的开发节奏和市场策(cè)略，保护(hù)其商业利益。此外，闭源(yuán)也有助于企业维护(hù)其技(jì)术(shù)优(yōu)势，避免竞争对手模仿或超越。

Llama 3的发布(bù)让开源大模型在与闭(bì)源的竞争中
再(zài)度“扳回(huí)一(yī)城”。从测试结果来看(kàn)，Llama 3的成绩大幅超越了Llama 2，也胜过了GPTMeta继续押宝开源大模型 Llama 3拿下“赛点”？-3.5。

在AI这场没(méi)有硝烟的“航海(hǎi)竞赛”中，大模型已然成为眼前的灯塔。未(wèi)知的是，这座灯塔究(jiū)竟是(shì)向所有航海者开放其(qí)光芒，还是仅为特定的船只照亮前行的航道。

开(kāi)源在开发者和(hé)研究人员中极受欢迎

Meta正沿 着开源路径(jìng)继续前进。

近(jìn)日，Meta推出(chū)开源大模型Llama 3系列(liè)，发布8B和(hé)70B两个版本。Meta创(chuàng)始(shǐ)人兼首席执行官扎克伯格在同(tóng)一(yī)天宣布，基 于(yú)Llama 3，Meta的AI助手现在已经(jīng)覆盖Instagram、WhatsApp、Facebook等全系应(yīng)用，并单独开启了网站。

与Llama 2相比，Llama 3进行(xíng)了几项关键的改(gǎi)进：使(shǐ)用(yòng)具128K token（输入数据的最小单元）词(cí)汇表的tokenizer（编译器），可以 更有效地编码语(yǔ)言，从而显著提升模型性能；在8B和(hé)70B模型中都采用分(fēn)组查
询注意力（GQA），以提高Llama 3模型的(de)推理效率；在8192个(gè)token的序列上训(xùn)练模(mó)型，使用掩码(mǎ)来确保自注意力（Self-Attention）不会(huì)跨越文档边界。

据Meta介
绍，Llama 3已(yǐ)经在多种(zhǒng)行业(yè)基准测试上展现了最先进的性(xìng)能，提供了(le)包(bāo)括(kuò)改进的推理能力在内的新功能，是目前市场(chǎng)上(shàng)最好的开源大模型。

此外(wài)，Llama 3发布后，微软Azure、谷(gǔ)歌云(yún)、百度智能云等陆续宣布 其平台上线Llama 3。百度方面此前对《每日(rì)经济新闻(wén)》记者表示，百度智能云千帆大(dà)模型平台在(zài)国内首家推出针对Llama 3全系列版本的训练推理(lǐ)方案(àn)，便于开发者进
行再训练，搭建专属大模型。

工业和信息化部工业文化发
展中心AI应用工作组执行组长、行行AI董事长李明顺(shùn)在接受《每日经济新闻》记者采访时表示(shì)，Meta的Llama 3发布(bù)可能(néng)会带来更多AI应(yīng)用落地机(jī)会和场(chǎng)景(jǐng)，它通(tōng)过提供更大词汇量的Token词典、更长的输入上下(xià)文长度以及(jí)优化的模(mó)型结(jié)构，增(zēng)强了模型的编码效 率(lǜ)和推理效率(lǜ)。“现在，比(bǐ)起Llama 2，Llama 3在(zài)代(dài)码能力和逻辑推(tuī)理能力上有显(xiǎn)著提升，这可能会促进相(xiāng)关AI应用的性能（提升），尤其(qí)是(shì)在需要复杂逻辑和代码理解的场景中去落地。”

OpenAI在GPT-2之(zhī)后调转船头走向闭源，Meta则(zé)成为开源(yuán)界的引领者之一。

从2020年发(fā)布GPT-3，到引发轰(hōng)动的GPT-3.5，以及2023年(nián)3月发布的GPT-4，都是闭源模型。此前，马斯克起诉(sù)OpenAI时曾直言：“如果OpenAI改名为ClosedAI，我就(jiù)撤销诉讼。”

李明顺认为，OpenAI的转变可能与其商业战略(lüè)和市场定位(wèi)有关。“初(chū)期开源有助于快速吸引关注和社区参(cān)与，但随着公司的发展，我估计(jì)阿尔特曼（Sam Altman）的野心和商业梦想越来越膨胀了，闭源可以更好地(dì)让它融资，包括和(hé)微软合作，保护(hù)领先的技术优势(shì)。”他(tā)表示，从OpenAI的转变中可以看出，开源与闭源的选择并非固定(dìng)不变，而是需要(yào)根据公司战略目标、市场环境(jìng)和产品发展阶段灵活调整。天下没(méi)什么事情是绝对的，很多开源公司也(yě)是拿着次优代码开(kāi)源(yuán)，独家秘方闭源。

在追逐AGI（通(tōng)用人工智能）这颗明珠的道路上，迄今为止，Meta依旧持续沿着开源的路径前行(xíng)。

2024年初，扎克伯格在Meta第四季度及2023全年财报电话会议上表示：“长(zhǎng)期以来，我们的策略(lüè)是构建并开放源代码通用(yòng)基础设(shè)施，同时保留我们的(de)具体产品实(shí)现为专有技术。”

他认为，开源带来了几个战略好处(chù)。首先，开源软件通常更加(jiā)安全(quán)可靠
，并且因为社区的持续反(fǎn)馈(kuì)、审查(chá)和开(kāi)发，更(gèng)加高效。其次，开源软件(jiàn)经常成(chéng)为行业标(biāo)准(zhǔn)，“当企业开始基于我(wǒ)们的(de)技术栈建(jiàn)立标准时，这使得将创新融入我们的产品变得更加容易。这种微妙的优势，能够迅速(sù)学习和改进，是巨大(dà)的竞争(zhēng)优势，而成为行业标准正是这一能力(lì)的关键”。第(dì)三，开源在开发者
和研究人员中极受 欢迎。

开源与闭源并不矛盾

开源还是闭源，也许(xǔ)是全球人工智能信徒长 久的(de)辩题。在Llama 3诞生前几天，国内同样在进行一场“辩论”。

4月11日，百度董事长兼首席执行官李(lǐ)彦宏在其内部讲话中直言，大模(mó)型(xíng)开源的(de)意义不大，闭(bì)源模(mó)型在能力上会持续领先，而不是(shì)一时领先，做模型的创业公司既做模型又做应用的“双轮驱动”不是一个好的模式。在一周后的Create 2024百度(dù)AI开发者大会上，李彦宏再(zài)度提到，大家以前用开源觉得开(kāi)源(yuán)便宜，其实在大模型场(chǎng)景下，开源是最(zuì)贵的，所以开源模型会越来越落后(hòu)。

360公司创始人周鸿祎(yī)则持不(bù)同的观点。他表示：“网上有些(xiē)名人胡说(shuō)八道，大家(jiā)也别(bié)被他们忽悠，说开源不如闭源好。一句话，今天(tiān)没(méi)有开源就没有Linux（操(cāo)作系统内(nèi)核），没有Linux就没有互联网，就连说这话的公(gōng)司自己都借助了开源的力量才成长到(dào)今天。”

这段发言被解读为对李(lǐ)彦宏观点的回怼，周鸿祎随后(hòu)澄清道(dào)：“我一直是开源的(de)信徒，但是我(wǒ)说开源好，是（4月(yuè)）13日在哈佛讲(jiǎng)的，李厂长(zhǎng)（指李(lǐ)彦宏）说闭源好，是（4月）16日在北京讲的。”

生数(shù)科技联合创始人兼(jiān)CEO唐家(jiā)渝站在闭源的一 边。在4月18日(rì)举行的(de)“2024中国生成式AI大会(huì)”上，唐 家渝表示：“在我们看来，开源、闭源都有各(gè)自可以做的商业(yè)生(shēng)态，但(dàn)是从模型能力的提升来说，或者持续走到前列来(lái)说，闭源还是会走到开源的前面。”

昆仑万维董(dǒng)事长方汉的观点是，开源模型与闭源模型之间的差距正在不断缩小。4月16日，方汉在接受《每日经济新闻》记者在内的媒体采访时(shí)表示，闭 源模型的确是第一，但(dàn)是开源(yuán)大模(mó)型在2023年到今年这一年间，从落后两年以上，已经进化到落后4~6个月以上。

此外，方汉认为，在应用侧，闭源对于产品特(tè)性(xìng)和长尾需求的满足(zú)都落后(hòu)于开源大模型，开源大模型(xíng)是一种生态构建器，更利于满足用(yòng)户的长尾需求(qiú)。开源大模型和闭(bì)源大(dà)模
型是一个生态(tài)的组(zǔ)成部分，不是谁压倒谁，大家都有自己的生存空间，也都有更好(hǎo)的明天。

不过(guò)，从商业化上来(lái)Meta继续押宝开源大模型 Llama 3拿下“赛点”？讲，闭源和开源也许并不矛盾。启明创投合伙人周志峰就认为，开源闭源在过去几个(gè)大(dà)浪潮当中没有很大的冲突(tū)，不太理解为(wèi)什么(me)很多人(rén)把闭(bì)源、开源在AI时代看成对立的。

李明顺的观点则是，在(zài)当前强应用导向的背景下，开源(yuán)模式(shì)具有显著优势，能 够(gòu)吸引全球范围内最广(guǎng)泛(fàn)的人参(cān)与，从而使其创新性(xìng)保持在较高水平。

相(xiāng)较之下，尽(jǐn)管(guǎn)一些闭源 大模型在技术上具有领(lǐng)先地位，但其成本太高。不过他(tā)也强调(diào)，开源(yuán)与闭源在不(bù)同公司和应用场景中可以相互转换。一些基于开源的产品在发(fā)掘到独特优(yōu)势后，可能会通过闭源策略建立竞争壁垒。同时，一些闭源公司也会不断(duàn)将其部分产品开源。这两个应该是共存的，未来开源可能用户量 级上更大，但是行业内，商业化做得比较好(hǎo)的公(gōng)司，往往还是闭源的多一点。

在开源与(yǔ)闭源的辩(biàn)论中，也许答案并非非(fēi)此即彼(bǐ)。AI的未来可能既不是完全开放(fàng)的“自由港”，也不是彻底封(fēng)闭(bì)的“孤岛”，而是一个既包含开放协作也Meta继续押宝开源大模型 Llama 3拿下“赛点”？包含封闭竞争的混合生态。在这(zhè)个生态系统(tǒng)中，开(kāi)放与封(fēng)闭不是对立的两极，而是(shì)一枚硬币(bì)的两面。

未经允许不得转载：中央空调,电梯,空气能热水器-中央空调,电梯,空气能热水器 Meta继续押宝开源大模型 Llama 3拿下“赛点”？