自ChatGPT問世以來,大模型的開源與閉源一直是業(yè)界熱議的話題。在近期舉行的SIGGRAPH?2024大會(huì)上,NVIDIA首席執(zhí)行官黃仁勛與Meta首席執(zhí)行官馬克·扎克伯格探討了開源模型的變革潛力。
合作是進(jìn)步的關(guān)鍵
美國(guó)當(dāng)?shù)貢r(shí)間7月23日,Meta正式發(fā)布最新的開源大模型Llama?3.1,提供8B、70B和405B三個(gè)參數(shù)版本,最大上下文提升到了128k。根據(jù)評(píng)測(cè)結(jié)果顯示,Llama?3.1追平甚至超越了GPT-4o、Claude?3.5?Sonnet等頂尖閉源大模型。
扎克伯格認(rèn)為,合作是取得更多進(jìn)步的關(guān)鍵。他在一篇博客文章中寫道,Llama?3.1有望成為采用開源AI的“轉(zhuǎn)折點(diǎn)”。據(jù)他介紹,Meta在開源方面的起步相對(duì)較晚。當(dāng)Meta開始著手構(gòu)建分布式計(jì)算基礎(chǔ)設(shè)施和數(shù)據(jù)中心時(shí),已有其他科技公司涉足該領(lǐng)域,所以這并不能構(gòu)成Meta的競(jìng)爭(zhēng)優(yōu)勢(shì)。
鑒于此,Meta決定直接進(jìn)行開源,并從圍繞其建立的生態(tài)系統(tǒng)中受益,其中最大的項(xiàng)目應(yīng)該是開放計(jì)算。Meta公開了服務(wù)器、網(wǎng)絡(luò)和數(shù)據(jù)中心的設(shè)計(jì),這些設(shè)計(jì)在成為行業(yè)標(biāo)準(zhǔn)后,所有的供應(yīng)鏈基本上都按Meta的標(biāo)準(zhǔn)進(jìn)行運(yùn)作。因此,實(shí)際上開源為Meta節(jié)省了數(shù)十億美元。
開源將帶來不可估量的價(jià)值
在探討開源策略時(shí),扎克伯格強(qiáng)調(diào),Meta的產(chǎn)品面臨著一個(gè)現(xiàn)實(shí),即通過競(jìng)爭(zhēng)對(duì)手的移動(dòng)平臺(tái)來分發(fā)自己的應(yīng)用程序。在智能手機(jī)操作系統(tǒng)的競(jìng)爭(zhēng)中,蘋果憑借其封閉的生態(tài)系統(tǒng)占據(jù)了市場(chǎng)的主導(dǎo)地位,游戲規(guī)則都是蘋果說了算。盡管Android手機(jī)在數(shù)量上占優(yōu)勢(shì),但蘋果實(shí)質(zhì)上控制了整個(gè)市場(chǎng)和大部分利潤(rùn),而Android則處于追隨地位。然而,回顧PC時(shí)代,盡管微軟并非完全開放的公司,但與蘋果相比,Windows系統(tǒng)能夠在各種OEM、不同的軟件和硬件上運(yùn)行,構(gòu)成了一個(gè)更為開放的生態(tài)系統(tǒng),并成為領(lǐng)先的生態(tài)系統(tǒng)。在PC時(shí)代,開放的生態(tài)系統(tǒng)占據(jù)主導(dǎo)地位。
因此,扎克伯格希望在下一代計(jì)算中,開放的生態(tài)系統(tǒng)能夠再次回歸并成為主導(dǎo)趨勢(shì)。“開源和閉源兩種模式各有其優(yōu)勢(shì),我并不是非??駸岬拈_源主義者,也并非所有Meta的產(chǎn)品都開源。然而,對(duì)于整個(gè)行業(yè)共同構(gòu)建的計(jì)算平臺(tái)而言,開源具有重要意義?!痹瞬駡?jiān)信,開源終將獲勝。
黃仁勛對(duì)此表示贊同,他認(rèn)為,開源是一項(xiàng)偉大的事業(yè),世界上最杰出的人才致力于打造最好的人工智能系統(tǒng),并將其作為服務(wù)無(wú)私地提供給全世界。同時(shí),開源還賦予了個(gè)人或組織構(gòu)建自己的人工智能系統(tǒng)的能力?!熬拖裎也粫?huì)自己做我身上這件皮衣,而是買別人做的成品,這種服務(wù)的價(jià)值不可估量。”黃仁勛說道。
實(shí)際上,開源軟件的建設(shè)并非單憑一人或一家公司之力所能完成,它依賴于一個(gè)完整的生態(tài)系統(tǒng)作為支撐,本質(zhì)上就需要開放和協(xié)作。黃仁勛以Pytorch生態(tài)系統(tǒng)為例,指出NVIDIA有數(shù)百名專業(yè)人員全心投入,致力于讓?Pytorch不斷進(jìn)步,變得更強(qiáng)大、更可擴(kuò)展、更高效。
寫在最后:
開源的重要性不言而喻。通過開源,企業(yè)和開發(fā)者可以共享他們的研究成果,加速技術(shù)迭代,并且降低進(jìn)入門檻,讓更多的人可以參與到大模型的開發(fā)中來。在未來,我們有理由相信,開源將繼續(xù)在大模型領(lǐng)域發(fā)揮更加重要的作用。