谷歌、Anthropic、微軟和 OpenAI 都是 AI 領(lǐng)域的頂尖玩家,但現(xiàn)在看來,這些公司在開發(fā)更先進的 AI 大模型時都遇到了不小的困難。
OpenAI 曾接近一個重要的里程碑。9 月,他們完成了一個全新 AI 大模型的首輪訓(xùn)練,希望能遠(yuǎn)超 ChatGPT 現(xiàn)有技術(shù)水平,朝著打造超越人類的 AI 這個目標(biāo)更近一步。
不過,彭博社援引兩位知情人士消息,這個內(nèi)部代號「Orion」的模型并沒達(dá)到預(yù)期效果。比如,到了夏末的時候,Orion 在處理沒見過的編程問題時表現(xiàn)還不夠理想。
總的來說,和 OpenAI 現(xiàn)有的模型比起來,Orion 的進步幅度遠(yuǎn)不如從 GPT-3.5 升級到 GPT-4 時那么大。要知道 GPT-3.5 可是 ChatGPT 最早用的那個系統(tǒng)。
一位消息人士告訴彭博社,這一挫折意味著 OpenAI 不太可能在明年年初之前向其用戶推出 Orion。
與此同時,據(jù)三位知情人士透露,谷歌的下一個 Gemini 迭代本應(yīng)是一次重大升級,但其表現(xiàn)也低于內(nèi)部預(yù)期。同樣,期待已久的 Anthropic Claude 3.5 Opus 的發(fā)布也被推遲。
生成式 AI 在訓(xùn)練中高度依賴于互聯(lián)網(wǎng)數(shù)據(jù)。雖然它們在快速生成響應(yīng)方面表現(xiàn)出色,但似乎已觸及瓶頸,無法找到新的高質(zhì)量內(nèi)容源來開發(fā)更高級的 AI 系統(tǒng)。
兩位消息人士告訴彭博社,Orion 的編碼性能不佳是由于缺乏足夠的編碼數(shù)據(jù)進行訓(xùn)練。
出版商和作者則擔(dān)心 AI 系統(tǒng)在未經(jīng)同意或補償?shù)那闆r下抓取他們的內(nèi)容進行訓(xùn)練。微軟和 OpenAI 也正在應(yīng)對多起版權(quán)侵權(quán)訴訟。
OpenAI CEO Sam Altman 承認(rèn),在沒有版權(quán)內(nèi)容的情況下開發(fā)類似 ChatGPT 的工具幾乎是不可能的。他也指出,版權(quán)法并未明確禁止使用受版權(quán)保護的內(nèi)容來訓(xùn)練 AI 模型。
OpenAI 最近在一場版權(quán)侵權(quán)訴訟中勝訴。紐約聯(lián)邦法官說得很明白:
讓我們搞清楚這里真正的問題是什么。原告( Raw Story 和 AlterNet )真正想要追究的,并不是說 OpenAI 刪除了版權(quán)管理信息,而是 OpenAI 沒給錢就用了他們的文章來訓(xùn)練 ChatGPT。
高質(zhì)量數(shù)據(jù)的缺乏并不是限制高級 AI 模型發(fā)展的唯一問題。構(gòu)建和維護新模型的高成本也是一個重要障礙。
據(jù)報道,在過去的幾個月里,OpenAI 預(yù)計虧損 50 億美元。然而,他們通過另一輪融資成功續(xù)命——從微軟、英偉達(dá)和其他主要投資者那里籌集了 66 億美元
雖然這輪融資讓市值飆升到了 1570 億美元,但市場分析師預(yù)測,這家公司還沒渡過難關(guān)。由于和微軟的數(shù)十億美元合作關(guān)系等因素,在 2029 年開始盈利之前,OpenAI 可能還要面臨 440 億美元的虧損。
通過最新一輪融資獲得的延長生命值后,OpenAI 也面臨兩難:要么在未來兩年內(nèi)轉(zhuǎn)型成為營利性公司,要么就得把投資者的錢退回去。這種情況可能會引來外部勢力的干預(yù)和惡意收購,其中就包括微軟可能在未來 3 年內(nèi)收購 OpenAI 的可能性。
值得一提的是,這已經(jīng)是 OpenAI 第八次向投資者伸手要錢來支持其 AI 項目的開發(fā)了。
OpenAI 這一動作已經(jīng)遭遇了重大阻力,包括馬斯克提起訴訟,指控公司背離了創(chuàng)立初衷,還涉嫌參與敲詐勒索活動。專家預(yù)測,這一轉(zhuǎn)變還會遭到員工、監(jiān)管機構(gòu)和政府部門的強烈反對。
至于 OpenAI 何時會發(fā)布 Orion 模型,目前還沒有確切時間表。據(jù)彭博社消息,模型已經(jīng)進入訓(xùn)練后期階段,這表明離正式對外發(fā)布已經(jīng)不遠(yuǎn)了。
不過,盡管 OpenAI 投入了大量精力,這個 AI 模型的表現(xiàn)還是不如預(yù)期。因此,公司決定把發(fā)布時間推遲到明年初。
此外,OpenAI 似乎打算改變傳統(tǒng)的模型命名方式。因此,這個新模型可能不會用我們熟悉的命名方式。
Sam Altman 曾表示,GPT-4 的繼任者會「更智能」,運作方式更像一個「虛擬大腦」。他還確認(rèn)公司今年晚些時候會發(fā)布一些重要產(chǎn)品,但強調(diào)「不會叫 GPT-5 」。
總的說來,這些公司都在追逐通用人工智能( AGI )這個目標(biāo),但按照 Sam Altman 的估計,這可不是件容易事。他說,要建造 36 座半導(dǎo)體工廠和額外的數(shù)據(jù)中心,需要投入 7 萬億美元,還得花很多年時間。
這番話一出,很多人覺得簡直是天方夜譚,也讓 Altman 被貼上了「鍵盤俠」的標(biāo)簽。有意思的是,盡管說需要這么多投入,Altman 卻又聲稱用現(xiàn)有的硬件就能實現(xiàn) AGI 。