繼旗下xAI公司宣布正式開源大模型Grok-1后，特斯拉CEO馬斯克再次在大模型市場扔下一顆重磅炸彈。
當?shù)貢r間8月11日晚，馬斯克在X平臺上透露人工智能模型Grok-2測試版將在不久后發(fā)布。事實上，馬斯克在7月份就在X平臺上確認，Grok-2將于8月發(fā)布，在回應用戶關于訓練數(shù)據(jù)的提問時，他表示該模型將在這方面做出“巨大改進”。
圖源：X
今年三月，馬斯克曾表示Grok-2將在“所有指標”上超越當前一代的AI 模型。
作為一個由xAI從頭開始訓練的混合專家（MoE）模型，Grok自2023年11月推出第一版以來，于今年3、4月陸續(xù)推出了Grok-1.5大語言模型和首個多模態(tài)模型Grok-1.5 Vision，整體迭代速度已足夠驚人。
但要超越當前所有AI大模型，Grok-2要面對的問題或許遠沒想象中簡單。
所有指標超越當前AI大模型，真的假的？
2023年11月，xAI推出其第一代大語言模型Grok時表示，Grok的設計靈感來源于《銀河系漫游指南》，最初主要為X上的Grok聊天機器人提供支持，用于包括問答、信息檢索、創(chuàng)意寫作和編碼輔助在內的自然語言處理任務。
最初版本Grok-0僅擁有330億參數(shù)，經(jīng)過數(shù)次改良后的Grok-1擁有3140億參數(shù)，是當時全球參數(shù)量最大的開源大語言模型。
即便這些參數(shù)在給定token上的激活權重僅為25%，Grok-1的激活參數(shù)數(shù)量也有860億，這比LIama-2的70B參數(shù)還多，這意味著其在處理語言任務時具備廣闊的潛在能力。
Grok-1采用了混合專家系統(tǒng)的設計，每個token從8個專家中選擇2個進行處理。在該架構下，根據(jù)具體詢問的內容，模型只會激活不同的專家子模塊進行推理，在吞吐量一定的情況下，可以更快地完成推理、給出回答。這讓Grok-1擁有了更快的生成速度和更低的推理成本，簡而言之就是更好的使用體驗和性價比。
根據(jù)xAI公布的數(shù)據(jù)，在GSM8K、HumanEval和MMLU等一系列基準測試中，Grok-1的表現(xiàn)超過了Llama-2-70B和GPT-3.5，不過與第一梯隊的GPT-4差距還很明顯。
圖源：xAI
來到Grok-1.5，情況已大為改觀。Grok-1.5不僅具有改進的推理能力和128k的上下文長度，其在編碼和數(shù)學相關任務中的表現(xiàn)也得到顯著提升。
在官方測試中，Grok-1.5在MATH基準上取得了50.6%的成績，在GSM8K基準上取得了90%的成績，這兩個數(shù)學基準涵蓋了廣泛的小學到高中競賽問題。此外，它在評估代碼生成和解決問題能力的HumanEval基準測試中得分為74.1%。
圖源：xAI
基準測試中的整體表現(xiàn)與GPT-4已十分接近，甚至在HumanEval測試上實現(xiàn)了超越。
緊接著xAI發(fā)布的多模態(tài)模型Grok-1.5V，號稱能連接數(shù)字世界和物理世界。不僅多項基準測試可以和GPT-4V、Claude 3 Sonnet、Claude 3 Opus等這些最頂尖的多模態(tài)模型對打，還能處理文檔、圖標、屏幕截圖和照片之類的各種視覺信息，支持讀懂梗圖、寫Python代碼的操作。
盡管馬斯克和xAI目前尚未公布關于Grok模型的詳細信息，但按照該模型的迭代趨勢，馬斯克口中將在“所有指標”上超越當前一代AI模型的Grok-2，看來也不是空口無憑。
更大的參數(shù)量、更強的性能和速度這些幾乎是板上釘釘?shù)纳墸斎蛔钭屛移诖�，或許還是年底左右推出的Grok-3，畢竟馬斯克表示該模型的水平將“達到或超越”尚未發(fā)布的OpenAI GPT-5，后者被認為是大語言模型領域的下一個重大突破。
圖源：微博
如果Grok-3真能達到上述水平，那對馬斯克旗下公司的影響將是巨大的，比如陷入用戶增長停滯的X和專注于FSD的特斯拉，前者可以借助大模型為用戶提供更智能的聊天機器人，打造社交平臺的差異化；后者則可以使用大模型語言進行“思維鏈”處理，幫助汽車“端到端”分解視覺復雜場景，解決當前自動駕駛的某些局限。這點在Grok-1.5時，就傳出應用在特斯拉FSD V13的消息。
但不論如何，Grok接下來很可能改變大模型的迭代和應用方式，更可以確定的是，以Grok為代表的開源大模型，與閉源大模型之間的競爭還在繼續(xù)加劇。
開源VS閉源，大模型路線之爭
馬斯克是開源的堅定支持者，其曾多次公開表達對OpenAI閉源商業(yè)路線的不滿，并向法院提起訴訟，以違反合同為由起訴OpenAI及其CEO Sam Altman，要求恢復開源。
xAI的誕生，很大程度上就是為阻止人工智能領域出現(xiàn)“一家獨大”的局面。諷刺的是，OpenAI的"Open"程度真不如xAI。馬斯克如期開源了3140億參數(shù)的Grok-1，遵守Apache 2.0許可證允許用戶自由地使用、修改和分發(fā)軟件，無論是個人還是商業(yè)用途。
OpenAI是AI領先者，要求其開源ChatGPT背后模型代碼不太現(xiàn)實除非它自身愿意。但不可否認，無論是國內還是海外，大模型開源都已成為一大趨勢。
海外，去年7月Llama2宣布免費可商用后，一舉成為了全球開發(fā)者首選的開源大模型。不久后，谷歌也通過發(fā)布Gemma開始進入開源大模型的競爭，憑借70億參數(shù)碾壓 Llama2-13B（130億參數(shù)）；國內市場，阿里宣布開源720億參數(shù)的大語言模型通義千問Qwen-72B，性能超越標桿Llama2-70B，號稱最強中文開源模型。
大模型開源、閉源的路線之爭向來是熱點話題，不少行業(yè)大佬也發(fā)表了自己的觀點。百度CEO李彥宏是“閉源派”，其認為在同樣的參數(shù)規(guī)模下，開源模型的能力不如閉源，如果開源模型想要在能力上追平閉源模型，就需要更大的參數(shù)規(guī)模，這將導致更高的推理成本和更慢的反應速度。
圖源：2024世界人工智能大會
“大模型五虎”之一百川智能的CEO王小川，則是開源派的擁躉，其認為開源與閉源并非對立關系，兩者并存互補或許才是更優(yōu)解。他預計，未來80%的企業(yè)會用到開源大模型，因為閉源沒辦法對產(chǎn)品做更好的適配，或者成本特別高。
李彥宏和王小川的觀點沒有對錯之分，只是不同的選擇，大模型開源與閉源的路線本質上是由商業(yè)模式?jīng)Q定的。
閉源大模型在保護知識產(chǎn)權、確保數(shù)據(jù)安全合規(guī)等方面具有優(yōu)勢，但在靈活性和可定制方面可能會受到限制；開源大模型是互聯(lián)網(wǎng)成熟的商業(yè)模式，盡管最終目的也是變現(xiàn)，但因為有多方參與，更像是一個整體推動生態(tài)前進，比如快速迭代、快速試錯、共創(chuàng)共擔等等。
個人認為谷歌高級軟件工程師Luke Sernau的表述十分準確：開源模式的迭代進步速度已經(jīng)威脅到了部分閉源模型的生存，因為開源方相當于獲得了整個星球的免費勞動力。
這正是開/閉源大模型之爭的根源：不管開發(fā)者還是用戶，都更傾向于最好的開源項目，群聚效應可能遠比閉源大模型來得明顯。
寫在最后
按照馬斯克的理念，接下來發(fā)布的Grok-2大概率也會開源。面對日益加劇的開源大模型戰(zhàn)爭，不管是xAI、谷歌、Meta、阿里，還是Mistral AI、Databricks以及更多的開源大模型廠商，都還在繼續(xù)進行迭代，提高性能、提高效率。畢竟誰也無法篤定在這場快速變化的技術革命中，能不能守住甚至擴大優(yōu)勢。
圖源：特斯拉
馬斯克給xAI帶來的影響力只是短期的，真正決定xAI未來的還得看Grok的實際表現(xiàn)，它或許可與X、特斯拉業(yè)務結合打造AI大模型標桿殺手锏應用，也可能只是“紙面參數(shù)”甚至Sora這樣的“技術期貨”，一切問題，都要等到Grok-2發(fā)布那天，才會有更明確的答案。
