西風(fēng) 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI
“大模型排位賽”權(quán)威榜單Chatbot Arena刷新：
谷歌Bard超越GPT-4，排名位居第二，僅次于GPT-4 Turbo。
然鵝，眾多網(wǎng)友對(duì)此卻表示“不服”、“不公平”。
原來(lái)，谷歌AI掌門人Jeff Dean透露，Bard性能大幅提升，是因?yàn)榇钶d了新版大模型Gemini Pro-scale。
這也就意味著，打“排位賽”的Bard具備了聯(lián)網(wǎng)功能。
網(wǎng)友的質(zhì)疑正是圍繞著這一點(diǎn)展開(kāi)：
在同一個(gè)排行榜上混合在線和離線大模型，是極易引起誤解的。
Hugging Face的“首席羊駝官”Omar Sanseviero也表示：
既然如此…我也可以向lmsys提交具有搜索功能的Mixtral嗎？
面對(duì)種種質(zhì)疑聲，Imsys官方做出了回應(yīng)，其中指出：
Arena排行榜是實(shí)時(shí)的，大家如有疑問(wèn)，可在Arena中直接比較模型并投票；
投票數(shù)據(jù)公開(kāi)透明，還會(huì)即將發(fā)布關(guān)于用戶提示多樣性和投票質(zhì)量的研究以及相應(yīng)的數(shù)據(jù)集；
對(duì)于網(wǎng)友們最關(guān)心的被Bard超越的GPT-4是不聯(lián)網(wǎng)版本的問(wèn)題，Imsys表示“如果實(shí)時(shí)數(shù)據(jù)的接入能夠提升用戶體驗(yàn)，排行榜將予以體現(xiàn)”。
并且直接@了OpenAI和Bing以及微軟高管Mikhail Parakhin，表示非常樂(lè)意在競(jìng)技場(chǎng)中加入GPT-4聯(lián)網(wǎng)版或Bing Copilot。
最新消息是，OpenAI的最新模型gpt-4-0125-preview現(xiàn)已入駐競(jìng)技場(chǎng)，等待用戶參與投票。
Bard超越GPT-4是怎么回事？
Chatbot Arena是一個(gè)大模型權(quán)威榜單，由UC伯克利研究人員主導(dǎo)的Imsys（Large Model Systems Organization）組織創(chuàng)建。
該排行榜采用匿名1V1battle的投票規(guī)則，基于Elo評(píng)級(jí)系統(tǒng)排名。
具體來(lái)說(shuō)，投票頁(yè)面如下，兩個(gè)模型Model A和B均匿名，用戶在提出多個(gè)問(wèn)題后對(duì)模型的回答打分，總共有四個(gè)選項(xiàng)：A更好、B更好、A和B一樣好，A和B都不好。
值得一提的是，如果在問(wèn)答過(guò)程中，模型身份泄露，那么該投票作廢。
根據(jù)當(dāng)前榜單，競(jìng)技場(chǎng)中有56個(gè)大模型：
此前GPT-4憑借“遙遙領(lǐng)先”的評(píng)分，長(zhǎng)期霸榜，然而新版Bard發(fā)布后，直接超越GPT-4的兩個(gè)版本沖到了第二名，和GPT-4 Turbo只差34分：
更詳細(xì)一點(diǎn)，在所有沒(méi)有平局的Model A對(duì)B的對(duì)決中，Model A獲勝的比例如下：
還有每一對(duì)模型組合的單挑次數(shù)（無(wú)平局）：
此外，Chatbot Arena排行榜還使用自助法對(duì)Elo評(píng)分估計(jì)進(jìn)行1000次隨機(jī)抽樣，從而評(píng)估置信區(qū)間等。
單個(gè)模型相對(duì)于其他所有模型的平均勝率如下：
不過(guò)值得注意的是，Arena排行榜是實(shí)時(shí)的，Bard目前雖然排名第二，但總共只有3000多票。
相較而言，GPT-4 Turbo的票數(shù)已經(jīng)達(dá)到了30000+，被超越的兩個(gè)版本的票數(shù)也都是Bard的數(shù)倍。
而現(xiàn)在GPT-4最新版本已入場(chǎng)（雖然還沒(méi)有在排行榜上更新），后續(xù)榜單還要再坐等一波～
參考鏈接：https://twitter.com/lmsysorg/status/1752035632489300239
