跑分第一,實測第三:B站UP主出的題,把AI排行榜重排了一遍
B站「AI無限競技場」由UP主自行出題實測大模型,GPT-6 Astra領先、Fable 5.1僅列第三,本文對照民間榜單與學術跑分的落差。
先把時間背景補上。9月17日,掘金上一篇整理「民間AI排行榜」的文章開始流傳,來源是B站近期推出的「AI無限競技場」活動。這份榜單的結果和學術圈的認知有些錯位:GPT-6 Astra暫時領先,GML-5.3緊隨其後,而Claude Fable 5.1只排在第三。不少在MMLU、LiveBench、GPQA這類基準測試裡名列前茅的模型,到了UP主設計的任務裡反而掉了鏈子。
把兩份榜單並排放在一起看,味道就出來了。
學術跑分是什麼樣的考試
MMLU-Pro、GSM8K、GPQA Diamond這些名字,長期以來被社羣當成衡量大模型實力的共同語言。它們的優點很清楚:題庫標準化、答案明確、流程可複現。任何人拿到同一套題,重跑一次得到的分數不會差太遠。模型之間的橫向比較因此變得公平,研究人員也才有辦法客觀判斷一次迭代到底有沒有實質進步。
但標準化測試天生有它的邊界。就像考試高手出了考場,面對沒有標準答案的現實難題,未必照樣遊刃有餘。GPQA拿高分,代表研究生級物理知識過硬,卻不代表它讀得懂中文裡的委婉暗示、啃得動百萬字的雜亂文件,或寫得出能塞進老專案的工程程式碼。模型的能力是分化的,很難被一個總分概括。
UP主的題目長什麼樣
B站這場競技場的玩法完全是另一套邏輯。平臺不出題、不定標準,出題權直接交給各路UP主。點開活動頁面,能看到有人讓AI復刻《狂扁小朋友》遊戲、有人拿「屎山程式碼」讓模型們互相論劍,也有人現場演示AI空間建模。做測試的人背景五花八門,有程式設計師、學生、遊戲開發者,也有純粹的內容創作者,題目很多就來自他們日常真的要處理的工作。
這種測法看起來草率,卻有一種學術基準給不了的東西:真實。觀眾愛看的也不是分數,是AI在苛刻條件下被「拷打」的過程。模型哪一步當機、哪一段程式碼跑不起來、哪個需求理解偏了,全都攤在影片裡。
這與先前前端AI編程工具在CodeArena上72小時內三度易主的榜單震盪有幾分相似:一旦題目貼近實際工作,排名的變動幅度就遠比標準化測試來得劇烈。
兩把尺,量的是不同的東西
那麼跑分第一是否等於全場景無敵?答案顯然是否定的。Benchmark只能證明模型在那套基準定義的能力集合裡表現更好,超出題庫範圍的表現,它一概不保證。
反過來問,民間實測拿第一,是否代表綜合實力就是世界頂尖?同樣不能。民間榜單的考題來自UP主個人興趣,明顯偏向創作類、生活化任務,對硬核科研、工業級複雜Agent任務的覆蓋很有限。樣本數量也遠不及標準題庫,單一UP主的偏好足以左右結果。至於有沒有夾帶私貨、夠不夠嚴謹,每個觀眾心中各有一把尺。
嚴格說,兩份榜單量測的東西根本不同。學術基衡量的是知識儲備、多步推理、數理演算這些硬能力;民間競技場量的是模型面對模糊需求、混亂輸入、真實工作流時的存活率。前者像聯考,後者像試用期。
對一般使用者來說,該看哪一份
這大概才是多數人真正關心的問題。如果你是研究人員或工程團隊,挑模型當然以標準化基準為主,可複現的數據才有討論基礎。但如果你只是想找個模型幫忙改履歷、寫腳本、整理資料,那麼UP主那些貼近日常的實測影片,參考價值可能反而更高,因為那些任務的長相,和你螢幕前遇到的問題更接近。
比較務實的態度是兩份都看,但不把任何一份當成唯一答案。跑分告訴你天花板在哪裡,實測告訴你地板會不會塌。Fable 5.1排第三也好、GPT-6 Astra領先也罷,這份榜單真正有意思的地方,在於它示範了一件事:評價AI的權力,正在從論文附錄裡的表格,慢慢轉移到影片網站的播放清單上。
主題: 消費生活
標籤: #gpt-6astra+民間榜單#fable5.1+benchmark爭議#b站up主+ai實測文化