一個三百多MB的檔案，就想取代幾十GB的Python全家桶：SonicBoom 把「告別手工調優」喊得很大聲

先把背景補上。2026年10月19日，Solidot 刊出一則由 Nala Ginrut 投稿的消息：HardenedLinux 社羣主導開發的 AI 執行時框架 SonicBoom 正式對外亮相，採 GPLv3 授權，目前版本為 v0.0.3。

嚴格說，這是一則開發者圈的消息，但它有幾個畫面感很強的數字，值得從社羣圍觀的角度拆一拆。

它想解決的痛點，每個跑過模型的人都遇過

SonicBoom 的賣點濃縮起來是三件事。第一，它提供語言無關的 C API 介面，任何語言都能綁定，官方目前支援的是 GNU Guile。第二，它用 LLVM MLIR 做圖編譯器優化，根據硬體自動生成 kernel，讓工程師不必再針對每張顯示卡手工調校。第三，部署端不需要整套 Python 環境，整個執行時壓縮成一個三百多 MB 的 .so 檔案。

投稿者拿 llama.cpp 當對照組：llama.cpp 靠資深工程師把 kernel 調到極致，而 SonicBoom 直接沿用 llama.cpp 已有的 kernel，在 kernel 不變的前提下，靠圖編譯器的優化在 RTX 3050 8G 上把原始性能再推升約 20%，且仍在持續增加。這個數字目前只在單一顯卡上驗證過，投稿者也坦言其他 GPU 上的測試數據可能波動。

這種「用編譯器取代老師傅」的路線，和先前我們看過的AI 自己打開瀏覽器抓 bug 屬於同一種敘事：把原本倚賴人類經驗的工序，交給工具鏈自己消化。開發者社羣對這類主題的胃口一直不小。

靈活性與性能，這次想兩頭都要

AI 框架圈的經典兩難，是 PyTorch 的動態圖彈性和 TensorFlow 的靜態圖性能難以兼得。SonicBoom 的說法是，它在執行時自動把計算圖編譯優化，研究階段享有動態語言的靈活，部署階段拿到接近靜態圖的性能，而且研究和生產用的是同一套編譯優化棧，研發完可直接上線。

另外它利用 Guile 的 delimited continuation，在應用層做「死計算消除」，只有真正有效的計算才會進入執行時。聽起來工程味很重，但換句話說就是：沒有用的計算，在被算出來之前就被丟掉了。

這套「一套棧打通研發與部署」的承諾，多少讓人想起Tailwind 加入 Shopify 那場關於開源專案商業模式的討論。SonicBoom 也畫出了類似的界線：社羣版只提供單點推理，分布式推理留給未來的企業版。開源圈對這種「社羣版先養生態」的玩法並不陌生，反應通常也是兩極。

邀請全民測顯卡，貢獻者可以留名

目前 SonicBoom 僅支援 CPU 與 CUDA，之後計畫支援 Vulkan，讓非 NVIDIA 顯卡與純自由軟體使用者多一個選項。團隊坦言缺乏足夠多樣的 GPU 評測數據，因此正在邀請社羣貢獻者參與不同 NVIDIA 平臺的測試，準備了一行就能跑完的腳本，但測試時間可能不短，每位貢獻者都會列進貢獻者名單。

投稿裡還有一句誠實的補充：目前只在 RTX 3050 上充分驗證，其他卡上的數據可能波動，歡迎大家把評測數據交回去，幫助優化擴散。這種把不確定性講在前面、同時把測試眾包出去的做法，是小型開源專案常見的生存策略，某種程度上也和酷安網友手寫萬字測評的精神相通：真實硬體上的實測數據，永遠比官方說法有說服力。

版本號很小，口氣很大

值得留意的是落差。一方面，v0.0.3 這個版本號很誠實地告訴你這是個剛起步的專案；另一方面，投稿內文說得很直接，SonicBoom 的野心不僅止於 LLM 推理，它對標的是 PyTorch，之後要把更高性能推向 image、video 與 TTS 計算。

一個還在單點推理階段的框架，宣稱要挑戰深度學習圈的基礎設施，這種敘事在開源史上出現過很多次，成功率向來不高。但 GPL 授權加上 HardenedLinux 這個以安全與自由軟體聞名的社羣背景，確實讓它多了一點不一樣的看頭。它會不會走到企業版那一步，現在誰也說不準，能確定的是：接下來幾個月，那張貢獻者名單的長度，大概就是這個專案最誠實的體溫計。