跳至主要內容
PHUA MEDIA

生活

LLM 還在寫長篇解釋,JEV 只想回你一個分數:掘金那篇文章,讓開發者停下來多看兩眼

生活 現象觀察
刊登:(台北時間) 閱讀約 5 分鐘

掘金一篇談 JEV 決策模型的文章在開發者社羣被討論,本文回顧這篇長文的核心主張,以及它為何讓 Agent 與 RAG 開發者停下來多看兩眼。

先把日期補上:這篇文章出自 2026 年 9 月 19 日,掘金作者「前端小小棧」刊出的《為什麼最近開始關注 JEV?幾個實戰案例告訴你答案》。它不是突發新聞,閱讀量在當時也稱不上爆炸,但在關注 Agent 與 RAG 的開發者圈子裡,這類文章的壽命很長,隔幾週還會被翻出來轉發一次。這篇要把它的核心主張拆開來看,順便聊聊為什麼「一個只做決定的模型」這個聽起來樸素的想法,會讓寫程式的人特別有感。

「又一個 AI 模型」的第一印象,通常是錯的

文章開頭就承認了大多數人的直覺反應:第一次看到 JEV,第一反應是「又一個 AI 模型?」。作者接著指出,它和 GPT、Claude 這類模型的思路並不同。傳統 LLM 擅長生成,JEV 關注的是做決定。

這個區別用一個例子最能說明。你問 GPT「這個用戶是不是高價值客戶」,它可能會回你一段話:從消費記錄、活躍程度與歷史行為來看,該用戶具有較高潛在價值。聽起來很專業,但你的程式接下來還得想辦法從這段文字裡榨出 {"is_high_value": true} 這樣的結果。

JEV 的思路是把中間那層文字拿掉:輸入資料加上判斷問題,直接輸出 Decision。是不是、選哪個、機率多少、風險多高,這些事交給專門的決策模型處理。文章稱這個核心設計為 Typed Decision,讓 AI 的輸出天然成為程式可以直接使用的判斷結果,例如一個 0.91 的安全風險機率值,程式拿到後直接下 if probability > 0.8 的邏輯,要求人工審查。

那一串 LLM、Prompt、Parser、if/else 的日常

為什麼開發者會對這個想法有感?文章給出的答案是:現在的 AI 應用開發裡,連「應該選哪個工具」這種小問題,都得跑一次完整的 LLM 呼叫。

實際寫過的人都知道那條鏈長什麼樣:LLM 接 prompt,吐出文字,程式再解析成 JSON,接著 parse,接著 if/else,最後才進到業務邏輯。中間任何一環都可能出包,輸出格式跑掉、JSON 解析失敗、模型堅持先給一段解釋、模型沒照要求選擇、或者給出一個沒辦法直接拿來用的「機率描述」。

這也是為什麼同一個掘金社羣裡,先前那篇把RAG 知識獲取講成生產線的長文會被反覆圍觀。兩篇文章其實在講同一件困擾:AI 應用的痛點越來越不在模型本身,而在模型與程式之間那些黏合的環節。RAG 那篇給了檢索端的解法,這篇給的是判斷端的解法。

兩個實戰場景:Agent 路由與 RAG 排序

文章的後半段給了幾個實戰案例,其中兩個最能看出 JEV 的定位。

第一個是 Agent Router。假設做一個 AI 助手,用戶可能要查天氣、分析 SQL、查資料庫裡的訂單。傳統做法是讓 LLM 走一輪 Tool Calling 再分派。加入決策層之後,JEV 只回答一個問題:「這個請求應該交給誰?」它把流量分派給天氣 Agent、SQL Agent 或資料庫 Agent,自己不負責完成任務。作者認為這是非常適合 Decision Model 的場景,因為分派本身就是一個封閉的、可評分的判斷題。

第二個是 RAG 的相關性排序。目前的標準流程是 Query 經過 Embedding、向量搜尋、取 Top K,再交給 LLM。但向量搜尋有個老問題:相似不等於真正相關。文章舉的例子是,查詢「MySQL 為什麼出現死鎖」,向量搜尋撈回來的可能是一排看起來都沾得上邊的文件:鎖機制、MVCC、效能優化、事務、索引。到底哪篇最該往前排?在候選文件和最終排序之間插入 JEV 做相關性判斷,讓它對每份文件打分,0.91、0.73、0.42、0.18,再按分數重排送給 LLM。作者特別說這是他個人比較關注的方向。

圈子裡的討論,其實繞著同一個疑問

這篇文章在社羣裡的被討論方式,比文章本身更能說明開發者此刻的心情。有人認同「生成」與「決策」分離是 Agent 工程化的必然方向;也有人抱持觀望,畢竟 LLM 的 Function Calling 與結構化輸出也在進化,專門的決策模型到底能省下多少成本、增加多少確定性,得等更多落地數據。文章本身沒有給出基準測試或量化對比,這也是它留下的開放問題。

不過有一點是清楚的:當 AI 應用從展示型 demo 走向要穩定跑在生產環境的系統,每一次「請模型幫忙選一個」的呼叫,都會被攤開來檢視成本與可靠度。一個只回你一個分數、不寫長篇解釋的模型,戳中的正是這個務實的焦慮。至於 JEV 這個名字未來會不會真的長成生態系的一環,還是成為一個被吸收進大模型能力的概念,掘金那篇文章已經把問題問得夠清楚了。

主題: 社群現象

標籤: #jev+ai決策模型#掘金長文+開發者社羣#rag+agent路由