跳至主要內容
PHUA MEDIA

拒絕上臺辯論後,平克把話寫成了信:AI末日論戰的兩種答案

國際 比較視角
刊登:(台北時間) 閱讀約 3 分鐘

哈佛心理學家平克拒絕AI末日辯論並發表公開信,主張與其渲染滅絕情境,不如務實做好安全工程,本文以對照視角整理這場論戰。

先補上時間點。9月28日,據外媒 The Decoder 報導,哈佛大學心理學家史蒂文.平克在 Quillette 發表一封致精神科醫師、科技部落客斯科特.亞歷山大的公開信,說明他為什麼認為「AI 毀滅人類」的風險遭到誇大。

這封信的來頭有點曲折。亞歷山大先前向平克下戰帖,邀他公開辯論 AI 的生存風險。平克拒絕了,理由是這類辯論本質上是「供人圍觀的競技活動」。他不debate,但他寫信,把立場一次講清楚。

兩個人,兩種路線

把兩邊的主張並排放著看,差異相當清楚。

平克這邊:他認為「回形針最大化器」這類末日設想混淆了智慧與支配欲,等於預設 AI 系統會瘋狂地只追求單一目標。他真正擔心的風險是生物恐怖主義、網路攻擊,以及缺乏約束的 AI 智慧體。他的結論是,渲染末日情景無助於應對這些危險,有效的做法是審慎的安全工程,配上獨立監督、責任機制與人類控制。

亞歷山大那邊:他今年6月在自己部落格上表明立場,估算 AI 導致人類滅絕的概率為20%,主張改進 AI 安全研究,並透過國際協議放慢 AI 發展速度。

一邊說別再講末日了,動手做工程;一邊說概率高到不能賭,先放慢腳步。這不是誰對誰錯的問題,比較像兩種風險觀的分歧:一種把風險當成可以被工程拆解的具體問題,另一種把它當成需要提前踩剎車的系統性賭注。

平克也沒有全盤押樂觀

值得注意的是,平克並非一路看多。他在信中承認,自己低估了大語言模型最終能具備多強的能力,也沒料到 AI 公司發布產品時會如此魯莽。

報導裡還有一個頗具諷刺感的細節:推動這場發布競賽的許多人,恰恰來自一直警告這些風險的羣體。換句話說,喊危險的人和踩油門的人,有一部分是同一批。這也讓這場論戰的圍觀者多了點複雜心情。

圍觀之外

對一般使用者來說,這場學者之間的信件往來其實觸及了一個很實際的問題:面對 AI,我們該用「隨時滅絕」的框架思考,還是用「逐項修補」的框架思考。前者容易變成恐慌循環,後者可能低估連鎖效應。平克給出的答案是往後者靠,但他的反對者會說,20%的滅絕概率,用工程心態面對是不是太從容了。

這場論戰沒有收尾。亞歷山大是否回信、辯論會不會換個形式發生,後續動態值得留意。可以確定的是,只要 AI 產品持續以現在的速度推出,這類「末日 vs. 工程」的路線之爭,每隔一陣就會再上演一次,這一點倒和羅志祥復出爭議每隔一陣重演一次的輿論節奏,有幾分相似的圍觀邏輯。

主題: 社會事件社群現象

標籤: #史蒂文平克與ai末日論戰#ai安全與社羣討論#亞歷山大公開信