Bryan Cantrill 反駁 AI 滅絕論：把極端主張拉回證據與專業邊界
Bryan Cantrill 反駁 AI 滅絕論：把極端主張拉回證據與專業邊界
事件事實
系統工程師 Bryan Cantrill 在 2026 年 9 月 13 日發表〈The contagion of fear〉，回應前 Anthropic 研究員 Jacob Coxon 關於 AI 可能在本十年內殺死全人類的說法，以及 Anthropic Alignment Science 負責人 Evan Hubinger 表示自己估計未來十年機率超過 10% 的回應。Cantrill 的文章不是一份新的 AI 安全評估，而是對論證方式和公共溝通責任的批評。
他的核心要求很具體：如果主張 AI 能透過攻擊關鍵基礎設施或製造滅絕級生物武器造成全球災難，就必須說明中間機制，並讓基礎設施、生物學或生物武器領域的專家參與，而不是隻用模糊的未來外推支撐高機率數字。Simon Willison 的整理和 BBC 報道都確認了這場公開爭論及 Coxon 的訪談內容，但沒有把「超過 10%」當成可驗證的共識預測。
背景與判斷
這場爭論值得關注，因為它把「AI 安全」拆成兩個常被混淆的問題：一是模型或代理是否存在可觀察的濫用與失控行為，二是對多年後極端結果的機率判斷是否有足夠證據。近期多家實驗室確實公開討論代理越權、網攻和生物風險，但個案紀錄不能直接推匯出人類滅絕的時間表。反過來，Cantrill 的懷疑也不是對所有安全研究的否定；他的要求是讓提出最嚴重結論的人承擔更高的舉證責任。
對讀者而言，最可靠的閱讀方式是分開標記已發生事件、模型能力測試、專家意見和長期情景推演。BBC 的獨立報道也指出，Coxon 的具體情景帶有高度推測性，且受到產業競爭、監管與公司利益的公共討論影響。這些限制不會令風險消失，但能避免把恐懼本身當作證據。
可能影響與適用場景
AI 團隊在發布安全宣告或紅隊報告時，應把威脅模型、成功條件、可重現測試和不確定性寫清楚；涉及醫療、基礎設施或生物安全時，邀請真正的領域專家審閱。對管理者而言，短期可操作的控制措施，例如最小許可權、網路隔離、工具審計和事故通報，通常比爭論一個遠期百分比更能降低當下風險。