內感受 AI:讓 Agent 管理「內部狀態」的框架,而非賦予機器感覺
內感受 AI:讓 Agent 管理「內部狀態」的框架,而非賦予機器感覺
研究提出甚麼
《Nature Machine Intelligence》刊登的觀點文章提出「內感受 AI」框架,借鑑生物體監察飢餓、疲勞等內部狀態並維持穩態的方式,要求人工 Agent 明確區分外部環境與內部狀態。這些內部變數可以代表能源、運算預算、硬體健康、任務風險或資源餘量,再透過控制迴路影響學習與行動選擇。
與一般監控有何不同
普通遙測只記錄溫度、電量或錯誤率;內感受式設計則要求這些訊號直接參與決策。例如,探索機械人發現電量及通訊品質同時下降時,可降低任務野心、改變路線或主動返回。另一篇獨立的預印本把相關思路整理為穩態、預測性調節與互動生成三類機制,顯示這不是單一團隊才有的概念。
證據邊界
目前兩篇文章主要提供理論與工程框架,並非已證明能普遍提升大型語言模型或 Agent 的產品成果。把「內感受」寫成機器具有身體感覺、主觀意識或自我儲存本能,都是超出證據的延伸。較務實的價值,是建立可測試的內部狀態、失效門檻及降級策略,然後在機械人、長時間自治任務和資源受限系統中驗證。