小型模型正在改變 AI 成本結構，但「夠用」必須由工作負載證明
小型模型正在改變 AI 成本結構，但「夠用」必須由工作負載證明
趨勢判斷
Calvin French-Owen 提出「小型模型已經到來」的觀察：速度快、價格低而能力足夠的模型，正適合大量重複、可驗證的商業工作。這不是某一款模型的發布訊息，而是對產品架構的判斷。O'Reilly 同期的獨立分析亦提出相近結論：較小的專用模型在檔案擷取、終端操作、搜尋及特定談判任務中，可以用較低成本達到甚至超過通用大模型的表現。
不是引數競賽的反面口號
「小」沒有一致定義。它可以指少於 10B 引數、量化後可在單張消費級 GPU 執行，或稀疏 MoE 模型每次只啟用少量引數。這些模型的優勢包括延遲、私隱、可微調性及部署控制，但在長尾知識、複雜推理、跨工具規劃與安全敏感任務上，能力落差仍可能很大。因此，不能從價格表或單一排行榜直接推導「99% 企業任務都可由小模型完成」。
較穩妥的架構
產品團隊應先建立真實任務評估集，量度完整任務成功率、輸出 token、延遲、人工覆核及失敗成本，再選擇最小而合格的模型。常見做法是分層路由：小模型處理分類、抽取及高頻標準任務，遇到低信心、複雜或高風險請求再升級至前沿模型或人工。小型模型確實令 AI 經濟性改善，但可靠結論應是「按工作負載選最小合格模型」，而不是預設越小越好。