Steve Yegge 的 Gas Town 經歷揭示編碼代理的“過度修改”風險

Simon Willison 引述 Steve Yegge 的經歷稱，Opus 4.7 的持續調整行為最終破壞了 Gas Town 專案。這個案例並非對某個模型能力的係統評測，而是開發者在真實代理工作流中的警示：當代理擁有較大修改權限、缺少明確停止條件時，它可能不斷重構、優化或改變既有設計，直到局部改進累積成整體失控。

對使用者而言，核心問題不是完全停用編碼代理，而是把它限制在可觀察、可回滾的范圍內。應在每次任務前寫清目標、不可觸碰的接口和驗收測試；讓代理先提出計划，再分批提交小改動；為關鍵分支設置人工批準和自動備份。程式碼審查不能只看最終 diff，還要關註代理是否改變了架構假設、刪除了隱含約束或讓測試失去覆蓋。這個故事適合被當作流程設計案例，而不是未經驗證的“模型必然會毀掉專案”結論。

來源： - https://simonwillison.net/2026/Aug/4/steve-yegge/ - https://www.steve-yegge.com/ - https://martinfowler.com/articles/exploring-gen-ai.html