未發表數學能否安全交給 AI:OpenAI 資料透明度爭議擴大

未發表數學能否安全交給 AI:OpenAI 資料透明度爭議擴大

事件事實

德累斯頓工業大學數學家 Andreas Thom 公開了他與 OpenAI 研究人員的往來,並提出一個尚未解決的問題:他和同事曾在 ChatGPT 中討論未發表的 expander matching 研究,這些對話是否進入訓練資料,或在模型解決相關非 sofic 群問題時可被訪問。Thom 表示,OpenAI 研究人員 Mark Sellke 對其對話給出的完整回答是「沒有發生」,但沒有區分訓練階段使用、去識別化衍生資料與推理時直接讀取三種不同機制,也沒有提供可審計證據。

The Verge 與 Heise 對這項質疑進行了獨立報道。爭議之所以升溫,是因為 OpenAI 近期在另一宗 Navier-Stokes 數學成果爭議中表示,研究人員與智慧體沒有直接看過相關未發表工作,也沒有訪問特定使用者資料,但同時不能排除由產品使用產生的去識別化資料曾幫助改善模型。OpenAI 向 USA Today 否認其搶用研究成果的指控;截至相關報道釋出時,OpenAI 尚未對 Thom 的新帖子給出完整公開回應。

研究判讀

目前沒有公開證據證明 Thom 的私人對話被用於訓練,也沒有證據證明模型在求解時直接檢索過他的聊天記錄。因此,這不能寫成「OpenAI 竊取未發表數學」。真正可以確認的是,外部研究者無法從產品介面、論文或模型卡判斷一段對話是否被保留、進入哪個資料管線、影響哪個檢查點,或只形成聚合後的訓練訊號。平臺掌握可驗證記錄,使用者卻只能依賴政策說明與單句否認,資訊不對稱正是爭議核心。

數學研究特別敏感,因為優先權、署名與新方法本身就是成果。即使資料已經去除姓名,數學構想、證明路徑與反例仍可能保留知識價值。若模型供應商利用這些內容改善內部模型,再由模型參與同一問題的競爭,單靠一般消費者條款很難解決知情同意與學術信用問題。反過來,完全禁止研究者使用 AI 也不現實,因為模型已成為檢索、形式化與驗證工具。

對研究機構與模型平臺的影響

在平臺提供更細的資料譜系前,研究團隊應把未發表核心證明視為敏感資料,使用明確不訓練的企業或 API 條款,關閉可選訓練,記錄模型版本與提交時間,並避免把完整創新鏈一次性輸入消費級聊天產品。期刊、大學與實驗室也需要制定 AI 使用披露規範,區分文字潤色、驗證輔助與實質性研究貢獻。

模型平臺則應提供可核對的保留期限、訓練選擇生效時間、歷史資料處理方式及研究專用隔離模式。最關鍵的不是要求外界相信一句「沒有使用」,而是讓獨立審計能夠驗證沒有使用。只要這一證據缺口存在,AI 在前沿科研中的能力越強,研究者對未發表成果的戒心便可能越高。

來源