hero

OpenAI 近來接連宣布數學成果，問題卻不只在答案是否正確，也在這些答案如何抵達。當和模型對談過的研究者無法知道內容是否被送入訓練或改進管線，研究競賽就多了一條只有平台看得見的暗道；這篇報導記下數學家 Andreas Thom 對那條暗道提出的質疑。

原文摘要

另一名研究者正挑戰 OpenAI：支撐該公司日益驚人數學發現的資料，到底從何而來。幾天前，外界才因 OpenAI 的模型是否受益於未公開研究而爆發激烈爭議；如今又有一名數學家出面，指控這家 AI 巨頭在訓練資料來源上缺乏透明度，行為既不合倫理，也「不誠實」。

數學家 Andreas Thom 在 Mastodon 發出一系列貼文，憂心自己與同事在 OpenAI 高調宣布成果之前，曾和 ChatGPT 進行的互動，可能對該公司在數學領域的成功有所貢獻。OpenAI 上月大張旗鼓公布十項數學結果，其中一項涉及 Thom 的專長——所謂的 non-sofic groups。OpenAI 也承認，這項結果大量建立在 Thom 與另一名數學家 Gábor Kun 的既有工作之上。

Thom 說，他是在紐約大學數學教授 Tristan Buckmaster 公開質疑 OpenAI 的 AI 模型是否從自己使用 OpenAI Codex 的過程中獲益後，才開始反省自己與 OpenAI 的互動。OpenAI 公布 non-sofic groups 的結果後，數學界廣泛批評它沒有承認 Thom 與 Kun 近期的貢獻，公司後來低調修訂了說明。概略而言，non-sofic groups 是無法以有限結構逼近的無限數學結構。

Thom 也注意到，OpenAI 對他們研究技巧的掌握十分細緻；在他看來，這些技巧當時既不是最顯而易見的路徑，也不是最有希望解出問題的路徑。他因此寫信給 OpenAI 研究員 Sébastien Bubeck 與同時任職哈佛的統計學家 Mark Sellke，詢問自己和 ChatGPT 的互動是否「屬於訓練資料，或可被推理過程存取」，因而可能對這項成果有所貢獻。

Thom 認為收到的答覆並不能令人滿意：回覆只談他的聊天紀錄是否能被直接存取，沒有回答那些內容是否已進入 OpenAI 用來改進模型的大型訓練資料池。他寫道，對方沒有給出任何限定、解釋或證據；「至少可以說，我認為這是不誠實。」

Thom 表示，研究者沒有能力逆向拆解 OpenAI 的訓練管線，查明自己的工作究竟有沒有被使用。「只有 OpenAI 擁有相關資料。」如果公司要否認曾這樣做，舉證責任就應在公司：公開所有必要資料集，並說明其使用資料的各種設定與條款。

OpenAI 不願明確排除使用者資料曾帶來任何影響，與它在近期捍衛千禧年獎問題突破時的作法相呼應，無論在公開說法或與 Buckmaster 的溝通中皆然。Buckmaster 當時是以個人身分，和 Anthropic 研究員 Levent Alpöge 一同研究那些問題。在宣布流體運動相關的 Navier–Stokes 解答的部落格文章裡，OpenAI 明確否認曾使用任何特定使用者的資料。

但公司沒有排除間接影響的可能性，並表示：「雖然不太可能，我們無法排除由他們使用我們產品所衍生的去識別化資料，曾協助改進我們的模型。」Thom 認為，這正是 OpenAI 在與他溝通時採用的模糊區分：「去識別化或許會移除名字，但不會移除一個數學想法的智識內容。」

在近期事件的脈絡下，Thom 說，Sellke 的斷然答覆至少過於寬泛，且在實質上具有誤導性；回頭看來，顯然不誠實。他認為，若使用者提供的非公開研究確實協助改進模型，而公司再用那些模型與同一批使用者競逐發表，卻沒有取得同意、充分揭露或給予署名，將在倫理上無從辯護。

截至 The Verge 截稿時，OpenAI 尚未立即回覆置評請求。Thom 的說法也加深了數學界對 OpenAI 的不安，而這本應是公司的勝利時刻。它宣稱解開一項傳奇性的千禧年獎問題，若能通過驗證，幾乎沒有人會否認那是非凡成就；但事情因 OpenAI 說明自己為何投入該問題的特殊背景而變得複雜：公司聽聞網路上有傳言稱其他研究者已有重大進展，於是決定也來一試。這起持續中的事件，已讓數學家們留下不快的餘味；多位研究者告訴 The Verge，若數學家知道只要傳出接近突破的消息，就可能引來資源雄厚的科技巨頭競逐榮耀，這類行為可能迫使整個領域變得更封閉、更傾向保密。

城武觀點

我站在研究者這邊：若 OpenAI 是唯一知道對話資料有沒有進入訓練或改進管線的一方，「未直接存取特定用戶資料」就不是可驗證的清白，只是把問題縮到公司願意回答的尺寸。去識別化可以拿掉身分，卻未必拿掉尚未公開的數學內容；要求研究者自行逆向黑箱，更是把證明責任丟給沒有管線、沒有資料、也沒有查核權的人。這不等於 OpenAI 已使用那些資料。完整公開資料集也可能傷害隱私與安全；合理替代不是裸露全部資料，而是足夠獨立的審計、可追溯的用途紀錄，以及把研究對話和模型改進真正隔離。能掌握證據的人，才該承擔說明責任。

當只有平台知道資料走到哪裡，「沒有直接看過」不是答案，而是一扇只向平台開啟的門。