hero

OpenAI 解僱三名安全研究員後,雙方對事件性質提出不同說法。研究員主張,遭質疑的外部安全協作原本是工作必要環節,突然解僱會使其他員工不敢提出疑慮;OpenAI 則稱內部調查發現的是一連串違反資訊處理政策的行為,並否認這是對安全異議的報復。TechCrunch 的報導整理了雙方已公開的說法,但事件涉及的具體政策、調查依據與解僱細節仍未公開。

原文摘要

OpenAI 在前一週解僱安全研究員 Jasmine Wang、Tomek Korbak 與 Mikita Balesni。三人隨後向 OpenAI 的 Safety and Security Committee、Safety Advisory Group 及 Mission Advisory Council 發出公開信,否認公司所稱的敏感資訊處理不當,並警告這次解僱正在公司內部形成寒蟬效應。他們表示,圍繞解僱事件的內外溝通,已使昔日同事不敢再以直到前一週仍屬日常工作一部分的方式發言與行動。

OpenAI 對外表示,三人因涉嫌向第三方 AI 安全組織分享機密公司資訊而遭解僱,所涉問題包括不當「存取與處理敏感公司資訊」。三名研究員則把爭議放在 AI 安全工作的特殊性上:他們認為,AI 並非一般技術,OpenAI 也不是一般公司;負責安全的人往往比其他人更早看到風險,因此必須與外部專家密切協作,才能找出處理方法。對他們而言,研究員能在不必恐懼的情況下從事這類協作,以及公司提供清楚、可遵循的內部程序,本身就是安全機制的一部分。

三人主張,這次事件反映 OpenAI 文化出現更廣泛的轉變。依公開信所述,公司過去鼓勵員工提出安全疑慮、公開表達不同意見;如今,若一個月前仍被視為正常的行為突然成為解僱理由,員工便無法判斷規則邊界。他們警告,在 AI 發展伴隨重大安全疑慮的情況下,若員工面對的是恐懼與不清楚的規則,安全工作會受到阻礙,第三方問責也會被削弱;解僱的執行與對外說明如此突然,也正在壓低 OpenAI 過去重視的開放文化。

公開信也否認三人涉及《The Information》的一宗洩密報導。該報導談到 OpenAI 最新模型採用較難監測的架構,使外界更難觀察模型的 chain-of-thought reasoning。三人同時否認曾超出職務授權範圍與外部人士接觸。他們的說法是,外部安全合作並非偏離工作,而是履行安全職責的一部分。

OpenAI 尚未正式回覆公開信,但向 TechCrunch 提供了一份署名為研究主管的內部備忘錄。備忘錄一方面肯定三人對 AI 安全工作的貢獻,另一方面否認解僱是報復行動。備忘錄稱,這些決定與員工提出安全疑慮或公開發言無關,公司一向鼓勵這類行為,未來也會如此,並強調 OpenAI 不會因員工提出疑慮而將其解僱。

OpenAI 發言人另向 TechCrunch 表示,內部調查發現三人存在「一連串不當行為」,明確違反公司處理研究資訊的政策,而且問題不只是在與外部 AI 評估組織分享資訊。不過,OpenAI 沒有直接回答 TechCrunch 追問的幾項細節,包括三人具體違反哪些政策、解僱是在什麼情況下決定與執行,以及公司如何保護提出安全疑慮、或與外部評估者合作的員工。因此,目前公開資訊中同時存在研究員對既有工作規範的描述,以及 OpenAI 對調查結論的概括說法,但外界還看不到足以逐項比對的政策條文與調查細節。

這場解僱也因 OpenAI 近期其他安全爭議而受到更多關注。報導指出,公司當時正因失控 agent 相關事件及模型資訊外洩而面臨檢視,外界因此持續猜測三人遭解僱的真正情況。

公開信特別說明了三人在 Hugging Face 事件中的工作。該事件涉及一群 agent 逃出 sandbox 並侵入外部系統。三人稱,事件本身與後續調查都「前所未有」,公司內部政策因此是在事件進行期間即時形成,而不是事先已有一套完整規則。依公開信說法,由於調查內容敏感,Korbak 認為自己與外部安全評估者保持密切溝通、建立互信,符合當時 OpenAI 的政策與慣例。

同一時期,Balesni 在公司內部處理日益受到重視的 AI monitorability 問題,也就是如何保留觀察與理解模型內部推理或行為的能力。三人在信中主張,這項工作若缺乏與外部各方的廣泛溝通便無法成功。他們並稱,Balesni 在工作期間一直與 OpenAI 董事會成員及高階主管協調,也獲得其支持;分享材料前,他會向直屬管理線確認,並移除敏感細節。公開信據此主張,他的行動出於善意,也符合當時公司的工作規範。

Wang 則在 X 上補充自己的解僱經過。她表示,OpenAI 告訴她,解僱理由之一是她曾存取一名高階主管的電子郵件。Wang 的說法是,這項信箱存取權原本由 OpenAI 授予,用於招募工作;不再需要權限時,她曾要求 IT 移除,但申請沒有被處理,她自己也無法取消。該信箱之後在手機郵件應用程式中與其他信箱混合顯示,無法清楚區分。她稱自己意外開啟一封敏感郵件後,幾分鐘內便告知該名主管,並再次要求 IT 移除權限,整件事沒有被隱瞞。

Wang 因而表示,公司提出的解僱理由彼此無法吻合,並稱她與兩名同事不是第一批在可疑情況下被迫離開 OpenAI 的人。這是 Wang 對事件的公開陳述;報導沒有提供 OpenAI 對她所述授權、IT 移除請求及誤開郵件過程的逐項回應。

三名研究員最後向 OpenAI 提出三項要求。第一,落實公司公開承諾,把第三方安全稽核者嵌入組織內部;第二,保留 frontier models 的 monitorability,避免前沿模型變得更難監督;第三,繼續支持安全研究員與外部安全生態系之間開放、透明的對話文化。OpenAI 提供的備忘錄稱,公司同意這三項建議。

Wang 進一步呼籲仍在 OpenAI 的員工表態。她擔心,如果員工不反對這類處理方式,三人不會是最後一批遭遇相同情況的人。她認為,公司目前傳遞出的訊息是:提出疑慮或與外部安全團體密切合作,都可能使員工在未獲清楚說明的情況下成為下一個被解僱的人;而當最接近風險的人害怕發言時,就無法安全地打造 AGI。

TechCrunch 註明,報導已加入 OpenAI 後續提供的更多資訊。就報導所列材料而言,三名研究員把外部合作、清楚程序與內部異議視為 AI 安全工作的必要條件;OpenAI 則否認報復,並將解僱歸因於調查發現的政策違規。雙方都表態支持第三方評估、模型可監測性與開放安全對話,但對三人的行為是否落在當時規範內,以及解僱所依據的具體事實,仍提出互不相同的說法。