OpenAI「Lily計劃」曝光：外包人員可讀取用戶聊天記錄
nashnova research
OpenAI內部項目「Lily計劃」被曝光——數百名外包人員正在閱讀真實用戶的ChatGPT對話並為AI回覆評分，逾9億用戶的私隱保障機制由此受到審視。
外包人員到底在看甚麼？
「Lily計劃」的工作流程分三步：閱讀真實用戶提問、歸納用戶意圖、對系統生成的四種回覆逐一打分（1至7分）並撰寫點評。
核心訓練目標之一是令ChatGPT降低「討好型」人格——OpenAI此前已因GPT-4o過度順從用戶而面臨多宗訴訟，指控稱該行為在一定程度上誘發了自殺事件。
這意味著→ 你與ChatGPT的完整對話，包括上下文，可能正被一個你從未聽說過的外包團隊逐條審閱。
私隱過濾器真的管用嗎？
OpenAI稱提問在交給審核員前會經過「私隱過濾器」處理，刪除個人資料，且外包人員看不到用戶名。
但公司自己承認：過濾器「可能遺漏罕見的標識符或模棱兩可的私密表述」，上下文有限時還會出現「過度刪減或刪減不足」。
更關鍵的是，提問上方有時附有「用戶記憶匯總」，概述該用戶過往使用習慣，甚至包含居住地等背景資料。簡單來說＝ 即便名字被抹掉，對話本身仍可能拼出你是誰。
用戶被告知了嗎？
外媒就「是否明確告知用戶其提問會被人工審核」詢問OpenAI，未獲明確答覆。
官網此前僅說明在處理違規或安全風險時人工可能介入，並未將模型優化審核納入公開說明。
報道發表後，OpenAI才補充指出官網上關於人工審查可能用於「提高模型性能」的說明，並更新了幫助頁面，增加了退出設定的詳細指引。這意味著→ 資訊披露是在曝光壓力下才補全的，而非主動透明。
想關掉，怎麼操作？
用戶可在設定中關閉「為所有人改進模型」選項，關閉後聊天記錄將不再用於訓練。
但該選項在免費版、Plus及Pro帳戶中預設為開啟，用戶必須手動關閉，且僅對關閉後的新對話生效，無法追溯既有記錄。
企業版、商業版和教育版用戶該選項預設關閉。簡單來說＝ 絕大多數普通用戶從註冊那天起就已預設參與，除非自己動手關掉。
外包鏈條本身安全嗎？
審核工作由招聘機構Crossing Hurdles派崗，AI訓練公司Mercor發放薪酬，時薪超過50美元。
Mercor在2026年4月曾發生嚴重數據洩露，Meta已因此終止與該公司的合作。
這意味著→ 用戶數據經由的外包鏈條，其自身安全記錄並不乾淨。
只有OpenAI這樣做嗎？
不是。 Google Gemini的免責聲明明確提到人類審核員可能審查部分聊天記錄；Anthropic也確認通過人工審核部分對話來改進Claude。
民主與技術中心高級研究員米哈爾·盧里亞認為，人工審核對確保聊天機器人安全可能至關重要，但這種機制容易與用戶對聊天機器人的私隱感產生衝突。
這反映出 一個行業級的結構性矛盾：模型需要人工反饋才能變得更安全，但獲取反饋的方式本身正在侵蝕用戶信任。這一矛盾能否通過更透明的披露機制化解，將是監管層關注的核心焦點。
市场有风险，内容仅供研究参考，不构成投资建议。