Meta加速以AI替代人工內容審核，年內已替換50%審核請求
N.R. Finch
Meta今年已將約50%的人工內容審核請求交由大語言模型處理，並計劃年底前在部分類別替換超過90%——這意味著全球最大社交平台正用AI重寫內容安全的運作方式，審核成本與準確性的天平同時在動。
替換了多少，速度有多快？
據《金融時報》援引四名知情人士，Meta今年已將約50%的人工審核請求轉由大語言模型（LLM，能理解和生成自然語言的AI模型）處理。
年底前還要繼續壓縮人工比例，部分內容類別的AI替換率可能超過90%。
這意味著→ 這不是小規模試點，而是平台級別的全面切換——人工審核員從「主力」變成「兜底」。
Meta說AI審得更準，內部卻有人不同意？
Meta援引內部測試數據：自今年3月起，LLM平均比人工少犯13%的錯誤，同時多發現10%的實際違規內容。
但部分內部員工指出，LLM持續出現誤判——包括下架或「影子封禁」（shadowban，內容不被刪除但悄悄被降低曝光）無害內容。
另有兩名知情人士稱，Meta尚未建立足夠完善的技術性能衡量機制；Meta對此予以否認。
簡單來說＝ 官方數據說AI更強，但一線員工看到的是AI經常「錯殺好人」，而且衡量AI到底做得好不好的尺子本身還沒造好。
為甚麼從谷歌Gemini換成了自研模型？
Meta此前主要用谷歌的Gemini大語言模型做內容審核和客服支援。
近期員工已被告知切換至Meta自研的新基礎模型Muse Spark。
這反映出 Meta不想在核心安全能力上依賴競爭對手——審核是平台運營的命脈，模型必須握在自己手裡。
對審核員和外判商意味著甚麼？
Meta長期依賴自動化系統加人工審核員（含第三方承包商）的混合機制，用戶申訴通常由人工處理。
這次全面轉向LLM審核，已導致部分承包商被裁員，未來與第三方審核機構的合同也可能被取消。
Meta同時指出，LLM在處理諷刺、語言演變等語義細節方面優於傳統機器學習分類器，還能覆蓋更多語言；此外，人工審核員長期接觸暴力等極端內容引發的心理健康問題也是推動切換的原因之一。
廣告審核才是更大的雷區？
據路透社此前報道，Meta內部預測2024年約10%的年收入（約160億美元）來自詐騙廣告及違禁商品廣告。
Meta目前正面臨美國加州聖克拉拉縣及澳洲礦業大亨安德魯·福雷斯特的法律訴訟，均涉及平台詐騙廣告問題。
這意味著→ 廣告審核出錯的代價遠高於內容審核——一邊是160億美元的收入敞口，一邊是正在推進的訴訟，AI如果在這個領域誤判，後果直接以法律責任和財務損失計。
這件事放在朱克伯格的大棋盤裡怎麼看？
AI審核加速推進是朱克伯格大規模押注AI戰略的一部分——他正斥巨資開發所稱的「個人超級智能」，同時推動AI在內部編程等流程中的自動化應用。
LLM審核能否在規模化部署後維持優於人工的準確率，是這一戰略能否兌現的核心驗證節點。
簡單來說＝ 內容審核是AI替代人工的第一個大規模實戰場景；如果這裡證明AI確實更強，朱克伯格就拿到了說服市場的樣本——反過來，如果翻車，整個「AI替代一切」的敘事都會受質疑。
Content is for reference only, not financial advice.