Meta加速以AI替代人工内容审核，年内已替换50%审核请求
N.R. Finch
Meta今年已将约50%的人工内容审核请求转交大语言模型处理，并计划年底前在部分类别替换超过90%——这意味着全球最大社交平台正用AI重写内容安全的运作方式，审核成本和准确性的天平同时在动。
替换了多少，速度有多快？
据《金融时报》援引四名知情人士，Meta今年已将约50%的人工审核请求转由大语言模型（LLM，能理解和生成自然语言的AI模型）处理。
年底前还要继续压缩人工比例，部分内容类别的AI替换率可能超过90%。
这意味着→ 这不是小范围试点，而是平台级别的全面切换——人工审核员从"主力"变成"兜底"。
Meta说AI审得更准，内部却有人不同意？
Meta援引内部测试数据：自今年3月起，LLM平均比人工少犯13%的错误，同时多发现10%的实际违规内容。
但部分内部员工指出，LLM持续出现误判——包括下架或"影子封禁"（shadowban，内容不被删除但悄悄被降低曝光）无害内容。
另有两名知情人士称，Meta尚未建立足够完善的技术性能衡量机制；Meta对此予以否认。
用大白话说＝ 官方数据说AI更强，但一线员工看到的是AI经常"错杀好人"，而且衡量AI到底做得好不好的尺子本身还没造好。
为什么从谷歌Gemini换成了自研模型？
Meta此前主要用谷歌的Gemini大语言模型做内容审核和客服支持。
近期员工已被告知切换至Meta自研的新基础模型Muse Spark。
这反映出 Meta不想在核心安全能力上依赖竞争对手——审核是平台运营的命脉，模型必须握在自己手里。
对审核员和外包商意味着什么？
Meta长期依赖自动化系统加人工审核员（含第三方承包商）的混合机制，用户申诉通常由人工处理。
这次全面转向LLM审核，已导致部分承包商被裁员，未来与第三方审核机构的合同也可能被取消。
Meta同时指出，LLM在处理讽刺、语言演变等语义细节方面优于传统机器学习分类器，还能覆盖更多语言；此外，人工审核员长期接触暴力等极端内容引发的心理健康问题也是推动切换的原因之一。
广告审核才是更大的雷区？
据路透社此前报道，Meta内部预测2024年约10%的年收入（约160亿美元）来自诈骗广告及违禁商品广告。
Meta目前正面临美国加州圣克拉拉县及澳大利亚矿业大亨安德鲁·福雷斯特的法律诉讼，均涉及平台诈骗广告问题。
这意味着→ 广告审核出错的代价远高于内容审核——一边是160亿美元的收入敞口，一边是正在推进的诉讼，AI如果在这个领域误判，后果直接以法律责任和财务损失计。
这件事放在扎克伯格的大棋盘里怎么看？
AI审核加速推进是扎克伯格大规模押注AI战略的一部分——他正斥巨资开发所称的"个人超级智能"，同时推动AI在内部编程等流程中的自动化应用。
LLM审核能否在规模化部署后维持优于人工的准确率，是这一战略能否兑现的核心验证节点。
用大白话说＝ 内容审核是AI替代人工的第一个大规模实战场景；如果这里证明AI确实更强，扎克伯格就拿到了说服市场的样本——反过来，如果翻车，整个"AI替代一切"的叙事都会受质疑。
Content is for reference only, not financial advice.