OpenAI推零数据留存安全系统,与Anthropic策略分歧加剧

Nashnova编辑部
Published todayAbout 3 min read

OpenAI正测试一套不留存企业数据即可检测滥用的新系统,直接对标Anthropic的30天数据留存政策——两大AI巨头在安全与隐私如何兼得这道核心题上,给出了截然相反的答案。

01

这套新系统到底怎么做到"不看数据也能抓坏人"?

核心逻辑是只传安全信号,不传原始数据。用大白话说=系统不看你写了什么提示词、模型回了什么,只告诉OpenAI"这里有一个高风险信号,类别是网络攻击/生物武器"。
客户数据要么留在客户自己的服务器,要么用客户自己持有密钥的方式加密存储——OpenAI员工看不到。
这意味着→ OpenAI试图证明一件事:检测滥用不一定需要留存数据,信号就够了。
02

为什么要跨多次对话才能识别风险?

OpenAI产品政策负责人阿莱亚·霍泽举了一个例子:某人先问某公司软件的漏洞,再问远程访问和安全工具检测方法——单看每次对话都不算违规,拼在一起才构成潜在网络攻击
这反映出AI安全监测正在从"单次过滤"升级到"跨会话模式识别"——难度更高,但隐私风险也更大。
当系统触发警报时,只发送风险等级和类别,客户可以申诉或主动提供更多信息。
03

Anthropic为什么选了一条完全不同的路?

Anthropic在上周的风险报告中明确承认:30天数据留存对商业成功"构成真实风险",尤其在竞争对手不跟进的情况下。
但Anthropic认为这对检测跨多次请求的复杂攻击"不可或缺"——用大白话说=他们认为不真正看数据内容,就不可能抓住高级滥用。
这意味着→ 两家公司的根本分歧在于:安全监测到底需不需要碰原始数据。OpenAI说不需要,Anthropic说必须。
04

商业上谁在追谁?

据《华尔街日报》报道,OpenAI已向投资者披露第二季度营收增速落后于Anthropic,令部分股东失望。
Anthropic靠企业编程工具和高端模型抢到领先身位,但数据留存政策在硅谷和华盛顿同时遭遇反弹。
白宫AI顾问大卫·萨克斯批评数据留存正在"制造AI领域新的阶层分化";微软CEO纳德拉和Palantir的卡普也公开要求AI公司给出不留存数据的承诺,尤其对医疗、金融等受监管行业。
05

接下来看什么?

OpenAI计划9月更大范围推广并发布技术白皮书——届时市场将第一次看到"零留存+信号检测"的完整技术细节。
新系统目前仅面向企业和API客户,ChatGPT免费版、Plus、Go、Pro等消费者订阅用户不受影响,现有数据设置不变。
这意味着→ 9月白皮书发布后,企业客户是否买单,将决定数据主权之争的阶段性胜负

Content is for reference only, not financial advice.

OpenAI推零数据留存安全系统,与Anthropic策略分歧加剧 · nashnova