随着 AI 模型能力持续攀升，如何在监测滥用与保护客户隐私之间取得平衡，成为各大模型厂商最棘手的难题。OpenAI 显然打算用一项新技术在这场博弈中抢占先机。
私有安全处理：OpenAI 的新武器
OpenAI 于本周一宣布向部分客户预览一项名为私有安全处理（Private Safety Processing）的服务。这是一套自动化系统，能够在完全不保留客户数据的前提下，监测潜在的 AI 滥用行为。
与传统的会话级监测不同，私有安全处理将监测范围扩展到跨多个对话的长期视野。OpenAI 发言人向 TechCrunch 解释：恶意行为者——例如试图生成恶意软件进行网络攻击的人——可能会将请求分散到多个会话来规避检测。新系统能够跨会话分析这些交互，识别潜在的滥用模式，而无需对用户对话进行人工审查。
当系统触发警报时，它会向 OpenAI 发送一个”狭义定义的信号”，提示特定类型的可疑活动。OpenAI 据此判断是否需要”采取执法行动”。如果需要，OpenAI 才会联系客户获取更多背景信息，或与客户共同处理问题——客户可自行决定是否向 OpenAI 共享数据。
零数据保留：双方的共识与分歧
私有安全处理实际上是 OpenAI 现有零数据保留（Zero Data Retention，ZDR）政策的升级版。ZDR 通过 OpenAI API 内的代理，以单会话为单位监测滥用行为——客户数据不被公司保留，但企业仍能扫描不良活动而无需人工干预。
值得注意的是，Anthropic 基本上也遵循 ZDR 原则，但在”受覆盖模型”（Covered Models）上例外——典型代表是 Fable 和所有 Mythos 系列模型。
这正是矛盾的核心所在。
Anthropic 的 30 天数据保留政策
Anthropic 于今年七月宣布了新的数据保留政策：针对”受覆盖模型”，AI 实验室有权保留用户的所有会话数据，保留期限为 30 天。该政策旨在支持安全审查——让实验室能够筛选和分析潜在的不当行为。
然而，这一政策引发了处理大量敏感数据的企业客户的深切担忧：他们不希望自己的数据被 AI 实验室保存或被人工审查。
Anthropic 方面表示，人工审查客户数据的情况确实存在，但仅限于通过”受控访问路径”进行，涉及”一小部分经批准的审查人员”。每一个审查会话都会被记录在防篡改日志中，审查人员无法压制或修改。
企业隐私竞争进入新阶段
OpenAI 与 Anthropic 之间的企业竞争正处于紧张时刻。近期报告显示，OpenAI 第二季度增长慢于 Anthropic；Anthropic 的年化收入增速已大幅超越竞争对手。
通过私有安全处理，OpenAI 试图向企业客户证明：在数据隐私方面，我可以比你选择的另一家更值得信任。这是一场直击企业客户痛点的精准竞争策略。
对于正在选型企业 AI 服务的 CTO 和安全负责人而言，这场竞争带来的并非坏事——随着厂商在隐私保护上不断加码，企业最终将获得更多选择权与话语权。
来源：TechCrunch（2 篇报道）