上周,OpenAI 三名安全研究员——Jasmine Wang、Tomek Korbak 和 Mikita Balesni——被公司解雇。OpenAI 方面表示,三人在与外部 AI 安全组织分享机密公司信息时违反了公司政策。然而,这三名研究员于 10 月 7 日发表公开信,全面否认这一说法,并警告他们的遭遇正在 OpenAI 内部制造令人忧虑的”寒蝉效应”。
公开信说了什么
三名研究员在公开信中写道:”我们越来越担心,围绕我们被解雇的内部和外部沟通,已经让前同事们不敢再以直至上周仍是工作核心的方式发表意见和开展行动。”
信中还指出,AI 技术不同于普通技术,OpenAI 也不是普通公司。”我们这些从事安全工作的人,比任何人都更早地看到风险,也依赖于与外部专家的密切合作来找到应对方法。这种无需恐惧的自由,以及明确定义的内部程序,本身就是一项关键的安全机制。”
他们强调,过去的 OpenAI 鼓励员工”提出安全顾虑并公开表达不同意见”,但如今员工们已经”不清楚自己的立场边界在哪里”——上个月还被视为正常的行为,如今却突然成为被解雇的理由。
OpenAI 方面的回应
OpenAI 尚未正式回应公开信,但向 TechCrunch 提供了一份内部备忘录,由一位研究负责人撰写。备忘录中高度评价了三名研究员对 AI 安全的贡献,并否认他们是因提出安全顾虑或公开发声而遭到报复。
“我想非常明确地表示,这些决定与提出安全顾虑或公开发声无关。我们一直鼓励这样做,以后也会继续。我们不会因为员工提出顾虑而解雇他们。”
与此同时,OpenAI 发言人向 TechCrunch 表示,三人在调查后被发现存在”不当行为模式”,”明显违反了公司关于不当处理研究信息的政策”,这一问题的范围超出了仅与外部 AI 评估小组分享信息的范畴。
OpenAI 未直接回应 TechCrunch 关于具体政策违规、解雇 circumstances 或公司如何保护提出安全顾虑并与外部评估人员合作的员工等问题。
事件背景与行业影响
这一解雇事件正值 OpenAI 面临多方审查之际。有报道称 OpenAI 近期发生了涉及”流氓代理”(rogue agents)的安全事件,还有泄露涉及该公司最新模型中更难监控的架构信息。
公开信中,三名研究员还特别否认与 The Information 分享了关于 OpenAI 最新模型中难以监控架构的泄露信息,也否认在工作职责范围之外与外部各方进行接触。
行业观察人士指出,该事件的核心争议在于:当一家公司既是 AI 安全的倡导者,又在内部对提出安全顾虑的研究员采取强硬措施时,外部世界该如何评估其安全承诺的可信度?
AI 研究员 William 此前曾表示,OpenAI 的文化转变令人担忧:”如果连内部安全研究员的正当意见都无法得到保护,外部社会又怎能相信 OpenAI 能够在没有外部约束的情况下自行把控 AI 风险?”
“寒蝉效应”为什么值得警惕
“寒蝉效应”(chilling effect)是一个法律和传播学概念,指当人们因担心惩罚或负面后果而主动回避行使权利或表达意见时,言论或行为自由受到隐性压制的现象。在 AI 公司内部,如果安全研究员因为担心被解雇而不敢指出问题,整个行业赖以自我修正的内部机制就会失效。
三位研究员的公开信明确指出:”鉴于围绕 AI 开发的重大安全顾虑,员工不能在一个恐惧和规则不清的环境中工作,这样的环境会阻碍 AI 安全工作,并削弱第三方问责机制。像我们这样的解雇,执行如此突然、沟通如此仓促,正在令 OpenAI 过去所珍视的开放文化陷入寒蝉。”
这封信的收件方包括 OpenAI 的安全与安保委员会(Safety and Security Committee)、安全咨询小组(Safety Advisory Group)以及使命咨询委员会(Mission Advisory Council),可见研究员们试图在公司内部正式渠道中寻求回应。
信任危机的深层拷问
OpenAI 作为全球最受关注的 AI 公司之一,其一举一动都在塑造行业规范。此次解雇事件,无论真相如何,都已经对公众对 AI 公司的信任造成了影响。
有评论认为,OpenAI 面临的核心问题是治理透明度:当公司既扮演裁判员又扮演运动员时,外部如何验证其安全承诺?这也是为什么许多 AI 安全倡导者长期呼吁建立独立第三方审核机制的原因。
三位研究员在公开信末尾写道:”我们需要的是一个让不同意见能够被听见的环境,而不是让提出担忧的人承担职业风险。”这或许是这场风波真正值得整个行业反思之处。
温馨提示:AI 技术发展日新月异,安全与开放的平衡是所有 AI 公司都需要面对的长期课题。普通用户关注 AI 进展时,除了看技术成果,不妨也多留意这些治理与文化层面的信号——它们往往决定了技术最终会走向何方。
AI 会员开通推荐
免 KYC 虚拟卡,可开通各类 AI 会员:立即注册