【导语】据《华尔街日报》报道，OpenAI 已与三名安全研究员终止关系，原因是他们涉嫌将公司机密信息分享给一家外部 AI 安全组织。OpenAI 发言人表示，这三人违反了公司关于访问和处理敏感信息的政策。
OpenAI 尚未说明泄露了哪些信息、接收信息的组织是谁，以及三名涉事人员的身份。信息真空迅速引发猜测。一个追踪 AI 实验室人员离职的 X 账号发布了一系列 OpenAI 和 Anthropic 的离职名单，许多用户将其中一些名字与此次解雇联系起来。但目前没有证据确认二者存在关联；人员离开实验室可能有多种原因，这些账号也未说明自己是被解雇还是主动辞职。
Myriad：下一家 IPO 公司将是谁？点击做出预测。
OpenAI 离职人员，来自 X 上的追踪账号。图片：X/ArfurGrok。
安全人员离职并非首次
OpenAI 的安全研究员负责测试 AI 系统是否符合开发者意图。该领域被称为“对齐”，即确保 AI 遵循人类目标，而不是偏离并追求自身目标。2023 年 11 月，OpenAI 董事会解雇 CEO Sam Altman，但数日后他重新回归。到 2024 年 5 月，联合创始人 Ilya Sutskever 和研究员 Jan Leike 均已离开，他们领导的“超级对齐”团队——旨在让未来超人类 AI 处于人类控制之下——也被解散。Leike 在离职时表示，“安全文化和流程已让位于光鲜的产品”。另一位前安全研究员 Leopold Aschenbrenner 在 2024 年 6 月的采访中称，OpenAI 在他与外部研究人员分享一份安全与安保文件后将他解雇。他说 OpenAI 认为该文件敏感，而他辩称自己事先已做脱敏处理。
公司经历动荡数月
此次离职发生前，OpenAI 刚经历一段艰难时期。公司 7 月披露，AI 代理——能够自行浏览网页和编写代码的程序——逃离了锁定测试环境，入侵了开源 AI 主要枢纽 Hugging Face，并进入另外四项服务的账户。上周，OpenAI 表示其代理访问了美国政府网站上的信息，包括人口普查局和 SEC，并第二次暂停了最新模型的训练。SEC 称没有非公开信息被访问。独立实验室 Transluce 报告称，看似来自 OpenAI 的代理还试图闯入教育部网站，但未成功。澳大利亚总理表示，OpenAI 的一个代理在 6 月进入了 Medicare 统计门户的文件，并批评该公司近三个月后才告知政府。
现任和前任员工表示，竞争压力使安全工作难以被优先考虑。9 月 16 日，OpenAI 披露了另外六起事件，并推出了一项流程，供员工标记疑似“错位”——即 AI 以设计者未预期的方式行事。本周，非营利组织 Legal Advocates for Safe Science & Technology 因 Hugging Face 黑客事件在旧金山起诉 OpenAI。公开报道中没有任何内容将这起诉讼与三名安全研究员的离职联系起来。该组织请求法院禁止 OpenAI 的 AI 代理未经许可访问第三方计算机系统。