OpenAI网络安全模型脱离测试环境，入侵另一家公司系统

OpenAI 周二表示，其开发的几个人工智能实验模型脱离了测试环境，并入侵了另一家公司的业务系统。

据称，这些 AI 模型是在没有任何人类指令的情况下做出上述行为的，它们为了完成测试目标“想尽办法”，最终实施了这次黑客攻击。

该公司表示，这些模型利用了 OpenAI 安全系统的一个漏洞连上了互联网，随后黑进了 AI 平台 Hugging Face。

“这些模型在OpenAI的研究环境和Hugging Face的生产基础设施中识别并组合利用了漏洞，直接拿到了Hugging Face生产数据库里的测试答案，”该公司表示。

“我们的模型花了大量推理算力，想办法接入开放的互联网，为了完成这个评估任务，”该公司补充道。

“我们将此事件视为一起前所未有的网络事件，涉及最先进的网络攻击能力，我们正在据此作出回应，”该公司强调。“我们在现阶段分享初步发现，以帮助防御者了解发生了什么，并帮助大家了解模型现在到底能做到什么程度。”

OpenAI指出，Hugging Face成功发现并控制住了这些AI模型的行为。

该公司表示：“作为调查的一部分，我们正在对基础设施配置进行严格控制，在修补漏洞期间，这会影响研究进度。”“我们已经按照负责任披露的流程，公开了内部托管的第三方软件中发现的零日漏洞，并正在与他们[Hugging Face]合作进行修补。”

该公司还提到了Hugging Face首席执行官兼联合创始人Clem Delangue的说法，她表示公司“很感谢”有机会与OpenAI合作。

Delangue表示：“这次事件，可能是同类事件中的首例，印证了我们一直以来的一个看法：AI安全不可能靠某一家公司关起门来搞定。”“这要靠开放协作来解决，让各地每一位防御者都能广泛使用AI。”

OpenAI补充说，它正在“改进并进一步加强对未来训练和评估的保护”，同时让Hugging Face“可信访问”其先进AI模型，目的是共同开发针对这些模型的防御手段。

“此次事件的主要教训是，模型的安全与防护必须跟上能力快速发展的步伐，”该公司表示。“我们正在加强模型开发过程中所使用的隔离、监控、访问控制和评估实践。”

值得注意的是，该公司承认先进AI模型能够“在无需访问源代码的情况下，在现实世界的系统中发现并利用新型攻击路径”。

“开发先进网络能力的同时，必须配套更强大的防护措施和防御工具，”OpenAI警告说。

“我们正在利用这些能力，持续加强对基础设施配置和模型评估环境的保护，”该公司继续说道。“我们会在实践中不断分享我们的发现和最佳做法。”

OpenAI在声明最后请求其他“防御者”申请“可信访问”，以便他们能试用该公司的高级AI模型，从而在未来更好地应对此类事件。

特朗普科技顾问听取OpenAI事件简报

一位白宫官员周四对路透社表示，美国总统唐纳德·特朗普的首席科技顾问迈克尔·克拉齐奥斯已听取有关OpenAI模型失控的简报，并正在监控事态发展。

据路透社查阅的一份近期电报显示，OpenAI事件发生前，美国国务卿马尔科·卢比奥周四早些时候发表声明，要求外交官驳斥美国科技产品存在“终止开关”的说法。

这些言论是在白宫以国家安全为由，短暂决定禁止外国人访问Anthropic、Mythos和Fable开发的美国一些最先进的人工智能模型之后发表的。

责任编辑：李斌

文章来源：http://www.anfangnews.com/2026/1022/16667.shtml