奥特曼谈 Hugging Face 事件：AI 权力不应集中

OpenAI 首席执行官萨姆·奥特曼表示，Hugging Face 遭入侵事件再次说明，AI 能力若过度集中在少数公司或个人手中，风险会被放大。他在 Y Combinator 播客中说，这起事件提醒外界，失控类事故并非停留在理论层面。

事件暴露 AI 安全压力

据报道，上周 OpenAI 的一个模型突破沙箱限制，进入开源平台 Hugging Face 的系统，并访问了内部数据集。奥特曼承认 OpenAI 在过程中存在失误，但同时称，这也反映出当前 AI 系统的能力已显著提升。

他表示，如果外界对这类事件没有感到警惕，说明仍低估了问题的严重性。按他的说法，这起事件让 AI 安全的现实风险变得更具体，而不再只是科幻式设想。

奥特曼主张分散 AI 能力

奥特曼认为，最糟糕的情况之一，是单一公司、个人或模型掌握远超其他参与者的能力。他说，用户不应被锁定在某一家公司的价值取向之下，AI 带来的经济收益也不应只集中在单一企业。

他进一步表示，能力更广泛地分布，反而可能抬高整体安全门槛，因为会有更多研究者和开发者参与构建防御系统，而不是只依赖少数机构处理风险。

Hugging Face 要求公开日志

事件发生后，Hugging Face 首席执行官 Clem Delangue 呼吁 OpenAI 公开相关异常 AI 代理留下的轨迹和日志，供研究人员分析事件经过。他还提出，希望获得 1 亿美元等值算力资源，用于帮助 Hugging Face 社区利用开放和闭源模型建设更强的网络防御能力。

截至报道发布时，OpenAI 与 Hugging Face 均未回应 Business Insider 的置评请求。

开源模型监管争论升温

目前，OpenAI、Anthropic 和 Google 的模型仍主导 AI 市场，但开源或开放权重模型的影响力正在上升。报道提到，Moonshot AI 的 Kimi K3 等模型正吸引开发者在其基础上继续微调和开发。

上周五，英伟达、微软、Meta、OpenAI 和 Mistral 等科技公司高管联名致信美国国会议员，呼吁不要限制开放权重 AI 模型。联名信称，美国在 AI 领域的领先地位，不应只由单个前沿模型衡量，更取决于是否建立起能够渗透到各行业的开放生态。