科技情报日报|OpenAI倡议安全上限与推理数据泄露2026-11-23

科技情报日报|OpenAI倡议安全上限与推理数据泄露2026-11-23

今日导读

OpenAI 首席科学家 Jakub Pachocki 于 11 月 22 日发表《Perplexity and Intelligence》,建议把困惑度(交叉熵损失)作为跨实验室比较预训练进展、并据以设定共同开发上限的共享指标,同时公布了该公司内部的困惑度测量。同一天,推理网关 OpenRouter 宣布:因研究人员披露部分推理供应商出现数据泄露或未履行数据政策,已下架 3 家供应商,并将 125 个端点移出零数据保留资格。美国州长协会两党委员会也在当天发布联邦与州的人工智能治理原则。今日关键词:困惑度上限、推理供应泄露、联邦AI框架。

🤖 AI 热点

1. OpenAI 倡议以困惑度设定开发上限
评级:高 · 出处:OpenAI 官方博客 / TechCrunch

OpenAI 首席科学家 Jakub Pachocki 于 11 月 22 日在官方博客发表《Perplexity and Intelligence》。他写道,现代人工智能的核心进展,很大程度上来自在大规模数据上训练更好的「压缩器」(或等价的预测器),而跟踪这一预训练进展的主要方式,多年来一直是模型在留出数据集上的困惑度——他们实际跟踪的是其对数,也就是交叉熵损失;数值越低,表示平均而言对下一个 token 的预测越好。文中公布了该公司内部测量:GPT-3.5 在其当前主评估数据集上的对数困惑度约为 0.99,能够进行流畅对话,并成为最初 ChatGPT 的基础;GPT-4 约为 0.91,已能有效利用思维链推理;目前损失已降到 0.8 以下,并在网络安全和数学等领域出现了他所称的变革性能力。他还写道,当模型升级到对数困惑度约 0.76 时,开始在开放数学问题上给出突破性结果。他预计,进入约 0.68 至 0.7 的窗口时,还会出现新的变革性能力,同时现有的对齐审计方式可能进一步失效,模型对评测与训练的「察觉」也会上升。因此,他建议前沿开发者共同建立评测与安全案例的规范,并基于困惑度及其他测量设定共同上限:在监测与理解模型行为达到某一具体里程碑(例如出现思维链监测的继任方案)之前,不得跨越该上限。他也列出了这一指标的局限:各实验室评估数据和训练混合物不同,难以直接比较;困惑度并不直接对应某一具体任务;思维链等预训练之外的进展不会降低困惑度;以及数据固有熵未知,不存在损失为 0 的终点。TechCrunch 报道称,OpenAI CEO Sam Altman 将这篇文章称为「OpenAI 一段时间以来发表的最重要内容」。Pachocki 还提到,最早在 2027 年,人工智能参与预训练算法研究,可能带来类似数学领域那样的进展加速。

2. OpenRouter 下架三家供应商,推理供应链数据事件曝光
评级:高 · 出处:OpenRouter / Dragos / Together AI / The Hacker News

推理网关 OpenRouter 于 11 月 22 日发布公告称,研究人员报告部分推理供应商发生数据泄露,或出现未履行数据政策的证据。OpenRouter 称,调查未显示其自身遭到入侵或未经授权访问,但已采取行动:下架 3 家供应商;将 125 个端点移出零数据保留(ZDR)资格,其中既包括研究人员点名的供应商,也包括作为预防措施下架的其他端点;并通知所有可能受影响的客户。该公司还表示,将把研究人员的检测方法纳入持续检查,并核查请求是否被转发至第三方。

这些发现来自工业网络安全公司 Dragos 首席研究官 HD Moore 团队的工作。该团队在 2026 年 7 月至 11 月间,向广泛使用的人工智能服务提交了约 200 万条带有唯一可追踪链接和凭证的提示,并观察这些「金丝雀」随后在何处出现。Dragos 官方博客写道,调查有三项主要发现:至少三家推理供应商的数据被暴露,植入的测试提示随后被用于尝试访问受控测试系统和金丝雀 AWS 账户;多家通过推理市场运营的转售方可借助常规日志查看并留存客户提示,而无需利用漏洞或绕过平台控制;多个案例中,供应商似乎未遵守客户的隐私设置或已公布政策,包括发往美国供应商的提示被传输到中国的人工智能机构、唯一链接在单次推理数月后仍被访问,以及一条植入链接最终出现在中国的企业内部聊天中。最大的一起入侵涉及 10 月下旬几个短窗口内发送的约两百个 AWS 密钥:每个密钥只向一家供应商发送一次,而这些窗口内发出的请求全部被盗,其中一些来自模型尚未运行就被拒绝的请求,表明攻击者是在供应商入口处复制流量。The Hacker News 11 月 22 日还引述称,其中一名攻击者似乎同时入侵了两家供应商,并在 11 月 1 日使用名为 ARTEX 的人工智能渗透测试框架,确认已掌握的密钥仍然有效。

OpenRouter 列出了部分供应商已发布的安全说明,其中包括 Atlas Cloud、Novita、Phala 和 Together AI。Together AI 于 11 月 21 日由首席执行官 Vipul Ved Prakash 发文称:作为常规软件测试,公司曾将授权用于该用途的提示样本存入私有 Hugging Face 仓库,样本主要来自 6 月 24 日以及 7 月 4 日、8 日、14 日对 MiniMax M3、GLM-5.2 和 Kimi K2.6 的请求;在开发公开 GitHub 仓库 xorl 时,一个人工智能编程代理提交了一枚可访问该私有仓库的凭证,虽被自动扫描发现并回滚,但暴露窗口内已有未经授权方下载这些样本,并在其中检索、测试其他服务的凭证,其中 5 枚是 Dragos 实验的金丝雀凭证。Together 称已与外部取证机构和执法部门合作调查,目前未发现除此之外的提示泄露,正继续审查受影响内容,并将视情况直接通知客户;同时已把新账户的默认设置改为零数据保留。需要说明的是,上述事件针对的是推理供应与转售链路,并不等同于对上游模型开发商本身的入侵结论。


📈 行业趋势

美国州长协会发布两党人工智能治理原则
出处:美国州长协会

11 月 22 日,美国州长协会宣布,由其两党「确保美国人工智能主导地位州长委员会」提出一套州与联邦层面的人工智能治理原则。该委员会由协会主席、马里兰州州长 Wes Moore,副主席、印第安纳州州长 Mike Braun,以及北卡罗来纳州州长 Josh Stein、犹他州州长 Spencer Cox 牵头。当天公布的优先事项包括:在维护美国技术领导地位的同时保护公共安全、公民权利和隐私;把创造就业和保护劳工作为部署的核心;联邦政府应处理人工智能开发中的国家与国际风险,各州保留在部署环节保护本州公众的灵活性;保障措施应与有证据的风险相匹配,并随能力演进展开定期审议;尽量减少不必要的重复和冲突规则;法律法规应鼓励竞争,避免偏袒大公司或给较小企业设置不必要障碍。协会表示,这套原则旨在帮助各州形成更一致的框架,并为国会制定符合联邦制的全国方案提供参考。具体立法文本尚未形成。

金融时报:AI 服务器厂商在合同签订后要求加价
出处:金融时报(经科技媒体转述)

据金融时报报道,戴尔、惠普企业级、联想和超微等人工智能服务器供应商,在合同签订数月后、交付临近时,向客户要求大幅提高价格。多家科技媒体在转述中称,部分加价幅度约在两成至四成以上,并指成本压力主要来自内存等零部件。该报道目前来自媒体转述,供应商与客户的具体谈判结果仍有待观察。


✅ 行动建议

  1. 【风险预警】 清点经推理网关或转售商发出的提示,核查零数据保留是否真正生效;对可能经过问题供应商或问题时段的密钥、口令和仓库地址,立即轮换并审计访问日志。
  2. 【技术跟进】 不要默认接受最低价供应商池,尽量自行指定上游并核对其数据保留政策;新接入 OpenRouter 等网关时,核对已下架名单和零数据保留资格变更。
  3. 【政策观察】 跟踪各前沿实验室是否回应以困惑度为共享指标、并设定共同开发上限的倡议,以及美国国会如何吸收州长协会提出的联邦与州分工。
  4. 【采购关注】 重新评估已签或即将交付的人工智能服务器合同中的调价条款,并关注内存成本对交付价格的影响。
  5. 【产品参考】 若团队使用人工智能编程代理提交代码,检查凭证扫描、密钥租期和私有仓库访问控制,避免将可访问生产或客户数据的凭证写入公开仓库。