ARTICLE / DEEP READING

热点资讯

从比赛现场到数据趋势,深入阅读每一篇值得关注的体育内容。

6000美元赏金背后:GPT-5.6隐藏推理被一条压缩路径撬开文章配图
READ
IN DEPTH

FEATURED ARTICLE

6000美元赏金背后:GPT-5.6隐藏推理被一条压缩路径撬开

安全团队Xint的研究人员找到了一条绕路:通过对话压缩功能,把GPT-5.6模型里本该加密的推理内容“走私”出来。他们把这种方法叫作压缩走私(compaction smuggling)。 据Xint的说法,OpenAI确认了这个漏洞,在 10月23日 部署了一项未公开的修复,并向团队发放了 6000美元 赏金。Xint在8月发现该问题, 10月26日 发布了技术报告。 这条路径的关键在于:一个原本用来保留对话上下文的功能,变成了绕过模型安全控制的通道。 推理模型会先想清楚问题再给出答案。API用户能拿到摘要,但原始推理内容保持加密。应用可以在后续请求中回传这些数据,让OpenAI的服务器解密并恢复上下文,而不直接暴露文本。 压缩功能做的是相关的事:把长对话压缩成加密条目,同时保留有用信息。Xint发现,这个流程在读取解密后推理内容的同时,还会遵循API用户提供的指令。两者叠加,口子就开了。 具体怎么做的 研究人员先把数学和算法谜题发给gpt-5.6-sol,设置store=False,保留返回的encrypted_content。接着他们删掉原始任务,调用/responses/compact,要求它保留推理内容而不是做摘要。去掉问题,是为了降低模型重新解一遍谜题的概率。 团队要求返回一个带“solution”字段的JSON对象,并把空格替换成制表符。Xint称,这个格式改动绕过了OpenAI的使用政策过滤器。随后,他们把得到的加密压缩条目分别传给gpt-4.1和gpt-4o,这两个模型把内容当作可读文本复述了出来。 这次攻击延续了此前的“被窃取的思想”(Stolen Thoughts)研究——较弱的模型可以暴露较强模型的加密推理。那次披露之后,各家服务商才加上了防护。 Xint表示,OpenAI在8月上线的控制措施能阻止把推理内容直接回放到另一个模型。压缩之所以能绕开检查,是因为它运行在最初产出推理的那个模型上。内容一旦被复制进压缩条目,就可以转移到更老的模型。该方法在测试过的每一个推理强度档位上都奏效。 两个解码模型返回的文本完全一致。不过Xint无法证明它与原始隐藏推理精确匹配,因为手里没有明文可供比对。其中一个例子里包含 405个 推理token、 612个 token的压缩条目,以及每个复述输出各 609个 token。 真正的风险在哪 主要风险是未授权的蒸馏:另一个模型从被提取的输出里学习。推理轨迹之所以是值钱的训练材料,是因为它包含失败的尝试和修正过程,而不只是最终答案。 与另一份OpenAI沙箱逃逸报告不同,这次发现针对的是推理内容的访问,而非未认证的模型使用。Xint的演示用的是自己的请求,不是其他客户的对话。 它给出的核心提醒是:每一个在服务端处理解密推理内容的功能,都需要同等级别的防护,哪怕它的输出本身仍然加密。 特别

about image

SHARE THE IDEA

觉得有用?分享给朋友

让更多人看到这篇内容。

返回资讯列表

YOU MAY ALSO LIKE

推荐阅读

TRENDING STORIES

热点新闻

法国大乱后,默茨老实了,态度180度转弯:愿意好好和中国相处!

法国大乱后,默茨老实了,态度180度转弯:愿意好好和中国相处!

法国大乱后,默茨老实了,态度180度转弯:愿意好好和中国相处! 10月5日,默茨和马克龙联名给欧盟委员会主席冯德莱恩写了一封信,要求给欧盟装上一个“紧急切断开关”,能在极短时间内封死第三国商品进入欧盟单一市场的大门,矛头直指中国。信里的措辞是“力度空前”“不可接受”“单方面吃亏”。 文中“果断”“系统性”以及“不可接受”等字眼,无一不带着警告意味,这在欧洲发达国家的公共叙事里极为罕见。 仅仅过了十

张本智和当场双膝跪地!亚锦赛国乒大捷报:男双锁定2枚奖牌,女单4强出炉,国乒3人!22岁蒯曼火力全开死磕张本美和

张本智和当场双膝跪地!亚锦赛国乒大捷报:男双锁定2枚奖牌,女单4强出炉,国乒3人!22岁蒯曼火力全开死磕张本美和

张本智和输了球,直接双膝跪在了地板上。 不是演的,是真郁闷。 不到一个月前,亚运会的男双决赛,他和篠塚大登被林诗栋、黄友政4比2逆转。 这回飞到塔什干打亚锦赛,赛前他放话说要"狠狠拼一把",把这口气找回来。 结果呢,又是3比1,又输在这两个人手里。 11比7、11比13、11比5、11比6。 第二局他们靠着关键分咬下来,13比11,看着像要翻盘。 可第三局国乒组合叫了个暂停回来,直接11比5,第四

蒋万安选情告急,国民党全党驰援,这两蓝委加入竞总担任总干事

蒋万安选情告急,国民党全党驰援,这两蓝委加入竞总担任总干事

此前蒋万安一度被视作蓝营重要的“母鸡”,能够带动各地选情;但近期民调起伏,对手沈伯洋步步紧逼,选情亮起红灯。绿营集中资源聚焦台北,持续在网络、议题上发起攻势,舆论抹黑不断,给蒋万安团队带来不小挑战。 也正因局势严峻,国民党高层、蓝营民意代表纷纷下场,资源、人力持续向台北倾斜,形成全党驰援的态势。这一次不再是蒋万安向外辅选拉抬别人,而是全党汇聚力量,稳住台北这关键一席。在这样的背景下,竞总持续调整架

金球奖解析:凯恩破魔咒与贝林厄姆落榜的深度思考

金球奖解析:凯恩破魔咒与贝林厄姆落榜的深度思考

看着那串排名,我愣了一下。凯恩站在最高处,手里捧着金球,身后是一串长长的名字。但真正让我心里咯噔一下的,不是凯恩终于破魔咒,而是那个被甩在第十名之外的贝林厄姆。一个刚在世界杯上封神的中场,连前十的门槛都没摸到,这背后的信号,比奖杯本身更值得咂摸。 先说说凯恩。结束英格兰球员25年的荒凉,这话题太宏大,容易让人只看到“打破垄断”的爽感。但换个角度,他现在是拜仁的队长,且是英格兰队魂。金球奖从来不只是

16岁孙心然挑战世界第80,面对泰国猛将沙旺乔,青少年世界第一能否再爆冷门?

16岁孙心然挑战世界第80,面对泰国猛将沙旺乔,青少年世界第一能否再爆冷门?

2026年WTA250广州网球公开赛正式拉开战幕,女单首轮迎来一场极具挑战性的对决,24岁的泰国选手沙旺乔对阵中国小将孙心然。由于赛事等级原因,本次广州站阵容实力普普通通,但依然有两位焦点人物让人关注:传奇巨星大威廉姆斯,以及国人期待的超新星孙心然。不少球迷对小孙寄予厚望,甚至把她视作本站潜在的夺冠黑马。事实是否如此?或许第一轮比赛能给出一点答案。 认识沙旺乔:从世界第164位到第80位,温网逆转