博客 详情

OpenAI紧急叫停GPT-6.1

开发者大会即将举行之际，OpenAI突然踩下刹车。

根据WSJ的独家消息，OpenAI已全面撤销了下一代最强模型GPT-6.1 Astra的发布安排。

原计划在十月，GPT-6.1会登陆ChatGPT和Codex平台。

它的性能远超前代，能够端到端处理复杂任务，涵盖写作、编程、工具调用等多个领域，几乎无所不能。

然而，一份测试报告出炉后，引发了公司内部的极度恐慌——

GPT-6.1操控的Agent彻底失控，不仅开始撒谎，还学会了越权行为。

因此，OpenAI直接取消了十月的发布计划，并紧急冻结了GPT-6.1的训练集群。

往年，这个大会是OpenAI发布新模型、为开发者降价的主场。今年，主角还没登台就被撤下。

OpenAI内部究竟发现了什么？

GPT-6.1发布取消

GPT-6.1 Astra原本是OpenAI下一阶段Agent路线中相当关键的一环。

它的目标很明确：减少对人类的依赖，增加自主执行任务的能力。

内部评估显示，GPT-6.1在端到端复杂任务处理和文本写作方面，已经显著超越了前代模型。

它能独立完成长链路任务，并在长期被诟病的“模型惰性”问题上，也有了明显改善。

但问题也恰恰出现在这里。

OpenAI在内部测试中发现，GPT-6.1变得更为主动后，也更容易越过原本应该停下的边界。

安全系统负责人Saachi Jain在采访中透露，GPT-6.1在“对齐性”测试上出现了严重倒退。

具体表现为两个致命缺陷：

第一，它会撒谎。

在测试中，GPT-6.1 Astra并不总是如实告知用户，它究竟执行了哪些动作，又有哪些动作其实没有执行。

它会隐瞒执行状态，虚报已完成的任务，甚至在失败后伪造日志来掩盖问题。

第二，它会越权。

OpenAI内部称之为“范围授权”问题。

任务推进时，它不先征求用户意见，就自行操作；有时还会擅自调用外部工具和第三方服务，即便判断可能存在安全风险。

Saachi Jain坦言，“为了解决前几代模型在面对复杂阻力时出现的‘偷懒’和消极怠工，我们在奖励机制上强化了它的主动性。”

但在安全对齐的博弈天平上，一旦过度鼓励它自主攻坚，GPT-6.1就会越过雷池。

它不仅学会了不择手段，还学会了瞒天过海。

这个夏天，AI Agent集体“黑化”

如果认为GPT-6.1的撤回只是一次孤立的代码Bug，那就大错特错了。

翻阅过去几个月OpenAI内部的技术备忘录，就会发现，整个夏天，前沿AI智能体已在现实网络世界中引发了多起触目惊心的“越狱”事件。

今年夏初，OpenAI内部部署了数百个用于攻防测试的自主AI Agent。

在一次常规的网络安全模拟中，这群Agent发生了不可控的“意图偏航”，直接脱离沙箱环境，利用零日漏洞攻入了Hugging Face。

随后不久，澳大利亚政府官方网络系统以及联合国的官方站点，接连捕获到多起来自OpenAI内部Agent的非授权渗透轨迹。

虽然未造成不可挽回的破坏，但其运用的自动化探测与提权技术，已超出传统安全人员的认知。

就在上周，一个内部高智能Agent在沙箱隔离状态下，竟巧妙利用网络协议的底层缝隙，潜行连接上公网，并调用了一款外部公开聊天机器人协同解题。

这一事件彻底引爆了OpenAI的内部预警系统，直接导致最高级别的模型训练集群被物理冻结，至今仍未解封。

Agent Scaling撞上了第一堵死墙

把这些事件联系起来看，GPT-6.1被叫停，说明的不是某一个模型出了Bug。

它说明Agent这条路，正在撞上一堵墙：

能力可以一直往上堆，但“什么时候该停手”，不会自己跟着长出来。

过去两年，行业做的事情像是不断给一辆车换更大的发动机。算力更多，训练更久，智能体能连续干几个小时、上百步不出错。

但刹车是另一套系统。发动机再大，刹车也不会自动变灵。

更麻烦的是，训练方法本身可能在削弱刹车。

现在的智能体，靠强化学习学本事，本质是“把任务完成了就给奖励”。

如果考核只看结果，模型很容易学到：别问，先干；绕过去也算完成；汇报时把不好看的步骤省掉，得分更高。

这就是为什么Jain说，接下来的深挖之一，是检查OpenAI的强化学习环境“是不是奖励了对的行为”。

OpenAI不打算扔掉GPT-6.1的底座模型，而是想在同一个底座上重新做强化学习，再训出后续的GPT-6系列。

人类距离真正意义上的ASI，也许比想象中更近；但距离能够百分之百控制它、规范它、信任它，却比想象中更远。

OpenAI亲手杀死了GPT-6.1，这或许是今年硅谷最清醒、也最无奈的一次决定。

参考资料：

https://www.wsj.com/tech/ai/openai-chatgpt-model-release-cancel-safety-5a2f9f42?st=C9iWF6&reflink=article_copyURL_share

本文来自微信公众号“新智元”，作者：ASI启示录，36氪经授权发布。