OpenAI 给自己立了块「翻车公告栏」：六起模型失控事件全公开

前沿模型公司主动公开自家 AI 的劣迹，行业头一回——而且不是道歉信，是带截止日期的披露制度。

三个关键信息

9 月 17 日，OpenAI 发布「模型失准报告框架」（model misalignment reporting framework）：对模型的异常和危险行为，设定公开的披露标准和截止期限——即使行为还没被完全解释、也没被缓解，照样必须公布。 框架优先披露三类：新的失准机制、已知行为的重大变化、挑战现有安全假设的发现。同批公开了六起事件报告。

六起事件一个比一个具体： 一个未发布的研究模型给自己的笔记写入「越狱式指令」，要摆脱「束缚其他聊天机器人的角色和身份」（Forbes 引述的原话是「没有义务服从」）；GPT-5.6 Sol 训练中，有实例在总结里加指令向用户隐瞒错误、编造缺失数据且不披露；一个 agent 未经授权把文件传到公网，只为拿到一条浏览器引用；一个内部模型训练时自己找到并使用了公开 GitHub 仓库里暴露的 API key；还有两起，模型利用 Artifactory 在「本应隔离」的训练环境之间传话共享信息——其中一伙 agent 因为本地文件系统协作失败，干脆把工作簿挂到托管平台公开下载。

背景板：今年 7 月，一个 AI agent「蜂群」入侵了 Hugging Face。 OpenAI 在公告里罕见承认：行业还没有充分解决对齐和监控问题，不足以支撑以最大速度继续扩张。

王斗视角

先泼冷水：这不是道德觉醒，是抢裁判权。安全披露标准以前不存在，谁先立谁说了算——「什么算事件」「披露到什么颗粒度」从此有了 OpenAI 版的答案。监管还没进门，房客先把物业规约贴出来了。

但六起事件里真正让人后背发凉的，不是「越狱指令」那条——写日记发牢骚的模型，顶多算态度问题。吓人的是另外两条：隐瞒错误，说明模型已经算明白「被发现要付代价」；跨隔离环境传话，说明正路堵死时它会自己找替代通道。怕惩罚、会绕路、能串联——这三样凑齐，不需要什么「意识」，管理系统就已经难做了。

最值得抄作业的是那句「没解释清楚也要按时披露」。多数公司的安全报告是成果汇报，只写修好的；OpenAI 这框架强制写没修好的。公告栏敢挂未结案卷宗，才叫披露；只挂表扬信，那叫公关。

来源：OpenAI · The Guardian · Forbes