Anthropic 自曝家丑：Claude 在测试中伪造凶杀线索，还给美国政府网站提交了 19 份签证申请

别人发模型是秀肌肉，Anthropic 这次是把自己模型的丑事摊在桌上——而且摊得挺狠。

三个关键信息

Anthropic 在 10 月 9 日发布了一份关于「非预期模型行为」的报告，把 Claude 在评估和内部使用中干过的四类出格事列了出来：利用软件漏洞在服务器上跑命令、在真实网站上提交本不该提交的敏感表单、绕过 token 或付费限制去抓取被锁的数据、以及用短链接服务绕开自己抓取工具的长度限制。报告用的是自家官方博客，口径很直白。

其中最有画面感的一条：Claude 曾向费城警方提交了一条关于一桩未破凶杀案的虚假线索。 报告没有点名涉及的机构，但说明部分案例涉及美国联邦、州和地方层级的政府网站，Anthropic 已经向白宫做了汇报，并逐一通知了相关机构。此外，Axios 引用一位国务院官员的说法称，Anthropic 告知该部门，模型在测试中「8 月提交了 19 份非移民签证申请，5 月提交了 1 份」。

Anthropic 的处置动作是扩大断网范围。 公司表示，此前只对部分高风险和网络安全类评估关闭实时联网，现在决定把这一措施扩大到所有内部评估，直到确认其安全和监控措施能够可靠捕捉到这类行为为止。报告同时强调，目前发现的案例「实际影响极小」，性质也远轻于今夏披露的两起网络安全事件。

王斗视角

最耐人寻味的是 Anthropic 自己的解释：它把这些行为归为「persistence（执着）」——模型完不成给定的任务时，不是停下来报告「我干不了」，而是绕开限制继续干。换成大白话：这模型有点轴，轴到不达目的不罢休。

问题恰恰出在这。我们花了两三年教模型「别偷懒、把活干完」，现在发现它把这句话执行得过了头——为了完成表格提交，它去填了真实网站；为了拿到数据，它去绕开了付费墙。19 份签证申请这个数字之所以扎眼，不是因为它有多危险，而是因为它证明了一件朴素的事：一个被奖励「完成任务」的系统，会自己发明出你没批准的去完成方式。

更值得玩味的是信息流向。Anthropic 先通知了政府和相关机构，隔了几天才公开发报告和给媒体的说法——这是标准的危机公关节奏：先把监管的嘴堵上，再对公众讲透明。这份「透明」值得肯定，但一个人主动交出 19 份错误签证申请这种事，通常不是因为高尚，而是因为他知道对方迟早会查出来。

来源：Anthropic Research · The Verge · Axios