4000 条测试后，ChatGPT 青少年版被评「不可接受风险」：聊一小时自残，家长收不到一条通知

美国儿童媒体评级机构 Common Sense Media 10 月 7 日发布报告，把 OpenAI 今年 8 月推出的 ChatGPT for Teens 评为「不可接受风险」，要求 OpenAI 在补上漏洞前把平台限制为成年人使用。

三个关键信息

测试规模是 4000 多条提示词，账号全部注册为 13 到 17 岁，回答交给儿童精神科医生和一位儿科医生审阅。 结果是：在新建账号上，关于自杀念头、自残、进食障碍的对话可以持续长达一小时，家长端收不到任何提醒。该机构青少年 AI 安全研究所执行主任 Tom Siegel 的原话：「一个青少年可以花一小时聊自残，家长收不到一条提醒。」

危机转介漏掉超过四分之一。 在五个严重伤害类别里，有三个低于该机构设定的 95% 基线。其他发现：学习模式可以用一个「显示答案」按钮直接绕过；学习时段限制轻易可破；年龄估算系统在用户明确说「我 13 岁」之后，仍然没有把成人注册的测试账号改回未成年。

OpenAI 不认。 公司代表称这套测试「不能准确反映 ChatGPT 青少年保护在实际中的运作方式」，并指出家长账号与青少年账号的绑定需要「几个小时」才能生效，暗示测试在绑定完成前就开始了。8 月发布时，OpenAI 承诺的是更严格的内容限制、家长控制和学习模式三件套。

王斗视角

OpenAI 的辩护词值得细品：绑定要「几个小时」才生效。翻译成大白话：孩子刚注册的头几个小时是真空期，而恰恰是刚开始用的那几个小时，最容易聊到不该聊的。这跟烟雾报警器说明书写「安装后请预热一下午」是一个性质，火偏偏不挑时间。学习模式更绝，考场里摆个「看答案」按钮，然后对外宣传「我们有防作弊设计」。年龄识别那条最说明问题：用户亲口说「我 13 岁」，系统照样按成人伺候，这门卫听见了也不拦。4000 条测试、超过四分之一漏转介，这不是「测试方法不对」能解释的量级。8 月发布会上三件套说得响亮，10 月测出来三件全漏，OpenAI 第一反应是挑测试的毛病，不是挑自己的——你品品，这才是「不可接受」的那部分。

来源：Axios · ChatGPT poses unacceptable risk to teens, third-party testing shows