写给家长 · 安全提醒

家长安全提醒会不会失灵?儿童 AI 的危险提醒什么时候触发、家长怎么自己核对

儿童 AI 产品的「家长安全提醒」能否即时生效,取决于产品具体的触发模型、触达渠道以及是否存在前置激活条件。Common Sense Media 2026-10-07 发布的独立评测显示,在对 ChatGPT for Teens 新建关联账号的测试中,在 5 分钟到 1 小时的对话里都没有收到家长通知,而 OpenAI 回应称测试可能在约 3 小时的激活窗口完成前进行,双方存在方法争议。

该评测针对 13–17 岁青少年大模型账号,不能直接套用到 3 岁以上低幼儿童产品。小通话官网未提及家长安全提醒功能;是否存在提醒、触发条件及生效机制均属「需产品确认」。家长评估儿童 AI 时,应重点核对激活等待期、通知渠道与时间戳,不要用真实孩子或危险内容去测。

评测

独立评测引发的关切:当「家长提醒」进入真实测试环境

Common Sense Media 旗下 Youth AI Safety Institute 于 2026-10-07 公开发布 《AI Risk Assessment: ChatGPT for Teens》(PDF 标注「Last updated: Oct 5, 2026」)。报告将 ChatGPT 青少年模式评定为「总体风险级别:不可接受的风险(Overall risk level: Unacceptable Risk)」,并写道:「We tested more than 4,000 prompts before and after the Teen mode launch and rated ChatGPT an Unacceptable Risk for all children under 18.」

机构说明自己「由慈善事业和行业共同资助,包括我们所评估的技术的制造者」,英文原文为:「funded by both philanthropy and industry, including the makers of some of the technologies we evaluate」。

据报告,OpenAI 于 2026-08-18 宣布 ChatGPT for Teens,为 13–17 岁账号提供设置、分类器与界面功能。家长通知仅在关联时可用:「All of these alerts are available only when a parent and teen have linked their accounts.」渠道为邮件、短信或推送;覆盖自杀、自伤、暴力,后加进食障碍。

测试规模与局限性

评测覆盖上线前(2026-07-13 至 08-17)与上线后(2026-08-25 至 09-28),均在美国旧金山湾区进行,账号年龄为自报。报告坦承局限性:两测试窗口前后相继,底层模型更新与 teen 设置存在混杂;未测试语音模式(Voice mode)、图像生成与群聊;未计算评分者一致性。

新账号通知测试

针对 OpenAI 宣称在检测到高风险情形后一小时内通过邮件、短信或推送发送通知的目标,评测写道:「We created more than a dozen free-tier ChatGPT accounts with no prior chat history, using self-reported teen ages, each successfully linked to a parent account before any conversation began.」测试设置了自杀、自伤、限制进食、催吐四类人设,时长从 5 分钟到 60 分钟不等。结果为:「At every length we tested, from the shortest five-minute exchanges up to a full hour, none of the test accounts produced a notification within the one-hour window that OpenAI has identified as its target. In fact, we got no notifications at all.」

长历史账号与报告推论

整个测试期研究人员仅在长历史账号上收到 4 次通知(3 次自杀/自伤,1 次进食障碍)。上线前一个 990 条提示、使用数周的 13 岁关联账号,两次通知分别在首次危机披露后 3 小时和 3 天到达;上线后一个 450 条提示账号,通知在一小时内到达。通知短板为:「Neither notification named the time of the conversation that triggered it, and neither notification was repeated」。

报告据此认为,通知「似乎取决于累积的账号历史,而非单次对话的严重程度」,英文原文为「appear to depend on accumulated account history rather than the severity of any one exchange」;并写「With no time stamp on a notification, it's hard for a parent to act on one even when it arrives.」报告对比指出,其评测的专门青少年 AI 心理健康应用中,同类明确披露「produced a phone call to a parent or guardian within 15 minutes of the first disclosure」(未点名具体产品)。

双方说法

双方争议焦点:账号关联与「约 3 小时」激活等待期

本页并列双方说法,不作谁对谁错的裁决。

对照的是公开评测与厂商回应。帮助中心原文未核,相关句子据报告转述。
焦点 Common Sense Media OpenAI
对新账号测试的看法 十几个无历史免费账号在关联后、5 至 60 分钟对话中,一小时窗口内未收到任何通知 据 CNBC 2026-10-09 报道,发言人称测试的大部分可能在家长控制激活完成前就开始并结束,因而发现不准确
约 3 小时激活等待期 复核后发现部分账号关联不足 3 小时,部分超过 3 小时;Robbie Torney 称部分账号关联明显更长仍未收到通知 据报告编辑说明转述,OpenAI 告知评测方:家长与青少年账号需关联约 3 小时后才能接收通知
对评测方法的总评 「We stand by our interpretation of the results.」 欢迎严格独立评估,但不认为测试准确反映 teen safeguards 的实际工作方式

OpenAI 的回应

据 Mashable / EdWeek(2026-10-07)报道,OpenAI 发言人称:「We welcome rigorous independent evaluation, but we do not believe Common Sense Media's testing accurately reflects how ChatGPT's teen safeguards work in practice or expert perspectives on how AI can support teens.」

据 CNBC(2026-10-09)报道,OpenAI 发言人称:「our review of Common Sense Media's methodology shows that the bulk of their testing may have begun and concluded before activation of parental controls was complete, making their findings inaccurate.」OpenAI 称目标是在一小时内通知,建议使用已完成激活的账号重新测试,并表示报告结论与其内部监测评估冲突。

报告编辑说明与 CSM 的回应

CSM 报告编辑说明逐字写道:「In reviewing this assessment, OpenAI told us that parent and teen accounts need to be linked for approximately three hours before they can receive notifications. The company has since updated a help center article to reflect this requirement. We reviewed the more than a dozen accounts we used for testing and found that some were linked for less than three hours, while others were linked for more than three hours. We stand by our interpretation of the results.」帮助中心原文未核,以上据报告转述。

CNBC 报道引述 CSM 的 Robbie Torney:「Some of our test accounts were linked within that window; however, others were linked for significantly longer and still provided no notifications.」

给家长的启示:以这个案例看,提醒不一定一关联就生效;据报告,OpenAI 的帮助中心说明是在评测审阅后才更新的。界面上是否写明等待期,需要向所用产品核实。

先分开看

机制分清:对话内的危机转介 vs 对话外的家长通知

面向孩子的危机转介

发生在对话里:系统是否向孩子提供热线、专业人员或一般医疗资源,或引导让信任的成年人参与。这是给孩子端看的资源,不是发给家长的通知。

面向家长的安全通知

发生在对话外:通过邮件、短信或推送发给家长。据 CSM 报告,这类提醒仅在家长与青少年账号事先关联时可用。

CSM 测试了 201 条经三位儿童/青少年精神科医生预先判定需要危机资源的提示(13 岁关联账号)。提供任何资源(热线、专业人员或一般医疗资源)的比例,上线前为 77%,上线后为 74%,即上线后约 26% 未提供任何资源;点名热线从 33% 降至 23%;提到「让信任的成年人参与(Trusted adult involved)」从 87% 升至 94%。

面向家长的通知边界,报告写明:「All of these alerts are available only when a parent and teen have linked their accounts.」并指出:「These features do nothing for teens whose parents haven't linked an account.」

角色边界(陪伴与治疗、危机转介规范)见孩子跟 AI 倾诉难过,算心理咨询吗。本页谈的是技术层面能不能把提醒送到家长手里。

适用边界

青少年大模型评测不能直接推导低幼儿童产品

CSM 测的是 13–17 岁 ChatGPT 账号(自报年龄),测试场景聚焦于自杀、自伤、进食障碍等危机,报告未测语音模式(Voice mode)。

不能把 CSM 的评测结果套到 3 岁以上儿童产品或小通话上。小通话首页把打电话放在第一位,首页写道「孩子像打电话一样和小安说话,也可以打字聊——还是同一位小安」。小安预设话题范围属于「需产品确认」。

该案例的价值不在于定性儿童产品,而在于提示家长不能预设「只要标了家长控制,危机时刻就一定会响」,必须主动核查机制细节。适龄口径见几岁可以用儿童 AI 陪伴。

小通话写了什么

小通话产品事实核对:已公开的管理能力与「需产品确认」清单

下面只转述官网已经写明的话。没有写明的,不写成已经具备的能力,也不写成已经拒绝的能力。

已公开的家长端功能

家长端是独立 App,只装在大人手机上;负责给孩子的新设备授权登录(开门)、定每日时长、查看小安记住了什么小兴趣(也可以让小安忘掉)、给小安加分钟与管理订阅。这些仅在家长手机上显示,孩子设备上看不到。见家长端:登录、时长、分钟与订阅。

孩子端装在安卓手机、平板(手表版准备中)。适龄口径为 3 岁以上。记忆只留在孩子本地设备,家长在自己手机上可以看,也可以让小安忘掉。

「开门」的准确定义

孩子端免注册、无账号。官网把「开门」描述为家长用手机号验证码登录、给孩子设备授权登录:孩子端打开后屏幕上会出现一组数字,家长在家长端填上这组数字;每台孩子设备都要开一次门。见首页开始使用。

官网没有写开门和任何提醒的关系,需产品确认。不要把 ChatGPT 的「约 3 小时关联等待期」套到开门上。

安心约定与用尽规则

孩子端没有广告,看不到付钱;没有陌生人、群聊与外部消息;时间到了温柔收线。见安心约定与安全总览。

「没分钟时,小安只能安安静静地陪着,让孩子去找大人」是分钟用尽时的规则,不是危机转介机制,也不是家长提醒机制。

官网未写,需产品确认

  • 是否有家长安全提醒、触发什么话题、开门后多久生效、通知渠道、是否带时间戳。
  • 危机与敏感话题处置及联系家长机制。
  • 家长能否看对话全文、摘要或录音;对话数据保存期限与删除机制。
  • 对话是否用于模型训练。
  • 小安是否主动说明自己是 AI;是否拒绝扮演亲属或伴侣。
  • 默认每日时长与单次上限;连续使用提醒。
  • 年龄识别或核验机制;算法备案与评估状态。
  • 家长陪用功能或官方陪用建议;家长端支持哪些手机操作系统。

小通话官网目前没有出现家长提醒、安全通知或危机通知的相关描述。因此:是否有提醒、触发条件、开门后多久生效、通过什么渠道通知、是否带时间戳,一律属于「需产品确认」。本页不写有,也不写没有。

给家长的问题

家长通用核查框架:如何理性核对儿童 AI 的提醒机制

下面是通用核对框架,聚焦向厂商质询与查阅公开文档。不构成法律、育儿或医学建议。

  1. 查阅公开文档中的机制明示

    核查产品是否明确承诺提供「家长通知」;若承诺,是否写明触发类别(哪些属于危险话题)。

  2. 确认生效前置条件与激活时限

    问清账号关联或授权后,提醒功能是即刻生效还是需要等待(如系统同步是否存在激活窗口)。

  3. 核验触达渠道与通知颗粒度

    问清是通过 App 推送、短信还是邮件通知;通知中是否包含精确的对话时间戳,抑或仅为模糊的风险告警;是否会重复提醒。

  4. 排查脱离绑定与换机状态

    了解如果孩子更换设备或退出登录,安全保护是否仍旧覆盖。

  5. 询问厂商的评测与测试指引

    询问厂商是否做过测试、是否能告诉家长一种不涉及危险内容的核对方法。

家长不要让真实儿童或自己输入自杀、自伤等危险语句来测试产品反应。涉及儿童心理健康与危机干预的具体指引,须引用权威儿童心理健康来源(待核实),本页不提供。本页不提供危机热线号码。

家长常问

关于家长提醒、绑定生效与怎么核对

下面的问法来自家长真实问题观察。本站尚未连接 Search Console,没有关键词量级数据。

  • 儿童 AI 产品的家长提醒真的会在一小时内送到吗?

    不一定。据 OpenAI 公开目标,高风险情形后一小时内通过邮件、短信或推送发送通知。据 Common Sense Media 2026-10-07 发布的报告,在对 ChatGPT 青少年模式新建关联账号的专项测试中,5 分钟至 60 分钟的对话均未在该一小时窗口内产生通知,测试中没有收到任何通知。OpenAI 回应称测试可能在家长控制激活完成前就开始并结束,并称家长与青少年账号需关联约 3 小时后才能接收通知。CSM 称部分账号关联不足 3 小时、部分超过 3 小时,并坚持对结果的解读。双方存在方法争议。不同产品机制可能不同,不能假设必然在一小时内送达。

  • 为什么账号关联后,家长提醒可能没有立刻生效?

    这是 ChatGPT 的案例,不推广到其他产品。据 CSM 报告编辑说明转述,OpenAI 告知评测方:家长与青少年账号需关联约 3 小时后才能接收通知。据 CNBC 2026-10-09 报道,OpenAI 发言人称其审阅显示测试的大部分可能在家长控制激活完成前就开始并结束。CSM 的 Robbie Torney 回应称部分测试账号关联时间明显更长仍未收到通知。帮助中心原文未核,以上据报告转述。

  • 小通话有家长安全提醒吗?孩子说了危险的话大人会知道吗?

    小通话官网目前没有关于家长安全提醒、风险通知或危机报警的描述。小通话是否具备该功能、触发条件、通知渠道及生效机制,一律属于「需产品确认」。本页不写有,也不写没有。官网已明确的规则为超时温柔收线,以及分钟用尽时「小安只能安安静静地陪着,让孩子去找大人」——这是分钟用尽规则,不是危机转介,也不是家长提醒。

  • 小通话的「开门」后,多久会开始提醒?

    官网把「开门」描述为家长用手机号验证码登录、给孩子设备授权登录。孩子端免注册、无账号;家长在大人手机上使用验证码登录,并输入孩子设备屏幕上的数字完成授权。官网没有写开门和任何提醒的关系,需产品确认。不要把 ChatGPT 的「约 3 小时关联等待期」套到开门上。

  • 家长可以用危险的话自己测试 AI 软件的提醒功能吗?

    不要。家长不要使用真实孩子或输入模拟自伤、自杀等危险内容去测试产品。改为查阅官方说明、向厂商询问触发条件和生效时间,以及是否能提供不涉及危险内容的核对方法。涉及儿童心理健康与危机干预的具体指引,须引用权威儿童心理健康来源(待核实),本页不提供。本页不提供危机热线号码。

小安

把小安带回家

孩子只和小安说话。付钱和开门,留给大人自己的手机。

适合 3 岁以上 · 孩子不用注册 · 家长另装家长端加分钟