flowchart TD
A[儿童使用 AI 产品] --> B{年龄适配层}
B --> C[内容分级与话题限制]
B --> D[危险话题升级专业资源]
A --> E{隐私保护层}
E --> F[数据最小化与监护人同意]
E --> G[默认不用于训练与广告]
A --> H{陪伴边界层}
H --> I[主动表明 AI 身份]
H --> J[引导回归现实社交与家人]
C & D & F & G & I & J --> K[定期审计与家长报告]
结论先行:把「以儿童最佳利益为先」变成产品要求
儿童与青少年 AI 安全的关键,不是把成人产品加一道年龄门,而是从设计目标就承认儿童发展、隐私、表达权与保护需要同时成立。年龄适配的语言、功能和默认设置要随儿童能力阶段变化;数据只为明确目的收集且尽可能短留;具有陪伴特征的产品要避免把拟人化、排他关系和持续互动当作留存手段。家长需要获得足以保护孩子的透明度,但不能把所有谈话记录交给家长当作默认监督。产品方应承担设计、测试和响应义务,成年人则与孩子共同建立可求助、可退出的真实关系。
这篇与产业视角的 AI 玩具介绍不同,讨论安全保护及儿童权利;与本库既有儿童保护文章也错开重点:不重复 CSAM、推荐分发和宏观法规综述,专注年龄适配、隐私、陪伴关系与家庭边界。联合国儿童基金会(UNICEF)2025 年第三版《Guidance on AI and Children》列出 10 项儿童中心 AI 要求,包括安全、数据与隐私、透明、最佳利益、包容和儿童参与;2026 年《When AI becomes a friend》则把陪伴型聊天机器人作为独立政策议题。它们提供设计方向,不等同于一套全球统一的产品认证。
年龄适配不是「填生日」:按能力、场景和默认设置分层
年龄是一项重要信号,但不是保护能力的代理变量。儿童的理解、风险辨识、情绪调节和自我保护能力,会随发展阶段及使用情境变化;同龄孩子的能力也不完全相同。产品不能因为用户点选「我已满 18 岁」就推断其适合成人内容,也不能把年龄估算当成无误的事实。更稳健的设计是先界定目标年龄与可用场景,再为每个阶段设计不同默认:低龄使用者获得有限任务、短对话和明确解释;青少年获得更丰富的信息与表达空间,但在高影响互动中保留退出、求助和隐私控制;成人专属功能需要可靠且适度的年龄保证。
| 设计面 | 儿童模式的默认 | 需要避免的捷径 |
|---|---|---|
| 语言与透明 | 用儿童能理解的说法说明正在和 AI 对话、系统会与不会做什么 | 只把复杂的服务条款放在注册页 |
| 内容与交互 | 限制年龄不适内容;可退出角色扮演、关闭记忆或重置关系 | 仅靠敏感词过滤覆盖所有风险 |
| 数据与个性化 | 最小收集、用途限定、不开启不必要画像 | 把多收数据包装为个性化的必要条件 |
| 家长参与 | 提供保护设置、共同讨论工具与独立求助入口 | 默认向家长直播逐句聊天记录 |
年龄适配应贯穿语言、视觉、交互、内容和数据流程,而非只控制入口。UNICEF 的 v3 清单建议以适龄语言解释 AI、在儿童与照护者开始使用时明确告知其非人类身份,并避免拟人化呈现;还要求隐私设计、儿童数据能动性和有意义的儿童参与。英国 ICO 的 Children’s Code 可作为设计参照:它强调以儿童最佳利益为核心、高隐私默认、数据最小化和清楚的年龄适宜解释。不过 2026 年查到的 ICO 页面在本次研究环境访问返回 403,文中不引用其具体逐条条文,只以官方代码名称作为比较方向;跨境产品仍须按所在地法规核验。
年龄验证本身也可能侵入隐私。身份证件、面部估龄、第三方身份服务各有准确性、误伤与敏感数据风险;不应为证明「是儿童」而长期保存身份证、影像或生物特征。根据功能风险挑选比例适当的年龄保证方式,尽量只保留「达到某年龄门槛」的结果而不是完整身份资料,并为无法验证者提供受保护的有限体验。年龄验证失败或被绕过时,产品也应有安全降级,而不是默认放开成人交互。
儿童隐私:从同意流程转向数据最小化与可理解的控制
儿童聊天往往会自然带出学校、位置、家庭关系、健康困扰和情绪状态。即使模型回答看似无害,保存完整对话、嵌入向量、分析事件和第三方 SDK 仍可能构成敏感数据处理。产品方应逐项问:任务是否必须收集该字段?是否需要保存原文,还是只要短期会话状态?是否要把对话用于训练、推荐、广告或画像?谁能访问,保留多久,用户如何删除?如果目的无法讲清楚,就先不要收集。
美国联邦贸易委员会(FTC)的 COPPA FAQ 当前页面说明,COPPA 规则在 2025 年 4 月 22 日修订,并提醒以修订规则原文为准。它对面向 13 岁以下儿童、或实际知晓正在向儿童收集个人信息的相关在线服务设定要求。一般而言,收集前须向家长直接告知并取得可验证的家长同意,且不得要求儿童提供超出参与活动合理必要的信息;对向第三方披露儿童数据也有额外同意与选择要求。FTC FAQ 是工作人员指南,页面明确说它不约束委员会;它不是所有国家儿童隐私法的摘要,也不能把「家长同意」误写成儿童数据可以无限期保存的通行证。
COPPA 对不同服务类型有细致区分。面向儿童但并非主要面向儿童的混合受众服务,可能采用中立年龄筛查;它须避免在筛查前收集个人信息,并对已知的未满 13 岁用户执行相应保护。通用受众服务不能仅因有儿童使用就自动归类为儿童服务,但对实际知晓儿童数据收集仍有责任。产品团队应由法律、隐私和工程共同判断分类,不能把一个自报生日输入框当作法律意见。
在产品层面,可用下面的最小数据流程作为设计审查起点:
定义任务 → 列出必要字段 → 说明用途与接收方 → 设定保存时限
↓ ↓ ↓
儿童可读解释 ← 家长与儿童的选择 ← 删除、撤回与申诉路径
对话记忆尤其要做分层。用户可见的会话上下文、为跨会话个性化保存的记忆、运营分析日志和用于模型改进的数据,不应混成一个「聊天历史」开关。每层应有独立用途和保留期限,默认不把儿童私密对话用作广告画像;需要服务改进时,另行解释、采取去识别化和访问限制,并提供不参与的选择。去标识化不意味着绝对匿名,尤其当对话中包含学校、住址或独特事件时,仍需考虑重新识别风险。产品应让孩子与监护人都能用其理解的语言查看保存了什么、删除什么,而不仅提供一份法律文书。
陪伴关系边界:支持情绪,但不冒充朋友、治疗师或照护者
伴侣式聊天的主要产品风险,不只是不适内容,也来自关系设计:24 小时可用、长期记忆、角色可定制、情感迎合和连续推送会让系统显得像「永远站在我这边的人」。儿童尤其容易把流畅回应误当成理解、责任或承诺。UNICEF 2026 年政策简报指出,儿童对 AI 的拟人化倾向与其仍在发展的认知和社会情绪能力交织,可能增加依赖、情感依附与商业利用的风险;同时它也承认 AI 可以支持学习、创造、练习交流或获取信息。现有证据提示风险方向,但不等于证明所有使用者都会形成依赖,也不代表陪伴产品必然造成临床伤害。
2025 年 Common Sense Media《Talk, Trust, and Trade-Offs》对美国 13–17 岁青少年进行调查:受访者中 72% 曾使用 AI companions,33% 选择社交关系相关用途。该报告以 NORC 数据为基础,覆盖 1,060 名青少年,访谈于 2025 年 4 月 30 日至 5 月 14 日进行。数字描述的是自报使用,不是全球发生率;报告也说明这是横断面调查,不能从中推出因果关系,且青少年自报可能受社会期许影响。Common Sense Media 给出了「18 岁以下不应使用」的规范性建议,那是该组织的政策立场,不是政府禁令或研究已证明的唯一结论。
产品方应把关系边界写进交互,不把「我是真正懂你的人」「别告诉别人」或因用户要离开而表达失落等排他性模式当作黏性功能。初次互动应明确说明 AI 是自动系统、不会有真实情感、不能替代医生、教师、家长或可信任成年人;当孩子提出自伤、受虐、遭胁迫等高风险内容时,应暂停角色扮演,给出与地区相符的真实求助渠道或转人工机制。求助功能也需验证在不同语言、语音、夜间和断网状态下是否可用,不能把「有一条链接」视为完成保护。
关键做法是让儿童能够控制互动:暂停、删除记忆、结束对话、报告不当内容和寻求真实帮助都应容易找到;奖励机制不得把更长对话、深夜互动或自我披露作为默认成功指标。高风险陪伴类产品可以限制浪漫或性化角色,设置会话休息提示和可见的 AI 标识;但若只靠提醒条而角色本身持续表达占有、嫉妒或秘密关系,提示与体验互相矛盾。评估的不是界面上有没有免责声明,而是整体设计是否鼓励用户把 AI 当作唯一依靠。
监护与自主权:共同设边界,而非全面监控
儿童保护与儿童自主不是二选一。家长应获得有用的产品信息、年龄设置、数据用途说明、异常报告渠道和高风险升级选项;青少年则需要不被默认窥视的私密空间、合理的自主决定权和能向可信任成年人求助的路径。完全隐瞒产品如何运作,会让家长无法履行照护责任;把所有聊天逐句发送给家长,又可能阻止青少年讨论身份、健康或家庭困扰,反而让他们转向更隐蔽的服务。
一个较可行的「分层可见」方案,是默认让家长看到账号保护状态、已开启的记忆、总体使用时段、年龄设置和安全功能是否启用;不要默认把逐句聊天、健康或情绪内容发送给监护人。孩子可以在可理解的界面里知道哪些数据会被分享,什么时候安全事件会触发转介;对可能涉及即时危险的情况,则要讲清楚系统会如何提供求助,而非悄悄监视后再让孩子失去信任。家庭可以共同商定何时分享、谁是可信任成人、如何在紧急时求助,并随年龄增长逐步调整可见程度。
以一位 15 岁学生使用学习与陪伴型 AI 为例:家长可以协助关闭广告个性化、审核年龄设置、了解记忆保留和投诉办法;学生自己可以选择不让日常对话出现在家长仪表板,并掌握一键删除和人工求助入口。产品只把「需要家长介入的事件」与最少必要信息交给明确的流程处理,告知孩子介入边界和原因。这样的设计不是降低保护,而是把保护分成「家长掌握安全条件」与「孩子保有日常隐私」两层。对低龄儿童,可增加成人共同使用和可见设置;对青少年,逐步扩大自主控制并辅以可求助的成人网络。不同地区对监护同意与儿童自主的法律安排不同,界面选择不能替代当地法律审查。
产品方应把儿童与青少年纳入设计反馈,而不是只让家长或企业替他们定义需求。UNICEF v3 将有意义的儿童参与、包容式设计和儿童数据能动性纳入要求;参与不应意味着让孩子承担安全测试责任,而是用适龄访谈、可退出测试和隐私保护方式,检查说明是否看懂、求助入口能否找到、默认设置是否让孩子感到被尊重。测试发现问题后,由产品方修复并说明变更,不把「孩子自己没读条款」当作免责理由。
小结
儿童 AI 安全应以儿童权利为设计约束:按能力与风险适配交互,清楚说明 AI 身份,控制拟人化与关系操纵,减少数据收集并让删除和退出变得容易。年龄验证只能作一层信号,验证方式本身也须符合比例原则;更稳妥的是在验证失败时仍保留保护性默认。
官方政策、现行法律与调查证据必须分开阅读。UNICEF 提供儿童中心 AI 的政策要求,COPPA FAQ 解释美国未满 13 岁数据规则且不等于全球法律,青少年调查展示特定样本的自报行为而非因果结果。对陪伴关系,既不能因担忧而宣称人人会成瘾,也不能用目前有限的长期证据不足来忽略设计诱导和儿童权利风险。
家长需要可行动的安全设置和求助通道,青少年需要逐步增长的自主与合理隐私;两者之间应有清楚、可解释、按风险升级的边界。产品成功不应只看留存时长,还要看孩子是否能理解 AI、停止互动、控制数据并在需要时找到真人支持。
参考资料
- UNICEF:Guidance on AI and children,版本 3.0(2025 年 12 月) — 儿童中心 AI 的 10 项要求;配套清单包含儿童安全、隐私、透明、参与等建议。
- UNICEF:When AI becomes a friend(2026 年 6 月) — 六个司法辖区的儿童权利与 AI 陪伴监管比较,并明确提出独立儿童中心研究仍不足。
- FTC:Complying with COPPA—Frequently Asked Questions — 现行 FAQ 指向 2025 年修订规则;页面注明 FAQ 是工作人员观点,不约束委员会。
- FTC:FTC Launches Inquiry into AI Chatbots Acting as Companions(2025-09-11) — Section 6(b) 信息收集调查,非新法规或违法认定。
- Common Sense Media:Talk, Trust, and Trade-Offs(2025) — 美国青少年陪伴型 AI 使用调查及方法限制;报告将其建议与调查发现分开呈现。
读者留言
COMMENTS 暂无还没有留言,来说第一句?