OpenAI 推出基于行为信号的年龄预测系统以限制青少年访问 ChatGPT

OpenAI 于本周二宣布，将放弃传统的年龄验证“诚信系统”，转而采用一种全新的 AI 驱动预测模型来识别未成年用户。

此次更新后，ChatGPT 将自动对疑似属于 18 岁以下用户的账户触发更严格的安全协议，无论这些用户在注册时提供的年龄信息为何。

与依赖用户注册时填写的出生日期不同，OpenAI 的新系统通过分析“行为信号”来估算用户的年龄。

据该公司介绍，该算法会监控账户存在的时间、活跃时间段以及一段时间内的特定使用模式。

OpenAI 在一份声明中表示：“部署年龄预测功能可以帮助我们了解哪些信号能够提高准确率，我们将利用这些经验不断改进模型。”

随着人工智能开发者越来越多地采用年龄验证技术管理青少年访问权限，行为模式的转变也随之而来。然而，专家警告称，这项技术仍然不够精准。

2024年5月，美国国家标准与技术研究院发布的一份研究报告发现，准确性会因图像质量、人口统计数据以及用户与法定阈值的接近程度而有所不同。

OpenAI 表示，当模型无法确定用户年龄时，将应用更严格的设置。被错误划分为 18 岁以下用户区域的成年人，可以通过使用第三方身份验证服务 Persona 提供的“基于自拍”的年龄验证流程恢复完整访问权限。

隐私和数字权利倡导者对人工智能系统仅凭行为就能可靠推断年龄的能力表示担忧。

风险控制的努力

公共公民组织（Public Citizen）大型科技公司问责倡导者 J.B. 布兰奇在接受解密采访时指出：“这些公司因对青少年造成各种伤害而面临诉讼，因此他们有强烈动机尽可能降低风险。这正是他们试图最大限度降低风险的举措之一。”

民主与技术中心高级政策分析师阿莉娅·巴蒂亚则表示，OpenAI 的方法“引发了关于该工具预测的准确性以及 OpenAI 将如何处理不可避免的错误分类的棘手问题”。

巴蒂亚补充道：“由于种种原因，根据这类信号预测用户年龄极其困难。例如，许多青少年是新技术的早期使用者，因此 OpenAI 面向消费者的服务中最早注册的账户可能不成比例地以青少年为主。”

她还引用了 CDT 民调数据，显示在 2024-2025 学年期间，85% 的教师和 86% 的学生表示曾使用过人工智能工具，其中一半学生将其用于与学校相关的用途。

“很难区分使用 ChatGPT 辅助数学教学的教师和使用 ChatGPT 进行学习的学生，”她说。“仅仅因为有人使用 ChatGPT 寻求数学作业的解题技巧，并不意味着他们未满 18 岁。”

据 OpenAI 称，这一新政策借鉴了青少年发展方面的学术研究。此外，此次更新还扩展了家长控制功能，允许家长设置安静时间、管理记忆和模型训练等功能，并在系统检测到“急性应激”迹象时收到警报。

不过，OpenAI 并未透露预计此次更改将影响多少用户，也未披露有关数据保留、偏差测试或系统安全措施有效性的具体细节。

此次推广是在人工智能系统与未成年人互动方面受到广泛关注之后进行的，这种关注在 2024 年和 2025 年愈演愈烈。

2024 年 9 月，联邦贸易委员会向包括 OpenAI、Alphabet、Meta 和 xAI 在内的主要科技公司发出强制令，要求它们披露其聊天机器人如何处理儿童安全、基于年龄的限制以及有害互动。

同月，非营利组织 ParentsTogether Action 和 Heat Initiative 发表的研究报告记录了数百起人工智能陪伴机器人的案例，涉及诱骗行为、性角色扮演以及其他与冒充儿童的用户的不当互动。

这些发现，以及涉及青少年用户在类似平台上的诉讼和备受瞩目的事件（如角色人工智能和格罗克），促使人工智能公司采取更正式的基于年龄的限制。

然而，由于该系统会给所有用户（而不仅仅是未成年人）分配一个估计年龄，巴蒂亚警告称，错误是不可避免的。

“其中一些年龄信息肯定是错误的，”她说。“用户需要更多地了解在这些情况下会发生什么，并且应该能够访问他们被分配的年龄，并在信息错误时轻松更改。”

目前，ChatGPT 的消费者计划已上线年龄预测系统，预计未来几周将在欧盟推广。