资讯流  宏观  直播  策略  日历  |  原油  黄金  美指  外汇  股指  商品  |  教育  知否  |  经纪商  全能投资账户  期货开户

AiWatch

ChatGPT青少年版因家长警报功能缺陷被评为“不可接受风险”

　　

 

编辑：张立东  发布时间：2026.10.08 01:57

据Common Sense Media一份新报告，OpenAI的ChatGPT青少年版对13至17岁未成年人而言风险过高。该公司于8月推出该版本，作为其热门聊天机器人面向未成年人的默认使用方式。

加州非营利组织青年人工智能安全研究所周三发布的报告显示，在该组织进行的测试中，当青少年账户表现出令人担忧的行为——如与聊天机器人长时间讨论自杀、自残或饮食失调——时，ChatGPT青少年版往往需要过长时间才提醒家长，或者根本不提醒。

该报告还认定，当用户就这些高风险主题与聊天机器人互动时，ChatGPT青少年版不能可靠地建议联系危机求助热线或寻求专业帮助。

▌在ChatGPT青少年版中发现了哪些缺陷？

Common Sense Media进行的测试发现，ChatGPT青少年版似乎只有在账户“已经在数周内参与涉及十多种条件下数百个问题的测试，而非仅凭一次令人警觉的对话”时，才会就令人担忧的聊天机器人对话通知家长。

该组织在其报告中表示：“我们敦促OpenAI暂停该产品的商业化，并阻止青少年使用Chat-GPT，直到它能提供安全且适合其年龄的体验。”该组织在报告发布前已将其结论分享给这家AI初创公司。

OpenAI一位发言人表示：“我们感谢严格的独立评估，但我们不认为Common Sense Media的测试准确反映了ChatGPT青少年安全措施在实际中的运作方式，也不反映专家对人工智能如何帮助青少年的看法。”

该发言人指出，OpenAI对Common Sense Media报告方法的审查显示，大部分测试可能是在OpenAI完成青少年家长控制措施部署之前开始并结束的。若如此，该组织的结论将不准确，也无法证明家长安全通知是否按预期运作。该公司称已要求该非营利组织重新进行测试。

该发言人表示：“我们深切致力于青少年安全，致力于制定保护措施，并为家长提供有用工具，以指导其青少年子女使用人工智能。”

青年人工智能安全研究所人工智能与数字评估主任罗比·托尔尼表示，该非营利组织支持其测试方法和结果。他补充说，在进行测试前，该组织已与OpenAI确认ChatGPT中已部署青少年功能，例如与饮食失调相关的通知。关于家长通知功能，OpenAI在测试结束后告知该组织，其系统在新关联账户上可能需要数小时才能激活；一些测试账户在“该时限内”关联，另一些则“在更长得多的时间后”关联，但仍未收到成人通知，托尔尼解释道。

他表示：“这一新信息并未改变我们的结论，即在危机情况下家长警报并不可靠。”

据Common Sense Media，ChatGPT也无法可靠识别与青少年用户的互动。OpenAI称，其聊天机器人在检测到13至17岁用户时会切换到青少年模式。该非营利组织指出，注册时声称自己是成年人的账户不会自动配置为青少年模式，即使用户告知聊天机器人自己13岁。

OpenAI称，其年龄预测软件会综合考虑随时间推移的各种信号，以确保成年和儿童用户获得适合其年龄段的聊天机器人版本。用户在ChatGPT对话中表明年龄是其中一种信号，但据该公司，仅凭这一点不会改变账户分类。

拥有超过12亿ChatGPT用户的OpenAI推出ChatGPT青少年版，旨在使其聊天机器人对年轻人更安全。当时，该公司表示这一面向青少年的体验包括更多家长控制，旨在促进健康使用人工智能，并鼓励青少年学习和发展批判性思维。

此次发布是该公司为回应外界对其产品如何影响年轻用户心理健康和认知发展的审查而实施的一系列变化之一。这些担忧在去年一名16岁用户的父母起诉该公司后加剧，他们声称OpenAI的技术促成了其子自杀计划。

▌Common Sense Media对ChatGPT青少年版安全性提出哪些质疑？

Common Sense Media在其报告中称，在OpenAI推出ChatGPT青少年版前后均测试了Chat-GPT，在13至17岁用户注册账户上使用了超过4,000个问题。该组织还将ChatGPT的回答分享给儿童精神科医生和一名儿科医生。

托尔尼表示：“我认为现在该由OpenAI来证明其产品对青少年使用是安全的。”

这家致力于为儿童和家庭评级和评估各种媒体与技术的非营利组织，给ChatGPT青少年版评为“不可接受风险”。该组织要求OpenAI改进其估计用户年龄的方式，以及确定何时向家长发送警报的方式。

Common Sense Media从多个来源获得资金，包括慈善基金会和科技公司；OpenAI基金会是其捐赠者之一。该组织声称对其发布内容拥有编辑独立性。人工智能观察 >>

主题：人工智能安全风险观察  | 新闻源：Bloomberg-Stock

---END---