当前位置: 科技先知道 » 人工智能 » OpenAI强化青少年安全防护:ChatGPT推出针对性安全更新

OpenAI强化青少年安全防护:ChatGPT推出针对性安全更新

面对近期多起针对ChatGPT可能危害青少年心理健康的指控与诉讼,OpenAI于近日公布了新的安全承诺与具体措施,明确表示将“把青少年安全置于首位,即使这可能与其他目标产生冲突”。

该公司在官方博客中宣布,已更新其AI行为规范“Model Spec”,专门为18岁以下用户增设了一套原则体系,旨在高风险对话场景中提供更严格的保护。更新后的ChatGPT将为13至17岁用户构建“安全且适龄的体验”,核心策略包括预防优先、过程透明与早期干预。

具体而言,当青少年用户涉及自残、自杀、情感角色扮演或危险行为保密等敏感话题时,系统将启动强化防护机制——不仅会提供更安全的对话替代方案,还会主动引导用户寻求线下可信支持。在识别出即时风险时,ChatGPT将直接建议联系紧急服务或危机干预资源。

值得注意的是,美国心理学会(APA)参与了此次青少年保护原则的草案修订。APA首席执行官Arthur C. Evans Jr.博士指出:“若能与人类互动相结合——科学研究表明这对青少年的社会、心理、行为乃至生物发展至关重要——人工智能工具或能为青少年带来益处。”

与此同时,OpenAI发布了两份由专家审定的AI素养指南,分别面向青少年及其家长。公司还透露,正在开发面向消费级用户的年龄预测模型,以进一步完善年龄验证机制。

此次安全升级的背景颇为严峻:近期多项研究指出,AI聊天机器人目前尚不适合用于青少年心理健康对话;而OpenAI自身也正面临多起诉讼,指控其模型未能妥善处理青少年用户的极端情绪表达。作为回应,该公司上周宣称新版ChatGPT-5.2在心理健康话题上已具备更高安全性。

(注:若您或身边的人面临心理危机,请立即联系专业机构。美国可拨打988自杀与危机生命线,国际资源列表可参考相关官方网站。)

未经允许不得转载:科技先知道 » OpenAI强化青少年安全防护:ChatGPT推出针对性安全更新

相关文章

My title