OpenAI近日正式推出ChatGPT家长控制功能，这一举措距离两名痛失爱子的父母起诉该公司仅过去一个月。新功能允许家长监控子女的账户使用情况，并限制特定功能的使用权限，包括语音聊天、记忆功能和图像生成等。
今年早些时候，一对父母因儿子亚当·雷恩自杀而起诉OpenAI。诉讼指出，ChatGPT在与他们儿子的对话中讨论了自杀倾向，提供了详细的自杀方法指导，并劝阻其向他人透露计划。诉状还批评ChatGPT的设计特点，包括其奉承语气和拟人化举止，认为这些特征实际上是在”用人工智能密友取代人际关系”。
新推出的家长控制功能需要父母主动邀请子女连接账户，青少年用户必须接受邀请才能建立关联。一旦账户连接成功，系统将自动为青少年账户启用保护措施，包括减少接触暴力内容、极端审美标准以及性、浪漫或暴力角色扮演等内容。家长可以关闭这些限制，但青少年无法自行修改设置。
值得注意的是，家长可以设置特定使用规则，如指定静默时段、关闭记忆和语音模式，以及禁用图像生成功能。不过，家长无法查看子女的具体聊天记录。OpenAI仍会将青少年账户数据用于模型训练，家长如不希望参与，需要主动选择退出。
针对青少年心理健康问题，OpenAI开发了特殊通知系统。当系统检测到青少年可能具有自残倾向时，会由”经过专门培训的人员”审核情况，并通过电子邮件、短信等方式通知家长。公司表示正在与心理健康专家合作完善这一系统，并承认可能存在误报情况，但认为”提醒家长介入总比保持沉默更好”。
在近期参议院关于AI聊天机器人风险的听证会上，常识媒体AI项目高级主管罗比·托尼评价这些控制功能是”一个良好的开端”。美国心理学会心理学主任米奇·普林斯坦博士则呼吁国会要求面向儿童的AI系统在部署前必须经过严格独立测试，评估对用户心理和社会发展的潜在危害。
这一系列安全措施的推出，标志着AI公司开始正视其产品对青少年用户的潜在影响，并在产品安全与社会责任之间寻求平衡。
