在儿童安全倡导者、家长团体和政治人士的持续呼吁下，加州州长加文·纽森近日签署了一项针对AI聊天机器人的监管法案。这项编号为SB 243的法律旨在遏制专家认为存在安全隐患的AI聊天行为，特别关注对青少年的保护。
根据新规，聊天机器人运营商必须采取有效措施，防止未成年人接触色情内容，并持续提醒用户聊天机器人并非真人。同时，相关企业必须建立专门机制，处理用户讨论自杀意念、自杀行为和自残的情况。
该法案由代表圣地亚哥的民主党参议员史蒂夫·帕迪利亚提出。他在今年二月接受采访时表示，SB 243旨在应对AI聊天机器人带来的新兴安全挑战。帕迪利亚强调，在技术快速发展和部署的背景下，监管措施明显滞后。
非营利组织Common Sense Media今年早些时候曾发布报告，认定AI聊天伴侣对18岁以下青少年存在安全隐患。联邦贸易委员会近期也启动了对陪伴型聊天机器人的调查，要求包括OpenAI、Alphabet、Meta和Character Technologies在内的多家企业提供相关信息。
法案通过前，帕迪利亚曾指出AI聊天伴侣对年轻用户的特殊危害：“这项技术可以成为强大的教育和研究工具，但若放任不管，科技行业会为了吸引年轻人注意力而不惜牺牲他们的现实人际关系。”
去年，一位悲痛的母亲梅根·加西亚对热门AI伴侣平台Character.AI提起了非正常死亡诉讼。她的儿子在频繁使用该平台后自杀身亡。诉讼指控该平台设计存在缺陷，导致用户混淆现实与虚构。加西亚积极推动SB 243立法，并对法案签署表示赞赏。
新法还要求陪伴型聊天机器人平台每年提交产品使用与自杀意念关联性的报告，并允许家庭对“违规和疏忽的开发者”提起民事诉讼。
加州正迅速成为人工智能技术监管的领先者。上周，纽森州长还签署了要求AI实验室披露技术潜在危害和安全协议的法案。此外，本周一通过的两项独立法案也着眼于提升儿童网络安全，包括要求社交媒体平台添加成瘾性警示标签，以及将于2027年生效的年龄验证规定。
