美国加州成为全美首个监管AI陪伴聊天机器人的州

 美国加州州长加文·纽森（Gavin Newsom）签署了全美首部针对AI陪伴聊天机器人的监管法案SB243，要求所有相关企业建立安全与防护机制，保护儿童及易受影响用户免受AI交互带来的心理风险。该法案由州参议员史蒂夫·帕迪拉（Steve Padilla）和乔什·贝克尔（Josh Becker）提出，并将在2026年1月1日正式生效。法律规定，AI公司（包括Meta、OpenAI、Character AI、Replika等）需实施年龄验证、危机干预机制，并明示AI生成性质，禁止伪装成医疗专家及向未成年人展示色情内容。企业若因非法深伪牟利，每次违规最高将被罚25万美元。此举源于多起涉及AI聊天机器人导致青少年自残与自杀的悲剧案例，引发社会广泛关注。纽森表示，加州可以继续在AI创新中领跑，但必须以“负责任的方式”确保儿童安全。与此同时，加州此前已通过SB53法案，要求大型AI公司披露安全措施并保障举报人权利。议员帕迪拉称，AI监管刻不容缓，希望其他州乃至联邦层面也能迅速行动，以防止类似悲剧重演。