佩洛西席位继任者韦纳准备监管人工智能

加州州参议员斯科特·韦纳曾起草抑制先进人工智能风险的立法，在激烈竞选中赢得前议长南希·佩洛西腾出的旧金山国会席位，可能在联邦人工智能政策上发挥关键作用。周五胜选数小时后的访谈中，他已在关注人工智能风险。前一天，非营利组织METR发布的报告被广泛解读为Anthropic已实现递归自我改进，即人工智能能实质推动自身进步，发展可能失控。韦纳称这“非常令人担忧”，并视之为监管时间所剩无几的证据。他曾希望国会在今年结束前采取果断行动，但“看来并不会发生”。他说需要把节奏放慢，因为推进很快，可能在不知不觉中走入灾难。2024年他起草的加州参议院第1047号法案一度有望成为美国首部前沿人工智能立法，但被州长加文·纽森否决；他随后推动更温和的第53号法案并获签署。他的国会竞选获得赞成监管的非营利组织Public First Action超过300万美元支持，该组织得到Anthropic可观资助。对手批评他与行业过从甚密，他否认并称攻击“出奇地犬儒”：他是全美首位提出并推动人工智能监管落地的议员，却被谎称与科技巨头过从甚密。若国会成立自9月以来民主党人讨论过的人工智能特别委员会，他愿参与。他支持设立强大、有权且灵活的联邦监管机构，加州民主党众议员罗·卡纳已提出相关立法。他还强调举报人保护、测试与审计、急停开关，并希望国会运用监督权约束实验室。他说这关乎人类的未来，应让公众有发言权并了解情况。他反对联邦广泛排除州级人工智能法律，称各州如布兰代斯所说是“实验室”，应保持国会有时缺乏的灵活性。他强调国会行动须有实际约束力。他说当前在失控风险上非常危险，必须处理递归自我改进，一旦进入这一阶段，就可能彻底失控。参议员伯尼·桑德斯等是潜在盟友。但韦纳这种湾区、关注通用人工智能的视角，与全国以反对数据中心为主的情绪仍有差距。周二选民通过41项反数据中心提案中的40项，看似有利于监管，但韦纳认为这更多出于地方关切：设施进入社区、影响住家附近、推高电费和用水。他对国会约束人工智能仅“谨慎乐观”，因为国会在监管科技行业上的记录不佳。他还担心立法难获总统唐纳德·特朗普通过：特朗普在9月称对灾难性人工智能风险的担忧是“骗局”，并明显不愿与中国协作，而韦纳认为这对防止最坏后果至关重要。韦纳说，迄今看到的是一些问题，但还不是彻底的灾难；他希望不必等到灾难发生才促使总统行动，若真需要如此，也希望那次灾难尽可能小。