华盛顿/旧金山(路透社)-在科技行业提出反对意见后，加利福尼亚州州长加文·纽森周日否决了一项激烈争论的人工智能安全法案，称这可能会将人工智能公司赶出该州并阻碍创新。
纽森表示，该法案“没有考虑人工智能系统是否部署在高风险环境中，是否涉及关键决策或敏感数据的使用”，并且“只要是大型系统部署，即使是最基本的功能也会采用严格的标准”。
纽森说，他已经要求生成式人工智能领域的顶尖专家帮助加州“开发可行的护栏”，重点是“开发基于科学的实证轨迹分析”。他还下令国家机构扩大对与人工智能使用有关的潜在灾难性事件风险的评估。
生成式人工智能——可以根据开放式提示创建文本、照片和视频——让人兴奋，也让人担心，它可能会淘汰一些工作，颠覆选举，甚至可能压倒人类，并产生灾难性的影响。
该法案的起草人、民主党州参议员斯科特·维纳(Scott Wiener)表示，在人工智能的进步变得难以驾驭或无法控制之前，立法是必要的，以保护公众。人工智能行业在加州发展迅速，一些领导人质疑如果该法案成为法律，这些公司在该州的未来。
维纳周日表示，这一否决让加州变得更不安全，意味着“那些旨在创造一种极其强大的技术的公司不会受到任何有约束力的限制。”他补充说:“行业的自愿承诺是无法强制执行的，对公众来说也很少有好的结果。”
纽森说:“我们不能等到重大灾难发生后才采取行动保护公众。”但他补充说，他不同意“我们必须接受一个没有对人工智能系统和能力进行经验轨迹分析的解决方案。”
纽森表示，他将在下次会议期间与立法机构就人工智能立法进行合作。与此同时，美国国会制定保障措施的立法陷入停滞，拜登政府正在推进监管人工智能的监管提案。
纽森说:“加州独有的做法很可能是合理的，尤其是在国会没有采取联邦行动的情况下。”
科技行业联盟“进步商会”(Chamber of Progress)对纽森的否决表示赞赏，称“加州科技经济一直在竞争和开放中蓬勃发展”。
除其他事项外，该措施将要求对许多最先进的人工智能模型进行安全测试，这些模型的开发成本超过1亿美元，或者需要一定数量的计算能力。在该州运行的人工智能软件开发人员还需要概述关闭人工智能模型的方法，这实际上是一个死亡开关。
该法案将建立一个国家实体来监督所谓的“前沿模型”的发展，这些模型超越了最先进的现有模型的能力。
该法案遭到了广泛团体的强烈反对。Alphabet旗下的谷歌(Google)、微软(microsoft)支持的OpenAI和meta Platforms都在开发生成式人工智能模型，它们都表达了对该提案的担忧。
包括众议员南希·佩洛西(Nancy Pelosi)在内的一些美国国会民主党人也表示反对。支持者包括特斯拉首席执行官埃隆·马斯克，他还经营着一家名为xAI的人工智能公司。亚马逊支持的Anthropic表示，该法案的好处可能大于成本，尽管它补充说，仍有一些方面似乎令人担忧或模棱两可。
纽森单独签署了一项立法，要求该州评估生成人工智能对加州关键基础设施构成的潜在威胁。
Newsom表示，该州正在分析能源基础设施风险和先前召集的电力部门供应商，并将在明年与水基础设施供应商以及随后的通信部门进行同样的风险评估。
(David Shepardson华盛顿报道，Anna Tong;编辑:莱斯利·阿德勒和玛格丽特·蔡)
×本文来自作者[温毅阳]投稿，不代表lleng号立场，如若转载，请注明出处：https://m.lleng.cn/jyfx/202508-1566.html
评论列表（4条）
我是lleng号的签约作者“温毅阳”！
希望本篇文章《加州州长拒绝通过备受争议的人工智能安全立法》能对你有所帮助！
本站[lleng号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览：华盛顿/旧金山(路透社)-在科技行业提出反对意见后，加利福尼亚州州长加文·纽森周日否决了一项激烈争论的人工智能安全法案，称这可能会将人工智能公司赶出该州并阻...