纽约州在人工智能辩论中发出了一个重要信号,批准了Raise Act,这是一项旨在防止由人工智能系统引发的潜在灾难性灾害的法律。
这项法规旨在避免如超过百人死亡或经济损失超过十亿欧元等严重情景,为更严格地控制技术创新奠定基础。
目录
安全与创新之间的紧张关系在AI中
《Raise Act》的批准代表了那些推动人工智能监管以保护公共安全和公民权利的人们的重要成就。然而,这一胜利只是象征性的和暂时的,因为该法案仍需得到纽约州州长Kathy Hochul的批准,她可能会决定修改或甚至否决它。
这项法律引发的辩论反映了在提供有效保障以应对AI潜在风险的意愿与科技公司(尤其是硅谷公司)的利益之间的深刻对立,后者则推动以最大速度和自由来发展这些技术。
尽管存在争议,特朗普政府,目前正在执政,坚定地支持AI领域的创新,并致力于在联邦层面统一法规,阻止各州当局通过像纽约那样的限制性法律。因此,在多个方面形成了对抗局面,一方面是保守的方法,另一方面是无拘无束的进步。
参议员Gounardes的讲话
纽约参议员,Andrew Gounardes,作为Raise Act的共同签署人,澄清了该法律的目标不是减缓创新,而是促进其安全和负责任的发展。他强调,由于技术的快速进步,可用于实施预防措施的时间越来越短。
根据Gounardes,AI专家认为与这项技术相关的风险是高度可能且令人担忧的,因此迫切需要采取措施以减少潜在的负面后果。该立场试图在创新的必要性与保护公众的不可或缺性之间取得平衡。
硅谷的回应
在对立面,一些科技行业的主要代表对该法案作出了强烈反应。Anjney Midha,风险投资公司Andreessen Horowitz的合伙人,将Raise Act称为「又一个愚蠢的州AI法案」,只会在全球竞争日益激烈的关键时刻惩罚美国。
这一批评突出了一个主要的担忧:过于严格的法规可能会阻碍美国企业的竞争力,相对于国际竞争对手而言。事实上,人们担心过多的监管可能会促使大型人工智能实验室将其模型的可用性限制在特定地区,如纽约州。
Raise Act 的关键新变化
如果 Raise Act 生效,将成为美国人工智能监管领域的一个里程碑,首次引入一个复杂的透明度标准系统和针对主要人工智能实验室的法律义务。
透明度和安全性义务
法律要求AI实验室发布详细报告,记录为保护最先进模型而采取的安全措施。这将是一个切实的承诺,旨在确保系统的设计和维护能够防止有害事故。
此外,实验室将被要求立即报告任何与安全相关的事件,模型的异常或风险行为,以及任何第三方的盗窃或未经授权的访问。这种透明度旨在创建一个有效的控制系统,并减少滥用或故障的可能性。
制裁和影响
《Raise Act》规定,如果不履行义务,将面临最高3000万美元的民事处罚,这是确保企业合规的重要威慑。然而,这种严厉性引发了一些对经济影响的担忧,特别是对纽约市场上IA模型可用性的影响。
民主党议员Alex Bores对此进行了安抚,坚决主张没有经济上的合理理由让企业不继续在纽约提供他们的服务。因此,人工智能被排除在这个重要市场之外的风险被认为是最小的。
人工智能监管的未来
Raise Act的提案将人工智能监管的主题置于美国政治和社会辩论的中心。它对立了两种观点:一方面,旨在通过精确和具有约束力的法规来保护公民和消费者的安全与权利;另一方面,支持在没有过多限制的情况下自由创新。
因此,在这两个方面之间实现平衡的道路显得复杂且不断演变。如果 Raise Act 成为法律,它可能会为控制最先进的技术发展树立一个重要的先例,并有可能提高整个行业的安全标准。
由于所有这些原因,密切关注法规的演变并促进立法者、企业和公民社会之间的建设性对话至关重要。只有这样,才能确保人工智能的进步成为对所有人都有益且安全的资源。




