旧金山对SB 1047号法案的反应:科技和安全的平衡之争

图片源于:https://sfstandard.com/2024/08/09/mayoral-candidates-ai-bill-tech/

“该法案的良好意图被投机性法规所掩盖,这将扼杀创新的开端,”董事会主席表示。

“我们应当像对待任何影响旧金山人生活、工作和娱乐的行业一样来监管人工智能。这意味着要防范已知的危害,如歧视或市场操纵,同时促进开源或开放权重等概念,让工程师和企业家在对工人和消费者真正有益的方式上创新。”

尽管SB 1047号法案是一项适用于年开支100亿美元及以上的公司的复杂立法,但因其涉及旧金山经济中与科技密切相关的内容,成为一个突出的地方议题。

韦纳(Wiener)表示,他是“人工智能的忠实支持者”,并为旧金山是人工智能创新中心而感到“非常自豪”。

加州州参议员斯科特·韦纳(Scott Wiener)表示,SB 1047号法案的目标是确保最大的人工智能公司实施防范措施,以防止他们的技术被用来造成严重伤害。

硅谷的许多人认为,该法案可能威胁到当前聚集在旧金山的初创人工智能产业,而此时这座城市仍在努力从疫情中复苏。

阿伦·佩斯金(Aaron Peskin)和马克·法雷尔(Mark Farrell)在市长竞选中代表着意识形态的两个极端,但他们一致认为,旨在以安全为名规范人工智能发展的州法案对旧金山来说是坏消息。

虽然她的竞争对手们把这项法案及其对经济的潜在影响作为问题,但市长伦敦·布里德(London Breed)选择模棱两可,指出韦纳的办公室正根据科技公司的反馈积极修订法案。

“旧金山的每一个人都应该对SB 1047感到担忧,”法雷尔写道。“让我们把人工智能的监管留给联邦政府,而在地方上,我们则应该专注于促进技术创新,包括人工智能,而不是给行业一个离开的理由。”

法雷尔进一步在Medium上写道,该法案“有可能扼杀我们在旧金山刚起步的人工智能生态系统,停止我们脆弱的地方科技经济所期待的那一线希望。”

硅谷一些最知名的声音已对该立法提出了批评。

Y Combinator的加里·谭(Garry Tan)曾鼓励初创企业在旧金山设立总部,他表示SB 1047可能“严重损害加州保留人工智能人才的能力,并保持其作为人工智能公司的首选地点。”

风投公司安德森·霍洛维茨(Andreessen Horowitz)表示,该法案会设定“一个无法达到的标准”,并表示“多数初创公司将不得不迁移到更友好的州或国家。”

“布里德市长知道,韦纳参议员正在努力使该法案更具包容性和支持性,同时防止可能的滥用,”克里坦(Cretan)说。“人工智能将在旧金山的现在和未来中发挥重要作用。”

他指出,韦纳的办公室正在与领先的人工智能公司Anthropic合作,对法案进行修正。

韦纳表示,关于他的法案可能会压制旧金山创新经济的担忧是一种“故意误解”。

他在采访中表示,该法案针对的是年支出100亿美元及以上的公司,仅限于如Anthropic、OpenAI及其他科技巨头。

在这座约18.7%的工人从事科技工作的城市,SB 1047号法案投下了巨大的阴影。

一位创业者在网上呼吁,提到该法案后表示,自己在咖啡馆时被一名无家可归者伤害,认为州领导者应更加关注个人安全,而不是监管创新。

“专注于让我们真正安全。”她写道。

这些更改包括缩小法案的范围,集中在如何让公司负责造成灾难的方式上,“而不是决定公司应该采取哪些措施来防止危机(这些仍然是假设情况,生态系统仍在迭代以确定最佳实践)。”

开发Claude聊天机器人的Anthropic在七月下旬的一封信中告知韦纳,若其建议的修正得到解决,它不反对该法案的当前形式。

“我们正在与Anthropic积极合作并对法案进行修订,”韦纳表示。

法案目前的内容规定,若一家公司未能为其人工智能技术开发足够的防护措施,并导致灾难性伤害,检察总长可以起诉该公司。

该法案希望预防的“重大危害”包括开发AI,使其更容易制造或使用“化学、生物、放射或核武器,以导致大规模伤亡”以及对关键基础设施造成超过5亿美元的损害。

像布里德市长一样,市长候选人丹尼尔·卢里(Daniel Lurie),这位非营利组织执行和李维·施特劳斯的继承人,在被问及对此法案的看法时也尽量走中间路线。

“我们必须管理人工智能带来的风险,而要做到这一点,政府需要了解这一行业正在做什么——就像我们跟踪自动驾驶汽车以确保其安全运行一样,”他在一份声明中表示。

“然而,我们必须以确保加州对这些企业保持竞争力和吸引力的方式来实现这一点。”

卢里表示,州政府必须“避免削弱投资和就业的监管机制,这个新兴行业涌现出来的机会将为我们这个挣扎中的城市带来。”

另一位市议员候选人阿赫沙·萨法伊(Ahsha Safaí)的发言人未就SB 1047号法案的情况进行回应。