加州名為SB 1047的新法草案，正試圖在人工智慧系統造成現實世界災難發生前阻止它們，本該是大家都會同意的案子，卻受到矽谷界的大反彈。
反彈聲音來自各大小AI公司，也包括創投家、大型科技貿易團體、研究人員和新創公司創辦人。目前，許多人工智慧法案正在全國氾濫，但這項《加州的前端人工智慧模型法》卻成為最具爭議的法案之一。
SB 1047試圖防止大型人工智慧模型，被用來對人類造成「嚴重傷害」。草案舉出「嚴重傷害」的例子，如一位壞分子使用人工智慧模型，製造出一種可導致大規模人員傷亡的武器；或者指示某人策劃一場網路攻擊，可造成超過五億元的損失（拿個案例比較，CrowdStrike的全球大當機，所造成的損失一下子就超過五十億元）。該法案要求開發者（即開發模型的公司），要負起實施足夠安全協議，以防止此類結果出現的責任。
