加州正朝著更嚴格的人工智慧保障措施邁進。州長Gavin Newsom下令對先進人工智慧模型設置緊急「kill-switch」（終止開關）進行研究。
Newsom週五宣佈簽署一項行政令，指示州府官員加快實施兩項新人工智能監督法並召集專家小組研究進一步的保護措施。
正審查的想法之一是要求那些開發強大「前沿」人工智慧模型的公司建立一個緊急關閉機制以便在出現嚴重安全問題時關閉模型。專家小組還將研究是否應在人工智慧實驗室內設置獨立監督員進行定期審計。
命令沒有立即要求人工智慧公司安裝終止開關。
州府官員和外部專家必須在11月16日前就加州法律的可能修改提出建議。
Newsom在一份聲明中表示：「我們不會坐等採取行動，我們將加快對人工智慧進行實質性和負責任的監督，以免為時已晚。」
終止開關的想法此前出現在Newsom 兩年前否決的一個立法中。2024年，他否決SB 1047，該法案要求某些強大人工智慧模型的開發商保持迅速實施全面關閉的能力。
此後，加州又頒佈了幾項人工智慧法律。
Newsom上週簽署了SB 813和AB 1405。SB 813為獨立組織評估人工智慧系統的安全風險創建一個框架，AB 1405則為人工智能審計員建立加州登記冊和標準。Newsom週五命令旨在加快這兩項法律的實施。
官員還將考慮要求對人工智慧公司的安全框架和風險報告進行獨立驗證，同時擴大公司必須向加州報告的關鍵安全事件的種類。
Newsom還在推動加強聯邦人工智慧監管。Newsom認為加州的規定可以作為國家標準的基準。
