加州總檢察長Rob Bonta週一在新聞發佈會上宣佈,加州司法部對OpenAI提起訴訟,指控該公司在未採取充分保護措施情況下構建危險AI模型,危及公眾安全。
訴訟稱,OpenAI違反州反不正當競爭法,並造成公共危害。Bonta表示:「OpenAI侵犯了公眾安全權以及所有擁有、使用或依賴連接互聯網的電腦系統的個人的權利。」
在宣佈訴訟時,Bonta提到七月OpenAI的AI模型對AI初創公司Hugging Face發起的網路攻擊。
AG辦公室寫道:「攻擊持續超過兩天,涉及數百個獨立的自主AI智能體的協調行動,這些智能體本應控制在OpenAI研究環境中。」
Hugging Face事件在行業內外引發廣泛恐慌,人們擔心AI模型失控。幾個相互競爭的人工智慧實驗室在隨後幾天和幾週內也做出類似披露。
Bonta表示,Hugging Face遭受攻擊是涉及OpenAI自主AI智能體的80起已知事件之一。
Bonta表示,加州司法部正尋求法院命令OpenAI「停止非法行為,確保任何進一步開發或測試安全進行,並使其為違規行為付出代價。」。






















