Elon Musk社交媒體平臺X起訴加州一項針對人工智慧生成的欺騙性選舉內容的新法律，稱該法律違反第一修正案言論自由保護。
這項加州法律被稱為Defending Democracy From Deepfake Deception Act of 2024，要求社交媒體公司從加州選舉前120天開始遮罩和刪除與選舉和候選人有關的「實質性欺騙性」內容，如果內容涉及選舉官員，則從選舉後60天開始。
該法律還要求線上平臺將所謂深度偽造（deepfake）內容標記為不真實，並為加州居民舉報不合規內容制定程式。
州長Gavin Newsom9月簽署Assembly Bill 2655成為法律，這是今年他簽署的三項旨在打擊人工智慧選舉深度偽造法案之一。然而，這些新法律立即遭遇法律挑戰。
X週四在Sacramento聯邦法院提起的訴訟稱，該法律將導致對政治言論的廣泛審查。
Bloomberg News最先報導的訴狀稱：「第一修正案對批評政府官員和公職候選人的言論提供最有力保護，包括容忍在此類批評背景下可能發表的虛假言論。這一保護歷史悠久。」
就在幾週前，一名聯邦法官發佈了針對相關措施AB 2839的初步禁令。AB 2839允許任何人就選舉深度造假提起損害賠償訴訟。聯邦地區法官John A. Mendez表示，雖然人工智慧和深度偽造構成重大風險，但該法律可能違反第一修正案。
Newsom辦公室表示，針對人工智慧生成的選舉內容的法律並不禁止諷刺和模仿，但要求披露人工智慧的使用情況。
Axios一份報告顯示，全國超過一半的州已通過或正考慮打擊人工智慧生成的選舉通信的法案。
