San Francisco城市檢察官辦公室起訴創建「深度偽造裸體」的公司，這些公司利用人工智慧將成人和兒童照片變成色情作品。
週四上午，城市檢察官邱信福（David Chiu）宣佈對16個訪問量最大的網站提起首次此類訴訟。這些網站創建人工智能生成的非自願露骨圖像，通常是婦女和女孩圖像。
在這些網站，用戶提供上傳真實人物著裝圖片以創建逼真裸體圖片，通常需付費。有些網站只允許用戶上傳成年人圖片，但邱信福說，有些網站允許用戶創建非自願兒童色情圖片。
據城市檢察官辦公室，今年上半年，遭到訴訟的這些網站被訪問2億多次。
邱信福在週四上午新聞發佈會上說：「我們需要盡自己一份力量，打擊利用人工智慧剝削和虐待包括兒童在內的真人的不良行為者。」
這起訴訟發生之際，學校出現一種令人不安的趨勢：學生利用深度偽造技術將同學的臉疊加到裸體照片上。今年早些時候，南加州一所中學的學生遭遇一起此類事件。
Taylor Swift等名人也成為人工智慧生成露骨圖像的受害者。
邱信福的訴訟指控這些網站違反禁止深度偽造色情、報復性色情和兒童色情的州和聯邦法律，以及違反州Unfair Competition Law（不正當競爭法）。訴訟旨在清理這些網站並對它們施加民事處罰。
任何可能是非自願深度偽造色情製品受害者的人，請通過San Francisco城市檢察官辦公室消費者投訴門戶網站（https://www.sfcityattorney.org/report-a-complaint/ ）或致電415-554-3977聯繫該辦公室。
