AI技術最容易被濫用的地方就是在色情，有五家AI公司因涉嫌允許網路使用者在未經同意的情況下，「裸化」任何人的照片而被起訴，其中一家已同意和解，但至少有一家也在起訴書中被點名的網站營運商，則堅持為創新和創作自由而戰。
San Francisco市檢察官辦公室根據加州法律代表州政府，因為加州法律授權市檢察官處理某些類型的案件，於去年八月起訴了五家公司和一家網站所有者。 今年三月，該辦公室撤銷了一家公司的起訴，但增加了另一家公司和另外四家網站所有者的起訴。
起訴指控這些公司及網站所有者利用開源人工智慧軟體，允許用戶修改女性和女孩的真實照片，使其裸露，包括她們的「私密身體部位」。起訴書稱：「僅去年一年，這些網站的總訪問量就達數億次。」
