人工智慧技術突飛猛進後，專家們開始擔心這技術最受歡迎的應用之一：色情。因為透過影像學習與生成，便能產生栩栩如生的非自願深度造假色情片。

深度造假是透過人工智慧或機器學習，進行視頻或圖像的數位化創造或修改。幾年前，一位Reddit用戶分享剪輯片段，把女性名人的臉孔置放在色情演員的肩上，造成網路大流傳。

從那時起，深度造假創作者就針對網路紅人、記者與其他公眾人物，散佈類似的造假視頻與圖片，如今在許多網站上已有成千上萬這類視頻。有些深度造假者則提供用戶機會，來創造屬於自己的影像，特別是允許任何人在未經同意情況下，將自己所心儀的人變成性幻想對象，或者用它來惡搞他們看不順眼的人，如今技術更加成熟，色情氾濫可能將更嚴重。