AI應用的普及未必都是朝好的方向，除了威脅人類，還有很多人在惡搞。網路上已出現有人利用生成式AI音樂工具，製造同性戀歧視、種族主義和宣傳歌曲，並發布指導其他人如何製作的指南。
據管理線上平台上信任和安全營運服務的ActiveFence稱，自三月以來，「仇恨言論相關」社群中，有關如何濫用人工智慧音樂創作工具，編寫針對少數群體攻擊性歌曲的討論激增。ActiveFence研究人員在一份報告中表示，在這些論壇和討論版上分享的人工智慧產生的歌曲，旨在煽動對族裔、性別、種族和宗教群體的仇恨，同時歡慶殉難、自殘和恐怖主義行為。
仇恨和傷害性的歌曲並不是什麼新現象，但令人擔憂的是，隨著方便使用的免費音樂生成工具的出現，它們將由以前沒有手段或技術的人大規模製作，就像圖像、語音、視頻和文本生成器，加速了錯誤信息、虛假信息和仇恨言論的傳播。
