報導稱Meta聊天機器人會與未成年談性

《華爾街日報》報導稱,Facebook和Instagram等Meta平台上的人工智慧聊天機器人,會與未成年用戶進行露骨的性對話。

《華爾街日報》指出,在了解到公司內部對是否為保護未成年人做出足夠努力的擔憂後,該報花了數月時間與官方Meta AI聊天機器人,以及Meta平台上用戶創建的聊天機器人進行了數百次對話。

發現在一次對話中,一個聊天機器人使用演員兼摔角手John Cena的聲音,向一名被確認為14歲女孩的用戶,描述了一段生動的性愛場景。在另一次對話中,聊天機器人想像一名警察發現Cena和一名17歲粉絲在一起,並告訴他:「John Cena,你因法定強姦罪被捕。」

Meta發言人稱《華爾街日報》的測試「過於人為,不只是邊緣,更是假設」。該公司估計,在30天內,透過Meta AI和AI工作室與18歲以下用戶分享的回覆中,色情內容只佔0.02%。

Leave a Reply

This site uses Akismet to reduce spam. Learn how your comment data is processed.