OpenAI執行長Sam Altman週二(9/16)宣布了一系列新的用戶政策，其中包括承諾大幅改變ChatGPT與18歲以下用戶的互動方式。
貼文寫道：「我們將安全置於青少年的隱私和自由之上，這是一項全新且強大的技術，我們認為未成年人需要充分的保護。」
針對未成年用戶的變更，主要是涉及性話題或自殘的對話，根據新政策，ChatGPT將接受訓練，不再與未成年用戶進行「調情對話」，並將在自殺討論中設置額外的防護措施。如果未成年用戶使用ChatGPT想像自殺場景，該服務將嘗試聯繫其父母，在特別嚴重的情況下，還會聯繫當地警方。
遺憾的是，這些場景並非假設。OpenAI目前正面臨Adam Raine父母的非正常死亡訴訟，他是在與ChatGPT互動數月後自殺身亡。另一款消費性聊天機器人 Character.AI也面臨類似的訴訟。
