今年春天，一名青少年利用ChatGPT做自殺諮詢，之後真的自殺身亡。
其雙親便控告OpenAI與領導人，如今該公司痛定思痛，對其這款廣受歡迎的聊天機器人進行改善。
OpenAI於八月底在一篇部落格文章中表示，將更新ChatGPT，以便更好地識別和應對人們表達精神痛苦的不同方式，例如解釋睡眠不足的危害，並建議用戶在連續兩晚不眠後感到無力時休息。該公司還表示，將加強有關自殺對話的保障措施，並表示在長時間對話後可能會自動關閉。
此外，OpenAI計劃推出管控措施，讓家長可以管控孩子如何使用ChatGPT，並查看有關此類使用的詳細資訊。
在這篇文章發布的同一天，加州16歲高中生Adam Raine的父母提告了OpenAI 及其執行長Sam Altman。告訴聲稱，ChatGPT系統性地將Raine與家人隔離，並幫助他策劃自殺。Raine於今年四月上吊身亡。
