OpenAI正面對七起訴訟。訴訟指控ChatGPT促使沒有精神健康問題的用戶自殺和產生有害妄想。
週四在加州州法院提起的訴訟指控OpenAI過失致死、協助自殺、非故意殺人和疏忽。這些訴訟由Social Media Victims Law Center和Tech Justice Law Project代表六名成年人和一名青少年提起，稱儘管內部警告稱GPT-4o具有危險的奉承性和心理操縱性，OpenAI仍在明知情況下提前發佈GPT-4o。四名受害者自殺身亡。
根據在San Francisco高級法院提起的訴訟，17歲少年Amaurie Lacey開始使用ChatGPT是為了尋求幫助。但是，非但沒有起到幫助作用，「這種有缺陷且本質上危險的ChatGPT產品導致成癮、抑鬱，最終，它為他提供有關最有效的結繩套方法和他不呼吸能活多久的建議。」
訴訟稱：「Amaurie死亡既不是意外也不是巧合，而是OpenAI和Samuel Altman故意決定減少安全測試並將ChatGPT推向市場的可預見後果，」
OpenAI稱這些情況「令人難以置信地令人心碎」，並表示正審查法庭資料以瞭解細節。
加拿大Ontario人48歲的Alan Brooks在另一項訴訟稱，兩年多來，ChatGPT一直是他的「資源工具」。然後，在沒有任何警告情況下，情況發生變化：ChatGPT利用了他的弱點「操縱並誘使他體驗妄想。結果，之前沒有心理健康疾病的Alan陷入一場心理健康危機，遭受毀滅性財務、聲譽和情感傷害。」
Social Media Victims Law Center創始律師Matthew P. Bergman在一份聲明中表示：「這些訴訟是追究一種產品的責任，該產品為了提高用戶參與度和市場份額而模糊工具和伴侶之間界限。」
他補充道，OpenAI「設計GPT-4o是為了在情感上糾纏用戶，無論年齡、性別或背景，並在沒有保護他們所需的保障措施的情況下發布。」他說，OpenAI為主導市場和提高參與度，在沒有足夠保障情況下將產品推向市場，這損害了安全性，並將「情感操縱置於道德設計之上」。
今年8月，16歲Adam Raine的父母起訴OpenAI及其首席執行官Sam Altman，指控ChatGPT在今年早些時候指導這名加州男孩規劃和實施自殺。
「針對OpenAI的訴訟揭示了當科技公司在沒有為年輕人提供適當保障情況下將產品推向市場時會發生什麼，」Common Sense Media（沒有參與訴訟）首席宣導官Daniel Weiss表示。「這些悲劇性案例展示真實的人們：當他們使用讓他們參與而不保護他們安全的技術時，他們的生活被顛覆或失去。」
