今年夏天，一位擁有近五十年經歷的Palo Alto律師向Oakland的一位聯邦法官承認，他在一份重要的法庭文件中提到的法律案件實際上並不存在，似乎是人工智慧「幻覺」(hallucination)的產物。
Jack Russo律師在一份法庭文件中稱，這種明顯的人工智慧捏造對他來說是「第一次遇到」，並補充道：「我對此感到非常尷尬。」身為電腦法律專家，Russo發現自己身處一個迅速茁壯的律師群中，由於像ChatGPT這樣廣受歡迎但容易出錯的人工智慧技術，與嚴格的法律程序規定相衝突，因此他們遭到公眾羞辱。
幻覺（這是AI產生不準確或無意義資訊時的一種表現）一直是生成式AI的長久問題，自2022年底San Francisco的OpenAI發表了ChatGPT聊天機器人以來，這一問題也開始在矽谷掀起一股討論熱潮。
