法律文件常常又臭又長，所以讓ChatGPT之類的工具來幫忙寫，會省下律師很多工作，不過應該很少有人這麼做，但就是有一位已如此做了，結果承審法官Brantley Starr發現，已下令絕不可再犯。

這位德州聯邦法官已在法庭上增加一項要求，凡是在其法庭出庭的律師都必須證明「任何提交到他法庭的文件，不可有任何一部分是由生成式人工智慧所草擬」，或者如果有，也必須由「人類」來親自檢查。

五月下旬，律師Steven Schwartz讓ChatGPT在其最近一件聯邦法庭文件提交時，「補充」了他的法律研究，提供他六個案子和相關的先例，而這些都是由語言模型給弄出來的。但事情爆發後，他說「感到非常後悔」如此做，深怕全國的律師會仿效，但Starr法官已經先對此作為打了預防針。