基于人工智能的聊天机器人迅速流行，它可以将虚构的事实呈现为事实，从而导致用户得出错误的结论。此功能开了一个残酷的玩笑与 Levidow, Levidow & Oberman 律师事务所的律师 Steven Schwartz 合作，后者在其客户 Roberto Mata 的案件中使用了 ChatGPT AI 聊天机器人。
公司 (Avianca) 提起 日本手机号码数据库
诉讼，指控其在 2019 年的一次飞行中与服务车相撞造成伤害，指控一名员工的疏忽。 Stephen Schwartz 是 Levidow, Levidow & Oberman 律师事务所的律师，拥有纽约律师执业资格三十多年，他使用 ChatGPT 收集了之前类似试验的数据，这些数据对他的委托人有利。
事实证明，ChatGPT 向他提供了虚构的事实，这就是为什么该律师现在面临吊销执照的原因。 4月底，Avianca的Condon & Forsyth律师致函纽约南区联邦地方法院法官Kevin Castel，质疑律师所援引案件的真实性。
法官在审查后在裁决中指出，施瓦茨作为先例提出的至少六个案例“似乎是虚构的司法判决，具有虚构的引文和虚构的内部参考来源”。
施瓦茨在 4 月 25 日的宣誓证词中表示，在此案发生之前，他从未使用 ChatGPT 作为法律信息来源，因此“不知道其内容可能是虚假的”。他补充说，他“非常遗憾使用生成人工智能来补充这里进行的法律研究，并且在没有绝对验证其真实性的情况下，将来永远不会这样做。”