技术博客

据路透社报道，美国律师事务所Morgan & Morgan已向其超过1000名律师发出紧急通知，提醒他们人工智能技术可能产生虚假的法律判例信息。该通知强调，在法庭文件中引用这些虚构内容可能导致律师面临解雇风险。这一警告突显了在法律领域使用AI工具时需谨慎对待信息的真实性与准确性。

斯坦福大学社会媒体实验室的创始人、错误信息专家杰夫·汉考克（Jeff Hancock）在准备一份法庭文件时，利用了人工智能工具ChatGPT来辅助整理引用文献。然而，这一过程中出现了所谓的“幻觉”现象，即生成的内容中包含了一些错误信息。尽管汉考克认为这些错误并未影响文件的核心内容，但批评者对此表示担忧，认为这些错误已经对文件的可信度造成了严重影响。