资讯
ChatGPT-using lawyer punished for citing fake testimony from made-up witnesses
📋总体概括
美国新墨西哥州一名刑事辩护律师因使用ChatGPT起草法庭文件，引用了虚构证人的伪造证词而被处罚。该律师辩称自己不知道AI会「幻觉」出虚假事实，但这一辩解未能免于问责。此案再度凸显生成式AI在法律等高风险专业场景中的可靠性问题：模型会编造看似真实但根本不存在的案例、证词和引文，而将AI输出直接提交法庭、不加核实的从业者正为此付出职业代价。
⚡关键信息
- ▸新墨西哥州一名刑事辩护律师因引用AI生成的伪造证人证词而受到处罚
- ▸涉事文件由ChatGPT起草，其中包含根本不存在的证人及伪造证词
- ▸该律师声称「不知道AI会幻觉出事实」，以此为自己辩护
- ▸事件再次暴露生成式AI在高风险专业场景中的可靠性风险
- ▸直接提交未经核实的AI内容至法庭，已成为法律行业的真实职业风险
🔥犀利点评
「我不知道AI会编造事实」不是辩护，是自曝失职。律师的职业义务从来是核实每一份提交法庭的材料，工具越省事，核实义务越不能省。这不是技术事故，而是专业失守：把ChatGPT当成可信信源而非草稿工具，等于把当事人的命运交给一个会说谎的机器。这类处罚来得越早越好，法律行业该把「AI内容必须逐条验证」写进执业规范了。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 Ars Technica 阅读全文 →