文章主题：央视新闻, 美国律师, ChatGPT, 哥伦比亚航空公司
ChatGPT，还可以信任吗？
最近，一位美国的律师在一场诉讼案件中为原告提供帮助，但在引用 ChatGPT 收集的六个案例时被法官发现这些信息都是虚构的。尽管该律师意识到并未对信息进行核实，并因此表示道歉，但他仍可能面临相应的处罚。这一事件再次提醒我们，对于信息的获取和应用，我们需要谨慎对待，尤其是涉及到法律诉讼等严肃场合。
让 ChatGPT 协助办案 美国 30 年资深律师被坑
据新华社引述自美国有线电视新闻网的消息，罗伯托·马塔男士于2019年乘坐哥伦比亚航空公司的航班，前往纽约市的途中，因机组人员的疏忽造成膝盖受伤。
马塔的代理律师是已有 30 多年从业经历的纽约市律师史蒂文 · 施瓦茨。为支持马塔诉求，施瓦茨向法官凯文 · 卡斯特尔提交了多个所谓类似案例及其判决结果。
在今年四月份，哥伦比亚航空公司的律师向法庭提交了一封针对施瓦茨提交的案例信息的信任状。据美国《纽约时报》的报道，这些律师精通航空法律，他们暗示这些信息并不真实。巴alt·巴尼诺是该律所的一名律师，他表明他们当时隐约感觉到这些信息可能源自ChatGPT。
法官卡斯特尔本月 4 日在一份书面文件中写道，那 6 个案例的判决结果、引语等都是假的，” 法庭从未遇到过这种情况 “。他下令 6 月 8 日就处罚施瓦茨举行听证会。
施瓦茨承认那 6 个案例为 ChatGPT 提供。法庭文件显示，他看到这些案例信息后追问 ChatGPT 信息是否属实，机器人称 ” 千真万确 “，还给出了所谓的信息出处。
施瓦茨说，他这是第一次用 ChatGPT 协助办案，” 没有意识到内容伪造的可能性 “。
在书面文件中，他表达了深深的懊悔之意，并愿意承担相应的责任。他还承诺，在未来的日子里，如果没有完全核实所提供的信息，他不会使用聊天机器人提供的任何信息。
研究发现 ChatGPT 并非可靠信源
值得一提的是，今年 3 月 14 日，OpenAI 宣布正式发布为 ChatGPT 提供支持的更强大的下一代技术 GPT-4，称其拥有图像识别功能，高级推理技能，以及处理 25000 个单词的能力，在某些测试中的表现 ” 可与人类相媲美 “，并在大学入学和法律及医学等专业领域的许多模拟考试中优于其前身 GPT-3.5。例如，GPT-4 通过了律师资格模拟考试，分数超过 90% 的人类考生，而 GPT-3.5 此前的分数则低于 90% 的人类考生。
不过，目前最新的研究发现 ChatGPT 并非可靠信源。
据科技日报 5 月 18 日的一篇报道，加拿大科学家在 16 日出版的《放射学》杂志上刊登新论文称，最新版本的 ChatGPT 通过了美国放射学委员会的考试，突出了大型语言模型的潜力，但它也给出了一些错误答案，表明人们仍需对其提供的答案进行核查。
图片来源：物理学家组织网ChatGPT是一种人工智能聊天机器人，其运作原理是基于深度学习模型，在大量的训练数据中发现词汇间的模式及关联性，据此生成类似于人类的反應。如今，这种聊天机器人已被谷歌、必应等知名搜索引擎纳入，成为医生与患者查询医疗信息的重要工具。然而，由于所依赖的数据来源可能并非完全真实可信，因此该工具有时可能会提供与事实不相符的答案。
为深入评价ChatGPT在美国放射学委员会考试中的性能及其实用性与局限性，多伦多大学的拉杰什·哈瓦那博士及其团队首先对其进行了基于GPT-3.5的考试测试。本次测试共涵盖了150道题目，其风格、内容和难度均与加拿大皇家学院以及美国放射学委员会的考试相仿。值得注意的是，这些题目并未包含任何图像，主要分为两大类别：低阶思维问题，包括知识回顾和基本理解；以及高阶思维问题，涉及应用、分析、综合等能力。其中，高阶思维问题又可以进一步细化为影像学表现描述、临床管理、计算和分类、疾病关联等方面。
研究人员发现，基于 GPT-3.5 的 ChatGPT 的正确率为 69%，接近 70% 的及格线。该模型在低阶思维问题上表现相对较好，正确率为 84%，但回答高级思维问题时表现不佳，正确率仅为 60%。而性能更优异的 GPT-4 的正确率为 81%，且在高阶思维问题上的正确率为 81%，远好于 GPT-3.5。但 GPT-4 在低阶思维问题上的正确率仅为 80%，答错了 12 道题—— GPT-3.5 全部答对了这些题目，这引发了研究团队对 GPT-4 收集信息的可靠性的担忧。
这两项研究都表明，ChatGPT 会有提供不正确答案的倾向，如果仅仅依靠它获取信息，非常危险，因为人们可能意识不到其给出的答案是不准确的，这是它目前面临的最大的问题。当前，ChatGPT 最适合用来激发想法，帮助撰写数据摘要，而用于快速信息检索，需要对其提供的事实性答案予以核查。
编辑|程鹏 盖源源
校对 |陈柯名
封面图片来源：视觉中国
每日经济新闻综合自央视新闻、新华社、科技日报
每日经济新闻
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
