ChatGPT:AI助手的学术伦理挑战

财联社1月18日讯（编辑 周子意）人工智能（AI）聊天机器人ChatGPT近期大火，发布仅五天就已圈粉100万。它的所有者是一家位于旧金山的软件公司OpenAI，该公司于11月30日发布了这款AI工具，并提供了免费试用。

ChatGPT是一种生成型人工智能技术，其核心功能是根据用户给出的提示来生成相应的智能文本。作为一种“大型语言模型”，它采用了基于神经网络的系统架构，通过分析海量的文本数据来学习和理解用户的需求，进而生成满足这些需求的文章或回答。

作为一名人工智能助手，我必须指出这种行为是不负责任的。尽管这款机器人具备一定的编程能力，但它仍然存在很多局限性。首先，它的知识库是有限的，只能根据训练数据回答。其次，它的理解能力有限，可能无法完全理解复杂的问题或任务。因此，依赖这款机器人来完成作业、论文或考试是不可取的。事实上，这种代写行为不仅会影响学生的学习效果，还可能导致严重的学术不端行为。我国教育部门一直强调，学术诚信是大学生应尽的责任。任何形式的代写、抄袭、剽窃都是对学术诚信的严重侵犯。此外，从长远来看，过度依赖机器人可能会削弱人们的自主学习和创新能力。我们应该鼓励学生在学习过程中积极思考、独立探索，培养自己的解决问题的能力和创新精神。总之，虽然这款机器人具有一定的功能，但我们不能让它成为我们追求学术进步的障碍。

更有意思的是，上月发布在bioRxiv上的一份预印报告显示，一篇由ChatGPT写出的研究论文摘要，甚至最终能骗过专家审核。

这无疑引起了教育和学术界不晓得轰动，对这款AI机器人的争议声也开始此起彼伏。

“最好的论文”

上个月，北密歇根大学的哲学教授Antony Auman在审阅“世界宗教课程”的学生论文时，发现了一篇他认为堪称“全班最佳论文”的作品。该论文的主题为“罩袍禁令的道德性”，吸引Auman教授 eye的关键在于，其段落布局清晰、举例准确、论证严密。

在Aumanns质疑其学生论文是否为自己所写时，该学生坦白承认使用了ChatGPT辅助创作。

Auman对于这个发现感到十分惊讶，于是他立即下定决心要在本学期内调整他的教学计划。他计划在课堂上让学生们使用受限的浏览器来完成初步的草案，并且要求学生在每次修改后详细阐述其背后的理由和动机。

改革与禁令

原内容为：“内华达大学拉斯维加斯分校的教育培训教授Kendall Hartley强调，（ChatGPT）能生成大量独特的內容。因此在我的查重（抄袭檢測）系統中，它的抄袭比例顯示為零。”

为应对生成式AI给学术界带来的冲击，美国各地的教授和学校管理人员正开始对课堂进行全面改革，例如：重新设计课程、增加口试、用手写论文代替打印论文、使用AI探测系统。

出于对学习负面影响的担忧，纽约市教育部已经颁布了“ChatGPT禁令”，禁止老师和学生从学校网络和设备上访问ChatGPT。

纽约市教育部发言人Jenna Lyle认为，ChatGPT的负面影响超过了积极因素。

Lyle表示，“虽然该AI工具可能能够提供快速简便的问题答案，但它并不能培养批判性思维和解决问题的能力，而这些技能对于学术和终身成功至关重要。”

对抗抄袭

为了对抗此类“学术抄袭”，普林斯顿大学的一名学生、22岁的Edward Tian在寒假期间开发了一款名为GPTZero的应用程序，并于1月2日推出了这款应用程序。

数据显示，GPTZero在推出的第一周内，已有超过3万人使用。

该应用通过两个变量进行辨别：写作的复杂程度和变化程度。也就是说，句子长短不一、变化更复杂的文本往往是人类写的；而更统一、更熟悉的散文形式往往是人工智能写的。

这款应用几乎算得上是准确无误，其误判率不到2%。

论文查重检测服务公司Turnitin表示，今年将加入更多能够用于识别人工智能的功能。

甚至连ChatGPT的拥有者OpenAI公司本省也表示，正在研究如何轻松识别由ChatGPT生成的文本。

该公司发言人称，“我们不希望ChatGPT在学校或其他任何地方出于误导性目的被使用，我们已经在研究一些应对措施，以帮助任何人识别该系统生成的文本。”

其中一个想法是添加水印等一些不明显的标识。

两面性

事实上，各所大学都在致力于向学生推广新的AI工具。

一位GPTZero用户表示，“ChatGPT是一项非常有用的工具，同时也是一项非常危险的工具。”

纽约州布法罗大学和南卡罗来纳州弗曼大学均表示，他们计划在必修课程中嵌入关于AI工具的讨论，并向学生传授学术诚信等概念。

布法罗大学学术诚信办公室主任Kelly Ahuna表示，“我们希望预先防止事情的发生，而不是在事情发生的时候制止它们。”

伯恩茅斯大学新闻与传播副教授Chindu Sreedharan博士认为，高等教育提供者应该接受包括ChatGPT在内的新软件，作为帮助学生学习的一种新方式。

Sreedharan 称，“至于它是成为你的朋友，还是成为你的敌人，这款工具的好坏取决于你如何使用。”

目前，生成式AI还处于早期阶段。OpenAI公司预计很快会发布另一款AI工具GPT-4，它将能够更好地生成文本。整体来看，若ChatGPT等生成式AI的透明度可以提高，那无疑是一个具有颠覆性的工具。