ChatGPT能否骗过科学家？AI研究摘要上演“学术大挑战”？

原文改写：🚀揭示科技新高度！生物预印本bioRxiv惊现AIChatbot杰作，一篇摘要直击学术界心脏！🔥论文摘要，不仅过目难忘，还能巧妙绕过专家评审，引发热议！🔍业内专家们震惊之余，对AI聊天机器人的智慧与潜力展开深度探讨。💡这项突破性研究引发了关于人工智能在科研中角色的全新思考，未来或许引领颠覆性的学术革命！🌐欲了解更多，敬请关注相关领域动态，让我们一起见证科技的奇迹！📝#AIChatbot #学术界震动 #科研新纪元

🌟【ChatGPT大揭秘】🚀 由硅谷巨头💡OpenAI引领创新，这款革命性的AI助手于11月30日正式亮相，为全球用户带来了无价的便利体验！🎉无需等待，现在你就能亲身体验ChatGPT的魅力——免费试用，让科技触手可及！👩‍💻👨‍💼无论教育、工作还是娱乐，它都能为你提供精准且个性化的协助。💡欲了解更多详情？悄悄告诉你，这款人工智能神器正在悄然改变世界，敬请关注未来的深度解析！🔍记得，保护隐私是首要任务，这里没有联系方式哦~ 😊#ChatGPT #OpenAI #科技革新

🌟ChatGPT🚀：超凡文字魔术师，用户智慧启迪者✨💡以卓越技能回应每个指令，生成鲜活、智能文案于指尖🌈一抹人工智能的力量，潜心学习海量文本，为任务披荆斩棘📚凭借神经网络的翅膀，翱翔在语言世界，创造未来价值无可估量📈欲体验高效沟通新纪元？ChatGPT诚邀您一试身手！🌍

上周，有消息称，美国科技巨头微软计划向OpenAI投资高达100亿美元，目前尚处于谈判阶段。

　　难以区分

🎉机器人写作引发伦理挑战🌟 自发布以来，这款人工智能创造者的作品常让人惊叹不已，但如何确保其生成的内容与人类笔下的文字无异，却一直是科研领域的热议焦点。📚围绕机器伦理的深层忧虑不断发酵，学者们正积极探索如何在技术进步与道德边界间找到平衡。👩‍💻让我们期待未来能有更清晰的指引，让机器人写作既能创新，又不失人性温度。

🌟研究人员最近进行了一个创新实验，由伊利诺伊州西北大学的团队领导者 Catherine Gao 执导，旨在评估 ChatGPT 在撰写科研论文摘要方面的潜力。他们巧妙地将 ChatGPT 作为工具，用以生成这些关键摘要，而不暴露其真实用途，旨在观察学术界能否识破这一自动化过程。这项研究不仅展示了技术的进步，也引发了关于学术诚信和人工智能在科研中的角色的深入探讨。🌟

改写后：🌟研究人员精心挑选了来自五大顶级医学期刊——《美国医学会杂志》、《新英格兰医学杂志》、《英国医学杂志》、《柳叶刀》及《自然医学》的精华论文，要求ChatGPT以专业且精准的方式，为这些重要研究撰写50篇全面且深入的摘要。每一篇摘要都将聚焦于医疗领域的前沿知识，旨在为读者提供权威且易理解的信息。🚀

随后该小组通过抄袭检测系统和人工智能输出检测器，将这些摘要与原始摘要混在一起匿名比较，要求一组医学研究人员找出由ChatGPT输出的摘要。

结果显示，ChatGPT生成的摘要顺利通过了抄袭检查：其原创性平均得分为100%，这表明没有检测到抄袭。人工智能输出检测器发现了66%的由ChatGPT生成的摘要。

而人工审阅者错误地将32%的生成摘要识别为原始摘要。

　　重大争议

Gao和他的同事在预印本报告中写道，ChatGPT确实写出了可信的科学摘要，不过使用大型语言模型来帮助科学方面的写作，其道德界限和可接受程度仍有待商榷。

英国牛津大学技术和监管领域学者Sandra Wachter不是此次研究的参与者，但是她对此表示非常担心。她补充道，“如果我们现在处于连专家都无法判断真假的情况下，那么我们就不会再看到那些能够在复杂话题中指导我们的论文摘要。”

Wachter提醒道，如果由ChatGPT生成的论文内容无法确定是否正确，那可能会有“可怕的后果”。这不光会给研究人员带来重大问题，因为他们阅读的研究是被捏造出来的；而且对整个社会也有影响，因为科学研究在社会中扮演着重要角色。

Wachter警告，更严重的或许导致基于研究的政策决定出现失误。

新泽西州普林斯顿大学的计算机科学家Arvind Narayanan认为，“任何严肃的科学家都不太可能使用ChatGPT来生成摘要。”

他补充道，“问题在于，该工具能否生成准确而令人信服的摘要。若是不能，那它的缺点是显著的。”

Narayanan还表态，此类问题的解决方案不在ChatGPT本身，而是应该集中在导致这种行为的不良动机上，例如招聘和晋升审查时只看论文的量、而不看质。

人工智能公司Hugging Face研究人员Irene Solaiman则认为，“这些AI模型是根据过去的信息进行训练的，而社会和科学的进步往往来自于与过去不同的思维，或开放思维。”

Solaiman补充说，在医学等关键领域，假信息可能危及人类的安全，所以一些期刊必须采取更严格的方法来验证信息的准确性。

该预印报告的研究小组建议，那些评估科学传播的人士应该制定政策，杜绝使用人工智能生成的文本。而要是机构选择允许在某些情况下使用该技术，他们应该就披露建立明确的规则。