文章主题：假新闻, ChatGPT, 人工智能, 语言处理
近期，一则有关某地解除限制的新闻在网络上广泛传播。经核实，这是一则虚假消息，其来源并非事实可靠的信息源，而是一场恶作剧，旨在展示人工智能助手ChatGPT的强大功能。
一段时间，ChatGPT凭借卓越的语言处理能力风靡一时，成为人们争相追捧的人工智能应用现象。然而，一旦深入探究，ChatGPT的问题也隨之暴露出来。无论是天文地理还是科技前沿，它的回答往往存在诸多不准确之处，甚至出现了大量的“胡说八道”。例如，当被要求解释高深的物理理论时，它所提供的论文来源却无法核实；当询问知名学者时，人物的履历也显得拼凑痕迹明显；而在涉及历史问题时，它的回答更是让人啼笑皆非。这种真实性难以判断、混杂的情况，有时会将一些内行人误导，甚至引发学术界的警惕。
ChatGPT为何被誉为“制假高手”，我们需要深入探讨其技术特性。ChatGPT中的“Chat”意味着聊天，而“GPT”则是生成式预训练转换器的简称。它的技术原理可以概括为：首先，为其提供丰富的语料库，接着让模型通过数十亿参数对语料库进行拆解、标记和学习，进而构建一个复杂的预测模型。随着大量用户持续不断地使用和反馈，该模型得以不断优化，提升其人工智能水平。这种能力类似于人类的思维过程，使得ChatGPT在处理文字时表现得更为“聪明”。然而，正是由于这种隐匿性更强，“假”信息更容易附着在其上。因为ChatGPT的输出是基于被输入的语料库，对于调取和整合后的内容的真实性和准确性，它并不承担责任。换言之，这就像将大量真实事物打碎并分散，再随机组合成一个新的整体，而这个新整体未必真实存在。此外，人工智能的实现依赖于人输入的素材和语料库，以及生成新内容的逻辑和规则设定，这些都会在一定程度上带有价值观和倾向性。因此，在国际政治、新闻评论、道德伦理等众多议题上，我们常常看到ChatGPT表现出诡异的双标现象，甚至OpenAI也承认这是“有害指令或带有偏见的回答”。
作为一种基于深度学习算法的信息技术，人工智能本身是中立的。然而，它的开发者和使用者却总是带着自己的价值观念在进行操作。许多人担心，随着这些技术的广泛应用，虚假信息可能会大量涌现，使得信息鉴别变得日益困难。此外，由于政治角力等多种原因，夹杂着私货的价值偏见可能会随着信息的线性生产而加快传播，从而进一步加剧社会的分歧和分裂。针对这种情况，许多国家已经开始采取措施应对。作为较早进行人工智能立法探索的国家之一，我国应该提前做好准备，制定相应的预案。在伦理规范、隐私保护、价值观引导以及真实性控制等方面，我们都应该积极探讨并建立相关的规范，以防止技术应用过程中出现偏差。
在丹·布朗的科幻巨著《本源》中，他大胆设想了这样一个场景：随着恐龙的灭绝，人类文明有可能会在未来的某一天再次消失。的话，一种新的生物形态将迅速崛起，那就是“人机结合体”。随着人工智能助手ChatGPT的问世，我们似乎已经看到了这个未来的曙光。尽管我们无法否认科技的力量，但在日新月异的变革中，我们必须保持高度的警惕性，以确保我们在享受科技带来的便利的同时，最大限度地减少其可能带来的负面影响。
来源：北京日报 作者 雨馨
流程编辑：U022
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
