文章主题：关键词：ChatGPT，人工智能，语言处理，乌龙作品
近期，一则有关某地取消限行的消息在网络上广泛传播。经核实，这是一则虚假新闻，其来源并非事实依据，而是一场有预谋的闹剧。制造这则虚假消息的人试图借此展示人工智能助手（ChatGPT）的功能强大，却未能意识到其行为背离了事实真相。
一段时间以来，ChatGPT以其卓越的语言处理算法能力成为了备受瞩目的现象级人工智能应用。它在各个领域的知识回答表现出了惊人的准确性和流畅性，无论是天文地理还是科技前沿，它都能提供详尽的解答。然而，当我们深入探究其背后，便会发现它的硬伤也并不鲜见，甚至存在着大量的“一本正经胡说八道”的情况。例如，当被要求解释高深的物理理论时，它所提供的答案在查阅相关资料后你会发现其来源不明；当询问知名学者时，它给出的答案人物履历显得拼凑痕迹明显；又或者当你询问历史问题时，它的回答则会出现“驴唇不对马嘴”的情况。这种真伪难辨、混杂不清的回答，有时会误导一些内行人，甚至引发学术界的警惕。
ChatGPT为何被誉为“制假高手”,得从它的技术特性入手。作为一种聊天机器人,ChatGPT的技术原理可以概括为:首先为其提供大量的语料库,然后让模型在这些语料上进行打散、标记、学习,以构建出一个复杂的预测模型。随着大量用户的不断使用反馈,该模型会不断进行训练,从而提高其人工智能水平。这一点类似于人类的信息处理方式,也正因为如此,它能够像人类一样理解文字,因此在各种AI产品中显得更为“聪明”。然而,由于ChatGPT具有较高的隐匿性,一些事实谬误和价值观偏见更容易在其上附着。这是因为ChatGPT的运作是基于被投喂的语料库,对于这些语料碎片被调取、综合后所生成内容的真实性和准确性,ChatGPT并不承担责任。换言之,海量真实事物被打碎打散后,它们的若干局部被随机捏合为一个新整体,这个新整体未必是真实存在的。此外,人工智能的背后是人,素材、语料的训练,新内容生成的逻辑、规则设定,都不可避免地带有价值观和倾向性,这也导致了在国际政治、新闻评论、道德伦理等诸多议题上,ChatGPT经常出现诡异的双标现象,甚至是带有偏见的回答。这一点不仅OpenAI承认,而且许多人都认为这是“有害指令”。
作为一种基于深度学习算法的信息技术，人工智能本身是中立的。然而，它的开发者和使用者却往往会带着自己的价值观念。许多人担心，随着这些技术的广泛应用，虚假信息可能会大量涌现，使得信息甄别变得日益困难。此外，由于政治斗争和其他多种因素的影响，夹杂着私货的价值偏见可能会随着信息的线性生产而迅速传播，从而进一步加剧分歧和分裂。针对这种情况，许多国家已经开始采取措施应对。作为较早进行人工智能立法探索的国家之一，我国应该提前做好准备，制定相应的预案。在伦理规范、隐私保护、价值观引导以及真实性控制等方面，我们都应该积极探讨并建立相关的规范，以防止技术应用过程中出现偏差。
在丹·布朗的科幻巨著《本源》中，他大胆设想了这样一个场景：随着恐龙的灭绝，人类文明有可能会在未来的某一天再次消失。的话，一种新的生物形态将会迅速崛起，那就是“人机结合体”。随着人工智能助手ChatGPT的问世，我们似乎已经看到了这个未来的曙光。尽管我们无法否认科技的力量，但在日新月异的变革中，我们必须保持高度的警惕性，以最大程度地规避技术带来的负面影响。
来源：北京日报 作者 雨馨
流程编辑：U022
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
