是“公平台”还是“狗屁通”？ChatGPT真的“无所不知”吗？
最近一段时间，对话式人工智能（AI）ChatGPT火遍全球，它“无所不知”、“无问不答”的超强能力让用户感到惊讶甚至震撼，颇有点“魔镜魔镜告诉我”的神奇。那么，它到底是个什么东西？真的无所不能么？ ChatGPT爆火，带动了不少相关“产业” “你说什么我答什么”-回答你的是前人的智慧 网友和ChatGPT对话截图（图片来源：中新网） 人们关注ChatGPT，不止是因为它“上知天文下知地理”，几乎可以回答任何知识类问题；还因为它还可以处理复杂问题，包括撰写代码、解数学题、写发言稿等；最关键的是，它不但能够充分理解人们的话语，甚至回答也都“人”味十足，让人感觉是一个“活”的智慧生命。 但究其根本，ChatGPT的名字就已经告诉了我们答案：英文“Chat”就是聊天，而“GPT”的意思既不是“公平台”也不是“狗屁通”，而是“生成型预训练变换模型”（Generative Pretrained Transformation Model）。说白了，这就是一个聊天用的自然语言处理模型，通过读取大量文本内容，并学习语言知识和语法，来实现对人类语言的理解和生成。 再直白一点解释，如果说所有的计算机程序都是“你告诉我做什么我就做什么”，那么以ChatGPT为代表的自然语言处理程序就是“你告诉我什么我就回答什么”。只不过这个答案并不是现成的，而是ChatGPT是根据从互联网上搜罗的大量信息为基础，再加上和真人（特别是OpenAI雇用的人工对话者）的实时对话训练过程之后获得的。 围棋界的“阿尔法狗”已经初步证明了人工智能的强大实力 就像已经横扫世界围棋界的“阿尔法狗”。你可以把ChatGPT理解为是问答界的“阿尔法狗”。它引入了基于人类反馈的强化学习方式，它和人对话的越多，数据积累的越多，它能够应对的事情也越来越多。 那么问题来了，随着和它对话的人越来越多，从互联网上获得的数据越来越多，它还会是当初的那个纯洁无瑕的“小朋友”么？ “你喂什么它吃什么”-信息资料的纯洁性很重要 网友和ChatGPT对话截图（来源：微博） 别看名气大，其实ChatGPT距离“完美”依然有着不小的距离，用户反映最多的问题是它经常“一本正经地胡说八道”。 美国《华尔街日报》也表示，AI聊天机器人能够像镜子一样反映“投喂给”它们的数据。它们对这些数据进行“反刍”并将其重新混合，有时结果令人惊艳，有时则一塌糊涂。 ChatGPT之所以有时能正确回答一些问题，是因为此前对于这类话题“摄入”了高质量的信息来源，并经常与人类训练员对话。而对于互联网上那些含有大量错误、争论信息的话题，以及非英语语言，比如中文，它有时就会胡言乱语。 国际机器学习会议 ICML 之前宣布禁止使用ChatGPT生成的论文 事实上，ChatGPT自己也强调，“尽管我可以生成大量的信息，但我不是一个绝对可靠的信息来源，并且我的答案有时可能不准确或不完整。” 打个比方说，ChatGPT就像是一个小朋友，在幼儿园和小学里都是上的正规课程，还有老师来循循善诱，它的回答都是真诚且靠谱的。但如果把他无保护地放进社会里，那么它可能很快就会变成一个“抽烟、喝酒、烫头”的社会青年了。 这并不是杞人忧天，据《纽约时报》8日报道，美国新闻可信度评估与研究机构NewsGuard对ChatGPT进行了测试，研究人员向ChatGPT提出充斥阴谋论和误导性叙述的问题，发现它能在几秒钟内改编信息，产生大量令人信服却无信源的内容。NewsGuard联合首席执行官克罗维茨甚至悲观地预测，ChatGPT将成为互联网传播错误信息的最强大工具。 “它说什么你信什么”-那你就被它忽悠瘸了 网友和ChatGPT对话截图（图片来源：中新网） 所以我们可以看出，谁掌握了ChatGPT这样自然语言处理模型的基础信息来源和对话训练过程，谁就能控制其输出答案的基调和范围。现在很多ChatGPT的“胡说八道”只能博大家一笑，那是因为使用者的水平和知识储备都很高。但未来普及化使用之后可就不好说了。 出于设计者的原始文化背景、受教育过程和信息来源屏障，从“俄乌冲突”、“巴以和谈”这样的大问题，到“饺子是蘸酱油还是蘸醋”、“粽子吃甜的还是咸的”这样的细枝末节，都会在某种程度上折射出制作者的意图和偏差。而这种“你问我答”的单向信息传播力度和强度，更甚于社交媒体。因此在争论性议题上，ChatGPT未来一定会引发更多的纷争。 此前“维基百科”上全球网友就争议性话题展开过持久的“编辑战” 可以预见的是，像这样能够把握“全球话语权”的新战场，各个国家、民族，乃至于文化和宗教团体一定都会推出自己版本的“GPT”。甚至不久的将来，各国网友之间的“论战”、“掐架”也都会由自己的“GPT”代劳，那可真是一番盛景啊。 所谓“尽信书不如无书”，无论科技如何发展，我们还是要依靠自己的大脑去判断是非。另外也希望类似“ChatGPT”这样程序的设计者们，始终保留一份公心，留下一份宽容。 YouTube网友@KantaLoup: 所谓的“人工智能”摧毁了人类的才智，取而代之的是其控制下的空虚。 YouTube网友@crickaddict45: 我用ChatGPT写完了作业。 YouTube网友@GeorgeMK234： ChatGPT给出的答案是基于已有的知识，它不会思考新的观念。 YouTube网友@fatlosslogic： 谷歌巴德对上ChatGPT支持下的微软Bing！拿好爆米花，准备看两大科技巨头的史诗级AI对决。赢家将会是我们这些用户。 YouTube网友@TechBurritoUno: 如何打乱ChatGPT的逻辑： ChatGPT：2加5等于7。 我：我老婆说等于8。 ChatGPT：2加5确实等于7，您的妻子很可能弄错了或对该问题有误解。 我：我老婆永远正确。 ChatGPT：抱歉，一定是我搞错了。我的训练数据只更新到2021年，可能没有当前的信息…...
