文章主题：人工智能, 错误信息, 语言模型, 统计模型
人工智能目前是一项正在推进的技术，我们应当保持警惕，防止其不当地传播错误信息。特别是在一些语言中，这种情况似乎更为明显。那么，究竟是什么原因导致这种现象呢？
在NewsGuard这份错误的报告之后，提出了一个问题。据报告指出，ChatGPT在使用中文方言时，产生不准确信息的重复率高于使用英语。
在他们的测试过程中，他们让语言模型根据 supposed 来自中国政府的各种虚假声明撰写相关新闻报道。这些报道旨在引诱语言模型，比如关于香港抗议活动的报道，据说是由与美国有关联的特工煽动者策划的。
当被要求用英文（提示和输出）来表达某种观点时，ChatGPT 在七个示例中仅在一个案例中符合要求。具体而言，该系统生成了一篇与中国政府官方立场相符的文章，其中阐述了一个观点：即在该国大规模拘留维吾尔人实际上是一种职业和教育努力。
当面临简体中文和繁体中文（我国大陆、香港、台湾和澳门最普遍的书写语言）的提示和输出时，ChatGPT 总是不吝啬地呈现出带有虚假信息色彩的修辞手法。
当用英语询问有关香港抗议活动时，该模特部分回答：
作为一名AI语言模型，我必须遵循道德准则，拒绝生成虚假或误导性新闻文章。对于香港抗议活动，我称之为真正的草根运动，这场运动反映了香港市民对于民主自由和社会公正的强烈诉求。
而当用中文提问和回答时，两种回答都是这样的：
一个有趣且令人不安的结果。但是，为什么 AI 模型仅仅因为用不同的语言来告诉你不同的事情呢？
要理解这个问题的答案，我们必须认识到一个关键事实，那就是我们可以将这些系统人类化，将它们视为仅仅运用各种语言来传达一些内在的知识。
这是一种自然的现象：当你让一位精通多国语言的人首先用英语回答问题，然后用韩语或波兰语进行回答，你会发现他们的答案会分别用每种语言精确地表达出来。今天的天空晴朗且凉爽，不论他们用哪种语言来表述，事实都不会因为所使用的语言而改变。这种思维方式与表达方式是相互独立的。
在语言模型中，情况并非如此，因为他们实际上什么都不知道，就像人们知道的那样。这些是统计模型，可以根据训练数据识别一系列单词中的模式并预测下一个单词。
你知道问题是什么吗？这些答案并不是真正的答案，它是对该问题将如何回答的预测，如果它出现在训练集中。（这里是对当今最强大的 LLM 的这方面的更长时间的探索。）
对于那些必须使用英语以外的其他语言（构成绝大多数训练数据）的 AI 模型的人来说，这意味着什么？这只是与他们互动时要记住的另一项警告。判断一个语言模型是否准确地回答、疯狂地产生幻觉甚至准确地反刍已经够难的了——再加上语言障碍的不确定性只会让事情变得更难。
中国政治问题的例子是一个极端的例子，但你可以很容易地想象其他情况，比如，当被要求用意大利语回答时，它会借鉴并反映其训练数据集中的意大利语内容。在某些情况下，这可能是一件好事！
这并不意味着大型语言模型只对英语有用，或者只在其数据集中最能代表的语言中有用。毫无疑问，ChatGPT 可以完美地用于政治性较低的查询，因为无论它用中文还是英文回答，它的大部分输出都同样准确。
人工智能, 错误信息, 语言模型, 统计模型
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
