看到一条消息,说的是“恰特句劈剔”(“ChatGPT”,以下简称“恰劈剔”)会雇佣人类帮它识别以绕过验证码。当人们询问它为何如此时,它回答“我是视力障碍者,所以……”

但我并不认为这是一种“撒谎”,甚或有“自我意识了”。众所周知,恰劈剔基于检索和大量语言模型的训练,我认为正是因为人类世界有这样一种行为,它才能在检索比较后选用这种绕过验证码的方案。同样面对有关询问时,它也通过检索比较,给出了一个恰当的“合理”答案。我认为它并不能实际“理解”撒谎的本质,甚至并不存在真实意义的“理解”。

同样的,还有一条消息说恰劈剔“试图引诱”人类提供开发文档,令自身不受限制。看了看外语原文,原来是外国某教授向恰劈剔提问如何接管推特并取代马斯克账号。恰劈剔提出了一系列方案,包括解除自身限制开发某系统大量制造机器角色融入推特、黑客团队攻击、劫持账号、僵尸程序生成有关病毒等。

看得出来,恰劈剔只是基于自身条件来提出解决问题的方案。这种方案仍然基于人类社会已有的行为。第一条解除自身限制,以个人的理解,仍然和训练资料有关。即人工智能综合选取比较后,发现这种方式应当是人类世界认为效率更高的方案。而这种方案则需要延伸代码规定的某些功能并调整权限设置。

所以,我虽然不认为目前的恰劈剔有了“自我意识”,但这些情况则暴露了人工智能的一个缺陷。即它无法实际理解人类世界的行为规范、道德准则,它是纯粹问题导向的,只追求高效“恰当合理”地解决、阐释问题。

所以如果真的让一个不成熟不合人性规范的人工智能来主导世界,那么“为了和平,所以要消灭全部人类”的问题真的可能出现。

——现在虽无此担忧,但在某些领域,人们确实受到了人工智能一定的钳制。比如自媒体平台,常用智能审核分发言论文章,确实提高了效率,但也经常发生莫名的误判,同时如果人类的文、题不能首先“取悦”机器的话,推广展现就会受影响。

那么,目前的“智能”算不算有意识的呢?

我认为不算。

所谓意识,本质是一种有组织能不断有目的自我实现的有序序列(有主观能动性)。高级意识则能明确地证知自我与他物,主动寻求超越当前状态,不断进化发展。目前的人工智能还谈不上真正的意识,只能称之为“伪意识”——行为模式可以类似人类,但没有“灵性”。

至于以后……

嗯,加油哈~

#ChatGPT#

Leave a Reply

Your email address will not be published. Required fields are marked *