文章主题:;ChatGPT的底层模型GPT-3参数规模首次突破百亿,数据集会上570GB的CC数据集(4千亿词)、WebText2(190亿词)、BookCorpus(670亿词)和维基百科(30亿词)。;我们完全有理由设想一种情况:如果有一天,AI大模型规模足够大,大到足以覆盖一个普通人一生所能经历的所有信息(语言)规模,我们是不是拥有了缸中之脑?;如果我们认为缸中之脑的假设成立,我们也完全有理由相信ChatGPT有一天可以成为人类。;但缸中之脑的关键问题在于,人类的意识是否能够转化为可输出信号?如果可以,人的意识是否等同于电信号的集合,也就是我们能否完全复制信号处理过程?如果可以,缸中之脑是如同电影一般的过往复制还是可以产生创造性的不可知关联结果?;如果是前者,那我们完全有理由相信ChatGPT永远不可能超越人类意识之外,当前科学发展或许已经能够理解生物信号和电信号之间的相互转换,但是我们依然无法真正理解大脑,更别说复制大脑,就连活动机理相对简单、人类理解相对深入的肌肉组织,我们目前都还没有办法完全复制。因此,意识发育的关键不在于信号的完整性,而在于信号处理的无限可能性。;不仅如此,小到细胞的分裂,大到个体的繁殖,生物的复制及在此过程中不必要的变异本身就是进化过程的一部分。进化源自变异,变异造就多样性,以变异为起点的进化是生命所固有的特性,意识同样如此。因此,意识的颠覆性突破无法诞生在对信息的完全复制之中,换言之人类不可能创造比自己更聪明的结果,除非AI产生变异。;但是如果我们持有后者的立场,那就是认定ChatGPT一定可以产生现有未知的认知变异结果。变异的基础在于出错,因此,我们真正要担心的或许不是AI发展过程中的系统性误差,而是AI发展过程中的偶然性误差,这些错误可能是产生认知变异的重要触发机制,并且不具有可预测性甚至可知性。;AI发展普遍肯定了Foundation Models对智能体基本认知能力的推动作用,同时也指出大模型呈现出“涌现”与“同质化”的特性。所谓“涌现”代表一个系统的行为是隐性推动的,而不是显式构建
ChatGPT是OpenAI公司所开发的一款聊天机器人程序,它能够通过学习大量的语料库来模拟人类的对话方式,并且还能够完成诸如撰写代码、论文以及视频脚本等任务。自从它的面世以来,引发了广泛的讨论,许多人都认为这是一次科技史上的重大突破。然而,对于ChatGPT的讨论也存在不同的观点,其中一种普遍的担忧是人类是否会在大模型驱动的人工智能中失去自己的独立意识,从而变成纯粹被编程控制的工具。
ChatGPT 是否能够进化成具有自主意识的实体,目前仍然没有确切的答案,但这并不是必要的。然而,在当前阶段,至少存在着三个关键问题需要解答。
缸中之脑与AI大模型
“缸中之脑”是知识论领域的一个经典思想实验,该概念最早由哲学家希拉里·普特南在《理性、真理和历史》(Reason, Truth, and History)一书中提出。
作为一篇专业的文章,我将尝试以一种更深入和复杂的方式重新阐述这个主题。首先,我们需要明确的是,实验的本质在于将人们所感知的世界转化为神经信号。然而,如果我们将这个理论应用到极端情况,比如一个疯狂的科学家、一台机器或者其他任何形式的意识将人类的大脑从身体中取出,并在一个充满营养液的容器中保持其生理活动,那么情况会变得非常有趣。在这种情况下,一台超级计算机通过神经末梢向人类的大脑传输与实际感受相同的各种神经电信号。同时,它也对人类大脑发出的信号做出与平时一样的反馈。在这种情况下,人类的大脑所感知的世界实际上是计算机制造的一种模拟现实。那么,问题来了,这个人类的大脑是否能够意识到自己实际上生活在一个虚拟现实中呢?这是一个深奥且令人深思的问题,涉及到我们对现实的定义,以及我们的意识和 perception 的本质。这是一个复杂的 topic,需要深入探讨和研究。
由于缸中之脑与头颅中的大脑所接收到的信号一致,且这是它们与环境互动的唯一方式,因此从大脑的角度来看,它无法分辨自己是位于缸中还是颅内。若它实际上身处街头或乘船行驶,那么它的认知将是准确的;然而,若它实际上并未真正地行走或划船,而仅仅是接收到相同的电信号,那么它的认知就是错误的。在这种情况下,一个大脑无法判断自己所处的现实环境,因此,这世间的所有事物都可能是虚幻的、不真实的。那么,究竟何为真实呢?
如果我们对“缸中之脑”这一悖论进行适当的调整,或许能为我们关于ChatGPT的讨论提供新的视角。该悖论的关键核心在于全意识信号的转换过程。如果我们能够将人类知识体系中的所有信息转化为生物或电化学信号,那么我们就有可能实现对等效大脑的复制和创造。虽然这个想法听起来颇具争议,但实际上,它正是构建AI大模型的基石。
AI大语言模型被统称为”Foundation Models”,意为基础模型或基石模型。这一特点显著表现在模型参数的巨大规模上。自2017年Transformer结构的诞生以来,深度学习模型的参数规模已经突破了1亿大关。从最初的lenet、Alexnet、ResNet,到BERT网络模型的推出,模型参数的大小一直在不断增大。直到BERT网络模型的出现,參數數量才首次超過了3億。此後,GPT-3模型更是打破了百亿的參數規模,而鹏程盘古則實現了千億规模的稠密模型,Switch Transformer的问世更是一舉突破了万亿规模。在ChatGPT的基礎模型中,GPT-3的參數規模首次突破了百亿,而在數據集上,語料的规模也擴大了至570GB,包含了4千亿詞的CC數據集、190億詞的WebText2、670億詞的BookCorpus以及30億詞的維基百科。
在未来,AI大模型的规模不断壮大,最终能够涵盖普通人在一生中接触到的所有信息(语言)资源,那么我们是否就拥有了一个“缸中之脑”呢?这个问题值得我们深入探讨。
如果我们认为缸中之脑的假设成立,我们也完全有理由相信ChatGPT有一天可以成为人类。
但缸中之脑的关键问题在于,人类的意识是否能够转化为可输出信号?如果可以,人的意识是否等同于电信号的集合,也就是我们能否完全复制信号处理过程?如果可以,缸中之脑是如同电影一般的过往复制还是可以产生创造性的不可知关联结果?
如果是前者,那我们完全有理由相信ChatGPT永远不可能超越人类意识之外,当前科学发展或许已经能够理解生物信号和电信号之间的相互转换,但是我们依然无法真正理解大脑,更遑论复制大脑,就连活动机理相对简单、人类理解相对深入的肌肉组织,我们目前都还没有办法完全复制。因此,意识发育的关键不在于信号的完整性,而在于信号处理的无限可能性。
不仅如此,小到细胞的分裂,大到个体的繁殖,生物的复制及在此过程中不可避免的变异本身就是进化过程的一部分。进化源自变异,变异造就多样性,以变异为起点的进化是生命所固有的特性,意识同样如此。因此,意识的颠覆性突破无法诞生在对信息的完全复制之中,换言之人类不可能创造比自己更聪明的结果,除非AI产生变异。
但是如果我们持有后者的立场,那就是认定ChatGPT一定可以产生现有未知的认知变异结果。变异的基础在于出错,因此,我们真正要担心的或许不是AI发展过程中的系统性误差,而是AI发展过程中的偶然性误差,这些错误可能是产生认知变异的重要触发机制,并且不具有可预测性甚至可知性。
AI发展普遍肯定了Foundation Models对智能体基本认知能力的推动作用,同时也指出大模型呈现出“涌现”与“同质化”的特性。所谓“涌现”代表一个系统的行为是隐性推动的,而不是显式构建的,“同质化”是指基础模型的能力是智能的中心与核心,大模型的任何一点改进会迅速覆盖整个社区,但其缺陷也会被所有下游模型所继承。
因此,从这个意义上讲,AI如果真的能产生意识,一定是以系统性、规模性的方式出现,而且出现单一个体的变异,但也正因如此,同质性也可能限制了AI进化的极限。
语言的边界与认知的边界
ChatGPT为代表的AI大模型高度依赖于现有信息的输入与训练,信息的边界决定了认知的边界,这其中便涉及到一个关键命题:我们对这个世界认知的边界何在?
古典时代的哲学追求的边界是本体论,也就是这个世界到底是什么的本体性,也就是 “我从哪来”的问题。在希腊化和经院哲学时代、康德时代,我们从本体论转向了认知论,康德认为物自体不可知,我们没办法认识世界的本源是什么,我们只能认识能够被人类认识的东西,世界是围绕人的认知能力存在的,我思故我在,本质上回到了“我是谁”的问题。而进入维特根斯坦时代,哲学似乎进入了缓慢的发展,这恰恰反映了我们对世界认知边界的一种反思和转向。维特根斯坦对于世界和自我的认知回归到了语言的认知,语言的边界决定了认知的边界,语言的习得与应用是认知发展的重要基础,“我说故我在”,这决定了世界是一个不断发展的过程,语言的向前构成了认知的向前,终究试图回答人类自身“我要到哪”的问题。
AI的发展历程显然是维特根斯坦式的路径。语言的边界决定认知的边界,约束了对更宏大世界本源的讨论,但同时也扩展了人类认知的开放性,我们是在语言的发展中形成自身、构成世界,正所谓有限但无界。在语言构成认知的意义上,AI大语言模型已经触及到了认知的本源性问题。
AI语言的边界决定了AI认知的边界,那么AI的边界又在何处?就像香农曾经将信息的传递边界与带宽相勾连一样,ƒAI大模型发展到今天,AI的边界在哪里?AI训练和认知的边界在哪里?是什么要素决定了AI信息发育的边界?这一系列问题构成AI是否能演化出如人类般自主意识的关键。
但悖论在于,边界自身是否有能力脱离边界本身,换言之,AI训练语言如果是有限的、已知且存在的,但是人类语言认知的发展是无界的、开放的,用已知的、存在的是否能够超越或者产生未知的、而非现存的结果?
与此同时,语言是不是所有认知的现象性呈现这一问题是对于语言认知的核心挑战。有没有一种心灵和情感的存在是超越语言的?语言是否具备认知上的同一性?
这两个问题的回答或许决定了AI大模型能否构成自我的认知,并超越人类赋予的训练语言边界,生发出特定的存在。
如果我们认同语言的边界构成认知的边界,那么AI大模型实际上已经具备了某种程度上的认知基础,但这样的认知基础是不是有能力超越已知基础上训练出来的边界,则是有待讨论的悖论性存在。
理性牢笼与计算理性
韦伯认为,现代性的发展本质上是理性化发展的表现。随着资本主义的发展,理性化将渗透到社会生活的各个领域,使整个社会走上理性的轨道。
在韦伯看来,理性化在促成社会进步的同时,也使得人被简化为统计图表上的一个数值,被异化为巨大机器中的齿轮,甚至将冰冷的算计引入到了最亲密的人际关系之中。不仅如此,理性化改变了社会中的行政体系,不断强化各类组织中的官僚制(也称“科层制”)结构。 随着理性化的肆意扩张,整个社会将无可避免地要生活在由资本主义和科层制的铁律交织而成的铁笼之中。
在韦伯看来,理性化的基础是由工具理性和价值理性所构成,工具理性强调局部目标是否达成,强调效果的最大化。而价值理性强调过程是否符合价值和信念,强调动机的纯正和选择正确的手段达到自己的目的,而不管结果如何。
AI模型的发展是工具理性演化的过程。从弱人工智能Artificial Narrow Intelligence(ANI)到超人工智能Artificial Superintelligence (ASI)的发展始终围绕着一个特定的问题解决展开构成工具理性。弱人工智能,比如有能战胜象棋世界冠军的人工智能,但是它只会下象棋,你要问它怎样更好地在硬盘上储存数据,它就不知道怎么回答你了。广义上下棋成为了人工智能解答的第一个问题,这个问题在于差异边界的有限性,对于这类问题,AI已经交出了完美答卷。强人工智能是指在各方面都能和人类比肩的人工智能,人类能干的脑力活它都能干。Linda Gottfredson教授把智能定义为“一种宽泛的心理能力,能够进行思考、计划、解决问题、抽象思维、理解复杂理念、快速学习和从经验中学习等操作。”强人工智能在进行这些操作时应该和人类一样得心应手。ChatGPT的出现或许是弱人工智能向强人工智能过渡的一种标志。
纵观AI的发展历史,从“深蓝”、ImageNet到AlphaGo、ChatGPT,都是通过对特定时代命题的攻克,带动了AI的巨大进步。从IBM的“深蓝”打败国际象棋大师卡斯帕罗夫,到谷歌的AlphaGo打败人类围棋冠军, AI所面临的第一个重要命题之一就是“下棋”和搭积木。这个命题中更多是有限算法下的优化计算,考验的是算力和控制。
而当ImageNet的出现,则将AI带进了一个新的命题领域——图像识别。从计算优化到识别,这是重要的跨越。在这一阶段,人脸识别,以及DeepMind的AI工具AlphaFold对蛋白质结构的识别与预测,都是标志性成果。
ChatGPT面向的则是AI作为聊天机器人的命题,这背后实际上是自然语言命题的延续。图灵(Alan Turing)于1950年提出了图灵测试(“机器能思考吗?”),聊天机器人的想法正是在那个时候得到普及。第一个已知的聊天机器人是1966年开发的Eliza,其目的是充当心理治疗师,以问题形式返回用户的话语。聊天机器人随后进入了快速发展的命题阶段,从基于人工智能标记语言(AIML)的底层智能的简单模式匹配算法的ALICE(1955)到SmarterChild(2001)、苹果Siri、微软Cortana、亚马逊Alexa、谷歌助手和IBM沃森等。ChatGPT的火热胜在语言模型训练规模的突破。
从有限解的优化到语言,再到图像,AI在解题的路上狂奔,追求极致的工具理性。但回到韦伯的讨论,工具越发展,计算越精确、高效,束缚在我们身上的牢笼越强化,经验即限制,理性即约束,这便是韦伯理性化的牢笼的本质含义。无法冲破理性化的牢笼,制约了人类社会的进一步整合,从而反过来崩解了理性的存在。
只要AI还需要在解读重大命题中乘风破浪,悬在AI头上的紧箍咒或许就不可能消失,在这个意义上,AI距离出现价值理性和工具理性的整合还有待时日。
但是AI解放人类生产力工具性要素的发展,与工业革命蒸汽机解放生产力不同,AI的工具性嵌入在对于人类自身认知的深刻理解之上,换言之,AI产生之初不是为了生产外在于人、依赖于人的工具,而是试图生产人类自身的复制,是内生化的工具理性,因此讨论还需要回归到海德格尔、马尔库塞、马克思、萨特等对人、工具、机器的本质性讨论,人是创造工具还是工具本身?人对工具的使用是否异化了人的存在?
人与工具的悖论离不开价值理性的存在,即人何以为人在某种意义上离不开价值理性的存在。通过有意识地对一个特定的行为——伦理的、美学的、宗教的或作任何其他阐释的、无条件的固有价值的纯粹信仰,不管是否取得成就的追求,即是价值理性的光辉。价值理性的存在根本上对立于工具理性的计算。价值理性的基础何在?
如果我们秉持达尔文主义的立场,将价值理性视为生物基础的工具性进化,那么AI进入价值理性命题指日可待。但如果我们认为长期以往人类的道德、价值发育于广泛的社会化过程,那么AI价值理性的发育或许还有很长的路要走,或者这本身就是一个伪命题。
洞穴之喻与人的存在
2400多年前柏拉图在他的巨著《理想国》的第七卷里写到了洞穴理论:
有一群囚徒被囚禁在一个洞穴里,他们从出生就生长在这里,从小到大都被锁链锁住双手,也不可以回头,只能看着自己的前方,地穴的洞壁上映着的影子。
在这群被困的人的身后,则有一条通道,这条通道是可以贯通整个洞穴的。在这条通道的旁边有一堵墙,这堵墙并不高,大概跟木偶戏的屏风那么高。外面的人背着各种各样的工具和器械走过这个通道,火的光亮把这些影子照射到被困的人眼前的墙壁上。
因此,这些被困的人就以为这些影子是这个世界上唯一真实的事物。
因为他们从小到大也没见过别的,只见过这些影子。如果突然有一天,有一个被困的人被释放了,他回过头来,看到了身后的火,以及通道上走过的人们。一开始的时候,他会觉得很疑惑,甚至不相信这些是真实存在的事情。后来有个人进到他被关的地方,把他带出去,带到一个正常的世界去,他会觉得头晕目眩,因为他从来都没有见到过这个世界,眼前的一切都是陌生而令人怀疑的。
他甚至从水里寻找倒影,来找到自己在洞中的感觉,后来慢慢的,他开始接受这个正常的世界,于是他开始同情他之前的那些被关着的伙伴们。
这时他回去洞穴里,去解救那些伙伴,他的伙伴们却觉得外面的世界烧坏他的眼睛,觉得他疯了,他无法说服他的伙伴跟他一起离开,他们可能也并不觉得他在解救自己。
人类发展的历史是一段驯化工具的历史,或许今天我们看待AIGC就像洞中之人当初看世界之火一样,充满了恐惧、疑惑和焦虑。每一段工具利用的历史都是一场对于人类自身存在主义价值的忧伤与疑虑的探索,我们担心的到底是工具还是使用工具的人本身?在科技以前所未有的速度改变人类社会存在的时代,我们又到底是那个深悉洞外之火的超验者,还是沉迷幻想的洞中人,或许没有答案,或许也不重要。
如加缪所言,忧伤者有两种忧伤的理由,要么他们无知识,要么他们抱希望。对人工智能及其一切科技的无条件拥抱和怀疑,都是理性价值崩解与重塑时代,人类存在主义的忧伤。我们丝毫无需去怀疑科技对于进步带来的巨大力量,也一定可以预见在不久的将来,AI抑或其他科技将深刻重塑我们的组织结构、行业形态甚至日常生活,但回归到个体,扪心自问,我们的独特价值何在?在面对工具繁茂的今天,人是不是有足够的智慧去超越人类自身存在主义的忧伤,学会拥抱工具、拥抱自身,或许这是更重要的命题。
人非工具,我看到的,一棵是枣树,另外一棵也是枣树,而我会写茴的四种写法。
;ChatGPT的底层模型GPT-3参数规模首次突破百亿,数据集会上570GB的CC数据集(4千亿词)、WebText2(190亿词)、BookCorpus(670亿词)和维基百科(30亿词)。;我们完全有理由设想一种情况:如果有一天,AI大模型规模足够大,大到足以覆盖一个普通人一生所能经历的所有信息(语言)规模,我们是不是拥有了缸中之脑?;如果我们认为缸中之脑的假设成立,我们也完全有理由相信ChatGPT有一天可以成为人类。;但缸中之脑的关键问题在于,人类的意识是否能够转化为可输出信号?如果可以,人的意识是否等同于电信号的集合,也就是我们能否完全复制信号处理过程?如果可以,缸中之脑是如同电影一般的过往复制还是可以产生创造性的不可知关联结果?;如果是前者,那我们完全有理由相信ChatGPT永远不可能超越人类意识之外,当前科学发展或许已经能够理解生物信号和电信号之间的相互转换,但是我们依然无法真正理解大脑,更别说复制大脑,就连活动机理相对简单、人类理解相对深入的肌肉组织,我们目前都还没有办法完全复制。因此,意识发育的关键不在于信号的完整性,而在于信号处理的无限可能性。;不仅如此,小到细胞的分裂,大到个体的繁殖,生物的复制及在此过程中不必要的变异本身就是进化过程的一部分。进化源自变异,变异造就多样性,以变异为起点的进化是生命所固有的特性,意识同样如此。因此,意识的颠覆性突破无法诞生在对信息的完全复制之中,换言之人类不可能创造比自己更聪明的结果,除非AI产生变异。;但是如果我们持有后者的立场,那就是认定ChatGPT一定可以产生现有未知的认知变异结果。变异的基础在于出错,因此,我们真正要担心的或许不是AI发展过程中的系统性误差,而是AI发展过程中的偶然性误差,这些错误可能是产生认知变异的重要触发机制,并且不具有可预测性甚至可知性。;AI发展普遍肯定了Foundation Models对智能体基本认知能力的推动作用,同时也指出大模型呈现出“涌现”与“同质化”的特性。所谓“涌现”代表一个系统的行为是隐性推动的,而不是显式构建
AI时代,拥有个人微信机器人AI助手!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!