文章主题:ChatGPT, AI技术, 复旦MOSS
中国小康网 独家专稿
文|《小康》·中国小康网 袁凯
做ChatGPT好比踢足球,踢足球都是盘带、射门,但是要做到梅西那么好也不容易。
🌟在AI世界里,一个不言而喻的真理是:算法优化是个持久战,而非一蹴而就的秘密。从2018年GPT-1的问世,到如今OpenAI耗费六年光阴打磨出顶尖的大规模语言模型,每一步都是精心雕琢和时间积累的结果。🔍就像马拉松,不是短跑的速度决定一切,而是耐力和策略。🏆所以,要想在人工智能这片广袤领域崭露头角,唯有脚踏实地,持续投入,才能在这场无声的竞赛中遥遥领先。🌟
🌟人工智能革命来了!ChatGPT等创新技术正引领一场内容创作的革新风暴,从文案撰写到营销策略,再到风控决策甚至是代码编写,无所不能!👀国内创业热潮中,无数团队竞相涌现,试图解锁ChatGPT的无限可能。然而,这背后的挑战也不容忽视:它真的只是个“万能工具”吗?让我们一起探索其深层功能与真实价值吧!🔍
🏆🎨在足球场上,盘带和射门是基本技能,但要达到梅西的高度,确实需要非凡的努力。就像科技部长王志刚3月5日所说,ChatGPT以其强大的智能表现,无疑为我们提供了一个技术革新的生动例子。它挑战着如何在速度与精度之间找到最佳平衡,这在算法实时性和质量控制上是个不小的考验。🚀💪然而,正如梅西并非一日之功,ChatGPT的成功也需要时间的磨砺和不断的优化。让我们期待它未来能带给我们更多创新惊喜吧!🏆💻SEO优化:#ChatGPT技术挑战 #足球与科技比喻 #算法实时性优化
复旦MOSS团队:路还很长
🔥【复旦MOSS】ChatGPT劲敌!🔥近期,邱锡鹏教授团队引领的复旦大学计算机科技学院力推一款震撼模型——MOSS,瞬间引爆了AI领域热议!🚀2月20日甫一亮相,MOSS就遭遇了前所未有的关注风暴,内测申请如潮、媒体采访纷至沓来,投资合作意向更是接踵而至。🔥ChatGPT的热度为这项原本藏于学术深巷的技术带来了大众的关注,NLP领域的研究与应用正跨越学科边界,走向更广阔的舞台。💡MOSS的成功,无疑预示着AI技术的新里程碑,让我们期待它如何引领未来智能对话的发展。🌐欲了解更多详情或寻求合作机会,请关注官方声明,而非直接联系个人。联系方式保持私密以确保专业服务。💪#复旦大学#MOSS模型#人工智能热浪
🌟【中文生成式预训练领航者】🌟邱锡鹏团队早在2021年的探索之旅中,就已经在中文GPU预训练领域崭露头角,推出了自主研发的模型,并大方分享,每月平均下载量高达数万次,热度不减!他们的研究脚步从未停歇,创新理念引领潮流——将基础语言模型视为未来语言服务的核心。🌟今年,他们更是聚焦于训练超大规模的语言模型,致力于打造能够理解和回应人类指令、具备自然对话能力的先进科技。🚀仅半年时间,团队就取得了显著突破,展现出强大的技术实力和对未来的洞察力。他们的每一次迭代都为行业带来了新的可能,让我们期待他们在语言技术领域的更多创新与突破!🏆
🎉邱锡鹏团队翘首期盼的日子终于在农历腊月二十八到来!那一刻,计算机科学博士研究生孙天祥在项目测试中轻轻一试,中文问题却得到了MOSS精准的英文回应,仿佛一个虽不通言但却能理解中华语言的智者。别忘了,那时的MOSS还只是个新手,中文语料仅占其训练数据的微不足道的0.1%。这不仅是技术突破的象征,更是AI迈向全球化的一大步!🏆
“很神奇,我们没有教过它机器翻译。”MOSS显示出的潜能让邱锡鹏当晚激动到失眠。他把MOSS比作一个“聪明的小孩”,即便现在还不擅长写诗、解题或很多具体的事,但已展示出成为通用人工智能(AGI)大框架的潜能,“很多遥不可及的事情,它一点就通了”。
在不少人看来,ChatGPT、MOSS这类大型语言模型与现在我们日常使用的小爱同学、Siri这样的语音助手似乎差别不大。真的是这样吗?邱锡鹏打了个比方,解释道:“这两者的关系就像智能手机和功能手机。之前的聊天系统还属于弱人工智能,设计它们就是用来聊天的,正如传统的功能手机只能用来打电话;而现在的大型语言模型,像ChatGPT、MOSS,它们能做很多事,聊天只是功能之一,就像智能手机可以用来打电话,但它的功能远远不止于此。”
邱锡鹏也坦言,与ChatGPT相比,MOSS的最大差异还是参数规模。 “ChatGPT的参数量多达1750亿个,而MOSS的参数量比其小一个数量级,大约是前者的1/10左右。” 邱锡鹏团队认为,这个规模在财力物力承受范围之内,也使模型具备一定的智能。实验结果证实了团队的猜想,MOSS模型可以非常顺利地与人类进行聊天互动。邱锡鹏介绍,MOSS的特点是小规模,比较容易适应个性化模型,可以赋予更多专业化能力,利于企业内部私有部署,经过一些数据微调就可以转化为生产力。
2月20日,MOSS上线当晚,网站一度瘫痪。邱锡鹏团队在官方回应中表示,MOSS还是一个不太成熟的模型,计算资源不足以支撑庞大的访问量,距离ChatGPT还有很长的路要走。在MOSS完成初步验证之后,团队会将经验、代码、模型参数开源出来供大家参考。中国版ChatGPT的诞生还需要中国全体AI从业者的共同努力,更需要不断和人交互以提高能力。团队也将坚持对最前沿AI模型的不懈追求。
AI从业者:一天成本要3亿
在国内ChatGPT的追逐赛道上,除了作为重头戏的头部科技公司与专家研究团队,还有不少想要尝鲜ChatGPT的个人,但他们往往无法迈出第一步。
“若用ChatGPT的方法,以小冰框架当前支撑的对话交互量计算,每天成本将高达3亿元,一年成本超过1000亿元。” 在来自大洋彼岸的这股科技潮最初传导至国内之时,小冰CEO李笛就为不少想要尝试做国内ChatGPT的人泼了一盆冷水。
马新几乎是国内最早接触到ChatGPT那批人。2022年11月30日,ChatGPT发布,5天内涌入100万用户。马新深受触动,开始考虑自己做类ChatGPT的可行性。
“我本身从事的是AI行业。ChatGPT拥有持续的上下文对话能力,同时支持文章写作、诗词生成、代码生成等。这让我很是惊讶。”马新知道,这对AI行业是颠覆性的,它不在于技术上的创新,而在于向大众展示了一个全新的使用技术的途径,那就是NLP任务(自然语言处理)中基于大型语言模型(LLM,Large Language Model)演进出的GPT。马新认为,NLP任务(自然语言处理)的核心逻辑是 “猜概率”。“现阶段所有的NLP任务,都不意味着机器真正理解这个世界,他只是在玩文字游戏,进行一次又一次的概率解谜,本质上和我们玩报纸上的填字游戏是一个逻辑。只是我们靠知识和智慧,AI靠概率计算。”这决定了如果没有大量资金支持,AI便无法进行足够的“语言预训练”。正如ChatGPT铺天盖地的宣传里总是离不开这样一句话:在拥有3000亿单词的语料基础上预训练出拥有1750亿参数的模型。“如果说3000亿单词是训练数据,那么1750亿参数就是沉淀下来的AI对这个世界的理解。”了解到训练步骤需要花费的资金后,马新彻底打消了试水ChatGPT的念头。“做中国版ChatGPT是百度、阿里这样的大厂才敢拥有的野心。而其它挂着ChatGPT概念的公司,几乎只能局限在很小的领域,资金不足以支撑语言训练是最大的问题。”
而在多位行业人士看来,要做中国ChatGPT,不光是“语言预训练”的问题。与OpenAI相比,国内大厂在算力和算法方面与之同样有差距。高性能GPU是人工智能的基石。去年英伟达高端GPU芯片对中国供应受限,有行业人士算了一笔账:想要训练与ChatGPT相匹敌的大模型,每年在显卡、CPU等设备方面投入的成本高达10亿美元。面对如此庞大的现金流需求,不少人预判,“微软、谷歌这样的硅谷大厂有这个能力,国内大厂有这一实力的也少”。
李笛认为,与其说中美两国在人工智能领域有巨大的“技术壁垒”,不如说有一定的“时间壁垒”。“时间壁垒”带来的则是算法方面的差距。一个基础常识是,算法训练是一件没有办法弯道超车的事情。自2018年推出第一代生成式预训练模型GPT-1起,OpenAI用了近6年的时间沉淀出了当前的大语言模型。“这6年的差距没办法用半年的时间实现超越,除非有天才少年用更加完善的算法框架实现降维打击。”
其实,不少AI从业人士同样认为,由于人工智能对算力、算法、时间的要求很大,其成本压力太高,因此,AI必须要找到一个明确具体的垂直场景。
与其临渊羡鱼,不如退而结网。对于许多国内公司而言,基于ChatGPT的场景赋能应用,或许是新一轮科技军备竞赛中的理性选择。
(《小康》·中国小康网 独家专稿)
本文刊登于《小康》2023年3月下旬刊
AI时代,掌握AI大模型第一手资讯!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
扫码右边公众号,驾驭AI生产力!