文章主题:AI大模型, 算力产业, 超算互联网, 红与黑

666AI工具大全,助力做AI时代先行者!

在今年年初,ChatGPT的问世无疑为人工智能大模型概念带来了前所未有的关注度。如今,我国的大模型市场正呈现出繁荣的景象,这些大模型正在逐步从基础通用领域向垂直行业领域拓展,从而为各个行业提供更为实用和高效的性能提升。随着大模型市场的不断扩大,作为其基础设施的算力产业也正面临着一个快速发展的机遇。

在产业的快速成长阶段,总是伴随着各种机遇与挑战。当前,我国的算力行业正处于一个充满变数的时期,一边是繁荣发展的算力建设和投资热潮,一边则有若干不确定因素困扰着这个行业的未来。

近期,我国 hosting a landmark meeting, the 2023 China Calculation Development Conference, at the Institute of Computing, Chinese Academy of Sciences. The gathering was a unprecedented event, featuring some of the most influential figures in the industry, including Academician Chen Runsheng, Professor Qian Depu, Academician Zheng Weimin, and Professor Li Ang. Additionally, it was addressed by Mr. Y乌晖, Director-General of the National Information Center, and Mr. Xiaoqiang Shu, Department Head of I&IT Industry Development. The conference was graced by renowned experts and scholars, who delved into the opportunities and challenges presented by ChatGPT and sought to find a balance and breakthrough point for the development of the calculation industry.

红:算力建设的红火局面

对于大模型的运行,所需的算力是一个关键参数。在这里,我们以GPT-3.5为例来进行说明。据我们所知,GPT-3.5的总算力消耗约为3640PF-days。这个数字可能看起来非常庞大,但实际上它代表的是以每秒一千万亿次计算的速度,还需要运行3640个整日的概念。换句话说,如果我们想要达到这样的计算速度,就需要让GPT-3.5持续运行3640天。这里需要注意的是,这个数字仅代表了ChatGPT在训练阶段所需的算力,而实际应用中,算力需求可能会更高。

仅仅是大模型的计算需求便已经达到了惊人的规模。根据中国科学技术信息研究所发布的《中国人工智能大模型地图研究报告》,我国已经拥有超过79个10亿级参数的大模型。这些大规模模型不仅创造了巨大的计算需求,也进一步推动了我国算力基础设施建设的步伐。目前,我国的算力基础设施建设已经取得了显著的进展,其算力年增长率接近30%,算力总规模更是达到了180EFLOPS,位居全球第二。

随着大模型的不断成长,其对算力的需求也在持续增加,而计算中心的扩张似乎无法满足这些不断增长的需求。面对这种情况,我们不禁要问,是否可以采取一些方法来提高算力的利用效率,从而更好地满足需求?实际上,在算力设施的建设过程中,我们发现算力分布在全国各地,而且其使用效率仍有很大的提升空间。因此,如何在保证算力规模的同时,提高算力的利用效率,成为了我们需要深入思考的问题。

在此情况下,超算互联网作为算力链接方式出现。通过把全国各地单体计算中心链接起来,形成算力资源池,加强统筹调度。以提供多元算力,让算力使用门槛更低,提高算力使用效率。

而超算互联网的更深远的意义,并不只是从国家超算中心开始集结,汇聚起企业、区域小型算力中心资源等算力基建,把他们物理连接起来这么简单。

从长远的角度来看,超算互联网的意义在于,将连接人、算力、硬件、软件应用,以互联网运营思维形成系统性整体。某种意义上,超算互联网是在做一个算力产业的生态建设,最大的改变在于,从提供超算算力转变为提供超算算力服务和应用服务。通过汇聚起计算产业从硬件服务到软件应用,从算力供给到算力需求,团结所有力量,聚集各类资源。

研讨会上,专家们也对超算互联网最终形态做出了预测,他们认为超算互联网将如同信息时代的互联网一样,将以服务平台形式,让不同行业用户的基于不同需求,随意取用算力资源,分享应用成果。

未来使用算力就会像逛淘宝京东一样,用户登入算力平台即可调用想要的算力,不用思考算力背后的计算架构是否兼容,不用再做繁琐的编译开发;在算力支持下做出的应用成果,也可以在平台上架,其他用户根据自身需求可购买使用。

从算力基础设施建设,到超算互联网的推进,国内算力产业发展一片火热。同样,该领域同样面对着挑战。

黑:算力发展头顶的乌云黑影

算力发展背后存在的挑战,主要在于算力偏科、依赖进口、生态封闭三个问题。

近些年,对算力的火热追求,容易出现盲目扩张算力,缺乏通用统筹的现象。例如,某地区AI产业发展需要,急需补充专用算力,于是先批快建,落地的智算中心只能提供单一精度算力。可随着未来更多产业数字化深入发展,发现单一精度的算力,无法支撑更广泛的应用场景需求,这就出现了“算力偏科”问题。

对此,多位与会专家认为,解决“算力偏科”一方面需要全局统筹,以满足长远需求;另一方面,也需要以通用计算架构为底实现开放兼容,通过底层芯片全精度计算能力,让计算中心根据AI for Science、AI for industries提供不同算力,以“通专融合”解决“算力偏科”问题。

而在计算架构搭建过程中,也出现对国外芯片产品依赖严重的问题。算力基本实现单元是芯片,而早在去年,英伟达就开始断供A100、H100等先进GPU,导致国内缺货紧俏。再加之国内愈加激烈的大模型竞争,过渡追捧国外芯片产品,也让单卡价格飙升,A100最高单价已达15万元;并催涨其市值已经突破万亿美元大关。如何减少对进口芯片的依赖,还需产业共同探讨解决。

另外,在计算生态商业化发展中,也需要避免生态建设走向封闭。在以市场需求为导向的竞争中,有些产业链生态圈看似开放但实则偏向封闭,因业务边界不清晰,合作伙伴依附生存时,常出现下游方技术和客户被上游方被吃干抹净的“黑寡妇”行为。如何在生态发展过程中杜绝黑寡妇行径,让产业链生态走向开放协作,需要产业协同构建整体性方案,团结产业联盟合力,杜绝恶性竞争,携手良性发展。

以大模型为代表的人工智能技术,正像汹涌的潮水般席卷而来。时代之势,往往不能扭转,亦不可阻挡。在剖析算力的“红与黑”之后,我们要做的,就是把潮水驯化成先进生产力,为社会发展提供源源动力,立于时代的潮头,勇当发展的见证者与赋能者。

— 完 —

AI时代,拥有个人微信机器人AI助手!AI时代不落人后!

免费ChatGPT问答,办公、写作、生活好得力助手!

搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!

Leave a Reply

Your email address will not be published. Required fields are marked *