中国AI大模型之路:从ChatGPT到序列猴子
AI与地理

中国AI大模型之路:从ChatGPT到序列猴子

这篇文章探讨了中国本土公司在AI大模型领域的布局和成果。随着ChatGPT的流行,各大科技公司都在积极开发自己的聊天机器人。文章列举了几家公司的代表性产品,如百度的“文心一言”、阿里巴巴的“通义千问”、腾讯的“混元”和华为的“盘古”,它们都拥有强大的功能和良好的用户体验。然而,这些产品的创造力仍有待提高,而且在数据训练方面还有欠缺。
ChatGPT把教育逼到了墙角?长三角校长院长和大咖这么说
AI与地理

ChatGPT把教育逼到了墙角?长三角校长院长和大咖这么说

“从AI到ChatGPT,一次又一次的信息技术革命,可以说已经把教育逼到了墙角。教育到了必须变革的时候!” “如果我们的教育还是围绕着考试、升学这个唯一目标,那必然是‘千军万马过独木桥’,再‘减负’也没有用。” 昨天,长三角教育发展研究院成立大会暨“学习贯彻党的二十大精神,加快建设高质量教育体系”研讨会在上海举行。针对当下教育的痛点、堵点和难点问题,来自长三角的专家们给出了各自的看法。 大会现场 多样化探索教育新生长点 民进中央委员、上海市人民政府参事、长三角教育发展研究院院长胡卫认为,ChatGPT有了生成功能和创新功能,令人不容小觑。他认为,从AI到ChatGPT,一次又一次的信息技术革命,可以说已经把教育逼到了墙角,这就需要我们在课程模式、教学方法、班级组织形式乃至教育评价方式等方面做出全新的改变与探索。 ChatGPT的出现,应该是教育自身改革的一次重大机会,因为如果传统的教育方式不改变,教育是不可能靠屏蔽ChatGPT来维持下去的。上海市教委副主任、民进上海市委副主委倪闽景不久前的这段话引发了各方的关注。在此次研讨会上,倪闽景表示,长三角地区是我国教育经济科技最发达的地区,有必要在长三角层面协同提升青少年的科创能力和素养。 上海纽约大学名誉校长、长三角教育发展研究院咨询委员会委员俞立中坦言,当今,已经从一个工业化时代的教育,向信息化时代的高等教育转变,无论是计算机技术的发展,还是ChatGPT也好,实际上面都体现了我们今天处在一个时代的变革过程当中。他建议,站在时代变革的背景下面,去思考我们的教育模式,来改变我们的教育理念,形成个性化、多样化。 高水平推进教育一体化 如今,信息领域的数字技术渗透社会系统各行各业。目前情况下,运用信息技术可以解决教学中的哪些问题? 原上师大校长、联合国教科文组织教师教育中心负责人张民选在使用了ChatGPT之后发现,要让它真正成为教育的工具,特别是个性化的教育工具还是不行的。他建议,长三角区域已形成一个中国教育的样板,不仅惠及到中国其他的地区,更可以让中国区域发展的经验为大多数的发展中国家所借鉴。 安徽师范大学教育科学学院院长李宜江将视角聚焦在了义务教育上。他认为,义务教育的优质综合发展实际上是有示范引领性的,对于长三角来说,资源的配置应尽可能同质化,但是落在学生的发展上应尽可能个性化。 在上海市教育卫生工作党委原副巡视员佘国平看来,要深入研究长三角教育与都市圈的城市群发展。佘国平表示,每个城市有其鲜明的特征,一定要把他们在现代化教育发展过程中面临的问题,进行解决、转化、处理好,以期推动发展,教育研究是与地理文化紧密联系起来的。 全球视野为长三角教育谋划 上海市民办教育协会副会长卢慧文在发言中提到,长三角的教育一定要放在整个中国式的教育现代化和全球这样的背景下来关注。她建议,积极地去承办一些重要的教育国际项目,把一些研究成果做一些国际层面的展示,更好地把中国故事讲好。 在胡卫看来,长三角教育发展研究院要汇集长三角领域,甚至国内外顶尖的教育力量,去创新我们教育的管理体制和管理机制,建设一个有强大学科支撑、服务宏观教育决策的开放型、包容性高端教育智库。 ChatGPT的出现,让人们再次看到了,教育的首要目标是培养能独立思考和有正确价值判断能力的人,而不再是获取特定的知识。我们也期待着的长三角教育发展研究院能够为长三角,乃至中国的教育发展,贡献出更多的智慧,让长三角成为中国,乃至世界的教育高地。 举报/反馈
AI基石:深入解析ChatGPT等大模型的token技术
AI与地理

AI基石:深入解析ChatGPT等大模型的token技术

本文讨论了人工智能助手ChatGPT在处理单词反转任务时出现的错误,并揭示了其背后的原因。ChatGPT等大模型产品的表现依赖于它们对tokens(即单词或字符)的理解和生成能力。然而,由于token化管理的存在问题,使得模型难以学习有意义的输入表示。尽管有相应优化如将复杂、不常见的单词分为有意义的token和独立token,但这仍不能避免在特定任务中出现失误。因此,token在AI理解和生成自然语言中的重要性日益凸显,成为决定模型性能的关键因素。
火爆全网的ChatGPT,早被资本盯上了,国内有人刚融了10亿
AI与地理

火爆全网的ChatGPT,早被资本盯上了,国内有人刚融了10亿

来源丨创业邦(ID:ichuangyebang) 作者丨巴里 编辑丨子钺 图源丨图虫创意 这几天,一个名为ChatGPT的聊天机器人彻底破圈了,火遍全网。 它写得了代码,修复得了bug,还能帮你写工作周报、写小说、进行高考答题,甚至你还可以诱骗它规划如何毁灭人类。 尽管市面上已经有了大量的聊天机器人,但马斯克仍然对此感叹:“很多人疯狂地陷入了ChatGPT循环中,我们离强大到危险的人工智能不远了。” 这个看似无所不能的ChatGPT是由美国OpenAI开发的大规模预训练语言模型,马斯克曾是这家公司的创始人之一。 12月5日,OpenAI首席执行官Sam Altman在社交媒体上发文表示,ChatGPT于上周三推出,截至目前已突破100万用户。 甚至免费公测版本的服务器很快就被热情的测试用户挤爆了。 联想集团副总裁、联想创投集团高级合伙人宋春雨告诉创业邦,AI预训练大模型的出现,成为了近三年以来AI算法创新最受关注的投资机会。 睿兽分析显示,2022年以来,国内大规模预训练模型赛道出现多笔大额融资,单笔融资金额高达10亿元,其中不乏联想创投、君联资本、启明创投、创新工场等知名投资机构。 被网友玩坏了的ChatGPT到底是什么?其背后的大规模预训练模型是怎样一条赛道,为何会受到众多投资机构的追捧?融资热背后,又离真正大规模商用落地还有多远? AI如何攻破人类,发人深省的回答 AI教你怎么找男朋友 帮你写份周报应付老板 试一下python写个判断闰年,还有详细的解释,不过看上去像是在某个程序网站抄的 AI是如何一本正经地胡说八道的 “新晋网红”ChatGPT到底是什么? 简单来说,预训练模型(Pre-trained Model)是前人为了解决问题所创造出来的模型。后人在解决类似问题的时候,无需再从零开始训练一个新模型,而是可以利用此前在类似问题中训练过的模型来解决现有问题。 与人们熟悉的语音助手不同,ChatGPT在与人们的对话中可以理解较为复杂的语句内容,比如有多层语法嵌套的句子。同时,ChatGPT拥有一定联系上下文理解语境的能力,可以针对一个问题不断深入交流。令人惊讶的是,ChatGPT既能承认错误、质疑不正确的前提,还能拒绝不恰当的请求。 这就意味着,ChatGPT已经可以实现围绕某个话题,与人类展开一段谈话讨论的可能。 OpenAI官方称,ChatGPT是在人类的帮助下创建并训练的,人类训练师对该AI早期版本回答查询的方式进行排名和评级。然后,这些信息被反馈到系统中,系统会根据训练师的偏好来调整答案。这是一种训练人工智能的标准方法,被称为强化学习。 据国盛证券研报,ChatGPT有着多达1750亿个模型参数,OpenAI主要使用的公共爬虫数据集是有着超过万亿单词的人类语言数据集。 该研报指出,ChatGPT在寻找答案、解决问题的效率上已经部分超越了如今的搜索引擎。ChatGPT或许在未来会改变我们获取信息、输出内容的方式,AIGC(AI生成内容)有望成为数字经济时代驱动需求爆发的杀手级应用。 不过,ChatGPT也并非上知天文下知地理的“最强懂哥”。 据官网显示,ChatGPT目前存在着一些局限性,包括有时会给出看上去正确但荒谬的答案、微调提问的方式会得到完全不同的答案、有时会反复使用某些句子等。 网友也发现,ChatGPT有两个明显的缺点:输入不能有错,解释不够人性化。 所以,这个五天用户突破百万的模型突然遭到编程问答社区Stack Overflow的封禁。 目前,ChatGPT的研究团队也表示将根据用户反馈持续改进模型,未来还有很长的道路要走。 尽管如此,OpenAI依然被视为全球AI领域的顶级机构。 OpenAI在2020年推出的上一代GPT-3在当时就被称之为人工智能领域的一个重要里程碑。 在此之后,OpenAI也开始尝试对GPT-3进行商业化。目前,OpenAI以API的形式向开发者客户有偿提供GPT-3模型,并根据token使用量来收费。目前,基于GPT-3产生的App已经达到300多个。 今年大火的AI绘画也与OpenAI密不可分。 最早,OpenAI曾推出一款DALL-E低代码工具,用户只要提出想法、输入参数,电脑就会自动生成艺术级别的画作。在这一波AI绘画热潮中,还涌现了Midjourney、Stable AI等初创公司,有些公司已经成为独角兽。 正是预感到了大模型的巨大价值,在GPT-3推出的前一年,也就是2019年,微软向OpenAI进行了高达10亿美元的投资。 这也为微软大力推进的云战略吸引来了不少客户。 例如,美国最大的汽车零售平台CarMax利用OpenAI的开发工具把10万条客户评论直接进行了分析,根据客户的表达情绪分类成正面、中性和负面,还提取了关键字摘要,对于公司的战略决策起到了很大的帮助。 CarMax首席技术官甚至表示,如果没有人工智能,这项工作靠人工编辑团队需要耗费11年才能完成。 可以说,OpenAI带给了人们巨大的想象空间。 融资火热背后,离真正大规模商用还有多远? 实际上,不仅是最近破圈的ChatGPT,近两年国内也迎来了“大练模型”和“练大模型”的军备竞赛热潮。...