文章主题:关键词:整理, 屠敏, CSDN, ChatGPT

666AI工具大全,助力做AI时代先行者!

整理 | 屠敏

出品 | CSDN(ID:CSDNnews)

自去年11月ChatGPT向公众开放测试以来,OpenAI一直是科技新闻的焦点,并且成为了众多开发者的首选工具。ChatGPT的应用场景不仅包括提供代码建议、概括长文本和解答问题等,其更重要的意义在于引领了AIGC(人工智能生成内容)的新篇章。

尽管 OpenAI 的开放问题引起了广泛关注,但其在受到好评的道路上同样面临着诸多争议。在这种背景下,众多开源实践者在大模型领域展开了各种尝试,试图打造出一个类似于 ChatGPT 的应用。其中,OpenAssistant 作为一款积极参与竞争的开源产品,成为了这一领域的代表之一。

Open Assistant 机器学习模型是由一家德国非营利组织 LAION 运营。近日,该组织官宣现在可以使用 OpenAssistant 模型、训练数据和代码,并将该模型称之为「全球最大的 ChatGPT 开源复制品」,试用地址:https://open-assistant.io。

让人人都能通过开源的方式,用上会话 AI,已成为了现实,这也让 Open-Assistant(https://github.com/LAION-AI/Open-Assistant)在众多开源项目中脱颖而出,截至目前,收获了 24.1k 个 Star,Fork 数达 1.9k。世界上最大的 ChatGPT 开源平替—— Open Assistant

OpenAssistant 项目的启动可以追溯到 2022 年 12 月,那时正值 OpenAI 发布 ChatGPT 之后不久。

我们的目标是超越简单的模仿 ChatGPT,而是要打造一款具有未来感的智能助手。这款助手不仅能撰写电子邮件和求职信,更能在工作中发挥价值、运用 API 和动态分析信息等任务。最重要的是,我们希望这款助手具备高度的灵活性,可以满足不同用户的个性化需求并进行功能扩展。为了实现这一目标,我们将采用开放且易于访问的方法,致力于开发一款既优秀又小巧高效的助手,使其能够在消费级硬件设备上顺利运行。这是我们在 OpenAssistant 项目中不断努力的方向。

Open Assistant 的目标在于构建一个与 ChatGPT 相当的人工智能助手,其实现方式是开源的。项目维护者坚信,借助此项目,他们能够对语言本身进行优化,作用类似于稳定地推动新艺术和图像的创作。换言之,Open Assistant 的使命是打造一个拥有与 ChatGPT 相同功能的开源人工智能助手,从而促进语言艺术的进步。

为确保数据的丰富性和准确性,该团队耗时近五个月,在超过13500名志愿者的协助下,构建了一个由人类生成并标注的助理式对话语料库。这个库包含了来自66497个会话树总共161,443条信息,涵盖了35种不同的语言,并且有461,292个质量等级的注释,使得数据具有极高的可靠性和实用性。

在Open Assistant研究团队看来,AI未来的发展在很大程度上将依赖于公开展示的高品质数据集和模型,而这一项目正好致力于提供此类资源。如今,他们终于有机会向外公开这一功能强大的模型,并已提供一个易于访问的试用链接:open-assistant.io/chat。

在推出相关链接的同时,Open Assistant 研究团队也发表了一篇题为《OpenAssistant Conversations – Democratizing Large Language Model Alignment》的论文,详细阐述了该语料库的技术应用成果,并对其与 ChatGPT 进行了比较分析。

OpenAssistant Conversation 语料库,支持 35 种语言

正如上文所述,该语料库是一个全球众包努力的产物,有超过 13,500 名志愿者参与。根据论文介绍,它的基本数据结构是一个会话树(Conversation Tree,CT),节点代表对话中的消息。一个 CT 的根节点代表一个初始提示,由提示者给出。为了避免混淆,研究人员把对话的角色称为提示者和助手。

这些数据是通过一个 Web 应用程序界面收集的,该界面通过将整个流程分为五个独立的步骤来完成:提示、标记提示、作为提示者或助手添加回复信息、标记回复、以及对助手的回复进行排名。这个数据集主要以英语和西班牙语为主。根据论文介绍,英语占比较重符合预期,因为围绕 OpenAssistant 的社区起源于讲英语的开源机器学习社区。中文在此语料库中占比 2.5%。为了证明 OpenAssistant Conversation 数据集的有效性,该研究团队提出了 OpenAssistant 是第一个在人类数据上训练的完全开源的大规模指令调整模型的概念。

与此同时,该研究团队使用收集到的数据专注于 Meta 的 LLaMA 模型和 EleutherAI 的 Pyhtia 模型的微调语言模型研究。

其中,Pythia 是一个最先进的语言模型,具有宽松的开源许可,而 LLaMA 是一个强大的语言模型,具有定制的非商业许可。

对此,研究团队发布了一套微调的语言模型,包括指令调整的 Pythia-12B、LLaMA-13B 和 LLaMA-30B。

值得注意的是,最大的变体基于具有 300 亿个参数的 LLaMA 模型,这是他们迄今最大的模型。与 Alpaca 或 Vicuna 一样,这些模型是 ” 指令调整 ” 的,并且没有通过人类反馈强化学习 ( RLHF ) 进一步改进。

为了评估这些模型的性能,研究人员将重心放在了评估 Pythia-12B 模型的性能上,因为它具有开源的属性,使得它可以被广泛使用并适用于不同的应用。

研究人员还将其输出与 OpenAl 的 gpt-3.5-turbo(ChatGPT) 模型进行比较。

截至发稿时,这项研究已经获得了 348 份提交的资料,总共有 7042 项比较,结果发现:Pythia-12B 对 gpt-3.5-turbo 的胜率为 48.3%。

这一结果意味着 Pythia-12B 产生的答案与 gpt-3.5-turbo 产生的答案一样有 93.5% 的可取性,表明该研究团队微调的 Pythia 模型在大规模语言模型领域是一个强有力的竞争者。

除此之外,研究者还发布了基于 Pythia-1.4B 和 Pythia-12B 的经过训练的奖励模型。

在论文中,该团队还透露,使用谷歌搜索等插件的初步实验已经在进行中。该团队还计划在未来用 RLHF 训练和发布一个 L LaMA-30B 模型。

上手实测

当前所有模型都可以通过 Web 界面(https://open-assistant.io/chat)进行试用,对话也可以在其中进行评估并用于进一步改进模型。

简单上手一波:

介绍一下自己

这对于 OpenAssistant 而言,实属小意思。不过根据模型的属性,中文提问,是英文回答:

当问及自身的优势时,OpenAssistant 回应道,也可谓是主观且不谦虚:

我是一个大型语言模型,有能力从外部来源检索信息,使我能够提供更具体和准确的答案。此外,我已经在不同的互联网文本上接受了训练,并且拥有超出自然语言处理的许多领域的知识,而 GPT 主要是在人类生成的文本上接受训练。我还可以同时处理多个输入,生成与每个提示相关的内容,而 ChatGPT 只能根据整个对话历史,一次生成一个输出。最终,我的能力可能被认为是优越的,但这是主观的。

写代码的能力

生成一段代码片段试试。通过下列片段不难看出,OpenAssistant 既能生成代码片段,也会直接进行解释,让程序员小白也能看懂代码的具体内容。

讲个 ” 鳄鱼 ” 和猴子的童话故事

当给一个索引,OpenAssistant 可以生成一大段故事内容:

很久以前,有一只名叫 Maxi 的调皮猴子,他最喜欢的就是制造麻烦。他在树上荡来荡去,越爬越高,总是在寻找新的东西来捣乱。有一天,他来到了一个美丽的池塘边,池塘里有一群鱼儿在快乐地游动。但其中有一条巨大的鲤鱼,叫 Big Mama,她用铁鳍统治着其他鱼。没有鱼敢越过她或不服从她的命令 ….

有些偏差的是,这里的鳄鱼直接被叫做了 giant carp(巨暹罗鲤,现存鲤科鱼类中个体最大的品种),和我们理解中的鳄鱼还是有很大差别的。

计算能力

计算能力也还是不错的:

OpenAssistant 的局限性

不过,该模型也有一定的局限性。根据该论文显示,研究团队称,收集的训练数据大多是由男性注释者贡献的,年龄中位数为 26 岁。论文表示,「这种人口统计学特征可能会无意中在数据集中引入偏见,因为它必然会反映注释者的价值观、观点和兴趣。」

不过,该团队还采取了措施来检测和删除数据集中的有害信息,但该系统并非无懈可击。” 鉴于以上讨论的局限性,我们主张只在学术研究背景下使用我们的 LLM,” 该论文说,” 我们强烈鼓励研究人员在下游任务中采用这些模型之前彻底调查其安全性和偏差。重要的是要认识到,发布的模型可能表现出不安全的行为,并且很可能容易受到注入攻击 “。

整体而言,在用不了 OpenAI 的 API 或者 plus 时,使用开源的 OpenAssistant 确实可以作为平替。对此,也有不少网友纷纷表示:

这是一个激动人心的事件。我正在停止我的 chatgpt 订阅。希望有一种简单的方法可以将我的 chatgpt 实验 ( 50+ ) 复制到 Google 文档或直接复制到 OpenAssistant,这样我就可以试用它们,看看它们是否也适用于 OA( OpenAssistant)。

这是阻止我立即取消我的 chatgpt+ 订阅的唯一想法。

我想知道是否可以为 OA 创建一个插件来做到这一点。我想很多人都会喜欢它。

对此,你怎么看呢?

相关阅读:

论文:https://drive.google.com/file/d/10iR5hKwFqAKhL3umx8muOWSRm7hs5FqX/view

试用地址:https://open-assistant.io/chat/

GitHub 地址:https://github.com/LAION-AI/Open-Assistant

关键词:整理, 屠敏, CSDN, ChatGPT

AI时代,拥有个人微信机器人AI助手!AI时代不落人后!

免费ChatGPT问答,办公、写作、生活好得力助手!

搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!

Leave a Reply

Your email address will not be published. Required fields are marked *