文章主题：开源, 人工智能助手, ChatGPT, 语言模型
本文由CSDN（ID:CSDNnews）公众号提供，经授权站长之家发布并整理。
自去年11月 ChatGPT 面向公众测试以来，OpenAI 一直占据各大科技网站的头版头条，以及成为很多开发者工具的首选。ChatGPT 的落地不仅仅可以提供代码建议、总结长文本、回答问题等等，更为重要的是它开启了 AIGC 的新时代。
不过由于 OpenAI 不再 Open 的问题，该工具在备受好评的路上也备受争议。在此背景下，一批批开源实践者在大模型维度开始了多种尝试，意欲复刻一个 ChatGPT，OpenAssistant 便是参与竞争的开源产品之一。
Open Assistant 机器学习模型是由一家德国非营利组织 LAION 运营。近日，该组织官宣现在可以使用OpenAssistant模型、训练数据和代码，并将该模型称之为「全球最大的 ChatGPT 开源复制品」，试用地址:https://open-assistant.io。
如今，借助开源途径，人们能够轻松地应用会话AI技术，这一趋势使得Open-Assistant（https://github.com/LAION-AI/Open-Assistant）在众多开源项目脱颖而出。自上线以来，该项目的Star数量已经达到24.1k，Fork次数也达到了1.9k，充分展示了其在开源社区中的受欢迎程度和影响力。
世界上最大的 ChatGPT 开源平替——OpenAssistant
2022年12月，OpenAssistant项目应运而生，其诞生正值OpenAI发布ChatGPT之后不久。
我们并不满足于仅仅模仿 ChatGPT，而是致力于打造未来的人工智能助手。这样的助手不仅能撰写电子邮件和求职信，还能执行有价值的工作、运用API以及动态研究信息等。更重要的是，这个助手将能够根据任何人的需求进行个性化并得以扩展。为了实现这一目标，我们必须采用开放且易于访问的方法，不仅要打造一个卓越的助手，还要确保其体积小巧且运行高效，从而能够在消费级硬件设备上运行。在OpenAssistant项目的GitHub页面上，维护者这样写道。
Open Assistant 的目标在于构建一个与 ChatGPT 相当的人工智能助手，其实现方式是开源的。项目维护者坚信，借助此项目，他们能够对语言本身进行优化，作用类似于稳定地推动新艺术和图像的创作。换言之，Open Assistant 将致力于打造一个拥有与 ChatGPT 相同功能的开源人工智能助手，从而对语言领域产生积极影响，推动其发展。
为确保数据的丰富性和准确性，该团队耗时近五个月，在超过13500名志愿者的协助下，构建了一个由人类生成并经人类注释的助理式对话语料库。这个库包含了来自66497个会话树总共161,443条信息，涵盖了35种不同的语言，并且拥有461,292个质量等级的注释。这些注释不仅丰富了语料库的内容，还保证了其准确性和可靠性，为后续的研究和应用提供了有力支持。
在Open Assistant研究团队看来，AI未来的发展在很大程度上将依赖于公开展示的高品质数据集和模型，而这一项目正好致力于提供此类资源。如今，他们终于有机会向外公开这一功能强大的模型，并已提供一个易于访问的试用链接：open-assistant.io/chat。
在推出相关链接的同时，Open Assistant 研究团队也发表了一篇题为《OpenAssistant Conversations – Democratizing Large Language Model Alignment》的论文，详细阐述了该语料库的技术应用及其与 ChatGPT 进行的比较分析。
OpenAssistant Conversation语料库，支持35种语言
正如上文所述，该语料库是一个全球众包努力的产物，有超过13，500名志愿者参与。根据论文介绍，它的基本数据结构是一个会话树（Conversation Tree，CT），节点代表对话中的消息。一个 CT 的根节点代表一个初始提示，由提示者给出。为了避免混淆，研究人员把对话的角色称为提示者和助手。
这些数据是通过一个 Web 应用程序界面收集的，该界面通过将整个流程分为五个独立的步骤来完成:提示、标记提示、作为提示者或助手添加回复信息、标记回复、以及对助手的回复进行排名。
这个数据集主要以英语和西班牙语为主。根据论文介绍，英语占比较重符合预期，因为围绕 OpenAssistant 的社区起源于讲英语的开源机器学习社区。中文在此语料库中占比2.5%。
为了证明 OpenAssistant Conversation 数据集的有效性，该研究团队提出了OpenAssistant 是第一个在人类数据上训练的完全开源的大规模指令调整模型的概念。
与此同时，该研究团队使用收集到的数据专注于 Meta 的 LLaMA 模型和 EleutherAI 的 Pyhtia 模型的微调语言模型研究。
其中，Pythia是一个最先进的语言模型，具有宽松的开源许可，而LLaMA是一个强大的语言模型，具有定制的非商业许可。
对此，研究团队发布了一套微调的语言模型，包括指令调整的 Pythia-12B、LLaMA-13B 和 LLaMA-30B。
值得注意的是，最大的变体基于具有300亿个参数的 LLaMA 模型，这是他们迄今最大的模型。与 Alpaca 或 Vicuna 一样，这些模型是“指令调整”的，并且没有通过人类反馈强化学习 （RLHF） 进一步改进。
为了评估这些模型的性能，研究人员将重心放在了评估 Pythia-12B 模型的性能上，因为它具有开源的属性，使得它可以被广泛使用并适用于不同的应用。
研究人员还将其输出与 OpenAl 的 gpt-3.5-turbo（ChatGPT） 模型进行比较。
截至发稿时，这项研究已经获得了348份提交的资料，总共有7042项比较，结果发现:Pythia-12B 对 gpt-3.5-turbo 的胜率为48.3%。
这一结果意味着 Pythia-12B 产生的答案与 gpt-3.5-turbo 产生的答案一样有93.5% 的可取性，表明该研究团队微调的 Pythia 模型在大规模语言模型领域是一个强有力的竞争者。
除此之外，研究者还发布了基于 Pythia-1.4B 和 Pythia-12B 的经过训练的奖励模型。
在论文中，该团队还透露，使用谷歌搜索等插件的初步实验已经在进行中。该团队还计划在未来用 RLHF 训练和发布一个L LaMA-30B 模型。
上手实测
当前所有模型都可以通过 Web 界面（https://open-assistant.io/chat）进行试用，对话也可以在其中进行评估并用于进一步改进模型。
简单上手一波:
介绍一下自己
这对于OpenAssistant 而言，实属小意思。不过根据模型的属性，中文提问，是英文回答:
当问及自身的优势时，OpenAssistant 回应道，也可谓是主观且不谦虚:
我是一个大型语言模型，有能力从外部来源检索信息，使我能够提供更具体和准确的答案。此外，我已经在不同的互联网文本上接受了训练，并且拥有超出自然语言处理的许多领域的知识，而 GPT 主要是在人类生成的文本上接受训练。我还可以同时处理多个输入，生成与每个提示相关的内容，而 ChatGPT 只能根据整个对话历史，一次生成一个输出。最终，我的能力可能被认为是优越的，但这是主观的。
写代码的能力
生成一段代码片段试试。通过下列片段不难看出，OpenAssistant 既能生成代码片段，也会直接进行解释，让程序员小白也能看懂代码的具体内容。
讲个“鳄鱼”和猴子的童话故事
当给一个索引，OpenAssistant 可以生成一大段故事内容:
很久以前，有一只名叫 Maxi 的调皮猴子，他最喜欢的就是制造麻烦。他在树上荡来荡去，越爬越高，总是在寻找新的东西来捣乱。有一天，他来到了一个美丽的池塘边，池塘里有一群鱼儿在快乐地游动。但其中有一条巨大的鲤鱼，叫 Big Mama，她用铁鳍统治着其他鱼。没有鱼敢越过她或不服从她的命令….
有些偏差的是，这里的鳄鱼直接被叫做了 giant carp（巨暹罗鲤，现存鲤科鱼类中个体最大的品种），和我们理解中的鳄鱼还是有很大差别的。
计算能力
计算能力也还是不错的:
OpenAssistant 的局限性
不过，该模型也有一定的局限性。根据该论文显示，研究团队称，收集的训练数据大多是由男性注释者贡献的，年龄中位数为26岁。论文表示，「这种人口统计学特征可能会无意中在数据集中引入偏见，因为它必然会反映注释者的价值观、观点和兴趣。」
不过，该团队还采取了措施来检测和删除数据集中的有害信息，但该系统并非无懈可击。”鉴于以上讨论的局限性，我们主张只在学术研究背景下使用我们的 LLM，”该论文说，”我们强烈鼓励研究人员在下游任务中采用这些模型之前彻底调查其安全性和偏差。重要的是要认识到，发布的模型可能表现出不安全的行为，并且很可能容易受到注入攻击”。
整体而言，在用不了 OpenAI 的 API 或者 plus 时，使用开源的 OpenAssistant 确实可以作为平替。对此，也有不少网友纷纷表示:
这是一个激动人心的事件。我正在停止我的 chatgpt 订阅。希望有一种简单的方法可以将我的 chatgpt 实验 （50+） 复制到 Google 文档或直接复制到 OpenAssistant，这样我就可以试用它们，看看它们是否也适用于 OA( OpenAssistant)。
这是阻止我立即取消我的 chatgpt+ 订阅的唯一想法。
我想知道是否可以为 OA 创建一个插件来做到这一点。我想很多人都会喜欢它。
对此，你怎么看呢?
相关阅读:
论文:https://drive.google.com/file/d/10iR5hKwFqAKhL3umx8muOWSRm7hs5FqX/view
试用地址:https://open-assistant.io/chat/
GitHub 地址:https://github.com/LAION-AI/Open-Assistant
（举报）
开源, 人工智能助手, ChatGPT, 语言模型
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
