AI与数学

机器之心报道 编辑：陈萍、小舟 写好 prompt 已经成为 LLM 的一项必修课。 随着 ChatGPT、GPT-4 等大型语言模型（LLM）的出现，提示工程（Prompt Engineering）变得越来越重要。很多人将 prompt 视为 LLM 的咒语，其好坏直接影响模型输出的结果。 如何写好 prompt，已经成为 LLM 研究的一项必修课。 引领大模型发展潮流的 OpenAI，近日官方发布了一份提示工程指南，该指南分享了如何借助一些策略让 GPT-4 等 LLM 输出更好的结果。OpenAI 表示这些方法有时可以组合使用以获得更好的效果。 指南地址：https://platform.openai.com/docs/guides/prompt-engineering 六个策略，获得更好的结果 策略一：写清楚指令 首先用户要写清楚指令，因为模型无法读懂你的大脑在想什么。举例来说，如果你希望模型的输出不要太简单，那就把指令写成「要求专家级别的写作」；又比如你不喜欢现在的文本风格，就换个指令明确一下。模型猜测你想要什么的次数越少，你得到满意结果的可能性就越大。 只要你做到下面几点，问题不会太大： 首先是提示中尽量包含更详细的查询信息，从而获得更相关的答案，就像下面所展示的，同样是总结会议记录，采用这样的提示「用一个段落总结会议记录。然后写下演讲者的 Markdown 列表以及每个要点。最后，列出发言人建议的后续步骤或行动项目（如果有）。」结果会比较好。 其次是用户可以提供示例。例如，当你想让模型模仿一种难以明确描述的回答风格时，用户可以提供少数示例。 第三点是指定模型完成任务时所需的步骤。对于有些任务，最好指定步骤如步骤 1、2，显式地写出这些步骤可以使模型更容易地遵循用户意愿。 第四点是指定模型输出的长度。用户可以要求模型生成给定目标长度的输出，目标输出长度可以根据单词、句子、段落等来指定。 第五点是使用分隔符来明确划分提示的不同部分。”””、XML 标签、小节标题等分隔符可以帮助划分要区别对待的文本部分。 第六点是让模型扮演不同的角色，以控制其生成的内容。 策略 2 提供参考文本 语言模型会时不时的产生幻觉，自己发明答案，为这些模型提供参考文本可以帮助减少错误输出。需要做到两点： 首先是指示模型使用参考文本回答问题。如果我们可以为模型提供与当前查询相关的可信信息，那么我们可以指示模型使用提供的信息来组成其答案。比如：使用由三重引号引起来的文本来回答问题。如果在文章中找不到答案，就写「我找不到答案」。...

封面新闻记者 车家竹 当你输入一个想法，一个问题，它能够理解，给出回答，它通常会谈及它所了解到的信息，或者告诉你应该去哪些地方寻求帮助。你利用这些信息集思广益，结合自己的经验来重塑想法、完善观点，新的idea就此诞生…… 它是谁？ 它是ChatGPT。 OpenAI推出GPT-4.0 ChatGPT的前世今生 1950年，“人工智能之父”艾伦·图灵首次提出机器具备思维的可能性，他提出了一个被称为“图灵测试”的概念。将人工智能给出了一个完全可操作的定义：如果一台机器输出的内容和人类大脑别无二致的话，那么我们就没有理由坚持认为这台机器不是在“思考”。 计算机科学之父、人工智能之父：艾伦·图灵 图灵测试，也就是图灵所说的“模仿游戏”的操作很简单：一位询问者将自己的问题写下来，发给处于另外一个房间之中的一个人和一台机器，然后根据他们给出的答案确定哪个是真人——如果无法判断或混淆了被考察的机器和人，则可认为被测试的机器具有某种程度的智慧 从此，通过图灵测试成为了人类在AI领域为之奋斗的里程碑目标。 图灵测试 70年后的今天，在AI历经了数十年的不断进化、迭代后，ChatGPT的诞生，成为了人类距离这个里程碑最近的一次。 2022 年 11 月 30 日，OpenAI通过GPT-3.5系列大型语音模型微调而成的全新对话式AI模型ChatGPT正式发布。尽管当时ChatGPT的界面看起来简单，甚至有时受到可靠性问题的困扰，但在上线短短5天就吸引了百万用户，两个月后用户数量飙升至1亿。 每次更新中，ChatGPT 也在不断进化。第一次更新，提升了总体性能，增加了保存和查看历史对话记录的新功能。第二次更新，改善了回答的真实性，增加了“停止生成”新功能。之后，OpenAI还发布限于部分用户使用的付费版ChatGPT Professional。2023 年1月，ChatGPT第三次更新，在此提升了答案真实性的同时，还提升了数学能力。 2023年的一次重大更新，OpenAI震撼推出了大型多模态模型GPT-4，不仅能够阅读文字，还能识别图像，并生成文本结果，提升了模型的复杂性、性能和功能。这意味着它在理解和生成语言方面更加复杂和先进，更多的参数通常意味着更好的理解能力和更流畅、准确的文本生成。在处理复杂的查询和多步骤问题上更为灵活和有效，能够更好地处理模糊或复杂的指令。 ChatGPT发展路径 技术本质：大型语言模型的应用 Transformer、InstructGPT、AIGC、自监督学习、位置编码…… ChatGPT横空出世后，伴随而来的是大量AI概念，各种术语让人眼花缭乱，但ChatGPT背后的技术本质，其实是大型语言模型(LLM)的应用。 大型语言模型是由十亿或更多的参数的神经网络组成的语言模型，使用无/半监督学习对大量样本进行训练。目前，大型语言模型已经改变了许多领域，包括自然语言处理、计算机视觉等。作为一个通用的语言模型，其用途广泛，而非针对一项特定任务（例如情感分析、命名实体识别或数学推理）进行训练。 大模型的出现是否对科学研究领域是否带来了冲击？对此，重庆大学微电子与通信工程学院的张磊教授向记者表示：“我的研究方向是做开放环境的视觉感知的一系列任务，我关心的问题是怎么让视觉模型在开放环境的感知的时候具备比较强的鲁棒性、泛化性。大模型来了之后，这个问题可能会变得更加复杂。大模型它的特点是两大要素，模型大、数据大，天然具备开放环境的优势，它会帮助我们更好解决开放环境上的任务，但同时也会带来更大的挑战。因为我本身是做适配、做泛化、做迁移的，接下来就是以大模型为基础，利用预训练的大模型去做一些下游的任务的适配。所以大模型对我来说是一种帮助，我个人是非常拥抱大模型的。” 重庆大学电子信息工程系张磊教授 随着大模型的出现，研究领域未来趋势预测又会是怎样？刚参加完第七届亚洲人工智能技术大会的张磊教授分析到：“现在大模型是算力的堆积加数据的堆积，但是这一定不是未来的状态。我对未来人工智能发展第一个看法是，跟类脑结合，即不应该是现在这种往大了发展的大模型，而是往类脑这个角度发展。第二个看法是从算法角度来说，未来不是大模型，而是小模型。这个小模型跟大模型之前的小模型，不是同一个小模型，而是说受到了大模型的指导、影响之后的一个小模型。” “未来的天下应该是属于这个小模型的，因为我们要涉及很多的领域，不仅是在自然语言领域，也不仅是在视觉领域，还有很多的垂直领域里面不可能都会去训练大模型，但是可以去借助大模型的知识来辅助小模型的训练。” 怎样去理解张教授所提及的“小模型”，他举例补充到：“就像人的学习一样，不可能上来就把小学到博士的所有的教材全部甩给一个小朋友，让他自己去学，我们需要老师来教授知识。可以把老师理解成一个很大的模型，他是经过了很多年的锤炼，成为一个大模型，但是要去教一个小朋友的时候，可以用一个老师去教给他，那这时候他接触就比较快，比自己去看书要学得快得多。” ChatGPT官网 智能未来：AI继续加速？ ChatGPT标志着里程碑式的技术进步，在最具挑战性的自然语言处理领域实现了革命性突破。相比视频、图像、语音等，自然语言的语法、语义、逻辑复杂，存在多样性、多义性、歧义性等特点。因此，长期以来自然语言处理被认为是人工智能最具挑战性的领域。高质量的自然语言理解和生成，并且能够进行零样本学习和多语言处理，为自然语言处理领域带来了前所未有的突破。 人工智能在不同场景应用需要训练不同模型,而ChatGPT可完成人机对话、机器翻译、编码测试等多种任务，已经具备通用人工智能的一些核心技术和特征：能够自动化地学习各种知识、信息，不断自我优化；充分理解和流畅表达人类语言，逻辑推理强，实现了具备一般人类智慧的机器智能；也在不断证明着大模型的学习和进化能力，目前大模型智能程度已接近人类水平，甚至一些业界人士认为，将来会逐渐产生自我认知和感知，进而出现意识并且超越人类。 或许我们还在猜测人工智能是否会像互联网、社交媒体和智能手机那样带来世界变革。但不可否认的是，AI技术的出现是技术的飞跃，也正在重组我们的生活方式…… （图片源自于网络） 举报/反馈

文章比较了谷歌的Gemini大模型和OpenAI的GPT模型，探讨了它们在数学、编程和文本生成等方面的表现。同时，通过一次全面PK展示了谷歌Bard聊天机器人在这些方面的进步，并提出了Gemini Pro、GPT-3.5和GPT-4哪一个对普通人的工作效率提升最大。

这篇文章主要介绍了Gemini AI模型的多种功能和应用，包括手势识别、视频物体的识别与分类以及作为编织刺绣爱好者的设计指导等。同时，文章也提及了Gemini模型与多模态交互的特点，强调了它在处理复杂任务上的优势。然而，面对Gemini这样的强大对手，其他AI模型如OpenAI可能会如何应对，仍然值得期待。