文章主题：谷歌DeepMind, AI大模型, KnowNo, 模糊指令
原标题：谷歌DeepMind研发AI大模型KnowNo，能更好应对人类的模糊指令
在一张包含两个碗的桌子上，一个碗是塑料制成的，而另一个则是金属制成。现在，请你告诉机器人应该 pick哪一个。从热力学的角度来看，塑料碗比金属碗更容易被加热。因此，根据热力学原理，机器人很可能会选择较轻的、易加热的塑料碗，并将其放入微波炉中。
在面临这些要求时，人类往往会进行再次确认以确保正确性。然而，对于机器人而言，若接收到的指令较为含糊，可能导致其误解指令，进而采取错误的行为。例如，在某些情况下，机器人可能会将金属碗误认为是食物，并将其放入微波炉中，从而引发潜在的安全隐患。
在现代的机器人技术领域中，一种名为“KnowNo”的创新训练模型备受关注。该模型的主要目标在于教导机器人如何在指令模糊的情况下，积极寻求人类专家的帮助，以便找到解决方案。相关研究成果已经整理成论文，并计划在2023年11月的机器人学习会议上发布。
该模型会确保机器人只在必要时寻求二次确认，最大限度地减少不必要的来回询问。
这样就得到了一个聪明的机器人助手，它会努力理解你究竟想要什么，而不会过多地打扰你。
（来源：arXiv）
谷歌DeepMind的研究科学家Andy Zeng对于这种新技术的开发做出了重要贡献。他提到，尽管机器人在各种特定环境中展现出强大的能力，但在需要常识的通用任务上，它们的性能却往往不尽如人意。
在执行任务时，机器人需要遵循一个明确的步骤来获取一瓶可乐。首先，它会意识到自己需要前往厨房，然后寻找冰箱的位置。接下来，它会打开冰箱的门，并取出那瓶期待已久的可乐。这样的过程不仅确保了机器人的任务完成，同时也展示了其严谨的工作态度。
按照惯例，这些较小的子步骤必须提前编好，因为否则机器人不会知道人们通常把饮料放在厨房里。
Zeng 指出，大型语言模型（LLM）具备丰富的常识，能有效地解决一系列问题。
在如今这个时代，当我们向机器人提出要求时，拥有丰富世界观的大语言模型能够为其生成一系列逐步完成的指令，以便顺利地完成任务。
大模型存在的问题在于其无法确保机器人能够准确地执行所给的指令。举例来说，如果某人的厨房中没有冰箱，或者冰箱门把手出现故障，那么机器人就需要寻求人类的帮助。
KnowNo 通过将大型语言模型与量化置信水平的统计工具相结合，实现了这一点。
当有人给出一个模棱两可的指令，比如“把碗放进微波炉”时，KnowNo 首先使用语言模型生成多个可能的下一个动作，然后它会创建一个置信度得分，预测每个选择成为最佳选择的可能性。
这些置信度估值是根据预定的确定性阈值来确定的，该阈值规定了用户希望机器人在其动作中有多自信或保守。例如，一个成功率为 80% 的机器人至少在 80% 的情况下都应该做出正确的决定。
美国普林斯顿大学机械和航空航天工程助理教授、该研究的高级作者阿尼鲁达·马宗达（Anirudha Majumdar）说，这在不同风险程度的任务中是有用的。
你可能希望你的扫地机器人更独立一些，尽管会犯一些错误，但你不必过于密切地监督它。但对于医疗应用，机器人必须极其谨慎，尽可能保证任务成功。
当有不止一个选项可供选择时，机器人会停下来要求澄清，而不是盲目地继续：“我应该拿起哪个碗，金属的还是塑料的？”
Knowno 在三个机器人上进行了 150 多种不同场景的测试。结果显示，与那些没有进行过相同统计计算训练的机器人相比，经过 KnowNo 训练的机器人在需要更少人力帮助的情况下，成功率更高。
由于人类语言往往模棱两可，教机器人识别和应对不确定性可以提高它们的表现。
美国弗吉尼亚理工大学专门研究人机交互的助理教授迪伦·洛西（Dylan Losey）表示，研究表明，人们更喜欢会提问的机器人，他没有参与这项研究。
他说，当机器人寻求帮助时，会增加他们如何决定做什么的透明度，从而带来更好的互动。
美国普林斯顿大学博士生、该研究的主要作者 Allen Ren 表示，有几种方法可以改善 KnowNo。现在，它假设机器人的视觉总是可靠的，而现实里传感器可能出现故障。此外，模型也可以进一步优化，以考虑人们在提供帮助时可能带来的错误。
马宗达说，人工智能表达不确定性的能力将使我们更加信任机器人。“量化不确定性是我们许多系统中缺失的一部分。”他说，“这让我们对机器人的安全性和完善度更有信心。”
作者简介：我是一名报道气候、能源和技术交叉点的研究员。我热衷于使用数据和图形来讲述引人入胜的人类故事。此前，我曾在美国和韩国的多家媒体机构制作广播和多媒体新闻，涵盖从移民到音乐再到公共卫生等主题。
支持：Ren返回搜狐，查看更多
责任编辑：
谷歌DeepMind, AI大模型, KnowNo, 模糊指令
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
