《人工智能时代的“语言理解”》

在我国，人工智能的发展速度犹如雨后春笋般迅速，有人甚至预测，随着诸如ChatGPT等具备编程能力的AI的出现，人类将不再需要学习编程。然而，尽管这些人工智能的代码是由人类编写而成，但在经过训练后，它们往往无法完全被人类理解，人们通常只能尝试对其进行解读。代码如同机器的语言，当越来越多的人能够掌握这种语言时，他们就有可能成为机器革命的创造者，而非仅仅为其提供解释的专家。一篇来自编译的文章，这是一封来自国外网站的读者来信以及编辑部的回信，旨在启发大家深入思考这一问题。

打开凤凰新闻，查看更多高清图片

ILLUSTRATION: SHEN HOU

作为一个对编程一无所知的人，我常常感到自己的落后和无助。然而，当我看到如今如此丰富的学习资源，包括无数书籍、在线课程和夏季训练营时，我意识到这也许是我迎头赶上、了解这个快速发展的时代的最好机会。于是，我忍不住问自己：“我应该尝试学习编程吗？掌握机器语言将有助于我更深入地理解机器革命所带来的变革。”

亲爱的 Decoder：

你的渴望学习“机器语言”的想法，让我联想到特德·姜（Ted Chiang）的短篇小说《人类科学的进化》（The Evolution of Human Science）。在这个设定未来的故事里，我们可以设想，大部分学术领域都由拥有超强智能的“超能力者”掌控，他们在理解世界方面远超人类专家。这些超能力者的科学论文尽管表面上看起来是用人类语言书写，并发表在公开的科学期刊上，但在技术层面上却极其复杂且深奥，以至于大多数人类科学家都无法理解。因此，人类科学家在现实中已被降格为类似神学家的角色，他们试图解释那些对自己而言难以理解的文本，如同中世纪的哲学家试图解读上帝的意志一样。这些科学家并非在从事创新性的研究，而是在实践解释学的艺术。

曾经有一段时间，编程被认为是最有前途的技能之一，它可以让一个人成为技术精英，决定人类的未来。特德·姜的故事首次发表于 2000 年，他预见到了编程这种知识技能的局限性，这是有先见之明的。在深度学习和其他形式的高级人工智能等领域，许多技术专家已经看起来更像神学家或炼金术士了，而不是现代意义上的“专家”：尽管他们编写了最初的代码，但却往往无法解释自己的程序在数据集上训练时产生的高层次技能。[2016年，DeepMind 的首席研究科学家大卫·西尔弗（David Silver）说，他无法解释自己设计的 AlphaGo 程序是如何制定制胜策略的：“它是自己发现和制定出这一策略的，”西尔弗说，“是通过它自己的反思和分析过程发现的。”]

与此同时，像 GPT-3 或 GitHub 的 Copilot 这样的算法已经学会了自己写代码，这引发了关于软件开发人员的争论，他们的职业曾经被认为是即将到来的自动化海啸中的一个平静岛屿，但可能很快就会发生改变，并引发对“自我编程”的恐惧。人工智能的自我进化引起了人们对技术日益不透明的担忧。毕竟，人工智能有一个公认的趋势，那就是发现特异的解决方案，并发明出违反人类直觉的特殊语言。许多人已经开始怀疑：当人类不再能阅读代码时会发生什么？

在谈论这个问题时，我旨在帮助你深入了解现实，并非贬低你的雄心壮志。事实上，我认为你的雄心是值得赞扬的。然而，我必须强调，对于程序员来说，过时的普遍担忧实际上是一种夸张和不切实际的预测。回顾过去几十年，自动化代码已经以各种形式存在（例如20世纪90年代的HTML和CSS网络编辑器）。即便是最先进的编码算法，现在也可能出现简单的错误，需要大量的人工监督。因此，我认为你并不是把编程当作一种职业，而是出于更深层次的好奇心驱动。或许你在寻找开源项目的贡献机会，或者为常用程序中的简单错误提供修改建议。又或许，你希望通过编程来自动化工作中的繁琐环节。总之，如果你能理解我的问题，那么你所期望的是对支持现代生活的语言有更全面的了解。

有一个令人信服的理由是，编码现在是一种基本的文化形式，当涉及到理解我们所处的更大的意识环境时，对数据结构、算法和编程语言的掌握，与阅读和写作一样重要。当然，对业余爱好者的不信任是很自然的。业余开发人员经常被诟病，因为他们掌握了编程语言的语法，却没有创造成功产品所需的远见和眼光。但是，这种专业知识的模糊也可以被看作是一种谦逊的修养。业余知识的一个好处是，它往往会激发人们的好奇心，因为它让新手觉得自己知道的东西太少。在一个精简、用户友好界面的时代，人们很容易只看技术的表面价值，而不考虑隐藏在表面之下的动机和议程。但是，你对底层结构了解得越多，就会有越多的基本问题困扰你：代码是如何转化为电脉冲的？软件设计如何微妙地改变用户体验？像开放获取、共享和数字公地等原则的潜在价值是什么？例如，对于普通用户来说，社交平台的设计似乎是为了将你与朋友联系起来，并传递有用的信息。然而，了解一个网站是如何构建的，不可避免地会导致人们更加批判性地思考其功能是如何设计的，以最大限度地吸引用户的注意力，创建强大的数据跟踪，并在社交图谱中盈利。

最终，这些知识有可能让我们免受宿命论的影响。那些了解程序是如何构建的、以及为什么要构建的人，不太可能接受既定的程序设计的必然性。你谈到了机器革命，但值得一提的是，历史上最著名的革命（那些由人类发起的革命）都是大众文化与技术创新相结合的结果。比如，印刷机的发明和新识字的公众对书籍的需求，为宗教改革以及发生在法国和美国的革命奠定了基础。一旦相当一部分民众能够自己阅读了，他们就会开始质疑神职人员和国王的权威，以及统治假设的必然性。

目前，一些技术专家正在权衡我们最紧迫的道德问题（关于数据公正、自动化和人工智能价值），他们经常强调需要进行更大规模的公开辩论，但当公众缺乏对相关技术的基本知识时，具体和细微的对话就很难进行。（例如，只需看一眼美国众议院小组委员会最近举行的听证会，就可以看出立法者对他们试图监管的技术的理解有多差。）正如《纽约时报》科技作家凯文·卢斯（Kevin Roose）所观察到的那样，先进的人工智能模型正在“关起门来”开发，好奇的外行越来越多地被迫通过深奥的报告来了解其内部工作原理，或者相信专家的解释。“当有关（这些技术）的信息被公开时，”他写道，“通常要么被企业公关淡化，要么被淹没在高深莫测的科学论文中。”

特德·姜的故事告诫我们，人类应保持“局内人”的心态，同时也要努力扩大自己的社交圈子。随着人工智能逐渐掌握我们的语言，并以惊人的方式 阅读、写作和交流，我们对编程语言的需求变得越来越重要。当越来越多的人能够理解和运用这种语言时，他们就有更大的可能成为机器革命的创新者，而非仅仅为其做出解释的学者。

此致,

Cloud

译者：Jane