60多年前，对于当时新兴的计算机技术发展方向，人们有两种截然不同不同的看法：要么寻求于扩大人类的思维力量，要么致力于取代人类思维。尽管从那时开始个人电脑就开始变得不可或缺，但是如今许多技术专家认为人工智能的新进展会对人类生存产生潜在的威胁。然而，如果说它威胁的并不是我们的生存，而是我们存在的意义呢？

1960年代，现代计算机世界首次诞生于斯坦福大学两段的两个计算机研究实验室。正如同它们的地理位置，这两个实验室构想着两个截然不同的计算机世界。其中一个实验室SAIL，由提出“人工智能”一词的计算机科学家麦卡西（John McCarthy）成立。它的目标是在未来十年内设计出一台会思考的机器，即制造一台复制人类所有生理与心理能力的机器。而另一名计算机科学家恩格尔巴特（Douglas Engelbart）则在校园的另一端建立了另外一个研究所，致力于创建一个可以扩展人类思维能力的系统，这也使他成为“增强智能”一词的创造者。

计算机世界从此便开始分叉。尽管这两个实验室都由美国国防部资助，但是它们相矛盾的理念却在交互式计算时代来临之际，形成了紧张与对立的局势。一个实验室的目标是扩展人类思维，而另一个实验室的目标则是取代人类思维，而这对紧张的关系至今仍是数字世界的核心。有趣的是，看似相左的理念却殊途同归。人工智能正试图取代人类活动，而用于增强人类思维能力的增强智能也预示着一个人类不再被需要的世界。事实上，随着1970年代个人计算机行业的兴起，恩格尔巴特的增强智能愿景率先被付诸于实践，尽管很多人最初认为他是个梦想家和局外人。就连乔布斯（Steve Jobs）也将个人电脑比喻为“人类思维的自行车”，或许是对这一观点的最好诠释。

在两所实验室分别展开60年研究后的今天，我们已经即将实现麦卡西的愿景。在旧金山的街道上，无人驾驶的汽车司空见惯。微软的研究人员最近发表了一篇论文，声称在大型语言模型或聊天机器人这种的最强人工智能系统上，他们看到了“人工通用智能的火花”，即，机器具有人类的推理能力。

可以肯定的是，人工智能研究人员最近取得的成就引发了一场激烈的争论：硅谷是否变得过度紧张，从而陷入自我焦虑。事实上，有迹象表明人工智能革命的到来可能比技术倡导者所认为的还要慢。比方说，没有人知道如何让聊天机器人不那么容易产生“人工智能的幻想”，那种它们凭空捏造的冲动。

更糟糕的是，一些批判者提出最严厉的批判，他们认为聊天机器人的最新进展会引发人类对人机交互赋予人格。这的确是非常真实的人类特征，即：把石头宠物、机器人以及软件程序等这些无生命物当做人类。华盛顿大学语言学家本德（Emily Bender）创造了“随机鹦鹉”一词，以表达她自然语言并不等于语言的观念。她试图将这些进步置于一个更有限的语境中，这些看似超越人类的能力与其说是真实的，不如说只是一种幻想。

不管是哪种情况，硅谷都陷入了对超人类机器人即将到来的狂热之中，技术专家们也开始重温半个世纪以来科幻小说中的各种黑暗幻想。从终结者和HAL 9000这样的杀人机器人，再到像是拥有空灵嗓音的斯嘉丽（Scarlett Johansson）在电影《超体》（Lucy）中所扮演的超智人，一系列关于超人类机器人的大胆尝试正不详地再现，甚至许多发明者自己也在呼吁政府尽快规范他们的行业。这就是一个幻想出来的 “回形针问题”，即：假设机器人的任务是最大量的生产回形针，那么，在它们在“无辜地”执行任务的过程中会消灭人类，因为它们会把人类也未为生产资料去完成任务。然而，这种庸人自扰其实是为了强调，人工智能缺乏像人类一样进行道德选择的推理能力。

不过，如果关于人工智能对人类生存威胁的焦虑是搞错了方向呢？如果人工智能的最新进展所带来的真正影响，不是人工智能与增强智能的二分法，而是两者进行了奇妙的融合，并且已经开始改变人类的意义呢？这种新关系的特点在于，随着人工智能与增强智能的相互融合改变了人类互动和决策的本质，人类智慧与机器能力的结合正变得越来越天衣无缝。更重要的是，作为一种人类与计算机之间强大接口的自然人类语言的横空出世，为新时代拉开序幕。

曾经，大型计算机只有企业、军队和科研专家才能使用。而如今，随着现代半导体技术的不断发展，不仅芯片的功能越来越强大，就连价格也越来越低。指数级的改进不仅意味着计算速度的提升，也意味着计算成本的提高。因此，每一代新计算机都能惠及更多的人群。

1970年代，微型计算机将其计算范围扩展到公司部门；十年后，个人计算机进入白领阶层，而家用计算机也将计算范围扩展到家庭房间和书房；现如今，地球上有一半的人都接触到了智能手机。我们可以看到，当计算机掌握自然人类语言，它可以触及整个人类，而计算机构架也会在全球铺展开来。

因此，当真正的人工智能即将来临之时，我们该认真思考《星际迷航》的隐喻。该剧虚构出一个叫做“博格人”的外星敌族，他们通过外科手术方式在被同化种族上植入控制元件，强行将个体生命改造成博格集体意识的一个载具，从而扩大了自己的势力。博格人的口号是“抵抗是徒劳的，你们终究会被同化。”其实，包括维森鲍姆（Joseph Weizenbaum）在内计算机科学家早提出过警告。他在1976年出版的《计算机能力与人类理性》一书中就提出： “计算机可以用来扩展人类的能力，但绝不能取代人类。” 然而，对于自身与正在创造的机器之间的关系，似乎人们并没有足够的重视。

哲学家布伯（Martin Buber）用 “我与你”的关系精妙地论述了人类的本质。当人类之间进行交往的时候，是以一种直接、双向、开放及诚实的方式进行。与此相反的则是“我与它”之间的关系，即：人们与无生命物打交道时的关系。当然，在某些情况下，人们把其他人物化，只看重其是否有用。如今，我们必须添加一种新的关系，即“我与它与你”，这中关系在新兴的网络数字世界中已变得十分常见。

随着计算机网络渗透到全球各地人与人的交流当中，一种以算法为媒介、涵盖几乎所有社会、经济和政治互动的计算机构架正悄然出现。无论是商业、约会，还是在新冠疫情时期广为流行的视频商务会谈，人们大多数的互动都不再是面对面的，而是由计算机筛选我们见面的人、读的书，甚至在很大程度上为我们合成了一个周遭的数字世界。

这个全新的数字化社会会带来什么后果？简易对话式人工智能系统的问世预示着依赖广告收入的互联网时代的终结，以及风险资本资助的淘金热的兴起。在这股浪潮下，科技公司竞相开发既能与人类互动，又能说服——说得直白点是操纵——人类的聊天机器人，人类本身已然成为商品的一环。

其中最极致的是硅谷老男孩马斯克（Elon Musk），他既想把人类文明带向火星，又在警告人工智能对人类文明与日俱增的威胁。2016年，他成立了一家脑机接口公司Neuralink，计划在人脑中植入一根电线，以此创建一个脑机接口。据马斯克推测，这项研究能够让人类控制人工智能系统，从而避免未来终结者式的人工智统治人类的情况。然而，如果有人认为如此紧密的人机耦合不会适得其反，那真是太天真了。

过去七年里，美国痛苦地认识到，计算机网络带来了不同价值观的双向奔赴。最初，人们相信互联网有助于在全世界播撒民主的种子，结果却是事与愿违。美国的民主制度受到了外国特工的攻击，虚假信息的散布造成了政治的混乱。

我们的社会必须在人类与机器之间划出明确的界线。当人工智能变得越来越强大，人类与人工智能的紧密结合有可能产生危险的依赖性，这会削弱人类的能动性和主动性，并削弱人类在没有技术辅助情况下的行为能力。比如说，我们需要可移除的界面，它将保持人类在任何时候、以任何方式对人工智能工具进行控制。这样，人类就可以在人工智能发展的积极面中受益，同时降低过度依赖而丧失独立决策的风险。

当然，仅有一条明线是不够的。最重要的是，我们必须抵制对人工智能新伙伴人格化的诱惑。1980年代，时任美国总统里根（Ronald Reagan）在界定美国与苏联的关系时套用了俄罗斯名谚“信任，但要核实”的概念。然而，我们要如何去信任一个没有道德准则的机器呢？整整一代人都必须学会批判性思维的艺术，就像过去对待政治对手那样对待新的智慧伙伴。因此，在这个人工智能新时代，我们需要“核实，但绝不信任”的谚语。