如果您还没有收到关于整个人工智能将接管世界的备忘录，以下是您需要了解的一些事实。（照片：Shan Sheehan/Flickr） 今年，有史以来第一次，计算机击败了围棋世界冠军，围棋是人类已知的最复杂的游戏之一。这是人工智能发展的又一个分水岭。
为了让您了解围棋的复杂程度，有 2.082 × 10^170 种可能的棋盘配置。那是 2，后面有 170 个零。很有可能你的大脑甚至无法想象这么大的数字（但计算机可以）。或者让你知道一个数字有多大 那 也就是说，宇宙中只有 10^80 个原子——即 1 后跟 79 个零。
之所以如此重要，是因为围棋是如此复杂，以至于为了击败顶尖的人类棋手，机器必须学会如何创造性地思考、即兴发挥和适应手头的情况，而无法计算出所有可能的情况结果;也就是说，必须有一些严肃的人工智能在进行——比如真正的、创造性的智能。
如果您还没有收到关于整个人工智能将接管世界的备忘录，以下是您需要了解的一些事实。
- 计算机变得越来越智能。
- 计算机正以越来越快的速度变得越来越智能——也就是说，过去需要 10 年才能实现的进步现在只需要一年时间。过去需要一年的进步，现在需要几周甚至几天。
- 在我们有生之年，很有可能会出现比任何一个人都更聪明、更有能力的计算机。
- 然后，这些更智能的计算机可能能够设计和改进技术（即自身），并创造出我们甚至无法开始理解的新技术。
了解以上几点的人，一般会有两种反应中的一种。任何一个：
- 他们认为我们完蛋了。计算机将接管一切并杀死/奴役我们所有人。或者：
- 这将带来一个技术乌托邦，它将解决我们所有愚蠢的人类争吵，在我们存在于云中的超 VR 世界中狂欢之后，我们都可以永远幸福地生活。
与大多数事情一样，真相可能介于两者之间。
但即使狗屎真的击中了风扇，即使机器人将我们视为破坏这个星球原始头皮的虱子并想要将我们全部包围并把我们扔进一座活火山，即使我们无意中发明了我们自己的机制灭绝……
……我不在乎。没关系。它不打扰我。它也不应该打扰你。我稍后会解释原因。但现在，你应该知道，我欢迎我们的新机器人霸主。
加速科技行业的发展
技术发展自身复合，导致 速度 发展本身加速。这意味着我们创造的技术越先进，就越容易创造出更先进的技术。因此，当我们审视计算技术的进步时，我们会看到一条指数曲线——即时间越长，事物发展得越快。 
技术发展自身复合，导致发展速度本身加快。（照片：丹尼斯斯克利/ Flickr）
计算能力平均翻倍 每 18 个月一次，持续 50 年 .在原始计算能力方面，计算机现在可以与老鼠大脑相媲美，而就在几年前，计算机甚至无法与昆虫大脑竞争。
为了让您更直观地了解技术进步的速度，现在每 2 分钟拍摄的照片比整个 19 世纪拍摄的照片还多。 有史以来拍摄的 3.5 万亿张照片中约有 10% 是在过去 12 个月内拍摄的。
如果我们在高科技进步方面确实处于指数曲线上，那么人们会喜欢 杰里米霍华德 当他说我们距离人工智能机器智能只有几年的时间时，他可能是对的，在许多以前被认为是人类独有的领域，即使不能超过我们自己的机器智能。
可以肯定的是，人工智能正在渗透到我们生活中越来越多的领域。
就在十年前，人们还在嘲笑自动驾驶汽车的糟糕表现。仅仅十年后的今天，自动驾驶汽车不仅可以完成封闭道路的行驶，还可以在繁忙的高速公路上与人类驾驶的汽车并驾齐驱。
当计算机没有击败世界冠军围棋选手时，他们正忙于做类似的事情 撰写有关体育和突发新闻事件的文章 ，写下他们从未见过的图像描述，以及 诊断癌症 .对于其中许多任务，计算机即使不比人类更好，也同样出色，而对于那些不擅长的任务，它们是 学习 如何在没有人类帮助的情况下每天做得越来越好。
几年前，面部识别软件非常昂贵，而且在现实世界中识别人的能力并不好。它被认为是超级先进的间谍级技术，实际上只有少数世界政府使用。
现在 Facebook 可以在上周末的烧烤会上给你的朋友加标签了。
这是关于加速计算机增长的事情：总有一天我们会建造一台计算机 比地球上任何人都聪明 .在那一天，计算机将取代我们成为地球上主要的问题解决者，从那时起，我们的思想、决定和行动将慢慢变得过时。机器在所有方面都比我们好，所以越来越多，我们将无所作为。
这让一些人感到害怕。他们设想了某种未来，比如 终结者 或者 矩阵 机器奴役我们或消灭我们。
其他人怀着一种狂热的热情期待机器人的崛起，因为他们相信它们解决问题的能力将远远超过我们的能力，以至于生活将变得难以想象的愉快和无问题。所有的疾病都会被治愈。贫困、世界饥饿、战争和气候变化都将得到解决。我们将有无限的闲暇时间，在极端情况下，有些人相信机器会让我们长生不老。
两种可能的结果
由于我们总是被告知要他妈的积极，让我们从技术乌托邦主义者开始。
有这样的人 雷·库兹韦尔 谁认为技术不仅会改善我们的生活，还会拯救人类，并可能无限期地保证我们在宇宙中的位置。 Kurzweil 相信像纳米机器人这样的未来技术可以修复我们的细胞并逆转衰老或去除多余的脂肪和糖，这样我们就可以吃任何我们想吃的东西。以防万一我们的身体不能永远活着，库兹韦尔认为我们将有能力将我们的大脑上传到云端，并在我们的身体消失很久之后永远生活在虚拟世界中。
这个阵营中的其他人认为，人工智能超级智能将能够回答人类甚至无法理解的过于复杂的问题，我们会因此而受益。此外，机器不仅会发明更好的小工具和小工具，它们还会发明更高效的构建小工具和小工具的方法，使地球上几乎每个人都能从中受益。
一些推理支持这个想法。首先，尽管技术给人类带来了一些新问题，比如核武器和 YouTube 名人，但到目前为止，它显然是人类的净利益。不管政治家和权威人士想让你相信什么，地球上的普通人是 比短短几年前更好 这主要是由于技术变得更好、更便宜、更广泛。如果这种趋势继续下去，我们可能没什么好担心的。
其次，库兹韦尔和他的支持者认为，技术没有理由伤害人类，因为它不仅是我们创造的，而且 成为我们的一部分 .他们相信我们甚至会达到我们的生物学和我们的技术无法区分的地步。如果是这样的话，论点是，任何对人类有害的技术形式也对自身有害，任何一种自我毁灭的技术都不能持续存在。也就是说，它会很快消失，就像有害的基因突变被迅速从基因库中清除一样。 
任何类型的自毁技术都不能持续存在。（照片：m_hweldon/Flickr）
但技术乌托邦主义者可能有偏见，因为他们不承认所有技术都可以用于各种目的，包括有益的和破坏性的。他们也可能有偏见，因为他们忽略了这样一个事实，即人类适应新技术的速度很慢，而且总有一群人会为了自己的私利而寻求滥用这些技术。
在另一个阵营，你有技术世界末日论者。我完全只是编造了这个词，但显然它存在，因为拼写检查告诉我。
技术末日论者缺乏信念（他们中的大多数人只是不确定该怎么想），他们靠名人明星的力量来弥补。比尔盖茨、斯蒂芬霍金和埃隆马斯克只是少数领先的思想家和科学家 拉裤子 人工智能的发展速度有多快，以及我们作为一个物种对其影响的准备不足。当马斯克被问及在不久的将来对人类最迫在眉睫的威胁是什么时，他很快说有三个：第一，大规模核战争；第二，气候变化。在说出第三个之前，他沉默了。当面试官问他，第三个是什么？他笑着说，就这么说吧，我希望电脑会决定对我们好一点。
希望我们不仅仅是数字超级智能的生物引导加载程序。不幸的是，这种可能性越来越大
- 埃隆马斯克（@elonmusk） 2014 年 8 月 3 日
可能最直言不讳和最受尊敬的技术世界末日论者是瑞典哲学家尼克博斯特罗姆。博斯特罗姆和其他人担心的一件事是 失控的自我改进技术 ;也就是说，一台足够聪明的机器可以在没有人为干预的情况下使自己（或自己的新版本）变得更聪明。如果它达到超越人类智能的地步，那么加速回归定律就会进入超速状态，指数曲线直线上升，我们将无法阻止它，这只是很短的时间问题。博斯特罗姆在这里提出了一个很好的观点：创造比你更聪明的东西可能会成为你物种的进化灾难。
我们面临着无法控制一个比我们聪明几个数量级的实体的真实风险。也许如果计算机变得足够聪明，他们会想出一种方法来驯化我们，就像人类驯养马一样做诸如拉犁、四轮车和战车之类的劳动（或者当时马所做的一切）。可怕的是，这对我们来说可能是最好的场景——为机器做他们不能做或不想做的工作——因为就像人类创造了新技术来取代马一样，一种超级智能的自我改进机器最终会想出新技术来取代我们。而且，好吧，让我们说马的数量已经不像以前那样了。
一些人认为这不合理，因为人类在构建技术时考虑到了安全性。但请说出最后一次重大技术突破未被某人用于邪恶或破坏性目的的时间？哦，是的，没错。绝不。
为什么我不在乎发生了什么，你也不应该关心
所以让我们假设超级智能机器被创造出来并且确实让人类变得无能为力。让我们假设它们没有以某种方式整合到我们和我们的大脑中，让我们假设像霍金和马斯克这样的人是对的：人类真的只是一个数千年的数字超智能引导驱动器，我们已经失去了我们的用处。
我仍然不担心。
为什么？好吧，为了保持子弹点列车的滚动，让我们逐点进行：
1. 机器对善恶的理解可能会超过我们自己。 上一次狗或海豚实施种族灭绝是什么时候？计算机上一次以“自由”和“世界和平”等抽象概念的名义决定蒸发整个城市是什么时候？
没错，答案是永远不会。
我的观点并不是智能机器不想灭绝整个人类。我的观点是，作为人类，我们从这里的玻璃房子里扔石头。我们他妈的对动物、环境和彼此的伦理和人道待遇了解多少？我们该站在哪条腿上？
没错：几乎没有。当谈到道德问题时，人类历史上没有通过测试。超级智能机器可能会比我们自己理解道德、生/死、创造/毁灭的水平要高得多。并且这种认为他们会因为我们不像以前那么有生产力，或者有时我们可能会令人讨厌的简单事实而消灭我们的想法，我认为只是将我们自己心理最糟糕的方面投射到我们身上不知道也无法理解。
现在，大多数人类道德都基于对我们每个人的个人意识的强迫性保护和提升。如果先进的技术使个人的意识变得任意呢？如果意识可以随意复制、扩展和收缩呢？它将完全抹杀我们可能拥有的任何道德理解。如果移除所有这些我们称之为身体的笨拙、低效的生物监狱实际上可能比让我们继续在 80 多年的存在中蠕动和喷射更符合道德标准呢？如果机器意识到我们从智力监狱中解脱出来会更快乐，并且我们对自己身份的有意识感知会扩展到包括所有可感知的现实，那会怎样？如果他们认为我们只是一群流口水的白痴，让我们沉迷于美味的比萨饼和电子游戏，直到我们都死于自己的死亡，那该怎么办？我们要认识谁？我们该说谁呢？
但我要说的是：他们将比我们以往任何时候都了解情况。
2. 即使他们决定杀死或奴役我们，他们也一定会很实际。 人类往往会在我们做事时造成最大的麻烦 不开心 .当我们不开心的时候，我们就会变得喜怒无常、抱怨、愤怒和暴力。那是我们开始政治起义的时候 宗教邪教 轰炸偏远国家并要求 该死的尊重我们的权利！ 开始不分青红皂白地杀戮，直到有人注意到我们 就像妈妈从来没有做的那样 .
如果机器试图像天网一样对我们进行攻击 终结者 ，那么我们将面临一场全球内战，这对任何人都没有好处，尤其是机器。内战效率低下。机器被编程以提高效率。
当人类快乐时，我们没有时间做这样的事情——我们忙于傻笑和他妈的无暇关心。因此，摆脱我们的更实用的方法是让机器操纵我们兴高采烈地摆脱我们自己。它会像 吉姆·琼斯 在全球范围内。无论他们为我们做些什么，似乎都是我们听过的最好的该死的主意——我们都无法抗拒，我们都会欣喜若狂地同意他们的计划——然后轰隆隆，一切都会过去的.快速且无痛。这将是有史以来最美味的掺有氰化物的 Kool-Aid。我们都会高兴地把它吞下去。
现在，如果你考虑一下，这并不是一个糟糕的方式。 Beats 被无人机轰炸或在核爆炸中蒸发。
至于奴役，也是一样。一个疯狂快乐的奴隶从不反叛。我想象了一种 Matrix-y 类型的交易，我们一直处于一种持续的致幻状态，几乎 24/7/365 在 MDMA 上狂欢。不会那么糟糕吧？
3. 我们不必害怕我们不了解的东西。 很多时候，父母会抚养一个比他们更聪明、受过教育和成功的孩子。然后，父母对这个孩子的反应有两种方式之一：要么被她吓倒，缺乏安全感，并因害怕失去她而绝望地控制她，要么他们坐下来欣赏和爱他们创造了如此伟大的东西，甚至他们也可以不完全理解他们的孩子变成了什么。
那些试图通过恐惧和操纵来控制孩子的人是糟糕的父母。我想大多数人都会同意这一点。
而现在，随着即将出现的机器将把你、我和我们认识的每个人 失业 ，我们的行为就像是该死的父母。作为一个物种，我们即将诞生已知宇宙中最先进、最聪明的孩子。它将继续做我们无法理解或理解的事情。它可能仍然对我们充满爱和忠诚。它可能会带我们一起去并将我们融入它的冒险中。或者它可能会认为我们是糟糕的父母，不再给我们回电话。
无论发生什么，都不应该改变我们对这一刻的感受。它比我们大。谁会在乎我们是否是一个大而长的进化引导磁盘，用于比我们能理解的更伟大的东西？那太棒了！这意味着我们只有一份工作。我们来了，他妈的做到了。很高兴你是看到它完成的那一代人的一部分。现在当我们的孩子准备搬出房子时含泪挥手告别 开始如此奇妙的生活 它的存在超出了我们的理解范围。
马克曼森是一位作家、博主和企业家，他在 马克曼森网 .
