为什么每个人都认为人工智能革命要么会导致一场激烈的末日,要么会导致一个光荣的乌托邦,但事实并非如此在两者之间的东西吗?当然,部分原因是你通过说“末日即将来临!”或者“乌托邦来了!”

但部分原因在于人类如何看待变化,尤其是前所未有的变化。千禧年主义与成为“千禧年一代”没有任何关系,出生在90年代和纪念吸血鬼猎人巴菲。这是一种思考未来的方式,其中包含一种根深蒂固的宿命感。一个定义可能是"千禧年主义是期望现在的世界将会被摧毁并被一个完美的世界所取代,一个救赎者将会来打倒邪恶,唤醒正义"

然后,千年人信仰,紧密地将破坏和创作的思想联系在一起。他们涉及一个巨大,世界性的地震转变的想法,将破坏旧世界的织物,并完全创造一些新的东西。世界上许多主要宗教中存在类似的信念系统,以及一些无神论者和不可知论者的宗教宗教,这是一种对技术的信念。

看看技术奇点周围的一些未来信仰。在Ray Kurzweil的愿景中,奇点是建立天堂。每个人都是呈现的不朽的通过可以治愈我们疾病的生物技术;我们的大脑可以被上传到云端;不平等和苦难在这些技术的浪潮下被冲走。“毁灭世界”被硅谷的流行词所取代:颠覆。而且,正如许多千禧年的信仰一样,这种破坏是为一个新的乌托邦铺平道路,还是仅仅是终结世界,你的看法各不相同。

我们有充分的理由对这种思维方式持怀疑和质疑的态度。最令人信服的原因可能是,千年信仰似乎是人类思考变化的默认模式;只要看看这种信念在世界各地出现了多少种不同的变体就知道了。

这些信念存在于基督教神学方面存在,尽管它们在19世纪和20世纪中只能陷入现代形式的主流。像艰难的想法 - 在被宣传的人抚养和邪恶的惩罚中,愤怒的艰苦困难和痛苦。在这种破坏之后,世界将重新制作,或者人类将提升到天堂。

尽管是被无神论的人,但是马克思主义有很多相同的信念。这完全是一种决定论的历史观,这种历史观逐渐增强。就像狂喜信徒寻找预言开始实现的迹象一样,马克思主义者也在寻找证据证明我们正处于资本主义。他们认为,不可避免地,社会会降低和退化到一个突破点 - 就像一些千年基督徒一样。

在马克思主义中,这是指富人对工人阶级的剥削变得不可持续,工人阶级联合起来推翻压迫者。“苦难”被“革命”所取代。“有时革命人物,如列宁或马克思本人,被誉为加速新千年开始的救世主;他们的夸夸其谈包括彻底粉碎旧的体系,以便建立一个新的世界。当然,当正义的工人拿走他们的东西,邪恶的资产阶级被摧毁时,也会有审判。

就像詹姆斯·休斯(James Hughes)在尼克·博斯特罗姆(Nick Bostrom)的书中所写的文章中指出的那样,就连挪威神话也有这种成分全球灾难性风险。ragnarok涉及在最终的世界末日战斗中被击败的男人和众神 - 但是因为那是一个有点凄凉,他们补充说,在幸存者将共同生活的地方会出现一个新的地球。

判决日也是一种文化牵引。养古埃及人及其周围的信仰;黑社会的主奥西里斯称,将凡人的心脏称为羽毛。“如果死者的核心是沉重的不法行为,那将被恶魔吃掉,后世的希望消失了。”

也许是在奇点,类似的事情。作为我们的技术,因此我们的权力改进,最终的考虑方法:我们的心,就像人类一样,将被称重羽毛。如果他们对不法行为过于沉重 - 用误导的愚蠢,傲慢和哈布里斯,邪恶 - 那么我们将失败考试,我们会摧毁自己。但如果我们通过,并且从奇点和所有威胁中出现并不受伤,那么我们就会有天堂。而且,像其他信仰系统一样,没有信徒没有空间;社会所有社会都将在大大改变,无论您是否需要它,无论是否有益于您或让您落后。技术被抓举。

似乎每一项重大发展都会引发这种反应。核武器也是如此。要么这就是最后一根稻草,我们会自我毁灭,要么利用核能建设一个更美好的世界。在核时代初期,人们谈论电“便宜得连计量都用不上”。“研究原子弹的科学家们常常认为,人类拥有如此大的破坏力,我们不得不作为一个物种共同合作。

当我们在不同的环境中一遍又一遍地看到相同的反应,出现在不同的领域,无论是科学、宗教还是政治,我们需要考虑人类的偏见。我们喜欢千年信仰;因此,当人工智能超越人类智能的想法出现时,这些信念就会随之涌现。

我们不喜欢事实。我们不喜欢信息。我们并不像我们想的那样理性。我们是叙述的生物。物理学家观察世界,我们将我们的观察结果转变为叙述理论,关于小台球的故事令人厌恶,互相击中,或弯曲和弯曲的空间和时间。历史学家试图了解无穷无尽的活动。我们依靠故事:理解过去,证明现在的故事,并为未来做好准备。

作为故事,千禧年叙述是一个辉煌而引人注目的叙述。它可以引导您走向社会变革,如在共产党人或中国的佛教呼吸围观。如果你在苦难中,它可以证明你现在的痛苦。它让你希望你的生活很重要,有意义。根据规则,它给你一种感觉,事情在特定方向上的发展,不仅仅是以混乱的方式随机向外蔓延。它承诺,义人民将被拯救,如果沿途遭受痛苦,不法行为者也会受到惩罚。最终,很多时候,千年叙述承诺天堂。

当我们在考虑技术发展和奇点的时候我们需要警惕千禧年的叙事一般存在风险。也许这次是不同的,但我们以前多次哭了狼。还有更有可能,更少吸引人的故事。沿着线条的东西:有很多可能性,它们都不是不可避免的,许多结果都不是你可能认为的差异 - 或者他们可能需要比你想到的要长。从表面上看,这并不令人满意。把事情想成是世界末日或乌托邦黎明的信号要容易得多——或者两者同时出现。这是一个我们可以理解的故事,一个好故事,也许,一个美好的梦想。

但稍微深入挖掘一下,你会发现千禧年信仰并不总是最有希望的,因为它们把人类的力量从等式中剔除了。如果你认为,恶意使用算法,或控制超智能人工智能,是值得解决的严重而紧迫的问题,你不能执着于坚持乌托邦或反乌托邦是不可避免的信仰体系。你必须相信那些灰色地带,相信你自己有能力影响我们的未来。当我们进入一个不确定的技术未来时,我们需要意识到梦想的力量和局限性。

图像信用:Photobank Gallery./shutterstock.com.

我们是亚马逊服务有限责任公司联合计划的参与者,该计划是一个附属广告计划,旨在为我们提供一种方式,通过链接到Amazon.com和附属网站来赚取费用。

托马斯·霍尼戈德(Thomas Hornigold)是牛津大学物理系的学生。除了探索宇宙之外,他还主持播客《物理吸引力》(Physical Attraction),解释物理学——每次只聊一句。

遵循托马斯: