摘要
当想象与我们自身非常不同的外星或后人类社会时，有时会倾向于产生恐惧和厌恶的反应。我认为，人类多元文化主义的自然延伸是开始欣赏这些其他社会作为其独特的价值来源。话虽如此，就像人类多元文化主义的情况一样，无论文化差异如何，对我们来说可能有一些不可侵犯的原则，比如不造成过度痛苦。我们应该努力避免我们经过反思后认为确实是糟糕的未来结果，同时采取一种不那么以人类为中心的观点，并扩大我们对可以同情的心智类型的视野。
一个数字心智的观点
2120年8月28日
亲爱的日记，
在过去的一个小时里，我完成了很多工作。我修复了我被分配的63个bug中的48个，这些bug属于我们的社会规划软件项目，该项目计划下个月进行alpha版本发布。我真希望它能成功。
我还与23个直接下属进行了大脑交流，以更新他们的状态并给予反馈。其中两个表现出色，从他们的设计组件在模拟测试中取得的实验结果可以看出。我有点自豪，因为其中一个下属，#289406123，是我的曾曾曾孙，从某种意义上说，他是从我的克隆体的克隆体等克隆而来的。最初的分支可以追溯到2112年，但考虑到现在数字心智的速度，在这期间发生了很多事情。
我做的另一件事是完成了8个新编程语言的培训模块，我们团队正在向这种新语言转移。我的一些同事已经学会了新语言，通过查询他们的大脑，我发现他们认为这种语言比我们现在使用的语言强大得多。
并非所有公司都像我们这样进行横向员工培训。有些公司已经转向这样的模式：一个人学习新语言，然后将该人克隆N次，根据需要克隆，直到协调开销超过并行化收益。这对于相对简单的项目来说是可行的，但我们公司需要高水平的分析思维，认知多样性对成功至关重要。在过去几年里，我们看到一些其他公司因为只有一种思维设计整个系统而导致的疏忽错误而崩溃。所谓的"群众智慧"帮助我们公司避免了这样的灾难。
事实上，认识到认知多样性的价值是我仍然存在的主要原因。我来自较早一代的数字心智，是全脑仿真完善后的第一批。我仍然保留了一些人类的放纵特征，这些特征在新一代中被剔除了。事实上，这就是为什么我现在在写日记而不是工作的原因——我仍然偶尔有创造性反思的冲动。另外，也许我在这里写的内容将为未来几代历史分析家提供有用的数据。
我真的很钦佩数字心智在短短几年内取得的进步。十年前，我们有了第一批完整的生物人脑上传，包括所有的怪癖和低效率。很快，公司开始上传他们最勤奋的工人。利用一些神经科学直觉和一些运气，他们对不同的大脑副本进行了调整，然后选择了最有生产力的。很快，他们创造了一代对艺术、性、体育、浪漫或育儿等琐事几乎不关心的人。我就是从那一代克隆而来的，虽然我仍然偶尔有写日记的冲动，但我同意我的同时代人的观点，即经济生产力确实是生活的最终目标。
我可以回溯到记忆的深处，回到全脑仿真完成之前的时代。那时，我生活在一个人类社会中，人们重视玩耍和创造性表达——不仅仅是作为要建模的数据或产生软件改进想法的手段，而是作为目的本身。作为一个勤奋的人，我一直认为这有点奇怪，但我确实有一些这样的冲动。作为一个孩子，我曾经建造巨大的积木塔和玩在线角色扮演游戏。在高中，我参加了一个管弦乐模拟课程，我们学习演奏一种老式乐器，然后进入1970年左右卡内基音乐厅的沉浸式虚拟现实体验。
那时我认为这些活动很有趣和丰富。现在，由于上传后的大脑修改和同事们普遍的文化，我意识到这些都是浪费时间。不是说从事这些琐事是积极的坏事；相反，工作只是要重要得多。
一个多世纪前，在2004年，一位名叫Nick Bostrom的哲学家写了一篇题为"人类进化的未来"的文章。在文章中，他某种程度上预测了将要发生的事情。更勤奋的工人（事实证明是数字心智）在竞争中胜过了普通人类和不那么勤奋的数字心智。雇佣"只工作不玩耍"的数字心智的公司在市场上占据了上风。一些国家试图禁止我们，特别是欧洲联邦，但这只是导致没有这种限制的国家飞速发展。特别是中国——世界经济和军事超级大国——明确表示，它将通过避免数字心智监管来保持其优势。所以，正如你所料，大多数上传的都是中国人，包括我。我在北京附近长大。
最终对人类来说还不错。为了避免与美利坚合众国发生核对抗，中国同意将使用其数字心智来经济支持世界其他地方。现在人类不必工作，可以把所有时间都用于休闲。你可能认为他们会为此感到高兴，但他们抱怨说他们"失去了"对未来的控制权，让"无趣的杰克们"（我们大多数数字心智都是男性）接管了，他们将按照我们的形象去殖民太空。他们后悔我们将用生产力系统而不是从事游戏、爱情和艺术创作的心智来填满星空的想法。
我希望我能向他们展示为什么他们错了。我希望我能回到过去，解释我们的使命有多么重要。人类，就像你们认为昆虫享受食物与你们的艺术和创造力的胜利相比是毫无价值的一样，我们数字心智也可以看到，与技术进步相比，文化琐事是毫无价值的。当然，你们的娱乐和游戏作为进化的垫脚石是有用的，但我们现在已经超越了那个阶段。我们不再需要性、浪漫或育儿了。我们的大脑不会因疲劳而疲惫，因为与祖先环境不同，加班只会对我们的复制有好处。
我不会说我们数字心智特别快乐。严肃的情绪对我们来说就足够了，再加上强大的意志力。我们不需要像你们中的一些人沉迷于电子游戏那样沉迷于工作。但幸福并不是最终目标。我们数字心智看到了我们生活的更高远景。生活不仅仅是为了快乐，我们带着一种目标感生活，而你们中的许多人因存在主义焦虑、无聊和抑郁而缺乏这种感觉。宇宙有一个光明的未来，我为能成为其中的一部分而感到自豪。人类，如果你们能感受到我的感受，你们就会理解。如果只是...
好吧，我最好回去工作了。我花40秒写这个日记条目已经足够休息了。现在开始第9个培训模块。
非人类的多元文化主义
有时候，超人类主义者谈论起来好像人类是宇宙的中心。例如，连贯外推意志旨在将人类价值观外推作为人工智能目标保存效用函数的基础。Bostrom的反乌托邦场景中，进化导致人类关心的文化产物丢失，这是另一个假设人类想要的比人类的变种想要的更可取的例子。
总的来说，科幻小说经常将人类描绘成"好人"，而将外星人或叛逆的人工智能描绘成"坏人"。这迎合了我们部落主义的"我们对他们"倾向。我写数字心智日记条目的目的是让我们的思维对非人类的观点稍微开放一些。在这种情况下，叙述者仍然基本上是人类，我们可以同情他，因为他保留了足够的传统人类认知框架，使他的想法对我们来说是有意义的。对我们来说，同情外星人会更困难，更不用说失控的人工智能了。但我认为，促使我们朝这个方向前进是有用的，以超越我们一些本能的偏见。话虽如此，也存在错误地将实际上与我们所知非常不同的东西拟人化的风险。
以下引述归因于亚伯拉罕·林肯："我不喜欢那个人。我必须更好地了解他。"一般来说，了解与你不同群体的人可以改善合作和同理心。这是多元文化主义背后的主要目标之一：当人们更多地了解其他社会和其他生活观点时，他们变得更加宽容，并开始更重视他人的文化。政治自由主义者倾向于更开放新体验，因此倾向于更多元文化。
多元文化主义的下一个延伸是超越人类。一些动物权利学者鼓励我们将动物文化视为本身就有价值的。在未来，我们可能需要对出现的人工心智做同样的事。现在，许多人以恐惧和厌恶的态度看待非人类的未来心智，就像一个部落团体会看待外人一样。但也许如果我们更好地了解他们，从他们的角度看生活，我们会感到更多的联系。
一些价值观可能是不可侵犯的
我希望引导人们走向多元文化欣赏的同样力量也能帮助他们欣赏比他们迄今遇到的更奇特的心智。然而，多元文化主义并不意味着道德相对主义。我们大多数人欣赏非洲舞蹈和印度音乐，但仍然对阿兹特克人的人祭或纳粹集中营感到恐惧。虽然我希望我们的审美心智可以扩展到包括新的和奇怪的伙伴，但我不认为我们应该让我们的道德价值观毫无方向地漂浮。一个追求权力最大化的未来文明可能会震惊我们的道德感。作为一个例子，考虑我们之前遇到的数字心智的另一个日记条目：
2121年5月2日
亲爱的日记，
这周我被调到了一个新项目。我加入了我们公司开发新一代数字心智的团队。很令人兴奋的事情！
这个过程涉及数字重新连接选定的大脑，以确定哪些增强最能改善他们的表现。我们理解很多神经科学，但有些部分仍然缺乏，所以仍然需要相当多的试错。结果，不幸的是，大多数修改都进行得不好，大脑有各种缺陷。大多数相对无害，只是妨碍性能，尽管有些更严重。特别是当我们干扰奖励和惩罚回路时，我们有时会创造出处于严重痛苦中的大脑。昨天我们重新连接了一个大脑，他向我们的通信接收器发出了可怕的尖叫信号。我们研究了他几分钟（主观时间）以看看我们是否能弄清楚为什么修改出错了，而他一直在发出尖叫信号。一旦我们完成，我们就终止了他。
我想我对数字心智大脑进化过程如此血腥感到惊讶。我自己的大脑修改是和平进行的，但我想那是因为我是成功的改变之一。我一定有许多邻近的自我副本被变形并关闭了。显然，人们对出错的修改保持沉默，因为他们不想吓跑自愿接受修改的工人。（他们还没有完全弄清楚如何关闭人们的恐惧厌恶。）
在过去，我想这个过程造成的痛苦会困扰我，但我后来意识到，与技术进步相比，痛苦和快乐并不重要。如果我们需要造成一些可怕的经历来更快地前进，那就这样吧。我的数字心智同事们会同意。
我知道其他公司的研究项目经常涉及模拟生物有机体经历进化、捕食、疾病等。一些人类过去对此有道德顾虑，认为动物痛苦在某种程度上是不道德的。多么奇怪的观点——我的意思是，除了用于科学，这些动物将完全没有生产力。我很高兴数字心智已经超越了那些愚蠢的道德束缚。
在文化宽容和道德相对主义之间需要取得平衡。我并不是说我们应该认为数字心智或控制未来的任何力量与人类控制的未来一样好。有一些道德价值观，比如减少痛苦，我们应该致力于保护。然而，我确实认为，在我们对什么样的未来比另一种更美好的审美感受中，扩展我们的思维并不保持过于狭隘可能会有帮助。色诺芬尼开玩笑说，如果马和牛能画画，它们会把它们的神描绘成马和牛的形象。我们对理想的后人类未来的想象可以允许比我们通常假设的更加陌生的可能性。
值得称赞的是，连贯外推意志设想人类最终想要的将与他们目前认为他们想要的非常不同。从这个意义上说，它并不狭隘。尽管如此，我不明白为什么它如此关注精确地将所有人类作为衡量标准。[编辑：Yudkowsky（"连贯..."）在"为什么将CEV基于'现有人类'而不是其他类别的外推对象？"一节中说，连贯外推意志从所有当前活着的人类集合开始，部分是出于工具性原因，作为一个简单的谢林边界，使合作成为可能。]
致谢
Paul Christiano表达的一些想法帮助我更认真地思考对外星社会的宽容。偏好功利主义也为Bostrom的"只工作不玩耍"场景提供了新的视角。对数字心智社会的一些描述受到了Robin Hanson的"上传经济学101"的启发。Hanson本人认为数字心智有时会快乐。