重新审视急迫性考量

作者:Brian Tomasik

首次发布:。最后重大更新:

摘要

慈善事业的内部回报率很高,但可能没有看起来那么高。急迫性很重要,但由于长期增长是逻辑性的而非指数性的,它的重要性不如一些人所建议的那么大。话虽如此,如果通用人工智能很快到来,而指数增长又不会太快地趋于平缓,那么简单的急迫性考虑可能仍然大致适用。还有一些支持和反对急迫性的其他因素,与捐赠vs投资的考虑相似。

用更简单的语言重述摘要:运动应该在某个时点饱和或至少显示出收益递减,所以更早开始运动建设意味着要么只是多几年运动存在的时间,要么只是运动规模的适度边际增加。这些影响仍然可能很重要——只是不像简单模型中那么极端,在简单模型中,如果需要2年时间培养一个坚定的利他主义者,那么提前2年开始就会使长期利他主义者的数量翻倍。

目录

引言

80,000 Hours的一篇发人深省的博文中,M. Wage描述了利他主义者的"急迫性考量"。这个想法是,如果你能说服别人像你一样热情和有效地投身于利他主义,那么你就等于做了一辈子的利他主义工作。我认为这相当于从活动主义的内部回报率角度思考,其中年回报率r满足(1+r)N = 2,N是培养出另一个像你一样的人所需的年数。

经过进一步思考,我认为急迫性考量对活动主义的时间价值过于乐观,我将在下文解释原因。

指数回报?

地球目前允许经济年复一年地指数增长。现在,如果你今天有94美元,通过投资资本市场,明年就可以变成100美元。但指数增长不可能永远持续。最终,银河系会被殖民到最大程度,资源开采会达到物理上可能的最高效率,就没有增长空间了。也许人们可以继续向更远的太空推进,但即使我们能做到这一点,而且更远处的空间资源和附近的一样可用,占据的体积也只会与扩张开始以来的时间的立方成正比(考虑到空间也在指数扩张,甚至可能更少)。

现在,也许奇怪的物理场景会允许永恒的指数增长,但我们的默认假设是增长最终必须结束。

注意:我不支持人类在整个银河系扩张,因为我认为这可能会传播野生动物的痛苦、有感知的模拟、痛苦的子程序等。我只是为了说明目的假装是一个经济学家。)

现在,假设与只关心自己一生财富的普通人不同,你关心整个未来的总财富。一开始,财富的增长基本上是指数型的,但到最后会受到限制。整体增长曲线可能是逻辑型的。

以一个简单的逻辑增长例子为例。数字代表每个时期的财富:

1 2 4 7 14 24 36 46 50 50 50 50 50 50 50 50 50 50 50 50 50 50 50(宇宙末日)

如果你只活5年,增长对你来说看起来基本上是指数型的——年回报率接近100%。但如果你关心所有时间的总财富呢?现在,总和是884。如果你把事情提前一年,比如把第一个"1"改成"2":

2 4 7 14 24 36 46 50 50 50 50 50 50 50 50 50 50 50 50 50 50 50 50(宇宙末日)

那么总财富将是933,这是5.5%的回报。远低于你在一生中看到的表面100%的回报。

利他主义的例子

同样的想法有很多应用。例如,人们很容易认为推广素食主义有很高的内部回报率(比如20%),因为当我们创造新的素食者时,他们会继续说服他们的朋友和家人。这是真的,但即使我们看到素食主义每年增长20%(假设),这并不一定意味着现在的素食推广比明年的素食推广重要20%。例如,如果每个人最终都会成为素食者,我们只是把逻辑曲线向左移动,就像上面的例子一样,总体回报在减少痛苦方面会远远更加温和。

对于大多数利他主义项目,可以做出类似的比较:促进经济发展、建立新运动等。

需要注意的是,我并不是说行动主义毫无用处。例如,如果我们不提高对野生动物痛苦的关注,也许社会永远不会采纳这种立场。相反,它可能会滑向深层生态学和在整个宇宙广泛传播生命。因此,即使防止野生动物痛苦传播的运动增长是逻辑型的,在这个问题上工作也可以影响我们在未来数十亿年中最终走向哪种未来。因此,这项工作确实需要完成。只是明年做可能不会比今天做差很多。

运动的兴衰

我认为即使社会运动增长的逻辑模型也过于慷慨。过去的大多数社会运动今天都已经消亡。一些社会运动不那么活跃是因为它们在很大程度上已经取得了胜利(例如,在发达国家废除奴隶制),而许多其他运动不那么活跃是因为它们失去了影响力(例如,美国反对种族通婚)。即使是像占领华尔街这样的近期运动,也往往只在聚光灯下短暂停留,然后其他趋势就会吸引人们的兴趣。因此,认为现在传播"有效利他主义"会导致运动规模在无限期的未来永久增加是天真的。在运动增长时可能看起来是这样,但迟早,大多数运动最终都会萎缩,因为人们的注意力被其他事物吸引。

当我回想过去参与过的在线社区时,其中相当一部分现在已经消失或至少衰弱了。这是更广泛的社会运动兴衰的缩影。当然,这些社区产生了重要和持久的影响,但如果它们晚几年出现,这些影响不会小很多倍。

因此,急迫性并不一定会显著增加社会运动的影响。它可能只是将社会运动的巅峰影响提前,然后是后来的衰落。当然,在许多情况下,即使核心运动已经衰落,过去的社会运动对未来仍有持续影响,所以运动发生得越早通常越好,但在许多情况下,这种效应的幅度可能并不巨大。

1970年代的活动家是否非常重要?

作为对急迫性考量的另一个直觉检验,我们可以问1970年代的利他主义者是否应该使用急迫性推理。假设那个十年的某个活动家运动每年增长50%。这些活动家是否应该认为,1975年投入运动的一个人年的工作比1985年投入的一个人年重要1.510 = 58倍?比2005年投入运动的一个人年重要1.530 = 191,751倍?你父母那一代的一个人做的利他主义工作真的可能与你这一代近20万人做的利他主义工作同等重要吗?

也许如果你幸运到成为像彼得·辛格这样的人,他帮助创立了现代西方动物权利运动,那么1970年代一个人的影响可能在几十年内膨胀成数十万人为这个事业工作。然而,这种情况极为罕见,大多数时候你应该假设你的影响会更加温和,只是为一个更大的运动贡献一小部分。此外,虽然我对现代动物权利运动的历史不太了解,但我认为即使没有辛格,这个运动仍然会以某种形式出现,可能规模稍小或延迟几年。

急迫性的理由

尽管如此,仍然有一些理由说明为什么更早的利他主义比更晚的利他主义更重要。

1. 通用人工智能

人类未来中最有可能产生大量痛苦的是那些人类开发出塑造我们未来光锥的通用人工智能的未来。有可能当通用人工智能被创造出来时,某些价值观会被锁定并通过目标保存机制维持。如果是这样,那么在锁定发生之前塑造人类的价值观将非常重要,但之后几乎不重要。

在这种情况下,我们的行动主义确实有一种"寿命":我们所做的只在通用人工智能出现之前才重要。(如果通用人工智能永远不会出现,我们所做的就不那么重要了,所以我们可以忽略这些情况。)如果我们对通用人工智能的影响是我们在通用人工智能到来时的支持量的单调递增函数,那么多一年的急迫性可能会产生很大影响,这取决于逻辑平台何时出现。如果它很快发生(在几十年内),那么急迫性可能不会对通用人工智能产生巨大影响。如果在通用人工智能出现时增长曲线仍然很陡,那么提前一两年开始会好得多。

2. 倦怠风险

我们每个人都有跳出利他主义船的风险。现在可能很难想象,但随着年龄的增长,人们变得不那么理想主义,改变了习惯和偏好。例如

哈佛大学心理学家领导的一项研究揭示,这是一个系统性的、根本性的感知错误。所有年龄段的人都能清楚地看到他们在过去十年中如何改变和成熟,但无论年轻人还是老年人都低估了他们在未来10年中将发生的变化量。他们似乎患有一种错觉,认为他们已经成为的人就是真实版本。研究人员称之为"历史终结幻觉"。

这意味着你应该根据到那时你会变得幻灭和冷漠的概率来折现你未来的年份。这种考虑本身就创造了一种"折现率"。

3. 财务回报

资本市场的指数回报可能会持续几十年,所以在某种程度上,它们可以成为你在财务问题上应该使用的未来年份回报率的下限。例如,如果你在决定今年还是明年进行筹款,今年做至少会比预期好~7%左右——或者你认为股票市场实际回报率合适的任何百分比——因为钱到明年会增长。可能存在财富的收益递减,需要考虑在内。

4. 其他因素

随着世界人口的增长,你对人类的影响比例可能会略有下降。随着你周围的财富和权力增长,你必须奔跑才能保持原地不动。可能还有其他类似的效应,这些都支持更早行动。

耐心的理由

这篇文章现在变得很像Felicifia上的"捐赠vs投资"帖子。在那里,我们提到了年轻人应该保持耐心的最重要原因:智慧的回报。有很多东西要学,即使在研究这些问题多年后,我对各种选择的成本效益的估计仍会变化1.5倍、3倍、10倍、100倍等。它们甚至可能改变符号

这些因素可能很容易超过直接行动主义的内部回报率。但要意识到,直接行动主义是了解世界的最好方式之一(也可以降低你的倦怠风险),所以我不认为耐心和急迫性完全不相容:我认为现在做事但保留大量时间来长期反思成本效益的全球格局可能是最好的方法。你不可能从扶手椅上完全了解如何进行有效的行动主义——你必须实际花一些时间尝试。但你也应该避免过于陷入日常细节而忽视更广泛的思考。

他人的相关评论

以下是原始"急迫性考量"帖子评论中与我的评论一致的一些片段。

Zander Redwood:

所有这些似乎都假设有足够的说服者就能使有效利他主义情绪呈指数增长,但这似乎过于乐观。更可能的是我们很快就会遇到收益递减。80K和GWWC的现有成员大约是英国和美国最热情和(考虑到他们的牛津剑桥/常春藤联盟的位置)前途最光明的人。诚然,仍有相当大的空间来接触人们,但基本上我们在未来几年吸引的成员将是最容易摘取的果实。

Toby Ord:

1)在运动开始时,运动建设很容易成为最重要的工作这一考虑是相当可靠和无争议的。人们经常说:但你单独做X不会改变太多,你需要试图让成千上万的人开始这样做。或者考虑谷歌的创始人是否应该把所有时间都花在编码上,还是应该花一些时间雇人编码,然后再雇人做人力资源(即雇人来雇人)。

当然这有点递归,但基本结构并没有什么悖论,经过检验显然不是金字塔计划。金字塔计划是试图从你下面层级的人那里获得利益,他们又从他们下面层级的人那里获得利益,这对许多人来说失败了,因为人口是有限的。这里发生的不是这样,因为实际上根本没有私人利益传递,只是一群人在一起工作。

2)这个论点是关于以持久的方式发展一个组织或运动。我同意Ruairi的观点,如果一个人仅仅试图让人们参与以让人们参与等,你不会获得太多整体持续增长(即使有一个承诺的未来时点他们开始做一阶工作)。如果组织的大部分时间都花在一阶工作上(也许一半?),说服人们加入会更有效。这对80,000 Hours来说是正确的,对其他组织如谷歌或各种运动也是如此。

3)我认为论点中的急迫部分(相对于一般增长部分)对于人们加入的速率如何下降的问题很敏感(例如,是否有一个最终的S曲线,以及我们达到那个点的概率分布是什么)。例如,为简单起见,如果只有4个人感兴趣,那么可能早期就能说服他们所有人,或者晚些时候。

特定事业的急迫性vs更广泛的耐心

在"为什么现在很重要"中,Nate Soares谈到MIRI时说:"我很可能会选择今天的1000万美元,而不是5年后的2000万美元。"这意味着年折现率约为15%,高于股票市场可以获得的约5%的回报。(换句话说,Nate的交易比率意味着MIRI工作时间的折现率约为10%,独立于股票市场投资。)Nate的一个论点是,通用人工智能安全研究在未来会有更多资金。就其本身而言,这不是急迫性的论点,因为如果未来的资金得到保证,当前的捐款只会对未来的捐款产生增量效应,因此可能具有较低的边际价值。如果现在捐赠的钱没有特别影响短期轨迹,那么现在捐赠100万美元和以后捐赠2000万美元就相当于以后捐赠2100万美元。但有两个更强有力的观点是:

  1. 未来资金是否到位以及到位多少可能取决于在这个时间敏感窗口内的当前捐款,以及
  2. 早期资助MIRI将使其在不久的将来通用人工智能安全得到更好资助时,对整个通用人工智能安全领域产生更大影响。

我不确定是否同意Nate对MIRI现在vs未来捐款的确切权衡,但他的观点是合理的。

如果接受Nate的时间-金钱权衡,这是否意味着我们应该使用15% - 5% = 10%的折现率来考虑急迫性?不。(至少不是自动的。)虽然MIRI现在可能确实有一个关键的资金窗口,但5年后,如果通用人工智能安全变得更加饱和,其他事业仍将对资金有高边际回报。做基本利他主义工作的机会并不是全部以每年10%的速度下降;相反,新机会出现,旧机会消失。资助慈善事业就像寻找被低估的公司:仅仅因为一家公司几个月后不再被低估,并不意味着你在几个月后就找不到任何其他同样好的被低估的公司。

总的来说,2030年的一美元(经通胀调整)可能比2000年的一美元(经通胀调整)购买的利他主义影响力要少,但不会少1.130 = 17倍,这是10%的利他主义折现率(高于基于股票市场回报的折现率)所暗示的。如果你对这个面向未来的预测持怀疑态度,那么想象一下1970年vs 2000年的利他主义之间的差异。1970年的一美元(经通胀调整)是否有17倍的影响力?如果你的回应是:"但现在是人类历史上的特殊时期,所以现在的美元特别有价值,而1970年不是",你需要有充分的理由这么认为,因为每一代人都倾向于认为自己处于特权地位。

这个主题的未来工作

总的来说,很难计算慈善活动的内部回报率。我们不知道我们面临的逻辑曲线的参数(长度、高度、斜率),所以很难估计将其向左移动一定量的价值,特别是考虑到通用人工智能何时发生的不确定性。也许有效利他主义社区最终会在这方面建立更好的思考框架。很可能这样的框架已经存在,我们还没有发现——经济学家肯定有超越指数折现的决策模型吧?

反馈

关于这篇文章的评论,请参见原始Felicifia帖子