摘要
我们这个思想圈可能忽视了哪些类型的"认识论上的黑天鹅"？我们如何区分大众信念中的常见错误与普通人实际上看对了而我们这群分析型人却忽视了的事物？面对这个困境，提高社会整体的智慧可能是一种稳健的方法。
过度自信
Robert Burton的著作《确定感：即使你错了也相信自己是对的》讨论了我们的大脑如何独立于有意识的推理过程产生确定感。"感觉99.9%确定"某事并不一定意味着应该给它赋予99.9%的概率，正如许多研究所显示的那样。当你要求人们给出某个量的90%主观置信区间时，他们有50%的时间是错误的。
人们很容易低估罕见事件的可能性，尤其是那些超出常规思维框架的事件。Nassim Taleb将这类事件称为"黑天鹅"，指的是在17世纪之前，西方人认为天鹅不可能是白色以外的任何颜色。虽然在特定模型内为某个结果分配概率相对容易，但要考虑模型本身可能错误的元级不确定性则更加困难。
从多个抽象层次看待一个情况可能会有帮助。例如，我有很多次写了一个我确信会正确运行的计算机程序：我已经检查并反复核对了每一行代码，发现它们完全没有错误。但当我运行程序时，它崩溃了，我完全不知道为什么。
大脑可能出错
我是一个灵长类动物，在相对脆弱的湿件上运行着拼凑的认知算法。我们知道大脑设备以相对较高的频率出现故障。美国人口中有19%患有某种形式的精神疾病，其中一小部分案例涉及严重的精神错乱或妄想。此外，有些人simply缺乏某些正常能力，例如7%的男性是色盲。
我和我的许多同事都有极其奇怪的信念。其中许多是奇怪的事实——例如，在101029米的半径内存在我的精确副本。但其他一些是逻辑结论（例如，自由意志是不连贯的）和方法论概念（例如，奥卡姆剃刀使心身问题的平行主义解决方案变得极不可能）。这些后一类信念理论上涉及确定性或接近确定性。
但是，考虑到我对人类信念普遍脆弱性的理解——更不用说正确知识可能是不可能的，或者所有这些陈述都完全没有意义的诱人可能性——我是否应该为我在这些概念问题上可能错误的可能性赋予非零概率？
将假设视为既定？
一个答案是说"不"：我们都从假设开始，我正在做我正在做的假设。这是对贝叶斯定理和奥卡姆剃刀等事物的一种可能态度。就像我防止痛苦的冲动最终是我想做的事情，"仅仅因为"，我对数学和贝叶斯认识论的信念可能simply是我大脑中原子集合选择拥有的东西，就是这样。（我想知道：是否有任何意义可以为贝叶斯框架本身赋予小于1的概率？表面上看，这simply是不连贯的。）
但是对于其他不那么基础的结论，比如自由意志的不连贯性呢？对我来说，否定这个结论是否会与我的认识论框架相矛盾并不明显，因为我对这个问题的立场可能源于缺乏想象力（我无法想象除了决定论或随机行为之外的任何东西），而不是明显的逻辑矛盾。对于这一点本身我也不确定——也许自由意志在逻辑上是不可能的。但我不够聪明，无法确定。即使我感到确定，我很可能是错误的，甚至——如第一段所示——完全疯了。
概率优于逻辑推理
概率能否用来捕捉这种类型的不确定性？在实践中，答案显然是肯定的。当我做数学作业时，我犯代数错误的概率不仅不为零，而且相当高。对这类错误进行推理并非不连贯。例如，如果我进行一个涉及复杂代数公式的效用计算，我可能不确定是否犯了符号错误，在这种情况下答案会被否定。我完全可以合理地给出90%的概率认为我的计算是正确的，10%的概率认为我犯了符号错误，然后将这些乘以它们相应的如果计算正确的效用值。这里没有什么神秘的：我只是在概念上毫无问题的假设"Brian得到了正确答案"与"Brian犯了符号错误"之间分配概率。
当然，在实践中，很少有用处应用这种推理，因为错误的数学答案数量needless to say是无限的。（尽管如此，研究实践中出现的正确和错误答案的分布可能会有用。这让我想起一位朋友的建议，数学家可能会研究某些类型的猜想被证明是正确的比率，以便更好地估计他们实际上无法证明的定理的概率。事实上，统计技术已经在自动定理证明领域内使用过。）当有人以"你的认知算法可能有缺陷"为由反对理性主义者对某事的结论时，理性主义者通常可以回答："嗯，也许是这样，当然。但我要怎么办呢？我要从巨大的替代空间中选择哪个元素呢？"
也许对这个问题的一个答案可能是"同胞人类运行他们自己的认知算法得出的信念"。毕竟，这些人和你一样都是试图理解环境的灵长类动物，似乎并非不可想象的是，不仅你是错的，而他们实际上是对的。这似乎暗示了某种程度的哲学多数主义。显然，我们需要根据他们的认知算法是健全的概率来权衡不同人的信念，但我们应该记住，这些权重本身是循环的。
信念作为证据
对于大多数信念，我们似乎可以通过将同行的分歧作为贝叶斯证据来纳入考虑。其他人相信某事是一个关于世界的事实，我们的假设需要解释这一点。在许多情况下，人们相信X的一个简单解释是他们正确地看到或推断出X确实是这样的。例如，你的丈夫说你的钱包在厨房桌子上，这很可能是因为你的钱包确实在厨房桌子上。在其他情况下，人们的信念是错误的，但理论给出了原因的解释——比如人们相信他们被外星人绑架是由于睡眠瘫痪，或者我们只感知到三维空间和一维时间是因为我们宇宙的其他7个维度非常小。
人们可以想象发明一个疯狂的理论，然后加上一个规定："如果这个理论是真的，你将无法知道它是真的，事实上，大多数人会认为这个理论是疯狂的。"鉴于这个规定，疯狂的理论确实很好地预测了我们观察到的证据——包括源自其他人不相信该理论的证据。然而，除非理论本身对为什么我们不相信该理论提供了一个自然的解释，否则添加一个规定说即使理论是真的，人们也会倾向于认为理论是疯狂的，这应该因其更大的复杂性和任意性而降低理论的先验概率。
当涉及到我们认识论框架本身的基本问题时，包括是否使用贝叶斯推理，我们不能simply将其他人的信念作为贝叶斯证据纳入。在这种情况下，我们可能会采用一种更粗略的启发式方法，在不假设完全贝叶斯概率的情况下，给予他人的信念框架一定的权重。
终极认识论证明？
最终，我认为怀疑主义在某种意义上是正确的：我们不能确定任何事情，甚至逻辑真理也不能。我看不出如何最终证明归纳和奥卡姆剃刀等原则。即使我们能看到为什么它们似乎运作良好，我们也需要这些原则才能使这种观察具有规范性力量：归纳论证支持归纳是循环的，需要奥卡姆剃刀来证明选择简单理论有效的简单原则而不是一个奇怪复杂的原则。
对归纳问题的一个标准回答是，它要求不可能的事：它要求对归纳进行演绎证明。但演绎和归纳只是不同的推理模式，所以要求一个证明另一个就像要求一把凳子把你飞到欧洲一样。即使凳子不能进行洲际航行，它也可能是有用的。
这个回答引发了一个进一步的问题：谁说演绎是黄金标准呢？我们如何证明演绎本身？最终我们达到了一个没有有限的、非循环证明的点。
2007年，我告诉一个朋友，我最终无法证明使用贝叶斯概率的合理性。我的朋友回答说："你的大脑就是贝叶斯的。这就是大脑的构建方式。"当时我觉得这完全不能令人满意，但现在我看到了其中的一种智慧。没有对我使用某些认知过程的铁证。在某个时候，我必须simply说"这就是我的大脑运作的方式"并接受它。当然，人类可以进行元认知和元元认知，了解认知偏见和通用智能的本质。但在某个时候，所有这些工作都建立在某些假设之上（如推理规则和关于世界的基本概念）。
我可以从进化已经优化了智能主体在其环境中成功行动的想法中得到安慰。正如另一位朋友告诉我的，不使用奥卡姆剃刀几乎不可能生存。但仍然存在证明进化产生的推理过程在绝对意义上实际上是有效的问题，而不是simply对生物操纵其周围环境足够有效。甚至不清楚事物在什么"绝对意义"上可以是真实的，或者这个概念是否意味着除了人类大脑中功能性神经表征之外的任何东西。
在某种意义上，一切都是归纳的，甚至逻辑规则也是如此。我们如何知道肯定前件式保留真理？推理和概率规则本质上是我们通过进行推理并观察它们产生的结论的成功来测试的假设。它们感觉明显是真的，是因为我们进化和/或文化塑造的认知直觉，但正如我们从其他领域很好地知道的那样，不可动摇的直觉（例如，空间几何是欧几里得的）可能在经验上被证明是错误的。至少我们的一些逻辑公理可能在基因上被硬连接到我们的大脑中，但它们仍然是通过进化实验"经验地"发现的。
我们可以并且应该进一步推理这些问题。但最终，我们所能思考的一切都受到认知的物理和逻辑限制的约束。在某个基本层面上，证明仅仅是我们作为某种计算的存在。