第13讲 每获得一条信息,贝叶斯推理就变得更精确一些

13-1 从“勉勉强强”的推测变为“更加精确”的推理

至此,我们已经对于贝叶斯推理“虽然存在牵强之处,但至少比毫无头绪要强多了” 的推理思路进行了数次解释说明。正因为这一点,贝叶斯推理也被称为“总经理的概率”(见7-3)。贝叶斯推理之所以显得有些“牵强”,主要是因为其中的先验概率。所谓先验概率,是指“在没有任何信息的情况下,暂且把所有可能性的概率设定为对等的(理由不充分原理)”,或者“从主观上进行设定”等,因而会令人感到“牵强”。

但反过来说,正是由于设定了这样的先验概率,贝叶斯推理从而具备了“即使只有少量信息(数据),也能够进行推理” 的优点。这一点也正是贝叶斯推理优于标准统计推理(内曼-皮尔逊式推理)的地方。

此外,贝叶斯推理还具有“将已经在推理过程中使用过的信息反映到后验概率之后,即使把它丢掉也没关系 ”的良好特性,这一特点被称为贝叶斯推理的学习功能。

实际上,贝叶斯推理还具备另外一个学习机能,也就是“信息越多,推理结果就越精确” 的性质,如图表13-1 所示。

第13讲 每获得一条信息,贝叶斯推理就变得更精确一些 - 图1 图表13-1 信息越多,推理结果就越精确

接下来,按照顺序来对这个问题进行具体说明。