贝叶斯推断的介绍

1. 贝叶斯推断的介绍

贝叶斯推断（BAYESIAN INFERENCE）是一种应用于不确定性条件下的决策的统计方法。贝叶斯推断的显著特征是，为了得到一个统计结论能够利用先验信息和样本信息。

2. 贝叶斯推理的案例

 参加常规x光透视检查的40岁妇女中，患乳腺癌的概率是1%。如果一个妇女患了乳腺癌，她的胸透片呈阳性的概率是80%。如果一个妇女她没有患乳腺癌，她的胸透片呈阳性的概率是9.6%。现有一个该年龄段的妇女她的胸透片呈阳性，那么她实际患乳腺癌的概率有多少?如果把患乳腺癌和不患乳腺癌作为两个互斥事件H和一H，他们的概率分别为P(H)和P(一H)；把胸透片呈阳性作为在H和一H中都能观察到某一共同特征D，它在两个事件中出现的概率分别为P(D/H)和P(D/-H)；那么，当D出现时，根据以上概率信息就可以计算出事件H发生的概率P(H/D)。一般将P(H)和P(一H)称为基础概率(base rate)，将P(D/H)称为击中率(hit rate)，将P(D/-H)称为误报率(false-alarm rate)，将P(H/D)称为后验概率，其计算方法为：P(H/D)=P(H)P(D/H)/[(P(H)P(D/H)+P(D/-H)P(-H)]这就是贝叶斯公式，利用贝叶斯公式进行推断的过程则称之为贝叶斯推理。根据公式，P(H/D)=(1%×80%)/(1%×80%+99%×9.6%)=0.078。也就是说，阳性的检查结果表明该妇女有7.8%的可能性患病。但是Eddy用该问题让内科医生判断，结果95%的答案介于70%~80%，远高于7.8%。尽管贝叶斯公式只是一些简单的乘法、加法以及除法过程的结合，一个并没有学过该公式的人也有可能在推断中不自觉的应用这种方法，但是在包括上述乳腺癌问题在内的许多研究均发现，人们常常会犯类似的推理错误，称之为基础概率忽略(base-rate neglect)现象.Kahneman等(1982)提出启发—偏差理论(heuristics and biases approach)来解释这一现象，并由此引发了关于贝叶斯推理问题的大量研究和争论国内外关于贝叶斯推理问题的研究方法主要是实验法，将不同类型贝叶斯问题呈现给被试并要求他们解答，采用一定的指标对被试的解题过程和结果进行评价，据此来考察贝叶斯推理的认知过程和影响因素。本文以贝叶斯推理的影响因素为线索回顾了以往的研究，并对其中的一些问题进行了初步的分析和探讨。 某地区居民的肝癌发病率为0.0004，现用甲胎蛋白法进行普查。医学研究表明，化验结果是存有错误的。已知患有肝癌的人其化验结果99%呈阳性(有病)，而没患肝癌的人其化验结果99.9%呈阴性(无病)。试问：在化验结果呈阳性的人中可能有多少人患有肝癌?如果我们用A表示样本的观察证据“化验结果呈阳性”，用H表示假说命题“被检查者患有肝癌”，那么由上面可知：P(H)(即某地区居民的肝癌发病率)=0.0004P(‘H)(即某地区居民没患肝癌的比率)=1-0.0004=0.9996P(E/H)(即患有肝癌者其化验结果呈阳性的比率)=0.99P(E/‘H)(即没患肝癌者其化验结果呈阳性的比率)=1-0.999=0.001现在需要我们推断的是P(H/E)，即在化验结果呈阳性的条件下，假说“被检查者患有肝癌”的比率。显然，根据重新解释过的贝叶斯定理，我们可以很容易地得出P(H/E)的值。P(H/E)=0.0004×0.99/((0.0004×0.99)+(0.9996×0.001))=0.284这表明，在化验结果呈阳性的人中，真患肝癌的人不到30%。这个结果可能会使人吃惊，但仔细分析一下就可以理解了。因为肝癌发病率很低，在10000个人中约有4人患肝癌，而9996个人不患肝癌。对10000个人用甲胎蛋白法进行检查，按其错检的概率可知，9996个不患肝癌者中约有9996×0.001≌9.994个呈阳性，另外4个真患肝癌者的检查报告中约有4×0.99≌3.96个呈阳性。仅从13.954(9.994+3.96)个呈阳性者中看，真患肝癌的3.96个人约占28.4%。从上例可以看出，贝叶斯推理实际是借助于新的信息修正先验概率的推理方法。显然，这样的方法如果运用得当，可以使我们在依据概率作出决断时，不必一次收集一个长期过程的大量资料，而可以根据事物发展的情况，不断利用新的信息来修正前面的概率，作出正确决策。下面的例子很好地说明了这一点。 有甲、乙、丙三家工厂生产同一种零件，市场占有率分别为10%、25%和65%。已知甲、乙、丙三家工厂生产零件的不合格率分别是30%、20%和10%。现从市场上某批零件中随机抽取一件，经检验该零件不合格，则这个零件由甲厂、乙厂、丙厂生产的可能性各是多少?在没有抽取零件之前，我们知道，来自甲厂的产品其可能性是10%，来自乙厂的可能性是25%，来自丙厂的可能性是65%，这些就是先验概率。相比来说，丙厂生产产品的概率最高。现在我们在市场上随机抽出的是不合格品，这是一个新的信息，可以利用这个信息修正先验概率。如果我们用E表示“抽出的零件是不合格品”，用H1、H2和H3分别表示假说命题“这个零件是由甲厂生产的”、“这个零件是由乙厂生产的”、“这个零件是由丙厂生产的”，那么由上面可知：P(H1)=0.1 P(H2)=0.25 P(H3)=0.65P(E/H1)=0.3 P(E/H2)=0.2 P(E/H3)=0.1根据贝叶斯推理我们可以很容易地得出P(H /E)、P(H )和P(H/E)。其中P(H1/E)=0.1×0.3/((0.1×0.3)+(0.25×0.2)+(0.65×0.1))=0.207P(H2/E)=0.25×0.2/((0.1×0.3)+(0.25×0.2)+(0.65×0.1))=0.345P(H3/E)=0.65×0.1/((0.1×0.3)+(0.25×0.2)+(0.65×0.1))=0.448显然，根据上面的结果，我们判断该零件是丙厂生产的可能性已从65%下降到44.8%，而该零件是乙厂生产的可能性已从25%上升到34.5%，是甲厂生产的可能性也已从10%上升到20.7%。在上面的例子中，如果随机抽取一件产品还不能提供充足的信息，可以再随机抽取一件产品以获取更多的信息。现在我们假定连续抽取两件产品都是不合格品，那么这批产品来自各厂的可能性又是多少呢?为了说明这个问题，首先要分别计算甲厂、乙厂、丙厂产品连续抽取两个都是不合格品的概率各是多少。这里假设产品是无限的，则有P(E/H1)=0.3×0.3=0.09P(E/H2)=0.2×0.2=0.04P(E/H3)=0.1×0.1=0.01然后仍然根据贝叶斯推理依次地得出P(H1/E)、P(H2/E)和P(H3/E)。其中P(H1/E)=0.1×0.09/((0.1×0.09)+(0.25×0.04)+(0.65×0.01))=0.353P(H2/E)=0.25×0.04/((0.1×0.09)+(0.25×0.04)+(0.65×0.01))=0.392P(H3/E)=0.65×0.01/((0.1×0.09)+(0.25×0.04)+(0.65×0.01))=0.255根据上面的结果，我们可看到，如果连续两次抽取的都是不合格品，则这批产品来自甲、乙、丙三厂的可能性为35.3%、39.2%和25.5%。这种情况下，这批产品来自乙厂的可能性变为最大。我们还可以再进一步，假定从一批产品中随机抽取三件产品，抽样结果是：不合格、不合格、合格。此时甲厂、乙厂、丙厂产品抽取结果为不合格、不合格、合格的概率分别为(此时A表示“抽出的零件是不合格、不合格、合格”)P(E/H1)=0.3×0.3×(1-0.3)=0.063P(E/H2)=0.2×0.2×(1-0.2)=0.032P(E/H3)=0.1×0.1×(1-0.1)=0.009根据贝叶斯推理依次地可得出这批产品来自甲、乙、丙三厂的可能性分别为P(H1/E)=0.1×0.063/((0.1×0.063)+(0.25×0.032)+(0.65×0.009))=0.313P(H2/E)-0.25×0.032/((0.1×0.063)+(0.25×0.032)+(0.65×0.009))=0.397P(H3/E)=0.65×0.009/((0.1×0.063)+(0.25×0.032)+(0.65×0.009))=0.290显然，根据新的抽样信息，我们修正了先验概率，使来自甲、乙、丙三厂的概率分别修正为31.3% 39.7%和29.0%。我们再来看一个用贝叶斯推理分析伊索寓言“孩子与狼”的例子。伊索寓言“孩子与狼”讲的是一个小孩每天到山上放羊，山里有狼出没。第一天，他在山上喊：“狼来了!狼来了!”，山下的村民闻声便去打狼，可到山上发现狼没有来。第二天仍是如此。第三天狼真的来了，可无论小孩怎么喊叫，也没有人来救他，因为前二次他说了谎，人们不再相信他了。现在用贝叶斯推理来分析此寓言中村民对这个小孩的可信程度是如何下降的。我们用E表示“小孩说谎 用H表示“小孩可信”。不妨设村民过去对这个小孩的印象为P(H)=0.8，则P('H)=0.2我们现在用贝叶斯推理来推断P(H/E)，也即这个小孩说了一次谎后，村民对他可信程度的改变。在贝叶斯推断中我们要用到概率P(E/H)和P(E/'H)，前者为可信的孩子说谎的可能性，后者为不可信的孩子说谎的可能性。在此不妨设P(E/H)=0.1，P(E/'H)=0.5第一次村民上山打狼，发现狼没有来，即小孩说了谎。村民根据这个信息，对这个小孩的可信程度改变为P(H/E)=0.8×0.1/((0.8×0.1)+(0.2×0.5))=0.444这表明村民上了一次当后，对这个小孩的可信程度由原来的0.8下降到了0.444。在此基础上，我们再一次用贝叶斯推理来推断P(H/E)，也即这个小孩第二次说谎后，村民对他的可信程度改变为P(H/E)=0.444×0.1/((0.444×0.1)+(0.556×0.5))=0.138这表明村民们经过两次上当，对这个小孩的可信程度已经从0.8下降到了0.138，如此低的可信度，村民听到第三次呼叫时怎么再会上山打狼呢? 通过观察知道，牵牛花是在黎明4时左右开放，野蔷薇是在黎明5时左右开放， 龙葵花是在清晨6时左右开放，芍药花是在清晨7时左右开放。它们开放的时间虽然不同，但都有确定的开放时间，由此可见所有的花都有确定的开花时间。显然，这是一个简单枚举归纳推理，相对于观察前提，结论“所有的花都有确定的开花时间”可靠吗?结论为真的可信程度有多大?是否可以用量来刻划?这些问题用贝叶斯推理的方法是可以解决的。我们用E1、E2、E3、E4分别表示牵牛花有确定的开放时间、野蔷薇有确定的开放时间、龙葵花有确定的开放时间、芍药花有确定的开放时间，它们的合取用字母E来表示。结论“所有的花都有确定的开花时间”用H表示。这样，我们现在需要确定的就是P(H/E)。根据贝叶斯推理的形式，我们有(1)P(H/E)=P(H)×P(E/H)/(P(H)×P(E/H)+P('H)×P(E/'H))由于枚举归纳的前提可从结论中必然推出，即P(E/H)=1。因此，由(1)可得：(2)P(H/E)=P(H)/(P(H)+P('H)×P(E/'H))根据逻辑否定规则，由(2)可得出：(3)P(H/E)=P(H)/(P(H)+(1-P(H))×P(E/'H))在(3)中，P(E/'H)表示，假定归纳结论H不真，E(即E1、E2、E3、E4等)为肯定事例的概率。现在上面的问题可以解决了。相对于背景知识，已知归纳结论H 的先验概率P(H)=0.5，在H不真时“牵牛花有确定的开放时间”、“野蔷薇有确定的开放时间” 等肯定事例出现的先验概率P(E /‘H)=0.8。把以上数据代入(3)得：P(H/E)=0.5/(0.5+(1-0.5)×0.8)= 0.5/0.90= 0.56这说明，相对于观察证据E1、E2、E3、E4而言，归纳结论H(所有的花都有确定的开花时间)的可信程度为百分之五十六。

3. 贝叶斯推理的影响因素

 贝叶斯推理问题总是通过某种具体事例来进行表述的。Kahneman和Amos Tversky认为，被试在概率推理中使用了代表性启发式(representativeness heuristics)，他们进行推断所依据的是问题内容中特征对事件的代表性程度而不是贝叶斯规则删。按照他们的理论，在前述的乳腺癌问题中，由于阳性的检查结果很大程度上代表了有病的信息，所以被试在判断中忽略了问题的基础概率，而主要根据击中率信息进行推理。Gavanski等同所提出的自然抽样空间(natural sample spaces)理论认为，被试的判断错误不在于忽略了基础概率，而是把后验概率P(H/D)表征为了击中率P(D/H)，因为从事件H (患有乳腺癌)中抽取特征D (检查呈阳性)的取样方式更为自然。或者说，事件是原因，特征是结果，从原因到结果的取样方向才更符合人类的思维习惯。事件与特征之间的因果关系或代表性程度都是由问题的内容所决定，因此可以认为这两种理论都是从问题内容角度来解释贝叶斯推理中的认知错觉的。后来的一些研究者虽然也使用了不同内容的贝叶斯问题，但主要是考察它们的平均效应，很少考虑到问题内容对贝叶斯推理的影响。Girotto和Gonzalez(2001)在他们的研究中使用了疾病问题、入学问题等贝叶斯推理任务，他们发现被试在这两类问题上的推理成绩并没有表现出显著差异，即贝叶斯推理问题不存在内容效应(efect of content)。但有研究者认为，人们对入学考试和医学检查的结果都比较信赖，因此，以考试结果预测录取率和以检查结果预测患病率一样具有权威性，仍然可以用代表性启发法进行推断。研究者自行编制了“作家问题”，将贝叶斯问题中的事件与特征换成了作家和影迷。影迷与作家之问并不像阳性与疾病之间那样存在着关联，因此不能用代表性启发法进行推断。他们将作家问题与疾病问题进行对比研究，发现在同样的基础概率、击中率和误报率条件下，人们对作家问题的概率估计值显著低于疾病问题，并由此得出结论：贝叶斯推理中存在着内容效应。近年来，随着社会认知研究的兴起，越来越多的研究开始关注“热”认知的过程。张向阳等(2006)设计不同内容的问题研究了情绪、动机等因素对贝叶斯推理的影响。他们采用2(事件性质：积极事件/消极事件) ×2(事件与主体的关系：与主体有关/与主体无关)的混合设计进行实验，其中事件性质为被试内因素，事件与主体关系为被试间因素。研究发现被试对于消极事件的概率估计值显著低于积极事件，对与己有关的消极事件的概率估计值显著低于与己无关的消极事件 。由此可见，问题内容会导致被试在认知、情绪和动机等方面产生一定的倾向性，从而在不同程度上影响贝叶斯推理的结果。这与主观概率的支持理论是一致的，该理论认为：人类在不确定条件下的概率判断不符合外延性原则(extensionality principle)而是表现出描述依赖性，即对同一外延事件的不同描述所做出的主观概率不同。 信息格式(information format)指的是贝叶斯推理问题中概率数据的形式，包括数据的类型及其相互关系。早期研究中采用的数据大都是百分数形式，Gigerenzer和Hoffrage(1995)指出，从进化论角度来说，人类祖先在其进化环境中所遇到的信息形式是自然频数(natural irequencies)格式而不是近代才出现的概率和百分数形式，被试在某些问题中犯推理错误并不说明人类不能按照贝叶斯规则进行推理，而是由于问题的信息格式与人类的认知算法规则不一致造成的。他们用自然频数的信息格式，对乳腺癌问题中的概率信息进行如下表述：每1000名妇女中有10名患有乳腺癌(对应于1%的基础概率)。在患有乳腺癌的10名妇女中，有8名妇女胸透片呈阳性(对应于80%的击中率)。未患乳腺癌的990妇女中，有95名胸透片呈阳性(对应于9.6%的误报率)。研究发现：在自然频率形式条件下，46%的判断符合贝叶斯定理，而概率条件下只有16%的判断符合贝叶斯定理。因此他们认为，采用自然频数的信息格式可以帮助人们在无需刻意指导的情况下按照贝叶斯规则进行推断 。Cosmides和Tooby(1996)同意Gigerenzer和Hoffrage的生态与进化观点，并通过进一步的研究支持了他们的理论{“1。Sedlmeier等(2001)也认为自然频数格式更符合人类的信息表征方式，他们采用相应的“频数树”(Frequency Tree)方法对人们的贝叶斯推理能力进行训练，并认为该方法可以使人们更快的学会使用贝叶斯推理规则，其效果优于“概率树”(Probability Tree)训练法 。Lewis和Keren(1999)认为，自然频数格式下的乳腺癌问题改变了两个因素：一是，数据形式由概率变为频数；二是，信息取样方式由条件式(conditiona1)变为结合式(joint)。他们提出了条件式频数的信息表征方式：每1000名妇女中有10名患有乳腺癌(对应于1%的基础概率)。在患有乳腺癌的妇女中，每1000人中有800名妇女胸透片呈阳性(对应于80%的击中率)。未患乳腺癌的妇女中，每1000人有96人胸透片呈阳性(对应于9.6%的误报率)。研究发现，被试在该条件下的正确率为4%，显著低于结合式频率(即自然频率)条件下的30%。因此他们认为被试成绩的提高不是因为数据形式由概率变为了频数，而是信息由条件式变为了结合式。Mellers和McGraw (1999)则认为，频数和结合式都可以改进贝叶斯推理，哪种条件占优势取决于事件的性质。频数格式比概率格式更有利于人们对稀有事件的理解，此类问题中，频数格式更容易提高被试的成绩；结合式有助于人们建立适宜的心理模型(mental models)，一般性事件中，他的优势会更加明显 。Fiedler等(2000)也对Gigerenzer和Hoffrage的研究提出质疑，他们认为自然频数格式一方面将数据形式由概率变为频数，另一方面也将参照尺度(reference scale)由不一致变为了一致。自然频数格式中，所有信息都是来自同一个1000人的样本，有着一致的参照尺度，数据之间可以进行直接的比较和计算，因此推理显得容易。他们通过实验研究发现，无论哪一种数据形式，只要参照尺度一致，被试进行推理的成绩都比较好。由此同样证明了频数并不是成绩提高的关键。Girotto和Gonzalez(2001)认为是提问形式和信息结构共同影响了推理成绩。自然频数的表述中，不仅是将概率数据变成了频率数据，而且还将提问形式由一步变成了两步(...人中有...人)，将信息结构由未分割数据变为了分割数据(partitioned data)。所谓分割结构数据就是将1000分割为了10和990两部分，又从10中分割出8，从990中分割出95。他们通过实验考察了提问形式、信息结构以及数据类型等因素，结果发现，无论在概率还是频数格式下，两步提问的贝叶斯推理的成绩优于单步提问的成绩，具有分割的信息结构的问题成绩优于不具有分割信 结构的问题。以上关于贝叶斯推理的信息格式的研究和争议最初是源于Gigerenzer和Hofrage提出的自然频数理论。但后来的研究者似乎误解了他们的原意，主要是在“频数”上作争论，而忽视了“自然”的意义。Gigerenzer和Hofrage强调，他们所说的频数并非任意形式下的频数，而是通过自然取样获得的自然频数。因为自然频数携带了有关基础比率的信息，所以简化了贝叶斯计算。很显然，他们所说的“自然频数”就是Lewis和Kere所说的“结合式频数”、Fiedler等所说的“一致性参照尺度下的频数” 以及Girotto和Gonzalez所说的“分割结构的频数”。这些研究者都同意，该方式下推理会变得简单。但频数是否能起到作用呢?Gigerenzer和Hofrage不同意其他研究者的观点，他们通过考察“结合式频数”和“结合式概率”两种条件，发现前者的成绩明显好于后者。但Fiedler等(2000)的研究表明，这两种条件下，被试成绩的差异是不显著的 ，这可能与两种研究使用了不同的表述方式有关。总的来说，信息格式中所包括的数据类型和结构都会对贝叶斯推理的成绩产生影响，其中后者的作用更为明显。 除了问题本身的内容、信息格式和呈现方式等因素之外，推理者的知识、经验以及思维方式等因素也会影响贝叶斯推理问题的解决。张向阳等(2006)认为，医务人员之所以对人患病的概率作出高估，可能正是他们的医学经验在起作用。另一方面，如果被试具备相关的概率知识，则可能会促进贝叶斯推理问题的解决。研究者以被试的知识背景为自变量，用专家(有概率知识的数学系大学生)和新手(无概率知识的其他系大学生)进行对比实验。研究表明：在贝叶斯推理中，专家的概率知识背景有助于他们运用贝叶斯规则进行推理，概率估计准确性明显好于新手。这一结论与史滋福等(2006)的研究结果有所不同，他们以数学系和中文系的大学生为被试进行实验，发现两者之问概率估计的准确性没有显著差异。研究者认为，文理科被试之间并不存在所谓的思维类型不同而导致复杂概率推理成绩差异的现象。傅小兰等(2005)在考察不同信息表征方式对贝叶斯推理的影响时发现，中外被试在某些条件下的表现不同甚至相反。在Girott0和GonZalez的研究中，被试解决两步问题的成绩总是优于解决一步问题的成绩。而傅小兰等的研究却表明：对于中国被试而言，两步问题形式并不能改进他们解决贝叶斯推理问题的成绩，甚至在某些情况下还会干扰他们做出正确的回答。研究者认为，这可能在一定程度上反映了东西方人的不同思维风格和特点：对西方人而言，分析性的思维操作有助于他们顺利解决贝叶斯推理问题，而中国被试面对贝叶斯推理问题时则更倾向于整体性解决，因此，他们解决两步问题与解决一步问题的成绩之间没有出现显著差别，甚至解决一步问题的表现可能还会更好一些。另外，问题提问信息格式对中国被试解决贝叶斯推理问题也有影响，与概率格式相比，频数格式可以显著改善两步问题的贝叶斯推理成绩。这也与Girotto和Gonzalez的研究结果也不一致。后者的研究结果表明，问题提问的信息格式不影响被试解决贝叶斯推理问题的成绩。研究者认为，这可能也是由于东西方人思维方式的差异造成的。

4. 贝叶斯推理公式

贝叶斯定理由英国数学家贝叶斯 ( Thomas Bayes 1702-1761 ) 发展，用来描述两个条件概率之间的关系，比如 P(A|B) 和 P(B|A)。按照乘法法则，可以立刻导出：P(A∩B) = P(A)*P(B|A)=P(B)*P(A|B)。如上公式也可变形为：P(A|B)=P(B|A)*P(A)/P(B)。

托马斯·贝叶斯（Thomas Bayes，1702-1763） ，18世纪英国神学家、数学家、数理统计学家和哲学家，概率论理论创始人，贝叶斯统计的创立者，“归纳地”运用数学概率，“从特殊推论一般、从样本推论全体”的第一人。

5. 贝叶斯推理

贝叶斯的统计学中有一个基本的工具叫贝叶斯公式、也称为贝叶斯法则， 尽管它是一个数学公式，但其原理毋需数字也可明了。
  
 如果你看到一个人总是做一些好事，则那个人多半会是一个好人。这就是说，当你不能准确知悉一个事物的本质时，你可以依靠与事物特定本质相关的事件出现的多少去判断其本质属性的概率。 用数学语言表达就是：支持某项属性的事件发生得愈多，则该属性成立的可能性就愈大。
  
  
 但行为经济学家发现，人们在决策过程中往往并不遵循贝叶斯规律，而是给予最近发生的事件和最新的经验以更多的权值，在决策和做出判断时过分看重近期的事件。面对复杂而笼统的问题，人们往往走捷径，依据可能性而非根据概率来决策。这种对经典模型的系统性偏离称为“偏差”。
  
 由于心理偏差的存在，投资者在决策判断时并非绝对理性，会行为偏差，进而影响资本市场上价格的变动。但长期以来，由于缺乏有力的替代工具，经济学家不得不在分析中坚持贝叶斯法则。
  
  
 贝叶斯推理有两大要求：第一是要厘清你已有的判断，第二是诚实对待新的证据，两者缺一不可。前者是判断的出发点，后者是更新判断的依据。并且在先的判断与新证据之间并不总是彼此独立的。如果你已经绝对相信上帝存在，那么无论出现什么新信息新证据，你总能找到让你舒服的解释。
  
  
 对于真正的贝叶斯人来说，他们会尊重先入之见，因为它是一切新知的出发点，但又随时准备清空存量，以避免掉入这一陷阱。

6. 贝叶斯推断的内容

推断是基于现象得出的结论或做出的决策。统计推断是基于现实世界观察到的特征而得到的有关世界的不可观察属性的结论，通常被称为假设检验。在统计学中，不可观察的特征通常被称做参数，而观察到的特征则被称做数据或样本信息。贝叶斯统计推断是允许调查者在评估统计假说时以逻辑一致的方式既使用样本信息又使用先验信息的一种方法。在经济学中，贝叶斯推断被用来协助评价不同的经济假说和模型，估计经济参数的数值，对有待观测的经济变量做出预测。贝叶斯推断的结论是关于所要探究的那些参数的概率值，是关于一些假说的相对置信度的概率值，或者是对未来观测量可能的预测区间。与非贝叶斯推断相比，贝叶斯推断的显著特征是对先验信息进行贝叶斯式利用。先验信息可能基于先前的研究成果、理论或者是主观信念。术语“贝叶斯”是指贝叶斯定理，它是以英国长老会部长及数学家托玛斯·贝叶斯(Thomas Bayes，1702-1761)的名字命名的贝叶斯定理描述了先验信息如何能以一种概率方式与样本信息结合在一起。贝叶斯定理有时也被称为逆概率定理，它是贝叶斯学习模型的基础。它允许初始的和以前的样本信息与现在的样本信息相结合，以产生后验数据或后验分布。刻画先验信息特征的概率分布函数(pdf)被称为先验概率分布函数。刻画样本信息特征的函数被称为似然函数。贝叶斯定理给出的结论是，后验概率分布函数与先验概率分布函数和似然函数之间的乘积成比例。通过乘积，贝叶斯定理把样本和先验信息结合起来，把二者加以平均。只要有先验信息来源，贝叶斯定理的这一特殊平均机制在计最经济学估计和预测中就有重要的意义。贝叶斯推断也可以被认为是一个动态处理过程，因为这一过程从先验信息开始，收集以样本信息为形式的证据，并以后验分布作为结束。这一后验分布可以作为新的先验分布与新的样本信息相结合口这就是从先验到后验转换过程的贝叶斯学习模型。

7. 贝叶斯推理的名词详解

作为一种推理方法，贝叶斯推理是从概率论中的贝叶斯定理扩充而来。贝叶斯定理断定：已知一个事件集Bi(i=1,2,...k)中每一Bi的概率P(Bi)，又知在Bi已发生的条件下事件A的条件概率P(A/Bi)，就可得出在给定A已发生的条件下任何Bi的条件概率(逆概率)P(Bi/A)。即P(Bi/A)=P(Bi)P(A/Bi)/(P(B1)P(A/B1)+P(B2)P(A/B2)+...+P(Bn)P(A/Bn))贝叶斯定理有很广的应用范围，但作为研究贝叶斯推理的起点，我们必须扩充这个定理的意义。不考虑事件集Bi，而考虑构成实际情况的一个合适模型的假说集Hi(i=l,2,...k)，其中一个而且仅仅一个假说必定是真的。事件A则被重新解释为由实际情况得到的观察结果E：样本数据。在观察之前，对所有的i=l,2,...k，已知P(Hi)，它们是不同假说的先验概率，构成次要的信息来源。又知P(E/Hi)即在Hi真时E被观察到的概率，它们是样本数据的似然值，也叫E相对于Hi的后验概率。经过这样的解释，贝叶斯定理仅由适用给事件测定概率变成也能给假说测定概率(可信度)的工具。

8. 贝叶斯推理的介绍

贝叶斯推理是由英国牧师贝叶斯发现的一种归纳推理方法，后来的许多研究者对贝叶斯方法在观点、方法和理论上不断的进行完善，最终形成了一种有影响的统计学派，打破了经典统计学一统天下的局面。贝叶斯推理是在经典的统计归纳推理——估计和假设检验的基础上发展起来的一种新的推理方法。与经典的统计归纳推理方法相比，贝叶斯推理在得出结论时不仅要根据当前所观察到的样本信息，而且还要根据推理者过去有关的经验和知识。