贝叶斯推断与计算统计¶

贝叶斯公式最初是条件概率之间的恒等关系：观察到新事件后，原有事件概率怎样更新。统计推断把这条关系用于未知参数、潜在状态和未来观察。模型先用概率分布表达观察怎样产生，再用先验分布表达观察数据之前对未知量的约束；数据进入后，似然与先验共同形成后验分布。后验不只是一个点估计，而是给出在整个模型条件下，各种参数值、预测结果和决策后果的不确定性。

实际生命科学模型很少能靠纸笔求出完整后验。层级结构、非线性响应、缺失数据和潜变量会产生高维积分，因此贝叶斯分析与计算统计紧密相连。蒙特卡洛（Monte Carlo）、马尔可夫链蒙特卡洛（Markov chain Monte Carlo，MCMC）和近似推断使复杂后验可计算，同时引入随机计算误差和算法近似。一个完整分析需要同时判断模型能否表达研究对象、计算是否充分探索目标后验，以及结论对先验与模型选择是否稳健。

从事件概率到参数后验¶

全概率与事件更新¶

若互斥且完备的事件 \(A_1,\ldots,A_K\) 构成样本空间的划分，观察到事件 \(B\) 后，属于第 \(k\) 类的概率为

分母是全概率公式给出的 \(P(B)\)，它把各来源产生 \(B\) 的概率按来源概率加权。这里的先验概率 \(P(A_k)\) 与后验概率 \(P(A_k\mid B)\) 都属于有限事件；诊断试验中从患病率、敏感度和特异度求阳性预测值，就是这一层面的更新。本章的概率页面已完整保留了这条经典学习路径。

参数推断把未知参数 \(\theta\) 视为概率模型中的未知量。设观察数据为 \(y\)，采样模型给出 \(p(y\mid\theta)\)，先验分布为 \(p(\theta)\)。贝叶斯公式写成

其中

称为边缘似然或先验预测密度。对离散参数，积分换成求和。似然 \(p(y\mid\theta)\) 是在已观察到 \(y\) 后关于 \(\theta\) 的函数；与先验相乘并归一化后，才得到参数的后验概率分布。

许多计算只需要知道后验与什么成比例：

省略的比例常数与 \(\theta\) 无关，但贝叶斯因子（Bayes factor）等模型证据和部分预测计算需要这个常数。后验结论始终条件于采样模型、先验、数据处理和观测设计；数据与这些模型结构共同决定后验。

生成模型与条件独立¶

贝叶斯模型可以先写成联合分布，再按生成顺序分解。例如参数先由先验产生，观察在给定参数后相互独立：

这条分解方便计算，也明确了条件独立假设。家系成员、同一培养皿内的孔或同一个体的时间序列共享上层单位，需要在似然中加入层级随机效应、空间或时间过程；测量误差和选择机制也应出现在联合模型里。

贝塔—二项共轭更新¶

设 \(n\) 次条件独立的伯努利（Bernoulli）试验中观察到 \(x\) 次成功，成功概率为 \(\theta\)。忽略不依赖 \(\theta\) 的组合常数，似然为

若先验为

相乘后得到

先验与后验属于同一分布族，这称为共轭。Stan 用户指南也用 Beta 先验与 binomial 采样分布展示这一代数结构。¹ 后验均值为

它可写成先验均值 \(a/(a+b)\) 与样本比例 \(x/n\) 的加权平均，因此 \(a+b\) 在这个特定参数化中具有“先验信息量”的直观。不过，\(a\) 和 \(b\) 只有在明确的 Bernoulli 交换性模型中才可类比先验成功与失败次数；一般先验的强度不能机械换算成样本量。

若下一次试验结果为 \(\widetilde Y\)，则后验预测成功概率为

代入 Beta 后验可得

多次未来试验的成功数服从贝塔—二项（Beta–binomial）预测分布，它同时包含未来 Bernoulli 波动和 \(\theta\) 的后验不确定性。若把后验均值固定为模拟概率，预测只传播前一种波动，所得范围会偏窄。

这套共轭手算展示了“先验×似然→后验”的完整结构，也说明数据可以顺序更新：第一批数据的后验可作为第二批数据的先验。顺序更新等价于一次联合更新的前提，是两批数据在给定参数与模型后具有相应条件独立性，而且结局定义、选择规则和模型空间保持一致。

先验分布与先验预测¶

先验分布描述观察当前数据之前，模型允许参数落在哪些尺度与区域。信息性先验可来自可靠的历史实验、物理界限或明确专家知识；弱信息先验主要排除不合理的极端值，同时让当前数据在合理范围内发挥作用；参考性或形式上“平坦”的先验试图减少主观输入，却不一定在变量变换后仍平坦，也可能是不正规分布。若不正规先验导致后验无法归一化，后验概率和边缘似然都没有定义。

先验必须在参数和似然共同构成的尺度上理解。回归系数的同一个 \(N(0,10^2)\) 先验，在标准化连续响应、logit 链接和 log 发生率尺度上允许的预测范围完全不同。方差分量接近零、混合模型相关矩阵、稀有事件回归和高维系数尤其容易受到表面“宽松”先验的隐含约束。Gelman、Simpson 与 Betancourt 强调，先验的实际含义往往只有放回似然和完整模型中才清楚。²

在拟合数据之前，可从先验抽取参数，再从采样模型生成复制数据：

这些 \(y^{\mathrm{sim}}\) 来自先验预测分布

先验预测检查把抽象参数尺度转回可观察量：如果一个体长模型在拟合前频繁生成负体长或超过物理尺度数百倍的个体，先验与链接函数的组合就需要修改。Stan 的正式指南把先验预测明确为不条件于当前响应数据的生成检查。³

用同一批响应数据反复调先验直至得到希望的后验，会把数据使用两次。经验贝叶斯（empirical Bayes）先由总体数据估计超参数再进行条件推断，是一种有用但不同的程序；其不确定性若被忽略，区间可能过窄。无论先验来自历史数据、专家量化、弱信息约束还是经验估计，都应说明来源，在若干科学上合理的先验下重复关键结论。先验敏感性用于检查数据究竟识别了多少信息。

后验概括与可信区间¶

后验均值与后验中位数分别对应平方损失和绝对损失下的贝叶斯估计。最大后验估计（maximum a posteriori estimate，MAP）则是在指定参数化下使后验密度达到全局最大值的位置。连续参数单点的后验概率通常为零，MAP 比较的是密度高度；非线性重参数化会通过雅可比行列式（Jacobian）改变密度及其众数。多峰后验可能含有多个局部众数或并列的全局众数，单次局部优化收敛只说明到达一个驻点。Stan 参考手册同样区分了受约束参数空间与含 Jacobian 的无约束空间中的众数。⁴

对对称单峰分布，后验均值、中位数和众数可能接近；偏斜、多峰或边界后验需要连同分布形状呈现。报告应优先给出后验分布、分位数和科学尺度上的派生量，使中心估计与不确定性结构相互对应。

后验概率可以直接表达模型内的命题，例如

若关心效应是否超过最小生物学重要值 \(\delta\)，就应计算 \(P(\theta>\delta\mid y)\) 或给出落在实际等效区间内的概率。阈值概率还应与效应大小、行动代价和决策后果一同报告。

一个 \(100(1-\alpha)\%\) 等尾可信区间截去后验两侧各 \(\alpha/2\) 的概率；最高密度区间选择具有最高后验密度的区域。多峰后验的最高密度集合可能不连续，强行写成单一区间会把低密度谷地也包含进去。区间还依赖参数化：在风险比和 log 风险比尺度上先概括再变换，中心与对称性可能不同。

在模型、先验和观察数据给定后，95% 可信区间可解释为参数落入该区间的后验概率为 95%。频率学派 95% 置信区间的定义则是：在同一抽样程序反复运行时，所构造区间的长期覆盖率为 95%。二者在大样本正则模型中可能数值相近，但概率对象和校准方式不同。模型本身通常作为可信区间的条件；模型概率需要另设候选模型及其先验。

后验预测与模型检查¶

未来或复制观察 \(\widetilde y\) 的后验预测分布为

它把参数后验不确定性传播到新的观察层。Stan 用户指南以这一积分定义预测分布，并用后验抽样近似它。⁵ 若有后验样本 \(\theta^{(1)},\ldots,\theta^{(M)}\)，可对每个样本生成 \(\widetilde y^{(m)}\sim p(\widetilde y\mid\theta^{(m)})\)，得到预测区间、事件概率和复杂派生量。

后验预测检查把实际数据与这些复制数据比较。检查量应针对模型可能失败的方式，例如零值比例、极端尾部、组间差异、最大值、空间聚集或随时间的残差结构。若复制数据无法重现观察数据的关键特征，说明似然、链接、层级或观测过程存在缺口；它不直接告诉研究者应增加哪一个参数。

复制数据已经条件于观察数据，因此后验预测检验量具有不同于传统零假设 p 值的参照分布。模型若参数众多，也可能很好地重现用于拟合的特征而缺乏外部预测力。Gabry 等把先验预测、后验预测、计算诊断和模型比较组织为连续的可视化工作流。⁶

层级模型与部分汇聚¶

若多家医院、多个种群或多个实验批次各有一个效应 \(\theta_j\)，完全汇聚模型令所有组共享同一效应，无汇聚模型则把各组完全独立估计。层级模型在两者之间建立总体分布，例如

数据丰富的组主要由本组资料决定，数据稀少的组更多向总体均值 \(\mu\) 收缩，收缩程度由组内不确定性与组间尺度 \(\tau\) 共同决定。这种部分汇聚共享信息，又保留真实的组间差异；Stan 的层级回归说明明确把它置于完全汇聚和无汇聚之间。⁷

层级分布表达的是组效应在给定超参数后的交换性，允许各组具有生物学差异。若医院类型、物种谱系或处理批次有系统差异，应以预测变量、更高层结构或不同总体表示。组数很少时，\(\tau\) 的似然信息有限，超先验会明显影响收缩；对方差尺度给任意近零逆伽马（inverse-gamma）先验可能产生不良行为，应在真实响应尺度上检查合理范围。⁸

层级贝叶斯模型与混合效应模型描述同一种嵌套或交叉数据结构，但推断组织不同：后者常以最大似然或 REML 估计固定效应和方差分量，前者为它们指定联合先验并传播到后验预测。随机效应可以表达已观测的层级结构，实验单位错误和超出样本总体的推广仍需由设计证据解决。

从积分到 Monte Carlo¶

后验期望通常是高维积分：

若能从后验独立抽取 \(M\) 个样本，可用

近似该积分。Monte Carlo 误差来自有限模拟次数；在独立、方差有限的情形下，其标准误大致随 \(1/\sqrt M\) 缩小。模拟次数增加四倍，随机计算误差约减半。有限生物样本的后验不确定性和模型误差属于另外两类不确定性。

低维、结构简单的后验可以用解析共轭、网格积分或数值求积。拒绝采样从易抽样的包络分布筛选样本，维数增大后接受率可能急剧下降。重要性采样从提议分布 \(q(\theta)\) 抽样，再以 \(p(\theta\mid y)/q(\theta)\) 加权；若提议分布没有覆盖后验尾部，少数巨大权重会支配结果。直接 Monte Carlo、重要性采样和 MCMC 都是积分方法，但样本独立性、权重和误差诊断不同。

马尔可夫链蒙特卡洛¶

Metropolis–Hastings 与吉布斯采样¶

MCMC 构造一个以目标后验为平稳分布的马尔可夫（Markov）链。时间平均收敛到后验期望还要求链能够到达目标分布的所有相关区域，并具有适当的遍历性质。Metropolis–Hastings 算法从当前位置 \(\theta\) 按提议分布 \(q(\theta'\mid\theta)\) 产生候选 \(\theta'\)，并以概率

接受候选。后验的归一化常数在比值中抵消，因此只需能计算未归一化密度。Hastings 的论文把早期 Metropolis 方法推广到非对称提议，并讨论了 Monte Carlo 误差评估。⁹

吉布斯（Gibbs）采样依次从每个参数块的完全条件分布抽样，是 Metropolis–Hastings 的特殊情形。它在共轭或条件分布易抽样时很有效，但强相关参数会使链缓慢移动。数据增强、潜类别和缺失值模型常能写成 Gibbs 步骤；标签交换、近不可识别和高度相关几何仍需要专门约束或重参数化。

哈密顿蒙特卡洛与 NUTS¶

随机游走提议在高维、强相关后验中会反复拒绝或只作很小移动。哈密顿蒙特卡洛（Hamiltonian Monte Carlo，HMC）引入辅助动量，利用 log 后验的梯度沿近似保持能量的轨迹远距离移动。步长太大会造成数值积分误差，步数太少又会退化为随机游走。

无掉头采样器（No-U-Turn Sampler，NUTS）在轨迹开始折返时自动停止，并在预热（warmup）中适配步长和质量矩阵，减少人工指定轨迹长度。Hoffman 与 Gelman 的原始论文给出了这一自适应路径构造。¹⁰ HMC/NUTS 适合连续可微参数；离散潜变量通常须边缘化，或改用能处理离散状态的采样方法。

预热用于让链离开不合适的初值并适配算法参数，适配阶段的样本通常不进入后验概括。正式抽样应从多个分散初值启动独立链。模型维数、后验几何、自相关和所需尾部精度共同决定链数与迭代数。抽稀（thinning）会减少保存的样本，通常只在存储或后续计算成本确有需要时使用；有效样本量更直接衡量抽样效率。

MCMC 诊断与计算误差¶

轨迹图应显示各链在同一稳定区域内反复往返；持续漂移、长时间停滞或链间分离提示采样问题。秩归一化分裂 \(\widehat R\) 比较链内与链间变异，并通过分链、秩变换和折叠提高对位置与尺度不收敛的敏感性。\(\widehat R\) 接近 1 是必要条件之一；遍历多峰结构还需分散初值、轨迹和其他诊断共同支持，因为所有链可能困在同一个局部模式。Vehtari 等给出了现代 \(\widehat R\) 及 bulk／tail 有效样本量的改进定义。¹¹

链内自相关使 \(M\) 次 MCMC 迭代包含的信息少于 \(M\) 次独立抽样。有效样本量（effective sample size，ESS）把这种依赖换算为等价独立样本数；bulk ESS 关注分布主体，tail ESS 关注分位数与尾概率。某个后验量 \(g(\theta)\) 的蒙特卡洛标准误（Monte Carlo standard error，MCSE）应相对于该量的后验标准差和报告精度足够小。诊断必须针对实际报告的派生量，同时覆盖模型原始参数。

HMC 的 divergent transition 表示数值轨迹未能可靠穿过高曲率区域，常见于层级漏斗、弱识别或不合适参数化；达到最大树深则提示轨迹在停止前已耗尽允许深度。降低步长可能减少部分发散，更根本的处理常是缩放变量、提供合理先验或使用非中心参数化。Stan 参考手册把发散与后验曲率联系起来，并要求在解释样本前解决这些诊断。¹²

计算诊断和模型诊断回答不同问题。链充分混合说明算法较好地抽取了所写模型的后验；似然中的零膨胀、层级或测量误差则由模型诊断评估。后验预测图呈现模型与数据的拟合特征，链是否进入所有高概率区域仍由采样诊断判断。

近似后验计算¶

拉普拉斯（Laplace）近似在后验众数附近用二阶曲率构造高斯近似，适合单峰、近对称且局部曲率能代表全局形状的后验。偏斜、重尾、多峰、边界和弱识别问题会使近似失真；在高维中，Hessian 分解也可能昂贵。Stan 的正式实现是在无约束参数空间围绕众数建立近似，再变换回受约束尺度。¹³

变分推断选择一个易处理的分布族 \(q(\theta)\)，通过优化使它接近目标后验。常用目标是最大化证据下界（ELBO），等价于最小化

均值场（mean-field）近似把参数相关性全部断开，全秩高斯（full-rank Gaussian）可保留线性相关，但表达任意偏斜和多峰的能力仍有限。自动微分变分推断（automatic differentiation variational inference，ADVI）用自动微分与随机梯度优化证据下界（evidence lower bound，ELBO），速度通常快于完整 MCMC；其目标倾向避免把质量放到后验低密度处，因而可能漏掉模式或低估尾部不确定性。¹⁴

优化收敛说明近似族中的目标已趋于稳定，\(q\) 与真实后验的接近程度还应通过模拟资料、少量可承受的高质量 MCMC、重要性修正、预测检查或基于模拟的校准来检验。算法选择是精度、计算量与研究目的之间的权衡；用于探索候选模型的近似若要支持尾概率、极端风险或高代价决策，需要相应精度验证。

模型比较、证据与决策¶

两个模型 \(M_1\) 与 \(M_0\) 的 Bayes factor 是边缘似然之比：

它把先验模型优势更新为后验模型优势。边缘似然会对每个模型的整个参数先验空间积分，因此 Bayes factor 对备择模型下参数先验的尺度和尾部十分敏感；不正规先验还会使它未定义。Kass 与 Raftery 的综述在介绍 Bayes factor 的同时明确要求评估先验敏感性。¹⁵ 后验模型概率以列入比较的候选集合与模型先验为条件，表示候选集合内部的相对支持。

若目标是预测新数据，可比较留出数据上的后验预测密度。留一交叉验证（leave-one-out cross-validation，LOO）逐个留下独立信息单位，Pareto 平滑重要性抽样留一法（Pareto-smoothed importance sampling LOO，PSIS-LOO）用平滑重要性权重近似重复拟合，并以 Pareto \(k\) 诊断识别不可靠的近似和高影响观察。Vehtari、Gelman 与 Gabry 系统比较了 LOO、广泛适用信息准则（widely applicable information criterion，WAIC）与有限样本稳定性。¹⁶ 时间、空间、家系和重复测量资料应按未来应用场景留组、留时间段或留个体，以保持相关记录的整体性。

若多个模型代表不同但合理的机制，可报告关键结论在模型间的变化，或按外部预测表现进行模型平均与堆叠（stacking）。决策还需指定可选行动 \(a\) 与损失 \(L(a,\theta)\)，选择使后验期望损失最小的行动。不同漏诊与误诊代价、保护性管理和资源约束，可能让同一个后验支持不同决策。

自助法、置换与模拟研究¶

计算统计的多个方法都使用重复抽样，但抽样对象不同。

• 非参数自助法（bootstrap）从原样本的经验分布有放回重抽，近似估计量在重复抽样下的分布；参数 bootstrap 从拟合模型生成资料。重抽样单位必须与独立信息单位一致，区块、整群和配对结构需要作为整体抽取。本章的抽样与估计页面已讲解区间类型与重抽样层级。
• 置换检验在零假设和研究设计允许的可交换标签中重排，构造检验统计量的参照分布。随机分派、配对、区组与时间结构决定允许怎样重排，详见置换检验。
• 普通 Monte Carlo 从指定概率模型独立模拟，近似积分、概率或方法表现；MCMC 则用相关的 Markov 链样本近似难以直接抽样的目标分布。

这些模拟利用既有样本或指定模型，不会扩大原样本覆盖的物种、批次或环境范围。增加 bootstrap 重复次数会减小区间端点的计算波动，增加 MCMC 迭代会减小后验概括的计算误差；抽样不确定性、模型不确定性和 Monte Carlo 误差应分别呈现。

模拟研究可在已知参数 \(\theta_0\) 下反复生成数据、拟合完整流程，再检查偏差、区间覆盖率、预测校准、错误率和失败率。参数恢复先回答“在这个模型生成的数据上，方法能否找回已知值”，再去解释真实数据。若只模拟容易收敛的参数区、丢弃拟合失败的重复或用生成模型本身作为唯一分析模型，结果会过度乐观。

基于模拟的校准（simulation-based calibration，SBC）进一步从先验抽取参数并生成数据，对每个模拟数据集计算后验，再检查真实模拟参数在后验样本中的秩是否符合校准分布。它能发现推断算法和模型实现错误；模型对现实数据的适合程度仍需后验预测和外部证据检验。Talts 等将 SBC 发展为验证贝叶斯计算的通用程序。¹⁷

有限模拟次数也有可量化误差。例如以 \(B\) 次独立模拟估计概率 \(p\)，Monte Carlo 标准误近似为

应根据所需精度选择 \(B\)，报告随机种子、伪随机数生成器或软件版本、失败重复及其处理，并为模拟频率给出相应的 Monte Carlo 误差。

贝叶斯工作流与完整报告¶

一项贝叶斯分析从研究问题和待估量开始。先用生成过程明确观察单位、条件独立、测量误差、缺失与选择机制；再为每个参数指定有尺度含义的先验，运行先验预测检查。复杂模型应先在模拟数据上做参数恢复，确认实现、识别性和计算流程，然后拟合真实数据。

拟合后先处理计算诊断：多链轨迹、rank-normalized \(\widehat R\)、bulk／tail ESS、MCSE，以及 HMC 的发散、树深和能量诊断。随后进行后验预测检查，比较关键生物学特征；对结论重要的先验、似然、链接、缺失机制和模型结构进行敏感性分析。需要外部预测或模型比较时，再采用符合推广单位的留出验证或 LOO。Bayesian workflow 文献把模型构造、计算诊断、检查、理解与比较视为反复迭代而非一次线性拟合。¹⁸

报告至少应包括采样模型与层级、参数化、先验及其来源、先验预测检查、软件和算法、链数、warmup 与正式抽样、诊断结果、后验效应与可信区间、科学阈值概率、后验预测检查和敏感性分析。若使用近似推断、Bayes factor、LOO、SBC 或模拟研究，应另报近似族、模型先验、留出单位、Pareto 诊断、模拟生成机制与 Monte Carlo 误差。代码、数据处理和随机种子使计算可重现，但科学结论的重复仍需独立数据和新的生物学研究。

参考资料与延伸阅读¶