From 791c37b28f4950b6badadc554b218dc4c2ec2fe4 Mon Sep 17 00:00:00 2001 From: Matt McKay Date: Sat, 18 Jul 2026 18:45:56 +1000 Subject: [PATCH 1/3] =?UTF-8?q?=F0=9F=94=84=20resync=20prob=5Fmeaning.md?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- .translate/state/prob_meaning.md.yml | 6 + lectures/prob_meaning.md | 623 +++++++++++++-------------- 2 files changed, 306 insertions(+), 323 deletions(-) create mode 100644 .translate/state/prob_meaning.md.yml diff --git a/.translate/state/prob_meaning.md.yml b/.translate/state/prob_meaning.md.yml new file mode 100644 index 00000000..df4d59ea --- /dev/null +++ b/.translate/state/prob_meaning.md.yml @@ -0,0 +1,6 @@ +source-sha: 1f153466dc86b0c703f4ecfc6ae1bd9e1841a7e5 +synced-at: "2026-07-18" +model: claude-sonnet-5 +mode: RESYNC +section-count: 5 +tool-version: 0.17.0 diff --git a/lectures/prob_meaning.md b/lectures/prob_meaning.md index e0149b3c..4b7c8d40 100644 --- a/lectures/prob_meaning.md +++ b/lectures/prob_meaning.md @@ -9,6 +9,21 @@ kernelspec: display_name: Python 3 (ipykernel) language: python name: python3 +translation: + title: 概率的两种含义 + headings: + Overview: 概述 + Overview::Code for answering questions: 回答问题的代码 + Frequentist Interpretation: 频率主义解释 + Frequentist Interpretation::Comparison with different $\theta$: 不同$\theta$值的比较 + Frequentist Interpretation::Comparison with different $n$: 不同 $n$ 值的比较 + Frequentist Interpretation::Comparison with different $I$: 不同 $I$ 值的比较 + Bayesian Interpretation: 贝叶斯解释 + Bayesian Interpretation::The beta prior and its posterior: beta先验及其后验 + Bayesian Interpretation::Exploring the posterior numerically: 数值探索后验分布 + Bayesian Interpretation::Why the posterior concentrates: 为什么后验分布会集中 + Comparing the two interpretations: 比较两种解释 + Role of a Conjugate Prior: 共轭先验的作用 --- # 概率的两种含义 @@ -21,43 +36,32 @@ kernelspec: * 贝叶斯解释：概率是在观察一系列数据后对参数或参数列表的**个人观点** -我们建议阅读[这篇](https://zhuanlan.zhihu.com/p/660303792)关于频率主义方法**假设检验**的文章，以及[这篇](https://zhuanlan.zhihu.com/p/28202544)关于贝叶斯方法构建**覆盖区间**的文章。 +在继续之前，我们建议观看以下两个视频： +* [频率主义方法下的假设检验](https://www.youtube.com/watch?v=8JIe_cz6qGA) -在您熟悉这些文章中的内容后，本讲座将使用苏格拉底提问法来帮助巩固您对以下两种方法所回答的不同问题的理解： +* [贝叶斯方法构建覆盖区间](https://www.youtube.com/watch?v=Pahyv9i_X2k) -* 频率主义置信区间 +在您熟悉这些视频中的内容后，本讲座将使用苏格拉底提问法来帮助巩固您对概率这两种含义的理解。 -* 贝叶斯覆盖区间 +在此过程中，我们将构造一个**贝叶斯覆盖区间**，并将它所回答的问题与本讲座开篇的频率主义相对频率推理进行对比。 我们通过邀请您编写一些Python代码来实现这一点。 -在继续阅读讲座的其余部分之前，建议您在我们提出的每个问题后尝试编写代码。 +如果您能在我们提出的每个问题之后都尝试这样做，然后再继续阅读讲座的其余部分，那将会特别有用。 随着讲座的展开，我们会提供我们自己的答案，但如果您在阅读和运行我们的代码之前尝试编写自己的代码，您会学到更多。 -**回答问题的代码：** - -除了Anaconda中包含的内容外，本讲座还将使用以下库： - -```{code-cell} ipython3 -:tags: [hide-output] -pip install prettytable -``` +### 回答问题的代码 为了回答我们的编程问题，我们先导入一些库 ```{code-cell} ipython3 import numpy as np import pandas as pd -import prettytable as pt import matplotlib.pyplot as plt from scipy.stats import binom import scipy.stats as st -import matplotlib as mpl -FONTPATH = "fonts/SourceHanSerifSC-SemiBold.otf" -mpl.font_manager.fontManager.addfont(FONTPATH) -plt.rcParams['font.family'] = ['Source Han Serif SC'] ``` 有了这些Python工具，我们现在来探索上述两种含义。 @@ -69,13 +73,13 @@ plt.rcParams['font.family'] = ['Source Han Serif SC'] 随机变量 $X$ 可能取值为 $k = 0, 1, 2, \ldots, n$，其概率为 $$ -\textrm{Prob}(X = k | \theta) = -\left(\frac{n!}{k! (n-k)!} \right) \theta^k (1-\theta)^{n-k} +p(k \mid \theta) := \mathbb{P}\{X = k \mid \theta\} = +\binom{n}{k} \theta^k (1-\theta)^{n-k} $$ -其中 $\theta \in (0,1)$ 是一个固定参数。 +其中固定参数 $\theta \in (0,1)$。 -这被称为*二项分布*。 +这被称为[二项分布](https://en.wikipedia.org/wiki/Binomial_distribution)。 这里 @@ -102,11 +106,10 @@ $$ 令 $f_k$ 记录长度为 $n$ 的样本中满足 $\sum_{h=1}^n y_h^i = k$ 的比例: $$ -f_k^I = \frac{\textrm{满足} \sum_{h=1}^n y_h^i = k \textrm{的长度为n的样本数}}{ - I} +f_k^I = \frac{1}{I} \sum_{i=1}^I \mathbb{1}\left\{ \sum_{h=1}^n y_h^i = k \right\} $$ -概率 $\textrm{Prob}(X = k | \theta)$ 回答了以下问题: +概率 $p(k \mid \theta)$ 回答了以下问题: * 当 $I$ 变大时,在 $I$ 次独立的 $n$ 次硬币投掷中,我们应该预期有多大比例会出现 $k$ 次正面? @@ -115,85 +118,47 @@ $$ ```{exercise} :label: pm_ex1 -1. 请编写一个Python类来计算 $f_k^I$ +1. 请编写Python代码来计算 $f_k^I$ 2. 请使用你的代码计算 $f_k^I, k = 0, \ldots , n$ 并将其与不同 $\theta, n$ 和 $I$ 值下的 - $\textrm{Prob}(X = k | \theta)$ 进行比较 + $p(k \mid \theta)$ 进行比较 -3. 结合大数定律,运行你的代码并说明观察到的结论 +3. 结合大数定律，使用你的代码描述当 $I$ 增长时 $f_k^I$ 与 $p(k \mid \theta)$ 之间的关系 ``` ```{solution-start} pm_ex1 :class: dropdown ``` -这是一个解决方案: - -```{code-cell} ipython3 -class frequentist: - - def __init__(self, θ, n, I): - - ''' - 初始化 - ----------------- - 参数: - θ : 一次硬币投掷出现正面(Y = 1)的概率 - n : 每个独立序列中的独立投掷次数 - I : 独立序列的数量 - - ''' - - self.θ, self.n, self.I = θ, n, I - - def binomial(self, k): - - '''计算特定输入k的理论概率''' - - θ, n = self.θ, self.n - self.k = k - self.P = binom.pmf(k, n, θ) +这是一个解决方案。 - def draw(self): +我们用一个函数来模拟硬币投掷，用另一个函数来组装比较表。 - '''为I个独立序列进行n次独立投掷''' - - θ, n, I = self.θ, self.n, self.I - sample = np.random.rand(I, n) - Y = (sample <= θ) * 1 - self.Y = Y - - def compute_fk(self, kk): - - '''计算特定输入k的f_{k}^I''' - - Y, I = self.Y, self.I - K = np.sum(Y, 1) - f_kI = np.sum(K == kk) / I - self.f_kI = f_kI - self.kk = kk - - def compare(self): - - '''计算并打印比较结果''' +```{code-cell} ipython3 +def simulate_head_counts(θ, n, I, seed=1234): + "模拟 I 个长度为 n 的投掷序列；返回每个序列中出现正面的次数。" + rng = np.random.default_rng(seed) + Y = (rng.random((I, n)) <= θ).astype(int) + return Y.sum(axis=1) +``` - n = self.n - comp = pt.PrettyTable() - comp.field_names = ['k', '理论值', '频率值'] - self.draw() - for i in range(n): - self.binomial(i+1) - self.compute_fk(i+1) - comp.add_row([i+1, self.P, self.f_kI]) - print(comp) +```{code-cell} ipython3 +def compare_frequencies(θ, n, I, seed=1234): + "将理论二项概率与模拟频率制成表格进行对比。" + head_counts = simulate_head_counts(θ, n, I, seed) + rows = [ + (k, binom.pmf(k, n, θ), np.mean(head_counts == k)) + for k in range(n + 1) + ] + return pd.DataFrame( + rows, columns=['k', '理论值', '频率值'] + ).set_index('k') ``` ```{code-cell} ipython3 θ, n, k, I = 0.7, 20, 10, 1_000_000 -freq = frequentist(θ, n, I) - -freq.compare() +compare_frequencies(θ, n, I) ``` 从上表中，你能看出大数定律在起作用吗？ @@ -203,7 +168,7 @@ freq.compare() 让我们进行更多计算。 -**不同$\theta$值的比较** +### 不同$\theta$值的比较 现在我们固定 @@ -214,94 +179,90 @@ $$ 我们将$\theta$从$0.01$变化到$0.99$，并绘制结果与$\theta$的关系图。 ```{code-cell} ipython3 -θ_low, θ_high, npt = 0.01, 0.99, 50 -thetas = np.linspace(θ_low, θ_high, npt) +θ_low, θ_high, n_thetas = 0.01, 0.99, 50 +thetas = np.linspace(θ_low, θ_high, n_thetas) P = [] f_kI = [] -for i in range(npt): - freq = frequentist(thetas[i], n, I) - freq.binomial(k) - freq.draw() - freq.compute_fk(k) - P.append(freq.P) - f_kI.append(freq.f_kI) +for i in range(n_thetas): + P.append(binom.pmf(k, n, thetas[i])) + head_counts = simulate_head_counts(thetas[i], n, I, seed=i) + f_kI.append(np.mean(head_counts == k)) ``` ```{code-cell} ipython3 fig, ax = plt.subplots(figsize=(8, 6)) ax.grid() -ax.plot(thetas, P, 'k-.', label='理论值') -ax.plot(thetas, f_kI, 'r--', label='分数') -plt.title(r'不同$\theta$值的比较', fontsize=16) -plt.xlabel(r'$\theta$', fontsize=15) -plt.ylabel('分数', fontsize=15) -plt.tick_params(labelsize=13) -plt.legend() +ax.plot(thetas, P, '-.', label='理论值') +ax.plot(thetas, f_kI, '--', label='分数') +ax.set_title(r'不同$\theta$值的比较', + fontsize=16) +ax.set_xlabel(r'$\theta$', fontsize=15) +ax.set_ylabel('分数', fontsize=15) +ax.tick_params(labelsize=13) +ax.legend() plt.show() ``` -**不同 $n$ 值的比较** +### 不同 $n$ 值的比较 现在我们固定 $\theta=0.7, k=10, I=1,000,000$ 并将 $n$ 从 $1$ 变化到 $100$。 然后我们将绘制结果。 ```{code-cell} ipython3 -n_low, n_high, nn = 1, 100, 50 -ns = np.linspace(n_low, n_high, nn, dtype='int') +n_low, n_high, n_ns = 1, 100, 50 +ns = np.linspace(n_low, n_high, n_ns, dtype='int') P = [] f_kI = [] -for i in range(nn): - freq = frequentist(θ, ns[i], I) - freq.binomial(k) - freq.draw() - freq.compute_fk(k) - P.append(freq.P) - f_kI.append(freq.f_kI) +for i in range(n_ns): + P.append(binom.pmf(k, ns[i], θ)) + head_counts = simulate_head_counts(θ, ns[i], I, seed=i) + f_kI.append(np.mean(head_counts == k)) ``` ```{code-cell} ipython3 fig, ax = plt.subplots(figsize=(8, 6)) ax.grid() -ax.plot(ns, P, 'k-.', label='理论值') -ax.plot(ns, f_kI, 'r--', label='频率派') -plt.title(r'不同$n$值的比较', fontsize=16) -plt.xlabel(r'$n$', fontsize=15) -plt.ylabel('比例', fontsize=15) -plt.tick_params(labelsize=13) -plt.legend() +ax.plot(ns, P, '-.', label='理论值') +ax.plot(ns, f_kI, '--', label='分数') +ax.set_title(r'不同$n$值的比较', + fontsize=16) +ax.set_xlabel(r'$n$', fontsize=15) +ax.set_ylabel('分数', fontsize=15) +ax.tick_params(labelsize=13) +ax.legend() plt.show() ``` -**不同 $I$ 值的比较** +由于 $k=10$ 保持固定，只要 $n < 10$，$p(k \mid \theta)$ 就为零——我们不可能在少于 $10$ 次投掷中得到 $10$ 次正面——并且在 $n \approx 14$ 附近取得最大值，此时期望的正面次数 $n\theta$ 最接近 $k$。模拟得到的比例呈现出同样的形状。 -现在我们固定 $\theta=0.7, n=20, k=10$，并将 $\log(I)$ 从 $2$ 变化到 $7$。 +### 不同 $I$ 值的比较 + +现在我们固定 $\theta=0.7, n=20, k=10$，并将 $\log(I)$ 从 $2$ 变化到 $6$。 ```{code-cell} ipython3 -I_log_low, I_log_high, nI = 2, 6, 200 -log_Is = np.linspace(I_log_low, I_log_high, nI) +I_log_low, I_log_high, n_Is = 2, 6, 200 +log_Is = np.linspace(I_log_low, I_log_high, n_Is) Is = np.power(10, log_Is).astype(int) P = [] f_kI = [] -for i in range(nI): - freq = frequentist(θ, n, Is[i]) - freq.binomial(k) - freq.draw() - freq.compute_fk(k) - P.append(freq.P) - f_kI.append(freq.f_kI) +for i in range(n_Is): + P.append(binom.pmf(k, n, θ)) + head_counts = simulate_head_counts(θ, n, Is[i], seed=i) + f_kI.append(np.mean(head_counts == k)) ``` ```{code-cell} ipython3 fig, ax = plt.subplots(figsize=(8, 6)) ax.grid() -ax.plot(Is, P, 'k-.', label='理论值') -ax.plot(Is, f_kI, 'r--', label='分数') -plt.title(r'不同 $I$ 值的比较', fontsize=16) -plt.xlabel(r'$I$', fontsize=15) -plt.ylabel('分数', fontsize=15) -plt.tick_params(labelsize=13) -plt.legend() +ax.plot(Is, P, '-.', label='理论值') +ax.plot(Is, f_kI, '--', label='分数') +ax.set_title(r'不同 $I$ 值的比较', + fontsize=16) +ax.set_xlabel(r'$I$', fontsize=15) +ax.set_ylabel('分数', fontsize=15) +ax.tick_params(labelsize=13) +ax.legend() plt.show() ``` @@ -309,32 +270,30 @@ plt.show() 随着 $I$ 变大，理论概率和频率估计之间的差距变小。 -而且，只要 $I$ 足够大，改变 $\theta$ 或 $n$ 都不会实质性地改变观察到的分数作为 $\theta$ 的近似值的准确性。 +而且，只要 $I$ 足够大，改变 $\theta$ 或 $n$ 都不会实质性地改变观察到的分数作为 $p(k \mid \theta)$ 近似值的准确性。 这正是大数定律在起作用。 -对于每个独立序列的抽取，$\textrm{Prob}(X_i = k | \theta)$ 都是相同的，所以所有抽取的聚合形成了一个二元随机变量 $\rho_{k,i},i=1,2,...I$ 的独立同分布序列，其均值为$\textrm{Prob}(X = k | \theta)$，方差为 +对于每个独立序列 $i$，定义指示变量 $\rho_{k,i} = \mathbb{1}\{X_i = k\}$——也就是说，如果第 $i$ 个序列恰好产生 $k$ 次正面，则 $\rho_{k,i}$ 等于 1，否则为 0。 + +$\rho_{k,i}$ 在 $i$ 之间是独立同分布的，每一个的均值都是 $p(k \mid \theta)$，方差为 $$ -n \cdot \textrm{Prob}(X = k | \theta) \cdot (1-\textrm{Prob}(X = k | \theta)). +p(k \mid \theta) \cdot (1-p(k \mid \theta)). $$ -因此，根据大数定律，当$I$趋向于无穷时，$P_{k,i}$ 的平均值收敛于： +因此，根据大数定律，当 $I$ 趋向于无穷时，$\rho_{k,i}$ 的平均值收敛于： $$ -E[\rho_{k,i}] = \textrm{Prob}(X = k | \theta) = \left(\frac{n!}{k! (n-k)!} \right) \theta^k (1-\theta)^{n-k} +\mathbb{E}[\rho_{k,i}] = p(k \mid \theta) = \binom{n}{k} \theta^k (1-\theta)^{n-k} $$ ## 贝叶斯解释 -我们仍然使用二项分布。 - -但现在我们不把 $\theta$ 看作是一个固定的数。 +似然函数仍然是二项分布，但现在我们把 $\theta$ 看作是一个**随机变量**，而不是一个固定的参数。 -相反，我们把它看作是一个**随机变量**。 - -$\theta$ 由一个概率分布来描述。 +因此 $\theta$ 由一个概率分布来描述。 但现在这个概率分布的含义与我们在大规模独立同分布样本中能预期出现的相对频率不同。 @@ -343,244 +302,247 @@ $\theta$ 由一个概率分布来描述。 * 在我们**完全没有看到**任何数据之前，或者 * 在我们已经看到**一些**数据之后，但在看到**更多**数据之前 -因此，假设在看到任何数据之前，你有一个个人先验概率分布，表示为 +### beta先验及其后验 + +因此，假设在看到任何数据之前，你有一个个人先验概率分布，其密度为 $$ -P(\theta) = \frac{\theta^{\alpha-1}(1-\theta)^{\beta -1}}{B(\alpha, \beta)} +p(\theta) = \frac{\theta^{\alpha-1}(1-\theta)^{\beta -1}}{B(\alpha, \beta)} $$ -其中 $B(\alpha, \beta)$ 是一个**贝塔函数**，所以 $P(\theta)$ 是一个带参数 $\alpha, \beta$ 的**贝塔分布**。 +其中 $B(\alpha, \beta)$ 是一个**贝塔函数**，所以 $p(\theta)$ 是参数为 $\alpha, \beta$ 的**贝塔分布**的密度。 -```{exercise} -:label: pm_ex2 +在观察到数据后，我们可以用贝叶斯定律来更新这个先验（相关介绍见 {doc}`用矩阵表示概率 `）。 -**a)** 请写出从参数为 $\theta$ 的二项分布中抽取长度为 $n$ 的样本的**似然函数**。 +对于一个产生 $k$ 次正面的 $n$ 次硬币投掷样本，**似然函数**就是上面介绍的二项分布的概率质量函数 $p(k \mid \theta)$。 -**b)** 请写出观察到一次硬币翻转后 $\theta$ 的**后验**分布。 +将贝叶斯定律应用于我们的beta先验，**后验密度**为 -**c)** 现在假设 $\theta$ 的真实值为 $.4$，而某个不知道这一点的人有一个参数为 $\beta = \alpha = .5$ 的贝塔先验分布。请编写一个Python类来模拟这个人对于一个长度为 $n$ 的*单个*序列的 $\theta$ 的个人后验分布。 +$$ +p(\theta \mid k) = \frac{p(k \mid \theta) \cdot p(\theta)}{\int_0^1 p(k \mid \theta) \cdot p(\theta) \, d\theta} +$$ -**d)** 请绘制当 $n$ 增长为 $1, 2, \ldots$ 时，$\theta$ 的后验分布关于 $\theta$ 的函数图。 +由于beta先验与二项似然函数共轭，这个积分可以求解为（核为）另一个beta密度，因此 -**e)** 对于不同的 $n$ 值，请描述并计算区间 $[.45, .55]$ 的贝叶斯覆盖区间。 +$$ +\theta \mid k \sim \textrm{Beta}(\alpha + k, \, \beta + n - k) +$$ (eq:beta_posterior) -**f)** 请说明贝叶斯覆盖区间回答了什么问题。 +下面的第一个练习要求你推导出这个封闭形式。 -**g)** 请计算对于不同的样本大小$n$，后验概率 $P(\theta \in [.45, .55])$ 的值。 +```{exercise} +:label: pm_ex2 + +**a)** 请写出结果为 $Y \in \{0, 1\}$ 的单次硬币投掷的**似然函数**。 -**h)** 请使用您的Python类来研究当 $n \rightarrow + \infty$ 时后验分布会发生什么变化，同样假设 $\theta$ 的真实值为 $.4$，尽管对于通过贝叶斯定律进行更新的人来说这是未知的。 +**b)** 请写出观察到该单次投掷后 $\theta$ 的**后验**分布。 + +**c)** 请推导出对于产生 $k$ 次正面的 $n$ 次投掷样本，其后验分布的封闭形式 {eq}`eq:beta_posterior`。 ``` ```{solution-start} pm_ex2 :class: dropdown ``` -**a)** 请写出从参数为 $\theta$ 的二项分布中抽取长度为 $n$ 的样本的**似然函数**。 +**a)** 结果为 $Y \in \{0, 1\}$ 的单次硬币投掷的**似然函数**为 -假设结果为 $Y$。 +$$ +p(Y \mid \theta) = \theta^Y (1-\theta)^{1-Y} +$$ -似然函数为： +**b)** 根据贝叶斯定律，观察到单次投掷 $Y$ 后 $\theta$ 的后验密度为 $$ -L(Y|\theta)= \textrm{Prob}(X = Y | \theta) = -\theta^Y (1-\theta)^{1-Y} +p(\theta \mid Y) = \frac{p(Y \mid \theta) \cdot p(\theta)}{\int_{0}^{1} p(Y \mid \theta) \cdot p(\theta) \, d\theta} $$ -**b)** 请写出观察到一次硬币翻转后 $\theta$ 的**后验**分布。 - -先验分布为： +代入 (a) 中的似然函数和beta先验密度，可得 $$ -\textrm{Prob}(\theta) = \frac{\theta^{\alpha - 1} (1 - \theta)^{\beta - 1}}{B(\alpha, \beta)} +p(\theta \mid Y) = \frac{\theta^Y (1-\theta)^{1-Y} \cdot \theta^{\alpha - 1} (1 - \theta)^{\beta - 1} / B(\alpha, \beta)}{\int_{0}^{1} \theta^Y (1-\theta)^{1-Y} \cdot \theta^{\alpha - 1} (1 - \theta)^{\beta - 1} / B(\alpha, \beta) \, d\theta} $$ -我们可以通过以下方式推导 $\theta$ 的后验分布： +整理 $\theta$ 和 $(1-\theta)$ 的幂次，我们识别出这是一个beta密度的核： $$ -\begin{aligned} - \textrm{Prob}(\theta | Y) &= \frac{\textrm{Prob}(Y | \theta) \textrm{Prob}(\theta)}{\textrm{Prob}(Y)} \\ - &=\frac{\textrm{Prob}(Y | \theta) \textrm{Prob}(\theta)}{\int_{0}^{1} \textrm{Prob}(Y | \theta) \textrm{Prob}(\theta) d \theta }\\ - &= \frac{\theta^Y (1-\theta)^{1-Y}\frac{\theta^{\alpha - 1} (1 - \theta)^{\beta - 1}}{B(\alpha, \beta)}}{\int_{0}^{1}\theta^Y (1-\theta)^{1-Y}\frac{\theta^{\alpha - 1} (1 - \theta)^{\beta - 1}}{B(\alpha, \beta)} d \theta } \\ - &= \frac{ \theta^{Y+\alpha - 1} (1 - \theta)^{1-Y+\beta - 1}}{\int_{0}^{1}\theta^{Y+\alpha - 1} (1 - \theta)^{1-Y+\beta - 1} d \theta} -\end{aligned} +p(\theta \mid Y) = \frac{\theta^{Y+\alpha - 1} (1 - \theta)^{1-Y+\beta - 1}}{\int_{0}^{1} \theta^{Y+\alpha - 1} (1 - \theta)^{1-Y+\beta - 1} \, d\theta} $$ 这意味着 $$ -\textrm{Prob}(\theta | Y) \sim \textrm{Beta}(\alpha + Y, \beta + (1-Y)) +\theta \mid Y \sim \textrm{Beta}(\alpha + Y, \, \beta + (1-Y)) $$ -现在假设 $\theta$ 的真实值为 $.4$，并且有一个不知道这一点的人，他有一个 $\beta = \alpha = .5$ 的beta先验分布。 +**c)** 用二项似然函数代替伯努利似然函数进行同样的计算，可以将结果推广到产生 $k$ 次正面的 $n$ 次投掷样本。 -**c)** 现在假设 $\theta$ 的真实值为 $.4$，而某个不知道这一点的人有一个参数为 $\beta = \alpha = .5$ 的贝塔先验分布。请编写一个Python类来模拟这个人对于一个长度为 $n$ 的*单个*序列的 $\theta$ 的个人后验分布。 +beta先验贡献了因子 $\theta^{\alpha-1}(1-\theta)^{\beta-1}$，二项似然函数贡献了 $\theta^{k}(1-\theta)^{n-k}$，所以后验分布正比于 -```{code-cell} ipython3 -class Bayesian: +$$ +\theta^{\alpha + k - 1} (1-\theta)^{\beta + n - k - 1}, +$$ - def __init__(self, θ=0.4, n=1_000_000, α=0.5, β=0.5): - """ - 参数: - ---------- - θ : float, 范围在 [0,1] 之间。 - 一次硬币投掷得到正面（Y = 1）的概率 +这是一个beta密度的核。因此 - n : int. - 独立序列中独立投掷的次数 +$$ +\theta \mid k \sim \textrm{Beta}(\alpha + k, \, \beta + n - k), +$$ - α&β : int 或 float. - θ 的先验分布的参数 +正如 {eq}`eq:beta_posterior` 中所述。 - """ - self.θ, self.n, self.α, self.β = θ, n, α, β - self.prior = st.beta(α, β) +```{solution-end} +``` - def draw(self): - """ - 模拟一个长度为 n 的单个序列，给定概率 θ +### 数值探索后验分布 - """ - array = np.random.rand(self.n) - self.draws = (array < self.θ).astype(int) +下一个练习将运用这个后验分布。 - def form_single_posterior(self, step_num): - """ - 在观察到序列的前 step_num 个元素后形成后验分布 +```{exercise} +:label: pm_ex3 - 参数 - ---------- - step_num: int. - 用于形成后验分布的观察步数 +**a)** 现在假设 $\theta$ 的真实值为 $0.4$，而某个不知道这一点的人有一个参数为 $\beta = \alpha = 0.5$ 的beta先验分布。请编写Python代码来模拟这个人对于一个长度为 $n$ 的*单个*抽取序列的 $\theta$ 的个人后验分布。 - 返回 - ------ - 后验分布，用于后续步骤的绘图 +**b)** 请绘制当 $n$ 增长为 $1, 2, \ldots$ 时，$\theta$ 的后验分布关于 $\theta$ 的函数图。 - """ - heads_num = self.draws[:step_num].sum() - tails_num = step_num - heads_num +**c)** 对于不同的 $n$ 值，请描述并计算区间 $[0.45, 0.55]$ 的贝叶斯覆盖区间。 - return st.beta(self.α+heads_num, self.β+tails_num) +**d)** 请说明贝叶斯覆盖区间回答了什么问题。 - def form_posterior_series(self,num_obs_list): - """ - 形成一系列后验分布，这些分布是在观察不同数量的抽样后形成的。 +**e)** 请计算对于不同的样本大小 $n$，$\theta \in [0.45, 0.55]$ 的后验概率的值。 - 参数 - ---------- - num_obs_list: int 列表。 - 用于形成一系列后验分布的观察数量列表。 +**f)** 请使用你的Python代码来研究当 $n \rightarrow + \infty$ 时后验分布会发生什么变化，同样假设 $\theta$ 的真实值为 $0.4$，尽管对于通过贝叶斯定律进行更新的人来说这是未知的。 +``` - """ - self.posterior_list = [] - for num in num_obs_list: - self.posterior_list.append(self.form_single_posterior(num)) +```{solution-start} pm_ex3 +:class: dropdown ``` +**a)** -**d)** 请绘制当 $n$ 增长为 $1, 2, \ldots$ 时，$\theta$ 的后验分布关于 $\theta$ 的函数图。 +我们用一个函数来模拟一系列硬币投掷，用另一个函数从其中前 `n_obs` 次投掷中构造beta后验分布。 ```{code-cell} ipython3 -Bay_stat = Bayesian() -Bay_stat.draw() +def simulate_flips(θ=0.4, n=1_000_000, seed=1234): + "模拟 n 次硬币投掷，每次以概率 θ 出现正面（1）。" + rng = np.random.default_rng(seed) + return (rng.random(n) < θ).astype(int) +``` -num_list = [1, 2, 3, 4, 5, 10, 20, 30, 50, 70, 100, 300, 500, 1000, # 此行用于有限n - 5000, 10_000, 50_000, 100_000, 200_000, 300_000] # 此行用于近似无穷n +```{code-cell} ipython3 +def form_posterior(draws, n_obs, α=0.5, β=0.5): + "给定 Beta(α, β) 先验，根据前 n_obs 次投掷构造 θ 的beta后验分布。" + heads = draws[:n_obs].sum() + return st.beta(α + heads, β + n_obs - heads) +``` -Bay_stat.form_posterior_series(num_list) +**b)** + +```{code-cell} ipython3 +draws = simulate_flips() -θ_values = np.linspace(0.01, 1, 100) +n_obs_list = [1, 2, 3, 4, 5, 10, 20, 50, + 100, 1000, + 5000, 10_000, 50_000, 100_000, + 200_000, 300_000] + +posterior_list = [form_posterior(draws, n_obs) for n_obs in n_obs_list] + +θ_values = np.linspace(0.01, 1, 1000) fig, ax = plt.subplots(figsize=(10, 6)) -ax.plot(θ_values, Bay_stat.prior.pdf(θ_values), label='先验分布', color='k', linestyle='--') +prior = st.beta(0.5, 0.5) +ax.plot(θ_values, prior.pdf(θ_values), + label='n = 0（先验）', linestyle='--') -for ii, num in enumerate(num_list[:14]): - ax.plot(θ_values, Bay_stat.posterior_list[ii].pdf(θ_values), label='n = %d 时的后验分布' % num) +for i, n_obs in enumerate(n_obs_list[:10]): + posterior = posterior_list[i] + ax.plot(θ_values, posterior.pdf(θ_values), + label=f'n = {n_obs}') -ax.set_title('后验分布的概率密度函数', fontsize=15) +ax.set_title('后验分布的概率密度函数', + fontsize=15) ax.set_xlabel(r"$\theta$", fontsize=15) ax.legend(fontsize=11) plt.show() ``` - -**e)** 对于不同的 $n$ 值，请描述并计算区间 $[.45, .55]$ 的贝叶斯覆盖区间。 +**c)** ```{code-cell} ipython3 -upper_bound = [ii.ppf(0.05) for ii in Bay_stat.posterior_list[:14]] -lower_bound = [ii.ppf(0.95) for ii in Bay_stat.posterior_list[:14]] +lower_bound = [post.ppf(0.05) for post in posterior_list[:10]] +upper_bound = [post.ppf(0.95) for post in posterior_list[:10]] interval_df = pd.DataFrame() interval_df['upper'] = upper_bound interval_df['lower'] = lower_bound -interval_df.index = num_list[:14] +interval_df.index = n_obs_list[:10] interval_df = interval_df.T interval_df ``` 随着$n$的增加，我们可以看到贝叶斯覆盖区间变窄并趋向于$0.4$。 - -**f)** 请说明贝叶斯覆盖区间回答了什么问题。 - -贝叶斯覆盖区间表示后验分布的累积概率分布(CDF)中 $[p_1, p_2]$ 分位数对应的$\theta$的范围。 +**d)** 贝叶斯覆盖区间表示后验分布的累积分布函数(CDF)中 $[q_1, q_2]$ 分位数对应的 $\theta$ 的范围。 要构建覆盖区间，我们首先计算未知参数$\theta$的后验分布。 -如果CDF为$F(\theta)$，那么区间 $[p_1,p_2]$ 的贝叶斯覆盖区间 $[a,b]$ 由以下等式描述： +如果CDF为$F(\theta)$，那么区间 $[q_1,q_2]$ 的贝叶斯覆盖区间 $[a,b]$ 由以下等式描述： $$ -F(a)=p_1,F(b)=p_2 +F(a)=q_1,F(b)=q_2 $$ - -**g)** 请计算对于不同的样本大小$n$，后验概率 $P(\theta \in [.45, .55])$ 的值。 +**e)** ```{code-cell} ipython3 left_value, right_value = 0.45, 0.55 -posterior_prob_list=[ii.cdf(right_value)-ii.cdf(left_value) for ii in Bay_stat.posterior_list] +posterior_prob_list = [ + post.cdf(right_value) - post.cdf(left_value) + for post in posterior_list +] fig, ax = plt.subplots(figsize=(8, 5)) ax.plot(posterior_prob_list) -ax.set_title('后验概率：'+ r"$\theta$" +'的范围从%.2f到%.2f'%(left_value, right_value), - fontsize=13) +ax.set_title( + r'$\theta$的后验概率' + f'范围从{left_value:.2f}' + f'到{right_value:.2f}', + fontsize=13) ax.set_xticks(np.arange(0, len(posterior_prob_list), 3)) -ax.set_xticklabels(num_list[::3]) +ax.set_xticklabels(n_obs_list[::3]) ax.set_xlabel('观测数量', fontsize=11) plt.show() ``` -注意在上图中，当 $n$ 增加时，$\theta \in [.45, .55]$ 的后验概率通常呈现出驼峰形状。 +注意在上图中，当 $n$ 增加时，$\theta \in [0.45, 0.55]$ 的后验概率呈现出驼峰形状。 这里有两种相互对立的力量在起作用。 第一种力量是，个体在观察到新的结果时会调整他的信念，使他的后验概率分布变得越来越符合真实值，这解释了后验概率的上升。 -然而，$[.45, .55]$ 实际上排除了生成数据的真实 $\theta =.4$。 +然而，$[0.45, 0.55]$ 实际上排除了生成数据的真实 $\theta = 0.4$。 因此，随着更大的样本量使他的 $\theta$ 后验概率分布变得更加精确，后验概率开始下降。 下降看起来如此陡峭，仅仅是因为图表的尺度使得观测数量增加不成比例。 -当观测数量变得足够大时，我们的贝叶斯学习者对 $\theta$ 变得如此确信，以至于他认为 $\theta \in [.45, .55]$ 的可能性非常小。 - -这就是为什么当观测数量超过500时，我们看到一条几乎水平的线。 +当观测数量变得足够大时，我们的贝叶斯学习者对 $\theta$ 变得如此确信，以至于他认为 $\theta \in [0.45, 0.55]$ 的可能性非常小。 -**h)** 请使用您的Python类来研究当 $n \rightarrow + \infty$ 时后验分布会发生什么变化，同样假设 $\theta$ 的真实值为 $.4$，尽管对于通过贝叶斯定律进行更新的人来说这是未知的。 +这就是为什么当观测数量超过1000时，我们看到一条几乎水平的线。 -使用我们上面创建的Python类，我们可以看到后验分布随着 $n$ 趋向于无穷大时的演变。 +**f)** 使用我们上面创建的函数，我们可以看到后验分布随着 $n$ 趋向于无穷大时的演变。 ```{code-cell} ipython3 fig, ax = plt.subplots(figsize=(10, 6)) -for ii, num in enumerate(num_list[14:]): - ii += 14 - ax.plot(θ_values, Bay_stat.posterior_list[ii].pdf(θ_values), - label='后验分布（样本量 = %d 千）' % (num / 1000)) +for i, n_obs in enumerate(n_obs_list[10:]): + posterior = posterior_list[i + 10] + ax.plot(θ_values, posterior.pdf(θ_values), + label=f'n = {n_obs:,}') ax.set_title('后验分布的概率密度函数', fontsize=15) ax.set_xlabel(r"$\theta$", fontsize=15) @@ -592,102 +554,119 @@ plt.show() 随着 $n$ 的增加，我们可以看到概率密度函数在 $0.4$（即 $\theta$ 的真实值）处*集中*。 -这里后验均值收敛于 $0.4$，而后验标准差从上方收敛于 $0$。 - -为了展示这一点，我们计算后验分布的均值和方差统计量。 +下一节将解释这种集中现象*为什么*会发生，以及它发生的速度有多快。 -```{code-cell} ipython3 -mean_list = [ii.mean() for ii in Bay_stat.posterior_list] -std_list = [ii.std() for ii in Bay_stat.posterior_list] +```{solution-end} +``` -fig, ax = plt.subplots(1, 2, figsize=(14, 5)) +### 为什么后验分布会集中 -ax[0].plot(mean_list) -ax[0].set_title('后验分布的均值', fontsize=13) -ax[0].set_xticks(np.arange(0, len(mean_list), 3)) -ax[0].set_xticklabels(num_list[::3]) -ax[0].set_xlabel('观测数量', fontsize=11) +在 {ref}`pm_ex3` 的解答中，我们观察到随着样本的增长，后验分布越来越紧密地集中在真实值 $\theta = 0.4$ 附近。为什么会这样呢？ -ax[1].plot(std_list) -ax[1].set_title('后验分布的标准差', fontsize=13) -ax[1].set_xticks(np.arange(0, len(std_list), 3)) -ax[1].set_xticklabels(num_list[::3]) -ax[1].set_xlabel('观测数量', fontsize=11) +答案就蕴含在我们推导出的后验分布中。 -plt.show() -``` +回想一下，在 $n$ 次投掷中观察到 $k$ 次正面之后，后验分布为 $\textrm{Beta}(\alpha + k, \, \beta + n - k)$。 -```{solution-end} -``` +一个参数为 $a$ 和 $b$ 的beta分布具有 -我们应该如何解读上述模式？ +* 均值 $\dfrac{a}{a + b}$， -答案就在贝叶斯更新公式中。 +* 方差 $\dfrac{a\, b}{(a + b)^2\, (a + b + 1)}$。 -将单步贝叶斯更新自然延伸到 $n$ 步贝叶斯更新是很合理的。 +代入*后验*参数 $a = \alpha + k$ 和 $b = \beta + n - k$，从而 $a + b = \alpha + \beta + n$，可得 $$ -\textrm{Prob}(\theta|k) = \frac{\textrm{Prob}(\theta,k)}{\textrm{Prob}(k)}=\frac{\textrm{Prob}(k|\theta)*\textrm{Prob}(\theta)}{\textrm{Prob}(k)}=\frac{\textrm{Prob}(k|\theta)*\textrm{Prob}(\theta)}{\int_0^1 \textrm{Prob}(k|\theta)*\textrm{Prob}(\theta) d\theta} +\mathbb{E}[\theta \mid k] = \frac{\alpha + k}{\alpha + \beta + n}, +\qquad +\operatorname{Var}[\theta \mid k] = \frac{(\alpha + k)(\beta + n - k)}{(\alpha + \beta + n)^2\, (\alpha + \beta + n + 1)} . $$ -$$ -=\frac{{N \choose k} (1 - \theta)^{N-k} \theta^k*\frac{\theta^{\alpha - 1} (1 - \theta)^{\beta - 1}}{B(\alpha, \beta)}}{\int_0^1 {N \choose k} (1 - \theta)^{N-k} \theta^k*\frac{\theta^{\alpha - 1} (1 - \theta)^{\beta - 1}}{B(\alpha, \beta)} d\theta} -$$ +随着 $n$ 增大，固定的先验计数 $\alpha$ 和 $\beta$ 相对于数据而言变得可以忽略不计。 + +由于数据是以 $\theta = 0.4$ 生成的，大数定律给出 $k/n \to 0.4$（见 {ref}`pm_ex1`），因此后验均值 $$ -=\frac{(1 -\theta)^{\beta+N-k-1}* \theta^{\alpha+k-1}}{\int_0^1 (1 - \theta)^{\beta+N-k-1}* \theta^{\alpha+k-1} d\theta} +\frac{\alpha + k}{\alpha + \beta + n} \;\approx\; \frac{k}{n} \;\to\; 0.4 . $$ +在方差中，分子以 $n^2$ 的速度增长，而分母以 $n^3$ 的速度增长，因此 + $$ -={Beta}(\alpha + k, \beta+N-k) +\operatorname{Var}[\theta \mid k] \;\approx\; \frac{\theta(1 - \theta)}{n} \;\longrightarrow\; 0 . $$ -具有 $\alpha$ 和 $\beta$ 参数的贝塔分布有以下均值和方差。 +因此，后验均值趋于真实值，而其离散程度以 $1/n$ 的速率消失。 -均值是 $\frac{\alpha}{\alpha + \beta}$ +下图证实了这两个论断：后验均值稳定在 $0.4$，标准差朝零衰减。 -方差是 $\frac{\alpha \beta}{(\alpha + \beta)^2 (\alpha + \beta + 1)}$ +```{code-cell} ipython3 +mean_list = [post.mean() for post in posterior_list] +std_list = [post.std() for post in posterior_list] -* $\alpha$ 可以视为成功次数 +fig, ax = plt.subplots(1, 2, figsize=(14, 5)) -* $\beta$ 可以视为失败次数 +ax[0].plot(mean_list) +ax[0].set_title('后验分布的均值', + fontsize=13) +ax[0].set_xticks(np.arange(0, len(mean_list), 3)) +ax[0].set_xticklabels(n_obs_list[::3]) +ax[0].set_xlabel('观测数量', fontsize=11) -随机变量 $k$ 和 $N-k$ 服从参数为 $\theta=0.4$ 的二项分布。 +ax[1].plot(std_list) +ax[1].set_title('后验分布的标准差', + fontsize=13) +ax[1].set_xticks(np.arange(0, len(std_list), 3)) +ax[1].set_xticklabels(n_obs_list[::3]) +ax[1].set_xlabel('观测数量', fontsize=11) -这就是真实的数据生成过程。 +plt.show() +``` -根据大数定律，对于大量观测值，观测到的频率 $k$ 和 $N-k$ 将由真实的数据生成过程来描述，即我们在计算机上生成观测值时假设的总体概率分布。（参见 {ref}`pm_ex1`）。 +我们还可以直接展示贝叶斯覆盖区间。 -因此，后验分布的均值收敛于 $0.4$，且方差趋近于零。 +下面的箱形图用中位数（中间线）、四分位距（箱体）以及第 $5$ 至第 $95$ 百分位数范围（须线）总结了每个后验分布，并标出了真实值 $\theta = 0.4$。 ```{code-cell} ipython3 -upper_bound = [ii.ppf(0.95) for ii in Bay_stat.posterior_list] -lower_bound = [ii.ppf(0.05) for ii in Bay_stat.posterior_list] +quantiles = [0.05, 0.25, 0.5, 0.75, 0.95] +box_stats = [] +for post in posterior_list: + lo, q1, med, q3, hi = post.ppf(quantiles) + box_stats.append({'med': med, 'q1': q1, 'q3': q3, + 'whislo': lo, 'whishi': hi, 'fliers': []}) fig, ax = plt.subplots(figsize=(10, 6)) -ax.scatter(np.arange(len(upper_bound)), upper_bound, label='95 分位数') -ax.scatter(np.arange(len(lower_bound)), lower_bound, label='05 分位数') - -ax.set_xticks(np.arange(0, len(upper_bound), 2)) -ax.set_xticklabels(num_list[::2]) -ax.set_xlabel('观测值数量', fontsize=12) -ax.set_title('后验分布的贝叶斯覆盖区间', fontsize=15) - +ax.bxp(box_stats, positions=np.arange(len(box_stats)), showfliers=False) +ax.axhline(0.4, color='C1', linestyle='--', label=r'真实值 $\theta = 0.4$') +ax.set_xticks(np.arange(len(box_stats))) +ax.set_xticklabels(n_obs_list, rotation=45) +ax.set_xlabel('观测数量', fontsize=12) +ax.set_ylabel(r'$\theta$', fontsize=12) +ax.set_title(r'随着 $n$ 增长的后验覆盖区间', fontsize=15) ax.legend(fontsize=11) plt.show() ``` 在观察了大量结果后，后验分布收敛在$0.4$周围。 -因此，贝叶斯统计学家认为 $\theta$ 接近 $.4$。 +因此，贝叶斯统计学家认为 $\theta$ 接近 $0.4$。 如上图所示，随着观测数量的增加，贝叶斯覆盖区间(BCIs)在 $0.4$ 周围变得越来越窄。 然而，如果仔细观察，你会发现BCIs的中心并不完全是$0.4$，这是由于先验分布的持续影响和模拟路径的随机性造成的。 +## 比较两种解释 + +现在我们可以将概率的两种含义并列比较。 + +在频率主义计算中，$\theta$ 是一个*固定*的数，概率是一种*相对频率*：$p(k \mid \theta)$ 是大量独立的长度为 $n$ 的序列中恰好出现 $k$ 次正面的比例，我们通过模拟证实了当 $I \to \infty$ 时 $f_k^I \to p(k \mid \theta)$。 + +在贝叶斯计算中，$\theta$ 本身是描述我们信念的*随机变量*，概率是一种*信念程度*。贝叶斯覆盖区间总结了后验分布 $p(\theta \mid k)$：它给出了位于两个后验分位数之间的 $\theta$ 的范围，从而回答了这样一个问题——“根据我已经观察到的数据和我的先验，我现在认为 $\theta$ 位于何处？” + +尽管两者都基于相同的二项似然函数，但它们实际上回答的是不同的问题。频率主义的表述描述的是在固定 $\theta$ 下的数据生成机制；贝叶斯的表述描述的是在我们碰巧观察到的特定数据下，我们对 $\theta$ 的不确定性。 + ## 共轭先验的作用 -在上述分析中，我们做出了一些假设，将似然函数和先验的函数形式联系起来，这大大简化了我们的计算。 +我们做出了一些假设，将似然函数和先验的函数形式联系起来，这大大简化了我们的计算。 特别是，我们假设似然函数是**二项分布**，而先验分布是**beta分布**，这导致贝叶斯定律推导出的后验分布也是**beta分布**。 @@ -695,11 +674,10 @@ plt.show() 当似然函数和先验像手和手套一样完美匹配时，我们可以说先验和后验是**共轭分布**。 -在这种情况下，我们有时也说我们有似然函数 $\textrm{Prob}(X | \theta)$ 的**共轭先验**。 +在这种情况下，我们有时也说我们有似然函数 $p(k \mid \theta)$ 的**共轭先验**。 通常，似然函数的函数形式决定了**共轭先验**的函数形式。 - 一个自然的问题是，为什么一个人对参数 $\theta$ 的个人先验必须局限于共轭先验的形式？ 为什么不能是其他更真实地描述个人信念的函数形式？ @@ -708,7 +686,6 @@ plt.show() 对这个问题的一个得体回答是，确实不应该有影响，但如果你想要轻松地计算后验分布，使用与似然函数共轭的先验会让你更愉快。 -否则，你的后验分布将不会有一个方便的解析形式，你就会需要使用{doc}`这个 quantecon 讲座 `中部署的马尔可夫链蒙特卡洛技术。 - -我们也在{doc}`这个 quantecon 讲座 `和{doc}`这个 quantecon 讲座 `中应用这些强大的方法来近似非共轭先验的贝叶斯后验分布。 +否则，你的后验分布将不会有一个方便的解析形式，你就会需要使用{doc}`非共轭先验 `中部署的马尔可夫链蒙特卡洛技术。 +我们也在{doc}`AR(1)参数的后验分布 `和{doc}`预测AR(1)过程 `中应用这些强大的方法来近似非共轭先验的贝叶斯后验分布。 \ No newline at end of file From 28ed86f767e3ffdc4303b1344815f86592e955a9 Mon Sep 17 00:00:00 2001 From: Matt McKay Date: Sat, 18 Jul 2026 21:21:01 +1000 Subject: [PATCH 2/3] Restore CJK font configuration dropped by the resync The resynced file keeps Chinese plot labels but reverted the import cell to the source's exact form, losing the Source Han Serif setup - Chinese in figures would render as missing glyphs. Residual #107 class found in the merge review; applied wave-wide. Co-Authored-By: Claude Fable 5 --- lectures/prob_meaning.md | 4 ++++ 1 file changed, 4 insertions(+) diff --git a/lectures/prob_meaning.md b/lectures/prob_meaning.md index 4b7c8d40..53241b6f 100644 --- a/lectures/prob_meaning.md +++ b/lectures/prob_meaning.md @@ -60,6 +60,10 @@ translation: import numpy as np import pandas as pd import matplotlib.pyplot as plt +import matplotlib as mpl +FONTPATH = "fonts/SourceHanSerifSC-SemiBold.otf" +mpl.font_manager.fontManager.addfont(FONTPATH) +plt.rcParams['font.family'] = ['Source Han Serif SC'] from scipy.stats import binom import scipy.stats as st ``` From a314ed44ecd1293f984f4bdfea2ff0b4a2abcbf4 Mon Sep 17 00:00:00 2001 From: Matt McKay Date: Sun, 19 Jul 2026 10:24:10 +1000 Subject: [PATCH 3/3] Restore trailing newline (engine issue tracked in QuantEcon/action-translation#116) Co-Authored-By: Claude Fable 5 --- lectures/prob_meaning.md | 2 +- 1 file changed, 1 insertion(+), 1 deletion(-) diff --git a/lectures/prob_meaning.md b/lectures/prob_meaning.md index 53241b6f..7d27afc2 100644 --- a/lectures/prob_meaning.md +++ b/lectures/prob_meaning.md @@ -692,4 +692,4 @@ plt.show() 否则，你的后验分布将不会有一个方便的解析形式，你就会需要使用{doc}`非共轭先验 `中部署的马尔可夫链蒙特卡洛技术。 -我们也在{doc}`AR(1)参数的后验分布 `和{doc}`预测AR(1)过程 `中应用这些强大的方法来近似非共轭先验的贝叶斯后验分布。 \ No newline at end of file +我们也在{doc}`AR(1)参数的后验分布 `和{doc}`预测AR(1)过程 `中应用这些强大的方法来近似非共轭先验的贝叶斯后验分布。