期望
期望是随机变量分布的理论均值。样本均值是期望的估计量。
课程目录 · 已完成 0 / 7 个模块
数学预备知识
本模块复习后续各模块要用到的概率与优化概念：概率与频率、矩、分布、AR(1) 过程和数值优化。对每个概念，说明其定义、在结构估计中的作用，以及参数变化时数据会发生什么变化。
概率与频率
一枚公平硬币正面概率为 0.5，不代表每两次一定一正一反。它表示在大量独立重复中，正面出现的比例接近 0.5。结构模型把研究者无法观测的偏好、冲击或信息设为随机变量，通过概率把模型与观测到的选择联系起来。
实验 1
样本量与频率
先抛 10 次，再连续抛 100 次，观察正面频率的变化。程序固定了随机种子，刷新页面后结果相同。
注意：概率与样本频率是不同的概念。大数定律说明，在一定条件下样本频率依概率收敛于概率。
期望、方差与矩
方差
方差是离差平方的期望，度量分布围绕均值的分散程度。标准差与原变量单位相同，便于解释。
协方差
协方差度量两个变量共同变化的程度。协方差为零并不意味着两个变量独立；独立是更强的条件。
矩
均值、方差、协方差都是矩。GMM 和 SMM 通过比较样本矩与模型隐含的矩来估计参数，所选的矩必须对参数有识别作用。
分布
分布描述所有可能结果及其概率。两个村庄的平均收入可以相同，而收入风险完全不同。随机项取正态分布、极值分布或其他分布，会得到不同的选择概率、尾部概率和估计结果，因此分布假设是模型设定的一部分。
若 ε ~ N(0, σ²)：均值是 0，方差是 σ²，标准差是 σ。
若写成 N(0, σ)，第二个参数究竟是方差还是标准差就不明确。
若写成 N(0, σ)，第二个参数究竟是方差还是标准差就不明确。
AR(1) 过程
yₜ = ρyₜ₋₁ + εₜ， εₜ ~ N(0, σ²)， |ρ| < 1
- ρ：持久性。越接近 1，冲击消退越慢。
- σ：每一期新冲击的标准差。
- 长期波动：平稳 AR(1) 的标准差为 σ / √(1-ρ²)，所以 ρ 和 σ 都会影响波动。
实验 2
持久性与冲击标准差
0.75
0.28
数值优化
大多数估计量都是某个目标函数的最优解：MLE 使似然函数最大，GMM 和 SMM 使矩距离最小。数值优化算法从初值出发，依据目标函数的局部信息逐步更新参数，直至满足收敛条件。
实验 3
梯度上升算法的迭代过程
目标函数为 f(x)=-(x-2)²+5，最大值点为 x=2。实际模型的目标函数可能有多个局部极值、带边界约束或不光滑，因此需要尝试多组初值并检查收敛诊断。
点击按钮开始。
应检查的项目：不同初值下的结果、参数边界、目标函数值、梯度或步长、迭代次数和退出代码。程序报告“converged”并不表示找到了全局最优。
小结
- 样本频率与概率不同；在一定条件下，大样本中样本频率收敛于概率。
- 矩概括了分布的特征，样本矩是总体矩的估计。
- 随机项的分布决定选择概率的形式。
- AR(1) 过程的长期波动同时取决于 ρ 和 σ。
- 优化算法只负责在目标函数上搜索最优点；识别问题不能通过改进优化算法来解决。