欢迎来到多变量矩的世界!
你好!你已经学会了如何求单一变量的平均值(期望值)和方差。现在,我们即将踏入多变量的世界。你可以把这想象成从单纯观察单一保单持有人索赔次数,进阶到研究多个离散变量的联合分布,例如索赔频率与保单持有人的风险等级。
在这一章,我们会探讨在联合、条件和边际离散分布中的“矩”(moments)——包括期望值、方差、标准差和协方差。在 Exam P 的考核范围内,联合、条件和边际矩的多变量分布均是在离散情境下进行评估的。
1. 联合期望值 (Joint Expected Values)
当处理具有联合概率质量函数 \(p(x, y) = P(X = x, Y = y)\) 的两个离散随机变量 \(X\) 和 \(Y\) 时,我们经常需要求出一个同时包含两者的函数的平均值,例如 \(E[XY]\) 或 \(E[X + Y]\)。这就被称为联合期望值。
要计算任何函数 \(g(X, Y)\) 的期望值,只需将每个点的函数值乘以联合概率,然后对所有可能的 \(x\) 和 \(y\) 取值进行加总即可:
\( E[g(X, Y)] = \sum_{x} \sum_{y} g(x, y) \cdot p(x, y) \)
类比:想象地板上有一个方格网。每个方格代表一组 \((x, y)\),上面有回报数值 \(g(x, y)\) 和概率权重 \(p(x, y)\)。要算出总体的期望值,你只需将每个方格的回报乘以其概率权重,然后全部加总起来。
快速复习:期望值永远具有线性性质:\(E[aX + bY + c] = aE[X] + bE[Y] + c\)。无论 \(X\) 和 \(Y\) 是独立还是相关,这个线性性质都依然成立!
2. 边际矩 (Marginal Moments)
在评估条件关系或协方差之前,我们经常需要分别计算每个变量的矩。这些就是边际矩。
首先,对另一个变量求和以获得边际概率函数:
\( p_X(x) = \sum_{y} p(x, y) \quad \text{与} \quad p_Y(y) = \sum_{x} p(x, y) \)
边际期望值 (Marginal Expected Value)
边际平均值可以直接从边际概率函数计算(或直接由联合求和计算):
\( E[X] = \sum_{x} x \cdot p_X(x) = \sum_{x} \sum_{y} x \cdot p(x, y) \)
边际方差与标准差 (Marginal Variance and Standard Deviation)
要计算边际方差,先计算二阶原点矩 \(E[X^2] = \sum_x x^2 \cdot p_X(x)\),然后套用方差公式:
\( Var(X) = E[X^2] - (E[X])^2 \)
标准差是方差的平方根:\( \sigma_X = \sqrt{Var(X)} \)。
3. 条件矩 (Conditional Moments)
当获得关于其中一个变量的特定信息时(例如已知 \(Y = y\)),我们会将概率更新为条件概率函数:
\( p_{X|Y}(x|y) = P(X = x \mid Y = y) = \frac{p(x, y)}{p_Y(y)}, \quad \text{其中 } p_Y(y) > 0 \)
条件期望值 (Conditional Expectation)
给定 \(Y = y\) 的情况下,\(X\) 的条件平均值是根据此条件分布所取的期望值:
\( E[X \mid Y = y] = \sum_{x} x \cdot p_{X|Y}(x|y) \)
此处,在对 \(x\) 的所有可能取值求和时,\(y\) 被视为固定常数。
条件方差与标准差 (Conditional Variance and Standard Deviation)
条件方差衡量的是在已知 \(Y = y\) 的情况下,\(X\) 的离散程度:
\( Var(X \mid Y = y) = E[X^2 \mid Y = y] - (E[X \mid Y = y])^2 \)
其中 \(E[X^2 \mid Y = y] = \sum_x x^2 \cdot p_{X|Y}(x|y)\)。条件标准差为 \( \sigma_{X|Y=y} = \sqrt{Var(X \mid Y = y)} \)。
提示:\(E[X \mid Y]\) 本身就是一个随机变量,因为它的数值取决于 \(Y\) 的结果。
4. 协方差与相关系数 (Covariance and Correlation)
协方差衡量两个随机变量之间的线性关系:
\( Cov(X, Y) = E[(X - E[X])(Y - E[Y])] = E[XY] - E[X]E[Y] \)
独立性:如果 \(X\) 和 \(Y\) 是独立的离散随机变量,则 \(p(x, y) = p_X(x)p_Y(y)\),这意味着 \(E[XY] = E[X]E[Y]\),因此 \(Cov(X, Y) = 0\)。请注意,\(Cov(X, Y) = 0\) 表示没有线性关系,但在一般情况下不一定保证独立性。
相关系数 (\(\rho\))
相关系数将协方差标准化,使其无量纲化并限制在 -1 到 1 之间:
\( \rho_{XY} = \frac{Cov(X, Y)}{\sigma_X \sigma_Y} = \frac{Cov(X, Y)}{\sqrt{Var(X) \cdot Var(Y)}} \)
5. 双重期望值与全方差 (Double Expectation and Total Variance)
这两个基本恒等式让你能够通过对中间变量进行条件约束来求出边际矩。
迭代期望值定律 (The Law of Iterated Expectations)
总体平均值等于条件平均值的期望值:
\( E[X] = E[E[X \mid Y]] = \sum_{y} E[X \mid Y = y] \cdot p_Y(y) \)
全方差定律 (The Law of Total Variance)
总方差可拆解为条件方差的期望值加上条件期望值的方差:
\( Var(X) = E[Var(X \mid Y)] + Var(E[X \mid Y]) \)
记忆法:将其记为 "EV + VE" (Expected Value of Variance + Variance of Expected Value,即方差的期望值 + 期望值的方差)。
6. 避免常见错误
1. 混淆边际与条件:务必检查分母。边际分布使用无条件求和 \(p_X(x) = \sum_y p(x, y)\),而条件分布则需要除以已知条件的边际概率:\(p_{X|Y}(x|y) = p(x,y) / p_Y(y)\)。
2. 忘记将平均值平方:在边际方差 \(Var(X) = E[X^2] - (E[X])^2\) 和条件方差 \(Var(X|Y=y) = E[X^2|Y=y] - (E[X|Y=y])^2\) 中,务必记得减去期望值的平方。
3. 假设 \(E[XY] = E[X]E[Y]\):这个等式只有当 \(X\) 和 \(Y\) 独立时才成立。当变量彼此相关时,请使用联合分布表计算 \(E[XY] = \sum_x \sum_y xy \cdot p(x, y)\)。
7. 总结清单
在处理多变量离散矩的练习题之前,请确保你能:
• 通过将联合概率表的列或行求和来构建边际分布。
• 计算边际期望值、方差和标准差:\(E[X]\)、\(Var(X)\) 和 \(\sigma_X\)。
• 构建条件概率分布 \(p_{X|Y}(x|y)\) 并计算条件矩 \(E[X \mid Y = y]\) 及 \(Var(X \mid Y = y)\)。
• 计算 \(E[XY]\)、协方差 \(Cov(X, Y) = E[XY] - E[X]E[Y]\) 和相关系数 \(\rho_{XY}\)。
• 应用迭代期望值定律和全方差定律 (EV + VE)。