多変量モーメントの世界へようこそ!

皆さん、こんにちは!これまでは単一の変数に対する平均(期待値)や分散の求め方を学んできましたが、いよいよ多変量(Multivariate)の設定に足を踏み入れます。1人の保険契約者の請求件数だけを見るのではなく、請求頻度と契約者のリスク区分といった複数の離散型変数の同時分布を見るようなものだと考えてください。

この章では、同時分布、条件付き分布、および周辺離散分布を扱う際の「モーメント」(期待値、分散、標準偏差、共分散を含みます)を探求します。Exam Pのシラバスでは、同時モーメント、条件付きモーメント、周辺モーメントにおける多変量分布は離散型(discrete)の設定で出題されます。

1. 同時期待値(Joint Expected Values)

同時確率質量関数 \(p(x, y) = P(X = x, Y = y)\) を持つ2つの離散型確率変数 \(X\) と \(Y\) を扱うとき、\(E[XY]\) や \(E[X + Y]\) のように、両方の変数を含む関数の平均を求めたいことがよくあります。これを同時期待値(Joint Expected Value)と呼びます。

任意の関数 \(g(X, Y)\) の期待値を求めるには、各点における関数の値に同時確率を掛け合わせ、\(x\) と \(y\) のすべての可能な値にわたって足し合わせるだけです:

\( E[g(X, Y)] = \sum_{x} \sum_{y} g(x, y) \cdot p(x, y) \)

例え話: 床にタイルのグリッドが敷き詰められていると想像してください。各タイルは利得 \(g(x, y)\) と確率の重み \(p(x, y)\) を持つペア \((x, y)\) を表しています。全体の期待値を求めるには、各タイルの利得にその確率の重みを掛けて、すべてを足し合わせればよいのです。

クイック復習: 期待値には常に線形性があります:\(E[aX + bY + c] = aE[X] + bE[Y] + c\)。この線形性は、\(X\) と \(Y\) が独立であっても従属であっても成り立ちます!

2. 周辺モーメント

条件付きの関係や共分散を評価する前に、各変数のモーメントを個別に必要とすることがよくあります。これらを周辺モーメント(Marginal Moments)と呼びます。

まず、もう一方の変数について和をとることで、周辺確率関数を求めます:

\( p_X(x) = \sum_{y} p(x, y) \quad \text{および} \quad p_Y(y) = \sum_{x} p(x, y) \)

周辺期待値

周辺平均は、周辺確率関数から直接計算できます(あるいは、同時確率の和から直接計算することもできます):

\( E[X] = \sum_{x} x \cdot p_X(x) = \sum_{x} \sum_{y} x \cdot p(x, y) \)

周辺分散と標準偏差

周辺分散を計算するには、まず原点まわりの2次モーメント \(E[X^2] = \sum_x x^2 \cdot p_X(x)\) を計算し、分散の公式を適用します:

\( Var(X) = E[X^2] - (E[X])^2 \)

標準偏差は分散の正の平方根です:\( \sigma_X = \sqrt{Var(X)} \)。

3. 条件付きモーメント

一方の変数について特定の情報が与えられたとき(例えば \(Y = y\) であることが分かっている場合)、確率は条件付き確率関数へと更新されます:

\( p_{X|Y}(x|y) = P(X = x \mid Y = y) = \frac{p(x, y)}{p_Y(y)}, \quad ただし \, p_Y(y) > 0 \)

条件付き期待値

\(Y = y\) が与えられたときの \(X\) の条件付き平均は、この条件付き分布に関してとられた期待値です:

\( E[X \mid Y = y] = \sum_{x} x \cdot p_{X|Y}(x|y) \)

ここでは、\(x\) のすべての可能な値について和をとる間、\(y\) は固定された定数として扱われます。

条件付き分散と標準偏差

条件付き分散は、\(Y = y\) が与えられたときの \(X\) の広がりを測るものです:

\( Var(X \mid Y = y) = E[X^2 \mid Y = y] - (E[X \mid Y = y])^2 \)

ここで、\(E[X^2 \mid Y = y] = \sum_x x^2 \cdot p_{X|Y}(x|y)\) です。条件付き標準偏差は \( \sigma_{X|Y=y} = \sqrt{Var(X \mid Y = y)} \) となります。

注意: \(E[X \mid Y]\) は、その数値が \(Y\) の結果に依存するため、それ自体が確率変数です。

4. 共分散と相関

共分散(Covariance)は、2つの確率変数間の線形関係を測る指標です:

\( Cov(X, Y) = E[(X - E[X])(Y - E[Y])] = E[XY] - E[X]E[Y] \)

独立性: もし \(X\) と \(Y\) が独立な離散型確率変数であれば、\(p(x, y) = p_X(x)p_Y(y)\) となり、これにより \(E[XY] = E[X]E[Y]\) となるため、共分散は0になります。なお、\(Cov(X, Y) = 0\) は線形関係がないことを示しますが、一般には必ずしも独立であることを保証しない点に注意してください。

相関係数(\(\rho\))

相関(Correlation)は、共分散を標準化して無次元にし、-1から1の間に収まるようにしたものです:

\( \rho_{XY} = \frac{Cov(X, Y)}{\sigma_X \sigma_Y} = \frac{Cov(X, Y)}{\sqrt{Var(X) \cdot Var(Y)}} \)

5. 二重期待値と全分散

これら2つの基本的な恒等式を用いることで、仲介となる変数の条件付き情報を通じて周辺モーメントを評価することができます。

反復期待値の法則

全体の平均は、条件付き平均の期待値となります:

\( E[X] = E[E[X \mid Y]] = \sum_{y} E[X \mid Y = y] \cdot p_Y(y) \)

全分散の法則

全分散は、条件付き分散の期待値と、条件付き期待値の分散の和に分解されます:

\( Var(X) = E[Var(X \mid Y)] + Var(E[X \mid Y]) \)

覚え方: "EV + VE"(分散の期待値 + 期待値の分散)と覚えておきましょう。

6. よくある間違い

1. 周辺分布と条件付き分布の混同: 常に分母を確認してください。周辺分布では条件なしの和 \(p_X(x) = \sum_y p(x, y)\) を使用するのに対し、条件付き分布では与えられた条件の周辺確率で割る必要があります:\(p_{X|Y}(x|y) = p(x,y) / p_Y(y)\)。

2. 平均の二乗を忘れる: 周辺分散 \(Var(X) = E[X^2] - (E[X])^2\) と条件付き分散 \(Var(X|Y=y) = E[X^2|Y=y] - (E[X|Y=y])^2\) の両方において、必ず期待値の二乗を引くようにしてください。

3. \(E[XY] = E[X]E[Y]\) だと思い込む: この関係は \(X\) と \(Y\) が独立である場合にのみ成り立ちます。変数が従属である場合は、同時確率の表を用いて \(E[XY] = \sum_x \sum_y xy \cdot p(x, y)\) を計算してください。

7. まとめチェックリスト

多変量離散モーメントの演習問題に取り組む前に、以下のことができるか確認しましょう:

・同時確率表の行または列を合計して周辺分布を構築できる。

・周辺期待値、分散、標準偏差(\(E[X]\)、\(Var(X)\)、\(\sigma_X\))を計算できる。

・条件付き確率分布 \(p_{X|Y}(x|y)\) を作成し、条件付きモーメント \(E[X \mid Y = y]\) および \(Var(X \mid Y = y)\) を計算できる。

・\(E[XY]\)、共分散 \(Cov(X, Y) = E[XY] - E[X]E[Y]\)、および相関係数 \(\rho_{XY}\) を計算できる。

・反復期待値の法則および全分散の法則(EV + VE)を適用できる。