欢迎来到转移强度(Transition Intensities)的世界!
你好!今天,我们要深入探讨精算师工具箱中最基础的工具之一:转移强度的极大似然估计量(Maximum Likelihood Estimators, MLEs)。如果你曾好奇保险公司究竟是如何计算一个人从“健康”状态转变为“患病”状态,或是从“生存”变为“死亡”的“风险”,那么这就是一切奥秘所在。
如果刚开始看这些数学公式觉得有点头晕,别担心,我们会一步步拆解。等你读完这篇,你会发现计算风险率的“最佳”估计值其实非常符合逻辑!
什么是转移强度?
在开始推导之前,我们先快速复习一下我们在研究什么。在生存模型(Survival Models)中,转移强度(通常以希腊字母 \(\mu\) 或 \(\sigma\) 表示)代表从一个状态转移到另一个状态的瞬间速率。
把它想象成速度计。如果你正以时速 60 英里行驶,这并不代表你会开一小时;它只是告诉你那一瞬间的速度。同样地,\(\mu\) 告诉我们在特定时间点死亡或患病的“力度”或“速度”。
观察计划与统计量
为了估计转移强度,我们会设定一个观察计划(observational plan)。我们在一段有限的调查期内观察由 \(N\) 个人组成的有限样本。对于每个人,我们会记录:
- 他们何时进入观察期(以及处于哪个状态)。
- 状态之间发生任何转移的确切时间。
- 他们何时离开观察(无论是因为到达研究期结束、退出,还是进入吸收状态)。
从这个计划中,会为每个状态 \(i\) 以及转移 \(i \to j\) 得出两个关键的摘要统计量:
1. 等待时间(总中央暴露值,total central exposure)\(v_i\):所有人在处于状态 \(i\) 且处于观察期内的总时间。
2. 转移次数 \(d_{ij}\):直接从状态 \(i\) 转移到状态 \(j\) 所观察到的总转移次数。
目标:极大似然估计(MLE)
在现实世界中,我们在样本中观察到这些变动。我们拥有数据,但我们不知道 \(\mu\) 的真实值。极大似然法的核心问题是:“哪一个 \(\mu\) 值会使得我们实际观察到的数据出现的概率最大?”
第一步:建立似然函数(Likelihood Function)
要找到 MLE,我们首先需要写出似然函数 \(L(\mu)\)。对于单一减损模型(例如:生存到死亡)中的恒定强度 \(\mu\):
1. 保持在该状态:一个人在观察时间区间 \(t\) 内保持在该状态的概率为 \(e^{-\mu t}\)。将所有人相乘得到 \(e^{-\mu v}\),其中 \(v = \sum t\) 为总等待时间。
2. 发生转移:如果某人在某瞬间发生转移,该事件贡献一个与 \(\mu\) 成正比的因子。对于总共 \(d\) 次转移,这会贡献 \(\mu^d\)。
将这些独立贡献结合起来,得出似然函数:
\(L(\mu) = C \mu^d e^{-\mu v}\)
其中 \(C\) 为与 \(\mu\) 无关的任意常数。
第二步:对数似然函数(Log-Likelihood Function)
为了简化微分运算,我们取似然函数的自然对数(忽略不依赖于 \(\mu\) 的加性常数):
\(l(\mu) = \ln(L(\mu)) = d \ln(\mu) - \mu v\)
第三步:找到最大值
为了最大化对数似然函数,我们对 \(\mu\) 求一阶导数并令其为零:
\(\frac{dl}{d\mu} = \frac{d}{\mu} - v = 0\)
解出 \(\mu\) 即可得到 MLE:
\(\hat{\mu} = \frac{d}{v}\)
重点总结:转移强度的极大似然估计量简单来说就是总转移次数除以总风险时间。
第四步:合理性检查(二阶导数)
为了确认 \(\hat{\mu}\) 使似然函数最大化而非最小化,我们检查二阶导数:
\(\frac{d^2l}{d\mu^2} = -\frac{d}{\mu^2}\)
由于 \(d > 0\) 且 \(\mu^2 > 0\),二阶导数严格为负数,确认存在唯一的局部兼全局最大值。
估计量的渐近分布
根据极大似然理论,当样本容量变得很大时,估计量 \(\hat{\mu}\) 呈渐近正态分布:
\(\hat{\mu} \sim N\left(\mu, \frac{1}{I(\mu)}\right)\)
其中 \(I(\mu)\) 为期望费雪信息(Fisher information):
\(I(\mu) = -E\left[\frac{d^2l}{d\mu^2}\right] = E\left[\frac{D}{\mu^2}\right] = \frac{E[D]}{\mu^2}\)
因为 \(E[D] = \mu E[V]\),我们有 \(I(\mu) = \frac{E[V]}{\mu}\)。因此,渐近方差为:
\(\text{Var}(\hat{\mu}) \approx \frac{\mu}{E[V]} = \frac{\mu^2}{E[D]}\)
在实际应用中,用观察到的统计量替换参数,可得出估计方差:
\(\widehat{\text{Var}}(\hat{\mu}) = \frac{d}{v^2} = \frac{\hat{\mu}}{v}\)
推广至多状态与联合分布
如果人们在多个状态之间移动(例如:健康、患病、死亡)呢?假设我们有一个具有状态 \(i, j, \dots\) 且具有恒定转移强度 \(\mu_{ij}\) 的马尔可夫模型。完整的似然函数为:
\(L = \prod_{i} \prod_{j \neq i} \mu_{ij}^{d_{ij}} \exp(-v_i \mu_{ij})\)
取对数:
\(l = \sum_{i} \sum_{j \neq i} \left( d_{ij} \ln(\mu_{ij}) - \mu_{ij} v_i \right)\)
对每个强度 \(\mu_{ij}\) 进行偏导数计算:
\(\frac{\partial l}{\partial \mu_{ij}} = \frac{d_{ij}}{\mu_{ij}} - v_i = 0 \implies \hat{\mu}_{ij} = \frac{d_{ij}}{v_i}\)
注意二阶偏导数的情况:
- 对于相同的转移:\(\frac{\partial^2 l}{\partial \mu_{ij}^2} = -\frac{d_{ij}}{\mu_{ij}^2}\)
- 对于不同的转移 \((i, j) \neq (r, s)\):\(\frac{\partial^2 l}{\partial \mu_{ij} \partial \mu_{rs}} = 0\)
由于所有交叉偏导数均为零,信息矩阵是对角矩阵。这确立了一个关键结果:极大似然估计量 \(\hat{\mu}_{ij}\) 渐近独立,其渐近联合分布为:
\(\hat{\mu}_{ij} \sim N\left(\mu_{ij}, \frac{\mu_{ij}}{E[V_i]}\right)\)
单一减损中的泊松近似(Poisson Approximation)
还有另一种强大的视角来看待这个估计量。在观察到的等待时间 \(v\) 内的单一减损模型中,我们可以将转移次数 \(D\) 视为参数为 \(\lambda = \mu v\) 的近似泊松随机变量:
\(P(D = d) = \frac{(\mu v)^d e^{-\mu v}}{d!}\)
让我们写出该泊松模型下的对数似然函数:
\(l_{\text{Poisson}}(\mu) = d \ln(\mu) + d \ln(v) - \mu v - \ln(d!)\)
对 \(\mu\) 微分:
\(\frac{dl_{\text{Poisson}}}{d\mu} = \frac{d}{\mu} - v = 0 \implies \hat{\mu} = \frac{d}{v}\)
泊松近似推导出了完全相同的估计量以及相同的方差结构!这种等价性在精算修匀(graduation)和广义线性模型(GLM)中被广泛应用。
应避免的常见错误
- 搞混 \(d\) 和 \(v\):记住,速率是“单位时间内的事件数”,所以 \(d\)(事件)放在分子,\(v\)(时间)放在分母。
- 假设暴露值完全相同:在多状态模型中,\(v_i\) 仅取决于在状态 \(i\) 中度过的时间,而非在其他状态中度过的时间。
- 忘记渐近独立性:考生经常忽略不同转移强度的估计量之间的渐近协方差为零,因为对数似然函数的交叉导数均为零。
速查框
单一强度 MLE: \(\hat{\mu} = \frac{d}{v}\)
多重强度 MLE: \(\hat{\mu}_{ij} = \frac{d_{ij}}{v_i}\)
渐近方差: \(\text{Var}(\hat{\mu}) \approx \frac{\mu}{E[V]} \approx \frac{d}{v^2}\)
渐近协方差: 当 \((i, j) \neq (r, s)\) 时,\(\text{Cov}(\hat{\mu}_{ij}, \hat{\mu}_{rs}) = 0\)
泊松近似: 假设 \(D \sim \text{Poisson}(\mu v)\) 可得到完全相同的估计量 \(\hat{\mu} = d/v\)。
总结与重点提示
1. 观察计划记录个人的转移历程,以产生总等待时间 \(v\) 和转移次数 \(d\)。
2. 最大化对数似然函数得出 \(\hat{\mu} = d/v\)(或在多状态系统中为 \(\hat{\mu}_{ij} = d_{ij}/v_i\))。
3. 估计量呈渐近正态分布,且不同转移之间相互独立。
4. 将转移建模为泊松过程会产生完全相同的极大似然估计量,将生存模型与广义线性模型紧密联系起来。