簡介：構建真正有效的模型

你好！歡迎來到 Exam ATPA 學習之旅中最關鍵的章節之一。到目前為止，你可能已經學會了如何構建能以極高精確度擬合數據的複雜模型。但這裡有一個秘訣：任何人都能構建一個完美擬合舊數據的模型。真正的技術在於構建一個能準確預測未來的模型。

在本章中，我們將學習如何防止模型「死記硬背」過去的數據（過擬合/Overfitting）、如何避免重複數據使用與數據洩漏的陷阱，以及如何確保我們的模型符合法規、維持公平且不具歧視性影響（減輕模型偏差與代理歧視/Proxy Discrimination）。你可以把這想像成預測分析的「質量控制」部門。讓我們開始吧！

1. 過擬合：所謂的「死記硬背」陷阱

什麼是過擬合？
想像一下你在準備數學考試。你沒有去理解公式，而是簡單地背下了 50 道練習題的答案。當你參加正式考試時，題目稍微變了一點，你就失敗了，因為你學到的只是具體例子，而不是背後的邏輯。這就是過擬合。

在預測建模中，當模型過於複雜，以至於開始將「噪聲」（隨機波動）視為真實模式時，就會發生過擬合。

從過多變量開始的風險

導致過擬合的主要原因之一，是相對於樣本量引入了過多的預測變量。當模型包含數十個或數百個預測因子時，它很容易捕捉到僅在訓練樣本中純粹巧合出現的虛假相關性（spurious correlations）。這會擴大模型的方差，並降低其在新數據上的表現。精算師必須透過專業領域知識、篩選以及降維技術，主動對特徵空間進行修剪。

偏差與方差的權衡 (Bias-Variance Tradeoff)

要理解過擬合，我們必須觀察兩種相互制約的力量：
• 偏差 (Bias)： 這是由過於簡單的假設所導致的誤差。如果你試圖用一條直線去擬合明顯彎曲的數據，就會出現高偏差（欠擬合/Underfitting）。
• 方差 (Variance)： 這是因為對微小波動過於敏感而產生的誤差。如果你的模型每次添加一個新數據點時都會發生巨大變化，這就是高方差（過擬合）。

快速回顧： 我們追求的是「金髮女孩區域」（Goldilocks zone），即一個模型既要足夠複雜以捕捉信號，又要足夠簡單以忽略噪聲。

如何偵測過擬合

發現過擬合最簡單的方法是比較模型在兩組數據上的表現：
• 訓練集 (Training Set)： 模型從中學習的數據。
• 測試集 (Test Set)： 用於評估模型的「未見過」數據。
警訊： 如果你的訓練誤差非常低，但測試誤差卻顯著偏高，那麼該模型已經過擬合了。

2. 減輕過擬合：正則化 (Regularization)

如果我們的模型過於複雜，或者起始包含過多的變量，我們需要對其施加約束。這就是所謂的正則化。它的運作方式是在目標函數中增加懲罰項，以懲罰過大或過多的係數。

嶺回歸 (Ridge Regression, L2 正則化)

嶺回歸增加了一項與係數平方和成正比的懲罰項：
\( \text{Penalty} = \lambda \sum_{j=1}^{p} \beta_j^2 \)
• 運作原理： 它將係數向零收縮，降低其方差，但永遠不會使其精確等於零。它保留了所有預測因子，同時遏制了模型對共線性或噪聲特徵的過度敏感性。

Lasso 回歸 (L1 正則化)

Lasso (最小絕對值收縮與選擇運算子) 增加了一項與係數絕對值之和成正比的懲罰項：
\( \text{Penalty} = \lambda \sum_{j=1}^{p} |\beta_j| \)
• Lasso 的魔力： 由於 L1 約束的幾何形狀，當 \( \lambda \) 足夠大時，Lasso 會強制將某些係數精確壓縮至零。這意味著 Lasso 會自動執行變量選擇，從而減輕從過多變量開始建模所帶來的風險！

記憶小撇步： Lasso = Less variables（減少變量，剔除部分）。Ridge = Reduces coefficients（縮減係數，但全部保留）。

重點總結

正則化使用一個調整參數 \( \lambda \)。當 \( \lambda = 0 \) 時，你得到的是一個未受懲罰的標準模型。隨著 \( \lambda \) 增加，懲罰變得更嚴厲，從而收縮係數並簡化模型（以偏差的輕微增加為代價來降低方差）。

3. 重複數據使用與數據洩漏

重複數據使用的危險性

當分析師重複使用同一組驗證或測試數據來做出建模決策時，就會發生重複數據使用——例如篩選預測因子、調校超參數、選擇函數形式以及比較候選算法。雖然模型本身可能沒有直接在保留樣本（holdout observations）上進行訓練，但分析師卻在無形中將保留集的資訊納入了建模工作流程之中。

• 保留集過擬合 (Holdout Overfitting)： 如果你嘗試了 100 種不同的模型配置，並選擇了驗證誤差最低的那一個，那麼這個最優分數的一部分純粹只是在該特定保留樣本上的運氣所致。此時驗證誤差就會變成對真實泛化誤差過於樂觀且具偏差的估計。
• 減輕策略： 為了減輕重複數據使用的影響，應實施嚴謹的數據拆分協議：
1. 三分法拆分 (Three-Way Split)： 將數據劃分為訓練集（用於擬合參數）、驗證集（用於比較候選模型和調校超參數）以及測試集（用於提供無偏的最終審計）。
2. 鎖定測試集： 將測試集鎖入「保險庫」中。僅在項目結束時對其進行一次評估。如果模型在測試集上失敗，你不能在該測試集上微調模型，否則會破壞其獨立性。
3. 嵌套交叉驗證 (Nested Cross-Validation)： 當數據有限時，使用嵌套交叉驗證，其中內層循環調校超參數，外層循環估計泛化性能，從而避免數據重複使用帶來的偏差。

數據洩漏 (Data Leakage)

當訓練環境之外的資訊被無意中引入模型擬合過程時，就會發生數據洩漏，使模型在開發期間顯得異常準確。

• 目標洩漏 (Target Leakage)： 納入了一個包含目標資訊的預測因子，而該資訊在實際預測當下是無法獲取的。例子： 使用「理賠核准日期」來預測保險理賠是否屬於欺詐。核准程序只有在調查結束後才會發生。
• 訓練-測試污染 (Train-Test Contamination)： 在拆分數據之前，就對整個數據集計算預處理參數（例如缺失值填補中位數、標準化縮放因子或目標編碼）。訓練集因而被測試集的摘要統計數據所污染。
• 防範法則： 永遠先拆分數據。 所有變換、縮放及填補計算都應嚴格僅在訓練分區上進行，然後再將這些固定變換應用於驗證集和測試集。

4. 模型偏差、公平性與代理歧視

精算師必須確保預測模型符合道德規範、遵循法律與專業標準，且不會對受保護的人口群體造成不公平的劣勢。

理解公平性概念

預測分析中的偏差不僅僅意味著數學誤差；它是指導致由敏感屬性（如種族、宗教、性別或年齡）所定義的各個群體之間受到系統性不公平對待。
• 人口統計均等性 (Demographic Parity / Independence)： 在所有受保護群體中，接受率或正向預測率完全相同：\( P(\hat{Y}=1 | A=0) = P(\hat{Y}=1 | A=1) \)。
• 均等化機會 (Equalized Odds / Separation)： 模型在各個群體之間具有相等的真陽性率（True Positive Rate）和相等的假陽性率（False Positive Rate）。
• 預測均等性 (Predictive Parity / Sufficiency)： 各群體之間的正預測值（精確率/Precision）相等：\( P(Y=1 | \hat{Y}=1, A=0) = P(Y=1 | \hat{Y}=1, A=1) \)。
備註： 數學上的公平性標準往往相互衝突；當潛在的基本比率不同時，滿足人口統計均等性可能需要犧牲預測均等性。

代理歧視 (Proxy Discrimination)

僅僅從模型中移除受保護特徵通常是遠遠不夠的。當算法使用與受保護屬性高度相關的中性預測因子，從而實質上重構了被排除的特徵時，就會發生代理歧視。
• 例子： 在財產保險定價模型中剔除種族變量，但納入了反映歷史居住隔離格局的五位數郵政編碼、信用評分或社區居住年限。
• 精算師必須主動測試非受保護特徵是否充當了代理變量，並驗證模型預測不會產生差別性影響（disparate impact）。

減輕模型偏差

1. 預處理 (Pre-processing)： 在模型訓練之前，對訓練樣本進行重新平衡、重新加權或轉換，以修正代表性不足和歷史不平衡。
2. 處理中 (In-processing)： 在模型擬合過程中，將公平性約束或公平性懲罰項直接納入目標函數中。
3. 後處理 (Post-processing)： 分別調整各群體的分類決策閾值或校準，以確保獲得公平的決策結果。

5. 交叉驗證：重抽樣保障

為了防範單次拆分帶來的方差，並驗證正則化與特徵縮減是否成功控制了過擬合，精算師倚賴 \( K \)-折交叉驗證 (K-Fold Cross-Validation)。

步驟說明：
1. 將訓練數據隨機劃分為 \( k \) 個互斥且大小大致相等的部分（通常 \( k = 5 \) 或 \( k = 10 \)）。
2. 使用結合後的 \( k - 1 \) 個部分來訓練候選模型。
3. 在剩餘的單個部分上計算驗證指標。
4. 重複此過程 \( k \) 次，使每一折都恰好有一次機會作為保留評估集。
5. 取這 \( k \) 個性能指標的平均值，以獲得模型在樣本外表現的穩定估計。

為什麼要這麼做？ 交叉驗證最大化了數據利用效率，避免了單次非代表性拆分所帶來的風險，並為超參數調校提供了客觀的基準。

章節總結回顧

快速回顧箱：
• 過擬合： 當模型捕捉隨機噪聲而非潛在信號時發生，若從過多變量開始建模則會加劇此問題。
• 正則化： 懲罰模型複雜度。Lasso (L1) 透過將係數強制縮減至零來執行變量選擇；Ridge (L2) 縮減係數以降低方差。
• 重複數據使用： 重複在同一組驗證/測試集上評估模型會導致保留集過擬合以及虛高的性能指標。透過嚴格的三分法拆分並鎖定測試集直至最終審批來減輕此問題。
• 數據洩漏： 未來資訊或保留集資訊非預期地流入模型訓練過程。在進行任何預處理之前先拆分數據以防範此問題。
• 公平性與代理歧視： 若相關的代理變量依然存在，單純排除敏感屬性並不能防止歧視。可透過預處理、處理中或後處理的公平性調整來減輕偏差。
• 交叉驗證： 輪流使用 \( k \) 折數據進行評估，以提供穩健且低方差的性能評估。