114 年 國立政治大學風險管理與保險學系碩士班精算科學組《統計學》

這題主要在考察統計推論中的幾個基本概念：概似比檢定、指數分配的無記憶性，以及隨機變數序列的收斂。

(a) 概似比檢定 (Likelihood Ratio Tests)
概似比檢定是一種通用的假設檢定方法，特別適用於參數統計模型。其核心思想是比較在虛無假設 (null hypothesis, $H_0$) 下的概似函數值與在對立假設 (alternative hypothesis, $H_1$) 下的最大概似函數值。
具體來說，假設我們有一個模型，其參數為 $\theta$，而我們的假設為 $H_0: \theta \in \Theta_0$ 對上 $H_1: \theta \in \Theta_1$，其中 $\Theta_0 \subset \Theta_1$。
我們計算兩個值：

1. $L(\theta_0) = \sup_{\theta \in \Theta_0} L(\theta | \mathbf{x})$：在虛無假設下的最大概似函數值。
2. $L(\theta_1) = \sup_{\theta \in \Theta_1} L(\theta | \mathbf{x})$：在對立假設下的最大概似函數值。
   概似比檢定統計量定義為概似比 (Likelihood Ratio, LR)：
   $\Lambda = \frac{L(\theta_0)}{L(\theta_1)}$
   當 $\Lambda$ 的值很小時，表示觀測數據 $\mathbf{x}$ 在虛無假設下的可能性遠低於在對立假設下的可能性，因此我們拒絕 $H_0$。
   通常，為了使統計量更容易處理，我們會使用其對數形式，即對數概似比 (Log-Likelihood Ratio, LLR)：
   $\log \Lambda = \log L(\theta_0) - \log L(\theta_1)$
   或者，為了方便計算，有時會使用 $\Lambda$ 的倒數，即 $\frac{L(\theta_1)}{L(\theta_0)}$，並定義檢定統計量為 $-2 \log \Lambda$。當 $-2 \log \Lambda$ 的值很大時，表示我們拒絕 $H_0$。
   在許多情況下，特別是當樣本量足夠大時，$-2 \log \Lambda$ 在虛無假設下近似服從卡方分配 (Chi-squared distribution)，其自由度等於參數空間維度在 $H_1$ 與 $H_0$ 之間的差值。

(b) 指數分配的無記憶性 (Exponential memoryless)
指數分配 (Exponential distribution) 是一種描述事件發生時間間隔的機率分配。若一個隨機變數 $X$ 服從指數分配，其機率密度函數 (PDF) 為 $f(x; \lambda) = \lambda e^{-\lambda x}$，其中 $x \ge 0$ 且 $\lambda > 0$ 為速率參數。
無記憶性 (Memorylessness) 是指數分配的一個非常重要的特性。它指的是，對於一個已經發生一段時間的隨機事件，其未來發生所需的額外時間的機率分配，與事件從零開始發生所需的機率分配是相同的。
數學上，對於一個服從指數分配的隨機變數 $X$，其無記憶性可以表示為：
$P(X > s+t | X > s) = P(X > t)$
其中 $s, t \ge 0$。
證明如下：

核心觀念

本題考查「Poisson 分布的稀疏化（Poisson thinning）」：

若

$$X\sim\operatorname{Poisson}(\lambda),$$

且每一個事件獨立地以機率 $p$ 被分類為目標事件，則目標事件數 $Y$ 服從

$$Y\sim\operatorname{Poisson}(\lambda p).$$

本題中：

• 每年總理賠件數：$X\sim\operatorname{Poisson}(2)$；
• 每件理賠屬於淹水損害的機率：$p=0.5$。

因此淹水理賠件數的平均數為

$$\lambda_Y=\lambda p=2(0.5)=1.$$

所以

$$Y\sim\operatorname{Poisson}(1).$$

---

解題方法與推導

給定一年收到 $X=x$ 件理賠時，每件以機率 $0.5$ 屬於淹水損害，因此

$$Y\mid X=x\sim\operatorname{Binomial}(x,0.5).$$

對任意 $y=0,1,2,\dots$，

$$\begin{aligned} P(Y=y) &=\sum_{x=y}^{\infty}P(Y=y\mid X=x)P(X=x)\\ &=\sum_{x=y}^{\infty} \binom{x}{y}(0.5)^y(0.5)^{x-y} \frac{2^x e^{-2}}{x!}. \end{aligned}$$

利用

$$\binom{x}{y}=\frac{x!}{y!(x-y)!},$$

可得

$$\begin{aligned} P(Y=y) &=\sum_{x=y}^{\infty} \frac{1}{y!(x-y)!} (0.5)^y(0.5)^{x-y} 2^x e^{-2}\\ &=\frac{e^{-2}}{y!} \sum_{x=y}^{\infty} \frac{(2\cdot0.5)^y(2\cdot0.5)^{x-y}}{(x-y)!}\\ &=\frac{e^{-2}}{y!} \sum_{x=y}^{\infty} \frac{1^{x}}{(x-y)!}. \end{aligned}$$

令 $k=x-y$，則

這題主要在測試對中央極限定理 (Central Limit Theorem, CLT) 的理解和條件的掌握。

中央極限定理是統計學中最重要和最廣泛應用的定理之一。它指出，在特定條件下，無論原始母體的機率分佈為何，從母體中抽取的大樣本的平均數的抽樣分佈，都會近似於常態分佈。

我們來逐一分析各個選項：

(a) The CLT describes the sampling distribution of population mean.
這個說法是正確的。CLT 的核心就是描述樣本平均數 ($\bar{X}$) 的抽樣分佈。它告訴我們，當樣本量 $n$ 足夠大時，$\bar{X}$ 的分佈近似於一個常態分佈。更精確地說，如果母體平均數為 $\mu$ 且變異數為 $\sigma^2$，則樣本平均數 $\bar{X}$ 的抽樣分佈近似於 $\text{Normal}(\mu, \sigma^2/n)$。

(b) When using the CLT, the population from which the data is drawn does not need to follow a normal distribution.
這個說法也是正確的，而且這是 CLT 最強大的地方。CLT 的前提條件之一就是母體分佈不一定是常態的。即使母體是偏態的、均勻的，甚至是其他任何分佈（只要其期望值和變異數存在），只要樣本量足夠大，樣本平均數的抽樣分佈就會近似常態。

(c) When using the CLT, the population from which the data is drawn does not need to consist of continuous data.
這個說法也是正確的。CLT 的條件是母體具有有限的期望值和變異數，並且樣本是獨立同分佈的。

核心觀念

本題考查泰勒展開與 Delta method。若 $X\sim\operatorname{Poisson}(\lambda)$，則

$$E(X)=\lambda,\qquad \operatorname{Var}(X)=\lambda.$$

對函數 $u(X)$ 在 $X=\lambda$ 附近作泰勒展開：

$$u(X)\approx u(\lambda)+u'(\lambda)(X-\lambda) +\frac{u''(\lambda)}{2}(X-\lambda)^2.$$

當 $\lambda$ 很大時，高次項可忽略，因此變異數主要由一次項決定：

$$\operatorname{Var}[u(X)] \approx [u'(\lambda)]^2\operatorname{Var}(X) =\lambda [u'(\lambda)]^2.$$

題目要求此變異數與 $\lambda$ 無關，因此須使

$$\lambda [u'(\lambda)]^2=C,$$

其中 $C$ 為與 $\lambda$ 無關的常數。

解題方法

由

$$\lambda [u'(\lambda)]^2=C$$

可得

$$u'(\lambda)=\frac{\sqrt C}{\sqrt\lambda}.$$

對 $\lambda$ 積分：

$$u(\lambda)=\int \frac{\sqrt C}{\sqrt\lambda}\,d\lambda =2\sqrt C\,\sqrt\lambda+D,$$

其中 $D$ 為常數。因此可選擇

$$u(X)=\sqrt X.$$

此時

$$u'(x)=\frac{1}{2\sqrt x},$$

所以在 $x=\lambda$ 處，

$$u'(\lambda)=\frac{1}{2\sqrt\lambda}.$$

代入變異數近似式：

$$\operatorname{Var}[\sqrt X] \approx \lambda\left(\frac{1}{2\sqrt\lambda}\right)^2 =\lambda\cdot\frac{1}{4\lambda} =\frac14.$$

因此，當 $\lambda$ 很大時，

核心觀念

本題探討無母數統計學（Nonparametric Statistics）中著名的經驗累積分配函數（Empirical Cumulative Distribution Function, 簡稱 ECDF）及其統計推論性質。核心觀念包含：

1. 指示函數（Indicator Function）的機率分佈：
   定義隨機變數 $Y_i = I(X_i \le x)$。由於 $X_i \le x$ 為二元事件，其機率為 $P(X_i \le x) = F(x)$，因此 $Y_i$ 服從參數為 $p = F(x)$ 的白努力分配（Bernoulli Distribution），即 $Y_i \overset{\text{i.i.d.}}{\sim} \text{Bernoulli}(F(x))$。
2. 二項分配性質（Binomial Distribution）：
   統計量 $n F_n(x) = \sum_{i=1}^{n} I(X_i \le x) \sim \text{Binomial}(n, F(x))$。利用二項分配的期望值與變異數性質，可推導 $F_n(x)$ 的一階矩與二階矩。
3. 無偏估計量（Unbiased Estimator）：
   檢驗 $E[F_n(x)] = F(x)$。
4. 均勻最小變異不偏估計量（UMVUE）與完備充分統計量（Lehmann-Scheffé 定理）：
   在無母數模型中（即 $F$ 屬於所有累積分配函數的集合 $\mathcal{F}$），次序統計量向量 $\mathbf{X}_{()} = (X_{(1)}, X_{(2)}, \dots, X_{(n)})$ 為母體分配 $F$ 的充分且完備統計量（Complete Sufficient Statistic）。根據 Lehmann-Scheffé 定理，任何基於完備充分統計量的無偏估計量，即為 $F(x)$ 的 UMVUE。

---

解題方法與詳細推導

令 $Y_i = I(X_i \le x)$，其中 $i = 1, 2, \dots, n$。
因為 $X_1, X_2, \dots, X_n$ 為獨立且同分配（i.i.d.）之隨機變數，其累積分配函數為 $F(x) = P(X_i \le x)$。
因此：

$$Y_i = \begin{cases} 1, & \text{若 } X_i \le x \quad (\text{機率為 } F(x)) \\ 0, & \text{若 } X_i > x \quad (\text{機率為 } 1 - F(x)) \end{cases}$$

可知 $Y_1, Y_2, \dots, Y_n$ 為 i.i.d. 的白努力隨機變數，其參數 $p = F(x)$，且：

$$E[Y_i] = P(X_i \le x) = F(x)$$ $$\text{Var}(Y_i) = F(x)(1 - F(x))$$

---

(a) 證明 $E[F_n(x)] = F(x)$

利用期望值的線性性質（Linearity of Expectation）：

$$E[F_n(x)] = E\left[ \frac{1}{n} \sum_{i=1}^{n} I(X_i \le x) \right]$$ $$= \frac{1}{n} \sum_{i=1}^{n} E[I(X_i \le x)]$$

由於 $E[I(X_i \le x)] = 1 \cdot P(X_i \le x) + 0 \cdot P(X_i > x) = F(x)$，代入上式得：

$$E[F_n(x)] = \frac{1}{n} \sum_{i=1}^{n} F(x) = \frac{1}{n} \cdot n F(x) = F(x)$$

故 $F_n(x)$ 為 $F(x)$ 的無偏估計量（Unbiased Estimator）。

---

(b) 推導 $F_n(x)$ 的變異數 $\text{Var}(F_n(x))$

由於 $X_1, X_2, \dots, X_n$ 彼此獨立，指標隨機變數 $Y_i = I(X_i \le x)$ 亦彼此相互獨立。利用變異數的性質：

$$\text{Var}(F_n(x)] = \text{Var}\left( \frac{1}{n} \sum_{i=1}^{n} I(X_i \le x) \right)$$ $$= \frac{1}{n^2} \sum_{i=1}^{n} \text{Var}(I(X_i \le x))$$

其中，單一指標變數的變異數為：

$$\text{Var}(I(X_i \le x)) = E\left[ I(X_i \le x)^2 \right] - \left( E[I(X_i \le x)] \right)^2$$

因為指示函數滿足 $I(X_i \le x)^2 = I(X_i \le x)$，故：

這題考驗貝氏統計學的基礎概念，包括如何設定先驗分佈、計算後驗分佈，以及如何根據指定的損失函數求得貝氏估計量。

首先，我們定義問題中的隨機變數和參數：

• 樣本 $X_1, \dots, X_n$ 來自一個幾何分配 (Geometric distribution)，其機率質量函數 (PMF) 為 $P(X=x) = \theta(1-\theta)^{x-1}$，其中 $x \in \{1, 2, 3, \dots\}$。這裡的參數是 $\theta \in (0, 1)$。
• 參數 $\theta$ 的先驗分佈 (prior distribution) 是均勻分佈在 $(0, 1)$ 上，即 $\theta \sim U(0, 1)$。其機率密度函數 (PDF) 為 $f(\theta) = 1$ for $0 < \theta < 1$，否則為 0。
• 損失函數是平方誤差損失 (squared error loss)， $L(\theta, \delta) = (\delta - \theta)^2$。

(a) Find the posterior distribution of θ.
後驗分佈 (posterior distribution) 是在觀測到數據後，對參數 $\theta$ 的信念更新。根據貝氏定理，後驗分佈與「先驗分佈」和「概似函數 (likelihood function)」的乘積成正比：
$f(\theta | \mathbf{X}) \propto f(\theta) \cdot L(\mathbf{X} | \theta)$
其中 $\mathbf{X} = (X_1, \dots, X_n)$ 是觀測到的數據。

1. 先驗分佈 (Prior distribution):
   $f(\theta) = 1$ for $0 < \theta < 1$.

2. 概似函數 (Likelihood function):
   樣本 $X_1, \dots, X_n$ 是 i.i.d. 的，所以聯合概似函數是單個觀測值的概似函數的乘積。
   對於單個觀測值 $X_i$，其 PMF 為 $f(X_i | \theta) = \theta(1-\theta)^{X_i-1}$。
   聯合概似函數為：
   $L(\mathbf{X} | \theta) = \prod_{i=1}^{n} f(X_i | \theta) = \prod_{i=1}^{n} [\theta(1-\theta)^{X_i-1}]$
   $L(\mathbf{X} | \theta) = \theta^n \prod_{i=1}^{n} (1-\theta)^{X_i-1}$
   $L(\mathbf{X} | \theta) = \theta^n (1-\theta)^{\sum_{i=1}^{n}(X_i-1)}$
   令 $S = \sum_{i=1}^{n}(X_i-1) = \sum_{i=1}^{n} X_i - n$。
   所以，$L(\mathbf{X} | \theta) = \theta^n (1-\theta)^S$。

3. 計算後驗分佈:
   $f(\theta | \mathbf{X}) \propto f(\theta) \cdot L(\mathbf{X} | \theta)$
   $f(\theta | \mathbf{X}) \propto (1) \cdot [\theta^n (1-\theta)^S]$
   $f(\theta | \mathbf{X}) \propto \theta^n (1-\theta)^S$, for $0 < \theta < 1$.

   這個形式 $\theta^a (1-\theta)^b$ 表明後驗分佈是 Beta 分佈。
   Beta 分佈的 PDF 為 $f(y; \alpha, \beta) = \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\beta)} y^{\alpha-1} (1-y)^{\beta-1}$，其中 $y \in (0, 1)$。
   比較我們的後驗分佈形式 $\theta^n (1-\theta)^S$ 與 Beta 分佈的 PDF 形式 $y^{\alpha-1} (1-y)^{\beta-1}$，我們可以得到：
   $\alpha - 1 = n \implies \alpha = n+1$
   $\beta - 1 = S \implies \beta = S+1 = (\sum_{i=1}^{n} X_i - n) + 1$

   因此，後驗分佈是 Beta 分佈，參數為 $\alpha = n+1$ 和 $\beta = (\sum_{i=1}^{n} X_i - n) + 1$。
   我們可以用 $\sum X_i$ 來表示 $\beta$。
   令 $T = \sum_{i=1}^{n} X_i$。則 $\beta = T - n + 1$。
   後驗分佈是 $\theta | \mathbf{X} \sim \text{Beta}(n+1, T-n+1)$。

   注意：如果先驗是 Beta$(\alpha_0, \beta_0)$，則後驗是 Beta$(\alpha_0+n, \beta_0+S)$。
   在這裡，我們的先驗是 $U(0,1)$，這相當於 Beta$(1, 1)$。