111 年 國立政治大學風險管理與保險學系碩士班精算科學組《統計學》

本題主要在考察考生對統計學中幾個重要理論的理解與應用能力。

(a) Rao-Cramer Inequality

核心觀念： Rao-Cramer 不等式給出了統計量（估計量）方差的下界，它表明任何無偏估計量的方差不可能小於 Cramér-Rao Lower Bound (CRLB)。這個下界由觀測數據的資訊量決定。

說明：
假設我們有一個參數 $\theta$ 的模型 $f(x|\theta)$，並且我們想找到一個對 $\theta$ 的無偏估計量 $\hat{\theta}$。Rao-Cramer 不等式定義了一個下界，即 Cramér-Rao Lower Bound (CRLB)，如下所示：
$Var(\hat{\theta}) \ge \frac{1}{I(\theta)}$
其中 $I(\theta)$ 是模型關於參數 $\theta$ 的 Fisher Information，定義為：
$I(\theta) = E\left[\left(\frac{\partial}{\partial \theta} \ln f(X|\theta)\right)^2\right] = -E\left[\frac{\partial^2}{\partial \theta^2} \ln f(X|\theta)\right]$
只要模型滿足一些規則性條件（例如，支持集不依賴於 $\theta$，且對 $\ln f(x|\theta)$ 的微分可以交換期望值）。

意義：

1. 衡量估計量的效率： CRLB 提供了一個無偏估計量可能達到的最小方差。如果一個無偏估計量的方差達到了這個下界，則稱該估計量為「有效統計量」（efficient estimator）。
2. 理論基礎： 是許多統計推斷方法（如最大概似估計）的理論基礎之一，證明了某些估計量在漸近情況下是有效的。

(b) Rao-Blackwell Theorem

核心觀念： Rao-Blackwell 定理說明，如果我們有一個無偏估計量，並且存在一個基於足夠統計量 (sufficient statistic) 的函數，那麼這個函數的期望值將會是一個更好的估計量，其方差不會大於原估計量，並且在某些情況下會嚴格更小。

說明：
假設 $X$ 是一個隨機樣本，$\theta$ 是我們感興趣的參數，$\hat{\theta}(X)$ 是對 $\theta$ 的一個無偏估計量，即 $E[\hat{\theta}(X)] = \theta$。令 $T(X)$ 為一個關於 $\theta$ 的足夠統計量。Rao-Blackwell 定理指出，定義一個新的估計量 $\tilde{\theta}$ 如下：
$\tilde{\theta}(X) = E[\hat{\theta}(X) | T(X)]$
那麼，這個新的估計量 $\tilde{\theta}(X)$ 滿足：

1. 無偏性： $E[\tilde{\theta}(X)] = E[E[\hat{\theta}(X) | T(X)]] = E[\hat{\theta}(X)] = \theta$。

本題考驗的是獨立同分布隨機變數最小值分佈的求解，以及對指數分佈性質的掌握。

核心觀念： 獨立同分布隨機變數的最小值（或最大值）的分佈可以通過其累積分佈函數 (CDF) 來求解。

說明：
首先，我們需要確定各個 $X_i$ 的分佈。給定的機率密度函數 (p.d.f.) $f(x)$ 是指數分佈 (Exponential distribution) 的 p.d.f.，其中參數 $\lambda = 1$。
$f(x) = e^{-x}, \quad x > 0$
指數分佈的累積分佈函數 (CDF) 為 $F(x) = P(X \le x)$。
對於 $x > 0$:
$F(x) = \int_0^x e^{-t} dt = [-e^{-t}]_0^x = -e^{-x} - (-e^0) = 1 - e^{-x}$
對於 $x \le 0$: $F(x) = 0$。
所以，CDF 為 $F(x) = 1 - e^{-x}$，對於 $x > 0$。

我們要求的是 $Y = \min\{X_1, X_2, X_3, X_4\}$ 的分佈。
為了找到 $Y$ 的分佈，我們首先計算其 CDF，即 $F_Y(y) = P(Y \le y)$。
計算 $Y$ 的 CDF 的另一種更方便的方法是計算其補事件的 CDF，即 $P(Y > y)$。
$P(Y > y) = P(\min\{X_1, X_2, X_3, X_4\} > y)$
這個事件發生當且僅當所有 $X_i$ 都大於 $y$。
$P(Y > y) = P(X_1 > y, X_2 > y, X_3 > y, X_4 > y)$
由於 $X_1, X_2, X_3, X_4$ 是相互獨立的，所以：
$P(Y > y) = P(X_1 > y) P(X_2 > y) P(X_3 > y) P(X_4 > y)$
對於每一個 $X_i$（其中 $i=1, 2, 3, 4$），我們有：
$P(X_i > y) = 1 - P(X_i \le y) = 1 - F_{X_i}(y)$
由於它們是同分布的，所以 $F_{X_i}(y) = F(y) = 1 - e^{-y}$ 對於 $y > 0$。

本題考驗的是透過變數變換法 (Transformation of Variables) 求取函數轉換後隨機變數的機率分佈，以及計算其期望值與變異數。

核心觀念：

1. 變數變換法： 當一個隨機變數 $X$ 的分佈已知，我們想要求得由 $X$ 轉換而來的另一個隨機變數 $Y=g(X)$ 的分佈時，可以使用變數變換法。
2. 對數常態分佈 (Log-Normal Distribution)： 若 $X$ 服從常態分佈，則 $Y = e^X$ 服從對數常態分佈。

說明：

Part (a): Find the p.d.f. of Y.

已知 $X \sim N(\mu, \sigma^2)$，其 p.d.f. 為：
$f_X(x) = \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(x-\mu)^2}{2\sigma^2}}, \quad -\infty < x < \infty$
我們考慮轉換 $Y = g(X) = e^X$。由於 $e^x$ 是一個嚴格遞增的函數，其反函數為 $X = g^{-1}(Y) = \ln Y$。
對於 $Y$ 的 p.d.f. $f_Y(y)$，我們有：
$f_Y(y) = f_X(g^{-1}(y)) \left|\frac{dg^{-1}(y)}{dy}\right|$
首先，我們需要確定 $Y$ 的取值範圍。由於 $X$ 的範圍是 $(-\infty, \infty)$，且 $e^x > 0$，所以 $Y$ 的範圍是 $(0, \infty)$。
反函數是 $x = \ln y$。
其微分是 $\frac{dx}{dy} = \frac{d}{dy}(\ln y) = \frac{1}{y}$。
由於 $y > 0$，所以 $\left|\frac{dx}{dy}\right| = \frac{1}{y}$。

將 $x = \ln y$ 代入 $f_X(x)$：
$f_X(\ln y) = \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(\ln y - \mu)^2}{2\sigma^2}}$
現在，將這些代入變數變換公式：
$f_Y(y) = \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(\ln y - \mu)^2}{2\sigma^2}} \cdot \frac{1}{y}, \quad \text{for } y > 0$
且 $f_Y(y) = 0$ for $y \le 0$。

因此，$Y$ 的 p.d.f. 為：
$f_Y(y) = \frac{1}{y\sigma\sqrt{2\pi}} \exp\left(-\frac{(\ln y - \mu)^2}{2\sigma^2}\right), \quad y > 0$
這就是對數常態分佈 (Log-Normal Distribution) 的 p.d.f.，其參數為 $\mu$ 和 $\sigma^2$。

Part (b): Find the mean and the variance of Y.

對於 $Y \sim \text{LogNormal}(\mu, \sigma^2)$，其期望值和變異數有標準公式：
期望值 (Mean):
$E[Y] = e^{\mu + \frac{\sigma^2}{2}}$
變異數 (Variance):
$Var(Y) = (e^{\sigma^2} - 1) e^{2\mu + \sigma^2}$

證明（如果需要）：
我們可以通過計算積分來證明這些公式，但通常在考試中，如果題目沒有特別要求證明，可以直接使用標準公式。

計算期望值 $E[Y]$：
$E[Y] = \int_{-\infty}^{\infty} y f_Y(y) dy = \int_0^{\infty} y \left( \frac{1}{y\sigma\sqrt{2\pi}} e^{-\frac{(\ln y - \mu)^2}{2\sigma^2}} \right) dy$
$E[Y] = \int_0^{\infty} \frac{1}{\sigma\sqrt{2\pi}} e^{-\frac{(\ln y - \mu)^2}{2\sigma^2}} dy$
令 $u = \ln y$。則 $y = e^u$， $dy = e^u du$。
當 $y \to 0^+$, $u \to -\infty$。當 $y \to \infty$, $u \to \infty$。
$E[Y] = \int_{-\infty}^{\infty} \frac{1}{\sigma\sqrt{2\pi}} e^{-\frac{(u - \mu)^2}{2\sigma^2}} e^u du$
$E[Y] = \int_{-\infty}^{\infty} e^u \left( \frac{1}{\sigma\sqrt{2\pi}} e^{-\frac{(u - \mu)^2}{2\sigma^2}} \right) du$
這個積分的形式是 $E[e^X]$，其中 $X \sim N(\mu, \sigma^2)$。

本題考驗考生對最大概似估計 (Maximum Likelihood Estimation, MLE) 的理解與應用，特別是如何處理參數有兩種可能情況的問題。

核心觀念： 最大概似估計法的基本思想是，在給定的樣本數據下，選擇最有可能產生這些數據的參數值。

說明：
我們有 $n$ 個獨立同分布的隨機變數 $X_1, \dots, X_n$，它們服從兩個可能的機率密度函數之一。參數 $\theta$ 只能取值 1 或 2。

情況 1：$\theta = 1$
此時，p.d.f. 為 $f(x; 1) = \frac{1}{\sqrt{2\pi}} e^{-x^2/2}$。這是一個標準常態分佈 $N(0, 1)$ 的 p.d.f.。
樣本的概似函數 $L(\theta=1)$ 為：
$L(1) = \prod_{i=1}^n f(X_i; 1) = \prod_{i=1}^n \frac{1}{\sqrt{2\pi}} e^{-X_i^2/2} = \left(\frac{1}{\sqrt{2\pi}}\right)^n \exp\left(-\frac{1}{2} \sum_{i=1}^n X_i^2\right)$
我們需要最大化 $L(1)$。通常更方便的是最大化對數概似函數 $\ln L(1)$：
$\ln L(1) = n \ln\left(\frac{1}{\sqrt{2\pi}}\right) - \frac{1}{2} \sum_{i=1}^n X_i^2$
為了找到最大值，我們通常會對參數求導並令其為零。然而，在這個情況下，參數 $\theta=1$ 是固定的，$\ln L(1)$ 的值僅取決於樣本數據 $\sum X_i^2$。
要最大化 $L(1)$ (或 $\ln L(1)$)，我們需要最小化 $\sum X_i^2$。
但是，我們不能直接求解 $\theta$ 的 MLE，因為 $\theta$ 的值是預先給定的（1 或 2）。這裡的題目問的是 $\theta$ 的 MLE，這意味著我們需要根據樣本數據來判斷 $\theta$ 應該是 1 還是 2。

情況 2：$\theta = 2$
此時，p.d.f. 為 $f(x; 2) = \frac{1}{\sqrt{2\pi}} e^{-(x-2)^2/2}$。這是一個均值為 2，標準差為 1 的常態分佈 $N(2, 1)$ 的 p.d.f.。
樣本的概似函數 $L(\theta=2)$ 為：
$L(2) = \prod_{i=1}^n f(X_i; 2) = \prod_{i=1}^n \frac{1}{\sqrt{2\pi}} e^{-(X_i-2)^2/2} = \left(\frac{1}{\sqrt{2\pi}}\right)^n \exp\left(-\frac{1}{2} \sum_{i=1}^n (X_i-2)^2\right)$
對數概似函數 $\ln L(2)$ 為：
$\ln L(2) = n \ln\left(\frac{1}{\sqrt{2\pi}}\right) - \frac{1}{2} \sum_{i=1}^n (X_i-2)^2$
同樣，$\ln L(2)$ 的值取決於樣本數據 $\sum (X_i-2)^2$。

比較兩種情況的概似函數值
由於 $\theta$ 只能是 1 或 2，我們的目標是找到使概似函數值最大的那個 $\theta$。
也就是說，我們需要比較 $L(1)$ 和 $L(2)$ 的值。
$L(1) = \left(\frac{1}{\sqrt{2\pi}}\right)^n \exp\left(-\frac{1}{2} \sum_{i=1}^n X_i^2\right)$
$L(2) = \left(\frac{1}{\sqrt{2\pi}}\right)^n \exp\left(-\frac{1}{2} \sum_{i=1}^n (X_i-2)^2\right)$
為了決定哪個 $\theta$ 值更大，我們只需要比較指數項的數值，或者更準確地說，比較指數項中的負號前的總和。
比較 $\sum_{i=1}^n X_i^2$ 和 $\sum_{i=1}^n (X_i-2)^2$。
哪個值較小，哪個就對應的概似函數值較大。

展開 $\sum_{i=1}^n (X_i-2)^2$:
$\sum_{i=1}^n (X_i-2)^2 = \sum_{i=1}^n (X_i^2 - 4X_i + 4) = \sum_{i=1}^n X_i^2 - 4\sum_{i=1}^n X_i + 4n$
所以，我們需要比較 $\sum X_i^2$ 和 $\sum X_i^2 - 4\sum X_i + 4n$。
我們希望找到讓指數部分最大化的 $\theta$。這意味著我們希望讓指數中的負值部分最小化。
即，我們需要比較 $\sum X_i^2$ 和 $\sum X_i^2 - 4\sum X_i + 4n$。
如果 $\sum X_i^2 < \sum X_i^2 - 4\sum X_i + 4n$，則 $L(1) > L(2)$。
這不等式化簡為 $0 < -4\sum X_i + 4n$，即 $4\sum X_i < 4n$，也就是 $\sum X_i < n$。

核心觀念

本題考查：

1. 指數分布的機率密度函數；
2. 兩個獨立隨機變數之差的密度函數；
3. 利用卷積公式求差的分布；
4. 非對稱 Laplace 分布的形式。

因為 $X_i$ 的母體平均數為 $\alpha_i$，所以

$$f_{X_i}(x)=\frac{1}{\alpha_i}e^{-x/\alpha_i},\qquad x>0,\quad i=1,2.$$

且 $X_1,X_2$ 相互獨立。

需注意：題目所定義的是 $Y=X_1-X_2$，依此定義推導出的密度，與題目列出的分段式恰好將 $\alpha_1,\alpha_2$ 對調。題目列出的分段式其實對應 $Y=X_2-X_1$。

解題方法：利用差的卷積公式

令

$$Y=X_1-X_2.$$

取 $X_2=x$，則

$$X_1=Y+X_2=y+x.$$

因此差的密度函數為

$$f_Y(y)=\int_{-\infty}^{\infty} f_{X_1}(y+x)f_{X_2}(x)\,dx.$$

由於 $X_1>0$ 且 $X_2>0$，積分範圍必須同時滿足

$$x>0,\qquad y+x>0.$$

因此需依照 $y$ 的正負分成兩種情況。

情況一：$y>0$

當 $y>0$ 時，只要 $x>0$，便有 $y+x>0$，故

$$f_Y(y) = \int_0^\infty \frac{1}{\alpha_1}e^{-(y+x)/\alpha_1} \frac{1}{\alpha_2}e^{-x/\alpha_2}\,dx.$$

整理指數項：

$$f_Y(y) = \frac{e^{-y/\alpha_1}}{\alpha_1\alpha_2} \int_0^\infty e^{-x\left(\frac{1}{\alpha_1}+\frac{1}{\alpha_2}\right)} \,dx.$$

利用

$$\int_0^\infty e^{-cx}\,dx=\frac{1}{c}, \qquad c>0,$$

可得

$$\int_0^\infty e^{-x\left(\frac{1}{\alpha_1}+\frac{1}{\alpha_2}\right)} \,dx = \frac{1}{\frac{1}{\alpha_1}+\frac{1}{\alpha_2}} = \frac{\alpha_1\alpha_2}{\alpha_1+\alpha_2}.$$

所以

$$f_Y(y) = \frac{1}{\alpha_1+\alpha_2} e^{-y/\alpha_1}, \qquad y>0.$$

情況二：$y\le 0$

當 $y\le 0$ 時，條件 $y+x>0$ 要求

$$x>-y.$$

又因為 $-y\ge 0$，故積分範圍為 $x\in[-y,\infty)$：

$$f_Y(y) = \int_{-y}^\infty \frac{1}{\alpha_1}e^{-(y+x)/\alpha_1} \frac{1}{\alpha_2}e^{-x/\alpha_2}\,dx.$$

整理得

$$f_Y(y) = \frac{e^{-y/\alpha_1}}{\alpha_1\alpha_2} \int_{-y}^\infty e^{-x\left(\frac{1}{\alpha_1}+\frac{1}{\alpha_2}\right)} \,dx.$$

由

$$\int_a^\infty e^{-cx}\,dx=\frac{1}{c}e^{-ca},$$

其中