114 年 國立政治大學統計學系碩士班《數理統計學》

本題主要考驗隨機變數轉換的觀念，特別是針對截斷的指數分配。我們需要根據 $V$ 的定義，找出其對應的機率分佈。

首先，我們給定 lifetime $T$ 的機率密度函數 (PDF) 為 $f_T(t) = \frac{1}{2} e^{-t/2}$，其中 $t > 0$。這是一個指數分配，參數 $\lambda = 1/2$。
$T$ 的累積分佈函數 (CDF) 為 $F_T(t) = P(T \le t) = \int_0^t \frac{1}{2} e^{-x/2} dx = [-e^{-x/2}]_0^t = 1 - e^{-t/2}$，對於 $t > 0$。

隨機變數 $V$ 的定義如下：
$V = \begin{cases} 5 & \text{if } T < 3 \\ 2T & \text{if } T \ge 3 \end{cases}$

我們需要計算 $V$ 的 CDF，記為 $F_V(v) = P(V \le v)$。我們需要分情況討論 $v$ 的值。

情況 1: $v < 5$
如果 $v < 5$，那麼 $V \le v$ 意味著 $V$ 必須是 $5$ 的情況，但 $V \le v < 5$，這是不可能的。
另外，如果 $V = 2T$，那麼 $2T \le v$ 意味著 $T \le v/2$。
然而，$V$ 的最小值是當 $T=3$ 時，$V=2T=6$（因為 $T \ge 3$），或是當 $T$ 趨近於 0 時，$V=5$。
我們仔細檢查 $V$ 的可能取值範圍。
當 $T < 3$ 時，$V = 5$。
當 $T \ge 3$ 時，$V = 2T \ge 6$。
所以，$V$ 的所有可能取值為 $\{5\} \cup [6, \infty)$。

因此，
若 $v < 5$，則 $P(V \le v) = 0$。

情況 2: $5 \le v < 6$
如果 $5 \le v < 6$，那麼 $V \le v$ 意味著 $V$ 必須是 $5$ 的情況，因為 $V=2T$ 的最小值是 $6$。
所以，$V \le v$ 僅發生在 $V=5$ 時。
$V=5$ 發生在 $T < 3$ 時。
因此，

本題要求找出參數 $\psi = \alpha\beta$ 的最大概似估計量 (Maximum Likelihood Estimator, MLE)。

首先，我們需要寫出樣本的概似函數 (Likelihood Function)。
給定 $n$ 個 i.i.d. 的樣本 $X_1, \ldots, X_n$，其聯合機率密度函數為：
$L(\alpha, \beta | x_1, \ldots, x_n) = \prod_{i=1}^n f(x_i; \alpha, \beta) = \prod_{i=1}^n \frac{x_i^{\alpha-1} e^{-x_i/\beta}}{\Gamma(\alpha)\beta^\alpha}$
$L(\alpha, \beta) = \left(\frac{1}{\Gamma(\alpha)\beta^\alpha}\right)^n \prod_{i=1}^n x_i^{\alpha-1} e^{-x_i/\beta}$
$L(\alpha, \beta) = \frac{\left(\prod_{i=1}^n x_i\right)^{\alpha-1} e^{-\frac{1}{\beta}\sum_{i=1}^n x_i}}{(\Gamma(\alpha))^n \beta^{n\alpha}}$

接下來，我們取對數概似函數 (Log-Likelihood Function)，這通常更容易處理：
$\ell(\alpha, \beta) = \log L(\alpha, \beta) = n(\alpha-1)\log(\prod x_i) - \frac{1}{\beta}\sum x_i - n\log\Gamma(\alpha) - n\alpha\log\beta$
$\ell(\alpha, \beta) = (\alpha-1)\sum_{i=1}^n \log x_i - \frac{1}{\beta}\sum_{i=1}^n x_i - n\log\Gamma(\alpha) - n\alpha\log\beta$

現在，我們對 $\alpha$ 和 $\beta$ 分別求偏導數，並令其為零，以找到 MLE。
對 $\beta$ 求偏導數：
$\frac{\partial \ell}{\partial \beta} = \frac{1}{\beta^2}\sum_{i=1}^n x_i - \frac{n\alpha}{\beta}$
令 $\frac{\partial \ell}{\partial \beta} = 0$:
$\frac{1}{\beta^2}\sum x_i = \frac{n\alpha}{\beta}$
$\frac{1}{\beta}\sum x_i = n\alpha$
$\beta = \frac{\sum x_i}{n\alpha}$
$\hat{\beta}_{MLE} = \frac{\bar{X}}{\hat{\alpha}_{MLE}}$

對 $\alpha$ 求偏導數：
$\frac{\partial \ell}{\partial \alpha} = \sum_{i=1}^n \log x_i - n \frac{\Gamma'(\alpha)}{\Gamma(\alpha)} - n\log\beta$
$\frac{\partial \ell}{\partial \alpha} = \sum_{i=1}^n \log x_i - n \psi(\alpha) - n\log\beta$
其中 $\psi(\alpha) = \frac{\Gamma'(\alpha)}{\Gamma(\alpha)}$ 是 Digamma function。
令 $\frac{\partial \ell}{\partial \alpha} = 0$:
$\sum_{i=1}^n \log x_i - n \psi(\alpha) - n\log\beta = 0$
$\frac{1}{n}\sum_{i=1}^n \log x_i - \psi(\alpha) - \log\beta = 0$
$\log\beta = \overline{\log X} - \psi(\alpha)$

我們有兩個方程式：

1. $\hat{\beta} = \frac{\bar{X}}{\hat{\alpha}}$
2. $\log \hat{\beta} = \overline{\log X} - \psi(\hat{\alpha})$

將 (1) 代入 (2):
$\log\left(\frac{\bar{X}}{\hat{\alpha}}\right) = \overline{\log X} - \psi(\hat{\alpha})$

本題要求找出樣本數 $n$ 的最小值，使得估計量 $\hat{\psi}$ 的變異數小於一個常數 $c$。

根據上一題的結果，我們知道 $\hat{\psi} = \bar{X} = \frac{1}{n}\sum_{i=1}^n X_i$ 是 $\psi = \alpha\beta$ 的一個估計量。
我們需要計算 $\text{Var}(\hat{\psi}) = \text{Var}(\bar{X})$。

Gamma 分配 $X \sim \text{Gamma}(\alpha, \beta)$ 的期望值是 $E[X] = \alpha\beta$。
Gamma 分配的變異數是 $\text{Var}(X) = \alpha\beta^2$。

對於樣本平均數 $\bar{X}$，其變異數為：
$\text{Var}(\bar{X}) = \text{Var}\left(\frac{1}{n}\sum_{i=1}^n X_i\right)$
由於 $X_i$ 是獨立同分佈的，
$\text{Var}(\bar{X}) = \frac{1}{n^2} \sum_{i=1}^n \text{Var}(X_i) = \frac{1}{n^2} \cdot n \cdot \text{Var}(X) = \frac{\text{Var}(X)}{n}$
$\text{Var}(\bar{X}) = \frac{\alpha\beta^2}{n}$

題目要求找到最小的 $n$ 使得 $\text{Var}(\hat{\psi}) < c$。
所以，我們需要 $\frac{\alpha\beta^2}{n} < c$。

解出 $n$：
$\alpha\beta^2 < nc$
$n > \frac{\alpha\beta^2}{c}$

本題包含兩個部分：證明 $Y = \sum_{i=1}^n X_i$ 的分佈是 Poisson $(n\lambda)$，以及證明 $Y$ 是 $\lambda$ 的充分統計量。

第一部分：證明 $Y \sim \text{Poisson}(n\lambda)$

我們有 $n$ 個獨立的隨機變數 $X_1, X_2, \ldots, X_n$，每個都服從 Poisson($\lambda$) 分佈。
$X_i \sim \text{Poisson}(\lambda)$，其機率質量函數 (PMF) 為 $P(X_i = k) = \frac{\lambda^k e^{-\lambda}}{k!}$，對於 $k = 0, 1, 2, \ldots$。

我們考慮 $Y = X_1 + X_2 + \ldots + X_n$。
已知 Poisson 分佈的一個重要性質是，獨立的 Poisson 分佈隨機變數之和仍然服從 Poisson 分佈，其參數為各參數之和。
因此，
$Y = X_1 + X_2 + \ldots + X_n \sim \text{Poisson}(\lambda + \lambda + \ldots + \lambda)$ (共 $n$ 個 $\lambda$)
$Y \sim \text{Poisson}(n\lambda)$

我們也可以使用機率生成函數 (Probability Generating Function, PGF) 來證明。
Poisson($\lambda$) 的 PGF 是 $G_X(z) = E[z^X] = \sum_{k=0}^\infty z^k \frac{\lambda^k e^{-\lambda}}{k!} = e^{-\lambda} \sum_{k=0}^\infty \frac{(\lambda z)^k}{k!} = e^{-\lambda} e^{\lambda z} = e^{\lambda(z-1)}$。

對於 $Y = \sum_{i=1}^n X_i$，由於 $X_i$ 獨立，其 PGF 為：
$G_Y(z) = E[z^Y] = E\left[z^{\sum_{i=1}^n X_i}\right] = E\left[\prod_{i=1}^n z^{X_i}\right]$
由於 $X_i$ 獨立，
$G_Y(z) = \prod_{i=1}^n E[z^{X_i}] = \prod_{i=1}^n G_{X_i}(z)$
由於每個 $X_i$ 都是 Poisson($\lambda$)，所以 $G_{X_i}(z) = e^{\lambda(z-1)}$。
$G_Y(z) = \prod_{i=1}^n e^{\lambda(z-1)} = (e^{\lambda(z-1)})^n = e^{n\lambda(z-1)}$。
這正是 Poisson($n\lambda$) 分佈的 PGF。
因此，$Y \sim \text{Poisson}(n\lambda)$。

核心觀念

令

$$Y=\sum_{i=1}^n X_i.$$

由 Poisson 分布的可加性，

$$Y\sim \operatorname{Poisson}(n\lambda).$$

題目給定關係：當觀察值為 $Y=y_0>0$ 時，

$$\Pr_{\lambda}(Y\le y_0) = \Pr(Z>2n\lambda), \qquad Z\sim\chi^2_{2y_0}.$$

因此，可利用 Poisson 累積分布函數與卡方分布上尾機率的關係，反解出 $\lambda$ 的信賴區間。

題目中的 $\chi^2_{p;q}$ 定義為上尾機率為 $q$ 的分位數，即

$$\Pr\left(\chi^2_p>\chi^2_{p;q}\right)=q.$$

---

解題方法：反演尾端機率

欲構造 $100(1-\alpha)\%$ 的雙尾信賴區間，應令兩端尾機率各為 $\alpha/2$：

$$\frac{\alpha}{2} < \Pr_{\lambda}(Y\le y_0) < 1-\frac{\alpha}{2}.$$

代入題目給定的卡方表示式：

$$\frac{\alpha}{2} < \Pr(Z>2n\lambda) < 1-\frac{\alpha}{2}.$$

由上尾分位數的定義，

$$\Pr\left(Z>\chi^2_{2y_0;\alpha/2}\right)=\frac{\alpha}{2},$$

以及

$$\Pr\left(Z>\chi^2_{2y_0;1-\alpha/2}\right) = 1-\frac{\alpha}{2}.$$

因為 $z\mapsto\Pr(Z>z)$ 是遞減函數，所以

$$\chi^2_{2y_0;1-\alpha/2} < 2n\lambda < \chi^2_{2y_0;\alpha/2}.$$

兩邊同除以 $2n$，得到

$$\boxed{ \lambda\in \left( \frac{\chi^2_{2y_0;1-\alpha/2}}{2n}, \frac{\chi^2_{2y_0;\alpha/2}}{2n} \right) }.$$

這就是依照題目所給機率關係反演出的雙尾信賴區間。

---

題目所列公式的校正

題目要求的公式為

核心觀念

本題考查「充分統計量」與「極小充分統計量」：

• 由 Neyman–Fisher 因子分解定理判斷充分性。
• 由似然比判準判斷極小充分性。
• 截斷分布的樣本支持集為 $w_i>a$，因此參數 $a$ 會透過樣本中最小觀察值影響似然函數。

令樣本最小值為

$$W_{(1)}=\min\{W_1,W_2,\ldots,W_n\}.$$

---

解題方法：寫出聯合概似函數

由於 $W_1,\ldots,W_n$ i.i.d.，聯合機率密度為

$$L(\mu,\sigma,a;\boldsymbol w) = \prod_{i=1}^n \frac{1}{\sigma\left[1-\Phi\left(\frac{a-\mu}{\sigma}\right)\right]} \phi\left(\frac{w_i-\mu}{\sigma}\right) I(w_i>a).$$

整理得

$$L(\mu,\sigma,a;\boldsymbol w) = \frac{1}{\sigma^n \left[1-\Phi\left(\frac{a-\mu}{\sigma}\right)\right]^n} \prod_{i=1}^n \phi\left(\frac{w_i-\mu}{\sigma}\right) I(w_i>a).$$

由

$$\prod_{i=1}^n I(w_i>a) = I\left(a<\min_i w_i\right) = I\left(a<w_{(1)}\right),$$

可得

$$L(\mu,\sigma,a;\boldsymbol w) = \underbrace{ \prod_{i=1}^n \phi\left(\frac{w_i-\mu}{\sigma}\right) }_{\text{資料與 }a\text{ 無關}} \cdot \underbrace{ \frac{I(a<w_{(1)})} {\sigma^n \left[1-\Phi\left(\frac{a-\mu}{\sigma}\right)\right]^n} }_{\text{透過 }w_{(1)}\text{ 依賴資料}}.$$

因此，關於參數 $a$ 的資料依賴性只透過 $W_{(1)}$ 表現，依因子分解定理，

$$T(\boldsymbol W)=W_{(1)}=\min\{W_1,\ldots,W_n\}$$

是 $a$ 的充分統計量。

---

極小充分性的證明

核心觀念

本題考查「截斷分布的支持集（support）」與假設檢定拒絕域的建立。

由題目可知，在參數為 $(\mu,\sigma,a)$ 的截斷常態分布下，每個樣本必須滿足

$$W_i>a,\qquad i=1,\ldots,n.$$

虛無假設為

$$H_0:a>0.$$

因此在 $H_0$ 成立時，所有樣本必須嚴格大於 $0$。只要觀察到某個樣本小於或等於 $0$，即可直接否定 $H_0$。

---

解題方法

令樣本最小值為

$$W_{(1)}=\min\{W_1,\ldots,W_n\}.$$

在 $H_0:a>0$ 成立時，由於每個 $W_i>a$，且 $a>0$，必有

$$W_i>0,\qquad i=1,\ldots,n.$$

所以

$$W_{(1)}>0.$$

因此，合理的拒絕域為

$$R=\left\{W_{(1)}\le 0\right\}.$$

驗證其顯著水準：

$$P_{\mu,\sigma,a}\left(W_{(1)}\le 0\right) \le P_{\mu,\sigma,a}\left(W_i\le 0\right) =0, \qquad a>0.$$

原因是當 $a>0$ 時，截斷常態分布的所有機率質量都位於 $(a,\infty)\subset(0,\infty)$。故

$$\sup_{\mu\in\mathbb R,\ \sigma>0,\ a>0} P_{\mu,\sigma,a}(R)=0\le\alpha.$$

核心觀念

本題考查兩個重點：

1. 下截斷常態分布的期望值
2. 條件期望的塔式法則
   $\mathbb{E}(U)=\mathbb{E}\left[\mathbb{E}(U\mid W)\right]$

令

$$\alpha=\frac{a-\mu}{\sigma},$$

並定義逆米爾斯比率（inverse Mills ratio）為

$$\lambda(\alpha)=\frac{\phi(\alpha)}{1-\Phi(\alpha)}.$$

---

解題方法：計算 $\mathbb{E}(W)$

由題目給定的機率密度函數，

$$f_W(w)= \frac{1}{\sigma[1-\Phi(\alpha)]} \phi\left(\frac{w-\mu}{\sigma}\right), \qquad w>a.$$

因此

$$\mathbb{E}(W) = \int_a^\infty w f_W(w)\,dw.$$

令

$$z=\frac{w-\mu}{\sigma}, \qquad w=\mu+\sigma z, \qquad dw=\sigma\,dz.$$

當 $w=a$ 時，$z=\alpha$，所以

$$\mathbb{E}(W) = \frac{1}{1-\Phi(\alpha)} \int_\alpha^\infty (\mu+\sigma z)\phi(z)\,dz.$$

拆開積分：

$$\mathbb{E}(W) = \frac{\mu}{1-\Phi(\alpha)} \int_\alpha^\infty \phi(z)\,dz + \frac{\sigma}{1-\Phi(\alpha)} \int_\alpha^\infty z\phi(z)\,dz.$$

利用

$$\int_\alpha^\infty \phi(z)\,dz=1-\Phi(\alpha)$$

以及

$$\int_\alpha^\infty z\phi(z)\,dz=\phi(\alpha),$$

可得

$$\mathbb{E}(W) = \mu+\sigma \frac{\phi(\alpha)}{1-\Phi(\alpha)}.$$

代回 $\alpha=(a-\mu)/\sigma$：