111 年 國立中央大學統計研究所碩士班一般生《數理統計》

本題主要在於理解對數常態分佈 (Log-normal distribution) 的性質，以及進行變數轉換。

核心觀念：對數常態分佈與變數轉換。

(a) 題目告知 $\log Y \sim N(\mu, \sigma^2)$，其中 $Y$ 是正隨機變數。這表示 $Y$ 服從對數常態分佈。
我們令 $X = \log Y$。根據題目， $X \sim N(\mu, \sigma^2)$。
我們要求 $1/Y$ 的分佈。令 $Z = 1/Y = Y^{-1}$。
對 $Z$ 取對數，我們得到 $\log Z = \log(Y^{-1}) = -\log Y = -X$。
由於 $X \sim N(\mu, \sigma^2)$，則 $-X$ 的期望值為 $E[-X] = -E[X] = -\mu$，變異數為 $Var(-X) = (-1)^2 Var(X) = \sigma^2$。
因此， $\log Z \sim N(-\mu, \sigma^2)$。
這表示 $Z = 1/Y$ 服從對數常態分佈，其對數的平均值為 $-\mu$，變異數為 $\sigma^2$。

本題要求計算一個參數的 MLE 的漸近分佈，該參數是基於指數分佈的機率函數。

核心觀念：指數分佈、最大概似估計量 (MLE)、變數轉換、Delta 方法、漸近常態性。

首先，我們需要知道指數分佈的機率密度函數 (PDF) 和累積分佈函數 (CDF)。
若 $X$ 為指數分佈，其平均值為 $\lambda$ 且 $\lambda > 0$，則其 PDF 為 $f(x; \lambda) = \frac{1}{\lambda} e^{-x/\lambda}$，對於 $x > 0$。
其 CDF 為 $F(x; \lambda) = P(X \le x) = 1 - e^{-x/\lambda}$，對於 $x > 0$。

題目定義的參數是 $\theta = \text{Pr}(X_1 > 1)$。
我們可以將其表示為 $1 - P(X_1 \le 1) = 1 - F(1; \lambda) = 1 - (1 - e^{-1/\lambda}) = e^{-1/\lambda}$。
所以， $\theta = e^{-1/\lambda}$。

我們有一個來自此指數分佈的隨機樣本 $X_1, \dots, X_n$。
最大概似估計量 (MLE) 的目標是估計 $\lambda$。
樣本的概似函數為：
$L(\lambda) = \prod_{i=1}^n f(X_i; \lambda) = \prod_{i=1}^n \frac{1}{\lambda} e^{-X_i/\lambda} = \frac{1}{\lambda^n} e^{-\sum_{i=1}^n X_i / \lambda}$。
對數概似函數為：
$\ell(\lambda) = \log L(\lambda) = -n \log \lambda - \frac{1}{\lambda} \sum_{i=1}^n X_i$。

為了找到 $\lambda$ 的 MLE，我們對 $\ell(\lambda)$ 對 $\lambda$ 微分並令其為零：
$\frac{\partial \ell(\lambda)}{\partial \lambda} = -\frac{n}{\lambda} + \frac{1}{\lambda^2} \sum_{i=1}^n X_i = 0$
$\frac{n}{\lambda} = \frac{\sum_{i=1}^n X_i}{\lambda^2}$
$n \lambda = \sum_{i=1}^n X_i$
$\hat{\lambda}_{MLE} = \frac{1}{n} \sum_{i=1}^n X_i = \bar{X}$。
因此， $\lambda$ 的 MLE 是樣本均值 $\bar{X}$。

現在我們需要找到 $\theta = e^{-1/\lambda}$ 的 MLE。
根據不變性原理 (Invariance Principle)，$\theta$ 的 MLE 是將 $\lambda$ 的 MLE 代入 $\theta$ 的函數中：
$\hat{\theta}_{MLE} = e^{-1/\hat{\lambda}_{MLE}} = e^{-1/\bar{X}}$。

核心觀念

本題考查：

• 似然函數與最大概似估計量。
• 參數可識別性（identifiability）。
• 常態樣本中樣本平均的分布。
• 不偏估計量與最小變異數不偏估計量（UMVU）。
• Lehmann–Scheffé 定理。

令

$$\theta=\mu-\nu.$$

由於 $\mu>\nu$，所以 $\theta>0$。題目中的樣本來自

$$X_i\sim N(\theta,1).$$

---

(a) $\mu$ 與 $\nu$ 的最大概似估計

解題方法

樣本的概似函數為

$$L(\mu,\nu) =(2\pi)^{-n/2} \exp\left\{-\frac12\sum_{i=1}^n \left[x_i-(\mu-\nu)\right]^2\right\}.$$

其對數概似函數為

$$\ell(\mu,\nu) =-\frac n2\log(2\pi) -\frac12\sum_{i=1}^n \left[x_i-(\mu-\nu)\right]^2.$$

可以看出，概似函數只依賴 $\mu-\nu$，並不能分別辨識 $\mu$ 與 $\nu$。

以 $\theta=\mu-\nu$ 表示，則

$$\ell(\theta) =-\frac12\sum_{i=1}^n(x_i-\theta)^2+C.$$

平方和在

$$\hat\theta=\bar X$$

時最小，因此若只估計 $\theta$，其概似估計為 $\bar X$。

但參數空間要求 $\theta>0$，因此分情況討論：

1. 若 $\bar X>0$，則最大概似估計滿足

   $$\hat\mu-\hat\nu=\bar X.$$

   所有符合此條件的參數組合都有相同的最大概似值，例如對任意 $c\in\mathbb R$，

   $$\hat\mu=\bar X+c,\qquad \hat\nu=c$$

   都是最大概似解。因此 $\mu$ 與 $\nu$ 沒有唯一的 MLE。

2. 若 $\bar X\le 0$，由於參數必須滿足 $\theta>0$，概似函數會在 $\theta\downarrow0$ 時逼近其上確界，但 $\theta=0$ 不屬於參數空間。因此此時不存在最大概似估計。

結論

$\mu$ 與 $\nu$ 的個別數值無法由資料唯一決定，原因是概似函數只依賴差值 $\mu-\nu$。因此：

• 當 $\bar X>0$ 時，MLE 不唯一，只能確定

  $$\hat\mu-\hat\nu=\bar X.$$

• 當 $\bar X\le0$ 時，不存在 MLE。

---

(b) $\mu^2-\nu^2$ 的最佳不偏估計量

第一步：利用已知關係化簡參數

已知

$$\mu=-3\nu.$$

又因為 $\mu>\nu$，所以

$$-3\nu>\nu \quad\Longrightarrow\quad \nu<0.$$

樣本平均的期望為

$$E(\bar X)=\mu-\nu.$$

代入 $\mu=-3\nu$：

$$\theta=\mu-\nu=-3\nu-\nu=-4\nu.$$

因此

$$\nu=-\frac{\theta}{4}, \qquad \mu=\frac{3\theta}{4}.$$

目標參數為

核心觀念

此題考查：

• 最大次序統計量 $Y_{(5)}=\max(Y_1,\dots,Y_5)$ 的分布。
• 利用樞紐量（pivotal quantity）建立信賴區間。
• 等尾信賴區間的定義。

由題目給定

$$f(y)=\frac{\beta}{\theta^\beta}y^{\beta-1},\qquad 0\le y\le \theta,$$

其中 $\beta$ 已知、$\theta$ 未知。

先求單一樣本的累積分布函數：

$$F_Y(y)=\int_0^y \frac{\beta}{\theta^\beta}t^{\beta-1}\,dt =\frac{y^\beta}{\theta^\beta} =\left(\frac{y}{\theta}\right)^\beta, \qquad 0\le y\le \theta.$$

---

解題方法：利用樣本最大值

令

$$Y_{(5)}=\max(Y_1,Y_2,\dots,Y_5).$$

由獨立同分布性質，

$$P(Y_{(5)}\le y) =P(Y_1\le y,\dots,Y_5\le y) =[F_Y(y)]^5.$$

因此

$$F_{Y_{(5)}}(y) =\left(\frac{y}{\theta}\right)^{5\beta}, \qquad 0\le y\le \theta.$$

考慮樞紐量

$$T=\frac{Y_{(5)}}{\theta}.$$

則 $0\le T\le 1$，且其累積分布函數為

$$F_T(t)=P\left(\frac{Y_{(5)}}{\theta}\le t\right)=t^{5\beta}, \qquad 0\le t\le 1.$$

---

建立等尾機率

令 $a$ 與 $b$ 滿足

$$P(a\le T\le b)=1-\alpha,$$

且左右兩尾各為 $\alpha/2$：

$$P(T<a)=\frac{\alpha}{2}, \qquad P(T>b)=\frac{\alpha}{2}.$$

由 $F_T(t)=t^{5\beta}$，

$$a^{5\beta}=\frac{\alpha}{2} \quad\Longrightarrow\quad a=\left(\frac{\alpha}{2}\right)^{1/(5\beta)},$$

以及

本題要求計算樣本大小，以確保估計的機率具有足夠的精度和信心水平。這是一個典型的樣本大小計算問題，通常使用中央極限定理來近似。

核心觀念：二項分佈、比例的估計、中央極限定理、信賴區間、樣本大小計算。

假設實驗者對 N 個人進行實驗，每個人對刺激的反應是 A 或 B。
令 $p$ 為一個人對反應 A 的機率。我們假設這些反應是獨立的。
我們感興趣的是估計 $p$。
假設在樣本中，有 $X$ 個人反應為 A。則樣本比例為 $\hat{p} = X/N$。
我們知道 $X$ 服從二項分佈 $B(N, p)$。
當 $N$ 足夠大時，根據中央極限定理， $X$ 可以被常態分佈近似。
樣本比例 $\hat{p}$ 的平均值是 $E[\hat{p}] = p$。
樣本比例 $\hat{p}$ 的變異數是 $Var(\hat{p}) = \frac{p(1-p)}{N}$。
因此，當 $N$ 夠大時， $\hat{p}$ 的分佈近似為 $N(p, \frac{p(1-p)}{N})$。

實驗者希望估計的誤差小於 0.04，機率為 0.95。
這意味著我們希望信賴區間的寬度的一半（即邊際誤差 Margin of Error, MOE）小於 0.04。
MOE $= z_{\alpha/2} \sqrt{\frac{p(1-p)}{N}}$。
我們需要 MOE $\le 0.04$。

題目給了兩個常態分佈的積分值：

1. $\frac{1}{\sqrt{2\pi}} \int_{-1.645}^{1.645} e^{-t^2/2} dt = 0.95$。 這表示 $z_{0.025} = 1.645$。
2. $\frac{1}{\sqrt{2\pi}} \int_{-\infty}^{-1.96} e^{-t^2/2} dt = 0.025$。 這表示 $P(Z \le -1.96) = 0.025$，所以 $z_{0.025} = 1.96$。

這裡出現了一個小小的矛盾。通常，95% 的信賴區間使用 $z_{0.025} = 1.96$。
然而，題目提供的第一個資訊是指 $P(-1.645 \le Z \le 1.645) = 0.95$，這暗示 $z_{0.025} = 1.645$。
第二個資訊是指 $P(Z \le -1.96) = 0.025$，這意味著 $P(Z \ge 1.96) = 0.025$，所以 $z_{0.025} = 1.96$。

在處理此類問題時，通常使用較為保守（較大）的 $z$ 值，以確保達到所需的信心水平。
因此，我們應該使用 $z_{\alpha/2} = 1.96$。
如果題目明確要求使用 $1.645$，則應使用 $1.645$。
假設我們使用 $z_{0.025} = 1.96$。

我們需要 MOE $\le 0.04$。
$1.96 \sqrt{\frac{p(1-p)}{N}} \le 0.04$。

為了計算樣本大小 $N$，我們需要知道 $p$ 的值。
然而， $p$ 是未知的。
在這種情況下，我們需要最大化 $p(1-p)$ 來得到最保守的樣本大小（即所需樣本數最多）。
函數 $f(p) = p(1-p)$ 在 $p=0.5$ 時達到最大值，最大值為 $0.5(1-0.5) = 0.25$。
所以，我們取 $p(1-p) \le 0.25$。

現在，不等式變為：
$1.96 \sqrt{\frac{0.25}{N}} \le 0.04$
$1.96 \frac{0.5}{\sqrt{N}} \le 0.04$
$\frac{0.98}{\sqrt{N}} \le 0.04$
$\sqrt{N} \ge \frac{0.98}{0.04} = \frac{98}{4} = 24.5$
$N \ge (24.5)^2$
$N \ge 600.25$

由於 $N$ 必須是整數，我們需要向上取整。
$N \ge 601$。

如果我們使用題目提供的 $z_{0.025} = 1.645$：
$1.645 \sqrt{\frac{0.25}{N}} \le 0.04$
$1.645 \frac{0.5}{\sqrt{N}} \le 0.04$
$\frac{0.8225}{\sqrt{N}} \le 0.04$
$\sqrt{N} \ge \frac{0.8225}{0.04} = \frac{82.25}{4} = 20.5625$
$N \ge (20.5625)^2$
$N \ge 422.81640625$
向上取整， $N \ge 423$。

題目給出了兩個不同的 $z$ 值，這可能會讓考生感到困惑。
通常，95% 的信賴區間對應 $z_{0.025}=1.96$。

核心觀念

本題考查：

• 檢定的大小（size）：
  $\alpha=P_{\theta=0}(\text{拒絕 }H_0)$
• 型二錯誤機率（Type II error probability）：
  $\beta=P_{\theta=-0.5}(\text{不拒絕 }H_0)$
• 均勻分布隨機變數和的分布。

由題意，在參數為 $\theta$ 時，

$Y_i\sim \operatorname{Uniform}(\theta,\theta+1).$

---

解題方法

（a）求 Test 2 的臨界值 $c$

Step 1：求 Test 1 的大小

在虛無假設 $H_0:\theta=0$ 下，

$Y_1\sim \operatorname{Uniform}(0,1).$

Test 1 的拒絕域為 $Y_1<0.02$，因此其大小為

$$\alpha=P_{\theta=0}(Y_1<0.02) =\int_0^{0.02}1\,dy =0.02.$$

所以 Test 2 必須滿足

$P_{\theta=0}(Y_1+Y_2<c)=0.02.$

Step 2：求 $Y_1+Y_2$ 的分布函數

在 $H_0$ 下，$Y_1,Y_2$ 為獨立的 $\operatorname{Uniform}(0,1)$ 隨機變數。令

$S=Y_1+Y_2.$

當 $0<c<1$ 時，

$$P(S<c)=P(Y_1+Y_2<c).$$

在單位正方形 $(0,1)^2$ 中，事件 $Y_1+Y_2<c$ 對應到直線 $y_1+y_2=c$ 左下方的三角形，其面積為

$$\frac{1}{2}c^2.$$

因此

$$P(S<c)=\frac{c^2}{2},\qquad 0<c<1.$$

令其等於 Test 1 的大小：

$$\frac{c^2}{2}=0.02.$$

所以

$$c^2=0.04, \qquad c=0.2.$$

由於臨界值必須位於 $0<c<1$，故取正根：

$$\boxed{c=0.2}.$$

---

（b）求 Test 2 的型二錯誤機率

核心觀念

這題考查最大概似估計法（Maximum Likelihood Estimation, MLE）。

給定觀察值 $(X_1,X_2)=(x_1,x_2)$，概似函數定義為

$$L(\theta;x_1,x_2) =P_\theta(X_1=x_1,X_2=x_2).$$

因為 $X_1$ 與 $X_2$ 獨立且同分布，所以

$$L(\theta;x_1,x_2) =f(x_1\mid\theta)f(x_2\mid\theta).$$

最大概似估計量為使概似函數最大的參數：

$$\hat{\theta}_{\mathrm{MLE}} =\arg\max_{\theta\in\{1,2,3\}}L(\theta;x_1,x_2).$$

---

解題方法

觀察到 $X_1,X_2$ 後，分別計算三個候選參數的概似值，再比較大小即可。

由題目給定的機率：

$$\begin{array}{c|ccc} & x=1 & x=2 & x=3\\ \hline \theta=1 & 0.5 & 0.2 & 0.3\\ \theta=2 & 0.3 & 0.4 & 0.3\\ \theta=3 & 0.4 & 0.1 & 0.5 \end{array}$$

由於概似函數中的乘法具有交換性，$(x_1,x_2)$ 與 $(x_2,x_1)$ 的結果相同，因此只需列出無順序的觀察結果。

觀察結果為 $(1,1)$

$$L(1)=0.5\times0.5=0.25,$$ $$L(2)=0.3\times0.3=0.09,$$ $$L(3)=0.4\times0.4=0.16.$$

最大值為 $0.25$，因此

$$\hat{\theta}=1.$$

觀察結果為 $(1,2)$ 或 $(2,1)$

$$L(1)=0.5\times0.2=0.10,$$ $$L(2)=0.3\times0.4=0.12,$$ $$L(3)=0.4\times0.1=0.04.$$

最大值為 $0.12$，因此

$$\hat{\theta}=2.$$

觀察結果為 $(1,3)$ 或 $(3,1)$

$$L(1)=0.5\times0.3=0.15,$$ $$L(2)=0.3\times0.3=0.09,$$ $$L(3)=0.4\times0.5=0.20.$$

最大值為 $0.20$，因此

$$\hat{\theta}=3.$$

觀察結果為 $(2,2)$

$$L(1)=0.2\times0.2=0.04,$$ $$L(2)=0.4\times0.4=0.16,$$

核心觀念

若 $Y_1,\dots,Y_5$ 為來自平均數為 $\lambda$ 的 Poisson 分布之隨機樣本，則

$$Y_i\sim \operatorname{Poisson}(\lambda).$$

Poisson 隨機變數的和仍為 Poisson 分布，因此令

$$X=\sum_{i=1}^5Y_i,$$

則

$$X\sim \operatorname{Poisson}(5\lambda).$$

此外，若 $X\sim\operatorname{Poisson}(\theta)$，則有精確分布關係

$$2X\sim\chi^2_{2X},$$

更精確地說，利用 Poisson 分布與卡方分布的尾端機率關係，可將 $\theta$ 的精確信賴區間寫成

$$\left[ \frac{1}{2}\chi^2_{2x,\;0.025}, \frac{1}{2}\chi^2_{2(x+1),\;0.975} \right],$$

其中 $x$ 為觀察到的總和。

由於 $\theta=5\lambda$，最後再除以 $5$ 即可得到 $\lambda$ 的信賴區間。

---

解題方法

由題目給定的觀察值

$$(y_1,y_2,y_3,y_4,y_5)=(1,0,1,2,1),$$

其總和為

$$x=\sum_{i=1}^5y_i =1+0+1+2+1=5.$$

因此

$$X=\sum_{i=1}^5Y_i\sim\operatorname{Poisson}(5\lambda).$$

令

$$\theta=5\lambda,$$

則 $X\sim\operatorname{Poisson}(\theta)$。

對 Poisson 參數 $\theta$，精確的雙尾 $95\%$ 信賴區間為

$$\frac{1}{2}\chi^2_{2x,\;0.025} \leq \theta\leq \frac{1}{2}\chi^2_{2(x+1),\;0.975}.$$