112 年 國立臺灣大學農藝研究所生物統計學組《統計理論》

核心觀念

本題考查 Student’s $t$ 分布的定義：

若

$$Z\sim N(0,1),\qquad V\sim \chi^2_\nu,$$

且 $Z$ 與 $V$ 相互獨立，則

$$\frac{Z}{\sqrt{V/\nu}}\sim t_\nu.$$

題目中的分子由 $X_1,X_2$ 組成，分母由 $X_3,X_4,X_5$ 組成。由於 $X_1,\ldots,X_5$ 相互獨立，因此分子與分母相互獨立。

---

解題方法

先處理分子。因為

$$X_1,X_2\overset{\text{i.i.d.}}{\sim}N(0,\sigma^2),$$

所以

$$X_1-X_2\sim N(0,\sigma^2+\sigma^2) =N(0,2\sigma^2).$$

因此可標準化為

$$Z=\frac{X_1-X_2}{\sqrt{2}\sigma}\sim N(0,1),$$

也就是

$$X_1-X_2=\sqrt{2}\sigma Z.$$

再處理分母。由於

$$\frac{X_3}{\sigma},\frac{X_4}{\sigma},\frac{X_5}{\sigma} \overset{\text{i.i.d.}}{\sim}N(0,1),$$

故三個平方和服從自由度為 $3$ 的卡方分布：

$$\frac{X_3^2+X_4^2+X_5^2}{\sigma^2}\sim\chi^2_3.$$

令

$$V=\frac{X_3^2+X_4^2+X_5^2}{\sigma^2},$$

則 $V\sim\chi^2_3$，且

$$\sqrt{X_3^2+X_4^2+X_5^2} =\sigma\sqrt V.$$

因此題目中的隨機變數可改寫為

核心觀念

本題關鍵在於判斷統計量是否為樞紐量（pivot）。

若 $X_1,\ldots,X_n\overset{\text{i.i.d.}}{\sim}N(0,\sigma^2)$，則

$$\frac{\sqrt n\,\overline X}{\sigma}\sim N(0,1), \qquad \frac{(n-1)S^2}{\sigma^2}\sim\chi^2_{n-1},$$

且 $\overline X$ 與 $S^2$ 相互獨立。

令

$$Z=\frac{\sqrt n\,\overline X}{\sigma}, \qquad V=\frac{(n-1)S^2}{\sigma^2},$$

則 $Z^2\sim\chi^2_1$、$V\sim\chi^2_{n-1}$，且兩者獨立。

---

（a）$Q$ 的機率密度函數與樞紐量判斷

由

$$\overline X^2=\frac{\sigma^2}{n}Z^2, \qquad S^2=\frac{\sigma^2}{n-1}V,$$

可得

$$Q =\frac{\overline X^2}{S^2/\sigma^2+\sigma^2} =\frac{(\sigma^2/n)Z^2}{V/(n-1)+\sigma^2}.$$

令 $\nu=n-1$，並令 $A=Z^2\sim\chi^2_1$、$B=V/\nu$，則

$$Q=\frac{\sigma^2}{n}\frac{A}{B+\sigma^2}.$$

因為 $A$ 與 $B$ 獨立，且

$$f_A(a)=\frac{1}{\sqrt{2\pi a}}e^{-a/2},\qquad a>0,$$

以及

$$f_B(b)= \frac{\nu^{\nu/2}}{2^{\nu/2}\Gamma(\nu/2)} b^{\nu/2-1}e^{-\nu b/2},\qquad b>0,$$

對固定的 $B=b$，有

$$A=\frac{nq}{\sigma^2}(b+\sigma^2).$$

因此由變數變換公式，

$$f_{Q\mid B}(q\mid b) = f_A\left(\frac{nq}{\sigma^2}(b+\sigma^2)\right) \frac{n(b+\sigma^2)}{\sigma^2}.$$

整理後得到 $Q$ 的密度函數：

$$\boxed{ f_Q(q;\sigma^2) = \frac{\sqrt n}{\sigma\sqrt{2\pi q}} \exp\left(-\frac{nq}{2}\right) \int_0^\infty (b+\sigma^2)^{1/2} f_B(b) \exp\left(-\frac{nq}{2\sigma^2}b\right)\,db }$$

其中 $q>0$；當 $q\le 0$ 時，$f_Q(q;\sigma^2)=0$。

將 $f_B(b)$ 代入，可寫成

$$\boxed{ \begin{aligned} f_Q(q;\sigma^2) ={}& \frac{\sqrt n\,(n-1)^{(n-1)/2}\sigma^{\,n-1}} {2^{(n-1)/2}\sqrt{2\pi q}} \exp\left(-\frac{nq}{2}\right)\\ &\times U\left( \frac{n-1}{2}, \frac{n+2}{2}, \frac{(n-1)\sigma^2+nq}{2} \right), \qquad q>0, \end{aligned} }$$

其中 $U(\cdot,\cdot,\cdot)$ 為 Tricomi confluent hypergeometric function。考試作答時，前一個積分形式已足以完整表示其 pdf。

判斷樞紐量的標準是：其機率分布不得含有未知參數 $\sigma^2$。

本題中

$$Q=\frac{(\sigma^2/n)Z^2}{V/(n-1)+\sigma^2},$$

其分布明確含有 $\sigma^2$。因此

$$\boxed{Q\text{ 不是樞紐量，不能直接作為樞紐量使用。}}$$

---

（b）利用 $Q$ 求信賴區間的問題

核心觀念

本題結合以下概念：

1. 均方誤差

$$\operatorname{MSE}_\theta(W_n) =\operatorname{Var}_\theta(W_n) +\left[\operatorname{Bias}_\theta(W_n)\right]^2$$

2. 獨立同分布的和

   若令

$$\mu_\theta=E_\theta[t(Y_i)],\qquad \sigma_\theta^2=V_\theta[t(Y_i)]$$

則

$$E_\theta[T]=n\mu_\theta,\qquad V_\theta[T]=n\sigma_\theta^2$$

3. Lehmann–Scheffé 定理

   $T$ 是完備充分統計量，因此任何以 $T$ 為函數的無偏估計量，都是 $\theta$ 的 UMVUE。

---

解題方法

題目給定

$T=\sum_{i=1}^n t(Y_i),\qquad W_n=cT$

先求 $W_n$ 的期望與變異數，再代入 MSE 定義。第二小題將 MSE 視為 $c$ 的二次函數微分求極小值。第三小題利用無偏條件與完備充分統計量定理判定 UMVUE。

---

(a) 求 $W_n$ 的 MSE

由獨立性，

$$E_\theta[T] =E_\theta\left[\sum_{i=1}^n t(Y_i)\right] =\sum_{i=1}^n E_\theta[t(Y_i)] =n\mu_\theta$$

且

$$V_\theta[T] =V_\theta\left[\sum_{i=1}^n t(Y_i)\right] =\sum_{i=1}^n V_\theta[t(Y_i)] =n\sigma_\theta^2$$

因此

$$E_\theta[W_n] =E_\theta[cT] =cn\mu_\theta$$

所以 $W_n$ 的偏差為

$$\operatorname{Bias}_\theta(W_n) =E_\theta[W_n]-\theta =cn\mu_\theta-\theta$$

其變異數為

$$V_\theta(W_n) =V_\theta(cT) =c^2V_\theta(T) =nc^2\sigma_\theta^2$$

代入均方誤差公式：

$$\operatorname{MSE}_\theta(W_n) =nc^2\sigma_\theta^2 +\left(cn\mu_\theta-\theta\right)^2$$

因此

$$\boxed{ \operatorname{MSE}_\theta(W_n) =nc^2V_\theta[t(Y_i)] +\left\{cnE_\theta[t(Y_i)]-\theta\right\}^2 }$$

展開後亦可寫成

$$\operatorname{MSE}_\theta(W_n) =n\left(\sigma_\theta^2+n\mu_\theta^2\right)c^2 -2n\theta\mu_\theta c+\theta^2$$

---

(b) 求使 MSE 最小的 $c$

將 MSE 視為 $c$ 的函數：

$$M(c) =n\left(\sigma_\theta^2+n\mu_\theta^2\right)c^2 -2n\theta\mu_\theta c+\theta^2$$

對 $c$ 微分：

$$\frac{dM(c)}{dc} =2n\left(\sigma_\theta^2+n\mu_\theta^2\right)c -2n\theta\mu_\theta$$

令一階導數等於零：

$$2n\left(\sigma_\theta^2+n\mu_\theta^2\right)c -2n\theta\mu_\theta=0$$

得到

本題考驗學生對離散隨機變數 PMF 的理解，最大概似估計 (MLE)、動差法估計 (MME) 的計算，以及中央極限定理 (CLT) 在估計量漸近分配中的應用。

核心概念：

1. 離散機率質量函數 (PMF)。
2. 最大概似估計 (MLE)。
3. 動差法估計 (MME)：令樣本動差等於理論動差。
4. 中央極限定理 (CLT)：獨立同分布的隨機變數之和（或平均）的極限定律。
5. 估計量的漸近分配。

解題步驟：

首先，我們需要理解 PMF 的形式。
$f(x|\theta) = \frac{2x}{\theta(\theta+1)}$，對於 $x = 1, 2, \ldots, \theta$。
這個 PMF 要求 $\sum_{x=1}^{\theta} f(x|\theta) = 1$。
$\sum_{x=1}^{\theta} \frac{2x}{\theta(\theta+1)} = \frac{2}{\theta(\theta+1)} \sum_{x=1}^{\theta} x = \frac{2}{\theta(\theta+1)} \cdot \frac{\theta(\theta+1)}{2} = 1$。
這表示 PMF 是有效的。

(a) 求 $\theta$ 的最大概似估計量 (MLE)。
給定樣本 $X_1, X_2, \ldots, X_n$，樣本的概似函數為：
$L(\theta) = \prod_{i=1}^n f(X_i|\theta) = \prod_{i=1}^n \frac{2X_i}{\theta(\theta+1)} = \left(\frac{2}{\theta(\theta+1)}\right)^n \prod_{i=1}^n X_i$。
我們需要最大化 $L(\theta)$ 對於 $\theta$。通常，最大化對數概似函數 $\ln L(\theta)$ 更為方便。
$\ln L(\theta) = n \ln\left(\frac{2}{\theta(\theta+1)}\right) + \sum_{i=1}^n \ln X_i$。
$\ln L(\theta) = n \ln 2 - n \ln(\theta(\theta+1)) + \sum_{i=1}^n \ln X_i$。
$\ln L(\theta) = n \ln 2 - n (\ln\theta + \ln(\theta+1)) + \sum_{i=1}^n \ln X_i$。

為了找到最大值，我們對 $\theta$ 求導並令其為零。
$\frac{d}{d\theta} \ln L(\theta) = -n \left(\frac{1}{\theta} + \frac{1}{\theta+1}\right) = -n \left(\frac{\theta+1+\theta}{\theta(\theta+1)}\right) = -n \frac{2\theta+1}{\theta(\theta+1)}$。
令導數為零：$-n \frac{2\theta+1}{\theta(\theta+1)} = 0$。
因為 $n \ge 1$, $\theta \ge 1$，所以 $2\theta+1 > 0$ 且 $\theta(\theta+1) > 0$。
因此，這個導數永遠不為零。

這意味著 MLE 並不是通過令導數為零得到的。
對於離散分佈，MLE 的尋找通常是在定義域內尋找最大值。
我們需要考慮 $\theta$ 的範圍是整數 $\theta \geq 1$。
函數 $\ln L(\theta)$ 的導數 $\frac{d}{d\theta} \ln L(\theta) = -n \frac{2\theta+1}{\theta(\theta+1)}$ 恆為負值，對於 $\theta \geq 1$。
這意味著 $\ln L(\theta)$ 是一個關於 $\theta$ 的遞減函數。
因此，為了最大化 $\ln L(\theta)$，我們應該選擇最小可能的 $\theta$ 值。
但是，PMF 的定義域是 $x \in \{1, 2, \ldots, \theta\}$。
這表示 $\theta$ 必須大於或等於所有觀測值 $X_i$。
所以，$\theta \ge \max(X_1, \ldots, X_n)$。
令 $\theta_{min} = \max(X_1, \ldots, X_n)$。
因為 $\ln L(\theta)$ 是關於 $\theta$ 的遞減函數（對於 $\theta \ge \theta_{min}$），所以最大值將在 $\theta = \theta_{min}$ 時取得。
所以，MLE of $\theta$ 是樣本中的最大值。
$\hat{\theta}_{MLE} = \max(X_1, \ldots, X_n)$。

(b) 求 $\theta$ 的動差法估計量 (MME)。
MME 是通過令樣本動差等於理論動差來估計參數。
我們需要計算理論動差。
一階理論動差 (期望值)：
$E[X|\theta] = \sum_{x=1}^{\theta} x f(x|\theta) = \sum_{x=1}^{\theta} x \frac{2x}{\theta(\theta+1)} = \frac{2}{\theta(\theta+1)} \sum_{x=1}^{\theta} x^2$。
使用公式 $\sum_{i=1}^n i^2 = \frac{n(n+1)(2n+1)}{6}$：
$E[X|\theta] = \frac{2}{\theta(\theta+1)} \cdot \frac{\theta(\theta+1)(2\theta+1)}{6} = \frac{2(2\theta+1)}{6} = \frac{2\theta+1}{3}$。

一階樣本動差是樣本均值 $\overline{X} = \frac{1}{n} \sum_{i=1}^n X_i$。
令理論動差等於樣本動差：
$E[X|\theta] = \overline{X}$。
$\frac{2\theta+1}{3} = \overline{X}$。
$2\theta+1 = 3\overline{X}$。
$2\theta = 3\overline{X} - 1$。
$\theta = \frac{3\overline{X} - 1}{2}$。
所以，MME of $\theta$ 是 $\hat{\theta}_{MME} = \frac{3\overline{X} - 1}{2}$。

(c) 求 MME 的漸近分配。
根據中央極限定理 (CLT)，對於 i.i.d. 的隨機變數 $X_1, \ldots, X_n$，當 $n$ 很大時，樣本均值 $\overline{X}$ 的分佈近似於常態分佈。
CLT 說明：$\sqrt{n}(\overline{X} - E[X]) \xrightarrow{d} N(0, Var(X))$。
或者 $\overline{X} \approx N(E[X], Var(X)/n)$。

我們需要計算 $Var(X)$。
$Var(X) = E[X^2] - (E[X])^2$。
我們已經有 $E[X] = \frac{2\theta+1}{3}$。
現在計算 $E[X^2]$：

核心觀念

母體為常態分配 $N(\theta,\theta)$，其中平均數與變異數皆為 $\theta$，且必須有 $\theta>0$。本題利用常態母體的樣本變異數樞紐量：若 $Y_1,\ldots,Y_n$ 為來自 $N(\mu,\sigma^2)$ 的隨機樣本，則

$$\frac{(n-1)S^2}{\sigma^2}\sim\chi^2_{n-1},$$

其中 $S^2=\frac{1}{n-1}\sum_{i=1}^n(Y_i-\bar Y)^2$。此結果不需要知道母體平均數 $\mu$。

解題方法

設信賴水準為 $1-\alpha$，並以 $\chi^2_{\nu,p}$ 表示自由度 $\nu$ 的卡方分配第 $p$ 分位數。由於本題母體變異數就是 $\theta$，取 $\nu=n-1$ 可得

$$\frac{(n-1)S^2}{\theta}\sim\chi^2_{n-1}.$$

因此，

$$P\left( \chi^2_{n-1,\alpha/2} \leq \frac{(n-1)S^2}{\theta} \leq \chi^2_{n-1,1-\alpha/2} \right)=1-\alpha.$$

因為 $\theta>0$，將不等式反向求解 $\theta$，得到

核心觀念

這題要利用樣本最大值的抽樣分配，建立未知上界參數 $\theta$ 的信賴區間。由於每個觀測值都滿足 $0<Y_i<\theta$，樣本最大值 $Y_{(n)}=\max(Y_1,\ldots,Y_n)$ 直接提供了 $\theta$ 的資訊。

題目未指定信賴水準，以下以 $1-\alpha$ 表示，並構造等尾的精確信賴區間。

解題方法

先求母體累積分配函數。對 $0<y<\theta$，

$$F_\theta(y) =\int_0^y \frac{a}{\theta}\left(\frac{t}{\theta}\right)^{a-1}\,dt =\left(\frac{y}{\theta}\right)^a.$$

令 $Y_{(n)}=\max(Y_1,\ldots,Y_n)$。利用獨立樣本最大次序統計量的分配，

$$P_\theta(Y_{(n)}\le y) =\{F_\theta(y)\}^n =\left(\frac{y}{\theta}\right)^{an}, \qquad 0<y<\theta.$$

因此，樞紐量

$$U=\left(\frac{Y_{(n)}}{\theta}\right)^{an}$$

服從均勻分配 $U(0,1)$，其分配不含未知參數 $\theta$。

取等尾機率，使

$$P\left(\frac{\alpha}{2}\le U\le 1-\frac{\alpha}{2}\right)=1-\alpha.$$

代入 $U$ 並對 $\theta$ 解不等式：

核心觀念

本題考「概似比檢定」（likelihood ratio test, LRT）：在虛無假設與對立假設各自成立時，分別最大化概似函數，再比較兩個最大概似值。

令

$$\mathbf Y_i= \begin{pmatrix} Y_{i1}\\ Y_{i2} \end{pmatrix}, \qquad \boldsymbol\mu= \begin{pmatrix} \mu_1\\ \mu_2 \end{pmatrix}, \qquad \boldsymbol\Sigma= \begin{pmatrix} \sigma_1^2&\rho\sigma_1\sigma_2\\ \rho\sigma_1\sigma_2&\sigma_2^2 \end{pmatrix}.$$

檢定 $H_0:\rho=0$ 時，虛無假設下的共變異數矩陣為對角矩陣；對立假設下則不限制相關係數。兩種模型都允許未知平均數與未知邊際變異數。

解題方法

定義樣本平均數與中心化平方和、乘積和：

$$\bar Y_j=\frac1n\sum_{i=1}^n Y_{ij},\qquad j=1,2,$$ $$S_{jk}=\sum_{i=1}^n(Y_{ij}-\bar Y_j)(Y_{ik}-\bar Y_k), \qquad j,k=1,2.$$

中心化後的散佈矩陣為

$$\mathbf S= \begin{pmatrix} S_{11}&S_{12}\\ S_{12}&S_{22} \end{pmatrix}.$$

先對平均數最大化概似函數，兩個模型的最大概似估計皆為 $\hat\mu_j=\bar Y_j$。再分別求共變異數參數的最大概似估計。

在不限制相關係數的模型下，

$$\hat{\boldsymbol\Sigma}_1=\frac{\mathbf S}{n}, \qquad \left|\hat{\boldsymbol\Sigma}_1\right| =\frac{S_{11}S_{22}-S_{12}^2}{n^2}.$$

在 $H_0:\rho=0$ 下，共變異數為零，兩個變異數分別估計為

$$\hat{\sigma}_1^2=\frac{S_{11}}n,\qquad \hat{\sigma}_2^2=\frac{S_{22}}n,$$

因此

$$\left|\hat{\boldsymbol\Sigma}_0\right| =\frac{S_{11}S_{22}}{n^2}.$$

多變量常態概似函數在平均數以樣本平均數估計後，其最大值與共變異數矩陣行列式的 $-n/2$ 次方成正比。因此，以「虛無假設最大概似值除以不限制模型最大概似值」定義概似比：

核心觀念

本題考查單一樣本右尾 $t$ 檢定的檢定統計量、非中心 $t$ 分配，以及如何證明檢定力隨標準化效果量增加。

令樣本平均數與樣本標準差分別為 $\bar Y$ 與 $S$。在顯著水準 $\alpha$ 下，檢定

$$H_0:\mu\leq\mu_0, \qquad H_1:\mu>\mu_0$$

所使用的檢定統計量為

$$T=\frac{\bar Y-\mu_0}{S/\sqrt n}.$$

令 $\nu=n-1$，並以 $t_{1-\alpha,\nu}$ 表示自由度為 $\nu$ 的中央 $t$ 分配第 $1-\alpha$ 分位數，則拒絕域為 $T>t_{1-\alpha,\nu}$。

解題方法與推導

定義標準化參數差

$$\delta=\frac{\mu-\mu_0}{\sigma}.$$

由常態樣本的性質，

$$Z=\frac{\sqrt n(\bar Y-\mu)}{\sigma}\sim N(0,1), \qquad V=\frac{(n-1)S^2}{\sigma^2}\sim\chi^2_{\nu},$$

且 $Z$ 與 $V$ 相互獨立。將 $\bar Y-\mu_0$ 拆成 $(\bar Y-\mu)+(\mu-\mu_0)$，可得

$$T = \frac{Z+\sqrt n\,\delta}{\sqrt{V/\nu}}.$$

因此，在參數 $(\mu,\sigma^2)$ 下，$T$ 服從自由度 $\nu=n-1$、非中心參數

$$\lambda=\sqrt n\,\delta =\sqrt n\,\frac{\mu-\mu_0}{\sigma}$$

的非中心 $t$ 分配。故檢定力函數為

$$\pi(\mu,\sigma) = P_{\mu,\sigma}\!\left(T>t_{1-\alpha,\nu}\right) = 1-F_{\nu,\lambda}\!\left(t_{1-\alpha,\nu}\right),$$

其中 $F_{\nu,\lambda}$ 是自由度 $\nu$、非中心參數 $\lambda$ 的非中心 $t$ 分配累積分配函數。

核心觀念

這題要檢定兩組線性模型的迴歸係數是否相同。因為 $\sigma_2^2=\Delta\sigma_1^2$ 且 $\Delta$ 已知，可將第二組的殘差平方和乘上權重 $\Delta^{-1}$，再用兩組各自的殘差平方和估計共同尺度 $\sigma_1^2$。

在虛無假設下，兩組共用 $p$ 個迴歸係數；在對立假設下，兩組各有 $p$ 個係數。比較這兩個巢狀模型，可得到精確的 $F$ 檢定。

解題方法與推導

令

$$\widehat{\beta}_i=(X_i'X_i)^{-1}X_i'Y_i,\qquad i=1,2,$$

並定義各組的殘差平方和

$$\operatorname{RSS}_i =(Y_i-X_i\widehat{\beta}_i)'(Y_i-X_i\widehat{\beta}_i).$$

對立模型允許兩組係數不同，因此加權殘差平方和為

$$S_1=\operatorname{RSS}_1+\Delta^{-1}\operatorname{RSS}_2.$$

虛無模型要求 $\beta_1=\beta_2=\beta$。其加權最小平方法估計量為

$$\widehat{\beta}_0 = \left(X_1'X_1+\Delta^{-1}X_2'X_2\right)^{-1} \left(X_1'Y_1+\Delta^{-1}X_2'Y_2\right),$$

對應的加權殘差平方和為

$$S_0 = (Y_1-X_1\widehat{\beta}_0)'(Y_1-X_1\widehat{\beta}_0) +\Delta^{-1}(Y_2-X_2\widehat{\beta}_0)'(Y_2-X_2\widehat{\beta}_0).$$

兩模型的殘差平方和差可寫成兩組迴歸係數估計差的二次型：

$$S_0-S_1 = (\widehat{\beta}_1-\widehat{\beta}_2)' \left\{(X_1'X_1)^{-1} +\Delta(X_2'X_2)^{-1}\right\}^{-1} (\widehat{\beta}_1-\widehat{\beta}_2).$$