111 年 國立政治大學統計學系碩士班《數理統計學》

本題考驗聯合機率密度函數的應用，包含邊緣機率、條件機率、隨機變數轉換以及期望值與變異數的計算。

首先，我們需要理解聯合機率密度函數 $f(y_1, y_2)$ 的定義域。
$0 \le y_1 \le 1$
$0 \le y_2 \le 4$
$4y_1 \le y_2$

這個定義域可以畫出來。$y_1$ 軸範圍是 $[0, 1]$，$y_2$ 軸範圍是 $[0, 4]$。不等式 $4y_1 \le y_2$ 表示 $y_2$ 必須大於或等於 $4y_1$。
當 $y_1=0$ 時，$y_2 \ge 0$。
當 $y_1=1$ 時，$y_2 \ge 4$。
因此，可行區域是一個三角形，頂點為 $(0,0)$, $(0,4)$, $(1,4)$。在這個三角形內部，$f(y_1, y_2) = 1/2$。

(1) Find the probability that $Y_2/Y_1$ is at least 5.
我們要計算 $P(Y_2/Y_1 \ge 5)$，這等價於 $P(Y_2 \ge 5Y_1)$。
我們需要在定義域內積分滿足 $y_2 \ge 5y_1$ 的區域。
考慮不等式 $y_2 \ge 5y_1$ 與定義域的交集。
定義域為：$0 \le y_1 \le 1$, $0 \le y_2 \le 4$, $y_2 \ge 4y_1$。
我們需要積分的區域是：$0 \le y_1 \le 1$, $0 \le y_2 \le 4$, $y_2 \ge 4y_1$ 且 $y_2 \ge 5y_1$。
由於 $5y_1 \ge 4y_1$ 對於 $y_1 \ge 0$ 成立，所以條件 $y_2 \ge 5y_1$ 比 $y_2 \ge 4y_1$ 更嚴格。
因此，積分區域是滿足 $0 \le y_1 \le 1$, $0 \le y_2 \le 4$ 且 $y_2 \ge 5y_1$ 的部分。
這個區域的邊界是 $y_1$ 軸、$y_2$ 軸、直線 $y_2 = 4$ 和直線 $y_2 = 5y_1$。
當 $y_2 = 5y_1$ 和 $y_2 = 4$ 相交時，$5y_1 = 4 \implies y_1 = 4/5$。
所以積分區域是：$0 \le y_1 \le 4/5$ 且 $5y_1 \le y_2 \le 4$。

$$P(Y_2/Y_1 \ge 5) = \int_{0}^{4/5} \int_{5y_1}^{4} \frac{1}{2} dy_2 dy_1$$ $$= \int_{0}^{4/5} \frac{1}{2} [y_2]_{5y_1}^{4} dy_1 = \int_{0}^{4/5} \frac{1}{2} (4 - 5y_1) dy_1$$ $$= \frac{1}{2} [4y_1 - \frac{5}{2}y_1^2]_{0}^{4/5} = \frac{1}{2} [4(\frac{4}{5}) - \frac{5}{2}(\frac{4}{5})^2]$$ $$= \frac{1}{2} [\frac{16}{5} - \frac{5}{2}(\frac{16}{25})] = \frac{1}{2} [\frac{16}{5} - \frac{16}{10}] = \frac{1}{2} [\frac{16}{5} - \frac{8}{5}]$$ $$= \frac{1}{2} \times \frac{8}{5} = \frac{4}{5}$$

【答案】$4/5$

(2) Find the conditional pdf of $Y_1$ given $Y_2=y_2$, and $V(Y_1|Y_2=y_2)$.
首先，我們需要找到 $Y_2$ 的邊緣機率密度函數 $f_{Y_2}(y_2)$。
$f_{Y_2}(y_2) = \int_{-\infty}^{\infty} f(y_1, y_2) dy_1$
根據定義域，$0 \le y_2 \le 4$。對於一個固定的 $y_2$，我們需要找到 $y_1$ 的範圍。
條件是 $0 \le y_1 \le 1$ 且 $4y_1 \le y_2$，所以 $y_1 \le y_2/4$。
因此，$y_1$ 的範圍是 $0 \le y_1 \le \min(1, y_2/4)$。
但是，我們需要注意定義域的完整條件：$0 \le y_1 \le 1, 0 \le y_2 \le 4, y_2 \ge 4y_1$。
這意味著當 $y_2$ 確定時，$y_1$ 的範圍是 $0 \le y_1 \le y_2/4$ 且 $y_1 \le 1$。
如果 $y_2/4 \le 1$ (即 $y_2 \le 4$)，則 $y_1$ 的範圍是 $0 \le y_1 \le y_2/4$。
這個範圍是有效的，因為 $y_2 \ge 0$ 確保了 $y_1 \ge 0$。
所以，對於 $0 \le y_2 \le 4$:

$$f_{Y_2}(y_2) = \int_{0}^{y_2/4} \frac{1}{2} dy_1 = \frac{1}{2} [y_1]_{0}^{y_2/4} = \frac{1}{2} \times \frac{y_2}{4} = \frac{y_2}{8}$$

當 $y_2 < 0$ 或 $y_2 > 4$ 時，$f_{Y_2}(y_2) = 0$。
驗證積分：$\int_{0}^{4} \frac{y_2}{8} dy_2 = [\frac{y_2^2}{16}]_{0}^{4} = \frac{16}{16} = 1$。

現在，計算條件機率密度函數 $f_{Y_1|Y_2}(y_1|y_2) = \frac{f(y_1, y_2)}{f_{Y_2}(y_2)}$。
當 $0 \le y_2 \le 4$ 且 $0 \le y_1 \le y_2/4$ 時：

$$f_{Y_1|Y_2}(y_1|y_2) = \frac{1/2}{y_2/8} = \frac{1}{2} \times \frac{8}{y_2} = \frac{4}{y_2}$$

這個條件機率密度函數的定義域是 $0 \le y_1 \le y_2/4$。
驗證積分：$\int_{0}^{y_2/4} \frac{4}{y_2} dy_1 = \frac{4}{y_2} [y_1]_{0}^{y_2/4} = \frac{4}{y_2} \times \frac{y_2}{4} = 1$。

接下來，計算 $V(Y_1|Y_2=y_2)$。
首先，計算條件期望值 $E(Y_1|Y_2=y_2)$。

$$E(Y_1|Y_2=y_2) = \int_{-\infty}^{\infty} y_1 f_{Y_1|Y_2}(y_1|y_2) dy_1 = \int_{0}^{y_2/4} y_1 \frac{4}{y_2} dy_1$$ $$= \frac{4}{y_2} \int_{0}^{y_2/4} y_1 dy_1 = \frac{4}{y_2} [\frac{y_1^2}{2}]_{0}^{y_2/4} = \frac{4}{y_2} \times \frac{(y_2/4)^2}{2}$$ $$= \frac{4}{y_2} \times \frac{y_2^2/16}{2} = \frac{4}{y_2} \times \frac{y_2^2}{32} = \frac{y_2}{8}$$

然後，計算條件二階矩 $E(Y_1^2|Y_2=y_2)$。

$$E(Y_1^2|Y_2=y_2) = \int_{-\infty}^{\infty} y_1^2 f_{Y_1|Y_2}(y_1|y_2) dy_1 = \int_{0}^{y_2/4} y_1^2 \frac{4}{y_2} dy_1$$ $$= \frac{4}{y_2} \int_{0}^{y_2/4} y_1^2 dy_1 = \frac{4}{y_2} [\frac{y_1^3}{3}]_{0}^{y_2/4} = \frac{4}{y_2} \times \frac{(y_2/4)^3}{3}$$ $$= \frac{4}{y_2} \times \frac{y_2^3/64}{3} = \frac{4}{y_2} \times \frac{y_2^3}{192} = \frac{y_2^2}{48}$$

最後，計算條件變異數 $V(Y_1|Y_2=y_2) = E(Y_1^2|Y_2=y_2) - [E(Y_1|Y_2=y_2)]^2$。

$$V(Y_1|Y_2=y_2) = \frac{y_2^2}{48} - (\frac{y_2}{8})^2 = \frac{y_2^2}{48} - \frac{y_2^2}{64}$$

核心觀念

本題考查：

1. 因子分解定理：判斷充分統計量。
2. 完備性：利用 Gamma 分布與 Laplace transform 的唯一性證明。
3. Lehmann–Scheffé 定理：若統計量為完備充分統計量，則任何以它表示的無偏估計量都是 MVUE。
4. Gamma 分布的期望公式。

題目所給的密度少了常數 $1/2$；正規化後為 Laplace 分布

$$f(x;\theta)=\frac{1}{2\theta}e^{-|x|/\theta},\qquad x\in\mathbb R.$$

此常數不影響充分性與估計量的推導。以下採用正規化後的密度。

---

(1) 完備充分統計量

第一步：寫出聯合密度

令

$$T=\sum_{i=1}^n |X_i|.$$

由隨機樣本的獨立性，聯合密度為

$$\begin{aligned} L(\theta;x_1,\dots,x_n) &=\prod_{i=1}^n \frac{1}{2\theta} e^{-|x_i|/\theta} \\ &=\left(\frac12\right)^n\theta^{-n} \exp\left(-\frac{1}{\theta}\sum_{i=1}^n |x_i|\right)\\ &=\left(\frac12\right)^n\theta^{-n}e^{-T/\theta}. \end{aligned}$$

可寫成

$$L(\theta;x_1,\dots,x_n) = \underbrace{\left(\frac12\right)^n\theta^{-n}e^{-T/\theta}}_{g_\theta(T)} \underbrace{1}_{h(x_1,\dots,x_n)}.$$

依據因子分解定理，得到

$$\boxed{T=\sum_{i=1}^n |X_i|}$$

是 $\theta$ 的充分統計量。

---

第二步：證明完備性

先觀察 $Y_i=|X_i|$ 的分布。對 $y>0$，

$$\begin{aligned} f_{Y_i}(y) &=f_{X_i}(y)+f_{X_i}(-y)\\ &=\frac{1}{2\theta}e^{-y/\theta} +\frac{1}{2\theta}e^{-y/\theta}\\ &=\frac1\theta e^{-y/\theta}. \end{aligned}$$

因此

$$Y_i=|X_i|\sim \operatorname{Exponential}(\text{scale } \theta),$$

所以

$$T=\sum_{i=1}^n Y_i \sim \operatorname{Gamma}(n,\text{scale }\theta).$$

其密度為

$$f_T(t;\theta) = \frac{1}{\Gamma(n)\theta^n} t^{n-1}e^{-t/\theta}, \qquad t>0.$$

設某函數 $a(T)$ 滿足對所有 $\theta>0$，

$$E_\theta[a(T)]=0.$$

則

$$\int_0^\infty a(t) \frac{1}{\Gamma(n)\theta^n} t^{n-1}e^{-t/\theta}\,dt=0.$$

乘上 $\Gamma(n)\theta^n$，並令 $\lambda=1/\theta$，可得

$$\int_0^\infty a(t)t^{n-1}e^{-\lambda t}\,dt=0, \qquad \lambda>0.$$

左式是函數 $a(t)t^{n-1}$ 的 Laplace transform。由 Laplace transform 的唯一性，

$$a(t)t^{n-1}=0 \quad\text{幾乎處處成立}.$$

因為 $t>0$ 時 $t^{n-1}>0$，故

$$a(t)=0 \quad\text{幾乎處處成立}.$$

因此 $T$ 為完備統計量。

所以完整答案為

$$\boxed{T=\sum_{i=1}^n |X_i|}$$

是 $\theta$ 的完備充分統計量。

---

(2) $\dfrac1\theta+\theta$ 的 MVUE

由

核心觀念

本題考查條件期望與全期望、全變異數公式，以及複合卜瓦松隨機變數的極限分布。

已知對 $n\geq 1$，

$$X\mid N=n\sim \operatorname{Gamma}(n,1),$$

其形狀參數為 $n$、率參數為 $1$，因此

$$E(X\mid N=n)=n,\qquad V(X\mid N=n)=n.$$

另外，

$$N\sim \operatorname{Poisson}(\mu),$$

所以

$$E(N)=V(N)=\mu.$$

當 $N=0$ 時，應將 $X$ 視為空和，即 $X=0$；此時 $X$ 在 $0$ 點具有機率質量 $P(X=0)=P(N=0)=e^{-\mu}$。

---

解題方法

（1）求 $E(X)$ 與 $V(X)$

求無條件平均數

利用全期望公式：

$$E(X)=E\bigl[E(X\mid N)\bigr].$$

由於

$$E(X\mid N=n)=n,$$

故

$$E(X)=E(N)=\mu.$$

因此

$$\boxed{E(X)=\mu}.$$

---

求無條件變異數

利用全變異數公式：

$$V(X)=E\bigl[V(X\mid N)\bigr] +V\bigl[E(X\mid N)\bigr].$$

第一項為

$$E\bigl[V(X\mid N)\bigr] =E(N)=\mu.$$

第二項為

$$V\bigl[E(X\mid N)\bigr] =V(N)=\mu.$$

因此

$$V(X)=\mu+\mu=2\mu.$$

所以

$$\boxed{V(X)=2\mu}.$$

---

（2）求標準化變數的極限分布

令

$$Z_\mu=\frac{X-E(X)}{\sqrt{V(X)}} =\frac{X-\mu}{\sqrt{2\mu}}.$$

條件於 $N=n$ 時，$X$ 可視為 $n$ 個獨立 $\operatorname{Exp}(1)$ 隨機變數的和；而 $N$ 服從參數為 $\mu$ 的卜瓦松分布。因此 $X$ 是複合卜瓦松隨機變數。

其動差生成函數為

$$M_{X\mid N=n}(t) =\left(\frac{1}{1-t}\right)^n,\qquad t<1.$$

利用全期望公式：

$$\begin{aligned} M_X(t) &=E\left[M_{X\mid N}(t)\right]\\ &=E\left[(1-t)^{-N}\right]. \end{aligned}$$

卜瓦松隨機變數的機率生成函數為

$$E(s^N)=\exp\{\mu(s-1)\}.$$

令 $s=(1-t)^{-1}$，得到

$$M_X(t) =\exp\left\{\mu\left(\frac{1}{1-t}-1\right)\right\}.$$

考慮 $Z_\mu$ 的動差生成函數：

核心觀念

本題主要考查：

• 最大概似估計法（MLE）
• Fisher information 與 Cramér–Rao lower bound
• 單調概似比與 UMP 檢定
• Gamma 分布與卡方樞紐量
• 兩樣本概似比檢定

令

$$T=\sum_{i=1}^n \ln(X_i+1).$$

由於

$$P\{\ln(X_i+1)>t\} =P\{X_i>e^t-1\} =e^{-\lambda t},\qquad t>0,$$

可知 $\ln(X_i+1)$ 服從 rate 為 $\lambda$ 的指數分布。因此

$$T\sim \operatorname{Gamma}(n,\lambda), \qquad 2\lambda T\sim \chi^2_{2n}.$$

這個轉換是全題最重要的切入點。

---

（1）$\lambda$ 的最大概似估計量

樣本概似函數為

$$L(\lambda) =\prod_{i=1}^n \lambda(x_i+1)^{-\lambda-1}.$$

整理得

$$L(\lambda) =\lambda^n \prod_{i=1}^n(x_i+1)^{-1} \exp\left\{-\lambda\sum_{i=1}^n\ln(x_i+1)\right\}.$$

記

$$T=\sum_{i=1}^n\ln(x_i+1),$$

則對數概似函數為

$$\ell(\lambda) =n\ln\lambda-\lambda T -\sum_{i=1}^n\ln(x_i+1).$$

微分並令其等於零：

$$\frac{\partial\ell}{\partial\lambda} =\frac{n}{\lambda}-T=0.$$

所以

$$\widehat{\lambda}=\frac{n}{T} =\frac{n}{\displaystyle\sum_{i=1}^n\ln(X_i+1)}.$$

再由

$$\frac{\partial^2\ell}{\partial\lambda^2} =-\frac{n}{\lambda^2}<0,$$

可知此臨界點確實使概似函數達到最大值。

解題技巧

看到 $(X+1)^{-\lambda}$ 時，立即考慮轉換 $\ln(X+1)$。此轉換會把原分布化為指數分布，使得樣本和具有 Gamma 分布，後續檢定與信賴區間都能直接利用卡方分布。

---

（2）$P(X>a)$ 的 Cramér–Rao lower bound

先計算欲估計的參數函數：

$$\tau(\lambda)=P_\lambda(X>a).$$

由分布函數或尾端機率：

$$\tau(\lambda) =\int_a^\infty \lambda(x+1)^{-\lambda-1}\,dx =(a+1)^{-\lambda}.$$

因此

$$\tau'(\lambda) =-\ln(a+1)(a+1)^{-\lambda}.$$

單一觀測值的對數概似函數為

$$\ell_1(\lambda) =\ln\lambda-(\lambda+1)\ln(X+1).$$

其二階導數為

$$\frac{\partial^2\ell_1}{\partial\lambda^2} =-\frac{1}{\lambda^2}.$$

所以單一觀測值的 Fisher information 為

$$I_1(\lambda) =-E_\lambda\left[ \frac{\partial^2\ell_1}{\partial\lambda^2} \right] =\frac{1}{\lambda^2}.$$

$n$ 個獨立觀測值的 Fisher information 為

$$I_n(\lambda)=\frac{n}{\lambda^2}.$$

對任何以 $\tau(\lambda)$ 為期望值的無偏估計量 $\widehat{\tau}$，Cramér–Rao 不等式給出

$$\operatorname{Var}_\lambda(\widehat{\tau}) \ge \frac{[\tau'(\lambda)]^2}{I_n(\lambda)}.$$

代入上式：

$$\operatorname{Var}_\lambda(\widehat{\tau}) \ge \frac{ [\ln(a+1)]^2(a+1)^{-2\lambda} }{ n/\lambda^2 }.$$

因此 Cramér–Rao lower bound 為

$$\boxed{ \frac{\lambda^2}{n} [\ln(a+1)]^2 (a+1)^{-2\lambda} }.$$

解題技巧

對參數函數 $\tau(\lambda)$ 的 Cramér–Rao lower bound，公式不是單純的 $1/I_n(\lambda)$，而是

$$\frac{[\tau'(\lambda)]^2}{I_n(\lambda)}.$$

本題最容易漏掉 $\tau'(\lambda)$ 的平方。

---

（3）$H_0:\lambda\le\lambda_0$ 對 $H_1:\lambda>\lambda_0$ 的 UMP size $\alpha$ 檢定

樣本概似函數可寫成

$$L(\lambda) \propto \lambda^n e^{-\lambda T}.$$

對固定的 $\lambda_1>\lambda_0$，概似比為

$$\frac{L(\lambda_1)}{L(\lambda_0)} = \left(\frac{\lambda_1}{\lambda_0}\right)^n e^{-(\lambda_1-\lambda_0)T}.$$

由於 $\lambda_1-\lambda_0>0$，上式是 $T$ 的遞減函數。因此依據 Karlin–Rubin 定理，對大於 $\lambda_0$ 的方向，UMP 檢定應在 $T$ 小時拒絕虛無假設。

在 $\lambda=\lambda_0$ 下，

$$2\lambda_0T\sim\chi^2_{2n}.$$

令 $\chi^2_{2n,\alpha}$ 表示自由度 $2n$ 的卡方分布下側 $\alpha$ 分位數，則臨界值 $c$ 滿足

$$P_{\lambda_0}(T\le c)=\alpha.$$

因此

$$2\lambda_0c=\chi^2_{2n,\alpha},$$

即

$$c=\frac{\chi^2_{2n,\alpha}}{2\lambda_0}.$$

所以 UMP size $\alpha$ 檢定為

$$\boxed{ \text{當 } T=\sum_{i=1}^n\ln(X_i+1) \le \frac{\chi^2_{2n,\alpha}}{2\lambda_0} \text{ 時，拒絕 }H_0. }$$

等價地，由 $\widehat{\lambda}=n/T$，也可寫成「$\widehat{\lambda}$ 足夠大時拒絕 $H_0$」。

為何只需考慮 $\lambda=\lambda_0$

當 $\lambda$ 增加時，$T$ 的分布向較小的方向移動，因此

$$P_\lambda(T\le c)$$

隨 $\lambda$ 增加而增加。在 $H_0:\lambda\le\lambda_0$ 中，拒絕機率最大發生於邊界 $\lambda=\lambda_0$，故以 $\lambda_0$ 校準即可保證檢定的 size 為 $\alpha$。

解題技巧

備擇假設是 $\lambda>\lambda_0$，而 $\lambda$ 越大會使 $T$ 越小，所以拒絕域在左尾；若備擇假設改為 $\lambda<\lambda_0$，拒絕域則會改在右尾。

---

（4）$\lambda$ 的 $100(1-\alpha)\%$ 信賴區間

由前述結果，

核心觀念

似然比檢定的統計量定義為

$$\Lambda(\mathbf y) = \frac{\displaystyle \sup_{\theta\in\Theta_0}L(\theta,\lambda=0;\mathbf y)} {\displaystyle \sup_{\theta\in\Theta,\ \lambda\ne 0}L(\theta,\lambda;\mathbf y)}.$$

本題給定的樣本模型為

$$g(y;\theta)=\theta y^{-\theta-1},\qquad y>1,\ \theta>0,$$

其中完全沒有出現參數 $\lambda$。因此，依題目目前提供的資訊，$\lambda$ 並未被此機率模型識別，無法形成具有實質區別的虛無假設與對立假設。

---

解題方法

對隨機樣本 $Y_1,\ldots,Y_m$，其聯合似然函數為

$$L(\theta,\lambda;\mathbf y) = \prod_{i=1}^m g(y_i;\theta) = \prod_{i=1}^m \theta y_i^{-\theta-1},$$

因此

$$L(\theta,\lambda;\mathbf y) = \theta^m \left(\prod_{i=1}^m y_i\right)^{-\theta-1}, \qquad y_i>1.$$

可見其右側不含 $\lambda$，故對所有允許的 $\lambda$，都有相同的似然函數：

$$L(\theta,\lambda;\mathbf y)=L(\theta;\mathbf y).$$

先求 $\theta$ 的最大概似估計量。取對數概似函數：

$$\ell(\theta) = m\log\theta-(\theta+1)\sum_{i=1}^m\log y_i.$$

微分得

$$\frac{\partial\ell(\theta)}{\partial\theta} = \frac{m}{\theta}-\sum_{i=1}^m\log y_i.$$

令其等於零，可得

$$\widehat{\theta} = \frac{m}{\displaystyle\sum_{i=1}^m\log y_i}.$$

又因為