110 年 國立政治大學統計學系碩士班《數理統計學》

這題考驗對各種機率分佈的參數估計與假設檢定的基本概念，包含充分統計量、不偏估計量、最大概似估計量、功率函數等。

a. 充分統計量：
對於常態分佈 $N(0, \theta)$，其機率密度函數為 $f(x; \theta) = \frac{1}{\sqrt{2\pi\theta}} e^{-\frac{x^2}{2\theta}}$。
根據費雪-史東定理 (Fisher-Neyman Factorization Theorem)，一個統計量 $T(X)$ 是參數 $\theta$ 的充分統計量，若且唯若機率密度函數 $f(x; \theta)$ 可以寫成 $f(x; \theta) = g(T(x), \theta) h(x)$ 的形式，其中 $h(x)$ 不含 $\theta$。
在此，我們有 $f(x; \theta) = \left(\frac{1}{\sqrt{2\pi}}\right) \left(\theta^{-1/2} e^{-\frac{x^2}{2\theta}}\right)$。
若只考慮一個觀測值 $X$，則 $f(x; \theta) = \theta^{-1/2} e^{-\frac{x^2}{2\theta}} \cdot 1$。
我們可以將 $g(T(x), \theta) = \theta^{-1/2} e^{-\frac{x^2}{2\theta}}$，並令 $T(x) = x^2$。
那麼 $f(x; \theta) = \theta^{-1/2} e^{-\frac{T(x)}{2\theta}} \cdot 1$。
因此，$T(X) = X^2$ 是 $\theta$ 的充分統計量。
【答案】$X^2$

b. 充分統計量：
此題給定的機率密度函數為柯西分佈 (Cauchy distribution) 的一種變形，其形式為 $f(x; \theta) = \frac{1}{\pi} \frac{1}{1 + (x-\theta)^2}$。
此為 location-scale family 的一種，其中 $\theta$ 是 location 參數。
對於 location parameter $\theta$ 的充分統計量，通常是樣本的最小值或最大值。
我們考慮樣本的對數概似函數：
$L(\theta) = \prod_{i=1}^n f(x_i; \theta) = \prod_{i=1}^n \frac{1}{\pi} \frac{1}{1 + (x_i-\theta)^2}$
$\ln L(\theta) = \sum_{i=1}^n \left( \ln \frac{1}{\pi} - 2 \ln(1 + (x_i-\theta)^2) \right)$
$\ln L(\theta) = -n \ln \pi - 2 \sum_{i=1}^n \ln(1 + (x_i-\theta)^2)$
對 $\theta$ 微分：
$\frac{d \ln L(\theta)}{d\theta} = -2 \sum_{i=1}^n \frac{1}{1 + (x_i-\theta)^2} \cdot (-2(x_i-\theta))(-1) = -4 \sum_{i=1}^n \frac{x_i-\theta}{1 + (x_i-\theta)^2}$
令導數為零，我們得到 $-4 \sum_{i=1}^n \frac{x_i-\theta}{1 + (x_i-\theta)^2} = 0$，即 $\sum_{i=1}^n \frac{x_i-\theta}{1 + (x_i-\theta)^2} = 0$。
這個方程式無法直接解出 $\theta$ 的一個簡單的函數。

然而，根據充分統計量的性質，如果存在一個統計量 $T(X_1, \ldots, X_n)$，使得 $f(x_1, \ldots, x_n; \theta) = g(T(x_1, \ldots, x_n), \theta) h(x_1, \ldots, x_n)$，則 $T$ 是充分統計量。
對於 location parameter 的情況，通常樣本的最小值或最大值是充分統計量。
我們觀察密度函數 $f(x; \theta) = \frac{1}{\pi} \frac{1}{1 + (x-\theta)^2}$。這個函數是以 $x=\theta$ 為中心對稱的。
當我們考慮 $n$ 個 i.i.d. 的觀測值 $X_1, \ldots, X_n$，其聯合密度函數為
$f(x_1, \ldots, x_n; \theta) = \prod_{i=1}^n \frac{1}{\pi} \frac{1}{1 + (x_i-\theta)^2} = \left(\frac{1}{\pi}\right)^n \prod_{i=1}^n \frac{1}{1 + (x_i-\theta)^2}$
令 $y_i = x_i - \theta$。則 $x_i = y_i + \theta$。
$\prod_{i=1}^n \frac{1}{1 + (x_i-\theta)^2} = \prod_{i=1}^n \frac{1}{1 + y_i^2}$。
這種形式的密度函數，樣本的最小值 $\min(X_1, \ldots, X_n)$ 和最大值 $\max(X_1, \ldots, X_n)$ 通常扮演重要角色。
對於柯西分佈，樣本的 $\min(X_i)$ 和 $\max(X_i)$ 共同構成了充分統計量。
更精確地說，對於 location parameter $\theta$，聯合密度函數可以寫成
$f(x_1, \ldots, x_n; \theta) = \left(\frac{1}{\pi}\right)^n \prod_{i=1}^n \frac{1}{1 + (x_i-\theta)^2}$。
我們可以將其改寫為：
$f(x_1, \ldots, x_n; \theta) = \left(\frac{1}{\pi}\right)^n \frac{1}{\prod_{i=1}^n (1 + (x_i-\theta)^2)}$。
令 $x_{(1)} = \min(X_i)$ 和 $x_{(n)} = \max(X_i)$。
雖然無法將聯合密度函數直接寫成 $g(\min(X_i), \max(X_i), \theta) h(X_1, \ldots, X_n)$ 的形式，但柯西分佈是 location parameter 的一個例子，其充分統計量是 $(\min(X_i), \max(X_i))$。
【答案】$(\min(X_1, \ldots, X_n), \max(X_1, \ldots, X_n))$

c. 不偏估計量：
給定的機率密度函數為 $f(x; \theta) = \frac{2x}{\theta^2}$，定義域為 $0 \le x \le \theta$。
我們需要找到一個關於 $\theta$ 的不偏估計量。
考慮一個統計量 $T(X)$。如果 $E[T(X)] = \theta$，則 $T(X)$ 是 $\theta$ 的一個不偏估計量。
讓我們嘗試一些簡單的統計量。
例如，考慮 $X$ 本身。
$E[X] = \int_0^\theta x f(x; \theta) dx = \int_0^\theta x \frac{2x}{\theta^2} dx = \int_0^\theta \frac{2x^2}{\theta^2} dx$
$E[X] = \frac{2}{\theta^2} \left[ \frac{x^3}{3} \right]_0^\theta = \frac{2}{\theta^2} \left( \frac{\theta^3}{3} - 0 \right) = \frac{2\theta}{3}$。
$E[X] = \frac{2}{3}\theta$，這不是 $\theta$ 的不偏估計量，但我們可以利用它。
如果 $E[X] = c\theta$，那麼 $E[\frac{1}{c}X] = \theta$。
在這裡 $c = \frac{2}{3}$，所以 $E[\frac{3}{2}X] = \theta$。
因此，$\frac{3}{2}X$ 是 $\theta$ 的一個不偏估計量。

另外一個常見的考慮是樣本的最大值。設 $X_{(n)} = \max(X_1, \ldots, X_n)$。
對於單一觀測值 $X$，我們已經計算出 $E[X] = \frac{2}{3}\theta$。
如果我們有 $n$ 個 i.i.d. 的觀測值 $X_1, \ldots, X_n$，其 CDF 為 $F(x) = \int_0^x \frac{2t}{\theta^2} dt = \frac{x^2}{\theta^2}$ for $0 \le x \le \theta$.
最大值 $X_{(n)}$ 的 CDF 為 $F_{X_{(n)}}(x) = (F(x))^n = \left(\frac{x^2}{\theta^2}\right)^n = \frac{x^{2n}}{\theta^{2n}}$ for $0 \le x \le \theta$.
最大值 $X_{(n)}$ 的 PDF 為 $f_{X_{(n)}}(x) = \frac{d}{dx} F_{X_{(n)}}(x) = \frac{2nx^{2n-1}}{\theta^{2n}}$ for $0 \le x \le \theta$.
$E[X_{(n)}] = \int_0^\theta x \frac{2nx^{2n-1}}{\theta^{2n}} dx = \int_0^\theta \frac{2nx^{2n}}{\theta^{2n}} dx = \frac{2n}{\theta^{2n}} \left[ \frac{x^{2n+1}}{2n+1} \right]_0^\theta$
$E[X_{(n)}] = \frac{2n}{\theta^{2n}} \frac{\theta^{2n+1}}{2n+1} = \frac{2n}{2n+1} \theta$.
所以 $E[\frac{2n+1}{2n}\theta X_{(n)}] = \theta$.
題目只給一個觀測值 $X$ (即 $n=1$)，所以我們使用 $X$。
【答案】$\frac{3}{2}X$

d. 最大概似估計量 (MLE)：
樣本來自 $Uniform(\mu - \sqrt{3}\sigma, \mu + \sqrt{3}\sigma)$，其區間長度為 $(\mu + \sqrt{3}\sigma) - (\mu - \sqrt{3}\sigma) = 2\sqrt{3}\sigma$.
PDF 為：
$f(x; \mu, \sigma) = \begin{cases} \frac{1}{2\sqrt{3}\sigma} & \mu - \sqrt{3}\sigma \le x \le \mu + \sqrt{3}\sigma \\ 0 & \text{otherwise} \end{cases}$
給定的 8 個觀測值為：
$X_1 = 2.88, X_2 = -4.04, X_3 = -3.26, X_4 = -3.57,$

核心觀念

本題考查：

1. 條件分布與邊際分布：利用全概率公式將 $Y\mid X=x$ 對 $X$ 積分，求出 $Y$ 的分布。
2. 變數轉換：令
   $W=\frac{Y}{X},$
   透過聯合密度函數與 Jacobian 判斷 $W$ 和 $X$ 是否獨立。
3. 獨立性的判定：若聯合密度可分解為邊際密度的乘積，即可證明兩變數獨立。

記標準常態密度與分布函數為

$$\phi(t)=\frac{1}{\sqrt{2\pi}}e^{-t^2/2}, \qquad \Phi(t)=\int_{-\infty}^{t}\phi(u)\,du.$$

由題意，

$$X\sim Uniform(0,1),$$

因此

$$f_X(x)=1,\qquad 0<x<1.$$

且

$$Y\mid X=x\sim N(x,x^2).$$

---

解題方法

由條件常態分布的密度函數，

$$f_{Y\mid X}(y\mid x) = \frac{1}{x\sqrt{2\pi}} \exp\left\{-\frac{(y-x)^2}{2x^2}\right\}, \qquad x>0.$$

注意

$$\frac{(y-x)^2}{x^2} = \left(\frac{y}{x}-1\right)^2.$$

因此可寫成

$$f_{Y\mid X}(y\mid x) = \frac{1}{x}\phi\left(\frac{y}{x}-1\right).$$

---

(a) 求 $Y$ 的分布

方法一：求累積分布函數

利用全概率公式，

$$F_Y(y) = P(Y\le y) = \int_0^1 P(Y\le y\mid X=x)f_X(x)\,dx.$$

由於 $Y\mid X=x\sim N(x,x^2)$，

$$P(Y\le y\mid X=x) = \Phi\left(\frac{y-x}{x}\right) = \Phi\left(\frac{y}{x}-1\right).$$

所以 $Y$ 的累積分布函數為

$$\boxed{ F_Y(y) = \int_0^1 \Phi\left(\frac{y}{x}-1\right)\,dx, \qquad y\in\mathbb R. }$$

這是一個由不同常態分布混合而成的連續分布，通常不再化成常見的標準分布名稱。

方法二：求機率密度函數

由邊際密度公式，

$$f_Y(y) = \int_0^1 f_{Y\mid X}(y\mid x)f_X(x)\,dx.$$

代入上式得

$$\boxed{ f_Y(y) = \int_0^1 \frac{1}{x} \phi\left(\frac{y}{x}-1\right)\,dx, \qquad y\in\mathbb R. }$$

寫成完整形式即為

$$\boxed{ f_Y(y) = \frac{1}{\sqrt{2\pi}} \int_0^1 \frac{1}{x} \exp\left\{ -\frac{1}{2}\left(\frac{y}{x}-1\right)^2 \right\}\,dx. }$$

因此，$Y$ 的分布由上述累積分布函數或機率密度函數完整決定。

若希望將密度作進一步變數代換，當 $y>0$ 時令 $u=y/x-1$，可得

$$f_Y(y) = \int_{y-1}^{\infty} \frac{\phi(u)}{u+1}\,du, \qquad y>0.$$

當 $y<0$ 時，

$$f_Y(y) = \int_{-\infty}^{y-1} \frac{\phi(u)}{-u-1}\,du, \qquad y<0.$$

這些積分一般沒有更簡單的初等函數表示。

---

(b) 判斷 $\dfrac{Y}{X}$ 與 $X$ 是否獨立

令

核心觀念

本題旨在建構單邊假說檢定的均勻最強力檢定（Uniformly Most Powerful test, UMP test）。核心觀念與所使用的定理如下：

1. 單調概似比（Monotone Likelihood Ratio, MLR）性質：
   若一維母數族之聯合機率密度函數的比值，可表為某個純量充分統計量 $T(\mathbf{X})$ 的單調非遞減（或單調非遞增）函數，則稱該母數族具有 MLR 性質。
2. Karlin-Rubin 定理：
   若分配族在統計量 $T(\mathbf{X})$ 上具有非遞減的 MLR 性質，則對於單邊檢定問題 $H_0: \theta \le \theta_0 \text{ vs. } H_1: \theta > \theta_0$，其水準 $\alpha$ 的 UMP 檢定之拒絕域必為： $$\text{Reject } H_0 \iff T(\mathbf{X}) > c$$ 其中臨界值 $c$ 由 $\sup_{\theta \le \theta_0} P_\theta(T(\mathbf{X}) > c) = P_{\theta_0}(T(\mathbf{X}) > c) = \alpha$ 決定。
3. 變數變換與卡方分配：
   對於 $0 < X < 1$，令 $Y = -\ln X$，利用機率積分變換或分配推導求得統計量之確切抽樣分配，藉此以標準分配（如 Gamma 分配或卡方分配 $\chi^2$）表示臨界值。

---

解題方法

步驟一：檢驗分配與定義域

母體之機率密度函數為：

$$f(x; \theta) = \frac{1}{\theta} \exp\left(-\frac{\ln x}{\theta}\right) = \frac{1}{\theta} x^{-1/\theta}, \quad 0 < x < 1$$

其中為了使 $\int_0^1 f(x; \theta) \, dx = 1$，母數需滿足 $\theta > -1$ 且 $\theta \ne 0$。由 $\int_0^1 \frac{1}{\theta} x^{-1/\theta} \, dx = \left[ \frac{1}{\theta} \frac{x^{1 - 1/\theta}}{1 - 1/\theta} \right]_0^1$ 可知，若要積分收斂且為正，通常設定母數 $\theta < 0$（令 $\beta = -1/\theta > 0$，即常見的 Beta 分配 $\text{Beta}(\beta+1, 1)$）或題目以特定符號定義。依題意直接推導概似函數之單調性。

步驟二：建立概似比以尋找 MLR 統計量

取兩相異母數值 $\theta_2 > \theta_1$。樣本 $\mathbf{X} = (X_1, X_2, \ldots, X_n)$ 的概似函數比為：

$$\frac{L(\theta_2; \mathbf{x})}{L(\theta_1; \mathbf{x})} = \frac{\left(\frac{1}{\theta_2}\right)^n \exp\left(-\frac{1}{\theta_2} \sum_{i=1}^n \ln x_i\right)}{\left(\frac{1}{\theta_1}\right)^n \exp\left(-\frac{1}{\theta_1} \sum_{i=1}^n \ln x_i\right)} = \left(\frac{\theta_1}{\theta_2}\right)^n \exp\left( \left(\frac{1}{\theta_1} - \frac{1}{\theta_2}\right) \sum_{i=1}^n (-\ln x_i) \right)$$

令充分統計量：

$$T(\mathbf{X}) = \sum_{i=1}^n (-\ln X_i)$$

由於 $0 < X_i < 1$，故 $-\ln X_i > 0$，因此 $T(\mathbf{X}) > 0$。
當 $\theta_2 > \theta_1 > 0$ 時，有 $\frac{1}{\theta_1} - \frac{1}{\theta_2} > 0$；指數項中的係數為正，故概似比 $\frac{L(\theta_2; \mathbf{x})}{L(\theta_1; \mathbf{x})}$ 為 $T(\mathbf{X})$ 的嚴格遞增函數。
這證明了該母數族在統計量 $T(\mathbf{X}) = \sum_{i=1}^n (-\ln X_i)$ 上具備**單調概似比（MLR）**性質。

步驟三：利用 Karlin-Rubin 定理建立檢定形式

由 Karlin-Rubin 定理，檢定 $H_0: \theta \le \theta_0 \text{ vs. } H_1: \theta > \theta_0$ 的水準 $\alpha$ 之均勻最強力檢定（UMP test）的拒絕域形式為：

核心觀念

本題主要考查：

• 期望值的計算；
• 動差估計法（method of moments）；
• 最大概似估計法（maximum likelihood estimation）；
• 充分統計量與完全統計量；
• Lehmann–Scheffé 定理：若某統計量是完全充分統計量，且估計量是其函數並且不偏，則該估計量為 UMVUE。

以下均以 $\theta>0$ 為前提。$\theta=0$ 時原題中的密度公式無法直接定義，但可視為退化分布於 $X=0$。

---

(a) 求 $E(X_1)$

由期望值定義，

$$E_\theta(X_1) = \int_{-\infty}^{\infty}x f(x;\theta)\,dx.$$

由於 $f(x;\theta)$ 僅在 $0\le x\le\theta$ 時非零，因此

$$E_\theta(X_1) = \int_0^\theta x\frac{2x}{\theta^2}\,dx.$$

計算得

$$E_\theta(X_1) = \frac{2}{\theta^2}\int_0^\theta x^2\,dx = \frac{2}{\theta^2}\left[\frac{x^3}{3}\right]_0^\theta = \frac{2}{\theta^2}\cdot\frac{\theta^3}{3} = \frac{2\theta}{3}.$$

因此

$$\boxed{E(X_1)=\frac{2\theta}{3}}.$$

---

(b) 求 $\theta$ 的動差估計量

解題方法

動差估計法是令樣本動差等於母體動差。此處只有一個未知參數 $\theta$，因此使用一階動差：

$$\overline X=E_\theta(X_1).$$

由 (a) 得

$$\overline X=\frac{2\theta}{3}.$$

解出 $\theta$：

$$\widehat\theta_{\mathrm{MOM}} = \frac{3}{2}\overline X.$$

所以動差估計量為

$$\boxed{\widehat\theta_{\mathrm{MOM}}=\frac{3}{2}\overline X}.$$

當 $n=1$ 時，這會簡化為

$$\widehat\theta_{\mathrm{MOM}}=\frac{3}{2}X_1.$$

補充而言，由於題目限制 $0\le\theta\le1$，若額外要求估計值必須落在參數空間內，可採用截斷形式 $\min\{3\overline X/2,1\}$；但標準動差估計法的答案是 $\frac32\overline X$。

---

(c) 當 $n=1$ 時求 $\theta$ 的最大概似估計量

令觀察值為 $X_1=x$。概似函數為

$$L(\theta;x) = f(x;\theta) = \frac{2x}{\theta^2} I(0\le x\le\theta), \qquad 0<\theta\le1.$$

對固定的 $x>0$ 而言，參數 $\theta$ 必須滿足

$$x\le\theta\le1.$$

在此範圍內，

$$L(\theta;x)=\frac{2x}{\theta^2}.$$

因為 $2x$ 為固定常數，而 $\theta^{-2}$ 隨 $\theta$ 遞減，所以概似函數在允許範圍內於最小的 $\theta$ 值取得最大值。最小的可行值為 $\theta=x$，因此

$$\widehat\theta_{\mathrm{MLE}}=x.$$

故最大概似估計量為

$$\boxed{\widehat\theta_{\mathrm{MLE}}=X_1}.$$

解題技巧

本題不必先取對數，也能直接觀察：

1. 支撐集要求 $\theta\ge x$；
2. 在 $\theta\ge x$ 的範圍內，$\frac{2x}{\theta^2}$ 隨 $\theta$ 遞減；
3. 因此選取最小可行值 $\theta=x$。

由於 $X_1>0$ 幾乎處處成立，$x=0$ 的情況為機率零事件，不影響最大概似估計量的通常定義。

---