108 年 國立清華大學統計學系碩士班《統計學》

核心觀念

1. 常態分配的分位數（Quantile of Normal Distribution）：
   若 $X_n \sim N(\mu, \sigma^2)$，將其標準化：
   $\frac{X_n - \mu}{\sigma} \sim N(0,1)$
   依題意 $Pr(X_n \le \theta) = 0.8$，可得：
   $Pr\left(\frac{X_n - \mu}{\sigma} \le \frac{\theta - \mu}{\sigma}\right) = \Phi\left(\frac{\theta - \mu}{\sigma}\right) = 0.8$
   兩邊取標準常態累積分布函數的反函數 $\Phi^{-1}(\cdot)$：
   $\frac{\theta - \mu}{\sigma} = \Phi^{-1}(0.8) \implies \theta = \mu + \sigma \Phi^{-1}(0.8)$

2. 最大概似估計量的不變性定理（Invariance Property of MLE）：
   若 $\hat{\theta}_{MLE}$ 為參數 $\theta$ 的最大概似估計量（MLE），則對於任何參數函數 $g(\theta)$，其 MLE 為 $\widehat{g(\theta)}_{MLE} = g(\hat{\theta}_{MLE})$。

3. 常態分配母體參數的 MLE：
   設 $X_1, X_2, \dots, X_n \overset{iid}{\sim} N(\mu, \sigma^2)$：

   • 母體平均數 $\mu$ 的 MLE 為：$\hat{\mu}_{MLE} = \bar{X}$
   • 母體變異數 $\sigma^2$ 的 MLE 為：$\hat{\sigma}^2_{MLE} = \hat{\sigma}^2_n = \frac{1}{n} \sum_{i=1}^n (X_i - \bar{X})^2$
   • 母體標準差 $\sigma$ 的 MLE 為：$\hat{\sigma}_{MLE} = \sqrt{\hat{\sigma}^2_n} = \sqrt{\frac{1}{n} \sum_{i=1}^n (X_i - \bar{X})^2}$

---

解題方法與詳細推導

步驟一：表示目標參數 $\theta$
由核心觀念可知，$\theta$ 可表示為母體參數 $\mu$ 與 $\sigma$ 的函數：
$\theta = g(\mu, \sigma) = \mu + \sigma \Phi^{-1}(0.8)$

核心觀念

1. 參數 $\theta$ 之定義與轉化：
   已知 $X_i \overset{i.i.d.}{\sim} N(\mu, \sigma^2)$，則標準化變量 $\frac{X_n - \mu}{\sigma} \sim N(0,1)$。
   根據題意 $Pr(X_n \le \theta) = 0.8$，可得：
   $Pr\left( \frac{X_n - \mu}{\sigma} \le \frac{\theta - \mu}{\sigma} \right) = 0.8 \implies \Phi\left( \frac{\theta - \mu}{\sigma} \right) = 0.8$
   因此 $\frac{\theta - \mu}{\sigma} = \Phi^{-1}(0.8) \implies \theta = \mu + z_{0.2} \sigma$（其中 $z_{0.2} = \Phi^{-1}(0.8)$ 為標準常態分佈之 80 百分位數）。

2. Lehmann-Scheffé 定理與 UMVUE：
   在常態母體 $N(\mu, \sigma^2)$ 中，樣本均數 $\bar{X}$ 與樣本變異數 $S^2$ 構成未知參數 $(\mu, \sigma^2)$ 的完備充分統計量（Complete Sufficient Statistic）。
   由 Lehmann-Scheffé 定理，若能找到完備充分統計量 $(\bar{X}, S)$ 的函數，使其為 $\theta$ 的不偏估計量，則該估計量即為均勻最小變異不偏估計量（UMVUE）。

3. 樣本標準差 $S$ 的期望值：
   由於 $\frac{(n-1)S^2}{\sigma^2} \sim \chi^2_{n-1} = \text{Gamma}\left( \frac{n-1}{2}, \frac{1}{2} \right)$，利用卡方分佈之動差性質可求得 $E[S]$：
   $E[S] = \sqrt{\frac{2}{n-1}} \frac{\Gamma(n/2)}{\Gamma((n-1)/2)} \sigma$

---

解題方法

1. 尋找未知母數 $\mu$ 與 $\sigma$ 的 UMVUE：
   • 由於 $E[\bar{X}] = \mu$，且 $\bar{X}$ 為完備充分統計量，故 $\bar{X}$ 即為 $\mu$ 的 UMVUE。
   • 為尋找 $\sigma$ 的 UMVUE，我們先計算 $E[S]$。令 $Y = \frac{(n-1)S^2}{\sigma^2} \sim \chi^2_{n-1}$，其概率密度函數（p.d.f.）為：
     $f_Y(y) = \frac{1}{2^{(n-1)/2} \Gamma((n-1)/2)} y^{\frac{n-1}{2} - 1} e^{-y/2}, \quad y > 0$
     求 $Y^{1/2}$ 的期望值：
     $E\left[Y^{1/2}\right] = \int_{0}^{\infty} y^{1/2} \frac{1}{2^{(n-1)/2} \Gamma((n-1)/2)} y^{\frac{n-1}{2} - 1} e^{-y/2} \, dy$
     $E\left[Y^{1/2}\right] = \frac{1}{2^{(n-1)/2} \Gamma((n-1)/2)} \int_{0}^{\infty} y^{\frac{n}{2} - 1} e^{-y/2} \, dy$

核心觀念

本題為虛無假設 $H_0: \theta = 2$ 對抗對立假設 $H_1: \theta = 0$ 的單一觀察值檢定問題。
目標為尋找一個拒絕域（Critical Region） $C \subseteq [0, 1]$，使得型一錯誤率 $\alpha$ 與型二錯誤率 $\beta$ 的線性組合 $\alpha + 2\beta$ 達到最小。

用到之主要定義與定理如下：

1. 型一錯誤率（$\alpha$）：當 $H_0$ 為真時，誤拒絕 $H_0$ 的機率，即 $\alpha = P(X \in C \mid \theta = 2)$。
2. 型二錯誤率（$\beta$）：當 $H_1$ 為真時，誤接受 $H_0$ 的機率，即 $\beta = P(X \notin C \mid \theta = 0)$。
3. Neyman-Pearson 檢定思想（似然比檢定結構）：
   欲使 $a\alpha + b\beta$（其中 $a, b > 0$）最小化，可將目標式表示為單一積分：
   $a\alpha + b\beta = a \int_{C} f(x; \theta=2) \, dx + b \int_{C^c} f(x; \theta=0) \, dx$
   利用 $\int_{C^c} f(x; 0) \, dx = 1 - \int_{C} f(x; 0) \, dx$，可得：
   $a\alpha + b\beta = b + \int_{C} \left[ a f(x; \theta=2) - b f(x; \theta=0) \right] dx$
   欲使上述積分最小化，當且僅當拒絕域 $C$ 包含所有滿足 integrand $< 0$ 的 $x$ 點，即：
   $a f(x; \theta=2) - b f(x; \theta=0) < 0 \iff \frac{f(x; \theta=2)}{f(x; \theta=0)} < \frac{b}{a}$

---

解題方法

1. 求出兩種假設下的母體機率密度函數（p.d.f.）：
   題目給定 $f(x; \theta) = 2(1-\theta)x + \theta$（$0 \le x \le 1$）。

   • 在 $H_0: \theta = 2$ 下：
     $f(x; \theta=2) = 2(1-2)x + 2 = -2x + 2 = 2(1-x)$
   • 在 $H_1: \theta = 0$ 下：
     $f(x; \theta=0) = 2(1-0)x + 0 = 2x$

2. 構建 $\alpha + 2\beta$ 之最小化條件：
   這裡 $a = 1, b = 2$。根據 Neyman-Pearson 最小化準則，最佳拒絕域 $C$ 應滿足：

核心觀念

本題考查假設檢定中第一類型錯誤機率 $\alpha = P(\text{Reject } H_0 \mid H_0 \text{ is true})$、第二類型錯誤機率 $\beta = P(\text{Fail to reject } H_0 \mid H_1 \text{ is true})$ 的計算與求極值問題（Minimization of linear combination of error probabilities）。

1. 母體機率密度函數 (p.d.f.)：
   • 在 $H_0: \theta = 2$ 下：$f(x; 2) = 2(1 - 2)x + 2 = 2 - 2x, \quad 0 \le x \le 1$。
   • 在 $H_1: \theta = 0$ 下：$f(x; 0) = 2(1 - 0)x + 0 = 2x, \quad 0 \le x \le 1$。
2. 拒絕域 (Critical Region / Rejection Region)：
   根據 Neyman-Pearson 檢定法（Neyman-Pearson Lemma）或概似比檢定（Likelihood Ratio Test），事態概似比為： $$\frac{f(x; 0)}{f(x; 2)} = \frac{2x}{2 - 2x} = \frac{x}{1 - x}$$ 由於 $\frac{x}{1-x}$ 在 $0 \le x < 1$ 上為對 $x$ 嚴格遞增函數，故最佳拒絕域的形式必為 $C = \{x \mid x > c\}$，其中 $c \in [0, 1]$ 為臨界值（Critical Value）。

---

解題方法

步驟一：將 $\alpha$ 與 $\beta$ 表示為臨界值 $c$ 的函數

設拒絕域為 $R = (c, 1]$，其中 $0 \le c \le 1$：

1. 第一類型錯誤機率 $\alpha(c)$：

   $$\alpha(c) = P(X > c \mid \theta = 2) = \int_c^1 (2 - 2x) \, dx = \left[ 2x - x^2 \right]_c^1 = (2 - 1) - (2c - c^2) = 1 - 2c + c^2 = (1 - c)^2$$

2. 第二類型錯誤機率 $\beta(c)$：

   $$\beta(c) = P(X \le c \mid \theta = 0) = \int_0^c 2x \, dx = \left[ x^2 \right]_0^c = c^2$$

步驟二：求目標函數 $g(c) = \alpha + 2\beta$ 的最小值

核心觀念

本題考查統計推論中假設檢定（Hypothesis Testing）的**奈曼－皮爾森定理（Neyman-Pearson Lemma, N-P Lemma）**與最佳臨界區域（Best Critical Region, BCR）的求法。

1. 單純假設檢定（Simple Hypothesis Testing）：
   $H_0: \theta = \theta_0 = 2$ 對決 $H_1: \theta = \theta_1 = 0$。兩者皆為單點假設（Simple hypotheses）。
2. Neyman-Pearson Lemma：
   在給定顯著水準 $\alpha$ 下，欲使型二錯誤機率 $\beta$ 最小化（即檢定力 $1 - \beta$ 最大化），最佳臨界區域 $C$ 的形式為概似比檢定（Likelihood Ratio Test, LRT）： $$LR(x) = \frac{f(x; \theta_1)}{f(x; \theta_0)} > k^* \quad \text{或同構之檢定統計量不等式}$$
3. 型一錯誤機率（Significance Level, $\alpha$）： $$\alpha = P(X \in C \mid H_0)$$

---

解題方法

Step 1：寫出 null 與 alternative 下的概率密度函數（p.d.f.）

給定 $f(x; \theta) = 2(1 - \theta)x + \theta, \quad 0 \le x \le 1$。

• 當 $H_0: \theta = 2$ 時： $$f(x; \theta = 2) = 2(1 - 2)x + 2 = -2x + 2 = 2(1 - x), \quad 0 \le x \le 1$$
• 當 $H_1: \theta = 0$ 時： $$f(x; \theta = 0) = 2(1 - 0)x + 0 = 2x, \quad 0 \le x \le 1$$

Step 2：利用 Neyman-Pearson Lemma 求解最佳臨界區域 $C$

根據 N-P Lemma，概似比為：

$$\frac{f(x; \theta = 0)}{f(x; \theta = 2)} = \frac{2x}{2(1 - x)} = \frac{x}{1 - x} > k^*$$

由於函數 $g(x) = \frac{x}{1 - x}$ 在 $0 \le x < 1$ 區間內為嚴格遞增函數，因此 $\frac{x}{1 - x} > k^*$ 等價於：

$$x > c \quad (\text{其中 } 0 < c < 1 \text{ 為待定常數})$$

故最佳臨界區域 $C = \{x \mid x > c\}$。

Step 3：由顯著水準 $\alpha$ 求解臨界值 $c$

已知 $\alpha = P(X \in C \mid H_0 = 2)$：

$$\alpha = \int_{c}^{1} f(x; \theta = 2) \, dx = \int_{c}^{1} 2(1 - x) \, dx$$

計算定積分：

$$\int_{c}^{1} 2(1 - x) \, dx = \left[ 2x - x^2 \right]_{c}^{1} = (2 - 1) - (2c - c^2) = 1 - 2c + c^2 = (1 - c)^2$$

故有：

$$(1 - c)^2 = \alpha \implies 1 - c = \sqrt{\alpha} \implies c = 1 - \sqrt{\alpha}$$

核心觀念

本題的核心觀念為單尾常態分配母體均值假設檢定的**均勻最強檢定力檢定（Uniformly Most Powerful Test, UMP Test）與拒絕域（Critical Region）**的推導。

1. 抽樣分配：設 $X_1, X_2, X_3, X_4 \stackrel{\text{i.i.d.}}{\sim} N(\mu, \sigma^2)$，已知樣本數 $n=4$，母體標準差 $\sigma = 1$。則樣本平均數 $\bar{X} \sim N\left(\mu, \frac{\sigma^2}{n}\right) = N\left(\mu, \frac{1}{4}\right)$。
2. 單調概似比（Monotone Likelihood Ratio, MLR）與 Karlin-Rubin 定理：對於常態分配 $N(\mu, 1)$，其機率密度函數具有單調概似比性質。針對單尾假設 $H_0: \mu \ge \mu_0$ vs $H_1: \mu < \mu_0$，UMP 檢定的最佳拒絕域形式為：
   $C = \{\bar{X} \le c\}$
3. 檢定顯著水準（Size of the test, $\alpha$）：當真正的 $\mu = 10$（即在臨界邊界）時，型一錯誤率達到最大值：
   $P(\bar{X} \le c \mid \mu = 10) = \alpha = 0.1$

---

解題方法與推導

第一步：標準化樣本平均數
當 $\mu = 10$ 時，$\bar{X} \sim N(10, 0.25)$，標準標準差為 $\sqrt{\frac{1}{4}} = 0.5$。
將 $\bar{X}$ 進行標準化：
$Z = \frac{\bar{X} - 10}{\sqrt{1/4}} = \frac{\bar{X} - 10}{0.5} \sim N(0, 1)$

第二步：求臨界值 $c$
根據拒絕域定義與顯著水準條件：

核心觀念

本題考驗單尾常態分配母體均值檢定中的**均勻最強力檢定（Uniformly Most Powerful Test, UMP Test）及其檢定力（Power）**計算。

1. 極小化第一型錯誤與最控制：
   當母體分配為常態分配 $N(\mu, \sigma^2)$，且變異數 $\sigma^2 = 1$ 已知、樣本數為 $n = 4$ 時，考慮假設檢定：
   $H_0: \mu \ge 10 \quad \text{vs.} \quad H_1: \mu < 10$
   根據 Neyman-Pearson 樞紐定理（Neyman-Pearson Lemma）與單調概似比（Monotone Likelihood Ratio, MLR）性質，此單尾檢定在顯著水準 $\alpha$ 下的 UMP 拒絕域型態為：
   $\text{Reject } H_0 \iff \bar{X} \le c$
   其中 $\bar{X} = \frac{1}{n} \sum_{i=1}^{n} X_i \sim N\left(\mu, \frac{\sigma^2}{n}\right) = N\left(\mu, \frac{1}{4}\right)$。

2. 臨界值與標準化：
   在邊界點 $\mu = 10$ 下，標準化檢定統計量為：
   $Z = \frac{\bar{X} - 10}{\sqrt{1/4}} = 2(\bar{X} - 10) \sim N(0, 1)$
   預設的傳統顯著水準通常為 $\alpha = 0.05$。對應單尾標準常態分配臨界值為 $z_{0.05} = 1.645$（若取 $z_{0.1} = 1.282$），使得：
   $P_{\mu=10}(\bar{X} \le c) = P\left(Z \le 2(c - 10)\right) = \alpha$

3. 檢定力（Power）定義：
   在特定對立假設對應的參數值 $\mu = 9$ 下，拒絕虛無假設 $H_0$ 的機率即為檢定力：
   $\text{Power}(\mu=9) = P_{\mu=9}(\text{Reject } H_0) = P_{\mu=9}(\bar{X} \le c)$

---

解題方法

首先明確檢定統計量在不同 $\mu$ 下的分配情形：
樣本數 $n = 4$，變異數 $\sigma^2 = 1$，故樣本平均數標準差（Standard Error）為 $\sigma_{\bar{X}} = \frac{\sigma}{\sqrt{n}} = \frac{1}{\sqrt{4}} = 0.5$。

1. 確定顯著水準與拒絕域：
   在研究所統計學考古題中，當題目未明確給定顯著水準 $\alpha$ 時，通常觀察選項數值。選項出現常態分配累積機率數值 $\Phi(-1.282)$、$\Phi(0.718)$、$\Phi(1.282)$ 等，其中 $1.282$ 為標準常態分配的上 $10\%$ 分位數，即 $z_{0.10} = 1.282$（使得 $P(Z > 1.282) = 0.10$ 或 $P(Z \le -1.282) = 0.10$）。
   由此可知，本題設定之顯著水準為 $\alpha = 0.10$。

核心觀念

本題考查假設檢定（Hypothesis Testing）中之不拒絕域與型二錯誤概率（或接受 $H_0$ 之概率）。關鍵觀念與公式如下：

1. 樣本平均數之抽樣分配：
   若獨立隨機抽樣 $X_1, X_2, \dots, X_n \overset{iid}{\sim} N(\mu, \sigma^2)$，則樣本平均數 $\bar{X} \sim N\left(\mu, \frac{\sigma^2}{n}\right)$。
   本題中 $n = 4$、$\sigma^2 = 1$，故標準誤（Standard Error, $SE$）為：
   $SE(\bar{X}) = \frac{\sigma}{\sqrt{n}} = \frac{1}{\sqrt{4}} = 0.5$

2. 左尾檢定之拒絕域與臨界值：
   對假設 $H_0: \mu \ge 10$ vs $H_1: \mu < 10$，於顯著水準 $\alpha$（一般常見標準水準 $\alpha = 0.10$ 時，$z_{0.10} \approx 1.282$）下，檢定統計量為 $Z = \frac{\bar{X} - 10}{0.5}$。
   拒絕 $H_0$ 的區域為 $Z \le -z_{\alpha}$，意即 $\bar{X} \le 10 - z_{\alpha} \times 0.5$；不拒絕 $H_0$ 的區域（Acceptance Region）則為：
   $\bar{X} > 10 - z_{\alpha} \times 0.5$

3. 標準常態累積分布函數（CDF）性質：
   設 $Z \sim N(0, 1)$，其累積分布函數記為 $\Phi(z) = P(Z \le z)$。由常態分配之對稱性可得：
   $P(Z > -z) = 1 - \Phi(-z) = \Phi(z)$

---

解題方法

步驟一：求出不拒絕 $H_0$ 的臨界條件（以 $\alpha = 0.10$ 為例）

考慮標準臨界值 $z_{0.10} = 1.282$，當假定邊界值 $\mu_0 = 10$ 時：
拒絕 $H_0$ 之臨界值 $c$ 為：
$c = 10 - z_{0.10} \times SE(\bar{X}) = 10 - 1.282 \times 0.5 = 9.359$
因此，不拒絕 $H_0$ 的事件即為 $\{\bar{X} > 9.359\}$。

步驟二：計算當真實母體平均數 $\mu = 11$ 時，不拒絕 $H_0$ 的機率

當真實參數為 $\mu = 11$ 時，樣本平均數服從 $\bar{X} \sim N(11, 0.5^2)$。將 $\bar{X}$ 標準化：

核心觀念

本題考查貝氏統計（Bayesian Statistics）中**事後機率密度函數（Posterior Distribution）**的推導與計算。

關鍵公式與定義如下：

1. 聯合機率密度函數（Joint p.d.f.）：
   $f(x, \theta) = f(x|\theta) \xi(\theta)$
2. 邊際機率密度函數（Marginal p.d.f. of $X$）：
   $f_X(x) = \int_{\theta} f(x, \theta) d\theta$
3. 事後機率密度函數（Posterior p.d.f. of $\theta|X$）：
   $\xi(\theta|x) = \frac{f(x, \theta)}{f_X(x)} \propto f(x|\theta) \xi(\theta)$

---

解題方法與推導過程

步驟一：確定母體似然函數與先驗分佈的支援集（Support）

• 似然函數（Likelihood）：
  $f(x|\theta) = \frac{1}{\theta} \mathbb{I}_{(0, \theta)}(x) = \frac{1}{\theta} \mathbb{I}_{(\theta > x > 0)}$
• 先驗分佈（Prior）：
  $\xi(\theta) = \theta e^{-\theta} \mathbb{I}_{(0, \infty)}(\theta)$

注意：給定觀測值 $X = x$ 後，由於 $0 < x < \theta$，因此 $\theta$ 的有效範圍必須滿足 $\theta > x > 0$。

步驟二：求 $X$ 與 $\theta$ 的聯合分佈 $f(x, \theta)$
在 $\theta > x > 0$ 的條件下：
$f(x, \theta) = f(x|\theta) \xi(\theta) = \left( \frac{1}{\theta} \right) \cdot \left( \theta e^{-\theta} \right) = e^{-\theta}$
即聯合密度函數為：
$f(x, \theta) = e^{-\theta}, \quad \text{for } 0 < x < \theta$

步驟三：求 $X$ 的邊際密度函數 $f_X(x)$
對於給定的 $x > 0$，對 $\theta$ 從 $x$ 到 $\infty$ 進行積分：

核心觀念

1. Bayes Estimator（貝氏估計量）與平方誤差損失函數（Squared Error Loss）：
   在平方誤差損失 $L(\theta, \hat{\theta}) = (\theta - \hat{\theta})^2$ 下，貝氏估計量（Bayes Estimator）即為後驗分配（Posterior Distribution）的期望值（Posterior Mean）：
   $\hat{\theta}_{\text{Bayes}} = E[\theta \mid X]$

2. Bayes' Theorem for Continuous Random Variables（貝氏定理）：
   已知母體檢定分配（似然函數 Likelihood）為 $f(x \mid \theta)$，先前分配（Prior Distribution）為 $\xi(\theta)$。

   • 聯合機率密度函數（Joint p.d.f.）：
     $f(x, \theta) = f(x \mid \theta) \cdot \xi(\theta)$
   • 邊際機率密度函數（Marginal p.d.f. of $X$）：
     $f_X(x) = \int_{\Theta} f(x, \theta) \, d\theta$
   • 後驗機率密度函數（Posterior p.d.f. of $\theta \mid X$）：
     $\pi(\theta \mid x) = \frac{f(x, \theta)}{f_X(x)} = \frac{f(x \mid \theta) \xi(\theta)}{\int f(x \mid \theta) \xi(\theta) d\theta}$

3. 支撐集（Support）的限制：

   • 母體分配限制：$0 < x < \theta$，意味著當觀察值 $x$ 給定時，$\theta$ 的可行範圍必須滿足 $\theta > x$。
   • 先前分配限制：$\theta > 0$。
   • 綜合兩者，後驗分配中 $\theta$ 的積分與定義域範圍為 $\theta \in (x, \infty)$。

---

解題方法

Step 1：設定似然函數與先前分配

根據題意：

• 似然函數：$f(x \mid \theta) = \frac{1}{\theta} \cdot \mathbb{I}_{(x < \theta)}$
• 先前分配：$\xi(\theta) = \theta e^{-\theta} \cdot \mathbb{I}_{(\theta > 0)}$

Step 2：求聯合機率密度函數 $f(x, \theta)$

當 $\theta > x > 0$ 時：
$f(x, \theta) = f(x \mid \theta) \cdot \xi(\theta) = \left( \frac{1}{\theta} \right) \cdot (\theta e^{-\theta}) = e^{-\theta}$

Step 3：求觀察值 $X$ 的邊際機率密度函數 $f_X(x)$

對 $\theta$ 進行積分，注意積分下限為 $\theta = x$（因為 $\theta > x$）：
$f_X(x) = \int_{x}^{\infty} e^{-\theta} \, d\theta = \left[ -e^{-\theta} \right]_{x}^{\infty} = 0 - (-e^{-x}) = e^{-x}, \quad \text{for } x > 0$

Step 4：求後驗機率密度函數 $\pi(\theta \mid x)$

當 $\theta > x > 0$ 時：

核心觀念

1. 貝氏估計量（Bayes Estimator）與損失函數（Loss Function）：
   在貝氏統計中，給定觀察值 $X = x$ 時，未知參數 $\theta$ 的貝氏估計量 $\hat{\theta}(x)$ 取決於採用的損失函數：

   • 在絕對誤差損失（Absolute Error Loss） $L(\theta, \hat{\theta}) = |\theta - \hat{\theta}|$ 下，貝氏估計量為 $\theta$ 後驗分配（Posterior Distribution）的中位數（Median）。
   • 在平方誤差損失（Squared Error Loss） $L(\theta, \hat{\theta}) = (\theta - \hat{\theta})^2$ 下，貝氏估計量為 $\theta$ 後驗分配的期望值（Mean）。

2. 後驗機率密度函數（Posterior p.d.f.）：
   根據貝氏定理，後驗密度函數正比於概似函數與先驗密度函數的乘積：

   $$\xi(\theta|x) \propto f(x|\theta) \xi(\theta)$$

   需注意聯合定義域：

   • 概似函數：$f(x|\theta) = \frac{1}{\theta} \mathbb{I}_{(0, \theta)}(x) = \frac{1}{\theta} \mathbb{I}_{(x, \infty)}(\theta)$
   • 先驗密度：$\xi(\theta) = \theta e^{-\theta} \mathbb{I}_{(0, \infty)}(\theta)$
     當給定觀察值 $X = x > 0$ 時，$\theta$ 的範圍限制為 $\theta > x$。

---

解題方法

步驟一：求出後驗分配 $\xi(\theta|x)$

給定觀察值 $X = x$（其中 $x > 0$），聯合機率密度函數（或未標準化的後驗密度）為：

$$\xi(\theta|x) \propto f(x|\theta) \xi(\theta) = \frac{1}{\theta} \cdot \left( \theta e^{-\theta} \right) = e^{-\theta}, \quad \text{for } \theta > x$$

計算邊際機率密度 $f(x)$ 作為歸一化常數（Normalizing Constant）：

$$f(x) = \int_{x}^{\infty} e^{-\theta} d\theta = \left[ -e^{-\theta} \right]_{x}^{\infty} = e^{-x}$$

因此，給定 $X = x$ 時，$\theta$ 的條件後驗機率密度函數（Posterior p.d.f.）為：

$$\xi(\theta|x) = \frac{e^{-\theta}}{e^{-x}} = e^{-(\theta - x)}, \quad \text{for } \theta > x$$

核心觀念

本題考驗點估計理論中**費雪訊息量（Fisher Information）**的定義與性質計算。

1. 單一觀測值的費雪訊息量 $I_1(\mu)$：
   對單一隨機變數 $X_i \sim N(\mu, 1)$，其對數概似函數（log-likelihood function）對參數 $\mu$ 的二階微分負期望值為： $$I_1(\mu) = -E\left[ \frac{\partial^2}{\partial \mu^2} \ln f(X; \mu) \right] = E\left[ \left( \frac{\partial}{\partial \mu} \ln f(X; \mu) \right)^2 \right]$$
2. 隨機樣本（Random Sample）的費雪訊息量 $I_n(\mu)$：
   若 $X_1, X_2, \dots, X_n$ 為來自同一分配的獨立同分配（i.i.d.）隨機樣本，則整體樣本長度為 $n$ 的費雪訊息量具有可加性（Additivity）： $$I_n(\mu) = n \cdot I_1(\mu)$$

---

解題方法

步驟一：寫出單一觀測值 $X_i$ 的機率密度函數與對數概似函數

單一觀測值 $X_i \sim N(\mu, 1)$ 的機率密度函數（pdf）為：

$$f(x_i; \mu) = \frac{1}{\sqrt{2\pi}} \exp\left( -\frac{(x_i - \mu)^2}{2} \right)$$

取對數得到對數概似函數：

$$\ln f(x_i; \mu) = -\frac{1}{2}\ln(2\pi) - \frac{(x_i - \mu)^2}{2}$$

步驟二：求對數概似函數對 $\mu$ 的一階與二階偏微分

對參數 $\mu$求一階偏微分（Score function）：

$$\frac{\partial}{\partial \mu} \ln f(x_i; \mu) = x_i - \mu$$

再對 $\mu$ 求二階偏微分：

$$\frac{\partial^2}{\partial \mu^2} \ln f(x_i; \mu) = -1$$

核心觀念

本題考查勞-克拉美下界（Rao-Cramér Lower Bound, RCLB）（又稱 Cramér-Rao Lower Bound, CRLB）的計算。

1. 費雪訊息量（Fisher Information）：
   對於單一觀察值 $X \sim f(x; \theta)$，其 Fisher Information 為：
   $I(\theta) = -E\left[ \frac{\partial^2}{\partial \theta^2} \ln f(X; \theta) \right] = E\left[ \left( \frac{\partial}{\partial \theta} \ln f(X; \theta) \right)^2 \right]$
   隨機樣本大小為 $n$ 時，總訊息量為 $n I(\theta)$。

2. 參數函數之 Rao-Cramér Lower Bound：
   設 $g(\mu)$ 為參數 $\mu$ 的可微函數，對於 $g(\mu)$ 的任意無偏估計量 $W$（即 $E[W] = g(\mu)$），其變異數的下界為：
   $\text{RCLB}[g(\mu)] = \frac{[g'(\mu)]^2}{n I(\mu)}$

---

解題方法

步驟一：求單一觀察值的 Fisher Information $I(\mu)$

母體 $X \sim N(\mu, 1)$ 的機率密度函數（PDF）為：
$f(x; \mu) = \frac{1}{\sqrt{2\pi}} \exp\left( -\frac{(x - \mu)^2}{2} \right)$

對 PDF 取對數：
$\ln f(x; \mu) = -\frac{1}{2}\ln(2\pi) - \frac{(x - \mu)^2}{2}$

對 $\mu$ 偏微分：
$\frac{\partial}{\partial \mu} \ln f(x; \mu) = x - \mu$

再對 $\mu$ 做二次偏微分：
$\frac{\partial^2}{\partial \mu^2} \ln f(x; \mu) = -1$

計算 Fisher Information：

核心觀念

本題旨在求取常態母體平均數平方 $\mu^2$ 的均勻最小變異不偏估計量（Uniformly Minimum Variance Unbiased Estimator, UMVUE）。
主要使用的統計學定理與公式如下：

1. 不偏估計量（Unbiased Estimator）：若估計量 $T$ 滿足 $E(T) = \theta$，則 $T$ 為 $\theta$ 的不偏估計量。
2. 樣本平均數的抽樣分配：若 $X_1, \dots, X_n \overset{iid}{\sim} N(\mu, 1)$，則樣本平均數 $\bar{X} = \frac{1}{n}\sum_{i=1}^n X_i \sim N\left(\mu, \frac{1}{n}\right)$。
3. 期望值與變異數之關係公式：對任意隨機變數 $Y$，有 $E(Y^2) = V(Y) + [E(Y)]^2 \implies [E(Y)]^2 = E(Y^2) - V(Y)$。
4. Lehmann-Scheffé 定理與完備充分統計量（Complete Sufficient Statistic）：正態母體 $N(\mu, 1)$ 的完備充分統計量為 $\bar{X}$（或 $\sum X_i$）。根據 Lehmann-Scheffé 定理，若能找到完備充分統計量 $\bar{X}$ 的函數 $g(\bar{X})$ 滿足 $E[g(\bar{X})] = \mu^2$，則 $g(\bar{X})$ 即為 $\mu^2$ 唯一的 UMVUE。

---

解題方法

1. 尋找完備充分統計量：
   母體分配為 $N(\mu, 1)$，屬於單參數指數族（Exponential Family）。其機率密度函數可表示為：
   $f(x; \mu) = \frac{1}{\sqrt{2\pi}} \exp\left\{ -\frac{(x-\mu)^2}{2} \right\} = \frac{1}{\sqrt{2\pi}} \exp\left( -\frac{x^2}{2} - \frac{\mu^2}{2} \right) \cdot \exp(\mu x)$
   因此，聯合機率密度函數中與參數 $\mu$ 相關的項為 $\exp\left(\mu \sum_{i=1}^n X_i\right)$。由因子分解定理與指數族的性質可知，$\bar{X}$ 為 $\mu$ 的完備充分統計量。

2. 推導 $\bar{X}^2$ 的期望值：
   已知 $\bar{X} \sim N\left(\mu, \frac{1}{n}\right)$，其期望值與變異數分別為：

   • $E(\bar{X}) = \mu$
   • $V(\bar{X}) = \frac{1}{n}$