本題旨在證明隨機變數的 $p$ 次絕對動差（p-th absolute moment）與其累積分布函數（CDF）的關係。核心概念是利用積分的變數替換和機率測度的性質。

證明過程如下：
令 $Y = |X|^p$。由於 $p > 0$，則 $Y \ge 0$。
我們知道對於一個非負隨機變數 $Y$，其期望值可以表示為：
$E[Y] = \int_0^\infty \Pr(Y > y) dy$
將 $Y = |X|^p$ 代入上式，得到：
$E[|X|^p] = \int_0^\infty \Pr(|X|^p > y) dy$
令 $y = t^p$。

本題是關於條件期望的性質，特別是全期望法則（Law of Total Expectation）和條件變異數（Conditional Variance）與總變異數（Total Variance）的關係，以及其與相關係數的連結。

核心觀念：

1. 全期望法則: $E[Y] = E[E[Y|Z]]$
2. 全變異數法則: $\text{Var}(Y) = E[\text{Var}(Y|Z)] + \text{Var}(E[Y|Z])$
3. 相關係數定義: $\text{Corr}(U, V) = \frac{\text{Cov}(U, V)}{\sqrt{\text{Var}(U)\text{Var}(V)}}$
4. 最佳線性預測（BLP）與條件期望的關係: 如果 $Y$ 和 $Z$ 之間存在線性關係，則 $E[Y|Z]$ 是 $Y$ 對 $Z$ 的最佳預測。更一般地，對於給定的 $Z$， $E[Y|Z]$ 是 $Y$ 的最佳預測。

證明步驟：

第一部分：證明 $\text{Var}(\mu(Z)) = \text{Corr}^2(Y, \mu(Z)) \text{Var}(Y)$

由全變異數法則，我們有：
$\text{Var}(Y) = E[\text{Var}(Y|Z)] + \text{Var}(E[Y|Z])$
令 $\mu(Z) = E[Y|Z]$。則上式變為：
$\text{Var}(Y) = E[\text{Var}(Y|Z)] + \text{Var}(\mu(Z))$
由於 $\text{Var}(Y|Z) \ge 0$，我們有 $E[\text{Var}(Y|Z)] \ge 0$。
因此，$\text{Var}(Y) \ge \text{Var}(\mu(Z))$。

現在我們需要計算 $\text{Cov}(Y, \mu(Z))$。
$\text{Cov}(Y, \mu(Z)) = E[Y \mu(Z)] - E[Y] E[\mu(Z)]$
利用全期望法則：
$E[Y] = E[E[Y|Z]] = E[\mu(Z)]$。
所以，
$\text{Cov}(Y, \mu(Z)) = E[Y \mu(Z)] - (E[\mu(Z)])^2$
另外，
$E[Y \mu(Z)] = E[E[Y \mu(Z) | Z]]$
由於 $\mu(Z)$ 是 $Z$ 的函數，可以提到條件期望外面：
$E[Y \mu(Z)] = E[\mu(Z) E[Y | Z]] = E[\mu(Z) \mu(Z)] = E[\mu(Z)^2]$
所以，
$\text{Cov}(Y, \mu(Z)) = E[\mu(Z)^2] - (E[\mu(Z)])^2 = \text{Var}(\mu(Z))$

現在計算相關係數的平方：
$\text{Corr}^2(Y, \mu(Z)) = \frac{\text{Cov}(Y, \mu(Z))^2}{\text{Var}(Y) \text{Var}(\mu(Z))} = \frac{(\text{Var}(\mu(Z)))^2}{\text{Var}(Y) \text{Var}(\mu(Z))}$
$\text{Corr}^2(Y, \mu(Z)) = \frac{\text{Var}(\mu(Z))}{\text{Var}(Y)}$
從這個等式，我們可以直接得到：
$\frac{\text{Var}(\mu(Z))}{\text{Var}(Y)} = \text{Corr}^2(Y, \mu(Z))$
這個等式成立的前提是 $\text{Var}(Y) > 0$ 且 $\text{Var}(\mu(Z)) > 0$。如果 $\text{Var}(Y) = 0$，則 $Y$ 是常數，所有期望和變異數都為零，公式仍成立（0/0 通常定義為 1，但若 Y 是常數，Y 和任何函數 g(Z) 的相關係數也是 0，所以 Corr^2 也是 0，公式 0/0 = 0 似乎有問題，但通常會假設 Y 不是常數）。如果 $\text{Var}(\mu(Z)) = 0$，則 $\mu(Z)$ 是常數，表示 $E[Y|Z]$ 是常數，這意味著 $Y$ 的值不依賴於 $Z$。此時 $\text{Var}(Y) = E[\text{Var}(Y|Z)]$，且 $\text{Cov}(Y, \mu(Z)) = 0$，$\text{Corr}^2=0$。公式 $\frac{0}{\text{Var}(Y)}=0$ 成立。

第二部分：證明 $\text{Corr}^2(Y, \mu(Z)) = \sup_{g \in L^2(Z)} \text{Corr}^2(Y, g(Z))$

核心觀念

本題考查：

1. 期望值的線性性與無偏估計量定義。
2. 獨立隨機樣本所造成的變異數可加性。
3. 均方誤差公式
   $\operatorname{MSE}(\hat{\theta})=\operatorname{Var}(\hat{\theta})+\operatorname{Bias}(\hat{\theta})^2.$
4. 共變異數與相關係數的關係
   $\operatorname{Cov}(Y,f(X))=\rho_{Y,f(X)}\sigma_Y\sigma_{f(X)}.$

令

$$\mu_f=E[f(X)],\qquad \sigma_f^2=\operatorname{Var}(f(X)),\qquad \sigma_Y^2=\operatorname{Var}(Y).$$

由於兩組樣本來自同一母體，$\tilde X$ 與 $X$ 具有相同分布，因此

$$E[f(\tilde X)]=E[f(X)]=\mu_f.$$

---

（a）證明 $\hat{\theta}$ 為 $\theta=E(Y)$ 的無偏估計量

題目中的估計量為

$$\hat{\theta} = \frac{1}{N}\sum_{i=1}^N f(\tilde X_i) + \frac{1}{n}\sum_{j=1}^n\bigl(Y_j-f(X_j)\bigr).$$

利用期望值的線性性，

$$E(\hat{\theta}) = E\left[\frac{1}{N}\sum_{i=1}^N f(\tilde X_i)\right] + E\left[\frac{1}{n}\sum_{j=1}^n\bigl(Y_j-f(X_j)\bigr)\right].$$

因為 $\tilde X_i$ 為同分布樣本，

$$E\left[\frac{1}{N}\sum_{i=1}^N f(\tilde X_i)\right] = \frac{1}{N}\sum_{i=1}^N E[f(\tilde X_i)] = \mu_f.$$

同理，

$$E\left[\frac{1}{n}\sum_{j=1}^n\bigl(Y_j-f(X_j)\bigr)\right] = E[Y-f(X)] = E(Y)-E[f(X)] = \theta-\mu_f.$$

因此

$$E(\hat{\theta}) = \mu_f+(\theta-\mu_f) = \theta.$$

所以

$$\boxed{E(\hat{\theta})=\theta}$$

故 $\hat{\theta}$ 是 $\theta=E(Y)$ 的無偏估計量。

---

（b）使 $\hat{\theta}$ 的 MSE 小於 $\bar Y_n$ 的相關係數條件

由（a）知 $\hat{\theta}$ 無偏，因此

$$\operatorname{MSE}(\hat{\theta}) = \operatorname{Var}(\hat{\theta}).$$

估計量的兩部分分別來自兩組獨立樣本，因此兩部分獨立，變異數可以直接相加：

$$\operatorname{Var}(\hat{\theta}) = \operatorname{Var}\left(\frac{1}{N}\sum_{i=1}^N f(\tilde X_i)\right) + \operatorname{Var}\left(\frac{1}{n}\sum_{j=1}^n(Y_j-f(X_j))\right).$$

第一部分為

$$\operatorname{Var}\left(\frac{1}{N}\sum_{i=1}^N f(\tilde X_i)\right) = \frac{\sigma_f^2}{N}.$$

第二部分為

核心觀念

本題考查：

1. 充分統計量與完備統計量。
2. Lehmann–Scheffé 定理：若某估計量是完備充分統計量的函數，且對目標參數不偏，則必為 UMVUE。
3. 常態分配指數函數之期望。
4. Cramér–Rao lower bound（CRLB）及其與實際變異數的比較。

令

$$\bar X=\frac{1}{n}\sum_{i=1}^n X_i.$$

因為

$$\bar X\sim N\left(\mu,\frac{\sigma^2}{n}\right).$$

---

解題方法

（a）求 $\theta=e^{t\mu}$ 的 UMVUE

第一步：找完備充分統計量

樣本聯合密度為

$$f(\boldsymbol{x};\mu) =(2\pi\sigma^2)^{-n/2} \exp\left\{-\frac{1}{2\sigma^2}\sum_{i=1}^n(x_i-\mu)^2\right\}.$$

整理與 $\mu$ 有關的部分：

$$f(\boldsymbol{x};\mu) =h(\boldsymbol{x}) \exp\left\{ \frac{\mu}{\sigma^2}\sum_{i=1}^n x_i -\frac{n\mu^2}{2\sigma^2} \right\}.$$

由 Neyman–Fisher factorization theorem，

$$T=\sum_{i=1}^n X_i$$

是 $\mu$ 的充分統計量，因此 $\bar X$ 也是充分統計量。

這是自然參數空間為整個 $\mathbb{R}$ 的一參數滿秩指數族，因此 $T$ 為完備統計量；相應地，$\bar X$ 也是完備充分統計量。

---

第二步：建構不偏估計量

由

$$\bar X\sim N\left(\mu,\frac{\sigma^2}{n}\right),$$

若 $Y\sim N(m,v)$，則

$$E(e^{aY})=\exp\left(am+\frac{a^2v}{2}\right).$$

取 $a=t$，得到

$$E_\mu(e^{t\bar X}) = \exp\left( t\mu+\frac{t^2\sigma^2}{2n} \right).$$

因此修正常數後，

$$\widehat\theta = \exp\left(-\frac{t^2\sigma^2}{2n}\right)e^{t\bar X} = \exp\left( t\bar X-\frac{t^2\sigma^2}{2n} \right).$$

其期望為

$$E_\mu(\widehat\theta) = \exp\left(-\frac{t^2\sigma^2}{2n}\right) E_\mu(e^{t\bar X}) = e^{t\mu} = \theta.$$

故 $\widehat\theta$ 是 $\theta$ 的不偏估計量，且它是完備充分統計量 $\bar X$ 的函數。依 Lehmann–Scheffé 定理，$\widehat\theta$ 即為 UMVUE。

---

（b）變異數是否達到 CRLB？

第一步：計算 UMVUE 的變異數

先計算二次矩：

$$E_\mu(\widehat\theta^2) = E_\mu\left[ \exp\left( 2t\bar X-\frac{t^2\sigma^2}{n} \right) \right].$$

由常態分配指數函數期望公式，

$$E_\mu(e^{2t\bar X}) = \exp\left( 2t\mu+\frac{(2t)^2}{2}\frac{\sigma^2}{n} \right) = \exp\left( 2t\mu+\frac{2t^2\sigma^2}{n} \right).$$

所以

$$E_\mu(\widehat\theta^2) = \exp\left( 2t\mu+\frac{t^2\sigma^2}{n} \right).$$

又因為

$$E_\mu(\widehat\theta)=e^{t\mu},$$

故

$$\operatorname{Var}_\mu(\widehat\theta) = E_\mu(\widehat\theta^2)-\left[E_\mu(\widehat\theta)\right]^2.$$

因此

核心觀念

本題考查：

1. 以概似比統計量建立 LR test。
2. 指數分布尺度參數的最大概似估計。
3. 利用比例統計量
   $R=\frac{X_1}{X_1+X_2}$
   消除共同尺度參數。
4. 在虛無假設為複合假設時，確認檢定的最大型一錯誤率發生在哪個邊界點。

聯合概似函數為

$$L(\theta_1,\theta_2) = \frac{1}{\theta_1\theta_2} \exp\left(-\frac{x_1}{\theta_1}-\frac{x_2}{\theta_2}\right), \qquad x_1,x_2>0.$$

令

$$\gamma=\frac{\theta_1}{\theta_2}, \qquad \theta_1=\gamma\theta_2.$$

---

比例統計量的分布

令

$$R=\frac{X_1}{X_1+X_2}, \qquad S=X_1+X_2.$$

則

$$X_1=RS,\qquad X_2=(1-R)S,$$

且轉換的 Jacobian 為 $S$。

將 $\theta_1=\gamma\theta_2$ 代入聯合密度，可得

$$f_{R,S}(r,s) = \frac{s}{\gamma\theta_2^2} \exp\left[ -\frac{s}{\theta_2} \left(\frac{r}{\gamma}+1-r\right) \right].$$

對 $s$ 積分後，得到

$$f_R(r;\gamma) = \frac{\gamma} {\left[r+\gamma(1-r)\right]^2}, \qquad 0<r<1.$$

特別地，在 $\gamma=1$ 時，

$$f_R(r;1)=1,\qquad 0<r<1,$$

所以

$$R\mid(\gamma=1)\sim \operatorname{Uniform}(0,1).$$

其累積分布函數為

$$F_R(r;\gamma) = \frac{r}{r+\gamma(1-r)}.$$

因此

$$P_\gamma(R>c) = 1-F_R(c;\gamma) = \frac{\gamma(1-c)} {c+\gamma(1-c)}.$$

---

(a) $H_0:\gamma=1$ 對 $H_1:\gamma\neq 1$

解題方法

此處使用概似比檢定：

$$\Lambda(x_1,x_2) = \frac{\displaystyle\sup_{\theta_1=\theta_2=\theta}L(\theta,\theta)} {\displaystyle\sup_{\theta_1>0,\theta_2>0}L(\theta_1,\theta_2)}.$$

分母：不受限制下的最大概似

對 $\theta_1,\theta_2$ 分別最大化，得到

$$\widehat{\theta}_1=X_1,\qquad \widehat{\theta}_2=X_2.$$

所以

$$\sup L = \frac{1}{X_1X_2}e^{-2}.$$

分子：在 $H_0$ 下的最大概似

在 $H_0:\theta_1=\theta_2=\theta$ 下，

$$L_0(\theta) = \frac{1}{\theta^2} \exp\left(-\frac{x_1+x_2}{\theta}\right).$$

其最大概似估計為

$$\widehat{\theta}_0=\frac{x_1+x_2}{2}.$$

因此

$$\sup_{H_0}L = \frac{4}{(x_1+x_2)^2}e^{-2}.$$

故概似比統計量為

$$\Lambda = \frac{4x_1x_2}{(x_1+x_2)^2}.$$

以

$$R=\frac{X_1}{X_1+X_2}$$

表示時，

$$\Lambda=4R(1-R).$$

當 $R$ 接近 $0$ 或 $1$ 時，$\Lambda$ 很小，表示兩個尺度參數差異很大，因此應拒絕 $H_0$。

臨界區

在 $H_0$ 下，$R\sim\operatorname{Uniform}(0,1)$。由於檢定為雙尾檢定，令

$$P_0(R<c)+P_0(R>1-c)=\alpha.$$

因為 $R$ 在 $(0,1)$ 上均勻分布，

$$2c=\alpha, \qquad c=\frac{\alpha}{2}.$$

所以拒絕域為

$$R<\frac{\alpha}{2} \quad\text{或}\quad R>1-\frac{\alpha}{2}.$$

換回 $X_1,X_2$：