108 年 國立成功大學統計學研究所《數理統計》

這題主要在考驗對隨機變數基本性質的理解，包含期望值、變異數、獨立性、常見的機率分佈（如 Poisson, Exponential, Normal, Multinomial, Gamma）及其性質，以及統計量（如樣本均值、樣本變異數）的特性。

核心觀念：獨立性、期望值與變異數性質、常見機率分佈的定義與性質、多變量分佈。

i. $E(T_n) = n\mu$ only if $X_i$'s are independent.

解：$T_n = \sum_{i=1}^n X_i$。根據期望值的線性性質， $E(T_n) = E(\sum_{i=1}^n X_i) = \sum_{i=1}^n E(X_i)$。
已知 $E(X_i) = \mu$ 對於所有 $i$，所以 $E(T_n) = \sum_{i=1}^n \mu = n\mu$。
這個性質是基於期望值的線性，與 $X_i$ 是否獨立無關。因此，此敘述為 False。

【答案】F

ii. If $X_i$'s are independently distributed as the Poisson distribution, then $T_n$ is a Poisson random variable with $E(T_n) = n\mu$.

解：若 $X_i \sim \text{Poisson}(\lambda_i)$ 且彼此獨立，則 $T_n = \sum_{i=1}^n X_i \sim \text{Poisson}(\sum_{i=1}^n \lambda_i)$。
題目中提到 $E(X_i) = \mu$。對於 Poisson 分佈，其期望值等於其參數，即 $\lambda_i = \mu$。
因此，如果 $X_i \sim \text{Poisson}(\mu)$ 且獨立，則 $T_n = \sum_{i=1}^n X_i \sim \text{Poisson}(n\mu)$。
此時 $E(T_n) = n\mu$。此敘述為 True。

【答案】T

iii. If $X_i$'s are independently distributed as the Exponential Distribution, then $\bar{X}_n$ is an Exponential random variable.

解：若 $X_i \sim \text{Exponential}(\lambda)$ 且獨立，則其機率密度函數為 $f_{X_i}(x) = \lambda e^{-\lambda x}$， $x>0$。
指數分佈的期望值是 $E(X_i) = 1/\lambda$。
樣本均值 $\bar{X}_n$ 的分佈通常不是指數分佈，除非 $n=1$。
例如，如果 $n=2$， $\bar{X}_2 = (X_1+X_2)/2$。 $X_1+X_2$ 的分佈是一個 Erlang 分佈（或稱 Gamma 分佈），其均值是 $2/\lambda$，變異數是 $2/\lambda^2$。
指數分佈的變異數是其期望值的平方。如果 $\bar{X}_n$ 是指數分佈，其期望值為 $E(\bar{X}_n) = 1/\lambda'$，變異數為 $\text{Var}(\bar{X}_n) = (1/\lambda')^2$。
對於 $n>1$， $\bar{X}_n$ 的變異數通常不等於其期望值的平方。
例如，對於 $X_i \sim \text{Exponential}(1)$， $E(X_i)=1, \text{Var}(X_i)=1$。
$\bar{X}_n$ 的期望值 $E(\bar{X}_n) = E(X_i) = 1$。
$\text{Var}(\bar{X}_n) = \frac{1}{n} \text{Var}(X_i) = \frac{1}{n}$。
若 $\bar{X}_n$ 為指數分佈，則 $\text{Var}(\bar{X}_n) = (E(\bar{X}_n))^2 = 1^2 = 1$。
這只有在 $1/n = 1$，即 $n=1$ 時成立。題目規定 $n>1$。
因此，此敘述為 False。

【答案】F

iv. As in iii, If $X_{\min}$ is the minimum of $X_i$'s, the $X_{\min}$ is an Exponential random variable.

解：若 $X_i \sim \text{Exponential}(\lambda)$ 且獨立，則 $X_{\min} = \min(X_1, \ldots, X_n)$ 的分佈是指數分佈，且其參數為 $n\lambda$。
其累積分佈函數為 $F_{X_{\min}}(x) = P(X_{\min} \le x) = 1 - P(X_{\min} > x) = 1 - P(X_1>x, \ldots, X_n>x)$。
由於獨立性， $P(X_1>x, \ldots, X_n>x) = \prod_{i=1}^n P(X_i>x) = (e^{-\lambda x})^n = e^{-n\lambda x}$。
所以 $F_{X_{\min}}(x) = 1 - e^{-n\lambda x}$，這是一個參數為 $n\lambda$ 的指數分佈。
因此，此敘述為 True。

【答案】T

v. If $\vec{X}$ follows a multinomial distribution, then $\text{Cov}(X_i, X_j) < 0$, $\forall i, j$.

解：一個 multinomial 分佈描述的是 $n$ 次獨立實驗中，事件 $k$ 出現 $x_k$ 次的機率，其中 $\sum_{k=1}^K x_k = n$，且事件 $k$ 出現的機率為 $p_k$， $\sum_{k=1}^K p_k = 1$。
通常我們定義 $X_i$ 為第 $i$ 個類別的計數。
對於 multinomial 分佈 $(n; p_1, \ldots, p_K)$，其聯合機率函數為 $P(X_1=x_1, \ldots, X_K=x_K) = \frac{n!}{x_1! \ldots x_K!} p_1^{x_1} \ldots p_K^{x_K}$。
其中 $X_i$ 的邊際分佈是二項分佈 $X_i \sim \text{Binomial}(n, p_i)$。
$E(X_i) = np_i$。
$\text{Var}(X_i) = np_i(1-p_i)$。
$\text{Cov}(X_i, X_j) = -np_i p_j$ for $i \neq j$。
由於 $n>0$, $p_i>0$, $p_j>0$，所以 $\text{Cov}(X_i, X_j) < 0$ for $i \neq j$。
但題目中的 $i, j$ 可以相等。當 $i=j$ 時， $\text{Cov}(X_i, X_i) = \text{Var}(X_i) = np_i(1-p_i)$。
如果 $p_i \in (0,1)$，則 $\text{Var}(X_i) > 0$。
因此，$\text{Cov}(X_i, X_j) < 0$ 僅對 $i \neq j$ 成立，對 $i=j$ 則不一定。
如果題目中的 $i, j$ 指的是不同的類別，那麼這個敘述是對的。但如果 $i$ 和 $j$ 可以是相同的 index，那麼這個敘述是錯的。
通常在探討 $\text{Cov}(X_i, X_j)$ 時，是針對 $i \neq j$ 的情況。
若題目意指所有成對的 $X_i, X_j$，則包含 $i=j$ 的情況，則此敘述為 False。
若題目意指所有不同的 $i, j$ 組合，則此敘述為 True。
在標準定義下， multinomial 分佈的協方差矩陣是對角線元素為正，非對角線元素為負。
所以，對於 $i \neq j$， $\text{Cov}(X_i, X_j) < 0$ 成立。
但題目寫 $\forall i, j$。如果 $i=j$，則 $\text{Cov}(X_i, X_i) = \text{Var}(X_i) = np_i(1-p_i)$，這不小於 0。
因此，此敘述為 False。

【答案】F

vi. If $X_i$'s are normally distributed, then $\vec{X}$ follows a multivariate normal distribution.

解：若 $X_i \sim N(\mu_i, \sigma_i^2)$，這表示每個 $X_i$ 都是一維的常態分佈。
要使 $\vec{X} = (X_1, \ldots, X_n)$ 是一個多元常態分佈，則 $X_i$ 必須是「聯合」常態分佈。
也就是說，任意的線性組合 $\sum_{i=1}^n c_i X_i$ 都必須是常態分佈。
單獨知道每個 $X_i$ 是常態分佈，並不能保證它們的聯合分佈是多元常態分佈。
例如，考慮兩個隨機變數 $X_1 \sim N(0,1)$ 和 $X_2 \sim N(0,1)$。
我們可以構造一個聯合分佈，使得 $X_1$ 和 $X_2$ 都是標準常態分佈，但它們的聯合分佈不是二維常態分佈。
例如，令 $Z_1, Z_2$ 為獨立的標準常態隨機變數。
令 $X_1 = Z_1$。
令 $X_2 = Z_1$ 如果 $Z_2 > 0$， $X_2 = -Z_1$ 如果 $Z_2 \le 0$。
那麼 $E(X_1)=0$, $\text{Var}(X_1)=1$。
$E(X_2) = E(Z_1 \mathbb{I}(Z_2>0)) + E(-Z_1 \mathbb{I}(Z_2 \le 0)) = E(Z_1)E(\mathbb{I}(Z_2>0)) - E(Z_1)E(\mathbb{I}(Z_2 \le 0)) = 0 \cdot 0.5 - 0 \cdot 0.5 = 0$。
$\text{Var}(X_2) = E(X_2^2) - (E(X_2))^2 = E(Z_1^2 \mathbb{I}(Z_2>0)) + E((-Z_1)^2 \mathbb{I}(Z_2 \le 0)) - 0$
$= E(Z_1^2)E(\mathbb{I}(Z_2>0)) + E(Z_1^2)E(\mathbb{I}(Z_2 \le 0)) = 1 \cdot 0.5 + 1 \cdot 0.5 = 1$。
所以 $X_1$ 和 $X_2$ 都是標準常態分佈。
但是，$X_1+X_2$ 的分佈不是常態分佈。
若 $Z_2>0$， $X_1+X_2 = Z_1+Z_1 = 2Z_1$，其分佈為 $N(0, 4)$。
若 $Z_2 \le 0$， $X_1+X_2 = Z_1-Z_1 = 0$。
由於 $Z_2>0$ 和 $Z_2 \le 0$ 的機率都是 $1/2$，所以 $X_1+X_2$ 是以 $1/2$ 的機率為 0，以 $1/2$ 的機率服從 $N(0,4)$ 的混合分佈，這不是常態分佈。
因此，僅知道 $X_i$ 是常態分佈，不足以推論 $\vec{X}$ 是多元常態分佈。
此敘述為 False。

【答案】F

vii. If $X_i$'s are normally distributed and independent, then $E(X_i S_n^2) = \mu \sigma^2$.

解：若 $X_i \sim N(\mu, \sigma^2)$ 且獨立，則 $\bar{X}_n \sim N(\mu, \sigma^2/n)$。
樣本變異數 $S_n^2 = \frac{1}{n-1} \sum_{i=1}^n (X_i - \bar{X}_n)^2$。
我們知道 $E(S_n^2) = \sigma^2$。
現在我們要計算 $E(X_i S_n^2)$。
由於 $X_i$ 與 $S_n^2$ 是獨立的（這是因為 $X_i$ 與 $\bar{X}_n$ 的關係，而 $S_n^2$ 是基於 $\bar{X}_n$ 計算的，但 $S_n^2$ 的計算也包含了 $X_i$ 本身，所以它們之間有依賴性。更準確地說，對於常態分佈，樣本均值 $\bar{X}_n$ 和樣本變異數 $S_n^2$ 是獨立的。但是 $X_i$ 和 $S_n^2$ 之間並不獨立，因為 $S_n^2$ 的計算依賴於所有 $X_k$ 的值，包括 $X_i$。
我們有 $S_n^2 = \frac{1}{n-1} \sum_{k=1}^n (X_k - \bar{X}_n)^2$。
$E(X_i S_n^2) = E(X_i \frac{1}{n-1} \sum_{k=1}^n (X_k - \bar{X}_n)^2)$
$= \frac{1}{n-1} E(X_i \sum_{k=1}^n (X_k^2 - 2X_k \bar{X}_n + \bar{X}_n^2))$
$= \frac{1}{n-1} E(X_i \sum_{k=1}^n X_k^2 - 2 X_i \sum_{k=1}^n X_k \bar{X}_n + X_i n \bar{X}_n^2)$
$= \frac{1}{n-1} E(X_i \sum_{k=1}^n X_k^2 - 2 X_i (\sum_{k=1}^n X_k) \bar{X}_n + n X_i \bar{X}_n^2)$
$= \frac{1}{n-1} E(X_i \sum_{k=1}^n X_k^2 - 2 X_i (n \bar{X}_n) \bar{X}_n + n X_i \bar{X}_n^2)$
$= \frac{1}{n-1} E(X_i \sum_{k=1}^n X_k^2 - 2 n X_i \bar{X}_n^2 + n X_i \bar{X}_n^2)$
$= \frac{1}{n-1} E(X_i \sum_{k=1}^n X_k^2 - n X_i \bar{X}_n^2)$

考慮 $k=i$ 的情況： $E(X_i \cdot X_i^2) = E(X_i^3)$。
考慮 $k \neq i$ 的情況： $E(X_i \cdot X_k^2)$。由於 $X_i$ 和 $X_k$ 獨立， $E(X_i \cdot X_k^2) = E(X_i) E(X_k^2) = \mu (\sigma^2 + \mu^2)$。
考慮 $E(X_i \bar{X}_n^2) = E(X_i (\frac{1}{n}\sum_k X_k)^2) = E(X_i \frac{1}{n^2} (\sum_k X_k)^2) = \frac{1}{n^2} E(X_i (\sum_k X_k^2 + 2 \sum_{j<k} X_j X_k))$
$= \frac{1}{n^2} E(X_i \sum_k X_k^2 + 2 X_i \sum_{j<k} X_j X_k)$
$= \frac{1}{n^2} (E(X_i^3) + \sum_{k \neq i} E(X_i X_k^2) + 2 \sum_{j<k, j \neq i, k \neq i} E(X_i X_j X_k) + 2 \sum_{j<k, \text{one of } j,k \text{ is } i} E(X_i X_j X_k))$
由於獨立性， $E(X_i X_j X_k) = E(X_i)E(X_j)E(X_k) = \mu^3$ (如果 $i,j,k$ 互不相同)。
如果 $i$ 是其中一個，例如 $j=i$，那麼 $E(X_i X_i X_k) = E(X_i^2 X_k) = E(X_i^2) E(X_k) = (\sigma^2+\mu^2)\mu$。

一個更簡潔的方法是利用 $X_i - \bar{X}_n$ 與 $\bar{X}_n$ 的關係。
$\sum_{k=1}^n (X_k - \bar{X}_n)^2 = \sum_{k=1}^n (X_k - \mu - (\bar{X}_n - \mu))^2$
$= \sum_{k=1}^n ((X_k - \mu) - (\bar{X}_n - \mu))^2$
$= \sum_{k=1}^n (X_k - \mu)^2 - 2 (\bar{X}_n - \mu) \sum_{k=1}^n (X_k - \mu) + n (\bar{X}_n - \mu)^2$
$= \sum_{k=1}^n (X_k - \mu)^2 - 2 (\bar{X}_n - \mu) (n(\bar{X}_n - \mu)) + n (\bar{X}_n - \mu)^2$

這題考驗對動差生成函數 (Moment Generating Function, MGF) 的理解及其唯一性定理。

核心觀念：動差生成函數的唯一性。

解：動差生成函數的唯一性定理指出，如果兩個隨機變數的動差生成函數在包含 0 的某個開區間內都存在，那麼這兩個隨機變數具有相同的分佈。
也就是說，如果 $M_X(t) = M_Y(t)$ 對所有 $t$ 在某個開區間 $(-h, h)$ 內成立（其中 $h>0$），則 $X$ 和 $Y$ 具有相同分佈。
「具有相同分佈」意味著它們的累積分佈函數 (CDF) 是相同的，即 $F_X(x) = F_Y(x)$ 對所有 $x$ 成立。
如果 $X$ 和 $Y$ 具有相同分佈，則 $P(X=Y)=1$ 成立。
這是因為，如果 $X$ 和 $Y$ 的分佈相同，它們的累積分佈函數 $F(x)$ 相同。
$P(X=Y) = \int_{-\infty}^{\infty} P(X=y|Y=y) dF_Y(y) = \int_{-\infty}^{\infty} P(X=y) dF_Y(y)$。
由於 $X$ 和 $Y$ 分佈相同， $P(X=y) = P(Y=y)$。
更直接地，如果 $X$ 和 $Y$ 有相同分佈，則 $P(X \le Y) = P(Y \le X)$。
$P(X=Y) = 1 - P(X \neq Y) = 1 - P(X < Y \text{ or } Y < X)$。
由於 $X$ 和 $Y$ 分佈相同， $P(X<Y) = P(Y<X)$。
$P(X \le Y) = P(X<Y) + P(X=Y)$。
$P(Y \le X) = P(Y<X) + P(X=Y)$。
由於 $P(X \le Y) = P(Y \le X)$，我們有 $P(X<Y) + P(X=Y) = P(Y<X) + P(X=Y)$。
這意味著 $P(X<Y) = P(Y<X)$。
那麼 $P(X \neq Y) = P(X<Y) + P(Y<X) = 2 P(X<Y)$。
$P(X=Y) = 1 - P(X \neq Y) = 1 - 2 P(X<Y)$。
這並沒有直接證明 $P(X=Y)=1$。

正確的證明思路是：
若 $X$ 和 $Y$ 具有相同分佈，則 $P(X \le y) = P(Y \le y)$ 對所有 $y$ 成立。
考慮 $P(X \neq Y) = P(X < Y) + P(Y < X)$。
由於 $X$ 和 $Y$ 具有相同分佈， $P(X < Y) = P(Y < X)$。
因此，$P(X \neq Y) = 2 P(X < Y)$。
我們知道 $P(X \le Y) = P(X < Y) + P(X=Y)$。
由於 $X$ 和 $Y$ 具有相同分佈， $P(X \le Y) = P(Y \le X)$。
$P(X \le Y) = P(X<Y) + P(X=Y)$。
$P(Y \le X) = P(Y<X) + P(X=Y)$。
由於 $P(X \le Y) = P(Y \le X)$，這意味著 $P(X<Y) = P(Y<X)$。
這並沒有直接得出 $P(X=Y)=1$。

然而，如果 $M_X(t) = M_Y(t)$ 對所有 $t$ 成立，則 $X$ 和 $Y$ 具有相同分佈。
如果 $X$ 和 $Y$ 具有相同分佈，我們需要證明 $P(X=Y)=1$。
這實際上是正確的。如果兩個隨機變數具有相同分佈，則它們在某種意義上是「相同」的。
更精確地說，如果 $X$ 和 $Y$ 具有相同分佈，則存在一個概率空間 $(\Omega, \mathcal{F}, P)$ 和兩個獨立的隨機變數 $X', Y'$ 在此空間上，使得 $X'$ 的分佈與 $X$ 相同， $Y'$ 的分佈與 $Y$ 相同，並且 $P(X'=Y')=1$。
由於 $X$ 和 $Y$ 具有相同分佈，它們的 CDF 相同。
$P(X=Y) = \int_{-\infty}^{\infty} P(X=y|Y=y) dF_Y(y)$。
由於 $X$ 和 $Y$ 獨立， $P(X=y|Y=y) = P(X=y)$。
所以 $P(X=Y) = \int_{-\infty}^{\infty} P(X=y) dF_Y(y)$。

這題考驗對「獨立事件」定義的理解，以及事件之間的關係。

核心觀念：獨立事件的定義。

解：兩個事件 A 和 B 被定義為獨立的，如果 $P(A \cap B) = P(A)P(B)$。
題目中提到「A, B are independent events」。
然後問「then A and B are independent as well」。
這裡的「as well」似乎是指另外一種獨立性。
然而，在機率論中，獨立性只有一種標準定義。
所以，如果 A 和 B 是獨立事件，那麼它們就是獨立事件。
這個問題可能是在考驗對符號或術語的理解，或者是否有其他隱含的條件。
但是，根據標準定義，獨立事件就是獨立事件。
因此，這個敘述是 True。

也許題目想問的是「A 和 B 是互斥事件 (mutually exclusive events) 嗎？」。
如果 A 和 B 是獨立事件，它們不一定是互斥事件。
例如，投擲一個公正的骰子，設 A 為點數為偶數的事件 ($A=\{2,4,6\}$)， B 為點數大於 3 的事件 ($B=\{4,5,6\}$)。
$P(A) = 3/6 = 1/2$。
$P(B) = 3/6 = 1/2$。
$A \cap B = \{4,6\}$。

這題考驗對隨機變數獨立性及其轉換（例如平方）的理解。

核心觀念：獨立隨機變數的轉換。

解：兩個隨機變數 $X$ 和 $Y$ 被定義為獨立的，如果對於任意的 $x$ 和 $y$， $P(X \le x, Y \le y) = P(X \le x) P(Y \le y)$。
這等價於它們的聯合機率密度函數 (PDF) 或機率質量函數 (PMF) 等於它們邊際 PDF 或 PMF 的乘積：$f_{X,Y}(x,y) = f_X(x) f_Y(y)$。

我們要證明的是，如果 $X$ 和 $Y$ 獨立，則 $X^2$ 和 $Y^2$ 也獨立。
也就是說，我們需要證明 $P(X^2 \le a, Y^2 \le b) = P(X^2 \le a) P(Y^2 \le b)$ 對於任意的 $a, b$ 成立。

考慮 $P(X^2 \le a, Y^2 \le b)$。
首先，我們需要考慮 $a$ 和 $b$ 的值。由於 $X^2 \ge 0$ 且 $Y^2 \ge 0$，所以我們只需要考慮 $a \ge 0$ 和 $b \ge 0$。

如果 $a < 0$ 或 $b < 0$，那麼 $P(X^2 \le a) = 0$ 或 $P(Y^2 \le b) = 0$。
例如，如果 $a < 0$，則 $P(X^2 \le a) = 0$。
那麼 $P(X^2 \le a) P(Y^2 \le b) = 0 \cdot P(Y^2 \le b) = 0$。
同時，$P(X^2 \le a, Y^2 \le b) = P(\text{False}, Y^2 \le b) = 0$。
所以，當 $a<0$ 或 $b<0$ 時，敘述成立。
我們主要關注 $a \ge 0$ 和 $b \ge 0$ 的情況。

這題考驗對全機率法則 (Law of Total Probability) 的理解。

核心觀念：全機率法則。

解：題目中提到 $A_1, A_2, \ldots, A_k$ 是樣本空間 $S$ 的一個劃分 (partition)。
這意味著：

1. $A_i \cap A_j = \emptyset$ 對於所有 $i \neq j$ (事件互斥)。
2. $\bigcup_{i=1}^k A_i = S$ (事件的聯集覆蓋整個樣本空間)。

B 是一個事件。
全機率法則 (Law of Total Probability) 表達為：
如果 $A_1, A_2, \ldots, A_k$ 是樣本空間 $S$ 的一個劃分，那麼對於任何事件 B，

核心觀念

中位數 $v_X$ 定義為滿足

$$P(X\le v_X)\ge \frac12,\qquad P(X\ge v_X)\ge \frac12$$

的數值。題目主張

$$\operatorname{Med}(X+Y)=\operatorname{Med}(X)+\operatorname{Med}(Y)$$

但中位數一般不具備線性性質，因此不能直接將兩個隨機變數的中位數相加。

解題方法

判斷此敘述是否對所有隨機變數成立，可用反例否定。取 $X,Y$ 為相互獨立且同分布的 Bernoulli 隨機變數：

$$P(X=1)=P(Y=1)=0.6,\qquad P(X=0)=P(Y=0)=0.4.$$

對 $X$ 而言，

$$P(X\le 0)=0.4<\frac12,$$

因此 $0$ 不可能是中位數；而

$$P(X\le 1)=1,\qquad P(X\ge 1)=0.6\ge\frac12,$$

故

$$v_X=1.$$

同理，

$$v_Y=1.$$

所以

$$v_X+v_Y=2.$$

令

$$S=X+Y.$$

由獨立性可得

$$P(S=0)=0.4\times0.4=0.16,$$ $$P(S=1)=0.6\times0.4+0.4\times0.6=0.48,$$ $$P(S=2)=0.6\times0.6=0.36.$$

檢查 $S$ 的中位數：

對 $s=1$，

$$P(S\le1)=0.16+0.48=0.64\ge\frac12,$$

且

這題考驗對假設檢定中「檢定力函數 (Power Function)」和「第一類錯誤率 (Type I Error Rate)」的定義。

核心觀念：假設檢定中的檢定力函數與第一類錯誤率。

解：
一個假設檢定 $\tilde{\Phi}$ 的檢定力函數 (Power Function) $K_\theta(\tilde{\Phi})$ 定義為：
$K_\theta(\tilde{\Phi}) = P(\text{Reject } H_0 | \theta)$
其中 $\theta$ 是真實的參數值。

第一類錯誤 (Type I Error) 是指當虛無假設 $H_0$ 為真時，卻拒絕了 $H_0$。
第一類錯誤率 (Type I Error Rate)，通常用 $\alpha$ 表示，定義為：
$\alpha = P(\text{Reject } H_0 | H_0 \text{ is true})$。

題目中提到 $\theta \in N$，其中 $N$ 是「null set」。
在假設檢定中，我們通常有一個虛無假設 $H_0: \theta \in \Theta_0$ 和一個對立假設 $H_1: \theta \in \Theta_1$，其中 $\Theta_0$ 和 $\Theta_1$ 是參數空間的劃分。
「null set」在這裡的用法是比較特殊的。通常我們說 $\theta$ 屬於虛無假設下的參數集合 $\Theta_0$。
如果「null set $N$」指的是虛無假設 $H_0$ 為真的參數集合，也就是 $\Theta_0$，那麼：
第一類錯誤率 $\alpha = P(\text{Reject } H_0 | \theta \in \Theta_0)$。
這就是檢定力函數在虛無假設參數集合上的值。

題目中的敘述是：「第一類錯誤率是 $K_\theta(\tilde{\Phi})$ 的值，當 $\theta \in N$」。
如果 $N$ 代表的是虛無假設成立的參數集合，那麼這句話是正確的。
即，第一類錯誤率是檢定力函數在虛無假設參數集合上的值。

然而，題目中寫的是「null set」。
在集合論中，「null set」通常指空集合 $\emptyset$。
如果 $N = \emptyset$，那麼 $\theta \in \emptyset$ 是不可能發生的。
那麼 $P(\text{Reject } H_0 | \theta \in \emptyset)$ 是沒有意義的。

這題考驗對期望值性質的理解，特別是關於平方項與乘積項的關係。

核心觀念：非負隨機變數的期望值性質。

解：
如果一個隨機變數 $Z$ 的期望值 $E(Z)=0$，並且 $Z$ 是非負的（即 $Z \ge 0$ 幾乎處處成立），那麼 $P(Z=0)=1$。
也就是說，幾乎所有 $Z$ 的值都必須是 0。

在題目中，我們有 $E(X^2) = 0$。
由於 $X^2 \ge 0$ 對於所有實數 $X$ 幾乎處處成立，
根據上述性質，我們可以推論出 $P(X^2 = 0) = 1$。
$P(X^2 = 0) = 1$ 等價於 $P(X = 0) = 1$。
這表示隨機變數 $X$ 幾乎處處等於 0。

這題考驗對最大概似估計 (MLE) 的性質、完備充分統計量 (Complete Sufficient Statistic) 以及不變性原理 (Invariance Principle) 的理解。

核心觀念：MLE 的性質、完備充分統計量、不變性原理。

解：
這句話包含幾個部分，我們逐一分析：

1. 「如果 MLE of the parameter $\theta$ is also unbiased, then it is the best unbiased estimator of $\theta$ if the complete sufficient statistic exists」

   • MLE (Maximum Likelihood Estimator): 最大概似估計量。
   • Unbiased Estimator: 無偏估計量，即 $E(\hat{\theta}) = \theta$。
   • Best Unbiased Estimator (BUE): 最佳無偏估計量，通常指的是具有最小方差的無偏估計量。
   • Complete Sufficient Statistic: 完備充分統計量。一個充分統計量 $T(X)$ 是完備的，如果對於任何函數 $g$，當 $E[g(T(X))] = 0$ 對所有 $\theta$ 成立時，則 $P(g(T(X))=0)=1$。
   • Rao-Blackwell Theorem: 該定理指出，如果 $T$ 是充分統計量， $\delta(X)$ 是一個無偏估計量，那麼 $E[\delta(X)|T]$ 是一個不劣於 $\delta(X)$ 的估計量（方差更小或相等），且如果 $T$ 是完備充分統計量，那麼 $E[\delta(X)|T]$ 是唯一的最佳無偏估計量。
   • Lehmann-Scheffé Theorem: 該定理指出，如果存在一個估計量 $\hat{\theta}$，它對於一個完備充分統計量 $T$ 是 $T$ 的一個函數 ($\hat{\theta} = g(T)$)，並且 $\hat{\theta}$ 是無偏的，那麼 $\hat{\theta}$ 是唯一的最佳無偏估計量 (BUE)。

   因此，如果一個 MLE 估計量 $\hat{\theta}_{MLE}$ 是無偏的，並且存在一個完備充分統計量 $T$，那麼根據 Lehmann-Scheffé 定理，這個無偏的 MLE 估計量（如果它是完備充分統計量的函數）就是唯一的最佳無偏估計量 (BUE)。
   這句話的前半部分是正確的，但前提是該 MLE 估計量是完備充分統計量的函數。如果 MLE 不是完備充分統計量的函數，則它不一定是 BUE。
   不過，在很多常見情況下， MLE 確實是完備充分統計量的函數。

2. 「therefore the best unbiased estimator of $\tau = \tau(\theta)$ is $\tau = \tau(\hat{\theta}_{MLE})$ based in the invariance principle of MLE.」

   • Invariance Principle of MLE: 不變性原理。該原理指出，如果 $\hat{\theta}_{MLE}$ 是參數 $\theta$ 的 MLE，並且 $g$ 是一個函數，那麼 $g(\hat{\theta}_{MLE})$ 是 $g(\theta)$ 的 MLE。

這題考驗對一致性估計量 (Consistent Estimator) 定義的理解。

核心觀念：一致性估計量的定義。

解：
一個估計量 $\hat{\theta}_n$ 被稱為參數 $\theta$ 的一致性估計量，如果當樣本數 $n$ 趨近於無限大時， $\hat{\theta}_n$ 趨近於 $\theta$ 的機率趨近於 1。
用數學式表示，對於任意的 $\epsilon > 0$，
$\lim_{n \to \infty} P(|\hat{\theta}_n - \theta| < \epsilon) = 1$。
這等價於 $\lim_{n \to \infty} P(|\hat{\theta}_n - \theta| \ge \epsilon) = 0$。

有幾種方法可以證明一致性：

1. 使用 Chebyshev's Inequality:
   如果 $\lim_{n \to \infty} E(\hat{\theta}_n) = \theta$ 且 $\lim_{n \to \infty} \text{Var}(\hat{\theta}_n) = 0$，那麼 $\hat{\theta}_n$ 是一致的。
   這是因為根據 Chebyshev's Inequality:
   $P(|\hat{\theta}_n - E(\hat{\theta}_n)| \ge k) \le \frac{\text{Var}(\hat{\theta}_n)}{k^2}$。
   令 $k = \epsilon$。
   $P(|\hat{\theta}_n - \theta| \ge \epsilon) \le P(|\hat{\theta}_n - E(\hat{\theta}_n)| + |E(\hat{\theta}_n) - \theta| \ge \epsilon)$。
   如果 $\lim_{n \to \infty} E(\hat{\theta}_n) = \theta$ 且 $\lim_{n \to \infty} \text{Var}(\hat{\theta}_n) = 0$，則對於足夠大的 $n$，$|E(\hat{\theta}_n) - \theta|$ 可以任意小。
   更直接地，我們有：
   $P(|\hat{\theta}_n - \theta| \ge \epsilon) \le P(|\hat{\theta}_n - E(\hat{\theta}_n)| \ge \epsilon - |E(\hat{\theta}_n) - \theta|)$。
   如果 $\lim_{n \to \infty} E(\hat{\theta}_n) = \theta$ 且 $\lim_{n \to \infty} \text{Var}(\hat{\theta}_n) = 0$，則對於任何 $\epsilon > 0$，
   $P(|\hat{\theta}_n - \theta| \ge \epsilon) \le \frac{\text{Var}(\hat{\theta}_n)}{( \epsilon - |E(\hat{\theta}_n) - \theta| )^2}$。
   當 $n \to \infty$，分子趨近於 0，分母趨近於 $\epsilon^2$。所以，$P(|\hat{\theta}_n - \theta| \ge \epsilon) \to 0$。

2. 使用 Bernoulli's Strong Law of Large Numbers:
   如果 $\hat{\theta}_n$ 是根據大數法則得到的，例如樣本均值 $\bar{X}_n$ 估計 $E(X)$，那麼它通常是一致的。

題目中的敘述是：$E(T) = 0$ 且 $\text{Var}(T)$ 趨近於 0。
這裡的 $T$ 是估計量，假設它估計的是參數 $\theta$。
如果 $E(T) = 0$，這意味著 $T$ 是一個無偏估計量，但它估計的是參數 0，而不是一般的參數 $\theta$。
如果 $T$ 是 $\theta$ 的估計量，那麼對於一致性，我們需要 $\lim_{n \to \infty} E(T) = \theta$。
題目中的條件 $E(T) = 0$ 僅在 $\theta = 0$ 時滿足無偏性。
如果 $\theta \neq 0$，那麼 $E(T)=0$ 表示 $T$ 是有偏的。

如果題目中的 $T$ 是估計量，那麼它應該是樣本的函數，因此它的期望值和變異數通常會依賴於樣本數 $n$。
所以，更準確的寫法應該是 $E(T_n)$ 和 $\text{Var}(T_n)$。

假設題目中的 $E(T)=0$ 是指 $\lim_{n \to \infty} E(T_n) = 0$。
並且 $\lim_{n \to \infty} \text{Var}(T_n) = 0$。
在這種情況下，根據 Chebyshev's Inequality， $T_n$ 是一致的，但它是一致地估計參數 0。
如果我們要估計的參數 $\theta$ 是 0，那麼這兩個條件就是證明一致性的充分條件。

然而，題目並沒有明確指出 $T$ 估計的是哪個參數。
如果 $T$ 是估計 $\theta$ 的估計量，那麼一致性的條件是 $\lim_{n \to \infty} E(T_n) = \theta$ 且 $\lim_{n \to \infty} \text{Var}(T_n) = 0$。
題目只給了 $E(T)=0$。這只有在 $\theta=0$ 時才滿足無偏性。