112 年 國立中正大學數學系統計科學研究所《機率與統計》

本題主要在考驗期望值和變異數的線性性質。

給定隨機變數 $X$ 具有期望值 $E(X) = \mu$ 和變異數 $Var(X) = \sigma^2$。
考慮一個新的隨機變數 $Y = aX + b$，其中 $a$ 和 $b$ 是常數。

1. 求 $Y$ 的期望值 ($E(Y)$)
   根據期望值的線性性質，對於任意常數 $a$ 和 $b$，有：
   $E(aX + b) = aE(X) + b$
   將已知條件代入：

核心觀念

本題利用高次矩（moment）：

$$E(X^n)=0.8,\qquad n\in\mathbb N.$$

關鍵是觀察當 $n\to\infty$ 時，$X^n$ 或 $X^{2n}$ 的行為：

• 若 $|X|<1$，則 $X^{2n}\to 0$；
• 若 $X=1$ 或 $X=-1$，則 $X^{2n}\to 1$；
• 若 $|X|>1$，高次冪會發散。

因此可藉由偶數階矩與奇數階矩，分別找出 $P(X=1)$ 與 $P(X=-1)$。

解題方法

第一步：證明 $|X|\leq 1$ 幾乎必然成立

對任意 $\varepsilon>0$，由 Markov 不等式：

$$P(|X|>1+\varepsilon) = P\left(X^{2n}>(1+\varepsilon)^{2n}\right) \leq \frac{E(X^{2n})}{(1+\varepsilon)^{2n}}.$$

因為 $E(X^{2n})=0.8$，所以

$$P(|X|>1+\varepsilon) \leq \frac{0.8}{(1+\varepsilon)^{2n}}.$$

令 $n\to\infty$，右側趨近於 $0$，故

$$P(|X|>1+\varepsilon)=0.$$

對所有 $\varepsilon>0$ 均成立，因此

$$P(|X|>1)=0.$$

也就是

$$-1\leq X\leq 1\quad \text{幾乎必然成立}.$$

第二步：利用偶數階矩求 $P(X=1)+P(X=-1)$

由 $-1\leq X\leq 1$，有

$$X^{2n}\longrightarrow \begin{cases} 1, & X=1\text{ 或 }X=-1,\\ 0, & -1<X<1. \end{cases}$$

本題考驗隨機變數的變換，以及三角函數的性質。

設一個角度 $\theta$ 是在區間 $(-\frac{\pi}{2}, \frac{\pi}{2})$ 上均勻選取的。
因此，$\theta$ 的機率密度函數 (p.d.f.) 是：
$f_\theta(\theta) = \begin{cases} \frac{1}{\frac{\pi}{2} - (-\frac{\pi}{2})} = \frac{1}{\pi} & \text{if } -\frac{\pi}{2} < \theta < \frac{\pi}{2} \\ 0 & \text{otherwise} \end{cases}$

我們感興趣的隨機變數是 $X = \tan(\theta)$。
我們需要找到 $X$ 的 p.d.f.，記為 $f_X(x)$。

首先，我們需要確定 $X$ 的取值範圍。
當 $\theta$ 從 $-\frac{\pi}{2}$ 趨近於 $-\frac{\pi}{2}^+$ 時，$\tan(\theta) \to -\infty$。
當 $\theta$ 從 $\frac{\pi}{2}$ 趨近於 $\frac{\pi}{2}^-$ 時，$\tan(\theta) \to +\infty$。
因此，$X$ 的取值範圍是 $(-\infty, \infty)$。

我們可以使用變數變換的方法來找到 $f_X(x)$。
令 $y = g(\theta) = \tan(\theta)$。
則 $\theta = g^{-1}(y) = \arctan(y)$。
我們需要計算 $\frac{d\theta}{dx} = \frac{d}{dx}(\arctan(x))$。
$\frac{d\theta}{dx} = \frac{d}{dx}(\arctan(x)) = \frac{1}{1+x^2}$
這個導數對於所有實數 $x$ 都存在且大於 0。

根據變數變換公式，如果 $Y=g(X)$ 且 $g$ 是單調可微函數，則
$f_Y(y) = f_X(g^{-1}(y)) \left| \frac{dg^{-1}(y)}{dy} \right|$
在這裡，我們有 $\theta = g(\phi) = \tan(\phi)$，而 $X = \tan(\theta)$。
我們應該將 $\theta$ 視為自變數，而 $X$ 是函數。
設 $\phi$ 是在 $(-\frac{\pi}{2}, \frac{\pi}{2})$ 上均勻分佈的變數。

本題考驗二項分佈與 Beta 分佈結合的後驗分佈。這在貝氏統計 (Bayesian Statistics) 中非常常見，其中 $P$ 通常被視為一個參數的先驗分佈。

給定：

1. $X | P \sim Bin(n, P)$，表示在參數 $P$ 的條件下，$X$ 服從二項分佈，有 $n$ 次試驗，成功機率為 $P$。
2. $P \sim Beta(\alpha, \beta)$，表示參數 $P$ 的先驗分佈為 Beta 分佈，參數為 $\alpha$ 和 $\beta$。Beta 分佈的機率密度函數 (p.d.f.) 為：
   $f_P(p) = \frac{1}{B(\alpha, \beta)} p^{\alpha-1} (1-p)^{\beta-1}, \quad 0 \le p \le 1$
   其中 $B(\alpha, \beta) = \frac{\Gamma(\alpha)\Gamma(\beta)}{\Gamma(\alpha+\beta)}$ 是 Beta 函數。

我們要求的是條件分佈 $P | X=x$ 的分佈。這通常是後驗分佈 (posterior distribution)。
根據貝氏定理，後驗機率密度函數 $f_{P|X}(p|x)$ 與似然函數 $f_{X|P}(x|p)$ 和先驗密度函數 $f_P(p)$ 的乘積成正比：
$f_{P|X}(p|x) \propto f_{X|P}(x|p) f_P(p)$

首先，寫出似然函數 $f_{X|P}(x|p)$。
對於 $X \sim Bin(n, p)$，其機率質量函數 (p.m.f.) 為：
$P(X=x|P=p) = \binom{n}{x} p^x (1-p)^{n-x}, \quad x = 0, 1, \dots, n$

本題考驗 Gamma 分佈的性質，特別是兩個獨立 Gamma 分佈變數的 ratio 的分佈。

給定 $X$ 和 $Y$ 是獨立的 Gamma 分佈隨機變數。
Gamma 分佈的機率密度函數 (p.d.f.) 通常表示為：
$f(x; k, \theta) = \frac{1}{\Gamma(k)\theta^k} x^{k-1} e^{-x/\theta}, \quad x > 0$
其中 $k$ 是形狀參數 (shape parameter)，$\theta$ 是尺度參數 (scale parameter)。
Gamma 分佈的期望值是 $E(X) = k\theta$。

題目中給定的期望值形式是 $\frac{\alpha}{\lambda}$ 和 $\frac{\beta}{\lambda}$。
假設 $X \sim Gamma(k_1, \theta_1)$ 和 $Y \sim Gamma(k_2, \theta_2)$。
那麼 $E(X) = k_1 \theta_1 = \frac{\alpha}{\lambda}$ 且 $E(Y) = k_2 \theta_2 = \frac{\beta}{\lambda}$。

一個常見的 Gamma 分佈參數表示法是使用尺度參數 $\beta$ 和形狀參數 $\alpha$：
$f(x; \alpha, \beta) = \frac{\beta^\alpha}{\Gamma(\alpha)} x^{\alpha-1} e^{-\beta x}, \quad x > 0$
此時，期望值為 $E(X) = \frac{\alpha}{\beta}$。
如果我們使用這種表示法，那麼：
$X \sim Gamma(\alpha_X, \beta_X)$ 且 $E(X) = \frac{\alpha_X}{\beta_X} = \frac{\alpha}{\lambda}$。
$Y \sim Gamma(\alpha_Y, \beta_Y)$ 且 $E(Y) = \frac{\alpha_Y}{\beta_Y} = \frac{\beta}{\lambda}$。

然而，題目給定的形式 $\frac{\alpha}{\lambda}$ 和 $\frac{\beta}{\lambda}$ 更有可能是指：
$X \sim Gamma(\alpha, \lambda)$ 且 $Y \sim Gamma(\beta, \lambda)$，其中 $\alpha$ 和 $\beta$ 是形狀參數，$\lambda$ 是速率參數 (rate parameter, 1/scale parameter)。
在這種參數表示法下，Gamma 分佈的 p.d.f. 是：
$f(x; \alpha, \lambda) = \frac{\lambda^\alpha}{\Gamma(\alpha)} x^{\alpha-1} e^{-\lambda x}, \quad x > 0$
此時，期望值為 $E(X) = \frac{\alpha}{\lambda}$。
這個形式與題目給定的期望值形式一致。
所以，我們假設：
$X \sim Gamma(\alpha, \lambda)$
$Y \sim Gamma(\beta, \lambda)$
其中 $\alpha$ 和 $\beta$ 是形狀參數，$\lambda$ 是共同的速率參數。

我們要求 $\frac{Y}{X+Y}$ 的分佈。
令 $Z = \frac{Y}{X+Y}$。
我們知道一個重要的性質：如果 $X_1, X_2, \dots, X_k$ 是獨立的 Gamma 分佈隨機變數，且具有共同的速率參數 $\lambda$，即 $X_i \sim Gamma(\alpha_i, \lambda)$，則：

1. $X_1 + X_2 + \dots + X_k \sim Gamma(\alpha_1 + \alpha_2 + \dots + \alpha_k, \lambda)$。

核心觀念

本題考查由 Neyman–Fisher 因子分解定理判斷充分統計量。

若樣本聯合密度可寫成

$$f_{X_1,\ldots,X_n}(x_1,\ldots,x_n;\theta) = g\bigl(T(x_1,\ldots,x_n),\theta\bigr)\, h(x_1,\ldots,x_n),$$

其中 $h$ 不含參數 $\theta$，則 $T(X_1,\ldots,X_n)$ 即為 $\theta$ 的充分統計量。

---

解題方法

由於 $X_1,\ldots,X_n$ 為來自同一分布的隨機樣本，聯合密度為各邊際密度的乘積：

$$\begin{aligned} L(\theta;\mathbf{x}) &= \prod_{i=1}^n \frac{\theta^2}{x_i^2}e^{-\theta/x_i} \mathbf{1}_{\{x_i\ge 1\}}\\ &= \theta^{2n} \exp\left(-\theta\sum_{i=1}^n\frac{1}{x_i}\right) \left(\prod_{i=1}^n x_i^{-2}\right) \prod_{i=1}^n\mathbf{1}_{\{x_i\ge1\}}. \end{aligned}$$

將與 $\theta$ 有關的部分集中，可寫為

本題要求找出參數 $\lambda$ 和 $\theta$ 的最大概似估計量 (Maximum Likelihood Estimators, MLEs)。

給定 $X_i$ 和 $Y_i$ 是獨立的指數分佈隨機變數。
指數分佈的機率密度函數 (p.d.f.) 為 $f(x; \mu) = \frac{1}{\mu} e^{-x/\mu}$，對於 $x > 0$。
其中 $\mu$ 是期望值。

我們有：
$X_i \sim Exponential(E(X_i) = \frac{1}{\lambda})$。
所以，$X_i$ 的 p.d.f. 是 $f_{X_i}(x_i; \lambda) = \lambda e^{-\lambda x_i}$，對於 $x_i > 0$。
這裡的參數 $\lambda$ 是速率參數 (rate parameter)，而不是題目中給定的期望值。
題目給定 $E(X_i) = \frac{1}{\lambda}$，這意味著速率參數是 $\lambda$。

$Y_i \sim Exponential(E(Y_i) = \frac{1}{\theta})$。
所以，$Y_i$ 的 p.d.f. 是 $f_{Y_i}(y_i; \theta) = \theta e^{-\theta y_i}$，對於 $y_i > 0$。
這裡的參數 $\theta$ 是速率參數。

由於 $(X_i, Y_i)$ 是獨立的對，且 $X_i$ 和 $Y_i$ 之間也是獨立的，所以樣本 $(X_1, Y_1, X_2, Y_2, \dots, X_n, Y_n)$ 的聯合機率密度函數 (joint p.d.f.) 是所有個別 p.d.f. 的乘積：
$L(\lambda, \theta; x_1, \dots, x_n, y_1, \dots, y_n) = \prod_{i=1}^n \left( f_{X_i}(x_i; \lambda) f_{Y_i}(y_i; \theta) \right)$
$L(\lambda, \theta; \mathbf{x}, \mathbf{y}) = \prod_{i=1}^n \left( (\lambda e^{-\lambda x_i}) (\theta e^{-\theta y_i}) \right)$
$L(\lambda, \theta; \mathbf{x}, \mathbf{y}) = \prod_{i=1}^n \lambda \prod_{i=1}^n \theta \prod_{i=1}^n e^{-\lambda x_i} \prod_{i=1}^n e^{-\theta y_i}$
$L(\lambda, \theta; \mathbf{x}, \mathbf{y}) = \lambda^n \theta^n \exp\left( -\lambda \sum_{i=1}^n x_i \right) \exp\left( -\theta \sum_{i=1}^n y_i \right)$

為了找到最大概似估計量，我們需要最大化這個概似函數 $L(\lambda, \theta)$ 對於 $\lambda$ 和 $\theta$。
通常，我們最大化對數概似函數 (log-likelihood function)，記為 $\ell(\lambda, \theta) = \ln L(\lambda, \theta)$。
$\ell(\lambda, \theta) = \ln \left( \lambda^n \theta^n \exp\left( -\lambda \sum_{i=1}^n x_i \right) \exp\left( -\theta \sum_{i=1}^n y_i \right) \right)$
$\ell(\lambda, \theta) = n \ln \lambda + n \ln \theta - \lambda \sum_{i=1}^n x_i - \theta \sum_{i=1}^n y_i$

現在，我們對 $\ell(\lambda, \theta)$ 分別對 $\lambda$ 和 $\theta$ 求偏導數，並令其為零，以找到最大值點。

本題考驗條件期望的性質，特別是對於來自 Poisson 分佈的樣本。

給定 $X_1, \dots, X_n$ 是來自 Poisson($\lambda$) 分佈的隨機樣本。
Poisson 分佈的性質：

1. 期望值 $E(X_i) = \lambda$。
2. 變異數 $Var(X_i) = \lambda$。
3. 對於獨立的 Poisson 變數，其和也是 Poisson 變數。如果 $X_i \sim Poisson(\lambda_i)$ 獨立，則 $\sum X_i \sim Poisson(\sum \lambda_i)$。
   因此，$\sum_{i=1}^n X_i \sim Poisson(n\lambda)$。
   樣本平均數 $\bar{X} = \frac{1}{n}\sum_{i=1}^n X_i$ 的期望值是 $E(\bar{X}) = E(X_i) = \lambda$。
   $\bar{X}$ 的變異數是 $Var(\bar{X}) = \frac{1}{n^2} Var(\sum X_i) = \frac{1}{n^2} (n\lambda) = \frac{\lambda}{n}$。

樣本變異數的定義是 $S^2 = \frac{1}{n-1}\sum_{i=1}^n (X_i - \bar{X})^2$。
我們知道 $E(S^2) = Var(X_i) = \lambda$。

現在我們需要計算條件期望 $E(S^2 | \bar{X})$。
我們知道一個恆等式：
$\sum_{i=1}^n (X_i - \bar{X})^2 = \sum_{i=1}^n X_i^2 - n\bar{X}^2$。
所以，$S^2 = \frac{1}{n-1} \left( \sum_{i=1}^n X_i^2 - n\bar{X}^2 \right)$。

我們需要計算 $E(S^2 | \bar{X})$。
$E(S^2 | \bar{X}) = E\left( \frac{1}{n-1} \left( \sum_{i=1}^n X_i^2 - n\bar{X}^2 \right) \Big| \bar{X} \right)$
$E(S^2 | \bar{X}) = \frac{1}{n-1} E\left( \sum_{i=1}^n X_i^2 - n\bar{X}^2 \Big| \bar{X} \right)$
由於 $\bar{X}$ 在條件期望中被視為常數，所以 $E(n\bar{X}^2 | \bar{X}) = n\bar{X}^2$。
$E(S^2 | \bar{X}) = \frac{1}{n-1} \left( E\left( \sum_{i=1}^n X_i^2 \Big| \bar{X} \right) - n\bar{X}^2 \right)$

現在我們需要計算 $E(\sum_{i=1}^n X_i^2 | \bar{X})$。
令 $X_i$ 的期望值和變異數為 $E(X_i) = \mu$ 和 $Var(X_i) = \sigma^2$。
對於 Poisson 分佈，$\mu = \lambda$ 且 $\sigma^2 = \lambda$。
我們知道 $Var(X_i) = E(X_i^2) - [E(X_i)]^2$，所以 $E(X_i^2) = Var(X_i) + [E(X_i)]^2 = \sigma^2 + \mu^2$。
對於 Poisson 分佈， $E(X_i^2) = \lambda + \lambda^2$。

考慮 $E(X_i^2 | \bar{X})$。
我們知道 $\bar{X} = \frac{1}{n} \sum_{j=1}^n X_j$。
$\sum_{i=1}^n X_i^2 = X_1^2 + X_2^2 + \dots + X_n^2$。
這是一個關於 $X_1, \dots, X_n$ 的函數。
我們需要考慮 $X_i$ 在給定 $\bar{X}$ 下的條件分佈。

對於來自任何分佈（具有有限的二階矩）的隨機樣本，我們有以下性質：
$E(X_i^2 | \bar{X}) = Var(X_i | \bar{X}) + [E(X_i | \bar{X})]^2$。
由於 $X_i$ 和 $X_j$ ($i \neq j$) 是獨立的，並且我們給定它們的總和 $\bar{X}$，這似乎會引入依賴性。

一個重要的結果是，對於來自正態分佈的樣本，$\bar{X}$ 和 $S^2$ 是獨立的。
但這裡的樣本是來自 Poisson 分佈，它不是正態分佈。
然而，對於 Poisson 分佈，存在一個類似的獨立性結果。

考慮 $X_i$ 的條件期望 $E(X_i | \bar{X})$。
由於樣本是對稱的，對於任何 $i \neq j$，我們有 $E(X_i | \bar{X}) = E(X_j | \bar{X})$。
由於 $\sum_{i=1}^n E(X_i | \bar{X}) = E(\sum_{i=1}^n X_i | \bar{X}) = E(n\bar{X} | \bar{X}) = n\bar{X}$。
所以，$n E(X_i | \bar{X}) = n\bar{X}$，這意味著 $E(X_i | \bar{X}) = \bar{X}$。

本題要求在已知均值 $\mu$ 的情況下，找出變異數 $\sigma^2$ 的 $(1-\alpha)$ 信賴區間。

給定 $X_1, \dots, X_n$ 是來自 $N(\mu, \sigma^2)$ 的隨機樣本，且 $\mu$ 是已知的。
我們需要找到 $\sigma$ 的信賴區間。通常，我們首先找到 $\sigma^2$ 的信賴區間，然後取平方根。

我們知道，對於來自 $N(\mu, \sigma^2)$ 的樣本，統計量 $\frac{1}{\sigma^2} \sum_{i=1}^n (X_i - \mu)^2$ 服從自由度為 $n$ 的卡方分佈 ($\chi^2$ 分佈)。
令 $Q = \sum_{i=1}^n (X_i - \mu)^2$。
則 $\frac{Q}{\sigma^2} \sim \chi^2(n)$。

我們希望構建一個包含 $\sigma^2$ 的區間。
對於一個給定的顯著水準 $\alpha$ ($0 < \alpha < 1$)，我們想要一個 $(1-\alpha)$ 的信賴區間。
我們選擇 $\chi^2$ 分佈的兩個分位點。
設 $\chi^2_{\alpha/2}(n)$ 是自由度為 $n$ 的卡方分佈的右側 $\alpha/2$ 分位點，即 $P(\chi^2(n) > \chi^2_{\alpha/2}(n)) = \alpha/2$。
設 $\chi^2_{1-\alpha/2}(n)$ 是自由度為 $n$ 的卡方分佈的左側 $\alpha/2$ 分位點，即 $P(\chi^2(n) < \chi^2_{1-\alpha/2}(n)) = \alpha/2$。
因此，$P(\chi^2_{1-\alpha/2}(n) \le \chi^2(n) \le \chi^2_{\alpha/2}(n)) = 1 - \alpha$。

將 $\frac{Q}{\sigma^2}$ 代入不等式：
$P\left(\chi^2_{1-\alpha/2}(n) \le \frac{Q}{\sigma^2} \le \chi^2_{\alpha/2}(n)\right) = 1 - \alpha$
$P\left(\chi^2_{1-\alpha/2}(n) \le \frac{\sum_{i=1}^n (X_i - \mu)^2}{\sigma^2} \le \chi^2_{\alpha/2}(n)\right) = 1 - \alpha$

核心觀念

本題考查常態母體變異數的單尾檢定，以及 Neyman–Pearson 引理與 Karlin–Rubin 定理。

假設前題設定為

$$X_1,\ldots,X_n\overset{\text{i.i.d.}}{\sim}N(\mu,\sigma^2),$$

其中 $\mu$ 已知，欲檢定

$$H_0:\sigma\le \sigma_0 \quad\text{vs.}\quad H_1:\sigma>\sigma_0.$$

當樣本來自常態分布且平均數已知時，

$$Q=\sum_{i=1}^n(X_i-\mu)^2$$

是衡量 $\sigma$ 大小的自然統計量。$\sigma$ 越大，$Q$ 越容易取得較大的值，因此應採右尾拒絕域。

解題方法

令

$$T=\frac{1}{\sigma_0^2}\sum_{i=1}^n(X_i-\mu)^2.$$

在 $\sigma=\sigma_0$ 時，

$$\frac{X_i-\mu}{\sigma_0}\sim N(0,1),$$

因此

$$T\sim\chi_n^2.$$

先考慮固定的簡單假設

$$H_0:\sigma=\sigma_0 \quad\text{vs.}\quad H_1:\sigma=\sigma_1,\qquad \sigma_1>\sigma_0.$$

樣本聯合密度為

$$f_\sigma(\mathbf{x}) =(2\pi\sigma^2)^{-n/2} \exp\left\{-\frac{1}{2\sigma^2} \sum_{i=1}^n(x_i-\mu)^2\right\}.$$

因此概似比為

$$\frac{f_{\sigma_1}(\mathbf{x})}{f_{\sigma_0}(\mathbf{x})} = \left(\frac{\sigma_0}{\sigma_1}\right)^n \exp\left[ \frac12 \left(\frac{1}{\sigma_0^2}-\frac{1}{\sigma_1^2}\right) \sum_{i=1}^n(x_i-\mu)^2 \right].$$

因為 $\sigma_1>\sigma_0$，所以

$$\frac{1}{\sigma_0^2}-\frac{1}{\sigma_1^2}>0.$$

故概似比是

$$\sum_{i=1}^n(x_i-\mu)^2$$

的嚴格遞增函數。依 Neyman–Pearson 引理及 Karlin–Rubin 定理，最有力檢定應在統計量較大時拒絕 $H_0$。

設拒絕域為

$$T>c.$$

為使檢定的顯著水準為 $\alpha$，在虛無假設的邊界 $\sigma=\sigma_0$ 下令

$$P_{\sigma_0}(T>c)=\alpha.$$

由 $T\sim\chi_n^2$，得到

$$c=\chi^2_{n,1-\alpha},$$

其中 $\chi^2_{n,1-\alpha}$ 表示自由度為 $n$ 的卡方分布之 $1-\alpha$ 分位數。