108 年 國立清華大學統計學系碩士班《機率論》

本題考察貝氏定理的應用。我們定義以下事件：
D: 表示一個人患有該傳染病
D': 表示一個人沒有患有該傳染病
T+: 表示檢測結果為陽性
T-: 表示檢測結果為陰性

根據題目，我們已知以下資訊：
$P(D) = 0.10$ (患病人口比例)
$P(D') = 1 - P(D) = 1 - 0.10 = 0.90$ (未患病人口比例)
$P(T+|D) = 0.90$ (患病者檢測呈陽性的機率，即靈敏度)
$P(T+|D') = 0.10$ (未患病者檢測呈陽性的機率，即假陽性率)

由上述資訊，我們也可以推導出：
$P(T-|D) = 1 - P(T+|D) = 1 - 0.90 = 0.10$ (患病者檢測呈陰性的機率，即偽陰性率)
$P(T-|D') = 1 - P(T+|D') = 1 - 0.10 = 0.90$ (未患病者檢測呈陰性的機率，即特異度)

(A) 求解檢測結果為陽性的機率 $P(T+)$。
根據全機率法則：
$P(T+) = P(T+|D)P(D) + P(T+|D')P(D')$
$P(T+) = (0.90)(0.10) + (0.10)(0.90)$

本題考察聯合機率密度函數、條件機率密度函數以及累積分布函數的計算，特別是對於圓盤上的均勻分布。

已知 (X,Y) 在圓盤 $D = \{(x, y): x^2 + y^2 \leq 1\}$ 上均勻分布。
圓盤的面積為 $A = \pi (1)^2 = \pi$。
因此，聯合機率密度函數為：
$f_{X,Y}(x,y) = \begin{cases} \frac{1}{\pi} & \text{if } x^2 + y^2 \leq 1 \\ 0 & \text{otherwise} \end{cases}$

(A) 求解 Y 給定 X=x 的條件機率密度函數 $f_{Y|X}(y|x)$。
首先，我們需要找到 X 的邊際機率密度函數 $f_X(x)$。
$f_X(x) = \int_{-\infty}^{\infty} f_{X,Y}(x,y) dy$
對於一個固定的 x，y 的範圍是使得 $x^2 + y^2 \leq 1$，即 $-\sqrt{1-x^2} \leq y \leq \sqrt{1-x^2}$。
因此，
$f_X(x) = \int_{-\sqrt{1-x^2}}^{\sqrt{1-x^2}} \frac{1}{\pi} dy = \frac{1}{\pi} [y]_{-\sqrt{1-x^2}}^{\sqrt{1-x^2}} = \frac{1}{\pi} (\sqrt{1-x^2} - (-\sqrt{1-x^2})) = \frac{2\sqrt{1-x^2}}{\pi}$
此邊際密度函數對於 $-1 \leq x \leq 1$ 有定義，其他地方為 0。

現在，我們可以計算條件機率密度函數：
$f_{Y|X}(y|x) = \frac{f_{X,Y}(x,y)}{f_X(x)}$
$f_{Y|X}(y|x) = \frac{\frac{1}{\pi}}{\frac{2\sqrt{1-x^2}}{\pi}} = \frac{1}{2\sqrt{1-x^2}}$

本題考察了獨立泊松隨機變數的條件分布、極值分布以及指數分布的機率計算。

(A) 求解條件分布 $P(X | X+Y)$。
已知 $X \sim \text{Poisson}(\lambda)$， $Y \sim \text{Poisson}(\mu)$，且 X, Y 獨立。
令 $S = X+Y$。
我們知道，若 X 和 Y 是獨立的泊松隨機變數，則它們的和 $S = X+Y$ 也是一個泊松隨機變數，其參數為 $\lambda + \mu$。
$S \sim \text{Poisson}(\lambda + \mu)$。

我們要求的是 $P(X=k | S=s)$，其中 $s = \lambda + \mu$。
$P(X=k | S=s) = \frac{P(X=k, S=s)}{P(S=s)}$
由於 $S = X+Y$，所以事件 $(X=k, S=s)$ 等價於 $(X=k, Y=s-k)$。
$P(X=k, S=s) = P(X=k, Y=s-k)$
由於 X 和 Y 獨立，
$P(X=k, Y=s-k) = P(X=k)P(Y=s-k)$

所以，
$P(X=k | S=s) = \frac{P(X=k)P(Y=s-k)}{P(S=s)}$

代入泊松分布的機率質量函數 $P(X=k) = \frac{e^{-\lambda}\lambda^k}{k!}$：
$P(X=k | S=s) = \frac{\frac{e^{-\lambda}\lambda^k}{k!} \cdot \frac{e^{-\mu}(\mu)^{s-k}}{(s-k)!}}{\frac{e^{-(\lambda+\mu)}(\lambda+\mu)^s}{s!}}$
$P(X=k | S=s) = \frac{e^{-(\lambda+\mu)}\lambda^k (\mu)^{s-k}}{k!(s-k)!} \cdot \frac{s!}{e^{-(\lambda+\mu)}(\lambda+\mu)^s}$
$P(X=k | S=s) = \frac{s!}{k!(s-k)!} \frac{\lambda^k \mu^{s-k}}{(\lambda+\mu)^s}$
$P(X=k | S=s) = \binom{s}{k} \left(\frac{\lambda}{\lambda+\mu}\right)^k \left(\frac{\mu}{\lambda+\mu}\right)^{s-k}$

這正是二項分布 $B(s, \frac{\lambda}{\lambda+\mu})$ 的機率質量函數。
因此，給定 $X+Y=s$，X 的分布是二項分布，參數為 $s$ 和 $\frac{\lambda}{\lambda+\mu}$。

【答案】(6) $X | (X+Y=s) \sim \text{Binomial}(s, \frac{\lambda}{\lambda+\mu})$

(B) 求解 $Z = \max\{X_1, \dots, X_n\}$ 的機率密度函數，其中 $X_i \sim \text{Exp}(\beta)$ 獨立。
指數分布的機率密度函數為 $f_{X_i}(x) = \beta e^{-\beta x}$，對於 $x \geq 0$。
累積分布函數為 $F_{X_i}(x) = 1 - e^{-\beta x}$，對於 $x \geq 0$。

令 $Z = \max\{X_1, \dots, X_n\}$。
首先，我們求 Z 的累積分布函數 $F_Z(z)$。
$F_Z(z) = P(Z \leq z) = P(\max\{X_1, \dots, X_n\} \leq z)$

本題考察了壽命分析中的風險函數（hazard function）的定義與計算。風險函數描述了在時間 t 之後，物件發生失效的瞬時機率，給定它在時間 t 之前尚未失效。

風險函數的定義為：
$h_T(t) = \lim_{\Delta \to 0} \frac{P(t \leq T \leq t+\Delta | T \geq t)}{\Delta}$

我們也知道，對於連續隨機變數，風險函數與機率密度函數 $f_T(t)$ 和累積分布函數 $F_T(t)$ 之間存在關係：
$h_T(t) = \frac{f_T(t)}{1 - F_T(t)} = \frac{f_T(t)}{P(T \geq t)}$

我們將使用這個關係式來計算。

(A) 若 $T \sim \text{Exp}(\beta)$。
機率密度函數為 $f_T(t) = \beta e^{-\beta t}$，對於 $t \geq 0$。
累積分布函數為 $F_T(t) = 1 - e^{-\beta t}$，對於 $t \geq 0$。
$P(T \geq t) = 1 - F_T(t) = 1 - (1 - e^{-\beta t}) = e^{-\beta t}$。

因此，風險函數為：
$h_T(t) = \frac{f_T(t)}{P(T \geq t)} = \frac{\beta e^{-\beta t}}{e^{-\beta t}} = \beta$。
這表示指數分布具有恆定的風險率，這是一個非常重要的性質。

【答案】(9) $\beta$

本題考察了條件期望和條件方差的計算，特別是當一個隨機變數與一組獨立同分布的隨機變數之間存在某種關係時（儘管題目中沒有明確說明 $\theta$ 與 $X_i$ 的關係，但常見的設定是 $\theta$ 與 $X_i$ 之間存在聯合分布，例如多元正態分布）。在沒有明確聯合分布的情況下，我們通常假設 $\theta$ 和 $X_i$ 都是從某個聯合分布中抽取的，並且這裡的 $N(0,1)$ 是指邊際分布。然而，在實際的統計推斷問題中，$\theta$ 通常是被估計的參數，而 $X_i$ 是觀測數據。題目問法更像是從一個聯合分布的角度出發。

一般來說，如果 $(\theta, X_1, ..., X_n)$ 服從一個聯合分布，我們需要利用這個聯合分布來計算條件期望和方差。在沒有給出聯合分布的情況下，最常見的設定是 $\theta$ 與 $X_i$ 之間可能存在某種依賴關係，而 $X_i$ 之間是獨立的。

假設 $\theta$ 和 $X_1, \dots, X_n$ 服從一個聯合多元正態分布。
令 $\mathbf{X} = (X_1, \dots, X_n)^T$。
我們需要知道 $\text{Cov}(\theta, X_i)$。
如果沒有給出 $\text{Cov}(\theta, X_i)$，我們無法直接計算。

但是，如果題目意圖是基於一個常見的統計模型，例如，$\theta$ 是一個參數，而 $X_i$ 是觀測值，其中 $X_i = \theta + \epsilon_i$，其中 $\epsilon_i \sim N(0, \sigma^2)$ 且獨立於 $\theta$。
但這裡的 $X_i \sim N(0,1)$，這意味著 $\theta$ 必須是 0，否則 $X_i$ 的期望值不會是 0。
如果 $\theta=0$ 且 $\epsilon_i \sim N(0,1)$，則 $X_i \sim N(0,1)$。
這種情況下，$\theta$ 是一個常數 0。

讓我們假設另一種常見的設定：$\theta$ 是一個隨機參數，而 $X_i$ 是觀測值，並且 $\theta$ 與 $X_i$ 之間有某種依賴。
如果題目沒有給出 $\theta$ 與 $X_i$ 的聯合分布，我們無法確定 $\theta$ 和 $X_i$ 之間的協方差。

然而，如果這是一個關於參數估計的問題，通常會假設 $\theta$ 是一個固定的但未知的參數，而 $X_i$ 是觀測值。但題目說 $\theta \sim N(0,1)$，說明 $\theta$ 本身是一個隨機變數。

一個可能的解釋是，題目假設了一個聯合分布，其中 $\theta$ 和 $X_i$ 之間存在一定的協方差。
例如，假設 $(\theta, X_1, \dots, X_n)$ 服從一個多元正態分布。
令 $\mathbf{X} = (X_1, \dots, X_n)^T$。
我們知道 $E(\theta) = 0$ 且 $\text{Var}(\theta) = 1$。
$E(X_i) = 0$ 且 $\text{Var}(X_i) = 1$。
$X_i$ 之間是獨立的，所以 $\text{Cov}(X_i, X_j) = 0$ for $i \neq j$。

我們需要知道 $\text{Cov}(\theta, X_i)$。
如果題目沒有給出這個信息，我們無法解答。

假設一種常見的設定：
考慮一個模型，其中 $\theta$ 和 $X_i$ 之間存在一個線性關係，並且它們共同服從一個多元正態分布。
例如，假設 $\text{Cov}(\theta, X_i) = \rho$ 對於所有的 $i$。
那麼，我們可以計算條件期望和方差。

令 $\bar{X} = \frac{1}{n} \sum_{i=1}^n X_i$。
由於 $X_i$ 獨立同分布於 $N(0,1)$，所以 $\bar{X} \sim N(0, 1/n)$。
$E(\bar{X}) = 0$。
$\text{Cov}(\theta, \bar{X}) = \text{Cov}(\theta, \frac{1}{n} \sum X_i) = \frac{1}{n} \sum \text{Cov}(\theta, X_i) = \frac{1}{n} \sum \rho = \frac{n\rho}{n} = \rho$。

根據多元正態分布的條件期望公式：
$E(\theta | \mathbf{X}) = E(\theta) + \text{Cov}(\theta, \mathbf{X})^T \text{Var}(\mathbf{X})^{-1} (\mathbf{X} - E(\mathbf{X}))$

核心觀念

本題主要考查：

1. 中央極限定理（Central Limit Theorem）。
2. Delta method：若
   $\sqrt{n}(T_n-\theta)\xrightarrow{d}N(0,\tau^2),$
   且 $g$ 在 $\theta$ 可微，則

$$\sqrt{n}\{g(T_n)-g(\theta)\}\xrightarrow{d} N\left(0,[g'(\theta)]^2\tau^2\right).$$

3. 樣本平均數的期望值與變異數計算。

題目第 (A)、(C) 的文字依照目前題面存在記號遺漏。以下採用與題目意旨一致的標準形式：

• (A) 視為求 $\sqrt{n}(Y_n^2-\mu^2)$ 的極限分布。
• (C) 視為求 $\sqrt{n}\{Y_n(1-Y_n)-p(1-p)\}$ 的極限分布。

---

(A)

解題方法

已知

$$Y_n=\frac{1}{n}\sum_{i=1}^nX_i,$$

且 $X_1,\ldots,X_n$ iid，滿足

$$E(X_i)=\mu,\qquad \operatorname{Var}(X_i)=\sigma^2.$$

由中央極限定理，

$$\sqrt{n}(Y_n-\mu)\xrightarrow{d}N(0,\sigma^2).$$

令

$$g(x)=x^2.$$

則

$$g(\mu)=\mu^2,\qquad g'(x)=2x,\qquad g'(\mu)=2\mu.$$

由 Delta method，

$$\sqrt{n}(Y_n^2-\mu^2) \xrightarrow{d} N\left(0,(2\mu)^2\sigma^2\right).$$

因此

$$\sqrt{n}(Y_n^2-\mu^2) \xrightarrow{d} N(0,4\mu^2\sigma^2).$$

直接推導

也可將其分解為

$$\sqrt{n}(Y_n^2-\mu^2) = \sqrt{n}(Y_n-\mu)(Y_n+\mu).$$

由大數法則 $Y_n\xrightarrow{p}\mu$，所以

$$Y_n+\mu\xrightarrow{p}2\mu.$$

再配合中央極限定理及 Slutsky 定理，

$$\sqrt{n}(Y_n-\mu)(Y_n+\mu) \xrightarrow{d} (2\mu)Z,$$

其中 $Z\sim N(0,\sigma^2)$，故極限為

$$N(0,4\mu^2\sigma^2).$$

解題技巧

平方函數的 Delta method 只要記得：

$$g'(x)=2x,$$

因此樣本平均數平方的漸近變異數，就是原本變異數乘上 $(2\mu)^2$。

---

(B)

核心觀念

令

$$Z_i=X_i^2,$$

則

$$Y_n=\frac{1}{n}\sum_{i=1}^nZ_i.$$

對 $Z_i$ 使用中央極限定理即可。為使

$$\frac{\sqrt n(Y_n-a)}{b}$$

收斂至 $N(0,1)$，必須取

$$a=E(Z_i),\qquad b=\sqrt{\operatorname{Var}(Z_i)}.$$

計算 $a$

已知 $X_i$ 的密度為

$$f(x)=2x,\qquad 0<x<1.$$

因此

$$a=E(X_i^2) =\int_0^1x^2(2x)\,dx =2\int_0^1x^3\,dx =\frac12.$$

計算 $b$

先計算 $E(X_i^4)$：

$$E(X_i^4) =\int_0^1x^4(2x)\,dx =2\int_0^1x^5\,dx =\frac13.$$

所以

本題考察了隨機選擇以及獨立重複試驗（二項分布）和幾何分布的期望值計算。

我們有兩種硬幣：
硬幣 1 (公平): $P(H_1) = 0.5$
硬幣 2 (有偏): $P(H_2) = 0.25$

我們隨機選擇其中一種硬幣，選擇每種硬幣的機率都是 0.5。
令 C1 表示選擇了硬幣 1，C2 表示選擇了硬幣 2。
$P(C1) = 0.5$, $P(C2) = 0.5$。

(A) 進行 100 次拋擲，X 是頭的次數。求 E(X)。
這是一個混合分布問題。我們需要先計算在選定某種硬幣的情況下的期望值，然後再進行全期望值的計算。

情況 1：選擇了硬幣 1 (公平)。
在 100 次拋擲中，頭的次數 X 服從二項分布 $B(n=100, p=0.5)$。
此時的期望值為 $E(X|C1) = n \cdot p = 100 \cdot 0.5 = 50$。

情況 2：選擇了硬幣 2 (有偏)。
在 100 次拋擲中，頭的次數 X 服從二項分布 $B(n=100, p=0.25)$。
此時的期望值為 $E(X|C2) = n \cdot p = 100 \cdot 0.25 = 25$。

本題考察了多元正態分布的性質，包括獨立性條件以及期望值的計算。

已知 X 和 Y 是兩個具有均值 0 和方差 1 的常態隨機變數。它們之間的相關係數為 $\rho$。
這意味著 $(X, Y)$ 服從一個聯合多元正態分布，其均值向量為 $\begin{pmatrix} 0 \\ 0 \end{pmatrix}$，協方差矩陣為 $\Sigma = \begin{pmatrix} \text{Var}(X) & \text{Cov}(X,Y) \\ \text{Cov}(X,Y) & \text{Var}(Y) \end{pmatrix} = \begin{pmatrix} 1 & \rho \\ \rho & 1 \end{pmatrix}$。

(A) 求解常數 c，使得 X 和 $Y - cX$ 獨立。
對於兩個隨機變數 A 和 B，如果它們服從聯合多元正態分布，則 A 和 B 獨立的充要條件是 $\text{Cov}(A, B) = 0$。
在這裡，我們令 $A = X$ 且 $B = Y - cX$。
我們需要計算 $\text{Cov}(X, Y - cX)$。
$\text{Cov}(X, Y - cX) = \text{Cov}(X, Y) - \text{Cov}(X, cX)$
$= \text{Cov}(X, Y) - c \text{Cov}(X, X)$
$= \text{Cov}(X, Y) - c \text{Var}(X)$。

我們已知 $\text{Cov}(X, Y) = \rho \sqrt{\text{Var}(X) \text{Var}(Y)} = \rho \sqrt{1 \cdot 1} = \rho$。
且 $\text{Var}(X) = 1$。
所以，
$\text{Cov}(X, Y - cX) = \rho - c(1) = \rho - c$。

為了使 X 和 $Y - cX$ 獨立，我們需要 $\text{Cov}(X, Y - cX) = 0$。
$\rho - c = 0$
$c = \rho$。

因此，當 $c = \rho$ 時，X 和 $Y - \rho X$ 是獨立的。

【答案】(19) $\rho$

(B) 計算 $E(X^2 Y^2)$。
我們知道 X 和 Y 是聯合多元正態分布的隨機變數。
$E(X^2 Y^2) = E[(XY)^2]$。
為了計算這個期望值，我們可以使用變數變換，將 $(X, Y)$ 轉換為獨立的標準常態隨機變數。
令 $Z_1 = X$。
令 $Z_2 = Y - \rho X$。
我們已經證明了，如果 $c = \rho$，則 $Z_1$ 和 $Z_2$ 是獨立的。
$Z_1 = X \sim N(0, 1)$。