111 年 國立臺北大學金融與合作經營學系碩士班《統計學》

本題主要在考察迴歸分析中，OLS (Ordinary Least Squares) 的基本概念與計算，包含迴歸係數的估計、殘差變異數的估計以及迴歸係數變異數的估計。

核心概念：

1. OLS 估計量：對於簡單線性迴歸模型 $Y = \beta_1 + \beta_2 X + \epsilon$，在給定樣本數據 $(X_i, Y_i)$ 下，OLS 方法旨在最小化殘差平方和 $\sum_{i=1}^n (Y_i - (\beta_1 + \beta_2 X_i))^2$。其估計量 $\hat{\beta}_1$ 和 $\hat{\beta}_2$ (在此題中記為 $b_1$ 和 $b_2$) 的公式為：
   $b_2 = \frac{\sum_{i=1}^n (X_i - \bar{X})(Y_i - \bar{Y})}{\sum_{i=1}^n (X_i - \bar{X})^2}$
   $b_1 = \bar{Y} - b_2 \bar{X}$
   題目已給出均值中心化的變數 $(X_i - \bar{X})$ 和 $(Y_i - \bar{Y})$，可以直接代入公式計算 $b_2$。

2. 殘差變異數 $\sigma^2$ 的估計：通常用 $s^2$ 或 $\hat{\sigma}^2$ 表示，計算公式為：
   $\hat{\sigma}^2 = \frac{\sum_{i=1}^n (Y_i - \hat{Y}_i)^2}{n-2} = \frac{\text{SSE}}{n-2}$
   其中 $\hat{Y}_i = b_1 + b_2 X_i$ 是預測值，$Y_i - \hat{Y}_i$ 是殘差。
   在題目中，給定的是均值中心化的變數，我們可以利用以下關係來計算 SSE (Sum of Squared Errors)：
   $\sum_{i=1}^n (Y_i - \bar{Y})^2 = \sum_{i=1}^n (X_i - \bar{X})^2 b_2^2 + \text{SSE}$
   或者，更直接地，我們知道 $\sum_{i=1}^n (Y_i - \bar{Y})^2 = \sum_{i=1}^n \hat{Y}_i^2 + \text{SSE}$，其中 $\hat{Y}_i$ 是在均值中心化變數下的迴歸值 $(Y_i - \bar{Y}) - (\epsilon_i - \bar{\epsilon})$。
   更簡潔的計算方式是利用 $\text{SSE} = \sum_{i=1}^n (Y_i - \bar{Y})^2 - b_2^2 \sum_{i=1}^n (X_i - \bar{X})^2$。

3. 迴歸係數變異數 $\text{Var}(b_2)$ 的估計：其估計值為：
   $\widehat{\text{Var}}(b_2) = \frac{\hat{\sigma}^2}{\sum_{i=1}^n (X_i - \bar{X})^2}$

本題考察離散型隨機變數的聯合機率分佈，主要內容包含邊際機率分佈、期望值、變異數、相關係數的計算，以及條件機率分佈與條件期望值的求解。

核心概念：

1. 邊際機率分佈 (Marginal Probability Distribution):
   離散型隨機變數 $X$ 的邊際機率分佈為 $f_X(x) = \sum_y f(x,y)$。
   離散型隨機變數 $Y$ 的邊際機率分佈為 $f_Y(y) = \sum_x f(x,y)$。

2. 期望值 (Expectation):
   $E(X) = \sum_x x f_X(x)$
   $E(Y) = \sum_y y f_Y(y)$

3. 變異數 (Variance):
   $\text{Var}(X) = E(X^2) - [E(X)]^2$
   $\text{Var}(Y) = E(Y^2) - [E(Y)]^2$
   其中 $E(X^2) = \sum_x x^2 f_X(x)$，$E(Y^2) = \sum_y y^2 f_Y(y)$。

4. 相關係數 (Correlation Coefficient):
   $\rho = \frac{\text{Cov}(X,Y)}{\sigma_X \sigma_Y}$
   其中 $\text{Cov}(X,Y) = E(XY) - E(X)E(Y)$。
   $E(XY) = \sum_x \sum_y xy f(x,y)$。

5. 條件機率分佈 (Conditional Probability Distribution):
   $f(y|X=x) = \frac{f(x,y)}{f_X(x)}$，前提是 $f_X(x) > 0$。
   $f(x|Y=y) = \frac{f(x,y)}{f_Y(y)}$，前提是 $f_Y(y) > 0$。

6. 條件期望值 (Conditional Expectation):
   $E(Y|X=x) = \sum_y y f(y|X=x)$。

解題步驟：

首先，我們需要整理聯合機率分佈的資料，並計算邊際機率分佈。

聯合機率分佈表：

(x, y)	(1, 1)	(1, 2)	(1, 3)	(2, 1)	(2, 2)	(2, 3)	總計
$f(x,y)$	2/15	4/15	3/15	1/15	1/15	4/15	15/15 = 1

(1) 計算 $\mu_x$, $\mu_y$, $\sigma_x^2$, $\sigma_y^2$, $\rho$

• 邊際機率分佈 $f_X(x)$:
  $f_X(1) = f(1,1) + f(1,2) + f(1,3) = \frac{2}{15} + \frac{4}{15} + \frac{3}{15} = \frac{9}{15} = \frac{3}{5}$
  $f_X(2) = f(2,1) + f(2,2) + f(2,3) = \frac{1}{15} + \frac{1}{15} + \frac{4}{15} = \frac{6}{15} = \frac{2}{5}$
  (檢查：$f_X(1) + f_X(2) = 3/5 + 2/5 = 1$)

• 邊際機率分佈 $f_Y(y)$:
  $f_Y(1) = f(1,1) + f(2,1) = \frac{2}{15} + \frac{1}{15} = \frac{3}{15} = \frac{1}{5}$
  $f_Y(2) = f(1,2) + f(2,2) = \frac{4}{15} + \frac{1}{15} = \frac{5}{15} = \frac{1}{3}$
  $f_Y(3) = f(1,3) + f(2,3) = \frac{3}{15} + \frac{4}{15} = \frac{7}{15}$
  (檢查：$f_Y(1) + f_Y(2) + f_Y(3) = 1/5 + 1/3 + 7/15 = 3/15 + 5/15 + 7/15 = 15/15 = 1$)

• 期望值 $\mu_x$:
  $\mu_x = E(X) = 1 \times f_X(1) + 2 \times f_X(2) = 1 \times \frac{3}{5} + 2 \times \frac{2}{5} = \frac{3}{5} + \frac{4}{5} = \frac{7}{5} = 1.4$

• 期望值 $\mu_y$:
  $\mu_y = E(Y) = 1 \times f_Y(1) + 2 \times f_Y(2) + 3 \times f_Y(3) = 1 \times \frac{1}{5} + 2 \times \frac{1}{3} + 3 \times \frac{7}{15} = \frac{1}{5} + \frac{2}{3} + \frac{21}{15} = \frac{3}{15} + \frac{10}{15} + \frac{21}{15} = \frac{34}{15} \approx 2.267$

• 變異數 $\sigma_x^2$:
  $E(X^2) = 1^2 \times f_X(1) + 2^2 \times f_X(2) = 1 \times \frac{3}{5} + 4 \times \frac{2}{5} = \frac{3}{5} + \frac{8}{5} = \frac{11}{5} = 2.2$
  $\sigma_x^2 = E(X^2) - [E(X)]^2 = \frac{11}{5} - (\frac{7}{5})^2 = \frac{11}{5} - \frac{49}{25} = \frac{55}{25} - \frac{49}{25} = \frac{6}{25} = 0.24$

• 變異數 $\sigma_y^2$:
  $E(Y^2) = 1^2 \times f_Y(1) + 2^2 \times f_Y(2) + 3^2 \times f_Y(3) = 1 \times \frac{1}{5} + 4 \times \frac{1}{3} + 9 \times \frac{7}{15} = \frac{1}{5} + \frac{4}{3} + \frac{63}{15} = \frac{3}{15} + \frac{20}{15} + \frac{63}{15} = \frac{86}{15}$

本題考察卡方分佈 (Chi-squared distribution) 的性質，以及期望值、變異數的計算，並應用極限定理來求隨機變數序列的極限分佈。

核心概念：

1. 卡方分佈 (Chi-squared distribution, $\chi^2(n)$):
   若 $X_1, \dots, X_n$ 是獨立標準常態隨機變數 (i.i.d. $N(0,1)$)，則 $Z_n = \sum_{i=1}^n X_i^2$ 服從自由度為 $n$ 的卡方分佈，記為 $Z_n \sim \chi^2(n)$。
   其機率密度函數 (p.d.f.) 為 $f(z) = \frac{1}{2^{n/2}\Gamma(n/2)} z^{n/2-1} e^{-z/2}$，定義域為 $z > 0$。
   期望值 $E(Z_n) = n$。
   變異數 $\text{Var}(Z_n) = 2n$。

2. 動差母函數 (Moment Generating Function, MGF):
   若 $X$ 的 MGF 為 $M_X(t) = E(e^{tX})$。
   對於 $\chi^2(n)$ 分佈，其 MGF 為 $M_{Z_n}(t) = (1-2t)^{-n/2}$，定義域為 $t < 1/2$。

3. 極限定理 (Limit Theorems):

   • Chebyshev's Inequality: $P(|X - E(X)| \ge k \sigma_X) \le \frac{1}{k^2}$。
   • Weak Law of Large Numbers (WLLN): 樣本均值 $\bar{X}_n$ 在機率上收斂於總體期望值 $E(X)$。
   • Central Limit Theorem (CLT): 若 $X_1, \dots, X_n$ 是 i.i.d. 隨機變數，期望值為 $\mu$ 且變異數為 $\sigma^2 < \infty$，則 $\frac{\bar{X}_n - \mu}{\sigma/\sqrt{n}}$ 在分佈上收斂於標準常態分佈 $N(0,1)$。
   • MGF Convergence Theorem: 若隨機變數序列 $X_n$ 的 MGF $M_{X_n}(t)$ 在包含 $t=0$ 的某個開區間內存在，且 $M_{X_n}(t)$ 在該區間內收斂於一個函數 $M(t)$，而 $M(t)$ 也是某個隨機變數 $X$ 的 MGF，則 $X_n$ 在分佈上收斂於 $X$。

解題步驟：

(1) 求 $W_n = Z_n/n^2$ 的動差母函數 (MGF)

我們已知 $Z_n \sim \chi^2(n)$，其 MGF 為 $M_{Z_n}(t) = (1-2t)^{-n/2}$。
令 $W_n = Z_n/n^2$，則 $Z_n = n^2 W_n$。
我們想要求 $M_{W_n}(t) = E(e^{tW_n})$。
將 $W_n$ 代入 MGF 定義：
$M_{W_n}(t) = E(e^{t W_n}) = E(e^{t (Z_n/n^2)}) = E(e^{(t/n^2) Z_n})$。

根據 MGF 的性質：若 $Y = aX$，則 $M_Y(t) = M_X(at)$。
在此，我們將 $Z_n$ 視為 $X$，而 $a = t/n^2$。
所以，$M_{W_n}(t) = M_{Z_n}(t/n^2)$。

將 $t/n^2$ 代入 $M_{Z_n}(t)$ 的公式：
$M_{W_n}(t) = (1 - 2(t/n^2))^{-n/2} = (1 - \frac{2t}{n^2})^{-n/2}$。

此 MGF 對於 $1 - \frac{2t}{n^2} > 0$ 成立，即 $\frac{2t}{n^2} < 1$，或 $t < n^2/2$。
因此，$W_n$ 的動差母函數為 $(1 - \frac{2t}{n^2})^{-n/2}$。

(2) 求 $W_n$ 的極限分佈

我們要找當 $n \to \infty$ 時 $W_n$ 的極限分佈。
我們已知 $E(Z_n) = n$ 且 $\text{Var}(Z_n) = 2n$。
現在計算 $W_n$ 的期望值和變異數：

本題考察最大概似估計量 (Maximum Likelihood Estimator, MLE) 的求解與其性質的驗證，包含對數概似函數的建立、求導與極值判斷，以及期望值的計算來驗證估計量的公平性。

核心概念：

1. 最大概似估計量 (MLE):
   給定一組樣本 $X_1, \dots, X_n$，其聯合機率密度函數 (或機率質量函數) 稱為概似函數 $L(\theta) = \prod_{i=1}^n f(X_i; \theta)$。
   最大概似估計量是使概似函數 $L(\theta)$ 達到最大的 $\theta$ 值。通常我們取對數概似函數 $\ell(\theta) = \ln L(\theta)$，並尋找 $\frac{d\ell(\theta)}{d\theta} = 0$ 的解。

2. 對數概似函數 (Log-Likelihood Function):
   $\ell(\theta) = \ln L(\theta) = \ln \prod_{i=1}^n f(X_i; \theta) = \sum_{i=1}^n \ln f(X_i; \theta)$。

3. 期望值 (Expectation):
   $E(X) = \int x f(x) dx$。
   對於隨機變數函數，若 $Y=g(X)$，則 $E(Y) = E(g(X)) = \int g(x) f(x) dx$。

4. 無偏估計量 (Unbiased Estimator):
   一個估計量 $\hat{\theta}$ 對於參數 $\theta$ 是無偏的，如果 $E(\hat{\theta}) = \theta$。

解題步驟：

首先，我們需要確定樣本 $X_i$ 的機率密度函數 (p.d.f.)。
給定的 p.d.f. 是 $f(x; \theta) = \frac{1}{\theta} x^{\frac{1}{\theta}-1}$，定義域是 $0 < x < 1$ 且 $0 < \theta < \infty$。
這是 $X_i$ 的 p.d.f.。

(1) 求 $\theta$ 的最大概似估計量 (MLE)

• 寫出概似函數 $L(\theta)$:
  由於 $X_1, \dots, X_n$ 是隨機樣本，它們是獨立同分佈的。
  $L(\theta) = \prod_{i=1}^n f(X_i; \theta) = \prod_{i=1}^n \left( \frac{1}{\theta} X_i^{\frac{1}{\theta}-1} \right)$
  $L(\theta) = \left( \frac{1}{\theta} \right)^n \prod_{i=1}^n X_i^{\frac{1}{\theta}-1} = \theta^{-n} \prod_{i=1}^n X_i^{\frac{1}{\theta}-1}$

• 寫出對數概似函數 $\ell(\theta)$:
  $\ell(\theta) = \ln L(\theta) = \ln \left( \theta^{-n} \prod_{i=1}^n X_i^{\frac{1}{\theta}-1} \right)$
  $\ell(\theta) = \ln(\theta^{-n}) + \ln \left( \prod_{i=1}^n X_i^{\frac{1}{\theta}-1} \right)$
  $\ell(\theta) = -n \ln(\theta) + \sum_{i=1}^n \ln(X_i^{\frac{1}{\theta}-1})$
  $\ell(\theta) = -n \ln(\theta) + \left(\frac{1}{\theta}-1\right) \sum_{i=1}^n \ln(X_i)$

• 求 $\ell(\theta)$ 對 $\theta$ 的偏導數並令其為 0:
  $\frac{d\ell(\theta)}{d\theta} = \frac{d}{d\theta} \left( -n \ln(\theta) + \left(\frac{1}{\theta}-1\right) \sum_{i=1}^n \ln(X_i) \right)$
  $\frac{d\ell(\theta)}{d\theta} = -n \cdot \frac{1}{\theta} + \left(-\frac{1}{\theta^2}\right) \sum_{i=1}^n \ln(X_i)$
  $\frac{d\ell(\theta)}{d\theta} = -\frac{n}{\theta} - \frac{1}{\theta^2} \sum_{i=1}^n \ln(X_i)$

  令導數為 0：
  $-\frac{n}{\theta} - \frac{1}{\theta^2} \sum_{i=1}^n \ln(X_i) = 0$
  乘以 $-\theta^2$ (因為 $\theta > 0$):
  $n\theta + \sum_{i=1}^n \ln(X_i) = 0$
  $n\theta = - \sum_{i=1}^n \ln(X_i)$
  $\theta = -\frac{1}{n} \sum_{i=1}^n \ln(X_i)$

  這個解就是 $\hat{\theta}$，最大概似估計量。
  $\hat{\theta} = -\frac{1}{n} \sum_{i=1}^n \ln(X_i)$。

  我們需要確認這是一個最大值點，可以通過計算二階導數。
  $\frac{d^2\ell(\theta)}{d\theta^2} = \frac{d}{d\theta} \left( -\frac{n}{\theta} - \frac{1}{\theta^2} \sum_{i=1}^n \ln(X_i) \right)$
  $\frac{d^2\ell(\theta)}{d\theta^2} = n\theta^{-2} - (-2)\theta^{-3} \sum_{i=1}^n \ln(X_i)$

本題考察比例的信賴區間與樣本數的計算，包含已知比例與未知比例兩種情況下的樣本數估計。

核心概念：

1. 比例的信賴區間 (Confidence Interval for a Proportion):
   對於一個二項分佈，若成功率為 $p$，樣本數為 $n$，成功次數為 $x$，樣本比例為 $\hat{p} = x/n$。
   當 $n$ 足夠大時 (通常要求 $np \ge 5$ 且 $n(1-p) \ge 5$)，比例的 $(1-\alpha)$ 信賴區間近似為：
   $\hat{p} \pm Z_{\alpha/2} \sqrt{\frac{\hat{p}(1-\hat{p})}{n}}$。

2. 估計誤差 (Estimation Error):
   信賴區間的半寬 (margin of error) 代表估計誤差。在本題中，估計誤差要求小於 0.04，即 $Z_{\alpha/2} \sqrt{\frac{\hat{p}(1-\hat{p})}{n}} \le 0.04$。

3. 樣本數的計算 (Sample Size Calculation):
   由估計誤差的公式，我們可以解出所需的樣本數 $n$。
   $Z_{\alpha/2} \sqrt{\frac{\hat{p}(1-\hat{p})}{n}} \le E$ (其中 $E$ 是最大允許誤差)
   $\sqrt{n} \ge Z_{\alpha/2} \frac{\sqrt{\hat{p}(1-\hat{p})}}{E}$
   $n \ge \left( Z_{\alpha/2} \frac{\sqrt{\hat{p}(1-\hat{p})}}{E} \right)^2 = Z_{\alpha/2}^2 \frac{\hat{p}(1-\hat{p})}{E^2}$。

   • 情況一：已知總體比例 $p$:
     直接使用已知的 $p$ 值來計算 $\hat{p}(1-\hat{p})$。

   • 情況二：未知總體比例 $p$:
     為了使樣本數 $n$ 盡可能大 (即給出最保守的估計，確保誤差一定小於 $E$)，我們需要最大化 $\hat{p}(1-\hat{p})$。

核心觀念

• 隨機變數的函數變換：求 $W=g(Y)$ 的分布時，若 $g$ 在原變數的支集上不是單調函數，須分段處理。
• 累分布函數 (CDF) 法：先求 $F_W(w)=P(W\le w)$，再對 $w$ 微分得到 pdf $f_W(w)$。
• 均勻分布的密度：$Y\sim\text{Uniform}(-1,3)$ 時，$f_Y(y)=\dfrac1{4},\; -1<y<3$。

---

解題方法

1. 確定 $W=Y^2$ 的支集
   $Y\in[-1,3]\Rightarrow W=Y^2\in[0,9]$。

2. 計算累分布函數

$F_W(w)=P(Y^2\le w)=P(-\sqrt w\le Y\le \sqrt w),\qquad w\ge0$

變換 $g(y)=y^2$ 在 $[-1,3]$ 不是單調的，必須依 $\sqrt w$ 與端點的相對位置分段：

• 當 $0\le w\le1$：此時 $\sqrt w\le1$，負根 $-\sqrt w$ 落在 $[-1,0]$ 內。

$F_W(w)=\frac{\sqrt w-(-\sqrt w)}{4}=\frac{2\sqrt w}{4}=\frac{\sqrt w}{2}$

• 當 $1\le w\le9$：此時 $\sqrt w>1$，負根已超過左端點 $-1$，故整個左側區間 $[-1,0]$ 都被包含，只剩上界受 $\sqrt w$ 限制。

$F_W(w)=\frac{\sqrt w-(-1)}{4}=\frac{\sqrt w+1}{4}$

• 當 $w<0$ 或 $w>9$：$F_W(w)=0$（$w<0$）或 $F_W(w)=1$（$w\ge9$）。

3. 求密度函數（對 $F_W(w)$ 分段微分）

本題是關於幾何分佈 (Geometric Distribution) 的期望值推導。幾何分佈描述了在獨立重複伯努利試驗中，首次成功所需的試驗次數。

核心概念：

1. 幾何分佈 (Geometric Distribution):
   假設每次試驗成功的機率是 $q$ (0 < q < 1)，失敗的機率是 $p = 1-q$。
   隨機變數 $X$ 代表首次成功所需的試驗次數。
   則 $X$ 的機率質量函數 (probability mass function, p.m.f.) 為：
   $P(X=k) = p^{k-1}q = (1-q)^{k-1}q$, for $k = 1, 2, 3, \dots$。

2. 期望值 (Expectation):
   對於離散型隨機變數 $X$，其期望值為 $E(X) = \sum_{k} k P(X=k)$。

3. 幾何級數求和 (Geometric Series Summation):
   $\sum_{k=1}^{\infty} r^k = \frac{r}{1-r}$ for $|r| < 1$。
   $\sum_{k=0}^{\infty} r^k = \frac{1}{1-r}$ for $|r| < 1$。
   $\sum_{k=1}^{\infty} kr^{k-1} = \frac{d}{dr} \sum_{k=0}^{\infty} r^k = \frac{d}{dr} (\frac{1}{1-r}) = \frac{1}{(1-r)^2}$ for $|r| < 1$。
   $\sum_{k=1}^{\infty} k r^k = r \sum_{k=1}^{\infty} k r^{k-1} = \frac{r}{(1-r)^2}$ for $|r| < 1$。

解題步驟：

本題結合了機率分佈的變換和條件期望的概念。首先，給定了一個關於「預防接種後未發生不良反應機率 $p$」的機率密度函數；接著，定義了一個新的隨機變數 $Y$ 為 $n$ 個接種者中，未發生不良反應的人數；最後，要求計算 $Y$ 的期望值。

核心概念：

1. 隨機變數的期望值: $E(X) = \int x f(x) dx$ 或 $E(X) = \sum x P(X=x)$。
2. 條件期望 (Conditional Expectation): $E(Y) = E[E(Y|P)]$。
3. 二項分佈 (Binomial Distribution): 若一個事件發生的機率為 $p$，進行 $n$ 次獨立試驗，則成功次數 $k$ 服從二項分佈 $B(n, p)$，其機率質量函數為 $P(k; n, p) = \binom{n}{k} p^k (1-p)^{n-k}$。二項分佈的期望值為 $E(k) = np$。
4. 機率密度函數 (Probability Density Function, PDF): 描述連續型隨機變數的機率分佈。

解題步驟：

我們需要計算 $E(Y)$，其中 $n=10$。
$Y$ 是 $n$ 個人中，未發生不良反應的人數。
對於每一個接種者，未發生不良反應的機率是 $P$。
然而，$P$ 本身是一個隨機變數，其機率密度函數 $f_P(p) = 12p^2(1-p)$ for $0 \le p \le 1$。

我們可以將 $E(Y)$ 表示為對 $P$ 的條件期望：
$E(Y) = E[E(Y|P)]$。

首先，我們計算條件期望 $E(Y|P=p)$。
如果我們知道未發生不良反應的機率精確地是 $p$，那麼對於 $n$ 個接種者，$Y$ (未發生不良反應的人數) 就服從一個二項分佈，參數為 $n$ 和 $p$。
即 $Y | (P=p) \sim \text{Binomial}(n, p)$。
則條件期望為 $E(Y|P=p) = np$。

由於 $P$ 是一個隨機變數，我們將 $p$ 替換為 $P$：
$E(Y|P) = nP$。