112 年 國立臺北大學金融與合作經營學系碩士班《統計學》

這題主要考驗最大概似估計量 (Maximum Likelihood Estimator, MLE) 的計算與期望值性質。

核心觀念：

1. 最大概似估計量 (MLE) 的求解步驟：
   a. 寫出概似函數 (Likelihood Function)。
   b. 取對數得到對數概似函數 (Log-Likelihood Function)。
   c. 對對數概似函數對參數求偏微分，並令其等於零，解出參數估計量。
2. 估計量的期望值與偏差 (Bias)：
   a. 計算估計量的期望值。
   b. 若 $E(\hat{\theta}) = \theta$，則稱 $\hat{\theta}$ 為 $\theta$ 的不偏估計量 (Unbiased Estimator)。

詳解：

給定機率密度函數 (p.d.f.) 為 $f(x; \theta) = \frac{1}{\theta} x^{\frac{1-\theta}{\theta}}$，其中 $0 < x < 1$ 且 $0 < \theta < \infty$。
假設我們有來自此分布的 $n$ 個獨立隨機樣本 $X_1, X_2, \dots, X_n$。

(1) (10%) Show that the maximum likelihood estimator of $\theta$ is $\hat{\theta} = -\frac{1}{n} \sum_{i=1}^{n} \ln (X_i)$.

步驟 1：寫出概似函數 (Likelihood Function)
概似函數 $L(\theta)$ 是所有樣本點的機率密度函數的乘積：
$L(\theta) = \prod_{i=1}^{n} f(X_i; \theta) = \prod_{i=1}^{n} \left( \frac{1}{\theta} X_i^{\frac{1-\theta}{\theta}} \right)$
$L(\theta) = \left( \frac{1}{\theta} \right)^n \prod_{i=1}^{n} X_i^{\frac{1-\theta}{\theta}} = \theta^{-n} \prod_{i=1}^{n} X_i^{\frac{1-\theta}{\theta}}$

步驟 2：取對數得到對數概似函數 (Log-Likelihood Function)
為了簡化計算，我們取對數：
$\ln L(\theta) = \ln \left( \theta^{-n} \prod_{i=1}^{n} X_i^{\frac{1-\theta}{\theta}} \right)$
$\ln L(\theta) = \ln(\theta^{-n}) + \ln \left( \prod_{i=1}^{n} X_i^{\frac{1-\theta}{\theta}} \right)$
$\ln L(\theta) = -n \ln \theta + \sum_{i=1}^{n} \ln \left( X_i^{\frac{1-\theta}{\theta}} \right)$
$\ln L(\theta) = -n \ln \theta + \sum_{i=1}^{n} \left( \frac{1-\theta}{\theta} \right) \ln X_i$
$\ln L(\theta) = -n \ln \theta + \frac{1-\theta}{\theta} \sum_{i=1}^{n} \ln X_i$
$\ln L(\theta) = -n \ln \theta + \left( \frac{1}{\theta} - 1 \right) \sum_{i=1}^{n} \ln X_i$

步驟 3：對對數概似函數對參數 $\theta$ 求偏微分，並令其等於零
$\frac{\partial \ln L(\theta)}{\partial \theta} = \frac{\partial}{\partial \theta} \left( -n \ln \theta + \left( \frac{1}{\theta} - 1 \right) \sum_{i=1}^{n} \ln X_i \right)$
$\frac{\partial \ln L(\theta)}{\partial \theta} = -\frac{n}{\theta} + \left( -\frac{1}{\theta^2} \right) \sum_{i=1}^{n} \ln X_i$
令偏微分等於零：
$-\frac{n}{\theta} - \frac{1}{\theta^2} \sum_{i=1}^{n} \ln X_i = 0$

步驟 4：解出 $\theta$ 的估計量 $\hat{\theta}$
將上式整理：
$-\frac{n}{\theta} = \frac{1}{\theta^2} \sum_{i=1}^{n} \ln X_i$
乘以 $\theta^2$：
$-n \theta = \sum_{i=1}^{n} \ln X_i$
$\theta = -\frac{1}{n} \sum_{i=1}^{n} \ln X_i$
因此，最大概似估計量為 $\hat{\theta} = -\frac{1}{n} \sum_{i=1}^{n} \ln (X_i)$。

【答案】$\hat{\theta} = -\frac{1}{n} \sum_{i=1}^{n} \ln (X_i)$

(2) (5%) Show $E(\hat{\theta}) = \theta$ and thus is an unbiased estimator of $\theta$.

步驟 1：計算 $\hat{\theta}$ 的期望值
我們需要計算 $E(\hat{\theta})$。
$E(\hat{\theta}) = E\left(-\frac{1}{n} \sum_{i=1}^{n} \ln (X_i)\right)$
由於期望值是線性的，我們可以將常數提出：
$E(\hat{\theta}) = -\frac{1}{n} E\left(\sum_{i=1}^{n} \ln (X_i)\right)$
$E(\hat{\theta}) = -\frac{1}{n} \sum_{i=1}^{n} E(\ln (X_i))$

這題考驗指數分布的無記憶性 (memoryless property)。

核心觀念：
指數分布的無記憶性：對於一個指數分布的隨機變數 $X$，對於任意 $x, y \ge 0$，都有 $P(X > x+y | X > x) = P(X > y)$。這表示如果事件 $X > x$ 已經發生，則未來 $X$ 仍然需要等待 $y$ 的時間才能超過 $x+y$ 的機率，就等於從頭開始等待 $y$ 的時間才能超過 $y$ 的機率。

詳解：

假設 $X$ 是一個平均值為 $\mu > 0$ 的指數分布隨機變數。
指數分布的機率密度函數 (p.d.f.) 為 $f(x) = \frac{1}{\mu} e^{-x/\mu}$，其中 $x \ge 0$。
累積分布函數 (c.d.f.) 為 $F(x) = P(X \le x) = 1 - e^{-x/\mu}$，其中 $x \ge 0$。
因此，生存函數 (survival function) 為 $P(X > x) = 1 - F(x) = e^{-x/\mu}$，其中 $x \ge 0$。

我們需要證明 $P(X > x+y | X > x) = P(X > y)$。
根據條件機率的定義，對於兩個事件 A 和 B， $P(A|B) = \frac{P(A \cap B)}{P(B)}$。
在這裡，事件 A 是 $X > x+y$，事件 B 是 $X > x$。

所以，
$P(X > x+y | X > x) = \frac{P((X > x+y) \cap (X > x))}{P(X > x)}$

這題要求計算由兩個獨立同分布隨機變數比值所構成的新隨機變數的期望值和變異數。

核心觀念：

1. 聯合機率密度函數 (Joint Probability Density Function, Joint PDF)。
2. 期望值與變異數的計算。
3. 積分計算。

詳解：

給定隨機變數 $X_1, X_2$ 來自 p.d.f. $f(x) = 4x^3$，其中 $0 < x < 1$。$X_1$ 和 $X_2$ 是獨立同分布的。
我們要求計算 $Y = X_1/X_2$ 的期望值 $E(Y)$ 和變異數 $Var(Y)$。

由於 $X_1$ 和 $X_2$ 是獨立的，它們的聯合 p.d.f. 是它們各自 p.d.f. 的乘積：
$f(x_1, x_2) = f(x_1) f(x_2) = (4x_1^3)(4x_2^3) = 16x_1^3 x_2^3$，其中 $0 < x_1 < 1$ 且 $0 < x_2 < 1$。

(1) (10%) E(Y). (Round the answer to 4 decimal places)

$E(Y) = E(X_1/X_2)$。
根據期望值的定義，對於兩個獨立隨機變數 $X_1, X_2$，
$E(g(X_1, X_2)) = \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} g(x_1, x_2) f(x_1, x_2) dx_1 dx_2$。
在這裡， $g(X_1, X_2) = X_1/X_2$。

$E(Y) = \int_{0}^{1} \int_{0}^{1} \frac{x_1}{x_2} (16x_1^3 x_2^3) dx_1 dx_2$
$E(Y) = 16 \int_{0}^{1} \int_{0}^{1} x_1^4 x_2^2 dx_1 dx_2$

由於積分區域是矩形且被積函數可以分離成 $x_1$ 和 $x_2$ 的函數，我們可以將積分分解：
$E(Y) = 16 \left( \int_{0}^{1} x_1^4 dx_1 \right) \left( \int_{0}^{1} x_2^2 dx_2 \right)$

計算第一個積分：
$\int_{0}^{1} x_1^4 dx_1 = \left[ \frac{x_1^5}{5} \right]_{0}^{1} = \frac{1^5}{5} - \frac{0^5}{5} = \frac{1}{5}$

計算第二個積分：
$\int_{0}^{1} x_2^2 dx_2 = \left[ \frac{x_2^3}{3} \right]_{0}^{1} = \frac{1^3}{3} - \frac{0^3}{3} = \frac{1}{3}$

將結果代回 $E(Y)$：
$E(Y) = 16 \times \frac{1}{5} \times \frac{1}{3} = \frac{16}{15}$

這題考驗卡方檢定 (Chi-Square Test) 在擬合優度檢定 (Goodness-of-Fit Test) 中的應用，特別是判斷給定顯著水準下，何種參數值會導致拒絕虛無假設。

核心觀念：

1. 擬合優度卡方檢定：用於檢定觀察頻率是否符合理論頻率。
2. 虛無假設 ($H_0$)：骰子是公平的 (unbiased)，即每個點數出現的機率均為 $1/6$。
3. 對立假設 ($H_1$)：骰子不是公平的。
4. 卡方統計量計算：$\chi^2 = \sum \frac{(O_i - E_i)^2}{E_i}$，其中 $O_i$ 是觀察頻率，$E_i$ 是理論頻率。
5. 自由度 (Degrees of Freedom, df)：對於 $k$ 個類別的擬合優度檢定，自由度為 $k-1$。
6. 拒絕域 (Rejection Region)：在顯著水準 $\alpha$ 下，當卡方統計量大於臨界值 $\chi^2_{df, \alpha}$ 時，拒絕 $H_0$。

詳解：

步驟 1：設定虛無假設 ($H_0$) 與對立假設 ($H_1$)
$H_0$: 骰子是公平的。這意味著每個點數 (1, 2, 3, 4, 5, 6) 出現的機率均為 $p_i = 1/6$，對於 $i=1, \dots, 6$。
$H_1$: 骰子不是公平的。

步驟 2：計算理論頻率 ($E_i$)
總試驗次數 $n = 120$。
根據 $H_0$，每個點數出現的理論機率是 $1/6$。
所以，每個點數的理論頻率是 $E_i = n \times p_i = 120 \times \frac{1}{6} = 20$。
因此，理論頻率為 $E_1=20, E_2=20, E_3=20, E_4=20, E_5=20, E_6=20$。

步驟 3：計算觀察頻率 ($O_i$)
觀察頻率根據表格給出：
$O_1 = b$
$O_2 = 20$
$O_3 = 20$
$O_4 = 20$
$O_5 = 20$
$O_6 = 40-b$

步驟 4：計算卡方統計量 ($\chi^2$)
卡方統計量為：
$\chi^2 = \sum_{i=1}^{6} \frac{(O_i - E_i)^2}{E_i}$
$\chi^2 = \frac{(b-20)^2}{20} + \frac{(20-20)^2}{20} + \frac{(20-20)^2}{20} + \frac{(20-20)^2}{20} + \frac{(20-20)^2}{20} + \frac{(40-b-20)^2}{20}$
$\chi^2 = \frac{(b-20)^2}{20} + 0 + 0 + 0 + 0 + \frac{(20-b)^2}{20}$
$\chi^2 = \frac{(b-20)^2}{20} + \frac{(-1)^2(b-20)^2}{20}$
$\chi^2 = \frac{(b-20)^2}{20} + \frac{(b-20)^2}{20}$
$\chi^2 = \frac{2(b-20)^2}{20} = \frac{(b-20)^2}{10}$

步驟 5：確定自由度 (df)
有 6 個類別 (點數 1 到 6)，所以自由度 $df = k-1 = 6-1 = 5$。

步驟 6：確定顯著水準 ($\alpha$) 和臨界值
顯著水準 $\alpha = 0.025$。
題目給出臨界值 $\chi^2_{(5), \alpha=0.025} = 12.8$。
拒絕域是 $\chi^2 > 12.8$。

步驟 7：找出使 $H_0$ 被拒絕的 $b$ 值
我們需要卡方統計量大於臨界值：
$\frac{(b-20)^2}{10} > 12.8$
$(b-20)^2 > 12.8 \times 10$
$(b-20)^2 > 128$

這題考驗普通最小平方法 (Ordinary Least Squares, OLS) 線性迴歸模型的參數估計與假設檢定。

核心觀念：

1. 迴歸係數估計：斜率 $\hat{\beta}$ 和截距 $\hat{\alpha}$ 的公式。
2. 殘差變異數 (Residual Variance) 的估計。
3. 假設檢定：t 檢定的計算，用於檢定迴歸係數是否顯著不為零。

詳解：

給定數據：
樣本數 $n = 10$
樣本平均數 $\bar{X} = 3$
樣本平均數 $\bar{Y} = 4$
$S_{XX} = \sum(X - \bar{X})^2 = 32$
$S_{YY} = \sum(Y - \bar{Y})^2 = 29$
$S_{XY} = \sum(X - \bar{X})(Y - \bar{Y}) = 28$

(1) (5%) The regression line $\hat{Y} = \hat{\alpha} + \hat{\beta}X$

首先計算迴歸斜率 $\hat{\beta}$：
$\hat{\beta} = \frac{S_{XY}}{S_{XX}} = \frac{28}{32} = \frac{7}{8} = 0.875$

然後計算迴歸截距 $\hat{\alpha}$：
$\hat{\alpha} = \bar{Y} - \hat{\beta}\bar{X}$
$\hat{\alpha} = 4 - (0.875)(3)$
$\hat{\alpha} = 4 - 2.625 = 1.375$

因此，迴歸線為：
$\hat{Y} = 1.375 + 0.875X$

【答案】$\hat{Y} = 1.375 + 0.875X$

(2) (5%) The variance of residuals $\hat{\sigma}^2$

殘差平方和 (Sum of Squared Residuals, SSR) 可以計算如下：
$SSR = S_{YY} - \hat{\beta} S_{XY}$
$SSR = 29 - (0.875)(28)$
$SSR = 29 - 24.5 = 4.5$

殘差變異數的估計值 $\hat{\sigma}^2$ 是 SSR 除以自由度 $n-2$ (因為有兩個參數 $\alpha$ 和 $\beta$ 被估計)：
$\hat{\sigma}^2 = \frac{SSR}{n-2} = \frac{4.5}{10-2} = \frac{4.5}{8}$

這題考驗離散隨機變數的期望值與變異數計算，特別是涉及到兩個獨立隨機變數的最大值。

核心觀念：

1. 離散隨機變數的機率質量函數 (Probability Mass Function, PMF)。
2. 期望值公式：$E(Y) = \sum y P(Y=y)$。
3. 變異數公式：$Var(Y) = E(Y^2) - [E(Y)]^2$。
4. 計算最大值的 PMF。

詳解：

$X_1$ 和 $X_2$ 是兩個公平骰子擲出的點數，它們獨立且均勻分佈在 $\{1, 2, 3, 4, 5, 6\}$。
$P(X_1=i) = P(X_2=i) = 1/6$ 對於 $i \in \{1, 2, 3, 4, 5, 6\}$。
$Y = \max(X_1, X_2)$。$Y$ 的可能取值也是 $\{1, 2, 3, 4, 5, 6\}$。

為了計算 $E(Y)$ 和 $Var(Y)$，我們首先需要找到 $Y$ 的 PMF，即 $P(Y=y)$。
計算 $P(Y=y)$ 的一種方法是先計算 $P(Y \le y)$，然後利用 $P(Y=y) = P(Y \le y) - P(Y \le y-1)$。
$P(Y \le y) = P(\max(X_1, X_2) \le y) = P(X_1 \le y \text{ and } X_2 \le y)$
由於 $X_1$ 和 $X_2$ 獨立，
$P(Y \le y) = P(X_1 \le y) P(X_2 \le y)$。

對於 $y \in \{1, 2, 3, 4, 5, 6\}$：
$P(X_1 \le y) = P(X_2 \le y) = \frac{y}{6}$。
所以，$P(Y \le y) = \left(\frac{y}{6}\right)^2 = \frac{y^2}{36}$。

現在計算 $P(Y=y)$:
$P(Y=1) = P(Y \le 1) = \frac{1^2}{36} = \frac{1}{36}$。
$P(Y=2) = P(Y \le 2) - P(Y \le 1) = \frac{2^2}{36} - \frac{1^2}{36} = \frac{4-1}{36} = \frac{3}{36}$。
$P(Y=3) = P(Y \le 3) - P(Y \le 2) = \frac{3^2}{36} - \frac{2^2}{36} = \frac{9-4}{36} = \frac{5}{36}$。
$P(Y=4) = P(Y \le 4) - P(Y \le 3) = \frac{4^2}{36} - \frac{3^2}{36} = \frac{16-9}{36} = \frac{7}{36}$。
$P(Y=5) = P(Y \le 5) - P(Y \le 4) = \frac{5^2}{36} - \frac{4^2}{36} = \frac{25-16}{36} = \frac{9}{36}$。
$P(Y=6) = P(Y \le 6) - P(Y \le 5) = \frac{6^2}{36} - \frac{5^2}{36} = \frac{36-25}{36} = \frac{11}{36}$。

核心觀念

生日問題適合先計算「所有人生日都不同」的機率，再用其補事件求「至少兩人同生日」的機率。

假設每人的生日獨立，且一年 365 天中的每一天都同樣可能。若班上有 $N$ 位學生，前 $N$ 人生日都不同的機率為

$$P(\text{生日皆不同}) =\frac{365}{365}\cdot\frac{364}{365}\cdots\frac{365-N+1}{365} =\prod_{i=0}^{N-1}\left(1-\frac{i}{365}\right).$$

因此，

$$P(\text{至少兩人同生日}) =1-P(\text{生日皆不同}).$$

題目要求此機率「超過 $90\%$」，等價於生日皆不同的機率小於 $0.1$。

解題方法

先看 $N=41$。生日皆不同的機率為

$$P(\text{生日皆不同}) =\frac{365\cdot364\cdots325}{365^{41}}.$$

由題目提供的連續整數乘積不等式，取 $m=325$、$k=40$：

$$325\cdot326\cdots365 \leq \left(325+\frac{40}{2}\right)^{41} =345^{41}.$$

所以