109 年 國立暨南國際大學經濟學系碩士班《統計學》

本題主要在考察簡單線性迴歸模型的基礎概念，包括模型假設、最小平方法估計量、估計量的性質（不偏性、變異數）以及其分配。

核心觀念：簡單線性迴歸模型、最小平方法 (OLS)、估計量的性質、常態分配。

(1) 簡單線性迴歸模型的假設條件如下：

• 線性假設 (Linearity): 模型的期望值是自變數的線性函數。即 $E(y_i | x_i) = \beta_0 + \beta_1 x_i$。在此題目中，模型為 $y_i = \beta x_i + e_i$，隱含 $\beta_0 = 0$。
• 隨機誤差項的期望值為零 (Zero Conditional Mean): 誤差項的期望值為零，$E(e_i) = 0$。
• 誤差項的同質變異數 (Homoscedasticity): 誤差項的變異數為常數，$\text{Var}(e_i) = \sigma^2$。
• 誤差項的獨立性 (Independence): 誤差項之間相互獨立，$\text{Cov}(e_i, e_j) = 0$ for $i \neq j$。
• 外生性 (Exogeneity): 自變數 $x_i$ 與誤差項 $e_i$ 無關，即 $\text{Cov}(x_i, e_i) = 0$。
• 非隨機自變數 (Non-stochastic Independent Variable): 自變數 $x_i$ 不是隨機的，或者說 $x_i$ 與 $e_i$ 的共變異數為零。
• 無完美共線性 (No Perfect Multicollinearity): 在多元迴歸中，自變數之間不能存在線性關係。在此簡單迴歸中，此假設通常指 $x_i$ 不全為零。
• 常態性假設 (Normality): 誤差項 $e_i$ 服從常態分配，$e_i \sim N(0, \sigma^2)$。此假設對於推論統計（如假設檢定、信賴區間）是必要的，但對於估計量的性質（不偏性、最小變異數）則非必要。

題目中模型為 $y_i = \beta x_i + e_i$，若假設 $\beta_0=0$ 則為通過原點的迴歸。通常簡單線性迴歸模型是 $y_i = \beta_0 + \beta_1 x_i + e_i$。若題目僅寫 $y_i = \beta x_i + e_i$，則 $\beta$ 即為斜率係數。我們假設模型為：
$y_i = \beta x_i + e_i$, $i=1, \dots, n$
其中：
(a) $E(e_i) = 0$
(b) $\text{Var}(e_i) = \sigma^2$ (同質變異數)
(c) $\text{Cov}(e_i, e_j) = 0$ for $i \neq j$ (獨立性)
(d) $x_i$ 是固定的或與 $e_i$ 無關。
(e) $e_i \sim N(0, \sigma^2)$ (常態性)

(2) 最小平方法 (OLS) 的目標是最小化殘差平方和 (Sum of Squared Residuals, SSR)。
SSR = $\sum_{i=1}^n e_i^2 = \sum_{i=1}^n (y_i - \hat{y}_i)^2 = \sum_{i=1}^n (y_i - \hat{\beta} x_i)^2$
為了找到最小化 SSR 的 $\hat{\beta}$，我們對 SSR 對 $\hat{\beta}$ 求偏微分，並令其等於零：
$\frac{\partial SSR}{\partial \hat{\beta}} = \sum_{i=1}^n 2(y_i - \hat{\beta} x_i)(-x_i) = 0$
$-2 \sum_{i=1}^n (y_i x_i - \hat{\beta} x_i^2) = 0$
$\sum_{i=1}^n y_i x_i - \hat{\beta} \sum_{i=1}^n x_i^2 = 0$
$\hat{\beta} \sum_{i=1}^n x_i^2 = \sum_{i=1}^n y_i x_i$
$\hat{\beta} = \frac{\sum_{i=1}^n y_i x_i}{\sum_{i=1}^n x_i^2}$

【答案】$\hat{\beta} = \frac{\sum_{i=1}^n x_i y_i}{\sum_{i=1}^n x_i^2}$

(3) 證明 $\hat{\beta}$ 的不偏性：
將 $\hat{\beta}$ 的公式代入 $y_i = \beta x_i + e_i$：
$\hat{\beta} = \frac{\sum_{i=1}^n x_i (\beta x_i + e_i)}{\sum_{i=1}^n x_i^2}$
$\hat{\beta} = \frac{\sum_{i=1}^n (\beta x_i^2 + x_i e_i)}{\sum_{i=1}^n x_i^2}$
$\hat{\beta} = \frac{\beta \sum_{i=1}^n x_i^2 + \sum_{i=1}^n x_i e_i}{\sum_{i=1}^n x_i^2}$
$\hat{\beta} = \beta + \frac{\sum_{i=1}^n x_i e_i}{\sum_{i=1}^n x_i^2}$

取期望值：
$E(\hat{\beta}) = E\left(\beta + \frac{\sum_{i=1}^n x_i e_i}{\sum_{i=1}^n x_i^2}\right)$
由於 $\beta$ 是常數，且 $x_i$ 是固定的，所以 $\sum x_i^2$ 也是常數。
$E(\hat{\beta}) = \beta + E\left(\frac{\sum_{i=1}^n x_i e_i}{\sum_{i=1}^n x_i^2}\right)$
$E(\hat{\beta}) = \beta + \frac{1}{\sum_{i=1}^n x_i^2} E\left(\sum_{i=1}^n x_i e_i\right)$

本題主要考察隨機變數的聯合機率、獨立性判斷以及條件期望的計算。

核心觀念：聯合機率、邊際機率、獨立性、條件機率、條件期望。

題目設定：從 {1, 2, 3, 4} 四顆球中，不放回地連續抽取兩球。
令 X 為第一球的號碼。
令 Y 為兩球的數字和。

樣本空間 Ω 包含所有可能的有序配對 (第一球, 第二球)：
Ω = {(1,2), (1,3), (1,4), (2,1), (2,3), (2,4), (3,1), (3,2), (3,4), (4,1), (4,2), (4,3)}
總共有 $4 \times 3 = 12$ 種可能結果，每種結果的機率均為 $\frac{1}{12}$。

(1) 表列 X 與 Y 的聯合機率。
首先，我們列出所有可能的 (X, Y) 組合及其機率。
X 的可能值為 {1, 2, 3, 4}。
Y 的可能值需要計算。
若 X=1, 第二球可以是 {2, 3, 4}。
(X,Y) 組合：
(1, 1+2=3) 機率 1/12
(1, 1+3=4) 機率 1/12
(1, 1+4=5) 機率 1/12
若 X=2, 第二球可以是 {1, 3, 4}。
(X,Y) 組合：
(2, 2+1=3) 機率 1/12
(2, 2+3=5) 機率 1/12
(2, 2+4=6) 機率 1/12
若 X=3, 第二球可以是 {1, 2, 4}。
(X,Y) 組合：
(3, 3+1=4) 機率 1/12
(3, 3+2=5) 機率 1/12
(3, 3+4=7) 機率 1/12
若 X=4, 第二球可以是 {1, 2, 3}。
(X,Y) 組合：
(4, 4+1=5) 機率 1/12
(4, 4+2=6) 機率 1/12
(4, 4+3=7) 機率 1/12

Y 的可能值為 {3, 4, 5, 6, 7}。

現在我們來構建聯合機率表 P(X=x, Y=y)。
Y 的值是 X 加上第二球的值。
若 X=1: Y=3 (1+2), Y=4 (1+3), Y=5 (1+4)
若 X=2: Y=3 (2+1), Y=5 (2+3), Y=6 (2+4)
若 X=3: Y=4 (3+1), Y=5 (3+2), Y=7 (3+4)
若 X=4: Y=5 (4+1), Y=6 (4+2), Y=7 (4+3)

X\Y	3	4	5	6	7	P(X=x)
1	1/12	1/12	1/12	0	0	3/12
2	1/12	0	1/12	1/12	0	3/12
3	0	1/12	1/12	0	1/12	3/12
4	0	0	1/12	1/12	1/12	3/12
P(Y=y)	2/12	2/12	4/12	2/12	2/12	1

【答案】聯合機率表如上。

(2) 判斷 X 與 Y 是否獨立?
若 X 與 Y 獨立，則對於所有 x, y，必須滿足 $P(X=x, Y=y) = P(X=x) P(Y=y)$。
我們檢查一下：
P(X=1) = 3/12 = 1/4

本題主要考察連續型隨機變數的聯合機率密度函數、求取常數 k、邊際機率密度函數以及判斷隨機變數的獨立性。

核心觀念：聯合機率密度函數、積分、邊際機率密度函數、獨立性。

聯合機率密度函數為：

$$f(x,y) = \begin{cases} k, & \text{if } 0 \le y \le x \le 1 \\ 0, & \text{o.w.} \end{cases}$$

這個定義域是一個三角形區域，其頂點為 (0,0), (1,0), (1,1)。

(1) 求 k 值。
對於任何機率密度函數，其在整個定義域上的積分必須等於 1。
$\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} f(x,y) dy dx = 1$
在這個例子中，積分範圍是 $0 \le y \le x \le 1$。
$\int_{0}^{1} \int_{0}^{x} k \, dy \, dx = 1$
先對 y 積分：
$\int_{0}^{x} k \, dy = k [y]_0^x = k(x - 0) = kx$
現在對 x 積分：
$\int_{0}^{1} kx \, dx = k \left[\frac{x^2}{2}\right]_0^1 = k \left(\frac{1^2}{2} - \frac{0^2}{2}\right) = k \frac{1}{2}$
令積分結果等於 1：
$k \frac{1}{2} = 1$
$k = 2$

【答案】$k=2$

(2) 找出 X 的邊際機率密度函數 $f_X(x)$。
邊際機率密度函數 $f_X(x)$ 是通過對聯合機率密度函數 $f(x,y)$ 在所有可能的 y 值上積分得到的。
$f_X(x) = \int_{-\infty}^{\infty} f(x,y) dy$
根據定義域 $0 \le y \le x \le 1$，對於給定的 x，y 的積分範圍是從 0 到 x。
因此，對於 $0 \le x \le 1$：
$f_X(x) = \int_{0}^{x} k \, dy$
我們已經知道 $k=2$。
$f_X(x) = \int_{0}^{x} 2 \, dy = 2 [y]_0^x = 2(x - 0) = 2x$
對於 $x$ 值不在 $[0, 1]$ 範圍內， $f_X(x) = 0$。
所以，X 的邊際機率密度函數為：