114 年 國立清華大學科技管理研究所甲組《統計學》

核心觀念

1. 獨立連續型均勻分配（Independent Uniform Distribution）：
   設 $X, Y \overset{i.i.d.}{\sim} U(0, 1)$，則其個別機率密度函數（pdf）為： $$f_X(x) = 1, \quad 0 < x < 1$$ $$f_Y(y) = 1, \quad 0 < y < 1$$ 由於 $X$ 與 $Y$ 互相獨立，其聯合機率密度函數（joint pdf）為兩者邊際密度之乘積： $$f_{X,Y}(x, y) = f_X(x)f_Y(y) = 1, \quad (x, y) \in (0, 1) \times (0, 1)$$
2. 幾何機率法（Geometric Probability）：
   當聯合機率密度在定義域單位正方形 $[0, 1] \times [0, 1]$ 內為常數 $1$ 時，任何事件 $A$ 的機率等於該事件在平面上所對應區域的幾何面積： $$P(A) = \iint_A 1 \, dx dy = \text{Area}(A)$$
3. 獨立事件之條件機率：
   若事件 $A$（僅與 $X$ 相關）與事件 $B$（僅與 $Y$ 相關）來自獨立隨機變數，則事件 $A$ 與 $B$ 獨立，滿足： $$P(A \mid B) = \frac{P(A \cap B)}{P(B)} = \frac{P(A)P(B)}{P(B)} = P(A)$$

---

解題方法

子題 (A) 計算 $P(0.5 < X + Y < 1.5)$

本題欲求隨機變數和 $X+Y$ 落在區間 $(0.5, 1.5)$ 的機率。

1. 定義域與事件區域：
   $X, Y$ 的取值範圍為單位正方形 $S = [0, 1] \times [0, 1]$，總面積為 $1 \times 1 = 1$。
   目標區域為兩平行直線 $x + y = 0.5$ 與 $x + y = 1.5$ 夾在單位正方形內的帶狀區域：

   $$A = \{(x, y) \in [0, 1]^2 \mid 0.5 < x + y < 1.5\}$$

2. 利用餘事件（扣除法）求解：
   帶狀區域的面積可由單位正方形面積扣除兩側的三角形區域求得：

   • 左下角三角形區域 $T_1 = \{(x, y) \in [0, 1]^2 \mid x + y \le 0.5\}$：
     此為兩股長均為 $0.5$ 的等腰直角三角形，面積為： $$\text{Area}(T_1) = \frac{1}{2} \times 0.5 \times 0.5 = \frac{1}{8} = 0.125$$
   • 右上角三角形區域 $T_2 = \{(x, y) \in [0, 1]^2 \mid x + y \ge 1.5\}$：

此題考驗矩估計法 (Method of Moments, MoM) 和最大概似估計法 (Maximum Likelihood Estimation, MLE) 的應用，以及如何估計這些估計量的標準誤。

樣本數據為 $x_1=3, x_2=3, x_3=3, x_4=3, x_5=3, x_6=7, x_7=7, x_8=7$。
樣本大小 $n=8$。
隨機變數 X 的可能取值為 3 和 7。
機率質量函數 (PMF) 為：
$P(X=3) = \theta$
$P(X=7) = 1-\theta$
其中 $0 \le \theta \le 1$。

(A) 矩估計法 (Method of Moments, MoM)

矩估計法是將樣本矩與對應的理論矩相等，然後解出參數。
最簡單的理論矩是期望值 (一階原點矩)。
理論期望值：
$E[X] = 3 \times P(X=3) + 7 \times P(X=7)$
$E[X] = 3\theta + 7(1-\theta)$
$E[X] = 3\theta + 7 - 7\theta$
$E[X] = 7 - 4\theta$

樣本期望值 (一階樣本矩)：
$\bar{x} = \frac{1}{n} \sum_{i=1}^n x_i$
$\bar{x} = \frac{3+3+3+3+3+7+7+7}{8} = \frac{5 \times 3 + 3 \times 7}{8} = \frac{15 + 21}{8} = \frac{36}{8} = 4.5$

將樣本期望值與理論期望值相等：
$\bar{x} = E[X]$
$4.5 = 7 - 4\theta$
$4\theta = 7 - 4.5$
$4\theta = 2.5$
$\theta_{MoM} = \frac{2.5}{4} = \frac{5}{8} = 0.625$

估計量的標準誤：
對於矩估計量 $\theta_{MoM}$，其變異數 $Var(\theta_{MoM})$ 的估計值是透過將 $\theta$ 替換為 $\hat{\theta}_{MoM}$ 來計算，並使用 delta method。
首先，我們需要計算 $Var(X)$。
$Var(X) = E[X^2] - (E[X])^2$
$E[X^2] = 3^2 \times P(X=3) + 7^2 \times P(X=7)$
$E[X^2] = 9\theta + 49(1-\theta)$
$E[X^2] = 9\theta + 49 - 49\theta$
$E[X^2] = 49 - 40\theta$

$Var(X) = (49 - 40\theta) - (7 - 4\theta)^2$
$Var(X) = 49 - 40\theta - (49 - 56\theta + 16\theta^2)$
$Var(X) = 49 - 40\theta - 49 + 56\theta - 16\theta^2$
$Var(X) = 16\theta - 16\theta^2 = 16\theta(1-\theta)$

我們有 $\bar{x} = 7 - 4\theta$。對 $\bar{x}$ 求微分，得到 $d\bar{x}/d\theta = -4$。
根據 Delta method，
$Var(\bar{x}) = (\frac{d E[X]}{d\theta})^2 Var(\theta) + Var(\text{error})$
這裡我們是估計 $\theta$，而不是 $\bar{x}$。
我們知道 $\bar{x} = g(\theta)$, 其中 $g(\theta) = 7 - 4\theta$.
所以 $\theta = h(\bar{x})$, 其中 $h(\bar{x}) = \frac{7 - \bar{x}}{4}$.
$Var(\theta_{MoM}) = Var(\frac{7 - \bar{x}}{4}) = (\frac{-1}{4})^2 Var(\bar{x})$
$Var(\bar{x}) = \frac{Var(X)}{n} = \frac{16\theta(1-\theta)}{n}$
$Var(\theta_{MoM}) = \frac{1}{16} \times \frac{16\theta(1-\theta)}{n} = \frac{\theta(1-\theta)}{n}$

現在我們需要估計這個變異數。我們用 $\hat{\theta}_{MoM} = 0.625$ 來替換 $\theta$：
$\widehat{Var}(\theta_{MoM}) = \frac{\hat{\theta}_{MoM}(1-\hat{\theta}_{MoM})}{n}$
$\widehat{Var}(\theta_{MoM}) = \frac{0.625 \times (1 - 0.625)}{8} = \frac{0.625 \times 0.375}{8}$
$\widehat{Var}(\theta_{MoM}) = \frac{0.234375}{8} = 0.029296875$

標準誤是變異數的平方根：
$SE(\theta_{MoM}) = \sqrt{\widehat{Var}(\theta_{MoM})} = \sqrt{0.029296875} \approx 0.17116$

【答案】(A) $\hat{\theta}_{MoM} = 0.625$， $SE(\hat{\theta}_{MoM}) \approx 0.1712$

(B) 最大概似估計法 (Maximum Likelihood Estimation, MLE)

概似函數 L($\theta$) 是觀測到樣本數據的機率，將參數 $\theta$ 視為變數。
樣本數據有 5 個 3 和 3 個 7。
$L(\theta) = P(X_1=3, ..., X_5=3, X_6=7, ..., X_8=7 | \theta)$
由於獨立性，
$L(\theta) = [P(X=3)]^5 \times [P(X=7)]^3$
$L(\theta) = \theta^5 (1-\theta)^3$

為了找到最大值，我們通常對對數概似函數 (log-likelihood function) $\ln L(\theta)$ 求導。
$\ln L(\theta) = 5 \ln \theta + 3 \ln (1-\theta)$

對 $\theta$ 求導：
$\frac{d \ln L(\theta)}{d\theta} = \frac{5}{\theta} + \frac{3}{1-\theta}(-1)$
$\frac{d \ln L(\theta)}{d\theta} = \frac{5}{\theta} - \frac{3}{1-\theta}$

令導數為 0，求解 $\theta_{MLE}$：
$\frac{5}{\theta} - \frac{3}{1-\theta} = 0$
$\frac{5}{\theta} = \frac{3}{1-\theta}$
$5(1-\theta) = 3\theta$
$5 - 5\theta = 3\theta$
$5 = 8\theta$
$\theta_{MLE} = \frac{5}{8} = 0.625$

有趣的是，對於這個問題，MoM 估計量和 MLE 估計量是相同的。

核心觀念

本題考查簡單線性迴歸、虛擬變數迴歸、個別觀測值的預測區間，以及整體迴歸模型的 $F$ 檢定。

假設誤差項互相獨立、服從常態分配，且具有相同變異數 $\sigma^2$。須區分：

• 誤差變異數估計：以殘差平方和除以殘差自由度。
• 個別觀測值的預測區間：除了估計迴歸平均值的不確定性，還要納入新觀測值本身的誤差。
• 虛擬變數係數：在年份相同時，兩種獲利狀態的預測投資額差異。
• 整體 $F$ 檢定：檢驗所有斜率是否同時為零。

投資額的單位皆為「千美元」。

解題方法

（A）估計簡單迴歸模型的誤差變異數

為簡化計算，將年份置中：

$$t_i=X_i-2008.$$

因此 $t_i=-5,-4,\ldots,5$，且 $\bar t=0$。模型寫成

$$Y_i=\alpha+\beta t_i+\varepsilon_i.$$

由資料可得：

$$\begin{aligned} n&=11, & \sum t_i&=0, & \sum t_i^2&=110,\\ \sum Y_i&=383, & \sum Y_i^2&=14177, & \sum t_iY_i&=292. \end{aligned}$$

計算三個關鍵離均差平方和與乘積和：

$$\begin{aligned} S_{tt} &=\sum(t_i-\bar t)^2=110,\\ S_{tY} &=\sum(t_i-\bar t)(Y_i-\bar Y)=292,\\ S_{YY} &=\sum(Y_i-\bar Y)^2\\ &=14177-\frac{383^2}{11} =\frac{9258}{11} =841.6364. \end{aligned}$$

最小平方法估計為

$$\hat\beta=\frac{S_{tY}}{S_{tt}} =\frac{292}{110} =2.654545,$$ $$\hat\alpha=\bar Y-\hat\beta\bar t =\frac{383}{11} =34.818182.$$

故簡單迴歸式為

$$\boxed{\hat Y=34.818182+2.654545(X-2008)}.$$

殘差平方和可直接利用下式計算：

$$\begin{aligned} SSE &=S_{YY}-\frac{S_{tY}^2}{S_{tt}}\\ &=841.636364-\frac{292^2}{110}\\ &=66.509091. \end{aligned}$$

本模型估計截距與斜率共兩個參數，因此殘差自由度為 $11-2=9$：

$$\boxed{ s^2=\hat\sigma^2 =\frac{SSE}{n-2} =\frac{66.509091}{9} =7.389899 }.$$

此處估計的是迴歸模型中的條件變異數 $\operatorname{Var}(Y\mid X)=\sigma^2$，單位為「千美元的平方」。

（B）2017 年投資額的 95% 預測區間

2017 年對應

$$t_0=2017-2008=9.$$

點預測為

$$\hat Y_0 =34.818182+2.654545(9) =58.709091.$$

對單一年度投資額的 95% 預測區間，公式為

$$\hat Y_0 \pm t_{0.975,n-2}\, s\sqrt{1+\frac1n+\frac{(t_0-\bar t)^2}{S_{tt}}}.$$

其中根號內的 $1$ 代表新觀測值本身的誤差變異。代入 $t_{0.975,9}=2.262157$：

$$\begin{aligned} SE_{\mathrm{pred}} &=\sqrt{ 7.389899 \left(1+\frac1{11}+\frac{9^2}{110}\right) }\\ &=3.674692. \end{aligned}$$

因此

$$\begin{aligned} PI_{95\%} &=58.709091\pm2.262157(3.674692)\\ &=58.709091\pm8.312728. \end{aligned}$$ $$\boxed{PI_{95\%}=(50.40,\ 67.02)\text{ 千美元}}.$$

2017 年超出樣本年份範圍，此結果屬於外插預測，成立的前提是原有線性關係持續適用。

（C）加入獲利虛擬變數，估計截距與斜率

定義虛擬變數：

$$Z_i= \begin{cases} 1,&\text{公司報告獲利},\\ 0,&\text{公司報告虧損}. \end{cases}$$

新模型為

$$Y_i=a+bt_i+cZ_i+\varepsilon_i.$$

其中 $b$ 是控制獲利狀態後的年份斜率；$c$ 是同一年份下，獲利公司相對於虧損公司的預測投資額差異。

由獲利年份資料得：

$$\sum Z_i=7,\qquad \sum t_iZ_i=-8,\qquad \sum Z_iY_i=228.$$

因為 $Z_i^2=Z_i$，所以

$$\begin{aligned} S_{ZZ} &=7-\frac{7^2}{11} =\frac{28}{11},\\ S_{tZ} &=-8,\\ S_{ZY} &=228-\frac{7(383)}{11} =-\frac{173}{11}. \end{aligned}$$

多元迴歸的斜率滿足離均差正規方程式：

$$\begin{cases} 110b-8c=292,\\ -8b+\dfrac{28}{11}c=-\dfrac{173}{11}. \end{cases}$$

係數矩陣的行列式為

$$110\left(\frac{28}{11}\right)-(-8)^2=216.$$

因此

核心觀念

本題考查多元線性迴歸分析，包括：

• 個別迴歸係數的 $t$ 檢定；
• 整體迴歸模型的 $F$ 檢定；
• $R^2$ 與調整後 $R^2$；
• Breusch–Pagan 異質變異檢定；
• Durbin–Watson 自我相關檢定；
• 虛擬變數與迴歸係數的經濟意義。

迴歸模型可寫為：

$$RET_i=\beta_0+\beta_1MKT_i+\beta_2IND_i+\beta_3FORT_i+\varepsilon_i$$

估計結果為：

$$\widehat{RET} =0.5220+0.0460MKT+0.7102IND+0.9000FORT$$

樣本數為 $n=10$，自變數個數為 $k=3$。

---

一、個別迴歸係數的顯著性檢定

對每一個係數進行：

$$H_0:\beta_j=0$$ $$H_1:\beta_j\neq 0$$

檢定統計量為：

$$t=\frac{\widehat{\beta}_j}{SE(\widehat{\beta}_j)}$$

誤差自由度為：

$$df=n-k-1=10-3-1=6$$

在顯著水準 $\alpha=0.05$ 下，雙尾檢定的臨界值約為：

$$t_{0.025,6}=2.447$$

也可直接根據表中的 $p$ 值判斷。

1. Market Capitalization

$$t=\frac{0.0460}{0.0150}=3.09$$

由於 $p=0.021<0.05$，拒絕 $H_0$。因此，市場資本額對股票報酬率具有統計上顯著的正向影響。

在其他變數固定下，$MKT$ 每增加 $1$ 單位，即市場資本額增加 $100$ 萬美元，預測年股票報酬率增加：

$$0.0460\%$$

2. Industry Ranking

$$t=\frac{0.7102}{0.2725}=2.61$$

由於 $p=0.040<0.05$，拒絕 $H_0$。因此，產業排名對股票報酬率具有顯著正向影響。

$IND$ 每增加 $1$ 個排名單位，預測年股票報酬率增加：

$$0.7102\%$$

題目定義 $IND=4$ 為最高排名，因此產業排名越高，預測報酬率越高。

3. Fortune 500

$$t=\frac{0.9000}{0.5281}=1.70$$

由於 $p=0.139>0.05$，不拒絕 $H_0$。因此，在控制市場資本額與產業排名後，沒有足夠證據認定 Fortune 500 身分對股票報酬率具有顯著影響。

$FORT$ 是虛擬變數：

• $FORT=1$：Fortune 500 公司；
• $FORT=0$：非 Fortune 500 公司。

其係數 $0.9000$ 表示，在其他變數相同時，Fortune 500 公司股票的預測報酬率比非 Fortune 500 公司高 $0.9\%$；但此差異在統計上不顯著。

4. Intercept

截距的 $p$ 值為 $0.681>0.05$，因此截距不顯著。其經濟意義是當 $MKT=0$、$IND=0$ 且 $FORT=0$ 時的預測報酬率，但此情境未必具有實際經濟意義，截距不顯著通常不影響主要自變數係數的解釋。

---

二、整體迴歸模型的 $F$ 檢定

整體檢定為：

$$H_0:\beta_1=\beta_2=\beta_3=0$$ $$H_1:\text{至少有一個 }\beta_j\neq 0$$

$F$ 統計量為：

$$F=\frac{MSR}{MSE} =\frac{6.8656}{0.5672} =12.100$$

表中 Significance F 為 $0.006$。由於：

$$0.006<0.05$$

拒絕 $H_0$，表示市場資本額、產業排名與 Fortune 500 身分合併起來，對股票報酬率具有顯著的解釋能力。

此題考驗對簡單線性迴歸中預測區間 (Prediction Interval) 和信賴區間 (Confidence Interval) 計算的理解，特別是標準誤的構成。

題目中提到 "confidence interval for the predicted value"。這通常指的是預測區間 (Prediction Interval, PI)，用於預測一個新的、單一的觀測值。而信賴區間 (Confidence Interval, CI) 則是用於估計平均響應值 $E[Y|X=X_{new}]$。預測區間比信賴區間寬，因為它包含了單一觀測值的隨機變異性（由 $\hat{\sigma}^2$ 體現），而信賴區間只估計平均值的變異性。

簡單線性迴歸模型為 $Y = \beta_0 + \beta_1 X + \epsilon$，其中 $\epsilon \sim N(0, \sigma^2)$。
$n=26$ 是觀測數量。

標準誤的構成：

1. 估計標準誤 (Standard Error of Estimate)：這是對 $\sigma$ 的估計，通常表示為 $\hat{\sigma}$。它是殘差的標準差，$\hat{\sigma} = \sqrt{\frac{SSR}{n-2}}$。

2. 預測值的標準誤 (Standard Error of the Forecast)：這是預測值 $\hat{Y}_{new}$ 的標準誤。對於一個新的預測點 $X_{new}$，其標準誤的平方是：
   $Var(\hat{Y}_{new}) = \hat{\sigma}^2 \left( \frac{1}{n} + \frac{(X_{new} - \bar{X})^2}{\sum (X_i - \bar{X})^2} \right)$
   所以，$SE(\hat{Y}_{new}) = \hat{\sigma} \sqrt{\frac{1}{n} + \frac{(X_{new} - \bar{X})^2}{\sum (X_i - \bar{X})^2}}$。
   這部分是信賴區間 (CI) 的邊際誤差 (MOE) 的組成部分。

3. 預測區間 (PI) 的邊際誤差 (MOE)：預測區間的計算不僅考慮了平均響應值的標準誤，還考慮了單一觀測值的額外變異性。因此，它的標準誤包含一個額外的 $\hat{\sigma}^2$ 項。
   $MOE_{PI} = t_{\alpha/2, n-2} \times \hat{\sigma} \sqrt{1 + \frac{1}{n} + \frac{(X_{new} - \bar{X})^2}{\sum (X_i - \bar{X})^2}}$

Ron 的錯誤計算：
Ron 錯誤地使用了「估計標準誤」($\hat{\sigma}$) 而不是「預測值的標準誤」(SE of forecast) 來計算「預測值的信賴區間」。
這裡的措辭有點繞。讓我釐清：

• Ron 想要計算的是「預測區間」。
• 他錯誤地在計算中使用了 $\hat{\sigma}$，而不是正確的預測區間所需的標準誤。

此題要求計算一個特定情境下的預期股票報酬率，並從選項中選出最接近的值。此計算是基於提供的多元迴歸模型結果。

迴歸模型參數：

• 因變數：RET (年報酬率，%)
• 自變數：
  • MKT = Market capitalization / $1.0 million
  • IND = Industry quartile ranking (4 為最高)
  • FORT = Fortune 500 firm (1 if yes, 0 if no)
• 迴歸係數估計值：
  • Intercept ($\hat{\beta}_0$) = 0.5220
  • MKT ($\hat{\beta}_1$) = 0.0460
  • IND ($\hat{\beta}_2$) = 0.7102
  • FORT ($\hat{\beta}_3$) = 0.9000

題目給定的條件：

• Firm is not in the Fortune 500 $\implies

此題要求計算「歸因於」其為 Fortune 500 公司而產生的預期股票報酬。這直接對應於多元迴歸模型中 Fortune 500 虛擬變數 (FORT) 的迴歸係數。

迴歸模型參數：

• 因變數：RET (年報酬率，%)
• 自變數：
  • MKT = Market capitalization / $1.0 million
  • IND = Industry quartile ranking (4 為最高)
  • FORT = Fortune 500 firm (1 if yes, 0 if no)
• 迴歸係數估計值：
  • Intercept ($\hat{\beta}_0$) = 0.5220
  • MKT ($\hat{\beta}_1$) = 0.0460
  • IND ($\hat{\beta}_2

此題要求根據提供的統計檢定結果，判斷迴歸模型中是否存在潛在問題，如異質變異數 (heteroskedasticity) 或序列相關 (serial correlation)。

檢定結果分析：

1. Breusch-Pagan test p-value = 0.0005

   • Breusch-Pagan 檢定是用來檢測模型是否存在異質變異數。
   • 虛無假設 $H_0$: 模型存在同質變異數 (homoskedasticity)。
   • 對立假設 $H_a$: 模型存在異質變異數 (heteroskedasticity)。
   • 由於 p-value (0.0005) 遠小於常見的顯著水準 (如 0.05 或 0.01)，我們拒絕虛無假設。
   • 結論：有強烈證據顯示模型存在異質變異數。

2. Durbin-Watson test statistic = 1.8

   • Durbin-Watson 檢定是用來檢測殘差是否存在一階序列相關。
   • 提供的臨界值：下限 $d_L = 0.40$，上限 $d_U = 1.90$。
   • 判斷規則：

此題要求判斷 Fortune 500 公司身份 (FORT 變數) 對股票報酬率 (RET) 是否有顯著貢獻。這需要檢定 FORT 變數的迴歸係數 $\beta_3$ 的顯著性。

迴歸模型結果：

• FORT 變數的迴歸係數估計值 $\hat{\beta}_3 = 0.9000$。
• FORT 變數的 p-value = 0.139。

顯著性檢定：
我們需要將 p-value 與不同的顯著水準 ($\alpha$) 進行比較，以判斷是否拒絕虛無假設 $H_0: \beta_3 = 0$ (即 FORT 對 RET 沒有顯著影響)。

1. 在 10% 的顯著水準下 ($\alpha = 0.10$)：
   p-value (0.139) > $\alpha$ (0.10)。
   我們無法拒絕虛無假設。因此，在 10% 的水準下，FORT 對 RET 的貢獻不顯著。

2. 在 5% 的顯著水準下 ($\alpha = 0.05$)：
   p-value (0.139) > $\alpha$ (0.05)。
   我們無法拒絕虛無假設。因此，在 5% 的水準下，FORT 對 RET 的貢獻不顯著。

3. 在 15% 的顯著水準下 ($\alpha = 0.15$)：
   p-value (0.139) < $\alpha$ (0.15)。
   我們拒絕虛無假設。因此，在 15% 的水準下，FORT 對 RET 的貢獻顯著。

此題考驗對簡單線性迴歸中預測區間 (Prediction Interval, PI) 計算的理解，特別是其標準誤的組成，以及當標準誤使用錯誤時對區間寬度的影響。

情境分析：

• 模型： 簡單線性迴歸。
• 觀測數： $n=26$。
• Ron 的錯誤：
  • 他計算的是 "confidence interval for the predicted value"，這通常指的是預測區間 (PI)。
  • 他錯誤地使用了 "standard error of estimate" ($\hat{\sigma}$) 作為標準誤。
  • 他本應使用 "standard error of the forecast"。
• 目標： 比較 Ron 計算的區間寬度與正確計算的預測區間寬度。

標準誤的比較：

• Ron 使用的標準誤： $SE_{Ron} = \hat{\sigma}$ (標準誤 of estimate)
• 正確預測區間所需的標準誤： $SE_{PI} = \hat{\sigma} \sqrt{1 + \frac{1}{n} + \frac{(X_{new} - \bar{X})^2}{\sum (X_i - \bar{X})^2}}$

其中，$t_{\alpha/2, n-2}$ 是來自 t 分配的臨界值，它會乘以標準誤來得到邊際誤差 (MOE)。為了比較區間寬度，我們只需要比較標準誤本身，因為 $t$ 值和 $\hat{\sigma}$ 是相同的 (假設 $X_{new}$ 和 $\alpha$ 相同)。