110 年 國立政治大學經濟學系碩士班《統計學》

核心觀念

本題考查：

1. 機率密度函數的正規化條件
   $\int_{-\infty}^{\infty} f(x)\,dx=1.$

2. 動差生成函數的定義
   $M_X(t)=E(e^{tX})=\int_{-\infty}^{\infty}e^{tx}f(x)\,dx.$

在計算 MGF 前，必須先確認題目給出的 $f(x)$ 確實是合法的機率密度函數。

解題方法

題目給定

$$f(x)= \begin{cases} ke^{-x},&x<0,\\ 0,&\text{otherwise}. \end{cases}$$

依機率密度函數的正規化條件，

$$\int_{-\infty}^{0}ke^{-x}\,dx=1.$$

計算積分：

$$\int_{-\infty}^{0}ke^{-x}\,dx = k\left[-e^{-x}\right]_{-\infty}^{0}.$$

當 $x\to-\infty$ 時，$-x\to+\infty$，因此

$$e^{-x}\to\infty.$$

所以

$$\int_{-\infty}^{0}e^{-x}\,dx=\infty.$$

只要 $k>0$，便有

$$\int_{-\infty}^{0}ke^{-x}\,dx=\infty\neq 1.$$

而 $k=0$ 時，積分為 $0$，同樣不符合正規化條件。因此不存在任何常數 $k$ 能使題目所給的函數成為機率密度函數。

既然 $X$ 並非由此函數合法定義的隨機變數，其動差生成函數也沒有定義：

$$M_X(t) = \int_{-\infty}^{0}e^{tx}ke^{-x}\,dx = k\int_{-\infty}^{0}e^{(t-1)x}\,dx.$$

此積分不能建立在合法機率密度函數上，因此不能得到有效的 MGF。

若題目原意為 $x>0$

此題極可能將支持集誤植為 $x>0$。在合理修正

核心觀念

本題考兩個條件期望與條件變異數的基本公式：

• 重複期望定理：先對 $Y_1$ 取條件期望，再對 $Y_1$ 取期望，結果等於 $Y_2$ 的期望。
• 條件變異數定義：給定 $Y_1=y_1$ 時，$Y_2$ 的條件變異數是條件二階動差減去條件平均數的平方。

令 $f_{Y_1}(y_1)$ 為 $Y_1$ 的邊際密度。當 $f_{Y_1}(y_1)>0$ 時，條件密度為

$$f_{Y_2\mid Y_1}(y_2\mid y_1) = \frac{f_{Y_1,Y_2}(y_1,y_2)}{f_{Y_1}(y_1)}.$$

解題方法

(1) 計算 $E[E[Y_2\mid Y_1]]$

條件期望 $E[Y_2\mid Y_1]$ 是 $Y_1$ 的函數。對 $Y_1$ 再取期望，依重複期望定理可得

$$E[E[Y_2\mid Y_1]] = E[Y_2].$$

若以密度表示，先由邊際密度計算 $Y_1$ 的期望條件值，再對 $y_1$ 積分：

$$E[E[Y_2\mid Y_1]] = \int_{-\infty}^{\infty} \left[ \int_{-\infty}^{\infty} y_2 f_{Y_2\mid Y_1}(y_2\mid y_1)\,dy_2 \right] f_{Y_1}(y_1)\,dy_1.$$

代入條件密度後，$f_{Y_1}(y_1)$ 約去：

$$E[E[Y_2\mid Y_1]] = \int_{-\infty}^{\infty}\int_{-\infty}^{\infty} y_2 f_{Y_1,Y_2}(y_1,y_2)\,dy_2\,dy_1 = E[Y_2].$$

(2) 計算 $Var(Y_2\mid Y_1=y_1)$

依條件變異數定義，

$$Var(Y_2\mid Y_1=y_1) = E[Y_2^2\mid Y_1=y_1] - \bigl(E[Y_2\mid Y_1=y_1]\bigr)^2.$$

利用條件密度，兩個條件動差分別為

此題考驗混合分佈的機率計算，包含立即失效的離散情況與指數分佈的連續情況。

核心觀念：

1. 混合分佈: 隨機變數的機率分佈包含離散和連續部分。
2. 累積分佈函數 (CDF): $F_Y(y) = P(Y \le y)$。
3. 指數分佈: PDF 為 $f(y) = \lambda e^{-\lambda y}$ for $y \ge 0$，CDF 為 $F(y) = 1 - e^{-\lambda y}$ for $y \ge 0$，期望值 $E[Y] = 1/\lambda$，變異數 $Var(Y) = 1/\lambda^2$。

解題過程：

首先，我們需要定義隨機變數 $Y$ 的機率模型。
題目說明：

• 立即失敗的機率是 $1/3$。這意味著 $P(Y=0) = 1/3$。
• 如果組件不立即失敗 (機率為 $1 - 1/3 = 2/3$)，其壽命的機率密度函數是 $f(y) = e^{-y}$ for $y \ge 0$。

我們需要將這個資訊整合成一個完整的機率模型。
首先，注意 $Y$ 的定義是「壽命 (in hundreds of hours)」。立即失敗意味著壽命為 0。
所以，我們有：
$P(Y=0) = 1/3$.
對於 $y > 0$，組件的壽命遵循指數分佈。然而，這個指數分佈是條件在組件沒有立即失敗的情況下。
設 $A$ 為立即失敗的事件，則 $P(A) = 1/3$。
設 $A^c$ 為不立即失敗的事件，則 $P(A^c) = 2/3$。
對於 $y > 0$，我們有 $f_{Y|A^c}(y) = e^{-y}$。
因此，對於 $y > 0$，組件壽命的機率密度函數是：
$f_Y(y) = P(A^c) \cdot f_{Y|A^c}(y) = \frac{2}{3} e^{-y}, \quad y > 0$
由於 $P(Y=0) = 1/3$，這是一個混合機率分佈，包含一個在 $y=0$ 的離散點機率質量，以及在 $y>0$ 的連續機率密度。

(1) Find the cumulative distribution function for Y.

CDF $F_Y(y) = P(Y \le y)$。我們需要分情況討論 $y$ 的值。

• Case 1: $y < 0$
  壽命不能為負，所以 $P(Y \le y) = 0$.
  $F_Y(y) = 0$ for $y < 0$.

• Case 2: $y = 0$
  $P(Y \le 0) = P(Y=0) = 1/3$.
  $F_Y(0) = 1/3$.

• Case 3: $y > 0$
  $P(Y \le y) = P(Y \le 0) + P(0 < Y \le y)$.
  $P(Y \le y) = P(Y=0) + \int_{0}^{y} f_Y(t) dt$.
  $P(Y \le y) = \frac{1}{3} + \int_{0}^{y} \frac{2}{3} e^{-t} dt$.
  計算積分：
  $\int_{0}^{y} \frac{2}{3} e^{-t} dt = \frac{2}{3} [-e^{-t}]_{0}^{y} = \frac{2}{3} (-e^{-y} - (-e^0)) = \frac{2}{3} (1 - e^{-y})$
  所以，
  $F_Y(y) = \frac{1}{3} + \frac{2}{3} (1 - e^{-y}) = \frac{1}{3} + \frac{2}{3} - \frac{2}{3} e^{-y} = 1 - \frac{2}{3} e^{-y}$
  對於 $y > 0$.

綜合以上情況，CDF 為：

$$F_Y(y) = \begin{cases} 0, & y < 0 \\ 1/3, & y = 0 \\ 1 - \frac{2}{3} e^{-y}, & y > 0 \end{cases}$$

【答案】

$$F_Y(y) = \begin{cases} 0, & y < 0 \\ 1/3, & y = 0 \\ 1 - \frac{2}{3} e^{-y}, & y > 0 \end{cases}$$

核心觀念

本題考查三個重點：

1. OLS 正規方程式：殘差與所有解釋變數，以及常數項正交。
2. 聯合假設檢定：利用受限模型與非受限模型的殘差平方和建構 $F$ 統計量。
3. 資料標準化對 OLS 估計量與 $t$ 檢定的影響：斜率估計量會依標準差比例縮放，但斜率的 $t$ 值不變。

令非受限模型為

$$y_i=\hat{\beta}_0+\hat{\beta}_1x_{i1}+\cdots+\hat{\beta}_kx_{ik}+\hat{u}_i.$$

其中殘差平方和為

$$SSR_U=\sum_{i=1}^n\hat{u}_i^2.$$

---

（1）殘差的兩個總和

解題方法

OLS 係數使殘差平方和

$$S(\hat{\beta}) = \sum_{i=1}^n \left( y_i-\hat{\beta}_0-\hat{\beta}_1x_{i1}-\cdots-\hat{\beta}_kx_{ik} \right)^2$$

達到最小值。

對截距 $\hat{\beta}_0$ 微分並令其等於零：

$$\frac{\partial S}{\partial \hat{\beta}_0} = -2\sum_{i=1}^n\hat{u}_i=0.$$

因此，

$$\boxed{\sum_{i=1}^n\hat{u}_i=0}.$$

再對 $\hat{\beta}_k$ 微分並令其等於零：

$$\frac{\partial S}{\partial \hat{\beta}_k} = -2\sum_{i=1}^n x_{ik}\hat{u}_i=0.$$

因此，

$$\boxed{\sum_{i=1}^n\hat{u}_ix_{ik}=0}.$$

幾何意義

包含截距項時，OLS 殘差向量必定同時垂直於：

• 常數向量 $\mathbf{1}$；
• 每一個解釋變數向量 $\mathbf{x}_j$。

所以不僅有

$$\sum_{i=1}^n\hat{u}_i=0,$$

也有對所有 $j=1,\ldots,k$：

$$\sum_{i=1}^n\hat{u}_ix_{ij}=0.$$

本題要求的 $x_{ik}$ 只是其中一個特例。

---

（2）檢定 $H_0:\beta_1=\cdots=\beta_k=0$

受限模型與非受限模型

原本的非受限模型為

$$Y=\beta_0+\beta_1X_1+\cdots+\beta_kX_k+u.$$

欲檢定

$$H_0:\beta_1=\beta_2=\cdots=\beta_k=0,$$

在虛無假設下，模型受到 $k$ 個限制，成為只有截距項的受限模型：

$$Y=\beta_0+u.$$

受限模型的 OLS 截距估計量為 $\bar{y}$，因此受限模型殘差平方和為總平方和：

$$SSR_R = \sum_{i=1}^n(y_i-\bar{y})^2 = SST.$$

非受限模型殘差平方和為

$$SSR_U = \sum_{i=1}^n\hat{u}_i^2.$$

由於非受限模型包含更多解釋變數，因此必有

$$SSR_R\geq SSR_U.$$

---

$F$ 統計量的建構

一般線性限制的 $F$ 統計量為

$$F = \frac{(SSR_R-SSR_U)/q} {SSR_U/(n-k-1)},$$

其中：

• $q$ 為限制條件的個數；
• 非受限模型共有 $k+1$ 個參數；
• 分母自由度為 $n-k-1$。

本題有 $k$ 個限制，因此 $q=k$。故

$$\boxed{ F = \frac{(SSR_R-SSR_U)/k} {SSR_U/(n-k-1)} }.$$

由於

$$SST=SSR_R, \qquad R^2=1-\frac{SSR_U}{SST},$$

可將統計量改寫為

$$\boxed{ F = \frac{R^2/k} {(1-R^2)/(n-k-1)} }.$$

---

$F$ 統計量的分配

在古典線性模型假設下，並且誤差項服從常態分配時，在 $H_0$ 成立之下：

$$F\sim F_{k,n-k-1}.$$

其中：

• 分子自由度為 $k$；
• 分母自由度為 $n-k-1$。

---

顯著水準 $\alpha$ 下的決策法則

令 $F_{k,n-k-1;\alpha}$ 表示 $F_{k,n-k-1}$ 分配的右尾臨界值，使得

$$P\left(F>F_{k,n-k-1;\alpha}\right)=\alpha.$$

因此：

$$\boxed{ \text{若 }F>F_{k,n-k-1;\alpha}, \text{則拒絕 }H_0. }$$

反之，若

$$F\leq F_{k,n-k-1;\alpha},$$

則不拒絕 $H_0$。

經濟意義

此檢定是在判斷 $X_1,\ldots,X_k$ 是否具有整體解釋力：

• 拒絕 $H_0$：至少有一個斜率參數不等於零。
• 不拒絕 $H_0$：沒有足夠統計證據認定這些解釋變數具有聯合顯著性。

注意，拒絕 $H_0$ 只能表示「至少一個」$\beta_j$ 不為零，不能直接表示每一個 $\beta_j$ 都顯著。

---

（3）標準化資料後的迴歸

定義

$$y_i^*=\frac{y_i-\bar{y}}{\hat{\sigma}_y}, \qquad x_{ij}^*=\frac{x_{ij}-\bar{x}_j}{\hat{\sigma}_{x_j}}.$$

由於資料經過中心化，因此

$$\sum_{i=1}^n y_i^*=0, \qquad \sum_{i=1}^n x_{ij}^*=0.$$

---

（3a）求 $\hat{\beta}_j^*$

截距項

標準化後的模型為

$$y_i^* = \hat{\beta}_0^* + \hat{\beta}_1^*x_{i1}^* +\cdots+ \hat{\beta}_k^*x_{ik}^* +\hat{u}_i^*.$$

由於模型包含截距，OLS 殘差平均數為零。對兩邊取樣本平均：

$$\bar{y}^* = \hat{\beta}_0^* + \hat{\beta}_1^*\bar{x}_1^* +\cdots+ \hat{\beta}_k^*\bar{x}_k^* +\bar{\hat{u}}^*.$$

而標準化資料滿足

$$\bar{y}^*=0, \qquad \bar{x}_j^*=0, \qquad \bar{\hat{u}}^*=0.$$

因此，

$$\boxed{\hat{\beta}_0^*=0}.$$

---

斜率項

原始迴歸式可寫成平均數偏離的形式：