108 年 國立中山大學經濟學系碩士班《統計學》

本題主要考查聯合機率密度函數(joint probability density function, pdf)求邊緣機率密度函數(marginal probability density function, pdf)的能力。當給定聯合 pdf $f_{X,Y}(x,y)$ 時，欲求其中一個變數的邊緣 pdf，只需對另一個變數進行積分。

解題步驟：

1. 辨識積分範圍：題目給定的聯合 pdf $f_{X,Y}(x,y)$ 在 $x \ge 0$ 且 $y > 0$ 的區域內非零，其他區域為零。要求 $f_Y(y)$，我們需要對 $x$ 進行積分，積分範圍是 $x$ 的所有可能值，即 $[0, \infty)$。

2. 執行積分：

   $$f_Y(y) = \int_{-\infty}^{\infty} f_{X,Y}(x,y) dx$$

   將給定的聯合 pdf 代入：

   $$f_Y(y) = \int_{0}^{\infty} ye^{-y(x+1)} dx$$

   由於 $y > 0$，我們可以將 $y$ 提出積分式：

   $$f_Y(y) = y \int_{0}^{\infty} e^{-yx - y} dx$$

   將 $e^{-y}$ 提出積分式：

本題考查機率密度函數(pdf)的變異數(variance)計算。變異數的計算公式為 $Var(X) = E[X^2] - (E[X])^2$。因此，我們需要分別計算隨機變數 $X$ 的期望值 $E[X]$ 和期望值 $E[X^2]$。

解題步驟：

1. 計算期望值 $E[X]$：
   期望值的定義為 $E[X] = \int_{-\infty}^{\infty} x f_X(x) dx$。
   將給定的 pdf 代入：

   $$E[X] = \int_{0}^{1} x(3x^2) dx + \int_{2}^{3} x\left(\frac{1}{4}\right) dx$$

   計算第一個積分：

   $$\int_{0}^{1} 3x^3 dx = \left[ \frac{3}{4}x^4 \right]_{0}^{1} = \frac{3}{4}(1)^4 - \frac{3}{4}(0)^4 = \frac{3}{4}$$

   計算第二個積分：

   $$\int_{2}^{3} \frac{1}{4}x dx = \left[ \frac{1}{8}x^2 \right]_{2}^{3} = \frac{1}{8}(3)^2 - \frac{1}{8}(2)^2 = \frac{9}{8} - \frac{4}{8} = \frac{5}{8}$$

   將兩部分結果相加：

   $$E[X] = \frac{3}{4} + \frac{5}{8} = \frac{6}{8} + \frac{5}{8} = \frac{11}{8}$$

2. 計算二階矩 $E[X^2]$：
   二階矩的定義為 $E[X^2] = \int_{-\infty}^{\infty} x^2 f_X(x) dx$。
   將給定的 pdf 代入：

   $$E[X^2] = \int_{0}^{1} x^2(3x^2) dx + \int_{2}^{3} x^2\left(\frac{1}{4}\right) dx$$

   計算第一個積分：

本題考查統計學中一個非常重要的分佈——卡方分佈(Chi-squared distribution)，以及無母數統計(non-parametric statistics)與抽樣分佈(sampling distribution)的相關知識。題目要求的是樣本離差平方和除以母體變異數的比例，其分佈與樣本數有關。

核心觀念：

1. 標準常態分佈與卡方分佈：若 $Z \sim N(0,1)$，則 $Z^2$ 服從自由度為 1 的卡方分佈，記為 $Z^2 \sim \chi^2(1)$。
2. 獨立卡方分佈的疊加：若 $X_1, X_2, \dots, X_k$ 是 $k$ 個獨立的、自由度分別為 $v_1, v_2, \dots, v_k$ 的卡方分佈隨機變數，則其和 $X_1 + X_2 + \dots + X_k$ 服從自由度為 $v_1 + v_2 + \dots + v_k$ 的卡方分佈。
3. 樣本離差平方和 (Sum of Squared Deviations)：$\sum_{i=1}^n (Y_i - \bar{Y})^2$ 是樣本離差平方和。
4. ** Cochran's Theorem**：此定理是解決此題的關鍵。Cochran's Theorem 指出，如果 $Y_1, \dots, Y_n$ 是來自 $N(\mu, \sigma^2)$ 的獨立隨機變數，且 $S^2 = \frac{1}{n-1} \sum_{i=1}^n (Y_i - \bar{Y})^2$ 是樣本變異數，則 $\frac{1}{\sigma^2} \sum_{i=1}^n (Y_i - \bar{Y})^2 = \frac{n-1}{\sigma^2} S^2$ 服從自由度為 $n-1$ 的卡方分佈，即 $\frac{1}{\sigma^2} \sum_{i=1}^n (Y_i - \bar{Y})^2 \sim \chi^2(n-1)$。

解題步驟：

1. 標準化變數：首先，我們將獨立的 $Y_i$ 標準化。令 $Z_i = \frac{Y_i - \mu}{\sigma}$。由於 $Y_i \sim N(\mu, \sigma^2)$，所以 $Z_i \sim N(0,1)$ 且 $Z_i$ 們是獨立的。
   我們知道 $\sum_{i=1}^n Z_i^2 = \sum_{i=1}^n \left(\frac{Y_i - \mu}{\sigma}\right)^2 = \frac{1}{\sigma^2} \sum_{i=1}^n (Y_i - \mu)^2$ 服從自由度為 $n$ 的卡方分佈，即 $\sum_{i=1}^n Z_i^2 \sim \chi^2(n)$。

2. 分解離差平方和：考慮 $\sum_{i=1}^n (Y_i - \mu)^2$。我們可以將其分解為與樣本均值 $\bar{Y}$ 相關的部分和與 $\bar{Y}$ 無關的部分。
   一個重要的恆等式是：

   $$\sum_{i=1}^n (Y_i - \mu)^2 = \sum_{i=1}^n (Y_i - \bar{Y} + \bar{Y} - \mu)^2$$

   展開後：

   $$= \sum_{i=1}^n [(Y_i - \bar{Y})^2 + 2(Y_i - \bar{Y})(\bar{Y} - \mu) + (\bar{Y} - \mu)^2]$$ $$= \sum_{i=1}^n (Y_i - \bar{Y})^2 + 2(\bar{Y} - \mu) \sum_{i=1}^n (Y_i - \bar{Y}) + \sum_{i=1}^n (\bar{Y} - \mu)^2$$

   由於 $\sum_{i=1}^n (Y_i - \bar{Y}) = \sum Y_i - n\bar{Y} = n\bar{Y} - n\bar{Y} = 0$，所以中間項為零。

本題考查最大概似估計量(Maximum Likelihood Estimator, MLE)的求法。給定一個機率密度函數(pdf)，我們需要根據樣本數據來估計其中的參數。

解題步驟：

1. 寫出概似函數 (Likelihood Function)：
   假設我們有一個從上述分佈抽取的隨機樣本 $X_1, X_2, \dots, X_n$。由於樣本是獨立同分佈的，聯合機率密度函數（概似函數）是各個樣本點 pdf 的乘積：

   $$L(\theta) = \prod_{i=1}^n f_X(X_i; \theta)$$

   將 pdf 代入：

   $$L(\theta) = \prod_{i=1}^n \left( \frac{1}{\theta^2} X_i e^{-X_i/\theta} \right)$$ $$L(\theta) = \left( \frac{1}{\theta^2} \right)^n \left( \prod_{i=1}^n X_i \right) e^{-\sum_{i=1}^n X_i/\theta}$$ $$L(\theta) = \theta^{-2n} \left( \prod_{i=1}^n X_i \right) e^{-\frac{1}{\theta}\sum_{i=1}^n X_i}$$

2. 寫出對數概似函數 (Log-Likelihood Function)：
   為了方便計算，我們通常對概似函數取自然對數。

   $$l(\theta) = \ln L(\theta) = \ln \left( \theta^{-2n} \left( \prod_{i=1}^n X_i \right) e^{-\frac{1}{\theta}\sum_{i=1}^n X_i} \right)$$ $$l(\theta) = -2n \ln \theta + \ln \left( \prod_{i=1}^n X_i \right) - \frac{1}{\theta}\sum_{i=1}^n X_i$$ $$l(\theta) = -2n \ln \theta + \sum_{i=1}^n \ln X_i - \frac{1}{\theta}\sum_{i=1}^n X_i$$

   注意，$\sum_{i=1}^n \ln X_i$ 是與 $\theta$ 無關的常數項，在求導時會被消去。

3. 對 $\theta$ 求偏導數並令其為零：
   為了找到最大值，我們對 $l(\theta)$ 關於 $\theta$ 求偏導數，並將結果設為零。

   $$\frac{\partial l(\theta)}{\partial \theta} = \frac{\partial}{\partial \theta} \left( -2n \ln \theta + \sum_{i=1}^n \ln X_i - \frac{1}{\theta}\sum_{i=1}^n X_i \right)$$

核心觀念

若

$$\mathbf X\sim N_3(\boldsymbol\mu,\Sigma)$$

且定義線性轉換

$$\mathbf Y=A\mathbf X+\mathbf b,$$

則

$$\mathbf Y\sim N_k\left(A\boldsymbol\mu+\mathbf b,\;A\Sigma A^{T}\right).$$

本題中，

$$A= \begin{pmatrix} 1 & -2 & 3\\ 2 & 1 & -3 \end{pmatrix}, \qquad \mathbf b= \begin{pmatrix} -4\\ 5 \end{pmatrix}.$$

因此只需計算轉換後的平均數與共變異數矩陣。

解題方法

原本

$$\boldsymbol\mu= \begin{pmatrix} 0\\ 0\\ 0 \end{pmatrix}, \qquad \Sigma= \begin{pmatrix} 2 & 4 & -3\\ 4 & 8 & 2\\ -3 & 2 & 16 \end{pmatrix}.$$

1. 計算平均數向量

由

$$E(\mathbf Y)=A\boldsymbol\mu+\mathbf b$$

可得

$$E(\mathbf Y) = \begin{pmatrix} -4\\ 5 \end{pmatrix}.$$

亦即

$$E(Y_1)=-4,\qquad E(Y_2)=5.$$

2. 計算共變異數矩陣

由

$$\operatorname{Cov}(\mathbf Y)=A\Sigma A^T$$

先計算各變數的變異數與共變異數。

計算 $\operatorname{Var}(Y_1)$

$$Y_1=X_1-2X_2+3X_3-4.$$

常數不影響變異數，因此

$$\begin{aligned} \operatorname{Var}(Y_1) &=\operatorname{Var}(X_1-2X_2+3X_3)\\ &= \begin{pmatrix} 1&-2&3 \end{pmatrix} \Sigma \begin{pmatrix} 1\\ -2\\ 3 \end{pmatrix}\\ &=120. \end{aligned}$$

計算 $\operatorname{Var}(Y_2)$

$$Y_2=2X_1+X_2-3X_3+5,$$

所以

$$\begin{aligned} \operatorname{Var}(Y_2) &= \begin{pmatrix} 2&1&-3 \end{pmatrix} \Sigma \begin{pmatrix} 2\\ 1\\ -3 \end{pmatrix}\\ &=200. \end{aligned}$$