109 年 國立中山大學經濟學系碩士班《統計學》

本題考驗聯合機率密度函數 (Joint PDF) 轉換為邊際機率密度函數 (Marginal PDF) 的基本概念。

要找出 $Y$ 的邊際機率密度函數 $f_Y(y)$，我們需要對聯合機率密度函數 $f_{X,Y}(x,y)$ 在 $X$ 的所有可能取值範圍上進行積分。題目中指出 $X$ 與 $Y$ 聯合分布在 $xy$ 平面的第一象限，且給定的聯合 PDF 在 $x \ge 0$ 且 $y > 0$ 時為 $y e^{-y(x+1)}$。

$f_Y(y) = \int_{-\infty}^{\infty} f_{X,Y}(x,y) dx$

由於 $f_{X,Y}(x,y)$ 在 $x < 0$ 或 $y \le 0$ 時為 0，我們只需要對 $x \ge 0$ 的範圍進行積分：

$f_Y(y) = \int_{0}^{\infty} y e^{-y(x+1)} dx$

為了方便積分，我們可以將指數項拆開：$e^{-y(x+1)} = e^{-yx} e^{-y}$。
$f_Y(y) = \int_{0}^{\infty} y e^{-y} e^{-yx} dx$

因為 $y$ 是我們積分的常數，可以提出積分號外：
$f_Y(y) = y e^{-y} \int_{0}^{\infty} e^{-yx} dx$

現在我們計算積分 $\int_{0}^{\infty} e^{-yx} dx$。
令 $u = -yx$，則 $du = -y dx$，所以 $dx = -\frac{1}{y} du$。
當 $x=0$ 時，$u = -y(0) = 0$。
當 $x \to \infty$ 時，$u \to -\infty$ (假設 $y>0$)。

然而，直接積分 $e^{-yx}$ 相對 $x$ 來說，它的不定積分是 $-\frac{1}{y} e^{-yx}$。

本題考驗機率密度函數 (PDF) 的應用，特別是計算隨機變數的期望值 (Expectation) 和方差 (Variance)。

要求隨機變數 $X$ 的方差 $Var(X)$，我們需要先計算 $X$ 的期望值 $E(X)$ 和 $X$ 的平方的期望值 $E(X^2)$。方差的計算公式為 $Var(X) = E(X^2) - [E(X)]^2$。

首先，計算 $X$ 的期望值 $E(X)$：
$E(X) = \int_{-\infty}^{\infty} x f_X(x) dx$

根據給定的 $f_X(x)$，我們需要分段積分：
$E(X) = \int_{0}^{1} x \left(\frac{3}{4}\right) dx + \int_{2}^{3} x \left(\frac{1}{4}\right) dx$

計算第一個積分：
$\int_{0}^{1} \frac{3}{4} x dx = \frac{3}{4} \left[ \frac{x^2}{2} \right]_{0}^{1} = \frac{3}{4} \left( \frac{1^2}{2} - \frac{0^2}{2} \right) = \frac{3}{4} \left( \frac{1}{2} \right) = \frac{3}{8}$

計算第二個積分：
$\int_{2}^{3} \frac{1}{4} x dx = \frac{1}{4} \left[ \frac{x^2}{2} \right]_{2}^{3} = \frac{1}{4} \left( \frac{3^2}{2} - \frac{2^2}{2} \right) = \frac{1}{4} \left( \frac{9}{2} - \frac{4}{2} \right) = \frac{1}{4} \left( \frac{5}{2} \right) = \frac{5}{8}$

將兩部分結果相加得到 $E(X)$：
$E(X) = \frac{3}{8} + \frac{5}{8} = \frac{8}{8} = 1$

本題考驗對統計學中標準化隨機變數和卡方分布 (Chi-squared distribution) 的理解。

題目給定 $Y_1, Y_2, \dots, Y_n$ 是 $n$ 個獨立且服從常態分布 $N(\mu, \sigma^2)$ 的隨機變數。要求計算 $\frac{\sum_{i=1}^{n} (Y_i - \bar{Y})^2}{\sigma^2}$ 的分布。

首先，我們知道標準常態分布的隨機變數 $Z = \frac{Y - \mu}{\sigma}$ 服從 $N(0, 1)$。
當一個服從 $N(0, 1)$ 的隨機變數 $Z$ 的平方 $Z^2$ 的分布，我們稱之為卡方分布，記為 $\chi^2$。其自由度 (degrees of freedom) 為 1。

對於獨立的標準常態隨機變數 $Z_1, Z_2, \dots, Z_k$，它們平方和 $\sum_{i=1}^{k} Z_i^2$ 服從自由度為 $k$ 的卡方分布，記為 $\chi^2(k)$。

在這個問題中，我們需要處理的是 $\sum_{i=1}^{n} (Y_i - \bar{Y})^2$。這個形式與卡方分布的定義有關係，但不是直接的 $Y_i - \mu$。

這裡涉及到一個重要的統計學結果：
若 $Y_1, \dots, Y_n$ 是來自 $N(\mu, \sigma^2)$ 的獨立樣本，則 $\frac{\sum_{i=1}^{n} (Y_i - \bar{Y})^2}{\sigma^2}$ 服從自由度為 $n-1$ 的卡方分布，即 $\chi^2(n-1)$。

原因 (Why?)：

證明這個結果通常需要用到以下幾個步驟和統計學定理：

1. 標準化變數的平方和：
   我們知道 $\frac{Y_i - \mu}{\sigma}$ 服從 $N(0, 1)$。
   因此，$\sum_{i=1}^{n} \left(\frac{Y_i - \mu}{\sigma}\right)^2 = \frac{1}{\sigma^2} \sum_{i=1}^{n} (Y_i - \mu)^2$ 服從自由度為 $n$ 的卡方分布，即 $\chi^2(n)$。

2. 分解變異數：
   可以證明 $\sum_{i=1}^{n} (Y_i - \mu)^2 = \sum_{i=1}^{n} (Y_i - \bar{Y})^2 + n(\bar{Y} - \mu)^2$。
   這個分解式表示總平方和 (Total Sum of Squares) 等於樣本內平方和 (Sum of Squares within sample) 加上樣本均值與總體均值之差的平方和。

3. 各項的分布：

   • $\frac{\sum_{i=1}^{n} (Y_i - \bar{Y})^2}{\sigma^2}$ 是我們要求分布的項。

本題考驗最大概似估計量 (Maximum Likelihood Estimator, MLE) 的計算。

首先，我們需要根據給定的機率密度函數 (PDF) $f_X(x; \theta)$，寫出樣本的概似函數 (Likelihood Function)。
給定一個隨機樣本 $X_1, \dots, X_n$，其聯合機率密度函數（概似函數）為各個樣本點的 PDF 的乘積：
$L(\theta) = L(X_1, \dots, X_n; \theta) = \prod_{i=1}^{n} f_X(X_i; \theta)$

將給定的 PDF 代入：
$f_X(x; \theta) = \frac{1}{\theta^2} x e^{-x/\theta}$
$L(\theta) = \prod_{i=1}^{n} \left( \frac{1}{\theta^2} X_i e^{-X_i/\theta} \right)$
$L(\theta) = \left( \frac{1}{\theta^2} \right)^n \left( \prod_{i=1}^{n} X_i \right) e^{-\sum_{i=1}^{n} X_i / \theta}$
$L(\theta) = \theta^{-2n} \left( \prod_{i=1}^{n} X_i \right) e^{-\frac{1}{\theta} \sum_{i=1}^{n} X_i}$

為了方便計算，我們通常對概似函數取對數，得到對數概似函數 (Log-Likelihood Function)，記為 $l(\theta)$：
$l(\theta) = \ln L(\theta)$
$l(\theta) = \ln \left( \theta^{-2n} \left( \prod_{i=1}^{n} X_i \right) e^{-\frac{1}{\theta} \sum_{i=1}^{n} X_i} \right)$
$l(\theta) = \ln(\theta^{-2n}) + \ln\left(\prod_{i=1}^{n} X_i\right) + \ln\left(e^{-\frac{1}{\theta} \sum_{i=1}^{n} X_i}\right)$
$l(\theta) = -2n \ln(\theta) + \sum_{i=1}^{n} \ln(X_i) - \frac{1}{\theta} \sum_{i=1}^{n} X_i$

為了找到最大概似估計量 $\hat{\theta}$，我們需要對 $l(\theta)$ 對 $\theta$ 求偏導數，並令其等於零：
$\frac{\partial l(\theta)}{\partial \theta} = 0$

$\frac{\partial l(\theta)}{\partial \theta} = \frac{\partial}{\partial \theta} \left( -2n \ln(\theta) + \sum_{i=1}^{n} \ln(X_i) - \frac{1}{\theta} \sum_{i=1}^{n} X_i \right)$
$\frac{\partial l(\theta)}{\partial \theta} = -2n \left( \frac{1}{\theta} \right) + 0 - \left( -\frac{1}{\theta^2} \sum_{i=1}^{n} X_i \right)$
$\frac{\partial l(\theta)}{\partial \theta} = -\frac{2n}{\theta} + \frac{1}{\theta^2} \sum_{i=1}^{n} X_i$

本題考驗多變量常態分布 (Multivariate Normal Distribution) 的線性變換性質。

給定一個服從多變量常態分布的隨機向量 $\mathbf{X}$，其期望值向量為 $\boldsymbol{\mu}$，共變異數矩陣為 $\boldsymbol{\Sigma}$。
$\mathbf{X} \sim N(\boldsymbol{\mu}, \boldsymbol{\Sigma})$

現在我們考慮對 $\mathbf{X}$ 進行一個線性變換，得到一個新的隨機向量 $\mathbf{Y}$。
$\mathbf{Y} = \mathbf{A} \mathbf{X} + \mathbf{b}$
其中 $\mathbf{A}$ 是一個 $m \times n$ 的矩陣，$\mathbf{b}$ 是一個 $m \times 1$ 的向量。

線性變換後的向量 $\mathbf{Y}$ 仍然服從多變量常態分布。其期望值和共變異數矩陣分別為：
$E(\mathbf{Y}) = E(\mathbf{A} \mathbf{X} + \mathbf{b}) = \mathbf{A} E(\mathbf{X}) + \mathbf{b} = \mathbf{A} \boldsymbol{\mu} + \mathbf{b}$
$Cov(\mathbf{Y}) = Cov(\mathbf{A} \mathbf{X} + \mathbf{b}) = \mathbf{A} Cov(\mathbf{X}) \mathbf{A}^T = \mathbf{A} \boldsymbol{\Sigma} \mathbf{A}^T$

在本題中，我們有：
$\boldsymbol{\mu} = \begin{pmatrix} 2 \\ 4 \\ 8 \end{pmatrix}$
$\boldsymbol{\Sigma} = \begin{pmatrix} 4 & 2 & -3 \\ 2 & 8 & 2 \\ -3 & 2 & 16 \end{pmatrix}$

我們定義的 $Y_1$ 和 $Y_2$ 可以寫成向量的形式。
$Y_1 = X_1 - 2X_2 + 3X_3 - 4$
$Y_2 = 2X_1 + X_2 - 3X_3 + 5$

所以，向量 $\mathbf{Y} = \begin{pmatrix} Y_1 \\ Y_2 \end{pmatrix}$ 可以表示為：

$$\begin{pmatrix} Y_1 \\ Y_2 \end{pmatrix} = \begin{pmatrix} 1 & -2 & 3 \\ 2 & 1 & -3 \end{pmatrix} \begin{pmatrix} X_1 \\ X_2 \\ X_3 \end{pmatrix} + \begin{pmatrix} -4 \\ 5 \end{pmatrix}$$

因此，我們確定了線性變換矩陣 $\mathbf{A}$ 和向量 $\mathbf{b}$：
$\mathbf{A} = \begin{pmatrix} 1 & -2 & 3 \\ 2 & 1 & -3 \end{pmatrix}$
$\mathbf{b} = \begin{pmatrix} -4 \\ 5 \end{pmatrix}$

現在我們計算 $\mathbf{Y}$ 的期望值向量 $E(\mathbf{Y})$：
$E(\mathbf{Y}) = \mathbf{A} \boldsymbol{\mu} + \mathbf{b}$
$E(\mathbf{Y}) = \begin{pmatrix} 1 & -2 & 3 \\ 2 & 1 & -3 \end{pmatrix} \begin{pmatrix} 2 \\ 4 \\ 8 \end{pmatrix} + \begin{pmatrix} -4 \\ 5 \end{pmatrix}$
$E(\mathbf{Y}) = \begin{pmatrix} (1)(2) + (-2)(4) + (3)(8) \\ (2)(2) + (1)(4) + (-3)(8) \end{pmatrix} + \begin{pmatrix} -4 \\ 5 \end{pmatrix}$