108 年 國立成功大學工程科學系碩士班甲組《線性代數與機率》

本題主要考驗矩陣乘法與代數化簡的能力。我們需要先計算右側的矩陣乘積，然後比較等式兩邊的矩陣元素，求出 E 和 F 與 A, B, C, D 的關係，最後計算 $E^2 + F^2$。

首先，計算右側的矩陣乘積：
$\frac{1}{2} \begin{pmatrix} A & B \\ B & A \end{pmatrix} \begin{pmatrix} 1 & -1 \\ -1 & 1 \end{pmatrix} = \frac{1}{2} \begin{pmatrix} A(1)+B(-1) & A(-1)+B(1) \\ B(1)+A(-1) & B(-1)+A(1) \end{pmatrix} = \frac{1}{2} \begin{pmatrix} A-B & -A+B \\ B-A & -B+A \end{pmatrix}$
接著，將上述結果與 $\begin{pmatrix} C & D \\ D & C \end{pmatrix}$ 相乘：
$\frac{1}{2} \begin{pmatrix} A-B & -A+B \\ B-A & -B+A \end{pmatrix} \begin{pmatrix} C & D \\ D & C \end{pmatrix} = \frac{1}{2} \begin{pmatrix} (A-B)C + (-A+B)D & (A-B)D + (-A+B)C \\ (B-A)C + (-B+A)D & (B-A)D + (-B+A)C \end{pmatrix}$
展開上式中的元素：
第一列第一項：$\frac{1}{2} [AC - BC - AD + BD]$
第一列第二項：$\frac{1}{2} [AD - BD - AC + BC]$
第二列第一項：$\frac{1}{2} [BC - AC - BD + AD]$
第二列第二項：$\frac{1}{2} [BD - AD - BC + AC]$

觀察發現，第一列第一項和第二列第二項是相等的；第一列第二項和第二列第一項也是相等的。
$\frac{1}{2} [AC - BC - AD + BD] = \frac{1}{2} [(A-B)C - (A-B)D] = \frac{1}{2} (A-B)(C-D)$
$\frac{1}{2} [AD - BD - AC + BC] = \frac{1}{2} [(A-B)D - (A-B)C] = \frac{1}{2} (A-B)(D-C)$
所以，右側的矩陣為：

本題考驗矩陣秩 (rank) 的性質以及方陣的性質。核心概念是利用 $AA^T$ 是單位矩陣來推導 $m$ 和 $n$ 的關係。

已知 $A$ 是一個 $m \times n$ 的矩陣，且 $AA^T = I_m$，其中 $I_m$ 是 $m \times m$ 的單位矩陣。

首先，我們來分析矩陣的維度：
$A$ 的維度是 $m \times n$。
$A^T$ 的維度是 $n \times m$。
$AA^T$ 的維度是 $(m \times n) \times (n \times m) = m \times m$。
$I_m$ 的維度是 $m \times m$。

由於 $AA^T = I_m$，這表示 $AA^T$ 是一個方陣。
我們知道，對於任何矩陣 $B$ 和 $C$，若 $BC$ 有定義，則 $\text{rank}(BC) \leq \min(\text{rank}(B), \text{rank}(C))$。
此外，對於 $m \times n$ 矩陣 $A$，其秩滿足 $\text{rank}(A) \leq \min(m, n)$。

考慮矩陣 $A$ 的秩，記為 $\text{rank}(A)$。
由矩陣乘法的性質，我們有：
$\text{rank}(AA^T) \leq \text{rank}(A)$
$\text{rank}(AA^T) \leq \text{rank}(A^T)$

又因為 $A^T$ 的秩等於 $A$ 的秩，即 $\text{rank}(A^T) = \text{rank}(A)$。
所以，$\text{rank}(AA^T) \leq \text{rank}(A)$。

另外，對於一個 $m \times n$ 矩陣 $A$，其左零空間的維度是 $n - \text{rank}(A)$，右零空間的維度是 $m - \text{rank}(A)$。
有一個重要的定理是：對於任何矩陣 $A$，$\text{rank}(AA^T) = \text{rank}(A)$。
同理，$\text{rank}(A^TA) = \text{rank}(A)$。

因為 $AA^T = I_m$，所以 $\text{rank}(AA^T) = \text{rank}(I_m) = m$。
因此，我們有 $\text{rank}(A) = m$。

我們也知道，矩陣 $A$ 的秩不能超過其維度的最小值，即 $\text{rank}(A) \leq \min(m, n)$。

核心觀念

本題考查平方變數的機率密度轉換、常態分配的動差生成函數，以及由動差計算變異數。由於 $Y=X^2$ 將 $X=\sqrt{y}$ 與 $X=-\sqrt{y}$ 都映射到同一個 $y>0$，求密度時必須把這兩個分支的貢獻相加。

以下假設 $\sigma>0$，且 $X\sim N(0,\sigma^2)$。

解題方法

（a）求 $Y$ 的機率密度函數

當 $y>0$ 時，方程 $y=x^2$ 有兩個反函數分支：

$$x_1=\sqrt{y},\qquad x_2=-\sqrt{y}.$$

變數轉換公式為

$$f_Y(y)=\sum_i f_X(x_i)\left|\frac{dx_i}{dy}\right|.$$

由於

$$\left|\frac{d(\sqrt{y})}{dy}\right| = \left|\frac{d(-\sqrt{y})}{dy}\right| = \frac{1}{2\sqrt{y}},$$

而 $X$ 的密度為

$$f_X(x)=\frac{1}{\sqrt{2\pi}\sigma} \exp\left(-\frac{x^2}{2\sigma^2}\right),$$

因此

$$\begin{aligned} f_Y(y) &=f_X(\sqrt{y})\frac{1}{2\sqrt{y}} +f_X(-\sqrt{y})\frac{1}{2\sqrt{y}}\\ &=\frac{1}{\sqrt{2\pi}\sigma\sqrt{y}} \exp\left(-\frac{y}{2\sigma^2}\right),\qquad y>0. \end{aligned}$$

當 $y<0$ 時，因為平方值不可能為負，所以密度為 $0$。故

$$f_Y(y)= \begin{cases} \dfrac{1}{\sqrt{2\pi}\sigma\sqrt{y}} \exp\left(-\dfrac{y}{2\sigma^2}\right),& y>0,\\[6pt] 0,& y<0. \end{cases}$$

（b）求 $X$ 的動差生成函數

核心觀念

本題考查：

• 指數分布的累積分布函數
  $P(X\ge x)=e^{-\lambda x},\qquad x\ge 0$
• 整數部分函數 $[X]=\lfloor X\rfloor$ 的分段性質
• 動差生成函數
  $M_Y(t)=E(e^{tY})$
• 幾何分布的平均數與變異數公式

由於 $X\ge 0$，且

$Y=[X]+1,$

所以 $Y$ 的可能值為 $1,2,3,\ldots$。

---

解題方法

當 $Y=k$ 時，代表

$k-1\le X<k,\qquad k=1,2,3,\ldots$

因此

\begin{align*}
P(Y=k)
&=P(k-1\le X<k)\
&=P(X\ge k-1)-P(X\ge k)\
&=e^{-\lambda(k-1)}-e^{-\lambda k}\
&=(1-e^{-\lambda})e^{-\lambda(k-1)}.
\end{align*}

令

$q=e^{-\lambda},$

則

$P(Y=k)=(1-q)q^{k-1},\qquad k=1,2,3,\ldots$

這表示 $Y$ 服從以 $1$ 為起點的幾何分布，成功機率為

$p=1-e^{-\lambda}.$

---

(a) 求 $Y$ 的動差生成函數

依照定義，

\begin{align*}
M_Y(t)
&=E(e^{tY})\
&=\sum_{k=1}^{\infty}e^{tk}P(Y=k)\
&=\sum_{k=1}^{\infty}e^{tk}(1-e^{-\lambda})e^{-\lambda(k-1)}\
&=(1-e^{-\lambda})e^t
\sum_{k=1}^{\infty}\left(e^{t-\lambda}\right)^{k-1}.
\end{align*}

使用等比級數

$\sum_{j=0}^{\infty}r^j=\frac{1}{1-r},\qquad |r|<1,$

且此處須滿足

$e^{t-\lambda}<1,$

亦即 $t<\lambda$。因此

\begin{align*}
M_Y(t)
&=\frac{(1-e^{-\lambda})e^t}{1-e^{t-\lambda}}.
\end{align*}

所以

$$M_Y(t)=\frac{(1-e^{-\lambda})e^t}{1-e^{-\lambda}e^t}, \qquad t<\lambda.$$

---

(b) 求平均數 $E(Y)$

由幾何分布的平均數公式：

若 $Y\sim\operatorname{Geometric}(p)$，且 $Y$ 的取值為 $1,2,3,\ldots$，則

$E(Y)=\frac{1}{p}.$

本題考驗負二項分佈 (Negative Binomial Distribution) 的動差生成函數 (MGF) 的計算。

負二項分佈有兩種常見的定義：

1. 定義一：試驗進行直到成功發生 $r$ 次為止，記錄所需的總試驗次數 $X$。此時 $X$ 的取值為 $r, r+1, r+2, \dots$。
   其 PMF 為 $P(X=k) = \binom{k-1}{r-1} p^r (1-p)^{k-r}$，其中 $k = r, r+1, \dots$。
   期望值 $E[X] = \frac{r}{p}$，方差 $\text{Var}(X) = \frac{r(1-p)}{p^2}$。

2. 定義二：試驗進行直到失敗發生 $r$ 次為止，記錄所需的總試驗次數 $X$。此時 $X$ 的取值為 $r, r+1, r+2, \dots$。
   其 PMF 為 $P(X=k) = \binom{k-1}{r-1} (1-p)^r p^{k-r}$，其中 $k = r, r+1, \dots$。
   期望值 $E[X] = \frac{r}{1-p}$，方差 $\text{Var}(X) = \frac{r(1-p)}{(1-p)^2} = \frac{r}{1-p}$。

另一種常見的定義是：
3. 定義三：試驗進行直到成功發生 $r$ 次為止，記錄所需的失敗次數 $Y$。此時 $Y$ 的取值為 $0, 1, 2, \dots$。
$Y = X-r$ (其中 $X$ 是定義一的試驗次數)。
其 PMF 為 $P(Y=k) = \binom{k+r-1}{k} p^r (1-p)^k = \binom{k+r-1}{r-1} p^r (1-p)^k$，其中 $k = 0, 1, 2, \dots$。
期望值 $E[Y] = \frac{r(1-p)}{p}$，方差 $\text{Var}(Y) = \frac{r(1-p)}{p^2}$。

題目中只給了參數 $(r,p)$，並沒有明確指出是哪一種定義。通常情況下，若未特別說明，負二項分佈是指定義三，即記錄失敗次數。然而，在計算 MGF 時，不同的定義會得到不同的結果。我們將計算最常見的定義三的 MGF。

假設負二項分佈是指記錄失敗次數 $Y$，其中 $Y$ 的 PMF 為：
$P(Y=k) = \binom{k+r-1}{k} p^r (1-p)^k = \binom{k+r-1}{r-1} p^r (1-p)^k$, for $k = 0, 1, 2, \dots$。

$Y$ 的動差生成函數 (MGF) 定義為 $M_Y(t) = E[e^{tY}]$。
$M_Y(t) = \sum_{k=0}^{\infty} e^{tk} P(Y=k) = \sum_{k=0}^{\infty} e^{tk} \binom{k+r-1}{k} p^r (1-p)^k$
$M_Y(t) = p^r \sum_{k=0}^{\infty} \binom{k+r-1}{k} (e^t (1-p))^k$
我們知道二項式定理的推廣形式：
$(1-x)^{-n} = \sum_{k=0}^{\infty} \binom{k+n-1}{k} x^k, \quad \text{for } |x|<1$
在這裡，我們令 $x = e^t (1-p)$ 且 $n = r$。
則 $\binom{k+r-1}{k} = \binom{k+r-1}{r-1}$。
$M_Y(t) = p^r \sum_{k=0}^{\infty} \binom{k+r-1}{k} (e^t (1-p))^k$
$M_Y(t) = p^r (1 - e^t (1-p))^{-r}$
這個級數收斂的條件是 $|e^t (1-p)| < 1$。
$e^t < \frac{1}{1-p}$。
$t < \ln\left(\frac{1}{1-p}\right) = -\ln(1-p)$。

所以，負二項分佈 (記錄失敗次數 $Y$) 的 MGF 為：
$M_Y(t) = \left( \frac{p}{1 - (1-p)e^t} \right)^r, \quad \text{for } t < -\ln(1-p)$

本題考驗泊松分佈 (Poisson Distribution) 的動差計算，特別是高階動差和一個較特殊的期望值計算。

給定 $X$ 為泊松分佈，參數為 $\lambda > 0$。
其機率質量函數 (PMF) 為 $P(X=k) = \frac{\lambda^k e^{-\lambda}}{k!}$, for $k = 0, 1, 2, \dots$。
泊松分佈的期望值 $E[X] = \lambda$ 且方差 $\text{Var}(X) = \lambda$。

a. 求 $E(X^3)$

求高階動差有多種方法，例如：

1. 使用動差生成函數 (MGF)。
2. 使用機率生成函數 (PGF)。
3. 直接利用 PMF 計算。
4. 利用差分算子。

我們使用 MGF 的方法。
泊松分佈 $X \sim \text{Poisson}(\lambda)$ 的 MGF 為 $M_X(t) = E[e^{tX}] = e^{\lambda(e^t - 1)}$。

我們需要計算 $E(X^3)$，這相當於 MGF 的三階導數在 $t=0$ 的值：$E(X^3) = M_X'''(0)$。
$M_X(t) = e^{\lambda e^t - \lambda}$。
$M_X'(t) = e^{\lambda e^t - \lambda} \cdot (\lambda e^t) = \lambda e^t e^{\lambda e^t - \lambda}$。
$M_X''(t) = \frac{d}{dt} (\lambda e^t e^{\lambda e^t - \lambda})$
$= \lambda e^t e^{\lambda e^t - \lambda} + \lambda e^t (\lambda e^t e^{\lambda e^t - \lambda})$
$= \lambda e^t e^{\lambda e^t - \lambda} (1 + \lambda e^t)$
$= (\lambda e^t + \lambda^2 e^{2t}) e^{\lambda e^t - \lambda}$。

$M_X'''(t) = \frac{d}{dt} [(\lambda e^t + \lambda^2 e^{2t}) e^{\lambda e^t - \lambda}]$
$= (\lambda e^t + 2\lambda^2 e^{2t}) e^{\lambda e^t - \lambda} + (\lambda e^t + \lambda^2 e^{2t}) (\lambda e^t e^{\lambda e^t - \lambda})$
$= e^{\lambda e^t - \lambda} [(\lambda e^t + 2\lambda^2 e^{2t}) + (\lambda e^t + \lambda^2 e^{2t})(\lambda e^t)]$
$= e^{\lambda e^t - \lambda} [\lambda e^t + 2\lambda^2 e^{2t} + \lambda^2 e^{2t} + \lambda^3 e^{3t}]$
$= e^{\lambda e^t - \lambda} [\lambda e^t + 3\lambda^2 e^{2t} + \lambda^3 e^{3t}]$。

本題考驗聯合常態分佈 (Jointly Normal Distribution) 的性質，特別是關於變數線性變換後的獨立性判斷。

給定 $X$ 和 $Y$ 是聯合常態隨機變數，且 $\text{Var}(X) = \text{Var}(Y)$。
令 $W = X + Y$ 和 $Z = X - Y$。
我們要判斷 $W$ 和 $Z$ 是否獨立。

兩個隨機變數 $W$ 和 $Z$ 獨立的充分必要條件是它們的協方差為零，即 $\text{Cov}(W, Z) = 0$。 (注意：對於聯合常態分佈，協方差為零是獨立的充要條件。對於一般分佈，協方差為零僅是獨立的必要條件。)

我們來計算 $\text{Cov}(W, Z)$。
$\text{Cov}(W, Z) = \text{Cov}(X+Y, X-Y)$。
利用協方差的線性性質：
$\text{Cov}(A+B, C+D) = \text{Cov}(A, C) + \text{Cov}(A, D) + \text{Cov}(B, C) + \text{Cov}(B, D)$。
所以，
$\text{Cov}(W, Z) = \text{Cov}(X, X) + \text{Cov}(X, -Y) + \text{Cov}(Y, X) + \text{Cov}(Y, -Y)$。
$= \text{Var}(X) - \text{Cov}(X, Y) + \text{Cov}(Y, X) - \text{Var}(Y)$。
由於 $\text{Cov}(X, Y) = \text{Cov}(Y, X)$，
$\text{Cov}(W, Z) = \text{Var}(X) - \text{Cov}(X, Y) + \text{Cov}(X, Y) - \text{Var}(Y)$。
$\text{Cov}(W, Z) = \text{Var}(X) - \text{Var}(Y)$。

題目中給定 $\text{Var}(X) = \text{Var}(Y)$。
因此，$\text{Cov}(W, Z) = \text{Var}(X) - \text{Var}(X) = 0$。

由於 $X$ 和 $Y$ 是聯合常態分佈的，任何線性變換的結果也是聯合常態分佈的。
所以，$W = X+Y$ 和 $Z = X-Y$ 也是聯合常態分佈的。
對於聯合常態分佈的兩個隨機變數，如果它們的協方差為零，則它們是獨立的。

因此，$\text{Cov}(W, Z) = 0$ 意味著 $W$ 和 $Z$ 是獨立的。

詳細論證：

設 $X$ 和 $Y$ 的聯合機率密度函數為 $f(x, y)$。
由於 $X$ 和 $Y$ 是聯合常態的，它們的聯合 PDF 具有以下形式：
$f(x, y) = \frac{1}{2\pi \sigma_X \sigma_Y \sqrt{1-\rho^2}} \exp\left(-\frac{1}{2(1-\rho^2)}\left[\frac{(x-\mu_X)^2}{\sigma_X^2} - \frac{2\rho(x-\mu_X)(y-\mu_Y)}{\sigma_X \sigma_Y} + \frac{(y-\mu_Y)^2}{\sigma_Y^2}\right]\right)$
其中 $\mu_X = E[X]$, $\mu_Y = E[Y]$, $\sigma_X^2 = \text{Var}(X)$, $\sigma_Y^2 = \text{Var}(Y)$, $\rho = \frac{\text{Cov}(X, Y)}{\sigma_X \sigma_Y}$ 是相關係數。

我們被告知 $\text{Var}(X) = \text{Var}(Y)$，所以 $\sigma_X^2 = \sigma_Y^2$。
我們計算 $\text{Cov}(W, Z) = \text{Cov}(X+Y, X-Y)$。
$\text{Cov}(W, Z) = E[(W - E[W])(Z - E[Z])]$。
$E[W] = E[X+Y] = E[X] + E[Y] = \mu_X + \mu_Y$。
$E[Z] = E[X-Y] = E[X] - E[Y] = \mu_X - \mu_Y$。
$W - E[W] = (X+Y) - (\mu_X + \mu_Y) = (X-\mu_X) + (Y-\mu_Y)$。