112 年 國立臺灣大學資料科學碩士學位學程《工程數學（D）》

核心觀念

本題考查：

• 向量空間的基底與維度。
• 向量是否能由一組基底唯一表示。
• Hermitian 矩陣的定義與自由參數數量。
• 複數向量空間與實數向量空間的差異。

---

(a) $Z_n$ over $Z_2$

解題方法

$Z_n=\{0,1\}^n$ 中的每個元素都是長度為 $n$ 的二元向量，向量加法採逐項模 $2$ 運算。

取標準單位向量：

$$e_1=(1,0,\ldots,0),\quad e_2=(0,1,\ldots,0),\quad \ldots,\quad e_n=(0,0,\ldots,1).$$

對任意向量

$$x=(x_1,x_2,\ldots,x_n)\in Z_n,$$

都有

$$x=x_1e_1+x_2e_2+\cdots+x_ne_n,$$

其中係數 $x_i\in Z_2$。

因此，$\{e_1,e_2,\ldots,e_n\}$ 可以生成 $Z_n$。

再檢查線性獨立性。若

$$c_1e_1+c_2e_2+\cdots+c_ne_n=0,$$

其中 $c_i\in Z_2$，比較各座標可得

$$c_1=c_2=\cdots=c_n=0.$$

所以這組向量線性獨立，構成 $Z_n$ 的一組基底。

解題技巧

$Z_n$ 的元素共有 $2^n$ 個，但「元素個數」不是維度。對有限域 $Z_2$ 而言，若維度為 $n$，向量空間元素個數才是 $2^n$。

此處每一個座標都需要一個獨立方向，因此維度為 $n$。

---

(b) Hermitian 矩陣空間 over $\mathbb{R}$

核心觀念

Hermitian 矩陣滿足

$$A^\dagger=A,$$

其中 $A^\dagger$ 是共軛轉置。

令

$$A=(a_{ij})\in\mathbb{C}^{n\times n}.$$

Hermitian 條件等價於

$$a_{ij}=\overline{a_{ji}}.$$

這個矩陣集合是定義在實數上的向量空間，因此每個複數自由參數要拆成實部與虛部計算。

自由參數計數

1. 對角線元素

當 $i=j$ 時，

$$a_{ii}=\overline{a_{ii}}.$$

只有實數符合此條件，所以每個對角線元素都是一個實數。

共有

$$n$$

個實數自由參數。

2. 非對角線元素

對每一組 $i<j$，可任取

$$a_{ij}=x_{ij}+iy_{ij}, \qquad x_{ij},y_{ij}\in\mathbb{R}.$$

由 Hermitian 條件，

$$a_{ji}=\overline{a_{ij}} =x_{ij}-iy_{ij}.$$

核心觀念

本題考查兩種矩陣反矩陣的求法：

1. 利用矩陣滿足的多項式關係，將高次方程式整理成 $A^{-1}$。
2. 利用離散傅立葉矩陣的根單位性質，透過幾何級數證明其反矩陣。

---

（a）利用多項式關係求 $A^{-1}$

已知 $A$ 為非奇異矩陣，因此 $A^{-1}$ 存在，且

$$A^3-4A^2+3A-5I=0.$$

右乘 $A^{-1}$，得

$$A^3A^{-1}-4A^2A^{-1}+3AA^{-1}-5IA^{-1}=0.$$

因為矩陣 $A$ 的各次方彼此可交換，所以

$$A^2-4A+3I-5A^{-1}=0.$$

移項後得到

$$5A^{-1}=A^2-4A+3I.$$

因此

$$\boxed{A^{-1}=\frac{1}{5}\left(A^2-4A+3I\right)}.$$

解題技巧

看到題目給出

$$p(A)=0$$

且常數項非零時，可先將等式乘上 $A^{-1}$，直接降一階。此題的關鍵是常數項為 $-5I$，因此最後能解出 $A^{-1}$。

---

（b）求矩陣 $B$ 的反矩陣

令矩陣的列、欄編號皆從 $0$ 開始，則 $B$ 的第 $r$ 列第 $k$ 欄元素為

$$B_{rk}=\omega^{rk}, \qquad 0\leq r,k\leq n-1.$$

考慮矩陣 $C$，其元素定義為

$$C_{ks}=\omega^{-ks}.$$

則矩陣乘積 $BC$ 的第 $r$ 列第 $s$ 欄元素為

$$(BC)_{rs} = \sum_{k=0}^{n-1}B_{rk}C_{ks} = \sum_{k=0}^{n-1}\omega^{rk}\omega^{-ks}.$$

整理指數可得

$$(BC)_{rs} = \sum_{k=0}^{n-1}\omega^{(r-s)k}.$$

當 $r=s$ 時，

$$(BC)_{rr} = \sum_{k=0}^{n-1}1 = n.$$

當 $r\neq s$ 時，由於 $r-s$ 不是 $n$ 的倍數，且 $\omega^n=1$，使用幾何級數公式：

$$\sum_{k=0}^{n-1}\omega^{(r-s)k} = \frac{1-\left(\omega^{r-s}\right)^n} {1-\omega^{r-s}} = \frac{1-1}{1-\omega^{r-s}} = 0.$$

因此

$$BC=nI.$$

所以

$$B^{-1}=\frac{1}{n}C.$$

矩陣 $C$ 可寫成

核心觀念

本題考查線性代數中矩陣維度、行向量（Column Vectors）與秩（Rank）、**基底（Basis）以及矩陣變換之線性性（Linearity）**的基本定義與關聯定理：

1. 矩陣維度定義：若矩陣 $A$ 由 $n$ 個行向量組成，且每個向量屬於 $\mathbb{R}^m$（即每個向量有 $m$ 個分量，對應矩陣的列數），則 $A$ 的維度為 $m \times n$。
2. 行空間與秩（Column Space and Rank）：
   • 矩陣 $A$ 的秩定義為其行空間（Column Space, $\operatorname{Col}(A)$）的維度，亦即線性獨立行向量的最大數量： $$\operatorname{rank}(A) = \dim(\operatorname{Col}(A))$$
   • 行滿秩（Full column rank）：若 $A$ 的 $n$ 個行向量線性獨立，則 $\operatorname{rank}(A) = n$。
   • 列滿秩（Full row rank）：若 $A$ 的行向量生成（span）整個 $\mathbb{R}^m$，即 $\operatorname{Col}(A) = \mathbb{R}^m$，則 $\dim(\operatorname{Col}(A)) = m$，亦即 $\operatorname{rank}(A) = m$。
3. 基底的充要條件：$\mathbb{R}^m$ 的基底是由 $m$ 個線性獨立且生成 $\mathbb{R}^m$ 的向量所組成的集合。因此，若 $n$ 個向量構成 $\mathbb{R}^m$ 的基底，則必有 $n = m$ 且 $\operatorname{rank}(A) = m$。
4. 線性變換（Linear Transformation）：對於任意 $m \times n$ 實數矩陣 $A$，定義映射 $T: \mathbb{R}^n \rightarrow \mathbb{R}^m$ 為 $T(x) = Ax$。由矩陣乘法對純量乘法與加法的分配律可直接滿足線性性質： $$T(c x + y) = A(c x + y) = c(Ax) + Ay = c T(x) + T(y)$$

---

解題方法與小題分析

本題為全對才給分的連鎖概念題，每一小題的詳細推導與分析如下：

• (a) (True or False) $A$ is an $n \times m$ matrix.

  • 分析：False。
  • 原因：題目指出「columns of a matrix $A$ are $n$ vectors in $\mathbb{R}^m$」，表示矩陣共有 $n$ 行（columns），且每個行向量均有 $m$ 個元素（即有 $m$ 列 rows）。因此，矩陣 $A$ 的大小為列數乘行數，即 $m \times n$，而非 $n \times m$。

• (b) If the columns are linear independent, what is the rank of $A$?

  • 分析：$n$。
  • 原因：矩陣的秩 $\operatorname{rank}(A)$ 等於其行空間的維度，亦即極大線性獨立行向量的個數。已知此 $n$ 個行向量線性獨立，因此行空間的維度即為向量個數 $n$，故 $\operatorname{rank}(A) = n$。

• (c) If the columns span $\mathbb{R}^m$, what is the rank of $A$?

  • 分析：$m$。
  • 原因：$A$ 的行向量所張成的空間即為 $A$ 的行空間 $\operatorname{Col}(A)$。

核心觀念

本題考查矩陣的特徵值與特徵向量：

• 特徵值 $\lambda$ 與特徵向量 $\boldsymbol{x}\neq \boldsymbol{0}$ 滿足
  $A\boldsymbol{x}=\lambda\boldsymbol{x}.$
• 對稱矩陣的不同特徵值所對應的特徵向量互相正交。
• 形如
  $B=(a-b)I+bJ$
  的矩陣，其中 $J$ 為全元素皆為 $1$ 的矩陣，可利用全 $1$ 向量與其正交補空間快速求得特徵值。

---

解題方法

(a) 矩陣 $A$ 的特徵值

題目給定

$$A= \begin{pmatrix} 3&1&-1\\ 1&3&-1\\ -1&-1&3 \end{pmatrix}.$$

由於前兩列、前兩行具有對稱性，先考慮向量

$$\boldsymbol{v}_1= \begin{pmatrix} 1\\-1\\0 \end{pmatrix}.$$

計算得

$$A\boldsymbol{v}_1 = \begin{pmatrix} 3-1\\ 1-3\\ -1+1 \end{pmatrix} = \begin{pmatrix} 2\\-2\\0 \end{pmatrix} = 2\boldsymbol{v}_1.$$

因此，$2$ 是一個特徵值。

接著考慮第一、二個分量相同的向量

$$\boldsymbol{v}= \begin{pmatrix} 1\\1\\t \end{pmatrix}.$$

則

$$A\boldsymbol{v} = \begin{pmatrix} 2-t\\ 2-t\\ -2+3t \end{pmatrix}.$$

若其為特徵向量，必須滿足

$$A\boldsymbol{v} = \lambda \begin{pmatrix} 1\\1\\t \end{pmatrix}.$$

因此

$$\lambda=2-t,$$

且

$$-2+3t=\lambda t=(2-t)t.$$

整理得

$$-2+3t=2t-t^2,$$ $$t^2+t-2=0,$$ $$(t-1)(t+2)=0.$$

當 $t=1$

$$\lambda=2-1=1.$$

對應特徵向量為

$$\begin{pmatrix}1\\1\\1\end{pmatrix}.$$

當 $t=-2$

$$\lambda=2-(-2)=4.$$

對應特徵向量為

$$\begin{pmatrix}1\\1\\-2\end{pmatrix}.$$

所以三個特徵值按照遞減順序為

$$\boxed{4,\ 2,\ 1}.$$

---

(b) 矩陣 $B$ 的特徵值

矩陣 $B$ 為

$$B= \begin{pmatrix} a&b&\cdots&b\\ b&a&\cdots&b\\ \vdots&\vdots&\ddots&\vdots\\ b&b&\cdots&a \end{pmatrix}.$$

可寫成

$$B=(a-b)I+bJ,$$

其中 $I$ 為 $n\times n$ 單位矩陣，$J$ 為所有元素皆為 $1$ 的矩陣。

令全 $1$ 向量為

$$\boldsymbol{e}= \begin{pmatrix} 1\\1\\\vdots\\1 \end{pmatrix}.$$

由於每一列的元素總和為 $a+(n-1)b$，因此

$$B\boldsymbol{e} = \bigl(a+(n-1)b\bigr)\boldsymbol{e}.$$

所以

$$\lambda_1=a+(n-1)b$$

是一個特徵值。

再考慮任意滿足分量總和為 $0$ 的向量

$$\boldsymbol{x}= \begin{pmatrix} x_1\\x_2\\\vdots\\x_n \end{pmatrix}, \qquad x_1+x_2+\cdots+x_n=0.$$

矩陣乘法的第 $i$ 個分量為

$$(B\boldsymbol{x})_i =ax_i+b\sum_{j\ne i}x_j.$$

因為

$$\sum_{j\ne i}x_j=-x_i,$$

所以

$$(B\boldsymbol{x})_i =ax_i-bx_i =(a-b)x_i.$$

因此

$$B\boldsymbol{x}=(a-b)\boldsymbol{x}.$$

滿足分量總和為 $0$ 的向量形成一個 $n-1$ 維空間，所以 $a-b$ 的代數重數為 $n-1$。

又因為 $a>0$、$b>0$，

$$a+(n-1)b>a-b,$$

故遞減排列為

核心觀念

本題比較兩種離均差：

$$d_X=E\left[|X-\mu_X|\right]$$

與標準差：

$$\sigma_X=\sqrt{E\left[(X-\mu_X)^2\right]}.$$

主要使用：

1. 對稱分布的平均數為對稱中心。
2. 常態分布的絕對值期望公式。
3. Cauchy–Schwarz 不等式：

$$\left(E[|Y|]\right)^2\leq E[Y^2].$$

---

(a) 機率密度函數與 $e^{-|t|}$ 成正比

設

$$f_X(t)=\alpha e^{-|t|},\qquad \alpha>0.$$

由機率密度函數總積分必須為 $1$：

$$1=\int_{-\infty}^{\infty}\alpha e^{-|t|}\,dt =2\alpha\int_0^\infty e^{-t}\,dt =2\alpha.$$

因此

$$\alpha=\frac12.$$

故 $X$ 的密度函數為

$$f_X(t)=\frac12e^{-|t|}.$$

此分布關於 $0$ 對稱，所以

$$\mu_X=E[X]=0.$$

因此

$$d_X=E[|X|] =\int_{-\infty}^{\infty}|t|\frac12e^{-|t|}\,dt.$$

利用對稱性：

$$d_X =2\int_0^\infty t\frac12e^{-t}\,dt =\int_0^\infty te^{-t}\,dt.$$

分部積分得

$$\int_0^\infty te^{-t}\,dt =\left[-te^{-t}\right]_0^\infty+\int_0^\infty e^{-t}\,dt =1.$$

接著計算變異數：

$$\sigma_X^2=E[X^2] =\int_{-\infty}^{\infty}t^2\frac12e^{-|t|}\,dt =\int_0^\infty t^2e^{-t}\,dt.$$

由 Gamma 積分公式：

$$\int_0^\infty t^2e^{-t}\,dt=2!=2.$$

所以

$$\sigma_X=\sqrt2.$$

因此

$$\boxed{d_X=1=\frac{\sigma_X}{\sqrt2}}.$$

---

(b) $X$ 為常態隨機變數

設

$$X\sim N(\mu_X,\sigma_X^2).$$

令

$$Z=\frac{X-\mu_X}{\sigma_X},$$

則 $Z\sim N(0,1)$，且

$$X-\mu_X=\sigma_X Z.$$

因此

$$d_X=E[|X-\mu_X|] =\sigma_XE[|Z|].$$

標準常態密度為

核心觀念

本題考查：

• 對稱機率密度函數所造成的分布與期望性質。
• 共變異數的定義：
  $\operatorname{Cov}(X,Z)=E[XZ]-E[X]E[Z].$
• 不相關與獨立的區別：獨立一定不相關，但不相關不必然代表獨立。
• 聯合累積分布函數：
  $F_{X,Z}(x,z)=P(X\le x,\ Z\le z).$

由 $f_X(t)=f_X(-t)$，可知 $X$ 的分布關於 $0$ 對稱，因此

$$F_X(-t)=1-F_X(t),$$

且

$$E[X]=0.$$

又因為 $Y$ 與 $X$ 獨立，且 $Y$ 以相同機率取 $1,-1$，所以

$$E[Y]=0,\qquad E[Y^2]=1.$$

---

(a) $X$ 與 $Z$ 是否相關？

解題方法

先利用 $Z=XY$ 計算 $E[Z]$ 與 $E[XZ]$，再代入共變異數公式。

由 $X$ 與 $Y$ 獨立，

$$E[Z]=E[XY]=E[X]E[Y]=0.$$

另一方面，

$$XZ=X(XY)=X^2Y.$$

因為 $X^2$ 是 $X$ 的函數，仍與 $Y$ 獨立，故

$$E[XZ]=E[X^2Y]=E[X^2]E[Y]=0.$$

題目給定 $E[X^2]<\infty$，因此上述期望皆存在。代入共變異數：

$$\begin{aligned} \operatorname{Cov}(X,Z) &=E[XZ]-E[X]E[Z]\\ &=0-0\cdot 0\\ &=0. \end{aligned}$$

因此 $X$ 與 $Z$ 不相關。

解題技巧

看到 $Z=XY$ 且 $Y$ 是獨立、平均值為 $0$ 的隨機符號時，可直接注意到

$$E[XZ]=E[X^2Y]=E[X^2]E[Y]=0.$$

但必須注意：共變異數為 $0$ 只能得到「不相關」，不能直接推論「獨立」。

---

(b) $X$ 與 $Z$ 是否獨立？

第一步：求聯合累積分布函數

由 $Y$ 只可能取 $1$ 或 $-1$，分情況計算：

當 $Y=1$ 時，$Z=X$；當 $Y=-1$ 時，$Z=-X$。因此

$$\begin{aligned} F_{X,Z}(x,z) &=P(X\le x,\ Z\le z)\\ &=\frac12P(X\le x,\ X\le z) +\frac12P(X\le x,\ -X\le z). \end{aligned}$$

第一項為

$$P(X\le x,\ X\le z)=P(X\le \min\{x,z\}) =F_X(\min\{x,z\}).$$

第二項中，$-X\le z$ 等價於 $X\ge -z$，因此

$$P(X\le x,\ -X\le z) =P(-z\le X\le x).$$

因為 $X$ 為連續型隨機變數，

$$P(-z\le X\le x) = \begin{cases} F_X(x)-F_X(-z), & x\ge -z,\\ 0, & x<-z. \end{cases}$$

所以聯合累積分布函數為

核心觀念

本題主要考查以下觀念：

1. 給定 $U=u$ 時，$X_1,\dots,X_n$ 為條件獨立且同分布的 Bernoulli$(u)$ 隨機變數。
2. $W_n$ 是前 $n$ 個觀察值中出現「1」的次數，因此
   $W_n=\sum_{i=1}^{n}X_i.$
3. 利用全機率公式，對 $U\sim\operatorname{Uniform}(0,1)$ 積分，可得到 $X_1,\dots,X_n$ 與 $W_n$ 的邊際分布。
4. 給定 $W_n=w$ 後，所有含有 $w$ 個「1」的長度 $n$ 序列具有相同機率。

以下令 $x_i\in\{0,1\}$，並記

$w_x=\sum_{i=1}^{n}x_i.$

---

（a）求 $(X_1,\dots,X_n,W_n)$ 給定 $U$ 的條件機率質量函數

給定 $U=u$ 時，各個 $X_i$ 條件獨立，且

$P(X_i=x_i\mid U=u)=u^{x_i}(1-u)^{1-x_i}.$

因此，

$$P(X_1=x_1,\dots,X_n=x_n\mid U=u) = \prod_{i=1}^{n}u^{x_i}(1-u)^{1-x_i}.$$

又因為

$W_n=\sum_{i=1}^{n}X_i,$

所以當 $x_1,\dots,x_n$ 給定時，$W_n$ 的值被完全決定。故

$$P(W_n=w\mid X_1=x_1,\dots,X_n=x_n,U=u) = \begin{cases} 1, & w=\displaystyle\sum_{i=1}^{n}x_i,\\ 0, & \text{其他情形}. \end{cases}$$

因此聯合條件機率質量函數為

$$\begin{aligned} &P_{X_1,\dots,X_n,W_n\mid U}(x_1,\dots,x_n,w\mid u)\\ &\quad= \begin{cases} \displaystyle\prod_{i=1}^{n}u^{x_i}(1-u)^{1-x_i}, & w=\displaystyle\sum_{i=1}^{n}x_i,\\[2ex] 0, & w\ne\displaystyle\sum_{i=1}^{n}x_i. \end{cases} \end{aligned}$$

也可以寫成

$$P_{X_1,\dots,X_n,W_n\mid U}(x_1,\dots,x_n,w\mid u) = \mathbf{1}_{\left\{w=\sum_{i=1}^{n}x_i\right\}} u^{\sum_{i=1}^{n}x_i}(1-u)^{n-\sum_{i=1}^{n}x_i}.$$

其中 $\mathbf{1}_{\{\cdot\}}$ 為指示函數。

---

（b）求 $(X_1,\dots,X_n)$ 給定 $W_n$ 的條件機率質量函數

考慮一組固定序列 $(x_1,\dots,x_n)$，且其中恰有 $w$ 個「1」。此時

$\sum_{i=1}^{n}x_i=w.$

先計算該序列的邊際機率：

$$\begin{aligned} P(X_1=x_1,\dots,X_n=x_n) &=\int_{0}^{1} P(X_1=x_1,\dots,X_n=x_n\mid U=u)\,du\\ &=\int_{0}^{1}u^w(1-u)^{n-w}\,du. \end{aligned}$$

此積分為 Beta 函數：

$$\int_{0}^{1}u^w(1-u)^{n-w}\,du = B(w+1,n-w+1) = \frac{w!(n-w)!}{(n+1)!}.$$

而 $W_n=w$ 的事件共有

$$\binom{n}{w}$$

組不同序列。故

$$P(W_n=w) = \binom{n}{w}\frac{w!(n-w)!}{(n+1)!} = \frac{1}{n+1}.$$

因此，對於含有 $w$ 個「1」的序列，

$$\begin{aligned} &P_{X_1,\dots,X_n\mid W_n}(x_1,\dots,x_n\mid w)\\ &\quad= \frac{P(X_1=x_1,\dots,X_n=x_n)}{P(W_n=w)}\\ &\quad= \frac{\displaystyle\frac{w!(n-w)!}{(n+1)!}} {\displaystyle\frac{1}{n+1}}\\ &\quad= \frac{w!(n-w)!}{n!}\\ &\quad= \frac{1}{\binom{n}{w}}. \end{aligned}$$

所以完整答案為

$$P_{X_1,\dots,X_n\mid W_n}(x_1,\dots,x_n\mid w) = \begin{cases} \displaystyle\frac{1}{\binom{n}{w}}, & x_i\in\{0,1\},\ \displaystyle\sum_{i=1}^{n}x_i=w,\\[2ex] 0, & \text{其他情形}. \end{cases}$$

這表示：給定 $W_n=w$ 後，所有含有 $w$ 個「1」的序列等可能。

---

（c）求 $W_n$ 的動差生成函數

動差生成函數定義為

$$M_{W_n}(t)=E[e^{tW_n}].$$

給定 $U=u$ 時，

$W_n\mid U=u\sim\operatorname{Binomial}(n,u),$

因此其條件動差生成函數為

$$M_{W_n\mid U}(t\mid u) = (1-u+ue^t)^n.$$

由全期望公式，

$$M_{W_n}(t) = E\left[M_{W_n\mid U}(t\mid U)\right] = \int_{0}^{1}(1-u+ue^t)^n\,du.$$

令

$$z=1+(e^t-1)u, \qquad du=\frac{dz}{e^t-1}.$$

當 $u=0$ 時，$z=1$；當 $u=1$ 時，$z=e^t$。因此