114 年 國立臺灣大學統計與數據科學碩士班《數學》

本題為數學基礎名詞定義題，主要考察對線性代數中幾個重要概念的理解。

(a) Idempotent Matrix:
一個方陣 $A$ 被稱為 idempotent（冪等），如果 $A^2 = A$。
【答案】$A^2 = A$。

(b) Orthogonal Matrix:
一個方陣 $A$ 被稱為 orthogonal（正交），如果其轉置矩陣等於其逆矩陣，即 $A^T = A^{-1}$。這等價於 $A^T A = A A^T = I$，其中 $I$ 是單位矩陣。
【答案】$A^T A = I$ （或 $A^T = A^{-1}$）。

(c) Positive-definite Matrix:

本題考察矩陣的 Frobenius 範數性質，以及與正交矩陣的結合應用。

核心觀念: Frobenius 範數的定義與性質，以及正交矩陣的性質。

證明:
Frobenius 範數的平方定義為 $||A||_F^2 = \sum_{i=1}^m \sum_{j=1}^n |a_{ij}|^2$。
我們需要證明 $||PAQ||_F^2 = ||A||_F^2$。

令 $B = PAQ$。則 $B$ 的元素 $b_{ik}$ 可以表示為：
$b_{ik} = \sum_{j=1}^n p_{ij} (AQ)_{jk} = \sum_{j=1}^n p_{ij} \sum_{l=1}^n a_{jl} q_{lk}$
其中 $p_{ij}$ 是 $P$ 的元素，$q_{lk}$ 是 $Q$ 的元素，$a_{jl}$ 是 $A$ 的元素。

$||B||_F^2 = ||PAQ||_F^2 = \sum_{i=1}^m \sum_{k=1}^n |b_{ik}|^2$
$||PAQ||_F^2 = \sum_{i=1}^m \sum_{k=1}^n \left| \sum_{j=1}^n p_{ij} \sum_{l=1}^n a_{jl} q_{lk} \right|^2$

這看起來直接展開會很複雜。我們可以用另一種更簡潔的方法，利用 Frobenius 範數與跡 (trace) 的關係，或者利用矩陣乘法的性質。

方法一：利用跡 (Trace) 的性質
Frobenius 範數的平方也可以表示為 $||A||_F^2 = \text{tr}(A^T A)$。
所以，我們需要證明 $||PAQ||_F^2 = \text{tr}((PAQ)^T (PAQ)) = \text{tr}(A^T A)$。

$(PAQ)^T (PAQ) = Q^T A^T P^T P A Q$
由於 $P$ 是正交矩陣，所以 $P^T P = I$。
因此，$(PAQ)^T (PAQ) = Q^T A^T I A Q = Q^T A^T A Q$。

現在我們計算跡：
$||PAQ||_F^2 = \text{tr}(Q^T A^T A Q)$

利用跡的循環性質：$\text{tr}(XYZ) = \text{tr}(YZX) = \text{tr}(ZXY)$。
令 $X = Q^T$, $Y = A^T A$, $Z = Q$。

核心觀念

本題涵蓋：

• 根式極限的有理化。
• 商數法則與指數函數微分。
• $\int e^{ax}\sin bx\,dx$ 的公式。
• 廣義積分的收斂性判斷。

---

(a) 求極限

考慮

$$\lim_{x\to 0}\frac{\sqrt{4+x^2}-2}{x^2}.$$

分子有根式，使用共軛式有理化：

$$\frac{\sqrt{4+x^2}-2}{x^2} \cdot \frac{\sqrt{4+x^2}+2}{\sqrt{4+x^2}+2} = \frac{(4+x^2)-4}{x^2(\sqrt{4+x^2}+2)}.$$

因此

$$\frac{\sqrt{4+x^2}-2}{x^2} = \frac{1}{\sqrt{4+x^2}+2}.$$

令 $x\to 0$：

$$\lim_{x\to 0}\frac{1}{\sqrt{4+x^2}+2} = \frac{1}{2+2} = \frac14.$$

解題技巧

遇到 $\sqrt{A(x)}- \sqrt{A(0)}$ 的形式，且分母含有 $x^2$，通常使用共軛式消去根式差。

---

(b) 求導數

令

$$f(x)=\frac{e^{2x}-2e^x}{e^x-1}.$$

分子與分母分別為

$$u(x)=e^{2x}-2e^x,\qquad v(x)=e^x-1.$$

其導數為

$$u'(x)=2e^{2x}-2e^x,\qquad v'(x)=e^x.$$

依商數法則：

$$f'(x)=\frac{u'v-uv'}{v^2}.$$

所以

$$f'(x) = \frac{(2e^{2x}-2e^x)(e^x-1)-(e^{2x}-2e^x)e^x} {(e^x-1)^2}.$$

整理分子：

$$\begin{aligned} &(2e^{2x}-2e^x)(e^x-1)-(e^{2x}-2e^x)e^x\\ &=e^{3x}-2e^{2x}+2e^x. \end{aligned}$$

因此

$$\boxed{ f'(x)= \frac{e^{3x}-2e^{2x}+2e^x}{(e^x-1)^2} }$$

也可寫成

$$\boxed{ f'(x)= \frac{e^x(e^{2x}-2e^x+2)}{(e^x-1)^2} }.$$

解題技巧

先將 $e^x$ 暫視為單一代數量 $t$，可快速確認分子整理結果：

$$(2t^2-2t)(t-1)-(t^2-2t)t=t^3-2t^2+2t.$$

原函數在 $x=0$ 沒有定義，因此導數的定義域須滿足 $e^x-1\ne 0$，即 $x\ne 0$。

---

(c) 計算定積分

使用公式

本題考察矩陣特徵值與正定性、二次型的關係。

核心觀念: 矩陣的特徵值與其二次型表示的關係，以及正定矩陣的性質。

證明:
令 $\lambda$ 是矩陣 $A = X^T X + \xi I$ 的一個特徵值，對應的特徵向量為 $v \neq 0$。
根據特徵值的定義，我們有 $Av = \lambda v$。
將 $A$ 代入：
$(X^T X + \xi I) v = \lambda v$
$X^T X v + \xi I v = \lambda v$
$X^T X v + \xi v = \lambda v$
$X^T X v = (\lambda - \xi) v$

現在我們考慮二次型 $v^T (X^T X) v$。
$v^T (X^T X) v = v^T (\lambda - \xi) v = (\lambda - \xi) v^T v$。
由於 $v$ 是非零向量， $v^T v = ||v||^2 > 0$。

另一方面，我們知道 $X^T X$ 是一個對稱半正定矩陣。
$X^T X$ 的二次型 $y^T (X^T X) y = (Xy)^T (Xy) = ||Xy||^2 \ge 0$ 對於任意向量 $y$ 都成立。
因此，$v^T (X^T X) v = ||Xv||^2 \ge 0$。

所以，我們有 $(\lambda - \xi) v^T v \ge 0$。
因為 $v^T v > 0$，所以 $\lambda - \xi \ge 0$，即 $\lambda \ge \xi$。

這證明了矩陣 $A$ 的所有特徵值都大於或等於 $\xi$。因此，最小的特徵值也大於或等於 $\xi$。

另一種角度：從半正定性出發
矩陣 $X^T X$ 是對稱半正定的。
考慮矩陣 $A = X^T X + \xi I$。
由於 $X^T X$ 是對稱半正定的，其特徵值 $\mu_i \ge 0$。
$I$ 是單位矩陣，其特徵值都是 1。
我們知道，若 $B$ 和 $C$ 是同階對稱矩陣，且 $B$ 半正定，則 $B+C$ 的特徵值是 $B$ 的特徵值加上 $C$ 的特徵值（這不完全正確，這是在對角矩陣上的情況）。

核心觀念

二次型可表示為

$$f(\mathbf{x})=\mathbf{x}^{T}A\mathbf{x}, \qquad \mathbf{x}= \begin{bmatrix} x\\y\\z \end{bmatrix},$$

其中對稱矩陣

$$A= \begin{bmatrix} a&b&c\\ b&d&e\\ c&e&f \end{bmatrix}.$$

展開後有

$$\begin{aligned} \begin{bmatrix}x&y&z\end{bmatrix} A \begin{bmatrix}x\\y\\z\end{bmatrix} &=ax^2+dy^2+fz^2+2bxy+2cxz+2eyz. \end{aligned}$$

判斷原點的局部極值時，需觀察二次型在原點附近的正負：

• 若 $f(x,y,z)\ge 0$，原點為局部最小值。
• 若 $f(x,y,z)\le 0$，原點為局部最大值。
• 若在原點附近同時取得正值與負值，原點為鞍點。

---

(a) 求對稱矩陣 $A$

題目給定

$$f(x,y,z)=x^2-2y^2+2xy+2xz-2yz.$$

與一般形式

$$f(x,y,z)=ax^2+dy^2+fz^2+2bxy+2cxz+2eyz$$

逐項比較：

$$a=1,\qquad d=-2,\qquad f=0,$$

且

$$2b=2\Rightarrow b=1,$$ $$2c=2\Rightarrow c=1,$$ $$2e=-2\Rightarrow e=-1.$$

因此

$$\boxed{ A= \begin{bmatrix} 1&1&1\\ 1&-2&-1\\ 1&-1&0 \end{bmatrix} }.$$

驗算其展開結果：

核心觀念

本題考查：

• 等式與不等式限制下的拉格朗日乘數法。
• Karush–Kuhn–Tucker（KKT）條件。
• 利用可行集合的幾何性質判斷全域最大值。
• 圓周參數化與一變數微分。

由限制式 $x+z=1$，可消去 $z$：

$$z=1-x$$

因此目標函數化為

$$f(x,y,z)=yz=y(1-x)$$

而可行範圍為

$$x^2+y^2\le 6.$$

---

(a) 拉格朗日函數與一階條件

將不等式限制寫成

$$6-x^2-y^2\ge 0.$$

採用乘數 $\lambda$ 處理等式限制，採用 $\mu\ge 0$ 處理不等式限制，拉格朗日函數為

$$\mathcal{L}(x,y,z,\lambda,\mu) =yz+\lambda(1-x-z)+\mu(6-x^2-y^2),$$

其中 $\mu\ge 0$。

駐點條件

分別對 $x,y,z$ 微分：

$$\frac{\partial\mathcal{L}}{\partial x} =-\lambda-2\mu x=0,$$ $$\frac{\partial\mathcal{L}}{\partial y} =z-2\mu y=0,$$ $$\frac{\partial\mathcal{L}}{\partial z} =y-\lambda=0.$$

可行性與互補鬆弛條件

$$x+z=1,$$ $$x^2+y^2\le 6,$$ $$\mu\ge 0,$$ $$\mu(6-x^2-y^2)=0.$$

所以完整的一階 KKT 條件為

$$-\lambda-2\mu x=0,$$ $$z-2\mu y=0,$$ $$y-\lambda=0,$$ $$x+z=1,$$ $$x^2+y^2\le 6,$$ $$\mu\ge 0,$$ $$\mu(6-x^2-y^2)=0.$$

---

(b) 求解限制最佳化問題

第一步：排除圓盤內部的全域最大值

消去 $z$ 後，考慮

$$F(x,y)=y(1-x).$$

若最大值位於圓盤內部，即 $x^2+y^2<6$，則必須滿足

$$\frac{\partial F}{\partial x}=-y=0,$$ $$\frac{\partial F}{\partial y}=1-x=0.$$

因此內部駐點為

$$(x,y)=(1,0),$$

且

$$z=1-x=0.$$

此點的目標函數值為

$$F(1,0)=0.$$

但可行點

$$x=-\frac32,\qquad y=\frac{\sqrt{15}}2$$

滿足 $x^2+y^2=6$，且其目標函數值為正，因此 $(1,0,0)$ 不可能是全域最大值。全域最大值必定位於圓周

$$x^2+y^2=6.$$

---

第二步：以圓周參數化

令

$$x=\sqrt6\cos\theta,\qquad y=\sqrt6\sin\theta.$$

由 $z=1-x$，目標函數成為

$$F(\theta) =\sqrt6\sin\theta\left(1-\sqrt6\cos\theta\right).$$

展開得

$$F(\theta)=\sqrt6\sin\theta-6\sin\theta\cos\theta.$$

微分：

$$F'(\theta) =\sqrt6\cos\theta -6(\cos^2\theta-\sin^2\theta).$$

令 $F'(\theta)=0$：

本題考察向量空間中的正交投影及其性質，包括投影算子的核空間和值域，以及投影向量的最近性質。

核心觀念: 正交投影的定義、核空間、值域、正交補空間，以及向量空間中距離的最小化問題。

設 $P$ 是將向量 $v$ 投影到子空間 $W$ 上的投影算子。
$W$ 在 $V$ 中，且 $b_1, \dots, b_k$ 是 $W$ 的一組標準正交基。
對於任意 $v \in V$，投影 $P(v)$ 定義為：
$P(v) = \sum_{i=1}^k \langle v, b_i \rangle b_i$。
投影算子 $P$ 具有以下性質：

1. $P$ 是線性的。
2. $P^2 = P$ (即 $P$ 是 idempotent)。
3. $P(w) = w$ 對於所有 $w \in W$。
4. $P(v) \in W$ 對於所有 $v \in V$。
5. $\langle v - P(v), w \rangle = 0$ 對於所有 $v \in V$ 和 $w \in W$。這意味著向量 $v - P(v)$ 與 $W$ 中的所有向量都正交。

(a) 證明 $range(I-P) = W^\perp$ 且 $ker(I-P) = W$

第一部分：證明 $ker(I-P) = W$
$ker(I-P)$ 是指所有滿足 $(I-P)v = 0$ 的向量 $v$ 的集合。
$(I-P)v = 0 \implies Iv - Pv = 0 \implies v - Pv = 0 \implies v = Pv$。
根據投影算子的性質 3， $v = Pv$ 當且僅當 $v \in W$。
因此，$ker(I-P) = \{v \in V \mid v = Pv\} = W$。
這部分證明完畢。

第二部分：證明 $range(I-P) = W^\perp$
首先，我們需要理解 $range(I-P)$ 和 $W^\perp$ 的定義。
$range(I-P) = \{(I-P)v \mid v \in V\}$。
$W^\perp = \{u \in V \mid \langle u, w \rangle = 0 \text{ for all } w \in W\}$。

我們需要證明兩點：
(i) $range(I-P) \subseteq W^\perp$
(ii) $W^\perp \subseteq range(I-P)$

(i) 證明 $range(I-P) \subseteq W^\perp$
設 $u \in range(I-P)$。則 $u = (I-P)v$ 對於某個 $v \in V$。
我們需要證明 $u \in W^\perp$，即 $\langle u, w \rangle = 0$ 對於所有 $w \in W$。
$\langle u, w \rangle = \langle (I-P)v, w \rangle = \langle v - Pv, w \rangle$。
根據投影算子的性質 5， $\langle v - Pv, w \rangle = 0$ 對於所有 $v \in V$ 和 $w \in W$。
因此，$\langle u, w \rangle = 0$ 對於所有 $w \in W$。
所以，$u \in W^\perp$。
這證明了 $range(I-P) \subseteq W^\perp$。

(ii) 證明 $W^\perp \subseteq range(I-P)$
設 $u \in W^\perp$。我們需要證明 $u \in range(I-P)$，即存在一個 $v \in V$ 使得 $u = (I-P)v$。