115 年 國立中央大學統計研究所碩士班一般生《基礎數學》

這題是個最佳化問題，結合了線性目標函數與兩個二次不等式約束。我們需要找出目標函數 $\sum_{i=1}^n x_i$ 的最小值，同時滿足其中一個約束條件。

目標函數：$f(x_1, \dots, x_n) = \sum_{i=1}^n x_i$
約束條件：$C_1: \sum_{i=1}^n x_i^2 \le 1$ 或 $C_2: \sum_{i=1}^n (x_i + 1)^2 \le 1$

由於是「或」的關係，我們需要分別考慮在 $C_1$ 下和在 $C_2$ 下的最小值，然後取兩者中的較小者。

情況一：在約束條件 $C_1: \sum_{i=1}^n x_i^2 \le 1$ 下求 $\sum_{i=1}^n x_i$ 的最小值。
這是一個標準的二次規劃問題。目標函數是線性的，約束是圓（或球）的內部。
我們可以使用拉格朗日乘數法或幾何解釋。
幾何解釋：我們想找一個向量 $x = (x_1, \dots, x_n)$，使其在單位球體內，且 $x \cdot \mathbf{1}$ 最小，其中 $\mathbf{1} = (1, \dots, 1)$。
根據柯西-施瓦茲不等式，$(\sum x_i)^2 = (\sum x_i \cdot 1)^2 \le (\sum x_i^2)(\sum 1^2) = (\sum x_i^2) \cdot n$.
由於 $\sum x_i^2 \le 1$，我們有 $(\sum x_i)^2 \le n \cdot 1 = n$.
所以 $-\sqrt{n} \le \sum x_i \le \sqrt{n}$.
最小值為 $-\sqrt{n}$，發生在 $x$ 與 $\mathbf{1}$ 方向相反，且 $\|x\|^2 = 1$。
也就是說，$x_i = c \cdot 1$ 且 $\sum x_i^2 = 1$.
$n c^2 = 1 \implies c = \pm \frac{1}{\sqrt{n}}$.
為了使 $\sum x_i$ 最小，我們取 $c = -\frac{1}{\sqrt{n}}$.

這題考查矩陣求逆、特徵值與特徵向量的概念，以及矩陣的向量化運算。

(a) 求 $\Omega = (I_p + xx^T)^{-1}$ 的最大特徵值及其對應特徵向量

首先，我們注意到矩陣 $M = I_p + xx^T$ 的結構。$I_p$ 是 $p \times p$ 的單位矩陣，$x$ 是 $p \times 1$ 的非零向量，$x^T$ 是 $1 \times p$ 的向量。因此，$xx^T$ 是一個 $p \times p$ 的外積矩陣，其秩為 1。

我們可以使用矩陣求逆的性質來處理形如 $(A + uv^T)^{-1}$ 的形式。這裡，我們可以將 $I_p + xx^T$ 看作 $A = I_p$ 和 $u=x, v=x$.
根據 Sherman-Morrison 公式，如果 $A$ 是可逆的，且 $v^T A^{-1} u \ne -1$，則 $(A + uv^T)^{-1} = A^{-1} - \frac{A^{-1} u v^T A^{-1}}{1 + v^T A^{-1} u}$.
在這裡，$A = I_p$, $A^{-1} = I_p$.
$u = x$, $v = x$.
$v^T A^{-1} u = x^T I_p x = x^T x = \|x\|^2$.
假設 $x$ 是非零向量，則 $\|x\|^2 > 0$.
所以，如果 $\|x\|^2 \ne -1$ (這總是成立的，因為 $\|x\|^2 \ge 0$)，則：
$\Omega = (I_p + xx^T)^{-1} = I_p^{-1} - \frac{I_p x x^T I_p}{1 + x^T I_p x} = I_p - \frac{xx^T}{1 + \|x\|^2}$.

現在我們需要求 $\Omega$ 的特徵值。
令 $\lambda$ 為 $\Omega$ 的特徵值，對應特徵向量為 $v$.
$\Omega v = \lambda v$
$(I_p - \frac{xx^T}{1 + \|x\|^2}) v = \lambda v$
$v - \frac{xx^T v}{1 + \|x\|^2} = \lambda v$
$v(1 - \lambda) = \frac{xx^T v}{1 + \|x\|^2}$.

我們有兩種情況考慮：

1. $v$ 與 $x$ 平行：$v = cx$ 對某個常數 $c \ne 0$.
   代入上式：
   $(cx)(1 - \lambda) = \frac{x(x^T (cx))}{1 + \|x\|^2}$
   $c(1 - \lambda) x = \frac{c x (x^T x)}{1 + \|x\|^2}$

這題主要考察極限的計算，特別是當變數趨近於零或無窮大時，帶有週期性函數（如正弦函數）的乘積的極限。

(a) $\lim_{x \to 0^+} x^p \sin(\frac{1}{x})$

當 $x \to 0^+$, $\frac{1}{x} \to +\infty$.
$\sin(\frac{1}{x})$ 在趨近無窮大時，其值在 $-1$ 和 $1$ 之間震盪。
我們知道 $|\sin(\frac{1}{x})| \le 1$ 對於所有 $x \ne 0$.
因此， $|x^p \sin(\frac{1}{x})| = |x^p| |\sin(\frac{1}{x})| \le |x^p|$.

要使極限存在，我們需要 $|x^p|$ 在 $x \to 0^+$ 時趨近於 0。
如果 $p > 0$, 則 $\lim_{x \to 0^+} |x^p| = 0$.
根據夾擠定理 (Squeeze Theorem)，如果 $p > 0$, 則 $\lim_{x \to 0^+} x^p \sin(\frac{1}{x}) = 0$.

如果 $p = 0$, 則極限為 $\lim_{x \to 0^+} \sin(\frac{1}{x})$. 這個極限不存在，因為 $\sin(\frac{1}{x})$ 在 $x \to 0^+$ 時會在 $-1$ 和 $1$ 之間無限次震盪。

如果 $p < 0$, 則令 $p = -q$ 其中 $q > 0$. 極限變為 $\lim_{x \to 0^+} \frac{\sin(\frac{1}{x})}{x^q}$.
當 $x \to 0^+$, 分母 $x^q \to 0^+$. 分子 $\sin(\frac{1}{x})$ 在震盪。
例如，考慮 $x_n = \frac{1}{n\pi}$. 當 $n \to \infty$, $x_n \to 0^+$. $\sin(\frac{1}{x_n}) = \sin(n\pi) = 0$.

核心觀念

本題考查兩個矩陣運算公式：

1. 向量化 $\operatorname{vec}(A)$ 採「按欄堆疊」：

$$\operatorname{vec}(A) =(a_{11},\ldots,a_{m1},a_{12},\ldots,a_{mn})^T.$$

2. Kronecker product 與向量化的關係：
   $\operatorname{vec}(AB)=(I_q\otimes A)\operatorname{vec}(B).$

第一小題可直接將跡寫成所有元素平方和，再對向量化後的各分量微分；第二小題則利用矩陣乘法的「逐欄」結構證明。

---

一、證明 $\displaystyle \frac{\partial}{\partial\operatorname{vec}(A)}

\operatorname{tr}(AA^T)=2\operatorname{vec}(A)$

解題方法

由矩陣乘法與跡的定義，先將 $\operatorname{tr}(AA^T)$ 展開為 $A$ 中所有元素的平方和，再視為 $\operatorname{vec}(A)$ 的二次函數微分。

設

$$A= \begin{pmatrix} a_{11}&a_{12}&\cdots&a_{1n}\\ a_{21}&a_{22}&\cdots&a_{2n}\\ \vdots&\vdots&\ddots&\vdots\\ a_{m1}&a_{m2}&\cdots&a_{mn} \end{pmatrix}.$$

矩陣 $AA^T$ 的第 $i,i$ 個元素為

$$(AA^T)_{ii}=\sum_{j=1}^n a_{ij}^2.$$

因此

$$\operatorname{tr}(AA^T) =\sum_{i=1}^m(AA^T)_{ii} =\sum_{i=1}^m\sum_{j=1}^n a_{ij}^2.$$

令

$$x=\operatorname{vec}(A)\in\mathbb{R}^{mn}.$$

由於 $\operatorname{vec}(A)$ 只是將 $A$ 的所有元素重新排列，因此

$$\operatorname{tr}(AA^T) =\sum_{k=1}^{mn}x_k^2 =x^Tx.$$

對 $x$ 微分：

$$\frac{\partial}{\partial x}(x^Tx) = \begin{pmatrix} \frac{\partial}{\partial x_1}\sum_{k=1}^{mn}x_k^2\\ \vdots\\ \frac{\partial}{\partial x_{mn}}\sum_{k=1}^{mn}x_k^2 \end{pmatrix} = \begin{pmatrix} 2x_1\\ \vdots\\ 2x_{mn} \end{pmatrix} =2x.$$

代回 $x=\operatorname{vec}(A)$，得到

$$\boxed{ \frac{\partial}{\partial\operatorname{vec}(A)} \operatorname{tr}(AA^T) = 2\operatorname{vec}(A) }.$$

微分法的等價驗證

亦可使用矩陣微分：

$$d\operatorname{tr}(AA^T) =\operatorname{tr}(dA\,A^T)+\operatorname{tr}(A\,dA^T).$$

利用跡的循環性質與

$$\operatorname{tr}(A\,dA^T)=\operatorname{tr}(A^T dA),$$

可得

$$d\operatorname{tr}(AA^T) =2\operatorname{tr}(A^T dA).$$

又因為

$$\operatorname{tr}(A^T dA) =\operatorname{vec}(A)^T\operatorname{vec}(dA),$$

所以

$$d\operatorname{tr}(AA^T) = 2\operatorname{vec}(A)^T\operatorname{vec}(dA),$$

故其梯度為

$$\boxed{2\operatorname{vec}(A)}.$$

---

二、證明 $\operatorname{vec}(AB)=(I_q\otimes A)\operatorname{vec}(B)$

解題方法

將 $B$ 按欄表示，再觀察 $AB$ 的每一欄。由矩陣乘法定義，$AB$ 的第 $k$ 欄就是 $A$ 乘上 $B$ 的第 $k$ 欄；而 $I_q\otimes A$ 正好是一個以 $A$ 為對角區塊的區塊對角矩陣。

將 $B$ 寫成欄向量：

這題是計算定積分的極限。注意 (a) 和 (b) 的題目描述完全相同。我們假設其中一個是筆誤。我們將計算這個定積分的極限。

我們需要計算 $I(y) = \lim_{b \to \infty} \int_0^b e^{-xy} \sin x \, dx$.
這是一個瑕積分 (improper integral)。
首先，我們計算不定積分 $\int e^{-xy} \sin x \, dx$.
我們可以使用分部積分法兩次。
令 $u = \sin x$, $dv = e^{-xy} dx$.
則 $du = \cos x \, dx$, $v = \int e^{-xy} dx = -\frac{1}{y} e^{-xy}$.
$\int e^{-xy} \sin x \, dx = -\frac{1}{y} e^{-xy} \sin x - \int (-\frac{1}{y} e^{-xy}) \cos x \, dx$
$= -\frac{1}{y} e^{-xy} \sin x + \frac{1}{y} \int e^{-xy} \cos x \, dx$.

現在計算 $\int e^{-xy} \cos x \, dx$.
令 $u = \cos x$, $dv = e^{-xy} dx$.
則 $du = -\sin x \, dx$, $v = -\frac{1}{y} e^{-xy}$.
$\int e^{-xy} \cos x \, dx = -\frac{1}{y} e^{-xy} \cos x - \int (-\frac{1}{y} e^{-xy}) (-\sin x) \, dx$
$= -\frac{1}{y} e^{-xy} \cos x - \frac{1}{y} \int e^{-xy} \sin x \, dx$.

將這個結果代回原來的積分式：
$\int e^{-xy} \sin x \, dx = -\frac{1}{y} e^{-xy} \sin x + \frac{1}{y} \left( -\frac{1}{y} e^{-xy} \cos x - \frac{1}{y} \int e^{-xy} \sin x \, dx \right)$
$\int e^{-xy} \sin x \, dx = -\frac{1}{y} e^{-xy} \sin x - \frac{1}{y^2} e^{-xy} \cos x - \frac{1}{y^2} \int e^{-xy} \sin x \, dx$.

令 $I_{int} = \int e^{-xy} \sin x \, dx$.
$I_{int} = -\frac{1}{y} e^{-xy} \sin x - \frac{1}{y^2} e^{-xy} \cos x - \frac{1}{y^2} I_{int}$.

這題考查對稱矩陣 (skew-symmetric matrix) 的性質，特別是其行列式與維度奇偶性的關係。

一個矩陣 $M$ 被稱為反對稱矩陣 (skew-symmetric matrix)，如果它的轉置等於它的負值，即 $M^T = -M$.

我們要證明當 $n$ 是奇數時，$\det(M) = 0$.
我們知道行列式的性質：$\det(A^T) = \det(A)$.
所以，從 $M^T = -M$, 我們可以取兩邊的行列式：
$\det(M^T) = \det(-M)$.

對於 $\det(-M)$，如果 $M$ 是一個 $n \times n$ 的矩陣，那麼 $-M$ 是將 $M$ 的每個元素乘以 $-1$.
所以，$\det(-M) = (-1)^n \det(M)$.

將這兩個性質結合起來：
$\det(M) = \det(M^T) = \det(-M) = (-1)^n \det(M)$.
所以，我們得到關係式：
$\det(M) = (-1)^n \det(M)$.

現在考慮 $n$ 的奇偶性：

1. 如果 $n$ 是奇數：
   則 $(-1)^n = -1$.
   所以，$\det(M) = - \det(M)$.

這題是關於積分和極限的計算，涉及到對函數 $f(x)$ 的最大值 $M$ 的歸一化，並計算一個特定形式的極限。這類型的極限通常與函數的最大值相關，可以利用夾擠定理或更深入的分析來解決。

我們需要計算極限 $L = \lim_{n \to \infty} \left\{ \int_0^1 \left( \frac{f(x)}{M} \right)^n \, dx \right\}^{1/n}$.
令 $g(x) = \frac{f(x)}{M}$. 由於 $f(x)$ 是正函數且 $M$ 是其最大值，我們有 $0 < \frac{f(x)}{M} \le 1$ 對於所有 $x \in [0,1]$.
並且，因為 $M$ 是最大值，存在至少一個點 $x_0 \in [0,1]$ 使得 $f(x_0) = M$, 所以 $g(x_0) = \frac{f(x_0)}{M} = 1$.

我們需要計算 $L = \lim_{n \to \infty} \left\{ \int_0^1 (g(x))^n \, dx \right\}^{1/n}$.

考慮被積函數 $(g(x))^n$.
由於 $0 < g(x) \le 1$, 當 $n$ 變大時，$(g(x))^n$ 會趨近於：

• 如果 $g(x) < 1$, 則 $(g(x))^n \to 0$ 當 $n \to \infty$.
• 如果 $g(x) = 1$, 則 $(g(x))^n = 1^n = 1$當 $n \to \infty$.

積分 $\int_0^1 (g(x))^n \, dx$ 的值將主要由函數值接近 1 的區域貢獻。

我們可以使用夾擠定理來分析這個極限。
由於 $0 < g(x) \le 1$, 我們有 $0 \le (g(x))^n \le 1$.
因此， $0 \le \int_0^1 (g(x))^n \, dx \le \int_0^1 1 \, dx = 1$.
取 $n$ 次方根，得到 $0 \le \left\{ \int_0^1 (g(x))^n \, dx \right\}^{1/n} \le 1^{1/n} = 1$.
這表明極限 $L$ 的範圍在 $[0, 1]$ 之間。

為了更精確地分析，我們考慮函數 $g(x)$ 在點 $x_0$ 附近的值。
由於 $f$ 是連續函數，所以 $g(x)$ 也是連續函數。
如果 $g(x)$ 在區間 $[0,1]$ 上只有一個點 $x_0$ 使得 $g(x_0) = 1$, 那麼當 $n$ 很大時，$(g(x))^n$ 的值會非常接近 0，除了在 $x_0$ 附近。
這個積分的值會變得越來越小，但 $n$ 次方根可能會抵消這種趨勢。

我們使用一個性質：對於一個非負函數 $h(x)$，如果 $\lim_{n \to \infty} (\int_a^b (h(x))^n dx)^{1/n} = K$, 那麼 $K$ 是 $h(x)$ 在 $[a,b]$ 上的最大值。
在這裡，我們的 $h(x)$ 是 $g(x) = \frac{f(x)}{M}$.
$g(x)$ 的最大值是 $1$.
所以，根據這個性質，極限應該是 $1$.

我們來證明這個性質，或者至少給出一個嚴謹的推導。
令 $I_n = \int_0^1 (g(x))^n \, dx$. 我們想求 $\lim_{n \to \infty} (I_n)^{1/n}$.
我們知道 $0 < g(x) \le 1$.
所以 $0 < I_n \le 1$.

考慮 $x_0$ 使得 $g(x_0) = 1$.
由於 $g$ 是連續的，對於任意 $\epsilon > 0$, 存在一個 $\delta > 0$ 使得當 $|x - x_0| < \delta$ 時, $g(x) > 1 - \epsilon$.
假設 $x_0 \in (0,1)$, 那麼在區間 $[x_0 - \delta, x_0 + \delta]$ (假設它在 $[0,1]$ 內) 上，我們有 $g(x) > 1 - \epsilon$.
這個區間的長度至少是 $2\delta$ (如果 $x_0$ 在邊界，則長度為 $\delta$).
所以，