108 年 國立政治大學統計學系碩士班《基礎數學》

本題主要在考察線性代數中關於子空間、向量空間的定義，以及正交補空間與直和的概念。

(a) 向量空間的定義：
一個向量空間是一個集合 $V$ 加上兩個運算：向量加法和純量乘法，滿足以下十條公理：

1. 向量加法滿足交換律：對於任意 $u, v \in V$, $u+v = v+u$。
2. 向量加法滿足結合律：對於任意 $u, v, w \in V$, $(u+v)+w = u+(v+w)$。
3. 存在零向量：存在一個零向量 $0 \in V$, 使得對於任意 $u \in V$, $u+0 = u$。
4. 存在負向量：對於任意 $u \in V$, 存在一個向量 $-u \in V$, 使得 $u+(-u) = 0$。
5. 純量乘法對向量加法滿足分配律：對於任意純量 $c$ 和任意 $u, v \in V$, $c(u+v) = cu + cv$。
6. 純量乘法滿足分配律：對於任意純量 $a, b$ 和任意 $u \in V$, $(a+b)u = au + bu$。
7. 純量乘法滿足結合律：對於任意純量 $a, b$ 和任意 $u \in V$, $(ab)u = a(bu)$。
8. 純量乘法存在單位元素：對於任意 $u \in V$, $1u = u$, 其中 1 是純量乘法的單位元素。

(b) 正交補空間的定義：
給定 $\mathbb{R}^n$ 中的一個子空間 $W$, 其正交補空間 $W^\perp$ 定義為 $\mathbb{R}^n$ 中所有與 $W$ 中的每個向量都正交的向量所構成的集合。
形式化表示為：
$W^\perp = \{v \in \mathbb{R}^n \mid v \cdot w = 0 \text{ for all } w \in W \}$
其中 $v \cdot w$ 表示向量 $v$ 和 $w$ 的內積。

(c) 證明 $\mathbb{R}^n = W \oplus W^\perp$：
為了證明 $\mathbb{R}^n$ 是 $W$ 和 $W^\perp$ 的直和，我們需要證明兩件事：

1. $\mathbb{R}^n = W + W^\perp$ (即 $\mathbb{R}^n = \{w+v \mid w \in W, v \in W^\perp\}$)
2. $W \cap W^\perp = \{0\}$ (即 $W$ 和 $W^\perp$ 只有零向量是共同的元素)

證明 1: $\mathbb{R}^n = W + W^\perp$
令 $W$ 是 $\mathbb{R}^n$ 的一個子空間。根據線性代數的理論，存在一個 $W$ 的正交基 $\{w_1, w_2, \dots, w_k\}$。

核心觀念

本題的核心概念為向量在子空間上的正交投影（Orthogonal Projection）以及點到平面的最短距離。

在賦予標準內積的歐氏空間 $\mathbb{R}^3$ 中：

1. 子空間與法向量：
   平面方程式 $W: 3x - 2y + z = 0$ 通過原點，是 $\mathbb{R}^3$ 的二維子空間。其法向量為 $n = (3, -2, 1)$，而 $W^\perp = \operatorname{span}\{n\}$。
2. 最佳逼近定理（Best Approximation Theorem）：
   對於任意向量 $u \in \mathbb{R}^3$，$u$ 到子空間 $W$ 的最短距離即為誤差向量 $\|u - \operatorname{proj}_W u\|$ 的長度。
   根據正交分解定理，$u = \operatorname{proj}_W u + \operatorname{proj}_{W^\perp} u$，故最短距離即為 $u$ 在法向量空間 $W^\perp$ 上之正交投影向量的範數（長度）： $$d(u, W) = \|\operatorname{proj}_{n} u\| = \frac{|u \cdot n|}{\|n\|}$$ 這同時等價於解析幾何中點到平面的距離公式。

---

解題方法

方法一：利用正交投影長度（線性代數觀點）

1. 求平面的法向量與其範數：
   平面 $W$ 的方程式為 $3x - 2y + z = 0$，其法向量為：

   $$n = (3, -2, 1)$$

   計算 $n$ 的歐氏長度（範數）：

   $$\|n\| = \sqrt{3^2 + (-2)^2 + 1^2} = \sqrt{9 + 4 + 1} = \sqrt{14}$$

2. 計算向量內積：
   給定向量 $u = (2, 3, -1)$，計算 $u$ 與法向量 $n$ 的內積：

   $$u \cdot n = (2)(3) + (3)(-2) + (-1)(1) = 6 - 6 - 1 = -1$$

3. 求投影長度（最短距離）：
   最短距離為 $u$ 在法向量 $n$ 方向上的投影長度：

   $$d(u, W) = \frac{|u \cdot n|}{\|n\|} = \frac{|-1|}{\sqrt{14}} = \frac{1}{\sqrt{14}} = \frac{\sqrt{14}}{14}$$

---

方法二：利用點到平面距離公式（解析幾何觀點）

核心觀念

本題是 $2^3$ 全因子實驗設計，共有三個二水準因子 $X_1,X_2,X_3$。令高水準 H 編碼為 $+1$，低水準 L 編碼為 $-1$，則模型可寫成僅包含：

• 截距項 $\mu$
• 三個主效果 $\delta_1,\delta_2,\delta_3$

的線性迴歸模型。

令

$$\boldsymbol{\beta} = \begin{bmatrix} \mu\\ \delta_1\\ \delta_2\\ \delta_3 \end{bmatrix}.$$

最小平方法估計量為

$$\widehat{\boldsymbol{\beta}} = (X^{\mathsf T}X)^{-1}X^{\mathsf T}\boldsymbol{Y}.$$

由於 $2^3$ 全因子設計中的各欄位彼此正交，因此本題的 $X^{\mathsf T}X$ 為對角矩陣，計算相當簡潔。

---

(a) 矩陣形式

依照題目中試驗順序，三個因子的編碼如下：

$$\begin{array}{c|ccc} \text{Trial} & X_1 & X_2 & X_3\\ \hline 1 & +1 & +1 & +1\\ 2 & +1 & +1 & -1\\ 3 & +1 & -1 & +1\\ 4 & +1 & -1 & -1\\ 5 & -1 & +1 & +1\\ 6 & -1 & +1 & -1\\ 7 & -1 & -1 & +1\\ 8 & -1 & -1 & -1 \end{array}$$

因此設計矩陣為

$$X= \begin{bmatrix} 1&1&1&1\\ 1&1&1&-1\\ 1&1&-1&1\\ 1&1&-1&-1\\ 1&-1&1&1\\ 1&-1&1&-1\\ 1&-1&-1&1\\ 1&-1&-1&-1 \end{bmatrix}.$$

反應向量為

$$\boldsymbol{Y} = \begin{bmatrix} Y_1\\ Y_2\\ Y_3\\ Y_4\\ Y_5\\ Y_6\\ Y_7\\ Y_8 \end{bmatrix}, \qquad \boldsymbol{\epsilon} = \begin{bmatrix} \epsilon_1\\ \epsilon_2\\ \epsilon_3\\ \epsilon_4\\ \epsilon_5\\ \epsilon_6\\ \epsilon_7\\ \epsilon_8 \end{bmatrix}.$$

故模型的矩陣形式為

$$\boldsymbol{Y}=X\boldsymbol{\beta}+\boldsymbol{\epsilon}.$$

完整寫開為

$$\begin{bmatrix} Y_1\\ Y_2\\ Y_3\\ Y_4\\ Y_5\\ Y_6\\ Y_7\\ Y_8 \end{bmatrix} = \begin{bmatrix} 1&1&1&1\\ 1&1&1&-1\\ 1&1&-1&1\\ 1&1&-1&-1\\ 1&-1&1&1\\ 1&-1&1&-1\\ 1&-1&-1&1\\ 1&-1&-1&-1 \end{bmatrix} \begin{bmatrix} \mu\\ \delta_1\\ \delta_2\\ \delta_3 \end{bmatrix} + \begin{bmatrix} \epsilon_1\\ \epsilon_2\\ \epsilon_3\\ \epsilon_4\\ \epsilon_5\\ \epsilon_6\\ \epsilon_7\\ \epsilon_8 \end{bmatrix}.$$

---

(b) 最小平方法估計量

第一步：計算 $X^{\mathsf T}X$

設計矩陣的四個欄位分別為：

$$\boldsymbol{1},\quad \boldsymbol{x}_1,\quad \boldsymbol{x}_2,\quad \boldsymbol{x}_3.$$

每個主效果欄位中都有四個 $+1$ 與四個 $-1$，因此各欄位與截距欄位的內積皆為 $0$。此外，任意兩個不同主效果欄位也各有相同數量的同號與異號位置，因此內積亦為 $0$。

每一欄位平方後皆為 $1$，共有 $8$ 筆資料，所以各欄位平方和為 $8$。因此

$$X^{\mathsf T}X = \begin{bmatrix} 8&0&0&0\\ 0&8&0&0\\ 0&0&8&0\\ 0&0&0&8 \end{bmatrix} =8I_4.$$

所以

$$(X^{\mathsf T}X)^{-1} = \frac{1}{8}I_4.$$

---

第二步：計算 $X^{\mathsf T}\boldsymbol{Y}$

截距欄位與 $\boldsymbol{Y}$ 的內積為

$$\boldsymbol{1}^{\mathsf T}\boldsymbol{Y} = Y_1+Y_2+Y_3+Y_4+Y_5+Y_6+Y_7+Y_8.$$

$X_1$ 欄位與 $\boldsymbol{Y}$ 的內積為

核心觀念

本題考查廣義積分與參數法。由於積分上限為 $\infty$，需先確認：

• 當 $x\to 0$ 時，$\dfrac{\sin x}{x}\to 1$，因此 $0$ 附近沒有奇異問題。
• 當 $x\to\infty$ 時，利用 Dirichlet 判別法，因為 $\dfrac{1}{x}$ 單調遞減且趨近於 $0$，而 $\int_0^R\sin x\,dx$ 有界，所以積分收斂。

直接求 $\dfrac{\sin x}{x}$ 的反導函數不易，適合引入參數並微分。

解題方法

設 $a>0$，定義

$$F(a)=\int_0^\infty e^{-ax}\frac{\sin x}{x}\,dx.$$

加入 $e^{-ax}$ 可使積分在無窮遠處快速收斂。對參數 $a$ 微分：

$$F'(a) = \int_0^\infty \frac{\partial}{\partial a} \left(e^{-ax}\frac{\sin x}{x}\right)\,dx.$$

由

$$\frac{\partial}{\partial a} \left(e^{-ax}\frac{\sin x}{x}\right) = -e^{-ax}\sin x,$$

得到

$$F'(a) = -\int_0^\infty e^{-ax}\sin x\,dx.$$

利用拉普拉斯積分公式

$$\int_0^\infty e^{-ax}\sin x\,dx = \frac{1}{a^2+1}, \qquad a>0,$$

因此

$$F'(a)=-\frac{1}{a^2+1}.$$

又因為 $a\to\infty$ 時，$e^{-ax}$ 使積分趨近於 $0$，故

$$F(\infty)=0.$$

由此將 $F'(a)$ 從 $a$ 積分到 $\infty$：

$$F(a) = F(\infty)-\int_a^\infty F'(t)\,dt.$$

本題考查多元函數在一點連續性的定義。一個函數 $f(x,y)$ 在點 $(a,b)$ 連續，若且唯若 $\lim_{(x,y) \to (a,b)} f(x,y) = f(a,b)$。
在本題中，我們需要判斷函數 $f(x,y)$ 在點 $(0,0)$ 是否連續。
根據定義，我們需要檢查 $\lim_{(x,y) \to (0,0)} f(x,y)$ 是否存在且等於 $f(0,0)$。
已知 $f(0,0) = 0$。

現在我們來計算極限 $\lim_{(x,y) \to (0,0)} f(x,y) = \lim_{(x,y) \to (0,0)} \frac{xy}{x^2+y^2}$。
為了判斷這個極限是否存在，我們可以嘗試沿著不同的路徑趨近 $(0,0)$。

路徑 1：沿著 $x$-軸趨近 $(0,0)$。
令 $y=0$，則 $x \to 0$。
$f(x,0) = \frac{x \cdot 0}{x^2 + 0^2} = \frac{0}{x^2} = 0$ (當 $x \neq 0$)。
所以，沿著 $x$-軸的極限是 $\lim_{x \to 0} f(x,0) = 0$。

路徑 2：沿著 $y$-軸趨近 $(0,0)$。
令 $x=0$，則 $y \to 0$。
$f(0,y) = \frac{0 \cdot y}{0^2 + y^2} = \frac{0}{y^2} = 0$ (當 $y \neq 0$)。
所以，沿著 $y$-軸的極限是 $\lim_{y \to 0} f(0,y) = 0$。

路徑 3：沿著直線 $y=mx$ 趨近 $(0,0)$。
令 $y=mx$，則 $x \to 0$。
$f(x,mx) = \frac{x(mx)}{x^2 + (mx)^2} = \frac{mx^2}{x^2 + m^2x^2} = \frac{mx^2}{x^2(1+m^2)} = \frac{m}{1+m^2}$ (當

本題考查二次型函數在約束條件下的最大值問題，這通常可以使用拉格朗日乘數法或特徵值分解來解決。由於矩陣 $A$ 是對稱矩陣，其特徵向量是正交的，這使得問題的求解更加方便。

(a) 求解使 $f(c) = c^T A c$ 在約束條件 $c_1^2 + c_2^2 = 1$ 下最大的向量 $c^*$。
約束條件 $c_1^2 + c_2^2 = 1$ 意味著向量 $c$ 的歐幾里得範數 $\|c\| = \sqrt{c_1^2 + c_2^2} = 1$。
$f(c) = c^T A c$ 是一個二次型。對於一個對稱矩陣 $A$，二次型 $c^T A c$ 的最大值（在 $\|c\|=1$ 的條件下）等於 $A$ 的最大特徵值，而取得最大值的向量 $c$ 是對應於最大特徵值的特徵向量（正規化後）。

首先，我們計算矩陣 $A$ 的特徵值。特徵值 $\lambda$ 滿足 $\det(A - \lambda I) = 0$。
$A - \lambda I = \begin{bmatrix} 3-\lambda & 1 \\ 1 & 3-\lambda \end{bmatrix}$
$\det(A - \lambda I) = (3-\lambda)(3-\lambda) - 1 \cdot 1 = (3-\lambda)^2 - 1 = 0$
$(3-\lambda)^2 = 1$
$3-\lambda = \pm 1$
所以，
$3-\lambda = 1 \implies \lambda_1 = 3-1 = 2$
$3-\lambda = -1 \implies \lambda_2 = 3+1 = 4$

矩陣 $A$ 的特徵值為 $\lambda_1 = 2$ 和 $\lambda_2 = 4$。
最大特徵值是 $\lambda_{max} = 4$。

接下來，我們找到對應於最大特徵值 $\lambda_2 = 4$ 的特徵向量。
我們需要解方程 $(A - 4I)c = 0$。
$A - 4I = \begin{bmatrix} 3-4 & 1 \\ 1 & 3-4 \end{bmatrix} = \begin{bmatrix} -1 & 1 \\ 1 & -1 \end{bmatrix}$
方程組為：
$-c_1 + c_2 = 0 \implies c_2 = c_1$
$c_1 - c_2 = 0 \implies c_1 = c_2$
所以，特徵向量的形式是 $\begin{bmatrix} c_1 \\ c_1 \end{bmatrix}$。
我們可以取 $c_1 = 1$，得到一個特徵向量 $\begin{bmatrix} 1 \\ 1 \end{bmatrix}$。