115 年 國立中山大學應用數學系碩士班乙組《線性代數(乙)》

📄 試題原卷 免費註冊後即可對照原始考卷 PDF免費註冊

第 1 題15 分

Please write down all the detail of your computation and proof.

  1. (15%) Find a lower triangular matrix L with all diagonal elements 1 and an upper triangular matrix U such that
    (11021−13−1−1)=UL\begin{pmatrix} 1 & 1 & 0 \\ 2 & 1 & -1 \\ 3 & -1 & -1 \end{pmatrix} = UL

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

題目要求將矩陣 AA 分解為

A=UL,A=UL,

其中 UU 為上三角矩陣,LL 為對角線元素皆為 11 的下三角矩陣。設

A=(11021−13−1−1).A= \begin{pmatrix} 1&1&0\\ 2&1&-1\\ 3&-1&-1 \end{pmatrix}.

令

U=(u11u12u130u22u2300u33),L=(100ℓ2110ℓ31ℓ321).U= \begin{pmatrix} u_{11}&u_{12}&u_{13}\\ 0&u_{22}&u_{23}\\ 0&0&u_{33} \end{pmatrix}, \qquad L= \begin{pmatrix} 1&0&0\\ \ell_{21}&1&0\\ \ell_{31}&\ell_{32}&1 \end{pmatrix}.

因為 LL 的對角線元素固定為 11,未知數為

u11,u12,u13,u22,u23,u33,ℓ21,ℓ31,ℓ32.u_{11},u_{12},u_{13},u_{22},u_{23},u_{33}, \ell_{21},\ell_{31},\ell_{32}.

解題方法

直接計算矩陣乘積 ULUL:

UL=(u11+u12ℓ21+u13ℓ31u12+u13ℓ32u13u22ℓ21+u23ℓ31u22+u23ℓ32u23u33ℓ31u33ℓ32u33).UL= \begin{pmatrix} u_{11}+u_{12}\ell_{21}+u_{13}\ell_{31} & u_{12}+u_{13}\ell_{32} & u_{13} \\[4pt] u_{22}\ell_{21}+u_{23}\ell_{31} & u_{22}+u_{23}\ell_{32} & u_{23} \\[4pt] u_{33}\ell_{31} & u_{33}\ell_{32} & u_{33} \end{pmatrix}.

令此矩陣等於 AA,由右下方逐步求解未知數。

第一步:由第三欄求出 UU 的第三欄

由矩陣乘積的第三欄可直接得到

u13=0,u23=−1,u33=−1.u_{13}=0,\qquad u_{23}=-1,\qquad u_{33}=-1.

因此

u13=0,u23=−1,u33=−1.u_{13}=0,\quad u_{23}=-1,\quad u_{33}=-1.

第二步:由第三列求出 LL 的第三列

第三列第一個元素給出

u33ℓ31=3.u_{33}\ell_{31}=3.

代入 u33=−1u_{33}=-1:

−ℓ31=3⟹ℓ31=−3.-\ell_{31}=3 \quad\Longrightarrow\quad \ell_{31}=-3.

第三列第二個元素給出

u33ℓ32=−1.u_{33}\ell_{32}=-1.

因此

−ℓ32=−1⟹ℓ32=1.-\ell_{32}=-1 \quad\Longrightarrow\quad \ell_{32}=1.

第三步:求出 u22u_{22}

第二列第二個元素為

u22+u23ℓ32=1.u_{22}+u_{23}\ell_{32}=1.

代入 u23=−1u_{23}=-1 與 ℓ32=1\ell_{32}=1:

u22−1=1,u_{22}-1=1,

故

u22=2.u_{22}=2.

第四步:求出 ℓ21\ell_{21}

第二列第一個元素為

u22ℓ21+u23ℓ31=2.u_{22}\ell_{21}+u_{23}\ell_{31}=2.

代入 u22=2u_{22}=2、u23=−1u_{23}=-1、ℓ31=−3\ell_{31}=-3:

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 2 題15 分

Please write down all the detail of your computation and proof.
2. (15%) Let A be an n x n Hermitian positive semidefinite matrix. Prove that there exists a unique Hermitian positive semidefinite square root matrix B of A such that B² = A.

登入後即可作答並保存紀錄。

這一題的完整詳解

本題要求證明一個 n x n 的 Hermitian 正半定矩陣 AA,存在唯一的 Hermitian 正半定矩陣 BB 滿足 B2=AB^2 = A。這涉及到矩陣的平方根問題,特別是對於正半定矩陣。

證明存在性:
由於 AA 是 Hermitian 且正半定的,根據譜定理 (Spectral Theorem),存在一個酉矩陣 PP 和一個對角矩陣 DD,使得 A=PDP−1A = P D P^{-1},其中 DD 的對角元素 did_i 都是非負實數(因為 AA 是正半定的)。由於 AA 是 Hermitian 矩陣,我們可以選擇 PP 為么正矩陣,此時 P−1=P∗P^{-1} = P^*, 所以 A=PDP∗A = P D P^*。
D=diag(d1,d2,…,dn)D = \text{diag}(d_1, d_2, \dots, d_n), 其中 di≥0d_i \ge 0 對於所有 i=1,…,ni=1, \dots, n。

我們構造一個矩陣 B=PD1/2P∗B = P D^{1/2} P^*,其中 D1/2=diag(d1,d2,…,dn)D^{1/2} = \text{diag}(\sqrt{d_1}, \sqrt{d_2}, \dots, \sqrt{d_n})。
現在我們來驗證 BB 是否滿足題目要求:

  1. BB 是 Hermitian 的嗎?
    B∗=(PD1/2P∗)∗=(P∗)∗(D1/2)∗P∗=P(D1/2)∗P∗B^* = (P D^{1/2} P^*)^* = (P^*)^* (D^{1/2})^* P^* = P (D^{1/2})^* P^*。
    由於 D1/2D^{1/2} 是對角矩陣,且其對角元素 di\sqrt{d_i} 都是實數,所以 (D1/2)∗=D1/2(D^{1/2})^* = D^{1/2}。
    因此,B∗=PD1/2P∗=BB^* = P D^{1/2} P^* = B。
    所以,BB 是 Hermitian 的。

  2. BB 是正半定的嗎?
    對於任意的向量 x∈Cnx \in \mathbb{C}^n,我們計算 x∗Bxx^* B x。
    x∗Bx=x∗(PD1/2P∗)x=(x∗P)D1/2(P∗x)x^* B x = x^* (P D^{1/2} P^*) x = (x^* P) D^{1/2} (P^* x)。
    令 y=P∗xy = P^* x。則 x∗Bx=y∗D1/2yx^* B x = y^* D^{1/2} y。
    y∗D1/2y=(yˉ1yˉ2…yˉn)(d1⋱dn)(y1y2⋮yn)y^* D^{1/2} y = \begin{pmatrix} \bar{y}_1 & \bar{y}_2 & \dots & \bar{y}_n \end{pmatrix} \begin{pmatrix} \sqrt{d_1} & & \\ & \ddots & \\ & & \sqrt{d_n} \end{pmatrix} \begin{pmatrix} y_1 \\ y_2 \\ \vdots \\ y_n \end{pmatrix}
    y∗D1/2y=∑i=1ndi∣yi∣2y^* D^{1/2} y = \sum_{i=1}^n \sqrt{d_i} |y_i|^2。
    由於 di≥0d_i \ge 0 且 ∣yi∣2≥0|y_i|^2 \ge 0,所以 ∑i=1ndi∣yi∣2≥0\sum_{i=1}^n \sqrt{d_i} |y_i|^2 \ge 0。
    因此,x∗Bx≥0x^* B x \ge 0 對於所有 x∈Cnx \in \mathbb{C}^n。
    所以,BB 是正半定的。

  3. B2=AB^2 = A 嗎?
    B2=(PD1/2P∗)(PD1/2P∗)B^2 = (P D^{1/2} P^*) (P D^{1/2} P^*)。
    由於 PP 是么正矩陣, P∗P=IP^* P = I (單位矩陣)。
    B2=PD1/2(P∗P)D1/2P∗=PD1/2ID1/2P∗=P(D1/2D1/2)P∗B^2 = P D^{1/2} (P^* P) D^{1/2} P^* = P D^{1/2} I D^{1/2} P^* = P (D^{1/2} D^{1/2}) P^*。
    D1/2D1/2=(diag(d1,…,dn))2=diag((d1)2,…,(dn)2)=diag(d1,…,dn)=DD^{1/2} D^{1/2} = (\text{diag}(\sqrt{d_1}, \dots, \sqrt{d_n}))^2 = \text{diag}((\sqrt{d_1})^2, \dots, (\sqrt{d_n})^2) = \text{diag}(d_1, \dots, d_n) = D。
    所以,B2=PDP∗=AB^2 = P D P^* = A。

這樣我們證明了存在一個 Hermitian 正半定矩陣 BB 使得 B2=AB^2 = A。

證明唯一性:
假設存在兩個 Hermitian 正半定的矩陣 B1B_1 和 B2B_2 滿足 B12=AB_1^2 = A 和 B22=AB_2^2 = A。
我們需要證明 B1=B2B_1 = B_2。

考慮矩陣 B1B_1 和 B2B_2。由於它們都是 Hermitian 且正半定的,它們也具有實數的非負對角元素的譜分解。
A=PDP∗A = P D P^*,其中 D=diag(d1,…,dn)D = \text{diag}(d_1, \dots, d_n), di≥0d_i \ge 0。
B1B_1 是 Hermitian 正半定的,所以 B1=Q1D1Q1∗B_1 = Q_1 D_1 Q_1^*,其中 D1=diag(e1,…,en)D_1 = \text{diag}(e_1, \dots, e_n), ei≥0e_i \ge 0。
B12=Q1D12Q1∗=A=PDP∗B_1^2 = Q_1 D_1^2 Q_1^* = A = P D P^*。
由於 AA 的譜分解(在決定 PP 和 DD 的順序是唯一的情況下)是唯一的,我們可以假定 Q1=PQ_1 = P (通過調整 PP 的列順序和對應 DD 的對角元素順序,以及符號)。
那麼 D12=DD_1^2 = D。
D12=diag(e12,…,en2)D_1^2 = \text{diag}(e_1^2, \dots, e_n^2)。
D=diag(d1,…,dn)D = \text{diag}(d_1, \dots, d_n)。
所以 ei2=die_i^2 = d_i 對於所有 ii。
由於 ei≥0e_i \ge 0 (因為 B1B_1 是正半定的) 且 di≥0d_i \ge 0,我們有 ei=die_i = \sqrt{d_i}。
因此,D1=diag(d1,…,dn)=D1/2D_1 = \text{diag}(\sqrt{d_1}, \dots, \sqrt{d_n}) = D^{1/2}。
所以 B1=PD1/2P∗B_1 = P D^{1/2} P^*。

同理,假設 B2B_2 是另一個 Hermitian 正半定矩陣,滿足 B22=AB_2^2 = A。
那麼 B2B_2 也可以寫成 B2=PD2P∗B_2 = P D_2 P^*,其中 D2=diag(f1,…,fn)D_2 = \text{diag}(f_1, \dots, f_n), fi≥0f_i \ge 0。
B22=PD22P∗=A=PDP∗B_2^2 = P D_2^2 P^* = A = P D P^*。
因此 D22=DD_2^2 = D。
由於 fi≥0f_i \ge 0 且 di≥0d_i \ge 0,我們有 fi=dif_i = \sqrt{d_i}。
所以 D2=diag(d1,…,dn)=D1/2D_2 = \text{diag}(\sqrt{d_1}, \dots, \sqrt{d_n}) = D^{1/2}。
因此 B2=PD1/2P∗B_2 = P D^{1/2} P^*。

比較 B1B_1 和 B2B_2,我們發現 B1=B2B_1 = B_2。

這裡需要更嚴謹地處理譜分解的唯一性。
如果 AA 的特徵值是唯一的(即 did_i 互不相同),那麼 PP 的列向量(特徵向量)的方向是唯一的,且 DD 的順序也是唯一的。此時 B=PD1/2P∗B = P D^{1/2} P^* 是唯一的。

如果 AA 有重覆的特徵值,例如 d1=d2>0d_1 = d_2 > 0,那麼 AA 的特徵空間是多維的。
A=PDP∗A = P D P^*。
BB 是 Hermitian 正半定的,且 B2=AB^2 = A。
令 AA 的特徵值為 λ1≥λ2≥⋯≥λn≥0\lambda_1 \ge \lambda_2 \ge \dots \ge \lambda_n \ge 0。
A=∑i=1nλivivi∗A = \sum_{i=1}^n \lambda_i v_i v_i^*,其中 viv_i 是標準正交特徵向量。
我們構造 B=∑i=1nλivivi∗B = \sum_{i=1}^n \sqrt{\lambda_i} v_i v_i^*。
BB 是 Hermitian 的,因為 vivi∗v_i v_i^* 是 Hermitian 的。
BB 是正半定的,因為 λi≥0\sqrt{\lambda_i} \ge 0。
B2=(∑i=1nλivivi∗)(∑j=1nλjvjvj∗)=∑i,jλiλjvivi∗vjvj∗B^2 = (\sum_{i=1}^n \sqrt{\lambda_i} v_i v_i^*) (\sum_{j=1}^n \sqrt{\lambda_j} v_j v_j^*) = \sum_{i,j} \sqrt{\lambda_i \lambda_j} v_i v_i^* v_j v_j^*。
由於 {vi}\{v_i\} 是標準正交基, vi∗vj=δijv_i^* v_j = \delta_{ij}。
B2=∑iλi2vivi∗=∑iλivivi∗=AB^2 = \sum_{i} \sqrt{\lambda_i^2} v_i v_i^* = \sum_{i} \lambda_i v_i v_i^* = A。
這樣存在性證明了。

現在證明唯一性。
假設 B1B_1 和 B2B_2 都是 AA 的 Hermitian 正半定平方根。
則 B12=B22=AB_1^2 = B_2^2 = A。
令 xx 為任意向量。
B1A=B1B12=B13B_1 A = B_1 B_1^2 = B_1^3。
AB1=B12B1=B13A B_1 = B_1^2 B_1 = B_1^3。
所以 B1A=AB1B_1 A = A B_1。
同理 B2A=AB2B_2 A = A B_2。
這意味著 B1B_1 和 B2B_2 與 AA 可交換。
由於 AA 是 Hermitian 正半定的,我們可以找到一個共同的酉對角化矩陣 PP,使得 A=PDP∗A = P D P^* 且 B1=PD1P∗B_1 = P D_1 P^*, B2=PD2P∗B_2 = P D_2 P^*。
其中 D=diag(λ1,…,λn)D = \text{diag}(\lambda_1, \dots, \lambda_n), λi≥0\lambda_i \ge 0。
D1=diag(e1,…,en)D_1 = \text{diag}(e_1, \dots, e_n), ei≥0e_i \ge 0。
D2=diag(f1,…,fn)D_2 = \text{diag}(f_1, \dots, f_n), fi≥0f_i \ge 0。
B12=A  ⟹  PD12P∗=PDP∗  ⟹  D12=D  ⟹  ei2=λiB_1^2 = A \implies P D_1^2 P^* = P D P^* \implies D_1^2 = D \implies e_i^2 = \lambda_i。
B22=A  ⟹  PD22P∗=PDP∗  ⟹  D22=D  ⟹  fi2=λiB_2^2 = A \implies P D_2^2 P^* = P D P^* \implies D_2^2 = D \implies f_i^2 = \lambda_i。
由於 ei,fi,λi≥0e_i, f_i, \lambda_i \ge 0,我們有 ei=λie_i = \sqrt{\lambda_i} 且 fi=λif_i = \sqrt{\lambda_i}。
因此 D1=D2=diag(λ1,…,λn)D_1 = D_2 = \text{diag}(\sqrt{\lambda_1}, \dots, \sqrt{\lambda_n})。
這就意味著 B1=PD1P∗=PD2P∗=B2B_1 = P D_1 P^* = P D_2 P^* = B_2。

這證明了唯一性。

更進一步的思考:
如果 AA 是正定矩陣,那麼 di>0d_i > 0,所以 di>0\sqrt{d_i} > 0。此時 BB 也是正定矩陣,且 BB 的特徵值也是唯一的。
如果 AA 有零特徵值,例如 λk=0\lambda_k = 0,那麼對應的 ek=fk=0=0e_k = f_k = \sqrt{0} = 0。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 3 題15 分

Please write down all the detail of your computation and proof.
3. (15%) Let m × n matrix A be the matrix representation of linear transformation L. Show that
(1) L is one-to-one ⇔ all columns of A are linearly independent, (2) L is onto ⇔ all rows of A are linearly independent.

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

設線性轉換

L:Fn→FmL:\mathbb{F}^n\to\mathbb{F}^m

的矩陣表示為 A∈Fm×nA\in\mathbb{F}^{m\times n},因此對任意向量 x∈Fnx\in\mathbb{F}^n,

L(x)=Ax.L(x)=Ax.

本題使用以下觀念:

  1. LL 一對一 ⟺ker⁡L={0}\Longleftrightarrow \ker L=\{0\}。
  2. LL onto ⟺Im⁡L=Fm\Longleftrightarrow \operatorname{Im}L=\mathbb{F}^m。
  3. 矩陣乘法 AxAx 可表示為 AA 的欄向量線性組合。
  4. 矩陣的列空間是其所有列向量的張成空間,且 rank⁡(A)=欄空間維度=列空間維度.\operatorname{rank}(A) =\text{欄空間維度} =\text{列空間維度}.

(1)證明 LL 是一對一,當且僅當 AA 的所有欄向量線性獨立

設 AA 的欄向量為

A=[ ∣∣∣ a1a2⋯an ∣∣∣ ],A=\begin{bmatrix} \,|&|&&|\,\\ a_1&a_2&\cdots&a_n\\ \,|&|&&|\, \end{bmatrix},

其中每個 aj∈Fma_j\in\mathbb{F}^m。

對任意

x=[x1x2⋮xn]∈Fn,x= \begin{bmatrix} x_1\\x_2\\ \vdots\\x_n \end{bmatrix} \in\mathbb{F}^n,

有

Ax=x1a1+x2a2+⋯+xnan.Ax=x_1a_1+x_2a_2+\cdots+x_na_n.

證明 LL 一對一 ⟹\Longrightarrow AA 的欄向量線性獨立

因為 LL 一對一,所以

L(x)=L(y)⟹x=y.L(x)=L(y)\Longrightarrow x=y.

要證明 a1,…,ana_1,\ldots,a_n 線性獨立,考慮其線性組合等於零向量的情形:

c1a1+c2a2+⋯+cnan=0.c_1a_1+c_2a_2+\cdots+c_na_n=0.

令

c=[c1c2⋮cn].c= \begin{bmatrix} c_1\\c_2\\ \vdots\\c_n \end{bmatrix}.

依照矩陣乘法,

Ac=c1a1+c2a2+⋯+cnan=0.Ac=c_1a_1+c_2a_2+\cdots+c_na_n=0.

由 L(x)=AxL(x)=Ax 可得

L(c)=Ac=0=L(0).L(c)=Ac=0=L(0).

由於 LL 一對一,因此

c=0.c=0.

也就是

c1=c2=⋯=cn=0.c_1=c_2=\cdots=c_n=0.

因此 a1,…,ana_1,\ldots,a_n 線性獨立。


證明 AA 的欄向量線性獨立 ⟹\Longrightarrow LL 一對一

假設 AA 的所有欄向量 a1,…,ana_1,\ldots,a_n 線性獨立。

欲證明 LL 一對一,只需證明

L(x)=L(y)⟹x=y.L(x)=L(y)\Longrightarrow x=y.

若

L(x)=L(y),L(x)=L(y),

則

Ax=Ay.Ax=Ay.

移項得

A(x−y)=0.A(x-y)=0.

令

z=x−y=[z1z2⋮zn].z=x-y= \begin{bmatrix} z_1\\z_2\\ \vdots\\z_n \end{bmatrix}.

則

Az=z1a1+z2a2+⋯+znan=0.Az=z_1a_1+z_2a_2+\cdots+z_na_n=0.

由於 a1,…,ana_1,\ldots,a_n 線性獨立,只有所有係數皆為零時,線性組合才會等於零向量。因此

z1=z2=⋯=zn=0,z_1=z_2=\cdots=z_n=0,

所以

z=0.z=0.

因此

x−y=0⟹x=y.x-y=0\Longrightarrow x=y.

故 LL 是一對一。

綜合兩方向,得到

L 是一對一⟺A 的所有欄向量線性獨立.\boxed{ L\text{ 是一對一} \Longleftrightarrow A\text{ 的所有欄向量線性獨立} }.

(2)證明 LL onto,當且僅當 AA 的所有列向量線性獨立

設 AA 的列向量為

r1T,r2T,…,rmT,r_1^T,r_2^T,\ldots,r_m^T,

其中每個 riT∈F1×nr_i^T\in\mathbb{F}^{1\times n}。

證明 LL onto ⟹\Longrightarrow AA 的所有列向量線性獨立

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 4 題15 分

Please write down all the detail of your computation and proof.
4. (15%) Let A be an m × n real matrix with m > n. Prove that x is a least squares solution of Ax = b ⇔ Ax is the projection of b onto range space of A.

登入後即可作答並保存紀錄。

這一題的完整詳解

本題要求證明,對於一個 m×nm \times n 的實數矩陣 AA,其中 m>nm > n,向量 xx 是最小平方解 (least squares solution) 的充要條件是 AxAx 是向量 bb 在 AA 的值域空間 (range space) 上的投影。

定義與核心概念:

  • 最小平方解 (Least Squares Solution): 對於方程組 Ax=bAx=b,如果 bb 不在 AA 的值域空間 (即 AA 的列空間) 中,則方程組無精確解。最小平方解 x∗x^* 是指使得 ∥Ax−b∥\|Ax - b\| 最小的向量 xx。這個最小化問題等價於最小化 ∥Ax−b∥2\|Ax - b\|^2。
  • 值域空間 (Range Space): 矩陣 AA 的值域空間,記為 Range(A)\text{Range}(A) 或 Col(A)\text{Col}(A),是 AA 的所有列向量的線性組合所形成的向量空間。
  • 投影 (Projection): 向量 pp 是向量 bb 在子空間 SS 上的投影,如果 p∈Sp \in S 且 b−pb-p 垂直於 SS (即 b−pb-p 在 SS 的正交補空間中)。

證明存在性與唯一性 (通常最小平方解存在且在某些條件下唯一,但這裡只要求證明等價性):
最小平方解 x∗x^* 滿足正規方程 (normal equations):ATAx∗=ATbA^T A x^* = A^T b。
這裡 ATA^T 是 AA 的轉置矩陣。由於 AA 是 m×nm \times n 的實矩陣, ATA^T 是 n×mn \times m 的。矩陣 ATAA^T A 是 n×nn \times n 的。

證明等價性:

(⇒\Rightarrow) 證明:若 xx 是 Ax=bAx=b 的最小平方解,則 AxAx 是 bb 在 Range(A)\text{Range}(A) 上的投影。
設 xx 是 Ax=bAx=b 的一個最小平方解。這意味著 ∥Ax−b∥\|Ax - b\| 被最小化。
令 p=Axp = Ax。根據投影的定義,我們需要證明:

  1. p∈Range(A)p \in \text{Range}(A)。

  2. b−pb - p 垂直於 Range(A)\text{Range}(A)。

  3. p∈Range(A)p \in \text{Range}(A):
    由於 p=Axp = Ax,其中 xx 是一個 n×1n \times 1 的向量, pp 是 AA 的列向量的線性組合。因此,pp 必然在 AA 的值域空間 (列空間) Range(A)\text{Range}(A) 中。

  4. b−pb - p 垂直於 Range(A)\text{Range}(A):
    b−p=b−Axb - p = b - Ax。
    向量 b−pb-p 垂直於 Range(A)\text{Range}(A),意味著 b−pb-p 與 Range(A)\text{Range}(A) 中的每一個向量都內積為零。由於 Range(A)\text{Range}(A) 由 AA 的列向量張成,這等價於 b−pb-p 與 AA 的每一個列向量都垂直。
    設 AA 的列向量為 a1,a2,…,ana_1, a_2, \dots, a_n。則對於 i=1,…,ni=1, \dots, n, aiT(b−Ax)=0a_i^T (b - Ax) = 0。
    這可以寫成矩陣形式:AT(b−Ax)=0A^T (b - Ax) = 0。
    整理得到 ATb−ATAx=0A^T b - A^T Ax = 0,即 ATAx=ATbA^T Ax = A^T b。
    這正是最小平方解滿足的正規方程。
    因此,如果 xx 是最小平方解,則 AT(b−Ax)=0A^T (b - Ax) = 0,這意味著 b−Axb - Ax 與 AA 的所有列向量都垂直,進而 b−Axb - Ax 垂直於 Range(A)\text{Range}(A)。
    所以,p=Axp = Ax 是 bb 在 Range(A)\text{Range}(A) 上的投影。

(⇐\Leftarrow) 證明:若 AxAx 是 bb 在 Range(A)\text{Range}(A) 上的投影,則 xx 是 Ax=bAx=b 的最小平方解。
假設 p=Axp = Ax 是 bb 在 Range(A)\text{Range}(A) 上的投影。
根據投影的定義,有兩個條件:

  1. p∈Range(A)p \in \text{Range}(A)。

  2. b−pb - p 垂直於 Range(A)\text{Range}(A)。

  3. p=Axp = Ax 顯然屬於 Range(A)\text{Range}(A)。

  4. b−pb - p 垂直於 Range(A)\text{Range}(A)。這意味著 b−pb - p 與 Range(A)\text{Range}(A) 中的所有向量都正交。由於 Range(A)\text{Range}(A) 由 AA 的列向量張成,這意味著 b−pb - p 與 AA 的每一個列向量都正交。
    即對於 AA 的每一個列向量 aia_i,有 aiT(b−p)=0a_i^T (b - p) = 0。
    寫成矩陣形式,這就是 AT(b−p)=0A^T (b - p) = 0。
    將 p=Axp = Ax 代入,得到 AT(b−Ax)=0A^T (b - Ax) = 0。
    展開即為 ATb−ATAx=0A^T b - A^T Ax = 0,或 ATAx=ATbA^T Ax = A^T b。
    這表示 xx 滿足正規方程。

    現在我們需要證明 xx 是最小平方解,即 ∥Ax−b∥\|Ax - b\| 被最小化。
    對於任意的向量 yy,我們考慮 ∥Ay−b∥2\|Ay - b\|^2。
    AyAy 是 bb 在 Range(A)\text{Range}(A) 上的投影 pp 之外的另一個向量 (除非 Ay=pAy=p)。
    我們知道 b−pb - p 垂直於 Range(A)\text{Range}(A)。
    由於 Ay∈Range(A)Ay \in \text{Range}(A),我們可以將 b−Ayb-Ay 分解為:
    b−Ay=(b−p)+(p−Ay)b - Ay = (b - p) + (p - Ay)。
    其中 b−pb-p 垂直於 Range(A)\text{Range}(A),而 p−Ayp-Ay 也屬於 Range(A)\text{Range}(A) (因為 pp 和 AyAy 都屬於 Range(A)\text{Range}(A))。
    根據畢氏定理 (Pythagorean theorem), ∥b−Ay∥2=∥b−p∥2+∥p−Ay∥2\|b - Ay\|^2 = \|b - p\|^2 + \|p - Ay\|^2。
    由於 ∥p−Ay∥2≥0\|p - Ay\|^2 \ge 0,我們有 ∥b−Ay∥2≥∥b−p∥2\|b - Ay\|^2 \ge \|b - p\|^2。
    這個不等式對於任意的 yy 都成立。
    這意味著 ∥b−p∥2\|b - p\|^2 是 ∥Ay−b∥2\|Ay - b\|^2 的最小值,並且這個最小值在 Ay=pAy = p 時達到。
    因此,使得 ∥Ay−b∥\|Ay - b\| 最小的 yy 就是滿足 Ay=pAy = p 的 yy。
    由於 p=Axp = Ax (由假設),所以使得 ∥Ay−b∥\|Ay - b\| 最小的 yy 就是滿足 Ay=AxAy = Ax 的 yy。
    如果 xx 是唯一的最小平方解,那麼 y=xy=x。
    更一般地,如果 xx 是滿足 Ax=pAx=p 的一個解,那麼 ∥Ax−b∥\|Ax - b\| 達到最小值。
    由於 p=Axp = Ax 是 bb 在 Range(A)\text{Range}(A) 上的投影,所以 xx 滿足 ATAx=ATbA^T Ax = A^T b。
    這保證了 xx 是最小平方解。

關於 m>nm > n 的條件:
題目給定的條件是 m>nm > n。

  • 對於 Ax=bAx=b, AA 是 m×nm \times n 的矩陣,xx 是 n×1n \times 1 的向量,bb 是 m×1m \times 1 的向量。
  • 由於 m>nm > n,矩陣 AA 是「高瘦型」(tall and skinny)。
  • 在此情況下,矩陣 ATAA^T A (n×nn \times n) 是可逆的,因此最小平方解 xx 是唯一的。
    證明 ATAA^T A 可逆:若 ATAy=0A^T A y = 0 對某個 y∈Rny \in \mathbb{R}^n,則 yTATAy=0y^T A^T A y = 0,即 (Ay)T(Ay)=0(Ay)^T (Ay) = 0,所以 ∥Ay∥2=0\|Ay\|^2 = 0,這意味著 Ay=0Ay = 0。由於 AA 的列向量在 Rm\mathbb{R}^m 中,且 m>nm > n,如果 Ay=0Ay=0 僅當 y=0y=0,則 AA 的列向量是線性獨立的,此時 rank(A)=n\text{rank}(A)=n。
    在 m>nm > n 的情況下,如果 AA 的列向量是線性獨立的,則 ATAA^T A 是可逆的。
    通常,如果 AA 的列向量是線性獨立的,則 ATAA^T A 是可逆的。
🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 5 題20 分

Please write down all the detail of your computation and proof.
5. (20%) Consider the Fibonacci sequence yn+1 = yn + yn-1 for n = 1,2,... with yo = 0 and y1 = 1. Find the matrix A satisfying
(yn+1yn)=A(ynyn−1)\begin{pmatrix} y_{n+1} \\ y_n \end{pmatrix} = A \begin{pmatrix} y_n \\ y_{n-1} \end{pmatrix}
Diagonalize A and use it to obtain the explicit exact formula of yn.

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

本題考查三個重點:

  1. 將二階遞迴數列改寫成一階矩陣遞迴。
  2. 利用特徵值與特徵向量對矩陣作對角化。
  3. 透過矩陣冪次得到 Fibonacci 數列的通項公式。

令狀態向量為

vn=(ynyn−1).v_n= \begin{pmatrix} y_n\\ y_{n-1} \end{pmatrix}.

題目要求將 vn+1v_{n+1} 表示成 AvnA v_n。

解題方法一:建立矩陣 AA

由遞迴關係

yn+1=yn+yn−1,y_{n+1}=y_n+y_{n-1},

以及第二個分量

yn=1⋅yn+0⋅yn−1,y_n=1\cdot y_n+0\cdot y_{n-1},

可得

(yn+1yn)=(1110)(ynyn−1).\begin{pmatrix} y_{n+1}\\ y_n \end{pmatrix} = \begin{pmatrix} 1&1\\ 1&0 \end{pmatrix} \begin{pmatrix} y_n\\ y_{n-1} \end{pmatrix}.

因此

A=(1110).\boxed{ A= \begin{pmatrix} 1&1\\ 1&0 \end{pmatrix} }.

初始條件為 y0=0y_0=0、y1=1y_1=1,所以

v1=(y1y0)=(10).v_1= \begin{pmatrix} y_1\\ y_0 \end{pmatrix} = \begin{pmatrix} 1\\ 0 \end{pmatrix}.

由矩陣遞迴可得

vn=An−1v1.v_n=A^{n-1}v_1.

矩陣 AA 的對角化

1. 求特徵值

特徵多項式為

det⁡(A−λI)=det⁡(1−λ11−λ).\det(A-\lambda I) = \det \begin{pmatrix} 1-\lambda&1\\ 1&-\lambda \end{pmatrix}.

計算得

det⁡(A−λI)=(1−λ)(−λ)−1=λ2−λ−1.\det(A-\lambda I) =(1-\lambda)(-\lambda)-1 =\lambda^2-\lambda-1.

因此特徵值滿足

λ2−λ−1=0.\lambda^2-\lambda-1=0.

由公式解得兩個相異特徵值

λ1=1+52,λ2=1−52.\lambda_1=\frac{1+\sqrt5}{2}, \qquad \lambda_2=\frac{1-\sqrt5}{2}.

記

ϕ=1+52,ψ=1−52.\phi=\frac{1+\sqrt5}{2}, \qquad \psi=\frac{1-\sqrt5}{2}.

其中

ϕ−ψ=5.\phi-\psi=\sqrt5.

2. 求特徵向量

對任一特徵值 λ\lambda,解

(A−λI)(xy)=(00).(A-\lambda I) \begin{pmatrix} x\\ y \end{pmatrix} = \begin{pmatrix} 0\\ 0 \end{pmatrix}.

第一列給出

(1−λ)x+y=0,(1-\lambda)x+y=0,

所以

y=(λ−1)x.y=(\lambda-1)x.

由特徵方程 λ2−λ−1=0\lambda^2-\lambda-1=0 可知

λ(λ−1)=1,\lambda(\lambda-1)=1,

故可取特徵向量為

(λ1).\begin{pmatrix} \lambda\\ 1 \end{pmatrix}.

因此對應於 ϕ,ψ\phi,\psi 的特徵向量分別為

u1=(ϕ1),u2=(ψ1).u_1= \begin{pmatrix} \phi\\ 1 \end{pmatrix}, \qquad u_2= \begin{pmatrix} \psi\\ 1 \end{pmatrix}.

組成矩陣

P=(ϕψ11),D=(ϕ00ψ).P= \begin{pmatrix} \phi&\psi\\ 1&1 \end{pmatrix}, \qquad D= \begin{pmatrix} \phi&0\\ 0&\psi \end{pmatrix}.

因為 PP 的兩個欄向量是 AA 的特徵向量,所以

AP=PD.AP=PD.

又因為 ϕ≠ψ\phi\neq\psi,矩陣 PP 可逆,因此

A=PDP−1.\boxed{ A=PDP^{-1} }.

3. 計算 P−1P^{-1}

由二階矩陣反矩陣公式,

P−1=1ϕ−ψ(1−ψ−1ϕ).P^{-1} = \frac{1}{\phi-\psi} \begin{pmatrix} 1&-\psi\\ -1&\phi \end{pmatrix}.

由 ϕ−ψ=5\phi-\psi=\sqrt5,得到

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 6 題20 分

Please write down all the detail of your computation and proof.
6. (20%) Let ||.|| be an vector norm on C^n. Prove that
∣∣∣A∣∣∣=sup⁡x≠0∣∣Ax∣∣∣∣x∣∣|||A||| = \sup_{x \neq 0} \frac{||Ax||}{||x||}
is a matrix norm and is compatible with ||.||.

登入後即可作答並保存紀錄。

這一題的完整詳解

本題要求證明,對於給定的向量範數 ∥⋅∥\| \cdot \| on Cn\mathbb{C}^n,由公式定義的矩陣範數 ∥∣⋅∣∥\||\cdot|\| 是一個有效的矩陣範數,並且它與向量範數 ∥⋅∥\| \cdot \| 是相容的 (compatible)。

定義:

  • 向量範數 (Vector Norm): 對於向量空間 VV 上的範數 ∥⋅∥:V→R\| \cdot \|: V \to \mathbb{R},它必須滿足以下性質:
    1. 非負性:∥x∥≥0\|x\| \ge 0,且 ∥x∥=0  ⟺  x=0\|x\| = 0 \iff x = 0。
    2. 絕對齊次性:∥αx∥=∣α∣∥x∥\|\alpha x\| = |\alpha| \|x\| 對於所有純量 α\alpha 和向量 x∈Vx \in V。
    3. 三角不等式:∥x+y∥≤∥x∥+∥y∥\|x+y\| \le \|x\| + \|y\| 對於所有向量 x,y∈Vx, y \in V。
  • 矩陣範數 (Matrix Norm): 對於 n×nn \times n 矩陣空間 Mn(C)M_n(\mathbb{C}) 上的範數 ∥∣⋅∣∥:Mn(C)→R\||\cdot|\|: M_n(\mathbb{C}) \to \mathbb{R},它必須滿足以下性質:
    1. 非負性:∥∥A∥∥≥0\|\|A\|\| \ge 0,且 ∥A∥=0  ⟺  A=0\|A\| = 0 \iff A = 0。
    2. 絕對齊次性:∥∥αA∥∥=∣α∣∥A∥\|\| \alpha A \|\| = |\alpha| \|A\| 對於所有純量 α\alpha 和矩陣 AA。
    3. 三角不等式:∥∥A+B∥∥≤∥A∥+∥∥B∥∥\|\| A + B \|\| \le \|A\| + \|\|B\|\| 對於所有矩陣 A,BA, B。
    4. 子乘性 (Submultiplicativity):∥∥AB∥∥≤∥A∥∥∥B∥∥\|\| AB \|\| \le \|A\| \|\|B\|\| 對於所有矩陣 A,BA, B。
  • 相容性 (Compatibility): 一個矩陣範數 ∥∣⋅∣∥\||\cdot|\| 與一個向量範數 ∥⋅∥\| \cdot \| 是相容的,如果對於所有矩陣 AA 和所有向量 xx, ∥Ax∥≤∥A∥∥x∥\|Ax\| \le \|A\| \|x\|。

給定的矩陣範數定義為:
∥A∥=sup⁡x≠0∥Ax∥∥x∥\|A\| = \sup_{x \neq 0} \frac{\|Ax\|}{\|x\|}
這個定義實際上是矩陣範數的一種常見定義方式,稱為誘導範數 (induced norm) 或算子範數 (operator norm)。

證明 ∥A∥\|A\| 是一個矩陣範數:
我們需要驗證 ∥A∥\|A\| 滿足矩陣範數的四個性質:非負性、絕對齊次性、三角不等式和子乘性。

  1. 非負性 (∥A∥≥0\|A\| \ge 0 且 ∥A∥=0  ⟺  A=0\|A\| = 0 \iff A = 0):

    • 由於 ∥Ax∥≥0\|Ax\| \ge 0 且 ∥x∥>0\|x\| > 0 (因為 x≠0x \neq 0),所以 ∥Ax∥∥x∥≥0\frac{\|Ax\|}{\|x\|} \ge 0。
    • 因此,其上確界 ∥A∥=sup⁡x≠0∥Ax∥∥x∥≥0\|A\| = \sup_{x \neq 0} \frac{\|Ax\|}{\|x\|} \ge 0。
    • 若 ∥A∥=0\|A\| = 0,則對於所有 x≠0x \neq 0, ∥Ax∥∥x∥=0\frac{\|Ax\|}{\|x\|} = 0,這意味著 ∥Ax∥=0\|Ax\| = 0。
    • 由於 ∥Ax∥=0  ⟺  Ax=0\|Ax\| = 0 \iff Ax = 0,所以 ∥A∥=0\|A\| = 0 意味著對於所有 x≠0x \neq 0, Ax=0Ax = 0。
    • 如果對於所有 x≠0x \neq 0,Ax=0Ax = 0,則矩陣 AA 的所有列向量都必須是零向量 (考慮 xx 為標準基向量 eie_i)。
    • 因此,AA 是零矩陣。
    • 反之,若 A=0A=0,則對於所有 x≠0x \neq 0, Ax=0Ax = 0,所以 ∥Ax∥=0\|Ax\| = 0。因此 ∥A∥=sup⁡x≠00∥x∥=0\|A\| = \sup_{x \neq 0} \frac{0}{\|x\|} = 0。
    • 所以,∥A∥=0  ⟺  A=0\|A\| = 0 \iff A = 0。
  2. 絕對齊次性 (∥∥αA∥∥=∣α∣∥A∥\|\| \alpha A \|\| = |\alpha| \|A\|):
    考慮 ∥∥αA∥∥\|\| \alpha A \|\|:
    ∥αA∥=sup⁡x≠0∥(αA)x∥∥x∥=sup⁡x≠0∥α(Ax)∥∥x∥\|\alpha A\| = \sup_{x \neq 0} \frac{\|(\alpha A)x\|}{\|x\|} = \sup_{x \neq 0} \frac{\|\alpha (Ax)\|}{\|x\|}
    由於 ∥⋅∥\| \cdot \| 是向量範數, ∥α(Ax)∥=∣α∣∥Ax∥\|\alpha (Ax)\| = |\alpha| \|Ax\|。
    ∥αA∥=sup⁡x≠0∣α∣∥Ax∥∥x∥=∣α∣sup⁡x≠0∥Ax∥∥x∥=∣α∣∥A∥\|\alpha A\| = \sup_{x \neq 0} \frac{|\alpha| \|Ax\|}{\|x\|} = |\alpha| \sup_{x \neq 0} \frac{\|Ax\|}{\|x\|} = |\alpha| \|A\|
    所以,絕對齊次性成立。

  3. 三角不等式 (∥∥A+B∥∥≤∥A∥+∥∥B∥∥\|\| A + B \|\| \le \|A\| + \|\|B\|\|):
    考慮 ∥∥A+B∥∥\|\| A + B \|\|:
    ∥A+B∥=sup⁡x≠0∥(A+B)x∥∥x∥=sup⁡x≠0∥Ax+Bx∥∥x∥\|A+B\| = \sup_{x \neq 0} \frac{\|(A+B)x\|}{\|x\|} = \sup_{x \neq 0} \frac{\|Ax + Bx\|}{\|x\|}
    由於 ∥⋅∥\| \cdot \| 是向量範數, ∥Ax+Bx∥≤∥Ax∥+∥Bx∥\|Ax + Bx\| \le \|Ax\| + \|Bx\|。
    ∥A+B∥≤sup⁡x≠0∥Ax∥+∥Bx∥∥x∥=sup⁡x≠0(∥Ax∥∥x∥+∥Bx∥∥x∥)\|A+B\| \le \sup_{x \neq 0} \frac{\|Ax\| + \|Bx\|}{\|x\|} = \sup_{x \neq 0} \left( \frac{\|Ax\|}{\|x\|} + \frac{\|Bx\|}{\|x\|} \right)
    由於 x≠0x \neq 0,對於固定的 xx, ∥Ax∥∥x∥≤∥A∥\frac{\|Ax\|}{\|x\|} \le \|A\| 且 ∥Bx∥∥x∥≤∥B∥\frac{\|Bx\|}{\|x\|} \le \|B\|。
    但是,這裡我們不能直接將上確界的式子拆開。
    正確的思路是:
    ∥A+B∥=sup⁡x≠0∥Ax+Bx∥∥x∥≤sup⁡x≠0∥Ax∥+∥Bx∥∥x∥\|A+B\| = \sup_{x \neq 0} \frac{\|Ax + Bx\|}{\|x\|} \le \sup_{x \neq 0} \frac{\|Ax\| + \|Bx\|}{\|x\|}
    對於任意 ϵ>0\epsilon > 0,存在 x0≠0x_0 \neq 0 使得 ∥A+B∥≤∥(A+B)x0∥∥x0∥+ϵ\|A+B\| \le \frac{\|(A+B)x_0\|}{\|x_0\|} + \epsilon.
    ∥(A+B)x0∥∥x0∥=∥Ax0+Bx0∥∥x0∥≤∥Ax0∥+∥Bx0∥∥x0∥=∥Ax0∥∥x0∥+∥Bx0∥∥x0∥\frac{\|(A+B)x_0\|}{\|x_0\|} = \frac{\|Ax_0 + Bx_0\|}{\|x_0\|} \le \frac{\|Ax_0\| + \|Bx_0\|}{\|x_0\|} = \frac{\|Ax_0\|}{\|x_0\|} + \frac{\|Bx_0\|}{\|x_0\|}.
    由於 ∥Ax0∥∥x0∥≤∥A∥\frac{\|Ax_0\|}{\|x_0\|} \le \|A\| 且 ∥Bx0∥∥x0∥≤∥B∥\frac{\|Bx_0\|}{\|x_0\|} \le \|B\|。
    所以 ∥(A+B)x0∥∥x0∥≤∥A∥+∥B∥\frac{\|(A+B)x_0\|}{\|x_0\|} \le \|A\| + \|B\|.
    因此 ∥A+B∥≤∥A∥+∥B∥\|A+B\| \le \|A\| + \|B\|.
    三角不等式成立。

  4. 子乘性 (∥∥AB∥∥≤∥A∥∥∥B∥∥\|\| AB \|\| \le \|A\| \|\|B\|\|):
    考慮 ∥∥AB∥∥\|\| AB \|\|:
    ∥AB∥=sup⁡x≠0∥ABx∥∥x∥\|AB\| = \sup_{x \neq 0} \frac{\|ABx\|}{\|x\|}
    令 y=Bxy = Bx。則 x≠0  ⟹  yx \neq 0 \implies y 可能為零。
    ∥ABx∥=∥A(Bx)∥\|ABx\| = \|A(Bx)\|
    我們知道 ∥Az∥∥z∥≤∥A∥\frac{\|Az\|}{\|z\|} \le \|A\| 對於所有 z≠0z \neq 0。
    令 z=Bxz = Bx. 如果 Bx≠0Bx \neq 0,則 ∥A(Bx)∥≤∥A∥∥Bx∥\|A(Bx)\| \le \|A\| \|Bx\|。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

其他考古題