115 年 國立中山大學應用數學系碩士班乙組《線性代數(乙)》
第 1 題15 分
Please write down all the detail of your computation and proof.
- (15%) Find a lower triangular matrix L with all diagonal elements 1 and an upper triangular matrix U such that
登入後即可作答並保存紀錄。
核心觀念
題目要求將矩陣 分解為
其中 為上三角矩陣, 為對角線元素皆為 的下三角矩陣。設
令
因為 的對角線元素固定為 ,未知數為
解題方法
直接計算矩陣乘積 :
令此矩陣等於 ,由右下方逐步求解未知數。
第一步:由第三欄求出 的第三欄
由矩陣乘積的第三欄可直接得到
因此
第二步:由第三列求出 的第三列
第三列第一個元素給出
代入 :
第三列第二個元素給出
因此
第三步:求出
第二列第二個元素為
代入 與 :
故
第四步:求出
第二列第一個元素為
代入 、、:
第 2 題15 分
Please write down all the detail of your computation and proof.
2. (15%) Let A be an n x n Hermitian positive semidefinite matrix. Prove that there exists a unique Hermitian positive semidefinite square root matrix B of A such that B² = A.
登入後即可作答並保存紀錄。
本題要求證明一個 n x n 的 Hermitian 正半定矩陣 ,存在唯一的 Hermitian 正半定矩陣 滿足 。這涉及到矩陣的平方根問題,特別是對於正半定矩陣。
證明存在性:
由於 是 Hermitian 且正半定的,根據譜定理 (Spectral Theorem),存在一個酉矩陣 和一個對角矩陣 ,使得 ,其中 的對角元素 都是非負實數(因為 是正半定的)。由於 是 Hermitian 矩陣,我們可以選擇 為么正矩陣,此時 , 所以 。
, 其中 對於所有 。
我們構造一個矩陣 ,其中 。
現在我們來驗證 是否滿足題目要求:
-
是 Hermitian 的嗎?
。
由於 是對角矩陣,且其對角元素 都是實數,所以 。
因此,。
所以, 是 Hermitian 的。 -
是正半定的嗎?
對於任意的向量 ,我們計算 。
。
令 。則 。
。
由於 且 ,所以 。
因此, 對於所有 。
所以, 是正半定的。 -
嗎?
。
由於 是么正矩陣, (單位矩陣)。
。
。
所以,。
這樣我們證明了存在一個 Hermitian 正半定矩陣 使得 。
證明唯一性:
假設存在兩個 Hermitian 正半定的矩陣 和 滿足 和 。
我們需要證明 。
考慮矩陣 和 。由於它們都是 Hermitian 且正半定的,它們也具有實數的非負對角元素的譜分解。
,其中 , 。
是 Hermitian 正半定的,所以 ,其中 , 。
。
由於 的譜分解(在決定 和 的順序是唯一的情況下)是唯一的,我們可以假定 (通過調整 的列順序和對應 的對角元素順序,以及符號)。
那麼 。
。
。
所以 對於所有 。
由於 (因為 是正半定的) 且 ,我們有 。
因此,。
所以 。
同理,假設 是另一個 Hermitian 正半定矩陣,滿足 。
那麼 也可以寫成 ,其中 , 。
。
因此 。
由於 且 ,我們有 。
所以 。
因此 。
比較 和 ,我們發現 。
這裡需要更嚴謹地處理譜分解的唯一性。
如果 的特徵值是唯一的(即 互不相同),那麼 的列向量(特徵向量)的方向是唯一的,且 的順序也是唯一的。此時 是唯一的。
如果 有重覆的特徵值,例如 ,那麼 的特徵空間是多維的。
。
是 Hermitian 正半定的,且 。
令 的特徵值為 。
,其中 是標準正交特徵向量。
我們構造 。
是 Hermitian 的,因為 是 Hermitian 的。
是正半定的,因為 。
。
由於 是標準正交基, 。
。
這樣存在性證明了。
現在證明唯一性。
假設 和 都是 的 Hermitian 正半定平方根。
則 。
令 為任意向量。
。
。
所以 。
同理 。
這意味著 和 與 可交換。
由於 是 Hermitian 正半定的,我們可以找到一個共同的酉對角化矩陣 ,使得 且 , 。
其中 , 。
, 。
, 。
。
。
由於 ,我們有 且 。
因此 。
這就意味著 。
這證明了唯一性。
更進一步的思考:
如果 是正定矩陣,那麼 ,所以 。此時 也是正定矩陣,且 的特徵值也是唯一的。
如果 有零特徵值,例如 ,那麼對應的 。
第 3 題15 分
Please write down all the detail of your computation and proof.
3. (15%) Let m × n matrix A be the matrix representation of linear transformation L. Show that
(1) L is one-to-one ⇔ all columns of A are linearly independent, (2) L is onto ⇔ all rows of A are linearly independent.
登入後即可作答並保存紀錄。
核心觀念
設線性轉換
的矩陣表示為 ,因此對任意向量 ,
本題使用以下觀念:
- 一對一 。
- onto 。
- 矩陣乘法 可表示為 的欄向量線性組合。
- 矩陣的列空間是其所有列向量的張成空間,且
(1)證明 是一對一,當且僅當 的所有欄向量線性獨立
設 的欄向量為
其中每個 。
對任意
有
證明 一對一 的欄向量線性獨立
因為 一對一,所以
要證明 線性獨立,考慮其線性組合等於零向量的情形:
令
依照矩陣乘法,
由 可得
由於 一對一,因此
也就是
因此 線性獨立。
證明 的欄向量線性獨立 一對一
假設 的所有欄向量 線性獨立。
欲證明 一對一,只需證明
若
則
移項得
令
則
由於 線性獨立,只有所有係數皆為零時,線性組合才會等於零向量。因此
所以
因此
故 是一對一。
綜合兩方向,得到
(2)證明 onto,當且僅當 的所有列向量線性獨立
設 的列向量為
其中每個 。
證明 onto 的所有列向量線性獨立
第 4 題15 分
Please write down all the detail of your computation and proof.
4. (15%) Let A be an m × n real matrix with m > n. Prove that x is a least squares solution of Ax = b ⇔ Ax is the projection of b onto range space of A.
登入後即可作答並保存紀錄。
本題要求證明,對於一個 的實數矩陣 ,其中 ,向量 是最小平方解 (least squares solution) 的充要條件是 是向量 在 的值域空間 (range space) 上的投影。
定義與核心概念:
- 最小平方解 (Least Squares Solution): 對於方程組 ,如果 不在 的值域空間 (即 的列空間) 中,則方程組無精確解。最小平方解 是指使得 最小的向量 。這個最小化問題等價於最小化 。
- 值域空間 (Range Space): 矩陣 的值域空間,記為 或 ,是 的所有列向量的線性組合所形成的向量空間。
- 投影 (Projection): 向量 是向量 在子空間 上的投影,如果 且 垂直於 (即 在 的正交補空間中)。
證明存在性與唯一性 (通常最小平方解存在且在某些條件下唯一,但這裡只要求證明等價性):
最小平方解 滿足正規方程 (normal equations):。
這裡 是 的轉置矩陣。由於 是 的實矩陣, 是 的。矩陣 是 的。
證明等價性:
() 證明:若 是 的最小平方解,則 是 在 上的投影。
設 是 的一個最小平方解。這意味著 被最小化。
令 。根據投影的定義,我們需要證明:
-
。
-
垂直於 。
-
:
由於 ,其中 是一個 的向量, 是 的列向量的線性組合。因此, 必然在 的值域空間 (列空間) 中。 -
垂直於 :
。
向量 垂直於 ,意味著 與 中的每一個向量都內積為零。由於 由 的列向量張成,這等價於 與 的每一個列向量都垂直。
設 的列向量為 。則對於 , 。
這可以寫成矩陣形式:。
整理得到 ,即 。
這正是最小平方解滿足的正規方程。
因此,如果 是最小平方解,則 ,這意味著 與 的所有列向量都垂直,進而 垂直於 。
所以, 是 在 上的投影。
() 證明:若 是 在 上的投影,則 是 的最小平方解。
假設 是 在 上的投影。
根據投影的定義,有兩個條件:
-
。
-
垂直於 。
-
顯然屬於 。
-
垂直於 。這意味著 與 中的所有向量都正交。由於 由 的列向量張成,這意味著 與 的每一個列向量都正交。
即對於 的每一個列向量 ,有 。
寫成矩陣形式,這就是 。
將 代入,得到 。
展開即為 ,或 。
這表示 滿足正規方程。現在我們需要證明 是最小平方解,即 被最小化。
對於任意的向量 ,我們考慮 。
是 在 上的投影 之外的另一個向量 (除非 )。
我們知道 垂直於 。
由於 ,我們可以將 分解為:
。
其中 垂直於 ,而 也屬於 (因為 和 都屬於 )。
根據畢氏定理 (Pythagorean theorem), 。
由於 ,我們有 。
這個不等式對於任意的 都成立。
這意味著 是 的最小值,並且這個最小值在 時達到。
因此,使得 最小的 就是滿足 的 。
由於 (由假設),所以使得 最小的 就是滿足 的 。
如果 是唯一的最小平方解,那麼 。
更一般地,如果 是滿足 的一個解,那麼 達到最小值。
由於 是 在 上的投影,所以 滿足 。
這保證了 是最小平方解。
關於 的條件:
題目給定的條件是 。
- 對於 , 是 的矩陣, 是 的向量, 是 的向量。
- 由於 ,矩陣 是「高瘦型」(tall and skinny)。
- 在此情況下,矩陣 () 是可逆的,因此最小平方解 是唯一的。
證明 可逆:若 對某個 ,則 ,即 ,所以 ,這意味著 。由於 的列向量在 中,且 ,如果 僅當 ,則 的列向量是線性獨立的,此時 。
在 的情況下,如果 的列向量是線性獨立的,則 是可逆的。
通常,如果 的列向量是線性獨立的,則 是可逆的。
第 5 題20 分
Please write down all the detail of your computation and proof.
5. (20%) Consider the Fibonacci sequence yn+1 = yn + yn-1 for n = 1,2,... with yo = 0 and y1 = 1. Find the matrix A satisfying
Diagonalize A and use it to obtain the explicit exact formula of yn.
登入後即可作答並保存紀錄。
核心觀念
本題考查三個重點:
- 將二階遞迴數列改寫成一階矩陣遞迴。
- 利用特徵值與特徵向量對矩陣作對角化。
- 透過矩陣冪次得到 Fibonacci 數列的通項公式。
令狀態向量為
題目要求將 表示成 。
解題方法一:建立矩陣
由遞迴關係
以及第二個分量
可得
因此
初始條件為 、,所以
由矩陣遞迴可得
矩陣 的對角化
1. 求特徵值
特徵多項式為
計算得
因此特徵值滿足
由公式解得兩個相異特徵值
記
其中
2. 求特徵向量
對任一特徵值 ,解
第一列給出
所以
由特徵方程 可知
故可取特徵向量為
因此對應於 的特徵向量分別為
組成矩陣
因為 的兩個欄向量是 的特徵向量,所以
又因為 ,矩陣 可逆,因此
3. 計算
由二階矩陣反矩陣公式,
由 ,得到
第 6 題20 分
Please write down all the detail of your computation and proof.
6. (20%) Let ||.|| be an vector norm on C^n. Prove that
is a matrix norm and is compatible with ||.||.
登入後即可作答並保存紀錄。
本題要求證明,對於給定的向量範數 on ,由公式定義的矩陣範數 是一個有效的矩陣範數,並且它與向量範數 是相容的 (compatible)。
定義:
- 向量範數 (Vector Norm): 對於向量空間 上的範數 ,它必須滿足以下性質:
- 非負性:,且 。
- 絕對齊次性: 對於所有純量 和向量 。
- 三角不等式: 對於所有向量 。
- 矩陣範數 (Matrix Norm): 對於 矩陣空間 上的範數 ,它必須滿足以下性質:
- 非負性:,且 。
- 絕對齊次性: 對於所有純量 和矩陣 。
- 三角不等式: 對於所有矩陣 。
- 子乘性 (Submultiplicativity): 對於所有矩陣 。
- 相容性 (Compatibility): 一個矩陣範數 與一個向量範數 是相容的,如果對於所有矩陣 和所有向量 , 。
給定的矩陣範數定義為:
這個定義實際上是矩陣範數的一種常見定義方式,稱為誘導範數 (induced norm) 或算子範數 (operator norm)。
證明 是一個矩陣範數:
我們需要驗證 滿足矩陣範數的四個性質:非負性、絕對齊次性、三角不等式和子乘性。
-
非負性 ( 且 ):
- 由於 且 (因為 ),所以 。
- 因此,其上確界 。
- 若 ,則對於所有 , ,這意味著 。
- 由於 ,所以 意味著對於所有 , 。
- 如果對於所有 ,,則矩陣 的所有列向量都必須是零向量 (考慮 為標準基向量 )。
- 因此, 是零矩陣。
- 反之,若 ,則對於所有 , ,所以 。因此 。
- 所以,。
-
絕對齊次性 ():
考慮 :
由於 是向量範數, 。
所以,絕對齊次性成立。 -
三角不等式 ():
考慮 :
由於 是向量範數, 。
由於 ,對於固定的 , 且 。
但是,這裡我們不能直接將上確界的式子拆開。
正確的思路是:
對於任意 ,存在 使得 .
.
由於 且 。
所以 .
因此 .
三角不等式成立。 -
子乘性 ():
考慮 :
令 。則 可能為零。
我們知道 對於所有 。
令 . 如果 ,則 。