108 年 國立清華大學生命科學院聯招:分子與細胞生物研究所、分子醫學研究所、生物資訊與結構生物研究所、生物科技研究所、系統神經科學研究所丙組《計算機概論(演算法與計算機數學)》
第 1 題20 分
Let A be a real matrix with n rows and n columns. State or explain what the following algorithms do.
(a) (5%) LU-decomposition for A.
(b) (5%) QR-factorization for A.
(c) (5%) Singular value decomposition for A.
(d) (5%) Spectrum decomposition if A is real and symmetric.
登入後即可作答並保存紀錄。
這題主要在考察幾個重要的矩陣分解(Matrix Decomposition)的定義與目的。
核心觀念:
矩陣分解是將一個矩陣表示成幾個特定矩陣的乘積或組合,這在線性代數、數值分析、機器學習等領域有廣泛應用。
詳解:
(a) LU-decomposition for A.
LU分解(或稱 LDU 分解)是將一個方陣 A 分解成一個下三角矩陣 L (Lower triangular matrix) 和一個上三角矩陣 U (Upper triangular matrix) 的乘積,即 。如果 A 是可逆的,且其所有主子式(leading principal minors)均不為零,則其 LU 分解是唯一的(若 L 的對角元素為 1,則 U 的對角元素可任意縮放)。有時也會寫成 ,其中 D 是對角矩陣。
這個分解對於求解線性方程組 非常有效,因為可以轉化為 ,進而解 (前向代換) 和 (後向代換),計算量比直接求逆矩陣小。
(b) QR-factorization for A.
QR分解(或稱 QR 分解)是將一個矩陣 A 分解成一個正交矩陣 Q (Orthogonal matrix) 和一個上三角矩陣 R (Upper triangular matrix) 的乘積,即 。如果 A 是 n×m 矩陣,則 Q 是 n×n 的正交矩陣,R 是 n×m 的上三角矩陣。
QR分解在最小平方法問題、特徵值計算(QR 演算法)等方面有重要應用。Gram-Schmidt 正交化過程就是一種計算 QR 分解的方法。
(c) Singular value decomposition for A.
奇異值分解(Singular Value Decomposition, SVD)是將任何一個 m×n 的實數或複數矩陣 A 分解成三個矩陣的乘積: (或 , 其中 是 V 的共軛轉置)。
其中:
- U 是一個 m×m 的酉矩陣(Unitary matrix,若 A 是實數矩陣,則 U 是正交矩陣)。
第 2 題15 分
Let an n-tuple column vector be denoted as , a Householder matrix can be defined as , where I is an identity matrix and with . An example is: let , then . Show that
(a) (5%) A Householder matrix is symmetric.
(b) (5%) The inverse of a Householder matrix is itself.
(c) (5%) A Householder matrix is orthogonal.
登入後即可作答並保存紀錄。
核心觀念
題目給定 Householder 矩陣
其中 且
由二範數定義可得
本題利用三個矩陣性質:
- 轉置運算:。
- 單位向量條件:。
- 正交矩陣定義:矩陣 若滿足 ,則 為正交矩陣。
解題方法
直接從定義
出發,分別計算 、 與 ,即可證明三項性質。
(a) 證明 Householder 矩陣為對稱矩陣
矩陣 的轉置為
利用轉置的線性與乘法性質:
因為
因此
所以 等於自己的轉置,故為對稱矩陣。
(b) 證明 Householder 矩陣的反矩陣為自身
先計算 :
展開乘積:
整理前面兩項:
第 3 題15 分
Let and let .
(a) (5%) Find the eigenvalues of A.
(b) (5%) Find the spectrum decomposition for A.
(c) (5%) Find the maximal value for if .
登入後即可作答並保存紀錄。
核心觀念
本題考查三個重點:
- 特徵值:由特徵方程
求得。 - 譜分解(spectrum decomposition):實對稱矩陣可正交對角化:
其中 的欄向量是單位正交特徵向量, 是對應的正交投影矩陣。 - Rayleigh 商:對實對稱矩陣 ,
矩陣 為實對稱矩陣,因此上述定理皆可直接使用。
解題方法
矩陣為
其前兩列、前兩行形成一個 區塊:
而第三個座標方向獨立對應特徵值 。因此可先求 的特徵值,再併入 。
(a)求 的特徵值
特徵方程為
利用區塊結構:
計算 行列式:
因此
解得
以及
由一元二次方程公式:
所以 的三個特徵值為
(b)求 的譜分解
1. 求特徵向量
對應 ,令特徵向量為
因為
可寫成
對應 ,可取
由於 是實對稱矩陣,不同特徵值的特徵向量彼此正交。將前兩個特徵向量正規化:
第 4 題15 分
Answer the following questions.
(a) (3%)
(b) (3%)
(c) (3%)
(d) (3%) Define for , compute .
(e) (3%) Compute , where .
登入後即可作答並保存紀錄。
這題主要測試求和符號(Summation)的計算、二項式定理的應用以及 Gamma 函數的定義與計算。
核心觀念:
- 等差級數求和:
- 二項式定理:
- Gamma 函數:
- Gamma 函數與階乘的關係:
- Gamma 函數的特殊值:
詳解:
(a)
這是計算前 n 個奇數的和。
也可以理解為,前 n 個奇數的和是 。例如,n=1: 1 = ;n=2: 1+3 = 4 = ;n=3: 1+3+5 = 9 = 。
(b)
根據二項式定理,令 :
這是計算所有二項式係數的和,結果是 。
(c)
根據二項式定理,令 :
如果 ,則 。
如果 ,則 。
題目沒有明確 n 的範圍,但通常此類題目預設 。
因此,對於 ,結果是 0。
第 5 題15 分
Let be a random sample of Bernoulli trials with probability , and , where , and . Then has a binomial distribution.
(a) (5%) What is the probability density function for X?
(b) (5%) What is the moment-generating function for X?
(c) (5%) What are the expectation E(X) and variance Var(X) of X?
登入後即可作答並保存紀錄。
核心觀念
本題考查二項分布的基本性質。每個 都是獨立且成功機率為 的 Bernoulli 隨機變數:
次獨立試驗中成功的總次數
服從二項分布:
因此可直接使用二項分布的機率質量函數、動差生成函數、期望值與變異數公式。
解題方法
(a) 的機率質量函數
表示 次試驗中恰好有 次成功、 次失敗。
固定一種排列時,其機率為
在 次試驗中選出 次成功的位置,共有
種排列,因此
由於 是離散型隨機變數,嚴格來說應稱為「機率質量函數」:
其他 值的機率為 。
(b) 的動差生成函數
動差生成函數定義為
因為
所以
由於 相互獨立,期望值可以分解:
對單一 Bernoulli 隨機變數 :
因此
使用 ,也可寫成
第 6 題10 分
Let X have a normal distribution with mean 3 and variance 4, define , and .
(a) (3%) Write down the probability density function of X.
(b) (3%) Write down the probability density function of Z.
(c) (4%) Write down the probability density function of Y.
登入後即可作答並保存紀錄。
這題考察常態分佈(Normal Distribution)及其相關變數的機率密度函數(PDF)的轉換,特別是標準化過程和變數變換。
核心觀念:
- 常態分佈 PDF:
- 標準化:將任意常態變數轉換為標準常態變數 。
- 變數變換法(Transformation of Variables):若 ,則 。
- 卡方分佈(Chi-squared Distribution):標準常態變數的平方服從自由度為 1 的卡方分佈。
詳解:
已知 X 服從平均值 和變異數 的常態分佈。因此,標準差 。
(a) Write down the probability density function of X.
根據常態分佈的 PDF 公式:
代入 和 :
(b) Write down the probability density function of Z.
已知 。
這是一個標準化過程。我們知道,如果 X 服從 ,那麼 服從標準常態分佈 。
所以,Z 服從平均值 和變異數 的常態分佈。
其 PDF 為:
我們也可以使用變數變換法來推導:
由 ,我們可以得到 。
。
。
結果一致。
第 7 題10 分
Let be the order statistics of a random sample from the uniform distribution .
(a) (5%) Find the probability density function of .
(b) (5%) Use the results of (a) to find the expectation .
登入後即可作答並保存紀錄。
這題考察次序統計量(Order Statistics)的機率密度函數(PDF)和期望值。
核心觀念:
- 次序統計量:對隨機樣本進行排序後得到的變數。
- 最小/最大值次序統計量的 CDF:
- (最小值的 CDF)
- (最大值的 CDF)
- PDF 由 CDF 求導得到:。
- 期望值:。
詳解:
樣本 來自於均勻分佈 。
其累積分佈函數 (CDF) 為:
其機率密度函數 (PDF) 為:
(a) Find the probability density function of .
是樣本中的最大值。
首先,我們求 的累積分佈函數 (CDF):
由於 是樣本中的最大值,這意味著所有樣本值都必須小於或等於 x。
由於樣本是獨立的,所以:
因此,。
現在我們根據 x 的範圍來寫出 :
- 如果 : ,所以 。
- 如果 : ,所以 。