115 年 國立政治大學風險管理與保險學系碩士班管理組《統計學》
第 1 題10 分
寫出動差母函數 (Moment Generating Function, MGF) 的數學式 (定義), 證明一次微分 等於平均數 , 二次微分 等於二階動差 。
或
登入後即可作答並保存紀錄。
核心觀念
本題評量數理統計學中**動差母函數(Moment Generating Function, MGF)**的基礎理論與性質證明。涉及的核心觀念包含:
- 動差母函數的定義:隨機變數 的期望值轉換式 (前提為在包含 的某開區間 內該期望值存在)。
- 泰勒展開式(Taylor Series):指數函數的無窮級數展開 。
- 積分符號內微分(Leibniz Integral Rule):在 MGF 存在的充分條件下,微分算子與期望值(或積分/求和)算子可交換次序,即 。
- 原點動差(Raw Moments):隨機變數的 階原點動差定義為 ,其中一階動差為平均數 ,二階動差為 。
解題方法
本題包含兩個核心任務:
- 給出動差母函數的完整數學定義。
- 證明 與 。
證明主要有兩種嚴謹途徑:
- 方法一(微分與期望值交換法,標準法):利用連鎖律對參數 求導,再將 代入。
- 方法二(級數展開法,觀念法):展開 ,逐項微分後令 。
以下採用數理統計標準的微分與期望值交換法進行推導,並以連續型隨機變數展示積分符號下的嚴格步驟(離散型結構完全相同)。
1. 動差母函數(MGF)的數學定義
設隨機變數 的機率密度函數為 (若為離散型則為機率質量函數 )。若存在常數 ,使得對所有滿足 的實數 ,期望值 皆存在且有限,則稱:
為隨機變數 的動差母函數。其具體運算式為:
- 連續型(Continuous Case):
- 離散型(Discrete Case):
2. 證明一階微分
對 關於參數 進行一次微分:
在 的鄰域內,微分與期望值運算子可交換:
由微積分連鎖律,,故:
若以連續型積分形式寫出,等價於:
將 代入 :
得證 。
第 2 題10 分
定義期望值 的動差母函數 (MGF) 。
定義累積量母函數 (Cumulant Generating Function, CGF) 。
計算 的一次微分 及二次微分 。
登入後即可作答並保存紀錄。
本題考查累積量母函數 (Cumulant Generating Function, CGF) 的定義,以及 CGF 的微分與機率分配動差之間的關係。CGF 是 MGF 的一個變換,在某些情況下,它能更簡潔地揭示分配的特性。
核心觀念: 累積量母函數 (CGF) 的定義、鏈式法則 (Chain Rule) 在微分中的應用。
解題步驟:
-
CGF 的定義:
題目已給出 CGF 的定義:
其中 是動差母函數 (MGF)。 -
計算 :
我們使用鏈式法則來微分 。
我們知道 。
所以,
-
計算 :
將 代入 的表達式。
我們需要知道 和 的值。- 從上一題的知識,我們知道 。
- 是 在 的值:。期望值為常數 1 的值就是 1。所以 。
將這些值代入 :
因此, 等於隨機變數的平均數 。
第 3 題10 分
寫出常態分配 (Normal distribution) 的動差母函數 (MGF) 、累積量母函數 (CGF) ,並利用 CGF 計算其平均值和標準差。
已知常態分配的機率密度函數 (PDF) 為:
登入後即可作答並保存紀錄。
本題要求利用常態分配的機率密度函數 (PDF) 推導其動差母函數 (MGF) 和累積量母函數 (CGF),並進一步從 CGF 計算其平均值和標準差。這是一個經典的題目,用於展示 MGF 和 CGF 在確定分配特性上的便利性。
核心觀念: 常態分配 MGF 的推導,CGF 與平均數、變異數的關係。
解題步驟:
- 推導常態分配的 MGF:
常態分配的 PDF 為 。
MGF 的定義是 。
我們需要將指數部分整理成一個完整的平方項。
指數部分為:
為了形成完全平方,我們加上並減去 。
所以,指數部分可以寫成:
現在將其代回積分:
第 4 題10 分
寫出指數分配 (Exponential distribution) 的動差母函數 (MGF) 、累積量母函數 (CGF) ,並利用 CGF 計算其平均值和標準差。
已知指數分配的機率密度函數 (PDF) 為:
登入後即可作答並保存紀錄。
本題要求利用指數分配的機率密度函數 (PDF) 推導其動差母函數 (MGF) 和累積量母函數 (CGF),並進一步從 CGF 計算其平均值和標準差。這與常態分配的題目類似,但適用於一個重要的單參數機率分配。
核心觀念: 指數分配 MGF 的推導,CGF 與平均數、變異數的關係。
解題步驟:
-
推導指數分配的 MGF:
指數分配的 PDF 為 ,定義域為 。
MGF 的定義是 。
這個積分收斂的條件是 ,即 。
當 ,由於 ,所以 。
當 ,。
這個 MGF 在 時存在。 -
推導指數分配的 CGF:
CGF 的定義是 。
這個 CGF 在 時定義。 -
利用 CGF 計算平均值:
平均值 。
我們對 求一次微分:
第 5 題10 分
寫出 Gamma 分配 (Gamma distribution) 的動差母函數 (MGF) 、累積量母函數 (CGF) ,並利用 CGF 計算其平均值和標準差。
已知 Gamma 分配的機率密度函數 (PDF) 為:
其中 是 Gamma 函數。
登入後即可作答並保存紀錄。
本題要求利用 Gamma 分配的機率密度函數 (PDF) 推導其動差母函數 (MGF) 和累積量母函數 (CGF),並進一步從 CGF 計算其平均值和標準差。Gamma 分配是一個重要的連續機率分配,它有兩個參數 和 。
核心觀念: Gamma 分配 MGF 的推導,CGF 與平均數、變異數的關係。
解題步驟:
-
推導 Gamma 分配的 MGF:
Gamma 分配的 PDF 為 ,定義域為 。
MGF 的定義是 。
為了使積分收斂,我們需要 ,即 。
我們想將積分部分轉換成 Gamma 函數的形式。Gamma 函數的定義是 。
令 。則 ,且 。
當 , 。當 , (因為 )。
。
。
代入積分:
積分部分 就是 。
所以,積分結果為 。
現在將其代回 MGF 的表達式:
這個 MGF 在 時存在。 -
推導 Gamma 分配的 CGF:
CGF 的定義是 。
第 6 題10 分
計算對數常態分配 (Lognormal distribution) 的平均值和標準差。
提示:若 服從對數常態分配,則 服從常態分配 。
登入後即可作答並保存紀錄。
本題考查對數常態分配 (Lognormal distribution) 的平均值和標準差的計算。題目給出了關鍵提示:若 服從對數常態分配,則 服從常態分配 。我們需要利用這個關係以及常態分配的性質來求解。
核心觀念: 對數常態分配與常態分配的轉換關係,期望值和變異數的性質。
解題步驟:
-
理解對數常態分配的定義:
如果一個隨機變數 的對數 服從常態分配 ,那麼 就服從對數常態分配。
我們已知:- 根據常態分配的性質 (從前一題可知), 且 。
-
將常態分配的期望值和變異數關係轉換回對數常態分配:
我們需要計算 和 。
從 ,我們可以得到 。
因此,我們實際上是要計算 和 ,其中 。 -
計算 :
是隨機變數 的期望值。
我們知道 的 MGF 是 。
根據 MGF 的定義, 。
我們需要計算 ,這相當於在 MGF 的定義中,將 設定為 1。
所以,
這就是對數常態分配的平均值。 -
計算 :
變異數的計算公式是 。
我們已經計算了 。現在需要計算 。
。
所以,我們需要計算 。
第 7 題40 分
假設 且 。請回答以下四小題:
(a) 請用最小平方法寫出回歸方程式 。
(b) 計算 SSR, SSE, SST。
(c) 請用矩陣與向量寫出本問題的正規方程式 (normal equation)。
(d) 請寫出本問題的投射矩陣 (projection matrix) 。
登入後即可作答並保存紀錄。
本題是關於簡單線性迴歸的基礎計算與概念應用。題目給定兩組數據點,要求計算迴歸直線方程式、殘差平方和、總平方和,並以矩陣形式表達正規方程式和投射矩陣。
核心觀念: 最小平方法、迴歸分析的平方和分解 (SSR, SSE, SST)、矩陣迴歸、投射矩陣。
數據:
樣本數 。
計算數據統計量:
解題步驟:
(a) 寫出回歸方程式
根據最小平方法,迴歸直線的斜率 和截距 為:
計算 :
計算 :
因此,回歸方程式為:
【答案】
(b) 計算 SSR, SSE, SST
首先計算預測值 和殘差 。
-
SSE (Sum of Squared Errors / Residuals):
(驗算:SSE 也可以通過 和 計算:。
。結果一致。) -
SST (Total Sum of Squares):
(已在上面驗算中計算) -
SSR (Sum of Squares due to Regression):
(驗算:。結果一致。)
【答案】SSR = 16.2, SSE = 1.8, SST = 18
(c) 請用矩陣與向量寫出本問題的正規方程式 (normal equation)
對於簡單線性迴歸模型 ,可以用矩陣形式表示為 。
其中:
(第一欄為截距項的 1)
正規方程式是通過最小化殘差平方和 得到的,其形式為:
我們需要計算 和 。
所以,正規方程式為:
(驗算:我們可以解這個方程組來驗證 的值。
第一式:
第二式:
將第一式乘以 5:
用第二式減去此式:
將 代入 :