109 年 國立臺北大學經濟學系碩士班《統計學(含計量經濟學)》
第 1 題
- Jack use OLS method to estimate the parameters of linear model with intercept:
If the heteroskedasticity (Var() = ) exists in the errors but other Gauss-Markov conditions satisfy, which statement is true?
(1)
(A) The estimated parameter, , is biased, and variance of , obtained by OLS method is incorrect.
(B) The estimated parameter, , is biased, and variance of , obtained by OLS method is accurate.
(C) The estimated parameter, , is unbiased, and variance of , obtained by White heteroskedasticity-robust method is accurate.
(D) The estimated parameter, , is unbiased and efficiency.
(E) Jack cannot use OLS to estimate parameters because of inefficiency.
登入後即可作答並保存紀錄。
此題主要在考驗對 OLS 在違反某一條件下的性質,特別是異質變異數 (heteroskedasticity) 的影響。
核心觀念:
- OLS 估計量在異質變異數下的性制:OLS 估計量仍然是線性且不偏的 (unbiased),但不再是 Minimum Variance Linear Unbiased Estimator (MVLUE),即效率 (efficiency) 性喪失。
- OLS 估計的變異數公式在異質變異數下失效:標準 OLS 的變異數公式 假設了同質變異數 (homoskedasticity),在異質變異數下此公式計算出的變異數是不正確的。
- White 異質變異數穩健 (robust) 標準誤:為了在異質變異數下進行正確的推論,需要使用 White 異質變異數穩健標準誤。
解題過程:
題目中提到,除了異質變異數 (Var() = ) 外,其他高斯-馬可夫 (Gauss-Markov) 條件都滿足。高斯-馬可夫定理說明,若模型滿足線性、隨機抽樣、無完美共線性、誤差項期望值為零、以及同質變異數與誤差項無自相關,則 OLS 估計量是最佳線性不偏估計量 (BLUE)。
當模型出現異質變異數時:
- OLS 估計量 的期望值 E() 仍然等於真實參數 。因此,OLS 估計量仍然是不偏的 (unbiased)。
- 由於存在異質變異數,OLS 估計量不再是具有最小變異數的線性不偏估計量。也就是說,OLS 估計量喪失了效率 (inefficiency)。
第 2 題
- Consider the simple linear regression model:
with the error structure as below:
where . What is the probability limit (plim) of OLS estimator ?
(2)
(A)
(B)
(C)
(D)
(E)
登入後即可作答並保存紀錄。
核心觀念
本題考查:
- 僅含截距項的線性迴歸模型;
- OLS 截距估計量的形式;
- 誤差項存在一階自我相關時,OLS 截距估計量的 plim。
模型為
因此,OLS 估計量只有截距項:
在標準設定下,需假設 AR(1) 誤差具有平穩性,即 。
解題方法與推導
由模型取樣本平均:
因此:
所以:
誤差項服從:
且 為平均數為零的 i.i.d. 擾動項。當 時, 為平穩且遍歷的 AR(1) 過程,其無條件平均數為:
由於 ,平穩狀態下有:
因此:
只要 ,即可得:
由大數法則:
故:
因此,誤差項具有自我相關並不會改變僅含截距模型中 OLS 截距估計量的極限值;它主要會影響估計量的變異數與標準誤。
第 3 題
- Consider the model:
, where . If we want to obtain consistent estimator for the large sample, which necessary condition it must be have?
(3)
(A)
(B)
(C)
(D)
(E)
登入後即可作答並保存紀錄。
核心觀念
本題考查古典線性迴歸模型中最小平方法(OLS)估計式的一致性(Consistency)條件,特別是「不相關(Uncorrelatedness)」與「條件期望值為零(Zero Conditional Mean)」之間的階層關係與必要條件(Necessary Condition)。
- OLS 估計式的大樣本一致性:
在簡單線性迴歸模型 下,OLS 斜率估計式為: 依據大數法則(Law of Large Numbers, LLN),當樣本數 時: 因此, 具備一致性(即 )的大樣本核心充要條件為: - 條件強度階層:
- 外生性假設(條件期望值為零):(充分條件)
- 平均獨立:
- 題目問的是「必要條件(Necessary Condition)」,故需選取使一致性成立不可或缺的最弱(基礎)條件,即兩者共變異數為零。
解題方法
- 推導 OLS 估計式的機率極限(Probability Limit):
斜率估計式可表示為: 兩邊取機率極限(): - 檢驗一致性之必要條件:
若欲使 為 的一致估計式,必須滿足:
第 4 題
- An economist uses data to estimate the linear model with intercept
,
but the true population model is as below:
Under which condition satisfied, the OLS estimator is still consistent?
(4)
(A)
(B)
(C)
(D)
(E)
登入後即可作答並保存紀錄。
此題考驗的是在模型設定錯誤 (misspecification),特別是遺漏重要解釋變數 (omitted variable bias) 的情況下,OLS 估計量的一致性問題。
核心觀念:
當真實模型包含一個或多個未被納入估計模型的解釋變數時,如果這些遺漏的變數與模型中包含的解釋變數相關,那麼模型中包含的解釋變數的 OLS 估計量將是有偏且不一致的。
解題過程:
真實模型為 。
但我們估計的模型是 。
我們需要將真實模型的誤差項 與估計模型中的誤差項 聯繫起來。
將真實模型代入估計模型:
整理後得到:
現在,我們需要檢視 OLS 估計量 的一致性條件。
對於估計模型 ,OLS 估計量 的一致性要求是解釋變數 與誤差項 無關,即 (假設 )。
將 的表達式代入 :
為了使 保持一致,我們需要上述條件成立。
如果 (即遺漏的變數 與包含的變數 相關),那麼我們必須要求 才能抵銷這個相關性,使得整個式子為零。
因此, 是 OLS 估計量 保持一致的必要條件,前提是遺漏變數 與 相關。
我們再仔細檢視選項。
選項 (E) 是 。這正是我們推導出的條件。
其他選項的分析:
(A) :這是遺漏的變數 與真實誤差項 無關的條件。這通常是 OLS 估計量 (如果我們估計包含 的模型) 的一致性條件,但與 的一致性無直接關係。
(B) :截距項是否為零與 的一致性無關。
(C) :這是題目中的一個符號錯誤,應為 。
第 5 題
- Suppose that there is an exact relationship between two scalar random variable and :
However, is not known and unobserved. A variable is observed, such that
Under which condition satisfied, the OLS estimator is still consistent?
(5)
(A)
(B)
(C)
(D)
(E)
登入後即可作答並保存紀錄。
核心觀念
本題考查「解釋變數測量誤差」與 OLS 一致性。
真實模型為
但實際觀察到的是
代入真實模型:
因此,以觀察值 進行 OLS 時,實際估計的模型為
OLS 估計量一致的必要核心條件是觀察到的解釋變數與複合誤差不相關:
也就是
在通常的外生性假設 下,只要
便可保證 OLS 估計量一致。
解題方法
將 代回原模型:
所以,以 對 進行迴歸時,誤差項為
OLS 一致性的條件為
因此:
若原模型的隨機誤差 對解釋變數具有外生性,即 ,則剩下的關鍵條件為
故正確選項為 (C)。
選項分析
(A)
錯誤。這表示 與 不相關,並不是 OLS 一致性的條件。若真有 ,通常反而表示估計出的斜率趨近於零,無法保證得到真正的
第 6 題
1-1. You have data , . Suppose that the model
satisfies Gauss-Markov conditions. Let be the biggest , be the smallest , and are the values corresponding to . (Note: may or may not be the largest ; it is the corresponding to the largest . Similarly for .)
Define
Whether is an unbiased estimator?
(6)
登入後即可作答並保存紀錄。
此題考驗的是在滿足高斯-馬可夫條件下,一個特定的估計量是否為無偏估計量。
核心觀念:
- 高斯-馬可夫條件:
- 線性模型:。
- 誤差項期望值為零: 對所有 。
- 誤差項同質變異數: 對所有 。
- 誤差項無自相關: 對所有 。
- 解釋變數與誤差項無關:。
- 無偏估計量 (Unbiased Estimator):一個估計量 對於參數 是無偏的,如果 。
解題過程:
我們需要計算估計量 的期望值,並與真實參數 進行比較。
將 代入:
所以,
代入 的定義:
現在計算 的期望值:
這裡的關鍵在於 是隨機變數。
和 是樣本中最大的和最小的 值。這意味著 和 是基於樣本數據的統計量,它們本身是隨機的。
因此,分母 是一個隨機變數。
當分母是隨機變數時,我們不能簡單地將期望值移入分子,即 。
我們需要考慮 。
由於高斯-馬可夫條件滿足,我們知道 對於任何一個固定的 。
第 7 題
1-2. Please calculate var(). Whether is efficiency?
(7)
登入後即可作答並保存紀錄。
此題考驗的是估計量變異數的計算,以及效率 (efficiency) 的判斷。
核心觀念:
- 變異數計算:。
- 效率 (Efficiency):在所有線性不偏估計量 (BLUE) 中,具有最小變異數的估計量被稱為是有效的。高斯-馬可夫定理保證了 OLS 估計量在滿足其條件時是 BLUE。
解題過程:
從上一小題我們知道 。
因此,。
這是一個複雜的變異數計算,因為分母 是隨機的,並且它與分子 可能相關。
通常,在這種情況下,我們需要知道 的分佈以及 的分佈。
如果我們假設 是固定的,那麼 和 也是固定的。
則 。
由於 之間是獨立的,
。
根據高斯-馬可夫條件, 且 對於 。
所以,。
因此,如果 是固定的,則 。
但是,如果 是隨機變數,計算會更加複雜,因為 和 是基於樣本的統計量,它們的選擇會影響到 和 的選擇,並且它們的變異數需要考慮。
特別是, 的計算涉及 。
由於 (從上一小題得出),我們需要計算 。
這涉及到對 的聯合分佈的期望值計算。
由於 和 是樣本的最大值和最小值,它們的統計性質(如期望值、變異數)取決於 的原始分佈。
並且, 和 的選擇與 和 的選擇是相關的。
關於效率 (Efficiency):
高斯-馬可夫定理指出,在滿足其條件時,OLS 估計量是最佳線性無偏估計量 (BLUE)。
OLS 估計量 的變異數是 (假設 是固定的)。
如果 是隨機的,則 (對於簡單迴歸)。
第 8 題
2.1. Robert has observations on variables and . He estimates the following equations by least squares:
Equation (1):
(2.4)
(?)
Equation sum of squares (SSE)=50, SST=100, Durbin-Watson "d" =1.1
where the numbers in parentheses are t-statistic.
What is the true value of in Equation (1)? What is the value of (estimated error variance.)?
(8)
登入後即可作答並保存紀錄。
此題考驗的是迴歸分析中的幾個重要統計量:決定係數 ()、殘差平方和 (SSE)、總平方和 (SST) 以及估計的誤差變異數 ()。
核心觀念:
- 的定義:,其中 是迴歸平方和 (Sum of Squares due to Regression), 是殘差平方和 (Sum of Squared Errors), 是總平方和 (Total Sum of Squares)。
- (估計誤差變異數) 的定義:,其中 是樣本數, 是迴歸模型中的解釋變數個數。
解題過程:
題目給出了:
- 樣本數 。
- 迴歸模型:。
- 截距項為 -4.0。
- 解釋變數有 ,共 個。
- 。
- 。
- Durbin-Watson 統計量 (此資訊在計算 和 時用不到)。
- t-statistics 括號內的值:
- 對截距項:2.4
- 對 :-0.5
- 對 :未知 (標示為 "?")
- 對 :未知
第 9 題
2.2. What is the Durbin-Watson statistic in Equation (1)?
(9)
登入後即可作答並保存紀錄。
此題考驗的是 Durbin-Watson 統計量的直接讀取。
核心觀念:
Durbin-Watson 統計量 (d) 用來檢測時間序列迴歸模型中的一階自相關 (autocorrelation)。
其計算公式為:
其中 是迴歸模型的殘差。
第 10 題
III. 計算問答題(配分如標示,請在作答時標示大題「III」及其小題號(10)、(11)、......(16),不須另外標示1.、2.、3.等)
- (8分)假設隨機抽樣所來自的母體可以區分成兩類人群,A群與B群。A群人所構成的子母體佔總母體比例為60% 且其子母體的變異數為7;B群人所構成的子母體佔總母體比例為40% 且其子母體的變異數為5。考慮隨機從總母體抽出N個人(不分A、B群),並計算其樣本平均數。若A、B兩群子母體有相同的母體平均,即 ,則 的漸近分配為何。
(10)
登入後即可作答並保存紀錄。
此題考驗的是關於混合分配 (mixture distribution) 的樣本平均數的漸近分配。
核心觀念:
- 混合分配的變異數:若一個隨機變數 的分佈是根據另一隨機變數 的值混合而成,則 的總體變異數可以分解為條件變異數的期望值加上變異數的期望值(全期望法則的變異數版本):
。 - 中央極限定理 (Central Limit Theorem, CLT):若從一個分佈中獨立隨機抽取 個樣本,且這些樣本的期望值和變異數存在,則當 足夠大時,樣本平均數 的分佈近似於常態分佈。具體來說, 趨近於標準常態分佈 。
或者, 的漸近分配為 。
解題過程:
我們有一個總體,其中包含 A 群和 B 群。
A 群佔總體比例 ,變異數 。
B 群佔總體比例 ,變異數 。
兩群的母體平均相同:。
我們從總體中隨機抽取 個人,計算樣本平均數 。
要求 的漸近分配。
首先,我們需要計算總體中隨機變數 的變異數 。
根據混合分配的變異數公式:
其中 是表示樣本屬於 A 群或 B 群的隨機變數。
是條件期望。
是條件變異數。
我們已知:
第 11 題
- 阿正手上展示一個有正反兩面不同花樣的銅板(正面以H表示,反面以T表示),令p代表隨機投擲一次會出現正面的機率。小飛與小貝欲估計p的值,並要求阿正給點提示。阿正於是擲投此銅板三次得到三個正面,以HHH表示。
2.1 小飛是個頻率學派統計學家(frequentist statistician),且打算使用最大概似估計法(Maximum Likelihood Estimation)來估計p。
(7分)請寫下小飛的樣本概似函數,並求解其最大概似估計值(簡稱MLE值)。(11)(過程要清楚寫下一階條件,如有角解也需清楚呈現)
登入後即可作答並保存紀錄。
核心觀念
本題考查最大概似估計法。銅板每次投擲結果相互獨立,且每次出現正面 的機率為 ,因此:
- 出現 的機率為 ;
- 出現 的機率為 ;
- 參數範圍為 。
最大概似估計法是選取使觀察到的樣本結果發生機率最大的參數值:
解題方法
觀察到的三次投擲結果為 。由於三次投擲相互獨立,樣本概似函數為:
因此對數概似函數為:
一階條件與內點解
對對數概似函數微分:
內點一階條件為:
因為在 時,,不存在滿足一階條件的內點解。
若直接對概似函數微分:
第 12 題
2.2. 小貝是貝氏學派統計學家(Bayesian statistician),她在還未看到阿正的樣本前其對p認知的先驗機率分配(prior distribution)如下表所示:
| p | 機率 |
|---|---|
| 0.25 | 0.25 |
| 0.50 | 0.25 |
| 0.75 | 0.25 |
| 1.00 | 0.25 |
| (8分)在看到阿正的樣本後,小貝對p認知的適後機率分配為何? (12) |
登入後即可作答並保存紀錄。
此題考驗的是貝氏統計學中的後驗機率分配 (posterior distribution) 的計算。
核心觀念:
貝氏定理是用來更新先驗信念 (prior belief) 為後驗信念 (posterior belief) 的方法。
後驗機率 概似函數 先驗機率。
解題過程:
-
先驗機率分配 (Prior Distribution):
小貝對 的先驗分配如下:
這是一個離散的先驗分配,總共有四個可能的 值。 -
樣本數據 (Data):
阿正擲銅板三次,結果為 HHH。
這表示觀測到 3 次正面 (H) 和 0 次反面 (T)。 -
概似函數 (Likelihood Function):
對於一次伯努利試驗,出現正面 H 的機率是 ,出現反面 T 的機率是 。
對於 次獨立試驗,觀測到 次成功 (正面 H) 和 次失敗 (反面 T),其概似函數(根據二項分佈)為:
。
在本例中, (總共投擲 3 次), (出現 3 次正面)。
所以,觀測到 HHH 的概似函數是:
。 -
計算後驗機率 (Posterior Probability):
根據貝氏定理:。
我們需要計算對於每一個可能的 值,後驗機率與先驗機率乘以概似函數的乘積。我們需要對每一個可能的 值 () 計算:
-
情況 1:
先驗機率 。
概似函數 。
先驗 概似 。 -
情況 2:
先驗機率 。
概似函數 。
-
第 13 題
(7分)若小貝打算用 E(p|HHH) 來推估p,則她的估計值為多少?
(13)
登入後即可作答並保存紀錄。
此題考驗的是貝氏統計學中,使用後驗期望值 (posterior expectation) 作為點估計量。
核心觀念:
在貝氏統計學中,後驗機率分配的期望值通常被用作參數的點估計量,稱為後驗期望值 (posterior expectation)。
解題過程:
小貝打算用 來推估 。這就是計算後驗機率分配的期望值。
我們已經在上一小題 (12) 中計算出了後驗機率分配:
第 14 題
(6分)比較小飛與小貝的估計,誰的值比較合理?理由為何?
(14)
登入後即可作答並保存紀錄。
此題要求比較頻率學派 (小飛) 的 MLE 估計值與貝氏學派 (小貝) 的後驗期望值估計值,並說明理由。
核心觀念:
- 頻率學派估計量 (MLE):基於觀測數據,使似然函數最大化的參數值。
- 貝氏學派估計量 (後驗期望值):考慮了先驗信息和觀測數據後,對參數的期望值。
- 合理性判斷:通常根據估計值是否符合數據的直觀顯示,以及是否利用了所有可用的信息來判斷。
解題過程:
-
小飛的估計值 (MLE):
從第 (11) 小題可知,小飛使用 MLE 估計 ,得到 。
這是因為觀測到的數據是 HHH,在頻率學派的框架下,最能解釋這個結果的 值就是 1。 -
小貝的估計值 (後驗期望值):
從第 (13) 小題可知,小貝使用後驗期望值作為估計,得到 。
這是因為小貝的先驗分配是離散的,並且在觀測到 HHH 後,後驗機率最高的仍然是 (0.64),但其他較低的值(如 0.75)也仍有一定機率,所以她的估計值是所有可能 值的加權平均。 -
比較與理由判斷:
-
小飛的估計值 :
- 優點:最直接地反映了觀測到的數據 HHH。如果銅板是公平的(),連續投出三次正面的機率是 。如果 ,機率是 。如果 ,機率是 。從數據 HHH 來看, 是最能解釋這個結果的參數值。
- 缺點:在只有三次獨立試驗的數據下,就斷定 可能過於絕對,忽略了樣本量小的局限性。真實世界中,完全公平的銅板很少,完全不公平的銅板(例如,只會出現一面)也極為罕見。MLE 在樣本量小時,可能過於「激進」,傾向於極端值。
-
小貝的估計值 :
- 優點:小貝的估計值 是一個介於 0 和 1 之間的數值,它是一個「折衷」的結果。這個值較小飛的 顯得更為保守和「平滑」。這是因為小貝的貝氏方法結合了先驗信息(即使是離散的先驗,也給予了 的可能性)和數據。後驗機率分配顯示, 的機率最高 (0.64),但 也有 0.27 的機率。後驗期望值 0.885 是這些可能值的加權平均。這種結合先驗和數據的做法,在樣本量小時,通常能提供更穩健、更不易受極端值影響的估計。
- 缺點:如果先驗信息不準確,可能會影響後驗估計。但在此例中,先驗分配是均勻的,給予了幾個可能的 值相同的權重,因此更多地受到數據的影響。
-
第 15 題
- 假設一台機器平均一天故障0.05次,若故障次數服從 Poisson 分配。
(7分)請問一個月(以30天計)故障不超過3次的機率為何? (15)
(註: exp(-0.05)=0.9512, exp(-0.1) = 0.9048, exp(-0.2) = 0.8187, exp(-0.5) = 0.6065)
登入後即可作答並保存紀錄。
核心觀念
本題考查 Poisson 分配的「區間加總」性質:
若每日故障次數為
且各日故障次數彼此獨立,則連續 30 天的總故障次數
仍服從 Poisson 分配,參數為每日平均故障次數的總和:
Poisson 分配的機率質量函數為
解題方法
一個月故障不超過 3 次,表示故障次數為 次,因此
代入 :
第 16 題
(7分)二次故障間隔超過30天的機率為何? (16)
(註: exp(-0.05)=0.9512, exp(-0.1) = 0.9048, exp(-0.2) = 0.8187, exp(-0.5) = 0.6065)
登入後即可作答並保存紀錄。
此題考驗的是 Poisson 分配的相關概念,特別是故障間隔時間的機率分佈。
核心觀念:
- Poisson 分配與指數分配的關係:如果一個過程的事件發生次數服從 Poisson 分配,那麼事件發生之間的間隔時間服從指數分配 (exponential distribution)。
- 指數分配的機率密度函數 (PDF):
,對於 。
其中 是單位時間內的平均事件發生率。 - 指數分配的累積分配函數 (CDF):
。
。
解題過程:
-
確定 Poisson 分配的發生率 :
題目說「平均一天故障 0.05 次」。
這表示每單位時間(一天)的故障率為 次/天。 -
確定故障間隔時間的機率模型:
如果故障次數服從 Poisson 分配,則故障發生的時間間隔服從指數分配。
指數分配的參數 就是 Poisson 分配的發生率。
因此,故障間隔時間 服從參數為 (次/天) 的指數分配。 -
計算機率:
題目要求計算「二次故障間隔超過 30 天」的機率。
這就是計算 。
對於參數為 的指數分配,。
在這裡, (次/天), (天)。所以,我們需要計算 。
。使用題目提供的 值:
題目給出了 , , , 。
我們需要計算 。