111 年 國立成功大學經濟研究所《統計學》
第 1 題15 分
- (15 pts) Suppose that random variables and have a continuous joint distribution for which the joint p.d.f. is as follows:
(a) (10 pts) Find the joint p.d.f. of and .
(b) (5 pts) Find the marginal p.d.f. of .
登入後即可作答並保存紀錄。
本題主要考查變數變換 (Transformation of Variables) 的概念,需要計算聯合機率密度函數 (joint p.d.f.) 以及邊際機率密度函數 (marginal p.d.f.)。
核心觀念:
- 變數變換: 當我們有原始隨機變數的聯合機率密度函數,並想轉換到新的隨機變數時,可以使用雅可比行列式 (Jacobian determinant) 的方法來計算新變數的聯合機率密度函數。
- 邊際機率密度函數: 從聯合機率密度函數積分掉其中一個變數,即可得到另一個變數的邊際機率密度函數。
(a) 計算 和 的聯合 p.d.f.
我們有原始變數 到新變數 的轉換關係:
為了計算新變數的聯合 p.d.f.,我們需要反解出 和 與 和 的關係,並計算雅可比行列式。
從上述關係,我們可以得到:
現在計算雅可比行列式 :
因此,雅可比行列式的絕對值是 .
新變數的聯合 p.d.f. 與原始變數的聯合 p.d.f. 的關係為:
我們需要確定新變數的定義域。
原始變數的定義域是 且 。
- ,所以 。
- 。由於 且 ,則 的範圍是 (例如,當 趨近 1, 趨近 0 時, 趨近無限大;當 趨近 0, 趨近 1 時, 趨近 0)。
- 。由於 ,所以 。
- 由於 且 ,所以 恆成立。
- 我們需要 ,即 。
綜合以上條件,新變數的定義域為 且 。這可以合併為 。
同時,由於 且 ,所以 必須大於 0。
現在將 和 代入原始 p.d.f. :
將此結果與 相乘:
因此,聯合 p.d.f. 為:
注意,這裡的條件 和 意味著 的範圍是 。
第 2 題10 分
- (10 pts) Given that are i.i.d. , where mean and variance are both unknown. Find a 100% confidence region for .
登入後即可作答並保存紀錄。
核心觀念
本題考查常態母體雙參數 的**聯合信賴區域(Joint Confidence Region)**之建構。所涉及的重要定理與統計量性質如下:
- 樣本平均數與樣本變異數之抽樣分配:
設 ,定義樣本平均數 與樣本變異數 。- 。
- 。
- 費雪引理(Fisher's Lemma / Basu's Theorem):
在常態母體下,樣本平均數 與樣本變異數 相互獨立。因此,隨機變數 與 亦相互獨立。 - 聯合信賴係數的拆解:
利用獨立性,可將二維聯合機率分解為兩個獨立之一維機率乘積: 令各個邊際事件分配適當的信賴水準(常見對稱配置為 或個別指定 使得 ),即可構成參數空間 上的二維信賴區域。
解題方法
本題目標為找出二維參數空間內的區域 ,使得:
步驟一:選取樞紐量(Pivotal Quantities)並確立獨立性
考慮以下兩個樞紐量:
根據常態分配抽樣性質, 與 獨立,故 與 互相獨立。
步驟二:分配信賴係數
為使聯合涵蓋機率精確達到 ,最標準且簡潔的方式是將兩獨立統計量各自設定為等額的信賴係數 。
令 ,使得 。
-
針對變異數 的事件:
在 分配中,選取雙尾臨界值:其中 表示自由度為 之卡方分配右尾機率為 的臨界值。
移項解出 之區間條件: -
針對平均數 的事件(在給定 下):
在標準常態分配 中,選取對稱臨界值 (即 ):移項解出 之條件:
第 3 題45 分
- (45 pts) Given that are i.i.d. , where variance is unknown. Answer the following questions.
(a) (5 pts) Find the method of moments estimator of and denote it as .
(b) (5 pts) It can be shown that the maximum likelihood estimator and method of moments estimator are the same in this case. Therefore, the realization of is the value of the parameter that appears to be the most likely given the data . True or false? Explain.
(c) (5 pts) Is a consistent estimator of ?
(d) (10 pts) Use to construct an exact 100% interval estimator for .
(e) (10 pts) Use to construct an approximate 100% interval estimator for .
(f) (10 pts) Find the asymptotic distribution of .
登入後即可作答並保存紀錄。
核心觀念
本題主要考查:
- 動差法與最大概似估計量。
- 大數法則與一致性。
- 常態樣本平方和的卡方分配。
- 估計量的漸近常態分配。
- Delta method(Delta 方法)求函數型估計量的漸近分配。
已知
且 未知。
(a) 動差法估計量
解題方法
動差法以樣本動差估計母體動差。由於母體平均數已知為 ,考慮二階動差:
樣本二階動差為
令樣本二階動差等於母體二階動差:
因此, 的動差法估計量為
注意此處母體平均數 已知,所以分母是 ,而不是估計平均數時常見的 。
(b) 敘述判斷
答案:錯誤(False)
題目敘述為:
的 realization 是在給定資料 下,看起來最有可能的參數值。
錯誤之處在於:最大概似估計量確實是使概似函數最大的參數值,但概似函數不是參數的機率分配。
給定觀察資料 後,概似函數為
最大概似估計量定義為
它代表「在不同參數值下,哪個參數值使已觀察資料的概似程度最大」,而不是「給定資料後,哪個參數值具有最高機率」。
若要談「給定資料後參數值的機率」,必須使用貝氏方法,指定先驗分配並求後驗分配:
判斷技巧
- 最大概似:最大化 。
- 貝氏後驗:討論 或後驗密度。
- 沒有先驗分配時,不能把 MLE 解釋成參數的「最可能值」。
(c) 一致性
答案:是,一致估計量
由
且
根據大數法則,
因此
所以 是 的一致估計量。
也可由均方誤差驗證。因為
故
且
因此
這也證明 一致收斂至 。
(d) 精確的 信賴區間
核心分配
由於 ,
因此
又因為
所以
令 表示自由度為 的卡方分配之 分位數,則
由於 ,整理不等式方向可得
因此精確信賴區間為
由 ,亦可寫成
解題技巧
第 4 題10 分
- (10 pts) Suppose that a sequence of Bernoulli trials is to be carried out with unknown probability of success on each trial, and the following hypotheses are to be tested:
.
Let be a possible value of the parameter that is consistent with the alternative hypothesis. To make the probabilities of Type I and Type II errors under our hypothesis test equal and , what sample size and critical value should we choose?
登入後即可作答並保存紀錄。
本題考查假設檢定中的 Type I 錯誤、Type II 錯誤以及如何根據給定的錯誤機率來決定樣本數和臨界值。
核心觀念:
- 假設檢定: 對母體參數提出假設,並根據樣本資料來決定是否拒絕原假設。
- Type I 錯誤 (): 在原假設 為真時,拒絕 的機率。
- Type II 錯誤 (): 在對立假設 為真時,未能拒絕 的機率。
- 檢定統計量: 用來做決策的樣本統計量。
- 臨界值 (Critical Value): 檢定統計量的值,用來區分接受域和拒絕域。
- 樣本數 (Sample Size): 影響檢定能力的因素。
題目設定:
- 母體:伯努利試驗,成功機率為 (未知)。
- 假設: 對 。
- 目標:使 Type I 錯誤機率為 ,Type II 錯誤機率為 。
- 要求:找出樣本數 和臨界值 。
解題步驟:
在伯努利試驗中,我們通常使用成功次數 或樣本比例 作為檢定統計量。
這裡的對立假設是 ,所以我們應該在 較大時拒絕 。
假設我們進行 次伯努利試驗,成功的總次數為 。
則 。
當 足夠大時,我們可以近似地使用常態分布來描述 或 的分布。
Type I 錯誤 ( ) 的條件:
在 為真時 (即 ),拒絕 的機率是 。
拒絕域是 (或 )。
使用常態近似:
令 。則 。
這意味著,標準常態分布的第 百分位點 應該等於臨界值的標準化值:
這個式子給了我們臨界值 與樣本數 的關係。
Type II 錯誤 ( ) 的條件:
在 為真時 (即 ),未能拒絕 的機率是 。
未能拒絕 的區域是 。
使用常態近似:
令 。則 。
這意味著,標準常態分布的第 百分位點 應該等於臨界值的標準化值:
聯立求解 和 :
我們現在有兩個關於 的表達式,它們必須相等:
將含 的項移到一邊:
現在,我們可以用這個式子來求解 。
然而,在這個式子中, 和 的符號需要注意。
是正數 (例如,, )。
是負數 (例如,, )。
正確處理 的符號:
Type II 錯誤的條件是 。
第 5 題20 分
- (20 pts) Suppose we want to estimate the model E(Y|X) = a + ẞX. Using data {Y₁, X;} we regress Y on X to get Ŷ = â + ẞX. Evaluate whether the following statements are true or false with brief explanation.
(a) (5 pts) Economists are usually more interested in the slope coefficient ẞ because ẞ is an unbiased and consistent estimator of ß.
(b) (5 pts) Σ(Y; - a - ẞX;)² < Σ(Y; - â - ẞX;)² since a and ẞ are population parameters.
(c) (5 pts) R² from this regression can be used to determine whether X causes Y.
(d) (5 pts) Σ(Y; - Ŷ;) = 0.
登入後即可作答並保存紀錄。
核心觀念
本題考查簡單線性迴歸模型的下列觀念:
- 母體迴歸函數與樣本迴歸線的區別。
- 最小平方法估計量的無偏性與一致性。
- OLS 估計量具有最小殘差平方和的性質。
- 衡量配適度,但不能單獨判斷因果關係。
- 含截距項的迴歸模型,其殘差總和等於零。
母體模型為
樣本迴歸線為
其中:
- 為母體參數;
- 為樣本估計量;
- 殘差為 。
解題方法
逐項辨認敘述所涉及的迴歸定理,再利用 OLS 的最小化條件與一階條件判斷正誤。
OLS 的估計量是使殘差平方和最小的參數:
因此,對任何其他參數組合,例如真實參數 ,必有
此外,若迴歸式含有截距項,對截距估計量的一階條件為
故殘差總和為零。
選項分析
(a) 錯誤
題述:「經濟學家通常更關心斜率係數 ,因為 是 的無偏且一致估計量。」
經濟學家通常較關心斜率係數,是因為 描述 改變一單位時, 的條件平均值改變多少,具有邊際效果的經濟意義,而截距 的經濟解釋有時較不重要。
在滿足適當條件時,例如
以及隨機抽樣、有限變異數等條件,OLS 估計量才具有
的無偏性,並且當樣本數增加時,
具有一致性。
但「較關心 」的主要原因是其經濟意義,不是因為估計量具有無偏性與一致性;而且無偏性與一致性也必須建立在模型假設成立的前提下。因此該敘述的因果說法不正確。
(b) 錯誤
題述主張:
這與最小平方法的定義相反。
第 1 題15 分
- (15 pts) Suppose that random variables and have a continuous joint distribution for which the joint p.d.f. is as follows:
(a) (10 pts) Find the joint p.d.f. of and .
(b) (5 pts) Find the marginal p.d.f. of .
登入後即可作答並保存紀錄。
本題主要考查變數變換 (Transformation of Variables) 的概念,需要計算聯合機率密度函數 (joint p.d.f.) 以及邊際機率密度函數 (marginal p.d.f.)。
核心觀念:
- 變數變換: 當我們有原始隨機變數的聯合機率密度函數,並想轉換到新的隨機變數時,可以使用雅可比行列式 (Jacobian determinant) 的方法來計算新變數的聯合機率密度函數。
- 邊際機率密度函數: 從聯合機率密度函數積分掉其中一個變數,即可得到另一個變數的邊際機率密度函數。
(a) 計算 和 的聯合 p.d.f.
我們有原始變數 到新變數 的轉換關係:
為了計算新變數的聯合 p.d.f.,我們需要反解出 和 與 和 的關係,並計算雅可比行列式。
從上述關係,我們可以得到:
現在計算雅可比行列式 :
因此,雅可比行列式的絕對值是 .
新變數的聯合 p.d.f. 與原始變數的聯合 p.d.f. 的關係為:
我們需要確定新變數的定義域。
原始變數的定義域是 且 。
- ,所以 。
- 。由於 且 ,則 的範圍是 (例如,當 趨近 1, 趨近 0 時, 趨近無限大;當 趨近 0, 趨近 1 時, 趨近 0)。
- 。由於 ,所以 。
- 由於 且 ,所以 恆成立。
- 我們需要 ,即 。
綜合以上條件,新變數的定義域為 且 。這可以合併為 。
同時,由於 且 ,所以 必須大於 0。
現在將 和 代入原始 p.d.f. :
將此結果與 相乘:
因此,聯合 p.d.f. 為:
注意,這裡的條件 和 意味著 的範圍是 。
第 2 題10 分
- (10 pts) Given that are i.i.d. , where mean and variance are both unknown. Find a 100% confidence region for .
登入後即可作答並保存紀錄。
核心觀念
本題考查常態母體雙參數 的**聯合信賴區域(Joint Confidence Region)**之建構。所涉及的重要定理與統計量性質如下:
- 樣本平均數與樣本變異數之抽樣分配:
設 ,定義樣本平均數 與樣本變異數 。- 。
- 。
- 費雪引理(Fisher's Lemma / Basu's Theorem):
在常態母體下,樣本平均數 與樣本變異數 相互獨立。因此,隨機變數 與 亦相互獨立。 - 聯合信賴係數的拆解:
利用獨立性,可將二維聯合機率分解為兩個獨立之一維機率乘積: 令各個邊際事件分配適當的信賴水準(常見對稱配置為 或個別指定 使得 ),即可構成參數空間 上的二維信賴區域。
解題方法
本題目標為找出二維參數空間內的區域 ,使得:
步驟一:選取樞紐量(Pivotal Quantities)並確立獨立性
考慮以下兩個樞紐量:
根據常態分配抽樣性質, 與 獨立,故 與 互相獨立。
步驟二:分配信賴係數
為使聯合涵蓋機率精確達到 ,最標準且簡潔的方式是將兩獨立統計量各自設定為等額的信賴係數 。
令 ,使得 。
-
針對變異數 的事件:
在 分配中,選取雙尾臨界值:其中 表示自由度為 之卡方分配右尾機率為 的臨界值。
移項解出 之區間條件: -
針對平均數 的事件(在給定 下):
在標準常態分配 中,選取對稱臨界值 (即 ):移項解出 之條件:
第 3 題45 分
- (45 pts) Given that are i.i.d. , where variance is unknown. Answer the following questions.
(a) (5 pts) Find the method of moments estimator of and denote it as .
(b) (5 pts) It can be shown that the maximum likelihood estimator and method of moments estimator are the same in this case. Therefore, the realization of is the value of the parameter that appears to be the most likely given the data . True or false? Explain.
(c) (5 pts) Is a consistent estimator of ?
(d) (10 pts) Use to construct an exact 100% interval estimator for .
(e) (10 pts) Use to construct an approximate 100% interval estimator for .
(f) (10 pts) Find the asymptotic distribution of .
登入後即可作答並保存紀錄。
核心觀念
本題主要考查:
- 動差法與最大概似估計量。
- 大數法則與一致性。
- 常態樣本平方和的卡方分配。
- 估計量的漸近常態分配。
- Delta method(Delta 方法)求函數型估計量的漸近分配。
已知
且 未知。
(a) 動差法估計量
解題方法
動差法以樣本動差估計母體動差。由於母體平均數已知為 ,考慮二階動差:
樣本二階動差為
令樣本二階動差等於母體二階動差:
因此, 的動差法估計量為
注意此處母體平均數 已知,所以分母是 ,而不是估計平均數時常見的 。
(b) 敘述判斷
答案:錯誤(False)
題目敘述為:
的 realization 是在給定資料 下,看起來最有可能的參數值。
錯誤之處在於:最大概似估計量確實是使概似函數最大的參數值,但概似函數不是參數的機率分配。
給定觀察資料 後,概似函數為
最大概似估計量定義為
它代表「在不同參數值下,哪個參數值使已觀察資料的概似程度最大」,而不是「給定資料後,哪個參數值具有最高機率」。
若要談「給定資料後參數值的機率」,必須使用貝氏方法,指定先驗分配並求後驗分配:
判斷技巧
- 最大概似:最大化 。
- 貝氏後驗:討論 或後驗密度。
- 沒有先驗分配時,不能把 MLE 解釋成參數的「最可能值」。
(c) 一致性
答案:是,一致估計量
由
且
根據大數法則,
因此
所以 是 的一致估計量。
也可由均方誤差驗證。因為
故
且
因此
這也證明 一致收斂至 。
(d) 精確的 信賴區間
核心分配
由於 ,
因此
又因為
所以
令 表示自由度為 的卡方分配之 分位數,則
由於 ,整理不等式方向可得
因此精確信賴區間為
由 ,亦可寫成
解題技巧
第 4 題10 分
- (10 pts) Suppose that a sequence of Bernoulli trials is to be carried out with unknown probability of success on each trial, and the following hypotheses are to be tested:
.
Let be a possible value of the parameter that is consistent with the alternative hypothesis. To make the probabilities of Type I and Type II errors under our hypothesis test equal and , what sample size and critical value should we choose?
登入後即可作答並保存紀錄。
本題考查假設檢定中的 Type I 錯誤、Type II 錯誤以及如何根據給定的錯誤機率來決定樣本數和臨界值。
核心觀念:
- 假設檢定: 對母體參數提出假設,並根據樣本資料來決定是否拒絕原假設。
- Type I 錯誤 ( ): 在原假設 為真時,拒絕 的機率。
- Type II 錯誤 (): 在對立假設 為真時,未能拒絕 的機率。
- 檢定統計量: 用來做決策的樣本統計量。
- 臨界值 (Critical Value): 檢定統計量的值,用來區分接受域和拒絕域。
- 樣本數 (Sample Size): 影響檢定能力的因素。
題目設定:
- 母體:伯努利試驗,成功機率為 (未知)。
- 假設: 對 。
- 目標:使 Type I 錯誤機率為 ,Type II 錯誤機率為 。
- 要求:找出樣本數 和臨界值 。
解題步驟:
在伯努利試驗中,我們通常使用成功次數 或樣本比例 作為檢定統計量。
這裡的對立假設是 ,所以我們應該在 較大時拒絕 。
假設我們進行 次伯努利試驗,成功的總次數為 。
則 。
當 足夠大時,我們可以近似地使用常態分布來描述 或 的分布。
Type I 錯誤 ( ) 的條件:
在 為真時 (即 ),拒絕 的機率是 。
拒絕域是 (或 )。
使用常態近似:
令 。則 。
這意味著,標準常態分布的第 百分位點 應該等於臨界值的標準化值:
這個式子給了我們臨界值 與樣本數 的關係。
Type II 錯誤 ( ) 的條件:
在 為真時 (即 ),未能拒絕 的機率是 。
未能拒絕 的區域是 。
使用常態近似:
令 。則 。
這意味著,標準常態分布的第 百分位點 應該等於臨界值的標準化值:
聯立求解 和 :
我們現在有兩個關於 的表達式,它們必須相等:
將含 的項移到一邊:
現在,我們可以用這個式子來求解 。
然而,在這個式子中, 和 的符號需要注意。
是正數 (例如,, )。
是負數 (例如,, )。
第 5 題20 分
- (20 pts) Suppose we want to estimate the model E(Y|X) = a +ẞX. Using data {Y₁, X;} we regress Y on X to get Ŷ = â +ẞX. Evaluate whether the following statements are true or false with brief explanation.
(a) (5 pts) Economists are usually more interested in the slope coefficient ẞ because ẞ is an unbiased and consistent estimator of ß.
(b) (5 pts) Σ(Y; - a -ẞX;)² < Σ(Y; - â -ẞX;)² since a andẞ are population parameters.
(c) (5 pts) R² from this regression can be used to determine whether X causes Y.
(d) (5 pts) Σ(Y; - Ŷ;) = 0.
登入後即可作答並保存紀錄。
核心觀念
本題考查簡單線性迴歸的四個基本觀念:
- 斜率係數的經濟意義,以及最小平方法估計量的無偏性與一致性。
- 普通最小平方法(OLS)的最小化性質。
- 決定係數 與因果關係的區別。
- 含截距項迴歸的殘差總和性質。
模型為
以樣本資料估計後得到
其中:
- 為母體參數;
- 為樣本估計量;
- 殘差為
解題方法
判斷各選項時,分別使用以下原則:
- 迴歸係數是否具有無偏性與一致性,必須依賴古典線性迴歸的條件,例如 ,不能單靠「經濟學家感興趣」直接推出。
- OLS 估計量是使殘差平方和最小的參數組合。
- 衡量的是模型對應變數變異的解釋程度,不等於因果效果。
- 一般含截距項的 OLS 迴歸,其殘差總和必為零。
選項分析
(a)錯誤
題述認為經濟學家通常更關心斜率係數 ,是因為 是 的無偏且一致估計量。
斜率係數通常具有重要的經濟意義,例如在模型
中, 表示 增加一單位時, 的條件平均值改變多少。因此,經濟學家通常關心的是斜率所代表的邊際效果、關聯程度或政策效果。
雖然在適當條件下,OLS 估計量 確實具有無偏性與一致性:
且當樣本數 時,
但這些是估計量的統計性質,不是經濟學家關心斜率係數的主要經濟理由。此外,無偏性與一致性也必須建立在適當假設上,例如外生性條件 。
因此,選項將「關心斜率的經濟原因」錯誤歸因於估計量的統計性質。
(b)錯誤
OLS 的核心定義是選擇 ,使殘差平方和最小:
因此,對任何其他參數組合,包含母體參數 ,都有
也就是說,正確的不等式應為