112 年 國立臺灣大學經濟學系碩士班《統計學(A)》
第 1 題10 分
Let ~i.i.d. .
(a) Define . Use the distribution function technique to find the pdf of .
(b) Define , , . Find the joint distribution of .
登入後即可作答並保存紀錄。
這題主要考驗對標準常態分布隨機變數的轉換與機率密度函數的求法。
Part (a) 考驗利用分布函數法求單一隨機變數轉換後的機率密度函數。
Part (b) 考驗利用線性轉換求聯合機率密度函數,以及判斷隨機變數之間的關係。
(a) 求 的機率密度函數 (pdf)。
我們知道 ,其 pdf 為 ,對所有實數 。
令 為 的累積分布函數 (cdf),即 。
由於 ,則 。
對於 , 。
對於 ,
由於 是偶函數,積分區間關於 0 對稱,所以
我們也可以寫成
其中 是標準常態分布的 cdf。
由於 ,
,對於 。
現在我們對 求導,得到 的 pdf 。
對於 ,
。
對於 , 。
因此, 的 pdf 為 , for 。
這個分布是半正態分布 (half-normal distribution)。
(b) 求 的聯合分布。
我們有 是獨立的標準常態隨機變數。
這是一個線性轉換。我們可以寫成矩陣形式:
令 , , 。則 。
首先,我們需要知道 的聯合 pdf。由於 是 i.i.d. ,它們的聯合 pdf 為:
。
轉換方法是使用 Jacobian 轉換。
我們需要找到 用 表示的逆轉換。
從 和 :
所以,
現在我們看 與 的關係:
。
這表示 不是線性獨立的,它們的聯合分布是退化的(在 中位於一個平面上)。
嚴格來說,如果 是聯合連續隨機變數,那麼 是連續隨機變數,但 僅由 決定。
我們可以使用 Jacobian 方法來求 的聯合 pdf。
逆轉換矩陣 為:
Jacobian 矩陣 的行列式為:
。
聯合 pdf 為:
。
第 2 題10 分
Let be a continuous random variable with pdf and distribution function . Suppose is truncated to satisfy .
(a) Find the conditional density .
(b) Now suppose that and . Find .
登入後即可作答並保存紀錄。
這題主要考驗條件機率密度函數的求法,以及在特定分布下的條件變異數計算。
(a) 求條件機率密度函數 。
根據條件機率密度函數的定義:
其中 是 與事件 的聯合機率密度函數。
當 時, 且 同時發生,所以 。
當 時, 且 無法同時發生,所以 。
因此,對於 :
。
對於 :
。
我們知道 。
所以,條件機率密度函數為:
。
(b) 假設 且 。求 。
首先,我們需要找到 的 pdf 和 cdf。
pdf: , for ,否則為 0。
cdf: , for , for , for 。
根據 (a) 的結果,條件 pdf 為:
對於 :
,因為 且 落在 區間。
對於 :
。
所以,條件分布 是一個在區間 上的均勻分布。
。
現在我們要求 。
對於一個在區間 上的均勻分布 ,其變異數為 。
第 3 題30 分
Suppose we want to estimate , the population proportion of Taiwanese citizens who have ever driven after drinking alcohol, where . However, people may not be truthful in their responses; i.e., they may respond NO when, in fact, they are guilty of drunk driving. This is called "evasive answer bias".
To solve this problem, we use the following randomized response methodology of interviewing people about sensitive issues. A random sample of people is drawn from the population. We ask respondents to first flip a unbiased coin, and have them hide the result from us (i.e., do not reveal to us the outcome of the coin tossing).
• Respondent who flip head (H; = 1) will answer YES/NO to the question: "Have you ever driven after drinking alcohol?"
• Respondent who flip tail (H; = 0) will answer YES/NO to the question: "Is the last digit of your National ID number a 0, 1, 2, or 3?"
Let represent the response is YES from this questionnaire, and denote the random sample. The novelty of this strategy is that when a respondent answers YES, we do not know which question he or she answers. Hence, respondents have the incentive to simply tell the truth, and we assume that these YES and NO reports are made truthfully.
(a) Find the probability , denoted by .
(b) Use to find the maximum likelihood estimator of .
(c) Find the limiting distribution of . You should mention what properties and theorems you are using.
(d) In order to construct a confidence interval, propose a pivot, and derive its limiting distribution. You should mention what properties and theorems you are using.
(e) Now suppose that , and . Use the proposed pivot to construct a 95% approximate confidence interval (interval estimate) of .
(f) Use the above confidence interval to test vs. .
Note:
,
,
,
登入後即可作答並保存紀錄。
這題是典型的隨機反應法 (Randomized Response) 問題,結合了機率、估計量、漸近理論和假設檢定。
核心觀念:設計一種問卷方式,讓受訪者在回答敏感問題時,即使說謊(或隱瞞真相),也能透過隨機機制來估計真實的比例。
(a) 求 , denoted by 。
設 為受訪者 拋硬幣的結果, 代表正面 (Head), 代表反面 (Tail)。
硬幣是公平的,所以 。
設 為受訪者 是否有酒駕的真實情況, 代表有酒駕, 代表無酒駕。
我們想估計的參數是 。
受訪者 的回答 代表 "YES"。
如果抽到正面 (),受訪者回答 "YES" 的問題是「是否有酒駕」。此時, 代表 。
如果抽到反面 (),受訪者回答 "YES" 的問題是「身分證末碼是否為 0, 1, 2, 或 3」。
設 為受訪者 身分證末碼是否為 0, 1, 2, 或 3 的事件。
在台灣,身分證末碼是 0-9,每個數字出現的機率是 。
所以,。
此時, 代表 為真。
我們使用全機率法則來計算 :
當 時 (抽到正面),受訪者回答「是否有酒駕」。若回答 YES (),則表示他確實有酒駕 ()。
所以,。
當 時 (抽到反面),受訪者回答「身分證末碼是否為 0, 1, 2, 或 3」。若回答 YES (),則表示身分證末碼是 0, 1, 2, 或 3。
所以,。
將這些代入全機率法則:
(b) 求 的最大概似估計量 (MLE)。
我們有 個獨立的觀察值 。
每個 都是 Bernoulli 隨機變數,但其成功機率 是 的函數:。
所以,,其中 。
。
樣本的概似函數為:
我們通常對概似函數取對數,得到對數概似函數:
令 為樣本平均值。
為了找到 MLE,我們對 微分並令其為零:
所以, 的 MLE 為 。
我們需要檢查 是否在 區間內。
由於 , 。
所以 。
。
當 較小時(例如 ), 可能小於 0。
當 較大時(例如 ), 可能大於 1。
通常 MLE 在這種情況下會進行截斷 (truncated) 或使用其他方法,但標準的 MLE 形式就是 。
(c) 求 的漸近分布。
我們使用 作為估計量。
首先,我們需要計算 的期望值和變異數。
。
由於 是 個 i.i.d. Bernoulli 隨機變數的平均,其期望值為 。
。
。
因此, 是 的一個無偏估計量 (unbiased estimator)。
。
對於 Bernoulli 分布, 。
。
。
根據中央極限定理 (Central Limit Theorem, CLT),對於 i.i.d. 隨機變數序列 ,如果 且 有限,則 。
在這裡,我們關心的是 。
由於 ,所以
第 4 題25 分
Consider the model , where , , , and .
If we write .
(1) Find and .
(2) If is an OLS estimator for from the regression on , is a consistent estimator for ? Explain.
(3) Is an unbiased estimator for ? Explain.
登入後即可作答並保存紀錄。
核心觀念
本題考查三個重點:
- 如何將含有 的模型改寫成「線性迴歸形式」。
- 遺漏變數 是否造成 OLS 斜率估計量的不一致。
- 「一致性」與「不偏性」的區別:
- 一致性是樣本數趨近無限大時,估計量是否收斂到真值。
- 不偏性是有限樣本下是否滿足 。
原模型為
且
解題方法
將 拆成其平均數與偏離平均數的部分:
代回原模型:
因此,令
以及
所以改寫後的模型為
(1)求 與
由上式直接得到:
以及
此外,
因此一般而言 。這表示若直接以 對 迴歸, 並不滿足嚴格的條件平均獨立。
(2) 是否為 的一致估計量?
是, 是 的一致估計量。
雖然遺漏了 ,但判斷斜率估計量是否一致,關鍵在於遺漏部分是否與解釋變數 相關。
由改寫後的模型,
含截距項的 OLS 斜率估計量,其機率極限為
先計算 。由於 ,
又因為
所以
由題目條件,
另外,利用疊代期望值法則:
因此,
再由 且 ,
故
因此,
直觀解釋
遺漏變數 的確被放入誤差項 中,而且通常有
但是,一致性所需的關鍵條件是
第 5 題10 分
Consider the model , , where is vector of exogenous explanatory variables which includes unity as its first element. is , strict sub-vector of that also includes unity as its first element. is a scalar endogenous explanatory variable. In the first stage, we run the regression of on and get the fitted value , and in the second stage we run the regression of on , , and . Is this a correct procedure for consistently estimating , , and ? Why or why not.
登入後即可作答並保存紀錄。
核心觀念
本題考查工具變數法(Instrumental Variables, IV)與兩階段最小平方法(Two-Stage Least Squares, 2SLS)的正確操作,重點包括:
- 外生工具變數須滿足外生性與相關性。
- 內生解釋變數不能在第二階段繼續使用原始值。
- 若 是 的嚴格子向量,則須注意完全共線性與參數識別問題。
模型為
其中 是內生解釋變數,且 為外生工具變數,滿足
因此, 可以作為 的工具變數。
解題方法
第一階段應以所有外生工具變數 解釋內生變數 :
得到預測值
第二階段則應將結構方程式中的原始內生變數 完全替換為其預測值:
如此,第二階段使用的解釋變數皆由外生工具變數 所生成,才能避免 與結構誤差項相關所造成的內生性偏誤。
題目所述的第二階段卻估計
的迴歸。這等於同時把預測值 與原始內生變數 放入模型。由於原始的 仍然與 相關,內生性並未被消除,因此 OLS 估計量一般不具一致性。
為何原始 會造成問題
將第一階段分解寫成
其中 是由 所生成的外生部分,而 則包含無法由工具變數解釋的部分。
因為 是內生變數,所以
題目的第二階段仍然使用 ,因此解釋變數與誤差項相關。即使同時加入 ,也不能使原始 變成外生變數;加入預測值並不會自動消除原始變數的內生性。
與 的共線性問題
題目另指出 是 的嚴格子向量。若結構式同時包含完整的 與其子向量 :
第 6 題15 分
In the panel data models with a single explanatory variable, the between estimator is the OLS estimator of the following equation
where the overbar represents the average over time. Assume that and is uncorrelated with , but for all and . Letting be the OLS estimator (between estimator) using the time average.
(1) Show that , where plim is the probability limit defined as .
(2) Assume also that the are uncorrelated with a constant variance for all . Show that .
(3) Is the inconsistency for the between estimator smaller when there are more time periods and the explanatory variables are not very highly correlated over time? What about the sign of the inconsistency for the between estimator?
登入後即可作答並保存紀錄。
核心觀念
本題考察縱橫資料中的「組間估計量」(between estimator)及遺漏個體效果所造成的不一致性。
原始模型可寫為
其中:
- :個體 不隨時間改變的個體效果;
- :隨機誤差;
- :各變數對時間取平均。
對時間取平均後:
between estimator 是以時間平均資料進行 OLS。由於估計式中沒有將 納入, 成為遺漏變數。若 與 相關,便會產生遺漏變數偏誤。
OLS 斜率估計量的機率極限為:
(1)between estimator 的機率極限
由平均後的模型:
計算 與 的共變異數:
常數項與其他變數的共變異數為零,因此:
題目給定 與 不相關,所以:
又因為:
因此:
代入 OLS 斜率的機率極限:
所以:
between estimator 的不一致量為:
(2) 時間上不相關時
題目進一步假設:
且不同時間的 彼此不相關。由
可得:
由於不同時間的 不相關,所有交叉共變異數皆為零,因此:
所以:
將其代回第(1)小題: