108 年 國立臺灣大學農業經濟學系碩士班《統計學(E)》
第 1 題12 分
- (12 points) Please solve the following questions:
(a) (6 points) Bowl A contains three red and two white chips, and bowl B contains four red and three white chips. A chip is drawn at random from bowl A and transferred to bowl B. Compute the probability of then drawing a red chip from bowl B.
(b) (6 points) An urn contains two red balls and four white balls. Sample successively five times at random and with replacement, so that the trials are independent. Compute the probability of each of the two sequences WWRWR and RWWWR.
登入後即可作答並保存紀錄。
核心觀念
本題考查:
- 全機率公式:若事件可依不同情況分解,總機率等於各情況機率乘上條件機率後加總。
- 條件機率:轉入紅色或白色籌碼後,碗 B 的籌碼總數與紅色籌碼數會改變。
- 獨立重複試驗:有放回抽樣使每次抽取彼此獨立,且每次紅、白球的機率固定。
- 特定序列的機率:直接將該序列中各結果的機率相乘,不需再乘排列數。
解題方法
(a) 從碗 B 抽到紅色籌碼的機率
碗 A 原有 3 個紅色、2 個白色籌碼,共 5 個。
抽出的籌碼有兩種情況。
情況一:從碗 A 轉入紅色籌碼
轉入紅色籌碼的機率為
此時碗 B 原有 4 個紅色、3 個白色籌碼。轉入一個紅色籌碼後,碗 B 共有:
- 紅色籌碼: 個
- 白色籌碼: 個
- 總數: 個
因此從碗 B 抽到紅色籌碼的條件機率為
情況二:從碗 A 轉入白色籌碼
轉入白色籌碼的機率為
此時碗 B 共有:
- 紅色籌碼: 個
- 白色籌碼: 個
- 總數: 個
因此
依全機率公式,
第 2 題13 分
- (13 points) Let denote a random sample of size from a distribution with the geometric pmf
,
(a) (3 points) Compute
(b) (5 points) Determine
(c) (5 points) If equals the maximum of , find .
登入後即可作答並保存紀錄。
本題考驗幾何分佈的性質,包括機率計算、隨機變數和的機率以及最大值的機率。
給定的機率質量函數 (pmf) 是幾何分佈:
,
這表示成功的機率 ,失敗的機率 。
幾何分佈定義為:第一次成功出現在第 次試驗的機率。
(a)
計算 。
由於 是來自同一個分佈的隨機樣本,它們是獨立同分佈的 (i.i.d.)。
因此,聯合機率等於各機率的乘積:
我們需要計算 , :
所以,
【答案】
(b)
決定 。
這是一個關於三個幾何分佈隨機變數和的問題。
一個常見的方法是考慮其機率母函數 (Probability Generating Function, PGF) 或直接列舉所有可能的組合。
幾何分佈 的 PGF 是 。
對於 獨立同分佈,它們的和 的 PGF 是各 PGF 的乘積:
其中 , 。
我們需要找到 。這可以通過對 進行泰勒展開來找到 的係數。
另一種方法是考慮 的定義: 是第一次成功前失敗的次數加一。
如果我們定義 ,則 是失敗的次數,服從 ,其 pmf 為 , 。
那麼 等價於 ,即 。
是獨立的、服從參數為 的零起始幾何分佈 (Negative Binomial distribution with trials)。
服從負二項分佈 ,其 pmf 為:
在這裡 , , , 。
第 3 題6 分
- (6 points) Let and denote the mean and variance of the random variable . Determine
(a) (3 points)
(b) (3 points)
登入後即可作答並保存紀錄。
本題考驗期望值的線性性質和變異數的定義。
令 。我們知道 是將隨機變數 標準化後的結果。
標準化隨機變數的期望值為 0,變異數為 1。
(a)
我們需要計算 。
利用期望值的線性性質:
由於 ,所以:
。
這也符合標準化變數的性質,即 。
【答案】
第 4 題9 分
- (9 points) If the moment-generating function of is , find the mean, variance, and pmf of .
登入後即可作答並保存紀錄。
本題考驗機率母函數 (Moment-Generating Function, MGF) 的應用,透過 MGF 來找出隨機變數的機率分佈、期望值和變異數。
給定的 MGF 是 。
MGF 的一般形式是 (對於離散型) 或 (對於連續型)。
觀察 MGF 的形式,它是由幾個指數項的線性組合構成,每一項的係數都是正數且加總為 1:
。
這表明 是一個離散型隨機變數,其可能的取值是 的指數項的指數部分。
1. 找出機率質量函數 (pmf)
MGF 的形式 表明隨機變數 的可能取值為 ,且對應的機率為 。
在此,我們有:
因此,隨機變數 的可能取值是 1, 2, 3。
其對應的機率是:
所以,pmf 為:
2. 計算期望值 (Mean)
期望值 可以透過 MGF 的性質求得:。
首先,計算 對 的一階導數 :
現在,將 代入 :
。
或者,也可以直接根據 pmf 計算期望值:
。
第 5 題10 分
- (10 points) Let , , . Let denote a random sample of size from this distribution.
(a) (4 points) Sketch the pdf of for (i) , (ii) .
(b) (6 points) Show that is the maximum likelihood estimator of .
登入後即可作答並保存紀錄。
本題考驗機率密度函數 (pdf) 的圖形描繪以及最大概似估計量 (Maximum Likelihood Estimator, MLE) 的推導。
給定的機率密度函數 (pdf) 為 ,定義域為 ,參數 的範圍為 。
(a)
繪製 pdf 的圖形。
pdf 的形式為 。我們需要對 的不同值進行分析。
(i)
當 ,pdf 為 ,定義域為 。
分析此函數的特性:
- 當 , 。
- 當 , 。
- 此函數是遞減的。
- 我們需要驗證其積分是否為 1 (作為 pdf):
。
積分確實為 1,所以這是一個有效的 pdf。
圖形會從 開始,遞減至 。
(ii)
當 ,pdf 為 ,定義域為 。
這是一個均勻分佈 的 pdf。
- 函數值恆為 1。
- 圖形是一條水平線 在 的區間。
- 積分驗證:。
圖形描述:
- 對於 : 圖形從 處無限高開始,然後遞減,在 處的值為 。
- 對於 : 圖形是一條從 到 的水平線,高度為 1。
(b)
推導最大概似估計量 (MLE) 。
給定一個隨機樣本 ,其似然函數 (Likelihood function) 是所有樣本點 pdf 的乘積:
第 6 題50 分
- (50 points) Consider the standard simple regression model: under the Gauss-Markov Assumptions. The OLS estimators for and are
and , where .
The residuals are defined as: , for .
From normal equation we know .
(a) (5 points) Suppose that . Show that the model can always rewritten with the same slope, but a new intercept and error, where the new error has a zero expected value.
(b) (5 points) What are the five Gauss-Markov assumptions for the simple regression?
(c) (10 points) Show that , where is the sample correlation and and denote the sample standard deviations.
(d) (10 points) Show that is equal to the square of the sample correlation coefficient between and .
(e) (20 points) Let and be constants. Regress on . Find the new intercept and slope estimators in terms of and . (10 points) Again, regress on . What will be the new intercept and slope estimators? (10 points)
登入後即可作答並保存紀錄。
核心觀念
本題綜合考查簡單線性迴歸的基本性質:
- 誤差項平均數的重新定義。
- Gauss–Markov 五項假設。
- OLS 斜率與樣本相關係數的關係。
- 與相關係數的關係。
- 變數平移與尺度轉換對 OLS 估計量的影響。
記
並令
(a) 誤差項平均數不為零時的改寫
已知
定義新的誤差項
則
又因為 ,代回原模型:
整理為
因此,令新的截距為
即可寫成
其中
斜率仍然是原本的 ,只有截距增加 。
(b) 簡單迴歸的五項 Gauss–Markov 假設
1. 參數具有線性形式
模型對未知參數必須是線性的:
此處「線性」是指對 、 線性,而不是要求變數本身只能呈現直線形式。
2. 隨機抽樣
觀察值
來自母體的隨機樣本,且各觀察值通常假設彼此獨立、具有相同分配。
3. 解釋變數具有樣本變異
必須有
也就是 不能全部相同,否則 無法定義。
4. 零條件平均假設
此假設表示在給定 後,誤差項的平均值仍為零,因此 不會與誤差項系統性相關。這是保證 OLS 估計量不偏的重要條件。
5. 同質變異數
其中 為固定常數。此假設保證 OLS 在所有線性不偏估計量中具有最小變異數,即 OLS 是 BLUE。
(c) 證明
樣本相關係數定義為
因此
OLS 斜率為
代入相關係數的表示式:
若樣本標準差採用相同的分母,例如皆採用 ,則
所以
因此得到
這表示迴歸斜率的符號與 、 的樣本相關係數相同;斜率的絕對大小還會受到兩者尺度,即標準差比例的影響。
(d) 證明 等於 與 的樣本相關係數平方
由迴歸式
以及 ,可得
因此, 與 的樣本相關係數為
先計算分子:
由 ,可得
再計算 的離均差平方和:
因此
所以
另一方面,簡單迴歸中的決定係數為