109 年 國立臺灣大學森林環境暨資源學系碩士班丁組《統計學(D)》
第 1 題20 分
- Please answer the following questions about standard error (20分)
a. What is the equation for standard error? (2分)
b. Describe the differences between standard deviation and standard error. (8分)
c. Why is standard error important? (5分)
d. What is Central Limit Theorem? (5分)
登入後即可作答並保存紀錄。
此題主要在測試考生對於標準誤、標準差、中央極限定理等基本統計學概念的理解。
a. 標準誤的公式:
標準誤(Standard Error, SE)是指樣本統計量(例如樣本平均數、樣本比例)的標準差。最常見的標準誤是指樣本平均數的標準誤,其公式為:
其中 是母體標準差, 是樣本大小。
若母體標準差 未知,則使用樣本標準差 來估計:
對於樣本比例 的標準誤,公式為:
其中 是母體比例。若 未知,則使用樣本比例 來估計:
b. 標準差與標準誤的差異:
- 標準差 (Standard Deviation, SD):衡量數據點相對於其平均值的離散程度。它描述的是「樣本內」或「母體內」數據的變異性。
- 樣本標準差 ():計算公式為 ,衡量樣本數據的離散程度。
- 母體標準差 ():計算公式為 ,衡量母體數據的離散程度。
- 標準誤 (Standard Error, SE):衡量樣本統計量(如樣本平均數、樣本比例)抽樣變異性的程度。它描述的是「不同樣本統計量」之間的離散程度,即抽樣分佈的標準差。
- 標準誤是「統計量」的標準差,而不是「數據點」的標準差。
- 標準差描述的是單一樣本的內部變異,而標準誤描述的是多個樣本統計量之間的變異。
- 標準誤會隨著樣本大小 的增加而減小(標準誤與 成反比),表示樣本數越多,樣本統計量越接近母體參數,變異性越小。
c. 標準誤的重要性:
標準誤在統計推論中扮演關鍵角色,主要體現在以下幾點:
- 衡量估計量的精確度:標準誤是衡量樣本統計量(如樣本平均數)對母體參數(如母體平均數)估計精確度的指標。
第 2 題30 分
- Given a simple linear regression model, , please answer the following question (30分)
a. What is the equation to estimate ? (5分)
b. What is the equation to estimate ? (5分)
c. What are the assumptions for the simple linear regression model? (10分)
d. Which hypothesis test method is used to test model overall goodness of fit? (2分)
e. What is Sum of Square Total, Sum of Square Regression, and Sum of Square Error? (6分)
f. What is the equation to estimate coefficient of determination? (2分)
登入後即可作答並保存紀錄。
核心觀念
本題考查簡單線性迴歸模型的最小平方法估計、模型假設、整體迴歸檢定、平方和分解,以及決定係數。
模型為
其中:
- :母體截距
- :母體斜率
- :隨機誤差
- :由樣本估計所得的迴歸係數
題目 b 小題再次寫成「estimate 」,依迴歸模型的標準命題,應為估計 ,以下依此解答。
解題方法:最小平方法
以估計值
表示第 筆觀測值的預測結果。最小平方法使殘差平方和最小:
分別對 與 微分並令其為零,即可得到估計式。
(a) 的估計式
斜率估計量為
也可寫成
其中
因此, 的意義是:當 增加一個單位時, 的估計平均變化量。
(b) 的估計式
由最小平方法的正常方程式可得
因此估計出的迴歸直線為
此直線必定通過樣本平均點 。
(c)簡單線性迴歸模型的假設
1. 線性關係
的條件平均數與 呈線性關係:
這表示模型的平均趨勢可以用直線描述。
2. 誤差平均數為零
此假設表示在控制 後,誤差沒有系統性偏高或偏低,迴歸線能正確代表條件平均數。
3. 誤差彼此獨立
此假設常受到時間序列資料、空間資料或群聚抽樣的影響。若誤差具有自我相關,標準誤與檢定結果可能失真。
4. 誤差具有相同變異數
其中 不隨 改變。此性質稱為等變異性。若誤差變異數會隨 增加而改變,則稱為異變異性。
5. 誤差呈常態分配
進行小樣本的 檢定與 檢定時,通常另加上
常態性不是最小平方法計算估計量的必要條件,但對精確的有限樣本推論相當重要。
6. 的變異必須存在
也就是樣本中的 不可全部相同,否則 的分母為零,無法估計斜率。
(d)模型整體適合度的假設檢定
使用 檢定(overall test) 檢定模型整體是否具有解釋力。
在簡單線性迴歸中,檢定假設為
若拒絕 ,表示 與 之間具有顯著線性關係,模型整體具有統計上的解釋力。
在只有一個自變數的情況下,整體 檢定與斜率的 檢定等價,且有
(e)三種平方和
令
第 3 題10 分
- There are people go into a restaurant. At the door, they all hang their coats on the coatrack near the entrance. Suddenly, there is a fire. All of them run towards the door. Before exiting the door, each grabs a coat at random as they leave the door. Let if the -th person gets his/her own coat, and if -th person gets another person's coat. Let be the number of people who get their own coat. Find . (10分)
登入後即可作答並保存紀錄。
本題是一道關於期望值的經典問題,屬於機率與統計的結合,常被稱為「錯排問題」或「 derangement problem」的一個變體,但此處只需計算期望值,相對簡單。
核心觀念:利用指示隨機變數 (indicator random variables) 的性質來計算總期望值。
解題過程:
我們定義 個指示隨機變數 ,其中 的定義如下:
如果第 個人拿到自己的外套。
如果第 個人拿到別人的外套。
總共有 個人,那麼拿到自己外套的人數 可以表示為這 個指示隨機變數的總和:
根據期望值的線性性質,總期望值 等於各個指示隨機變數期望值的總和:
現在我們需要計算單一個指示隨機變數 的期望值 。
對於任意第 個人,他拿到自己外套的機率是多少?
在火災發生後,每個人隨機抓取一件外套。總共有 件外套,其中只有 1 件是第 個人的外套。
第 4 題20 分
- Please answer the following questions about hypothesis testing (20分)
a. What is the test statistics for Student's t-test? (4分)
b. What is the test statistics for Chi-square Test of Hypothesized Count? (4分)
c. What is the test statistics for Two-Samples Unpaired Data Student's t-test? (4分)
d. What is the test statistics for ANOVA F-test between a reduced and a full model? (4分)
e. What is Type I error? (4分)
登入後即可作答並保存紀錄。
核心觀念
本題考查假設檢定中四種常見檢定統計量,以及第一類錯誤的定義:
- 單一樣本 Student’s 檢定
- 卡方適合度檢定
- 兩獨立樣本 Student’s 檢定
- 巢狀模型的 ANOVA 檢定
- Type I error 的意義
所有檢定統計量的共同概念,都是將「樣本資料與虛無假設的差異」除以其標準誤或理論變異程度,使其能與相應的理論分配比較。
a. Student’s -test 的檢定統計量
解題方法
若欲檢定母體平均數是否等於假設值 :
從樣本得到樣本平均數 、樣本標準差 ,以及樣本數 。由於母體標準差 未知,使用樣本標準差 估計,因此檢定統計量服從 Student’s 分配:
其中:
- :樣本平均數與假設母體平均數的差異
- :樣本平均數的估計標準誤
- 自由度為
在虛無假設成立且母體近似常態時:
解題技巧
分母是「樣本標準差除以 」,不可誤寫成 。若母體標準差 已知,才使用 檢定:
b. Chi-square Test of Hypothesized Count 的檢定統計量
解題方法
此檢定用於比較觀察次數與虛無假設下理論期望次數是否一致。設第 類的:
- 觀察次數為
- 假設期望次數為
則卡方檢定統計量為:
其中 為類別數。
若虛無假設為各類別的期望比例已知,且總樣本數為 ,第 類的期望次數通常為:
因此也可寫成:
在虛無假設成立時,統計量近似服從卡方分配。若沒有估計額外參數,自由度為:
若由樣本估計了 個參數,則自由度為:
解題技巧
計算時先確認所有期望次數 ,再逐類計算:
觀察次數與期望次數的差異越大, 越大,越有理由拒絕虛無假設。期望次數不可放在分子或分母之外,分母必須是 。
c. Two-Samples Unpaired Data Student’s -test 的檢定統計量
解題方法
此檢定用於比較兩個彼此獨立群體的平均數。欲檢定:
最常見的兩獨立樣本 Student’s 檢定假設兩群體具有相同母體變異數:
先以兩組樣本變異數合併估計共同變異數:
因此檢定統計量為:
在虛無假設成立時:
若檢定兩母體平均數相等,則 ,公式簡化為:
不等變異數時
若不假設兩群體變異數相等,應使用 Welch’s 檢定:
其自由度通常以 Welch–Satterthwaite 公式近似:
題目明確寫出 Student’s -test 時,標準答案通常採用等變異數的合併變異數公式。
解題技巧
- 「Unpaired」表示兩組樣本彼此獨立,不是配對資料。
- 配對資料應使用配對 檢定,先對每一對資料計算差值。
- 分子是兩組樣本平均數之差,分母是該差值的標準誤。
- 若題目未特別說明兩組變異數不同,研究所考試通常以 pooled two-sample 檢定作答。
d. Reduced Model 與 Full Model 間 ANOVA -test 的檢定統計量
核心觀念
此檢定用於比較巢狀的兩個模型:
第 5 題20 分
- Please answer the following questions about Generalized Linear Model (20分)
a. If your response variable y is either 0 or 1, what link function will you use? (5分)
b. If your response variable y is normally distribution, what link function will you use? (5分)
c. If your response variable y is count, what link function will you use? (5分)
d. If your data is organized into r x c contingency data with count in each cell, which regression model will you use? (5分)
登入後即可作答並保存紀錄。
本題主要測試對廣義線性模型 (Generalized Linear Model, GLM) 的理解,特別是不同回應變數類型對連結函數 (link function) 的選擇,以及處理列聯表資料的模型。
廣義線性模型 (GLM) 包含三個主要部分:
- 隨機成分 (Random Component):指定應變數 的機率分佈,屬於指數分佈族 (exponential family)。
- 系統成分 (Systematic Component):由一個或多個預測變數 組成的線性預測器,表示為 。
- 連結函數 (Link Function):連接隨機成分的期望值 與系統成分 的函數,表示為 。
a. 當回應變數 是二元變數 (0 或 1) 時,應使用的連結函數:
當應變數 是二元變數時,最常見的機率分佈是 伯努利分佈 (Bernoulli distribution) 或 二項分佈 (Binomial distribution)(當有多個獨立試驗且成功機率相同時)。
對於二元變數,我們感興趣的是成功機率 。
- 標準連結函數 (Canonical Link Function):對於二項分佈,標準連結函數是 Logit 函數。
這個函數將機率 (範圍在 0 到 1 之間)轉換為一個在 範圍內的對數勝算 (log-odds)。 - 其他可能的連結函數包括:
- Probit 函數:,其中 是標準常態累積分佈函數的反函數。
- Cloglog 函數:。
最常用且最經典的選擇是 Logit 連結函數,因此也是最標準的答案。
模型形式:Logit 迴歸 (Logistic Regression)。
b. 當回應變數 是常態分佈時,應使用的連結函數:
當應變數 服從常態分佈 (Normal distribution) 時,其期望值 的範圍是 。
- 標準連結函數 (Canonical Link Function):對於常態分佈,標準連結函數是 恆等函數 (Identity function)。
此時,系統成分 直接等於期望值 。
這種情況下,廣義線性模型就退化為我們熟悉的 普通線性迴歸模型 (Ordinary Linear Regression Model)。