113 年 國立成功大學交通管理科學系碩士班乙組《統計學》
第 1 題15 分
Consider the least squares regression line . Please use the least squares method to derive the point estimators of and respectively. (Hint: You need to minimize the sum of squared residuals.)
登入後即可作答並保存紀錄。
此題考查最小平方法 (Least Squares Method),目的是求得迴歸直線的參數估計量。
最小平方法的核心是最小化殘差平方和 (Sum of Squared Residuals, SSR)。對於迴歸模型 ,實際觀測值為 ,殘差為 。
我們要找的參數估計量 和 是使得 SSR 最小的 和 值。
SSR 定義為:
為了找到使 SSR 最小的 和 ,我們對 SSR 分別對 和 求偏導數,並令其等於零。
-
對 求偏導數:
令偏導數等於零:
兩邊同時除以 :
即:
這給出了 的一個條件。將 表示為:
-
對 求偏導數:
令偏導數等於零:
現在將由第一步得到的 代入上式:
第 2 題18 分
A random sample of size 3 is drawn from a population with mean and variance . (So are i.i.d.) Let .
(a - 5%) For what value of "b" is an unbiased estimator of the population mean ?
(b - 5%) Compute the variance of . (Assume "b" is unknown)
(c - 8%) Recall that the mean square error is . Find the value of "b" which gives the best estimator in the sense of minimizing this mean square error.
登入後即可作答並保存紀錄。
此題主要考查統計估計量的性質,包括是否為不偏估計量、估計量的變異數,以及如何最小化均方誤差 (Mean Square Error, MSE) 以獲得最佳估計量。
已知 是來自平均數為 、變異數為 的母體之隨機樣本,且為獨立同分配 (i.i.d.)。
因此, 且 對於 。
我們有一個統計量 。
(a) 求使 為 的不偏估計量時 "b" 的值
一個估計量 被稱為對參數 的不偏估計量,如果 。
我們要求 。
利用期望值的線性性質:
由於 對於所有 :
為了使 為 的不偏估計量,我們需要:
由於 通常不為零(否則變異數也為零,樣本無意義),我們可以將 消去:
所以,當 時, 是 的不偏估計量。
【答案】
(b) 計算 的變異數 (假設 "b" 未知)
變異數的計算公式為 。
或者,由於 是獨立的,我們可以利用獨立性來計算變異數。
利用變異數的性質 和獨立隨機變數的變異數和:
由於 是獨立的:
由於 對於所有 :
這個結果是在 "b" 未知的情況下計算的。
【答案】
(c) 尋找使均方誤差 (MSE) 最小的 "b" 值
第 3 題25 分
The president of a University is concerned about how much time students spent on homework. Last year, the average time students spent on homework was 21 hours per week. This year, a random sample of 36 students indicates that the average time spent is 22.2 hours per week. Assume that the population standard deviation is 2.4 hours.
(a - 4%) What assumptions are required for this test to be valid?
(b - 3%) Is this a z or a t test? Please explain your answer.
(c - 10%) Perform the 5 steps hypothesis test to determine whether there is any evidence to suggest that students spent more time on homework this year than last year. Please use a significance level of 1%.
(d - 4%) Construct a 99% lower confidence bound for the population mean. No interpretation is required.
(e - 4%) Explain why parts c) and d) are consistent with each other.
登入後即可作答並保存紀錄。
此題考查假設檢定與信賴區間的應用,特別是在母體標準差已知的單一樣本問題。
已知資訊:
去年平均工時 () = 21 小時/週
今年樣本大小 () = 36
今年樣本平均工時 () = 22.2 小時/週
母體標準差 () = 2.4 小時/週
顯著水準 () = 1% = 0.01
(a) 進行此檢定所需的假設
為了進行母體平均數的檢定 (z-test),我們需要以下假設:
- 隨機抽樣 (Random Sampling): 樣本必須是從母體中隨機抽取,以確保樣本的代表性。
- 獨立性 (Independence): 樣本中的各個觀測值之間必須相互獨立。對於本題,36 位學生的工時應該是獨立的。
- 母體標準差已知 (Population Standard Deviation Known): 我們假設母體標準差 是已知的。
- 常態分配或樣本數足夠大 (Normality or Large Sample Size):
- 若母體分配未知,則需要樣本數足夠大 (通常 ),根據中央極限定理 (Central Limit Theorem),樣本平均數的抽樣分配近似於常態分配。
- 若母體分配已知為常態分配,則不論樣本數大小,樣本平均數的抽樣分配都是常態分配。
在本題中,樣本數 ,因此即使母體工時分配不是常態,根據中央極限定理,樣本平均數的抽樣分配近似於常態。
【答案】隨機抽樣、樣本獨立性、母體標準差已知、樣本數足夠大(或母體為常態分配)。
(b) 這是 z 檢定還是 t 檢定?請解釋。
這是 z 檢定。
解釋:
- z 檢定用於檢定母體平均數,當母體標準差 已知時。
- t 檢定用於檢定母體平均數,當母體標準差 未知,且我們使用樣本標準差 作為 的估計時。
在本題中,題目明確給出了「母體標準差是 2.4 小時」(),因此我們可以使用 z 檢定。
【答案】z 檢定,因為母體標準差 是已知的。
(c) 進行 5 步驟假設檢定,檢定學生今年花在功課上的時間是否比去年多,顯著水準為 1%。
步驟 1:設定虛無假設 () 與對立假設 ()
我們想檢定的是「學生今年花在功課上的時間是否比去年多」,這表示我們想知道今年平均工時是否大於去年的平均工時。
- 虛無假設 (): 今年平均工時不超過去年,即 。
- 對立假設 (): 今年平均工時多於去年,即 。
這是右尾檢定。
步驟 2:選擇顯著水準 ()
題目指定顯著水準為 。
步驟 3:計算檢定統計量
由於母體標準差已知,我們使用 z 檢定統計量:
其中:
- (今年樣本平均值)
- (去年母體平均值,虛無假設中的值)
- (母體標準差)
- (樣本大小)
計算標準誤 (Standard Error, SE):
計算 z 值:
檢定統計量為 。
步驟 4:決定臨界值或計算 P 值
-
方法一:臨界值法
這是一個右尾檢定,顯著水準為 。我們需要找到標準常態分配中,右尾機率為 0.01 的 z 值。
查閱標準常態分配表 (Z-table),累積機率為 的 z 值大約是 2.326。
臨界值為 。 -
方法二:P 值法
P 值是觀察到樣本統計量(或更極端)的機率,假設虛無假設為真。
P 值 =
查閱標準常態分配表,P(Z < 3.0) 約為 0.9987。
所以,P 值 = 。
第 4 題30 分
The ownership of automobile has an important effect on the traffic volume on the road. In a study conducted in three countries, average ownership of vehicles per household were measured. The results are summarized in the following table:
| Country | N | Mean | StDev |
|---|---|---|---|
| America | 48 | 3.7 | 2.5 |
| Canada | 100 | 3.1 | 1.8 |
| France | 55 | 2.9 | 1.8 |
Analysis of Variance
| Source | SS | MS | F-Value | P-Value |
|---|---|---|---|---|
| Country | 16 | 8 | XXX | 0.138 |
| Error | 800 | XXX |
(a - 5%) Is it reasonable to use the assumption of equal standard deviation when analyzing these data? Give a reason for your answer.
(b - 5%) Find the value of MSE. What is the standard deviation?
(c - 2%) What are the numerator and denominator degrees of freedom for the F statistic?
(d - 3%) Find the value of the F statistic.
(e - 10%) Carry out a significance test to compare the mean for the three countries at a significance level 0.025. Please follow the five step procedure and make a conclusion in context.
(f - 5%) Should a multiple comparison test be performed in this situation? Please explain your answer in one sentence.
登入後即可作答並保存紀錄。
此題考查單因子變異數分析 (One-Way ANOVA),用於比較三個或以上群體(國家)的平均數是否存在顯著差異。同時也涉及對 ANOVA 假設的判斷以及後續的顯著性檢定。
已知資訊:
三國家(America, Canada, France)的車輛擁有量數據。
樣本大小、平均值、標準差。
部分 ANOVA 表(SS, MS, F-Value, P-Value)。
| Country | N | Mean | StDev |
|---|---|---|---|
| America | 48 | 3.7 | 2.5 |
| Canada | 100 | 3.1 | 1.8 |
| France | 55 | 2.9 | 1.8 |
ANOVA 表:
| Source | SS | MS | F-Value | P-Value |
|---|---|---|---|---|
| Country | 16 | 8 | XXX | 0.138 |
| Error | 800 | XXX |
(a) 使用相等標準差假設是否合理?給出理由。
ANOVA 的一個關鍵假設是各組的母體變異數相等(同質性,Homogeneity of variances)。這意味著各組的標準差也應該大致相等。
觀察給定的樣本標準差:
- America:
- Canada:
- France:
America 的樣本標準差 (2.5) 明顯大於 Canada 和 France 的樣本標準差 (1.8)。雖然樣本標準差不完全等於母體標準差,但它們之間存在較大的差異。
一些經驗法則(如 Levene 檢定或 Bartlett 檢定,雖然這裡沒有計算)可以幫助判斷變異數的同質性。但僅憑觀察,2.5 和 1.8 的差異可能足以讓人質疑相等標準差的假設。
理由:
America 的樣本標準差 (2.5) 明顯大於 Canada 和 France 的樣本標準差 (1.8)。這兩個數值之間的差異可能不夠大到完全否定相等標準差的假設,但確實是一個需要注意的跡象,表明此假設可能不完全成立。嚴格來說,需要進行變異數同質性檢定(如 Levene test 或 Bartlett test)來做出更確定的判斷。但從提供的樣本數據來看,相等標準差的假設「可能」不完全合理。
【答案】不完全合理。因為 America 的樣本標準差 (2.5) 明顯大於 Canada 和 France 的樣本標準差 (1.8)。
(b) 求 MSE 的值。標準差是多少?
在 ANOVA 中,MSE (Mean Square Error) 是指組內均方 (Mean Square Within),也就是誤差均方 (Mean Square Error, MSE)。它估計的是組內變異。
ANOVA 表中,"Error" 行代表組內變異。
MS (Mean Square) 的計算公式是 SS (Sum of Squares) 除以其對應的自由度 (df)。
對於 Error (組內變異):
是總樣本數 減去組數 。
總樣本數 。
組數 。
所以,。
現在可以計算 MSE (即 ):
標準差是多少?
MSE 是變異數的估計值。因此,標準差是 MSE 的平方根。
這個 是組內標準差的估計值,它假設各組的母體變異數相等。
【答案】MSE = 4,標準差 = 2。
(c) F 統計量的分子和分母自由度分別是多少?
F 統計量用於比較組間變異 (Between-group variability) 和組內變異 (Within-group variability)。
-
分子自由度 (Numerator df): 對應於組間變異 (Source: Country)。
分子自由度等於組數減 1 ()。
(America, Canada, France)。
。 -
分母自由度 (Denominator df): 對應於組內變異 (Source: Error)。
分母自由度等於總樣本數減去組數 ()。
, 。
第 5 題12 分
Define and explain the usage of the statistics terms below (Do NOT Just show the formula):
(a - 4%) Central Limit Theorem
(b - 4%) P-value
(c - 4%) Bayes' theorem
登入後即可作答並保存紀錄。
此題考查基本統計學概念的定義與應用。
(a) 中央極限定理 (Central Limit Theorem, CLT)
定義:
中央極限定理是機率論中的一個基本定理。它指出,當從一個母體中抽取足夠大的隨機樣本時,無論該母體本身的機率分佈為何(即使母體不是常態分佈),樣本平均數的抽樣分佈都將近似於一個常態分佈。這個近似程度隨著樣本數量的增加而提高。
使用說明:
中央極限定理在統計推論中扮演著核心角色,尤其是在進行參數估計和假設檢定時。
- 樣本平均數的抽樣分佈: 它告訴我們,即使我們不知道母體的確切分佈,只要樣本夠大(通常 ),我們就可以近似地認為樣本平均數 服從一個平均數為母體平均數 、標準差為 的常態分佈。
- 統計檢定: 許多統計檢定,例如 z 檢定和 t 檢定(在某些條件下),都依賴於 CLT 來建立檢定統計量的分佈。例如,在母體標準差已知且樣本數足夠大時,我們可以使用 z 檢定來檢定母體平均數。
- 信賴區間: CLT 也是建構母體平均數信賴區間的基礎。
簡單來說: CLT 讓統計學家能夠在不知道母體分佈的情況下,對母體平均數進行推論,因為樣本平均數的分佈會趨向於我們熟悉的常態分佈。
【答案】中央極限定理指出,無論母體分佈為何,足夠大的隨機樣本的樣本平均數分佈近似於常態分佈。這使得我們能夠在不知道母體分佈的情況下,對母體平均數進行統計推論,如進行假設檢定和建構信賴區間。
(b) P 值 (P-value)
定義:
P 值是在虛無假設 (Null Hypothesis, ) 為真時,觀察到當前樣本統計量或比當前樣本統計量更極端(更不支持 )的結果的機率。
使用說明:
P 值是假設檢定中用來衡量證據強度的指標。
- 決策依據: P 值越小,表示觀察到的數據與虛無假設越不相符,我們就有越強的證據拒絕虛無假設。反之,P 值越大,表示觀察到的數據與虛無假設相符的可能性較高,我們就沒有足夠的證據拒絕虛無假設。
- 與顯著水準比較: 在假設檢定中,我們將 P 值與預設的顯著水準 () 進行比較:
- 如果 P 值 ,我們拒絕虛無假設 。
- 如果 P 值 ,我們不拒絕虛無假設 。