115 年 國立成功大學數據科學研究所《統計學(含迴歸分析)》
第 1 題20 分
數據分析的基本項目是了解資料中心的位置、分散狀況和變數之間的關係。假設有兩題問卷題目 X1 和 X2, 詢問受測者的意見, 分數範圍由 0, 1, 2, ..., 9 分。假設在簡單隨機抽樣之下, 收集到 6 位受測者, 資料為 {(5, 3), (8, 3), (1, 0), (2, 3), (5, 3), (9,0)}。
(1) 使用三種統計量計算 X1 資料中心的位置。
(2) 使用兩種統計量計算 X2 資料分散狀況。
(3) 計算 X1 和 X2 之間皮爾森相關係數。
(4) 敘述隨機變數 X1 與 X2 的關係。
登入後即可作答並保存紀錄。
本題主要考驗對敘述統計基本概念的理解,包括集中量數(平均數、中位數、眾數)、離散量數(全距、變異數、標準差)以及相關係數的計算與解釋。
給定資料為 6 位受測者對於 X1 和 X2 的分數:
X1: {5, 8, 1, 2, 5, 9}
X2: {3, 3, 0, 3, 3, 0}
(1) 使用三種統計量計算 X1 資料中心的位置:
中心位置的統計量通常指平均數、中位數和眾數。
- 平均數 (Mean): 所有數值的總和除以數值的個數。
- 中位數 (Median): 將資料由小到大排序後,位於中間的數值。若有偶數筆資料,則取中間兩數的平均。
將 X1 排序:{1, 2, 5, 5, 8, 9}
中間兩數為 5 和 5,所以中位數為 。 - 眾數 (Mode): 資料中出現頻率最高的數值。
在 X1 的資料 {5, 8, 1, 2, 5, 9} 中,數值 5 出現兩次,其他數值都只出現一次。
所以眾數為 5。
【答案】X1 的中心位置統計量為:平均數 = 5,中位數 = 5,眾數 = 5。
(2) 使用兩種統計量計算 X2 資料分散狀況:
分散狀況的統計量通常指全距、變異數或標準差。
- 全距 (Range): 資料中的最大值減去最小值。
X2 的資料為 {3, 3, 0, 3, 3, 0}。
最大值為 3,最小值為 0。
全距 = 3 - 0 = 3。 - 樣本變異數 (Sample Variance): 衡量資料點與平均數之間離散程度的平均平方差。
首先計算 X2 的平均數:
樣本變異數
(若題目要求母體變異數,則分母為 n,但通常情況下,若未特別說明,則使用樣本變異數。)
【答案】X2 的分散狀況統計量為:全距 = 3,樣本變異數 = 2.4。
(3) 計算 X1 和 X2 之間皮爾森相關係數:
皮爾森相關係數 (Pearson correlation coefficient) 用來衡量兩個變數之間線性相關的強度與方向。
我們已經計算了 和 。
我們需要計算 和 的值:
| i | X1 | X2 | | | | | |
第 2 題15 分
真實世界由隨機現象產生的數據分佈型態十分多元且複雜,柴比雪夫(Chebyshev)定理是一個能經由平均值和標準差掌握隨機資料分佈比例的定理。
(1) 請敘述柴比雪夫定理。
(2) 假設一個隨機變數 X,觀察到了一組隨機樣本 5, 8, 1, 2, 5, 9。請估計以下機率值
Pr(5 - √20 < X < 5 + √20)
(3) 使用柴比雪夫定理所估計出來的機率值準確嗎?準確原因為何?不準確原因為何?
登入後即可作答並保存紀錄。
本題考驗對柴比雪夫定理的理解與應用,以及對該定理準確性的判斷。
(1) 請敘述柴比雪夫定理:
柴比雪夫定理 (Chebyshev's Inequality) 指出,對於任何機率分佈,無論其具體形式如何,至少有一定比例的數據落在其平均值的一個標準差範圍內。
對於一個隨機變數 具有期望值 和有限變異數 ,對於任意常數 ,有:
或者,等價地,對於任意常數 ,有:
這個定理給出了一個機率的下限,說明樣本值落在平均值 距離 以內的機率至少為 。
【答案】柴比雪夫定理指出,對於任意具有期望值 和有限變異數 的隨機變數 ,對於任何 ,隨機變數 的值落在其期望值 的 個標準差範圍內(即 )的機率至少為 。
(2) 假設一個隨機變數 X, 觀察到了一組隨機樣本 5, 8, 1, 2, 5, 9。請估計以下機率值 :
首先,從樣本資料 {5, 8, 1, 2, 5, 9} 計算樣本的平均數和樣本標準差,以估計母體的期望值 和標準差 。
樣本平均數 。
樣本變異數
。
樣本標準差 。
我們需要估計 。
注意到 是樣本平均數 。
。
所以我們要求的是 。
這看起來像是要求 的形式。
我們可以將 與 比較。
如果我們假設 ,那麼 ,則 。
第 3 題20 分
變異數是衡量產品品質重要的指標,良好的產品品質需要符合既定的水準,不能有過大的產品之間的變異。假設產品品質 X 在某一個生產的過程具有常態分配 , 今有一批次 個同規格產品 。
(1) 試問 和 各具有何種分配?
(2) 試問 和 各具有何種分配?
(3) 今觀察 個樣本, 樣本變異數 。試求 的 95% 信賴區間。
(4) 所算出來的信賴區間包含 的機率為何?
登入後即可作答並保存紀錄。
本題主要考驗對常態分佈相關統計量的分佈性質的理解,特別是標準化變數、卡方分佈、t分佈,以及如何利用這些分佈來建構信賴區間。
已知產品品質 服從常態分配 ,有一批次 個同規格產品 。
(1) 試問 和 各具有何種分配?
-
:
若 ,則 。
將 除以 (標準差),得到標準化變數:
標準常態分佈的定義就是 。
因此, 服從標準常態分佈。 -
:
我們知道 。
是 的函數。由於 都是獨立同分佈的常態隨機變數, 也服從常態分佈,其期望值為 ,變異數為 。
所以,。
的期望值為 。
和 之間是相關的,因為 包含了 。
因此, 不是一個標準常態分佈。
實際上, 服從一個t分佈。
更精確地說,我們知道 。
而 的變異數計算較複雜,但我們可以知道 服從 分佈,其中 是樣本標準差。
然而,題目給的是除以 ,而不是樣本標準差 。
考慮統計量 。
這裡我們需要考慮的是 的形式。
根據統計學的性質,如果我們有 個來自 的獨立樣本,則 。
而 。
令 , 。
則 。
所以 。
這個量不是標準常態分佈。
實際上,對於來自常態母體的樣本,統計量 的分佈是 分佈。
因此, 實際上服從一個與 分佈相關的變量,但不是標準 分佈。
更進一步,考慮統計量 。
我們知道 , 。
和 是相關的。
的期望值為 0。
由於 獨立, for 。
。
所以 。
。
所以,。
因此, 的分佈是 。
(注意:這裡的 是母體標準差,不是樣本標準差 )。
【答案】
- 服從標準常態分佈 。
- 服從常態分佈 。
(2) 試問 和 各具有何種分配?
第 4 題15 分
統計圖是數據分析重要的視覺化工具,適當的應用,對資料分佈的了解可以有很大的幫助。圖一的左圖和右圖都是 234 車輛高速公路的里程數的直方圖,具有不相同的 binwidth。里程數資料的最小值和最大值各為 12 和 44 英里/每加侖。圖二是 5000 筆 (x1, x2) 資料圖。左圖為散佈圖,右圖為二維直方圖。X1 的資料範圍 (-6.90, 9.64), X2 的資料範圍 (-3.53, 13.42)。
(1) (5%) 求取圖一 binwidth b1 的數值。敘述直方圖繪製的流程。
(2) (5%) 高速公路的里程數的資料分布應視為單峰還是多峰? 如何判斷?
(3) (5%) 估計圖二右圖 binwidth 的數值。敘述二維直方圖繪製的流程。此 5000 筆 (x1, x2) 資料分布應視為單峰還是多峰? 如何判斷?
🖼️【此處有附圖,請對照原卷】
圖一: 234 車輛高速公路的里程數的直方圖
圖二: 5000 筆 (x1, x2) 資料。左圖為散佈圖,右圖為二維直方圖。
登入後即可作答並保存紀錄。
核心觀念
直方圖將資料分組,以各組的次數呈現分布;組距會影響峰形的辨識。組距過大會合併不同的集中區,組距過小則容易呈現細碎起伏。
二維直方圖將平面分成矩形格子,以顏色深淺表示各格的資料筆數。判斷單峰或多峰,要觀察高密度區是否分成數個集中區,以及集中區之間是否有密度下降的區域。
解題方法
(1) 圖一左圖的組距與直方圖繪製流程
由圖一左圖可讀出,相鄰組界約為 ,因此
故組距約為 英里/加侖。繪製流程如下:
- 整理 筆里程數,確認資料範圍為 至 。
- 選定組距 ,設定涵蓋全部資料的組界。例如採用 。
- 計算各區間的資料筆數。為避免重複計數,可採左閉右開區間,最後一組包含右端點。
- 橫軸標示里程數,縱軸標示次數;每組畫一個寬度為 、高度為該組次數的長條,各長條相鄰排列。
各組次數相加必須等於 。不能直接用最大值減最小值求組距,因為還需要知道分組數與組界位置。
(2) 高速公路里程數為雙峰分布
圖一右圖使用較小組距,可辨識出兩個主要集中區,峰值分別約在 與 英里/加侖,兩者之間的次數明顯降低,因此判定為雙峰分布。
左圖使用較大的組距 ,將細部結構合併,兩個集中區形成相鄰的高長條,掩蓋了中間的低谷。因此,判斷峰數必須比較不同組距下的圖形,不能只根據左圖最高的一根長條認定為單峰。
右图中的細小起伏不必各自視為一個峰;本題辨識的是兩個主要集中區。
(3) 圖二右圖的組距、繪製流程與峰數
第 5 題30 分
消費行為研究常常需要了解顧客特徵和消費現象之間的關係。有一個項消費研究收集 925 消費者的消費金額資料以及年齡和族群特徵,其中 466 來自族群甲, 459 人來自族群乙。圖三為年齡與金額的散佈圖,同時標註了族群。今以回歸分析來進行研究,定義族群指標變數,當消費者屬於族群甲,族群指標變數數值設為 0,當消費者屬於族群乙,族群指標變數數值設為 1。回歸模型為:
金額
圖三: 年齡與金額的散佈圖,同時標註了族群
回歸分析結果
Estimate Std. Error t value Pr(>|t])
(Intercept) 1814.5445 8.6011 211.0 <2e-16 ***
年齡 -20.3175 0.1878 -108.2 <2e-16 ***
族群指標 -1821.2337 12.5736 -144.8 <2e-16 ***
年齡:族群指標 40.4461 0.2724
Signif. codes: 0 ‘' 0.001 '' 0.01 '' 0.05 '.' 0.1 ,
Residual standard error: 47.63 on 921 degrees of freedom
Multiple R-squared: 0.9601, Adjusted R-squared: 0.9599
F-statistic: 7379 on 3 and 921 DF
🖼️【此處有附圖,請對照原卷】
圖四: 回歸模型殘差圖
(1) (5%) 列出迴歸係數估計方法的公式。
(2) (5%) 列出 R-square 和 Adjusted R-square 的公式。並說明本回歸模型配適資料的優劣。
(3) (5%) 計算年齡為 40 歲時,本回歸模型估計族群甲和族群乙的顧客平均消費金額各為多少。
(4) (5%) 圖四為回歸模型兩張殘差圖。請利用圖四兩張殘差圖檢查隨機誤差項 的四項分佈假設是否符合。
(5) (5%) 列出虛無假設 時 t 檢定的公式。顯著水準設為 0.05,討論檢定結果。
(6) (5%) 列出回歸模型 F 檢定的虛無假設和檢定公式。顯著水準設為 0.05,討論檢定結果。
登入後即可作答並保存紀錄。
本題為一個綜合性的迴歸分析題目,涵蓋了迴歸係數的估計方法、模型擬合優度指標、模型解釋、殘差分析以及假設檢定。
給定的回歸模型為:
金額
其中,族群指標:甲=0,乙=1。
樣本數 。
回歸分析結果摘要:
Estimate: 估計的迴歸係數值。
Std. Error: 係數估計值的標準誤。
t value: t 統計量的值。
Pr(>|t]): t 檢定的 p 值。
Signif. codes: 顯著性標記。
Residual standard error: 殘差標準誤。
Multiple R-squared: 判定係數。
Adjusted R-squared: 調整後的判定係數。
F-statistic: F 統計量。
(1) 列出迴歸係數估計方法的公式。
對於線性迴歸模型 ,迴歸係數向量 的估計方法是最小平方法 (Ordinary Least Squares, OLS)。
其公式為:
其中:
- 是迴歸係數向量的估計值。
- 是因變數向量(在此例中是「金額」)。
- 是自變數的設計矩陣,包含截距項和所有自變數。
- 是 的轉置矩陣。
- 是 的逆矩陣。
在我們的模型中,自變數有:1 (截距項), 年齡, 族群指標, 年齡:族群指標。
【答案】迴歸係數的估計方法是最小平方法 (OLS),其公式為 。
(2) 列出 R-square 和 Adjusted R-square 的公式。並說明本回歸模型配適資料的優劣。
-
R-square (判定係數):
其中:- 是殘差平方和 (Sum of Squared Errors)。
- 是總平方和 (Total Sum of Squares)。
表示因變數的總變異中,有多少比例可以被模型中的自變數解釋。
-
Adjusted R-square (調整後的判定係數):
其中:- 是樣本數。
- 是模型中自變數的數量(不包括截距項)。在本例中,p=3 (年齡, 族群指標, 年齡:族群指標)。
- 是殘差自由度。
考慮了模型中自變數的數量,當加入一個新的自變數時,如果它不能顯著提高模型的解釋能力,Adjusted R-square 可能會下降。
-
說明本回歸模型配適資料的優劣:
從提供的結果來看:- Multiple R-squared = 0.9601
- Adjusted R-squared = 0.9599
- F-statistic = 7379 on 3 and 921 DF
優點:
- 高 R-square 和 Adjusted R-square: 和 Adjusted 都非常接近 1 (0.9601 和 0.9599),這表示模型中包含的自變數(年齡、族群指標、年齡與族群指標的交互作用項)能夠解釋因變數(消費金額)約 96% 的變異。這是一個非常高的解釋比例,說明模型對資料的配適程度非常好。
- 顯著的 F 檢定: F 統計量非常大 (7379),且 p 值極小 (<2e-16,由 Signif. codes 顯示的 *** 符號可知),這表示整個模型是顯著的,即至少有一個自變數與因變數之間存在顯著的線性關係。
- 所有係數均顯著: 從 t value 和 Pr(>|t|) 來看,除了截距項外,所有自變數(年齡、族群指標、年齡:族群指標)的係數估計值都非常顯著(p 值均 <2e-16)。這表明這些變數對消費金額的影響是顯著的。
潛在的注意事項 (雖然在此題中未提供足夠資訊判斷):
- 殘差分析: 雖然題目在後續小題要求檢查殘差圖,但如果殘差圖顯示出模式(如非線性、異質變異數),則模型可能存在問題,儘管 R-square 很高。
- 交互作用項的解釋: 交互作用項的存在表示年齡對消費金額的影響取決於族群。這在解釋上需要小心。
總結: 根據提供的統計量,這個回歸模型對資料的配適程度非常好。
【答案】
- 本回歸模型配適資料的優劣:模型具有非常高的 (0.9601) 和 Adjusted (0.9599),且所有自變數(包括截距項)的檢定結果都非常顯著,F 檢定也顯示模型整體顯著。這表明該模型對資料的配適程度極佳。
(3) 計算年齡為 40 歲時,本回歸模型估計族群甲和族群乙的顧客平均消費金額各為多少。
回歸模型為:
金額
根據回歸分析結果,我們得到係數估計值:
-
計算族群甲 (族群指標 = 0) 的平均消費金額:
當族群指標 = 0,模型變為:
金額
金額
將年齡 = 40 歲代入:
平均消費金額 (族群甲, 年齡=40)
-
計算族群乙 (族群指標 = 1) 的平均消費金額:
當族群指標 = 1,模型變為:
金額
金額
金額
將年齡 = 40 歲代入:
第 5 題30 分
消費行為研究常常需要了解顧客特徵和消費現象之間的關係。有一個項消費研究收集 925 消費者的消費金額資料以及年齡和族群特徵,其中 466 來自族群甲, 459 人來自族群乙。圖三為年齡與金額的散佈圖,同時標註了族群。今以回歸分析來進行研究,定義族群指標變數,當消費者屬於族群甲,族群指標變數數值設為 0,當消費者屬於族群乙,族群指標變數數值設為 1。回歸模型為:
金額
圖三: 年齡與金額的散佈圖,同時標註了族群
回歸分析結果
Estimate Std. Error t value Pr(>|t])
(Intercept) 1814.5445 8.6011 211.0 <2e-16 ***
年齡 -20.3175 0.1878 -108.2 <2e-16 ***
族群指標 -1821.2337 12.5736 -144.8 <2e-16 ***
年齡:族群指標 40.4461 0.2724
Signif. codes: 0 ‘' 0.001 '' 0.01 '' 0.05 '.' 0.1
,
1
Residual standard error: 47.63 on 921 degrees of freedom
Multiple R-squared: 0.9601, Adjusted R-squared: 0.9599
F-statistic: 7379 on 3 and 921 DF
🖼️【此處有附圖,請對照原卷】
圖四: 回歸模型殘差圖
(1) (5%) 列出迴歸係數估計方法的公式。
(2) (5%) 列出 R-square 和 Adjusted R-square 的公式。並說明本回歸模型配適資料的優劣。
(3) (5%) 計算年齡為 40 歲時,本回歸模型估計族群甲和族群乙的顧客平均消費金額各為多少。
(4) (5%) 圖四為回歸模型兩張殘差圖。請利用圖四兩張殘差圖檢查隨機誤差項 的四項分佈假設是否符合。
(5) (5%) 列出虛無假設 時 t 檢定的公式。顯著水準設為 0.05,討論檢定結果。
(6) (5%) 列出回歸模型 F 檢定的虛無假設和檢定公式。顯著水準設為 0.05,討論檢定結果。
登入後即可作答並保存紀錄。
本題為一個綜合性的迴歸分析題目,涵蓋了迴歸係數的估計方法、模型擬合優度指標、模型解釋、殘差分析以及假設檢定。
給定的回歸模型為:
金額
其中,族群指標:甲=0,乙=1。
樣本數 。
回歸分析結果摘要:
Estimate: 估計的迴歸係數值。
Std. Error: 係數估計值的標準誤。
t value: t 統計量的值。
Pr(>|t]): t 檢定的 p 值。
Signif. codes: 顯著性標記。
Residual standard error: 殘差標準誤。
Multiple R-squared: 判定係數。
Adjusted R-squared: 調整後的判定係數。
F-statistic: F 統計量。
(1) 列出迴歸係數估計方法的公式。
對於線性迴歸模型 ,迴歸係數向量 的估計方法是最小平方法 (Ordinary Least Squares, OLS)。
其公式為:
其中:
- 是迴歸係數向量的估計值。
- 是因變數向量(在此例中是「金額」)。
- 是自變數的設計矩陣,包含截距項和所有自變數。
- 是 的轉置矩陣。
- 是 的逆矩陣。
在我們的模型中,自變數有:1 (截距項), 年齡, 族群指標, 年齡:族群指標。
【答案】迴歸係數的估計方法是最小平方法 (OLS),其公式為 。
(2) 列出 R-square 和 Adjusted R-square 的公式。並說明本回歸模型配適資料的優劣。
-
R-square (判定係數):
其中:- 是殘差平方和 (Sum of Squared Errors)。
- 是總平方和 (Total Sum of Squares)。
表示因變數的總變異中,有多少比例可以被模型中的自變數解釋。
-
Adjusted R-square (調整後的判定係數):
其中:- 是樣本數。
- 是模型中自變數的數量(不包括截距項)。在本例中,p=3 (年齡, 族群指標, 年齡:族群指標)。
- 是殘差自由度。
考慮了模型中自變數的數量,當加入一個新的自變數時,如果它不能顯著提高模型的解釋能力,Adjusted R-square 可能會下降。
-
說明本回歸模型配適資料的優劣:
從提供的結果來看:- Multiple R-squared = 0.9601
- Adjusted R-squared = 0.9599
- F-statistic = 7379 on 3 and 921 DF
優點:
- 高 R-square 和 Adjusted R-square: 和 Adjusted 都非常接近 1 (0.9601 和 0.9599),這表示模型中包含的自變數(年齡、族群指標、年齡與族群指標的交互作用項)能夠解釋因變數(消費金額)約 96% 的變異。這是一個非常高的解釋比例,說明模型對資料的配適程度非常好。
- 顯著的 F 檢定: F 統計量非常大 (7379),且 p 值極小 (<2e-16,由 Signif. codes 顯示的 *** 符號可知),這表示整個模型是顯著的,即至少有一個自變數與因變數之間存在顯著的線性關係。
- 所有係數均顯著: 從 t value 和 Pr(>|t|) 來看,除了截距項外,所有自變數(年齡、族群指標、年齡:族群指標)的係數估計值都非常顯著(p 值均 <2e-16)。這表明這些變數對消費金額的影響是顯著的。
潛在的注意事項 (雖然在此題中未提供足夠資訊判斷):
- 殘差分析: 雖然題目在後續小題要求檢查殘差圖,但如果殘差圖顯示出模式(如非線性、異質變異數),則模型可能存在問題,儘管 R-square 很高。
- 交互作用項的解釋: 交互作用項的存在表示年齡對消費金額的影響取決於族群。這在解釋上需要小心。
總結: 根據提供的統計量,這個回歸模型對資料的配適程度非常好。
【答案】
- 本回歸模型配適資料的優劣:模型具有非常高的 (0.9601) 和 Adjusted (0.9599),且所有自變數(包括截距項)的檢定結果都非常顯著,F 檢定也顯示模型整體顯著。這表明該模型對資料的配適程度極佳。
(3) 計算年齡為 40 歲時,本回歸模型估計族群甲和族群乙的顧客平均消費金額各為多少。
回歸模型為:
金額
根據回歸分析結果,我們得到係數估計值:
-
計算族群甲 (族群指標 = 0) 的平均消費金額:
當族群指標 = 0,模型變為:
金額
金額
將年齡 = 40 歲代入:
平均消費金額 (族群甲, 年齡=40)
-
計算族群乙 (族群指標 = 1) 的平均消費金額:
當族群指標 = 1,模型變為:
金額
金額
金額
將年齡 = 40 歲代入: