115 年 國立成功大學工業與資訊管理學系研究所甲組《統計學》
第 1 題
The president of a bank believes that the variance of the deposits of suburban customers is more than the variance of city customers. Below you are given the results of samples taken from suburban and city customers.
| Suburban Customers | City Customers | |
|---|---|---|
| Sample Size | 21 | 19 |
| Sample Mean | 520 | 640 |
| Sample Variance | 150 | 90 |
(1) State the null hypothesis for testing and justify. Please clearly define your symbols. (6%)
(2) Compute the value of the test statistic (2%) and specify its degrees of freedom (2%).
(3) State the necessary assumptions to perform this test. (5%)
登入後即可作答並保存紀錄。
本題考驗獨立樣本變異數的比較檢定,屬於統計推論中的假設檢定應用。
核心觀念:獨立樣本變異數的 F 檢定。
(1) 虛無假設的陳述與理由:
我們要檢定的是銀行行長認為郊區客戶存款的變異數大於市區客戶存款的變異數。
設 為郊區客戶存款的母體變異數, 為市區客戶存款的母體變異數。
則檢定的虛無假設 為 ,對立假設 為 。
然而,在進行 F 檢定時,通常會將虛無假設設定為兩母體變異數相等,即 。這樣做的理由是,F 檢定的統計量是兩樣本變異數的比值,當母體變異數相等時,這個比值期望接近 1。如果我們將 設定為 ,則 P-value 的計算會比較複雜。因此,標準的做法是將 設定為 ,並對應到右尾檢定,以檢驗 。
所以,虛無假設 。
理由:這是標準的 F 檢定虛無假設,用於比較兩個母體變異數是否相等。我們將其與對立假設 結合,進行單尾檢定。
(2) 檢定統計量的計算與自由度:
此處進行的是獨立樣本變異數的 F 檢定。檢定統計量為兩樣本變異數的比值。
樣本變異數 (郊區),樣本變異數 (市區)。
樣本大小 ,樣本大小 。
第 2 題10 分
In applying the simple random sampling on an infinite population, argue why a larger sample size tends to provide point estimates closer to the population mean. (10%)
登入後即可作答並保存紀錄。
本題旨在探討樣本大小對點估計精確度的影響,核心概念是中央極限定理 (Central Limit Theorem, CLT) 和大數法則 (Law of Large Numbers, LLN)。
核心觀念:大數法則與中央極限定理。
當我們從一個無限母體中進行簡單隨機抽樣時,樣本大小的增加如何使點估計值更接近母體參數,主要可以從大數法則和中央極限定理來解釋。
-
大數法則 (Law of Large Numbers, LLN):
大數法則指出,隨著樣本數 的增加,樣本平均數 會趨近於母體平均數 。更精確地說,對於任何 ,
這表示,當我們抽取越來越大的樣本時,樣本平均數與母體平均數之間的差異極小的機率會趨近於 1。因此,樣本平均數 是一個一致的 (consistent) 母體平均數 的估計量。 -
中央極限定理 (Central Limit Theorem, CLT):
第 3 題10 分
Let a categorical variable have three possible value A, B, and C. When it is replaced by the dummy variables and given below, the estimated linear regression equation is . Give the linear regression equation when the categorical variable is replaced by and .
| Dummy | ||
|---|---|---|
| A | 0 | 0 |
| B | 1 | 1 |
| C | 0 | 1 |
登入後即可作答並保存紀錄。
本題考驗的是虛擬變數 (dummy variables) 在線性迴歸中的應用,特別是如何根據虛擬變數的編碼方式來解釋迴歸係數,以及如何將不同編碼方式下的迴歸模型相互轉換。
核心觀念:虛擬變數編碼與迴歸模型轉換。
在線性迴歸中,類別型變數通常需要轉換為數值型變數才能納入模型。虛擬變數編碼是一種常見的方法。有幾種不同的虛擬變數編碼方式,其中最常見的是「參考類別編碼」(reference category coding)。
題目中給定的虛擬變數編碼如下:
| Dummy | ||
|---|---|---|
| A | 0 | 0 |
| B | 1 | 1 |
| C | 0 | 1 |
這種編碼方式沒有明確指定哪一個類別是參考類別。然而,根據常見的編碼慣例,通常會選擇其中一個類別(例如 A)對應到所有虛擬變數為 0 的情況。如果 A 是參考類別,那麼:
- 當類別為 A 時,。
- 當類別為 B 時,。
- 當類別為 C 時,。
這意味著,這不是標準的「排除法」(dummy variable trap) 編碼,因為當有三個類別時,通常需要 個虛擬變數。這裡使用了兩個虛擬變數 和 ,並且 B 的編碼是 ,這與 A 和 C 都不同。這可能是一種「多對一」的編碼方式,或者是一種特殊的編碼。
題目給定的迴歸方程式為 。
我們要將這個迴歸方程式轉換為使用 和 作為自變數的迴歸方程式。
題目稍微有點令人困惑,因為它說「給出當類別變數被 和 取代時的線性迴歸方程式」,但它已經給出了使用 和 的迴歸方程式 。
讓我們假設題目是要問,如果我們用另一種常見的虛擬變數編碼方式(例如,將 A 作為參考類別,然後為 B 和 C 分別建立一個虛擬變數),那麼這個模型會是什麼樣子,或者,如何從這個模型解釋係數。
但是,最直接的理解是,題目已經給出了模型,並要求「給出...迴歸方程式」。這意味著,可能只是要求將原式寫出來,並說明其係數的意義。
重新解讀題目:
「Let a categorical variable have three possible value A, B, and C. When it is replaced by the dummy variables and given below, the estimated linear regression equation is . Give the linear regression equation when the categorical variable is replaced by and 。」
這句話聽起來就像是:
「一個類別變數有 A, B, C 三個值。當它被以下虛擬變數 取代後,估計的線性迴歸方程式是 。請給出當類別變數被 和 取代時的線性迴歸方程式。」
這似乎是一個循環定義。最有可能的解釋是,題目要求的是將模型寫出來,並可能需要解釋係數的意義,或者,題目想考驗的是對虛擬變數編碼的理解。
假設題目意圖是解釋係數:
在這種編碼方式下, 和 的組合是唯一的。
- 當類別為 A 時,。代入模型:。
- 當類別為 B 時,。代入模型:。
- 當類別為 C 時,。代入模型:。
所以,這個模型實際上是:
- A 對應的截距項是 7.2。
- B 的係數 和 是相對於 A 的差異。
- 的意義是增加 1.9。
- 的意義是減少 0.3。
- 對於 B,兩個都發生,所以 。
- 對於 C,只有 發生,所以 。
如果題目是問如何轉換成標準的參考類別編碼:
假設 A 是參考類別。那麼我們需要兩個虛擬變數: 和 。
- 如果類別是 A,
- 如果類別是 B,
- 如果類別是 C,
現在我們需要找出 與 之間的關係。
從表格中:
- A:
- B:
- C:
我們可以觀察到:
- 當 時,類別是 A。對應 。
- 當 時,類別是 C。對應 。
- 當 時,類別是 B。對應 。
我們可以嘗試建立 與 的關係。
第 4 題
A group of 500 individuals were asked to cast their votes regarding a particular issue of the Equal Rights Amendment. The following table shows the results of the votes.
| Sex | Favor | Undecided | Oppose | TOTAL |
|---|---|---|---|---|
| Female | 180 | 80 | 40 | 300 |
| Male | 150 | 20 | 30 | 200 |
| TOTAL | 330 | 100 | 70 | 500 |
(1) Define random variables to formulate the null hypothesis for testing whether voter preference is independent of the sex of the individuals. (3%)
(2) Compute the value of the test statistic (8%) and clearly specify its degrees of freedom. (2%)
(3) Argue why the test can be applied on this application (2%).
登入後即可作答並保存紀錄。
核心觀念
本題考驗列聯表的「卡方獨立性檢定」。設:
- :個人性別,取值為 Female、Male。
- :對 Equal Rights Amendment 的投票偏好,取值為 Favor、Undecided、Oppose。
欲檢定性別與投票偏好是否相互獨立,因此假設為:
等價地,虛無假設可寫成:
對所有性別 與投票偏好 均成立。
解題方法與期望次數
觀察值以二維列聯表呈現,適合使用 Pearson 卡方獨立性檢定。
在 成立時,第 列、第 欄的期望次數為:
因此各格期望次數如下:
| 性別 | Favor | Undecided | Oppose | TOTAL |
|---|---|---|---|---|
| Female | 300 | |||
| Male | 200 | |||
| TOTAL | 330 | 100 | 70 | 500 |
卡方檢定統計量
Pearson 卡方統計量為:
其中 為觀察次數, 為期望次數。
代入六個儲存格:
第 5 題10 分
The joint probability density function of X and Y is given by
(a) (5%) Find E[X]
(b) (5%) Find P{X > Y}
登入後即可作答並保存紀錄。
本題考驗聯合機率密度函數的性質,包括計算邊際期望值和計算特定區域的機率。
核心觀念:聯合機率密度函數、邊際期望值、區域機率計算。
給定的聯合機率密度函數為 ,定義域為 且 。
首先,我們需要驗證這是否是一個有效的機率密度函數,即積分是否為 1。
這裡的計算結果是 ,而不是 1。這表示題目給定的 並不是一個標準的機率密度函數。
通常,如果題目給定的 PDF 積分不是 1,我們會假設題目中的常數是錯誤的,或者要求我們找到正確的常數。
如果我們假設正確的常數 使得 ,那麼 。
即,正確的 PDF 應為 。
然而,在考試中,我們通常會直接使用題目給定的函數,即使它不歸一化。我們假設題目是想考驗計算方法,而不是 PDF 的驗證。所以,我們將使用 進行計算。
(a) Find E[X]
期望值 的計算公式為:
在給定的定義域內:
先計算內層積分:
現在將結果代回外層積分:
第 6 題20 分
Let . First, draw a value of . Given this value of , observe a random variable whose distribution is Poisson with parameter , where and are constants.
(a) (10%) Find E[Z].
(b) (10%) Find Var[Z].
登入後即可作答並保存紀錄。
本題考驗條件機率、期望值和變異數的計算,以及如何處理隨機變數的參數依賴於另一個隨機變數的情況。
核心觀念:條件期望、條件變異數、全期望法則、全變異數法則。
我們已知:
- 。其機率密度函數 (PDF) 為 for ,否則為 0。
- 的分佈是 Poisson 分佈,其參數為 。這表示,給定 的條件下, 服從參數為 的 Poisson 分佈。
即,。
Poisson 分佈的性質:若 ,則 且 。
(a) Find E[Z]
我們使用全期望法則 (Law of Total Expectation):。
首先,計算條件期望 。
根據 Poisson 分佈的性質,。
所以,給定 時, 的期望值為 。
因此,。
現在,我們計算 :
由於 是常數,
服從 Uniform(0, 1),所以 。
(b) Find Var[Z]
我們使用全變異數法則 (Law of Total Variance):。
我們已經知道:
第 7 題20 分
Let be a three-dimensional random vector with finite second moments. Suppose that , , , , , and . Define . Among all linear predictor of based on of the form: , answer the following questions.
(a) (10%) Find the values that minimize the mean squared error: .
(b) (10%) Find the minimum mean squared error: .
登入後即可作答並保存紀錄。
本題考驗的是線性預測 (Linear Prediction) 的概念,特別是如何找到最佳的線性預測式,以最小化均方誤差 (Mean Squared Error, MSE)。這在迴歸分析和時間序列分析中非常常見。
核心觀念:最小均方誤差線性預測、迴歸係數。
我們被要求找到 形式的線性預測式,以最小化 ,其中 。
我們已知:
首先,我們需要計算 的期望值和變異數,以及 與 的共變異數。
。
。
。
(a) Find the values that minimize the mean squared error:
我們要最小化 。
令 。
我們希望找到 和 來最小化 MSE。
從迴歸分析的觀點來看,這相當於簡單線性迴歸中,預測變數 (因變數)由 (自變數)及其截距項組成。
最佳的線性預測值 滿足:
因為 且 ,所以 。
這意味著最佳線性預測式 應通過 點。
另外,對於最佳的 ,我們有:
將我們計算出的值代入:
。