115 年 國立政治大學風險管理與保險學系碩士班管理組《統計學》

📄 試題原卷 免費註冊後即可對照原始考卷 PDF免費註冊

第 1 題10 分

寫出動差母函數 (Moment Generating Function, MGF) M(t)M(t) 的數學式 (定義), 證明一次微分 M′(0)M'(0) 等於平均數 (μ)(\mu), 二次微分 M′′(0)M''(0) 等於二階動差 (E[X2])(E[X^2])。

M(t)=E[etX]=∫−∞∞etxf(x)dxM(t) = E[e^{tX}] = \int_{-\infty}^{\infty} e^{tx} f(x) dx 或 ∑xetxP(X=x)\sum_{x} e^{tx} P(X=x)

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

本題評量數理統計學中**動差母函數(Moment Generating Function, MGF)**的基礎理論與性質證明。涉及的核心觀念包含:

  1. 動差母函數的定義:隨機變數 XX 的期望值轉換式 MX(t)=E[etX]M_X(t) = E[e^{tX}](前提為在包含 t=0t = 0 的某開區間 (−h,h)(-h, h) 內該期望值存在)。
  2. 泰勒展開式(Taylor Series):指數函數的無窮級數展開 eu=∑k=0∞ukk!=1+u+u22!+u33!+⋯e^{u} = \sum_{k=0}^{\infty} \frac{u^k}{k!} = 1 + u + \frac{u^2}{2!} + \frac{u^3}{3!} + \cdots。
  3. 積分符號內微分(Leibniz Integral Rule):在 MGF 存在的充分條件下,微分算子與期望值(或積分/求和)算子可交換次序,即 ddtE[etX]=E[ddtetX]\frac{d}{dt}E[e^{tX}] = E\left[\frac{d}{dt}e^{tX}\right]。
  4. 原點動差(Raw Moments):隨機變數的 kk 階原點動差定義為 αk=E[Xk]\alpha_k = E[X^k],其中一階動差為平均數 μ=E[X]\mu = E[X],二階動差為 E[X2]E[X^2]。

解題方法

本題包含兩個核心任務:

  1. 給出動差母函數的完整數學定義。
  2. 證明 M′(0)=E[X]=μM'(0) = E[X] = \mu 與 M′′(0)=E[X2]M''(0) = E[X^2]。

證明主要有兩種嚴謹途徑:

  • 方法一(微分與期望值交換法,標準法):利用連鎖律對參數 tt 求導,再將 t=0t=0 代入。
  • 方法二(級數展開法,觀念法):展開 E[etX]E[e^{tX}],逐項微分後令 t=0t=0。

以下採用數理統計標準的微分與期望值交換法進行推導,並以連續型隨機變數展示積分符號下的嚴格步驟(離散型結構完全相同)。


1. 動差母函數(MGF)的數學定義

設隨機變數 XX 的機率密度函數為 f(x)f(x)(若為離散型則為機率質量函數 p(x)=P(X=x)p(x) = P(X=x))。若存在常數 h>0h > 0,使得對所有滿足 −h<t<h-h < t < h 的實數 tt,期望值 E[etX]E[e^{tX}] 皆存在且有限,則稱:

MX(t)=E[etX]M_X(t) = E[e^{tX}]

為隨機變數 XX 的動差母函數。其具體運算式為:

  • 連續型(Continuous Case):
MX(t)=∫−∞∞etxf(x) dxM_X(t) = \int_{-\infty}^{\infty} e^{tx} f(x) \, dx
  • 離散型(Discrete Case):
MX(t)=∑xetxP(X=x)M_X(t) = \sum_{x} e^{tx} P(X=x)

2. 證明一階微分 M′(0)=μM'(0) = \mu

對 MX(t)M_X(t) 關於參數 tt 進行一次微分:

MX′(t)=ddtMX(t)=ddtE[etX]M'_X(t) = \frac{d}{dt} M_X(t) = \frac{d}{dt} E[e^{tX}]

在 t∈(−h,h)t \in (-h, h) 的鄰域內,微分與期望值運算子可交換:

MX′(t)=E[ddtetX]M'_X(t) = E\left[ \frac{d}{dt} e^{tX} \right]

由微積分連鎖律,ddtetX=XetX\frac{d}{dt} e^{tX} = X e^{tX},故:

MX′(t)=E[XetX]M'_X(t) = E[X e^{tX}]

若以連續型積分形式寫出,等價於:

MX′(t)=ddt∫−∞∞etxf(x) dx=∫−∞∞∂∂t(etx)f(x) dx=∫−∞∞xetxf(x) dxM'_X(t) = \frac{d}{dt} \int_{-\infty}^{\infty} e^{tx} f(x) \, dx = \int_{-\infty}^{\infty} \frac{\partial}{\partial t} \left(e^{tx}\right) f(x) \, dx = \int_{-\infty}^{\infty} x e^{tx} f(x) \, dx

將 t=0t = 0 代入 MX′(t)M'_X(t):

MX′(0)=E[Xe0⋅X]=E[X⋅1]=E[X]=μM'_X(0) = E\left[ X e^{0 \cdot X} \right] = E[X \cdot 1] = E[X] = \mu

得證 M′(0)=μM'(0) = \mu。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 2 題10 分

定義期望值 E[X]E[X] 的動差母函數 (MGF) M(t)=E[etX]M(t) = E[e^{tX}]。
定義累積量母函數 (Cumulant Generating Function, CGF) K(t)=ln⁡(M(t))K(t) = \ln(M(t))。
計算 K(t)K(t) 的一次微分 K′(0)K'(0) 及二次微分 K′′(0)K''(0)。

登入後即可作答並保存紀錄。

這一題的完整詳解

本題考查累積量母函數 (Cumulant Generating Function, CGF) 的定義,以及 CGF 的微分與機率分配動差之間的關係。CGF 是 MGF 的一個變換,在某些情況下,它能更簡潔地揭示分配的特性。

核心觀念: 累積量母函數 (CGF) 的定義、鏈式法則 (Chain Rule) 在微分中的應用。

解題步驟:

  1. CGF 的定義:
    題目已給出 CGF 的定義:
    K(t)=ln⁡(M(t))K(t) = \ln(M(t))
    其中 M(t)M(t) 是動差母函數 (MGF)。

  2. 計算 K′(t)K'(t):
    我們使用鏈式法則來微分 K(t)K(t)。
    K′(t)=ddtln⁡(M(t))=1M(t)⋅ddtM(t)K'(t) = \frac{d}{dt} \ln(M(t)) = \frac{1}{M(t)} \cdot \frac{d}{dt} M(t)
    我們知道 ddtM(t)=M′(t)\frac{d}{dt} M(t) = M'(t)。
    所以,
    K′(t)=M′(t)M(t)K'(t) = \frac{M'(t)}{M(t)}

  3. 計算 K′(0)K'(0):
    將 t=0t=0 代入 K′(t)K'(t) 的表達式。
    K′(0)=M′(0)M(0)K'(0) = \frac{M'(0)}{M(0)}
    我們需要知道 M′(0)M'(0) 和 M(0)M(0) 的值。

    • 從上一題的知識,我們知道 M′(0)=E[X]=μM'(0) = E[X] = \mu。
    • M(0)M(0) 是 M(t)M(t) 在 t=0t=0 的值:M(0)=E[e0⋅X]=E[e0]=E[1]M(0) = E[e^{0 \cdot X}] = E[e^0] = E[1]。期望值為常數 1 的值就是 1。所以 M(0)=1M(0) = 1。

    將這些值代入 K′(0)K'(0):
    K′(0)=μ1=μK'(0) = \frac{\mu}{1} = \mu
    因此,K′(0)K'(0) 等於隨機變數的平均數 μ\mu。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 3 題10 分

寫出常態分配 (Normal distribution) 的動差母函數 (MGF) M(t)M(t)、累積量母函數 (CGF) K(t)K(t),並利用 CGF 計算其平均值和標準差。
已知常態分配的機率密度函數 (PDF) 為:
X∼N(μ,σ2),f(x)=12πσe−(x−μ)22σ2,−∞<x<∞X \sim N(\mu, \sigma^2), \quad f(x) = \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(x-\mu)^2}{2\sigma^2}}, \quad -\infty < x < \infty

登入後即可作答並保存紀錄。

這一題的完整詳解

本題要求利用常態分配的機率密度函數 (PDF) 推導其動差母函數 (MGF) 和累積量母函數 (CGF),並進一步從 CGF 計算其平均值和標準差。這是一個經典的題目,用於展示 MGF 和 CGF 在確定分配特性上的便利性。

核心觀念: 常態分配 MGF 的推導,CGF 與平均數、變異數的關係。

解題步驟:

  1. 推導常態分配的 MGF:
    常態分配的 PDF 為 f(x)=12πσe−(x−μ)22σ2f(x) = \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(x-\mu)^2}{2\sigma^2}}。
    MGF 的定義是 M(t)=E[etX]=∫−∞∞etxf(x)dxM(t) = E[e^{tX}] = \int_{-\infty}^{\infty} e^{tx} f(x) dx。
    M(t)=∫−∞∞etx12πσe−(x−μ)22σ2dxM(t) = \int_{-\infty}^{\infty} e^{tx} \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(x-\mu)^2}{2\sigma^2}} dx
    M(t)=12πσ∫−∞∞etx−(x−μ)22σ2dxM(t) = \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} e^{tx - \frac{(x-\mu)^2}{2\sigma^2}} dx
    我們需要將指數部分整理成一個完整的平方項。
    指數部分為:tx−x2−2μx+μ22σ2=tx−x22σ2+μxσ2−μ22σ2tx - \frac{x^2 - 2\mu x + \mu^2}{2\sigma^2} = tx - \frac{x^2}{2\sigma^2} + \frac{\mu x}{\sigma^2} - \frac{\mu^2}{2\sigma^2}
    =−12σ2(x2−2μx−2σ2tx)−μ22σ2= -\frac{1}{2\sigma^2} (x^2 - 2\mu x - 2\sigma^2 tx) - \frac{\mu^2}{2\sigma^2}
    =−12σ2(x2−2(μ+σ2t)x)−μ22σ2= -\frac{1}{2\sigma^2} \left( x^2 - 2(\mu + \sigma^2 t) x \right) - \frac{\mu^2}{2\sigma^2}
    為了形成完全平方,我們加上並減去 (μ+σ2t)2(\mu + \sigma^2 t)^2。
    =−12σ2(x2−2(μ+σ2t)x+(μ+σ2t)2−(μ+σ2t)2)−μ22σ2= -\frac{1}{2\sigma^2} \left( x^2 - 2(\mu + \sigma^2 t) x + (\mu + \sigma^2 t)^2 - (\mu + \sigma^2 t)^2 \right) - \frac{\mu^2}{2\sigma^2}
    =−12σ2(x−(μ+σ2t))2+(μ+σ2t)22σ2−μ22σ2= -\frac{1}{2\sigma^2} \left( x - (\mu + \sigma^2 t) \right)^2 + \frac{(\mu + \sigma^2 t)^2}{2\sigma^2} - \frac{\mu^2}{2\sigma^2}
    =−(x−(μ+σ2t))22σ2+μ2+2μσ2t+σ4t2−μ22σ2= -\frac{(x - (\mu + \sigma^2 t))^2}{2\sigma^2} + \frac{\mu^2 + 2\mu\sigma^2 t + \sigma^4 t^2 - \mu^2}{2\sigma^2}
    =−(x−(μ+σ2t))22σ2+2μσ2t+σ4t22σ2= -\frac{(x - (\mu + \sigma^2 t))^2}{2\sigma^2} + \frac{2\mu\sigma^2 t + \sigma^4 t^2}{2\sigma^2}
    =−(x−(μ+σ2t))22σ2+μt+σ2t22= -\frac{(x - (\mu + \sigma^2 t))^2}{2\sigma^2} + \mu t + \frac{\sigma^2 t^2}{2}
    所以,指數部分可以寫成:
    etx−(x−μ)22σ2=eμt+σ2t22⋅e−(x−(μ+σ2t))22σ2e^{tx - \frac{(x-\mu)^2}{2\sigma^2}} = e^{\mu t + \frac{\sigma^2 t^2}{2}} \cdot e^{-\frac{(x - (\mu + \sigma^2 t))^2}{2\sigma^2}}
    現在將其代回積分:
🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 4 題10 分

寫出指數分配 (Exponential distribution) 的動差母函數 (MGF) M(t)M(t)、累積量母函數 (CGF) K(t)K(t),並利用 CGF 計算其平均值和標準差。
已知指數分配的機率密度函數 (PDF) 為:
f(x;λ)=λe−λx,x≥0,λ>0f(x; \lambda) = \lambda e^{-\lambda x}, \quad x \ge 0, \quad \lambda > 0

登入後即可作答並保存紀錄。

這一題的完整詳解

本題要求利用指數分配的機率密度函數 (PDF) 推導其動差母函數 (MGF) 和累積量母函數 (CGF),並進一步從 CGF 計算其平均值和標準差。這與常態分配的題目類似,但適用於一個重要的單參數機率分配。

核心觀念: 指數分配 MGF 的推導,CGF 與平均數、變異數的關係。

解題步驟:

  1. 推導指數分配的 MGF:
    指數分配的 PDF 為 f(x)=λe−λxf(x) = \lambda e^{-\lambda x},定義域為 x≥0x \ge 0。
    MGF 的定義是 M(t)=E[etX]=∫0∞etxf(x)dxM(t) = E[e^{tX}] = \int_{0}^{\infty} e^{tx} f(x) dx。
    M(t)=∫0∞etx(λe−λx)dxM(t) = \int_{0}^{\infty} e^{tx} (\lambda e^{-\lambda x}) dx
    M(t)=λ∫0∞etx−λxdxM(t) = \lambda \int_{0}^{\infty} e^{tx - \lambda x} dx
    M(t)=λ∫0∞e(t−λ)xdxM(t) = \lambda \int_{0}^{\infty} e^{(t-\lambda) x} dx
    這個積分收斂的條件是 t−λ<0t-\lambda < 0,即 t<λt < \lambda。
    M(t)=λ[e(t−λ)xt−λ]0∞M(t) = \lambda \left[ \frac{e^{(t-\lambda) x}}{t-\lambda} \right]_{0}^{\infty}
    當 x→∞x \to \infty,由於 t−λ<0t-\lambda < 0,所以 e(t−λ)x→0e^{(t-\lambda) x} \to 0。
    當 x=0x = 0,e(t−λ)⋅0=e0=1e^{(t-\lambda) \cdot 0} = e^0 = 1。
    M(t)=λ(0−1t−λ)M(t) = \lambda \left( 0 - \frac{1}{t-\lambda} \right)
    M(t)=λ(−1t−λ)=λλ−tM(t) = \lambda \left( \frac{-1}{t-\lambda} \right) = \frac{\lambda}{\lambda-t}
    這個 MGF 在 t<λt < \lambda 時存在。

  2. 推導指數分配的 CGF:
    CGF 的定義是 K(t)=ln⁡(M(t))K(t) = \ln(M(t))。
    K(t)=ln⁡(λλ−t)K(t) = \ln \left( \frac{\lambda}{\lambda-t} \right)
    K(t)=ln⁡(λ)−ln⁡(λ−t)K(t) = \ln(\lambda) - \ln(\lambda-t)
    這個 CGF 在 t<λt < \lambda 時定義。

  3. 利用 CGF 計算平均值:
    平均值 μ=K′(0)\mu = K'(0)。
    我們對 K(t)=ln⁡(λ)−ln⁡(λ−t)K(t) = \ln(\lambda) - \ln(\lambda-t) 求一次微分:
    K′(t)=ddt(ln⁡(λ))−ddt(ln⁡(λ−t))K'(t) = \frac{d}{dt} (\ln(\lambda)) - \frac{d}{dt} (\ln(\lambda-t))

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 5 題10 分

寫出 Gamma 分配 (Gamma distribution) 的動差母函數 (MGF) M(t)M(t)、累積量母函數 (CGF) K(t)K(t),並利用 CGF 計算其平均值和標準差。
已知 Gamma 分配的機率密度函數 (PDF) 為:
f(x;α,β)=βαΓ(α)xα−1e−βx,x≥0,α>0,β>0f(x; \alpha, \beta) = \frac{\beta^\alpha}{\Gamma(\alpha)} x^{\alpha-1} e^{-\beta x}, \quad x \ge 0, \quad \alpha > 0, \beta > 0
其中 Γ(α)\Gamma(\alpha) 是 Gamma 函數。

登入後即可作答並保存紀錄。

這一題的完整詳解

本題要求利用 Gamma 分配的機率密度函數 (PDF) 推導其動差母函數 (MGF) 和累積量母函數 (CGF),並進一步從 CGF 計算其平均值和標準差。Gamma 分配是一個重要的連續機率分配,它有兩個參數 α\alpha 和 β\beta。

核心觀念: Gamma 分配 MGF 的推導,CGF 與平均數、變異數的關係。

解題步驟:

  1. 推導 Gamma 分配的 MGF:
    Gamma 分配的 PDF 為 f(x;α,β)=βαΓ(α)xα−1e−βxf(x; \alpha, \beta) = \frac{\beta^\alpha}{\Gamma(\alpha)} x^{\alpha-1} e^{-\beta x},定義域為 x≥0x \ge 0。
    MGF 的定義是 M(t)=E[etX]=∫0∞etxf(x)dxM(t) = E[e^{tX}] = \int_{0}^{\infty} e^{tx} f(x) dx。
    M(t)=∫0∞etxβαΓ(α)xα−1e−βxdxM(t) = \int_{0}^{\infty} e^{tx} \frac{\beta^\alpha}{\Gamma(\alpha)} x^{\alpha-1} e^{-\beta x} dx
    M(t)=βαΓ(α)∫0∞xα−1e(t−β)xdxM(t) = \frac{\beta^\alpha}{\Gamma(\alpha)} \int_{0}^{\infty} x^{\alpha-1} e^{(t-\beta) x} dx
    為了使積分收斂,我們需要 t−β<0t-\beta < 0,即 t<βt < \beta。
    我們想將積分部分轉換成 Gamma 函數的形式。Gamma 函數的定義是 Γ(z)=∫0∞yz−1e−ydy\Gamma(z) = \int_{0}^{\infty} y^{z-1} e^{-y} dy。
    令 y=(β−t)xy = (\beta-t)x。則 x=yβ−tx = \frac{y}{\beta-t},且 dx=1β−tdydx = \frac{1}{\beta-t} dy。
    當 x=0x=0, y=0y=0。當 x→∞x \to \infty, y→∞y \to \infty (因為 β−t>0\beta-t > 0)。
    xα−1=(yβ−t)α−1=yα−1(β−t)α−1x^{\alpha-1} = \left(\frac{y}{\beta-t}\right)^{\alpha-1} = \frac{y^{\alpha-1}}{(\beta-t)^{\alpha-1}}。
    e(t−β)x=e−(β−t)x=e−ye^{(t-\beta)x} = e^{-(\beta-t)x} = e^{-y}。
    代入積分:
    ∫0∞xα−1e(t−β)xdx=∫0∞(yβ−t)α−1e−y(1β−tdy)\int_{0}^{\infty} x^{\alpha-1} e^{(t-\beta) x} dx = \int_{0}^{\infty} \left(\frac{y}{\beta-t}\right)^{\alpha-1} e^{-y} \left(\frac{1}{\beta-t} dy\right)
    =1(β−t)α−11β−t∫0∞yα−1e−ydy= \frac{1}{(\beta-t)^{\alpha-1}} \frac{1}{\beta-t} \int_{0}^{\infty} y^{\alpha-1} e^{-y} dy
    =1(β−t)α∫0∞yα−1e−ydy= \frac{1}{(\beta-t)^{\alpha}} \int_{0}^{\infty} y^{\alpha-1} e^{-y} dy
    積分部分 ∫0∞yα−1e−ydy\int_{0}^{\infty} y^{\alpha-1} e^{-y} dy 就是 Γ(α)\Gamma(\alpha)。
    所以,積分結果為 Γ(α)(β−t)α\frac{\Gamma(\alpha)}{(\beta-t)^{\alpha}}。
    現在將其代回 MGF 的表達式:
    M(t)=βαΓ(α)⋅Γ(α)(β−t)αM(t) = \frac{\beta^\alpha}{\Gamma(\alpha)} \cdot \frac{\Gamma(\alpha)}{(\beta-t)^{\alpha}}
    M(t)=βα(β−t)α=(ββ−t)αM(t) = \frac{\beta^\alpha}{(\beta-t)^{\alpha}} = \left(\frac{\beta}{\beta-t}\right)^\alpha
    這個 MGF 在 t<βt < \beta 時存在。

  2. 推導 Gamma 分配的 CGF:
    CGF 的定義是 K(t)=ln⁡(M(t))K(t) = \ln(M(t))。
    K(t)=ln⁡((ββ−t)α)K(t) = \ln \left( \left(\frac{\beta}{\beta-t}\right)^\alpha \right)

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 6 題10 分

計算對數常態分配 (Lognormal distribution) 的平均值和標準差。
提示:若 XX 服從對數常態分配,則 Y=ln⁡(X)Y = \ln(X) 服從常態分配 N(μ,σ2)N(\mu, \sigma^2)。

登入後即可作答並保存紀錄。

這一題的完整詳解

本題考查對數常態分配 (Lognormal distribution) 的平均值和標準差的計算。題目給出了關鍵提示:若 XX 服從對數常態分配,則 Y=ln⁡(X)Y = \ln(X) 服從常態分配 N(μ,σ2)N(\mu, \sigma^2)。我們需要利用這個關係以及常態分配的性質來求解。

核心觀念: 對數常態分配與常態分配的轉換關係,期望值和變異數的性質。

解題步驟:

  1. 理解對數常態分配的定義:
    如果一個隨機變數 XX 的對數 ln⁡(X)\ln(X) 服從常態分配 N(μ,σ2)N(\mu, \sigma^2),那麼 XX 就服從對數常態分配。
    我們已知:

    • Y=ln⁡(X)∼N(μ,σ2)Y = \ln(X) \sim N(\mu, \sigma^2)
    • 根據常態分配的性質 (從前一題可知), E[Y]=μE[Y] = \mu 且 Var(Y)=σ2\text{Var}(Y) = \sigma^2。
  2. 將常態分配的期望值和變異數關係轉換回對數常態分配:
    我們需要計算 E[X]E[X] 和 Var(X)\text{Var}(X)。
    從 Y=ln⁡(X)Y = \ln(X),我們可以得到 X=eYX = e^Y。
    因此,我們實際上是要計算 E[eY]E[e^Y] 和 Var(eY)\text{Var}(e^Y),其中 Y∼N(μ,σ2)Y \sim N(\mu, \sigma^2)。

  3. 計算 E[X]=E[eY]E[X] = E[e^Y]:
    E[eY]E[e^Y] 是隨機變數 eYe^Y 的期望值。
    我們知道 YY 的 MGF 是 MY(t)=eμt+σ2t22M_Y(t) = e^{\mu t + \frac{\sigma^2 t^2}{2}}。
    根據 MGF 的定義, MY(t)=E[etY]M_Y(t) = E[e^{tY}]。
    我們需要計算 E[eY]E[e^Y],這相當於在 MGF 的定義中,將 tt 設定為 1。
    所以,
    E[X]=E[eY]=MY(1)=eμ(1)+σ2(1)22=eμ+σ22E[X] = E[e^Y] = M_Y(1) = e^{\mu(1) + \frac{\sigma^2 (1)^2}{2}} = e^{\mu + \frac{\sigma^2}{2}}
    這就是對數常態分配的平均值。

  4. 計算 Var(X)\text{Var}(X):
    變異數的計算公式是 Var(X)=E[X2]−(E[X])2\text{Var}(X) = E[X^2] - (E[X])^2。
    我們已經計算了 E[X]E[X]。現在需要計算 E[X2]E[X^2]。
    X2=(eY)2=e2YX^2 = (e^Y)^2 = e^{2Y}。
    所以,我們需要計算 E[e2Y]E[e^{2Y}]。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 7 題40 分

假設 x={1,2,3,4}x = \{1, 2, 3, 4\} 且 y={2,5,5,8}y = \{2, 5, 5, 8\}。請回答以下四小題:
(a) 請用最小平方法寫出回歸方程式 y^=β0+β1x\hat{y} = \beta_0 + \beta_1 x。
(b) 計算 SSR, SSE, SST。
(c) 請用矩陣與向量寫出本問題的正規方程式 (normal equation)。
(d) 請寫出本問題的投射矩陣 (projection matrix) PP。

登入後即可作答並保存紀錄。

這一題的完整詳解

本題是關於簡單線性迴歸的基礎計算與概念應用。題目給定兩組數據點,要求計算迴歸直線方程式、殘差平方和、總平方和,並以矩陣形式表達正規方程式和投射矩陣。

核心觀念: 最小平方法、迴歸分析的平方和分解 (SSR, SSE, SST)、矩陣迴歸、投射矩陣。

數據:
x={1,2,3,4}x = \{1, 2, 3, 4\}
y={2,5,5,8}y = \{2, 5, 5, 8\}
樣本數 n=4n=4。

計算數據統計量:
xˉ=1+2+3+44=104=2.5\bar{x} = \frac{1+2+3+4}{4} = \frac{10}{4} = 2.5
yˉ=2+5+5+84=204=5\bar{y} = \frac{2+5+5+8}{4} = \frac{20}{4} = 5

SSxx=∑i=1n(xi−xˉ)2=(1−2.5)2+(2−2.5)2+(3−2.5)2+(4−2.5)2SS_{xx} = \sum_{i=1}^n (x_i - \bar{x})^2 = (1-2.5)^2 + (2-2.5)^2 + (3-2.5)^2 + (4-2.5)^2
SSxx=(−1.5)2+(−0.5)2+(0.5)2+(1.5)2=2.25+0.25+0.25+2.25=5SS_{xx} = (-1.5)^2 + (-0.5)^2 + (0.5)^2 + (1.5)^2 = 2.25 + 0.25 + 0.25 + 2.25 = 5

SSxy=∑i=1n(xi−xˉ)(yi−yˉ)SS_{xy} = \sum_{i=1}^n (x_i - \bar{x})(y_i - \bar{y})
SSxy=(1−2.5)(2−5)+(2−2.5)(5−5)+(3−2.5)(5−5)+(4−2.5)(8−5)SS_{xy} = (1-2.5)(2-5) + (2-2.5)(5-5) + (3-2.5)(5-5) + (4-2.5)(8-5)
SSxy=(−1.5)(−3)+(−0.5)(0)+(0.5)(0)+(1.5)(3)SS_{xy} = (-1.5)(-3) + (-0.5)(0) + (0.5)(0) + (1.5)(3)
SSxy=4.5+0+0+4.5=9SS_{xy} = 4.5 + 0 + 0 + 4.5 = 9

解題步驟:

(a) 寫出回歸方程式 y^=β0+β1x\hat{y} = \beta_0 + \beta_1 x

根據最小平方法,迴歸直線的斜率 β1\beta_1 和截距 β0\beta_0 為:
β1=SSxySSxx\beta_1 = \frac{SS_{xy}}{SS_{xx}}
β0=yˉ−β1xˉ\beta_0 = \bar{y} - \beta_1 \bar{x}

計算 β1\beta_1:
β1=95=1.8\beta_1 = \frac{9}{5} = 1.8

計算 β0\beta_0:
β0=5−(1.8)(2.5)=5−4.5=0.5\beta_0 = 5 - (1.8)(2.5) = 5 - 4.5 = 0.5

因此,回歸方程式為:
y^=0.5+1.8x\hat{y} = 0.5 + 1.8x

【答案】y^=0.5+1.8x\hat{y} = 0.5 + 1.8x

(b) 計算 SSR, SSE, SST

首先計算預測值 y^i\hat{y}_i 和殘差 ei=yi−y^ie_i = y_i - \hat{y}_i。
x1=1,y1=2  ⟹  y^1=0.5+1.8(1)=2.3  ⟹  e1=2−2.3=−0.3x_1=1, y_1=2 \implies \hat{y}_1 = 0.5 + 1.8(1) = 2.3 \implies e_1 = 2 - 2.3 = -0.3
x2=2,y2=5  ⟹  y^2=0.5+1.8(2)=0.5+3.6=4.1  ⟹  e2=5−4.1=0.9x_2=2, y_2=5 \implies \hat{y}_2 = 0.5 + 1.8(2) = 0.5 + 3.6 = 4.1 \implies e_2 = 5 - 4.1 = 0.9
x3=3,y3=5  ⟹  y^3=0.5+1.8(3)=0.5+5.4=5.9  ⟹  e3=5−5.9=−0.9x_3=3, y_3=5 \implies \hat{y}_3 = 0.5 + 1.8(3) = 0.5 + 5.4 = 5.9 \implies e_3 = 5 - 5.9 = -0.9
x4=4,y4=8  ⟹  y^4=0.5+1.8(4)=0.5+7.2=7.7  ⟹  e4=8−7.7=0.3x_4=4, y_4=8 \implies \hat{y}_4 = 0.5 + 1.8(4) = 0.5 + 7.2 = 7.7 \implies e_4 = 8 - 7.7 = 0.3

  • SSE (Sum of Squared Errors / Residuals):
    SSE=∑i=1nei2=(−0.3)2+(0.9)2+(−0.9)2+(0.3)2SSE = \sum_{i=1}^n e_i^2 = (-0.3)^2 + (0.9)^2 + (-0.9)^2 + (0.3)^2
    SSE=0.09+0.81+0.81+0.09=1.8SSE = 0.09 + 0.81 + 0.81 + 0.09 = 1.8
    (驗算:SSE 也可以通過 SSxxSS_{xx} 和 SSxySS_{xy} 計算:SSE=SSyy−β1SSxySSE = SS_{yy} - \beta_1 SS_{xy}。
    SSyy=∑(yi−yˉ)2=(2−5)2+(5−5)2+(5−5)2+(8−5)2=(−3)2+02+02+32=9+9=18SS_{yy} = \sum (y_i - \bar{y})^2 = (2-5)^2 + (5-5)^2 + (5-5)^2 + (8-5)^2 = (-3)^2 + 0^2 + 0^2 + 3^2 = 9 + 9 = 18
    SSE=18−(1.8)(9)=18−16.2=1.8SSE = 18 - (1.8)(9) = 18 - 16.2 = 1.8。結果一致。)

  • SST (Total Sum of Squares):
    SST=SSyy=∑i=1n(yi−yˉ)2=18SST = SS_{yy} = \sum_{i=1}^n (y_i - \bar{y})^2 = 18 (已在上面驗算中計算)

  • SSR (Sum of Squares due to Regression):
    SSR=SST−SSESSR = SST - SSE
    SSR=18−1.8=16.2SSR = 18 - 1.8 = 16.2
    (驗算:SSR=β1SSxy=(1.8)(9)=16.2SSR = \beta_1 SS_{xy} = (1.8)(9) = 16.2。結果一致。)

【答案】SSR = 16.2, SSE = 1.8, SST = 18

(c) 請用矩陣與向量寫出本問題的正規方程式 (normal equation)

對於簡單線性迴歸模型 yi=β0+β1xi+ϵiy_i = \beta_0 + \beta_1 x_i + \epsilon_i,可以用矩陣形式表示為 y=Xβ+ϵ\mathbf{y} = \mathbf{X} \boldsymbol{\beta} + \boldsymbol{\epsilon}。
其中:
y=[y1y2y3y4]=[2558]\mathbf{y} = \begin{bmatrix} y_1 \\ y_2 \\ y_3 \\ y_4 \end{bmatrix} = \begin{bmatrix} 2 \\ 5 \\ 5 \\ 8 \end{bmatrix}

X=[1x11x21x31x4]=[11121314]\mathbf{X} = \begin{bmatrix} 1 & x_1 \\ 1 & x_2 \\ 1 & x_3 \\ 1 & x_4 \end{bmatrix} = \begin{bmatrix} 1 & 1 \\ 1 & 2 \\ 1 & 3 \\ 1 & 4 \end{bmatrix} (第一欄為截距項的 1)

β=[β0β1]\boldsymbol{\beta} = \begin{bmatrix} \beta_0 \\ \beta_1 \end{bmatrix}

ϵ=[ϵ1ϵ2ϵ3ϵ4]\boldsymbol{\epsilon} = \begin{bmatrix} \epsilon_1 \\ \epsilon_2 \\ \epsilon_3 \\ \epsilon_4 \end{bmatrix}

正規方程式是通過最小化殘差平方和 ϵTϵ\boldsymbol{\epsilon}^T \boldsymbol{\epsilon} 得到的,其形式為:
XTXβ=XTy\mathbf{X}^T \mathbf{X} \boldsymbol{\beta} = \mathbf{X}^T \mathbf{y}

我們需要計算 XTX\mathbf{X}^T \mathbf{X} 和 XTy\mathbf{X}^T \mathbf{y}。
XT=[11111234]\mathbf{X}^T = \begin{bmatrix} 1 & 1 & 1 & 1 \\ 1 & 2 & 3 & 4 \end{bmatrix}

XTX=[11111234][11121314]=[(1+1+1+1)(1+2+3+4)(1+2+3+4)(12+22+32+42)]\mathbf{X}^T \mathbf{X} = \begin{bmatrix} 1 & 1 & 1 & 1 \\ 1 & 2 & 3 & 4 \end{bmatrix} \begin{bmatrix} 1 & 1 \\ 1 & 2 \\ 1 & 3 \\ 1 & 4 \end{bmatrix} = \begin{bmatrix} (1+1+1+1) & (1+2+3+4) \\ (1+2+3+4) & (1^2+2^2+3^2+4^2) \end{bmatrix}
XTX=[41010(1+4+9+16)]=[4101030]\mathbf{X}^T \mathbf{X} = \begin{bmatrix} 4 & 10 \\ 10 & (1+4+9+16) \end{bmatrix} = \begin{bmatrix} 4 & 10 \\ 10 & 30 \end{bmatrix}

XTy=[11111234][2558]=[(2+5+5+8)(1⋅2+2⋅5+3⋅5+4⋅8)]\mathbf{X}^T \mathbf{y} = \begin{bmatrix} 1 & 1 & 1 & 1 \\ 1 & 2 & 3 & 4 \end{bmatrix} \begin{bmatrix} 2 \\ 5 \\ 5 \\ 8 \end{bmatrix} = \begin{bmatrix} (2+5+5+8) \\ (1\cdot2 + 2\cdot5 + 3\cdot5 + 4\cdot8) \end{bmatrix}
XTy=[20(2+10+15+32)]=[2059]\mathbf{X}^T \mathbf{y} = \begin{bmatrix} 20 \\ (2 + 10 + 15 + 32) \end{bmatrix} = \begin{bmatrix} 20 \\ 59 \end{bmatrix}

所以,正規方程式為:
[4101030][β0β1]=[2059]\begin{bmatrix} 4 & 10 \\ 10 & 30 \end{bmatrix} \begin{bmatrix} \beta_0 \\ \beta_1 \end{bmatrix} = \begin{bmatrix} 20 \\ 59 \end{bmatrix}

(驗算:我們可以解這個方程組來驗證 β0,β1\beta_0, \beta_1 的值。
第一式:4β0+10β1=20  ⟹  2β0+5β1=104\beta_0 + 10\beta_1 = 20 \implies 2\beta_0 + 5\beta_1 = 10
第二式:10β0+30β1=5910\beta_0 + 30\beta_1 = 59
將第一式乘以 5:10β0+25β1=5010\beta_0 + 25\beta_1 = 50
用第二式減去此式:(10β0+30β1)−(10β0+25β1)=59−50(10\beta_0 + 30\beta_1) - (10\beta_0 + 25\beta_1) = 59 - 50
5β1=9  ⟹  β1=9/5=1.85\beta_1 = 9 \implies \beta_1 = 9/5 = 1.8
將 β1=1.8\beta_1=1.8 代入 2β0+5β1=102\beta_0 + 5\beta_1 = 10:
2β0+5(1.8)=102\beta_0 + 5(1.8) = 10
2β0+9=102\beta_0 + 9 = 10

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

其他考古題