109 年 國立政治大學風險管理與保險學系碩士班管理組《統計學》

本題主要考驗常態分配的動差生成函數 (MGF) 計算，以及如何利用 MGF 求取期望值、變異數、偏度與峰度。

核心觀念：

1. 常態分配的 MGF 定義與性質。
2. MGF 的定義： $M_X(t) = E[e^{tX}]$。
3. 期望值、變異數、偏度、峰度與動差的關係。

解題過程：

令 $X \sim N(\mu, \sigma^2)$。其機率密度函數 (PDF) 為
$f(x) = \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{1}{2}(\frac{x-\mu}{\sigma})^2}, \quad -\infty < x < \infty$

(A) 計算動差生成函數 (MGF) of $X$

MGF 的定義為 $M_X(t) = E[e^{tX}]$。
$M_X(t) = E[e^{tX}] = \int_{-\infty}^{\infty} e^{tx} f(x) dx$
$M_X(t) = \int_{-\infty}^{\infty} e^{tx} \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{1}{2}(\frac{x-\mu}{\sigma})^2} dx$
$M_X(t) = \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} \exp\left( tx - \frac{(x-\mu)^2}{2\sigma^2} \right) dx$
為了計算積分，我們將指數部分的 $tx - \frac{(x-\mu)^2}{2\sigma^2}$ 進行配方。
$tx - \frac{x^2 - 2\mu x + \mu^2}{2\sigma^2} = tx - \frac{x^2}{2\sigma^2} + \frac{\mu x}{\sigma^2} - \frac{\mu^2}{2\sigma^2}$
$= -\frac{1}{2\sigma^2} \left( x^2 - 2\mu x - 2\sigma^2 tx + \mu^2 \right)$
$= -\frac{1}{2\sigma^2} \left( x^2 - 2(\mu + \sigma^2 t) x + \mu^2 \right)$
進行配方：
$x^2 - 2(\mu + \sigma^2 t) x = (x - (\mu + \sigma^2 t))^2 - (\mu + \sigma^2 t)^2$
所以，
$-\frac{1}{2\sigma^2} \left( (x - (\mu + \sigma^2 t))^2 - (\mu + \sigma^2 t)^2 + \mu^2 \right)$
$= -\frac{(x - (\mu + \sigma^2 t))^2}{2\sigma^2} + \frac{(\mu + \sigma^2 t)^2 - \mu^2}{2\sigma^2}$
$= -\frac{(x - (\mu + \sigma^2 t))^2}{2\sigma^2} + \frac{\mu^2 + 2\mu\sigma^2 t + (\sigma^2 t)^2 - \mu^2}{2\sigma^2}$
$= -\frac{(x - (\mu + \sigma^2 t))^2}{2\sigma^2} + \frac{2\mu\sigma^2 t + \sigma^4 t^2}{2\sigma^2}$
$= -\frac{(x - (\mu + \sigma^2 t))^2}{2\sigma^2} + \mu t + \frac{\sigma^2 t^2}{2}$
因此，
$M_X(t) = \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} \exp\left( -\frac{(x - (\mu + \sigma^2 t))^2}{2\sigma^2} + \mu t + \frac{\sigma^2 t^2}{2} \right) dx$
$M_X(t) = e^{\mu t + \frac{\sigma^2 t^2}{2}} \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} \exp\left( -\frac{(x - (\mu + \sigma^2 t))^2}{2\sigma^2} \right) dx$
注意到積分部分 $\int_{-\infty}^{\infty} \exp\left( -\frac{(x - (\mu + \sigma^2 t))^2}{2\sigma^2} \right) dx$ 是以 $\mu + \sigma^2 t$ 為均值，$\sigma^2$ 為變異數的常態分佈 PDF 的積分，其值為 $\sqrt{2\pi}\sigma$。
所以，
$M_X(t) = e^{\mu t + \frac{\sigma^2 t^2}{2}} \frac{1}{\sqrt{2\pi}\sigma} (\sqrt{2\pi}\sigma)$
$M_X(t) = e^{\mu t + \frac{\sigma^2 t^2}{2}}$

另外一種更簡潔的方法是利用標準常態變數 $Z = \frac{X-\mu}{\sigma} \sim N(0, 1)$。
$X = \mu + \sigma Z$。
$M_X(t) = E[e^{t(\mu + \sigma Z)}] = E[e^{\mu t} e^{t\sigma Z}] = e^{\mu t} E[e^{(t\sigma)Z}]$。
標準常態分配 $Z$ 的 MGF 是 $M_Z(s) = e^{\frac{s^2}{2}}$。
所以 $E[e^{(t\sigma)Z}] = M_Z(t\sigma) = e^{\frac{(t\sigma)^2}{2}} = e^{\frac{\sigma^2 t^2}{2}}$。
因此，

本題主要考驗對機率不等式的理解，特別是 Markov 不等式、Chebyshev 不等式，以及 Jensen 不等式在機率上的應用。

核心觀念：

1. Markov 不等式： 若 $W$ 為非負隨機變數，且 $E[W]$ 存在，則對任意 $a > 0$，有 $P(W \ge a) \le \frac{E[W]}{a}$。
2. Chebyshev 不等式： 若 $X$ 為任意隨機變數，期望值 $E[X]=\mu$ 與變異數 $Var(X)=\sigma^2$ 存在，則對任意 $k > 0$，有 $P(|X - \mu| \ge k\sigma) \le \frac{1}{k^2}$。
3. Jensen 不等式： 若 $g$ 為凸函數，則 $E[g(X)] \ge g(E[X])$。

解題過程：

(A) $P(Y > c) \le \mu/c$ for any positive real number $c$.

此不等式為 Markov 不等式的直接應用。
已知 $Y$ 為非負隨機變數，且 $E[Y] = \mu$。
令 $W = Y$。根據 Markov 不等式，對於任意 $c > 0$，我們有：
$P(Y \ge c) \le \frac{E[Y]}{c}$
由於 $P(Y > c) \le P(Y \ge c)$ (因為 $Y$ 是連續變數時兩者相等，離散變數時 $P(Y>c)$ 可能比 $P(Y \ge c)$ 小，但總是不會大於)，所以：
$P(Y > c) \le P(Y \ge c) \le \frac{E[Y]}{c}$
將 $E[Y] = \mu$ 代入：
$P(Y > c) \le \frac{\mu}{c}$
此即為所要證明的結果。

【答案】利用 Markov 不等式，令 $W=Y$，則 $P(Y \ge c) \le \frac{E[Y]}{c} = \frac{\mu}{c}$。又 $P(Y>c) \le P(Y \ge c)$，故得證。

(B) $P(|X - \mu| > k\sigma) \le \frac{1}{k^2}$ for any positive real number $k$.

核心觀念

本題考查「停止時間」的期望值，以及以馬可夫鏈建立遞迴方程。停止條件是：最近三次擲幣中至少出現兩個正面；若前兩次即為 $HH$，則直接停止，故 $N=2$。

由於下一步是否停止，只與目前最近幾次的結果有關，因此可依「目前尚未停止時的歷史狀態」分別計算剩餘擲幣次數的期望值。

---

解題方法

令下列變數表示從該狀態開始，還需要擲幣的期望次數：

• $E_H$：目前只擲出一次，結果為 $H$
• $E_T$：目前只擲出一次，結果為 $T$
• $E_{HT}$：最近兩次為 $HT$
• $E_{TH}$：最近兩次為 $TH$
• $E_{TT}$：最近兩次為 $TT$

狀態 $HH$ 已符合停止條件，因此其剩餘期望次數為 $0$。

由條件期望與遞迴關係：

1. 目前為 $H$

下一次若為 $H$，即形成 $HH$，立即停止；若為 $T$，進入狀態 $HT$：

$$E_H=1+\frac12(0)+\frac12E_{HT} =1+\frac12E_{HT}.$$

2. 目前為 $T$

下一次若為 $H$，進入 $TH$；若為 $T$，進入 $TT$：

$$E_T=1+\frac12E_{TH}+\frac12E_{TT}.$$

3. 目前為 $HT$

下一次若為 $H$，最近三次為 $HTH$，其中有兩個正面，立即停止；若為 $T$，進入 $TT$：

$$E_{HT}=1+\frac12(0)+\frac12E_{TT} =1+\frac12E_{TT}.$$

4. 目前為 $TH$

下一次若為 $H$，最近三次為 $THH$，立即停止；若為 $T$，最近兩次變為 $HT$：

$$E_{TH}=1+\frac12(0)+\frac12E_{HT} =1+\frac12E_{HT}.$$

5. 目前為 $TT$

下一次若為 $H$，進入 $TH$；若為 $T$，仍為 $TT$：

$$E_{TT}=1+\frac12E_{TH}+\frac12E_{TT}.$$

整理最後一式：

$$\frac12E_{TT}=1+\frac12E_{TH},$$

因此

本題考驗混合分佈的機率計算，即一個隨機變數的參數本身也是一個隨機變數。我們需要利用全機率法則來計算。

核心觀念：

1. 條件機率與全機率法則： $P(A) = \sum_i P(A|B_i)P(B_i)$。
2. 泊松分佈 (Poisson Distribution)： $P(X=n|\lambda) = \frac{e^{-\lambda}\lambda^n}{n!}$，其中 $n=0, 1, 2, \dots$。
3. 指數分佈 (Exponential Distribution)： 參數 $\lambda$ 的 PDF 為 $f(\lambda) = \theta e^{-\theta\lambda}$，其中 $\theta$ 為 rate parameter。題目給定 mean $= 0.5$，所以 $\theta = 1/\text{mean} = 1/0.5 = 2$。因此 $\lambda$ 的 PDF 為 $f(\lambda) = 2e^{-2\lambda}$，其中 $\lambda > 0$。

解題過程：

我們已知：

1. $X | \Lambda = \lambda \sim Poisson(\lambda)$，其機率質量函數 (PMF) 為 $P(X=n|\Lambda=\lambda) = \frac{e^{-\lambda}\lambda^n}{n!}$。
2. $\Lambda \sim Exponential(\theta=2)$，其機率密度函數 (PDF) 為 $f(\lambda) = 2e^{-2\lambda}$，其中 $\lambda > 0$。

我們要計算 $P(X=n)$，即 $X$ 的邊際 PMF。我們使用全機率法則，對 $\Lambda$ 的所有可能值進行積分：
$P(X=n) = \int_{0}^{\infty} P(X=n|\Lambda=\lambda) f(\lambda) d\lambda$
將上述公式代入：
$P(X=n) = \int_{0}^{\infty} \left(\frac{e^{-\lambda}\lambda^n}{n!}\right) (2e^{-2\lambda}) d\lambda$
$P(X=n) = \frac{2}{n!} \int_{0}^{\infty} e^{-\lambda}\lambda^n e^{-2\lambda} d\lambda$
$P(X=n) = \frac{2}{n!} \int_{0}^{\infty} \lambda^n e^{-(\lambda+2\lambda)} d\lambda$
$P(X=n) = \frac{2}{n!} \int_{0}^{\infty} \lambda^n e^{-3\lambda} d\lambda$