109 年 國立中正大學通訊工程學系碩士班通訊丙組《機率》

此題考驗隨機變數變換以及高斯分布的性質。
給定隨機變數 $X$ 為高斯分布，且 $E\{X\} = 1$, $VAR\{X\} = 4$。
我們知道 $VAR\{X\} = E\{X^2\} - (E\{X\})^2$。
將已知值代入，得到 $4 = E\{X^2\} - (1)^2$，
因此 $E\{X^2\} = 4 + 1 = 5$。
我們要求 $Y = X^2$ 的機率密度函數 (pdf)。
由於 $Y = X^2 \ge 0$，所以 $Y$ 的 pdf 只在 $y \ge 0$ 的範圍內有值。
我們可以利用隨機變數變換的方法來求 $f_Y(y)$。
令 $y = x^2$，則 $x = \pm \sqrt{y}$。
令 $g(x) = x^2$。則 $g'(x) = 2x$。
$f_Y(y) = \sum_{i} f_X(x_i) \left| \frac{dx_i}{dy} \right|$
其中 $x_i$ 是 $y = g(x)$ 的解。
在此情況下，$x_1 = \sqrt{y}$ 且 $x_2 = -\sqrt{y}$。
$\frac{dx}{dy} = \frac{1}{g'(x)} = \frac{1}{2x}$。
所以 $\left| \frac{dx}{dy} \right|_{x=\sqrt{y}} = \left| \frac{1}{2\sqrt{y}} \right|$ 且 $\left| \frac{dx}{dy} \right|_{x=-\sqrt{y}} = \left| \frac{1}{2(-\sqrt{y})} \right| = \left| \frac{1}{-2\sqrt{y}} \right| = \left| \frac{1}{2\sqrt{y}} \right|$。

此題考驗貝氏定理 (Bayes' Theorem) 的應用。
首先定義事件：
令 $C_F$ 為選到公平硬幣的事件。
令 $C_U$ 為選到不公平硬幣的事件。
令 $T_n$ 為連續擲出 n 次反面的事件。

根據題目，我們有：
$P(C_F) = 1/2$ (隨機選擇硬幣)
$P(C_U) = 1/2$ (隨機選擇硬幣)

公平硬幣擲出反面的機率為 $1 - 1/2 = 1/2$。
不公平硬幣擲出反面的機率為 $1 - p$。

在給定選到公平硬幣的條件下，連續擲出 n 次反面的機率為：
$P(T_n | C_F) = (1/2)^n$

在給定選到不公平硬幣的條件下，連續擲出 n 次反面的機率為：
$P(T_n | C_U) = (1-p)^n$

我們要求的是在觀察到 n 次反面後，選到不公平硬幣的機率，即 $P(C_U | T_n)$。
根據貝氏定理：
$P(C_U | T_n) = \frac{P(T_n | C_U) P(C_U)}{P(T_n)}$

首先，我們需要計算 $P(T_n)$，即觀察到 n 次反面的總機率。利用全機率定理：
$P(T_n) = P(T_n | C_F) P(C_F) + P(T_n | C_U) P(C_U)$
$P(T_n) = (1/2)^n \cdot (1/2) + (1-p)^n \cdot (1/2)$
$P(T_n) = \frac{1}{2} \left[ \left(\frac{1}{2}\right)^n + (1-p)^n \right]$

此題考驗指數分布的性質以及獨立隨機變數和的特徵函數。
指數分布的機率密度函數 (pdf) 為 $f(x) = \lambda e^{-\lambda x}$，對於 $x \ge 0$。
指數分布的特徵函數 (characteristic function) 定義為 $M_X(t) = E[e^{itX}]$。
對於一個參數為 $\lambda$ 的指數分布隨機變數 $X$，其特徵函數為：
$M_X(t) = \int_0^\infty e^{itx} \lambda e^{-\lambda x} dx$
$M_X(t) = \lambda \int_0^\infty e^{(it-\lambda)x} dx$
$M_X(t) = \lambda \left[ \frac{e^{(it-\lambda)x}}{it-\lambda} \right]_0^\infty$
$M_X(t) = \lambda \left( 0 - \frac{1}{it-\lambda} \right)$
$M_X(t) = \frac{\lambda}{\lambda - it}$

已知 $X_1, X_2, X_3$ 是獨立的指數分布隨機變數，參數分別為 $\lambda_1, \lambda_2, \lambda_3$。
它們的特徵函數分別為：

此題考驗聯合機率密度函數的正規化以及計算聯合機率。

(a) 計算正規化常數 k：
聯合機率密度函數 $f_{xy}(x,y)$ 在整個定義域上的積分必須等於 1。
定義域為 $0 \le x \le 1$ 且 $0 \le y \le 1$，這是一個單位正方形。
$\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} f_{xy}(x,y) \,dx\,dy = 1$
$\int_0^1 \int_0^1 k(x+y) \,dx\,dy = 1$
首先對 x 積分：
$\int_0^1 k(x+y) \,dx = k \left[ \frac{x^2}{2} + xy \right]_0^1 = k \left( \frac{1^2}{2} + 1 \cdot y - (0+0) \right) = k \left( \frac{1}{2} + y \right)$
接著對 y 積分：
$\int_0^1 k \left( \frac{1}{2} + y \right) \,dy = k \left[ \frac{1}{2}y + \frac{y^2}{2} \right]_0^1$
$= k \left( \frac{1}{2}(1) + \frac{1^2}{2} - (0+0) \right) = k \left( \frac{1}{2} + \frac{1}{2} \right) = k(1)$
所以，我們得到 $k = 1$。

此題考驗期望值的計算，特別是涉及兩個獨立隨機變數的函數。
題目要求計算 $E \{X^2e^X\}$。注意到這個期望值只與隨機變數 X 有關，而與隨機變數 Y 無關。
給定 X 是一個零均值、單位變異數的高斯隨機變數。
這表示 $E\{X\} = 0$ 且 $VAR\{X\} = 1$。
由於 X 是高斯分布，其機率密度函數 (pdf) 為 $f_X(x) = \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(x-\mu)^2}{2\sigma^2}}$。
在此情況下，$\mu = 0$ 且 $\sigma^2 = 1$ (所以 $\sigma = 1$)。
因此，$f_X(x) = \frac{1}{\sqrt{2\pi}} e^{-\frac{x^2}{2}}$。

我們需要計算 $E \{X^2e^X\}$。根據期望值的定義：
$E \{X^2e^X\} = \int_{-\infty}^{\infty} x^2e^x f_X(x) \,dx$
$E \{X^2e^X\} = \int_{-\infty}^{\infty} x^2e^x \frac{1}{\sqrt{2\pi}} e^{-\frac{x^2}{2}} \,dx$
$E \{X^2e^X\} = \frac{1}{\sqrt{2\pi}} \int_{-\infty}^{\infty} x^2 e^{x - \frac{x^2}{2}} \,dx$

我們來處理指數項 $x - \frac{x^2}{2}$。
為了完成平方，我們可以寫成 $-\frac{1}{2}(x^2 - 2x)$。
進一步寫成 $-\frac{1}{2}((x-1)^2 - 1) = -\frac{(x-1)^2}{2} + \frac{1}{2}$。
所以，$x^2 e^{x - \frac{x^2}{2}} = x^2 e^{\frac{1}{2}} e^{-\frac{(x-1)^2}{2}}$。

積分變為：
$E \{X^2e^X\} = \frac{1}{\sqrt{2\pi}} \int_{-\infty}^{\infty} x^2 e^{\frac{1}{2}} e^{-\frac{(x-1)^2}{2}} \,dx$
$E \{X^2e^X\} = \frac{e^{1/2}}{\sqrt{2\pi}} \int_{-\infty}^{\infty} x^2 e^{-\frac{(x-1)^2}{2}} \,dx$

令 $u = x-1$，則 $x = u+1$ 且 $du = dx$。
當 $x \to -\infty$, $u \to -\infty$。當 $x \to \infty$, $u \to \infty$。
$E \{X^2e^X\} = \frac{e^{1/2}}{\sqrt{2\pi}} \int_{-\infty}^{\infty} (u+1)^2 e^{-\frac{u^2}{2}} \,du$

此題考驗兩個獨立指數分布隨機變數比值的機率密度函數。
給定 X 和 Y 是獨立的指數分布隨機變數，且 $E\{X\} = 1$ 和 $E\{Y\} = 1$。
對於參數為 $\lambda$ 的指數分布，其期望值為 $1/\lambda$。
因此，對於 X 和 Y，其參數皆為 $\lambda_X = 1$ 和 $\lambda_Y = 1$。
它們的機率密度函數 (pdf) 分別為：
$f_X(x) = e^{-x}$, for $x \ge 0$
$f_Y(y) = e^{-y}$, for $y \ge 0$

我們要求 $Z = X/Y$ 的 pdf，記為 $f_Z(z)$。
這裡 $X \ge 0$ 且 $Y > 0$ (因為 Y 是指數分布，Y=0 的機率為 0，所以 Y 嚴格大於 0)。
因此，$Z = X/Y \ge 0$。

我們可以使用隨機變數變換的方法。令 $Z = X/Y$ 和 $W = Y$。
那麼 $X = ZW$ 且 $Y = W$。
這個變換的 Jacobian 行列式為：
$J = \det \begin{pmatrix} \frac{\partial x}{\partial z} & \frac{\partial x}{\partial w} \\ \frac{\partial y}{\partial z} & \frac{\partial y}{\partial w} \end{pmatrix} = \det \begin{pmatrix} w & z \\ 0 & 1 \end{pmatrix} = w$
其中 $w > 0$。

聯合 pdf $f_{ZW}(z,w)$ 為：
$f_{ZW}(z,w) = f_{XY}(x(z,w), y(z,w)) |J|$
$f_{ZW}(z,w) = f_X(zw) f_Y(w) |w|$
由於 $w = Y > 0$, $|w| = w$.
$f_{ZW}(z,w) = (e^{-zw}) (e^{-w}) w$, for $zw \ge 0, w \ge 0$.

此題考驗 Poisson 分布與指數分布之間的關係。
題目指出，在 t 秒內到達的封包數量 N 服從 Poisson 分布，其參數為 $\alpha = \lambda t$。
Poisson 分布的機率質量函數 (pmf) 為：
$P(N=n) = \frac{e^{-\alpha} \alpha^n}{n!}$, for $n = 0, 1, 2, \dots$

令 Z 為第一次封包到達的時間。
事件 "Z > t" 表示在時間 t 內「沒有」封包到達。
也就是說，在時間 t 內到達的封包數量 N 為 0。
所以，事件 "Z > t" 等價於事件 "N = 0"。

我們需要計算 $P(N=0)$。
利用 Poisson 分布的 pmf，令 $n=0$：
$P(N=0) = \frac{e^{-\alpha} \alpha^0}{0!}$
由於 $\alpha^0 = 1$ 且 $0! = 1$，
$P(N=0) = e^{-\alpha}$。

此題考驗 Chi-square 分布的期望值計算以及其與 Gamma 分布的關聯。

首先，我們需要確認 Chi-square 分布與 Gamma 分布的關係。
一個自由度為 $k$ 的 Chi-square 分布，實際上就是一個參數為 $\lambda = 1/2$ 且尺度參數 $k/2$ 的 Gamma 分布。
其 pdf 為 $f(x; k/2, 1/2) = \frac{(1/2)^{k/2}}{\Gamma(k/2)} x^{k/2 - 1} e^{-x/2}$ for $x \ge 0$.
題目中給定的 Chi-square 分布自由度為 $2n$。
所以 $k = 2n$。
代入 Gamma 分布的 pdf 公式：
$f_X(x) = \frac{(1/2)^{2n/2}}{\Gamma(2n/2)} x^{2n/2 - 1} e^{-x/2} = \frac{(1/2)^n}{\Gamma(n)} x^{n-1} e^{-x/2}$。
這與題目中給定的 pdf $f_X(x) = \frac{1}{2^n \Gamma(n)} x^{n-1} e^{-x/2}$ 完全一致。
所以，X 服從參數為 $n$ 和 $1/2$ 的 Gamma 分布，即 $X \sim Gamma(n, 1/2)$。

(a) 計算 $E\{e^{-X/4}\}$：
根據期望值的定義，
$E\{e^{-X/4}\} = \int_0^\infty e^{-x/4} f_X(x) \,dx$
$E\{e^{-X/4}\} = \int_0^\infty e^{-x/4} \frac{1}{2^n \Gamma(n)} x^{n-1} e^{-x/2} \,dx$
$E\{e^{-X/4}\} = \frac{1}{2^n \Gamma(n)} \int_0^\infty x^{n-1} e^{-x/4 - x/2} \,dx$
$E\{e^{-X/4}\} = \frac{1}{2^n \Gamma(n)} \int_0^\infty x^{n-1} e^{-x(1/4 + 1/2)} \,dx$
$E\{e^{-X/4}\} = \frac{1}{2^n \Gamma(n)} \int_0^\infty x^{n-1} e^{-3x/4} \,dx$
為了使用提示 $\int_0^\infty t^{n-1}e^{-t}dt = \Gamma(n)$，我們需要進行變換。
令 $t = \frac{3x}{4}$。則 $x = \frac{4t}{3}$ 且 $dx = \frac{4}{3} dt$。
當 $x=0$, $t=0$。當 $x \to \infty$, $t \to \infty$。
$E\{e^{-X/4}\} = \frac{1}{2^n \Gamma(n)} \int_0^\infty \left(\frac{4t}{3}\right)^{n-1} e^{-t} \left(\frac{4}{3} dt\right)$
$E\{e^{-X/4}\} = \frac{1}{2^n \Gamma(n)} \left(\frac{4}{3}\right)^{n-1} \left(\frac{4}{3}\right) \int_0^\infty t^{n-1} e^{-t} \,dt$