114 年 國立中山大學通訊工程研究所甲組《機率》

📄 試題原卷 免費註冊後即可對照原始考卷 PDF免費註冊

第 1 題5 分

  1. (5%) For n∈Z+n \in \mathbb{Z}^+, ∑k=0n(nk)k=?\sum_{k=0}^{n} \binom{n}{k} k = ?
    (A) 0
    (B) 2n2^n
    (C) n2n−1n 2^{n-1}
    (D) n2nn 2^n
    (E) n2n+1n 2^{n+1}

登入後即可作答並保存紀錄。

這一題的完整詳解

本題考驗二項式定理的應用,以及如何利用其導出級數求和。

我們知道二項式定理為 (x+y)n=∑k=0n(nk)xn−kyk(x+y)^n = \sum_{k=0}^{n} \binom{n}{k} x^{n-k} y^k。
令 x=1,y=1x=1, y=1,則 (1+1)n=∑k=0n(nk)1n−k1k=∑k=0n(nk)=2n(1+1)^n = \sum_{k=0}^{n} \binom{n}{k} 1^{n-k} 1^k = \sum_{k=0}^{n} \binom{n}{k} = 2^n。

現在我們考慮原式 ∑k=0n(nk)k\sum_{k=0}^{n} \binom{n}{k} k。
我們可以將 kk 寫成 k(nk)k \binom{n}{k}。
利用組合恆等式 k(nk)=n(n−1k−1)k \binom{n}{k} = n \binom{n-1}{k-1} (對於 k≥1k \ge 1),我們有:

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 2 題5 分

  1. (5%) For n∈Z+n \in \mathbb{Z}^+, ∑k=0n(−1)k(nk)=?\sum_{k=0}^{n} (-1)^k \binom{n}{k} = ?
    (A) 0
    (B) 2n−12^{n-1}
    (C) 2n2^n
    (D) n2n−1n 2^{n-1}
    (E) n2nn 2^n

登入後即可作答並保存紀錄。

這一題的完整詳解

本題考驗二項式定理的應用,特別是當其中一項為負值時的級數求和。

二項式定理為 (x+y)n=∑k=0n(nk)xn−kyk(x+y)^n = \sum_{k=0}^{n} \binom{n}{k} x^{n-k} y^k。
我們考慮原式 ∑k=0n(−1)k(nk)\sum_{k=0}^{n} (-1)^k \binom{n}{k}。
這可以看作是二項式定理中 x=1,y=−1x=1, y=-1 的情況:
(1+(−1))n=∑k=0n(nk)1n−k(−1)k(1 + (-1))^n = \sum_{k=0}^{n} \binom{n}{k} 1^{n-k} (-1)^k
=∑k=0n(nk)(−1)k= \sum_{k=0}^{n} \binom{n}{k} (-1)^k

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 3 題5 分

  1. (5%) What is the total number of possible solutions for x1+x2+x3=10x_1 + x_2 + x_3 = 10, where x1,x2,x3∈{0}∪Z+?x_1, x_2, x_3 \in \{0\} \cup \mathbb{Z}^+ ?
    (A) 36
    (B) 45
    (C) 66
    (D) 120
    (E) 286

登入後即可作答並保存紀錄。

這一題的完整詳解

本題為典型的組合問題,屬於「隔板法」或稱「重複組合」問題。我們需要找出非負整數解的個數。

題目要求 x1+x2+x3=10x_1 + x_2 + x_3 = 10,其中 x1,x2,x3x_1, x_2, x_3 可以是 0 或正整數。
這意味著 xi≥0x_i \ge 0 對於 i=1,2,3i=1, 2, 3。

這是一個標準的重複組合問題,可以使用隔板法來解決。
我們將 10 個單位(例如 10 個球)分配給 3 個變數(例如 3 個箱子)。
我們需要 n=10n=10 個單位和 k=3k=3 個變數。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 4 題5 分

  1. (5%) How many 11-letter words can be formed using the letters from the word "examination"?
    (A) 40 320
    (B) 4 989 600
    (C) 13 305 600
    (D) 39 916 800
    (E) None of the above

登入後即可作答並保存紀錄。

這一題的完整詳解

本題考驗排列組合問題,特別是處理有重複字母的排列。

首先,我們需要分析單字 "examination" 中的字母組成及其出現次數。
單字 "examination" 總共有 11 個字母。
字母列表:e, x, a, m, i, n, a, t, i, o, n
字母及其出現次數:
a: 2
e: 1
i: 2
m: 1
n: 2
o: 1
t: 1
x: 1

總共有 11 個字母,其中有 3 個字母 (a, i, n) 各重複出現 2 次,其餘 5 個字母 (e, m, o, t, x) 各出現 1 次。

我們要形成一個 11 個字母的單字,這意味著我們需要使用 "examination" 中的所有字母,並且要考慮字母的排列順序。

這是一個關於排列的標準問題,其中有重複的元素。
如果所有字母都不同,則排列數為 11!11!。
然而,由於有重複的字母,我們需要除以重複字母的階乘。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 5 題5 分

  1. (5%) Which of the following is not a type of random variables?
    (A) Continuous random variables
    (B) Discrete random variables
    (C) Hybrid random variables
    (D) Mixed random variables
    (E) None of the above

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

隨機變數依其機率分布型態,通常可分為:

  1. 離散型隨機變數(discrete random variable):只取有限個或可數無限個數值。
  2. 連續型隨機變數(continuous random variable):可在某個區間內取不可數多個數值,並以機率密度函數描述。
  3. 混合型隨機變數(mixed random variable):同時具有離散型與連續型的機率成分。

混合型隨機變數也常稱為 hybrid random variable,因此 hybrid 與 mixed 在此處是同義用語。


解題方法

判斷各選項是否為隨機變數的分類名稱:

  • 若名稱代表某種機率分布型態,便是隨機變數的類型。
  • 若只是「沒有上述選項」的答題選項,則不屬於隨機變數類型本身。

由於 A 至 D 都是隨機變數的類型或同義分類名稱,因此不存在一個真正的隨機變數類型被列在 A 至 D 中而需要排除,應選「以上皆非」。


選項分析

(A) Continuous random variables

連續型隨機變數是標準分類。

若 XX 為連續型隨機變數,通常存在機率密度函數 fX(x)f_X(x),使得

P(a<X≤b)=∫abfX(x) dxP(a<X\leq b)=\int_a^b f_X(x)\,dx

且單點機率通常為

P(X=x)=0P(X=x)=0

因此此選項正確,確實是隨機變數的一種類型。

(B) Discrete random variables

離散型隨機變數也是標準分類。

若 XX 為離散型隨機變數,則其可能值為有限個或可數無限個,並以機率質量函數

pX(x)=P(X=x)p_X(x)=P(X=x)

描述其分布,且滿足

∑xpX(x)=1\sum_x p_X(x)=1

因此此選項正確。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 6 題5 分

  1. (5%) Given that a,b∈Ra, b \in \mathbb{R}, which of the following is true about the CDF of any random variable XX?
    (A) FX(a)>FX(b)F_X(a) > F_X(b) when a>ba > b
    (B) FX(a)≥FX(b)F_X(a) \ge F_X(b) when a≥ba \ge b
    (C) FX(a)=FX(b)F_X(a) = F_X(b) if and only if a=ba = b
    (D) FX(a+b)=FX(a)+FX(b)F_X(a + b) = F_X(a) + F_X(b) for any aa and bb
    (E) None of the above

登入後即可作答並保存紀錄。

這一題的完整詳解

本題考驗累積分佈函數 (CDF) 的基本性質。累積分佈函數 FX(x)F_X(x) 定義為 P(X≤x)P(X \le x)。

CDF 的基本性質包括:

  1. 0≤FX(x)≤10 \le F_X(x) \le 1 對於所有 x∈Rx \in \mathbb{R}。
  2. FX(x)F_X(x) 是非遞減函數,即若 x1≤x2x_1 \le x_2,則 FX(x1)≤FX(x2)F_X(x_1) \le F_X(x_2)。
  3. lim⁡x→−∞FX(x)=0\lim_{x \to -\infty} F_X(x) = 0。
  4. lim⁡x→∞FX(x)=1\lim_{x \to \infty} F_X(x) = 1。
  5. FX(x)F_X(x) 是右連續的,即 lim⁡h→0+FX(x+h)=FX(x)\lim_{h \to 0^+} F_X(x+h) = F_X(x)。
  6. P(a<X≤b)=FX(b)−FX(a)P(a < X \le b) = F_X(b) - F_X(a) 對於 a<ba < b。

現在我們逐一檢驗選項:

(A) FX(a)>FX(b)F_X(a) > F_X(b) when a>ba > b
這是不正確的。CDF 是非遞減函數,不是嚴格遞增。例如,如果 XX 是一個離散隨機變數,其值只在 x=1x=1 時取到,那麼對於 a<1a < 1 和 b=1b=1,有 a<ba < b,但 FX(a)F_X(a) 可能等於 FX(b)F_X(b) (如果 aa 也是一個使得 P(X≤a)P(X \le a) 不變的值)。更確切地說,若 a>ba > b,則 FX(a)≥FX(b)F_X(a) \ge F_X(b),而不是嚴格大於。

(B) FX(a)≥FX(b)F_X(a) \ge F_X(b) when a≥ba \ge b
這是不正確的。根據性質 2,若 x1≤x2x_1 \le x_2,則 FX(x1)≤FX(x2)F_X(x_1) \le F_X(x_2)。
所以,若 a≥ba \ge b,則應該是 FX(a)≥FX(b)F_X(a) \ge F_X(b)。
選項寫的是 a≥ba \ge b 的時候,FX(a)≥FX(b)F_X(a) \ge F_X(b),這與性質 2 的方向相反。
正確的敘述應該是:若 b≥ab \ge a,則 FX(b)≥FX(a)F_X(b) \ge F_X(a)。
或者,若 a≥ba \ge b,則 FX(a)≥FX(b)F_X(a) \ge F_X(b)。
仔細檢查題目和選項的寫法:
選項 B: FX(a)≥FX(b)F_X(a) \ge F_X(b) when a≥ba \ge b.
這其實是正確的。如果 a≥ba \ge b, 那麼 FXF_X 在 bb 的值應該小於或等於在 aa 的值。
例如,若 b=1,a=2b=1, a=2, 則 a≥ba \ge b。我們應該有 FX(2)≥FX(1)F_X(2) \ge F_X(1)。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 7 題5 分

  1. (5%) If H(x)H(x) and δ(x)\delta(x) are, respectively, the Heaviside step function and the Dirac delta function evaluated at x (where x∈Rx \in \mathbb{R}), then ∫−∞∞H(ϕ)δ(ϕ−x)dϕ=?\int_{-\infty}^{\infty} H(\phi) \delta(\phi - x) d\phi = ?
    (A) 1
    (B) δ(x)\delta(x)
    (C) xδ(x)x \delta(x)
    (D) H(x)H(x)
    (E) xH(x)x H(x)

登入後即可作答並保存紀錄。

這一題的完整詳解

本題考驗對狄拉克 δ 函數(Dirac delta function)和單位階躍函數(Heaviside step function)的積分性質的理解。

狄拉克 δ 函數 δ(t)\delta(t) 有一個重要的篩選性質(sifting property):
∫−∞∞f(t)δ(t−a)dt=f(a)\int_{-\infty}^{\infty} f(t) \delta(t-a) dt = f(a)
其中 f(t)f(t) 是一個在 aa 點連續的函數。

在這個問題中,我們需要計算的積分是 ∫−∞∞H(ϕ)δ(ϕ−x)dϕ\int_{-\infty}^{\infty} H(\phi) \delta(\phi - x) d\phi。
這裡,我們的積分變數是 ϕ\phi,而 xx 是一個常數。
篩選性質中的 f(t)f(t) 對應於 H(ϕ)H(\phi),而 δ(t−a)\delta(t-a) 對應於 δ(ϕ−x)\delta(\phi-x)。
所以,aa 對應於 xx。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 8 題5 分

  1. (5%) Let X and Y be two random variables such that they are linearly dependent. Which of the following about ρXY\rho_{XY}, the correlation coefficient of X and Y, is correct?
    (A) ρXY=−1\rho_{XY} = -1
    (B) ρXY=0\rho_{XY} = 0
    (C) ρXY=1\rho_{XY} = 1
    (D) ρXY=−1\rho_{XY} = -1 or ρXY=1\rho_{XY} = 1
    (E) None of the above

登入後即可作答並保存紀錄。

這一題的完整詳解

本題考驗相關係數的性質,特別是當兩個隨機變數線性相關時的情況。

相關係數 ρXY\rho_{XY} 定義為:
ρXY=Cov(X,Y)σXσY\rho_{XY} = \frac{Cov(X, Y)}{\sigma_X \sigma_Y}
其中 Cov(X,Y)Cov(X, Y) 是 XX 和 YY 的共變異數,σX\sigma_X 和 σY\sigma_Y 分別是 XX 和 YY 的標準差。

兩個隨機變數 XX 和 YY 被稱為線性相關,如果它們之間存在一個線性關係,即 Y=aX+bY = aX + b 或 X=aY+bX = aY + b,其中 aa 和 bb 是常數,且 a≠0a \ne 0。

我們來分析在這種線性關係下相關係數的值。

考慮 Y=aX+bY = aX + b,其中 a≠0a \ne 0。
共變異數 Cov(X,Y)=Cov(X,aX+b)=aCov(X,X)=aVar(X)=aσX2Cov(X, Y) = Cov(X, aX+b) = a Cov(X, X) = a Var(X) = a \sigma_X^2。
YY 的標準差 σY=Var(Y)=Var(aX+b)=a2Var(X)=∣a∣σX\sigma_Y = \sqrt{Var(Y)} = \sqrt{Var(aX+b)} = \sqrt{a^2 Var(X)} = |a| \sigma_X。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 9 題5 分

  1. (5%) Given that XX is a Poisson random variable with mean μ\mu, find MX(t)M_X(t), the moment-generating function of XX.
    (A) MX(t)=exp⁡[μ(et−1)]M_X(t) = \exp[\mu (e^t - 1)]
    (B) MX(t)=exp⁡[μ(et+1)]M_X(t) = \exp[\mu (e^t + 1)]
    (C) MX(t)=exp⁡(μt−1)M_X(t) = \exp(\mu t - 1)
    (D) MX(t)=exp⁡(μt+1)M_X(t) = \exp(\mu t + 1)
    (E) None of the above

登入後即可作答並保存紀錄。

這一題的完整詳解

本題考驗泊松分佈(Poisson distribution)的動差生成函數(Moment-Generating Function, MGF)。

一個離散隨機變數 XX 服從參數為 λ\lambda 的泊松分佈,其機率質量函數 (PMF) 為:
P(X=k)=e−λλkk!P(X=k) = \frac{e^{-\lambda} \lambda^k}{k!}, k=0,1,2,…k = 0, 1, 2, \dots
其期望值(平均值)為 E[X]=λE[X] = \lambda。

題目中給定 XX 是泊松隨機變數,其平均值為 μ\mu。因此,我們可以使用 λ=μ\lambda = \mu。
PMF 為:P(X=k)=e−μμkk!P(X=k) = \frac{e^{-\mu} \mu^k}{k!}, k=0,1,2,…k = 0, 1, 2, \dots

動差生成函數 (MGF) 的定義為 MX(t)=E[etX]M_X(t) = E[e^{tX}]。
對於離散隨機變數,MGF 的計算公式為:
MX(t)=∑ketkP(X=k)M_X(t) = \sum_{k} e^{tk} P(X=k)

將泊松分佈的 PMF 代入:
MX(t)=∑k=0∞etke−μμkk!M_X(t) = \sum_{k=0}^{\infty} e^{tk} \frac{e^{-\mu} \mu^k}{k!}
MX(t)=∑k=0∞e−μ(μet)kk!M_X(t) = \sum_{k=0}^{\infty} \frac{e^{-\mu} (\mu e^t)^k}{k!}

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 10 題5 分

  1. (5%) Let XX be a discrete random variable such that fX(x)=(34)x−1f_X(x) = (\frac{3}{4})^{x-1} for x∈Z+x \in \mathbb{Z}^+. If Y=X2Y = X^2, find fY(y)f_Y(y), where y∈{1,4,9,… }y \in \{1, 4, 9, \dots \}.
    (A) fY(y)=12(34)y−1f_Y(y) = \frac{1}{2} (\frac{3}{4})^{\sqrt{y}-1}
    (B) fY(y)=(34)y−1f_Y(y) = (\frac{3}{4})^{\sqrt{y}-1}
    (C) fY(y)=12(34)y2−1f_Y(y) = \frac{1}{2} (\frac{3}{4})^{\frac{\sqrt{y}}{2}-1}
    (D) fY(y)=34(34)y−1f_Y(y) = \frac{3}{4} (\frac{3}{4})^{\sqrt{y}-1}
    (E) None of the above

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

本題考的是離散隨機變數的函數轉換。若 Y=g(X)Y=g(X),則其機率質量函數為

fY(y)=∑x: g(x)=yfX(x).f_Y(y)=\sum_{x:\,g(x)=y}f_X(x).

也就是把所有會映射到 yy 的 xx 所對應的機率相加。離散型轉換不需要乘上導數或雅可比因子。

本題給定的 fXf_X 未正規化,嚴格而言不是合法的機率質量函數;以下先依題面指定的函數進行轉換,再說明此問題。

解題方法

由於 X∈Z+X\in\mathbb Z^+,而 Y=X2Y=X^2,故 YY 的取值範圍為

{1,4,9,…}.\{1,4,9,\ldots\}.

對每個正整數平方 y=n2y=n^2,其中 n∈Z+n\in\mathbb Z^+,只有 X=nX=n 會使 Y=yY=y。雖然方程式 x2=yx^2=y 有正、負兩個根,但 −y-\sqrt y 不在 XX 的取值範圍內,因此只需取正根。

依離散型轉換公式,

fY(n2)=fX(n)=(34)n−1.f_Y(n^2)=f_X(n)=\left(\frac34\right)^{n-1}.

將 n=yn=\sqrt y 代入,得到題面函數的轉換結果:

fY(y)={(34)y−1,y∈{1,4,9,…},0,其餘 y.f_Y(y)= \begin{cases} \displaystyle\left(\frac34\right)^{\sqrt y-1}, & y\in\{1,4,9,\ldots\},\\[6pt] 0,& \text{其餘 }y. \end{cases}

故依題面作答,對應選項 (B)。

選項分析

  • **(A) 錯誤:**多乘了 12\frac12。每個 yy 只有一個符合 X∈Z+X\in\mathbb Z^+ 的原像,不需要將機率減半。
🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 1a 題3 分

  1. (10%) Consider an experiment in which a fair coin is tossed three times.
    (a). (3%) What is the sample space (Ω\Omega) of all possible outcomes for this experiment?

登入後即可作答並保存紀錄。

這一題的完整詳解

本題要求列出一個公平硬幣拋擲三次的所有可能結果,即樣本空間 Ω\Omega。

樣本空間是隨機實驗所有可能結果的集合。
對於一次公平硬幣拋擲,可能出現的結果是正面 (H, Heads) 或反面 (T, Tails)。

當拋擲三次時,每一次拋擲都是獨立的,並且有兩種結果。
因此,總的可能結果數是 2×2×2=23=82 \times 2 \times 2 = 2^3 = 8。

我們可以用符號 H 代表正面,T 代表反面。
所有可能的結果如下:
第一次拋擲 | 第二次拋 ત | 第三次拋掷 | 結果

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 1b 題4 分

(b). (4%) Define the event EiE_i as the outcomes where exactly ii tosses result in “heads,” where i=0,1,2,3i = 0,1,2,3. For each i=0,1,2,3i=0,1,2,3, how many sample points does EiE_i contain?

登入後即可作答並保存紀錄。

這一題的完整詳解

本題要求定義事件 EiE_i 為恰好出現 ii 次正面的結果集合,並計算每個事件包含的樣本點個數。

樣本空間 Ω={HHH,HHT,HTH,HTT,THH,THT,TTH,TTT}\Omega = \{HHH, HHT, HTH, HTT, THH, THT, TTH, TTT\}。
事件 EiE_i 是指在三次拋擲中,恰好有 ii 次出現正面 (H)。

我們需要分別計算 i=0,1,2,3i=0, 1, 2, 3 的情況。

情況 i=0i=0:恰好 0 次正面 (即全部是反面)
結果是 TTT。
E0={TTT}E_0 = \{TTT\}。
E0E_0 包含的樣本點個數為 1。
這也可以用組合數計算:在 3 次拋擲中選擇 0 次正面,即 (30)=1\binom{3}{0} = 1。

情況 i=1i=1:恰好 1 次正面
結果是 H 在第一次,或第二次,或第三次。
E1={HTT,THT,TTH}E_1 = \{HTT, THT, TTH\}。
E1E_1 包含的樣本點個數為 3。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 1c 題3 分

(c). (3%) Define event FF as an event in which at least two of the tosses yield “heads.”

登入後即可作答並保存紀錄。

這一題的完整詳解

本題要求定義事件 FF 為至少出現兩次正面的結果集合。

從上一小題的定義,我們有:
E0E_0: 恰好 0 次正面
E1E_1: 恰好 1 次正面
E2E_2: 恰好 2 次正面
E3E_3: 恰好 3 次正面

事件 FF 是指「至少兩次」正面。這意味著正面出現的次數可以是 2 次,或者 3 次。
因此,事件 FF 是事件 E2E_2 和事件 E3E_3 的聯集。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 2 題10 分

  1. (10%) Consider two independent random variables XX and NN, where XX is uniformly distributed on (0,2π)(0, 2\pi) and NN follows a Gaussian distribution with probability density function (PDF) fN(n)=12πσ2exp⁡(−n22σ2)f_N(n) = \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{n^2}{2\sigma^2}\right). Let Y=X+NY = X+N. Determine the conditional PDF fX∣Y(x∣y)f_{X|Y}(x|y).

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

本題考查:

  • 聯合機率密度函數;
  • 條件機率密度函數公式;
  • 獨立隨機變數的聯合密度分解;
  • 和的機率密度函數,也就是 convolution。

條件 PDF 的公式為

fX∣Y(x∣y)=fX,Y(x,y)fY(y).f_{X|Y}(x|y)=\frac{f_{X,Y}(x,y)}{f_Y(y)}.

因為 XX 與 NN 獨立,且 Y=X+NY=X+N,所以當 y=x+ny=x+n 時,n=y−xn=y-x,聯合密度為

fX,Y(x,y)=fX(x)fN(y−x).f_{X,Y}(x,y)=f_X(x)f_N(y-x).

其中

fX(x)={12π,0<x<2π,0,其他.f_X(x)= \begin{cases} \dfrac{1}{2\pi}, & 0<x<2\pi,\\ 0, & \text{其他}. \end{cases}

解題方法

1. 求聯合 PDF

由 Y=X+NY=X+N 可得

N=Y−X.N=Y-X.

因此

fX,Y(x,y)=fX(x)fN(y−x).f_{X,Y}(x,y)=f_X(x)f_N(y-x).

當 0<x<2π0<x<2\pi 時,

fX,Y(x,y)=12π⋅12πσ2exp⁡[−(y−x)22σ2].f_{X,Y}(x,y) = \frac{1}{2\pi} \cdot \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left[-\frac{(y-x)^2}{2\sigma^2}\right].

2. 求 YY 的邊際 PDF

將 XX 積分掉:

fY(y)=∫−∞∞fX,Y(x,y) dx.f_Y(y)=\int_{-\infty}^{\infty}f_{X,Y}(x,y)\,dx.

由於 XX 的支撐範圍為 (0,2π)(0,2\pi),

fY(y)=12π∫02π12πσ2exp⁡[−(y−x)22σ2]dx.f_Y(y) = \frac{1}{2\pi} \int_0^{2\pi} \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left[-\frac{(y-x)^2}{2\sigma^2}\right]dx.

令

u=y−xσ,dx=−σ du.u=\frac{y-x}{\sigma}, \qquad dx=-\sigma\,du.

當 x=0x=0 時,u=y/σu=y/\sigma;當 x=2πx=2\pi 時,u=(y−2π)/σu=(y-2\pi)/\sigma。因此

fY(y)=12π∫(y−2π)/σy/σ12πe−u2/2 du.f_Y(y) = \frac{1}{2\pi} \int_{(y-2\pi)/\sigma}^{y/\sigma} \frac{1}{\sqrt{2\pi}}e^{-u^2/2}\,du.

以標準常態分布的累積分布函數 Φ(⋅)\Phi(\cdot) 表示:

fY(y)=12π[Φ(yσ)−Φ(y−2πσ)].f_Y(y) = \frac{1}{2\pi} \left[ \Phi\left(\frac{y}{\sigma}\right) - \Phi\left(\frac{y-2\pi}{\sigma}\right) \right].

3. 套用條件 PDF 公式

當 0<x<2π0<x<2\pi 時,

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 3a 題5 分

  1. (15%) Let NN be a positive integer-valued random variable with the cumulative distribution function (CDF) FN(n)=nn+1F_N(n) = \frac{n}{n+1} for each integer n≥1n \ge 1.
    (a). (5%) Use the CDF FN(n)F_N(n) to demonstrate that NN is a positive random variable.

登入後即可作答並保存紀錄。

這一題的完整詳解

本題要求利用累積分佈函數 (CDF) FN(n)F_N(n) 來證明隨機變數 NN 是一個正整數值隨機變數。

首先,我們回顧一下 CDF 的定義和性質。
對於一個隨機變數 XX,其 CDF FX(x)F_X(x) 定義為 P(X≤x)P(X \le x)。
一個隨機變數被稱為「正整數值」的,意味著它的所有可能取值都是正整數,即 {1,2,3,… }\{1, 2, 3, \dots\}。

給定的 CDF 是 FN(n)=nn+1F_N(n) = \frac{n}{n+1},適用於所有整數 n≥1n \ge 1。
對於 n<1n < 1 的整數(即 n≤0n \le 0),CDF 的值應該是 0。
我們需要驗證:

  1. FN(n)F_N(n) 在其定義域內是否滿足 CDF 的性質。
  2. NN 的取值是否僅限於正整數。

CDF 性質驗證:

  1. 非遞減性:
    對於 n1,n2n_1, n_2 是整數且 n2>n1≥1n_2 > n_1 \ge 1。
    FN(n1)=n1n1+1F_N(n_1) = \frac{n_1}{n_1+1}
    FN(n2)=n2n2+1F_N(n_2) = \frac{n_2}{n_2+1}
    我們需要證明 FN(n1)≤FN(n2)F_N(n_1) \le F_N(n_2)。
    考慮函數 f(x)=xx+1=1−1x+1f(x) = \frac{x}{x+1} = 1 - \frac{1}{x+1}。
    其導數為 f′(x)=1(x+1)2f'(x) = \frac{1}{(x+1)^2}。
    對於 x≥1x \ge 1, f′(x)>0f'(x) > 0,所以函數 f(x)f(x) 是嚴格遞增的。
    因此,對於 n2>n1≥1n_2 > n_1 \ge 1,我們有 FN(n1)<FN(n2)F_N(n_1) < F_N(n_2)。
    這滿足 CDF 的非遞減性質。

  2. 極限性質:

    • 當 n→∞n \to \infty 時:
      lim⁡n→∞FN(n)=lim⁡n→∞nn+1=lim⁡n→∞11+1/n=1\lim_{n \to \infty} F_N(n) = \lim_{n \to \infty} \frac{n}{n+1} = \lim_{n \to \infty} \frac{1}{1 + 1/n} = 1。
      這滿足 CDF 的性質 lim⁡x→∞FX(x)=1\lim_{x \to \infty} F_X(x) = 1。

    • 對於 n≤0n \le 0 的整數:
      如果 NN 的取值僅限於正整數,那麼對於 n≤0n \le 0,事件 {N≤n}\{N \le n\} 的機率應該為 0。
      我們需要定義 FN(n)F_N(n) 對於 n≤0n \le 0 的情況。
      通常,對於正整數值隨機變數,我們定義 FN(n)=0F_N(n) = 0 當 n<1n < 1。
      所以,對於 n=0n=0, FN(0)=0F_N(0) = 0。
      對於 n=−1n=-1, FN(−1)=0F_N(-1) = 0。
      這滿足 CDF 的性質 lim⁡x→−∞FX(x)=0\lim_{x \to -\infty} F_X(x) = 0。

  3. 機率值範圍:
    對於 n≥1n \ge 1, 0<nn+1<10 < \frac{n}{n+1} < 1。
    例如,FN(1)=11+1=12F_N(1) = \frac{1}{1+1} = \frac{1}{2}。
    FN(2)=22+1=23F_N(2) = \frac{2}{2+1} = \frac{2}{3}。
    FN(3)=33+1=34F_N(3) = \frac{3}{3+1} = \frac{3}{4}。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 3b 題5 分

(b). (5%) Determine the probability mass function (PMF) of NN, i.e., PN(n)P_N(n).

登入後即可作答並保存紀錄。

這一題的完整詳解

本題要求計算隨機變數 NN 的機率質量函數 (PMF),記為 PN(n)P_N(n)。

我們已經知道 NN 是一個正整數值隨機變數,其累積分佈函數 (CDF) 為 FN(n)=nn+1F_N(n) = \frac{n}{n+1} 對於整數 n≥1n \ge 1,並且 FN(n)=0F_N(n) = 0 對於 n<1n < 1。

對於離散隨機變數,PMF 可以通過 CDF 計算得到:
P(N=n)=FN(n)−FN(n−1)P(N=n) = F_N(n) - F_N(n-1)

我們需要分情況討論:

情況 1:n<1n < 1 (即 n≤0n \le 0)
對於 n≤0n \le 0, FN(n)=0F_N(n) = 0。
FN(n−1)=0F_N(n-1) = 0 (因為 n−1<1n-1 < 1)。
所以,P(N=n)=0−0=0P(N=n) = 0 - 0 = 0。
這表示 NN 的取值不會是 0 或負整數。

情況 2:n=1n = 1
P(N=1)=FN(1)−FN(1−1)=FN(1)−FN(0)P(N=1) = F_N(1) - F_N(1-1) = F_N(1) - F_N(0)
根據定義,FN(1)=11+1=12F_N(1) = \frac{1}{1+1} = \frac{1}{2}。
FN(0)=0F_N(0) = 0 (因為 0<10 < 1)。
所以,P(N=1)=12−0=12P(N=1) = \frac{1}{2} - 0 = \frac{1}{2}。

情況 3:n≥2n \ge 2
P(N=n)=FN(n)−FN(n−1)P(N=n) = F_N(n) - F_N(n-1)
FN(n)=nn+1F_N(n) = \frac{n}{n+1}
FN(n−1)=n−1(n−1)+1=n−1nF_N(n-1) = \frac{n-1}{(n-1)+1} = \frac{n-1}{n} (因為 n≥2n \ge 2, 所以 n−1≥1n-1 \ge 1)。
P(N=n)=nn+1−n−1nP(N=n) = \frac{n}{n+1} - \frac{n-1}{n}
P(N=n)=n⋅n−(n−1)(n+1)n(n+1)P(N=n) = \frac{n \cdot n - (n-1)(n+1)}{n(n+1)}
P(N=n)=n2−(n2−1)n(n+1)P(N=n) = \frac{n^2 - (n^2 - 1)}{n(n+1)}
P(N=n)=1n(n+1)P(N=n) = \frac{1}{n(n+1)}。

總結 PMF:
PN(n)={12if n=11n(n+1)if n≥2 (and n is an integer)0otherwiseP_N(n) = \begin{cases} \frac{1}{2} & \text{if } n = 1 \\ \frac{1}{n(n+1)} & \text{if } n \ge 2 \text{ (and } n \text{ is an integer)} \\ 0 & \text{otherwise} \end{cases}

我們需要驗證這個 PMF 是否歸一化,即所有可能取值的機率總和是否為 1。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 3c 題5 分

(c). (5%) Compute the expected value of NN, i.e., E{N}E\{N\}.

登入後即可作答並保存紀錄。

這一題的完整詳解

本題要求計算隨機變數 NN 的期望值 E{N}E\{N\}。

我們已經計算出 NN 的機率質量函數 (PMF) 為:
PN(n)=1n(n+1)P_N(n) = \frac{1}{n(n+1)}, for all integers n≥1n \ge 1.

期望值的定義為:
E{N}=∑nn⋅PN(n)E\{N\} = \sum_{n} n \cdot P_N(n)

將 PMF 代入:
E{N}=∑n=1∞n⋅1n(n+1)E\{N\} = \sum_{n=1}^{\infty} n \cdot \frac{1}{n(n+1)}

我們可以簡化 n⋅1n(n+1)n \cdot \frac{1}{n(n+1)}:
n⋅1n(n+1)=nn(n+1)=1n+1n \cdot \frac{1}{n(n+1)} = \frac{n}{n(n+1)} = \frac{1}{n+1} (因為 n≥1n \ge 1, n≠0n \ne 0)。

所以,
E{N}=∑n=1∞1n+1E\{N\} = \sum_{n=1}^{\infty} \frac{1}{n+1}

這個級數是:
11+1+12+1+13+1+…\frac{1}{1+1} + \frac{1}{2+1} + \frac{1}{3+1} + \dots
=12+13+14+…= \frac{1}{2} + \frac{1}{3} + \frac{1}{4} + \dots

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 4a 題5 分

  1. (15%) Consider an experiment in which a fair coin is tossed nn times. Let SNS_N represent the total number of "heads (=1)" obtained:
    SN=B1+B2+⋯+BNS_N = B_1 + B_2 + \dots + B_N,
    where BiB_i are independent binary random variables with P(Bi=1)=P(Bi=0)=0.5P(B_i = 1) = P(B_i = 0) = 0.5 for all i=0,1,2,…,Ni = 0, 1, 2, \dots, N.
    (a). (5%) Compute the moment generating function (MGF) of SNS_N, denoted as MSN(t)M_{S_N}(t).
    Hint: For a random variable XX, its MGF MX(t)M_X(t) is defined by MX(t)=E[etX]M_X(t) = E[e^{tX}].

登入後即可作答並保存紀錄。

這一題的完整詳解

本題要求計算二項分佈隨機變數 SNS_N 的動差生成函數 (MGF)。

首先,我們需要理解 SNS_N 的分佈。
BiB_i 是獨立的伯努利隨機變數,參數為 p=0.5p=0.5。
SN=B1+B2+⋯+BNS_N = B_1 + B_2 + \dots + B_N 是 NN 個獨立同分佈的伯努利隨機變數之和。
這意味著 SNS_N 服從二項分佈,參數為 NN(試驗次數)和 p=0.5p=0.5(成功的機率)。
SN∼Binomial(N,p=0.5)S_N \sim Binomial(N, p=0.5)。

二項分佈的機率質量函數 (PMF) 為:
P(SN=k)=(Nk)pk(1−p)N−kP(S_N = k) = \binom{N}{k} p^k (1-p)^{N-k}, for k=0,1,…,Nk = 0, 1, \dots, N.
在這裡,p=0.5p=0.5,所以 1−p=0.51-p=0.5。
P(SN=k)=(Nk)(0.5)k(0.5)N−k=(Nk)(0.5)NP(S_N = k) = \binom{N}{k} (0.5)^k (0.5)^{N-k} = \binom{N}{k} (0.5)^N。

動差生成函數 (MGF) 的定義為 MX(t)=E[etX]M_X(t) = E[e^{tX}]。
對於離散隨機變數,MGF 的計算公式為:
MSN(t)=∑k=0NetkP(SN=k)M_{S_N}(t) = \sum_{k=0}^{N} e^{tk} P(S_N=k)

將二項分佈的 PMF 代入:
MSN(t)=∑k=0Netk(Nk)(0.5)NM_{S_N}(t) = \sum_{k=0}^{N} e^{tk} \binom{N}{k} (0.5)^N
MSN(t)=(0.5)N∑k=0N(Nk)(et)kM_{S_N}(t) = (0.5)^N \sum_{k=0}^{N} \binom{N}{k} (e^t)^k

我們知道二項式定理:(x+y)N=∑k=0N(Nk)xN−kyk(x+y)^N = \sum_{k=0}^{N} \binom{N}{k} x^{N-k} y^k。
令 x=1x=1 和 y=ety=e^t。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 4b 題10 分

(b). (10%) The Chernoff bound can be given as P(SN≥Nβ)≤min⁡t{e−tNβMSN(t)}P(S_N \ge N\beta) \le \min_{t} \{e^{-tN\beta} M_{S_N}(t)\}.
Determine the optimal value of tt and show that P(SN≥Nβ)≤2−N(1−H(β))P(S_N \ge N\beta) \le 2^{-N(1-H(\beta))}, where H(β)=−βlog⁡2β−(1−β)log⁡2(1−β)H(\beta) = -\beta \log_2 \beta - (1-\beta) \log_2 (1-\beta).
Hint: Minimizing e−tNβMSN(t)e^{-tN\beta} M_{S_N}(t) is equal to minimizing ln⁡(e−tNβMSN(t))\ln(e^{-tN\beta} M_{S_N}(t)).

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

本題考查 Chernoff bound 與動差生成函數(moment-generating function, MGF)的最佳化。

若 SNS_N 為 NN 個獨立且服從 Bernoulli(12)\left(\frac12\right) 的隨機變數總和,則

SN=∑i=1NXi,Xi∼Bernoulli⁡(12).S_N=\sum_{i=1}^{N}X_i,\qquad X_i\sim\operatorname{Bernoulli}\left(\frac12\right).

單一 XiX_i 的 MGF 為

MXi(t)=E[etXi]=12et+12=1+et2.M_{X_i}(t)=E[e^{tX_i}] =\frac12 e^t+\frac12 =\frac{1+e^t}{2}.

由獨立性,

MSN(t)=∏i=1NMXi(t)=(1+et2)N.M_{S_N}(t) =\prod_{i=1}^{N}M_{X_i}(t) =\left(\frac{1+e^t}{2}\right)^N.

因此 Chernoff bound 為

P(SN≥Nβ)≤min⁡t{e−tNβ(1+et2)N}.P(S_N\ge N\beta) \leq \min_t \left\{ e^{-tN\beta} \left(\frac{1+e^t}{2}\right)^N \right\}.

以下假設 12<β<1\frac12<\beta<1,即考察高於平均值 E[SN]=N/2E[S_N]=N/2 的右尾機率。


解題方法:最小化對數函數

令

g(t)=e−tNβ(1+et2)N.g(t)=e^{-tN\beta} \left(\frac{1+e^t}{2}\right)^N.

因為對數函數嚴格遞增,最小化 g(t)g(t) 等價於最小化其自然對數:

ln⁡g(t)=−tNβ+Nln⁡(1+et2).\ln g(t) =-tN\beta +N\ln\left(\frac{1+e^t}{2}\right).

整理為

ln⁡g(t)=N[−βt+ln⁡(1+et)−ln⁡2].\ln g(t) =N\left[ -\beta t+\ln(1+e^t)-\ln 2 \right].

對 tt 微分:

ddtln⁡g(t)=N[−β+et1+et].\frac{d}{dt}\ln g(t) =N\left[ -\beta+\frac{e^t}{1+e^t} \right].

令導數等於 00:

−β+et1+et=0,-\beta+\frac{e^t}{1+e^t}=0,

因此

et1+et=β.\frac{e^t}{1+e^t}=\beta.

解得

et=β(1+et),e^t=\beta(1+e^t), et(1−β)=β,e^t(1-\beta)=\beta,

故最佳化參數為

t∗=ln⁡β1−β.\boxed{ t^*=\ln\frac{\beta}{1-\beta} }.

由於 β>12\beta>\frac12,所以 t∗>0t^*>0,符合右尾 Chernoff bound 的要求。


代回求得 Chernoff bound

先計算

e−t∗β=(1−ββ)β.e^{-t^*\beta} = \left(\frac{1-\beta}{\beta}\right)^\beta.

另外,

et∗=β1−β,e^{t^*}=\frac{\beta}{1-\beta},

所以

1+et∗2=1+β1−β2=12(1−β).\frac{1+e^{t^*}}{2} = \frac{1+\frac{\beta}{1-\beta}}{2} = \frac{1}{2(1-\beta)}.

因此

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

其他考古題