114 年 國立中山大學通訊工程研究所甲組《機率》
第 1 題5 分
- (5%) For ,
(A) 0
(B)
(C)
(D)
(E)
登入後即可作答並保存紀錄。
本題考驗二項式定理的應用,以及如何利用其導出級數求和。
我們知道二項式定理為 。
令 ,則 。
現在我們考慮原式 。
我們可以將 寫成 。
利用組合恆等式 (對於 ),我們有:
第 2 題5 分
- (5%) For ,
(A) 0
(B)
(C)
(D)
(E)
登入後即可作答並保存紀錄。
本題考驗二項式定理的應用,特別是當其中一項為負值時的級數求和。
二項式定理為 。
我們考慮原式 。
這可以看作是二項式定理中 的情況:
第 3 題5 分
- (5%) What is the total number of possible solutions for , where
(A) 36
(B) 45
(C) 66
(D) 120
(E) 286
登入後即可作答並保存紀錄。
本題為典型的組合問題,屬於「隔板法」或稱「重複組合」問題。我們需要找出非負整數解的個數。
題目要求 ,其中 可以是 0 或正整數。
這意味著 對於 。
這是一個標準的重複組合問題,可以使用隔板法來解決。
我們將 10 個單位(例如 10 個球)分配給 3 個變數(例如 3 個箱子)。
我們需要 個單位和 個變數。
第 4 題5 分
- (5%) How many 11-letter words can be formed using the letters from the word "examination"?
(A) 40 320
(B) 4 989 600
(C) 13 305 600
(D) 39 916 800
(E) None of the above
登入後即可作答並保存紀錄。
本題考驗排列組合問題,特別是處理有重複字母的排列。
首先,我們需要分析單字 "examination" 中的字母組成及其出現次數。
單字 "examination" 總共有 11 個字母。
字母列表:e, x, a, m, i, n, a, t, i, o, n
字母及其出現次數:
a: 2
e: 1
i: 2
m: 1
n: 2
o: 1
t: 1
x: 1
總共有 11 個字母,其中有 3 個字母 (a, i, n) 各重複出現 2 次,其餘 5 個字母 (e, m, o, t, x) 各出現 1 次。
我們要形成一個 11 個字母的單字,這意味著我們需要使用 "examination" 中的所有字母,並且要考慮字母的排列順序。
這是一個關於排列的標準問題,其中有重複的元素。
如果所有字母都不同,則排列數為 。
然而,由於有重複的字母,我們需要除以重複字母的階乘。
第 5 題5 分
- (5%) Which of the following is not a type of random variables?
(A) Continuous random variables
(B) Discrete random variables
(C) Hybrid random variables
(D) Mixed random variables
(E) None of the above
登入後即可作答並保存紀錄。
核心觀念
隨機變數依其機率分布型態,通常可分為:
- 離散型隨機變數(discrete random variable):只取有限個或可數無限個數值。
- 連續型隨機變數(continuous random variable):可在某個區間內取不可數多個數值,並以機率密度函數描述。
- 混合型隨機變數(mixed random variable):同時具有離散型與連續型的機率成分。
混合型隨機變數也常稱為 hybrid random variable,因此 hybrid 與 mixed 在此處是同義用語。
解題方法
判斷各選項是否為隨機變數的分類名稱:
- 若名稱代表某種機率分布型態,便是隨機變數的類型。
- 若只是「沒有上述選項」的答題選項,則不屬於隨機變數類型本身。
由於 A 至 D 都是隨機變數的類型或同義分類名稱,因此不存在一個真正的隨機變數類型被列在 A 至 D 中而需要排除,應選「以上皆非」。
選項分析
(A) Continuous random variables
連續型隨機變數是標準分類。
若 為連續型隨機變數,通常存在機率密度函數 ,使得
且單點機率通常為
因此此選項正確,確實是隨機變數的一種類型。
(B) Discrete random variables
離散型隨機變數也是標準分類。
若 為離散型隨機變數,則其可能值為有限個或可數無限個,並以機率質量函數
描述其分布,且滿足
因此此選項正確。
第 6 題5 分
- (5%) Given that , which of the following is true about the CDF of any random variable ?
(A) when
(B) when
(C) if and only if
(D) for any and
(E) None of the above
登入後即可作答並保存紀錄。
本題考驗累積分佈函數 (CDF) 的基本性質。累積分佈函數 定義為 。
CDF 的基本性質包括:
- 對於所有 。
- 是非遞減函數,即若 ,則 。
- 。
- 。
- 是右連續的,即 。
- 對於 。
現在我們逐一檢驗選項:
(A) when
這是不正確的。CDF 是非遞減函數,不是嚴格遞增。例如,如果 是一個離散隨機變數,其值只在 時取到,那麼對於 和 ,有 ,但 可能等於 (如果 也是一個使得 不變的值)。更確切地說,若 ,則 ,而不是嚴格大於。
(B) when
這是不正確的。根據性質 2,若 ,則 。
所以,若 ,則應該是 。
選項寫的是 的時候,,這與性質 2 的方向相反。
正確的敘述應該是:若 ,則 。
或者,若 ,則 。
仔細檢查題目和選項的寫法:
選項 B: when .
這其實是正確的。如果 , 那麼 在 的值應該小於或等於在 的值。
例如,若 , 則 。我們應該有 。
第 7 題5 分
- (5%) If and are, respectively, the Heaviside step function and the Dirac delta function evaluated at x (where ), then
(A) 1
(B)
(C)
(D)
(E)
登入後即可作答並保存紀錄。
本題考驗對狄拉克 δ 函數(Dirac delta function)和單位階躍函數(Heaviside step function)的積分性質的理解。
狄拉克 δ 函數 有一個重要的篩選性質(sifting property):
其中 是一個在 點連續的函數。
在這個問題中,我們需要計算的積分是 。
這裡,我們的積分變數是 ,而 是一個常數。
篩選性質中的 對應於 ,而 對應於 。
所以, 對應於 。
第 8 題5 分
- (5%) Let X and Y be two random variables such that they are linearly dependent. Which of the following about , the correlation coefficient of X and Y, is correct?
(A)
(B)
(C)
(D) or
(E) None of the above
登入後即可作答並保存紀錄。
本題考驗相關係數的性質,特別是當兩個隨機變數線性相關時的情況。
相關係數 定義為:
其中 是 和 的共變異數, 和 分別是 和 的標準差。
兩個隨機變數 和 被稱為線性相關,如果它們之間存在一個線性關係,即 或 ,其中 和 是常數,且 。
我們來分析在這種線性關係下相關係數的值。
考慮 ,其中 。
共變異數 。
的標準差 。
第 9 題5 分
- (5%) Given that is a Poisson random variable with mean , find , the moment-generating function of .
(A)
(B)
(C)
(D)
(E) None of the above
登入後即可作答並保存紀錄。
本題考驗泊松分佈(Poisson distribution)的動差生成函數(Moment-Generating Function, MGF)。
一個離散隨機變數 服從參數為 的泊松分佈,其機率質量函數 (PMF) 為:
,
其期望值(平均值)為 。
題目中給定 是泊松隨機變數,其平均值為 。因此,我們可以使用 。
PMF 為:,
動差生成函數 (MGF) 的定義為 。
對於離散隨機變數,MGF 的計算公式為:
將泊松分佈的 PMF 代入:
第 10 題5 分
- (5%) Let be a discrete random variable such that for . If , find , where .
(A)
(B)
(C)
(D)
(E) None of the above
登入後即可作答並保存紀錄。
核心觀念
本題考的是離散隨機變數的函數轉換。若 ,則其機率質量函數為
也就是把所有會映射到 的 所對應的機率相加。離散型轉換不需要乘上導數或雅可比因子。
本題給定的 未正規化,嚴格而言不是合法的機率質量函數;以下先依題面指定的函數進行轉換,再說明此問題。
解題方法
由於 ,而 ,故 的取值範圍為
對每個正整數平方 ,其中 ,只有 會使 。雖然方程式 有正、負兩個根,但 不在 的取值範圍內,因此只需取正根。
依離散型轉換公式,
將 代入,得到題面函數的轉換結果:
故依題面作答,對應選項 (B)。
選項分析
- **(A) 錯誤:**多乘了 。每個 只有一個符合 的原像,不需要將機率減半。
第 1a 題3 分
- (10%) Consider an experiment in which a fair coin is tossed three times.
(a). (3%) What is the sample space () of all possible outcomes for this experiment?
登入後即可作答並保存紀錄。
本題要求列出一個公平硬幣拋擲三次的所有可能結果,即樣本空間 。
樣本空間是隨機實驗所有可能結果的集合。
對於一次公平硬幣拋擲,可能出現的結果是正面 (H, Heads) 或反面 (T, Tails)。
當拋擲三次時,每一次拋擲都是獨立的,並且有兩種結果。
因此,總的可能結果數是 。
我們可以用符號 H 代表正面,T 代表反面。
所有可能的結果如下:
第一次拋擲 | 第二次拋 ત | 第三次拋掷 | 結果
第 1b 題4 分
(b). (4%) Define the event as the outcomes where exactly tosses result in “heads,” where . For each , how many sample points does contain?
登入後即可作答並保存紀錄。
本題要求定義事件 為恰好出現 次正面的結果集合,並計算每個事件包含的樣本點個數。
樣本空間 。
事件 是指在三次拋擲中,恰好有 次出現正面 (H)。
我們需要分別計算 的情況。
情況 :恰好 0 次正面 (即全部是反面)
結果是 TTT。
。
包含的樣本點個數為 1。
這也可以用組合數計算:在 3 次拋擲中選擇 0 次正面,即 。
情況 :恰好 1 次正面
結果是 H 在第一次,或第二次,或第三次。
。
包含的樣本點個數為 3。
第 1c 題3 分
(c). (3%) Define event as an event in which at least two of the tosses yield “heads.”
登入後即可作答並保存紀錄。
本題要求定義事件 為至少出現兩次正面的結果集合。
從上一小題的定義,我們有:
: 恰好 0 次正面
: 恰好 1 次正面
: 恰好 2 次正面
: 恰好 3 次正面
事件 是指「至少兩次」正面。這意味著正面出現的次數可以是 2 次,或者 3 次。
因此,事件 是事件 和事件 的聯集。
第 2 題10 分
- (10%) Consider two independent random variables and , where is uniformly distributed on and follows a Gaussian distribution with probability density function (PDF) . Let . Determine the conditional PDF .
登入後即可作答並保存紀錄。
核心觀念
本題考查:
- 聯合機率密度函數;
- 條件機率密度函數公式;
- 獨立隨機變數的聯合密度分解;
- 和的機率密度函數,也就是 convolution。
條件 PDF 的公式為
因為 與 獨立,且 ,所以當 時,,聯合密度為
其中
解題方法
1. 求聯合 PDF
由 可得
因此
當 時,
2. 求 的邊際 PDF
將 積分掉:
由於 的支撐範圍為 ,
令
當 時,;當 時,。因此
以標準常態分布的累積分布函數 表示:
3. 套用條件 PDF 公式
當 時,
第 3a 題5 分
- (15%) Let be a positive integer-valued random variable with the cumulative distribution function (CDF) for each integer .
(a). (5%) Use the CDF to demonstrate that is a positive random variable.
登入後即可作答並保存紀錄。
本題要求利用累積分佈函數 (CDF) 來證明隨機變數 是一個正整數值隨機變數。
首先,我們回顧一下 CDF 的定義和性質。
對於一個隨機變數 ,其 CDF 定義為 。
一個隨機變數被稱為「正整數值」的,意味著它的所有可能取值都是正整數,即 。
給定的 CDF 是 ,適用於所有整數 。
對於 的整數(即 ),CDF 的值應該是 0。
我們需要驗證:
- 在其定義域內是否滿足 CDF 的性質。
- 的取值是否僅限於正整數。
CDF 性質驗證:
-
非遞減性:
對於 是整數且 。
我們需要證明 。
考慮函數 。
其導數為 。
對於 , ,所以函數 是嚴格遞增的。
因此,對於 ,我們有 。
這滿足 CDF 的非遞減性質。 -
極限性質:
-
當 時:
。
這滿足 CDF 的性質 。 -
對於 的整數:
如果 的取值僅限於正整數,那麼對於 ,事件 的機率應該為 0。
我們需要定義 對於 的情況。
通常,對於正整數值隨機變數,我們定義 當 。
所以,對於 , 。
對於 , 。
這滿足 CDF 的性質 。
-
-
機率值範圍:
對於 , 。
例如,。
。
。
第 3b 題5 分
(b). (5%) Determine the probability mass function (PMF) of , i.e., .
登入後即可作答並保存紀錄。
本題要求計算隨機變數 的機率質量函數 (PMF),記為 。
我們已經知道 是一個正整數值隨機變數,其累積分佈函數 (CDF) 為 對於整數 ,並且 對於 。
對於離散隨機變數,PMF 可以通過 CDF 計算得到:
我們需要分情況討論:
情況 1: (即 )
對於 , 。
(因為 )。
所以,。
這表示 的取值不會是 0 或負整數。
情況 2:
根據定義,。
(因為 )。
所以,。
情況 3:
(因為 , 所以 )。
。
總結 PMF:
我們需要驗證這個 PMF 是否歸一化,即所有可能取值的機率總和是否為 1。
第 3c 題5 分
(c). (5%) Compute the expected value of , i.e., .
登入後即可作答並保存紀錄。
本題要求計算隨機變數 的期望值 。
我們已經計算出 的機率質量函數 (PMF) 為:
, for all integers .
期望值的定義為:
將 PMF 代入:
我們可以簡化 :
(因為 , )。
所以,
這個級數是:
第 4a 題5 分
- (15%) Consider an experiment in which a fair coin is tossed times. Let represent the total number of "heads (=1)" obtained:
,
where are independent binary random variables with for all .
(a). (5%) Compute the moment generating function (MGF) of , denoted as .
Hint: For a random variable , its MGF is defined by .
登入後即可作答並保存紀錄。
本題要求計算二項分佈隨機變數 的動差生成函數 (MGF)。
首先,我們需要理解 的分佈。
是獨立的伯努利隨機變數,參數為 。
是 個獨立同分佈的伯努利隨機變數之和。
這意味著 服從二項分佈,參數為 (試驗次數)和 (成功的機率)。
。
二項分佈的機率質量函數 (PMF) 為:
, for .
在這裡,,所以 。
。
動差生成函數 (MGF) 的定義為 。
對於離散隨機變數,MGF 的計算公式為:
將二項分佈的 PMF 代入:
我們知道二項式定理:。
令 和 。
第 4b 題10 分
(b). (10%) The Chernoff bound can be given as .
Determine the optimal value of and show that , where .
Hint: Minimizing is equal to minimizing .
登入後即可作答並保存紀錄。
核心觀念
本題考查 Chernoff bound 與動差生成函數(moment-generating function, MGF)的最佳化。
若 為 個獨立且服從 Bernoulli 的隨機變數總和,則
單一 的 MGF 為
由獨立性,
因此 Chernoff bound 為
以下假設 ,即考察高於平均值 的右尾機率。
解題方法:最小化對數函數
令
因為對數函數嚴格遞增,最小化 等價於最小化其自然對數:
整理為
對 微分:
令導數等於 :
因此
解得
故最佳化參數為
由於 ,所以 ,符合右尾 Chernoff bound 的要求。
代回求得 Chernoff bound
先計算
另外,
所以
因此