111 年 國立中山大學電機工程學系碩士班戊組《通訊理論》

📄 試題原卷 免費註冊後即可對照原始考卷 PDF免費註冊

第 1 題

  1. (10%) Please explain the following concepts as detail as possible:
    (a) (2%) Describe the conditions for a random process to be wide-sense stationary (WSS).
    (b) (2%) What is an Ergodic process?
    (c) (2%) Describe the Wiener-Khinchin Theorem.
    (d) (2%) What is an Additive White Gaussian Noise?
    (e) (2%) What is a Gaussian Process?

登入後即可作答並保存紀錄。

這一題的完整詳解

本題主要在考察通訊理論中關於隨機過程(Random Process)的基本概念,包括平穩性、遍歷性、雜訊特性以及高斯過程的定義。

核心觀念: 隨機過程的統計特性描述。

(a) 寬窄意義下之平穩性 (Wide-Sense Stationary, WSS) 的條件:
一個隨機過程 {X(t),t∈R}\{X(t), t \in \mathbb{R}\} 被稱為寬窄意義下之平穩(WSS),需要滿足以下兩個條件:

  1. 均值為常數: 隨機過程的均值不隨時間變化,即 E[X(t)]=μXE[X(t)] = \mu_X 對所有 tt 皆為常數。
  2. 自相關函數僅依賴於時間差: 隨機過程的二階統計量,即自相關函數 RX(t1,t2)=E[X(t1)X(t2)]R_X(t_1, t_2) = E[X(t_1)X(t_2)],僅僅是時間差 τ=t1−t2\tau = t_1 - t_2 的函數,即 RX(t1,t2)=RX(τ)R_X(t_1, t_2) = R_X(\tau)。

物理意義: WSS 過程的統計特性在時間上是穩定的,其平均值和與時間差相關的「記憶」程度不變。

(b) 遍歷性 (Ergodic Process):
一個隨機過程被稱為遍歷性(Ergodic)的,是指該過程的所有統計平均(例如均值、自相關函數、概率分佈等)都可以透過對單一實現(sample function)進行時間平均來獲得。換句話說,時間平均等於統計平均。
若一個隨機過程是遍歷性的,則它也必然是寬窄意義下平穩的 (WSS)。但反之則不然,WSS 的過程不一定是遍歷的。

數學表示:

  • 時間平均均值:lim⁡T→∞12T∫−TTX(t)dt=E[X(t)]\lim_{T \to \infty} \frac{1}{2T} \int_{-T}^{T} X(t) dt = E[X(t)]
  • 時間平均自相關函數:lim⁡T→∞12T∫−TTX(t)X(t+τ)dt=RX(τ)\lim_{T \to \infty} \frac{1}{2T} \int_{-T}^{T} X(t) X(t+\tau) dt = R_X(\tau)

物理意義: 遍歷性過程的長期行為(時間平均)能夠代表其整體統計特性,這使得我們能從單一觀測記錄中推斷出整個系統的統計行為。

(c) 維納-辛欽定理 (Wiener-Khinchin Theorem):
維納-辛欽定理是描述一個平穩隨機過程(Stationary Random Process)的自相關函數與其功率頻譜密度(Power Spectral Density, PSD)之間關係的關鍵定理。
它指出,一個寬窄意義下平穩(WSS)的隨機過程 X(t)X(t),其自相關函數 RX(τ)R_X(\tau) 和功率頻譜密度 SX(f)S_X(f) 互為傅立葉轉換對(Fourier Transform Pair)。
即:

  • SX(f)=F{RX(τ)}=∫−∞∞RX(τ)e−j2πfτdτS_X(f) = \mathcal{F}\{R_X(\tau)\} = \int_{-\infty}^{\infty} R_X(\tau) e^{-j2\pi f \tau} d\tau
  • RX(τ)=F−1{SX(f)}=∫−∞∞SX(f)ej2πfτdfR_X(\tau) = \mathcal{F}^{-1}\{S_X(f)\} = \int_{-\infty}^{\infty} S_X(f) e^{j2\pi f \tau} df

物理意義: 這個定理將時間域的統計特性(自相關函數,描述了信號在不同時間點的相關性)與頻率域的統計特性(功率譜密度,描述了信號在不同頻率上的功率分佈)聯繫起來。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 2 題12 分

  1. (12%) Find the Fourier transform of x(t)=sinc3(t)x(t) = \text{sinc}^3(t). (Hint: The answer is a piecewise function which consists of five intervals.)

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

本題考查以下傅立葉轉換性質:

  1. 標準化 sinc 函數的傅立葉轉換對偶關係:
sinc⁡(t)=sin⁡(πt)πt⟺rect⁡(f)\operatorname{sinc}(t)=\frac{\sin(\pi t)}{\pi t} \quad\Longleftrightarrow\quad \operatorname{rect}(f)
  1. 時域相乘對應頻域摺積:
    x1(t)x2(t)⟺X1(f)∗X2(f)x_1(t)x_2(t)\Longleftrightarrow X_1(f)*X_2(f)

因此
x(t)=sinc⁡3(t)x(t)=\operatorname{sinc}^3(t)
的傅立葉轉換為三個矩形脈衝的摺積。

以下採用通訊理論常見定義:
X(f)=∫−∞∞x(t)e−j2πft dtX(f)=\int_{-\infty}^{\infty}x(t)e^{-j2\pi ft}\,dt
以及
sinc⁡(t)=sin⁡(πt)πt.\operatorname{sinc}(t)=\frac{\sin(\pi t)}{\pi t}.


解題方法

由基本傅立葉轉換對:

sinc⁡(t)⟺rect⁡(f)\operatorname{sinc}(t)\Longleftrightarrow \operatorname{rect}(f)

令

R(f)=rect⁡(f)={1,∣f∣≤12,0,∣f∣>12.R(f)=\operatorname{rect}(f) = \begin{cases} 1, & |f|\leq \frac12,\\ 0, & |f|>\frac12. \end{cases}

則

sinc⁡3(t)⟺R(f)∗R(f)∗R(f).\operatorname{sinc}^3(t) \Longleftrightarrow R(f)*R(f)*R(f).

先計算兩個矩形函數的摺積:

R(f)∗R(f)={1−∣f∣,∣f∣≤1,0,∣f∣>1.R(f)*R(f) = \begin{cases} 1-|f|, & |f|\leq 1,\\ 0, & |f|>1. \end{cases}

這是一個三角形函數,記為 Λ(f)\Lambda(f):

Λ(f)={1−∣f∣,∣f∣≤1,0,∣f∣>1.\Lambda(f)= \begin{cases} 1-|f|, & |f|\leq 1,\\ 0, & |f|>1. \end{cases}

因此

X(f)=Λ(f)∗R(f).X(f)=\Lambda(f)*R(f).

由於 R(f)R(f) 僅在 ∣u∣≤12|u|\leq \frac12 時非零,

X(f)=∫−∞∞Λ(u)R(f−u) du=∫f−12f+12Λ(u) du.X(f) =\int_{-\infty}^{\infty}\Lambda(u)R(f-u)\,du =\int_{f-\frac12}^{f+\frac12}\Lambda(u)\,du.

由 Λ(u)\Lambda(u) 的分段形式,必須依照 ff 所在區間計算。


分段計算

區間一:f<−32f<-\frac32

此時積分範圍完全位於 Λ(u)\Lambda(u) 的支撐範圍之外,因此

X(f)=0.X(f)=0.

區間二:−32≤f≤−12-\frac32\leq f\leq-\frac12

由於 X(f)X(f) 為偶函數,只需計算 f≥12f\geq\frac12 的情形,再以 ∣f∣|f| 表示。

當 12≤f≤32\frac12\leq f\leq\frac32 時,積分範圍落在 Λ(u)\Lambda(u) 的右側:

X(f)=∫f−121(1−u) du.X(f)=\int_{f-\frac12}^{1}(1-u)\,du.

計算得

X(f)=[u−u22]f−121=12(32−f)2.\begin{aligned} X(f) &=\left[u-\frac{u^2}{2}\right]_{f-\frac12}^{1}\\ &=\frac12\left(\frac32-f\right)^2. \end{aligned}

因此在第二及第四區間皆有

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 3 題15 分

  1. (15%) The characteristic function of a random variable X is defined as the statistical average
    E(ejvX)=ψ(jvX)=∫−∞∞ejvxp(x)dx.E(e^{jvX}) = \psi(jvX) = \int_{-\infty}^{\infty} e^{jvx} p(x) dx.
    (a) (10%) Find the characteristic function of a Gaussian random variable.
    (b) (5%) Show that the variable Y, which is defined as the sum of N independent and identically
    distributed (i.i.d.) Gaussian random variables Xi, i = 1,2,..., N, is a Gaussian random variable.

登入後即可作答並保存紀錄。

這一題的完整詳解

本題考察隨機變數的特性函數(Characteristic Function, CF)的定義與計算,並要求證明高斯隨機變數的總和仍為高斯隨機變數。

核心觀念: 特性函數的定義、計算,以及特性函數與隨機變數和的關係。

(a) 高斯隨機變數的特性函數:
假設一個隨機變數 XX 服從高斯分佈,其概率密度函數(PDF)為:
p(x)=12πσ2e−(x−μ)22σ2p(x) = \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2}}
其中 μ\mu 是均值,σ2\sigma^2 是方差。

特性函數的定義為:
ψX(v)=E[ejvx]=∫−∞∞ejvxp(x)dx\psi_X(v) = E[e^{jvx}] = \int_{-\infty}^{\infty} e^{jvx} p(x) dx
將高斯 PDF 代入:
ψX(v)=∫−∞∞ejvx12πσ2e−(x−μ)22σ2dx\psi_X(v) = \int_{-\infty}^{\infty} e^{jvx} \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2}} dx
為了計算這個積分,我們進行變數替換。令 y=x−μy = x - \mu,則 x=y+μx = y + \mu,dx=dydx = dy。
ψX(v)=∫−∞∞ejv(y+μ)12πσ2e−y22σ2dy\psi_X(v) = \int_{-\infty}^{\infty} e^{jv(y+\mu)} \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{y^2}{2\sigma^2}} dy
ψX(v)=ejμv∫−∞∞12πσ2ejvye−y22σ2dy\psi_X(v) = e^{j\mu v} \int_{-\infty}^{\infty} \frac{1}{\sqrt{2\pi\sigma^2}} e^{jvy} e^{-\frac{y^2}{2\sigma^2}} dy
此積分 ∫−∞∞12πσ2ejvye−y22σ2dy\int_{-\infty}^{\infty} \frac{1}{\sqrt{2\pi\sigma^2}} e^{jvy} e^{-\frac{y^2}{2\sigma^2}} dy 是標準高斯分佈(均值為 0,方差為 σ2\sigma^2)的 PDF 與 ejvye^{jvy} 的期望值。
我們知道,一個均值為 0,方差為 σ2\sigma^2 的高斯隨機變數 YY 的特性函數為 e−σ2v22e^{-\frac{\sigma^2 v^2}{2}}。
因此,積分的結果是 e−σ2v22e^{-\frac{\sigma^2 v^2}{2}}。

所以,高斯隨機變數 XX 的特性函數為:
ψX(v)=ejμve−σ2v22=ejμv−σ2v22\psi_X(v) = e^{j\mu v} e^{-\frac{\sigma^2 v^2}{2}} = e^{j\mu v - \frac{\sigma^2 v^2}{2}}

物理意義: 特性函數提供了隨機變數概率分佈的另一種表示方式,它在許多數學推導中比 PDF 更方便,尤其是在處理隨機變數的和時。

(b) N 個獨立同分佈高斯隨機變數之和的特性:
設 X1,X2,…,XNX_1, X_2, \ldots, X_N 是 N 個獨立且同分佈 (i.i.d.) 的高斯隨機變數,且每個 XiX_i 服從均值為 μ\mu、方差為 σ2\sigma^2 的高斯分佈。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 4 題10 分

  1. (10%) An AM signal s(t)=Ac[1+kam(t)]cos⁡(2πfct)s(t) = A_c[1 + k_a m(t)]\cos(2\pi f_c t) is considered in the following systems:
    (a) (5%) If s(t)s(t) is used as the input to a square-law detector which has a transfer characteristic
    defined as vo(t)=a1vi(t)+a2vi2(t)v_o(t) = a_1 v_i(t) + a_2 v_i^2(t), where a1a_1 and a2a_2 are constants, vi(t)v_i(t) denotes the input,
    and vo(t)v_o(t) denotes the output. Find the conditions for which the message signal m(t)m(t) can be
    recovered from vo(t)v_o(t).
    (b) (5%) Let r(t)r(t) denote the recovered signal in (a). Suppose that we use an ideal sampling with a
    sampling interval of TsT_s to sample r(t)r(t) and obtain the sampled signal rs(t)r_s(t), please find the
    Fourier transform of rs(t)r_s(t).

登入後即可作答並保存紀錄。

這一題的完整詳解

本題探討標準調幅 (AM) 訊號經過平方律檢波器 (Square-Law Detector) 後,如何在特定條件下恢復原始訊息訊號 m(t)m(t),並進一步分析取樣訊號的傅立葉轉換。

核心觀念: 標準調幅訊號的結構、平方律檢波器的輸出、低通濾波器的作用,以及訊號取樣的傅立葉轉換。

(a) 從平方律檢波器恢復訊息訊號 m(t)m(t) 的條件:
輸入訊號 vi(t)=s(t)=Ac[1+kam(t)]cos⁡(2πfct)v_i(t) = s(t) = A_c[1 + k_a m(t)]\cos(2\pi f_c t)。
平方律檢波器的輸出 vo(t)v_o(t) 為:
vo(t)=a1vi(t)+a2vi2(t)v_o(t) = a_1 v_i(t) + a_2 v_i^2(t)
vo(t)=a1Ac[1+kam(t)]cos⁡(2πfct)+a2(Ac[1+kam(t)]cos⁡(2πfct))2v_o(t) = a_1 A_c[1 + k_a m(t)]\cos(2\pi f_c t) + a_2 \left( A_c[1 + k_a m(t)]\cos(2\pi f_c t) \right)^2
展開 vi2(t)v_i^2(t):
vi2(t)=Ac2[1+kam(t)]2cos⁡2(2πfct)v_i^2(t) = A_c^2 [1 + k_a m(t)]^2 \cos^2(2\pi f_c t)
利用 cos⁡2(θ)=1+cos⁡(2θ)2\cos^2(\theta) = \frac{1 + \cos(2\theta)}{2}:
vi2(t)=Ac2[1+2kam(t)+ka2m2(t)]1+cos⁡(4πfct)2v_i^2(t) = A_c^2 [1 + 2k_a m(t) + k_a^2 m^2(t)] \frac{1 + \cos(4\pi f_c t)}{2}
vi2(t)=Ac22[1+2kam(t)+ka2m2(t)]+Ac22[1+2kam(t)+ka2m2(t)]cos⁡(4πfct)v_i^2(t) = \frac{A_c^2}{2} [1 + 2k_a m(t) + k_a^2 m^2(t)] + \frac{A_c^2}{2} [1 + 2k_a m(t) + k_a^2 m^2(t)] \cos(4\pi f_c t)
將 vi(t)v_i(t) 和 vi2(t)v_i^2(t) 代回 vo(t)v_o(t):
vo(t)=a1Ac[1+kam(t)]cos⁡(2πfct)+a2(Ac22[1+2kam(t)+ka2m2(t)]+Ac22[1+2kam(t)+ka2m2(t)]cos⁡(4πfct))v_o(t) = a_1 A_c[1 + k_a m(t)]\cos(2\pi f_c t) + a_2 \left( \frac{A_c^2}{2} [1 + 2k_a m(t) + k_a^2 m^2(t)] + \frac{A_c^2}{2} [1 + 2k_a m(t) + k_a^2 m^2(t)] \cos(4\pi f_c t) \right)
vo(t)=a1Accos⁡(2πfct)+a1Ackam(t)cos⁡(2πfct)v_o(t) = a_1 A_c \cos(2\pi f_c t) + a_1 A_c k_a m(t) \cos(2\pi f_c t)
+a2Ac22[1+2kam(t)+ka2m2(t)]+ \frac{a_2 A_c^2}{2} [1 + 2k_a m(t) + k_a^2 m^2(t)]
+a2Ac22[1+2kam(t)+ka2m2(t)]cos⁡(4πfct)+ \frac{a_2 A_c^2}{2} [1 + 2k_a m(t) + k_a^2 m^2(t)] \cos(4\pi f_c t)

我們希望從 vo(t)v_o(t) 中恢復訊息訊號 m(t)m(t)。這通常需要透過一個低通濾波器 (Low-Pass Filter, LPF) 來濾除高頻成分。
觀察 vo(t)v_o(t) 中的項:

  1. a1Accos⁡(2πfct)a_1 A_c \cos(2\pi f_c t):這是載波頻率 fcf_c 的成分。
  2. a1Ackam(t)cos⁡(2πfct)a_1 A_c k_a m(t) \cos(2\pi f_c t):這是與 m(t)m(t) 相關的 fcf_c 頻率成分。
  3. a2Ac22[1+2kam(t)+ka2m2(t)]\frac{a_2 A_c^2}{2} [1 + 2k_a m(t) + k_a^2 m^2(t)]:這是 DC 成分以及與 m(t)m(t) 和 m2(t)m^2(t) 相關的低頻成分。
  4. a2Ac22[1+2kam(t)+ka2m2(t)]cos⁡(4πfct)\frac{a_2 A_c^2}{2} [1 + 2k_a m(t) + k_a^2 m^2(t)] \cos(4\pi f_c t):這是 4fc4f_c 的高頻成分。

如果我們使用一個截止頻率略高於 m(t)m(t) 的最高頻率 BB,但遠低於 fcf_c 的低通濾波器,則可以濾除 2fc2f_c 和 4fc4f_c 的成分。
LPF 輸出的訊號 r(t)r(t) 將主要包含 DC 和與 m(t)m(t) 相關的低頻成分:
r(t)=a2Ac22[1+2kam(t)+ka2m2(t)]r(t) = \frac{a_2 A_c^2}{2} [1 + 2k_a m(t) + k_a^2 m^2(t)]
我們希望恢復的訊息訊號是 m(t)m(t)。觀察 r(t)r(t),它包含 m(t)m(t) 和 m2(t)m^2(t) 的項。
為了只得到 m(t)m(t),我們需要濾除 m2(t)m^2(t) 和 DC 成分 (1)。
這通常需要一個額外的處理步驟,例如,如果 m(t)m(t) 的平均值為零,則 DC 成分為 a2Ac22\frac{a_2 A_c^2}{2}。
如果我們能將 DC 成分和 m2(t)m^2(t) 的項移除,我們就可以得到與 m(t)m(t) 成比例的訊號。
更精確地說,如果我們希望恢復 m(t)m(t),則 r(t)r(t) 應該只包含 m(t)m(t) 的項。
從 r(t)r(t) 中提取 m(t)m(t) 的條件:
r(t)=a2Ac22+a2Ac2kam(t)+a2Ac2ka22m2(t)r(t) = \frac{a_2 A_c^2}{2} + a_2 A_c^2 k_a m(t) + \frac{a_2 A_c^2 k_a^2}{2} m^2(t)
為了能從 r(t)r(t) 中恢復 m(t)m(t),我們需要一個額外的處理步驟,例如,一個非線性處理或一個後續的濾波器。
然而,標準的 AM 接收機通常會使用一個相干解調或包絡檢波器。這個平方律檢波器加上低通濾波器,在某些條件下可以恢復 m(t)m(t)。

恢復 m(t)m(t) 的條件:

  1. 低通濾波器的截止頻率: 濾波器的截止頻率必須足夠低,以濾除 2fc2f_c 和 4fc4f_c 的載波相關成分,但必須足夠高,以允許 m(t)m(t) 的所有頻率成分通過。也就是說,如果 BB 是 m(t)m(t) 的最大頻率,則 B<fc−BB < f_c - B (濾除 fcf_c 附近的成分) 且 B<4fc−BB < 4f_c - B。通常假設 fc≫Bf_c \gg B。
  2. 移除 m2(t)m^2(t) 和 DC 成分: 檢波輸出 r(t)r(t) 包含 m(t)m(t)、m2(t)m^2(t) 和 DC 項。要單獨恢復 m(t)m(t),需要進一步處理。
    • 如果 m(t)m(t) 是低頻訊號,且 kak_a 選擇適當,使得 m2(t)m^2(t) 的影響可以被忽略(例如,如果 kak_a 很小,或者 m(t)m(t) 的幅度很小)。
    • 或者,如果我們能移除 DC 成分 a2Ac22\frac{a_2 A_c^2}{2} 和 m2(t)m^2(t) 的項。
    • 最常見的恢復方法是,假設 m(t)m(t) 是一個低頻訊號,且 kam(t)k_a m(t) 的幅度足夠小,使得 ka2m2(t)k_a^2 m^2(t) 的影響可以被忽略。
    • 或者,若 m(t)m(t) 的平均值為零,則 DC 成分為零(當 a2Ac2/2=0a_2 A_c^2/2 = 0,這是不可能的,除非 a2=0a_2=0 或 Ac=0A_c=0)。
    • 實際上,要直接從 r(t)r(t) 恢復 m(t)m(t),通常需要 m2(t)m^2(t) 的項消失,或者可以被濾除。這通常發生在 m(t)m(t) 的平均值為零,且我們只關心 m(t)m(t) 的項。
🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 5 題15 分

  1. (15%) Please answer the following questions.
    (a) (5%) For a quaternary communication system, the possible transmitted signals are
    sk(t)=Acos⁡(20πTt−(k−1)2π),0≤t≤T, k=1,⋯ ,4.s_k(t) = A\cos\left(\frac{20\pi}{T}t - \frac{(k-1)}{2}\pi\right),\quad 0 \le t \le T,\ k = 1, \cdots, 4.
    Assume T=40msT = 40ms, A=100mVA = 100mV, P(sk(t))=14,∀kP(s_k(t)) = \frac{1}{4}, \forall k, and the noise PSD Sn(f)=20 μW/HzS_n(f) = 20\ \mu\text{W/Hz}.
    Please calculate the error probability PeP_e.
    (Hint: Pe=2Q(EsN0)−Q2(EsN0))\left( Hint:\ P_e = 2Q\left(\sqrt{\frac{E_s}{N_0}}\right) - Q^2\left(\sqrt{\frac{E_s}{N_0}}\right) \right)
    (b) (5%) If TT changes to 1ms1ms, in order to maintain the same PeP_e obtained in (a), please calculate the required amplitude value AA.
    (c) (5%) Please show the orthonormal basis functions for the signal constellation sk(t)s_k(t).

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

本題考查四元相位鍵移(QPSK)訊號的能量、加性白高斯雜訊下的錯誤率,以及訊號空間的正交歸一基底。

採用標準雙邊雜訊功率頻譜密度慣例:

Sn(f)=N02S_n(f)=\frac{N_0}{2}

因此題目給定 Sn(f)=20 μW/HzS_n(f)=20\,\mu\text{W/Hz},對應

N0=40 μW/HzN_0=40\,\mu\text{W/Hz}

每個訊號的能量為 Es=∫0Tsk2(t) dtE_s=\int_0^T s_k^2(t)\,dt。題目提供的錯誤率公式為

Pe=2Q(EsN0)−Q2(EsN0)P_e=2Q\left(\sqrt{\frac{E_s}{N_0}}\right) -Q^2\left(\sqrt{\frac{E_s}{N_0}}\right)

其中 Q(x)Q(x) 是標準常態分布右尾機率。

解題方法

(a) 計算錯誤率

訊號角頻率為 ω=20π/T\omega=20\pi/T,在 0≤t≤T0\le t\le T 內共振盪 1010 個週期,因此正弦與餘弦在此區間的平方積分皆為 T/2T/2。四個相位訊號的能量相同:

Es=∫0TA2cos⁡2(20πTt−(k−1)π2)dt=A2T2E_s=\int_0^T A^2\cos^2\left(\frac{20\pi}{T}t-\frac{(k-1)\pi}{2}\right)dt =\frac{A^2T}{2}

代入 A=100 mV=0.1 VA=100\,\text{mV}=0.1\,\text{V}、T=40 ms=0.04 sT=40\,\text{ms}=0.04\,\text{s}:

Es=(0.1)2(0.04)2=2.0×10−4 JE_s=\frac{(0.1)^2(0.04)}{2} =2.0\times10^{-4}\,\text{J}

故

EsN0=2.0×10−440×10−6=5\frac{E_s}{N_0} =\frac{2.0\times10^{-4}}{40\times10^{-6}} =5

帶入錯誤率公式:

Pe=2Q(5)−Q2(5)P_e=2Q(\sqrt{5})-Q^2(\sqrt{5})

由 Q(5)≈0.01267Q(\sqrt{5})\approx0.01267,得到

Pe≈2(0.01267)−(0.01267)2≈0.02519P_e\approx 2(0.01267)-(0.01267)^2 \approx0.02519

所以錯誤率約為 2.519%2.519\%。

(b) 維持相同錯誤率所需的振幅

雜訊功率頻譜密度不變,且錯誤率公式隨 Es/N0E_s/N_0 決定,因此要維持相同的 PeP_e,必須維持相同的 Es/N0E_s/N_0,也就是維持相同的訊號能量。

原本 A1=100 mVA_1=100\,\text{mV}、T1=40 msT_1=40\,\text{ms};新條件 T2=1 msT_2=1\,\text{ms}。由 Es=A2T/2E_s=A^2T/2:

A12T12=A22T22\frac{A_1^2T_1}{2}=\frac{A_2^2T_2}{2}
🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 6 題20 分

  1. (20%) The definition of entropy is the expected value of the self information:
    H(X)=E[I(X)]=∑k=0K−1pklog⁡2(1pk)=−∑k=0K−1pklog⁡2(pk).H(X) = E[I(X)] = \sum_{k=0}^{K-1} p_k \log_2 \left(\frac{1}{p_k}\right) = -\sum_{k=0}^{K-1} p_k \log_2(p_k).
    Let variables X, Y have the joint probability
    P(X,Y)=(P(X1,Y1)P(X1,Y2)P(X2,Y1)P(X2,Y2))=(0.540.060.060.34)P(X,Y) = \begin{pmatrix} P(X_1,Y_1) & P(X_1,Y_2) \\ P(X_2,Y_1) & P(X_2,Y_2) \end{pmatrix} = \begin{pmatrix} 0.54 & 0.06 \\ 0.06 & 0.34 \end{pmatrix}
    Please find the following quantities:
    (a) (4%) P(Y∣X)P(Y|X) and P(X∣Y)P(X|Y)
    (b) (4%) H(X)H(X) and H(Y)H(Y)
    (c) (6%) Calculate H(X∣Y)H(X|Y) and describe the physical meaning of H(X∣Y)H(X|Y).
    (d) (6%) Calculate I(X;Y)I(X; Y) and describe the physical meaning of I(X;Y)I(X; Y).

登入後即可作答並保存紀錄。

這一題的完整詳解

本題考察資訊理論中的熵(Entropy)、條件熵(Conditional Entropy)和互資訊(Mutual Information)等基本概念,並要求計算與解釋它們的物理意義。

核心觀念: 資訊熵、條件機率、邊緣機率、條件熵、互資訊。

給定聯合機率分佈矩陣:
P(X,Y)=(P(X1,Y1)P(X1,Y2)P(X2,Y1)P(X2,Y2))=(0.540.060.060.34)P(X,Y) = \begin{pmatrix} P(X_1,Y_1) & P(X_1,Y_2) \\ P(X_2,Y_1) & P(X_2,Y_2) \end{pmatrix} = \begin{pmatrix} 0.54 & 0.06 \\ 0.06 & 0.34 \end{pmatrix}
其中 XX 有兩個取值 X1,X2X_1, X_2, YY 也有兩個取值 Y1,Y2Y_1, Y_2。

(a) 計算條件機率 P(Y∣X)P(Y|X) 和 P(X∣Y)P(X|Y):
條件機率的定義為 P(A∣B)=P(A,B)P(B)P(A|B) = \frac{P(A,B)}{P(B)}。

首先,我們需要計算邊緣機率(Marginal Probabilities)。
P(X=X1)=P(X1,Y1)+P(X1,Y2)=0.54+0.06=0.60P(X=X_1) = P(X_1,Y_1) + P(X_1,Y_2) = 0.54 + 0.06 = 0.60
P(X=X2)=P(X2,Y1)+P(X2,Y2)=0.06+0.34=0.40P(X=X_2) = P(X_2,Y_1) + P(X_2,Y_2) = 0.06 + 0.34 = 0.40
驗證:P(X1)+P(X2)=0.60+0.40=1.00P(X_1) + P(X_2) = 0.60 + 0.40 = 1.00。

P(Y=Y1)=P(X1,Y1)+P(X2,Y1)=0.54+0.06=0.60P(Y=Y_1) = P(X_1,Y_1) + P(X_2,Y_1) = 0.54 + 0.06 = 0.60
P(Y=Y2)=P(X1,Y2)+P(X2,Y2)=0.06+0.34=0.40P(Y=Y_2) = P(X_1,Y_2) + P(X_2,Y_2) = 0.06 + 0.34 = 0.40
驗證:P(Y1)+P(Y2)=0.60+0.40=1.00P(Y_1) + P(Y_2) = 0.60 + 0.40 = 1.00。

現在計算條件機率 P(Y∣X)P(Y|X):
P(Y=Y1∣X=X1)=P(X1,Y1)P(X1)=0.540.60=5460=910=0.90P(Y=Y_1|X=X_1) = \frac{P(X_1,Y_1)}{P(X_1)} = \frac{0.54}{0.60} = \frac{54}{60} = \frac{9}{10} = 0.90
P(Y=Y2∣X=X1)=P(X1,Y2)P(X1)=0.060.60=660=110=0.10P(Y=Y_2|X=X_1) = \frac{P(X_1,Y_2)}{P(X_1)} = \frac{0.06}{0.60} = \frac{6}{60} = \frac{1}{10} = 0.10
驗證:P(Y1∣X1)+P(Y2∣X1)=0.90+0.10=1.00P(Y_1|X_1) + P(Y_2|X_1) = 0.90 + 0.10 = 1.00。

P(Y=Y1∣X=X2)=P(X2,Y1)P(X2)=0.060.40=640=320=0.15P(Y=Y_1|X=X_2) = \frac{P(X_2,Y_1)}{P(X_2)} = \frac{0.06}{0.40} = \frac{6}{40} = \frac{3}{20} = 0.15
P(Y=Y2∣X=X2)=P(X2,Y2)P(X2)=0.340.40=3440=1720=0.85P(Y=Y_2|X=X_2) = \frac{P(X_2,Y_2)}{P(X_2)} = \frac{0.34}{0.40} = \frac{34}{40} = \frac{17}{20} = 0.85
驗證:P(Y1∣X2)+P(Y2∣X2)=0.15+0.85=1.00P(Y_1|X_2) + P(Y_2|X_2) = 0.15 + 0.85 = 1.00。

所以,P(Y∣X)P(Y|X) 可以表示為:
P(Y1∣X1)=0.90P(Y_1|X_1) = 0.90, P(Y2∣X1)=0.10P(Y_2|X_1) = 0.10
P(Y1∣X2)=0.15P(Y_1|X_2) = 0.15, P(Y2∣X2)=0.85P(Y_2|X_2) = 0.85

現在計算條件機率 P(X∣Y)P(X|Y):
P(X=X1∣Y=Y1)=P(X1,Y1)P(Y1)=0.540.60=5460=910=0.90P(X=X_1|Y=Y_1) = \frac{P(X_1,Y_1)}{P(Y_1)} = \frac{0.54}{0.60} = \frac{54}{60} = \frac{9}{10} = 0.90
P(X=X2∣Y=Y1)=P(X2,Y1)P(Y1)=0.060.60=660=110=0.10P(X=X_2|Y=Y_1) = \frac{P(X_2,Y_1)}{P(Y_1)} = \frac{0.06}{0.60} = \frac{6}{60} = \frac{1}{10} = 0.10
驗證:P(X1∣Y1)+P(X2∣Y1)=0.90+0.10=1.00P(X_1|Y_1) + P(X_2|Y_1) = 0.90 + 0.10 = 1.00。

P(X=X1∣Y=Y2)=P(X1,Y2)P(Y2)=0.060.40=640=320=0.15P(X=X_1|Y=Y_2) = \frac{P(X_1,Y_2)}{P(Y_2)} = \frac{0.06}{0.40} = \frac{6}{40} = \frac{3}{20} = 0.15
P(X=X2∣Y=Y2)=P(X2,Y2)P(Y2)=0.340.40=3440=1720=0.85P(X=X_2|Y=Y_2) = \frac{P(X_2,Y_2)}{P(Y_2)} = \frac{0.34}{0.40} = \frac{34}{40} = \frac{17}{20} = 0.85
驗證:P(X1∣Y2)+P(X2∣Y2)=0.15+0.85=1.00P(X_1|Y_2) + P(X_2|Y_2) = 0.15 + 0.85 = 1.00。

所以,P(X∣Y)P(X|Y) 可以表示為:
P(X1∣Y1)=0.90P(X_1|Y_1) = 0.90, P(X2∣Y1)=0.10P(X_2|Y_1) = 0.10
P(X1∣Y2)=0.15P(X_1|Y_2) = 0.15, P(X2∣Y2)=0.85P(X_2|Y_2) = 0.85

(b) 計算熵 H(X)H(X) 和 H(Y)H(Y):
熵的定義為 H(X)=−∑iP(xi)log⁡2P(xi)H(X) = -\sum_i P(x_i) \log_2 P(x_i)。

計算 H(X)H(X):
P(X1)=0.60P(X_1) = 0.60, P(X2)=0.40P(X_2) = 0.40。
H(X)=−[P(X1)log⁡2P(X1)+P(X2)log⁡2P(X2)]H(X) = -[P(X_1)\log_2 P(X_1) + P(X_2)\log_2 P(X_2)]
H(X)=−[0.60log⁡2(0.60)+0.40log⁡2(0.40)]H(X) = -[0.60 \log_2(0.60) + 0.40 \log_2(0.40)]
log⁡2(0.60)≈−0.737\log_2(0.60) \approx -0.737
log⁡2(0.40)≈−1.322\log_2(0.40) \approx -1.322
H(X)≈−[0.60×(−0.737)+0.40×(−1.322)]H(X) \approx -[0.60 \times (-0.737) + 0.40 \times (-1.322)]
H(X)≈−[−0.4422−0.5288]=−[−0.971]=0.971H(X) \approx -[-0.4422 - 0.5288] = -[-0.971] = 0.971 bits。

計算 H(Y)H(Y):
P(Y1)=0.60P(Y_1) = 0.60, P(Y2)=0.40P(Y_2) = 0.40。
由於 P(Y1)=P(X1)P(Y_1)=P(X_1) 且 P(Y2)=P(X2)P(Y_2)=P(X_2),所以 H(Y)=H(X)H(Y) = H(X)。
H(Y)=−[0.60log⁡2(0.60)+0.40log⁡2(0.40)]≈0.971H(Y) = -[0.60 \log_2(0.60) + 0.40 \log_2(0.40)] \approx 0.971 bits。

(c) 計算條件熵 H(X∣Y)H(X|Y) 並描述其物理意義:
條件熵的定義為 H(X∣Y)=∑jP(yj)H(X∣Y=yj)H(X|Y) = \sum_j P(y_j) H(X|Y=y_j)。
其中 H(X∣Y=yj)=−∑iP(xi∣yj)log⁡2P(xi∣yj)H(X|Y=y_j) = -\sum_i P(x_i|y_j) \log_2 P(x_i|y_j)。

我們先計算 H(X∣Y=Y1)H(X|Y=Y_1) 和 H(X∣Y=Y2)H(X|Y=Y_2)。
P(X1∣Y1)=0.90P(X_1|Y_1) = 0.90, P(X2∣Y1)=0.10P(X_2|Y_1) = 0.10。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 7 題18 分

  1. (18%) Consider the encoder for a binary (3,1,2) convolutional code shown in Fig. 1.
    There are one input message uu, two registers and three outputs v1v_1, v2v_2 and v3v_3.

🖼️【此處有附圖,請對照原卷】
Figure 1: uu passes through the two registers in series; the adder for v1v_1 takes uu, the output of the first register and the output of the second register; v2v_2 is the output of the second register; the adder for v3v_3 takes uu and the output of the second register.

(a) (3%) Find the codeword v\mathbf{v} corresponding to the information sequence u=(1 1 1 0 1 0 0)\mathbf{u} = (1\ 1\ 1\ 0\ 1\ 0\ 0).
(b) (5%) Draw the state diagram of this encoder.
(c) (10%) Please use Viterbi algorithm to decode the received sequence (110 010 111 100 101 001), assuming that a binary symmetric channel with a crossover probability p<1/2p < 1/2 is considered.

🖼️ 本題含圖表,以下為原卷對應頁面:
原卷第 3 頁

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

這題考卷積碼的編碼器輸出、狀態轉移,以及以 Viterbi 演算法做最大概似解碼。

令兩個暫存器的內容依序為 (a,b)(a,b),其中 aa 是第一個暫存器、bb 是第二個暫存器。依圖中的連接方式,輸出為

v1=u⊕a⊕b,v2=b,v3=u⊕bv_1=u\oplus a\oplus b,\qquad v_2=b,\qquad v_3=u\oplus b

輸入一個位元 uu 後,狀態轉移為

(a,b)⟶(u,a)(a,b)\longrightarrow(u,a)

以下假設編碼器從全零狀態 0000 開始;第 (c) 小題未指定終止狀態,因此取累積路徑距離最小的終止狀態。

解題方法

(a) 求編碼序列

由初始狀態 0000 開始,逐位代入輸出公式。每組輸出依序排列為 (v1,v2,v3)(v_1,v_2,v_3)。

輸入 uu輸入前狀態 (a,b)(a,b)輸出 (v1v2v3)(v_1v_2v_3)
100101
110001
111110
011011
101010
010100
001111

因此,對 u=(1 1 1 0 1 0 0)\mathbf{u}=(1\ 1\ 1\ 0\ 1\ 0\ 0),編碼結果為

v=(101 001 110 011 010 100 111)\mathbf{v}=(101\ 001\ 110\ 011\ 010\ 100\ 111)

(b) 狀態圖

狀態圖的每條分支標示為「輸入/輸出」。由狀態 (a,b)(a,b) 輸入 uu 時,輸出由 u,a,bu,a,b 算出,下一狀態為 (u,a)(u,a)。

目前狀態輸入 0:下一狀態/輸出輸入 1:下一狀態/輸出
0000/00000/00010/10110/101
0100/11100/11110/01010/010
1001/10001/10011/00111/001
1101/01101/01111/11011/110
🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

其他考古題