核心觀念

本題考查：

1. 週期脈衝串的傅立葉轉換。
2. 時域相乘對應頻域摺積。
3. 取樣頻譜的頻譜重複與避免混疊條件。
4. 理想低通濾波器的設計與脈衝響應。

假設 $x(t)$ 為低通限頻訊號，其頻譜滿足

$$X(f)=0,\qquad |f|>W_B$$

因此原始訊號頻譜範圍為 $[-W_B,W_B]$。

---

（a）求 $s(t)$ 的頻譜

題目給定

$$s(t)=\sum_{k=-\infty}^{\infty}A_k\delta(t-kT_0)$$

其中

$$A_k= \begin{cases} 1, & k\text{ 為偶數}\\ 0.8, & k\text{ 為奇數} \end{cases}$$

將 $A_k$ 改寫成

$$A_k=0.9+0.1(-1)^k$$

因為：

• $k$ 為偶數時，$A_k=0.9+0.1=1$
• $k$ 為奇數時，$A_k=0.9-0.1=0.8$

所以

$$s(t) = 0.9\sum_{k=-\infty}^{\infty}\delta(t-kT_0) + 0.1\sum_{k=-\infty}^{\infty}(-1)^k\delta(t-kT_0)$$

利用週期脈衝串的傅立葉轉換：

$$\sum_{k=-\infty}^{\infty}\delta(t-kT_0) \longleftrightarrow \frac{1}{T_0} \sum_{n=-\infty}^{\infty} \delta\left(f-\frac{n}{T_0}\right)$$

而

$$(-1)^k=e^{j\pi k}$$

會使頻譜向右平移 $1/(2T_0)$，因此

$$\sum_{k=-\infty}^{\infty}(-1)^k\delta(t-kT_0) \longleftrightarrow \frac{1}{T_0} \sum_{n=-\infty}^{\infty} \delta\left(f-\frac{n+\frac12}{T_0}\right)$$

故

$$\boxed{ S(f)= \frac{0.9}{T_0} \sum_{n=-\infty}^{\infty} \delta\left(f-\frac{n}{T_0}\right) + \frac{0.1}{T_0} \sum_{n=-\infty}^{\infty} \delta\left(f-\frac{n+\frac12}{T_0}\right) }$$

也可將頻率位置寫成

$$\boxed{ S(f)= \frac{0.9}{T_0} \sum_{n=-\infty}^{\infty} \delta\left(f-\frac{n}{T_0}\right) + \frac{0.1}{T_0} \sum_{n=-\infty}^{\infty} \delta\left(f-\frac{2n+1}{2T_0}\right) }$$

頻譜結構

$s(t)$ 的週期為 $2T_0$，所以頻譜基本間隔為

$$\frac{1}{2T_0}$$

其中：

• 偶數次諧波位於 $f=n/T_0$，權重為 $0.9/T_0$
• 奇數次諧波位於 $f=(2n+1)/(2T_0)$，權重為 $0.1/T_0$

---

（b）$T_0$ 的最大值

由時域相乘定理：

$$x_s(t)=x(t)s(t) \quad\Longleftrightarrow\quad X_s(f)=X(f)*S(f)$$

因此

$$X_s(f) = \frac{0.9}{T_0} \sum_{n=-\infty}^{\infty} X\left(f-\frac{n}{T_0}\right) + \frac{0.1}{T_0} \sum_{n=-\infty}^{\infty} X\left(f-\frac{n+\frac12}{T_0}\right)$$

原始頻譜 $X(f)$ 位於 $[-W_B,W_B]$。由於 $S(f)$ 中最近的非零頻譜線位於

$$f=\pm\frac{1}{2T_0}$$

核心觀念

本題考查：

1. DSB-SC 訊號的頻譜平移：
   $x_s(t)=m(t)\cos(2\pi f_ct)$
   $X_s(f)=\frac{1}{2}\left[M(f-f_c)+M(f+f_c)\right]$

2. 乘上載波 $\cos(2\pi f_dt)$ 所造成的頻譜平移：

$$\mathcal{F}\{v(t)\cos(2\pi f_dt)\} =\frac{1}{2}\left[V(f-f_d)+V(f+f_d)\right]$$

3. 白色高斯雜訊通過濾波器後，其功率頻譜密度為
   $S_n(f)=\frac{N_0}{2}|H(f)|^2$

圖中資訊為：

• $M(f)$ 為三角形頻譜，支撐於 $|f|\leq 500$ Hz，且 $M(0)=1$。
• $H_1(f)$ 在 $\pm f_c$ 附近通過，頻寬各為 $1000$ Hz，增益為 $2$。
• $H_2(f)$ 通過 $|f|\leq 500$ Hz，增益為 $1$。
• 雜訊雙邊 PSD：
  $\frac{N_0}{2}=10^{-10}\ \text{W/Hz}$

---

解題方法

先利用 $H_1(f)$ 保留 DSB 訊號的兩個旁帶，再乘上 $\cos(2\pi f_dt)$ 將頻譜搬移至低頻，最後由 $H_2(f)$ 保留基頻部分。

對訊號而言，通過 $H_1(f)$ 後，由於 $H_1(f)$ 增益為 $2$，恰好抵消 DSB 調變頻譜中的係數 $1/2$：

$X_1(f)=M(f-f_c)+M(f+f_c)$

再乘上 $\cos(2\pi f_dt)$：

$Y_s(f)=\frac{1}{2}\left[X_1(f-f_d)+X_1(f+f_d)\right]$

---

Case 1：$f_c=f_d=200000$ Hz

(a) 求 $y_s(t)$

將 $f_c=f_d$ 代入：

$$Y_s(f)=\frac{1}{2} \left[ M(f)+M(f-2f_c)+M(f+2f_c)+M(f) \right]$$

經過低通濾波器 $H_2(f)$ 後，只保留基頻部分：

$Y_s(f)=\frac{1}{2}[M(f)+M(f)]=M(f)$

因此

$\boxed{y_s(t)=m(t)}$

此時為理想同步解調，載波頻率完全匹配，所以原始訊號可完整恢復。

---

(b) 求 $y_n(t)$ 的總功率

$H_1(f)$ 的增益為 $2$，因此通過 $H_1(f)$ 後：

$$S_{n1}(f)=10^{-10}\times |2|^2 =4\times10^{-10}\ \text{W/Hz}$$

在乘法器之後，每一個頻譜平移分量乘上 $1/2$，所以其 PSD 乘上 $1/4$。在低通濾波器通過的 $|f|\leq500$ Hz 範圍內，正、負頻帶均搬移至基頻，因此共有兩個雜訊分量：

$$S_{yn}(f) =2\left(\frac14\right) \left(4\times10^{-10}\right) =2\times10^{-10}\ \text{W/Hz}$$

低通頻寬為 $1000$ Hz，因此雜訊總功率為

$$P_{yn} =\int_{-500}^{500}S_{yn}(f)\,df$$ $$P_{yn} =(2\times10^{-10})(1000) =2\times10^{-7}\ \text{W}$$

因此

$\boxed{P_{yn}=2\times10^{-7}\ \text{W}}$

---

Case 2：$f_c=200000$ Hz，$f_d=200100$ Hz

此時解調頻率比載波頻率高 $100$ Hz：

$f_d-f_c=100\ \text{Hz}$

因此解調後的訊號頻譜會偏移 $\pm100$ Hz。

(c) 繪出 $y_s(t)$ 的頻譜

低通範圍內的訊號頻譜為

$$Y_s(f) =\frac12\left[M(f-100)+M(f+100)\right], \qquad |f|\leq500$$

其中

核心觀念

本題考查寬平穩隨機程序（WSS）的自相關函數、平均功率、變異數、功率譜密度與頻寬，以及高斯隨機程序的判定。

對寬平穩隨機程序：

$$R_X(\tau)=E[X(t)X(t+\tau)]$$

若自相關函數可分解為

$$R_X(\tau)=C_X(\tau)+m_X^2$$

其中 $m_X=E[X(t)]$，$C_X(\tau)$ 為自共變異函數，則

$$C_X(\tau)=R_X(\tau)-m_X^2$$

且

$$\operatorname{Var}[X(t)]=C_X(0)=R_X(0)-m_X^2$$

平均功率為

$$P_X=E[X^2(t)]=R_X(0)$$

---

解題方法

題目中的指數項會隨著 $|\tau|$ 增大而趨近於零，因此常數項代表平均值平方：

$$m_X^2=\lim_{|\tau|\to\infty}R_X(\tau)$$ $$m_Y^2=\lim_{|\tau|\to\infty}R_Y(\tau)$$

採用隨機程序平均值為非負的慣例，取正平方根。

(a) 平均函數

對 $X(t)$：

$$R_X(\tau)=10e^{-2|\tau|}+2$$

因此

$$m_X^2=\lim_{|\tau|\to\infty}R_X(\tau)=2$$ $$E[X(t)]=m_X=\sqrt{2}$$

對 $Y(t)$：

$$R_Y(\tau)=5e^{-10|\tau|}+5$$

因此

$$m_Y^2=\lim_{|\tau|\to\infty}R_Y(\tau)=5$$ $$E[Y(t)]=m_Y=\sqrt{5}$$

嚴格而言，自相關函數只能決定平均值的平方，因此平均值也可能是負值；本題依一般教科書慣例取非負平均值。

---

(b) 變異數函數

由於兩個程序皆為寬平穩，平均值與自相關函數均與時間 $t$ 無關，所以變異數也是常數。

對 $X(t)$：

$$R_X(0)=10e^0+2=12$$ $$\operatorname{Var}[X(t)] =R_X(0)-m_X^2 =12-2 =10$$

對 $Y(t)$：

$$R_Y(0)=5e^0+5=10$$ $$\operatorname{Var}[Y(t)] =R_Y(0)-m_Y^2 =10-5 =5$$

因此

$$\boxed{\operatorname{Var}[X(t)]=10}$$ $$\boxed{\operatorname{Var}[Y(t)]=5}$$

---

(c) 哪一個隨機程序具有較寬的頻寬？

先扣除平均值所造成的常數項，得到自共變異函數：

$$C_X(\tau)=10e^{-2|\tau|}$$ $$C_Y(\tau)=5e^{-10|\tau|}$$

利用傅立葉轉換公式：

$$\mathcal{F}\{e^{-a|\tau|}\} =\frac{2a}{a^2+\omega^2}$$

可得連續部分的功率譜密度：

$$S_X(\omega)=10\cdot\frac{4}{4+\omega^2} =\frac{40}{4+\omega^2}$$

核心觀念

零 ISI 的頻域奈奎斯特條件是

$$\sum_{n=-\infty}^{\infty}P\left(f+\frac{n}{T}\right)=T.$$

也就是將頻譜每隔 $1/T$ 平移後相加，總和必須對所有 $f$ 都等於 $T$。本題 (a) 利用相鄰頻譜在重疊區互補；(b) 則找出圖形平移後能互補的頻率間隔。

(a) 升餘弦頻譜常數

依原卷圖中的式子，轉換帶寫成

$$P(f)=b+\frac{T}{2}\cos\left(\frac{\pi(|f|+c)}{d}\right), \qquad W-\beta\le |f|\le W+\beta.$$

在通帶中央，奈奎斯特條件要求頻譜值為 $T$，因此

$$a=T.$$

考慮正頻率一側的轉換帶，令 $f\in[W-\beta,W+\beta]$。此時與 $f$ 配對、相隔 $1/T=2W$ 的頻率為 $f-2W$，其絕對值為 $2W-f$。兩者的頻譜相加必須等於 $T$：

$$2b+\frac{T}{2}\left[ \cos\left(\frac{\pi(f+c)}{d}\right) +\cos\left(\frac{\pi(2W-f+c)}{d}\right) \right]=T.$$

兩個餘弦項必須互相抵消，因此兩個角度相加應為 $\pi$，且兩個常數項相加為 $T$。由此得到

此題考驗對數位通訊系統中最大概似接收器（ML receiver）、符號錯誤機率、最佳解碼準則、QPSK 調變、以及高斯雜訊下的錯誤機率計算。

核心觀念：

1. 最大概似接收器 (ML Receiver) 的原理。
2. 高斯雜訊下的似然函數 (Likelihood Function)。
3. Correlation Receiver 與 ML Receiver 的關係。
4. Symbol Error Probability (SEP) 的計算。
5. QPSK 調變的符號表示與能量。
6. 高斯 Q-function 和 erfc function。

解題步驟：

系統模型：$\mathbf{r} = \mathbf{s} + \mathbf{n}$
$\mathbf{s} \in \{S_1, \dots, S_M\}$ 是傳送符號，具有相等先驗機率 $P(S_i) = 1/M$。
$\mathbf{n}$ 是零均值、對角協方差矩陣為 $(N_0/2)I_N$ 的高斯雜訊。
$N_0/2$ 是單邊功率譜密度。

(a) 平均信號能量與傳輸位元率

平均信號能量 $E_s$ 定義為所有可能符號能量的平均值：
$E_s = E[||\mathbf{s}||_2^2] = \frac{1}{M} \sum_{m=1}^M ||S_m||_2^2$
題目提到符號能量可能不相等。

傳輸位元率 $R_b$：
假設每個符號 $S_m$ 代表 $k$ 個位元。則 $M = 2^k$。
傳輸速率（符號速率）是 $R_s = 1/T$ (符號/秒)。
傳輸位元率 $R_b = k \times R_s = k/T$ (位元/秒)。
題目沒有給出 $M$ 或 $k$，也沒有給出 $T$。
但是，題目有提到 $T$ 秒是信號間隔。
所以 $R_s = 1/T$。
如果 $M$ 個符號代表 $k$ 個位元，則 $M = 2^k$。
位元率 $R_b = k \times (1/T)$。
如果 $M$ 和 $k$ 未知，則無法計算。
重新閱讀題目： 題目沒有給出 $M$ 或 $k$。所以這部分可能需要用符號表示。
平均信號能量： $E_s = \frac{1}{M} \sum_{m=1}^M ||S_m||_2^2$。
傳輸位元率： $R_b = \frac{\log_2 M}{T}$ bits/sec。

答案 (a):
平均信號能量：$E_s = \frac{1}{M} \sum_{m=1}^M ||S_m||_2^2$。
傳輸位元率：$R_b = \frac{\log_2 M}{T}$。

(b) 尋找似然函數 $p(\mathbf{r}|\mathbf{s} = \mathbf{s}_m)$

似然函數是給定傳送符號 $\mathbf{s}_m$ 時，接收到信號 $\mathbf{r}$ 的條件機率密度函數。
我們有 $\mathbf{r} = \mathbf{s}_m + \mathbf{n}$。
雜訊 $\mathbf{n}$ 是 $N$ 維高斯向量，其各分量獨立，均值為 0，方差為 $N_0/2$。
所以 $\mathbf{n} \sim N(\mathbf{0}, \frac{N_0}{2} I_N)$。
則 $\mathbf{r} - \mathbf{s}_m = \mathbf{n}$。
$\mathbf{r} - \mathbf{s}_m$ 是一個均值為 $\mathbf{s}_m$、協方差為 $\frac{N_0}{2} I_N$ 的高斯向量。
一個 $N$ 維高斯隨機向量 $\mathbf{x}$，其均值為 $\boldsymbol{\mu}$，協方差矩陣為 $\Sigma$，其 PDF 為：
$p(\mathbf{x}) = \frac{1}{\sqrt{(2\pi)^N \det(\Sigma)}} \exp\left(-\frac{1}{2}(\mathbf{x}-\boldsymbol{\mu})^T \Sigma^{-1} (\mathbf{x}-\boldsymbol{\mu})\right)$
在這裡，$\mathbf{x} = \mathbf{r}$，$\boldsymbol{\mu} = \mathbf{s}_m$，$\Sigma = \frac{N_0}{2} I_N$。
$\det(\Sigma) = (\frac{N_0}{2})^N$。
$\Sigma^{-1} = \frac{2}{N_0} I_N$。
所以，似然函數為：
$p(\mathbf{r}|\mathbf{s} = \mathbf{s}_m) = \frac{1}{\sqrt{(2\pi)^N (\frac{N_0}{2})^N}} \exp\left(-\frac{1}{2}(\mathbf{r}-\mathbf{s}_m)^T \left(\frac{2}{N_0} I_N\right) (\mathbf{r}-\mathbf{s}_m)\right)$
$p(\mathbf{r}|\mathbf{s} = \mathbf{s}_m) = \frac{1}{(\frac{N_0}{2})^{N/2} \sqrt{(2\pi)^N}} \exp\left(-\frac{1}{N_0}(\mathbf{r}-\mathbf{s}_m)^T (\mathbf{r}-\mathbf{s}_m)\right)$
$p(\mathbf{r}|\mathbf{s} = \mathbf{s}_m) = \frac{1}{(\frac{N_0}{2})^{N/2} (2\pi)^{N/2}} \exp\left(-\frac{1}{N_0} ||\mathbf{r}-\mathbf{s}_m||_2^2\right)$
$p(\mathbf{r}|\mathbf{s} = \mathbf{s}_m) = \frac{1}{(\pi N_0)^{N/2}} \exp\left(-\frac{1}{N_0} ||\mathbf{r}-\mathbf{s}_m||_2^2\right)$
其中 $||\mathbf{r}-\mathbf{s}_m||_2^2 = (\mathbf{r}-\mathbf{s}_m)^T (\mathbf{r}-\mathbf{s}_m) = \sum_{i=1}^N (r_i - s_{m,i})^2$。

ML 解碼器是最大化這個似然函數。由於指數函數是單調遞增的，最大化似然函數等價於最小化指數的指數項。
最大化 $p(\mathbf{r}|\mathbf{s} = \mathbf{s}_m)$ 等價於最小化 $||\mathbf{r}-\mathbf{s}_m||_2^2$。
$\hat{\mathbf{s}}_{ML} = \arg \min_{\mathbf{s}_m} ||\mathbf{r}-\mathbf{s}_m||_2^2$
這也稱為最小距離準則 (Minimum Distance Criterion)。

答案 (b):
$p(\mathbf{r}|\mathbf{s} = \mathbf{s}_m) = \frac{1}{(\pi N_0)^{N/2}} \exp\left(-\frac{1}{N_0} ||\mathbf{r}-\mathbf{s}_m||_2^2\right)$。

(c) 相關性解碼器是否最佳（在符號錯誤機率方面）

相關性解碼器規則：
若 $\mathbf{r}^T \mathbf{s}_m \ge \mathbf{r}^T \mathbf{s}_n$ 對所有 $n \neq m$，則選擇 $\mathbf{s}_m$。
我們知道 ML 解碼器是最小化 $||\mathbf{r}-\mathbf{s}_m||_2^2$。
$||\mathbf{r}-\mathbf{s}_m||_2^2 = (\mathbf{r}-\mathbf{s}_m)^T (\mathbf{r}-\mathbf{s}_m) = \mathbf{r}^T \mathbf{r} - 2\mathbf{r}^T \mathbf{s}_m + \mathbf{s}_m^T \mathbf{s}_m$
$||\mathbf{r}-\mathbf{s}_m||_2^2 = ||\mathbf{r}||_2^2 - 2\mathbf{r}^T \mathbf{s}_m + ||\mathbf{s}_m||_2^2$
最小化 $||\mathbf{r}-\mathbf{s}_m||_2^2$ 等價於最大化 $2\mathbf{r}^T \mathbf{s}_m - ||\mathbf{s}_m||_2^2$。
或者，如果所有符號的能量 $||\mathbf{s}_m||_2^2$ 都相等，則最小化 $||\mathbf{r}-\mathbf{s}_m||_2^2$ 等價於最大化 $\mathbf{r}^T \mathbf{s}_m$。
此時，ML 解碼器就變成了相關性解碼器。

然而，題目明確指出「符號能量可能不相等」。
如果符號能量 $||\mathbf{s}_m||_2^2$ 不相等，那麼最大化 $\mathbf{r}^T \mathbf{s}_m$ 並不一定等同於最小化 $||\mathbf{r}-\mathbf{s}_m||_2^2$。
ML 解碼器是最小化 $||\mathbf{r}-\mathbf{s}_m||_2^2$。
相關性解碼器是最大化 $\mathbf{r}^T \mathbf{s}_m$。

考慮以下情況：
令 $\mathbf{r} = [1, 0]^T$。
令 $S_1 = [1, 0]^T$，則 $||\mathbf{s}_1||_2^2 = 1$。$\mathbf{r}^T \mathbf{s}_1 = 1$。$||\mathbf{r}-\mathbf{s}_1||_2^2 = 0$。
令 $S_2 = [2, 0]^T$，則 $||\mathbf{s}_2||_2^2 = 4$。$\mathbf{r}^T \mathbf{s}_2 = 2$。$||\mathbf{r}-\mathbf{s}_2||_2^2 = ||[1,0]^T - [2,0]^T||_2^2 = ||[-1,0]^T||_2^2 = 1$。
ML 解碼器會選擇 $S_1$ (因為 $||\mathbf{r}-\mathbf{s}_m||_2^2$ 最小，為 0)。
相關性解碼器會選擇 $S_2$ (因為 $\mathbf{r}^T \mathbf{s}_m$ 最大，2 > 1)。
在這種情況下，相關性解碼器不是最佳的。

解釋：
ML 解碼器選擇 $\mathbf{s}_m$ 使得 $p(\mathbf{r}|\mathbf{s} = \mathbf{s}_m)$ 最大。
這等價於最小化 $||\mathbf{r}-\mathbf{s}_m||_2^2$。
$||\mathbf{r}-\mathbf{s}_m||_2^2 = ||\mathbf{r}||_2^2 - 2\mathbf{r}^T \mathbf{s}_m + ||\mathbf{s}_m||_2^2$。
ML 解碼器選擇 $\mathbf{s}_m$ 使得 $\mathbf{r}^T \mathbf{s}_m - \frac{1}{2}||\mathbf{s}_m||_2^2$ 最大。
相關性解碼器選擇 $\mathbf{s}_m$ 使得 $\mathbf{r}^T \mathbf{s}_m$ 最大。

只有當所有符號能量 $||\mathbf{s}_m||_2^2$ 都相等時，最大化 $\mathbf{r}^T \mathbf{s}_m$ 才等價於最大化 $\mathbf{r}^T \mathbf{s}_m - \frac{1}{2}||\mathbf{s}_m||_2^2$。
由於題目明確指出符號能量可能不相等，所以相關性解碼器不是最佳的。

答案 (c):
否。這個解碼器不是最佳的。
解釋：最大概似解碼器是最小化 $||\mathbf{r}-\mathbf{s}_m||_2^2$，這等價於最大化 $\mathbf{r}^T \mathbf{s}_m - \frac{1}{2}||\mathbf{s}_m||_2^2$。相關性解碼器則是最大化 $\mathbf{r}^T \mathbf{s}_m$。只有當所有符號的能量 $||\mathbf{s}_m||_2^2$ 都相等時，這兩者才等價。由於題目說明符號能量可能不相等，因此相關性解碼器不保證是最佳的（即能獲得最小的符號錯誤機率）。

(d) QPSK 符號表示與錯誤機率計算

QPSK 符號：
$S_1 = [\sqrt{2}, 0]^T$ (00)
$S_2 = [0, \sqrt{2}]^T$ (01)
$S_3 = [\sqrt{2}, 2\sqrt{2}]^T$ (10)
$S_4 = [2\sqrt{2}, \sqrt{2}]^T$ (11)
$N=2$ (向量維度)。
$N_0 = 2$。所以 $N_0/2 = 1$ (雜訊方差)。

(d) i. $P(\hat{S}_{ML} = S_4 | S_1 \text{ transmitted})$

ML 解碼器選擇 $\mathbf{s}_m$ 使得 $||\mathbf{r}-\mathbf{s}_m||_2^2$ 最小。
我們知道 $\mathbf{r} = \mathbf{s}_1 + \mathbf{n}$。
ML 解碼器錯誤地選擇 $S_4$ 而不是 $S_1$ 當：
$||\mathbf{r}-\mathbf{s}_4||_2^2 < ||\mathbf{r}-\mathbf{s}_1||_2^2$
代入 $\mathbf{r} = \mathbf{s}_1 + \mathbf{n}$：
$||\mathbf{s}_1 + \mathbf{n} - \mathbf{s}_4||_2^2 < ||\mathbf{s}_1 + \mathbf{n} - \mathbf{s}_1||_2^2$
$||\mathbf{n} - (\mathbf{s}_4 - \mathbf{s}_1)||_2^2 < ||\mathbf{n}||_2^2$

計算向量差：
$\mathbf{s}_4 - \mathbf{s}_1 = [2\sqrt{2}, \sqrt{2}]^T - [\sqrt{2}, 0]^T = [\sqrt{2}, \sqrt{2}]^T$。
令 $\Delta_{41} = \mathbf{s}_4 - \mathbf{s}_1 = [\sqrt{2}, \sqrt{2}]^T$。
不等式變為：
$||\mathbf{n} - \Delta_{41}||_2^2 < ||\mathbf{n}||_2^2$
$(\mathbf{n} - \Delta_{41})^T (\mathbf{n} - \Delta_{41}) < \mathbf{n}^T \mathbf{n}$
$\mathbf{n}^T \mathbf{n} - 2 \mathbf{n}^T \Delta_{41} + \Delta_{41}^T \Delta_{41} < \mathbf{n}^T \mathbf{n}$
$- 2 \mathbf{n}^T \Delta_{41} + ||\Delta_{41}||_2^2 < 0$
$||\Delta_{41}||_2^2 < 2 \mathbf{n}^T \Delta_{41}$

計算 $||\Delta_{41}||_2^2$：
$||\Delta_{41}||_2^2 = (\sqrt{2})^2 + (\sqrt{2})^2 = 2 + 2 = 4$。
所以，$4 < 2 \mathbf{n}^T \Delta_{41}$。
$2 < \mathbf{n}^T \Delta_{41}$。
$\mathbf{n}^T \Delta_{41} = n_1 (\sqrt{2}) + n_2 (\sqrt{2}) = \sqrt{2} (n_1 + n_2)$。
所以，$2 < \sqrt{2} (n_1 + n_2)$。
$\sqrt{2} < n_1 + n_2$
令 $Z = n_1 + n_2$。

核心觀念

本題考查：

• 通道容量定義：$C=\max_{P(X)} I(X;Y)$。

• 二元熵函數：

  $$h_2(q)=-q\log_2q-(1-q)\log_2(1-q)$$

• BSC 的交叉錯誤機率為 $p$。

• BEC 的抹除機率依圖記為 $\rho$。

• 線性區塊碼的生成矩陣，以及串聯通道的等效抹除機率。

---

(a) 容量最大化的條件

令

$$P(X=0)=q,\qquad P(X=1)=1-q.$$

BSC

BSC 的輸出為

$$P(Y=1)=q p+(1-q)(1-p).$$

因此

$$I(X;Y)=H(Y)-H(Y|X).$$

由於 BSC 的條件熵為

$$H(Y|X)=h_2(p),$$

且當輸出 $Y$ 為均勻分布時，$H(Y)$ 最大。輸出均勻的條件是

$$P(Y=0)=P(Y=1)=\frac12.$$

對稱通道下，這要求輸入也採用均勻分布：

$$P(X=0)=P(X=1)=\frac12.$$

BEC

BEC 的輸出符號為 $0,1,\text{Erasure}$。其抹除機率與輸入無關，因此

$$P(Y=\text{Erasure})=\rho.$$

非抹除的總機率為 $1-\rho$。要使輸出資訊量最大，非抹除的 $0$、$1$ 必須等機率出現，因此仍須令

$$P(X=0)=P(X=1)=\frac12.$$

所以，BSC 與 BEC 的容量最大化皆在輸入位元均勻分布時達成。

---

(b) BSC 與 BEC 的通道容量

BSC 容量

在均勻輸入下，BSC 的輸出也是均勻分布，因此

$$H(Y)=1.$$

給定輸入 $X$ 後，輸出錯誤的機率為 $p$，故

$$H(Y|X)=h_2(p).$$

因此 BSC 容量為

$$\boxed{C_{\mathrm{BSC}}=1-h_2(p)}$$

亦即

$$\boxed{ C_{\mathrm{BSC}} =1+p\log_2p+(1-p)\log_2(1-p) }$$

---

BEC 容量

BEC 的輸出機率為

$$P(Y=0)=\frac{1-\rho}{2},$$ $$P(Y=1)=\frac{1-\rho}{2},$$ $$P(Y=\text{Erasure})=\rho.$$

因此

$$H(Y) =-(1-\rho)\log_2\frac{1-\rho}{2} -\rho\log_2\rho.$$

給定 $X$ 後，只有「正確接收」與「被抹除」兩種情況，所以

$$H(Y|X)=h_2(\rho).$$

故

$$\begin{aligned} I(X;Y) &=H(Y)-H(Y|X)\\ &=1-\rho. \end{aligned}$$

因此 BEC 容量為

$$\boxed{C_{\mathrm{BEC}}=1-\rho}$$

其物理意義是：以機率 $1-\rho$ 成功傳送一個位元，以機率 $\rho$ 完全失去該位元。

---

(c) 容量比較

題目給定

$$0<p=\rho<0.5.$$

兩者容量分別為

$$C_{\mathrm{BSC}}=1-h_2(p),$$ $$C_{\mathrm{BEC}}=1-p.$$

對於 $0<p<0.5$，有

$$h_2(p)>p.$$

因此

$$1-p>1-h_2(p),$$

得到