# Shannon Limit / Shannon Capacity

## 1. 簡介

Shannon Limit 又稱為 Shannon Capacity，是由美國數學家 Claude Shannon 在 1948 年發表的論文《A Mathematical Theory of Communication》中提出的核心概念。它在資訊理論中扮演著基石的角色，**定義了在一個具有特定雜訊水平的通訊頻道中，理論上可以達到的最大無差錯資訊傳輸速率**。
這個理論極限確立了任何通訊系統性能的上限，無論其設計多麼精良，都無法超越此容量來進行可靠的（即任意低錯誤率的）數據傳輸。

## 2. 核心概念

**Shannon's Channel Capacity Theorem**是描述Shannon Limit的核心，該定理指出：

* 對於一個給定的通訊頻道，存在一個最大速率，稱為Channel Capacity\(C)，單位為bits per second(bps)
* 如果資訊源的資訊速率（Information Rate, R）小於或等於頻道容量（$R \leq C$），則理論上存在一種編碼和解碼方案，使得資訊能夠以任意小的錯誤機率（Error Probability）通過該頻道傳輸。
* 反之，如果資訊速率大於頻道容量（$R > C$），則不可能實現任意低錯誤率的可靠傳輸。任何試圖以高於 $C$ 的速率傳輸的嘗試，其錯誤率都將有一個無法降低的下限。

## 3. AWGN

Shannon theorem最著名的應用是在**加性高斯白雜訊(Additive White Gaussian Noise, AWGN)** 頻道模型上，對於這種類型的頻道，其容量 $C$ 可以由以下公式計算：

$$
C = B \log _{2}\left(1+\frac{S}{N}\right)
$$

其中：

* $C$：**頻道容量（Channel Capacity）**
* 單位：比特每秒 (bits per second, bps)
* 意義：該頻道理論上最大的可靠傳輸速率。
* $B$：**頻道頻寬（Channel Bandwidth）**
* 單位：赫茲 (Hertz, Hz)
* 意義：頻道可以通過的頻率範圍。頻寬越大，通常能承載更高的傳輸速率。
* $S$：**接收到的信號平均功率（Average Received Signal Power）**
* 單位：瓦特 (Watts, W) 或毫瓦 (mW)
* $N$：**頻道中的平均雜訊功率（Average Noise Power）**
* 單位：與 $S$ 相同 (W 或 mW)
* 通常假設為高斯白雜訊，其功率譜密度在整個頻寬內是均勻的。
* $S/N$：**信噪比（Signal-to-Noise Ratio, SNR）**
* 意義：信號強度與背景雜訊強度的比值。這是衡量頻道品質的關鍵指標。SNR 越高，頻道品質越好，容量也越大。
* 在實際應用中，SNR 常用分貝（dB）表示：$\text{SNR}_{\text{dB}} = 10 \log_{10}\left(\frac{S}{N}\right)$。**但在Shannon公式中必須使用其線性（無量綱）值。**

**公式解析：**

* 公式顯示，頻道容量 $C$ 與頻寬 $B$ 成**正比**。頻寬加倍，容量也大致加倍（在 $S/N$ 固定的情況下）。
* 頻道容量 $C$ 與 $\log_2(1+S/N)$ 成**正比**。這表示提高信噪比 $S/N$ 可以增加容量，但這種增長是**對數關係**，即當 $S/N$ 已經很高時，再提高 $S/N$ 對容量的提升效益會遞減。
* 即使信噪比 $S/N$ 非常低（接近 0），只要頻寬 $B$ 大於 0，理論容量 $C$ 仍然大於 0。這意味著即使在雜訊很大的環境下，只要有頻寬，理論上仍能以極低的速率進行可靠通訊。

## 4. 具體範例說明

假設一個無線通訊頻道具有以下特性：

* 頻寬 $B = 20 \text{ MHz} = 20 \times 10^6 \text{ Hz}$
* 接收到的信號功率 $S = 0.1 \text{ mW} = 1 \times 10^{-4} \text{ W}$
* 雜訊功率 $N = 1 \times 10^{-6} \text{ W}$

**計算步驟：**

1. **計算信噪比 (SNR) 的線性值：**
$$
\frac{S}{N} = \frac{1 \times 10^{-4} \text{ W}}{1 \times 10^{-6} \text{ W}} = 100
$$

（如果用 dB 表示，$\text{SNR}_{\text{dB}} = 10 \log_{10}(100) = 20 \text{ dB}$）

2. **將數值代入Shannon公式：**
$$C = B \log_{2}\left(1 + \frac{S}{N}\right)$$

$$= (20 \times 10^6) \times \log_{2}(101)$$

3. **計算 $\log_2(101)$：**
$$
\log_{2}(101) \approx \frac{\log_{10}(101)}{\log_{10}(2)} \approx \frac{2.0043}{0.3010} \approx 6.658
$$

4. **計算最終容量 $C$：**
$$C \approx (20 \times 10^6) \times 6.658$$

$$C \approx 133.16 \text{ Mbps}$$

**結論：** 在這個範例條件下，該頻道的Shannon capacity約為 133.16 Mbps。這意味著理論上存在一種編碼和解碼技術，可以在該頻道上以接近 133.16 Mbps 的速率傳輸數據，且錯誤率可以做到任意小，任何試圖超過此速率的傳輸都無法保證可靠性。

## 5. 在無線通訊中的意義與挑戰

* **理論基準：** Shannon Limit為所有通訊系統（包括 WiFi、4G LTE、5G NR 等）的設計提供了一個不可逾越的理論性能上限和評估基準。工程師可以計算出特定條件下的Shannon capacity，來判斷現有系統的效率以及改進的潛力。
* **指導設計：** 公式明確指出，要提高傳輸速率，可以從增加**頻寬 ($B$)** 或提高**信噪比 ($S/N$)** 著手。這直接影響了頻譜資源的分配、發射功率的設定、天線設計、抗干擾技術等的發展方向。
* **實際系統的差距：** 現實中的通訊系統**永遠無法完全達到**Shannon Limit:
* **理想編碼的複雜性：** Shannon theorem證明了存在能達到容量的編碼，但並未給出具體的、在有限複雜度下可實現的編碼方案。現代的錯誤更正碼（如 LDPC 碼、Turbo 碼）雖然非常接近極限，但仍有差距且需要相當的計算資源。
* **頻道的不理想性：** 真實頻道往往不是完美的 AWGN 頻道，存在衰落（Fading）、多徑效應（Multipath Effect）、延遲擴展（Delay Spread）、非高斯雜訊、干擾（Interference）等複雜因素。
* **硬體限制：** 處理器速度、延遲、同步誤差、非線性元件等硬體的不完美性也會限制系統性能。
* **協議開銷：** 實際通訊需要額外的控制信令、同步碼、錯誤檢測碼等，這些都會佔用一部分傳輸資源，降低有效數據速率。

## 6. 接近Shannon Limit的技術

儘管無法完全達到，但通訊領域的研究人員和工程師一直在努力開發新技術，以求更接近Shannon Limit：

* **先進的錯誤更正碼 (FEC)：** 如 **Turbo code** 和**低密度奇偶檢查碼 (LDPC)**，其性能非常接近在 AWGN 頻道上的Shannon Limit。
* **多天線技術 (MIMO - Multiple-Input Multiple-Output)：** 利用多根發射天線和多根接收天線，在相同的頻寬和功率下，可以創建多個並行的空間數據流，或者提高信號的穩健性，從而**顯著提高頻道容量**，有時甚至被描述為「突破」了單天線條件下的Shannon Limit（但實際上是提升了系統的整體 $S/N$ 或等效頻寬）。
* **自適應調變與編碼 (AMC - Adaptive Modulation and Coding)：** 根據實時測量的頻道品質（如 $S/N$），動態調整使用的調變方式（如從 QPSK 到 64-QAM）和編碼率，以最大化當前條件下的數據傳輸速率。
* **正交分頻多工 (OFDM - Orthogonal Frequency Division Multiplexing)：** 將寬帶頻道劃分為多個窄帶子頻道，有效對抗頻率選擇性衰落和多徑效應，改善整體傳輸效率。
* **網路編碼 (Network Coding)：** 在網路節點對數據進行組合編碼，提高網路吞吐量和穩健性。