編碼定理

編碼定理是資訊理論的核心理論，1948年由克勞德·香農在《通信的數學理論》中首次提出信道容量概念，證明存在可使錯誤機率任意小的編碼方法。該定理推動漢明碼、卷積碼等糾錯碼技術的發展，其核心矛盾在於最大似然解碼複雜度與實用需求的平衡。1993年Turbo碼將性能提升至距香農極限0.7dB，2007年極化碼實現理論層面的信道容量突破。

基本介紹

• 提出時間：1948年
• 提出者：克勞德·香農
• 所屬學科：資訊理論
• 核心概念：信道容量
• 套用領域：通信技術
• 里程碑：1993年Turbo碼

理論奠基

1948年香農發表《通信的數學理論》，首次嚴格定義信道容量概念，提出信息傳輸速率不超過信道容量時可實現無差錯通信的理論框架。該工作證明至少存在一種編碼方式能以任意趨近於零的錯誤機率逼近信道容量極限。

技術演進

糾錯碼技術圍繞實現香農極限展開疊代：

• 漢明碼（1950年）：首個可糾正單比特錯誤的線性分組碼
• 卷積碼（1955年）：引入時序記憶機制提升編碼效率
• Turbo碼（1993年）：通過並行級聯卷積碼和疊代解碼，性能距香農極限僅差0.7dB，推動了編碼技術的發展

核心矛盾

編碼定理揭示的工程難題集中體現在：

• 最大似然解碼算法的計算複雜度隨碼長指數級增長
• 實際通信系統對實時性和硬體成本有嚴格限制
  這種矛盾推動疊代解碼、機率解碼等低複雜度算法的發明，並為級聯編碼結構提供理論依據。

現代突破

極化碼的提出標誌著理論層面的重大進展：

• 2007年埃達爾·阿里坎證明極化碼可達信道容量
• 通過信道極化現象實現無差錯傳輸
• 被採納為5G通信標準中的控制信道編碼方案
  該突破使編碼定理從理論構建到工程實現的技術體系。