第1章 緒論 1 1.1 引言 1 1.2 信息系統模型 5 1.3 通信系統模型 6 1.4 信息論與編碼的研究內容 6 本章小結 6 擴展閱讀 7 習題 8 第2章 信源與信源熵 9 2.1 信源的分類與數學模型 9 2.1.1 信源的分類 9 2.1.2 信源的數學模型 10 2.1.3 馬爾可夫信源的穩態分布 13 2.2 離散單符號信源熵 17 2.2.1 自信息量 17 2.2.2 離散單符號信源熵 18 2.2.3 離散單符號信源條件熵 19 2.2.4 離散單符號信源聯合熵 21 2.2.5 互信息 22 2.2.6 信源熵、 條件熵、 聯合熵、 互信息等之間的相互關系 23 2.2.7 信源熵的性質 25 2.3 離散序列信源熵 26 2.3.1 離散無記憶信源及其信息熵 26 2.3.2 離散有記憶信源熵 28 2.3.3 離散平穩信源的極限熵 28 2.4 馬爾可夫信源的極限熵 30 2.5 連續單符號信源熵 31 2.6 連續序列信源熵 32 2.7 波形信源熵 32 2.8 連續信源*大熵定理 33 2.9 信源的冗余度 33 本章小結 34 擴展閱讀 35 習題 42 第3章 信道與信道容量 47 3.1 信道的分類與數學模型 47 3.1.1 信道的分類 47 3.1.2 信道的數學模型 47 3.1.3 信道容量的定義 49 3.2 離散單符號信道的信道容量 51 3.2.1 對稱離散無記憶信道 51 3.2.2 準對稱離散無記憶信道 54 3.2.3 一般離散無記憶信道 56 3.3 離散序列信道的信道容量 56 3.3.1 信道、 信源無記憶情形 57 3.3.2 N次擴展信道 58 3.3.3 獨立并聯信道 59 3.4 連續單符號信道的信道容量 59 3.5 連續序列信道的信道容量 60 3.6 波形信道的信道容量 64 3.7 信道冗余度 65 本章小結 66 擴展閱讀 67 習題 72 第4章 失真與信息率失真函數 76 4.1 失真的概念和性質 76 4.2 信息率失真函數 77 4.2.1 信息率失真函數的定義 77 4.2.2 信息率失真函數的性質 79 本章小結 81 擴展閱讀 82 習題 89 第5章 信源編碼 92 5.1 信源編碼的有關概念 92 5.1.1 幾個概念 92 5.1.2 唯一可譯碼存在的充要條件——克勞夫特不等式 93 5.2 信源編碼定理 94 5.2.1 無失真信源編碼定理(香農**定理) 94 5.2.2 限失真信源編碼定理(香農第三定理) 98 5.3 常用信源編碼方法 99 5.3.1 香農編碼 99 5.3.2 哈夫曼編碼 101 5.3.3 算術編碼 103 本章小結 108 擴展閱讀 108 習題 117 第6章 信道編碼 120 6.1 信道編碼的概念 120 6.1.1 差錯及差錯編碼分類 120 6.1.2 差錯控制方式 121 6.1.3 差錯概率和譯碼規則 122 6.1.4 矢量空間和碼空間 123 6.2 信道編碼定理 124 6.3 信源信道聯合編碼 126 6.4 常用信道編碼方法 127 6.4.1 線性分組碼 127 6.4.2 卷積碼 137 6.5 其他信道編碼方法簡介 147 6.5.1 Turbo碼 147 6.5.2 LDPC碼 150 本章小結 151 擴展閱讀 152 習題 153 第7章 網絡信息論初步 157 7.1 網絡通信的分類 157 7.2 分布式無損壓縮 159 7.3 網絡編碼 161 7.3.1 單播圖網絡的容量 162 7.3.2 多播圖網絡的容量 162 7.3.3 線性網絡編碼 163 本章小結 164 擴展閱讀 165 思考題 165 參考文獻 166