第1章 緒論1.1 信息的基本概念1.1.1 信息的不同定義1.1.2 信息的特征1.1.3 信息的性質1.1.4 信息的分類1.1.5 信息科學1.2 信息論的起源、發展及研究內容1.2.1 信息論的起源1.2.2 信息技術的發展1.2.3 信息論研究的主要內容1.2.4 信息論的應用1.3 編碼理論概述1.3.1 編碼理論的基本概念1.3.2 編碼理論的發展1.3.3 編碼理論研究的內容和目的習題 第2章 信息論的數學基礎2.1 概率論基本知識2.1.1 隨機事件與概率2.1.2 隨機變量及其分布2.1.3 多維隨機變量及其分布2.1.4 數學期望與方差2.2 隨機過程基本知識2.2.1 隨機過程及其統計描述2.2.2 隨機過程的數字特征2.3 馬爾可夫鏈2.3.1 馬爾可夫過程及其概率分布2.3.2 多步轉移概率的確定2.3.3 遍歷性2.4 抽象代數基本知識2.4.1 群的基本概念2.4.2 環的基本概念2.4.3 域的基本概念及域上多項式 第3章 信源與信源熵3.1 單符號離散信源3.1.1 單符號離散信源的數學模型3.1.2 概率知識基礎3.1.3 單符號離散信源的信息量3.1.4 互信息量和條件互信息量3.1.5 單符號離散信源的信源熵3.1.6 信源熵的基本性質和定理3.1.7 平均互信息量3.1.8 各種熵之間的關系3.2 多符號離散平穩信源3.2.1 離散無記憶擴展信源3.2.2 離散平穩信源的數學定義3.2.3 離散平穩信源的信源熵和極限熵3.3 馬爾可夫信源3.3.1 馬爾可夫(Markov)鏈3.3.2 馬爾可夫信源3.3.3 馬爾可夫信源熵3.4 連續信源3.4.1 連續信源的熵3.4.2 幾種特殊連續信源的熵3.4.3 連續熵的性質及*大連續熵定理習題 第4章 無失真信源編碼4.1 信源編碼概述4.1.1 信源編碼的定義4.1.2 克拉夫特(Kraft)不等式4.2 定長編碼4.2.1 定長編碼定理4.2.2 定長編碼方法4.3 變長編碼4.3.1 變長編碼定理4.3.2 變長編碼方法4.4 幾種實用的無失真信源編碼4.4.1 香農編碼4.4.2 費諾編碼4.4.3 哈夫曼編碼4.4.4 游程編碼4.4.5 冗余位編碼4.4.6 算數編碼4.4.7 字典編碼習題 第5章 限失真信源編碼5.1 失真測度與信息率失真函數5.1.1 平均失真度5.1.2 信息率失真函數的定義5.1.3 信息率失真函數的性質5.2 信息率失真函數的計算5.2.1 離散信源的率失真函數的計算5.2.2 連續信源的率失真函數5.3 限失真信源編碼定理5.4 限失真信源編碼簡介5.4.1 語音信號的預測編碼5.4.2 圖像與視頻信號的預測編碼習題 第6章 信道及信道容量6.1 信道模型和分類6.1.1 一般信道的數學模型6.1.2 信道的分類6.1.3 信道容量的定義6.2 特殊的單符號離散信道的信道容量6.2.1 離散無噪信道的信道容量6.2.2 強對稱離散信道的信道容量6.2.3 對稱信道的信道容量6.2.4 準對稱離散信道的信道容量6.2.5 一般離散信道的信道容量6.3 多符號離散信道6.3.1 多符號離散信道的數學模型6.3.2 離散無記憶信道的信道容量6.4 多用戶信道及連續信道6.4.1 多用戶信道6.4.2 連續信道習題 第7章 信道編碼7.1 信道編碼的基本概念7.1.1 信道編碼的意義7.1.2 信道編碼的分類7.1.3 信道編碼的基本原理7.2 信道編碼定理7.2.1 譯碼規則及錯誤概率7.2.2 信道編碼定理7.2.3 檢錯與糾錯原理7.2.4 檢錯與糾錯方式和能力7.3 線性分組碼7.3.1 概述7.3.2 線性分組碼的生成矩陣和一致校驗矩陣7.3.3 線性碼的糾錯能力7.3.4 線性分組碼的譯碼7.3.5 漢明碼7.4 循環碼7.4.1 循環碼的定義及多項式表示7.4.2 循環碼的生成矩陣和一致校驗矩陣7.4.3 循環碼的編碼7.4.4 循環碼的譯碼 第8章 信息論方法的應用8.1 信息論在統計中的應用8.1.1 EM算法8.1.2 互熵與Fisher矩陣8.2 組合投資決策(Portfolio)中的應用8.2.1 組合投資決策問題8.2.2 量優組合投資決策的計算8.3 *大熵原理在經濟學中的應用8.3.1 *大熵建模基本原理8.3.2 *大熵統計模型的優缺點8.3.3 封閉經濟體中貨幣量的分布8.3.4 封閉經濟體中財富的分布8.4 在自然語言中應用8.4.1 英語信源的熵和剩余度8.4.2 漢語信源的熵和剩余度 附錄：模擬試題模擬試題一模擬試題一答案模擬試題二模擬試題二答案模擬試題三模擬試題三答案模擬試題四模擬試題四答案 參考文獻