《信息論基礎教程(第2版21世紀信息通信繫列教材)》編著者李梅、李亦農。
本書以使讀者掌握基本概念和方法為目的，力圖以讀者*易接受的方式介紹信息論的基本內容及應用。本書可作為通信及電子信息類相關專業高年級本科生和研究生教材，也可作為相關專業科研人員的參考書。
本書一共分為7章，外加兩個附錄。第1章緒論，主要介紹了香農信息論的研究對像、目的和內容；第2章介紹了關於信息度量的幾個重要概念：自信息、互信息、信息熵、平均互信息以及數據處理定理；第3章研究定量度量信源產生信息的能力和信源冗餘度的問題；第4章研究定量描述信道傳遞信息能力的問題，並介紹了信道容量的計算方法；第5章的核心內容是香農的無失真信源編碼定理。圍繞這個定理我們介紹了無失真信源編碼的基本概念，講述了幾種實用的無失真信源編碼方法。……

《信息論基礎教程(第2版21世紀信息通信繫列教 材)》編著者李梅、李亦農。 信息論是現代信息通信領域的基礎理論，是研究 信息傳輸和信息處理的一般規律的科學。我們在借鋻 了國內外眾多的信息論優秀教材和參考資料之後編寫 了《信息論基礎教程(第2版21世紀信息通信繫列教材 )》。本書以香農的三個編碼定理為中心，重點講述 了相關的基本概念、基本原理和基本方法。鋻於目前 各大專院校都在削減學時，本書隻是講述經典信息論 的內容，沒有涉及過多的分支。 本書可作為通信及電子信息類相關專業高年級本 科生和研究生教材，也可作為相關專業科研人員的參 考書。

第1章 緒 論
1.1 信息的概念
1.2 信息論的研究對像、目的和內容
第2章 信息的度量
2.1 自信息和互信息
2.1.1 自信息
2.1.2 互信息
2.2 平均自信息
2.2.1 平均自信息的概念
2.2.2 熵函數的性質
2.2.3 聯合熵與條件熵
2.3 平均互信息
2.3.1 平均互信息的概念
2.3.2 平均互信息的性質
2.3.3 數據處理定理
習題2
第3章 信源及信源熵
3.1 信源的分類及其數學模型
3.2 離散單符號信源
3.3 離散多符號信源
3.3.1 離散平穩無記憶信源
3.3.2 離散平穩有記憶信源
3.3.3 馬爾可夫信源
3.3.4 信源的相關性和剩餘度
3.4 連續信源
3.4.1 連續信源的微分熵
3.4.2 連續信源的*大熵
3.4.3 連續信源的熵功率
習題3
第4章 信道及信道容量
4.1 信道的分類
4.2 離散單符號信道及其信道容量
4.2.1 離散單符號信道的數學模型
4.2.2 信道容量的概念
4.2.3 幾種特殊信道的信道容量
4.2.4 離散對稱信道的信道容量
4.2.5 一般離散信道的信道容量
4.2.6 信道容量定理
4.2.7 信道容量的迭代算法
4.3 離散多符號信道及其信道容量
4.4 組合信道及其信道容量
4.4.1 獨立並聯信道
4.4.2 級聯信道
4.5 連續信道及其信道容量
4.5.1 連續隨機變量的互信息
4.5.2 高斯加性信道的信道容量
4.5.3 多維高斯加性信道的信道容量
4.6 波形信道及其信道容量
習題4
第5章 無失真信源編碼
5.1 信源編碼的相關概念
5.1.1 編碼器
5.1.2 碼的分類
5.2 定長碼及定長信源編碼定理
5.3 變長碼及變長信源編碼定理
5.3.1 Kraft不等式和McMman不等式
5.3.2 **可譯碼的判別準則
5.3.3 緊致碼平均碼長界限定理
5.3.4 無失真變長信源編碼定理(香農**定理)
5.4 變長碼的編碼方法
5.4.1 香農編碼
5.4.2 香農一費諾一埃利斯編碼
5.4.3 二元霍夫曼碼
5.4.4 r元霍夫曼碼
5.4.5 費諾碼
5.5 實用的無失真信源編碼方法
5.5.1 遊程編碼
5.5.2 算術編碼
5.5.3 LZW編碼
習題5
第6章 有噪信道編碼
6.1 信道編碼的相關概念
6.1.1 錯誤概率和譯碼規則
6.1.2 錯誤概率與編碼方法
6.2 有噪信道編碼定理
6.3 錯誤概率的上界
6.4 糾錯編碼
6.4.1 糾錯碼分類
6.4.2 糾錯碼的基本概念
6.4.3 線性分組碼
6.4.4 卷積碼
習題6
第7章 限失真信源編碼
7.1 失真測度
7.1.1 失真函數
7.1.2 平均失真
7.2 信息率失真函數
7.2.1 D失真許可信道
7.2.2 信息率失真函數的定義
7.2.3 信息率失真函數R(D)的性質
7.3 限失真信源編碼定理
7.4 信息率失真函數的計算
7.4.1 應用參量表示式計算R(D)
7.4.2 率失真函數的迭代算法
7.5 常用的限失真信源編碼方法
7.5.1 量化編碼
7.5.2 子帶編碼
7.5.3 預測編碼
7.5.4 變換編碼
習題7
附錄A 數學預備知識
A.1 概率論與隨機過程
A.1.1 概率論的基本概念
A.1.2 隨機變量及其分布
A.1.3 多維隨機變量及其分布
A.1.4 隨機變量的數字特征
A.1.5 隨機過程
A.2 凸函數及Jensen不等式
A.3 信道容量定理引理
A.4 漸進等分割性和￡典型序列
附錄B 上機作業
B.1 信道容量的迭代算法
B.2 **可譯碼判決準則
B.3 Shannon編碼
B.4 Huffman編碼
B.5 Fano編碼
B.6 LZW編碼
B.7 BSC模擬器
B.8 Hamming(7，4)編譯碼器
B.9 通信繫統仿真
參考文獻