信息论基础第2版.pdfVIP

信息论基础

第1章

绪论

1

主要内容

1.1信息的基本概念

1.1.1信息论的产生

1.1.2信息的基本概念

1.2香农信息论研究的内容

1.2.1通信系统模型

1.2.2香农信息论的主要内容

2

主要内容

1.3香农信息论研究的进展与应用

1.3.1香农信息论创立的背

1.3.2香农的主要贡献

1.3.3香农信息论研究进展

1.3.4香农信息论的应用

3

信息论定义

信息论即香农信息论，也称经典信息论

信息论是研究通信系统极限性能的理论

香农(ClaudeEdwoodShannon,1916—2001)

4

§1.1信息的基本概念

客观世界三大基本要素信息时代社会的发

展离不开物质(材

料)、能量（能源）

和信息资源。

能量

美国学者欧廷格：

物质信息

没有物质什么都不

存在，没有能量什

么都不发生，没有

信息什么都没意义。

5

§1.1.1信息论的产生

按理说，关于信息的课程应该象物理、化

学、生物等课程一样，是基础课。但是，由于

信息的抽象性以及当前人们且对信息的认识并

不完全清楚，所以在当前只能是专业课。

6

§1.1.1信息论的产生

1948年，美国工程师和数学家Claude

EdwoodShannon(1916-2001)发表

《通信的数学理论》,标志着信息论

的产生。

(AMatematicalTheoryofCommunications，BellSys.Tech.

Journal，JulyandOctober1948）