信息论

出处：按学科分类—社会科学总论 中国青年出版社《社会科学学科辞典》第15页（1996字）

研究信息的本质，并用数学方法研究信息的计量、传递、变换和储存的学科。

“信息”一词在日常用语中指的是消息、情报、指令、密码等等，它是通过符号(如文字、图象等)、信号(如语言、有某种含义的手势动作、电磁波信号)等具体形式表现出来的。但作为科学概念的信息，至今尚没有公认的定义，一般可以这样理解：信息既不是物质和能量，也不是事物的属性和关系，而是与物质、能量密切相关的事物的属性、联系和含义的表征。

信息具有可扩充性、可压缩性、可传递性、可分享性、可贮存性等特点。信息论的基本思想和特有方法就是完全撇开对象的具体运动形态，用信息这一中心概念研究系统的目的性行为和控制功能，把系统的有目的的运动抽象为一个信息变换过程，通过信息变换与反馈控制使系统保持或趋向于一定的目的。

信息论可分为狭义信息论与广义信息论。狭义信息论研究通信系统中信息传递的共同规律，以便提高通信系统的传输效率和可靠性。

广义信息论则研究所有与信息有关的领域，研究机器、生物和人类对于各种信息的获取、变换、传输、存贮、处理、利用和控制的一般规律，以便提高人类认识世界和改造世界的能力。

信息论最早产生于通信领域，早期又叫做“通信理论”(即狭义信息论)，创始人是美国数学家申农。

1948年，他发表了题为《通信的数学理论》的论文，创立了通信系统模型，标志着信息论作为一门独立学科的诞生。

所谓通信就是两个系统之间传递信息，由信源发出信息，通过信道传送信息，再由信宿(收信人)获取信息，这就构成通信系统。信息论认为，任何一个通信之所以需要，就是因为信宿在收到信息之前，不知道发送的信息是什么，信宿对发送的信息具有“不确定性”。当获得了信息之后，这种“不确定性”就可以减少或消除。

信息量的大小用消除“不确定性”的多少来表示，而事物的“不确定性”的多少则是用概率函数来描述的。申农和维纳建立了一个信息量公式，公式中的量完全是统计量，常称统计信息或概率信息。在信息论中，采用“熵”这种量，来刻画对象的不确定程度，用收到信息后“熵”的减少来标志不确定性的减少，以此作为信息量的度量。

从信息论的观点来看，通信系统的效率就是传送信息量的效率。

自从狭义信息论问世以来，随着电子技术特别是电子计算机的发展和广泛应用，信息的概念和方法逐渐广泛渗透到各个领域，向广义信息论发展。申农所提出的通信系统模型不仅适用于通信系统，也可以推广到其他非通信系统，在非通信系统中，可以称之为信息系统，例如：雷达是一个遥测系统，从信息论的角度看，也可以看作是一个信息系统，其信源是空间某一目标物，它的坐标、速度、形状等等都包含着信息，电磁波的传播和收发所通过的自由空间就是信道，我们可以用无线电波射向目标物，然后再通过反射波收到它发回的信息。

此外如遥感系统、计算机系统、控制系统、管理系统等都可以看作是信息系统。就管理系统来说，基层单位可以看作是信源(或信宿)，而领导机关也可以看作是信宿(或信源)。

各种机构、组织、了解情况的一些渠道则可以看作为信道，而各种报表、数据、指令等等都是信息。

领导机关和各级组织，领导机关和基层单位，领导机关之间通过信息关系发生联系。

领导机关的任务就是通过信息系统了解信息、处理信息，然后作出正确决策，发出指令，有效地组织和指挥这一系统的各种活动。总之，运用信息论的观点和方法，可以广泛地把各种系统看作是借助于信息的获取、传送、加工而实现其有目的性的运动。

它为科研生产、经营管理、社会管理和社会科学、人体科学的研究提供了重要手段。

我国的信息论研究，大体经历了三个发展阶段。

1980年以前是引进国外信息论研究成果的阶段，从60年代起开始翻译了一些经典性的着作，发表了一批介绍性的综述和评述文章。

1980年至1983年主要是消化国外信息研究成果并在局部领域进行探索的阶段。

从1984年开始，进入了对信息问题的全面研究阶段。这一阶段的信息论研究是在我国蓬勃开展的新技术革命对策研究的带动下展开的，涉及到技术、理论和哲学三个层次：技术上如何建设高效率的信息数据处理的网络系统；理论上如何把握信息的传输、贮存、处理、使用等方面的规律性；哲学上如何认识信息的本质特征及其和哲学的关系。信息论研究的这三个层次各有侧重，但又密切联系，不可分割。目前这种研究还在向纵深方向发展。

《信息理论基础》，周炯槃着，人民邮电出版社1983年版；《信息论》，孟庆生着，西安交大出版社1986年版；《信息论基础》，傅祖芳编，电子工业出版社1986年版；《通信的数学理论》，(美)申农着，上海市科学技术编译馆1965年版。