information theory

定义：应用数理统计方法研究信息处理和传递的理论。

学科：资源科学技术_资源信息学

相关名词：数理统计 密码学 信息编码 信息安全

图片来源：视觉中国

【延伸阅读】

信息论是应用数学、电子学和计算机科学的一个分支，它使用概率论与数理统计的方法研究信息、信息熵、通信系统、数据传输、密码学、数据压缩等问题。信息论的研究范围极为广阔，可分为狭义信息论、一般信息论和广义信息论。狭义信息论是应用统计方法研究通信系统中信息传递和信息处理的共同规律的科学，即研究概率性语法信息的科学；一般信息论主要是研究通信问题，但还包括噪声理论、信号滤波与预测、调制与信息处理等问题；广义信息论是应用数学和其他有关科学方法研究一切现实系统中信息传递和处理、信息识别和利用的共同规律的科学，即研究语法信息、语义信息和语用信息的科学。

信息论的发展历史可以追溯到20世纪40年代，由克劳德·香农在1948年发表的《通信的数学理论》一文中首次提出，标志着信息论作为一门独立的学科正式诞生。香农提出了信息熵的概念，用于度量信息的量，并研究了信道容量和数据压缩等问题。这个阶段的信息论主要应用于通信和密码学等领域。

20世纪50年代至70年代是信息论的核心理论发展阶段。在这个阶段，信息编码和数据压缩的理论基础得到建立，哈夫曼编码、LZ77和LZ78等算法的提出和应用，推动了信息论的发展。这些理论和技术在计算机领域得到了广泛的应用，涉及数据压缩、文件存储、网络传输等方面。

20世纪80年代至今是信息论的应用扩展和挑战阶段。随着计算机和互联网的普及，信息论的应用范围逐渐扩大，扩展到信息安全、数字版权保护、数据隐私等方面，也面临着如何处理大量信息和如何提高信息处理效率等挑战。这个阶段的研究和应用表明，信息论在解决实际问题的同时，也可以帮助我们更好地理解和掌握信息的本质和规律。

（延伸阅读作者：西华师范大学数学与信息学院 李斌斌博士）

责任编辑：张鹏辉