信息定义随机过程定义.pdf

信息 [Information] ∶有目的地标记在通讯系统或计算机的输入上面的信号…（如电话 号码的一个数字） [Message] ∶音信消息。 “信息”一词在英文、法文、德文、西班牙文中均是“information”, 日文中为 “情报”，我国台湾称之为“资讯”，我国古代用的是“消息”。 信息定义：创建一切宇宙万物的最基本万能单位是信息。 信息，指音讯、消息、通讯系统传输和处理的对象，泛指人类社会传 播的一切内容。人通过获得、识别自然界和社会的不同信息来区别不 同事物，得以认识和改造世界。在一切通讯和控制系统中，信息是一 种普遍联系的形式。1948 年，数学家香农在题为“通讯的数学理论” 的论文中指出：“信息是用来消除随机不定性的东西”。 信息奠基人香农 （Shannon ）认为“信息是用来消除随机不确定性的 东西”，这一定义被人们看作是经典性定义并加以引用。 控制论创始人维纳 （Norbert Wiener）认为“信息是人们在适应外部 世界，并使这种适应反作用于外部世界的过程中，同外部世界进行互 相交换的内容和名称”，它也被作为经典性定义加以引用。 经济管理学家认为“信息是提供决策的有效数据”。 美国著名物理化学家吉布斯（Josiah Willard Gibbs ）创立了向量分析并 将其引入数学物理中，使事件的不确定性和偶然性研究找到了一个全 新的角度，从而使人类在科学把握信息的意义上迈出了第一步。他认 为“熵”是一个关于物理系统信息不足的量度。 电子学家、计算机科学家认为“信息是电子线路中传输的信号” 。 我国著名的信息学专家钟义信教授认为“信息是事物存在方式或运动 状态，以这种方式或状态直接或间接的表述”。（IEEE 美国纽约科学院 院士） 美国信息管理专家霍顿（F.W.Horton）给信息下的定义是：“信息是为 了满足用户决策的需要而经过加工处理的数据。”简单地说，信息是 经过加工的数据，或者说，信息是数据处理的结果。 根据对信息的研究成果。科学的信息概念可以概括如下： 信息是对客观世界中各种事物的运动状态和变化的反映，是客观事物 之间相互联系和相互作用的表征，表现的是客观事物运动状态和变化 的实质内容。 信号[Signal]是运载消息的工具，是消息的载体。从广义上讲，它包含 光信号、声信号和电信号等。按照实际用途区分，信号包括电视信号、 广播信号、雷达信号，通信信号等；按照所具有的时间特性区分，则 有确定性信号和随机性信号等。 随机过程定义[1] 1. 设随机试验的样本空间为 ，对于空间的每一个样本 ， 总有一个时间函数 与之对应，而对于空间的所有样本 ，可有一组时 间函数 与其对应，那么，此时称此组时间函数 为随机过程 。 2. 对于某一固定时刻 ， 为时间函数在 时 的状态，它是 一个随机变量，它的样本空间为 。如果把该状态样本空间描述为状 态函数的形式，那么我们依赖于时刻t 就有一组这样的状态函数，我 们称此组状态函数 为随机过程 。 定义1 与定义2 本质上是一致的，后者常用于做理论分析。 讨论 1. 若t 和x 都是变量，则随机过程是一组样本记录，可用全 部样本记录的集合描述； 2. 若t 是变量，而x 是固定值，则随机过程只是一个样本记 发，它可描述为一个确定的时间函数； 3. 若t 是固定值，而x 是变量，则随机过程是一个随机变量， 它只是全部样本记录中某个固定时刻的点集合； 4. 若t 和x 都是固定值，则随机过程是确定值。 显然，只有（1）才反映一个随机变量的完整的随机过程，其他都只 是随机过程的一个样本或样点。 随机过程分类[1] 1. 按时间和状态是否连续分为：连续型随机过程、离散型 随机过程、连续随机序列、离散随机序列； 2. 按样本函数形式分为：不确定随机过程和确定随机过程； 3. 按随机过程分布函数的特性不同分为：平稳过程、马尔 克夫过程、独立增量过程等； 4. 按有无平稳性分为：平稳随机过程和非平稳随机过程； 5. 按有无各态历经分为：各态历经随机过程和非各态历经 随机过程； 6. 按功率谱特性分为：白色过程和有色过程，宽带过程和 窄带过程。 随机过程的统计特性 1. 随机过程的均值函数 计算随机过程均值的方法有两种，一是关于总体样本点的平均，简称 总体平均；二