平稳随机过程的概念

平稳随机过程是一类应用广泛的随机过程,在稳定系统中出现的随机过程都属于平稳随机过程。

例如:纺织过程中棉纱横截面积的变化;军舰在海浪中的颠簸;电阻的热噪声;...

这些随机现象的特点是:统计特性不随时间的推移而变化。

平稳随机过程可分为狭义平稳过程广义平稳过程,在本章中主要讨论广义平稳过程

联合平稳过程

平稳随机过程随机分析

在普通函数的微积分中,连续、导数和积分的概念是建立在极限概念的基础上

对于随机过程随机过程的连续性、导数和积分等概念都是建立在随机序列极限的基础上。这部分内容称为随机分析

只做介绍,强调应用

收敛性

,则

若有 成立,则对于任给的 ,有

,则

成立,则

所以 ,因此,对于任意的 ,有

所以

连续性

定理

二阶矩过程在区间 上均方连续,则

在均方意义下存在,且随机过程 在区间 上均方可微,且有

积分

四、平稳随机过程的各态历经性

1. 集合平均

随机过程的均值函数,即任意时刻的过程取值的统计平均

2. 时间平均

随机过程的样本函数按不同时刻取平均,它随样本不同而不同,是个随机变量。

3. 大数定理

设独立同分布的随机变量序列 具有 ,则

随着时间 的无限增长,随机过程样本函数按时间平均以越来越大的概率近似于该过程的统计平均。也就是说,只要观测的时间足够长,则随机过程的每个样本函数都能够「遍历」各种可能的状态。

4. 各态历经性

4.1 定义

是均方连续的平稳过程,若

以概率 1 成立,则称该平稳过程的均值具有各态历经性。若

以概率 1 成立,则称该平稳过程的相关函数具有各态历经性。如果均方连续的平稳过程的均值和相关函数都具有各态历经性,则称该平稳过程为具有各态历经性或遍历性。

定理

是均方连续的平稳过程,则其相关函数具有各态历经性的充要条件为

其中

证明略

要严格验证平稳过程是否满足各态历经性是比较困难 的, 但是各态历经性定理的条件较宽,工程中所遇到的平稳
过程大多数都能满足此条件。在实际应用中,只考虑 $0 \le t< \infty $ 上的均方连续的平稳过程, 此时:

物理意义

一个实平稳过程,如果它是各态历经的,则可用任意一个样本函数的时间平均代替过程的集合平均,即

若样本函数 只在有限区间 上给出,则对于实平稳过程有下列估计式:

若样本函数 只在有限区间 上给出 个采集样点,则对于实平稳过程有下列估计式

因此,在工程中,要计算随机过程的均值与相关函数,或者方差函数和协方差函数时,通常就是按照上面给出 个样本函数采集点来进行计算的。我们在仿真实验中,也是按照上面的公式来进行模拟的。

五、功率谱密度的定义

是均方连续的随机过程,作截尾随机过程

的 Fourier 变换,由 Parseval 公式及 Fourier 逆变换,得到

对上式两边先取时间平均,再取统计平均得到

为均方连续的随机过程,称

平均功率,称

功率谱密度,简称谱密度。对于平稳随机过程,平均功率等于该过程的均方值,等于它的谱密度在频域上的积分。即:

六、功率谱密度的性质

可以证明:平稳随机过程的自相关函数与功率谱密度之间互为傅立叶变换对。这一个关系就是著名的维纳-辛钦定理。 即:

是均方连续的平稳过程, 是它的相关函数, 为它的功率谱密度,如果 ,则有:

性质1

随机过程为实平稳随机过程

证明:

,则

随机过程为实平稳随机过程

同理

性质2

证明:

性质3

的有理函数时,其形式必为

其中 为常数,,分母无实根

七、离散随机序列的功率谱密度

定义

为平稳随机序列,若它的相关函数满足

则称

的「功率谱密度」。可以证明,离散型平稳随机序列的功率谱密度与相关函数是一对 Fourier 级数与系数的关系,即:

为广义平稳随机过程,用 表示它的功率谱密度和相关函数,用 对其采样,构成离散随机序列 ,用 表示它的功率谱密度和相关函数,可以证明,它们之间存在以下关系:(采样定理)

八、联合平稳随机过程的互谱密度

1. 互谱密度的定义

为两个平稳过程,且它们是联合平稳的,若它们的互相关函数 满足:

则称的傅立叶变换:

互功率谱密度,简称互谱密度。可以证明,互谱密度与互相关函数是一对傅立叶变
换对,即:

2. 互谱密度的性质

性质1

互为共轭

性质2

的实部是偶函数,虚部为奇函数

性质3

满足下面的关系式

性质4

互相正交,则

九、白噪声自相关函数和功率谱密度

1. 白噪声过程定义

为实平稳随机过程,若它的均值为 0,且谱密度在所有频率范围内为非 0 的常数,即

白噪音过程

2. Delta 函数定义

为了对白噪声过程进行频谱分析,下面引入 $\delta $ 函数的概念

其 Fourier 变换有

3. 白噪音自相关函数

这表明:白噪音随时间的变化极快,在任意两个时刻 不相关

  • 白噪音是一种理想化的数学模型。各种随机干扰只要它的谱密度比信号频带宽的多,且分布近似均匀,则可以当做白噪声处理
  • 白噪声可以具有不同的概率分布,例如正态分布的白噪声,瑞利分布的白噪声等

十、平稳随机过程通过线性系统的分析

1. 系统

对各种输入按照一定输出产生输出的装置称为「系统」,如放大器,滤波器,无源网络等

设系统的输入为 ,系统的作用为 ,输出为 ,则有

其中 称为算子,可以是加法、乘法、微分、积分和微分方程求解等数学运算。

1.1 线性时不变系统

线性系统

若算子 满足:若 ,则对任意的常数

则称 为「线性算子」。对一个系统,若算子是线性的,则称该系统是「线性」的

时不变系统

若系统 ,并对任意时间平移 都有

称该系统为「时不变系统」。

线性时不变系统定理

为线性时不变系统,若输入一个谐波信号 ,则输出为

其中

输入输出都是谐波信号,味着输入输出过程不会产生新的频率,也不会失去已有的频率

证明

,由系统的线性时不变,则对固定的 和任意的 ,有

,得

1.2 脉冲响应与频率响应

脉冲响应函数

根据 函数的性质,可得

由于 中的 只对时间函数进行运算,将上式代入得

,则

当输入函数 为脉冲函数

(2) 式表明 是输入脉冲冲激函数时的输出,故称其为系统的「脉冲响应函数」。对 (1) 式做一些变换,可得

上面的式子从时域描述了系统输入和输出间的关系,表明 线性时不变系统的输出等于输入和脉冲响应的卷积,即:

频率响应函数

如果线性时不变系统的冲激响应函数 绝对可积,即

则系统的频率响应函数是冲激响应函数 的 Fourier 变换,即

的 Fourier 逆变换

都满足 Fourier 变换条件,则由下列 Fourier 变换对

输入频谱 与输出频谱 有下列关系

它从频域角度给出了系统输入和输出的关系

1.3 线性系统的均值函数和相关函数

性质1

若输入信号为平稳随机过程,输出也为平稳随机过程

设输入平稳随机过程 的均值为 ,相关函数为 ,则输出过程的均值和相关函数分别为

其中

证明

当输入信号为平稳随机过程时, 为常数,则:

当输入信号为平稳随机过程

当输入过程 平稳时,其输出的均值 为常数。相关函数 表明输出是平稳的。并且,输出 和输入 还是联合平稳的。

从上式可以看出,输出的相关函数可以通过两次卷积产生,第一次是输入相关函数与脉冲响应的卷积,其结果是 的互相关函数;第二次是 与$ h(-\tau )$ 的卷积, 其结果是 。它们的关系如图:

性质2

若输入平稳过程 是遍历的,则输出平稳随机过程 也遍历。

当输入信号为平稳随机过程

从上式可以看出,输出的相关函数,可以通过两次卷积产生。

1.4 线性系统的谱密度

定理:设输入平稳随机过程 具有谱密度 ,则输出平稳过程 的谱密度为

其中 是系统的频率响应函数。称 为系统的频率增益因子或频率传递函数

证明

假设 为实随机过程

,则

说明

线性系统的输出谱密度等于输入谱密度乘以增益因子。根据相关函数和谱密度的傅氏变换关系,可得输出相关函数的另一个比较简单的求法。

进一步可得输出的平均功率(均方值)

平稳随机过程

例 1

设有随机过程 ,其中 是均值为零,方差为 的正态随机变量,求

  • 的概率密度
  • 是否为平稳过程

解:

首先根据定义, 可以看作是一个均值为零,方差为 的正态随机变量,故概率密度函数可以表示为

分别代入 即可得到答案。对于平稳性,我们考虑其均值和自相关函数

因此不是平稳的

例 2

设有随机过程 ,其中 是服从瑞利分布的随机变量,其概率密度函数为

是在 上服从均匀分布且与 相互独立的随机变量, 是否为平稳过程。

解:分别考察其均值和自相关函数

现求瑞利分布的二阶矩

故原自相关函数可以表示为

因此是平稳的

例 3

对于广义平稳随机过程 ,已知均值 ,方差 ,问下述函数可否作为自相关函数,为什么?

解:根据随机过程相关函数的性质

  • 是周期为 的周期函数,即 ,则

现在逐个分析

  • 第一个函数,,故不可以
  • 第二个函数,不满足 ,故不可以。
  • 第三个函数,不满足 ,故不可以
  • 第四个函数,不满足性质一,故不可以
  • 第五个函数,满足所有性质,故可以。

对于两个零均值广义平稳随机过程 ,已知 ,问下列函数是否可作为自相关函数?为什么?

解:

  • 第一个函数,不是偶函数,故不可以
  • 第二个不满足偶函数,不可以
  • 第三个 ,不可以
  • 第四个在 不是非负,不可以
  • 第五个可以
  • 第六个可以
  • 第七个可以
  • 第八个可以

例 4

5.13

随机信号 为确定常数, 上均匀分布的随机变量。若 通过平方律器件,得到 ,试计算 的均值和相关函数,并判断 的平稳性。

解:

写出

根据定义

因此 是平稳的。注,本人算出来的答案与课本上答案不同,但个人倾向于是课本答案算错了。课本答案是

例 5

两个统计独立的平稳随机过程 ,其均值都为 0,自相关函数分别为 ,试求:

  • 的自相关函数;
  • 的自相关函数;
  • 互相关函数

解:

首先考虑

对于 同理有 ,然后求互相关函数

例 6

为一参数为 的泊松过程, 相互独立,且 。令 ,我们称 为一随机电报信号过程。证明: 是平稳过程

解:

因此上式化为

注意到 Taylor 级数

故上式化为

得出来的结论是「不是平稳过程」,哪里错了?

如果换一种思路,直接按照期望的定义,从 时刻,一共有四种可能性:1 变 1,1 变 -1,-1 变 1,-1 变 -1,则自相关函数可以表示为

由于 时间段是一个泊松过程,因此服从之前提到过的 Taylor 级数,即

因此自相关函数化为

可见只与时间差 有关,是平稳过程。之前那种做法的错误,可能主要出在错误理解了泊松过程的所谓可加性

例 7

是独立随机变量,且

  • 的均值是否具有各态历经性?
  • 的相关函数是否具有各态历经性?

解:所谓的均值和相关函数具有各态历经性,意思是

接下来我们就分别考证上面两个等式是否成立。首先对于均值而言,有

故满足均值各态历经性。再来考虑相关函数

而对于积分而言

故满足相关函数各态历经性

设有随机过程,其中 是相互独立的随机变量,,试分析 的平稳性和各态历经性。

5.24

解:

直接求均值

再求相关函数

再注意到二阶矩 ,因此这是宽平稳的。再来考虑各态历经性

对于相关函数的各态历经性而言有

故均值和均有各态历经性,相关函数不具有

例 8

下述函数哪些是实随机信号功率谱密度函数的正确表达式?为什么?

解:

功率谱密度具有如下性质

的有理函数时,其形式必为

其中 为常数,,分母无实根

现在对这些函数分别进行分析。

  • 第一个函数均满足上面的性质。
  • 第二个函数均满足上面的性质。
  • 第三个函数不满足
  • 第四个 的系数 ,不满足
  • 第五个均满足
  • 第六个不满足偶函数

例 9

是一强度为 的泊松过程,记 ,试求随机过程 的均值和相关函数。

解:

根据求导的定义

对于均值

对于自相关函数,

不妨设 ,则有 ,由泊松过程的自相关函数公式

例 10

设有随机过程 是相互独立的随机变量,期望均为 0,方差分别为 。证明:过程 均方可导,并求 过程的相关函数。

解:

故均方可导,且

例 11

理想带通滤波器的中心频率为 ,带宽为 ,幅度为 。输入此滤波器的高斯白噪声的均值为 ,单边功率谐密度为 。试求滤波器输出噪声的自相关函数、平均功率和一维概率密度函数。

解:

输出噪声的双边功率谱密度为

对双边功率谱密度函数做 Fourier 逆变换得到自相关函数

(注:这里答案最后化简出来的结果是 ,但我个人觉得 这项是无法得到的。)

平均功率为

输出噪声依然是高斯过程,其均值和方差分别为

因此一维概率密度函数为

例 12

若随机信号 ,其中 。是常数,随机变量 。高斯白噪声 满足:,且与 独立。试求:

  • 随机信号 的均值函数;
  • 随机信号 的相关函数
  • 随机信号 是否广义平稳?
  • 随机信号 的功率谱密度函数。

解:

因此广义平稳。

例 13

若随机信号 ,其中 是常数,随机变量 。高斯白噪声 满足:,且与 独立。试求:

  1. 随机信号 $X(t) $ 的均值函数;
  2. 随机信号
  3. 随机信号 $X(t) $ 是否广义平稳?
  4. 随机信号 $X(t) $ 的功率谱密度函数。

解:

求均值和相关函数,直接带公式

的均值为常数,且相关函数只与时间差有关,因此是广义平稳的。

例 14

假设某积分电路的输入 与输出 之间满足关系:

  • 求该积分电路的冲激响应
  • 若输人信号 是均值为零,自相关函数为 的平稳过程,求输出
    的功率谐密度函数。

解:根据定义,输入

对于功率谱密度函数,直接做 Fourier 变换

因为积分电路为 LTI 系统,因此输入平稳,输出也平稳。

因此 的功率谱密度可以表示为

例 15

已知平稳正态过程 的相关函数为 ,

其中 为常数,求谱密度

解:

对相关函数做 Fourier 变换

根据正负进行拆分

注意到 是偶函数,因此 ,在第一项中令 ,则有

利用 Euler 公式

代入 的表达式

利用积化和差

最后得到结果

(注:本人计算的结果无法得到平方,不确定答案是否有误)

例 16

平稳随机过程 ,其中 为常数, 上均匀分布,求 的功率谱密度。

解:

作 Fourier 变换得到谱密度函数

例 17

如图所示的 RC 电路, 若输入白噪声电压 , 其相关函数为。求输出电压 的相关函数和平均功率。

“.Media/2023-05-05-09-09-05.png” could not be found.

解:

时域法:首先根据电路性质可以得到微分方程

直接做 Fourier 变换得到频域上的微分方程

进一步得到频率响应函数

其中 ,做 Fourier 逆变换得到脉冲响应

从而得到自相关函数的表达式

根据欧对称的性质,可以得到

所以整理得到

或采用频域法。已经求得频率响应函数后,直接求出输出函数的功率谱密度

利用双边指数 Fourier 变换对

从而通过 Fourier 逆变换得到输出信号的相关函数

从而

做 Fourier 逆变化即可直接得到