第三章 现代谱估计第三章 现代谱估计清华大学自动化系 张贤达zxd-dau@tsinghua.edu.cn

电话： 62794875

经典谱估计经典谱估计 样本 直接法

间接法

1

0

( ) ( )N

jnTN

n

X x n e

(0), (1), , ( -1)x x x N假设已零均值化， 2kN

周期函数21( ) ( )x NP X

N

1

0

1( ) ( ) ( )N

xn

R k x n x n kN

1

0

( ) ( )N

jkTx x

n

P R k e

周期图法有偏估计 , 平滑性差

加窗函数功率谱曲线平滑 ,但分辨率下降

21

0

1( ) ( ) ( )N

jnTx

n

P x n c n eN

数据窗

1

0

( ) ( ) ( )N

jkTx x

k

P R k w k e

谱窗

要提高分辨率，使用参数化的谱估计！经典谱估计：使用 FFT 的谱估计

现代谱估计：参数化谱估计

3.1 3.1 ARMAARMA 谱估计与系统辨识谱估计与系统辨识 平稳 ARMA 过程

离散随机过程 服从线性差分方程：

为离散白噪声，则称 为 ARMA 过程。自回归 (autoregressive)— 滑动平均 (moving average) 过程{ ( )}e n { ( )}x n

{ ( )}x n

1 1( ) ( 1) ( ) ( ) ( 1) ( )p qx n a x n a x n p e n b e n b e n q

1 1

( ) ( ) ( ) ( )p q

i ji j

x n a x n i e n b e n j

AR 阶数

AR 参数

MA 阶数

MA 参数

2( ) ~ (0, )e n N ( ) ( )jz x n x n j 后向移位算子：

11( ) 1 p

pA z a z a z 其中：

0 0

( ) ( )p q

i ji j

a x n i b e n j

( ) ( ) ( ) ( )A z x n B z e n

11( ) 1 q

qB z b z b z

( ) ( ) ( )n k nk

x n e k h e n h

ARMA 模型描述的线性时不变（ LTI ）系统

传递函数：( ) ( ) ie n x nh

( )( )( )

ii

i

B zH z h zA z

满足 ARMA 模型的条件：(1) 冲激响应系数必须绝对可求和： ( 系统稳定 )(2)A(z)和 B(z) 无公共因子 (p,q 唯一 )

(3) 系统是物理可实现的 ( 因果系统 )

极点的作用：决定系统的稳定性和因果性 即极点不在单位圆上

因果性：称 x(n)是 e(n) 的因果函数，若

即因果系统要求极点在单位圆以内， A(z) 的根 |z|<1

kk

h

( )( )( )

B zH zA z

( ) 0A z

零点部分极点部分

0

( ) ( )i ii i

h x n h e n i

⑴ ⑵

零点的作用：决定系统的可逆性，即 是否存在。

可逆性：称 e(n)是 x(n) 的可逆函数，若 (1) 存在序列 ，并满足 —— 可逆系统的稳定性 (2)

—— 可逆性条件

1 1 ( )( )( ) ( )

A zH zH z B z

0

( ) ( )ii

e n x n i

i

ii

1 *1

1 *1

( ) 1 ( )

( ) 1 ( )

pp

qq

A z a z a z A z

B z b z b z B z

2 12 2

1

( ) ( ) ( )( )( ) ( ) ( )x

jw jwz e z e

B z B z B zPA z A z A z

ARMA 过程的功率谱密度 则功率谱

其中

( ) ( ) ( ) ( )A z x n B z e n2( ) (0, )e n N ～

ARMA 功率谱估计的两种线性方法Cadzow 谱估计子

又 其中

1 12

1 1

( ) ( ) ( ) ( )( )( ) ( ) ( ) ( )x

B z B z N z N zP zA z A z A z A z

1 1 2 1( ) ( ) ( ) ( ) ( ) ( )N z A z N z A z B z B z

12 ( ), 0

( )( ), x

x

C k kk

C k

其他

0 0

( ) ( ) ( ) ( )k k kx x

k k k

P z C k z k z k z

则

两边同乘 ，比较系数得

所以， Cadzow 谱估计子的关键：估计 AR 阶数 p和 AR 参数

0

00

( ) ( )( )

p ii ki

p ikii

n zN z k zA z a z

0

( ) 0,1, ,p

k ii

n a k i k p

ia

0

p iiia z

12

1 1

( ) ( )( )( ) ( ) ( ) ( )

q jjj q

x

c zB z B zP zA z A z A z A z

2 1( ) ( )q

jj

j q

B z B z c z

Kaveh 谱估计子

j jc c

2 2 2 20 1 0

20 1 1 1

20

q

q q

q q

b b b c

b b b b c

b b c

非线性方程， MA 参数辨识（ Newton－ Raphson迭代）

1( ) ( )( ) ( )

q jjj q k

x xk

c zP z C k z

A z A z

*

0 0

( ) 0,1, ,p p

k i j xi j

c a a C k i j k q

2

1

( )1

q kkk q

x p iii jwz e

c zP

a z

协方差函数的 Fourier 变换

Kaveh 谱估计子：

( ) 1A z

11

( )( ) 1( )

i qi q

i

B zH z h z b z b zA z

ARMA 功率谱密度的特例( ) ( ) ( ) ( )A z x n B z e n

特例一： MA 过程( ) ( ) ( )x n B z e n

1, ,ih i q 抽头

有限冲激响应 (FIR) 系统

1( )( )

H zA z

2( ) 1, ( ) WN(0, )eB z e n ( ) ( ) ( )A z s n e n

特例二： AR 过程

中含有 的无数多项1z

无限冲激响应 (IIR) 系统白噪声中的 AR 过程： 2( ) ( ) ( ) ( ) ~ WN(0, )vx n s n v n v n

222 2

21

( )( ) ( ) ( )

( ) ( ) ( )e

x s v v wj jz e z e

B zP P P

A z A z A z

ARMA(p,p) 过程

1

( ) ( ) 0,( ) ( 1) ( ) 0p

A z s ns n a s n a s n p

若 即

1

( 1), ( 2), (1), (2), , ( )

( ) ( )p

ii

s p s p s s s p

s n a s n i

可由 递归出来，即

特例三：完全可预测过程

加性白噪声中的可预测过程： ( ) ( ) ( )x n s n v n

1 1

( ) ( ) ( ) ( )p p

i ji j

x n a x n i v n a v n j

线 谱

特殊的 ARMA

所以： 白噪声中的 AR 过程 = ARMA 过程 白噪声中的可预测过程 = 特殊的 ARMA 过程

0 0

( ) ( )p q

i ji j

a x n i b e n j

( ) ( )e n n令( ) ( )x n h n令

0 0

( ) ( )p q

i j ni j

a h n i b n j b

( ) ( )ii

x n h e n i

等价高斯白噪 2(0, )N

修正 Yule-Walker 方程

*

*

0 0

*

0 0

2

0 0

( ) { ( ) ( )}

( ) ( )

( ) ( )

( )

x

i ij i

i ji j

i ji j

R k E x n x n k

E h e n j h e n k i

h h E e n j e n k i

h h k i j

2

0

( )x i i ki

R k h h

BBR 公式：

2 2

0 0 0 0

( )p p

i x i j j l i j j li i j j

a R l i a h h h b

修正 Yule-Walker 方程 (MYW 方程 )

2

0

BBR ( )x i i ki

R k h h

公式0 0

( ) ( )p q

i j ni j

a h n i b n j b

0

( ) 0 p

i xi

a R l i l q

，

定理 (AR 参数的可辨识性 ) ：

1

( ) ( ) 1, ,p

i x xi

a R l i R l l q q p

，

若 A(z)和 B(z) 无可对消公共因子，且 ，则 AR 参数 可由 p 个修正 Yule-Walker 方程唯一确定或辨识。

0pa 1, , pa a

1

1( 1) ( ) ( 1 ) 0( 2) ( 1) ( 2 ) 0

( ) ( 1) ( ) 0

x x x

x x x

px x x

R q R q R q paR q R q R q p

aR q p R q p R q

若构造：

1

1( 1) ( ) ( 1 ) 0( 2) ( 1) ( 2 ) 0

( ) ( 1) ( ) 0e

x e x e x e e

x e x e x e e

px e x e x e e

R q R q R q paR q R q R q p

aR q M R q M R q M p

使得 ，则, , ,e e e e eq q p p q p q p M p rank( ) peR

eR ea

AR 阶数确定的奇异值分解方法奇异值分解 (SVD)： m nA A为 矩阵， 可分解为

HA = UΣV

m m n n U V其中 为 酉矩阵， 为 酉矩阵。

酉矩阵： -1 HU = U

主奇异值： p 个大的奇异值（ p 个信号分量的能量）

2 2 211 22diag( , , , )nn Σ

次奇异值：其它小奇异值（扰动或误差的能量）

准则一：归一化比值信号与噪声的分离：

1/ 22 211

1/ 22 211

( ) 1kk

nn

v k

若阈值 =0.995， v(k)> 阈值的最小整数 k 定为矩阵 A 的“有效秩”。

准则二：使用归一化奇异值11

11

1kkkk

，且

< 某个很小的阈值 (0.05) 的最小整数 k 定为有效秩。kk

最终预报误差方法 (FPE, Finite Prediction Error)：

FPE 准则选择使 FPE(p,q) 最小，作为 AR 模型的阶数。

2 1ˆ( , )1wp

N p qFPE p qN p q

2

0

ˆˆ ˆ ( )p

wp i xi

a R q i

AIC(Akaike’s Information Criterion)2ˆ( , ) ln 2( )wpAIC p q p q N 2 lnˆ( , ) ln ( )wp

NBIC p q p qN

“ 信息量准则”遵循“吝啬原则”

AR 阶数确定的信息量准则法

1

1( 1) ( ) ( 1 ) 0( 2) ( 1) ( 2 ) 0

( ) ( 1) ( ) 0e

x e x e x e e

x e x e x e e

px e x e x e e

R q R q R q paR q R q R q p

aR q M R q M R q M p

若 ，则, , ,e e e e eq q p p q p q p M p rank( ) peR

扩展阶 MYW 方程

0e e R a

选 ,e e eq p p M p

AR 参数估计的总体最小二乘法Ax b

总体最小二乘 TLS: Total Least Squares

1

b A 0

x

-b A + -e E z = 0 B+D z = 0 或

扰动矩阵

思想：寻求一个解 z ，使得 1/ 21 2

1 1

minm n

iji j

d

1 ( ) || ||2

,

1 ( ) || ||2

1

T T

T

T T

T

J

J

J

2

2

z Bz z B Bz

B Bz 0 z 0z

z Bz z B Bz

z z

1= ，2由 只有平凡的零解 。

求解约束优化1 mi n =2

约束条件

定义代价函数

Lagrange 1 ( (1 )2

( )

Rayleigh

T T T

T

T

T T

T

J

J

z z B Bz z z

z B Bz z 0zz

z B Bzz z

使用 乘子法，定义目标函数

）＝

则

左乘 后，得

＝这是个典型的 商问题

min 1 2 1

1 1

1

=[ ]

/ , 1, ,

T

Tn

i i

v v v

x v v i nn p n

z B Bx

Bv x

B

因此， 是矩阵 的与最小特征值对应的

,特征向量 即矩阵 的与最小奇异值对应的右奇异

, , ,向量 。从而，得解向量 的元素为 这种解包含 个参数，与矩阵 的秩 相矛盾。

方法 2 ：只包含 p 个参数（主要因素） TB = UΣV

B̂z = 0

ˆ (1: 1) 0ˆ (2 : 2) 0 ˆ ( 1 : 1) 0

p

p

n p n

B a

B a

B a

：用秩为 p 的矩阵对 B 的最佳逼近 ( )ˆ pB ˆ TpB = UΣ V

2 211diag , , ,0, ,0p pp Σ

1 11, , , , , ,e

T

p p px x x x z

令 ，则11, , ,

T

px x a

构造代价函数 1 ^

1

1 ^

1

( )

ˆ( ) ( : ) ( : )

ˆ [ ( : )] ( : )

Tn p

i

n pT T

i

T p

f i p i i p i

i p i i p i

a B a B a

a B B a

a S a

1( ) 2

1 1

( )p n p

p i i Tjj j j

j i

S v v

( , ), ( 1, ), , ( , ) Tij v i j v i j v i p j v

( ) 0f

aa

( )1

10

0

p

S a e

0, ,0,1,0, ,0 Ti e 标准向量

由于存在误差

( ) ( )ˆ ( 1,1) (1,1)p pix i S S

AR 定阶与 AR 参数估计的 SVD-TLS 算法：

( )pS

步骤 1 ：构造扩展阶相关函数 ，求 SVD ，存储 和eR2ii V

( 1) ( ) (1)( 2) ( 1) (2)

R

( ) ( 1) ( )

e e

e ee

e e

R p R p RR p R p R

R p M R p M R M

步骤 2 ：确定 的有效秩 p ，给出 AR 阶数估计值eR

步骤 3 ：计算步骤 4 ：计算 ( ) ( )ˆ ( 1,1) (1,1)p p

ix i S S