§1 引 言

46
§1 §1 8 8 引引引引引引引引引 引引引引引引引引引 物物 物物物物物物物物物物物物物物物物物物物物物物物物 物物 物物物物物物物物物物物物物物物物物物物物物物物物 物物物物物 物物物 物物物物 。, 物物物物物 物物物 物物物物 。, ( ( 物物物物物物物物物物物 物物物物物物 物物物物物 、、 物物物物物物物物物物物 物物物物物物 物物物物物 、、 ) ) 物物物物物物物物物物物物 物物物物物物物物物物物物 物物物物物物物物物物物物物 。。 物物物物物物物物物物物物物 。。 nn n n n n n n ij a a a a a a a a a a 2 1 2 22 21 1 12 11 ) det( ) ( , ) ( A I A 物物 物物 引引1

description

第 8 章 矩阵特征值问题计算. 物理、力学和工程技术中很多问题在数学上都归结为求矩阵的 特征值问题。例如,振动问题 ( 大型桥梁或建筑物的振动、机械的振动、电磁震荡等 ) ,物理学中的某些临界值的确定。它们都归结为下述数学问题。. §1 引 言. 一、 幂法. 幂法是一种求实矩阵 A 的按模最大的特征值 λ 1 及其对应的特征向量 x 1 的方法。特别适合于大型稀疏矩阵。. §2 幂法及反幂法. A=[1 1 0.5;1 1 .25;.5 .25 2] u=[1,1,1]' v=A*u,v1=max(v),u=v/v1. 二、 加速方法. 三、反幂 法. - PowerPoint PPT Presentation

Transcript of §1 引 言

Page 1: §1   引  言

§1 §1 引 言引 言第第 88 章 矩阵特征值问题计算章 矩阵特征值问题计算

物理、力学和工程技术中很多问题在数学上都归结为求物理、力学和工程技术中很多问题在数学上都归结为求矩阵的矩阵的特征值问题。例如,振动问题特征值问题。例如,振动问题 (( 大型桥梁或建筑大型桥梁或建筑物的振动、机械的振动、电磁震荡等物的振动、机械的振动、电磁震荡等 )) ,物理学中的某,物理学中的某些临界值的确定。它们都归结为下述数学问题。些临界值的确定。它们都归结为下述数学问题。

nnnn

n

n

nnij

aaa

aaa

aaa

a

21

22221

11211

)det()(

,)(

AI

A 则称已知1定义

Page 2: §1   引  言

.

||)1()( 12211

特征多项式的为A

Aaaa nnnn

n

.)( .

(1.1) 0)det()(

的所有特征值的集合表示的的根称为

的特征方程

AAA

AI

A

特征值

.

(1.2) 0)(

,特征值

特征向量的的对应于称为的非零解

相应的齐次方程组的为设

Ax

xAI

A

Page 3: §1   引  言

.

210

131

012

的特征值及其特征向量求

A1例

.1

,1

0 )4(

, )3(

)( )( , )2(

)0( (1)

,

11 xxAAA

xxAA

xxIAIA

A

xA

即的特征值为且非奇异,则设

;即的特征值是

;即的特征值为;常数的特征值是

向量,则是对应的非零特征的特征值是矩阵设

kkkk

nn

pppp

ccc

R1定理

Page 4: §1   引  言

.)det( )2(

,1

)(tr1

(1)

,),,1(

1 n

iii

i

n

ia

n

i

ni

A

A

A 则的特征值是矩阵若2定理

).()(

, 3

AA

A

T

nnR 则设定理

Page 5: §1   引  言

.)()( ,

,

1

222

11211

m

iiiii

mm

m

m

AAA

A

AA

AAA

A

A

则均为方阵其中每个对角块

为分块上三角阵设4定理

. , )2(

; )1(

, , 1

的特征向量是则的特征向量是若有相同的特征值与

则使非奇异即为相似矩阵与若

APyBy

BAPPPBA

BA

5定理

Page 6: §1   引  言

.

,

亏损矩阵2定义

为,则称个数少于线性无关的特征向量的且其对应的重特征值有一个如果设

A

AA

k

kR nn

.,,,

,,,,)( )2(

.

1

21

21

2

1

1

线性无关对应的特征向量则个不同的特征值有若

个线性无关的特征向量具有的充要条件是

使非奇异矩阵即可对角化,)(

m

mnn

n

nn

xxx

nmmR

n

R

A

A

APP

PA6定理

Page 7: §1   引  言

则为对称矩阵设对称矩阵的正交约化 , )7( nnR A定理

;个线性无关的特征向量有的特征值均为实数;nA

A

)2(

(1)

.

)(,),,2,1(

)3(

21

2

1

1

的特征向量为对应于向量的列而的特征值为且

使得存在正交矩阵

jj

ni

n

,,,ni

u

uuuPA

APP

P

Page 8: §1   引  言

.

),,1( },,|| |{ )2( || 1

,)(

圆盘为半径的为圆心以为复平面上以称

,)(

令设

nGerschgoriraD

nizrazzDn

ijar

a

iiii

iiiiiji

nnij

C

A3定义

.),,1( |,|||

,)( (1) )(

n

ijniaa

anGerschgori

ijii

nnij

某个圆盘之中一个特征值必属于下列

的每则设圆盘定理 AA8定理

.S ,S

,

个特征值的中恰有则个圆盘分离与其余且个圆盘构成一个连通域个圆盘中有如果上述的

mmn

Smn

A

(2)

Page 9: §1   引  言

.

),,2,1(

.

),,(diag

1

1

结果质获得特征值的进一步改变,根据相似矩阵性

和连通性有时可使某些圆盘半径适当选取

,得到选取非奇异对角矩阵

ni

a

i

nni

jij

n

ADD

D

.

411

101

014

的特征值的范围估计

A2例

.

49.09.0

01

014

,1

1

9101

910

ADDD

2|4|

2||

1|4|

2.28.5

53

3

919

2919

1

Page 10: §1   引  言

.),,2,1(

,

)(9

222

11211

的特征值为其中

使则存在酉矩阵,设定理

Anir

r

rr

rrr

RSchur

ii

nn

n

n

T

nn

RAUU

UA定理

.

),,2,1(

,

)(10

222

11211

的两个共轭复特征值的两个特征值是二阶时

为的实特征值,当是为一阶时其中当

使则存在正交矩阵,设分解实

AR

RARR

R

RR

RRR

AQQ

QA

ii

iiiiii

mm

m

m

T

nn

mi

RSchur

定理

Page 11: §1   引  言

.)(

)(),(

)(

, ,

商瑞雷

4定义

Rayleigh

R

Rn n

的为关于向量

称对于任一非零向量阶实对称阵是设

x

xx,xAx

x

xA

.)(),(

min 3

,)(),(

max 2

,,)(),(

1

. , 11

1

1

1

xx,xAx

xx,xAx

xxx,xAx

AA

xx

xx

0

0

n

n

Rn

R

nn

n

R

n

)(

)(

对于任何非零向量)(

则的特征值为阶实对称阵为设 定理

Page 12: §1   引  言

§2 §2 幂法及反幂法幂法及反幂法一、一、幂法幂法

幂法是一种求实矩阵 A的按模最大的特征值 λ1及其对应的特征向量 x1的方法。特别适合于大型稀疏矩阵。

.,,, ,,,,

,)(

2121 nn

nnnnij Ra

xxx

A

对应的特征向量为为

其特征值有一个完全特征向量组设

(2.1) , 21 n 满足的主特征值是实根,且并设A

.11 的基本方法及现在讨论求 x

Page 13: §1   引  言

)0(, 122110 aaaa nn 设xxxv

,22211101 nnnaaa xxxAvv

.

12

1

221111

n

kn

n

kk

kk aaa xxxAvv

.lim

, ,

111

111111

xv

vAvvvxv

a

ak

kk

k

kkkkk

k

,很大时,当

.1的近似的特征向量是即 kv

.1 )(

)(1 ,

)(

)(

11

11

n

jn jk

jk

jk

jk

v

v

v

v 或

而主特征值

Page 14: §1   引  言

,则对任何非零初始向量

其特征值个线性无关的特征向量有设

)0(

,

, 12

10

21

a

nR

n

nn

v

A

定理

.)(

)(lim

lim

11

111

jk

jk

k

kk

ka

v

v

xv

,上述结果仍成立线性无关的特征向量时

个有且,当 nR nnnrrr

A ,121

.)(

)(lim ,lim 1

1

11

jk

jk

k

r

iiik

k

ka

v

vx

v

Page 15: §1   引  言

就有得值最大的分量,规范化

的绝对为向量记做改进“ ”为了避免 溢出 下面

).()max(

)max( .

0 vv

vu

vv

(2.9) )1,2,(

./

),max(

,

,

)0(

,

, 13

1

00

10

21

k

a

nR

kkk

kk

kk

n

nn

vu

v

Auv

vu

v

A

计算,对任何非零初始向量

其特征值个线性无关的特征向量有设定理

.lim ,)max(

lim 11

1

kk

kk x

xu则

Page 16: §1   引  言

,)max()max(

,

对于任

0

0

1

11001

00

AvAv

vv

uAvAuv

vu

,给非零向量事实上,

,)max()max(

,)max(

0

20

2

2

22

0

02

12vA

vAv

vu

AvvA

Auv

.)max()max(

,)max(

,

0

0

01

0

vA

vAv

vu

vA

vAv k

k

k

kkk

k

k

Page 17: §1   引  言

,1

21

221110

n

kn

n

kkk aaa xxxvA

)( )max(

max)max(

1

1

12

1

2211

12

1

2211

0

0

k

aaa

aaa

n

kn

n

k

n

kn

n

k

k

k

k

xx

xxx

xxx

vA

vAu

Page 18: §1   引  言

)(

max

max

)max(max)max(

1

1

12

1

1

2211

12

1

22111

01

0

k

aaa

aaa

n

kn

n

k

n

kn

n

k

k

k

k

xxx

xxx

vA

vAv

.1

2确定收敛速度由比值r

Page 19: §1   引  言

.

225.05.0

25.011

5.011

特征向量的按模最大特征值及其

用幂法求

A

3例

A=[1 1 0.5;1 1 .25;.5 .25 2]u=[1,1,1]'v=A*u,v1=max(v),u=v/v1

Page 20: §1   引  言

二、二、加速方法加速方法 原点位移法1.

.IAB p

.

{5,3,1}A)(

量的收敛速度最大特征值及其特征向的按模法求,考察带原点平移的幂设 A4例

,若 n 21 .2

* 2 np 则

.

225.05.0

25.011

5.011

特征向量的按模最大特征值及其

用带原点平移的幂法求

A

5例

.75.0p取

Page 21: §1   引  言

瑞雷商加速法2.

.),(),(

)9.2(

,

, 14

2

1

21

1

21

k

kk

kk

k

n

nn

O

R

uuuAu

u

A

的较好近似的瑞利商给出,则应用幂法

其特征值满足为对称矩阵设

定理

Page 22: §1   引  言

三、反幂三、反幂法法反幂法可求非奇异实矩阵的按模最小特征值及特征向量。

.)max(

),max(

,,2,1 ,

)max(

,

,

1

11

00

k

kknk

n

k

kk

kk

n

k

R

vv

uxv

vv

u

uAv

uv

计算任取非零向量

. ,

,

1

1

kk

kk

kkk

yUv

uLyLU

uAvv

求解即分解求得利用

经常来求得求解可通过主元高斯消去法

Page 23: §1   引  言

).1,2,( ,

)max(

,

)0(

,0

,

15

11

00

121

k

a

nR

k

kk

kk

n

nn

nn

vv

u

uAv

vu

A

计算,对任何非零初始向量

其特征值满足向量个线性无关的特征为非奇异矩阵且有设

定理

.1

)max(lim

,)max(

lim

nk

k

n

nk

k

v

xx

u则

Page 24: §1   引  言

.特征值移来加速迭代或求其他在反幂法中可用原点位

.,,,

1 ,,

1 ,

1

)(

21

21

1

n

n ppp

p

xxx

IA

对应的特征向量仍然为

存在,则特征值为若

(2.12) ).1,2,( ,

)max(

,)(

11

00

kp

k

kk

kk

vv

u

uIAv

vu ,计算对任何非零初始向量

)( , 0 ijpp

p

ij

j

的近似,并且满足的特征值是如果 A

Page 25: §1   引  言

.)(

)()(

1

11

及其对应的特征向量特征值

法可求的主特征值,用上述算是则

p

pp

j

j

IA

).( , 0

, ),,,2,1(

, 16

ijpp

pni

nR

ij

jii

nn

且的近似是而和值和特征向量记为的特征个线性无关的特征向量有设

x

AA定理

(2.12) ).1,2,( ,

)max(

,)(

),0(

11

0

kp

a

k

kk

kk

j

vv

u

uIAv

u 计算对任何非零初始向量

.)max(

1,

1)max( ,

)max( j

kjk

j

jk p

p

vv

x

xu则

Page 26: §1   引  言

.min

确定收敛速度由比值p

pr

iji

j

.算迭代一两次就可完成计

很小,离较好,一般的较好近似且特征值分是只要 rp j

. )1,,1,1(: 101

10 vPuLUvu ,即得使得实际选取 T

.

)( :

.)(

1

1

kk

kk

kk

p

p

yUv

PuLy

LUIAPLU

uvIA

,组:,需解两个三角形方程分解借助

反幂法需要解方程组:

Page 27: §1   引  言

反幂法计算公式 :

.)max(

)(

1

k

kk

kkp

vv

u

uvIA

.,3,2 ,/ ),max( ,

, (2)

;/),max( , )1,,1,1(1

.2

.,,)( : .1

1

1111111

k

p

kkkkkkk

kk

T

vuvyUv

PuLy

vuvvUv

ULPLUIAPLU

得)解(

反幂法迭代,保存分解

.2679.133

410

131

012

3 的特征向量的特征值求

A6例

format long;A=[2 1 0;1 3 1;0 1 4],p=1.2679,B=A-p*eye(3);[L U P]=lu(B);L,U,P,v=U\[1 1 1]', mu=max(v);u=v/mu,v=U\(L\(P*u)), mu=max(v);u=v/mu,lamda=p+1/mu

Page 28: §1   引  言

§3 Householder§3 Householder 方法方法一、引言本节讨论两个问题 :

.

)1(

伯格矩阵海森似变换约化实矩阵为上用初等反射阵作正交相

.

)2(

对角矩阵的问题对称似变换约化对称矩阵为用初等反射阵作正交相

.

值问题或对称对角矩阵的特征格矩阵题就转化为求上海森伯于是,原矩阵特征值问

已经学过的知识:

Page 29: §1   引  言

阶矩阵则且设 nR Tn ,1 , www定义TwwIH 2

.rHouseholde,)( 矩阵也称矩阵或镜面反射称为初等反射都有初等反射阵对于因此 ,0u ,

.2)( 22u

uuIuH

T

,

,)0,,0,1(0),,,(

11

121

,使得则总存在初等反射阵

,设约化定理

σeHxuuIH

ex

T

TTnxxx

)(定理

其中

.)(

,),,,(

,)sgn(

1222

1211

21

x

xxx

xT

n

u

exu

x

Page 30: §1   引  言

般矩阵为上海森伯格阵用正交相似变换约化一二、

.),,,(

,

1

131211

)1(221

)1(1211

21

22221

11211

1

Tn

nnnn

n

n

aaa

a

aaa

aaa

aaa

c

Ac

AAA

其中

步约化:设第

),1 否则这步不需做不妨 0(c , 111111

111 ,使得取初等反射阵 ecRuuIR σT

其中

.)(

,),,,(

,)sgn(

21112212

11

1311211111

21211

a

aaa

aσT

n

u

ecu

c

Page 31: §1   引  言

,

0

0 )2(

222

)2(12

)2(11

)2()2(3

)2(2

)2(3

)2(33

)2(32

)2(2

)2(23

)2(221

)2(1

)2(13

)2(1211

1)1(

22111

1)1(

12111112

Ac

AA

RARcR

RAUAUA

0

nnnn

n

n

n

aaa

aaa

aaa

aaaa

a

,则令

11

1

RU

.),,( )2(2

)2(322

Tnaa c其中

Page 32: §1   引  言

)()(1,

)(,

)(,1

)(1,1

)(,1

)(,1

)1(1,1

2

)(2

)(1,2

)(2

)1(1,2

)2(221

)(1

)(1,1

)(1

)1(1,1

)2(12

)1(11

11111111

121

,,,,1,,1

knn

kkn

kkn

knk

kkk

kkk

kkkk

kkk

kn

kk

kk

kk

kn

kk

kk

kk

kkkkkk

k

aaa

aaa

a

a

aaaaa

aaaaaa

kk

UUAUUUAUA

UUU 使得步,即有步约化:假定已完成第第

,

)(

22

)(12

)(11

kn

kk

k

kk

Ac

AA

0.)(

11 阶上海森伯格矩阵是其中 kkA

Page 33: §1   引  言

,, 11 ,使取初等反射阵不妨 ecRuuIRc kkk

Tkkkkk σ 0

其中

.)(

,),,,(

,)sgn(

)(,1

222

1

)(,

)(,2

)(,11

2)(

,1

kkkkkkk

Tkkn

kkkk

kkkkkk

kkkkk

a

aaa

u

ecu

c

.

)1(221

)1(12

)1(11

)(22

)(12

)(11

1

kk

kk

kk

kkk

kkk

kkkk

k

kk

Ac

AA

RARcR

RAAUAUA

R

IU

00

0

0,则令

.1)1(11 阶上海森伯格矩阵是其中 kkA

.

)(22

)(22

)(12

)为对称阵时只需计算(当及

步约化只需计算第

RARARAR

RA

kk

kk

kkk

Page 34: §1   引  言

.

*

**

***

****

2

)1(1

)2(1,1

)3(332

)2(221

)1(11

21121

nnnn

nnn

nnn

a

a

a

a

a

n

UAUUUA

步约化:第

).(

,,,

002112

221

上海森伯格矩阵

使得,则存在初等反射阵设

HAUUUAUUU

UUUA

Tnn

nnnR

17定理

Page 35: §1   引  言

.3

2

1

2,1, .2

; .1

00

1

0

k

k

kkkk

kkkk σ

nk

I

UUU

R

IUAUUA

ecRR

U

)(

;,其中)约化计算(

;,使)计算初等反射阵(对

0

0

1算法

.

724

232

734

1

约化为上海森伯格矩阵

用豪斯霍尔德方法将

AA

7例

,)4,2( 111111 ,使得,求初等反射阵解: ecRRc σT

Page 36: §1   引  言

.0.4472 0.8944-

0.8944- 0.4472-

16)522(4

)522(4)522()522(52

11

1

)522(52)(

,)4,522(

,5220)sgn(

2

111

11

21111

1111

21211

T

T

a

uuIR

ecu

c

.

2.2000 0.4000- 0.0000

0.4000- 7.8000 4.4721-

0.4472- 7.6026 4.0000-

1112 HUAUA

11

1

RU

Page 37: §1   引  言

称阵为对称三对角阵用正交相似变换约化对三、

.

,,

, 8

1

11

2

221

11

2112

22

1

CUAUUU

UU

UA

nn

nn

nn

n

nn

cb

bc

b

bcb

bc

R

使得反射阵为对称阵,则存在初等设1定理

.17知:由定理证明

Page 38: §1   引  言

,

.

1

1

)1(221

)1(12

)1(11

)(22

)(12

)(11

1

kn

k

kk

kk

kn

k

kk

kkk

kkk

kkkk

k

Ac

AA

RARcR

RAAUAUA

00

步约化中,在第下面考虑实现过程

).()(22 即可实际上对角线以下元素和对称,故只需计算因 kk

kk RARRA

,)(21

, 1)(22

1 knkk

Tkkkk

knk

kkk RR ururtuAr 记

))(( )(22

1)(22

1)(22

Tkk

kk

kTkkkk

kk uuAAuuIRAR 则

Tkk

Tkk

k

Tkkk

Tk

kk

Tkk

Tk

kkk

k

Tkk

Tkkk

Tkk

Tkk

k

Tkk

Tkkk

kTkkk

Tkk

k

uttuA

uururururuA

uruuruurA

uruuAuuurA

)(22

11)(

22

1)(22

1)(22

1)(22

])(2

[])(2

[

)(

Page 39: §1   引  言

)2(算法 略

Page 40: §1   引  言

§4 QR§4 QR 方法方法Rutishauser(1958)利用矩阵的三角分解提出计算矩阵特征值的 LR算法, Francis(1961,1962)利用矩阵的QR分解建立计算矩阵特征值的 QR方法 .

QR方法是一种变换方法,是计算一般 (中小型 )矩阵全部特征值问题的最有效方法之一 .

目前 QR方法主要用来计算:( 1)上海森伯格阵全部特征值问题;( 2)对称三对角阵全部特征值问题 .

下面先介绍求非奇异矩阵的全部特征值的基本 QR方法,再讨论上海森伯格阵和对称三对角阵的全部特征值问题 .

Page 41: §1   引  言

一、基本 QR方法

,

30 ,

111 RQAA

A

知存在正交三角分解由第五章定理对非奇异矩阵

).2(30,222.. ,

,

,

ThR

QQRA

A

p

n

R nn

为上三角阵交阵阶正为其中交三角分解

则存在正为非奇异矩阵设

交换乘法次序得

, 111112 QQQRA AT

, 2222 RQAA 作正交三角分解得再对

, 222223 QAQQRA T

再交换乘法次序得,

, , kkkk RQAA 作正交三角分解得对一般地

, 1 kkTkkkk QAQQRA

交换乘法次序得

Page 42: §1   引  言

并且有如下结果:相似,有相同的特征值与可见 , , 1 AAk

.~~

11

1111

kTkk

TTk

kkkTk

Tkkk

Tkkkk

QAQQAQQQ

QQAQQQAQQRA

分解:进行设方法基本 QRR nn , )QR19( 1AA定理

(4.1) )1,2,( ,

,

1

k

kkk

kkk

QRA

RQA

则有记 ,~,~

1221 RRRRQQQQ kkkk

.~~3

~~ )()( 2

~~ 1

111

11

kkkk

kTkk

Tkk

kkTkkkk

QR RQAA

QAQQQAQQA

QAQAAA

分解式为的)(

;)(

;,即相似于)(

Page 43: §1   引  言

,),,,diag(,)2(

0 1

, )20(QR

11

21

LUXDDXXAA

A

A

且设有标准型

;的特征值满足)(并且设方法的收敛性

n

n

nnR

定理

)( *

**

,}{

2

1

时当

即本质收敛于上三角矩阵算法产生的则由

本质上

k

QR

n

k

k

RA

A

Page 44: §1   引  言

.

(4.3) 0lim2

(4.2) lim 1

),(

)(

)(

)(

)(

的极限不一定存在时,当

;时,)当(

;)(

则记

kij

kij

k

ikij

k

kijk

aji

aji

a

a

A

).,,diag(}{

,20 21

1 nk

QR

DA

A

收敛于对角矩阵产生的算法则由的条件满足定理设对称矩阵定理

.

410

131

012

QR 的全部特征值方法求利用

A8例

[Q R]=qr(A),A=R*Q,

Page 45: §1   引  言

二 *、带原点位移的 QR方法三 *、用单步 QR方法计算上海森伯格阵特征值

.,0

,

,

,

22

(2)(2)1,

2

1

1

nnnn

nn

hh

QR

中,

算法则由的一个特征值

为阵,为不可约上海森伯格矩设

IRQH

QRIH

HRHH定理

.,,

., .,,,,

,(k)(2)

1,21

(2)1

就可得到全部特征值继续应用上述算法矩阵降阶

再将充分小当伯格矩阵

算法,产生上海森反复应用如果对于

nnnnnk

nnknn

hh

QRhsas

HHH

Page 46: §1   引  言

.

410

131

012

的全部特征值方法求利用带位移的

AQR*9例

四 *、双步 QR方法 (隐式 QR方法 ,略 )