Halaman 155021. Nilai Eigen dan Vektor Eigen(- Λ)3| - Λ I3- Λ-1SEBUAH2|| (- Λ) (- λ I - λ-1SEBUAH2) || Λ2I + A2|||||||λ2- 1000λ2- 1000λ

2||||||(Λ2- 1)2λ2λ2[(Λ + 1) (λ - 1)]2dan karenanya itu (untuk semua λ)q (λ)(- Λ)3λ2[(Λ + 1) (λ - 1)]2(-1)9λ5(Λ + 1)2(Λ - 1)2.Jadi, B ⊗ A memiliki tiga nilai eigen yang berbeda: 0, -1, dan 1, dengan multiplicities aljabardari 5, 2, dan 2, masing-masing. Dengan demikian, B ⊗ A memiliki 9 (tidak harus berbeda) eigenvalues,sedangkan setiap matriks A dan B (yang dari urutan 3) hanya memiliki satu.21,12 Dekomposisi Nilai SingularSebuah. Definisi, keberadaan, dan beberapa sifat dasar dan

hubunganMisalkan A mewakili n × n simetris nonnegatif matriks definit. Kemudian, ia mengikutidari hasil Bagian 5 (dan dari nonnegativity dari nilai eigen darinonnegatif matriks definit) bahwa A dapat dinyatakan dalam bentukSEBUAHQ(D1000)Q,(12. 1)di mana Q adalah n × n matriks ortogonal dan di mana D1adalah matriks diagonal dengan(ketat) elemen diagonal positif. Bahkan, dekomposisi (12.1) adalah spektraldekomposisi A. Teorema berikut dapat digunakan untuk membangun sebuah generalisasition dekomposisi ini yang berlaku untuk setiap matriks.Teorema 21.12.1. Misalkan A merupakan suatu m × n matriks rank r. Dan, mengambil Q menjadisetiap n × n matriks ortogonal dan D1akan ada r × r nonsingular matriks diagonalseperti yangQA AQ(D21000)(12. 2)[di mana, kapan r0 atau r

n,(D21000)sama dengan 0 atau D21, Masing-masing]. Selanjutnya,partisi Q sebagai Q(Q1, Q2), Di mana Q1memiliki kolom r, dan membiarkan P(P1, P2), Di manaP1AQ1D-11dan di mana P2adalah setiap m × (m - r) matriks sehinggaP1P20.

(12. 3)(Ketika r0, QQ2, PP2, Dan P2adalah sewenang-wenang; ketika rn, QQ1; danketika rm, PP1.) Kemudian,P AQ(D1000)

Halaman 221,12 Dekomposisi Nilai Singular551[di mana, kapan r0, rm, rn, atau rmn,(D1

000)sama dengan 0, (D1, 0),(D10), Atau D1, Masing-masing].Bukti. SejakQA AQ(Q1Sebuah AQ1Q1Sebuah AQ2Q2Sebuah AQ1Q2Sebuah AQ2).wehavethat Q1Sebuah AQ1D

21.Further, (AQ2) AQ2Q2Sebuah AQ20, menyiratkan (diterang 5.3.2 Akibat) yang AQ20. Dengan demikian, setelah mengamati bahwa P1D-11Q1SEBUAHdan bahwa AQ1P1D1, Kami menemukan bahwaP AQ(P1AQ1P1AQ2P2AQ

1P2AQ2)(D-11Q1Sebuah AQ1P10P2P1D1P20)(D-11D210(P1P2) D1

0)(D1000).QEDAda ada sebuah r × r diagonal matriks D1dengan (ketat) elemen diagonal positifdan × n n matriks orthogonal Q yang memenuhi syarat (12,2) dari Teorema 21.12.1,dan di sana ada sebuah m × (m - r) matriks P2yang tidak hanya kondisi memuaskan (12,3)tetapi seperti yang P adalah orthogonal. Untuk melihat ini, mengambil D1diag (s1, ..., sr), Di manas1, ..., sradalah akar kuadrat positif dari r nol (dan karenanya positif) tidak-eigen tentu berbeda-AA. [Sejak AA adalah simetris dan (dalam terangWajar 14.2.14) nonnegatif yang pasti dan karena peringkat (AA)rank (A)r, ituberikut dari corollaries 21.3.8 dan 21.5.8 AA yang memiliki r nol tidak-necessarily-eigen yang berbeda dan dari Teorema 21.8.5 bahwa mereka eigen positif.]Sekarang, memilih n × n matriks orthogonal Q untuk memenuhi kondisi (12,2) - yang inimungkin terlihat dari Akibat 21.5.9.Selanjutnya, amati (seperti dalam bukti Teorema 21.12.1) yang Q1

Sebuah AQ1D21danmaka yangP1P1D-11Q1Sebuah AQ1D-11D-11D21D-11Akur.Dan, mengamati (dalam terang Lema 11.3.1) yangdim [N (P1)]m - rank (P1)m - rank (P

1P1)m - r,mengambil P2akan ada × m (m - r) matriks yang kolom membentuk sebuah basis ortonormaluntuk N (P1). Kemudian,PP(P1P1P1P2P2P1P2P2)(Akur00 Sayam - r)Akum.Dalam terang diskusi ini, kita memiliki konsekuensi berikut Teorema 21.12.1.

Akibat 21.12.2. Sesuai dengan setiap m × n matriks A dari peringkat r, terdapatm × m orthogonal matriks P dan n × n matriks orthogonal Q sehinggaP AQ(D1000).

Halaman 355221. Nilai Eigen dan Vektor Eigendi mana D1adalah r × r matriks diagonal dengan elemen diagonal yang (ketat)positif.Misalkan A merupakan suatu m × n matriks. Dan, biarkan P mewakili m × m orthogonalmatriks, Q merupakan × n n matriks orthogonal, dan D1{Si} R × r matriks diagonaldengan (ketat) elemen diagonal positif sehinggaP AQ(D1000)- Keberadaan matriks tersebut dijamin oleh Akibat 21.12.2. Selanjutnya,P partisi dan Q sebagai P(P1, P2

) Dan Q(Q1, Q2), Di mana P1memiliki kolom r,mengatakan p1, ..., Pr, Masing-masing, dan Q1memiliki kolom r, mengatakan q1, ..., Qr, Masing-masing.Maka A dapat dinyatakan sebagaiSEBUAHP(D1000)Q(12. 4)atau sebagaiSEBUAHP1D1Q1(12. 5)atau

SEBUAHrΣi 1sipiqi.(12. 6)Membiarkan α1, ..., αkmewakili nilai-nilai yang berbeda diwakili antara s1, ..., srdan(j untuk1, ..., k) membiarkan Lj{I: siαj}, A juga dapat dinyatakan sebagaiSEBUAHkΣj 1αjUj.(12. 7)mana (untuk j1, ..., k) U

jΣi ∈ Ljpiqi.Ekspresi (12.4) disebut singular-nilai dekomposisi m × n matriksSebuah. Kadang-kadang dekomposisi jangka tunggal-nilai yang digunakan juga dalam mengacuekspresi (12,5), (12,6), atau (12,7).Teorema berikut memberikan beberapa wawasan ke dalam sifat berbagaikomponen dekomposisi tunggal-nilai dan sejauh mana merekakomponen yang unik.Teorema 21.12.3. Misalkan A merupakan suatu m × n matriks. Dan, mengambil P menjadi m × mmatriks orthogonal, Q n × n matriks orthogonal, dan D1r × r nonsingularmatriks diagonal sehinggaP AQ(D1000).(12. 8)Selanjutnya, P partisi dan Q sebagai P(P1, P2) Dan Q(Q1, Q

2), Di mana masing-masingmatriks P1dan Q1memiliki kolom r. Kemudian,rrank (A),(12. 9)

Halaman 421,12 Dekomposisi Nilai Singular553QA AQ(D21000).(12. 10)P AA P(D21000).(12. 11)P1AQ1D

-11.(12. 12)Q1AP1D-11.(12. 13)Bukti. Kebenaran hasil (12,9) terlihat dari persamaan (12,8) pada observ-ing peringkat yang (P AQ)rank (A). Selanjutnya,QA AQ QA PP AQ (P AQ) P AQ(D1000) (D1000)(D21000).yang memverifikasi kesetaraan (12.10). Kesetaraan (12.11) dapat diverifikasi dalam cara yang sama.

Dan mengamati bahwa P AQ(P1AQ1P1AQ2P2AQ1P2AP2)[dan memanfaatkan kesetaraan(12,8)], kami menemukan bahwaP1P1D1D-11P1(P1AQ1) D-11(P1

P1) AQ1D-11(Sayam- P2P2) AQ1D-11AQ1D-11- P2(P2AQ1) D-11AQ1D-11- P20D-1

1AQ1D-11.Q yang1AP1D-11dapat dibangun melalui argumen analog.QEDDalam terang Teorema 21.5.1, jelas dari Teorema 21.12.3 bahwa skalars1, ..., sr, Yang muncul dalam dekomposisi tunggal-nilai (12,4) (sebagai diago- yangelemen nal dari diagonal matriks D1) Adalah akar kuadrat positif dari nol yang(tidak harus berbeda) eigen dari AA (atau, sama, dari tidak-noleigen tentu berbeda-AA). Selain itu, mereka unik (yaitu, merekatidak berbeda dengan pilihan yang orthogonal matriks P dan Q yang muncul dalambentuk tunggal-nilai dekomposisi), dan mereka sama jumlahnya dengan peringkat (A). Theskalar s1, ..., srdisebut sebagai nilai-nilai singular dari matriks A. (Dalam beberapapresentasi, akar kuadrat positif dari semua n atau m eigen dari AA dan AA,termasuk yang sama 0, dianggap sebagai nilai-nilai singular dari A.) The skalarα1, ..., αk

, Yang muncul dalam dekomposisi (12,7) dan yang (menurut definisi) yangnilai-nilai singular yang berbeda dari A, adalah akar kuadrat positif dari nol yang berbedaeigenvalues dari AA (atau, sama, dari nilai eigen nol berbeda dari AA).Teorema 21.12.3 juga informatif tentang sifat dari matriks orthogonalP dan Q, yang muncul dalam dekomposisi tunggal-nilai (12.4). Kolom mP adalah vektor eigen dari AA, dengan kolom r pertama sesuai dengan noleigenvalues s21, ..., s2rdan m tersisa - kolom r sesuai dengan 0eigen. Demikian pula, kolom n Q adalah vektor eigen dari AA, dengan yang pertamakolom r sesuai dengan nol eigen s21, ..., s2rdan sisanya

Halaman 555421. Nilai Eigen dan Vektor Eigenn - r kolom yang sesuai dengan 0 eigen. Selain itu, setelah r pertamakolom Q ditentukan, kolom r pertama P secara unik ditentukan [olehhasil (12.12)]. Demikian pula, setelah kolom r pertama P yang ditentukan, r pertamakolom Q secara unik ditentukan [oleh hasil (12.13)].Untuk setiap pemesanan tetap dari nilai-nilai singular yang berbeda α1, ..., αk, Dekomposisi(12.7) adalah unik. Untuk melihat ini, amati [mengingat hasil (12.12)] yang (untuk i1, ..., r) pis-1i

Aqi. Dengan demikian, untuk j1, ..., k,UjΣi ∈ LjpiqiΣi ∈ Ljs-1iAqiqiα-1jAEj.di mana EjΣi ∈ Ljqiqi. Selanjutnya, karena (untuk i ∈ Lj) Q

iadalah vektor eigen dari AAsesuai dengan α eigenvalue2j, Maka dari hasil Seksi 5f (padaKeunikan dekomposisi spektral) yang Ejtidak berbeda dengan pilihanP, Q, dan D1dan karenanya bahwa Ujtidak berbeda dengan pilihan ini. Kami menyimpulkanbahwa dekomposisi (12,7) unik (selain dari pemesanan istilah).The (biasa) norma m × n matriks A dengan singular-nilai dekomposisi(12.4) dapat dinyatakan dalam bentuk tunggal nilai s1... sr. MemanfaatkanLemma 5.2.1, kami menemukan bahwaSEBUAH2tr (AA)tr[Q(D1000)PP(D100

0)Q]tr[(D1000)PP(D1000)QQ]tr[(D1000)Akum(D1000)Akun

]tr[(D21000)]s21+ ··· + S2r.Dengan demikian,SEBUAH(S21+ ··· + S2r)02/01.(12. 14)Mari kita mempertimbangkan bentuk tunggal-nilai dekomposisi n × n simetrismatriks A. Biarkan d1, ..., dnmewakili (tidak harus berbeda) nilai eigen dari A,orderedinsuchawaythat d1, ..., drarenonzeroand dr 1

···dn0.Andletq1, ..., Qnmerupakan vektor eigen ortonormal dari A yang terkait dengan d1, ..., dn.masing-masing, dan (untuk i1, ..., n) biarkani{1,jika di≥ 0,-1,jika di<0.Selanjutnya, menentukan Ddiag (d1, ..., dn), Q(Q1, ..., Qn), Dandiag (1, ...,n); dan mengambil P

Q menjadi n × n matriks yang i th kolom piadalah baik qiatau - qitergantung pada apakah di≥ 0 atau di<0.Kemudian, P dan Q adalah ortogonal. Dan Q AQD, sehinggaP AQQ AQDdiag (1d1, ...,ndn) Diag (| d1|, ..., | Dn|)(D1000).

Halaman 621,12 Dekomposisi Nilai Singular555

di mana D1diag (| d1|, ..., | Dr|). Dengan demikian, nilai-nilai singular dari A adalah mutlaknilai | d1|, ..., | Dr| dari nilai eigen nol-nya. Dan, tunggal-nilai decompo-sition A [dekomposisi (12,6)] adalahSEBUAHrΣi 1| Di| PiqirΣi 1| Di| (iqiqi).Sebagai perbandingan, dekomposisi spektral A [dekomposisi (5.4)] adalahSEBUAHnΣi 1d

iqiqirΣi 1diqiqi.Perhatikan bahwa, dalam kasus khusus di mana simetris matriks A adalah non-negatif yang pasti,d1, ..., drpositif, sehingga (untuk i1, ..., n)i1, | di|di, Dan piqi.Dengan demikian, dalam kasus khusus ini, nilai-nilai singular dari A adalah nilai eigen nol-nya,dan tunggal-nilai dekomposisi A pada dasarnya sama dengan spektraldekomposisi A.b. Singular-nilai dekomposisi kebalikan Moore-PenroseMisalkan A merupakan suatu m × n matriks. Dan biarkan P mewakili m × m matriks ortogonal,

Q merupakan × n n matriks orthogonal, dan D1{Si} R × r matriks diagonal dengan (ketat)elemen diagonal positif sehinggaP AQ(D1000).Kemudian, menurut definisi, bentuk tunggal-nilai dekomposisi A adalahSEBUAHP(D1000)Q.Menurut Teorema 20.5.6,SEBUAH+Q(D1000)+P.Dan, mengingat hasil Bagian 20.2,(

D1000)+(D+1000)(E1000).di mana E1diag (1 / s1, ..., 1 / sr). Dengan demikian,SEBUAH+Q(E1000)P,

(12. 15)atau, sama,QA+P(E1000).Jelas, ekspresi (12.15) adalah tunggal-nilai dekomposisi A+. Dannilai-nilai singular dari A+adalah kebalikan dari nilai-nilai singular dari A.

Halaman 755621. Nilai Eigen dan Vektor Eigenc. Perkiraan matriks dengan matriks rank lebih kecilTeorema berikut menunjukkan bahwa jika beberapa nilai singular dari m × nmatriks A relatif kecil, m × n matriks yang diperoleh dari tunggal-nilaidekomposisi (A) dengan menetapkan nilai-nilai singular sama dengan nol dapat memberikan"baik" pendekatan ke A.Teorema 21.12.4. Biarkan A mewakili m × n matriks (peringkat r) dengan-nilai singularues s1, s2, ..., srmemerintahkan agar s1≥ s2

≥ ··· ≥ sr. Biarkan D1diag (s1, s2, ..., sr),dan membiarkan P mewakili m × m orthogonal matriks dan Q n × n matriks orthogonalsehingga P AQdiag (D1, 0), sehinggaSEBUAHP(D1000)Qadalah tunggal-nilai dekomposisi A. Kemudian, untuk setiap m × n matriks B dari peringkat katau kurang (di mana k <r),B - A2≥ s2k 1+ ··· + S2r(12. 16)(di mana norma adalah norma biasa). Selain itu, kesetaraan dicapai dalam ketidaksetaraan

(12.16) dengan mengambilBP(D*1000)Q,di mana D*1diag (s1, ..., sk).Sebagai awal untuk membuktikan Teorema 21.12.4, akan lebih mudah untuk membangunTeorema berikut, yang merupakan dari beberapa kepentingan dalam dirinya sendiri.Teorema 21.12.5. Misalkan A mewakili n × n matriks simetris dengan (tidak nec-essarily berbeda) eigenvalues d1, d2, ..., dnmemerintahkan agar d1≥ d2≥ ≥ d ···n.Kemudian, untuk setiap n × k matriks X sehingga XXAkukatau, sama, untuk setiap n × k

matriks X dengan kolom ortonormal (di mana k ≤ n),tr (X AX) ≤kΣi 1di.dengan kesetaraan memegang jika kolom X adalah vektor eigen ortonormal dari Asesuai dengan d1, d2, ..., dk, Masing-masing.Bukti (dari Teorema 21.12.5). Biarkan U mewakili n × n matriks yang, ..., n th pertamakolom ortonormal (sehubungan dengan produk dalam biasa) vektor eigen dariA yang terkait dengan d1, ..., dn, Masing-masing. Lalu ada sebuah n × k matriksR{Raku j} Sehingga XUR. Selanjutnya, U AUD, di mana Ddiag (d1, ..., dn).Dengan demikian,tr (X AX)tr (RU AUR)tr (R DR)kΣ

j 1nΣi 1dir2aku jnΣi 1widi.

Halaman 821,12 Dekomposisi Nilai Singular557mana (untuk i1, ..., n) wiΣkj 1r2aku j.The skalar w1, ..., wnadalah seperti yang0 ≤ wi≤ 1(12. 17)(untuk i

1, ..., n) dannΣi 1wik.(12. 18)Untuk melihat ini, amati bahwaRRRInRRU URXXAkuk(yang menunjukkan bahwa kolom R adalah ortonormal). Kemudian, sebagai konsekuensinyaTeorema 6.4.5, ada sebuah n × (n - k) matriks S sehingga kolom darimatriks (R, S) membentuk sebuah basis ortonormal untuk Rnatau, sama, sehingga (R, S)adalah matriks ortogonal. Dan, RR + SS(R, S) (R, S)Akun, jadi begituAkun- RRSS,menyiratkan bahwa sayan- RR adalah non-negatif yang pasti. Dengan demikian, sejak jelas i diagonalunsur Sayan- RR sama 1- wi, Kita memiliki 1- wi

≥ 0, yang (bersama-sama denganketimpangan jelas wi≥ 0) menetapkan hasil (12,17). Selain itu,nΣi 1wikΣj 1nΣi 1r2aku jtr (RR)tr (Sayak)k,yang menetapkan hasil (12.18).Hasil (12.17) dan (12.18) menyiratkan bahwaΣni 1widi≤Σki 1di(seperti mudahdiverifikasi) dan karenanya yangtr (X AX) ≤

kΣi 1di.Selain itu, dalam kasus khusus di mana kolom dari X yang ortonormal eigenvec-tor dari A yang terkait dengan d1, ..., dk, Masing-masing, AXX diag (d1, ..., dk) DankarenanyaX AXXX diag (d1, ..., dk)diag (d1, ..., dk).Dengan demikian, dalam kasus khusus, tr (X AX)Σki 1di.QEDBukti (dari Teorema 21.12.5). Sesuai dengan m setiap × n matriks B rankk atau kurang, ada sebuah m × k matriks U dengan kolom ortonormal sehinggaC (B) ⊂ C (U) atau, sama, sehingga BUL untuk beberapa k × n matriks L.

Sekarang, biarkan U mewakili m sewenang-wenang × k matriks dengan kolom ortonormal atau,ekuivalen, m sewenang-wenang × k matriks sehingga UUAkuk. Dan, biarkan L mewakilisebuah k sewenang-wenang × n matriks. Kemudian, untuk memverifikasi ketidaksetaraan (12,16), itu sudah cukup untuk menunjukkanbahwaUL - Sebuah2≥ s2k 1+ ··· + S2r.

Halaman 955821. Nilai Eigen dan Vektor EigenKami memiliki yangUL - Sebuah2tr [(UL - A) (UL - A)]tr (LL - Sebuah UL - LUA) + tr (AA).Dan, karenaLL - Sebuah UL - LUA + A UU A(L - UA) (L - UA)dan karena (L - UA) (L - UA) adalah matriks definit nonnegatif, kami menemukan (dalam cahayaTeorema 14.7.2) yangtr (LL - Sebuah UL - LUA + A UU A) ≥ 0dan karenanya yangtr (LL - Sebuah UL - LUA) ≥ -tr (A UU A)-tr (U AA U).Dengan demikian,UL - Sebuah2≥ tr (AA) - tr (U AA U).

Selain itu, karena (dalam terang hasil ayat a) s1, ..., sradalah positifakar kuadrat dari nilai eigen nol dari AA (atau, sama, dari noleigen dari AA), maka dari Teorema 21.6.1 yangtr (AA)rΣi 1s2idan dari Teorema 21.12.5 yangtr (U AA U) ≤kΣi 1s2i.Kami menyimpulkan bahwaUL - Sebuah2≥rΣi 1s2i-kΣi 1s2is

2k 1+ ··· + S2r.Dan bukti selesai pada mengamati (dalam terang Lema 8.4.2) yangP(D*1000)Q - Sebuah2P(D*1000)Q - P(D1000)Q2(D*1

000)-(D1000)2s2k 1+ ··· + S2r.QEDDalam kasus khusus di mana matriks A adalah simetris, Teorema 21.12.4 dapat (diterang hasil ayat a) dinyatakan kembali dalam hal yang berkaitan dengan spektraldekomposisi A, seperti yang dijelaskan dalam konsekuensi berikut.

Halaman 1021,13 Simultan Diagonalisasi559Akibat 21.12.6. Misalkan A mewakili n × n matriks simetris (peringkat r) dengannol (tidak harus berbeda) eigenvalues d1, ..., drmemerintahkan agar | d1| ≥| D2| ≥ · ≥ | dr|. Biarkan D

1diag (d1, ..., dr), Dan biarkan Q mewakili n × nmatriks orthogonal sehingga Q AQdiag (D1, 0), sehinggaSEBUAHQ(D1000)Qadalah dekomposisi spektral A. Kemudian, untuk setiap n × n matriks B dari peringkat k atau kurang(di mana k <r)B - A2≥ d2k 1+ ··· + D2r.(12. 19)Selain itu, kesetaraan dicapai dalam ketidaksetaraan (12,19) dengan mengambilBQ(D*10

00)Q,di mana D*1diag (d1, ..., dk).21,13 Simultan DiagonalisasiDalam Bagian 5, kita dianggap diagonalisasi dari n × n matriks. Sekarang, mari kitaSEBUAH1, ..., Akmerupakan matriks k dimensi n × n, dan mempertimbangkan kondisidi mana terdapat matriks Q tunggal n × n nonsingular yang mendiagonalisasisemua k dari matriks tersebut; yaitu, kondisi di mana ada sebuah n × nmatriks taksingular Q sehingga Q-1SEBUAH1QD1, ..., Q-1SEBUAHkQDkuntuk beberapamatriks diagonal D1, ..., Dk. Ketika suatu matriks taksingular Q ada, Q dikatakan

untuk secara bersamaan diagonalize A1, ..., Ak(atau A1, ..., Akdikatakan simultane-menerus didiagonalkan oleh Q), dan A1, ..., Akdisebut sebagai simultandidiagonalisasi.Misalkan ada sebuah n × n matriks taksingular Q sehingga Q-1SEBUAH1QD1, ..., Q-1SEBUAHkQDkuntuk beberapa matriks diagonal D1, ..., Dk. Kemudian, untuk si1, ..., k,Q-1SEBUAHsSEBUAH

iQQ-1SEBUAHsQQ-1SEBUAHiQDsDiDiDsQ-1SEBUAHiQQ-1SEBUAHsQQ-1SEBUAHiSEBUAHsQ,menyiratkan bahwaSEBUAHsSEBUAHiQ (Q

-1SEBUAHsSEBUAHiQ) Q-1Q (Q-1SEBUAHiSEBUAHsQ) Q-1SEBUAHiSEBUAHs.Dengan demikian, kondisi yang diperlukan untuk A1, ..., Akmenjadi bersamaan didiagonalisasiApakah ituSEBUAHsSEBUAHiSEBUAHiSEBUAHs(S> i1, ..., k)(13. 1)(yaitu, bahwa A1, ..., Ak

perjalanan berpasangan).