РУСЕНСКИ УНИВЕРСИТЕТ „АНГЕЛ КЪНЧЕВ”

кат. „Приложна математика и статистика”

Евелина Илиева Велева

ИЗСЛЕДВАНЕ НА ЗАВИСИМОСТИ В МНОГОФАКТОРНИ МОДЕЛИ

ПРИ МАЛЪК ОБЕМ ОТ НАБЛЮДЕНИЯ

Докторска програма:

Математическо моделиране и приложение на математиката

ДИСЕРТАЦИОНЕН ТРУД за присъждане на образователната и научна степен

“доктор”

Научен ръководител: доц. д-р Велизар Тодоров Павлов

2012 г.

Съдържание: Означения iv Въведение 1

1. Актуалност и постановка на проблема 3

1.1. Анализ на резултатите от научните изследвания по проблема 3

1.2. Цел и задачи на дисертационния труд 10 1.3. Структура на дисертационния труд 11 1.4. Апробация на резултатите от дисертационния труд 15

2. Анализ на някои свойства на ковариационните и корелационни матрици 17

2.1. Основни понятия и свойства 18 2.2. Изследвания върху положително определени матрици 27 2.3. Генериране и параметризация на положително

определени матрици 40 2.4. Параметризация и свойства на корелационни и

ковариационни матрици 49

3. Съвместни разпределения на съвкупности от извадъчни корелационни (ковариационни) коефициенти 73

3.1. Маргинални плътности на разпределението ( )n mψ 74

3.2. Маргинални плътности на разпределението на Уишарт 96

3.2.1 Разпределение на Уишарт с диагонална ковариационна матрица 96

3.2.2 Разпределение на Уишарт с произволна ковариационна матрица 97

4. Проверка на хипотези за ковариационната матрица 102

4.1. Точни разпределения на известните критерии 103 4.2. Липсващи стойности в емпиричната корелационна 110

матрица

ii

5. Експериментални изчисления с Матлаб 131

5.1. Квантили на разпределението на критерия за проверка за независимост при липсващи стойности в извадъчната ковариационна матрица 132

5.2. Проверка за независимост на признаците при система за компютърна диагностика на заболявания 135

Заключение 156

Приложение 158

Литература 176

iii

Означения

,X Y - случайни матрици;

X,Y - неслучайни матрици;

,u v - случайни вектори;

u,v - неслучайни вектори;

,X Y , ,ξ η - случайни величини;

,u v - едномерни неслучайни променливи;

det A - детерминанта на матрицата A ;

1,1 ,( , , n ndiag a a… ) - диагонална матрица с елементи по

главния диагонал; 1,1 ,, , n na a…

In - единичната матрица от ред ; n

MI - индикатор на множеството M ;

At - транспонираната матрица на матрицата ; A

A 0 - матрицата A е положително определена;

(A)tr - следата на матрицата ; A

α - броят на елементите на множеството α ;

cα - допълнение на множеството α ;

A[ , ]α β - подматрицата на матрицата , образувана от елементите стоящи на редовете с номера от множеството

A

α и стълбовете с номера от множеството β ;

A[ ]α - по-кратко означение за матрицата A[ , ]α α ; 0A[ { }, {}]j iα α∪ ∪ - в матрицата A[ { }, { }]j iα α∪ ∪ , елементът ,j ia е

заменен с нула;

A A[ , ]α β - допълнение на Шур на матрицата A[ , ]α β в ; A

iv

∅ - празното множество; 1A− - обратната матрица на , определена от условието

; A

1 1A A A A=In− −=

- множеството от реалните числа; n m× - пространството от всички матрици с размер n m× ,

чиито елементи са от множеството ;

( , )nP - пространството от всички реални положително определени матрици от ред ; n

1,1 ,( , ; , , )n nn y y…P - множеството от всички матрици, принадлежащи на , които имат диагонални елементи . ( , )nP 1,1 ,, , n ny y…

( , )nD - пространството от всички реални симетрични матрици от ред , с положителни диагонални елементи и с елементи извън главния диагонал в граници (-1,1);

n

1,1 ,( , ; , , )n nn x x…D - това са матриците от с фиксирани елементи по главния диагонал

( , )nD1,1x , ..., ,n nx .

( )αΓ - Гама функцията;

( )n αΓ - многомерната Гама функция, дефинирана с (2.4.14);

( , )B α β - Бета функцията;

( )vI ⋅ - модифицирана функция на Бесел от първи род; 2 ( )mχ - хи-квадрат разпределение с степени на свобода; m

( , )G a b - гама разпределение с параметри , ; 0a > 0b >

( , , , )Beta a bα β - бета разпределение с параметри α , β , и , дефинирано върху интервала ;

a b( , )a b

(μ,Σ)nN - n -мерно нормално разпределение с вектор от средните стойности и ковариационна матрица

; μ

Σ 0

( ,Σ)nW m - разпределение на Уишарт с параметър и m степени на свобода, ;

Σ 0m n≥

v

( )n mψ - разпределението на корелационната матрица на извадка с обем

R1m + от наблюдения над -мерно

нормално разпределение , където е диагонална матрица;

n(μ,Λ)nN Λ

( )E X - математическо очакване на случайната величина ; X

( )D X - дисперсия на случайната величина ; X

vi

Въведение

Събирането на информация за едновременното изменение на няколко фактора дава по-пълна, по-цялостна представа за изучавания обект на изследване. В практиката най-често е възможно такива комплексни, многофакторни наблюдения да се извършват над неголяма, крайна по обем извадка. Следователно асимптотични резултати, получени при предположението за безкрайност на извадката, в практиката могат да бъдат само приблизителни, да имат ориентировъчен характер. Необходими са точни резултати, приложими при малък обем от наблюдения.

При анализа на измервания върху няколко фактора една от първите задачи е изясняването на характера и силата на статистическата зависимост между променливите. Най-често срещаният в теорията и практиката случай е на съвместно нормално разпределение на участващите в изследването фактори. При него, различните предположения за структурата на корелационната и ковариационна матрици съответстват на различни модели на независимост между групи от разглежданите променливи.

Корелационната и ковариационна матрици са обект на оценяване, моделиране и прогнозиране във всяка област на научното познание, винаги, когато се анализират многомерни данни. При моделирането на процеси, особено в областта на финансите и управлението на риска, все по-често се включват и елементите на ковариационната матрица на участващите в изследването фактори. Основен проблем при това е от една страна сложната взаимовръзка между тези елементи, която трябва да гарантира положителната определеност на ковариационната матрица, а от друга – големият им брой, който изисква и голям брой налични наблюдения, за да бъде възможно тяхното оценяване в модела. Често тези проблеми са причина за изкуственото опростяване на модела. От друга страна, при много процеси е налице условна независимост между двойки от факторите, при условие останалите. Това означава, че съответните им ковариационни

1

коефициенти могат да бъдат изключени от модела, тъй като те не носят допълнителна информация – техните стойности се определят еднозначно от тези на останалите ковариационни коефициенти. Отстраняването на тези коефициенти от модела ще доведе до по-икономичен модел, за оценяването на който ще са нужни по-малък брой налични наблюдения. За да е възможно това, обаче ние трябва да разполагаме с маргиналната съвместна плътност, след изключване на ковариационните коефициенти на условно независимите двойки от фактори.

Получаването на маргиналните плътности на едно разпределение, дефинирано върху пространството от положително определени матрици е свързано с интегриране по част от елементите на една положително определена матрица. За целта трябва да бъдат определени границите и последователността на интегриране, което до момента не е направено, поради сложните неравенства между елементите на матрицата, гарантиращи нейната положителна определеност. Получаването на удобна параметризация за една положително определена матрица, при която връзките между отделните параметри е опростена, е необходимо не само за намирането на маргиналните съвместни плътности на ковариационни коефициенти, но и за по-ефективно моделиране на процесите, в които участва ковариационната матрица.

Често, например поради липси в първичната матрица от данни, получената оценка за ковариационната (корелационна) матрица съдържа липсващи елементи. Обичайната практика е да се търсят методи за оценяване на липсващите стойности, след което се прилагат стандартните процедури за проверка на хипотези, свързани с ковариационната и корелационна матрици. Познаването на маргиналните съвместни плътности на съвкупности от ковариационни или корелационни коефициенти би дало възможност за построяване на критерии за проверка на хипотези, които да се прилагат директно, без преди това да се оценяват липсващите стойности, защото това е един допълнителен източник на грешки.

Настоящата дисертация е посветена на получаването на точни (при краен обем на извадката) резултати, които да бъдат приложими при изследване и моделиране на структурата на ковариационната (корелационна) матрица на разглежданите фактори.

2

Глава 1 Актуалност и постановка на проблема

1.1 Анализ на резултатите от научните изследвания по проблема

Неформални дефиниции за независимост се появяват в трудовете на

различни автори още през XVIII и XIX век. Бейс, в статията си от 1763г. ([12], стр. 376), се занимава с понятието независимост и го дефинира както следва: “Събитията са независими, когато сбъдването на кое да е от тях не увеличава, нито намалява вероятността за останалите”. Очевидно, той не прави разлика между независимост и независимост две по две. Лаплас, в своя книга от 1812г. ([78]), представя може би най-ранната математическа формулировка за независимост, посочвайки, че ако { }iE е редица от независими събития с ( )i ip P E= , то . 1 1( , , ) n

n iiP E E p==∏…През 1885г. Франсис Галтон ([45]), анализирайки реални данни, стига

до концепцията за корелация между две случайни величини, макар изчислена на база на отклоненията на данните спрямо тяхната медиана, а не спрямо средната им стойност, какъвто е съвременният вариант на коефициента на корелация, въведен през 1896г. от Карл Пирсън ([105]). Според Пирсън, който пише по-късно биография на Галтон, публикацията на Галтон от 1885г. е може би най-важната от неговите работи. Концепцията за корелация (и нейните модификации), въведена от Галтон, доминира в статистиката през около 70 години от XX век, практически явяваща се единствената мярка за зависимост ([88]). В последните години сме свидетели на бързо възраждане на изследванията върху свойствата и концепцията за зависимост от статистическа и вероятностна гледна точка ([4], [13], [26], [32], [64], [72], [76], [77], [85], [87], [111], [118], [127], [140]).

Моделирането и оценяването на едно многомерно разпределение е важен въпрос, който има голям брой от възможни приложения в различни

3

области на науката. Оценяването и вземането на решения относно зависимости в многомерните данни е свързан проблем със същата важност ([16]). Макар че и двата проблема са най-важните при анализа на многомерни данни и много многомерни модели се предлагат в литературата, те все още са нерешени и привличат много изследователи и практици.

Най-широко използваният подход е да се приеме, че данните имат многомерно нормално разпределение. Единствено в този случай, структурата на зависимостите е напълно определена от корелационната матрица. При изследването на два фактора и , за които се предполага че имат съвместно нормално разпределение, проверката за тяхната независимост се свежда до проверката на хипотезата

X Y

0 : 0XYH ρ =

срещу : 0a XYH ρ ≠ ,

относно техния коефициент на корелация XYρ .

Когато включените в изследването фактори са на брой, , проверката за тяхната независимост се извършва чрез хипотезата

n 2n >

0 : P=InH

срещу : P Ia nH ≠ ,

където ,P=( )i jρ е корелационната матрица, а е единичната матрица от ред

.

In

nКорелационната и ковариационна матрици са обект на оценяване,

моделиране и прогнозиране във всяка област на научното познание, винаги, когато се анализират многомерни данни ([102]).

Между тях съществува следната връзка

1,1 , 1,1 ,Σ= ( , , ) P ( , ,n n n ndiag diagσ σ σ σ… … ) ,

където е ковариационната матрица, Σ ,Σ=( )i jσ , а ,i iσ , са

дисперсиите на включените в изследването фактори.

1, ,i n= …

Ковариационната матрица Σ играе централна роля ([110]) в почти цялата класическа многомерна статистика ([5]), анализа на временни редове

4

([20]), пространствен (spatial) анализ на данни ([27]), дисперсионни компоненти (variance components) и анализа на данни за развитие (longitudinal data analysis) ([116], [35]), а също и в модерната и бързо развиваща се област статистическо и машинно обучение (machine learning), използваща масивни и високо размерни бази от данни ([57]).

Корелационните матрици са от голямо значение в задачите за управление на риска и разпределянето на активи във финансите ([14], [24], [37], [81], [99], [101]). Нуждата да се предскаже търсенето на група от стоки, с цел да се реализират спестявания чрез правилно управление на материалните запаси, изисква използването на корелационни матрици ([21]). Изучаването на ковариационните и корелационни матрици е крайъгълен камък в теорията на Марковиц за оптимални портфейли ([39], [60], [65], [89], [90], [120], [135]).

Разпределението на извадковата ковариационна матрица е изведено от Уишарт през 1928 г. ([137]) и затова е наречено разпределение на Уишарт. То се явява многомерно обобщение на 2χ (хи-квадрат)

разпределението и присъства в почти всички учебници по многомерен статистически анализ ([5], [40], [44], [47], [54] - [56], [62], [70], [104], [113], [117], [122], [123]).

Разпределението на Уишарт е обект на непрекъснато изучаване и обобщаване от неговото въвеждане през 1928г. до наши дни. Изследването на това разпределение е актуално и към днешна дата, което се вижда с публикуването на все по-нови материали по темата ([3], [6], [7], [17], [19], [34], [41], [51], [61], [73], [82] - [84], [92], [93], [95], [112], [121]).

Разпределението на извадковата корелационна матрица в общия случай е по-сложно от това на ковариационната матрица. При 2n = то е изведено през 1915 г. от Фишер ([42]), в общия случай, едва през 1952 г., отново от Фишер е представено във вид на интеграл ([43]) и през 1970 е изразено от Масоом ([94]) като безкрайна сума. В частния случай, когато

, разпределението на извадъчната корелационна матрица има по-прост,

компактен вид.

P=In

Съвместните плътности на съвкупности от ковариационни коефициенти са маргинални плътности на разпределението на Уишарт. Известни са тези, които съответстват на всичките елементи на една

5

квадратна подматрица, получена след зачеркване на редовете и стълбовете с едни и същи номера ([5]). Тези маргинални плътности не са изведени чрез интегриране по част от променливите, а се явяват следствие на факта, че маргиналните разпределения на многомерното нормално разпределение са отново многомерно нормални. За да бъде намерена една произволна маргинална плътност, трябва да се интегрира разпределението на Уишарт по отношение на липсващите променливи, а това може да стане след като са определени границите и реда на интегрирането. Това не е лека задача, защото променливите са обвързани със сложни неравенства, зададени от положителната определеност на ковариационната матрица. По същият начин стоят нещата и с маргиналните плътности на извадъчната корелационна матрица. Затова определянето на редът и границите на интегриране по отношение на елементите на една положително определена матрица, както и самото извеждане на точните маргинални плътности на разпределението на Уишарт и разпределението на извадъчната корелационна матрица са част от задачите, които си поставя настоящия дисертационен труд.

В последните години, поради нарастващото количество от налични данни за целите на изследването в някои сфери, вниманието на изследователите се насочва към моделиране на стойността във времето на ковариационната матрица на разглежданите фактори. Такива модели намират приложение в медицината ([139]), машинното обучение ([100]), археологията и генетиката ([97]). Във финансите, с цел прогнозиране на изменчивостта на печалбите от наличните стоки и финансови активи, в последно време, поради увеличаване на постъпващите данни от транзакциите в рамките на деня, се моделира поведението във времето на реализираната ковариационна матрица на печалбите от наличните активи ([48] – [50], [63], [108], [126], [136]). Разпределението на Уишарт е естествен избор за съвместното разпределение на реализираните ковариационни коефициенти при определянето на неизвестните параметри в модела чрез метода на максималното правдоподобие.

Основен проблем при моделирането на ковариационната матрица е т.нар. “проклятие на размерността” (curse of dimensionality), което все още прави трудно прилагането на тези модели дори за средно голям брой на

6

факторите. Например, в модела предложен от Гоуриерокс ([50]) броят на параметрите, подлежащи на оценяване е 23 / 2 / 2 1n n+ + , където е броят на факторите. Така, за случая

n6n = , който се разглежда като пример в

статията, броят на параметрите, които трябва да бъдат оценени е 58. Проблемът се състои от една страна в необходимото компютърно време за извършване на изчисленията, а от друга - в наличието на достатъчно голям брой наблюдения, които трябва да са на разположение. За справяне с проблема, изследователите обикновено опростяват твърде много модела, с цел намаляване на параметрите за оценяване ([48]), но така той губи възможността да отразява адекватно измененията на ковариационната матрица във времето. Непознаването на маргиналните плътности на разпределението на Уишарт е причина за непременното участие в модела на всички ковариационни коефициенти едновременно.

От друга страна, в много случаи е налице условна независимост между двойки от факторите, при условие останалите. Това означава, че съответните им ковариационни коефициенти могат да бъдат изключени от модела, тъй като те не носят допълнителна информация – техните стойности се определят еднозначно от тези на останалите ковариационни коефициенти ([5]). Отстраняването на тези коефициенти от модела ще доведе до по-икономичен модел, за оценяването на който ще са нужни по-малък брой налични наблюдения. Изследването на данните, с цел установяването на условна независимост между двойки от факторите, при условие останалите, се нарича ковариационна селекция (covariance selection), въведена от Демпстер през 1972 г. ([31]) с цел редуциране на броят на параметрите при оценяването на ковариационната матрица. Наличието на условна независимост между двойки от факторите, при условие останалите, лежи в основата на графичните гаусови модели ([18], [69], [80]). В някои научни области, например в генетиката ([36], [114]), преобладаващата част от двойките фактори са условно независими, при условие останалите. Това означава, че отстраняването от модела на съответните им ковариационни коефициенти би намалило повече от два пъти броя на участващите параметри в модела, а следователно ще са нужни и повече от два пъти по-малко наблюдения за неговото оценяване.

7

В много приложения ([97]) не е възможно да бъде наблюдавана цялата ковариационна матрица – тя съдържа липсващи елементи. Вместо да ги оценяваме (при което може да бъде допусната грешка) и след това да ги моделираме всички заедно, което ще е свързано с допълнителни параметри за всеки един от попълнените липсващи коефициенти, познавайки маргиналните плътности на разпределението на Уишарт е възможно да се моделират само наличните ковариационни коефициенти.

Друг основен проблем е, че за всяка стойност на времето , получената оценка за ковариационната матрица, въз основа на разглеждания модел, трябва да е една положително определена матрица. Това предполага една сложна верига от ограничения върху елементите на ковариационната матрица, участващи в модела. За справянето с този проблем Чирияк и Воев ([23]) и Бауер и Воркинк ([11]) използват подходящи трансформации на ковариационната матрица. Подходът на първите двама се базира върху разлагането на Холецки (Cholesky decomposition), приложено за ковариационната матрица и предвижда частично интегрирани процеси за индивидуалните елементи на долно триъгълната матрица от разлагането. Вторият подход трансформира ковариационната матрица чрез използването на матричната логаритмична функция и разглежда индивидуалните елементи на трансформацията като функции от латентни фактори, обусловени от изменчивостта и възвращаемостта, характерни за минали периоди. Както посочва Поурахмади ([110]), намирането на необвързана с ограничения и статистически интерпретируема параметризация на една ковариационна матрица е все още отворен проблем в статистиката. Неговото решение е от централна важност при оценяването на ковариационната матрица, особено при високо размерните данни в последните години, за които сложните ограничения, гарантиращи положителната определеност биха коствали много компютърно време.

t

Освен за справяне с положителната определеност, една подходяща параметризация би дала възможност за представяне на всеки елемент на извадъчната ковариационна матрица като алгебрична функция от нова съвкупност от случайни величини. По този начин биха могли да се установят нови вероятностни свойства на извадъчните ковариационни матрици, т.е. нови свойства на разпределението на Уишарт. Такова

8

представяне чрез нов набор от случайни величини ще даде възможност, както е показано в Глава 4 от настоящата дисертация, за директно извеждане на вероятностната характеризация на точните разпределения на критериите за проверка на хипотези, свързани с ковариационната матрица. Подходът, който се използва в момента ([5], [106], [107]) е индиректен, като първо се изчислява началния момент от ред и след това с помощта на обратна трансформация се търси плътността. За да се получи характеризация на разпределението обаче, тя трябва да бъде отгатната въз основа на вида на изведената плътност.

h

В последно време, въпросът за оценяването на ползата от дадена програма или лечение получава значително внимание в икономиката, статистиката и медицинската литература ([59], [109], [124], [125]). Изведените плътности на разпределенията на резултата от приложението непременно зависят от неопределения (липсващ) корелационен коефициент между променливите, отразяващи ефекта с и без приложение на съответната програма или терапия. Стойностите на тези променливи не могат да бъдат измерени в един и същ момент от време върху едни и същи обекти на наблюдение. Друг такъв пример е моделът на Рой (Roy’s model of self-selection) за личния подбор, който е обширно прилаган в икономиката за да се анализира индивидуалния избор между две алтернативи или сектори. Понеже приходите могат да бъдат наблюдавани само в алтернативата, която е осъществена, корелационния коефициент между печалбите при двата възможни избора не може да бъде оценен. За всеки обект може да бъде наблюдавана само печалбата при конкретния избор, който е реализиран. Няколко статии посочват защо заключенията относно неопределения корелационен коефициент биха били интересни ([58], [134], [71], [115]) и предлагат начини за решаването на проблема, използвайки Бейсов подход. В стохастичните модели, особено във финансите, поради малочислеността на данните или динамичното естество на разглеждания проблем, често не е възможно да бъде получена пълната извадъчна корелационна матрица ([103], [66]). Някои от елементите й са неизвестни. В литературата се предлагат различни методи за получаване на валидна корелационна матрица, на база на една непълна такава ([9], [10], [66], [74],

9

[75], [79], [103]). Проблемът няма единствено решение, освен това изборът на стойност за кой да е от липсващите елементи влияе върху избора на останалите. Добре би било да съществуват методи, които да могат да се прилагат директно върху наличните корелационни коефициенти, без да има нужда да се отгатват останалите, защото това внася допълнителна възможност за получаването на грешни изводи. Познаването на маргиналните плътности на ковариационните и корелационни коефициенти би дало възможност за построяването на такива статистически процедури. Това е показано в Глава 4 от дисертацията.

Настоящата дисертация е посветена на получаването на точни резултати, които ще могат да се прилагат при малки по обем извадки. Разбира се, извежданите точни разпределения са приложими и при голям брой от наблюдения, но при тях нуждата от точни резултати не е толкова голяма, поради различните асимптотични техники, които могат да бъдат използвани ([29], [68], [119]).

1.2 Цел и задачи на дисертационния труд Целта на настоящия дисертационен труд е получаването на точни (при краен обем на извадката) резултати, които да бъдат приложими при изследване и моделиране на структурата на ковариационната (корелационна) матрица на разглежданите фактори.

Основните задачи са:

1. Да бъде определен реда и границите на интегриране по отношение на елементите на една положително определена (ковариационна) матрица.

2. Да се намери удобна параметризация за една ковариационна матрица, със значително опростяване на условията върху новите променливи, гарантиращи положителната определеност на матрицата.

10

3. Да се намерят точни изрази за маргиналните плътности на разпределението на извадъчната корелационна (ковариационна) матрица.

4. Да се построят критерии за проверка на хипотези при липсващи стойности в извадъчната корелационна (ковариационна) матрица.

1.3 Структура на дисертационния труд

Дисертацията се състои от въведение, пет глави, заключение, приложения и списък на използваната литература.

В Глава 2 се прави анализ на ковариационните и корелационни матрици. В §2.1 намират място основни понятия, твърдения, дефиниции и означения, необходими за изложението на получените резултати. В §2.2 са изследвани свойства на положително определените матрици. Изведени са различни системи от неравенства, всяка от които задава необходими и достатъчни условия за елементите на една симетрична матрица, гарантиращи нейната положителна определеност. Решена е първата от поставените задачи - да бъде определен реда и границите на интегриране по отношение на елементите на една положително определена (ковариационна) матрица.

На база на получените резултати, в §2.3 са установени две различни взаимно-еднозначни съответствия и между пространството от

всички реални, положително определени матрици от ред и пространството от всички реални симетрични матрици от ред , с

положителни диагонални елементи и с елементи извън главния диагонал в граници (-1,1).

h h ( , )nPn

( , )nD n

Формулите, задаващи изображенията и , дават възможност за изразяване на елементите на една положително определена матрица чрез нови променливи

h h

,i jx , , 1, ,i j n= … , единствените условия върху които са, че

,i ix са положителни и ,i jx , i j≠ са в интервала (-1,1). Такава смяна на

променливите дава възможност за интегриране по част от елементите на една положително определена матрица, а не непременно по всички

11

наведнъж, както това се прави до момента. При това границите на интегриране за новите променливи ,i jx , i j≠ са от -1 до 1.

Изображенията и представят начин за генериране и параметризация на положително определени случайни матрици с различни закони на разпределение. Параграф §2.4 е посветен на ковариационни и корелационни матрици за извадки от многомерно нормално разпределение. Изведената параметризация е интерпретирана чрез частните коефициенти на корелация. Решена е втората от поставените задачи – намиране на удобни параметризации за ковариационните и корелационни матрици, със значително опростяване на условията върху новите променливи, които да имат и ясна статистическа интерпретация.

h h

В §2.4 са доказани теореми, които освен че представят алгоритъм за генериране на извадъчни корелационни и ковариационни матрици за извадки от наблюдения над многомерното нормално разпределение, дават и представяне на елементите на една извадъчна корелационна/ковариационна матрица чрез алгебрични функции от независими случайни величини. Това представяне се използва в Глава 4 за алтернативно извеждане на разпределенията на критерии за проверка на хипотези, свързани с ковариационната матрица.

Формулите, задаващи изображението са по-компактни, те са по-удобни както при генерирането на матрици, смяна на променливите с цел интегриране, така и при параметризация на корелационната и ковариационна матрици. Изображението от друга страна дава възможност за доказване на по-общи свойства на съответното разпределение на положително определената случайна матрица. Едно такова свойство е доказано в §2.4. То е използвано в Глава 4 при намирането на точното разпределение на критерий за проверка на независимостта на участващите в изследването фактори, при наличие на липсващи елементи в ковариационната матрица. Използвания подход може да бъде приложен за намирането на точните разпределения на всевъзможните произведения и частно от произведения на главни минори на една случайна матрица с разпределение на Уишарт.

h

h

Резултатите от Глава 2 са публикувани в [129], [132] и [134].

12

Глава 3 решава третата поставена задача – намиране на точни изрази за маргиналните съвместни плътности на ковариационните, а също и на корелационните коефициенти. Получените плътности са в резултат на интегриране, в границите зададени от Теорема 2.2.1 от параграф 2.2. За представяне на съвкупности от извадъчни корелационни (ковариационни) коефициенти са използвани графи, като на всеки елемент, участващ в маргиналната плътност съответства ненасочена дъга в графа. За част от доказаните теореми е използван апарата на математичната индукция. Разгледани са два примера, показващи ефективността на изведените твърдения. При интегрирането на плътността на разпределението на Уишарт са разгледани отделно случаите на независими (диагонална ковариационна матрица) и на зависими фактори. При извеждане на резултатите са използвани специални функции. Като следствие е получена условната плътност на произволен извадъчен ковариационен коефициент, при условие, че са известни останалите. Изведените плътности имат както теоретично, така и практическо значение. В Глава 4 те са използвани при извеждането на критерий с отношение на правдоподобия за проверка на хипотезата за независимост на факторите, при липсващи стойности в извадъчната ковариационна матрица.

Резултатите от Глава 3 са публикувани в [128] и [134].

В Глава 4 са разгледани хипотезите за равенство на ковариационната матрица на дадена матрица, за сферичност, както и хипотезата за независимост на включените в изследването фактори. Изведени са точните разпределения на статистиките за проверка, използвайки апарата, изведен в Глава 2 от дисертацията.

В някои случаи не е възможно да бъдат изчислени част от елементите на корелационната (ковариационна) матрица. Например, ако за фактора разполагаме с наблюденията

iX,1 ,,i i kx x… 1 k m, < < , а за фактора jX - с

наблюденията , 1 ,,j k j mx x+ … .

Голяма част от многомерния статистически анализ, включително регресионен анализ, факторен анализ и дискриминантен анализ се базира на първоначална редукция на данните с изчисляването на вектора от извадъчните средни стойности и емпиричната ковариационна матрица на променливите ([86]).

13

Нека са извършени наблюдения над променливи, . Тогава първичните данни ще съдържат стойности. Информацията, съдържаща се в тях може да се обобщи с -те на брой елемента на вектора от средни стойности и различни елемента на ковариационната матрица.

Например при и

m n n mnm

n( 1) /n n + 2

10n = 50m = , вместо 500nm = първоначални данни, за съхраняване и по-нататъшна обработка ще са достатъчни плюс

, т.е. общо 65 стойности. Тази практика се основава на факта,

че векторът от извадъчните средни стойности и емпиричната ковариационна матрица са достатъчни статистики за многомерното нормално разпределение, което най-често се използва като модел за изходните данни.

10n =( 1) / 2 5n n + = 5

Обширна литература е посветена на ситуации, при които част от първичните данни е загубена или въобще не е била налична. Малък брой публикации засягат ситуациите, при които са изгубени данни от ковариационната матрица, в резултат на съхраняване или пренос на данни.

Всичко това води до необходимостта от изследване на случая на липсващи елементи в емпиричната ковариационна матрица. В Глава 4 е отделено конкретно внимание на ситуацията, когато липсващите елементи се намират в един и същ ред (стълб) на емпиричната ковариационна матрица. Получените в Глава 2 и 3 резултати обаче дават възможност да бъдат анализирани различни конфигурации на липсващите елементи. Изведен е критерият с отношение на правдоподобия за проверката на хипотезата за некорелираност (независимост) на факторите. Извършването на такава проверка е обичайна практика при анализа на данните, при наличието на пълна корелационна матрица. Обикновено тя се прави още преди проучвателния факторен анализ и анализа на главни компоненти ([22], [98]). С помощта на резултатите от Глава 2 е намерено точното нулево разпределение на получения критерий за проверка. Това прави възможно използването му за извадки с произволен обем. В Глава 5, с програмния продукт MATLAB, са изчислени някои квантили на нулевото разпределението на критерия.

Резултатите от Глава 4 са публикувани в [130], [131] и [132].

В Глава 5, с помощта на програмния продукт MATLAB, са извършени изчисления, илюстриращи прилагането на изведената теория, нейната ефективност и допълващи я с таблични стойности, необходими за нейното

14

приложение. В параграф §5.1 се дискутира изчисляването на квантилите на нулевото разпределение на критерия (4.2.32), изведен в Глава 4, за проверка на независимостта на разглежданите променливи при наличието на липсващи елементи в емпиричната корелационна матрица. В параграф §5.2 са разгледани два примера. С помощта на теореми, доказани в Глава 2, са генерирани извадъчни корелационни матрици на фактори, които са независими помежду си, както и на фактори, които са зависими, но коефициента на корелация между всяка двойка от фактори е заключен в интервала [-0,4;0,4]. Това се прави с цел да бъде симулирана слаба зависимост между факторите, за да бъде проверена ефективността на изведената в Глава 4 теория както за независими, така и за слабо зависими помежду си фактори. Последователно се предполага липсата на различен брой елементи в генерираните извадъчни корелационни матрици като се използват два подхода – отстраняване на най-големите по абсолютна стойност или на случайно избрани елементи. Изведено е практическо правило за директното прилагане на критерия (4.2.32), без да е необходимо предварително преномериране на факторите, целящо липсващите елементи в корелационната матрица да застанат непременно в първите няколко поредни позиции на последния стълб.

В Глава 5 са обсъдени предимствата на изведения в Глава 4 критерий при проверката на хипотезата за независимост на признаците в система за компютърна диагностика на заболявания. Резултатите от Глава 5 са публикувани в [133].

1.4 Апробация на резултатите от дисертационния труд

Резултатите по темата са докладвани на:

1) Some marginal densities of the Wishart distribution. 41th Spring Conference of the Union of Bulgarian Mathematicians, Borovetz, 9–12 April, 2012.

2) A near-exact distribution and exact percentage points for testing independence with missing elements in the sample correlation matrix.

15

Annual Conference of the University of Rousse, Rousse, Bulgaria, 28-29 October 2011.

3) При зачисляване в докторантура на самостоятелна подготовка, през май 2011 г.

4) На семинар на катедра “Числени методи и статистика” през ноември 2008г.

5) На два поредни семинара на секция “Вероятности и Статистика”, ИМИ при БАН, през май 2008 г.

6) Test for independence of the variables with missing elements in the same column of the empirical correlation matrix. Jubilee International Conference 60 years IMI, BAS, July 6 - 8, 2007, Sofia, Bulgaria.

7) Test for independence of the variables with a missing element in the empirical correlation matrix. A 10-a Conferinta a Societatii de Probabilitati si Statistica din Romania – Bucuresti, 13-14 aprilie 2007.

8) Joint densities of correlation coefficients for samples from multivariate standard normal distribution. XII-th international summer conference on probability and statistics, Sozopol, 17-25 June 2006.

9) На семинар на секция “Вероятности и Статистика”, ИМИ при БАН, май 2006 г.

Накрая бих искала да благодаря на научния си ръководител и на всички,

които ми помогнаха при подготвянето на тази дисертация.

16

Глава 2 Анализ на някои свойства на ковариационните и корелационни матрици Една неособена матрица е ковариационна матрица на дадено вероятностно разпределение тогава и само тогава, когато е положително определена. (виж напр. [104]). Аналогично може да се докаже, че една неособена матрица е корелационна матрица тогава и само тогава, когато е положително определена с единици по главния си диагонал. В настоящата глава сe прави анализ на ковариационни и корелационни матрици. Параграф §2.1 съдържа основни понятия и означения. В §2.2 и §2.3 са изведени свойства и параметризации на положително определени неслучайни матрици. Параграф §2.4 е посветен на извадъчните ковариационни и корелационни матрици за извадки от наблюдения над многомерно нормалното разпределение. Резултатите от тази глава се използват във всяка от следващите части на дисертацията. За яснота, ще означаваме случайните матрици с големи букви и удебелен шрифт, напр. ; неслучайните матрици с големи букви ; случайните вектори – с удебелен шрифт и малки букви, напр. ; неслучайните вектори с малки букви ; случайните величини – с големи ръкописни букви или с гръцки букви

,X Y X,Y,u v

u,v,X Y ,ξ η , а едномерните неслучайни

променливи с малки ръкописни букви - . ,u v

 17

2.1 Основни понятия и свойства Настоящият параграф съдържа основни означения, известни твърдения и дефиниции, използвани в изложението по – нататък. Определение 2.1.1 Нека ,A ( )i ja= e реална квадратна матрица от ред .

Тогава, A се нарича

n

(a) неособена или обратима матрица, ако det A 0≠ ; (b) диагонална матрица, което се означава с , ако

, 1,1 ,( , , n ndiag a a… )

, 0i ja = ji ≠ ;

(c) единична матрица, което се означава с , ако е диагонална и , ;

In A, 1i ia = ni ,,1…=

(d) симетрична матрица, ако ,i j j ia а ,= , за ji ≠ или еквивалентно

, където е транспонираната матрица на ; A At= At A(e) долно триъгълна матрица, ако , 0i ja = , i j< ; (f) горно триъгълна матрица, ако , 0i ja = , ; i j>

(g) ортогонална матрица, ако A A A At t= = In ;

(h) положително определена матрица, което се означава с , ако е симетрична и за всеки n -мерен ненулев вектор , .

A 0 Av v A v 0t >

Определение 2.1.2 Нека е квадратна матрица. Ще казваме, че числото Aλ е собствена стойност на , ако съществува ненулев вектор , такъв че A x

Ax= xλ .

В този случай се нарича собствен вектор (съответен на x λ ) на . A Твърдение 2.1.1 Една квадратна матрица от ред има точно на брой собствени стойности

A n n1, , nλ λ… (някои от които може да са равни

помежду си). Освен това

(a) 1

det An

ii

λ=

=∏ ;

(b) 1

(A)n

ii

tr λ=

=∑ ;

 18

(c) Матрицата е положително определена тогава и само тогава, когато

A0iλ > , . 1, ,i n= …

Твърдение 2.1.2 ([46]) Всяка симетрична матрица може да се представи като произведение

A

tA=Q QΛ , (2.1.1)

където е ортогонална матрица (колоните на която са собствени

вектори на ), а е диагонална матрица (с диагонални елементи – съответните им собствени стойности).

QA Λ

Нека e реална квадратна матрица от ред . Нека ,A ( )i ja= n α и β са

дадени множества от индекси, т.е. подмножества на . Ще означаваме с

{1, 2, , }n…α броят на елементите в множеството α , а неговото

допълнение в с {1, 2, , }n… {1, 2, , } \c nα α≡ … . С A[ , ]α β ще означаваме

подматрицата на матрицата , образувана от елементите стоящи на редовете с номера от множеството

Aα и стълбовете с номера от множеството

β . Ако α β≡ , то ще използваме по-краткото означение A[ ]α вместо A[ , ]α α .

Определение 2.1.3 Нека е матрица с размер A n m× . Нека α и β са множества от индекси, {1, 2, , }nα ⊂ … и {1, 2, , }mβ ⊂ … , kα β= = .

Детерминантата

det A[ , ]α β (2.1.2)

се нарича минор от ред на матрицата . Ако k A α β≡ , минорът (2.1.2) се

нарича главен. Определение 2.1.4 Ранг на матрица ще наричаме максималната стойност на , за която съществува различен от нула минор от ред . k k Твърдение 2.1.3 ([46]) Положителната определеност на една симетрична матрица е еквивалентна на условието всички главни минори на матрицата да са положителни.

 19

Определение 2.1.5 ([138]) Нека е реална квадратна матрица от ред . Нека

A nα и β са подмножества на множеството , {1, 2, , }n… kα β= = ,

. Ако матрицата 1 k n≤ < A[ , ]α β е обратима, допълнение на Шур A A[ , ]α β на A[ , ]α β в ще наричаме матрицата A

1A A[ , ] A[ , ] A[ , ](A[ , ]) A[ ,c c c c ]α β α β α β α β α β−≡ − .

Пример 1. Произволна квадратна матрица може да се запише във вид на блочна матрица,

A

11 12

21 22

A AA

A A⎛ ⎞

= ⎜ ⎟⎝ ⎠

,

където и са също квадратни матрици. Съгласно Определение 2.1.5, допълнението на Шур на подматрицата в е матрицата

11A 22A

22A A

122 11 12 22 21A / A A A A A−= − . □

Твърдение 2.1.4 Ако A A[ ]α е допълнението на Шур на подматрицата A[ ]α в , то A

( ) det Adet A A[ ]det A[ ]

αα

= .

Твърдение 2.1.5 Нека е квадратна матрица и A A[ ]α е обратима

подматрица на . Матрицата е положително определена тогава и само тогава, когато са положително определени и двете матрици

A AA[ ]α и

A A[ ]α .

Твърдения 2.1.4 и 2.1.5 са доказани в [138]. Твърдение 2.1.6 Нека e квадратна матрица от ред и нека A n p е цяло число, 1 p n≤ < . Да означим с минорите от ред ,i jb 1p + на матрицата

от вида

A

, det A[{1, , , },{1, , , }]i jb p i p j= … … , 1, ,i j p n, = + … .

 20

Нека е матрицата с елементи , .

Тогава за всеки две подмножества

B (( ) ( ))n p n p− × − ,i jb , 1,i j p n= + …,α и β на множеството { 1, , }p n+ … ,

kα β= = , 1 , k n p≤ ≤ −

( ) 1det B[ , ] det A[{1, , }] det A[{1, , } ,{1, , } ]kp p pα β α−= … … ∪ … β∪ . (2.1.3)

Равенство (2.1.3) е известно с името детерминантно тъждество на Силвестър ([1]). В частния случай, когато 2p n= − и { 1,n n}α β= = − ,

равенство (2.1.3) добива вида

det B det A det A[{1, , 2}]n= −… . (2.1.4)

Лесно се вижда, че 1, 1 1,

, 1 ,

B= n n n n

n n n n

b bb b− − −

−

⎛ ⎞⎜ ⎟⎝ ⎠

,

1, 1 det A[{1, , 1}] det A[{ } ]n nb n− − = − =… cn

c cn −

c cn

]cn −

c

c c c c

,

1, det A[{1, , 1},{1, , 2, }] det A[{ } ,{ 1} ]n nb n n n n− = − − =… … ,

, 1 det A[{1, , 2, },{1, , 1}] det A[{ 1} ,{ } ]n nb n n n n− = − − = −… … ,

, det A[{1, , 2, },{1, , 2, }] det A[{ 1}n nb n n n n= − − =… … .

Така се достига до твърдението: Твърдение 2.1.7 Нека A e реална квадратна матрица от ред n . Тогава

det Adet A[{ 1, } ] det A[{ 1} ]det A[{ } ]c cn n n n− = −

det A[{ 1} ,{ } ]det A[{ } ,{ 1} ]n n n n− − − .

Като се използва факта, че при размяна на местата на два реда или два

стълба детерминантата запазва абсолютната си стойност, а само променя знака си, не е трудно да се докаже следното по-общо твърдение:

 21

Твърдение 2.1.8 Нека e реална квадратна матрица от ред . Нека , A n i j са цели числа, 1 . Тогава i j n≤ < ≤

det A det A[{ , } ] det A[{ } ]det A[{ } ]c c c det A[{ } ,{ } ]det A[{ } ,{ } ]c c c ci j j i−i j i j= .

Нека е множеството от реалните числа. За произволни две

естествени числа и , пространството от всички матрици с размер n m n m× , чиито елементи са от множеството , се означава с и се нарича реално -мерно пространство.

n m×

n m×Случайните матрици се явяват естествено обобщение на понятията

случайна величина и случаен вектор. Нека ),,( PℑΩ е дадено вероятностно

пространство. Определение 2.1.6 ([53]) Една матрица (n m)×X , състояща се от елемента ,

nm1,1( )X ⋅ 1,2 ( )X ⋅ , ..., , ( )n mX ⋅ , които са реалнозначни функции,

дефинирани върху пространството от елементарни изходи , се нарича реална случайна матрица, ако областта от стойности на матрицата

Ω

1,1 1,

,1 ,

( ) ( )

( ) ( )

m

n n

X X

X X

⎛ ⎞

m

⋅ ⋅⎜ ⎟= ⎜ ⎟⎜ ⎟⋅ ⋅⎝ ⎠

X ,

се състои от Борелови подмножества на пространството и за всяко Борелово подмножество

n m×

B в n m× , множеството

1,1 1,

,1 ,

( ) ( ):

( ) ( )

m

n n m

X XB

X X

ω ωω

ω ω

⎧ ⎫⎛ ⎞⎪ ⎪⎜ ⎟∈Ω ∈⎨ ⎬⎜ ⎟⎪ ⎪⎜ ⎟

⎝ ⎠⎩ ⎭

е събитие от σ -алгебрата ℑ .

Еквивалентно, случайната матрица е една матричнозначна случайна величина, чиито елементи са реалнозначни случайни величини.

 22

Нека е произволна матрица от пространството . Нека е

числова функция на . С

X n m× (X)g

X

(X) XD

g d∫

се означава многократния интеграл от функцията по отношение на

всеки елемент на поотделно, взет върху областта .

(X)g

X n mD ×⊂ Определение 2.1.7 Плътност на разпределение на случайната матрица се нарича числовата функция

X(X)f такава, че

(a) (X) 0f ≥

(b) (X) X 1R

f d =∫X

и (c) , ( ) (X)

A

P A f d∈ = ∫X X

където A е подмножество на областта RX от стойностите на . X

Определение 2.1.8 Симетрична случайна матрица, реализациите на която с вероятност единица са положително определени матрици, се нарича положително определена случайна матрица.

Нека е -мерен случаен вектор. Ако съществува математическото очакване

1( , , )tnX X=x … n

μE =x , 1μ ( , )nμ μ= … , ковариационна матрица

на x се нарича матрицата n n×

Σ ( ) ( μ)( μ)tCov E ⎡ ⎤= = − −⎣ ⎦x x x . (2.1.5)

Елемента ,i jσ ( i ) на се нарича ковариация между и и се

изчислява по формулата

j≠ Σ iX jX

, ( , ) ( )( )i j i j i i j jCov X X E X Xσ μ μ⎡ ⎤= = − −⎣ ⎦ .

Диагоналните елементи ,i iσ са дисперсиите на величините , iX

 23

2, ( ) [( ) ] 0i i i i iD X E Xσ μ= = − ≥ , i n1, ,= … .

Ще предплагаме, че дисперсиите ,i iσ са крайни и различни от нула. Матрицата ,Ρ ( i j )ρ= от коефициентите на корелация ,i jρ между и , iX jX

,,

, ,

( , ) i ji j i j

i i j j

Corr X Xσ

ρσ σ

= = ,

се нарича корелационна матрица. Коефициента на корелация е безразмерна величина. Като следствие от

неравенството на Коши –Буняковски-Шварц, за всяко i j ≠

,1 1i jρ− ≤ ≤ .

Равенство се получава тогава и само тогава, когато величините и са линейно зависими, т.е. съществува реално число , такова че

iX jXk i jX k X= .

При 0k > , 1i jρ = , а при 0k < , 1i jρ = − . Стойности на ,i jρ близки до 1 или

-1 са индикатор за силна линейна статистическа зависимост между величините и . Стойности на iX jX ,i jρ близки до 0 се тълкуват като слаба или липса на линейна зависимост. Ако величините и са независими, то

iX jX

, 0i jρ = , т.е. те са некорелирани. Ако разпределението на и е

съвместно нормално, обратното също е вярно, т.е. от некорелираността на и следва и тяхната независимост.

iX jX

iX jX

Ковариационната и корелационна матрици и са симетрични матрици, матрицата има единици по главния си диагонал. Ако разпределението на случайния вектор не е сингулярно (т.е. дефинирано върху множество с Лебегова мярка 0 и с вероятност на всяка точка от това множество, равна на 0), матриците и са положително определени матрици (виж напр. [104]).

Σ ΡΡ

x

Σ Ρ

Съществува следната връзка между матриците и : Σ Ρ

1,1 , 1,1 ,Σ= ( , , ) Ρ ( , ,n n n ndiag diagσ σ σ σ… )…

)

, (2.1.6)

т.е. матрицата може да бъде представена чрез корелационната матрица Σ,Ρ ( i jρ= и дисперсиите ,i iσ , 1, ,i n= … на елементите на случайния вектор

([8]). x

 24

Нека , ..., са независими наблюдения над случайния вектор

( ). Неизместена оценка за е т.нар. извадъчна ковариационна матрица ( ),

1x mx m x

1n× ΣS n n×

1

1 ( )( )( 1)

mt

i iim =

= − − x−

∑S x x x , 1

1 m

iim =

= ∑x x

)

. (2.1.7)

Елементите на са извадъчните ковариации на всевъзможните

двойки с повторение на елементите на случайния вектор .

,( i jS=S

x Матрицата може да се запише във вида S

1,1 , 1,1 ,= ( , , ) ( , ,n n n ndiag S S diag S SS R… )… , (2.1.8)

,( )i jR=R , ,,

, ,

i ji j

i i j j

SR

S S= , 1 i j n≤ < ≤ , , 1i iR = , . (2.1.9) 1, ,i = … n

Матрицата се нарича извадъчна корелационна матрица или още корелационна матрица на извадката , ..., .

R1x mx

Ако разпределението на случайния вектор е нормално, извадъчната корелационна матрица е максимално правдоподобната оценка за популационната (теоретичната) корелационна матрица . Освен това в този случай тя е асимптотично неизместена и ефективна оценка. Независимо от разпределението на , е състоятелна оценка за (стига само да съществуват всички четвърти моменти).

xR

Ρ

x R Ρ

При , с вероятност 1 реализациите на случайните матрици S и са положително определени матрици (виж [44]). Съгласно Определение

2.1.8 това означава, че при

n m<R

n m< матриците и са положително определени случайни матрици.

S R

При конкретна извадка , ..., от наблюдения над , реализациите на случайните матрици и ще означаваме съответно с

1x xm xS R ,S ( )i js= и

. ,R ( )i jr=

Нека е случаен вектор с многомерно нормално разпределение , където е векторът от математическите

очаквания, а е ковариационната матрица,

1( , , )tnX X=x …

(μ,Σ)nN μ

Σ 0Σ . Плътността на разпределение на това, както и на другите използвани в настоящия труд разпределения, е дадена в Апендикс А. Нека компонентите на вектора са x

 25

разделени на две групи, образуващи подвекторите (1)1( , , )t

pX X=x … , (2)

1( , , t)p nX X+=x … . Нека векторът от математическите очаквания е

разделен аналогично на подвектори и и нека ковариационната

матрица Σ е представена във вида

μ(1)μ (2)μ

11 12

21 22

Σ Σ⎛ ⎞Σ = ⎜ ⎟Σ Σ⎝ ⎠

,

където 11 [{1, , }]pΣ = Σ … , 12 [{1, , },{ 1, , }]p p nΣ = Σ +… … , 21 12tΣ = Σ ,

22 1, , }]p[{ nΣ = Σ + …

N Σx ∼ 1,2=

.

Твърдение 2.1.9 Векторът има многомерно нормално разпределение

, i , където

( )ix( ) ( )(μ , )

i

i in ii 1n p= , 2n n p= − .

Твърдение 2.1.10 Условното разпределение на вектора , при условие, че

е нормално с вектор от математически очаквания и ковариационна матрица

(1)x(2) (2)x=x(1) 1 (2) (2)

12 22μ (x μ )−+ Σ Σ − 111 12 22 21

−Σ − Σ Σ Σ .

Твърдения 2.1.9 и 2.1.10 са доказани в [5]. Както се вижда от Пример 1, ковариационната матрица на условното разпределение

, всъщност е допълнението на Шур на матрицата

111 2 11 12 22 21

−Σ = Σ − Σ Σ Σi 22/Σ Σ

22Σ в матрицата Σ .

Определение 2.1.9 Елементите , 1, ,i j p nσ +i … на матрицата се наричат

частни ковариации. Величините

11 2Σ i

, 1, ,, 1, ,

, 1, , , 1, ,

i j p ni j p n

i i p n j j p n

σρ

σ σ+

++ +

= i …i …

i … i …

, 1 i j p≤ ≤ ≤

се наричат частни корелации между и , при фиксирани iX jX 1, ,p nX X+ … .

 26

2.2 Изследвания върху положително определени матрици

В този параграф са изведени необходими и достатъчни условия за положителна определеност на произволна неслучайна реална симетрична матрица. Лема 2.2.1 Нека матрицата е положително определена. Ако се разменят местата на два от редовете на матрицата, а след това и местата на стълбовете със същите номера, ще се получи нова матрица

, която също е положително определена.

A

A′

Доказателство: Да означим с реда на матрицата A и нека и n i j са произволни цели числа, 1 i j n≤ < ≤ . Да разгледаме матрицата , получена

от единичната матрица след размяна на местата на стълбовете с номера и :

Iij

In ij

1 0 0 0

0 0 1 0I

0 1 0

0 0 0

ji

ij

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜=⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

0

1

⎟ . (2.2.1)

Лесно се вижда, че матрицата е симетрична и ортогонална, при това

матрицата може да се запише като произведение

Iij

A′

A =I AIij ij′ . (2.2.2)

Като се използва разлагането (2.1.1) за матрицата , за се получава представянето

A A′

A =I Q Q Itij ij′ Λ .

 27

Понеже матрицата като произведение от две ортогонални матрици е

отново ортогонална, съгласно Твърдение 2.1.2 матрицата ще има същите собствени стойности като матрицата . Съгласно Твърдение 2.1.1, положителната определеност на една матрица е еквивалентна на условието собствените й стойности да са положителни. Следователно от положителната определеност на ще следва положителната определеност и на матрицата . □

I Qij

A′A

AA′

Нека ,i j са фиксирани цели числа, nji ≤<≤1 и {1, , }nα ⊂ … , ,i j α∉ . Нека в подматрицата A[ { }, { }]j iα α∪ ∪ на матрицата ,A ( )i ja= заменим елемента ,j ia с . Получената матрица ще означаваме с 0

0A[ { }, { }]j iα α∪ ∪ .

Пример 2. а) Нека . Тогава 11 12 13

A= 21 22 2331 32 33

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

11 13A[{1,2},{1,3}]=

21 23⎛ ⎞⎜ ⎟⎝ ⎠

и . 0 11 13A[{1,2},{1,3}] =

21 0⎛ ⎞⎜ ⎟⎝ ⎠

б) Нека { , }ci jα = , тогава A[ { }, { }]j iα α∪ ∪ ≡ . Затова, под се разбира матрицата , в която елемента

A[{ } ,{ } ]c ci j0A[{ } ,{ } ]c ci j A[{ } ,{ } ]c ci j ,j ia е

заменен с . 0в) Матрицата 0A[{1, , },{1, , 1, }]i i j−… … е матрицата A[ { }, { }]i jα α∪ ∪ ,

{1, , 1}iα = −… , в която елемента е заменен с . □ ,i ja 0

Теорема 2.2.1 Нека е реална симетрична матрица от ред и нека ,A n i j са фиксирани цели числа, такива че nji ≤<≤1 . Матрицата е

положително определена тогава и само тогава, когато и двете матрици и

A

A[{ } ]ci A[{ } ]cj са положително определени и елемента

удовлетворява неравенствата

,i ja

 28

c c 0 c c

c

( 1) detA[{ } { } ] detA[{ } ]detA[{ } ]detA[{ } ]

j i

i , j

i , j i ja

i, j

−− −<

c c 0 c c

c

( 1) detA[{ } { } ] detA[{ } ]detA[{ } ]detA[{ } ]

j i i , j i ji, j

−− +< (2.2.3)

Доказателство: Да означим с a и i a j векторите

a i = , A[{ , } ,{ }]ci j i a j = A[ . { , } ,{ }]ci j j

Тогава допълнението на Шур на матрицата в е матрицата A[{ , } ]ci j A

( ) ( )1, ,

, ,

aA / A[{ , } ] A[{ , } ] a a

a

ti i i j ic c

i jtj i j j j

a ai j i j

a a−⎛ ⎞⎛ ⎞

= − ⎜ ⎟⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠.

Матрицата е симетрична, затова A

1 1, ,

1 1, ,

a (A[{ , } ]) a a (A[{ , } ]) aA / A[{ , } ]

a (A[{ , } ]) a a (A[{ , } ]) a

t c t ci i i i i j i jc

t c t ci j i j j j j j

a i j a i ji j

a i j a i j

− −

− −

⎛ ⎞− −= ⎜ ⎟⎜ ⎟− −⎝ ⎠

. (2.2.4)

Допълненията на Шур на матрицата в и A[{ , } ]ci j A[{ } ]ci A[{ } ]cj са числа,

1,A[{ } ]/ A[{ , } ] a (A[{ , } ]) ac c t c

j j ji i j a i j −= − j

1c c t c −

,

,A[{ } ]/ A[{ , } ] a (A[{ , } ]) ai i i ij i j a i j= − .

Допълнението на Шур на матрицата в матрицата A[{ , } ]ci j

,

A[{ , } ] aA[{ , } ]

a

cjc

ij ti i

i ji j

a⎛ ⎞

= ⎜ ⎟⎜ ⎟⎝ ⎠j

е също число,

1,A[{ , } ] / A[{ , } ] a (A[{ , } ]) ac c t c

ij i j i ji j i j a i j −= − .

От Твърдение 2.1.4 получаваме, че

 29

1,

det A[{ } ]a (A[{ , } ]) adet A[{ , } ]

ct c

j j j j c

ia i ji j

−− = ,

1,

det A[{ } ]a (A[{ , } ]) adet A[{ , } ]

t ci i i i c

cja i ji j

−− = ,

1,

det A[{ , } ]a (A[{ , } ]) a

det A[{ , } ]ijt c

i j i j c

i ja i j

i j−− =

c

.

След заместване в (2.2.4), за матрицата се получава

представянето

A / A[{ , } ]ci j

det A[{ } ] det A[{ , } ]1A / A[{ , } ]det A[{ , } ] det A[{ } ]det A[{ , } ]

c cijc

c ccij

j ii j

i j ii j⎛ ⎞

= ⎜ ⎟⎜ ⎟⎝ ⎠

j.

Съгласно Твърдение 2.1.5, приложено за , матрицата е

положително определена тогава и само тогава, когато са положително определени и двете матрици и . Матрицата

е с размер

{ , }ci jα = A

A[{ , } ]ci j A / A[{ , } ]ci jA / A[{ , } ]ci j 2 2× . Като се използва Твърдение 2.1.3, не е трудно да се види, че положителната определеност на матриците и

е еквивалентна на условията: A[{ , } ]ci j

A / A[{ , } ]ci j

1.1 ; A[{ , } ] 0ci j

1.2 ; det A[{ } ] 0cj >

1.3 ; det A[{ } ] 0ci >

1.4 det A[{ } ]det A[{ } ] det A[{ , } ] det A[{ } ]det A[{ } ]c c c ciji j i j i j− < < c .

Нека в матрицата A[{ } ]cj преместим нейния - ти ред след последния, а

след това и - ти стълб на получената матрица след нейния последен стълб. Ще се получи матрица

i

i

,

A[{ , } ] aA[{ , } ]

a

cic

ii ti i

i ji j

a⎛ ⎞

= ⎜ ⎟⎝ ⎠i

,

която ще има същата детерминанта като матрицата A[{ } ]cj , т.е.

 30

det A[{ , } ] det A[{ } ]c ciii j j= .

Оттук и от Твърдение 2.1.3 се вижда, че условията 1.1 и 1.2 са еквивалентни на изискването

2.1. . A[{ , } ] 0ciii j

С неколкократно прилагане на Лема 1.2.1 се установява, че условието 2.1 е еквивалентно на изискването

3.1. . A[{ } ] 0cj

Аналогично, условията 1.1 и 1.3 са еквивалентни на изискването

3.2. . A[{ } ] 0ci

Накрая, от развитието на детерминантата на матрицата по

елементите от нейния последен ред (стълб) се вижда, че

A[{ , } ]ciji j

0,det A[{ , } ] det A[{ , } ] det A[{ , } ]c c

ij i j iji j a i j i j= + c

0c

c

, (2.2.5)

където е матрицата A[{ , } ]iji j

0 A[{ , } ] aA[{ , } ]

a 0c j

ij ti

i ji j

⎛ ⎞= ⎜ ⎟⎝ ⎠

.

Ако в матрицата разменим мястото на последния ред

последователно с местата на предшестващите го редове докато застане на i -то място, след това по същия начин последователно преместваме последния стълб, докато застане на (

0A[{ , } ]ciji j

1j − )-во място, ще се получи матрицата . При всяко разместване на двойка редове знакът на

детерминантата ще се променя. Понеже общият брой на разместванията е , то

c cA[{ } { } ]j , i 0

1)

0c

0

( 1) ( ) 2 1 2 2 (n i n j n j i n j j i− − + − = − − − = − + − −

0 1det A[{ , } ] ( 1) det A[{ } ,{ } ]c j i ciji j j i− −= − . (2.2.6)

При транспониране детерминантата запазва стойността си, затова

0det A[{ } ,{ } ] det A[{ } ,{ } ]c c c cj i i= j . (2.2.7)

 31

Като се използват равенствата (2.2.5) – (2.2.7), при условие че се вижда че изискването 1.4 е еквивалентно на det A[{ , } ] 0ci j >

3.3. Елементът удовлетворява неравенствата (2.2.3). □ ,i ja

Теорема 2.2.2 Една реална симетрична матрица от ред е

положително определена тогава и само тогава, когато елементите й удовлетворяват следните условия:

,A ( )i ja= n

, 0i ia > , 1, ,i n= … ; (2.2.8)

1,1 , 1, 1,1 ,i i i i ia a a a a− < < , 2, ,i n= … ; (2.2.9)

0

,det A[{1, , },{1, , 1, }] det A[{1, , }]det A[{1, , 1, }]

det A[{1, , 1}] i ji i j i i j a

i− − − −

<−

… … … ……

(2.2.10)

0det A[{1, , },{1, , 1, }] det A[{1, , }]det A[{1, , 1, }]det A[{1, , 1}]

i i j i ii

− − +<

−… … … …

…j−

n

,

2, , 1, 1, , .i n j i= − = +… …

Доказателство: Доказателството е чрез индукция по n. Нека 3n = . За

и 2i = 3j = от Теорема 2.2.1 следва, че положителната определеност на

матрицата е еквивалентна на условията A

1,1 1,3

1,3 3,3

A[{2} ] 0c a aa a⎛ ⎞

= ⎜ ⎟⎝ ⎠

, (2.2.11) 1,1 1,2

1,2 2,2

A[{3} ] 0c a aa a⎛ ⎞

= ⎜ ⎟⎝ ⎠

и

1,1 1,3 1,1 1,3 1,1 1,2

1,2 1,3 3,3 1,2 2,22,3

1,1

det det det0

a a a a a aa a a a a

aa

⎛ ⎞ ⎛ ⎞ ⎛ ⎞− −⎜ ⎟ ⎜ ⎟ ⎜ ⎟

⎝ ⎠ ⎝ ⎠ ⎝ ⎠ < (2.2.12)

1,1 1,3 1,1 1,3 1,1 1,2

1,2 1,3 3,3 1,2 2,2

1,1

det det det0

a a a a a aa a a a

a

⎛ ⎞ ⎛ ⎞ ⎛− +⎜ ⎟ ⎜ ⎟ ⎜

⎝ ⎠ ⎝ ⎠ ⎝<a

⎞⎟⎠ .

 32

Лесно се вижда, че неравенствата (2.2.12) съвпадат с условията (2.2.10) при и че условието (2.2.11) е еквивалентно на неравенствата (2.2.8) и

(2.2.9). 3n =

Да допуснем, че Теоремата е вярна за някое n, и нека матрицата е от ред n+1. Съгласно Теорема 2.2.1, матрицата е положително

определена тогава и само тогава, когато матриците и са положително определени и елемента

3n ≥A A

A[{ 1} ]cn + A[{ } ]cn, 1n na + удовлетворява неравенствата

0

, 1detA[{ } ,{ 1} ] detA[{ } ]detA[{ 1} ]

detA[{ , 1} ]

c c c c

n nc

n n n na

n n +

− + − +<

+ (2.2.13)

0detA[{ } ,{ 1} ] detA[{ } ]detA[{ 1} ]detA[{ , 1} ]

c c c

c

n n n nn n

− + +<

+

c+.

Матриците и са от ред n. Съгласно индукционното

допускане тяхната положителна определеност е еквивалентна на условията

A[{ } ]cn A[{ 1} ]cn +

, 0i ia > , 1, , 1i n= +… ; (2.2.14)

1,1 , 1, 1,1 ,i i i i ia a a a a− < < , 2, , 1i n= +… ; (2.2.15)

0

,det A[{1, , },{1, , 1, }] det A[{1, , }]det A[{1, , 1, }]

det A[{1, , 1}] i ji i j i i j a

i− − − −

<−

… … … ……

(2.2.16)

0det A[{1, , },{1, , 1, }] det A[{1, , }]det A[{1, , 1, }]det A[{1, , 1}]

i i j i ii

− − +<

−… … … …

…j−

,

2, , 1, 1, , 1.i n j i n= − = + +… …

Като се добавят неравенствата (2.2.13) към тези в (2.2.16) се вижда, че неравенствата (2.2.16) трябва да са изпълнени за и 2, ,i n= …

1, , 1j i n= + +… , с което доказателството е завършено. □

На фигура 1 в червено са оцветени елементите на матрицата , от

които зависят границите (2.2.10) за елемента , A

,i ja 2 i j n≤ < ≤ .

 33

Нека конструираме положително определена матрица с предварително фиксирани положителни диагонални елементи. Първо трябва да се изберат, ако не са зададени предварително, стойности за елементите

, лежащи на първия ред, в съответствие с границите (2.2.9). След това се избират стойности за елементите , лежащи на втория ред

на матрицата в съответствие с неравенствата (2.2.10), които за приемат вида

1,2 1,, , na a…

2,3 2,, , na a…

2i =

2 21,2 1, 1,1 2,2 1,2 1,1 , 1,

2,1,1

( )( )j j j jj

a a a a a a a aa

a− − −

<

2 21,2 1, 1,1 2,2 1,2 1,1 , 1,

1,1

( )( )j j j ja a a a a a a aa

+ − −< 3, ,, j n= … .

След това се избират стойности за елементите , лежащи на третия ред и т.н. Последен се определя елемента

3,4 3,, , na a…

1,n na − , лежащ на предпоследния

 34

ред на матрицата. На фигура 2 е дадена схематично последователността, определена от Теорема 2.2.2, в която трябва да бъдат фиксирани стойности за елементите на матрицата.

Нека сега са избрани стойности за диагоналните елементи и за елементите, лежащи на първите няколко реда на една квадратна и симетрична матрица. Теорема 2.2.2 дава възможност да се провери дали матрицата може да се допълни до положително определена матрица. Необходимо е предварително фиксираните елементи на матрицата да попадат в границите, определени от неравенства (2.2.8) – (2.2.10). От друга страна, Теорема 2.2.2 определя граници, в които да се изберат последователно, в указания по – горе ред нефиксираните предварително елементи на матрицата.

От друга страна, при интегриране по отношение на елементите на една положително определена матрица, това трябва да стане в последователност, обратна на тази, показана на фигура 2, т.е. първо трябва да се интегрира по отношение на елемента 1,n na − , след това последователно

по отношение на елементите, лежащи над главния диагонал в 2n − -ри, -ти и т.н. до първи ред. Накрая трябва да се интегрира по отношение на

диагоналните елементи. Границите на интегриране се определят от неравенства (2.2.8) – (2.2.10).

3n −

 35

Следващата Теорема е аналогична на Теорема 2.2.2, но определя друга последователност на интегриране по отношение на елементите на една положително определена матрица. Теорема 2.2.3 Една реална симетрична матрица от ред е

положително определена тогава и само тогава, когато елементите й удовлетворяват следните условия:

,A ( )i ja= n

, 0i ia > , 1, ,i n= … ; (2.2.17)

, 1, 1 , 1 , 1, 1i i i i i i i i i ia a a a a+ + + + +− < < , 1, , 1i n= −… ; (2.2.18)

0j i−( 1) det A[{ , , 1},{ 1, , }] det A[{ , , 1}]det A[{ 1, , }]det A[{ 1, , 1}]

i j i j i j i ji j

− − + − − ++ −

… … … ……

,i ja< < (2.2.19)

0( 1) det A[{ , , 1},{ 1, , }] det A[{ , , 1}]det A[{ 1, , }]det A[{ 1, , 1}]

j i i j i j i j i ji j

−− − + + − ++ −

… … … ……

1, , 2, 2, , .i n j i n= − = +… …

Доказателство: Доказателството е чрез индукция по n. Нека 3n = . За

и 1i = 3j = от Теорема 2.2.1 следва, че положителната определеност на

матрицата е еквивалентна на условията A

, , (2.2.20) 2,2 2,3

2,3 3,3

A[{1} ] 0c a aa a⎛ ⎞

= ⎜ ⎟⎝ ⎠

1,1 1,2

1,2 2,2

[{3} ] 0c a aA

a a⎛ ⎞

= ⎜ ⎟⎝ ⎠

1,2 2,2 2,2 2,3 1,1 1,2

2,3 2,3 3,3 1,2 2,21,3

2,2

det det det0

a a a a a aa a a a a

aa

⎛ ⎞ ⎛ ⎞ ⎛ ⎞−⎜ ⎟ ⎜ ⎟ ⎜ ⎟

⎝ ⎠ ⎝ ⎠ ⎝ ⎠ < (2.2.21)

1,2 2,2 2,2 2,3 1,1 1,2

2,3 2,3 3,3 1,2 2,2

2,2

det det det0

a a a a a aa a a a

a

⎛ ⎞ ⎛ ⎞ ⎛ ⎞+⎜ ⎟ ⎜ ⎟ ⎜ ⎟

⎝ ⎠ ⎝ ⎠ ⎝ ⎠<a

.

 36

Лесно се вижда, че неравенствата (2.2.21) съвпадат с условията (2.2.19) при и че условието (2.2.20) е еквивалентно на неравенствата (2.2.17) и

(2.2.18). 3n =

Да допуснем, че Теоремата е вярна за някое n, и нека матрицата е от ред n+1. Съгласно Теорема 2.2.1, матрицата е положително

определена тогава и само тогава, когато матриците и са положително определени и елемента

3n ≥A A

A[{1} ]c A[{ 1} ]cn +1, 1na + удовлетворява неравенствата

0

1, 1( 1) detA[{1} ,{ 1} ] detA[{1} ]detA[{ 1} ]

detA[{1, 1} ]

n c c c c

nc

n na

n +

− + − +<

+ (2.2.22)

0( 1) detA[{1} ,{ 1} ] detA[{1} ]detA[{ 1} ]detA[{1, 1} ]

n c c c

c

n nn

− + +<

+

c+.

Неравенствата (2.2.22) съвпадат с неравенства (2.2.19) при и 1i = 1j n= + . Матриците и са от ред n. Съгласно индукционното

допускане, тяхната положителна определеност е еквивалентна на условията

A[{1} ]c A[{ 1} ]cn +

, , 0i ia > 1, , 1i n= +… ; (2.2.23)

, 1, 1 , 1 , 1,i i i i i i i i i ia a a a a 1+ + + +− < < + n, 1, ,i = … ; (2.2.24)

0j i−( 1) det A[{ , , 1},{ 1, , }] det A[{ , , 1}]det A[{ 1, , }]det A[{ 1, , 1}]

i j i j i j i ji j

− − + − − ++ −

… … … ……

,i ja< < (2.2.25)

0( 1) det A[{ , , 1},{ 1, , }] det A[{ , , 1}]det A[{ 1, , }]det A[{ 1, , 1}]

j i i j i j i j i ji j

−− − + + − ++ −

… … … ……

,

2, , 1, 2, , 1i n j i n= − = +… … + n или 1, 2, ,i j i= = + … .

Като се добавят неравенствата (2.2.22), записани във вида (2.2.19) при 1i = и 1j n= + към тези в (2.2.25) се вижда, че неравенствата (2.2.25) трябва да са

изпълнени за и 1, , 1i n= −… 2, , 1j i n= + +… . □

На фигура 3 в червено са оцветени елементите на матрицата , от

които зависят границите (2.2.19) за елемента , A

,i ja 2 1i j n≤ + < ≤ .

 37

Нека конструираме положително определена матрица с предварително фиксирани положителни диагонални елементи. Първо трябва да се изберат стойности за елементите , , …, , лежащи

успоредно на главния диагонал и най-близки до него, в съответствие с границите (2.2.18). След това се избират стойности за елементите , ...,

, лежащи на следващия успореден на главния диагонал в границите

1,2a 2,3a 1,n na −

1,3a

2,n na −

, 1 , , 1 1, 1 1, 2

1, 1 1, 2 , 1 1, 1 1, 2 2, 2, 2

1, 1

0i i i i i i i i i i

i i i i i i i i i i i ii i

i i

a a a a aa a a a a a

aa

+ + + + + +

+ + + + + + + + + + ++

+ +

−

<

, 1 , , 1 1, 1 1, 2

1, 1 1, 2 , 1 1, 1 1, 2 2, 2

1, 1

0i i i i i i i i i i

i i i i i i i i i i i i

i i

a a a a a + +

a a a a a a

a

+ + + +

+ + + + + + + + + + +

+ +

+

< 1, , 2= −…, i n .

След това трябва да се изберат стойности за елементите , ..., ,

лежащи на следващия успореден на главния диагонал и т.н. Последен се 1,4a 3,n na −

 38

определя елемента . На фигура 4 е дадена схематично

последователността, определена от Теорема 2.2.3, в която трябва да бъдат фиксирани стойности за елементите на матрицата.

1,na

Нека сега са фиксирани стойности за диагоналните елементи и за елементите, лежащи на първите няколко диагонала, успоредни на главния в една квадратна и симетрична матрица. Теорема 2.2.3 дава възможност да се провери дали матрицата може да се допълни до положително определена матрица. Необходимо е предварително фиксираните елементи на матрицата да попадат в границите, определени от неравенства (2.2.17) – (2.2.19). От друга страна, Теорема 2.2.3 определя граници, в които да се изберат последователно, в указания по – горе ред нефиксираните предварително елементи на матрицата.

Съгласно Теорема 2.2.3, при интегриране по отношение на елементите на една положително определена матрица трябва да се спазва последователност, обратна на тази, зададена с фигура 4: първо се интегрира по отношение на елемента , след това последователно по елементите,

лежащи на диагоналите, успоредни на главния, доближавайки се към него. И тук, диагоналните елементи остават последни.

1,na

По този начин и двете Теореми 2.2.2 и 2.2.3 решават поставената задача да бъде определен реда и границите на интегриране по отношение на елементите на една положително определена (ковариационна) матрица.

 39

2.3 Генериране и параметризация на положително определени матрици Пространството от всички реални, положително определени матрици от ред

ще означаваме с , т.е. . n ( , )nP Y ( , ) Y 0, Y n nn ×∈ ⇔ ∈PДа означим с пространството от всички реални симетрични

матрици от ред , с положителни диагонални елементи и с елементи извън главния диагонал в граници (-1,1), т.е.

( , )nDn

X ( , ) ⇔ ,

, ,

X , 0, 1, ,= ( 1,1),1

n ni i

i j j i

,x i nx x i

×∈ > =

j n∈ − ≤ < ≤

…. n∈D

В настоящият параграф са установени две различни взаимно – еднозначни съответствия и между пространствата и . Това дава

възможност да бъдат получени две различни параметризации на една положително определена матрица (фиг. 5).

h h ( , )nD ( , )nP

Ограниченията върху новите променливи ,i jx , са значително опростени. Те са еднакви за двете параметризации: ,

, ,

1 i j n≤ ≤ ≤

, 0i ix >1, ,i n= … , ( 1,1)i jx ∈ − 1 i j n≤ < ≤ .

 40

Теорема 2.3.1 Нека е изображението , съпоставящо на всяка матрица

h : ( , ) ( , )h n n→D P,X ( i j )x= , X ( ,n )∈D симетрична

матрица ,Y ( )i jy= , Y ( , такава че ,n∈P )

n , , , 1, ,i i i iy x i= = … , (2.3.1)

1, 1, 1,1 , , 2, ,i i i iy x x x i= = … n , (2.3.2)

112 2

, , , , , , ,1 1

(1 )(1 )ri

i j i i j j r i r j q i q jr q

y x x x x x x−−

= =

⎡ ⎛ ⎞= −⎢ ⎜ ⎟

⎢ ⎝ ⎠⎣∑ ∏ − (2.3.3)

12 2

, ,1

(1 )(1 )i

i j q i q jq

x x x−

=

⎤+ − − , ⎥

⎦∏ , 2, , 1, 1, ,i n j i n= − = +… … .

Тогава е взаимно - еднозначно съответствие (биекция). h

Доказателство: Да разгледаме най-напред изображението , дефинирано с равенствата : ( , ) ( , )g n n→D P

n , , , 1, ,i i i iy x i= = … , (2.3.4)

,1 1, 1, 1,1 , , 2, ,i i i i iy y x y y i= = = … n

,

, (2.3.5)

,j i iy y j= (2.3.6)

0 j−

n

,det Y[{1, , },{1, , 1, }] det Y[{1, , }]det Y[{1, , 1, }]det Y[{1, , 1}]

i ji i j x i ii

− − +=

−… … … …

…,

2, , 1, 1, ,i n j i= − = +… … .

Нека ,X ( i j )x= , и X ( ,n∈D ) )Y (Xg= . С равенства (2.3.4) диагоналните

елементи в матрицата са определени по единствен начин. Освен това, понеже

Y, 0, 1, ,i ix i n> = … , то и

. (2.3.7) , 0, 1, ,i iy i> = … n

Равенства (2.3.5) определят еднозначно елементите върху първи ред и първи стълб в матрицата . Освен това, от Y 1, ( 1,1), 2, ,ix i n∈ − = … следва, че

 41

1,1 , 1, 1,1 ,i i i i iy y y y y− < < , 2, ,i n= … . (2.3.8)

Неравенствата (2.3.7) и (2.3.8) са еквивалентни на положителната определеност на матриците Y[{1, }], 2, ,i i n= … . Следователно, всички детерминанти под квадратния корен в (2.3.6) за са положителни. За равенства (2.3.6) определят еднозначно

елементите върху втори ред и втори стълб в матрицата . От

2, 3, ,i j= = … nn2, 3, ,i j= = …

Y2, ( 1,1), 3, ,jx j∈ − = … n n следва, че за 2, 3, ,i j= = …

0

,det Y[{1, , },{1, , 1, }] det Y[{1, , }]det [{1, , 1, }]

det [{1, , 1}] i ji i j i Y i j y

Y i− − − −

<−

… … … ……

(2.3.9)

0det Y[{1, , },{1, , 1, }] det Y[{1, , }]det [{1, , 1, }]det [{1, , 1}]

i i j i Y iY i

− − +<

−… … … …

…j−

nn

n

.

Съгласно Теорема 2.2.2 неравенствата (2.3.7), (2.3.8) и (2.3.9) са еквивалентни на положителната определеност на матриците

. Следователно всички детерминанти под квадратния корен в (2.3.6) за са положителни. Равенства (2.3.6) за

определят еднозначно елементите върху трети ред и трети стълб в матрицата . От

Y[{1,2, }], 3, ,i i = …3, 4, ,i j= = …

3, 4, ,i j= = …Y 3, ( 1,1), 4, ,jx j n∈ − = … следва, че неравенствата

(2.3.9) са изпълнени и за 3, 4, ,i j n= = … . Продължавайки по този начин накрая се вижда, че величините , , 1i jy i j n≤ ≤ ≤ , дефинирани с (2.3.4) –

(2.3.6) са реални, еднозначно определени и удовлетворяват неравенствата (2.3.9) за , 2, , 1i n= −… 1, ,j i n= + … . Това, съгласно Теорема 2.2.2 означава, че матрицата е положително определена, т.е. и че

е функция от в . Y Y ( ,n∈P )

)g ( , )nD ( , )nP Нека сега , ,Y ( )i jy= Y ( ,n∈P . Нека да положим

, , , 1, ,i i i ix y i n= = … , (2.3.10)

1,,1 1,

1,1 ,

, 2, ,ii i

i i

yx x i

y y= = = … n , (2.3.11)

 42

0j

n

,, ,

det Y[{1, , 1}] det Y[{1, , },{1, , 1, }]det Y[{1, , }]det Y[{1, , 1, }]

i jj i i j

y i i ix x

i i j− + −

= =−

… … …… …

, (2.3.12)

2 i j≤ < ≤ .

Съгласно Теорема 2.2.2, елементите , ,1i jy i j n≤ ≤ ≤ удовлетворяват

неравенствата (2.3.7), (2.3.8) и (2.3.9) за 2, , 1, 1, ,i n j i n= − = +… … . Оттук

, 0, 1, ,i ix i n> = … и , ( 1,1), 1i jx i j n∈ − ≤ < ≤ . Следователно матрицата . Лесно се проверява, че ,X ( ) ( , )i jx n= ∈D (X) Yg = . Не е трудно да се

види, че ако то 1 2 1 2X X , X ,X ( ,n≠ ∈D ) 21(X ) (X )g g≠ . Следователно g е взаимно - еднозначно съответствие (биекция) от в . ( , )nD ( , )nP Теоремата ще бъде доказана ако се покаже, че за всяко ,

. За целта е достатъчно да се установи, че формула (2.3.6) може

да се запише във вида (2.3.3). Всяка една от четирите детерминанти във формула (2.3.6) трябва да се изрази чрез променливите

X ( ,n∈D )(X) (X)h g=

, ,1i jx i j n≤ ≤ ≤ . От

(2.3.6) лесно се получава равенство (2.3.12). От развитието на детерминантата det Y[{1, , },{1, , 1, }]i i j−… … по елементите от последния

ред (стълб) се вижда, че

,det Y[{1, , },{1, , 1, }] det Y[{1, , 1}]i ji i j y i− = −… … …

0det Y[{1, , },{1, , 1, }]i i j+ −… … .

Оттук

,det Y[{1, , },{1, , 1, }]

det Y[{1, , }]det Y[{1, , 1, }]i ji i jx

i i j−

=−

… …… …

2 i j n, ≤ < ≤

n

. (2.3.13)

Следователно, за 2 i j≤ < ≤

22,

det Y[{1, , }]det Y[{1, , 1, }] (det Y[{1, , },{1, , 1, }])1det Y[{1, , }]det Y[{1, , 1, }]i j

i i j i ixi i j− − −

− =−

… … … …… …

j

]

Като се приложи Твърдение 2.1.7 върху матрицата , се

получава равенството

Y[{1, , , }]i j…

Y[{1, , , }]det Y[{1, , 1}i j i −… …

2j−det Y[{1, , }]det Y[{1, , 1, }] (det Y[{1, , },{1, , 1, }])i i j i i= − −… … … … .

 43

Следователно

2,

Y[{1, , , }]det Y[{1, , 1}]1det Y[{1, , }]det Y[{1, , 1, }]i j

i j ixi i j

−− =

−… …… …

2 i j n, ≤ < ≤ . (2.3.14)

От (2.3.4) и (2.3.5) следва, че

21,

1,1 , 1,1 ,

det Y[{1, }] det Y[{1, }]1 ii i i i

i ixy y x x

− = = , . (2.3.15) 2, ,i = … n

Като се използват представянията (2.3.14) и (2.3.15), чрез индукция по може да се докаже следната формула q

2 2 21, 2, ,

,

det Y[{1, , , }](1 )(1 ) (1 )det Y[{1, , }]r r q r

r r

q rx x xy q

− − − =………

, (2.3.16)

за всеки две цели числа и , такива, че 1q r q r n≤ < ≤ . Наистина, за 1q =

формула (2.3.16) следва директно от представянето (2.3.15). Да допуснем, че формула (2.3.16) е вярна за някое в граници q 1 1q r≤ < − . Оттук и от

представянето (2.3.14) следва, че

2 2 21, , 1, 1,

,

det Y[{1, , , }](1 ) (1 )(1 ) (1 )det Y[{1, , }]r q r q r q

r r

q rx x x xy q+ +− − − = −

………

2r

=det Y[{1, , , }]q r…

, det Y[{1, , }]r ry q…det Y[{1, , 1, }] det Y[{1, , }]q r q+… …det Y[{1, , 1}] det Y[{1, , , }]q q+… … r

,

det Y[{1, , 1, }]det Y[{1, , 1}]r r

q ry q

+=

+……

,

т.е. равенство (2.3.16) е вярно и за q +1. Следователно е вярно по индукция. За 1q r= − от равенство (2.3.16) следва, че

2 2 21, 2, 1,

,

det Y[{1, , }](1 )(1 ) (1 )det Y[{1, , 1}]r r r r

r r

rx x xy r−− − − =

−………

. (2.3.17)

С помощта на получените представяния (2.3.16) и (2.3.17), за може да бъде изведена следната формула 1 q r n≤ < ≤

 44

21,1 , , , ,

1 1

det Y[{1, , , }] (1 ) (1 )q

q q r r k l k rk l q k

q r x x x x x≤ < ≤ =

⎛ ⎞⎛ ⎞= −⎜ ⎟⎜ ⎟

⎝ ⎠⎝ ⎠∏ ∏… … 2− . (2.3.18)

Наистина, от (2.3.17) следва, че

12 2, ,

1 2 1 2 ,

det Y[{1, , }](1 ) (1det Y[{1, , 1}]

q ql

k l k lk l q l k l l l

lx xy l

−

≤ < ≤ = = =

⎛ ⎞− = − =⎜ ⎟ −⎝ ⎠

∏ ∏ ∏ ∏ ……

1,1 2,2 ,

det Y[{1, , }]

q q

qy y y

=……

.

Следователно, съгласно (2.3.10) и (2.3.16)

2 21,1 , , , ,

1 1

(1 ) (1 )q

q q r r k l k rk l q k

x x x x x≤ < ≤ =

⎛ ⎞⎛ ⎞− −⎜ ⎟⎜ ⎟

⎝ ⎠⎝ ⎠∏ ∏…

2, ,

1

det Y[{1, , }] (1 )r r k rk

y q=

⎛ ⎞= −⎜ ⎟

⎝ ⎠∏…

q

x

,,

det Y[{1, , , }]det Y[{1, , }] det Y[{1, , , }]det Y[{1, , }]r r

r r

q ry qy q

= =…… ……

q r

1i− ⎞− ⎟

⎠

− ⎟

12

i− ⎞⎟⎠

2 q r s n

.

От представянето (2.3.18) в частност следва, че

2 21,1 1, 1 , , ,

1 1 1

det Y[{1, , }] (1 ) (1 )i i i i k l k ik l i k

i x x x x x− −≤ < ≤ − =

⎛ ⎞⎛= −⎜ ⎟⎜

⎝ ⎠⎝∏ ∏… …

21,1 , ,

1

(1 )i i k lk l i

x x x≤ < ≤

⎛ ⎞= ⎜

⎝ ⎠∏… , (2.3.19)

21,1 1, 1 , , ,

1 1 1

det Y[{1, , 1, }] (1 ) (1 )i i j j k l k jk l i k

i j x x x x x− −≤ < ≤ − =

⎛ ⎞⎛− = − −⎜ ⎟⎜

⎝ ⎠⎝∏ ∏… … . (2.3.20)

≤ Нека q, r и s са цели числа, такива че < < ≤ . Чрез индукция

по q може да се докаже следното представяне

 45

0det Y[{1, , , },{1, , , }]q r q s… … (2.3.21)

12 2

1,1 , , , , , , , ,11 1

(1 ) (1 )(1 )q k

q q r r s s k l k r k s l r l skk l q l

x x x x x x x x x−

=≤ < ≤ =

⎛ ⎞ ⎛ ⎞= − − − −⎜ ⎟ ⎜ ⎟

⎝ ⎠⎝ ⎠∑∏ ∏… 2 .

Лесно се вижда, че формула (2.3.21) е вярна за 2q = . Да допуснем, че формулата е вярна за някое q, 2 q r 1≤ < − . Ще я докажем за q+1. Като се приложи Твърдение 2.1.6 върху матрицата ,

се получава равенството

0Y[{1, , 1, },{1, , 1, }]q r q s+ +… …

0det Y[{1, , 1, },{1, , 1, }] det Y[{1, , }]q r q s q+ +… … … (2.3.22)

0

]q r

detY[{1, , , },{1, , , }] detY[{1, , 1}]q r q s q= +… … …

det Y[{1, , 1},{1, , , }]det Y[{1, , 1},{1, , , }q q s q− + +… … … … .

Детерминантите и det Y[{1, , }]q… det Y[{1, , 1}]q +… в (2.3.22) могат да се изразят с помощта на представянето (2.3.19), а

- като се използва индукционното допускане. Съгласно (2.3.13),

0det Y[{1, , , },{1, , , }]q r q s… …

,det Y[{1, , },{1, , 1, }] det Y[{1, , }]det Y[{1, , 1, }]i ji i j x i i j− = −… … … … .

Следователно, като се използват равенствата (2.3.19) и (2.3.20), детерминантите det Y[{1, , 1},{1, , , }]q q s+… … Y[{1, , 1},{1, , , }]q q r+… …, det в (2.3.22) също могат да се изразят чрез променливите , , 1i jx i j n≤ ≤ ≤ .

Така, след заместване в (2.3.22) и преобразуване се получава, че формула (2.3.21) е вярна и за q+1, и следователно е вярна по индукция. От представянето (2.3.21) следва в частност, че

0det Y[{1, , },{1, , 1, }]i i j−… … (2.3.23)

112

ki −− ⎞⎟⎠

2 21,1 1, 1 , , , , , , ,

11 1 1

(1 ) (1 )(1 )i i i i j j k l k i k j l i l jkk l i l

x x x x x x x x x− −=≤ < ≤ − =

⎛ ⎞ ⎛= − − − −⎜ ⎟ ⎜

⎝ ⎠ ⎝∑∏ ∏… .

Като се използват равенствата (2.3.19), (2.3.20) и (2.3.23) във формула (2.3.6), след преобразуване се получава представянето (2.3.3), с което доказателството е завършено. □

 46

Изображението беше дефинирано въз основа

на необходимите и достатъчни условия за положителна определеност на матрица, зададени с Теорема 2.2.2. Въз основа на необходимите и достатъчни условия за положителна определеност, дадени с Теорема 2.2.3 може да се дефинира изображение , такова че

: ( , ) ( , )h n n→D P

n

: ( , ) ( , )h n n→D P

, , , 1, ,i i i iy x i= = … , (2.3.24)

, 1 1, , 1 , 1, 1 , 1, ,i i i i i i i i i iy y x y y i n+ + + + += = = −… 1

,y y

, (2.3.25)

,i j j i= (2.3.26)

0j i−

n

,( 1) detY[{ , , 1},{ 1, , }] detY[{ , , 1}]detY[{ 1, , }]detY[{ 1, , 1}]

i ji j i j x i j i ji j

− − + + − +=

+ −… … … …

…

1, , 2, 2, ,i n j i= − = +… … .

Теорема 2.3.2 Нека е изображението , съпоставящо на всяка матрица

h : ( , ) ( , )h n n→D P,X ( i j )x= , X ( ,n )∈D симетрична

матрица ,Y ( i jy )= , , определена с равенства (2.3.24) - (2.3.26).

Тогава е взаимно - еднозначно съответствие (биекция).

Y ( ,n∈P )

h Доказателство: Доказателството използва необходимите и

достатъчни условия за положителна определеност на матрица, дадени с Теорема 2.2.3. Подходът е аналогичен на първата част от доказателството на Теорема 2.3.1. □

За 2j i= + от формула (2.3.26) се получава израза

2 2, 2 , 2, 2 , 1 1, 2 , 2 , 1 1, 2(1 )(1 )i i i i i i i i i i i i i i i iy x x x x x x x+ + + + + + + + + +

⎡ ⎤= + − −⎣ ⎦ ,

който е подобен на формула (2.3.3) за 2i = и 3, ,j n= … . Елементите ,

на матрицата се изразяват по-сложно чрез

елементите на в сравнение с формула (2.3.3) за изображението . Може да се докаже, че за 3 2

,i jy

3 2i j≤ + < ≤ n )

n

Y (Xh=

X hi j≤ + < ≤

 47

, , , deti j i i j jy x x= F . (2.3.27)

Матрицата има вида F

2 2 2 2, 1 , 1 1, 2 1, 2 , 1 2, 3 1,

2 2, 2 1, 2 1, 2 2, 3 2,

2 2, 3 , 2 1, 3 1, 3 2, 3 3,

, 1, 2,

(1 )(1 ) (1 )(1 )

(1 )(1 )

(1 )(1 )

i i i i i i i i i i i i j

i i i i i i i i j

i i i i i i i i i i j

i j i j i j j j

x x x x x x

x x x x

x x x x x g

f f f

+ + + + + + + + +

+ + + + + + +

+ + + + + + + +

+ +

⎛ − − − − − −⎜⎜ − − −⎜⎜ − −

⎝ 1,

g

g

x −

⎞⎟⎟⎟⎟

⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟

⎠

,

където

22 2

, , 1 1, 1,(1 )(1 )j i

s j i k i k i s i s jk s

g x x x− −

+ + + + − + −=

⎛ ⎞= − − −⎜ ⎟

⎝ ⎠∏ 1,2,3j , s = ,

1 22 2

, , , ,2 1

(1 ) (1 )j j

s j s j s k k jk s k s

f x x x− −

= + = +

⎛ ⎞⎛ ⎞⎟⎠

= − −⎜ ⎟⎜⎝ ⎠⎝∏ ∏ , 1, 2, s i i i= + +

)

.

Ето защо изображението е по-добре да се задава чрез формули (2.3.24) – (2.3.26), които имат компактен вид и също дават възможност за намиране на образа на произволна матрица X (

h

(X)h ,n∈D .

Да означим с матриците от с фиксирани елементи по главния диагонал

1,1 ,( , ; , , )n nn x x…D ( , )nD1,1x , ..., ,n nx . Аналогично, нека

е означение за множеството от всички матрици, принадлежащи на , които имат диагонални елементи .

1,1 ,( , ; , , )n nn y y…P( , )nP 1,1 ,, , n ny y…

Теорема 2.3.3 Нека , ih 1,2i = са изображенията 1h h= и . Tогава е биекция от в и за произволна матрица

2h h= ih( , ;1, ,1)n …D ( , ;1, ,1)n …P

,X ( i j )x= от ( , )nD

1,2 1,

1,2 2,

1, 2,

11

(X)

1

n

ni i

n n

x xx x

h D h

x x

⎛ ⎞⎛ ⎞⎜ ⎟⎜ ⎟⎜ D⎜ ⎟= ⎜⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠⎝ ⎠

1,2i =⎟⎟ , , (2.3.28)

 48

където е диагонална матрица, D 1,1 ,( , , n n )D diag x x= … .

Доказателство: Теоремата е следствие от Теореми 2.3.1, 2.3.2 и от факта, че и двете изображения запазват диагоналните елементи на матрицата

. Представянето (2.3.28) следва от формули (2.3.3) и (2.3.27), даващи поелементно връзката между матрицата и нейния образ при съответното изображение. □

XX

2.4 Параметризация и свойства на корелационни и ковариационни матрици Нека е -мерен случаен вектор с ковариационна матрица 1( , , )t

nX X=x … n,( i j )σΣ = и корелационна матрица ,P ( )i jρ= . Матрицата е от

множеството , дефинирано в предишния параграф. Съгласно Теорема 2.3.3, съществува единствена матрица

P( , ;1, ,1)n …P

X ( , ;1, ,n 1)∈ …D , така че . Връзката между елементите на матриците и се задава чрез

формули (2.3.1) – (2.3.3), които при P= (X)h P X

, 1i ix = , 1, ,i n= … добиват вида

, , 1, 1, ,i i i ix i nρ = = = … , (2.4.1)

1, 1, , 2, ,i ix i nρ = = … , (2.4.2)

1 112 2 2

, , , , , , ,1 1 1

(1 )(1 ) (1 )(1 )r ii

i j r i r j q i q j i j q i q jr q q

2,x x x x x xρ

− −−

= = =

⎛ ⎞= − − + −⎜ ⎟

⎝ ⎠∑ ∏ ∏ x−

n

, (2.4.3)

2, , 1, 1, ,i n j i= − = +… … .

Положителната определеност на корелационната матрица е еквивалентна на условията , 1

P, ( 1,1)i jx ∈ − i j n≤ < ≤ .

Нека векторът има многомерно нормално разпределение . За фиксирани ,

x (μ,Σ)nNi j , , да разгледаме подвектора на , състоящ се

от случайните величини . Съгласно Твърдение 2.1.9, той ще

има също многомерно нормално разпределение. Ковариационната му матрица ще е . При фиксирани , условното

2 i j≤ < ≤ nj

1

x1, , ,iX X X…

[{1, , , }]i jΣ … 1, , iX X −…

 49

съвместно разпределение на и , съгласно Твърдение 2.1.10 ще е

отново нормално, с ковариационна матрица

iX jX

[{1, , , }]/ [{1, , 1}]i j iΣ Σ −… …

1, 1,, , 1, 1, 1

, , 1, 1,1, 1,

( [{1, , 1}])i j

i i i j i i i

i j j j j i ji i i j

iσ σ

σ σ σ σσ σ σ σ

σ σ

− −

−− −

⎛ ⎞⎛ ⎞ ⎛ ⎞ ⎜ ⎟= − Σ −⎜ ⎟ ⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠ ⎜ ⎟

⎝ ⎠

…

−⎟

⎟⎟

⎟⎟

⎟⎟

X

1

, 1, , 1 , 1, , 1

, 1, , 1 , 1, , 1

i i i i j i

i j i j j i

σ σσ σ

−

− −

⎛ ⎞= ⎜⎝ ⎠

i … i …

i … i …, (2.4.4)

където

( )1,

1, 1, , 1 , 1, 1,

1,

( [{1, , 1}])i

i i i i i i i i

i i

iσ

σ σ σ σσ

−− −

−

⎛ ⎞⎜= − Σ − ⎜⎜ ⎟⎝ ⎠

i … … , (2.4.5)

( )1,

1, 1, , 1 , 1, 1,

1,

( [{1, , 1}])j

i j i i j i i i

i j

iσ

σ σ σ σσ

−− −

−

⎛ ⎞⎜= − Σ − ⎜⎜ ⎟⎝ ⎠

i … … , (2.4.6)

( )1,

1, 1, , 1 , 1, 1,

1,

( [{1, , 1}])j

j j i j j j i j

i j

iσ

σ σ σ σσ

−− −

−

⎛ ⎞⎜= − Σ − ⎜⎜ ⎟⎝ ⎠

i … … . (2.4.7)

Аналогично, подвектора на , състоящ се от случайните величини ще има съвместно нормално разпределение с ковариационна

матрица . При фиксирани

x1, , iX …

[{1, , }]iΣ … 1, , iX X −… , условното разпределение на ще е също нормално, с дисперсия равна на допълнението на Шур на матрицата

iX[{1, , 1}]iΣ −… в [{1, , }]iΣ … . Не е трудно да се види, че

е равно на дясната част на (2.4.5). Понеже тя е

число, като се използва Твърдение 2.1.4 се получава равенството

[{1, , }]/ [{1, , 1}]i iΣ Σ… … −

, 1, , 1det [{1, , }]

det [{1, , 1}]i i ii

iσ −

Σ=

Σ −i ………

. (2.4.8)

 50

По същия начин, разглеждайки сега подвекторът на , състоящ се от случайните величини ще получим че

x1 1, , ,iX X −… jX

, 1, , 1det [{1, , 1, }]det [{1, , 1}]j j i

i ji

σ −

Σ −=

Σ −i ………

, (2.4.9)

където , 1, , 1j j iσ −i … е дефинирана с (2.4.7).

Дясната част на равенство (2.4.6) е допълнението на Шур на матрицата [{1, , 1}]iΣ −… в матрицата [{1, , },{1, , 1, }]i i jΣ −… … . Така, от

Твърдение 2.1.4 се получава

, 1, , 1det [{1, , },{1, , 1, }]

det [{1, , 1}]i j ii i

iσ −

jΣ −=

Σ −i …… …

…. (2.4.10)

Съгласно Определение 2.1.9, частната корелация , 1, , 1i j iρ −i … между и , при фиксирани

iX

jX 1, , iX X 1−… , се получава от (2.4.4) по формулата

, 1, , 1, 1, , 1

, 1, , 1 , 1, , 1

i j ii j i

i i i j j i

σρ

σ σ−

−− −

= i …i …

i … i …

.

Като се използват представянията (2.4.8) – (2.4.10),

, 1, , 1det [{1, , },{1, , 1, }]

det [{1, , }]det [{1, , 1, }]i j ii i j

i iρ − j

Σ −=

Σ Σ −i …… …

… …

det P[{1, , },{1, , 1, }]det P[{1, , }]det P[{1, , 1, }]

i i ji i j

−=

−… …

… ….

Това, съгласно равенство (2.3.13) означава, че

, , 1, ,i j i j ix 1ρ −= i … , 2 i j n≤ < ≤ . (2.4.11)

Следователно, параметризацията на една корелационна матрица на нормално разпределен случаен вектор има статистическа интерпретация, видна от (2.4.11). Понеже е биекция, ковариационната матрица на случайния вектор също може да бъде представена по единствен начин като образ при изображението . Нека

h Σx

h (X)hΣ = , X ( ,n )∈D . От (2.3.1) се вижда, че

 51

, ,i i i ix σ= , 1, ,i n= … . (2.4.12)

Нека е матрицата, получена от матрицата , след поставяне на единици на местата на диагоналните елементи на . Матрицата е от

. От равенство (2.3.28) се вижда, че , където е

корелационната матрица на случайния вектор . За извъндиагоналните елементи на получихме представяния чрез частните коефициенти на корелация. Понеже извъндиагоналните елементи на и съвпадат,

представянията (2.4.2) и (2.4.11) ще важат и за елементите на .

1X XX 1X

( , ;1, ,1)n …D 1(X ) Ph = P

x1X

1X X

X Следователно произволна ковариационна матрица на едно многомерно нормално разпределение може да бъде параметризирана посредством равенства (2.3.1) – (2.3.3) чрез променливи

Σ

,i jx , , удовлетворяващи ограниченията ,

1 i j n≤ ≤ ≤

, 0i ix > 1, ,i n= … , , ( 1,1)i jx ∈ − ,

и имащи статистическа интерпретация, зададена с (2.4.12),

(2.4.2) и (2.4.11).

1 i j n≤ < ≤

По този начин решаваме поставената задача за намиране на удобни параметризации за произволни ковариационни и корелационни матрици, със значително опростяване на условията върху новите променливи, които да имат и ясна статистическа интерпретация. Извадъчните ковариационна и корелационна матрици и , дефинирани с (2.1.7) – (2.1.9), са положително определени случайни матрици. Техните първообрази при изображението ще са случайни матрици, които можем да означим с

S R

hξ и , приемащи стойности от

и съответно. 1ξ ( , )nD

( , ;1, ,1)n …D Да определим разпределението на матриците ξ и , при което матриците

1ξ( )h=S ξ и 1( )h=R ξ ще са разпределени като извадъчните

ковариационна и корелационна матрици, получени при наблюдения над многомерно нормално разпределен случаен вектор. Използвайки Теорема 2.3.3 се вижда, че извъндиагоналните елементи на ξ и ще съвпадат по разпределение и че случайната матрица ще има единици по главния си

диагонал.

1ξ

1ξ

Нека , ..., са 1x 1m+x 1m + независими наблюдения над случаен 1n× ( ) вектор с многомерно нормално разпределение , с вектор от математическите очаквания

1n m< + x (μ,Σ)nNμE =x и ковариационна матрица .

Извадъчната ковариационна матрица в този случай има разпределение на

Σ

S

 52

Уишарт 1, ΣnW mm

⎛⎜⎝ ⎠

⎞⎟ ([104]). Случайна n n× матрица , имаща

разпределение на Уишарт

W

( , )nW m Ξ с параметър ( n ) и ( ) степени на свобода, притежава плътност

n× 0Ξ m1n m< + (W)f , която има вида

11 1( 1) (W )2 2

{W 0}2 2

1(W) (det W)2 (det )

2

m n tr

nm m

n

f em

−− − − Ξ=

⎛ ⎞Γ Ξ⎜ ⎟⎝ ⎠

I . (2.4.13)

Тук и по-долу MI е индикатора на дадено множество M . С ( )nΓ ⋅ е

означена многомерната Гама функция,

( ) ( 1) / 4

1[ (1 ) / 2

nn n

nj

jα π α−

=Γ = Γ + −∏ ] . (2.4.14)

Нека е произволна неслучайна A q n× матрица с ранг q и е случайна n

Wn× матрица, W ( , )nW m Ξ∼ . Тогава ([5], [104])

A A ( ,A A )tqW m ΞW ∼ t . (2.4.15)

Съгласно Твърдение 2.1.2, произволна положително определена матрица Ξ може да бъде представена като произведение , където e

диагонална матрица с положителни диагонални елементи – собствените стойности на матрицата

QΛQtΞ = Λ

Ξ и e ортогонална матрица, образувана от съответните им собствени вектори. Оттук, ако W , то може да

се запише като произведение

Q( , )nW m Ξ∼ W

Q Qt=W V , (2.4.16)

където . По този начин резултатите, получени за разпределението

( ,Λ)nW mV ∼( , )nW m Λ могат да бъдат преформулирани за

разпределението ( , )nW m Ξ .

Следващите Теорема 2.4.1 и Следствие 2.4.1 дават възможност за допълнително разлагане като произведение на матрицата в (2.4.16), както и за определяне на разпределението на извадъчната корелационната матрица

, в случая, когато .

V

R Σ = Λ

 53

Теорема 2.4.1 Нека ,( )i jW=W е n n× симетрична случайна матрица с

разпределение на Уишарт ( , )nW m Ξ . Нека M е множеството от случайни величини, ,{ , 1, , , , 1 }M i i jT i n U i j= = ≤ <…

T W=

n≤ , такива че

,i i i , 1, ,i n= … , ,,

, ,

i ji j

i i j j

WU

W W= , 1 i j n≤ < ≤ .

Тогава, съвместната плътност на случайните величини от M има вида

1 ,( , , , ,1 )M n i jf t t u i j n≤ < ≤…

1

1

1 1 12 (TUT )1 2 2

{U 0} { 0} { 0}2 2

( ) (det U)2 (det )

2

n

mm n tr

ntnm m

n

t t em

−− − −

− Ξ

>=⎛ ⎞Γ Ξ⎜ ⎟⎝ ⎠

… …I I I t > , (2.4.17)

където е диагоналната матрица T 1T ( , , ndiag t t= … )

.⎟⎟

n

, а е

матрицата

U

1,2 1,

1,2 2,

1, 2,

11

U

1

n

n

n n

u uu u

u u

⎛ ⎞⎜ ⎟⎜=⎜⎜ ⎟⎝ ⎠

(2.4.18)

Доказателство: Съвместната плътност на величините ,

е дадена с дясната част на (2.4.13). Диагоналните елементи на една положително определена матрица са винаги положителни

числа. Това лесно се вижда, ако разгледаме векторите с 1 на -та позиция,

,i jW1 i j n≤ < ≤

,W=( )i jwv (0, ,0,1,0, ,0)t

i = … …i 1, ,i = … . Съгласно Определение 2.1.1. ( ), всички

произведения трябва да са положителни. Следователно величините ,

h

,v Wvti i iw= i

n,i i iW T= 1, ,i = … с вероятност 1 са положителни.

Обратните трансформационни формули са

,i i iW T= , 1, ,i n= … ,

, ,i j i j i jW U T T= , 1 i j n≤ < ≤ .

Якобианът на трансформацията е

 54

1,1 , 1,2 1,

1 21 1,2 1,

1

1 0 0 0

0 1 0 0( , , , , , )J

0 0 0( , , , , , )

0 0 0

n n n n

n n n

n n

W W W WTTT T U U

T T

−

−

−

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟∂⎜ ⎟= =

∂ ⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

… …… …

.

Следователно,

12

1det J ( )n

nT T−

= … .

В сила е представянето

1 11,2 1,

1,2 2,2 2

1, 2,

0 0 0 0110 0 0 0

10 0 0 0

n

n

n nn n

T TU UU UT T

U UT T

⎛ ⎞ ⎛ ⎞⎛ ⎞⎜ ⎟ ⎜ ⎟⎜ ⎟⎜ ⎟ ⎜ ⎟⎜ ⎟=⎜ ⎟ ⎜ ⎟⎜ ⎟⎜ ⎟ ⎜ ⎟⎜ ⎟⎜ ⎟ ⎜ ⎟⎝ ⎠⎝ ⎠ ⎝ ⎠

W (2.4.19)

Като се замести в дясната част на (2.4.13) W TUT= и се умножи с , за съвместната плътност на случайните величини от множеството

det JM се

получава

1 ,( , , , ,1 )M n i jf t t u i j n≤ < ≤…11 1

UT 0}

m n −− − (TUT ) 12 22

1 {T2 2

(det(TUT)) ( )2 (det )

2

tr n

nnm m

n

e t tm

− Ξ −

=⎛ ⎞Γ Ξ⎜ ⎟⎝ ⎠

… I

11 1 12 (TUT )( )

mm n trt t −

− − −− Ξ

1 2 2{TUT 0}

2 2

(det U)2 (det )

2

nnm m

n

em

=⎛ ⎞Γ Ξ⎜ ⎟⎝ ⎠

… I .

Остава да се покаже, че

W TUT 0= ⇔ , , U 0 0it > 1, ,i n= … . (2.4.20)

Понеже матрицата е диагонална, лесно се вижда, че за всяко цяло число , 1

Tk k n≤ ≤

W[{1, k}] T[{1, ,k}]U[{1, ,k}]T[{1, ,k}], =… … … … .

 55

Следователно между главните минори на матриците и съществува връзката

U

kt t

W

1detW[{1, ,k}] det U[{1, ,k}]=… …

2 2

… . (2.4.21)

Величините , ..., са диагонални елементи в матрицата и

следователно са положителни, ако . Оттук, използвайки представянето (2.4.21) и Твърдение 2.1.3 се вижда верността на (2.4.20). □

1t nt W

W 0

Следствие 2.4.1 При условията на Теорема 2.4.1, нека , където е диагонална матрица,

ΛΞ = Λ1Λ ( , , )ndiag σ σ= … . Тогава множеството от

случайни величини е независимо от множеството . Величините са взаимно независими и

, . Съвместната плътност на случайните величини има вида

1{ , , }nT T…,{ ,1 }i jU i j n≤ < ≤ T

2 2i iT mσ χ = …

U i j n≤ < ≤

1, , nT …/ ~ ( ) 1, ,i n, ,1i j

12

, {2( ,1 ) (det U)

2

m n

i j

n

m

f u i j nm

− −⎡ ⎤⎛ ⎞Γ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦≤ < ≤ =

⎛ ⎞Γ ⎜ ⎟⎝ ⎠

U I U 0}

n

n≤ < ≤

, (2.4.22)

където е матрицата (2.4.18). U

Доказателство: Съвместната плътност на величините , и за произволна

iT 1, ,i n= …, ,1i jU i j Ξ е дадена с (2.4.17). При

2 2ndiag 1=Λ= ( , , )σ σΞ … 2 2

1det =, nσ σΞ … -1 2 2 и 1= (1/ , ,1/ )ndiag σ σΞ … . Оттук

-1 1 22 21 2

(TUT ) n

n

t t ttr 2σ σ σΞ = + + + .

Съвместната плътност (2.4.17) може да се запише във вида

1 ,( , , , ,1 )M n i jf t t u i j n≤ < ≤… =1

2{U 0}

1

2 (det U) ( )

2

m n n

i ii

n

mn

f tm

− −

=

⎡ ⎤⎛ ⎞Γ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦⎛ ⎞Γ ⎜ ⎟⎝ ⎠

∏I ,

 56

21 22{ 0}

2

1( )2

2

i

ii

m

i i i tmmi

f t t em

σ

σ

−−

>=⎛ ⎞Γ⎜ ⎟⎝ ⎠

I1 t

, 1, ,i n= … .

Оттук се вижда, че величините , iT 1, ,i n= … са независими помежду си, независими са от величините , ,1i jU i j n≤ < ≤ и че последните имат

съвместната плътност, зададена с (2.4.22). Плътността на е iT ( )if t . Остава да се покаже, че , 2 2/ ~ ( )i iT mσ χ 1, ,i n= …

i

. За целта, да разгледаме величините 2/i iTτ σ= , 1, ,i n= … . Понеже 2

i iT iσ τ= , Якобианът на

трансформацията iT → iτ е 2J ii

i

dTd

στ

= = . Плътността на iτ се получава, като

във ( )i if t по-горе се замени с it2i yσ и се умножи накрая със стойността на

Якобиана, т.е.

( )i

f yτ =1

2 2{ 0}

2

1

22

m y

ym y em

− −

>⎛ ⎞Γ⎜ ⎟⎝ ⎠

I , 1, ,i n= … ,

а това е плътността на хи-квадрат разпределението (виж Апендикс

А). □

2 ( )mχ

Ще използваме означението ( )n mψ за разпределението с плътност

(2.4.22). От представянето (2.4.19) и Следствие 2.4.1 се вижда, че произволна

случайна матрица с разпределение , W ( ,Λ)nW m 2 21Λ ( , , ndiag )σ σ= … ,

може да се запише като произведение

=W TUT , (2.4.23)

където и са независими случайни матрици, матрицата има единици по главния си диагонал и

T U U( )n mψU ∼ , а матрицата T е диагонална матрица с

независими помежду си диагонални елементи , ,

. Като се вземе предвид разлагането (2.4.16) се вижда, че произволна случайна матрица

,i iT 2 2 2, / (i i iT mσ χ∼ )

n1, ,i = …( , )nW m ΞW ∼ може да се запише като

произведение

 57

Q t=W TUTQ

1( , , )ndiag

, (2.4.24)

където е неслучайна ортогонална матрица, такава че е диагонална матрица

Q Q QtΞ2 2σ σ… T

i i iT mσ χ∼ 1, ,i, е случайна диагонална матрица, независима от

, с диагонални елементи , , U ,i iT 2 2 2, / ( ) n= … U и е случайна

матрица с единици по главния си диагонал, имаща разпределение ( )n mψ . Ако е ковариационната матрица, изчислена въз основа на

независими наблюдения над случаен вектор с многомерно нормално разпределение

,( i jS=S )

1m +( ,Σ)nN μ , случайната матрица m=W S има разпределение

на Уишарт (виж [5]). Величините , в Теорема

2.4.1 са извъндиагоналните елементи на извадъчната корелационна матрица . Наистина,

( ,Σ)nW m ,i jU 1 i j n≤ < ≤

R

, , ,, ,

, , , , , ,

i j i j i ji j i j

i i j j i i j j i i j j

W mS SU R

W W mS mS S S= = = = , . 1 i j n≤ < ≤

Тогава, съгласно Следствие 2.4.1, разпределението на извадъчната корелационна матрица в случая, когато е диагонална матрица е точно R Σ

( )n mψ .

Следващата Теорема определя разпределението на случайната матрица , за което образът й при изображението , ще има разпределение

1ξ h 1( )h ξ( )n mψ .

Ще използваме означението ( , , , )Beta a bα β за бета разпределението с четири параметъра, дефинирано върху интервала ([38]) с плътност

от вида

( , )a b

1 1

1

( ) ( ) ( )( )( ) ( ) ( )

x a b xf xb a

α β

α β

α βα β

− −

+ −

Γ + − −=Γ Γ −

, a x b< < . (2.4.25)

Теорема 2.4.2 Нека 1 ,( i j )ξ=ξ е симетрична n n× случайна матрица с единици по главния си диагонал. Нека случайните величини , ,1i j i j nξ ≤ < ≤

са взаимно независими и , , , 1,2 2i j

m i m iBetaξ − −⎛ −⎜⎝ ⎠

∼ 1⎞⎟ , където е цяло

число, . Тогава, ако е изображението, зададено с равенствата (2.3.1) – (2.3.3), случайната матрица

m

m n≥ h1( )h=R ξ има разпределение ( )n mψ .

 58

Доказателство: Да означим с ( )if ⋅ плътността на разпределението

, , 1,12 2

m i m iBeta − −⎛ ⎞−⎜ ⎟⎝ ⎠

1, , 1, i n= −…

22 2

2 1

( )( ) (1 )[ (( ) / 2)] 2

m i

i m i

m if x xm i

− −

− −

Γ −= −

Γ −, 1 1x− < < .

Като се използва дупликационната формула за Гама функцията (виж [104], стр. 154)

2 11 1(2 ) 2 ( )2

xx xπ

− ⎛ ⎞Γ = Γ Γ +⎜ ⎟⎝ ⎠

x ,

за ( )if x се получава представянето

22 2(( 1) / 2)( ) (1 )

(( ) / 2) (1/ 2)

m i

im if x x

m i

− −Γ − += −Γ − Γ

, 1 1x− < < . (2.4.26)

Съвместната плътност на случайните величини , ,1i j i j nξ ≤ < ≤ ще

има вида

( ), ,1 , 1

i j i j n i jf x , i j nξ ≤ < ≤ ≤ < ≤ 1 1,2 1 1, 2 2,3 2 2, 1 1,( ) ( ) ( ) ( ) (n n nf x f x f x f x f x− − )n n= … … …

1 2

2

2

n n− −+1 2

2 21 1 2 1 1 1

2 2 2 2 2

m m m n

m m m n

− −⎡ ⎤ ⎡ ⎤⎛ ⎞ ⎛ ⎞ ⎛ ⎞Γ Γ Γ⎜ ⎟ ⎜ ⎟ ⎜ ⎟⎢ ⎥ ⎢ ⎥⎝ ⎠ ⎝ ⎠ ⎝ ⎠= ⎢ ⎥ ⎢ ⎥− − − +⎛ ⎞ ⎛ ⎞ ⎛ ⎞ ⎛ ⎞ ⎛ ⎞ ⎛ ⎞⎢ ⎥ ⎢ ⎥Γ Γ Γ Γ Γ Γ⎜ ⎟ ⎜ ⎟ ⎜ ⎟ ⎜ ⎟ ⎜ ⎟ ⎜ ⎟⎢ ⎥ ⎢ ⎥⎝ ⎠ ⎝ ⎠ ⎝ ⎠ ⎝ ⎠ ⎝ ⎠ ⎝ ⎠⎣ ⎦ ⎣ ⎦

…

22 2,

1

(1 )m i

i j Mi j n

x− −

≤ < ≤

× −∏ I =2

2 2,

1

2 (1 )

2

m i

i j Mi j n

n

m

xm

− −

≤ < ≤

⎡ ⎤⎛ ⎞Γ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦ −⎛ ⎞Γ ⎜ ⎟⎝ ⎠

∏

n

I ,

където MI е индикаторът на множеството от всички точки

,( ,1i j )x i j n≤ < ≤ в реалното пространство , за които ( 1) / 2n n−

, ( 1,1), 1i jx i j n∈ − ≤ < ≤ . Нека 1 ,X ( i j )x= е матрица от и нека . За

всеки две цели числа и , 1( , ;1, ,1)n …D 1Y (Xh= )

q r q r n≤ < ≤ , чрез индукция по може да се

докаже следната формула

q

 59

22 2,

1

(1 )m iq

i ri

x− −

=

−∏2 1

2 2

2

det Y[{1, , , }] det Y[{1, , 1, }]detY[{1, , }] detY[{1, , 1}]

m qq

i

q r i rq i

− −

=

⎛ ⎞ ⎛ −= ⎜ ⎟ ⎜ −⎝ ⎠ ⎝

∏… …… …

⎞⎟⎠

1

. (2.4.27)

Наистина, за формула (2.4.27) следва директно от представянето (2.3.15). Да допуснем, че формула (2.4.27) е вярна за някое в граници

. Оттук и от представянето (2.3.14) следва, че

1q =q

1 q r≤ < −

2 212 2 22 2, ,

1 1

(1 ) (1 ) (1 )m i m i m qq q

i r i r q ri i

x x x3

21,

− − − −+

+= =

⎛ ⎞− = − −⎜ ⎟

⎝ ⎠∏ ∏

− −

2 1m q− −

⎞⎟⎠

2 2

2

det Y[{1, , , }] det Y[{1, , 1, }]detY[{1, , }] detY[{1, , 1}]

q

i

q r i rq i=

⎛ ⎞ ⎛ −= ⎜ ⎟ ⎜ −⎝ ⎠ ⎝

∏… …… …

3m q2det Y[{1, , 1, }]det Y[{1, , }]

det Y[{1, , 1}]det Y[{1, , , }]q r qq q r

− −

⎛ ⎞+×⎜ ⎟+⎝ ⎠

… …… …

3 1m q− −

⎞⎟⎠

12 2

2

det Y[{1, , 1, }] det Y[{1, , 1, }]det Y[{1, , 1}] det Y[{1, , 1}]

q

i

q r i rq i

+

=

⎛ ⎞ ⎛+ −= ⎜ ⎟ ⎜+ −⎝ ⎠ ⎝

∏… …… …

,

т.е. равенство (2.4.27) е вярно и за +1. Следователно е вярно по индукция. qЗа 1q r= − от равенство (2.4.27) следва, че

1 121 12 2

2 2,

1 2

det Y[{1, , }] det Y[{1, , 1, }](1 )det Y[{1, , 1}] det Y[{1, , 1}]

m rm ir r

i ri i

r ixr i

− −− −− −

= =

⎛ ⎞ ⎛ −− = ⎜ ⎟ ⎜− −⎝ ⎠ ⎝

∏ ∏… …… …

r ⎞⎟⎠

.

Оттук

2 212 22 2, ,

1 2 1

(1 ) (1 )m i m ijn

i j i ji j n j i

x x− − − −−

≤ < ≤ = =

⎛ ⎞− = −⎜ ⎟

⎝ ⎠∏ ∏ ∏

1 1m j

j− −

⎞⎟

12 2

2 2

det Y[{1, , }] det Y[{1, , 1, }]det Y[{1, , 1}] det Y[{1, , 1}]

jn

j i

j ij i

−

= =

⎛ ⎞⎛ ⎞ ⎛ −⎜ ⎟= ⎜ ⎟ ⎜⎜ ⎟− −⎜⎝ ⎠ ⎝ ⎠ ⎟⎝ ⎠

∏ ∏… …… …

1 1m j

j− −

⎞⎟⎠

2 2

2 2

det Y[{1, , }] det Y[{1, , 1, }]det Y[{1, , 1}] det Y[{1, , 1}]

n

j i j n

j ij i= ≤ < ≤

⎛ ⎞ ⎛ −= ⎜ ⎟ ⎜− −⎝ ⎠ ⎝∏ ∏… …

… …

 60

( ) ( )( )

( )

12

1 122 2

1 13

2

2 1

det Y[{1, , 1, }]det Y det Y[{1, , 1}]

det Y[{1, , 1}]

nm ni j n

n nj

i j i

i jj

i

− −≤ < ≤

−=

= = +

−= −

⎛ ⎞−⎜ ⎟

⎝ ⎠

∏∏

∏ ∏

……

…

( ) ( )( )

( )

12

1 122 2

13 2

2

det Y[{1, , 1, }]det Y det Y[{1, , 1}]

det Y[{1, , 1}]

nm ni j nn n i

j

i

i jj

i

− −≤ < ≤

− −=

=

−= −

−

∏∏

∏

……

…

( )( )

( )

12

122

12

3

det Y[{1, , 1, }]det Y

det Y[{1, , 1}]

m ni j nn n i

i

i j

i

− −≤ < ≤

− −

=

−=

−

∏

∏

…

….

Следователно плътността на матрицата 1( )h=R ξ ще има вида

( )( )

( )

12

122

12

3

det Y[{1, , 1, }]2(Y) det Y det J

det Y[{1, , 1}]2

n

m ni j n

Mn n i

ni

m i jf

m i

− −≤ < ≤

− −

=

⎡ ⎤⎛ ⎞ −Γ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦=⎛ ⎞Γ −⎜ ⎟⎝ ⎠

∏

∏R

…

…I , (2.4.28)

където е Якобианът на трансформацията, J

( )( )

1,2 1, 2,3 2, 1,

1,2 1, 2,3 2, 1,

, , , , , , ,J

, , , , , , ,n n n

n n

x x x x xy y y y y

−

−

∂=∂

… … …… … …

n

n n

.

Обратните трансформационни формули се задават с равенства (2.3.11) и (2.3.12). Всички елементи над главния диагонал в Якобиана ще са равни на нула. Следователно ще е равна на произведението от диагоналните елементи, т.е.

Jdet J

1,2 1, 2,3 2, 1,

1,2 1, 2,3 2, 1,

det J n n

n n

x x x x xy y y y y

−

−

∂ ∂ ∂ ∂ ∂=∂ ∂ ∂ ∂ ∂

… … … n n

n n

1 1= 2

detY[{1, , 1}]detY[{1, , }]detY[{1, , 1, }]i j n

ii i≤ < ≤ j

−−∏ …

… …

 61

22

1 detY[{1,detY[{1, , 1, }] detY[{1, , }]i j n

i j n

ii j i≤ < ≤

≤ < ≤

=− ∏∏

…… …

, 1}]−.

Вторият множител може да се запише във вида

2

detY[{1, , 1}]detY[{1, , }]i j n

ii≤ < ≤

−=∏ …

…

1

2 1

detY[{1, , 1}]detY[{1, , }]

n n

i j i

ii

−

= = +

⎛ ⎞−⎜ ⎟⎜ ⎟⎝ ⎠

∏ ∏ ……

=( )

( )

1n−

12

12 2

3

detY[{1, , 1}]detY[{1, , 1}]

detY[{1, , }] detY[{1, , 1}]

n in i

nin n i

i

i

ii

i i

−−

−=

− +=

=

−⎛ ⎞−=⎜ ⎟⎜ ⎟

⎝ ⎠ −

∏∏

∏

……… …

( ) ( )1 1 1n nn i n i−

2 2

3 3

1 detY[{1, , 1}] detY[{1, , 1}]detY[{1, , 1}] i i

i in

− − − −

−= =

= − =− ∏ ∏… …

….

Следователно

det J( )

12

3

2

detY[{1, , 1}]

detY[{1, , 1, }]

n n i

i

i j n

i

i j

− −

=

≤ < ≤

−=

−

∏∏

…

….

Като се замести в (2.4.28) се получава

( )1

22(Y) det Y

2

n

m n

M

n

m

fm

− −

⎡ ⎤⎛ ⎞Γ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦=⎛ ⎞Γ ⎜ ⎟⎝ ⎠

R I .

Накрая, от обратните трансформационни формули (2.3.10) – (2.3.12) и Теорема 2.2.2 се вижда, че индикаторът MI съвпада с индикатора { 0}YI . □

Следствие 2.4.2 Нека 1 ,( i j )ξ=ξ е симетрична n n× случайна матрица с единици по главния си диагонал. Нека случайните величини , ,1i j i j nξ ≤ < ≤

са взаимно независими и ,1 1, , 1

2 2i jn i n iBetaξ − + − +⎛ ⎞−⎜ ⎟

⎝ ⎠∼ ,1 . Тогава, ако е

изображението, зададено с равенствата (2.3.1) – (2.3.3), случайната

h

 62

матрица ще има равномерно разпределение върху пространството .

1( )h=R ξ( , ;1, ,1)n …P

Доказателство: Твърдението е непосредствено следствие от Теорема

2.4.2 при . В този случай плътността на разпределението 1m n= + ( )n mψ е константа върху множеството . □ ( , ;1, ,1)n …P На различни разпределения на извадъчната корелационна матрица съответстват различни разпределения на матрицата

R1

1 ( )h−=ξ R . Обратно, при различни априорни разпределения за може да се изследва теоретично

или чрез симулация съответстващото разпределение на . При малък до среден обем от наблюдения, особено при наличието на липсващи данни, използването на Бейсов подход, основан на априорно разпределение за извадъчната корелационна матрица R е от съществено значение (виж [28]).

1ξ

R

Следствие 2.4.3 Нека ,( i j )ξ=ξ е симетрична n n× случайна матрица. Нека случайните величини , ,1i j i j nξ ≤ ≤ ≤ са взаимно независими,

, , , 1,2 2i j

m i m iBetaξ − −⎛ ⎞−⎜ ⎟⎝ ⎠

∼ 1 j за i ≠ и , където 2 2, / ~ (i i i mξ σ χ ) 1 , , nσ σ…

са положителни реални числа, а е цяло число, . Тогава ако е изображението, зададено с равенствата (2.3.1) – (2.3.3), случайната матрица

m m n≥ h

( )h=W ξ има разпределение на Уишарт , където е диагоналната матрица

( ,Λ)nW m Λ2 21Λ ( , , )ndiag σ σ= … .

Доказателство: Твърдението следва от представянето (2.4.23),

Теорема 2.4.2 и Теорема 2.3.3. □ Теорема 2.4.2 и Следствие 2.4.3, освен че представят алгоритъм за генериране на извадъчни корелационни и ковариационни матрици за извадки от наблюдения над многомерното нормално разпределение, дават и представяне на елементите на една извадъчна корелационна/ковариационна матрица чрез алгебрични функции от независими случайни величини. Това представяне се използва в Глава 4 за алтернативно извеждане на разпределенията на критерии за проверка на хипотези, свързани с

 63

ковариационната матрица. Предимство е директното получаване на вероятностната характеризация на съответните критерии. Известните до момента подходи са индиректни, чрез намиране на началните моменти и след това с обратна трансформация се търси представяне за плътността на разпределение. Вероятностната структура трябва да бъде отгатната въз основа на изведената плътност.

Както вече беше отбелязано, изображението е по-неудобно за параметризация на корелационната и ковариационна матрици, поради по-сложния вид на формулите (2.3.27), изразяващи елементите на една матрица

чрез елементите на . С негова помощ обаче могат да бъдат

доказани свойства на извадъчната корелационна и ковариационна матрици, които не могат да бъдат изведени чрез изображението и Теорема 2.4.2. Доказаната по-долу Теорема 2.4.4 е едно такова свойство, което се използва в Глава 4 при намирането на точното разпределение на критерий за проверка на независимостта на участващите в изследването фактори, при наличие на липсващи елементи в ковариационната матрица. Теорема 2.4.3, аналогично на Теорема 2.4.2 определя разпределението на случайната матрица , за което образът й при изображението ,

h

Y (Xh= ) X

h

1ξh 1( )h ξ ще има разпределение ( )n mψ .

Теорема 2.4.3 Нека 1 ,( i j )ξ=ξ е симетрична n n× случайна матрица с единици по главния си диагонал. Нека случайните величини , ,1i j i j nξ ≤ < ≤

са взаимно независими и , , ,2 2i j

m i j m i jBetaξ + − + −⎛ ⎞−⎜ ⎟⎝ ⎠

∼ 1,1 , където е

цяло число, . Тогава, ако е изображението, зададено с равенствата (2.3.24) – (2.3.26), случайната матрица

m

m n≥ h1( )h=R ξ има разпределение

( )n mψ .

Доказателство: Ако се използва въведеното в доказателството на

Теорема 2.4.2 означение if за плътността на разпределението

, , 1,2 2

m i m iBeta − −⎛ ⎞−⎜ ⎟⎝ ⎠

1 , то , , ,2 2i j

m i j m i jBetaξ + − + −⎛ ⎞−⎜ ⎟⎝ ⎠

∼ 1,1 ще има

плътност j if − , 1 . Съвместната плътност на случайните величини i j n≤ < ≤

, ,1i j i j nξ ≤ < ≤ ще има вида

( ), ,1 , 1

i j i j n i jf x , i j nξ ≤ < ≤ ≤ < ≤

 64

1 1,2 1 1, 2 1,3 2 2, 1 1,( ) ( ) ( ) ( ) (n n n n n nf )x f x f x f x f x−= − −… … …

1 2

2

2

n n− −+1 2

2 21 1 2 1 1 1

2 2 2 2 2

m m m n

m m m n

− −⎡ ⎤ ⎡ ⎤⎛ ⎞ ⎛ ⎞ ⎛ ⎞Γ Γ Γ⎜ ⎟ ⎜ ⎟ ⎜ ⎟⎢ ⎥ ⎢ ⎥⎝ ⎠ ⎝ ⎠ ⎝ ⎠= ⎢ ⎥ ⎢ ⎥− − − +⎛ ⎞ ⎛ ⎞ ⎛ ⎞ ⎛ ⎞ ⎛ ⎞ ⎛ ⎞⎢ ⎥ ⎢ ⎥Γ Γ Γ Γ Γ Γ⎜ ⎟ ⎜ ⎟ ⎜ ⎟ ⎜ ⎟ ⎜ ⎟ ⎜ ⎟⎢ ⎥ ⎢ ⎥⎝ ⎠ ⎝ ⎠ ⎝ ⎠ ⎝ ⎠ ⎝ ⎠ ⎝ ⎠⎣ ⎦ ⎣ ⎦

…

22 2,

1

(1 )m i j

i j Mi j n

x+ − −

≤ < ≤

× −∏ I =2

2 2,

1

2 (1 )

2

m i j

i j Mi j n

n

m

xm

+ − −

≤ < ≤

⎡ ⎤⎛ ⎞Γ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦ −⎛ ⎞Γ ⎜ ⎟⎝ ⎠

∏

n

I ,

където MI е индикаторът на множеството от всички точки

,( ,1i j )x i j n≤ < ≤ в реалното пространство , за които ( 1) / 2n n−

, ( 1,1), 1i jx i j n∈ − ≤ < ≤ . Понеже , 1, 1, ,i i i nξ = = … , във формули (2.3.24) – (2.3.26) можем да смятаме, че , 1, 1, ,i ix i= = … n

1

. Обратните трансформационни формули

тогава са , 1 , 1, 1, ,i i i ix y i n+ += = … − , (2.4.29)

1 0j i j− + …

n

,,

detY[{ 1, , 1}] ( 1) detY[{ , , 1},{ 1, , }]detY[{ , , 1}]detY[{ 1, , }]

i ji j

y i j i j ix

i j i j+ − + − − +

=− +

… …… …

,(2.4.30)

1, , 2, 2, ,i n j i= − = +… … .

От развитието на детерминантата по

елементите от последния й стълб се вижда, че

det Y[{ , , 1},{ 1, , }]i j i j− +… …

det Y[{ , , 1},{ 1, , }]i j i j− +… …

1 0j i j− + …, ( 1) det Y[{ 1, , 1}] det Y[{ , , 1},{ 1, , }]i jy i j i j i= − + − + − +… … .

Като се замести в (2.4.30) се получава представянето

1

,( 1) det Y[{ , , 1},{ 1, , }]

det Y[{ , , 1}]det Y[{ 1, , }]

j i

i ji j i jx

i j i j

− +− − +=

− +… …

… …, 2 1i j n≤ + < ≤ . (2.4.31)

 65

От Твърдение 2.1.8, приложено за първия и последния ред (стълб) на матрицата , се получава равенството Y[{ , , }]i j…

det Y[{ , , }]det Y[{ 1, , 1}] det Y[{ 1, , }]det Y[{ , , 1}]i j i j i j i j+ − = + −… … … …

det Y[{ 1, , },{ , , 1}]det Y[{ , , 1},{ 1, , }i j i j i j i j− + − − +… … … … ].

Понеже транспонираната матрица на матрицата е точно матрицата

Y[{ 1, , },{ , , 1}]i j i j+ −… …Y[{ , , 1},{ 1, , }]i j i j− +… … , то техните детерминанти са

равни. Следователно

det Y[{ , , }]det Y[{ 1, , 1}] det Y[{ , , 1}]det Y[{ 1, , }]i j i j i j i j+ − = − +… … … …

2

(det Y[{ , , 1},{ 1, , }])i j i j− − +… … .

Оттук, като се използва представянето (2.4.31) се получава формулата

2,

det Y[{ , , }]det Y[{ 1, , 1}]1det Y[{ , , 1}]det Y[{ 1, , }]i j

i j i jxi j i j

+ −− =

− +… …… …

, 2 1i j n≤ + < ≤ (2.4.32)

От (2.3.25) следва, че

2 2, 1 , 11 1 det Y[{ , 1}]i i i ix y i i+ +− = − = + 1, , 1n, i = −… . (2.4.33)

С помощта на равенства (2.4.32) и (2.4.33), съвместната плътност на случайните величини , ,1i j i j nξ ≤ < ≤ може да се изрази чрез променливите

: , ,1i jy i j≤ < ≤ n

( ),

3 32 2

,1 ,21 (det Y[{1,2}]) (det Y[{ 1, }])

2

i j

n

m m

i j n i j

n

m

f x , i j n n nmξ

− −

≤ < ≤

⎡ ⎤⎛ ⎞Γ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦≤ < ≤ = −⎛ ⎞Γ ⎜ ⎟⎝ ⎠

…

4 4m m2 2det Y[{1,2,3}]det Y[{2}] det Y[{ 2, 1, }]det Y[{ 1}]

det Y[{1,2}]det Y[{2,3}] det Y[{ 2, 1}]det Y[{ 1, }]n n n nn n n n

− −

⎞⎟⎠

⎛ ⎞ ⎛ − − −×⎜ ⎟ ⎜ − − −⎝ ⎠ ⎝

…

1m n2det Y[{1, , }]det Y[{2, , 1}]

det Y[{1, , 1}]det Y[{2, , }] Mn nn n

⎛ ⎞−× ×⎜ ⎟−⎝ ⎠

… ……… …

− −

I

 66

1 12

2

2 (det Y) det Y[{1, , }]det Y[{ , , }]

2

m n n

n

Mj

n

m

j j nm

− − −

=

⎡ ⎤⎛ ⎞Γ⎜ ⎟⎢ ⎥ ⎛ ⎞⎝ ⎠⎣ ⎦= ⎜ ⎟⎛ ⎞ ⎝ ⎠Γ ⎜ ⎟⎝ ⎠

∏ … … I .

От обратните трансформационни формули (2.4.29), (2.4.30) и от Теорема 2.2.3 се вижда, че индикаторът MI съвпада с индикаторът {Y 0}I на множеството от всички точки ,( ,1i jy i j )n≤ < ≤ в реалното пространство

, за които матрицата е положително определена. Следователно плътността на матрицата

( 1) / 2n n− Y1( )h=R ξ ще има вида

( )1

22Y (det Y

2

n

m n

n

m

fm

)− −

⎡ ⎤⎛ ⎞Γ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦=⎛ ⎞Γ ⎜ ⎟⎝ ⎠

R (2.4.34)

1

{Y 0}2

det Y[{1, , }]det Y[{ , , }] det Jn

j

j j n−

=

⎛ ⎞×⎜ ⎟⎝ ⎠∏ … … I .

Всички елементи над главния диагонал в Якобиана , J

( )( )

1,2 2,3 1, 1,3 2, 1,

1,2 2,3 1, 1,3 2, 1,

, , , , , , , ,J

, , , , , , , ,n n n n n

n n n n n

x x x x x xy y y y y y

− −

− −

∂=∂

… … …… … …

са равни на нула. Следователно ще е равна на произведението от диагоналните елементи, т.е.

det J

1,2 2,3 1, 1,3 2, 1,

1,2 2,3 1, 1,3 2, 1,

det J n n n n n

n n n n n

x x x x xy y y y y y

− −

− −

∂ ∂ ∂ ∂ ∂ ∂=∂ ∂ ∂ ∂ ∂ ∂

… … …x

det Y[{2}] det Y[{ 1}]1.1...1.det Y[{1,2}]det Y[{2,3}] det Y[{ 2, 1}]det Y[{ 1, }]

nn n n n

=− − −

−

det Y[{2,3}]det Y[{1,2,3}]det Y[{2,3,4}]

×

det Y[{ 2, 1}]det Y[{ 3, 2, 1}]det Y[{ 2, 1, }]

n nn n n n n n

− −× ×

− − − − −

 67

det Y[{2, , 2}] det Y[{3, , 1}]det Y[{1, , 2}]det Y[{2, , 1}] det Y[{2, , 1}]det Y[{3, , }]

n nn n n

−n

−…

×− − −… …

… … …

det Y[{2, , 1}]det Y[{1, , 1}]det Y[{2, , }]

nn n

−×

−…

… …

1 1

2 2

1 1det Y[{1, , }] det Y[{ , , }]

n n

j jj j

− −

= =

⎛ ⎞⎛= ⎜ ⎟⎜⎜ ⎟⎜⎝ ⎠⎝∏ ∏… … n

⎞⎟⎟⎠

)

.

Оттук и от равенство (2.4.34) следва верността на Теоремата. □ Следствие 2.4.4 Нека ,( i jξ=ξ е симетрична n n× случайна матрица. Нека случайните величини , ,1i j i j nξ ≤ ≤ ≤ са взаимно независими,

, , ,2 2i j

m i j m i jBetaξ + − + −⎛ ⎞−⎜ ⎟⎝ ⎠

∼ 1,1 j за i ≠ и , където 2 2, / ~ (i i i mξ σ χ )

1 , , nσ σ… са положителни реални числа, а е цяло число, . Тогава

ако е изображението, зададено с равенствата (2.3.24) – (2.3.26), случайната матрица

m m n≥

h( )h=W ξ има разпределение на Уишарт ,

където е диагоналната матрица ( ,Λ)nW m

Λ 2 21Λ ( , , ndiag )σ σ= … .

Доказателство: Твърдението следва от представянето (2.4.23),

Теорема 2.4.3 и Теорема 2.3.3. □ Теорема 2.4.4 Нека е симетрична случайна матрица с единици по главния си диагонал, имаща разпределение

U( )n mψ . Тогава за всеки две цели

числа p и , q 1 p q n≤ < ≤ величината det [{1, , }] det [{ , , }]

det [{ , , }]q p

p qU U

U… …

…n

1

е

разпределена като величината 1 nν ζ ζ −= … , където случайните величини

1, , n 1ζ ζ −… са независими бета разпределени , ,0,2 2i

m q i q iBetaζ − + −⎛ ⎞⎜ ⎟⎝ ⎠

∼ 1 ,

, 1, , 1i p= −… , ,0,12 2i

m n i n iBetaζ − + −⎛ ⎞⎜ ⎟⎝ ⎠

∼ , , ,i p n 1= −… .

 68

Доказателство: Нека матрицата ,X ( ) ( , ;1, ,1)i jx n= ∈ …D и

, . За всяко цяло , Y (Xh= ) ) 1,Y ( i jy= i 1 i n≤ ≤ − чрез индукция по j ,

може да се докаже следната формула i j n< ≤

2 2 2, 1 , 2 ,

det Y[{ , , }](1 )(1 ) (1 )det Y[{ 1, , }]i i i i i j

i jx x xi j+ +− − − =+………

. (2.4.35)

Съгласно (2.4.33), формула (2.4.35) е вярна за 1j i= + . Да допуснем, че тя е вярна за някое j , i j . Оттук и от представянето (2.4.32) следва, че n< <

2 2, 1 , , 1(1 ) (1 ) (1 )i i i j i jx x x2+ +− − −…

det Y[{ , , }] det Y[{ , , 1}]det Y[{ 1, , }]det Y[{ 1, , }] det Y[{ , , }]det Y[{ 1, , 1}]

i j i j i ji j i j i j

+ ++

…=

+ +… …… … …

det Y[{ , , 1}]det Y[{ 1, , 1}]

i ji j

+=

+ +……

,

т.е. равенство (2.4.35) е вярно и за 1j + . Следователно е вярно по индукция. Детерминантата , където и det Y[{ , , }]i j… i j са цели числа,

може да се запише във вида

1 i j n≤ < ≤

det Y[{ , , }] det Y[{ 1, , }]det Y[{ , , }]det Y[{ 1, , }] det Y[{ 2, , }]

i j i ji ji j i j

+=

+ +… …… …… …

det Y[{ 2, 1, }] det Y[{ 1, }]det Y[{ 1, }]

j j j j jj j

− −

1 2

det Y[{ , , }] (1 ) (1 )j j

i s i ss i s i

i j x x += + = +

⎡ ⎤ ⎡= − −⎢ ⎥ ⎢⎣ ⎦ ⎣∏ ∏… …

× −−

.

Като се използва равенство (2.4.35) се получава представянето

2 2, 1,

⎤⎥⎦

2 22, 1,

1

(1 ) (1 )j

j s js j

x x− −= −

⎡ ⎤− −⎢ ⎥

⎣ ⎦∏ j

12,

j j

2,

1

(1 ) (1 )k s k sk i s k i k s j

x x= = + ≤ < ≤

= − = −∏∏ ∏−

. (2.4.36)

Тогава ако p и q са цели числа, 1 p q n≤ < ≤ , то

 69

det Y[{1, , }]det Y[{ , , }]det Y[{ , , }]

q p np q

… ……

1 12 2, ,

1 1 11

2,

1

(1 ) (1 )

(1 )

q q n n

k s k sk s k k p s k

q q

k sk p s k

x x

x

− −

= = + = = +−

= = +

⎛ ⎞⎛ ⎞− −⎜ ⎟⎜ ⎟

⎝ ⎠⎝ ⎠=−

∏∏ ∏∏

∏∏

1 12 2, ,

1 1 1

(1 ) (1 )p q n n

k s k sk s k k p s k

x x−

= = + = = +

⎛ ⎞⎛ ⎞= − −⎜ ⎟⎜ ⎟⎝ ⎠⎝ ⎠∏∏ ∏∏−

.

Оттук и от Теорема 2.4.3 следва, че

1 12 2, ,

1 1 1

det [{1, , }] det [{ , , }] (1 ) (1 )det [{ , , }]

p q n n

k s k sk s k k p s k

q p np q

ξ ξ− −

= = + = = +

⎛ ⎞⎛ ⎞= − −⎜ ⎟⎜ ⎟⎝ ⎠⎝ ⎠∏∏ ∏∏U U

U… …

…,

където ,k sξ , са независими случайни величини, 1 k s n≤ < ≤

, , ,2 2k s

m k s m k sBetaξ + − + −⎛ ⎞−⎜ ⎟⎝ ⎠

∼ 1,1 1. Да означим с 1, , nζ ζ −… случайните

величини 2,

1

(1 )q

k k ss k

ξ= +

= −∏ 1, , 1k p, =ζ −… s и 2,

1

(1 )n

k ks k

ζ ξ= +

= −∏ ,

. Величините , , 1k p n= … − 11, , nζ ζ −… са независими, поради независимостта на ,k sξ , 1 k s n≤ < ≤ . За да определим тяхното

разпределение, ще използваме две твърдения, чието доказателство е дадено в Апендикс Б. Твърдение 1 Ако случайната величина ζ има разпределение

( , , 1,1)Beta a a − , то величината 21 ζ− е разпределена ( ,1/ 2,0,1)Beta a .

Твърдение 2 Нека 1ζ и 2ζ са независими случайни величини,

1 ( , ,0,1)Beta a bζ ∼ , 2 ( , ,0,Beta a b c 1)ζ +∼ . Тогава произведението 1 2ζ ζ има разпределение ( , ,0,1)Beta a b c+ .

От Твърдение 1 следва, че

2,

11 , ,0,12 2k s

m k sBetaξ + −⎛ ⎞− ⎜ ⎟⎝ ⎠

∼ k s n, 1≤ < ≤ .

Оттук, с неколкократно прилагане на Твърдение 2 се получава

 70

, ,0,12 2k

m q k q kBetaζ − + −⎛ ⎞⎜ ⎟⎝ ⎠

∼ 1, , 1k p, = −… , (2.4.37)

, ,0,12 2k

m n k n kBetaζ − + −⎛ ⎞⎜ ⎟⎝ ⎠

∼ , , 1k p n, = −…

2

. □

Следствие 2.4.5 Нека симетричната случайна матрица има разпределение на Уишарт ,

W( ,Λ)nW m 2

1Λ ( , , )ndiag σ σ= … . Тогава за всеки

две цели p и , 1q p q n≤ < ≤ величината det [{1, , }] det [{ , , }]

det [{ , , }]q p

p qW W

W… …

…n

n

е разпределена като произведението 2 21 1nν σ σ ζ ζ= … … , където

случайните величини 1ζ , …, nζ са взаимно независими и имат хи-квадрат разпределение, 2( )i m q iζ χ − +∼ , 1, , 1i p= −… , 2( )i m n iζ χ − +∼ ,

. , ,i p n= … Доказателство: От представянето (2.4.23) следва, че

0 0[{ , , }] [{ , , }]

0 0

i i

j j

i j i jτ τ

τ τ

⎛ ⎞ ⎛ ⎞⎜ ⎟ ⎜ ⎟

= ⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠

W U… …

Оттук

1det [{1, }] det [{1, }]qq qτ τ=W U… … … ,

det [{ , }] det [{ , }]p np n p nτ τ=W U… … … ,

det [{ , }] det [{ , }]p qp q p qτ τ=W U… … … .

Следователно,

1det [{1, , }] det [{ , , }] det [{1, , }] det [{ , , }]

det [{ , , }] det [{ , , }]nq p n q p

p q p qτ τ=

W W U UW U

… … ……… …

n….

Съгласно Теорема 2.4.4, величината det [{1, , }] det [{ , , }]

det [{ , , }]q p

p qU U

U… …

…n

е

произведение от независими бета разпределени случайни величини.

 71

Величините iτ , са независими от тях, независими са помежду си и . Хи-квадрат разпределението е частен случай на гама

разпределението, по-точно

1, ,i = … n( )2 2/i i mτ σ χ∼

2 1( ) ,2 2mm Gχ ⎛≡ ⎜

⎝ ⎠⎞⎟ . За довършване на

доказателството, остава да се приложи следното Твърдение Твърдение 3 Нека 1ζ и 2ζ са независими случайни величини, 1 ( , )G a bζ ∼ ,

2 ( , ,0,Beta a c c 1)ζ −∼ . Тогава произведението 1 2ζ ζ има разпределение . ( ,G a c b− )

Доказателството на Твърдение 3 е дадено в Апендикс Б. □ Аналогично на подхода, използван в доказателството на Теорема 2.4.4 и Следствие 2.4.5, с помощта на Теорема 2.4.3 могат да бъдат изведени разпределенията на всевъзможните произведения и частно от произведения на главни минори на една случайна матрица с разпределение на Уишарт.

 72

Глава 3 Съвместни разпределения на съвкуп-ности от извадъчни ковариационни (корелационни) коефициенти В тази глава са изведени вероятностните разпределения на различни съвкупности от емпирични ковариационни коефициенти за извадки от многомерно нормално разпределение. Те се задават с маргиналните плътности на разпределението на Уишарт. За получаването им е използвано интегриране в границите, определени с Теорема 2.2.1. Аналогични резултати са получени и за съвместни разпределения на съвкупности от емпирични корелационни коефициенти. Изведените плътности имат както теоретично, така и практическо значение. В Глава 4 те са използвани при извеждането на критерий с отношение на правдоподобия за проверка на хипотезата за независимост на фактора, при липсващи елементи в емпиричната ковариационна матрица.

n

При наблюдения над независими случайни величини с многомерно нормално разпределение, разпределението на извадъчната

ковариационна матрица е Уишарт

1m + n

1,nW mm

⎛ ⎞Λ⎜⎝ ⎠

⎟

)

, където e диагоналната

матрица

Λ

2 21Λ ( , , ndiag σ σ= … , 2

iσ е дисперсията на -тата случайна

величина. Плътността на това разпределение се получава от (2.4.13) след

заместване на Ξ с

i

1mΛ :

1,1 ,2 21

2

1 ( 1) 22

1

2(W) (det W)( )

2

n n

n

nm

w wmm n

mn n

m

f em

σ σ

σ σ

⎛ ⎞− + +⎜ ⎟− − ⎜ ⎟

⎝ ⎠

⎛ ⎞⎜ ⎟⎝ ⎠=

⎛ ⎞Γ ⎜ ⎟⎝ ⎠

…, (3.0.1) W ( ,n∈P )

73

Разпределението на извадъчната корелационна матрица в този случай, както вече бе споменато в параграф 2.4 е ( )n mψ , с плътност от вида , (U)n mg

1(2

,2(U) (det U)

2

m n

n m

n

m

gm

1)

n

− −

⎡ ⎤⎛ ⎞Γ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦=⎛ ⎞Γ ⎜ ⎟⎝ ⎠

, U ( , ;1, ,n 1)∈ …P . (3.0.2)

Намирането на разпределенията на различните съвкупности от ковариационни коефициенти, както и на множества от корелационни коефициенти, в случая на наблюдения над независими случайни величини с многомерно нормално разпределение, следователно се свежда до интегриране на

1 ( 12(det W)

m n )− −

Wна една положително определена матрица по отношение на част от нейните извъндиагонални елементи.

3.1 Маргинални плътности на разпределе-нието ( )n mψ

Нека ,( i j )η=η е симетрична случайна матрица с единици по главния си

диагонал, имаща разпределение ( )n mψ . Да означим с

,{ ,1n i jV i j }nη= ≤ < ≤ множеството от извъндиагоналните елементи на ,

намиращи се над главния й диагонал. Маргиналните плътности на разпределението

η

( )n mψ са съвместни плътности на елементи от множеството . nV

За всяко подмножество nM V⊂ ще означаваме с Mf съвместната

плътност на случайните величини от M . Ако множеството M е празното множество, т.е. M =∅ ще приемем че 1Mf = .

Нека ,{ , 1, ,l li j }M l kη= = … е произволно подмножество на

множеството от случайни величини . На nV M може да се съпостави граф

74

(G M )}

с върхове {1 и ненасочени дъги, зададени с множеството ,2, , }n… k( ) { ( , ), 1, ,l lE M i j l= = … k . Лесно се вижда, че съответствието

( )M G M→

е взаимно еднозначно, т.е. съществува обратното изображение

( )G M G→ .

Теорема 3.1.1 Нека е графът, съответстващ на подмножество ( )G G M≡

nM V⊂ . Ако се разменят номерата на два от върховете на графа , то съответстващото подмножество

G

nM V′ ⊂ , ( )M M G′ = ′ на

новополученият граф G′ ще има същото съвместно разпределение като първоначалното подмножество M .

Доказателство: Ще започнем с доказателството на Теоремата в

частния случай, когато nM V= . Да разменим номерата на върховете “ k ” и “ s ” на графа . Получава се нов граф (G G M≡ ) G′ . Не е трудно да се види,

че размяната на номерата на двата върха в графа е еквивалентна на размяна на местата на – ти и

Gk s – ти ред и на на – ти и k s – ти стълб в

матрицата , участваща в съвместната плътност (3.0.2). От добре известните свойства на детерминантата се вижда, че

U

1, 1, 1, 1, 1, 1,

1, , , 1, , ,

1, , , 1, , ,

1, , , 1, , ,

1 1

1 1det det

1 1

1 1

k s p s k

k k s k p s k s

p

s p

s k s s p k k s k p

p k p s p p s p k p

u u u u u u

u u u u u

u u u u u u

u u u u u u

⎛ ⎞ ⎛⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟

=⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

u

⎞⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

Следователно множеството ( )V M G′ ′= ще има същото съвместно разпределение като множеството ( )nV M G= .

От съвпадението на съвместните разпределения на множествата от случайни величини и nV V ′ ще следва и съвпадението на съответните им

75

маргинални плътности. Следователно Теоремата ще е вярна и в общия случай, т. е. когато nM V⊂ . □

Следствие 3.1.1 Нека ( )G G M≡ е графът, съответстващ на подмножество nM V⊂ . Да преномерираме по произволен начин върховете

на графа и означим с G G′ новополучения граф. Тогава подмножеството ( )M M G′ = ′ ще има същото съвместно разпределение като

първоначалното подмножество M . Доказателство: Произволна пермутация на числата от 1 до n може да

се представи като произведение от пермутации на двойки от числа. Оттук, и от Теорема 3.1.1 следва верността на Твърдението. □ Теорема 3.1.2 Нека ( )n mψη ∼ и нека α е множество от на брой цели числа в интервала [1 . Тогава

k, ]n [ ] ( )k mα ψη ∼ .

Доказателство: Нека ( )n mψη ∼ е извадъчната корелационна

матрица за извадка от 1m + наблюдения над 1n× случаен вектор с многомерно нормално разпределение

x(μ, )nN Λ , където е диагонална

матрица. Тогава Λ

[ ]αη ще е извадъчната корелационна матрица за наблюденията над вектора [ ,1]αx . Разпределението на вектора [ ,1]αx е отново нормално - (μ[ ,1], [ ])kN α αΛ ([5]) и с диагонална ковариационна матрица. Следователно [ ] ( )k mα ψη ∼ . □

Следствие 3.1.2 Нека ( )n mψη ∼ . Тогава всички извъндиагонални елементи

на са еднакво разпределени, η ,1 1, , 1,1

2 2i jm mBetaη − −⎛ ⎞−⎜ ⎟

⎝ ⎠∼ i j n≤ < ≤, 1 .

Доказателство: Нека α е множество от на брой цели числа в

интервала , да речем 2

[1, ]n { , }i jα = , 1 i j n≤ < ≤ . От Лема 3.1.1 следва, че

разпределението на матрицата , т.е. на случайната

величина

,

,

1[ ]

1i j

i j

ηα

η⎛ ⎞

= ⎜⎝ ⎠

η ⎟

,i jη в случая, е 2 ( )mψ . От (3.0.2) при 2n = се получава плътността

на това разпределение

76

2

1( 3)2 2

2

2 (1 )

2

m

m

um

−

⎡ ⎤⎛ ⎞Γ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦ −⎛ ⎞Γ ⎜ ⎟⎝ ⎠

, ( 1,1)u∈ − . (3.1.1)

Като се използва равенство (2.4.14), задаващо многомерната Гама функция, се вижда че (3.1.1) е плътността на бета разпределението

1 1, , 1,2 2

m mBeta − −⎛ −⎜⎝ ⎠

1⎞⎟

)

, дефинирано с (2.4.25). □

Теорема 3.1.3 Нека ,( i jη=η е случайна матрица с разпределение ( )n mψ и

нека , са цели числа, q r 1 q r n≤ < ≤ . Съвместната плътност на случайните величини от множеството ,\ { }n q rM V η= има вида:

( ), , ( , ) ( )M i jf u i j E M∈ =( ) ( )

( )1, 1,

2,

U[{ } ] U[{ } ]U[{ , } ]

c cn m n m

cn m

g q g rg q r

− −

−

, (3.1.2)

за всяка симетрична матрица ,U ( )i ju= с единици по главния диагонал, за

която и . U[{ } ] 0cq U[{ } ] 0cr

Доказателство: За да бъде доказано твърдението, трябва да се

интегрира съвместната плътност (3.0.2) на случайните величини от множеството , по отношение на променливата в границите,

определени от Теорема 2.2.1. Да означим

nV ,q ru

c c 0 c c

c

( 1) detU[{ } { } ] detU[{ } ]detU[{ } ]detU[{ } ]

q r q , r q ra

q,r

−− −= ,

c c 0 c cq r−

c

( 1) detU[{ } { } ] detU[{ } ]detU[{ } ]detU[{ } ]

q , r q rb

q,r− +

= .

Тогава търсената съвместна плътност има вида

( ), , ( , ) ( )M i jf u i j E M∈ =1( 1)2

,2 (det U)

2

n

bm n

q ra

n

m

dum

− −

⎡ ⎤⎛ ⎞Γ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦⎛ ⎞Γ ⎜ ⎟⎝ ⎠

∫ , (3.1.3)

77

за всяка симетрична матрица ,U ( )i ju= с единици по главния диагонал, за

която и . Да извършим смяна на променливата под

знака на интеграла в (3.1.3) с полагането

U[{ } ] 0cq U[{ } ] 0cr

c c 0 c c

c

( 1) detU[{ } { } ] detU[{ } ]detU[{ } ]detU[{ } ]

q r

q ,r

q , r t q ru

q,r

−− += . (3.1.4)

Новата променлива t ще се изменя в граници от –1 до 1 и

c c

c

detU[{ } ]detU[{ } ]detU[{ } ]q ,r

q rdu dt

q,r= .

Подинтегралната функция в (3.1.3) също се представя удобно чрез новата променлива t . Ще покажем, че е в сила равенството:

2det U[{ } ]det U[{ } ]det U (1 )detU[{ } ]

c c

c

q r tq,r

= − . (3.1.5)

Наистина, от равенство (3.1.4) може да се изрази

0, detU[{ } ]-( 1) det U[{ } ,{ } ]

det U[{ } ]det U[{ } ]

c q r c cq r

c c

u q,r q rt

q r

−−= .

От развитието на детерминантата по елементите на нейния

-ти ред се вижда, че

detU[{ } ,{ } ]c cq r

r1 0

,det U[{ } ,{ } ] ( 1) detU[{ } ] det U[{ } ,{ } ]c c q r c c cr qq r u q,r q r− −= − + .

Следователно,

1( 1) det U[{ } ,{ } ]det U[{ } ]det U[{ } ]

q r c c

c c

q rtq r

− −−= .

Оттук,

22 det U[{ } ]det U[{ } ] (det U[{ } ,{ } ])1

det U[{ } ]det U[{ } ]

c c c

c c

q r q rtq r

−− =

c

.

Сега, използвайки Твърдение 2.1.8 получаваме, че

78

2 det Udet U[{ , } ]1det U[{ } ]det U[{ } ]

c

c c

q rtq r

− = .

От това равенство, изразявайки de достигаме до (3.1.5). tU Следователно, за търсената плътност се получава

( ), , ( , ) ( )M i jf u i j E M∈ =( )

( )

1( )2

1( 1)2

det U[{ } ]det U[{ } ]2

det U[{ , } ]2

n

m nc c

m ncn

mq r

mq r

−

− +

⎡ ⎤⎛ ⎞Γ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦⎛ ⎞Γ ⎜ ⎟⎝ ⎠

(3.1.6)

1 1

t( 1)2 2

1

(1 )m n

t d− −

−

× −∫ .

От равенство 3.196 3 в [52] се вижда, че

12 2

1

(1 )k

t dt−

−∫ 1 2 22 ,2 2

k k kB+ + +⎛ ⎞= ⎜ ⎟⎝ ⎠

,

където ( , )B ⋅ ⋅ е добре известната бета функция, която съгласно равенство

8.384 1 в [52] може да бъде изразена чрез гама функцията като

( ) ( )( , )( )x yB x yx y

Γ Γ=Γ +

.

В сила е също съотношението (виж 8.384 4 в [52])

1 2 1( , ) 2 ,2

xB x x B x− ⎛ ⎞= ⎜ ⎟⎝ ⎠

.

Оттук

12 2

1

(1 )k

t dt−

−∫1 22 2

32

k

k

+⎛ ⎞ ⎛ ⎞Γ Γ⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠=

+⎛ ⎞Γ⎜ ⎟⎝ ⎠

. (3.1.7)

След заместване на (3.1.7) при 1k m n= − − в плътността (3.1.6), за довършване на доказателството остава да се покаже, че

79

1 12 2 2

22 2

n

n

m m n

m m n

⎡ ⎤⎛ ⎞ − +⎛ ⎞ ⎛ ⎞Γ Γ Γ⎜ ⎟ ⎜ ⎟ ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦ ⎝ ⎠ ⎝ ⎠− +⎛ ⎞ ⎛ ⎞Γ Γ⎜ ⎟ ⎜ ⎟

⎝ ⎠ ⎝ ⎠

21

2

2

1

2 2

2 2

n

n

n

n

m m

m m

−

−

−

−

⎛ ⎞⎡ ⎤⎛ ⎞ ⎛ ⎞Γ⎜ ⎟ Γ⎜ ⎟ ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦ ⎝⎜ ⎟= ⎜ ⎟⎛ ⎞ ⎡ ⎤⎛ ⎞Γ ⎜ ⎟⎜ ⎟ Γ⎜ ⎟⎢ ⎥⎜ ⎟⎝ ⎠ ⎝ ⎠⎣ ⎦⎝ ⎠

⎠ .

След извършване на елементарни преобразувания, това равенство може да бъде доказано с използване на дефиницията за многомерната гама функция, дадена с (2.4.14). □ Теорема 3.1.4 Съвместната плътност на случайните величини oт множеството nM V= \ 1, ,{ , ,n k }nη η… , където е цяло число, 1 2 ,

е

k k n≤ ≤ −

( ), , ( , ) ( )M i jf u i j E M∈ =( ) ( )

( )1, ,

1,

U[{ } ] U[{1, , } ]U[{1, , , } ]

c cn m n k m

cn k m

g n g kg k n

− −

− −

……

, (3.1.8)

за всяка симетрична матрица ,U ( )i ju= с единици по главния диагонал, за

която и . U[{ } ] 0cn U[{1, , } ] 0ck… Доказателство: Доказателствoто използва индукция по . Нека

. Съгласно Теорема 3.1.3, съвместната плътност на случайните величини от множеството

k1k =

1 1\ { }n nM V ,η= e

( )1 , 1, ( , ) ( )M i jf u i j E M∈ =

( ) ( )( )

1, 1,

2,

U[{1} ] U[{ } ]U[{1, } ]

c cn m n m

cn m

g gg n

− −

−

n,

за всяка симетрична матрица ,U ( )i ju= с единици по главния диагонал, за

която и . Следователно, за твърдението е

вярно.

U[{1} ] 0c U[{ } ] 0cn 1k =

Да допуснем, че твърдението е вярно за някое , 1 2 . Ще го докажем за . Съгласно индукционното допускане, съвместната плътност на случайните величини oт множеството

k k n≤ < −1k +

nM V= \ 1, ,{ , ,n k }nη η… се

дава с (3.1.8). Съвместната плътност на случайните величини oт множеството 1k nM V+ = \ 1, 1,{ , ,n k }nη η +… може да се получи от плътността (3.1.8) като се интегрира по променливата 1,k nu + . Тази променлива участва

80

само в плътността ( ), U[{1, , } ]cn k mg − … k и не участва в ( )1, U[{ } ]c

n mg n− и

( )1, U[{1, , , } ]cn k mg − − … k n . Следователно,

( )1 , 1, ( , ) ( )

kM i j kf u i j E M+ +∈ =

( )( )1,

1,

U[{ } ]

U[{1, , , } ]

cn m

cn k m

g n

g k−

− − … n

,

b

du

(3.1.9)

( ), 1U[{1, , } ]cn k m k n

a

g k− +×∫ … ,

където и са лявата и дясна граници за a b 1,k nu + , определени съгласно

Теорема 2.2.1, гарантиращи положителната определеност на матрицата . Плътността (3.1.9) следователно е дефинирана за всяка

симетрична матрица U[{1, , } ]ck…

,U ( )i ju= с единици по главния диагонал, за която

матриците , и са положително определени. Понеже изискването матрицата да е положително определена включва в себе си условието матрицата да е

такава, то плътността (3.1.9) е дефинирана за всяка симетрична матрица с единици по главния диагонал, за която и

. Подинтегралната функция в (3.1.9) е плътността на разпределението

U[{ } ]cn U[{1, , 1} ]ck +… U[{1, , , } ]ck n…U[{ } ]cn

U[{1, , , } ]ck n…

,U ( )i ju= U[{ } ] 0cn

U[{1, , 1} ] 0ck +…( )n k mψ − . От Теорема 3.1.3 следва, че

( ), 1U[{1, , } ]b

cn k m k n

a

g k− +∫ … ,du

( ) ( )( )

1, 1,

2,

U[{1, , 1} ] U[{1, , , } ]

U[{1, , 1, } ]n k m n k m

cn k m

g k g k

g k n− − − −

− −

+=

+

… ……

c cn.

Оттук, след заместване в (3.1.9) се получава, че

( )1 , 1, ( , ) ( )

kM i j kf u i j E M+ +∈ =

( ) ( )( )

1, 1,

2,

U[{ } ] U[{1, , 1} ]U[{1, , 1, } ]

c cn m n k m

cn k m

g n g kg k n

− − −

− −

+

+

……

.

Следователно теоремата е вярна и за 1k + . □

81

Теорема 3.1.5 Нека и са цели числа, q r 1 ,q r n< < . Нека 1M и 2M са подмножества на , nV 1 ,{ ,1i j }M i j rη= ≤ < ≤ и 2 ,{ ,i j }M q i j nη= ≤ < ≤ .

Тогава

1 21 2

1 2

M MM M

M M

f ff

f∪∩

= . (3.1.10)

Доказателство: Съгласно Теорема 3.1.2, съвместната плътност

1Mf на случайните величини от множеството 1M е за , (U[{1, , }])r mg r…U[{1, , }] ( , ;1, ,1)r r∈… P … ; съвместната плътност

2Mf е за 1, (U[{ , , }])n q mg q− + … n U[{ , , }] ( 1, ;1, ,1)q n n q∈ − +… P … . Ако 1q r≤ − ,

то 1 2 ,{ i j }M M q i j rη∩ = ≤ < ≤ . Тогава, използвайки Теорема 3.1.2, съвместната плътност

1 2M Mf ∩ е за

. За , , затова .

1, (U[{ , , }])r q mg q− + … r… ∅U[{ , , }] ( 1, ;1, ,1)q r r q∈ − +… P q r≥ 1 2M M∩ =

1 21M Mf ∩ =

Доказателството е чрез индукция по . Ако , то r 1r n= −1 2M M∪ = nV \ 1, 1,{ , ,n q }nη η −… . Тогава, съгласно Теорема 3.1.4,

( )1 2 , 1 2 =,( , ) ( )M M i jf u i j E M M∪ ∈ ∪

( ) ( )( )

1, 1,

,

U[{ } ] U[{1, , 1} ]U[{1, , 1, } ]

c cn m n q m

cn q m

g n g qg q n

− − +

−

−

−

……

( ) ( )( )

1, 1,

,

U[{1, , 1}] U[{ , , }]U[{ , , 1}]

n m n q m

n q m

g n g qg q n

− − +

−

−=

−… …

…n

,

за всяка симетрична матрица ,U ( )i ju= с единици по главния диагонал, за

която и . От положителната определеност на матрицата следва положителната определеност и на матрицата

U[{1, , 1}] 0n −… U[{ , , }] 0q n…U[{ , , }]q n…

U[{ , , 1}]q n −… . Следователно е в сила

съотношението (3.1.10) и Теоремата е вярна за 1r n= − . Да допуснем, че Теоремата е вярна за някое , . Ще я

докажем за . Нека r 2 1r n< ≤ −

1r − M е множеството ,{ ,1 1i jM i j r }η= ≤ < ≤ − .

Възможни са два случая. I сл. Нека . Тогава 1q r≤ − 2M M∪ = 1 2M M∪ \ 1, 1,{ , ,r q }rη η −… .

Следователно, съвместната плътност 2M Mf ∪ може да се получи от

плътността 1 2M Mf ∪ като се интегрира по променливите 1, 1,, ,r qu u r−… .

82

Съгласно индукционното допускане, за 1 2M Mf ∪ е в сила представянето

(3.1.10). Променливите 1, 1,, ,r qu u r−… участват само в плътността 1Mf и не

участват в плътностите 2Mf и

1 2M Mf ∩ . Следователно,

22 1 1,

1 2

\{ , , }r q r

MM M M

M M

ff f

f η η −∪∩

= … 1,. (3.1.11)

С използването на Теорема 3.1.4 се вижда, че

( )1 1, 1,\{ , , } , 1 1, 1,, ( , ) ( \ { , , })

r q rM i j r qf u i j E Mη η η η− −∈… … r

( ) ( )( )

1, 1,

,

U[{1, , 1}] U[{ , , }]U[{ , , 1}]

r m r q m

r q m

g r g qg q r

− − +

−

−=

−… …

…r

,

за всяка симетрична матрица ,U ( )i ju= с единици по главния диагонал, за

която и . От Теорема 3.1.2 се вижда, че U[{1, , 1}] 0r −… U[{ , , }] 0q r…( )1, U[{1, , 1}]r mg r− −… е плътността Mf , а ( ), U[{ , , 1}]r q mg q r− −… -

плътността 2M Mf ∩ , т.е.

1 21 1, 1,

2

\{ , , }r q r

M M MM

M M

f ff

fη η −

∩

∩

=… .

Оттук и от (3.1.11) следва, че

22

2

M MM M

M M

f ff

f∪∩

= ,

което трябваше да се покаже. II сл. Нека . Лесно се вижда, че в случая q r≥

M1 2M∩ = 2M M∩ = , затова ∅1 2M Mf ∩ =

2M Mf ∩ =1. В този случай

2M M∪ = 1 2M M∪ \ 1, 1,{ , ,r r }rη η −… . Следователно, съвместната плътност

2M Mf ∪ може да се получи от плътността 1 2M Mf ∪ като се интегрира по

променливите 1, 1,, ,r ru u r−… . Съгласно индукционното допускане, за 1 2M Mf ∪ е

в сила представянето (3.1.10). Променливите участват само в плътността

1, 1,, ,r ru u −… r

1Mf и не участват в плътността 2Mf . Следователно,

2 2 1 1, 1\{ , , }r r rM M M Mf f f η η −∪ ,= … .

83

Не е трудно да се види, че 1 1, 1,\{ , , }r r rM Mη η − ≡… . Затова

22 2

2

M MM M M M

M M

f ff f f

f∪∩

= = ,

което и трябваше да се докаже. С това доказателството е завършено. □ Теорема 3.1.6 Нека 1M и 2M са две подмножества на и и

са съответстващите им графи. Да означим с nV 1 1(G G M= )

)2 2(G G M= iK множеството от номерата на възлите, които са връх на дъга в графа ,

. Нека iG

1,2i = 1 2K K K= ∩ . Ако множеството K съдържа поне два елемента и за всеки два елемента и на K, q r q r< случайната величина

,q rη принадлежи едновременно на 1M и на 2M (виж фиг. 6), то

1 21 2

1 2

M MM M

M M

f ff

f∪∩

= . (3.1.12)

Доказателство: Да означим броя на елементите в множествата 1K ,

2K и K с , и съответно. Нека 1k 2k k M∪ и M∩ са множествата

1 2M M M∪ = ∪ и 1 2M M M∩ = ∩ , а и G∪ G∩ са съответните им графи, , . Да преномерираме върховете в графите , ,

и така, че върховете с номера от множеството ( )G G M∪ ∪= (G G M∩ = )∩ 1G 2G

G∪ G∩ 1 \K K да получат номера от 1 до 1k k− ; върховете, чиито номера принадлежат на множеството K - номера от 1 1k k− + до и върховете с номера от множеството

1k

2 \K K - номера от 1 1k + до 1 2k k k+ − . Ще се получат нови

84

графи , , и 1G′ 2G′ G∪′ G∩′ . На тях ще съответстват подмножества 1M ′ , 2M ′ , M∪′ и M∩′ на , nV 1 1( )M M G′ ′= , 2 2( )M M G′ ′= , ( )M M G∪ ∪′ ′= и

( )M M G∩′ = ∩′ . Съгласно Следствие 3.1.1, случайните величини от множеството 1M ′ ще имат същото разпределение като случайните величини от множеството 1M , т.е.

1 1M Mf f′ = . (3.1.13)

Аналогично,

2 2M Mf f′ = , M Mf f∪ ∪′ = , M Mf f

∩ ∩′ = . (3.1.14)

Не е трудно да се види, че

1 2M M M∪′ ′ ′= ∪ , 1 2M M M∩′ ′ ′= ∩ . (3.1.15)

Да означим с 1L и 2L множествата 1 ,{ ,1i j 1}L i j kη= ≤ < ≤ и

2 , 1 1 2{ , 1i j }L k k i j k k kη= − + ≤ < ≤ + − . Очевидно, 1 1M L′ ⊂ , 2 2M L′ ⊂ и

1 21 2, k k kL L V + −⊂ . Съгласно Теорема 3.1.2, съвместното разпределение на случайните величини от множеството

1 2k k kV + − е 1 2

( )k k k mψ + − . От Теорема

3.1.5 следва, че

1 21 2

1 2

L LL L

L L

f ff

f∪∩

= . (3.1.16)

Ясно е, че 1 2 , 1{ , 1i j 1}M M k k i j kη′ ′∩ = − + ≤ < ≤ , следователно

1 2M M′ ′∩ 1 2L L≡ ∩ .

Да интегрираме двете страни на представянето (3.1.16) по отношение на променливите, съответни на случайните величини от множеството

1 1 2 2( \ ) ( \ )L M L M′ ∪ ′2

. Вляво ще се получи плътността 1M Mf ′∪ ′

1

. В дясната

част, променливите, съответни на случайните величини от множеството 1 \L M ′ участват само в плътността

1Lf , а тези – съответни на случайните величини от множеството 2 \ 2L M ′ - само в плътността

2Lf . Така се достига

до равенството

85

1 21 2

1 2

M MM M

M M

f ff

f′ ′

′ ′∪′ ′∩

= ,

откъдето съгласно равенствата (3.1.13) - (3.1.15) следва представянето (3.1.12). □ Теорема 3.1.7 Нека 1M и 2M са две подмножества на и и

са съответстващите им графи. Да означим с nV 1 1(G G M= )

)2 2(G G M= iK множеството от номерата на възлите, които са връх на дъга в графа ,

. Нека iG

1,2i = 1 2K K K= ∩ . Ако множеството K съдържа най-много един

елемент, то

1 2 1 2M M M Mf f f∪ = ,

т.е. двете съвкупности от случайни величини 1M и 2M са независими

помежду си.

Доказателство: Да означим броя на елементите в множествата 1K ,

2K и K с , и съответно. Нека 1k 2k k M∪ е обединението 1 2M M M∪ = ∪ , а е съответстващият му граф, G∪ (G G M∪ )∪= . Ще разгледаме два случая:

I сл. Нека . Да преномерираме върховете в графите , и така, че върховете с номера от множеството

0k = 1G 2G G∪

1K да получат номера от 1 до , а върховете с номера от множеството

1k

2K - номера от до . Ще се получат нови графи

1 1k + 1k k+ 2

1G′ , 2G′ и G∪′ . На тях ще съответстват подмножества

1M ′ , 2M ′ и M∪′ на , nV 1 1( )M M G′ ′= , 2 2( )M M G′ ′= и ( )M M G∪ ∪′ ′= . Съгласно Следствие 3.1.1, случайните величини от множеството 1M ′ ще имат същото разпределение като случайните величини от множеството 1M , т.е.

1 1M Mf f′ = . Аналогично, 2 2M Mf f′ = и M Mf f

∪′ ∪= . Не е трудно да се види,

че 1 2M M M∪′ ′= ∪ ′ . Да означим с 1L и 2L множествата 1 ,{ ,1i j 1}L i j kη= ≤ < ≤ и

2 , 1 1{ , 1i j 2}L k i j k kη= + ≤ < ≤ + . Съгласно Теорема 3.1.2, съвместното разпределение на случайните величини от множеството е

1 2k kV + 1 2( )k k mψ + .

Съгласно Теорема 3.1.5, за 1L и 2L е в сила представянето (3.1.16). Тъй като в случая 1 2L L∩ =∅ , то

1 21L Lf ∩ = и следователно

86

1 2 1 2L L L Lf f f∪ = . (3.1.17)

Очевидно е, че 1 1M L′ ⊂ и 2 2M L′ ⊂ . Нека да интегрираме двете страни

на представянето (3.1.17) по отношение на променливите, съответни на случайните величини от множеството 1 1 2 2( \ ) ( \ )L M L M′ ′∪ . Вляво ще се получи плътността

1 2M Mf ′ ′∪ . В дясната част, променливите, съответни на

случайните величини от множеството 1 \ 1L M ′ участват само в плътността

1Lf , а тези – съответни на случайните величини от множеството 2 2\L M ′ - само в плътността

2Lf . Така се достига до равенството

1 2 1 2M M M Mf f f′ ′ ′∪ ′= ,

откъдето следва верността на твърдението в разглеждания случай. II сл. Нека . Доказателството е аналогично на I сл, но тук

преномерираме върховете в графите , и така, че върховете с номера от множеството

1k =1G 2G G∪

1K да получат номера от 1 до , а върховете с номера от множеството

1k

2K - номера от до 1k 1 2 1k k+ − . След това се разглеждат множествата 1L и 2L , 1 ,{ ,1i j 1}L i j kη= ≤ < ≤ ,

2 , 1 1 2{ , 1i jL k i j k k }η= ≤ < ≤ + − . За 1L и 2L , съгласно Теореми 3.1.2 и 3.1.5,

ще е в сила отново представянето (3.1.17). Оттук нататък доказателството е както при I сл.

С това Теоремата е доказана. □ Теорема 3.1.8 Нека е цяло число, , а r 2r ≥ 1, , rM M… е редица от подмножества на множествотото , такива че nV

,{ , , ,t i j t }M i j J i jη= ∈ < ,

където tJ , са подмножества на множеството {1 . Нека за всяко t , сечението

1, ,t = … rr

) tJ

, , }n…2, ,t = …

1 1( tJ J −∪ ∪ ∩… (3.1.18)

удовлетворява едно от следните две условия: 1) Множеството (3.1.18) съдържа най-много един елемент;

87

2) Множеството (3.1.18) съдържа поне два елемента и за всеки два елемента p и q, p q< случайната величина ,p qη принадлежи на

множеството

1 1( )t tM M M−∪ ∪ ∩… .

Тогава

1 21 2

1 2 1 2 3 1 1( ) ( )

rr

r r

M M MM M M

M M M M M M M M

f f ff

f f f−

∪ ∪ ∪∩ ∪ ∩ ∪ ∪ ∩

=……

……

. (3.1.19)

Доказателство: Доказателството е чрез индукция по r. Нека 2r = и 1M , 2M са подмножества на множеството от вида nV

M1 , 1{ , , , }i j J i ji jη= ∈ < 2 , 2{ , , , }i j, M i j J i j= η ∈ <

2

,

където и са подмножества на множеството . Лесно се вижда, че сечението

1J 2J {1, , }n…

1M M∩ ще има вида

1 2M M∩ = , 1 2{ , , ,i j i j J J i j}η ∈ ∩ < . (3.1.20)

Нека и са съответстващите графи на подмножествата 1G 2G 1M и 2M , т.е. и . Да означим с 1 1(G G M= ) 2 )2 (G G M= iK множеството от номерата на

възлите, които са връх на дъга в графа , iG 1,2i = . Не е трудно да се види, че

1 1K J= и 2 2K J= . Да означим с K множеството

1 2 1 2K K K J J= ∩ = ∩ .

Ако множеството K съдържа най-много един елемент, то от (3.1.20) ще следва, че множеството 1 2M M∩ е празно. Оттук . От друга страна, съгласно Теорема 3.1.7 ще имаме,че

1 21M Mf ∩ =

1 2 1 2M M M Mf f f∪ = . Следователно

ще е изпълнено равенството

1 21 2

1 2

M MM M

M M

f ff

f∪∩

= . (3.1.21)

Нека K съдържа поне два елемента и за всеки два елемента p и q, p q< случайната величина ,p qη принадлежи на сечението 1 2M M∩ .

88

Тогава, съгласно Теорема 3.1.6 ще е в сила равенство (3.1.21). Следователно, за Теоремата е вярна. 2r =

Да допуснем, че Теоремата е вярна за някое , . Нека r 2r ≥1, , r 1M M +… е редица от подмножества на множеството , такива че

множествата nV

tM , са от вида 1, , 1t r= … +

},{ , , ,t i j tM i j J i jη= ∈ < ,

където , са подмножества на множеството . Нека освен това за всяко ,

tJ 1, , 1t r= … + {1, , }n…t 2, , 1t r= +… сечението (3.1.18) удовлетворява едно

от условията 1) и 2). Да означим с A и B множествата 1 rA M M= ∪ ∪… ,

1rB M += . Нека и са съответстващите им графи, 1G 2G 1 ( )G G A= , . Да означим с 2 ( )G G B= iK множеството от номерата на възлите, които са

връх на дъга в графа , iG 1,2i = . Не е трудно да се види, че

1 1 rK J J= ∪ ∪… и 2 r 1K J += . Да означим с K сечението

1 2 1( )r r 1K K K J J J += ∩ = ∪ ∪ ∩… .

Да предположим, че множеството K съдържа най-много един елемент. От Теорема 3.1.7 ще следва, че A B A Bf f f∪ = . Множеството A B∩ е празно, затова . В сила е представянето 1A Bf ∩ =

A BA B

A B

f fff∪

∩

= . (3.1.22)

Нека множеството K съдържа поне два елемента и за всеки два елемента p и q, p q< случайната величина ,p qη принадлежи на сечението

1 1( )r rA B M M M +∩ = ∪ ∪ ∩… .

Тогава, от Теорема 3.1.6 следва представянето (3.1.22). Съгласно индукционното допускане, за плътността Af е в сила

представянето (3.1.19). Оттук и от равенство (3.1.22) следва верността на Теоремата и за r+1. Следователно Теоремата е вярна по индукция. □

89

С помощта на доказаните твърдения могат да бъдат изведени точни формули само за някои от маргиналните плътности на разпределението

( )n mψ .

Пример 3. Да интегрираме съвместната плътност (3.0.2) по произволна променлива в границите, определени от Теорема 2.2.1, гарантиращи

положителната определеност на матрицата . Ще се получи съвместната плътност на случайните величини от множеството

,q ru

U,\{ }n q rV η , която съгласно

Теорема 3.1.3 е

, ,

,,

{ ,1 , , } { ,1 , , }\{ }

{ ,1 , , , }

i j i j

n q ri j

i j n i j q i j n i j rV

i j n i j q r

f ff

fη η

ηη

≤ < ≤ ≠ ≤ < ≤ ≠

≤ < ≤ ≠

= . (3.1.23)

Съгласно Теорема 3.1.2 и трите плътности в дясната част на равенство (3.1.23) са от вида (3.0.2). Да интегрираме сега плътността по

отношение на променлива, на която единият от индексите е или . Нека това е . В дясната част на равенство (3.1.23), тази променлива ще участва само в плътността

,\{ }n q rVf η

q r,p ru

,{ ,1 , ,i j i j n i j qf η }≤ < ≤ ≠ . Използвайки отново Теорема 3.1.3 ще

получим, че

, ,

, ,,

{ ,1 , , , } { ,1 , , , }{ ,1 , , }\{ }

{ ,1 , , , , }

i j i j

i j p ri j

i j n i j q p i j n i j q ri j n i j q

i j n i j q p r

f ff

fη η

η ηη

≤ < ≤ ≠ ≤ < ≤ ≠≤ < ≤ ≠

≤ < ≤ ≠

= .

Следователно

, ,

, ,,

{ ,1 , , , } { ,1 , , }\{ , }

{ ,1 , , , , }

i j i j

n q r p ri j

i j n i j q p i j n i j rV

i j n i j q p r

f ff

fη η

η ηη

≤ < ≤ ≠ ≤ < ≤ ≠

≤ < ≤ ≠

= . (3.1.24)

Лесно може да бъде пресметнат, отново използвайки Теорема 3.1.3, интеграл от получената плътност по произволна променлива , която участва само

в една от плътностите в дясната част на (3.1.24). Такива са всички променливи , на които поне един от индексите е ,

,i ju

,i ju q p или . Например, нека да интегрираме плътността (3.1.24) по променливата . Тя участва само в плътността

r

,p su

,{ ,1 , ,i j i j n i j rf η }≤ < ≤ ≠ . Ще се получи съвместната плътност на

случайните величини от множеството , , ,\ { , , }n q r p r p sV η η η :

90

, , ,

, , ,, ,

{ ,1 , , , } { ,1 , , , } { ,1 , , , }\{ , , }

{ ,1 , , , , } { ,1 , , , , }

i j i j i j

n q r p r p si j i j

i j n i j q p i j n i j r p i j n i j r sV

i j n i j q p r i j n i j r p s

f f ff

f fη η η

η η ηη η

≤ < ≤ ≠ ≤ < ≤ ≠ ≤ < ≤ ≠

≤ < ≤ ≠ ≤ < ≤ ≠

= . (3.1.25)

По-нататък получената плътност може да се интегрира с помощта на Теорема 3.1.3 само по променливи , на които един от индексите е ,i ju p или

или по променливата . r ,q su

Фиг. 7

q r

p s

v

t

Фиг. 8

q r

p s

v

t

Ако искаме да интегрираме плътността (3.1.25) по променлива , където

, трябва да интегрираме първо по променливата , след това по променливата и накрая по променливата (фиг. 7). Възможно е също да се интегрира най-напред по , след това по и накрая по (фиг. 8). Наистина, съгласно Теорема 3.1.3,

,t vu{ , } { , , , }t v q r p s∩ =∅ ,p tu

,r vu ,t vu

,p vu ,r tu

,t vu

, , ,

, , , ,, ,

{ ,1 , , , } { ,1 , , , } { ,1 , , , , }\{ , , , }

{ ,1 , , , , } { ,1 , , , , , }

i j i j i j

n q r p r p s p ti j i j

i j n i j q p i j n i j r p i j n i j r s tV

i j n i j q p r i j n i j r s p t

f f ff

f fη η η

η η η ηη η

≤ < ≤ ≠ ≤ < ≤ ≠ ≤ < ≤ ≠

≤ < ≤ ≠ ≤ < ≤ ≠

= ,

, , ,

, , , , ,, ,

{ ,1 , , , , } { ,1 , , , } { ,1 , , , , }\{ , , , , }

{ ,1 , , , , , } { ,1 , , , , , }

i j i j i j

n q r p r p s p t r vi j i j

i j n i j q p v i j n i j r p i j n i j r s tV

i j n i j q p r v i j n i j r s p t

ff f

η η ηη η η η η

η η

≤ < ≤ ≠ ≤ < ≤ ≠ ≤ < ≤ ≠

≤ < ≤ ≠ ≤ < ≤ ≠

=f f f

,

, , , , , ,\{ , , , , , }n q r p r p s p t r v t vVf η η η η η η

, , , ,

, , ,

{ ,1 , , , , } { ,1 , , , , } { ,1 , , , , } { ,1 , , , , }

{ ,1 , , , , , } { ,1 , , , , , } { ,1 , , , , , }

i j i j i j i j

i j i j i j

i j n i j q p v i j n i j r p v i j n i j r p t i j n i j r s t

i j n i j q p r v i j n i j r p t v i j n i j r s p tf f fη η η η

η η η

≤ < ≤ ≠ ≤ < ≤ ≠ ≤ < ≤ ≠ ≤ < ≤ ≠

≤ < ≤ ≠ ≤ < ≤ ≠ ≤ < ≤ ≠

=f f f f

.

Следователно с помощта на Теорема 3.1.3 не можем да намерим точна формула за плътността на случайните величини от множеството

91

, , , ,\ { , , , }n q r p r p s t vV η η η η , но можем да намерим точна формула за плътността на случайните величини от множеството , , , , , ,\ { , , , , , }n q r p r p s p t r v t vV η η η η η η или от , , , , , ,\ { , , , , ,n q r p r p s p v r t t vV }η η η η η η . □

Маргиналните плътности, получени с помощта на Теорема 3.1.3 ще имат вида

1 2 1

1 2 1 2 3 1 1( ) ( )

r

r r

M M M

M M M M M M M M

f f ff f f

+

+∩ ∪ ∩ ∪ ∪ ∩…

……

, (3.1.26)

където , 1, ,t 1M t r= … +

}

са подмножества на от вида nV

,{ ,1 ; , }, {1, ,t i j t tM i j n i j K K nη= ≤ < ≤ ∉ ⊂ … .

Освен това редицата от множества 1, , r 1M M +… е такава, че за всяко , сечението

t2, , 1t r= … +

1 1( )t tM M M−∪ ∪ ∩…

отново е от вида ,{ ,1 ; , }, {1, ,i j i j n i j K K n}η ≤ < ≤ ∉ ⊂ … .

При тези условия, от Теорема 3.1.8 следва, че плътността (3.1.26) ще задава съвместната плътност

1 1rM Mf+∪ ∪… на случайните величини от

обединението 1 1rM M +∪ ∪… . Да се опитаме да намерим плътността , където

. За целта, трябва да се интегрират двете страни на равенство (3.1.23), задаващо плътността , по променливата ,

съответна на

, ,\{ , }n q r p sVf η η

{ , } { , }q r p s∩ =∅

,\{ }n q rVf η ,p su

,p sη . Тази променлива ще участва и в трите плътности в

дясната част на равенство (3.1.23), които съгласно Теорема 3.1.2 са от вида (3.0.2). Детерминантите на матриците , и са полиноми от втора степен по отношение на елемента . Следователно,

ако е нечетно число, съвместната плътност на случайните величини от множеството

U[{ } ]cq U[{ } ]cr U[{ , } ]cq r,p su

m n−, ,\ { , }n q r p sV η η ще се изразява чрез елиптичен интеграл. Ако

разликата е четно число, интегралът може да се изрази с елементарни функции, но има сложен вид дори за малки стойности на разликата

m n−m n− .

Съгласно Теорема 3.1.3, плътността е различна от нула за всяка

симетрична матрица ,\{ }n q rVf η

,U ( )i ju= с единици по главния диагонал, за която

92

U[{ } ] 0cq и . Положителната определеност на матрицата , съгласно Теорема 2.2.1 ще е еквивалентна на условие за елемента

:

U[{ } ] 0crU[{ } ]cq

,p su

1 ,p sa u b1< <

и изискването матриците и да са положително

определени. Аналогично, положителната определеност на матрицата ще е еквивалентна на условие за елемента :

U[{ , } ]cq p U[{ , } ]cq s

U[{ } ]cr ,p su

2 ,p sa u b2< <

и изискването матриците и да са положително

определени. Следователно интегрирането на плътността (3.1.23) по отношение на елемента трябва да се извърши в граници

U[{ , } ]cr p U[{ , } ]cr s

,p su

1 2 , 1 2max( , ) min( , )p sa a u b b< < .

Съвместната плътност на случайните величини от множеството , ,\ { , }n q r p sV η η ще е различна от нула за всяка симетрична матрица ,U ( )i ju=

с единици по главния диагонал, за която , , , и освен това е изпълнено условието

U[{ , } ] 0cq p U[{ , } ] 0cq sU[{ , } ] 0cr p U[{ , } ] 0cr s

1 2 1 2max( , ) min( , )a a b b< . (3.1.27)

Ако желаем да интегрираме тази съвместна плътност по отношение на трета променлива - , освен в случая, когато тя е , , или ,

при нечетно число ще се наложи да се интегрират елиптични функции. Независимо от стойността на разликата , границите на областта, в която се интегрира по отношение на , могат да бъдат

определени единствено с числен метод, тъй като условието (3.1.27) не може да бъде решено аналитично спрямо елемента .

,t vu ,q pu ,q su ,r pu ,r su

m n−m n−

,t vu

,t vu

При намирането на произволна маргинална плътност, изведените в настоящата глава теореми и следствия могат значително да намалят кратността на интеграла, който трябва да бъде пресметнат.

93

Пример 4. Да намерим съвместната плътност на случайните величини от множеството 1,2 1,3 2,3 3,4 3,10 4,5 4,6 4,7 4,8 5,6 5,7 6,7{ , , , , , , , , , , ,M ,η η η η η η η η η η η η=

8,9 8,10 10,11 11,12 12,13, , , , }η η η η η , които са изобразени на фигура 9 като дъги на граф с непрекъсната линия. В случая , но 13n ≥ 13M V⊂ . Съгласно Теорема 3.1.2, съвместната плътност

13Vf се задава с (3.0.2) при 13n = . В

множеството V участват 1313.12 78

2= случайни величини, а в множеството

M те са 17. Следователно, за да се получи от плътността 13Vf съвместната

плътност Mf , трябва да се интегрира по 61 променливи, т.е. кратността на

интеграла ще е 61. При това, без използването на Теорема 2.2.1 не е възможно да бъдат определени границите, в които трябва да се интегрира по всяка една от тези 61 променливи.

С неколкократно прилагане на Теорема 3.1.7 се вижда, че

8,9 12,13 11,12 10,11 1,2 1,3 2,3 4,5 4,6 4,7 5,6 5,7 6,7 3,4 4,8 8,10 3,10{ } { } { } { } { , , } { , , , , , } { , , ,Mf f f f f f f fη η η η η η η η η η η η η η η η η= } .

Съгласно Следствие 3.1.2, величините 8,9η , 10,11η , 11,12η и 12,13η са еднакво

разпределени 1 1, , 1,

2 2m mBeta − −⎛ ⎞−⎜ ⎟

⎝ ⎠1

}

, с плътност от вида (3.1.1).

Използвайки Теорема 3.1.2, съвместните разпределения на величините от множествата 1,2 1,3 2,3{ , ,η η η и 4,5 4,6 4,7 5,6 5,7 6,7{ , , , , , }η η η η η η са 3( )mψ и 4 ( )mψ

съответно, с плътности от вида (3.0.2).

3

1 2

7 3 11 13

10 6 4

12 8

5 9

Фиг. 9

94

Прилагайки Теорема 3.1.6 за случайните величини от множеството 3,4 4,8 3,8 8,10 3,10{ , , , , }η η η η η , се вижда, че

3,4 4,8 3,8 3,8 8,10 3,10

3,4 4,8 3,8 8,10 3,103,8

{ , , } { , , }{ , , , , }

{ }

f ff

fη η η η η η

η η η η ηη

= .

Съвместните разпределения на величините от множествата 3,4 4,8 3,8{ , , }η η η ,

3,8 8,10 3,10{ , , }η η η и 3,8{ }η са 3( )mψ , 3( )mψ и 1 1, , 1,

2 2m mBeta − −⎛ ⎞−⎜ ⎟

⎝ ⎠1

съответно. За да се получи търсената плътност се налага да се интегрира само веднъж – трябва да се изключи променливата 3,8η , която е изобразена

на фигура 9 с пунктирана линия между върховете 3 и 8. Съгласно Теорема 2.2.1, матриците и са

положително определени тогава и само тогава, когато са от интервала (-1, 1), а удовлетворява неравенствата:

U[{3,4,8}] U[{3,8,10}]3,4 3,10 4,8 8,10, , ,u u u u

3,8u

2 2 2 23,4 4,8 3,4 4,8 3,8 3,4 4,8 3,4 4,8(1 )(1 ) (1 )(1 )u u u u u u u u u− − − < < + − − ,

2 2 2 23,10 8,10 3,10 8,10 3,8 3,10 8,10 3,10 8,10(1 )(1 ) (1 )(1 )u u u u u u u u u− − − < < + − − .

Следователно освен изискването да са от интервала (-1, 1)

трябва и да са такива, че 3,4 3,10 4,8 8,10, , ,u u u u

( )2 2 2 23,4 4,8 3,4 4,8 3,10 8,10 3,10 8,10max (1 )(1 ), (1 )(1 )u u u u u u u u− − − − − −

( )2 2 2 23,4 4,8 3,4 4,8 3,10 8,10 3,10 8,10min (1 )(1 ), (1 )(1 )u u u u u u u u< + − − + − − .

Да означим с l и лявата и дясната част в горното неравенство, r

( )2 2 2 23,4 4,8 3,4 4,8 3,10 8,10 3,10 8,10max (1 )(1 ), (1 )(1 )l u u u u u u u u= − − − − − − ,

( )2 2 2 23,4 4,8 3,4 4,8 3,10 8,10 3,10 8,10min (1 )(1 ), (1 )(1 )r u u u u u u u u= + − − + − − .

Тогава

95

3,4 3,10 4,8 8,10

4

2

{ , , , } 3,4 3,10 4,8 8,10 2

3

2 2( , , , )

2

m m

f u u u um

η η η η

⎡ ⎤⎛ ⎞ ⎛ ⎞Γ Γ⎜ ⎟ ⎜ ⎟⎢ ⎥⎝ ⎠ ⎝ ⎠⎣ ⎦=⎡ ⎤⎛ ⎞Γ ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦

( )4m−

2 2 2 2 2 2 23,4 4,8 3,4 4,8 3,10 8,10 3,10 8,10

32 2

(1 2 )(1 2 )

(1 )

r

ml

x u u x u u x u u x u ud x

x−

− − − + − − − +×

−∫ .

Така, използвайки доказаните Теореми и Следствия, изчисляването на плътността Mf в произволна точка се свежда до численото пресмятане на

еднократен интеграл, вместо на 61-кратен, при това с известни граници на интегриране. □

3.2 Маргинални плътности на разпределе-нието на Уишарт За наблюдения над случайни величини с многомерно нормално разпределение, съвместните плътности на съвкупности от извадъчни ковариационни коефициенти са маргинални плътности на разпределението на Уишарт , дефинирано с (2.4.13). От сравняването на плътността

(2.4.13) с плътността (3.0.1) на извадъчната ковариационна матрица при наблюдения над независими случайни величини се вижда, че трябва да бъдат разгледани отделно двата случая – на независими фактори (диагонална ковариационна матрица) и на зависими фактори (произволна ковариационна матрица).

( , )nW m Ξ

3.2.1 Разпределение на Уишарт с диагонална ковариационна матрица В случай на независими случайни величини , ..., с многомерно нормално разпределение

1X nX(μ, )nN Λ , ковариационната матрица Λ е

диагонална, 21Λ ( , , )ndiag 2σ σ= … , където 2

iσ е дисперсията на , iX

96

1, ,i = … n . При наблюдения над , ..., , , извадъчната

ковариационна матрица ще има разпределение на Уишарт

1m + 1X nX n m≤

S 1,nW mm

⎛ ⎞Λ⎜ ⎟⎝ ⎠

.

Интегрирането по плътността (3.0.1) по отношение на част от извъндиагоналните елементи на матрицата ,W ( i jw )= става аналогично на

изложените твърдения и примери в параграф 3.1, поради явното сходство между плътностите (3.0.1) и (3.0.2). 3.2.2 Разпределение на Уишарт с произволна ковариационна матрица Нека ,( i j )ζ=ζ е симетрична случайна матрица с разпределение ( ),nW m Ξ .

Нека α е множество от на брой цели числа в интервала . Тогава k [1, ]n[ ]αζ ∼ ( ), [ ]kW m αΞ (виж Anderson, 2003, Muirhead, 2005). Маргинални плътности за съвкупности от елементи на ζ от вида

,{ , , , } \{i j q ri j i j , }ζ α∈ ≤ ζ , където и са от множеството q r α , , могат

да бъдат получени чрез интегриране на плътността на разпределението на Уишарт

q r<

11 1( 1) (W )2 2

2 2

1(W) (det W)2 (det )

2

m n tr

nm m

n

f em

−− − − Ξ=

⎛ ⎞Γ Ξ⎜ ⎟⎝ ⎠

W ( , )n∈P, , (3.2.1)

по отношение на елемента на матрицата ,q rw ,W ( )i jw= . Резултатът е даден

в Теорема 3.2.1 по-долу. С ( )vI ⋅ е означена модифицираната функция на

Бесел от първи род

( ) ( )1

2 1/ 2

1

( / 2)( ) (1 )1/ 2 1/ 2

vv zt

v

zI z t e dtv

− ±

−

= −Γ + Γ ∫ 1/ 2 0v, + > (3.2.2)

(виж [52], 8.431 1). Елементите на матрицата 1−Ξ са означени с ,i jσ , . 1 i j n≤ ≤ ≤

97

Теорема 3.2.1 Нека случайната матрица ,( i j )ζ=ζ има разпределение на

Уишарт ( ),nW m Ξ и , са цели числа, 1q r q r n≤ < ≤ . Тогава, маргиналната

плътност, съответстваща на множеството от случайни величини , ,{ ,1 } \{i j q rM i j n }ζ ζ= ≤ ≤ ≤ има вида

( )0WMf = (3.2.3)

( )( )

( )1

00 0 (W ) / 2( 1) / 2/ 2 / 2

0

det W [{ } ]det W [{ } ]2 / 2 (det ) det W [{ , } ]

c ctr

m nnm m cn

q rL em q r

−− Ξ− +Γ Ξ

( ) / 2m n−

,

за всяка симетрична n n× матрица 0 ,W ( i jw )= , такава че и

матриците , са положително определени. Ако , , 0q r r qw w= =

0W [{ } ]cq 0W [{ } ]cr , 0q rσ = ,

то

( )( ) ( )( )( )

1 / 2 1/ 22 / 2

m nL

m nΓ − + Γ

=Γ − +

. (3.2.4)

За , 0q rσ ≠ ,

( )( ) ( )( ) / 2

( ) / 2

21 / 2 1/ 2 ( )m n

Am nL m n e I B

B

−

−−

⎛ ⎞= Γ − + Γ ⎜ ⎟⎝ ⎠

, (3.2.5)

където

,0

0

( 1) det W [{ } ,{ } ]det W [{ , } ]

r q c cq r

c

q rAq r

σ−−

= , ,0 0

0

det W [{ } ]det W [{ } ]det W [{ , } ]

c cq r

c

q rB

q rσ= . (3.2.6)

Доказателство: За да бъде доказано твърдението, трябва да се

интегрира плътността (3.2.1) по отношение на променливата в

границите, определени от Теорема 2.2.1. Да означим

,q rw

c c 0 c c

c

( 1) detW[{ } { } ] detW[{ } ]detW[{ } ]detW[{ } ]

q r q , r q ra

q,r

−− −=

c c c c0 0

c0

( 1) detW [{ } { } ] detW [{ } ]detW [{ } ]detW [{ } ]

q r q , r q rq,r

−− −= 0 , (3.2.7)

98

c c 0 c cq r−

c

( 1) detW[{ } { } ] detW[{ } ]detW[{ } ]detW[{ } ]

q , r q rb

q,r− +

=

c c c c0 0

c0

( 1) detW [{ } { } ] detW [{ } ]detW [{ } ]detW [{ } ]

q r q , r q rq,r

−− += 0 . (3.2.8)

Тогава търсената съвместна плътност ще има вида

( ), , ( , ) ( )M i jf w i j E M∈ = ,(W)b

q ra

f dw∫ . (3.2.9)

Да извършим смяна на променливата под знака на интеграла в (3.2.9) с полагането

0 0,

0

( 1) det W [{ } ,{ } ] det W [{ } ]det W [{ } ]detW [{ } ]

r q c c c c

q r c

q r t q rw

q,r

−− += 0 .

Новата променлива t ще се изменя в граници от –1 до 1 и

c c0 0

c0

detW [{ } ]detW [{ } ]detW [{ } ]q ,r

q rdw dt

q,r= .

Удобно представяне за de се получава, аналогично на равенство (3.1.5) t W

20 0

0

det W [{ } ]det W [{ } ]det W (1 )detW [{ } ]

c c

c

q r tq,r

= − .

Понеже матриците и W 1−Ξ са симетрични,

1 , , 1, , 0

1(W ) 2 (W ) 2

ni i i j q r

i i i j q ri i j

tr w w tr w ,,σ σ σ− −

= <

Ξ = + = Ξ +∑ ∑ .

Следователно, при смяната на променливата с t, маргиналната плътност

(3.2.9) ще добие вида (3.2.3) с

,q rw

12 ( 1) / 2

1

(1 )A m n BtL e t e− − −

−

= −∫ dt− , (3.2.10)

99

където A и B са дадени с (3.2.6). Ако , 0q rσ = , то 0A B= = . В този случай равенство (3.2.4) следва от (3.1.7). Когато , 0q rσ ≠ , използвайки равенство (3.2.2), (3.2.10) може да бъде записано във вида (3.2.5). □

Както се вижда от Теорема 3.2.1, интегрирането на плътността (3.2.1) по отношение на променливи , за които ,i jw , 0i jσ = , води до аналогични

резултати на тези, получени в параграф 3.1. Условието , 0i jσ = означава, че случайните величини и са условно независими, при условие

останалите наблюдавани фактора. Изследването на данните, с цел установяването на условна независимост между двойки от факторите, при условие останалите, се нарича ковариационна селекция (covariance selection), въведена от Демпстер през 1972 г. ([31]) с цел редуциране на броят на параметрите при оценяването на ковариационната матрица. Наличието на условна независимост между двойки от факторите, при условие останалите, лежи в основата на графичните гаусови модели ([18], [69], [80]). В някои научни области, например в генетиката ([36], [114]), преобладаващата част от двойките фактори са условно независими, при условие останалите. В [5] е показано, че максимално правдоподобната оценка за ковариационни коефициенти, за които

iX jX

2n −

, 0i jσ ≠ остава равна на извадъчния ковариационен коефициент ,i js . Максимално правдоподобната

оценка за ковариационен коефициент, за който , 0i jσ = се определя еднозначно въз основа на тези елементи ,i js на извадъчната ковариационна

матрица, за които , 0i jσ ≠ . По този начин елементите на , за които елементите на са различни от нула, образуват достатъчно множество от статистики за оценяването на ковариационната матрица

S1−Σ

Σ . При моделирането на ковариационната матрица е достатъчно в модела да се включат само тези ковариационни коефициенти, за които , 0i jσ ≠ . Съответната маргинална плътност на разпределението на Уишарт, която ще се използва за оценяване на параметрите в модела се получава като се интегрира плътността (3.2.1) по отношение на тези , за които ,i jw , 0i jσ = .

Дори при , 0i jσ ≠ , плътността (3.2.3) може отново да бъде интегрирана по отношение на друга променлива - . Значително по-

прости резултати ще се получат, ако единият от индексите или ,i jw

i j е или q

100

r . В противен случай ще срещнем същите трудности, като посочените в параграф 3.1.

Възможно е за някои от променливите, които искаме да бъдат отстранени , 0i jσ = , а за останалите , 0i jσ ≠ . Това значително ще опрости резултата, тъй като наличието на условието , 0i jσ = води до по-компактен вид на получената маргинална плътност.

Като следствие от Теорема 3.2.1 може да бъде изведена условната плътност на елемента ,q rζ на случайна матрица ( ),nW m Ξζ ∼ , при условие,

че са известни стойностите на останалите й елементи. Следствие 3.2.1 Нека случайната матрица ,( i j )ζ=ζ има разпределение на

Уишарт ( ),nW m Ξ и нека , са цели числа, . Тогава условната плътност на елемента

q r 1 q r p≤ < ≤

,q rζ , при условие, че ,i j i jw ,ζ = , за ,i jζ принадлежащи на множеството , ,{ ,1 } \{i j q rM i j n }ζ ζ= ≤ ≤ ≤ , има вида

( ), , , , ( , ) ( )

q r q r i jMf w w i j E Mζ ∈ =

( ) ( )( )

,,

( 1) / 2 ( 1) / 20

( ) / 2

0 0

det W [{ , } ] det W

det W [{ } ]det W [{ } ]

q rq r

m n m ncw

m nc c

q re

q r Lσ

− + − −−

− , , ( , )q rw a b∈ ,

където , е получена от след заместване на елементите и с 0,

,W=( )i jw 0W W

,q rw ,r qw L е дадена с (3.2.4) и (3.2.5) и , са дадени с (3.2.7) и

(3.2.8).

a b

101

Глава 4 Проверка на хипотези за ковариаци-онната матрица

В тази глава са разгледани проверките на различни хипотези, свързани с ковариационната матрица. С помощта на получената в Глава 2 параметризация на произволна ковариационна матрица, в параграф 1 е изведена вероятностната характеризация на точните разпределения на критериите им за проверка. Това става по един директен начин, използвайки представянето на ковариационната матрица чрез новите променливи, чиито разпределения са известни. Подходът, който се среща в литературата ([5], [106], [107]) е индиректен. Най-напред за съответния критерий се изчисляват началните моменти от ред и след това с помощта на обратна трансформация се търси плътността. За да се получи обаче характеризацията на разпределението, необходима например за изчисляването на квантили и критични точки чрез симулация, тя трябва да бъде отгатната въз основа на вида на изведената плътност. В параграф 1 е показано как този недостатък може да бъде избегнат с използването на апарата, изведен в Глава 2 от дисертацията.

h

В параграф 2 е изведен критерия с отношение на правдоподобия за проверка на хипотезата за независимост на факторите, при предположението че част от елементите на извадъчната корелационна матрица са неизвестни. Липсата на извадъчни корелационни коефициенти може да се дължи на пропуски в матрицата от първичните наблюдения. Такава ситуация е често срещана ([2], [66], [97], [103]) при анализа на редки явления, динамично естество на разглеждания проблем и винаги когато изследваните показатели са свързани с взаимно-изключващи се събития. Например, нека над даден фактор са извършени наблюдения iX ,1ix , ..., ,i kx , , а над друг фактор

1 k m< <

jX - наблюдения , 1j kx + , ..., ,j mx . Тогава коефициентите и ,i jr ,j ir в

102

извадъчната корелационна матрица ще бъдат неопределени, т.е. неизвестни.

R

Липсата на елементи в извадъчната корелационна матрица може да се дължи и на загуба, вследствие на преноса или съхраняването им. Както бе отбелязано в Глава 1, голяма част от многомерния статистически анализ, включително регресионен анализ, факторен анализ и дискриминантен анализ се базира на първоначална редукция на данните с изчисляването на вектора от извадъчните средни стойности и емпиричната ковариационна матрица на променливите. По този начин значително се намалява обемът на информацията, която трябва да бъде съхранявана или транспортирана.

В параграф 2 е разгледан случаят, когато липсващите стойности се намират в един и същ ред (стълб) на извадъчната ковариационна матрица. Изведените в Глава 3 маргинални плътности обаче дават възможност за аналогични резултати и при други конфигурации на липсващите елементи.

4.1 Точни разпределения на известните критерии Разпределението на Уишарт се използва широко в многомерния статистически анализ ([5], [47], [104]). Ако ,( )i jS=S е извадъчната

ковариационна матрица, изчислена въз основа на независими наблюдения над случаен вектор с многомерно нормално разпределение

m

( ,Σ)nN μ , случайната матрица ( 1)m= −W S има разпределение на Уишарт

(виж [5]). S е неизместена оценка, а ( 1,Σ)nW m −1m

m− S - максимално

правдоподобна оценка за ковариационната матрица Σ . Затова, функции на , най – често детерминанта и следа, участват в критериите с отношение на

правдоподобия за проверката на хипотези, свързани със . За да може да се използва даден критерий за проверка на хипотези, трябва да е известно неговото разпределение, поне при предположенията на нулевата хипотеза. Във всеки от случаите, разгледани по – долу се вижда, че с преобразувания на изходните данни нулевата хипотеза може да бъде преформулирана във вида

SΣ

103

0 : InH Σ =

или

0 :H Σ е диагонална матрица.

При предположението 21( , , ndiag 2 )σ σΣ = … , могат да бъдат използвани

получените в Глава 2 от настоящата дисертация представяния за детерминантата и следата на . Oт равенство (2.3.19) при се получава съотношението

S i n=

det Y 21,1 , ,

1

(1 )n n k lk l n

x x x≤ < ≤

⎛ ⎞= ⎜

⎝ ⎠∏… − ⎟

y

, (4.1.1)

при предположението, че матрицата ,Y ( )i j= е образ на матрицата

,X ( i jx )= h при изображението . Равенство (4.1.1) е изпълнено и когато е

образ на при изображението . Това следва от равенство (2.4.36) при ,

Y

X h1i = j n= , като се приложи и Теорема 2.3.3. Съгласно Следствие 2.4.4,

матрицата , имаща разпределение на Уишарт, може да се

разглежда като образ при изображението . Оттук

( 1)m= −W S

2

h

1,1 , ,1

det (1 )n n i ji j n

ξ ξ≤ < ≤

= ξ−∏W … , (4.1.2)

където величините ,i jξ , 1 i j n≤ ≤ ≤ са взаимно независими, ,i jξ ∼

1 1, ,2 2

m i j m i jBeta + − − + − −⎛ ⎞−⎜ ⎟⎝ ⎠

1,1 j за i ≠ и 2 2, / (i i i mξ σ χ 1)−∼ . От

формули (2.3.24) за следата на ( 1)m= −W S се получава

1,1 ,n ntr ξ ξ= + +W . (4.1.3)

Пример 5. Проверка на хипотезата за равенство на ковариационната матрица на зададена положително определена матрица

Нека , ,1 ,( , )ti i i nX X=X … 1, ,i m= … е случайна извадка с размер ( m n )

от - мерно нормално разпределение с неизвестен вектор от средни стойности

m >

nμ и неизвестна положително определена ковариационна матрица

. Интересуваме се от проверка на хипотезата Σ

104

0 0:H Σ = Σ

срещу алтернативата

1 0:H Σ ≠ Σ ,

където e конкретна положително определена матрица. Нека е квадратна матрица от ред , такава че

0Σ An 0A A It

nΣ = . Поради положителната определеност на такъв избор за матрицата е възможен и дори не е

еднозначен. В частност може да е единствената горно триъгълна матрица, за която . Нека

0Σ A

A1

0A At −= Σ Ai i=Y X , 1, ,i m= … , Aν μ= и . Тогава , e случайна извадка с обем от - мерно нормално

разпределение с неизвестен вектор от средни стойности

* A AtΣ = Σ

iY 1, ,i = … m m nν и неизвестна

положително определена ковариационна матрица . Задачата се трансформира в проверка на хипотезата

*Σ

*0 : InH Σ =

срещу алтернативата

*1 : InH Σ ≠ ,

на база на реализациите на , iY 1, ,i m= … . Теста с отношение на правдоподобия за проверката на 0H срещу 1H е ([47])

/ 2 1/ 2 2(det )

mntrme e

mλ

−⎛ ⎞= ⎜ ⎟⎝ ⎠

WW , (4.1.4)

където

1

( )( )n

ti i

i=

= − −∑W Y Y Y Y , 1

1 m

iim =

= ∑Y Y .

Ако 0H е вярна, разпределението на е W ( 1,InW m )n− . Тогава чрез (4.1.2) и

(4.1.3), λ може да се запише във вида

,

/ 2/ 2 12 / 2 2, ,

1 1

(1 ) i i

mmn nm

i j i ii j n i

e em

ξλ ξ

−

≤ < ≤ =

⎛ ⎞ ⎛ ⎞⎛ ⎞= −⎜ ⎟ ⎜ ⎟⎜ ⎟⎝ ⎠ ⎝ ⎠⎝ ⎠

∏ ∏ξ ,

105

където величините ,i jξ , 1 i j n≤ ≤ ≤ са независими, ,i jξ ∼

1 1, , 12 2

m i j m i jBeta + − − + − −⎛ −⎜⎝ ⎠

i j,1⎞⎟ за ≠ и . Да означим

с

2, ( 1)i i mξ χ −∼

1ζ , ..., 1nζ − случайните величини

2,

1

(1 )n

i ij i

jζ ξ= +

= −∏ , 1, , 1i n= −… .

Тогава

1 12 2, ,

1 1 1

(1 ) (1 )n n n

i j i j ii j n i j i i 1

ξ ξ− −

≤ < ≤ = = + =

− = − =∏ ∏∏ ζ∏ . (4.1.5)

Съгласно (2.4.37),

1 , ,0,12 2i

m n i n iBetaζ − − + −⎛ ⎞⎜ ⎟⎝ ⎠

∼ , . 1, , 1i n= −…

Ако положим i n iζ −= 1, , 1i n, η = −…

i

, то

1 1

1 1

n n

ii i

ζ η− −

= =

=∏ ∏ (4.1.6)

и 1 , ,0,12 2i

m i iBetaη − −⎛ ⎞⎜ ⎟⎝ ⎠

∼ , 1, , 1i n= −… .

Следователно λ е разпределена като произведението

( )/ 2

/ 21 1 1

mnm

nem nλ η η ν ν−

⎛ ⎞≅ ⎜ ⎟⎝ ⎠

… … , (4.1.7)

където величините iη , 1, , 1i n= −… , iν , 1, ,i n= … са независими, 1 , ,0,12 2i

m i iBetaη − −⎛⎜⎝ ⎠

∼ ⎞⎟ . Величините iν , 1, ,i n= … са еднакво

разпределени като величината

1/ 2 2m e

ξν ξ

−= , където 2 ( 1mξ χ )−∼ .

106

Полученото представяне за λ е интересно и от теоретична и от практична гледна точка. От една страна се вижда как се изразява λ като произведение от независими случайни величини. Това е точно представяне, а не асимптотично, каквото е известното до този момент ([5]). От друга страна, за получаването на една стойност на λ , съгласно (4.1.7) ще са необходими

независими бета и хи – квадрат разпределени случайни величини. Без да се използва (4.1.7), за симулирането на всяка една стойност на 2n −1

λ ще трябва да се генерира цяла ковариационна матрица, да се изчислят нейната детерминанта и следа, които да се заместят в (4.1.4). Пример 6. Проверка на хипотезата за сферичност.

Нека , ,1 ,( , )ti i i nX X=X … 1, ,i m= … е случайна извадка с размер ( m n )

от - мерно нормално разпределение с неизвестен вектор от средни стойности

m >

nμ и неизвестна положително определена ковариационна матрица

. Интересуваме се от проверка на хипотезата Σ

20 0:H σΣ = Σ

срещу алтернативата

21 0:H σΣ ≠ Σ ,

където e конкретна положително определена матрица, а 0Σ2σ е неизвестна

константа. Аналогично на Пример 5, проверката на 0H срещу 1H може да

се сведе до проверката на

* 20 : InH σΣ =

срещу алтернативата

* 21 : InH σΣ ≠ .

Хипотезата 0H се нарича хипотеза за сферичност. Теста с отношение на правдоподобия за проверката на 0H срещу 1H е ([47])

( )

/ 2/ 2

/ 2/ 2

det (det )( )( ) /

mm

n mn n mn

trtr nλ

⎡ ⎤= =⎢ ⎥⎢ ⎥⎣ ⎦

W WWW

,

107

където ( 1)m= −W S . При вярна 0H , разпределението на е . Тогава чрез (4.1.2) и (4.1.3),

W2( 1, InW m σ− )n λ може да се запише във вида

( )( )

/ 2/ 21,1 ,/ 2 2

, / 21 1,1 ,

(1 )mm

n nn mi j n m

i j n n n

nξ ξ

λ ξξ ξ≤ < ≤

⎛ ⎞= −⎜ ⎟

+ +⎝ ⎠∏

…

…,

където величините ,i jξ , 1 i j n≤ ≤ ≤ са взаимно независими, ,i jξ ∼

1 1, ,2 2

m i j m i jBeta + − − + − −⎛ ⎞−⎜ ⎟⎝ ⎠

1,1 j за i ≠ и 2 2, / (i i mξ σ χ 1)−∼ . От

(4.1.5) и (4.1.6) се вижда, че величината

2,

1

(1 )i ji j n

ξ≤ < ≤

−∏

е разпределена като произведение от 1n − на брой независими бета

разпределени случайни величини 1, ,0,1

2 2m i iBeta − −⎛ ⎞

⎜ ⎟⎝ ⎠

, .

Следователно

1, , 1i n= −…

λ е разпределена като произведението

( ) ( )( )

/ 2/ 2/ 2 1

1 1 / 21

mmn m n

n n mn

nν ν

λ η ην ν

−≅+ +

……

…,

където величините iη , 1, , 1i n= −… , iν , 1, ,i n= … са независими,

iη1, ,0,1

2 2m i iBeta − −⎛

⎜⎝ ⎠

∼ ⎞⎟ . Величините iν , 1, ,i n= … са еднакво

разпределени 2 2/ (i m 1)ν σ χ −∼ .

Пример 7. Проверка на хипотезата за независимост на факторите.

Нека отново , ,1 ,( , )ti i i nX X=X … 1, ,i m= … е случайна извадка с размер

( ) от - мерно нормално разпределение с неизвестен вектор от средни стойности

m

m n> nμ и неизвестна положително определена ковариационна

матрица . Интересуваме се от проверка на хипотезата за независимост на факторите, т.е. от

Σ

0 :H 2 21( , , ndiag )σ σΣ = …

108

срещу алтернативата

1 :H 2 21( , , )ndiag σ σΣ ≠ … ,

където 21σ , ..., 2

nσ са неизвестни константи. Еквивалентна формулировка на

0H и 1H може да се получи като се използва връзката (2.1.6) между Σ и

корелационната матрица : P

0 :H P In=

1 :H . P In≠Теста с отношение на правдоподобия за проверката на 0H срещу 1H е ([47])

2 2

1,1 , 1,1 ,

det det... ...

m m

n n n nW W S Sλ

⎛ ⎞ ⎛= =⎜ ⎟ ⎜⎜ ⎟ ⎜⎝ ⎠ ⎝

W S ⎞⎟⎟⎠

)

,

където е извадъчната ковариационна матрица, а . От

връзката (2.1.8) между извадъчните ковариационна и корелационна матрици следва, че

,( i jS=S ( 1)m= −W S

1,1 ,det ... detn nS S=S R .

Оттук получаваме, че

( ) 2detm

λ = R .

При вярна 0H , разпределението на е , където W ( 1,nW m − Λ)2 )2

1( , , ndiag σ σΛ = … . Тогава чрез (4.1.2) λ може да се запише във вида

22,

1

(1 )

m

i ji j n

λ ξ≤ < ≤

⎛ ⎞= −⎜ ⎟⎝ ⎠∏ .

От (4.1.5) и (4.1.6) следва, че

1 2

1

mn

ii

λ η−

=

⎛ ⎞≅ ⎜ ⎟⎝ ⎠∏ ,

където iη , са независими бета разпределени случайни

величини,

1, , 1i n= −…1 , ,0,12 2i

m i iBetaη − −⎛ ⎞⎜ ⎟⎝ ⎠

∼ .

109

4.2 Липсващи стойности в емпиричната корелационна матрица Нека се изследват случайни величини , ..., , имащи многомерно

нормално разпределение. Да предположим, че изследователят разполага само с извадъчната корелационна матрица , в която елементите ,

(1 ) са неопределени. Това предположение е

предизвикано от следните съображения: Проверката за независимост на факторите, при пълна

n 1X nX

R ,i nr1, ,i k= … 1k n≤ < −

n m× матрица от първични наблюдения, се извършва ([5]) посредством критерия с отношение на правдоподобия, чиято [2 - та

степен е

/ ]m

det RL = . (4.2.1)

Следователно извършването на проверката е на база на извадъчната корелационна матрица . В [2] например, никъде не се посочват първичните наблюдения над факторите, а вместо това навсякъде в книгата анализа се извършва върху предоставената извадъчна корелационна матрица, в която има липсващи елементи. Това означава, че стандартната процедура за проверка на независимостта на факторите не може да бъде приложена. Вместо това, наличните корелационни коефициенти са разглеждани поотделно, проверявайки хипотезата за независимост на съответната им двойка от фактори. Ако при всяка от тези проверки вероятността за допускане на грешка от I род означим с

R

α , то налице са следните негативи при този подход:

• Проверката за независимост на факторите ще има вероятност за допускане на грешка от I род, равна на 1 (1 )lα− − , където l е броят на

наличните извадъчни корелационни коефициенти. Например, при 0,05α = и , . 12l = 121 (1 0,05) 0,46− − =

• При липсващи елементи в матрицата , няма да може да бъде проверена независимостта на съответната двойка от фактори и следователно не може коректно да се отговори на въпроса дали факторите са независими или не. Например при три фактора , ,

, ако липсва елемента в извадъчната корелационна матрица , дори да се приемат поотделно и двете хипотези, че двойките ,

R

1X 2X3X 1,3r R

1X 2X

110

и , са независими, за да се отговори на въпроса дали , , са независими е от съществено значение независимостта на и , която обаче не може да бъде потвърдена или отхвърлена при този

подход.

2X 3X 1X 2X

3X 1X

3X

Липсващи стойности в един и същ ред (стълб) на матрицата се получават при следната ситуация: първоначално са наблюдавани факторите , ...,

, но от даден момент нататък наблюденията са само над , ..., и един нов, допълнителен фактор

R1X

nX 1kX + nX

1nX + (фиг.10). Такава ситуация бихме получили и ако изследователят “А” наблюдава факторите , ..., , изследователят “В” от конкурентна фирма – факторите , ...,

1X nX

1kX + 1nX + . Оценките за корелационните коефициенти 1, 1k nr + + , ..., могат да бъдат

взети от публикации, отчети на изследователя “В”, често без да са налични самите експериментални данни.

, 1n nr +

Фиг. 10

Възможно е също да са събирани наблюдения над факторите , ..., и впоследствие е решено да бъде включен в изследването нов фактор

1X nX

1nX + .

Понеже за него липсват наблюдения, част от съответните му корелационни коефициенти могат да бъдат оценени на база на експертни оценки или паралелни изследвания, в които е участвал този и част от първоначалните фактори (фиг.11).

111

Фиг.11

Нека , ..., са случайни величини с многомерно нормално

разпределение 1X nX

( , )nN μ Σ , където μ е неизвестен вектор от средните

стойности. Издигната е хипотезата за независимост на тези фактори

2 20 1: ( , , )nH diag σ σΣ = … , 2

iσ са неизвестни, 1, ,i n= … (еквивалентна на 0 : P InH ′ = ) срещу алтернативата

2 2 )1 1: ( , , nH diag σ σΣ ≠ … .

Да предположим най-напред, че не разполагаме със самите наблюдения над , ..., , но е известен обема на извадката а също и емпиричната ковариационна матрица

1X nX m,( )i jS=S , в която обаче елементите

, ..., са неопределени (липсват). При тези условия ще изведем критерия с отношение на правдоподобия за проверката на

1,nS ,k nS

0H срещу 1H .

Поради връзките (2.1.8), (2.1.9) между емпиричните ковариационна и корелационна матрици, еквивалентно е да приемем, че разполагаме с , диагоналните елементи на и с извадъчната корелационна матрица

mS

,( i j )R=R , в която елементите 1,nR , ..., ,k nR липсват. Впоследствие, след

извеждането по-долу на критерия се вижда, че в него участват само и наличните елементи на матрицата .

mR

Критерия с отношение на правдоподобия се дефинира като частното

*0*

Lλ = , 1L*

0 0sup L= *1 1sup, L L L= 0, L и където 1L са съвместните плътности на

наблюденията, съответно с и без използване на предположението, съдържащо се в 0H ([47]).

112

( 1)m −Съвместното разпределение на елементите на матрицата S( 1, )n − Σ

( 1)i iT m S

е Уишарт W m . Да разгледаме величините

,i− 1, ,i n= = … ,

,( 1) i jm S, ,

, ,( 1) ( 1)i j i ji i j j

U Rm S m S

−= =

− −, 1 i j n≤ < ≤

където ,i jR е съответния елемент на извадъчната корелационна матрица .

При вярна хипотеза

R

0H , съгласно Следствие 2.4.1, множеството от случайни величини е независимо от съвкупността от извадъчните корелационни коефициенти

1{ , , }nT T…,{ ,1i jR )i j n≤ < ≤ T …2 2 1i iT mσ χ

. Величините са

взаимно независими и 1, , nT

/ ( )−∼ 1, ,i n, = …)

. Извадъчната корелационна матрица ,( i jR=R )m има разпределение ( 1nψ − , дефинирано

с (2.4.22). Съвместната плътност на елементите на , с изключение на липсващите

R1,nR , ..., ,k nR , може да бъде намерена с помощта на Теорема

3.1.4. Използвайки означенията от Глава 3, ако ,{ ,1 }i jM \R i j n= ≤ < ≤}n

1, ,{ , ,n kR R

)

… , то

,( , ( , ) ( )M i jf r i j E M∈ =1

1

1 12

1 12 2

n k

n n k

m m

m m

− −

− −

2

n− −⎡ ⎤⎛ ⎞ ⎛ ⎞Γ Γ⎜ ⎟ ⎜ ⎟⎢ ⎥⎝ ⎠ ⎝⎣ ⎦− −⎛ ⎞ ⎛ ⎞Γ Γ⎜ ⎟ ⎜ ⎟

⎝ ⎠ ⎝ ⎠

⎠ (4.2.2)

1 2m n m n k2 2

12

(det R[{ } ]) (det R[{1, , } ])

(det R[{1, , , } ])

c c

m n kc

n k

k n

− − − + −

c c

,( 1)i i iT m S= −

1, ,i n= …

− + −×…

…,

за и . Следователно, ако приемем, че нашите “наблюдения” са получените стойности за величините ,

и извадъчните корелационни коефициенти от множеството

R[{ } ] 0n R[{1, , } ] 0k…

M , то съвместната плътност 0L ще има вида:

113

,2

1

( 3) 3( 1)

1 2 221,1 ,

0 ( 1)12

1 1

1( 1) ( )2

1 12 ( )2 2

ni i

ii

n m m smn k

n nn m

mn n k n

mm s s

L em m

σ

σ σ

=

− −−

−− −

−−

− −

−⎛ ⎞Γ ⎜ ⎟ ∑−⎝ ⎠= ×− −⎛ ⎞ ⎛ ⎞Γ Γ⎜ ⎟ ⎜ ⎟

⎝ ⎠ ⎝ ⎠

…

…

1 2m n m n k2 2

12

(det R[{ } ]) (det R[{1, , } ])

(det R[{1, , , } ])

c c

m n kc

n k

k n

− − − + −

− + −×…

….

Максимално правдоподобните оценки за неизвестните параметри 2 21 , , nσ σ…

в 0L са величините , ..., съответно. Следователно, супремума 1,1S ,n nS *0L на

функцията на правдоподобие 0L е

( 3)( 1)1 2

* 20 ( 1)

21 1,1 ,

1( 1)2

1 122 2

n mn mn k

n m

n n k n n

mmL e

m ms s

−−− − −

−

− −

−⎛ ⎞Γ ⎜ ⎟ −⎝ ⎠= ×− −⎛ ⎞ ⎛ ⎞Γ Γ⎜ ⎟ ⎜ ⎟

⎝ ⎠ ⎝ ⎠…

1 2m n m n k2 2

12

(det R[{ } ]) (det R[{1, , } ])

(det R[{1, , , } ])

c c

m n kc

n k

k n

− − − + −

− + −×…

…

За определянето на функцията на правдоподобие 1L в общия случай,

ще използваме Теорема 2.4.1. Съвместната плътност на величините , , извадъчните корелационни коефициенти от

множеството ,( 1)i i iT m S= − 1, ,i n= …

M и неизвестните извадъчни корелационни коефициенти ще има вида:

1( 3) 3

2 12 2 (DRD )1,1 , 2 2( 1) 1

2 2

( 1) ( )(det R)

12 (det )2

n m mm n m trn n

n m m

n

m s sf e

m

−

− −− − −

− Σ

− −

−=

−⎛ ⎞Γ Σ⎜ ⎟⎝ ⎠

…,

за , , където с е означена диагоналната матрица R 0 , 0i is > D

1,1 ,D ( , , )n ndiag s s= … . Функцията на правдоподобие 1L е интеграл от f по отношение на липсващите стойности на извадъчните

корелационни коефициенти: 1, ,, ,n kr r… n

114

1 1

1 {R 0} 1,1 1

n k ,nL f dr d− −

= ∫ ∫ …I r ,

където {R 0}I е индикатора на събитието {R . 0}

Нека са елементите на матрицата . Тогава , , 1i j i j nσ ≤ ≤ ≤ 1−Σ

1 ,, , ,

1

(DRD ) 2k

i ni i n n i n

i

tr s s rσ−

=

Σ = Δ + ∑ ,

където

2 1 1, , ,

, , , ,1 1 1 1

2 2n n n n

i i i j i ni i i i j j i j i i n n i n

i i j i i k, , ,s s s r s s rσ σ σ

− − −

= = = + = +

Δ = + +∑ ∑ ∑ ∑ . (4.2.3)

Следователно,

1 ( 1)1 2 2

1 (det )m m

L K e− −

− Δ−= Σ J , (4.2.4)

където

( 3) 32 2

1,1 ,( 1)

2

( 1) ( )12

2

n m m

n nn m

n

m s sK

m

− −

−

−=

−⎛ ⎞Γ ⎜ ⎟⎝ ⎠

…,

,

, , ,1

1 1 2 ( 1)2

{R 0} 1, ,1 1

(det R)

ki n

i i n n i ni

m n m s s r

n kJ e dσ

=

− − − −

− −

∑= ∫ ∫ …I nr dr .

Максимално правдоподобните оценки ,ˆ i jσ за ,i jσ ,

удовлетворяват системата от уравнения

1 i j n≤ ≤ ≤

1,

1,

0, 1, ,

.

0, 1

i i

i j

L i n

L i j n

σ

σ

∂= =

∂

∂= ≤ < ≤

∂

…

(4.2.5)

Понеже

115

11

1,1

det( ) det [{1} ]c

σ

−−∂ Σ

= Σ∂

,

първото уравнение на системата (4.2.5) е

3 ( 1)1 1 11 2 2

1,11,1

( 1) (det ) det [{1} ] det( ) 02

m mcL mK J e s

σ

− −− Δ− − −∂ − ⎡ ⎤= Σ Σ − Σ⎣ ⎦∂

= .

Следователно,

1

1,11

det [{1} ]det( )

c

s−

−

Σ=

Σ.

Лявата страна на горното равенство е равна на елемента (1,1) на обратната матрица на 1−Σ . Това е елемента 1,1σ на матрицата Σ . Оттук

1,1 1,1ˆ sσ = .

Аналогично се установява, че

, ,ˆ , 2, ,i i i is i nσ = = … .

За решаването на втората група от уравнения в системата (4.2.5) се използва следната Лема: Лема 4.2.1 Нека е една ,A ( )i ja= n n× симетрична матрица. По отношение на произволен елемент , ,p qa p q≠ на матрицата ,

детерминантата може да се представи като полином от втора степен във вида

A

det A

(4.2.6) det A =

2 0, ,(det A[{ , } ]) 2( 1) (det A[{ } ,{ } ] ) det(A )c q p c c 0

,p q pp q a p q a−− + − +q p q

0c c

където - е матрицата, която се получава от матрицата като се изтрият нейният

A[{ } ,{ } ]p q Ap -ти ред, -ти стълб, а елемента се замени с

нула;

q ,q pa

- 0,A p q е матрицата, която се получава от матрицата като се заменят

елементите и с нули. A

,p qa ,q pa

116

Доказателство: От развитието на по отношение на елементите от нейния

det Ap -ти ред се вижда, че

0

,det A ( 1) det A[{ } ,{ } ] det(A )q p c cp qa p q−= − + , (4.2.7)

където е матрицата, която се получава от матрицата като се замени елемента с нула. Аналогично, от развитието на по отношение на

елементите от нейния -ти ред се получава равенството

0A A,p qa 0detA

q

0 0, ,det(A ) ( 1) det A[{ } ,{ } ] det(A )p q c c

q p p qa q p−= − + 0 . (4.2.8)

По същия начин се стига и до представянето

1 0,det A[{ } ,{ } ] ( 1) det A[{ , }] det A[{ } ,{ } ]c c p q c c

q pp q a p q p q− −= − + . (4.2.9)

Понеже матрицата е симетрична, от (4.2.7) – (4.2.9) следва представянето (4.2.6). □

A

Нека в Лема 4.2.1 1A Σ−= , 1p = и 2q = . Тогава

-1 -1 1,2 2 -1 0 1,2 -1 01,2det( ) (det [{1,2} ])( ) 2(det [{1} ,{2} ] ) det( )c c cσ σΣ = − Σ − Σ + Σ .

Оттук

1-1 1,2 -1 0 -1

1,2

det(Σ ) 2(det [{1,2} ]) 2(det [{1} ,{2} ] ) 2det [{1} ,{2} ]c c cσσ

−∂= − Σ − Σ = − Σ

∂c c .

Следователно

3 ( 1)1 1 11 2 2

1,1 2,2 1,21,2 ( 1)(det ) det [{1} ,{2} ] det( )m m

c cL K J m e s s rσ

− −− Δ− − −∂ ⎡ ⎤= − − Σ Σ + Σ⎣ ⎦∂

Като се приравни на нула, се получава равенството

1

1,1 2,2 1,2 1,21

det [{1} ,{2} ]det( )

c c

s s r s−

−

− Σ= =

Σ.

Лявата страна на горното равенство е равна на елемента (1,2) на обратната матрица на матрицата 1Σ− . Това е елемента 1,2σ на матрицата .

Следователно

Σ

1,2 1,2ˆ sσ = .

117

По аналогичен начин се заключава, че

, ,ˆ i j i jsσ = , 1 1i j n≤ < ≤ −

, ,ˆ i n i nsσ = , 1, , 1i k n= + −… .

От Лема 4.2.1, за елемента ,i nσ , 1 i k≤ ≤ на матрицата 1Σ− се

получава представянето

1det(Σ )− = 1 , 2 1 0 ,

,(detΣ [{ , } ])( ) 2( 1) (detΣ [{ } ,{ } ] ) det(Σ )c i n n i c c i ni ni n i nσ σ− − −− + − + 1 0−

Оттук

11 , 1

,

det( ) 2(detΣ [{ , } ]) 2( 1) (detΣ [{ } ,{ } ] )c i n n i c ci n i n i nσ

σ

−− − −∂ Σ

= − + −∂

0

,

1 0 1 12( 1) [(detΣ [{ } ,{ } ] ) ( 1) (detΣ [{ , } ]) ]n i c c n i c i ni n i n σ− − − − −= − + −

12( 1) detΣ [{ } ,{ } ]n i c ci n− −= − .

Интеграла зависи от J ,i nσ , 1 i k≤ ≤ и

,, ( 1) n n ii n

J m sσ

J∂= − −

∂,

където

,, , ,

1( 1)1 1 2

2, , {R 0}

1 1

(det R)

kj n

j j n n j nj

m s s rm n

i i i i n nJ s r e dr drσ

=

− −− −

− −

∑= ∫ ∫ …I 1, ,k n .

Оттук

( 3) ( 1)11 2 2

, ( 1)(det( ))m m

i n

L K m eσ

− −− Δ−∂

= − Σ∂

1 1,[( 1) (det [{ } ,{ } ]) (det ) ]n i c c

n n ii n J s J− − −× − Σ − Σ .

Като се приравни на нула се получава равенството

1,

1

( 1) det [{ } ,{ } ]det( )

n i c cn n is Ji nJ

− −

−

− Σ=

Σ.

118

Лявата страна на горното равенство е равна на елемента (i, n) на матрицата , т.е. на Σ ,i nσ . Следователно за ,ˆi nσ , 1, ,i k= … се получават уравненията

, ,

ˆˆ ˆ

ii n n n

JsJ

σ = , 1, ,i k= … , (4.2.10)

където и са интегралите и съответно, в които неизвестните параметри

ˆiJ J iJ J

,i nσ , са заменени с техните максимално правдоподобни оценки

1, ,i k= …,ˆ i nσ , 1, ,i k= … .

Нека означим с 1ˆ −Σ максимално правдоподобната оценка за неизвестната матрица 1−Σ . За матрицата Σ беше получено, че

1,1 1, 1, 1 1,

1, , , 1

1, 1 , 1 1, 1 1,

1, , 1, ,

ˆ

ˆˆ

ˆ ˆ

k n

k k k k n

n k n n n n

n k n n n

s s s

s s s

s s s ss s

,

n

k n

n

n n

σ

σ

σ σ

−

−

− − − −

−

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟

Σ = ⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

−

. (4.2.11)

Ще покажем, че за ,ˆi nσ , дефинирани с равенствата

0

,

ˆ( 1) det [{1, , } ,{1, , 1, } ]ˆ ˆdet [{1, , , } ]

n i c c

i n c

i i ni n

σ−− Σ −

=Σ… ……

, 1, ,i k= … , (4.2.12)

уравненията (4.2.10) се удовлетворяват. Формулите (4.2.12) са рекурентни. Те определят най-напред ,ˆk nσ , след това 1,ˆk nσ − , ..., и накрая - 1,ˆ nσ . Лема 4.2.2 по-долу, дава еквивалентно директно представяне за ,ˆi nσ , 1, ,i k= … ,

дефинирани с (4.2.12). Лема 4.2.2 Нека ,ˆi nσ , 1, ,i k= … са дефинирани с равенства (4.2.12). Тогава

0

,

ˆ( 1) det [{ 1, , },{ , 1, , 1}]ˆ ˆdet [{ 1, , 1}]

n k

i nk n i k n

k nσ

−− Σ + + −=

Σ + −… …

…, . (4.2.13) 1, ,i = … k

Доказателство: Доказателството е чрез индукция. Представянето (4.2.13) е изпълнено за i k= . Да предположим, че то е вярно за

, където е цяло число, , 1, ,i k k q= − +… 1 1q 1 q k≤ ≤ − . Ще докажем, че е вярно и за i q= . Съгласно (4.2.12)

119

0

,

ˆ( 1) det [{1, , } ,{1, , 1, } ]ˆ ˆdet [{1, , , } ]

n q c c

q n c

q q nq n

σ−− Σ −

=Σ… ……

. (4.2.14)

От развитието по елементите си от последния ред,

0ˆdet [{1, , } ,{1, , 1, } ]c cq q nΣ −… … (4.2.15)

, 1ˆˆ ( 1) det [{ 1, , 1},{ , 2, , 1}] det An q

n q q n q q nσ −+= − Σ + − + − +… … ,

където е матрицата A

1, 1, 1 1, 1

1, 1, 1 1, 1

, 1

A

0 0

q q q q q n

n q n q n n

n n

s s s

s s ss

+ + + + −

− − + − −

−

⎛ ⎞⎜ ⎟⎜ ⎟=⎜ ⎟⎜ ⎟⎝ ⎠

.

Ако в матрицата преместим последния ред непосредствено под първия ред, детерминантата евентуално ще смени знака си, по-точно

A

1, 1, 1 1, 1

, 1

2, 2, 1 2, 1

1, 1, 1 1, 1

0 0det A ( 1) det

q q q q q n

n nn q

q q q q q n

n q n q n n

s s ss

s s s

s s s

+ + + + −

−−

+ + + +

− − + − −

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟= −⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

− . (4.2.16)

Да означим матрицата в дясната страна на равенство (4.2.16) с . От Твърдение 2.1.8, приложено за матрицата при

BB 1i = и 2j = се получава

равенството

ˆdet Bdet [{ 2, , 1}]q nΣ + −… (4.2.17)

0ˆ ˆ( 1) det [{ 2, , },{ 1, , 1}] det [{ 1, , 1},{ , 2, , 1}]n q q n q n q n q q n−= − Σ + + − Σ + − + −… … … …

0ˆ ˆ( 1) det [{ 2, , },{ , 2, , 1}] det [{ 1, , 1}]n q q n q q n q n−− − Σ + + − Σ + −… … … .

Като се заместят (4.2.16) и (4.2.17) в (4.2.15) и се използва представянето (4.2.12) за 1,ˆq nσ + ,

120

1 0

1,

ˆ( 1) det [{ 2, , },{ 1, , 1}]ˆ ˆdet [{ 2, , 1}]

n q

q nq n q n

q nσ

− −

+− Σ + + −

=Σ + −

… ……

, (4.2.18)

се получава равенството

0ˆdet [{1, , } ,{1, , 1, } ]c cq q nΣ −… … (4.2.19)

0ˆ ˆdet [{ 2, , },{ , 2, , 1}] det [{ 1, , 1}]ˆdet [{ 2, , 1}]

q n q q n q nq n

Σ + + − Σ + −= −

Σ + −… … …

….

Следователно, от (4.2.14) следва че

1 0

,

ˆ( 1) det [{ 2, , },{ , 2, , 1}]ˆ ˆdet [{ 2, , 1}]

n q

q nq n q q n

q nσ

− −− Σ + + −=

Σ + −… …

…. (4.2.20)

Десните страни на формули (4.2.18) и (4.2.20) са почти еднакви. Разликата е само в първата колона на матрицата в числителя. Останалите елементи на матриците са еднакви и не зависят от елементите в първите колони на двете матрици - , 2 , 1, ,q q q ns s+ −… и 1, 2 1, 1, ,q q q ns s+ + +… − съответно. Съгласно

индукционното допускане

0

1,

ˆ( 1) det [{ 1, , },{ 1, 1, , 1}]ˆ ˆdet [{ 1, , 1}]

n k

q nk n q k n

k nσ

−

+− Σ + + + −

=Σ + −… …

….

Следователно за ,ˆq nσ трябва да е в сила аналогичното представяне

0

,

ˆ( 1) det [{ 1, , },{ , 1, , 1}]ˆ ˆdet [{ 1, , 1}]

n k

q nk n q k n

k nσ

−− Σ + + −=

Σ + −… …

….

Равенство (4.2.13) е изпълнено и за i q= , следователно е вярно по индукция.

□

За ,ˆi nσ , , представени с (4.2.12) нека да определим

съответните им елементи

1, ,i = … k,ˆ i nσ , 1, ,i k= … в матрицата 1ˆ −Σ . По дефиниция

,ˆ( 1) det [{ } ,{ } ]ˆ ˆdet

n i c ci n i nσ

−− Σ=

Σ, 1, ,i k= … .

От развитието по елементите от последния ред

ˆdet [{1} ,{ } ]c cnΣ 01,

ˆ ˆˆ ( 1) det [{1, } ] det [{1} ,{ } ]n c cn n nσ= − Σ + Σ c

121

00

ˆdet [{1} ,{ } ] ˆ ˆdet [{1, } ] det [{1} ,{ } ] 0ˆdet [{1, } ]

c cc c c

c

n n nn

Σ= − Σ + Σ

Σ= .

Следователно

1,ˆ 0nσ = .

Ще докажем по индукция, че

,ˆ 0i nσ = , 1, ,i k= … . (4.2.21)

Да допуснем, че ,ˆ 0i nσ = за 1, , 1i q= −… , където q е цяло число, q k≤ и да

разгледаме матриците

ˆA [{1, , 1}q= Σ −… ] q n= Σ … ˆ[{1, , 1},{ , , }]q q n= Σ −… …

]

, , B , ˆD [{ , , }]

ˆC [{ , , },{1, , 1}q n q= Σ −… … .

Матрицата Σ тогава може да бъде записана като блочна матрица

A BˆC D

⎛ ⎞Σ = ⎜ ⎟

⎝ ⎠.

Обратната матрица тогава ще има вида ([1])

1 1 1 1 11

1 1 1 1 1 1 1 1

X Y(A BD C) (A BD C) BDˆZ UD C(A BD C) D D C(A BD C) BD

− − − − −−

− − − − − − − −

⎛ ⎞− − − ⎛ ⎞Σ = =⎜ ⎟ ⎜ ⎟− − + − ⎝ ⎠⎝ ⎠

.

Елемента в долния ляв ъгъл на матрицата е точно елемента 1 1 1 1U D D C(A BD C) BD− − − −= + − 1− ,,ˆ ˆn q q nσ σ= и трябва да

се докаже, че е равен на нула. Най-напред ще покажем, че елемента 1,1n qd − + в долния ляв ъгъл на матрицата 1D− е равен на нула. Наистина,

1,1 1, 1 ( 1) det D[{1} ,{ 1} ]det D

n q c cn q n q n qd d

−− + − + − −

= =+

и използвайки представянето (4.2.12) за , ,ˆ ˆq n n qσ σ= ,

ˆdet D[{1} ,{ 1} ] det [{ 1, , },{ , , 1}]c cn q q n q n− + = Σ + −… …

1 0,

ˆ ˆˆ ( 1) det [{ 1, , 1}] det [{ 1, , },{ , , 1}]n qn q q n q n q nσ − −= − Σ + − + Σ + −… … …

0 0ˆ ˆdet [{ 1, , },{ , , 1}] det [{ 1, , },{ , , 1}] 0q n q n q n q n= − Σ + − + Σ + − =… … … … .

122

Съгласно индукционното допускане, всички елементи в последния ред на матрицата са равни на нула. Следователно елементите в последния ред на матрицата

1Z D C(A BD C)− −= − − 1 1−

11 1 1D C(A BD C) BD− − − −−

ще са също равни на нула. Сумирайки я с матрицата 1ZBD−= 1D− ще получим матрицата , затова елемента U ,ˆ n qσ в долният ляв ъгъл на ще е нула. Това доказва равенствата (4.2.21) по индукция.

U

Интегралите и , участващи в уравненията (4.2.10) ще добият вида J ˆiJ

1 1 2

2{R 0} 1, ,

1 1

ˆ (det R)m n

n kJ− −

− −

= ∫ ∫ I ndr dr… (4.2.22)

и

1 1 22

, , {R 0}1 1

ˆ (det R)m n

i i i i n nJ s r dr dr− −

− −

= ∫ ∫ …I 1, ,k n

0} 1, ,

. (4.2.23)

Лявата страна в (4.2.2) е плътността

1 1

, , 1 {R1 1

( , ( , ) ( )) (R)M i j n m n k nf r i j E M g dr dr−− −

∈ = ∫ ∫ …I

1 1 22

{R 0} 1, ,1 1

1 12 2 ˆ(det R)

1 12 2

n n

m n

n k n

n n

m m

dr dr Jm m

− −

− −

− −⎡ ⎤ ⎡⎛ ⎞ ⎛ ⎞Γ Γ⎜ ⎟ ⎜ ⎟⎤

⎢ ⎥ ⎢⎝ ⎠ ⎝ ⎠⎥⎣ ⎦ ⎣= =− −⎛ ⎞ ⎛ ⎞Γ Γ⎜ ⎟ ⎜ ⎟

⎝ ⎠ ⎝ ⎠

∫ ∫ …I ⎦ .

Следователно,

1 21 2 2

12

1

1 1(det R[{ } ]) (det R[{1, , } ])2 2ˆ

1 1(det R[{1, , , } ])2 2

m n m n kc cn n k

m n kc

n n k

m mn kJ

m mk n

− − −− −

− + −

− −

− −⎛ ⎞ ⎛ ⎞Γ Γ⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠=

− −⎛ ⎞ ⎛ ⎞Γ Γ⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠

…

…

+ −

(4.2.24)

при и . За намирането на R[{ } ] 0cn R[{1, , } ] 0ck… ˆiJ , в (4.2.23) първо

ще интегрираме по отношение на променливите , ..., , , ..., и след това по . Нека в матрицата преместим нейния -ти ред

непосредствено след -тия ред и аналогично, i -тия стълб след -тия стълб. Получената матрица да означим с

1,nr 1,i nr− 1,i nr+ ,k nr

,i nr R i

k kR′ . От неколкократното прилагане на

Лема 2.2.1 се вижда, че R′ и ще имат едни и същи собствени стойности и R

123

следователно положителната определеност на едната е еквивалентна на положителната определеност на другата матрица. Детерминантите на двете матрици R′ и също ще са равни, което следва от свойствата на детерминантата. Оттук , зададен с (4.2.23), може да се запише във вида

Rˆ

iJ

1 1 1 22

, , {R 0} 1, 1, 1, , ,1 1 1

ˆ (det R )m n

i i i i n n i n i n k nJ s r dr dr dr dr dr− −

′ − +− − −

⎛ ⎞′= ⎜ ⎟

⎝ ⎠∫ ∫ ∫ …I i n… .

Интегралът в скобите съвпада с интеграла в (4.2.22) при . Затова, използвайки (4.2.24) при

1k k= −1k k= − , получаваме

12

,22

1 1

1 1(det R [{ } ])2 2ˆ

1 1(det R [{1, , 1, } ])2 2

m ncn n k

i i im n kc

n n k

m mnJ s

m mk n

− −−

− + −

− − +

− −⎛ ⎞ ⎛ ⎞Γ Γ⎜ ⎟ ⎜ ⎟ ′⎝ ⎠ ⎝ ⎠=− −⎛ ⎞ ⎛ ⎞Γ Γ ′ −⎜ ⎟ ⎜ ⎟

⎝ ⎠ ⎝ ⎠…

(4.2.25)

1 3

2, ,{R [{1, , 1} ] 0}

1

(det R [{1, , 1} ]) c

m n kc

i n i nkk r

− + −

′ −−

′× −∫ …… I dr

12

,22

1 1

1 1(det R[{ } ])2 2

1 1(det R[{ , 1 , 1}])2 2

m ncn n k

i im n k

n n k

m mn s

m mi k n

− −−

− + −

− − +

− −⎛ ⎞ ⎛ ⎞Γ Γ⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠=

− −⎛ ⎞ ⎛ ⎞Γ Γ + −⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠

…

1 3

2, {R[{ , 1, , }] 0} ,

1

(det R[{ , 1, , }])m n k

i n i k n i ni k n r dr− + −

+−

× +∫ …… I .

Да означим последния интеграл с H . Теорема 2.2.1 дава границите за , при които матрицата

,i nrR[{ , 1, , }]i k n+ … ще е положително определена,

,i na r b< < ,

където

0( 1) detR[{ 1, , },{, 1, , 1}] detR[{ 1, , }]detR[{, 1, , 1}]detR[{ 1, , 1}]

n k k n i k n k n i k nak n

−− + + − − + +=

+ −… … … …

…−

0( 1) detR[{ 1, , },{, 1, , 1}] detR[{ 1, , }]detR[{, 1, , 1}]

detR[{ 1, , 1}]

n k k n i k n k n i k nbk n

−− + + − + + + −=

+ −… … … …

….

Да извършим полагането

124

0

,( 1) det R[{ 1, , },{ , 1, , 1}]

det R[{ 1, , 1}]

n k

i nk n i k nr

k n

−− + +=

+ −… …

…−

det R[{ 1, , }]det R[{ , 1, , 1}]det R[{ 1, , 1}]

k n i k ntk n

+ ++

+ −… …

…−

.

Новата променлива t ще се мени от –1 до 1 и

,det R[{ 1, , }]det R[{ , 1, , 1}]

det R[{ 1, , 1}]i nk n i k ndr dt

k n+ +

=+ −

… ……

−.

Както в доказателството на Теорема 3.1.3, аналогично на равенство (3.1.5) получаваме, че

2detR[{ 1, , }]det R[{ , 1, , 1}]detR[{ , 1, , }] (1 )detR[{ 1, , 1}]

k n i k ni k n tk n

+ + −+ = −

+ −… ……

….

Понеже се представя като сума чрез новата променлива, интегралът ,i nr

H също е сума от два интеграла

( )( )

22

12

det R[{ 1, , }]det R[{ , 1, , 1}]( 1)

det R[{ 1, , 1}]

m n k

n km n k

k n i k nH

k n

− + −

−− + +

+ + −= −

+ −

… …

…

1 3

0 2 2

1

det R[{ 1, , },{ , 1, , 1}] (1 )m n k

k n i k n t− + −

−

× + + − −∫… … dt

( )( )

11 32

2 21

12

det R[{ 1, , }]det R[{ , 1, , 1}](1 )

det R[{ 1, , 1}]

m n km n k

m n k

k n i k nt t

k n

− + −− + −

− + +−

+ + −+ −

+ −∫

… …

…dt

Вторият интеграл е равен на нула, понеже се интегрира нечетна функция в интервал, симетричен спрямо нулата. Решението на първия интеграл е дадено с (3.1.7). Като се замести получения израз за H в последното равенство на (4.2.24), добива вида ˆ

iJ

125

,

1 1

1 1 12 2 2 2ˆ ( 1)

1 12 2

n n kn k

i i i

n n k

m n k m m

J sm n k m m

−−

− − +

− + − − −⎛ ⎞ ⎛ ⎞ ⎛ ⎞ ⎛ ⎞Γ Γ Γ Γ⎜ ⎟ ⎜ ⎟ ⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠ ⎝ ⎠ ⎝ ⎠= −

1

2− + −⎛ ⎞ ⎛ ⎞ ⎛ ⎞Γ Γ Γ⎜ ⎟ ⎜ ⎟ ⎜ ⎟

⎝ ⎠ ⎝ ⎠ ⎝ ⎠−

0det R[{ 1, , },{ , 1, , 1}]k n i k n× + + −… …

1 2

2 2

12

(det R[{ } ]) (det R[{ 1, , }])

(det R[{ 1, , 1}])

m n m n kc

m n kn k n

k n

− − −

− + +

+×

+ −

…

…

+ −

.

Като се използват получените изрази за ˆiJ и J , дясната част на (4.2.10) ще

добие вида

0

, , ,

ˆ det R[{ 1, , },{ , 1, , 1}]( 1)ˆ det R[{ 1, , 1}]n ki

n n i i n nJ k n i k ns s s E

k nJ− + + −

= −+ −

… ……

,

където

2

1 1

11 122 2

1 12 2

n k

n k n k

mm n k

Em n k m m

−

− − − +

−⎡ ⎤− + − ⎛ ⎞⎛ ⎞ ⎛ ⎞ ΓΓ Γ ⎜ ⎟⎜ ⎟ ⎜ ⎟ ⎢ ⎥⎝ ⎠⎝ ⎠ ⎝ ⎠ ⎣ ⎦=− + − −⎛ ⎞ ⎛ ⎞ ⎛Γ Γ Γ⎜ ⎟ ⎜ ⎟ ⎜

⎝ ⎠ ⎝ ⎠ ⎝ 2⎞⎟⎠

. (4.2.26)

Използвайки в (4.2.26) дефиницията за многомерната гама функция (2.4.14) се вижда, че 1E = . Оттук, използвайки връзката (2.1.8) между извадъчните ковариационна и корелационна матрици получаваме, че дясната част на (4.2.10) е

0

,

ˆ detS[{ 1, , },{ , 1, , 1}]( 1)ˆ detS[{ 1, , 1}]n ki

n nJ k n i ks

k nJ− + +

= −+ −

… ……

n −

0ˆdet [{ 1, , },{ , 1, , 1}]( 1) ˆdet [{ 1, , 1}]

n k k n i k nk n

− Σ + + −= −

Σ + −… …

….

Последното равенство следва от вида на матрицата , дефинирана с (4.2.11). Съгласно Лема 4.2.2 оттук следва, че за

Σ,ˆ i nσ , , зададени с

равенства (4.2.12), уравненията (4.2.10) се удовлетворяват. Следователно елементите на обратната матрица на матрицата са максимално правдоподобните оценки за елементите

1, ,i = … k

Σ,i jσ , 1 ,i j n≤ ≤ на матрицата 1−Σ .

126

Получените максимално правдоподобни оценки за ,i jσ , 1 ,i j n≤ ≤ сега трябва да се заместят във функцията на правдоподобие 1L , за да се пресметне стойността на *

1 1supL L= .

За намирането на 1ˆdet −Σ ще използваме следната лема. Лема 4.2.3 Нека е симетрична матрица от ред . Нека за елемента

е в сила равенството

A n 1,na

1 0

1,( 1) det A[{1} ,{ } ]

det A[{1, } ]

n c

n c

nan

−−=

c

. (4.2.27)

Тогава

det A[{1} ]det A[{ } ]det Adet A[{1, } ]

c c

c

nn

= . (4.2.28)

Доказателство: Съгласно Лема 4.2.1

det A=

2 1 01, 1, 1,(det A[{1, } ]) 2( 1) (det A[{1} ,{ } ] ) det(A )c n c c

n nn a n a−− + − + 0n

c

(4.2.29)

От Твърдение 2.1.8, приложено за матрицата и числата 1, ,

получаваме, че

01,A n n

01,det A det A[{1, } ]c

n n = 0 2det A[{1} ]det A[{ } ] (det A[{1} ,{ } ] )c c cn n− (4.2.30)

Замествайки в (4.2.29) с дясната част на равенство (4.2.27) и

използвайки равенство (4.2.30), след преобразувания се получава представянето (4.2.28). □

1,na

В матрицата елемента Σ 1,ˆ nσ , съгласно представянето (4.2.12)

удовлетворява условието (4.2.27). От Лема 4.2.3 следва, че

ˆ ˆdet [{1} ]det [{ } ]ˆdet ˆdet [{1, } ]

c c

c

nn

Σ ΣΣ =

Σ.

Да разгледаме матрицата . Елементът ˆ[{1} ]cΣ 2,ˆ nσ , съгласно представянето

(4.2.12) удовлетворява условието (4.2.27). Следователно

127

ˆ ˆdet [{1,2} ]det [{1, } ]ˆdet [{1} ] ˆdet [{1,2, } ]

c cc

c

nn

Σ ΣΣ =

Σ.

Оттук

ˆ ˆdet [{1,2} ]det [{ } ]ˆdet ˆdet [{1,2, } ]

c c

c

nn

Σ ΣΣ =

Σ.

Продължавайки по този начин да прилагаме Лема 4.2.3 последователно за матриците , ..., , накрая ще се получи представянето ˆ[{1,2} ]cΣ ˆ[{1, , 1} ]ckΣ −…

ˆ ˆdet [{1, , } ]det [{ } ]ˆdet ˆdet [{1, , , } ]

c c

c

k nk n

Σ ΣΣ =

Σ…

… 1,1 ,det R[{1, , } ]det R[{ } ]

det R[{1, , , } ]

c c

n n c

k ns sk n

=……

….

Тогава

1 1

1,1 ,

det R[{1, , , } ]ˆ ˆdet (det )det R[{1, , } ]det R[{ } ]

c

c cn n

k ns s k

− −Σ = Σ =…

… … n.

Замествайки ,i jσ , с получените им максимално правдоподобни

оценки и вземайки под внимание равенствата (4.2.21), изразътΔ , дефиниран с (4.2.3) може да се запише във вида

1 ,i j n≤ ≤

2 1 1

, , , ,, , , ,

1 1 1 1 1

ˆ ˆ ˆˆ ˆ ˆ ˆ ˆ2 2 2 (n n n n k

i i i j i n i ni i i j i n i n

i i j i i k i

1)s s s trσ σ σ σ σ− − −

−

= = = + = + =

Δ = + + + = ΣΣ =∑ ∑∑ ∑ ∑ n .

Замествайки получените изрази за 1ˆdet −Σ , Δ и J , определено с (4.2.24) в

1L , зададено с (4.2.4), за *1L се получава представянето

( 3)( 1)1 2

* 21 ( 1)

21 1,1 ,

1( 1)2

1 122 2

n mn mn k

n m

n n k n n

mmL e

m ms s

−−− − −

−

− −

−⎛ ⎞Γ ⎜ ⎟ −⎝ ⎠= ×− −⎛ ⎞ ⎛ ⎞Γ Γ⎜ ⎟ ⎜ ⎟

⎝ ⎠ ⎝ ⎠…

2

12 2

(det R[{1, , , } ])

(det R[{ } ]) (det R[{1, , } ])

n kc

n nc c

k n

n k

−

k− +×…

….

Накрая изчисляваме отношението

128

1* 20*1

det R[{1, , } ]det R[{ } ]det R[{1, , , } ]

mc c

c

L k nL k n

λ

−

⎛ ⎞= = ⎜ ⎟

⎝ ⎠

……

. (4.2.31)

Очевидно, за проверката на 0H срещу 1H елементите 1,1 ,, , n ns s… на

ковариационната матрица не са необходими. Следователно вместо извадъчната ковариационна матрица с липсващи елементи е необходимо да разполагаме с извадъчната корелационна матрица със съответните им липсващи елементи. Хипотезата

SR

0H ще се отхвърля при малките стойности

на величината λ . Затова проверката може да бъде извършвана въз основа на величината

2

1 det R[{1, , } ]det R[{ } ]det R[{1, , , } ]

c cm

k c

k nLk n

λ −= =…

…

det R[{ 1, , }]det R[{1, , 1}]det R[{ 1, , 1}]k n n

k n+ −

=+ −

… ……

, (4.2.32)

като малките стойности на kL ще водят до отхвърлянето на 0H . От (4.2.32)

се вижда, че когато 0k = , т.е. в извадъчната корелационна матрица няма липсващи елементи, kL е равна на обичайната статистика (4.2.1) за проверка

на независимостта на наблюдаваните променливи. n За да може проверката да се извършва и при малки извадки, трябва да бъде определено разпределението на kL при вярна нулева хипотеза. При вярна 0H разпределението на извадъчната корелационна матрица , както беше отбелязано в §2.4, ще е

R( 1n m )ψ − . Плътността на разпределението

( )n mψ е зададена с (2.4.22). Разпределението на kL може да бъде намерено като се използва Теорема 2.4.4. При 1p k= + и от теоремата следва, че

1q n= −

kL е разпределена като величината 1 n 1ν ζ ζ −= … , където случайните величини 1, , n 1ζ ζ −… са независими бета разпределени iζ ∼

1, ,02 2

m n i n iBeta − + − −⎛ ⎞⎜ ⎟⎝ ⎠

,1 , 1, ,i k= … , 1, ,0,

2 2im n i n iBetaζ − + − −⎛ ⎞

⎜ ⎟⎝ ⎠

∼ 1 ,

. 1, , 1i k n= + −…В [96], стр.51 е показано, че плътността на произведение от ( )g u p

независими бета разпределени случайни величини ( , ,0,1j jBeta )α β ,

1, ,j p= … може да бъде записана чрез т.нар. Мейджер G - функции във

вида

129

1

( )( )

( )

pj j

j j

g uα βα=

Γ +=

Γ∏ ,0,

1, 1, ,1, 1, ,

j jpp p

j

j pG u

j pα βα+ − =⎡ ⎤

⎢ ⎥− =⎢ ⎥⎣ ⎦

……

, 0 . (4.2.33) 1u< <

Мейджер G - функцията се дефинира като криволинеен интеграл в комплексната равнина

{ }{ }{ }{ }

1 11,,

11 1

( ) (1 ), , 1, , 2 (1 ) ( )

r sj jj jpr s t

p q q pq K j jj r j s

b t a ta aG u u d

b b i b t a tπ= = −

= + = +

Γ + Γ − −⎡ ⎤=⎢ ⎥

⎢ ⎥ Γ − − Γ +⎣ ⎦

∏ ∏∫ ∏ ∏

……

t ,

при условие, че , 0 r q≤ ≤ 0 s p≤ ≤ , p , , , q r s са цели числа; за никоя двойка от параметри , ia jb , разликата i ja b− , 1, ,i p= … , 1, ,j q= … не

трябва да е положително цяло число. Контурът K разделя полетата на , ( )jb tΓ + 1, ,j r= … от тези на (1 )ja tΓ − − , 1, ,j s= … .

От (4.2.33) следва, че плътността на нулевото разпределение на kL

може да бъде записана във вида

( )kLf x

1

2

1

12

2 2

n

n

j

m

m n k m n j

−

−

=

−⎡ ⎤⎛ ⎞Γ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦= ×− + − +⎛ ⎞ ⎛Γ Γ⎜ ⎟ ⎜

⎝ ⎠ ⎝∏ ⎞

⎟⎠

(4.2.34)

1,01, 1

3 3 3 32

42

m −, , , , ,2 2 2

1 2 2, , , , ,2 2 2

nn n

m m m

G xm n m n k m n k m

−− −

− − −⎡ ⎤⎢ ⎥

× ⎢ ⎥− − − + − − + − −⎢ ⎥

⎢ ⎥⎦

… …

… …0 1, x< < .

⎣

В следващата Глава 5 са изчислени някои квантили на това разпределение. Проверката на разгледаните в този параграф хипотези се извършва като изчислената стойност на величината kL , зададена с (4.2.32) се

сравнява с квантила на разпределението (4.2.34), съответстващ на избраното ниво на значимост. Ако по-малката от двете стойности е тази на kL , то хипотезата 0H за независимост на разглежданите променливи се отхвърля.

В противен случай се приема, че тя не противоречи на опитните данни.

130

Глава 5 Експериментални изчисления с Матлаб В тази глава, с помощта на програмния продукт MATLAB, са извършени изчисления, илюстриращи прилагането на изведената теория, нейната ефективност и допълващи я с таблични стойности, необходими за нейното приложение. В параграф §5.1 се дискутира изчисляването на квантилите на нулевото разпределение на критерия (4.2.32), изведен в Глава 4, за проверка на независимостта на разглежданите променливи при наличието на липсващи елементи в емпиричната корелационна матрица. В параграф §5.2 са разгледани два примера. С помощта на теореми, доказани в Глава 2, са генерирани извадъчни корелационни матрици на фактори, които са независими помежду си, както и на фактори, които са зависими, но коефициента на корелация между всяка двойка от фактори е заключен в интервала [-0,4; 0,4]. Това се прави с цел да бъде симулирана слаба зависимост между факторите, за да бъде проверена ефективността на изведената в Глава 4 теория както за независими, така и за слабо зависими помежду си фактори. Силната зависимост между разглежданите фактори не представлява интерес, защото тя по-лесно ще бъде зарегистрирана, в сравнение със слабата зависимост, при проверка на нулевата хипотеза за независимост между факторите. Последователно се предполага липсата на различен брой елементи в генерираните извадъчни корелационни матрици като се използват два подхода – отстраняване на най-големите по абсолютна стойност или на случайно избрани елементи. Използвани са две различни стойности на нивото на значимост α при извършване на проверката за независимост на факторите - 0,01α = и 0,05α = . Изведено е практическо

правило за директното прилагане на критерия (4.2.32), без да е необходимо предварително преномериране на факторите, целящо липсващите елементи в корелационната матрица да застанат непременно в първите няколко поредни позиции на последния стълб.

131

5.1 Квантили на разпределението на критерия за проверка за независимост при липсващи стойности в извадъчната ковариа-ционна матрица В този параграф са изчислени някои квантили на разпределението, зададено с (4.2.34). Това са 0,01 и 0,05 квантилите, изчислени за различни стойности на - броя на разглежданите величини, - броя на извършените наблюдения и - броя на липсващите стойности в ковариационната матрица. Тези квантили са необходими за извършването на проверката на хипотезата за независимост на разглежданите променливи и съответстват на ниво на значимост

n mk

nα (вероятност за грешка от I род) съответно равно на

0,01 или 0,05. Поради сложния вид на Мейджър - функцията, участваща в плътността (4.2.34), засега тя се изчислява само в някои от комерсиалните математически програмни продукти като MATHEMATICA, MAPLE и MATLAB. За изчисляването на

G

α -квантила на нулевото разпределение на критерия за проверката kL , зададен с (4.2.32), трябва да бъде решено

уравнението

0

( )k

u

Lf x dx α=∫

по отношение на u . Това все още отнема твърде много компютърно време, в сравнение с изчисляването на квантилите, използвайки Монте Карло симулационни техники. За изчисленията е използван програмният продукт MATLAB, версия R2012a. Използван е лаптоп с операционна система Microsoft Windows XP Home Edition, Service Pack 3 с процесор 1,60 GHz и RAM памет 1,87 GB. При пресмятането на стойностите на Мейджър - функцията са използвани и сравнени двете възможности – чрез Maple Toolbox за символни изчисления и чрез MuPad – вградената в MATLAB система за символни изчисления. Кодовете са дадени в Приложението. Maple Toolbox за MATLAB е приложение, което се инсталира отделно и предполага

G

132

наличието на MAPLE върху същия компютър. И по двата метода са изчислени стойностите на плътността (4.2.34) при , и 10m = 5n = 2k = в интервала [0,1), със стъпка 0,01. Времената на изпълнение са съизмерими и са от порядъка на 11 минути. На фигура 12 е представена плътността

kLf при , 10m = 5n = и

, използвайки два различни подхода. 2k =

Фиг.12 Плътността на при kL 10m = , 5n = и 2k = , представена чрез точна

формула и чрез симулация Линията описва плътността (4.2.34) при

k

(1)Lf 10m = , и 5n = 2k = , чрез

заместване и изчисляване на точните формули, използвайки вече пресметнатите стойности със стъпка 0,01. Хистограмата е получена чрез

симулация, използвайки вероятностната характеризация на нулевото разпределение на

k

(2)Lf

kL като произведение от независими бета разпределени

случайни величини, направена в Глава 4. Генерирани са 1 000 000 стойности на kL като произведение

4

1 jjX

=∏ , където jX ~ ( )(5 ) / 2,(4 ) / 2Beta j j+ − ,

1,2j = , jX ~ ( )(4 ) / 2,(5 ) / 2Beta j j+ − , 3,4j = . Генерирането, заедно с

изчертаването на хистограмата и линията , отнема едва 3-4 секунди.

Командите са дадени в Приложението. От чертежа се вижда, че съответствието между и е много добро. Това означава, че за

определянето на квантилите могат да се използват средствата на симулацията, които поне на този етап водят до идентични резултати, но за

k

(2)Lf

k

(1)Lf

k

(1)Lf

k

(2)Lf

133

значително по-кратко време. Този подход при изчисляването на квантили е използван и в [106], [107] при аналогична ситуация на плътност, изразена отново чрез Мейджър G - функция.

За изчисляването на квантилите е съставена програма на MATLAB. Генерират се 10 000 масива от по 10 000 независими реализации на kL

всеки. За всеки масив се изчисляват оценки за необходимите квантили, използвайки вградените възможности на MATLAB в Statistics Toolbox. В програмния файл, даден в Приложението, това са квантилите 0,01 и 0,05. Показано е как могат да бъдат добавени за изчисляване и други квантили. Накрая получените 10 000 оценки (за всеки от масивите по една) се осредняват – пресмята се тяхната средна аритметична. По този начин, получената окончателна оценка за всеки от квантилите е с приблизително нормално разпределение, съгласно Централната Гранична Теорема. На база на пресметнатите 10 000 междинни оценки може да бъде оценено средноквадратичното отклонение на окончателната оценка. В програмата, дадена в Приложение В, величината QE е вектор от получените окончателни оценки за всеки от квантилите, а векторът QSTD съдържа оценките за средноквадратичните им отклонения. Времето за изпълнение на програмата е право пропорционално на броя на разглежданите фактори. При така заложените стойности – 10 000 масива от по 10 000 реализации на kL ,

изпълнението на програмата при 4n = отнема около 4 минути и се получават оценки за квантилите със средноквадратично отклонение от порядъка на . Въз основа на т.нар. “правило на трите сигми”, това означава, че действителните стойности на квантилите биха могли да се различават от изчислените едва с единица в четвъртия знак след десетичната точка. В случай, че не е необходима толкова голяма точност, програмата би могла да генерира не 10 000, а 1000 масива от по 10 000 реализации на

54 10−×

kL ,

при което времето за реализация ще се намали 10 пъти, то вече ще е 24 секунди, а получените окончателни оценки са със средноквадратично отклонение от порядъка на 410− . Това означава евентуално отклонение на действителните стойности на оценяваните квантили с максимум три единици в четвъртия знак от получените окончателни оценки. При 10n = , изпълнението при заложени 10 000 масива от по 10 000 реализации на kL

отнема около 10 минути. Средноквадратичните отклонения на получените

134

оценки на 0,01 и 0,05 квантилите са от порядъка на . При редуциране на изчисленията на 1000 масива от по 10 000 реализации на

510−

kL , времето е 10

пъти по-малко, т.е. около минута. Получените оценки са със средноквадратично отклонение 53 10−× , което е напълно достатъчно и означава евентуално отклонение от действителната стойност на квантила с максимум една единица в четвъртия знак след десетичната точка. В таблици 1 и 2 по-долу са дадени получени с програмата оценки съответно за 0,01 и 0,05 квантилите на нулевото разпределение на kL , при

различни стойности на , n и . m k

Таблица 1. 0,01 квантили при различни стойности на m , и k n

Таблица 2. 0,05 квантили при различни стойности на m , и k n

5.2 Проверка за независимост на признаците при система за компютърна диагностика на заболявания В книгата “Диагностика на заболяванията с методите на теория на вероятностите” ([2]), издадена през 2006г., е разработен подход за компютърно диагностициране на заболявания, на база на няколко фактора,

135

достъпни за наблюдение. Прави впечатление, че в цялото изложение от 168 страници, е анализирана единствено извадъчната корелационна матрица получена въз основа на наблюденията върху тези фактори, без да са приведени или обсъждани самите първични наблюдения. При това, в извадъчната корелационна матрица има липсващи стойности, дължащи се на невъзможност за оценяване на съответния корелационен коефициент, поради непълнотата на изходните данни. Естеството на наблюденията е такова, че ако при едни пациенти са правени изследвания върху едни показатели, то при други тези показатели са различни. Отделна глава в книгата е посветена на изследването на взаимозависимостта между включените в разглеждането фактори. За целите на диагностиката е необходимо да се избере съвкупност от независими помежду си признаци (фактори). При наличието на липсващи стойности в емпиричната корелационна матрица, стандартната процедура за проверка на независимостта на факторите не може да бъде приложена. Вместо това, наличните корелационни коефициенти са разглеждани поотделно, проверявайки хипотезата за независимост на съответната им двойка от фактори. В Глава 4 на настоящата дисертация е обяснено защо такъв подход води от една страна до увеличаване на грешката от първи род, а от друга – до невъзможността да се отговори коректно на въпроса дали факторите са независими или не.

В този параграф са разгледани два примера, илюстриращи прилагането на изведения в Глава 4 критерий за проверка на независимостта на факторите при наличие на липсващи елементи в извадъчната корелационна матрица. Подложена е на проверка ефективността на критерия, предполагайки различен брой липсващи елементи в една случайно генерирана корелационна матрица и сравнявайки взетите решения при проверката за независимост на факторите. В първия пример, за да бъде генерирана корелационна матрица, реализация на наблюдения над независими помежду си фактори, се използва изведената в Глава 2 Теорема 2.4.2. Предполагайки последователно липсата на един, два и т.н. до осем елемента в един и същи стълб на тази 10 10× матрица и прилагайки изведения в Глава 4 критерий за проверка на независимостта на факторите, се стига до приемането всеки път на вярното твърдение, че факторите са

136

независими. В този пример е изведено и допълнително правило за директното прилагане на критерия (4.2.32), без да е необходимо преномериране на факторите, целящо липсващите елементи в корелационната матрица да застанат непременно в първите няколко поредни позиции на последния стълб.

Във втория пример се проверява ефективността на критерия (4.2.32) в случай на зависими помежду си фактори. Използвайки доказаната в Глава 2 Теорема 2.2.2, е съставен алгоритъм за генериране на валидни корелационни матрици, за които зададен от потребителя процент .100%p от

извъндиагоналните елементи са равни на нула, като техните позиции се избират случайно от алгоритъма, а всички извъндиагонални елементи остават в граници , където е зададено от потребителя число,

. Необходимостта от такъв алгоритъм идва от желанието да се

тества дадена теория в случай на слаба зависимост между отделните фактори. Съставянето на такъв алгоритъм представлява самостоятелен интерес. Той може да бъде прилаган когато е необходима симулация на слабо изразена зависимост между факторите. Във втория пример, с помощта на алгоритъма, е генерирана една 10

[ ,c c− ] c[ 1,1]c∈ −

10× корелационна матрица, с от извъндиагоналните й елементи равни на нула и всички извъндиагонални елементи са в граници [-0,4; 0,4]. Приема се, че това е теоретичната корелационна матрица на разглежданите фактори. След това, с вградените възможности на MATLAB, е генерирана извадъчна корелационна матрица за тези фактори. Последователно се предполага липсата на различен брой елементи в тази извадъчна корелационна матрица като се използват два подхода – отстраняване на най-големите по абсолютна стойност или на случайно избрани елементи. Сравнени са взетите решения при двата подхода, използвани са две различни стойности на нивото на значимост

50%

α при извършване на проверката за независимост на факторите - 0,01α = и

0,05α = .

И двата примера показват ефективността на критерия (4.2.32) за проверка на независимостта на факторите при липсващи стойности в извадъчната корелационна матрица.

137

Пример 8. Нека се наблюдават 10 признака, т.е. 10n = . За намирането на корелационната матрица са използвани по 30m = наблюдения. Ако е вярна хипотезата, че признаците са независими, т.е.

2 20 1: ( , , )nH diag σ σΣ = … , 2

iσ са неизвестни, 1, ,i n= …

то разпределението на извадъчната корелационна матрица , както беше отбелязано в §2.4, ще е

R( 1n m )ψ − .

За да можем да направим експерименти с различен брой липсващи стойности в матрицата , нека да генерираме една матрица, реализация на разпределението

R 10 10×10 (29)ψ . Тя ще бъде една възможна

реализация на корелационната матрица на показатели, които са независими помежду си. За всяка от проверките по-долу, извършени на база на такава корелационна матрица, е желателно тя да завършва с приемането на 0H като

непротиворечаща на опитните данни. За генерирането на 10 10× матрица, реализация на разпределението

10 (29)ψ , ще използваме Теорема 2.4.2. Най-напред се генерира симетрична

матрица с единици по главния си диагонал, чиито извъндиагонални елементи 10 10×

,i jξ са реализации на бета разпределение

30 30, , 1,1⎞⎟2 2i iBeta − −⎛ −⎜

⎝ ⎠10i j, 1≤ < ≤ . Образът на матрицата ,ξ=( )i jξ при

изображението , зададено с (2.3.1) – (2.3.3) е реализация на разпределението

h10 (29)ψ . Програмата за генерирането на матрицата е

дадена в Приложение В, т. 5. За генерирането на случайни величини с разпределение ( , , 1,1)Beta α β − е използван факта, че ако ( , ,0,1)Beta a bη ∼ , то величината ( ) ( , , ,c d c Beta a b c d )ζ η= + − ∼ . При и 1c = − 1d = се получава, че 2 1 ( , , 1,1)Beta a bζ η= − −∼ , ако ( , ,0,1)Beta a bη ∼ . С помощта на програмата е генерирана матрица ,ξ=( )i jξ :

138

1,00 -0,16 0,21 0,12 0,02 0,06 -0,31 0,00 -0,08 -0,10-0,16 1,00 -0,32 -0,26 0,12 -0,37 -0,09 -0,04 0,08 0,250,21 -0,32 1,00 0,05 0,37 0,10 -0,03 -0,23 0,42 0,100,12 -0,26 0,05 1,00 0,17 -0,16 -0,19 -0,19 0,10 -0,120,02 0,12 0,37 0,17 1,00

ξ=-0,11 0,09 -0,09 0,06 -0,10

0,06 -0,37 0,10 -0,16 -0,11 1,00 0,18 -0,23 0,27 0,44-0,31 -0,09 -0,03 -0,19 0,09 0,18 1,00 -0,25 0,07 0,070,00 -0,04 -0,23 -0,19 -0,09 -0,23 -0,25 1,00 -0,26 0,11

-0,08 0,08 0,42 0,10 0,06 0,27 0,07 -0,26 1,00 -0,31-0,10 0,25 0,10 -0,12 -0,10 0,44 0,07 0,11 -0,31 1,00

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

Образът на матрицата при изображението е една възможна

реализация на корелационната матрица на показатели, които са независими помежду си.

R ξ h

1,00 -0,16 0,21 0,12 0,02 0,06 -0,31 0,00 -0,08 -0,10-0,16 1,00 -0,34 -0,27 0,12 -0,37 -0,03 -0,04 0,09 0,260,21 -0,34 1,00 0,15 0,30 0,21 -0,06 -0,20 0,34 -0,010,12 -0,27 0,15 1,00 0,14 -0,04 -0,20 -0,18 0,08 -0,180,02 0,12 0,30 0,14 1,0

R=0 -0,13 0,02 -0,20 0,22 -0,04

0,06 -0,37 0,21 -0,04 -0,13 1,00 0,18 -0,17 0,20 0,32-0,31 -0,03 -0,06 -0,20 0,02 0,18 1,00 -0,21 0,09 0,150,00 -0,04 -0,20 -0,18 -0,20 -0,17 -0,21 1,00 -0,39 -0,03

-0,08 0,09 0,34 0,08 0,22 0,20 0,09 -0,39 1,00 -0,08-0,10 0,26 -0,01 -0,18 -0,04 0,32 0,15 -0,03 -0,08 1,00

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

(5.2.1)

За намирането на матрицата е съставена програма, пресмятаща образът на произволна матрица при изображението . Програмата е дадена в Приложение В, т. 5.

Rh

Детерминантата на матрицата (5.2.1) е

det R=0,1537 .

Нека най-напред да проверим хипотезата за независимост на 10-те променливи при пълна корелационна матрица, т.е. без липсващи стойности.

139

За определяне на критичните точки за проверката ще използваме отново програмата за изчисляването на квантилите, но ще зададем . Въвежда се командата

0k =

[QE,QSTD]=quant_lk(30,10,0)

която изчислява 0,01 и 0,05 квантилите на нулевото разпределение на критерия (4.2.1) det RL = . Стойностите 30 и 10 съответстват на 30m = и

. Получават се оценките за двата квантила, равни съответно на 0,0581 и 0,0816. Величината QSTD съдържа оценки за средноквадратичните им отклонения – получават се стойности

10n =

510− × 1.114 и 0.833 съответно. Вижда се, че получената стойност за det RL = е по-голяма и от двата квантила, следователно хипотезата за независимост на факторите не противоречи на данните и при двете избрани нива на значимост 0,01 и 0,05. Сега нека да видим дали ще има разлика във взетото решение, ако липсва някой от извъндиагоналните елементи на , заедно със симетрично разположения му елемент от другата страна на главния диагонал. Съставена е програма, която поотделно за всеки извъндиагонален елемент, предполагайки че именно той липсва, извършва проверката за независимост на база на изведения критерий в Глава 4 и изчислените на база на нулевото му разпределение квантили. За всички направени проверки критичните точки са еднакви. Те се изчисляват с командата

R

[QE,QSTD]=quant_lk(30,10,1) (5.2.2)

понеже има една липсваща стойност и затова . Квантилите QE получават стойности 0,0622 и 0,0869 съответно. След това се стартира програмата, която извършва всички възможни проверки при липсващ един елемент над главния диагонал (и съответния му симетрично разположен под главния диагонал). Кодът на програмата е даден в Приложение В, т. 6. Тя се извиква с командата

1k =

test1(R,QE)

където и QE са входящи променливи, съответно съдържащи генерираната корелационна матрица и изчислените квантили с командата

R

140

(5.2.2). Резултатът от всички извършени проверки е: “ 0H не противоречи на

данните”. Нека сега да видим какъв ще е резултатът от проверките извършени на база на корелационната матрица , предполагайки че липсват два елемента намиращи се в един и същи стълб на матрицата, както и съответните им симетрично разположени елементи, намиращи се в съответния му ред. Изведената в Глава 4 теория разглежда липсващи стойности, разположени в последния стълб на матрицата , но с подходящо преномериране на всяка от променливите може да бъде даден номер и тогава липсващите стойности, съответстващи на дадената променлива ще застанат в последния стълб на корелационната матрица. Съставена е програма, която да извърши последователно проверка за независимост на разглежданите променливи при всевъзможни комбинации от по два липсващи елемента, намиращи се в един и същи стълб. Кодът на програмата е даден в Приложение В, т. 7. Тя се извиква с командата

R

kR

n

n

test2(R,QE) (5.2.3)

където и QE са входящи променливи, съответно съдържащи генерираната корелационна матрица и изчислените квантили с командата (5.2.2). Стойностите на 0,01 и 0,05 квантилите за всички проверки са еднакви. Те се изчисляват с програмата от Приложение В, т. 4, която се извиква в този случай с командата

R

[QE,QSTD]=quant_lk(30,10,2)

понеже имаме две липсващи стойности, намиращи се в един и същи ред. Получените стойности са 0,0663 и 0,0922 съответно за 0,01 и 0,05 квантила. Оценките за средноквадратичните им отклонения са по 1,249 и 0,894 съответно. Едва след това се стартира командата (5.2.3). При изпълнението на програмата test2 всички проверки са завършили отново с приемането на

510−

0H като непротиворечаща на опитните данни.

Това показва, че дори и при липсващи стойности могат да бъдат взети правилни решения при проверката за независимост на разглежданите фактори.

141

Нека сега да проверим отново ефективността на изведената теория, като този път фиксираме за определеност един стълб в матрицата , нека това да бъде шести стълб, и извършим отново проверката за независимост на факторите, предполагайки че липсват последователно три, четири, пет, шест, седем и дори осем елемента от него.

R

Нека най-напред в корелационната матрица липсват три елемента от шести стълб - , и , както и симетрично разположените им спрямо главния диагонал елементи , и . Това означава, че

матрицата ще има вида

R3,6r 5,6r 8,6r

6,3r 6,5r 6,8r

R

1,00 -0,16 0,21 0,12 0,02 0,06 -0,31 0,00 -0,08 -0,10-0,16 1,00 -0,34 -0,27 0,12 -0,37 -0,03 -0,04 0,09 0,26

0,21 -0,34 1,00 0,15 0,30 -0,06 -0,20 0,34 -0,010,12 -0,27 0,15 1,00 0,14 -0,04 -0,20 -0,18 0,08 -0,18

0,02 0,12 0,30 0,14 1,00R=

NaN

0,02 -0,20 0,22 -0,04

0,06 -0,37 -0,04 1,00 0,18 0,20 0,32-0,31 -0,03 -0,06 -0,20 0,02 0,18 1,00 -0,21 0,09 0,15

0,00 -0,04 -0,20 -0,18 -0,20 -0,21 1,00 -0,39 -0,03-0,08 0,09 0,34 0,08 0,22 0,20 0,09 -0,39 1,00 -0,08-0,10 0

NaN

NaN NaN NaN

NaN

,26 -0,01 -0,18 -0,04 0,32 0,15 -0,03 -0,08 1,00

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

.

Със съкращението (Not a number) в MATLAB се обозначава липсата на числена стойност за дадена променлива. С преномериране на променливите, като на шеста променлива се даде номер 10, на третата – номер 1, на петата – номер 2 и на осмата – номер 3, неизвестните стойности ще заемат първите три позиции на последния стълб и съответните позиции от последния ред. Даването на номер едно на третата променлива съответства на преместване в матрицата на трети стълб най-отпред като първи стълб и съответно преместване след това на трети ред в получената матрица най-горе като първи ред. Даването след това на номер две на петата променлива съответства на преместването в новополучената матрица на пети стълб непосредствено до първия като втори стълб и аналогично преместване на пети ред като втори ред. Осмата променлива получава номер три, затова съответстващите й корелационни коефициенти трябва да се разположат в

NaN

R

142

трети ред и трети стълб на матрицата. Аналогично, съответстващите на шеста променлива корелационни коефициенти трябва да застанат в последната колона и последния ред на матрицата. Незасегнатите корелационни коефициенти остават по местата си. Това означава, че останалите променливи 1,2,4,7,9,10 получават последователно номера от 4 до 9. Корелационната матрица добива вида

1,00 0,30 -0,20 0,21 -0,34 0,15 -0,06 0,34 -0,01

0,30 1,00 -0,20 0,02 0,12 0,14 0,02 0,22 -0,04

-0,20 -0,20 1,001,00,00 -0,04 -0,18 -0,21 -0,39 -0,03

0,21 0,02 0,00 0 -0,16 0,12 -0,31 -0 0,08 -0,10-0,1

,06-0,34 0,1 6 1,002 -0R = ,04

NaN

NaN

NaN

′ -0,27 -0,03 0,09 0,260,12 -0,27 1,00 -0,20 0,08 -0,18-0,31 -0,03 -0,20 1,00 0,09 0,15-0,08 0,09 0,08 0,09 1,00

-0,370,15

-0,08

0,14 -0,18 -0,04-0,06 0,02 -0,21 0,180,34 0,22 -0,39 0,

-0,10 0,26 -0,120

-0,01 -0,04 - 8 0,15 -0,08 1,0,03 00 0,32

0,06 -0,37 -0,04 0,18 0,20 0,32 1,00NaN NaN NaN

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

.

Така може да бъде приложена изведената в Глава 4 теория. Съгласно (4.2.32), критерият 3L (в случая 3k = ) за извършване на проверката за

независимост ще има вида

3det R [{1,2,3} ]det R [{10} ]

det R [{1,2,3,10} ]

c c

cL′ ′

=′

.

Понеже детерминантата на матрица има свойството да не променя стойността си при четен брой размени на местата на два реда или на два стълба, то

det R [{1,2,3} ] det R[{3,5,8} ]c c′ = ,

det R [{10} ] det R[{6} ]′ =c c

c c

det R [{1,2,3,10} ] det R[{3,5,6,8} ]′ = .

По тази причина

143

3det R[{3,5,8} ]det R[{6} ]

det R[{3,5,6,8} ]

c c

cL = .

Следователно можем да приложим изведената теория и без да преномерираме променливите, спазвайки следните правила:

• Първата матрица в числителя на kL се получава от матрицата след

зачеркване на редовете и стълбовете с номера, съответстващи на различните индекси на липсващите елементи.

R

• Втората матрица в числителя на kL се получава от матрицата след

зачеркване на реда и стълба, в които са разположени липсващите елементи.

R

• Матрицата в знаменателя на kL се получава от матрицата след

зачеркване на редовете и стълбовете с номера от множеството от индексите на липсващите елементи.

R

Кодът за пресмятането на стойността на критерия kL в този случай е даден в

Приложение В, т. 8, а). Получава се стойността 0,1596. Стойностите на 0,01 и 0,05 квантилите се изчисляват с програмата от Приложение В, т. 4, която се извиква в този случай с командата

[QE,QSTD]=quant_lk(30,10,3)

понеже имаме три липсващи стойности, намиращи се в един и същи ред. Получените стойности са 0,0705 и 0,0975 съответно за 0,01 и 0,05 квантила. Понеже kL е по-голяма и от двата квантила, хипотезата за независимост на

разглежданите 10 променливи не противоречи на опитните данни. Нека сега в корелационната матрица липсват четири елемента от

шести стълб - , , и , както и симетрично разположените им спрямо главния диагонал елементи , , и . Матрицата ще има

вида

R1,6r 2,6r 3,6r 4,6r

6,1r 6,2r 6,3r 6,4r R

144

1,00 -0,16 0,21 0,12 0,02 -0,31 0,00 -0,08 -0,10

-0,16 1,00 -0,34 -0,27 0,12 -0,03 -0,04 0,09 0,26

0,21 -0,34 1,00 0,15 0,30 -0,06 -0,20 0,34 -0,01

0,12 -0,27 0,15 1,00 0,14 -0,20 -0,18 0,08 -0,180,02 0,12 0,30 0,14 1,00 -0,13R=

NaN

NaN

NaN

NaN0,02 -0,20 0,22 -0,04

-0,13 1,00 0,18 -0,17 0,20 0,32-0,31 -0,03 -0,06 -0,20 0,02 0,18 1,00 -0,21 0,09 0,150,00 -0,04 -0,20 -0,18 -0,20 -0,17 -0,21 1,00 -0,39 -0,03

-0,08 0,09 0,34 0,08 0,22 0,20 0,09 -0,39 1,00 -0,08-0,10 0,2

NaN NaN NaN NaN

6 -0,01 -0,18 -0,04 0,32 0,15 -0,03 -0,08 1,00

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

.

Без да извършваме преномериране на променливите, използваме изведеното правило за изчисляването на 4L (в случая 4k = ),

4det R[{1,2,3,4} ]det R[{6} ]

det R[{1,2,3,4,6} ]

c c

cL = .

Кодът на командите е даден в Приложение В, т. 8, б). За 4L е получена

стойност 0.2225. Стойностите на 0,01 и 0,05 квантилите са 0.0746 и 0.1029 съответно. Понеже 4L е по-голяма и от двата квантила, хипотезата за

независимост на разглежданите 10 променливи отново не противоречи на опитните данни.

Следващия разгледан случай е при пет липсващи елемента, намиращи се в един и същи стълб на корелационната матрица - това са елементите

, , , и , както и симетрично разположените им спрямо главния диагонал елементи , , , и . В този случай

корелационната матрица има вида

R1,6r 2,6r 3,6r 4,6r 5,6r

6,1r 6,2r 6,3r 6,4r 6,5r

R

145

1,00 -0,16 0,21 0,12 0,02 -0,31 0,00 -0,08 -0,10

-0,16 1,00 -0,34 -0,27 0,12 -0,03 -0,04 0,09 0,26

0,21 -0,34 1,00 0,15 0,30 -0,06 -0,20 0,34 -0,01

0,12 -0,27 0,15 1,00 0,14 -0,20 -0,18 0,08 -0,18

0,02 0,12 0,30 0,14 1,00 0,R=

NaN

NaN

NaN

NaN

NaN 02 -0,20 0,22 -0,04

1,00 0,18 -0,17 0,20 0,32-0,31 -0,03 -0,06 -0,20 0,02 0,18 1,00 -0,21 0,09 0,150,00 -0,04 -0,20 -0,18 -0,20 -0,17 -0,21 1,00 -0,39 -0,03

-0,08 0,09 0,34 0,08 0,22 0,20 0,09 -0,39 1,00 -0,08-0,10 0,26 -0,

NaN NaN NaN NaN NaN

01 -0,18 -0,04 0,32 0,15 -0,03 -0,08 1,00

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

.

Използваме изведеното правило за изчисляването на 5L (в случая 5k = ),

5det R[{1,2,3,4,5} ]det R[{6} ]

det R[{1,2,3,4,5,6} ]

c c

cL = .

Кодът на командите е даден в Приложение В, т. 8, в). За 5L е получена

стойност 0.2314. Стойностите на 0,01 и 0,05 квантилите са 0.0788 и 0.1083 съответно. Понеже 5L е по-голяма и от двата квантила, хипотезата за

независимост на разглежданите 10 променливи не противоречи на опитните данни.

Разгледан е случаят и на шест липсващи елемента, намиращи се в един и същи стълб на корелационната матрица - това са елементите ,

, , , и , както и симетрично разположените им спрямо главния диагонал елементи , , , , и . В този случай

корелационната матрица има вида

R 1,6r

2,6r 3,6r 4,6r 5,6r 7,6r

6,1r 6,2r 6,3r 6,4r 6,5r 6,7r

R

146

1,00 -0,16 0,21 0,12 0,02 -0,31 0,00 -0,08 -0,10

-0,16 1,00 -0,34 -0,27 0,12 -0,03 -0,04 0,09 0,26

0,21 -0,34 1,00 0,15 0,30 -0,06 -0,20 0,34 -0,01

0,12 -0,27 0,15 1,00 0,14 -0,20 -0,18 0,08 -0,18

0,02 0,12 0,30 0,14 1,00 0,R=

NaN

NaN

NaN

NaN

NaN 02 -0,20 0,22 -0,04

1,00 -0,17 0,20 0,32

-0,31 -0,03 -0,06 -0,20 0,02 1,00 -0,21 0,09 0,150,00 -0,04 -0,20 -0,18 -0,20 -0,17 -0,21 1,00 -0,39 -0,03

-0,08 0,09 0,34 0,08 0,22 0,20 0,09 -0,39 1,00 -0,08-0,10 0,26 -0,01

NaN NaN NaN NaN NaN NaN

NaN

-0,18 -0,04 0,32 0,15 -0,03 -0,08 1,00

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

.

В случая 6k = и критерият за проверка на независимостта на разглежданите променливи ще има вида

6det R[{1,2,3,4,5,7} ]det R[{6} ] det R[{6,8,9,10}]det R[{6} ]

det R[{1,2,3,4,5,6,7} ] det R[{8,9,10}]

c c

cL = =c

.

Кодът на командите е даден в Приложение В, т. 8, г). За 6L е получена

стойност 0.2341. Стойностите на 0,01 и 0,05 квантилите са 0.0830 и 0.1136 съответно. Понеже 6L е по-голяма и от двата квантила, хипотезата за

независимост на разглежданите 10 променливи не противоречи на опитните данни.

Следващият случай е при седем липсващи елемента, намиращи се в един и същи стълб на корелационната матрица - това са елементите ,

, , , , и , както и симетрично разположените им спрямо главния диагонал елементи , , , , , и . В този случай

корелационната матрица има вида

R 1,6r

2,6r 3,6r 4,6r 5,6r 7,6r 8,6r

6,1r 6,2r 6,3r 6,4r 6,5r 6,7r 6,8r

R

147

1,00 -0,16 0,21 0,12 0,02 -0,31 0,00 -0,08 -0,10

-0,16 1,00 -0,34 -0,27 0,12 -0,03 -0,04 0,09 0,26

0,21 -0,34 1,00 0,15 0,30 -0,06 -0,20 0,34 -0,01

0,12 -0,27 0,15 1,00 0,14 -0,20 -0,18 0,08 -0,18

0,02 0,12 0,30 0,14 1,00 0,R=

NaN

NaN

NaN

NaN

NaN 02 -0,20 0,22 -0,04

1,00 0,20 0,32

-0,31 -0,03 -0,06 -0,20 0,02 1,00 -0,21 0,09 0,15

0,00 -0,04 -0,20 -0,18 -0,20 -0,21 1,00 -0,39 -0,03-0,08 0,09 0,34 0,08 0,22 0,20 0,09 -0,39 1,00 -0,08-0,10 0,26 -0,01 -0,1

NaN NaN NaN NaN NaN NaN NaN

NaN

NaN

8 -0,04 0,32 0,15 -0,03 -0,08 1,00

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

.

В случая 7k = и критерият за проверка на независимостта на разглежданите променливи ще има вида

7det R[{1,2,3,4,5,7,8} ]det R[{6} ] det R[{6,9,10}]det R[{6} ]

det R[{1,2,3,4,5,6,7,8} ] det R[{9,10}]

c c

cL = =c

.

Кодът на командите е даден в Приложение В, т. 8, д). За 7L е получена

стойност 0.2358. Стойностите на 0,01 и 0,05 квантилите са 0.0872 и 0.1191 съответно. Понеже 7L е по-голяма и от двата квантила, хипотезата за

независимост на разглежданите 10 променливи не противоречи на опитните данни.

Последният разгледан случай при тази, генерирана от нас матрица, е при осем липсващи елемента, намиращи се в един и същи стълб - това са елементите , , , , , , и , както и симетрично разположените им спрямо главния диагонал елементи , , , , ,

, и . В този случай корелационната матрица има вида

1,6r 2,6r 3,6r 4,6r 5,6r 7,6r 8,6r 9,6r

6,1r 6,2r 6,3r 6,4r 6,5r

6,7r 6,8r 6,9r R

148

1,00 -0,16 0,21 0,12 0,02 -0,31 0,00 -0,08 -0,10

-0,16 1,00 -0,34 -0,27 0,12 -0,03 -0,04 0,09 0,26

0,21 -0,34 1,00 0,15 0,30 -0,06 -0,20 0,34 -0,01

0,12 -0,27 0,15 1,00 0,14 -0,20 -0,18 0,08 -0,18

0,02 0,12 0,30 0,14 1,00 0,R=

NaN

NaN

NaN

NaN

NaN 02 -0,20 0,22 -0,04

1,00 0,32

-0,31 -0,03 -0,06 -0,20 0,02 1,00 -0,21 0,09 0,15

0,00 -0,04 -0,20 -0,18 -0,20 -0,21 1,00 -0,39 -0,03

-0,08 0,09 0,34 0,08 0,22 0,09 -0,39 1,00 -0,08-0,10 0,26 -0,01 -0,18 -

NaN NaN NaN NaN NaN NaN NaN NaN

NaN

NaN

NaN0,04 0,32 0,15 -0,03 -0,08 1,00

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

.

В случая 8k = и критерият за проверка на независимостта на разглежданите променливи ще има вида

8det R[{1,2,3,4,5,7,8,9} ]det R[{6} ] det R[{6,10}]det R[{6} ]

det R[{1,2,3,4,5,6,7,8,9} ]

c cc

cL = = .

Матрицата в знаменателя на величината 8L е равна на числото 1. Кодът на командите е даден в Приложение В, т. 8, е). За 8L е получена стойност

0.2501. Стойностите на 0,01 и 0,05 квантилите са 0.0914 и 0.1245 съответно. Понеже 8L е по-голяма и от двата квантила, хипотезата за независимост на

разглежданите 10 променливи не противоречи на опитните данни. Пример 9. Нека сега да проверим изведената теория върху една извадъчна корелационна матрица на показатели, които са зависими помежду си. Ясно е, че за колкото повече двойки измежду разглежданите променливи стойността на корелационният коефициент е близка до единица по абсолютна стойност, по лесно ще бъде установена зависимостта между променливите с отхвърлянето на хипотезата 0H за тяхната независимост,

дори и ако липсват някои от елементите на извадъчната корелационна матрица. С други думи, няма съмнение в ефективността на изведената теория в случая, когато за голяма част от двойките променливи, корелационният, а също и извадъчният корелационен коефициенти са високи по абсолютна стойност. Ето защо желателно е да бъде разгледан

149

случай на зависими помежду си променливи, но такива, чиито корелационни коефициенти са близки до нула, т.е. зависимостта е слаба. Поради това, че корелационната матрица е една положително определена матрица, не можем просто да вземем случайно избрани стойности, които са близки до нула, да ги подредим извън главния диагонал на матрица с единици по главния си диагонал и да гарантираме, че ще се получи валидна корелационна матрица. Изведената в Глава 2 теория, по-точно Теорема 2.2.2 дава възможност да се състави алгоритъм, по който да бъдат генерирани валидни корелационни матрици със следните характеристики:

• Зададен от потребителя процент p .100% от извъндиагоналните

елементи на матрицата са нули. Изборът на местата на нулевите елементи е случаен. Това се постига като за всеки елемент се генерира случайно число в интервала (0,1). Ако това число е по-малко от p , елемента получава

стойност нула. Това съответства на хвърлянето на монета с вероятност за падане на двете страни съответно p и 1 p− .

• Всички корелационни коефициенти са в граници [- ,c ], където е зададена от потребителя стойност. Ако при хвърлянето на монетата, както е описано по-горе се вземе решение, че даден корелационен коефициент ще е различен от нула, тогава се взимат под внимание от една страна границите в които трябва да се намира този корелационен коефициент, за да бъде получената матрица положително определена (тези граници се определят от Теорема 2.2.2), а от друга страна – интервала, на който желаем да принадлежи - [- ,c ]. Генерира се случайно число, което да принадлежи на сечението на двата интервала и то се взема за стойност на дадения корелационен коефициент.

c c

c

Кодът на алгоритъма за реализация с МАТЛАБ е оформен във файл SigmaR.m и е даден в Приложението т. 9.

От командния ред на MATLAB се изпълнява командата

[St,Rt]=SigmaR(n,p,c)

където задава размера на корелационната матрица, задава вероятността

произволен извъндиагонален елемент да бъде взет равен на нула и е ограничение за абсолютната стойност на корелационните коефициенти в

n p

c

150

матрицата. В резултат се получава корелационна матрица с исканите свойства, която се съдържа в променливата и съответна на нея ковариационна матрица, в променливата St .

Rt

Изпълнена е командата

[St,Rt]=SigmaR(10,0.5,0.4)

в резултат на което е генерирана корелационна матрица с размери , с вероятност за всеки извъндиагонален елемент да е равен на нула –

0,5 и всички извъндиагонални елементи са в интервала [-0,4; 0,4]. Заедно с нея се генерира и съответна на нея ковариационна матрица . Получените матрици са

Rt10 10×

St

1 0 -0,06 0,06 -0,40 -0,390,19

0061

0800

0,40 0,11 0 -0,320 1 0 0 -0,14 - -0,25 -0,37 0,05 0

-0,06 0 1 0 -0,28 0 0 0 0 -0,290,06 0 0 1 0,15 0 -0,31 0,11 0

-0,40 -0,14 -0,28 0,15 1 -0, 0 0 0,11 0,38Rt=

-0,39 -0,19 0 0 -0,06 0 0,08 0 00,40 -0,25 0 0 0 0 1 0 0,37 00,11 -0,37 0 -0,31 0 0, 0 1 0,07 -0,32

0 0,05 0 0,11 0,11 0,37 0,07 1 0-0,32 0 -0,29 0 0,38 0 -0,32 0 1

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

,

1,83 0 -0,10 0,19 -0,95 -1,08 1,12 0,21 0 -0,86

0 1,16 0 0 -0,28 -0,42 -0,56 -0,56 0,07 0-0,10 0 1,60 0 -0,64 0 0 0 0 -0,730,19 0 0 4,82 0,60 0 0 -0,94 0,29 0

-0,95 -0,28 -0,64 0,60 3,16 -0,21 0 0 0,23 1,37St=

-1,08 -0,42 0 0 -0,21 4,13 0 0,23 0 01,12 -0,56 0 0 0 0 4,30 0 0,91 00,21 -0,56 0 -0,94 0 0,23 0 1,91 0,12 -0,89

0 0,07 0 0,29 0,23 0 0,91 0,12 1,42 0-0,86 0 -0,73 0 1,37 0 0 -0,89 0 4,06

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

.

151

Тези две матрици ще разглеждаме като теоретичните корелационна и ковариационна матрици на 10 фактора, имащи съвместно многомерно нормално разпределение. За да се генерира емпирична ковариационна матрица, съответна на тези фактори се изпълнява командата

Se=wishrnd(St,29)/29

където числото 29 задава обема на извадката, който е с единица по-голям, т.е. в случая имаме 30m = . В резултат на тази команда е генерирана емпирична ковариационна матрица Se ,

1,96 0,20 -0,57 0,88 -1,47 -1,43 0,63 -0,02 0,07 -0,540,20 0,79 0,15 -0,16 -0,33 -0,46 -0,65 -0,36 -0,12 -0,15

-0,57 0,15 1,38 -0,60 0,14 0,14 -0,09 0,34 0,12 -0,860,88 -0,16 -0,60 3,72 1,08 -1,32 0,18 -0,86 -0,22 0,43

-1,47 -0,33 0,14 1,Se=

08 3,72 0,18 0,16 -0,34 0,23 1,32-1,43 -0,46 0,14 -1,32 0,18 3,59 -0,40 0,49 -0,16 -0,470,63 -0,65 -0,09 0,18 0,16 -0,40 4,15 0,11 1,18 -0,24

-0,02 -0,36 0,34 -0,86 -0,34 0,49 0,11 1,75 0,51 -0,830,07 -0,12 0,12 -0,22 0,23 -0,16 1,18 0,51 1,24 -0,44

-0,54 -0,15 -0,86 0,43 1,32 -0,47 -0,24 -0,83 -0,44 3,84

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

.

Съответната на нея емпирична корелационна матрица се получава с командата

Re=corrcov(Se),

1 0,16 -0,35 0,32 -0,54 -0,54 0,22 -0,01 0,05 -0,200,16 1 0,14 -0,09 -0,19 -0,27 -0,36 -0,31 -0,12 -0,09

-0,35 0,14 1 -0,27 0,06 0,06 -0,04 0,22 0,09 -0,370,32 -0,09 -0,27 1 0,29 -0,36 0,05 -0,34 -0,10 0,11

-0,54 -0,19 0,06 0,29 1 0,05 0,04 -Re=

0,13 0,11 0,35-0,54 -0,27 0,06 -0,36 0,05 1 -0,10 0,19 -0,08 -0,130,22 -0,36 -0,04 0,05 0,04 -0,10 1 0,04 0,52 -0,06

-0,01 -0,31 0,22 -0,34 -0,13 0,19 0,04 1 0,34 -0,320,05 -0,12 0,09 -0,10 0,11 -0,08 0,52 0,34 1 -0,20

-0,20 -0,09 -0,37 0,11 0,35 -0,13 -0,06 -0,32 -0,20 1

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

.

152

За да се извърши проверката на хипотезата за независимост на 10-те разглеждани променливи,

2 20 1 10:St ( , , )H diag σ σ= … , 2

iσ са неизвестни, 1, ,10i = … ,

трябва да бъде пресметнат критерия (4.2.1) det ReL = . В случая

det Re=0,0241L = . Тази стойност трябва да бъде сравнена с α - квантила на нулевото разпределение на критерия и ако е по-малка, хипотезата 0H се отхвърля при

ниво на значимост α . В Пример 8 вече са изчислени 0,01 и 0,05 квантилите на нулевото разпределение на критерия (4.2.1). Получени са стойности съответно 0,0581 и 0,0816. Следователно и при двете избрани стойности за нивото на значимост α - 0,01 и 0,05, трябва да бъде отхвърлена хипотезата за независимостта на разглежданите променливи, което и съответства на действителното положение, т.е. ще се вземе вярно решение. Нека сега да предположим че липсват елементи в емпиричната корелационна матрица и да извършим отново проверката, прилагайки изведената в Глава 4 теория. Ясно е, че ако бъдат отстранени (ако липсват) малки по абсолютна стойност елементи на , това няма да се отрази върху взетото решение, защото ще останат по-големи от тях по абсолютна стойност елементи, които би трябвало да доведат отново до вземане на решението за отхвърлянето на

Re

Re

0H . Ето защо е интересно да се види какво

ще бъде решението, ако се отстранят най-големите по абсолютна стойност елементи в . Най-големи по абсолютна стойност извъндиагонални елементи в матрицата са 5-ти и 6-ти елементи в първи стълб, съответно и в първи ред. Те са равни и двата на -0,54. Нека да отстраним тези два елемента от първи стълб, а също така и от първи ред. За проверката на

ReRe

0H ,

съгласно правилото, изведено в Пример 8, стр. 165, трябва да бъде пресметнат критерия

2det Re[{5,6} ]det Re[{1} ]

det Re[{1,5,6} ]cL =c c

. Получава се стойността

2 0,0593L = , която е по-малка и от двата квантила – при 0,01 0,05α α= и при = .

Техните стойности 0,0663 и 0,0922 са пресметнати в Пример 8.

153

Следователно и при двете стойности на нивото на значимост α се взима решение за отхвърлянето на 0H .

Следващата най-голяма абсолютна стойност в същия стълб (ред) на матрицата има третия елемент, равен на -0,35. Затова, нека сега да предположим, че в матрицата липсват по три елемента в първи ред и стълб – това са трети, пети и шести елементи. В този случай трябва да се пресметне критерият

ReRe

3d e[{3,5,6} ]det Re[{1} ]

1

c c

cL =et R

det Re[{ ,3,5,6} ]За неговата стойност се получава числото 0,0783. В Пример 8 са пресметнати 0,01 и 0,05 квантилите на нулевото разпределение на

.

3L .

Техните стойности са 0,0705 и 0,0975 съответно. Следователно хипотезата 0H в този случай трябва да бъде приета при избор на 0,01α = и отхвърлена

при 0,05α = .

Следващата по ред най-голяма абсолютна стойност в същия стълб (ред) на матрицата има четвъртия елемент, равен на 0,32. Да предположим, че в матрицата са изтрити (липсват) елементите трети, четвърти, пети и шести, лежащи в първия стълб на матрицата и съответните им елементи от първи ред. За да се провери хипотезата за независимост на разглежданите променливи, трябва да се пресметне критерият

ReRe

4det Re[{3,4,5,6} ]det Re[{1} ]

det Re[{1,3,4,5,6} ]cL =c c

4 0,0954L =

4

.

Получава се . В Пример 8 са пресметнати 0,01 и 0,05 квантилите на нулевото разпределение на L . Техните стойности са 0,0746 и 0,1029 съответно. Следователно хипотезата 0H отново трябва да бъде приета при избор на 0,01 0,05α = и отхвърлена при α = .

Изборът на елементи, които да бъдат липсващи в случая е тенденциозен – ние изключваме тези, чиито абсолютни стойности са най-големи. За сравнение, нека сега изключим елементи отново от първи ред и стълб, нека са дори повече на брой – пет, но случайно, а не тенденциозно подбрани въз основа на абсолютната им стойност. Нека това са елементите с четни номера - втори, четвърти, шести, осми и десети от първи стълб и

154

съответните им от първи ред. За да се провери независимостта на разглежданите променливи, трябва да бъде пресметнат критерия

5det Re[{2,4,6,8,10} ]det Re[{1} ]

det Re[{1,2,4,6,8,10} ]

c c

cL = .

Получава се . Стойностите на 0,01 и 0,05 квантилите на нулевото разпределение на

5 0,0627L =

5L са 0.0788 и 0.1083 съответно. Те са пресметнати в Пример 8. Следователно, хипотезата 0H се отхвърля и при

двете избрани стойности на нивото на значимост α . Изводът, който може да бъде направен е, че дори при липсващи стойности в извадъчната корелационна матрица, дори при слаба зависимост между разглежданите променливи, изведената теория дава възможност да бъде проверена хипотезата за независимост между променливите и дава идентични резултати с тези при пълна корелационна матрица.

155

Заключение

Резултатите от проведените в съответствие с целта и задачите на дисертационния труд теоретични и експериментални изследвания се свеждат до следните основни приноси:

1. Изведени са необходими и достатъчни условия за положителната определеност на една симетрична матрица по отношение на произволен неин елемент.

2. Изведени са две системи от неравенства, всяка от които задава необходими и достатъчни условия за елементите на една симетрична матрица, гарантиращи нейната положителна определеност. По този начин се определят по два различни начина редът и границите на интегриране по отношение на елементите на една положително определена матрица.

3. Установени са две различни взаимно-еднозначни съответствия и между пространството от всички реални, положително

определени матрици от ред и пространството от всички реални

симетрични матрици от ред , с положителни диагонални елементи и с елементи извън главния диагонал в граници (-1,1).

hh ( , )nP

n ( , )nDn

4. Получени са параметризации за ковариационната и корелационна матрици чрез частните коефициенти на корелация и дисперсиите на участващите в изследването фактори.

5. Получено е представяне за елементите на една случайна матрица с разпределение на Уишарт чрез алгебрични функции от независими случайни величини.

6. Изведени са нови свойства на разпределението на Уишарт. Използвания подход може да бъде приложен за намирането на точните разпределения на всевъзможните произведения и частно от произведения на главни минори на една случайна матрица с разпределение на Уишарт.

156

7. Изведени са чрез интегриране съвместни плътности на извадъчни корелационни коефициенти (маргинални плътности на разпределението

( )n mψ ) за наблюдения над независими многомерно нормално разпределени

фактори.

8. Получени са съвместни плътности на извадъчни ковариационни коефициенти (маргинални плътности на разпределението на Уишарт) за наблюдения над многомерно нормално разпределени фактори.

9. Изведен е критерия с отношение на правдоподобия за проверка на хипотезата 0H за независимост на факторите, при наличие на липсващи

стойности, намиращи се в един и същи ред (стълб) на извадъчната ковариационна матрица. Намерено е точното разпределение на критерия за проверката при вярна нулева хипотеза.

Декларирам, че изложените резултати представляват оригинална

разработка.

157

Приложение

А. Плътности на разпределения, използвани в дисертацията

1. Хи-квадрат разпределение

Случайна величина ξ , имаща хи-квадрат разпределение с степени на свобода, притежава плътност

2 ( )mχ m( )f x , която има вида

12 2

2

1( )2

2

m x

mf x x e−

m−

=⎛ ⎞Γ⎜ ⎟⎝ ⎠

0, x > .

2. Гама разпределение Случайна величина ξ , имаща гама разпределение , , , притежава плътност

( , )G a b 0a > 0b >( )f x , която има вида

( )1( )( )

a bb bx ef xa

− −

=Γ

x

, 0x > .

Хи-квадрат разпределението е частен случай на гама разпределение, 2 1( ) ,

2 2mm Gχ ⎛ ⎞≡ ⎜ ⎟

⎝ ⎠.

3. Бета разпределение Случайна величина ξ , имаща Бета разпределение ( , , , )Beta a bα β с параметри α , β , и , притежава плътност a b ( )f x , която има вида

1 1

1

( ) ( ) ( )( )( ) ( ) ( )

x a b xf xb a

α β

α β

α βα β

− −

+ −

Γ + − −=Γ Γ −

, . a x b< <

158

4. Многомерно нормално разпределение

Случаен 1n× вектор , имащ многомерно нормално разпределение с вектор от средните стойности и ковариационна матрица ,

, притежава плътност от вида

x(μ,Σ)nN μ Σ

Σ 0

-11

2 2

1 1(x) exp (x μ) Σ (x μ)2(2 ) (detΣ)

tnf

π

⎛ ⎞= − − −⎜ ⎟⎝ ⎠

∈, . x 1n×

5. Разпределение на Уишарт Случайна матрица , имаща разпределение на Уишарт n n× W ( , )nW m Ξ с

параметър ( n ) и ( m n ) степени на свобода, притежава плътност

n× 0Ξ m ≥(W)f , която има вида

11 1( 1) (W )2 2

2 2

1(W) (det W) ,2 (det )

2

m n tr

nm m

n

f em

−− − − Ξ=

⎛ ⎞Γ Ξ⎜ ⎟⎝ ⎠

, W ( ,n∈P )

]

където е многомерната Гама функция, ( )nΓ ⋅

( ) ( 1) / 4

1[ (1 ) / 2

nn n

nj

jα π α−

=Γ = Γ + −∏ .

6. Разпределение ( )n mψ

Случайна матрица с единици по главния си диагонал, имаща разпределение

n n× U( )n mψ с m степени на свобода ( m ), притежава плътност

от вида

n≥

122(U) (det U)

2

n

m n

n

m

fm

− −⎡ ⎤⎛ ⎞Γ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦=

⎛ ⎞Γ ⎜ ⎟⎝ ⎠

U , U ( , ;1, ,n 1)∈ …P .

159

Б. Доказателства на някои твърдения, използвани в дисертацията Твърдение 1 Ако случайната величина ζ има разпределение

( , , 1,1)Beta a a − , то величината 21 ζ− е разпределена ( ,1/ 2,0,1)Beta a .

Доказателство: Плътността на ζ , съгласно Приложение А, т. 3, ще има

вида

( )2 1

2 2 1

(2 )( ) (1 )( ) 2

aa

af x xaζ

−

−

Γ= −

Γ, 1 1x− < < .

Нека η е величината 21η ζ= − . Нейната функция на разпределение може да

бъде намерена,

2 2 2( ) ( ) (1 ) ( 1 ) 1 ( 1 )F t P t P t P t P tη η ζ ζ ζ= < = − < = > − = − ≤ −

1 ( 1 1 ) 1 ( 1 ) ( 1P t t P t Pζ ζ ζ= − − − ≤ ≤ − = − ≤ − + < − − )t

1 ( 1 ) ( 1F t Fζ ζ )t= − − + − − .

Да диференцираме двете страни по отношение на t . Получаваме

1 1( ) ( 1 ) ( 1 )2 1 2 1

f t f t f tt tη ζ ζ= − + − −

− −

( ) ( ) ( )

11 1 2

2 2 22 1 2 1 2 1

1 (2 ) (2 ) (2 ) (1 )2 1 ( ) 2 ( ) 2 ( ) 2

a a aa a a

a a at t tt a a a

1 t−− − −

− − −

⎡ ⎤Γ Γ Γ= + =⎢ ⎥

− Γ Γ Γ⎢ ⎥⎣ ⎦− .

Оттук, използвайки свойството на Гама функцията ([53], 8.335 1)

2 12 1(2 ) ( )2

x

x x xπ

− ⎛ ⎞Γ = Γ Γ +⎜ ⎟⎝ ⎠

,

следва, че ( ,1/ 2,0,1)Beta aη ∼ . □

160

Твърдение 2 Нека 1ζ и 2ζ са независими случайни величини,

1 ( , ,0,1)Beta a bζ ∼ , 2 ( , ,0,Beta a b c 1)ζ +∼ . Тогава произведението 1 2ζ ζ има разпределение ( , ,0,1)Beta a b c+ .

Доказателство: Съгласно Приложение А, т. 3, плътностите на случайните величини 1ζ и 2ζ , ще имат вида

1

1 11 1 1

( )( ) (1 )( ) ( )

a ba bf x x xa bζ

Γ − −+= −Γ Γ 10 1x, < < ,

2

1 12 2 2

( )( ) (1 )( ) ( )

a b ca b cf x x xa b cζ

Γ + − −+ += −Γ + Γ 20 1x< <

1

, .

Да разгледаме трансформацията

1y x= (Б.1)

2 1y x x2= .

Тя задава едно взаимно-еднозначно съответствие между областите 1 1 2 1 2{( , ) 0 1,0 1}D x x x x= < < < < и 2 1 2 1 2{( , ) 0 1,0 }D y y y y y1= < < < < .

Обратните трансформационни формули са:

1 1x y= (Б.2)

22

1

yxy

= .

Якобианът на трансформацията е

1 2221 21 1

1 0( , )J 1( , )x x

yy y

y y

⎛ ⎞∂ ⎜ ⎟= = ⎜ ⎟−∂ ⎜ ⎟

⎝ ⎠

.

Следователно,

1

1det J=y

. (Б.3)

161

Да означим с η произведението 1 2η ζ ζ= . Величините 1ζ и 2ζ са

независими. Да извършим смяната на променливите в съвместната им плътност. По този начин ще се получи съвместната плътност на величините

1ζ и η :

1

1 11 1 2 2

, 1 2 1 11 1

( ) ( )( , ) (1 ) 1( ) ( ) ( ) ( )

a b ca ba b a b c y yf y y y y

a b a b c y y yζ η

+ − −

− − ⎛ ⎞ ⎛ ⎞Γ + Γ + += − −⎜ ⎟ ⎜ ⎟Γ Γ Γ + Γ ⎝ ⎠ ⎝ ⎠ 1

1

1 1 11 2 1 2

1

( ) 1 (1 ) ( )( ) ( ) ( )

b cb a b ca b c y y y y

a b c y

+

− + − −⎛ ⎞Γ + += −⎜ ⎟Γ Γ Γ ⎝ ⎠

1 2 10 1,0y y y< < < <− , .

За да се получи оттук плътността само на η , трябва да се интегрира по отношение на в граници 1y 2 1 1y y< < , т.е.

2

1 1 11 1 1 2

2 21

( ) (1 ) ( )( )( ) ( ) ( )

b ca b

b cy

a b c y y y1f y y

a b c yη

− −+ −

+

Γ + + − −=Γ Γ Γ ∫ dy

С помощта на равенство 3.199 в [53] се вижда, че

2

1 1 111 1 2

1 21

(1 ) ( ) ( ) ( ) (1 )( )

b cb c b

b cy

y y y b cdy y yy b c

− −+ − −

+

− − Γ Γ= −Γ +∫ 2 .

Следователно

1 12 2 2

( )( ) (1 )( ) ( )

a b ca b cf y y ya b cη

− + −Γ + += −Γ Γ + 20 1y< <, ,

т.е. ( , ,0,1)Beta a b cη +∼ . □

Твърдение 3 Нека 1ζ и 2ζ са независими случайни величини, 1 ( , )G a bζ ∼ ,

2 ( , ,0,Beta a c c 1)ζ −∼ . Тогава произведението 1 2ζ ζ има разпределение . ( ,G a c b− )

Доказателство: Съгласно Приложение А, т. 2 и т. 3, плътностите на случайните величини 1ζ и 2ζ , ще имат вида

162

1

1

11

1( )( )

( )

bxab bx ef xaζ

−−

=Γ

, , 1 0x >

2

1 12 2 2

( )( ) (1 )( ) ( )

a c caf x x xa c cζΓ − − −= −

Γ − Γ 2x< <, 0 1.

Да разгледаме трансформацията (Б.1). Тя задава едно взаимно-еднозначно съответствие между областите 1 1 2 1 2{( , ) 0,0 1}D x x x x= > < < и

2 1 2 1 2{( , ) 0,0 }D y y y y y= > < 1< . Обратните трансформационни формули са

дадени с (Б.2). Детерминантата на Якобиана на трансформацията е (Б.3). Да означим с η произведението 1 2η ζ ζ= . Величините 1ζ и 2ζ са независими.

Да извършим смяната на променливите в съвместната им плътност. По този начин ще се получи съвместната плътност на величините 1ζ и η :

1

1

1 111 2

, 1 21 1

( ) ( ) 1( , ) 1( ) ( ) ( )

a c cbyab by e a y yf y ya a c c y yζ η

− − −−− ⎛ ⎞ ⎛ ⎞Γ= −⎜ ⎟ ⎜ ⎟Γ Γ − Γ ⎝ ⎠ ⎝ ⎠

2

1y

11 12 1 2( )

( ) ( )bya c cb y y y e

a c c−− − −= −

Γ − Γ

a

1y, . 1 20,0y y> < <

За да се получи оттук плътността само на η , трябва да се интегрира по отношение на в граници от до 1y 2y ∞ , т.е.

1

2

1 12 2 1 2( ) ( )

( ) ( )

abya c c

y

b1f y y y y

a c cη

∞−− − −= −

Γ − Γ ∫ e dy

2

bu

.

Ако се положи , то интегралът в горното равенство ще добие вида 1u y y= −

1 2 2

2

( )1 1 11 2 1

0 0

( ) by b u y byc c c

y

I y y e dy u e du e u e d∞ ∞ ∞

− − + −− − −= − = =∫ ∫ ∫ u− .

Като се използва равенство 8.312 2 в [53], получаваме

2 ( )byc

cI eb

− Γ= .

Следователно

163

2 21 12 2

( )( )( ) ( ) ( )

a a cby bya c a c

c

b c b2f y y e y e

a c c b a cη

−− −− − − −Γ

= =Γ − Γ Γ − 2 0y >

)

, ,

т.е. ( ,G a c bη −∼ . □

В. MATLAB кодове на изчисленията, представени в Глава 5 1. Създаване на вектор от стойностите на плътността (4.2.34) при

, 10m = 5n = и в интервала [0,1) със стъпка 0,01, използвайки Maple Toolbox на MATLAB, версия R2012a

2k =

Командите по-долу могат да се изпълнят от командния ред на MATLAB или да се запишат в отделен файл, например Meijer.m и от командния ред да се изпълни команда Meijer

maple(['MeijerGForMe:=proc(x) options operator,arrow;MeijerG([[],[3.5, 3.5,3.5,3.5]],[[2,2.5,2.5,3],[]],x) end proc']); for i=1:95 x = i*0.01; G(i+1)=double(maple(['MeijerGForMe('num2str(x)'):'])); end G(1)=0; G=3.5^4*(gamma(3.5))^2/12.*G; 2. Създаване на вектор от стойностите на плътността (4.2.34) при

, 10m = 5n = и в интервала [0,1) със стъпка 0,01, използвайки MuPad – вградената в MATLAB система за символни изчисления

2k =

а) Създаване на функция MeijerG в MATLAB, чрез m – файл с име MeijerG.m

function out = MeijerG(an,ap,bm,bq,z) an_str=vec2str(an); ap_str=vec2str(ap); bm_str=vec2str(bm); bq_str=vec2str(bq); z_str=num2str(z,32);

164

MeijerGmupad_str=['float(meijerG(',an_str,',',ap_str,',',... bm_str,',',bq_str,','z_str,'))']; out = double(evalin(symengine, MeijerGmupad_str)); return; function an_str=vec2str(an) if isempty(an) an_str='[]'; else an_str=['[',num2str(an(1),32)]; for i=2:length(an) an_str=[an_str,',',num2str(an(i),32)]; end; an_str=[an_str,']']; end; return; б) След това се създава файл Meijer1.m със следното съдържание for i=1:95 x=i*0.01; G(i+1)=MeijerG([],[3.5,3.5,3.5,3.5],[2,2.5,2.5,3],[],x); end G(1)=0; G=3.5^4*(gamma(3.5))^2/12.*G; От командния ред на MATLAB се изпълнява командата Meijer1 3. Изчертаване на Фигура 12 Създава се файл с име cherteg.m със следното съдържание function y=cherteg(G) Y1=betarnd(3,1.5,[1000000,1]); Y2=betarnd(3.5,1,[1000000,1]); Y3=betarnd(3.5,1,[1000000,1]); Y4=betarnd(4,0.5,[1000000,1]); L=Y1.*Y2; L=L.*Y3; L=L.*Y4; [n,x]=hist(L,[0:0.02:0.96]); bar(x,n./20000) hold x=0:0.01:0.95; plot(x,G,'k')

165

От командния ред на MATLAB се изпълнява командата cherteg(G) 4. Изчисляване на квантилите Създава се файл с име quant_lk.m със следното съдържание function [QE,QSTD]=quant_lk(m,n,k) for i=1:10000 L=ones(10000,1); if k>0 for j=1:k X=betarnd((m-n+j)/2,(n-j-1)/2,[10000,1]); L=L.*X; end end for j=k+1:n-1 X=betarnd((m-n+j-1)/2,(n-j)/2,[10000,1]); L=L.*X; end Q(i,:)=quantile(L,[0.01,0.05]); end QE=mean(Q); QSTD=std(Q)/sqrt(10000); От командния ред на MATLAB се изпълнява командата

[QE,QSTD]=quant_lk(m,n,k), (В.1)

където “m”,”n” и “k” са конкретните стойности на параметрите , и . Например за изчисляването на 0,01 и 0,05 квантилите на нулевото разпределение на величината

m n k

kL , зададена с (4.2.32) при , 10m = 4n = и

, се изпълнява командата [QE,QSTD]=quant_lk(10,4,1). Ако трябва да бъдат изчислени и други квантили, съответстващите им стойности се добавят, разделени със запетая, в командата на ред 12 от файла quant_lk.m. Например, ако ред 12 добие вида

1k =

Q(i,:)=quantile(L,[0.005,0.01,0.05,0.1]);

заедно с 0,01 и 0,05 квантила ще бъдат изчислени и 0,005 и 0,1 квантилите на съответното разпределение на kL . Командата (В.1) може да бъде

използвана и за . В този случай се изчисляват квантилите на нулевото 0k =

166

разпределение на критерия (4.2.1) det RL = , приложим когато в корелационната матрица няма липсващи стойности. R 5. Генериране на матрица, реализация на разпределението ( 1n m )ψ −

(генериране на корелационна матрица на независими фактори) а) Първа стъпка: генериране на симетрична n n× матрица с единици по главния си диагонал, чиито извъндиагонални елементи са реализации на

бета разпределение , , 1,12 2

m i m iBeta − −⎛ ⎞−⎜ ⎟⎝ ⎠

i j n, 1≤ < ≤ .

Създава се файл с име ksi.m със следното съдържание function X=ksi(m,n) X=ones(n,n); for i=1:n-1 for j=i+1:n X(i,j)=-1+2*betarnd((m-i)/2,(m-i)/2); X(j,i)=X(i,j); end end От командния ред на MATLAB се изпълнява командата X=ksi(30,10), за генерирането на матрица при 30m = и 10n = . б) Втора стъпка: намиране на образа на матрицата при изображението . hСъздава се файл с име h.m със следното съдържание function R=h(X) n=size(X,1); R=ones(n,n); for j=2:n R(1,j)=X(1,j); R(j,1)=R(1,j); end for i=2:n-1 for j=i+1:n S=0; P=1; for q=1:i-1 S=S+X(q,i)*X(q,j)*P; P=P*sqrt((1-X(q,i)^2)*(1-X(q,j)^2)); end

167

R(i,j)=S+X(i,j)*P; R(j,i)=R(i,j); end end От командния ред на MATLAB се изпълнява командата R=h(X). 6. Проверка за независимост на променливите, предполагайки липсата на всеки един от корелационните коефициенти поотделно (както и на симетричният му спрямо главния диагонал елемент) Създава се файл с име test1.m със следното съдържание function y=test1(R,QE) n=size(R,1); for i=1:n-1 for j=i+1:n R1=R; R1(i,:)=[]; R1(:,i)=[]; r1=det(R1); R2=R; R2(j,:)=[]; R2(:,j)=[]; r2=det(R2); R2(i,:)=[]; R2(:,i)=[]; r3=det(R2); L=r1*r2/r3; if L<=max(QE) i,j,L end end end От командния ред на MATLAB се изпълнява командата test1(R,QE). Величината QE се изчислява предварително с програмата от т. 4, с командата (В.1), като и се заменят с конкретните стойности на броят на наблюденията и броят на променливите , а се заменя с единица (една липсваща стойност над главния диагонал). Ако някоя от проверките завърши с отхвърлянето на

m nm n k

0H , индексите , на елемента, който се i j

168

предполага че липсва, се отпечатват на екрана, както и стойността на критерия за проверката kL , съдържаща се в променливата L .

7. Проверка за независимост на променливите, предполагайки поотделно липсата на всяка двойка от корелационни коефициенти, лежащи върху един и същи стълб (както и на симетричните им спрямо главния диагонал елементи) Създава се файл с име test2.m със следното съдържание function y=test2(R,QE) n=size(R,1); for q=1:n for i=1:n-1 if i~=q for j=i+1:n if j~=q R1=R; R1([i,j],:)=[]; R1(:,[i,j])=[]; r1=det(R1); R2=R; R2(q,:)=[]; R2(:,q)=[]; r2=det(R2); R3=R; R3([i,j,q],:)=[]; R3(:,[i,j,q])=[]; r3=det(R3); L=r1*r2/r3; if L<=max(QE) q,i,j,L end end end end end end От командния ред на MATLAB се изпълнява командата test2(R,QE). Величината QE се изчислява предварително с програмата от т. 4, с

169

командата (В.1), като и се заменят с конкретните стойности на броят на наблюденията и броят на променливите , а се заменя с две (две липсващи стойности над главния диагонал). Ако някоя от проверките завърши с отхвърлянето на

m nm n k

0H , индексите , i и q j се отпечатват на екрана. Те съответстват на елементите и , които при конкретната проверка се

е продполагало че са липсващи. Отпечатва се и стойността на критерия за проверката

,q ir ,q jr

kL , съдържаща се в променливата L .

8. Проверка за независимост на променливите, предполагайки липсата последователно на три, четири, пет, шест, седем и осем корелационни коефициенти, лежащи върху шести стълб (както и на симетричните им спрямо главния диагонал елементи) а) В корелационната матрица липсват елементите , и ,

намиращи се в шести стълб на матрицата, както и симетрично разположените им спрямо главния диагонал елементи , и .

R 3,6r 5,6r 8,6r

6,3r 6,5r 6,8r

От командния ред на MATLAB се изпълняват командите R1=R; R1([3,5,8],:)=[]; R1(:,[3,5,8])=[]; r1=det(R1); R2=R; R2(6,:)=[]; R2(:,6)=[]; r2=det(R2); R3=R; R3([3,5,6,8],:)=[]; R3(:,[3,5,6,8])=[]; r3=det(R3); Lk=r1*r2/r3 quant_lk(30,10,3) За kL в този случай се получава 0,1596. Стойностите на 0,01 и 0,05 квантилите са 0,0705 и 0,0975 съответно. Понеже kL е по-голяма и от двата

квантила, хипотезата за независимост на разглежданите 10 променливи не противоречи на опитните данни.

170

б) В корелационната матрица липсват елементите , , и ,

намиращи се в шести стълб на матрицата, както и симетрично разположените им спрямо главния диагонал елементи , , и .

R 1,6r 2,6r 3,6r 4,6r

6,1r 6,2r 6,3r 6,4r

От командния ред на MATLAB се изпълняват командите R1=R; R1([1:4],:)=[]; R1(:,[1:4])=[]; r1=det(R1); R2=R; R2(6,:)=[]; R2(:,6)=[]; r2=det(R2); R3=R; R3([1:4,6],:)=[]; R3(:,[1:4,6])=[]; r3=det(R3); Lk=r1*r2/r3 quant_lk(30,10,4) За kL в този случай се получава 0.2225. Стойностите на 0,01 и 0,05 квантилите са 0.0746 и 0.1029 съответно. Понеже kL е по-голяма и от двата

квантила, хипотезата за независимост на разглежданите 10 променливи отново не противоречи на опитните данни. в) В корелационната матрица липсват елементите , , , и ,

намиращи се в шести стълб на матрицата, както и симетрично разположените им спрямо главния диагонал елементи , , , и

.

R 1,6r 2,6r 3,6r 4,6r 5,6r

6,1r 6,2r 6,3r 6,4r

6,5r

От командния ред на MATLAB се изпълняват командите R1=R; R1([1:5],:)=[]; R1(:,[1:5])=[]; r1=det(R1); R2=R; R2(6,:)=[]; R2(:,6)=[]; r2=det(R2); R3=R;

171

R3([1:6],:)=[]; R3(:,[1:6])=[]; r3=det(R3); Lk=r1*r2/r3 quant_lk(30,10,5) За kL в този случай се получава 0.2314. Стойностите на 0,01 и 0,05 квантилите са 0.0788 и 0.1083 съответно. Понеже kL е по-голяма и от двата

квантила, хипотезата за независимост на разглежданите 10 променливи отново не противоречи на опитните данни. г) В корелационната матрица липсват елементите , , , , и

, намиращи се в шести стълб на матрицата, както и симетрично разположените им спрямо главния диагонал елементи , , , , и .

R 1,6r 2,6r 3,6r 4,6r 5,6r

7,6r

6,1r 6,2r 6,3r 6,4r 6,5r

6,7r

От командния ред на MATLAB се изпълняват командите R1=R; R1([1:5,7],:)=[]; R1(:,[1:5,7])=[]; r1=det(R1); R2=R; R2(6,:)=[]; R2(:,6)=[]; r2=det(R2); R3=R; R3([1:7],:)=[]; R3(:,[1:7])=[]; r3=det(R3); Lk=r1*r2/r3 quant_lk(30,10,6) За kL в този случай се получава 0.2341. Стойностите на 0,01 и 0,05 квантилите са 0.0830 и 0.1136 съответно. Понеже kL е по-голяма и от двата

квантила, хипотезата за независимост на разглежданите 10 променливи отново не противоречи на опитните данни. д) В корелационната матрица липсват елементите , , , , ,

и , намиращи се в шести стълб на матрицата, както и симетрично R 1,6r 2,6r 3,6r 4,6r 5,6r

7,6r 8,6r

172

разположените им спрямо главния диагонал елементи , , , , , и .

6,1r 6,2r 6,3r 6,4r 6,5r

6,7r 6,8r

От командния ред на MATLAB се изпълняват командите R1=R; R1([1:5,7,8],:)=[]; R1(:,[1:5,7,8])=[]; r1=det(R1); R2=R; R2(6,:)=[]; R2(:,6)=[]; r2=det(R2); R3=R; R3([1:8],:)=[]; R3(:,[1:8])=[]; r3=det(R3); Lk=r1*r2/r3 quant_lk(30,10,7) За kL в този случай се получава 0.2358. Стойностите на 0,01 и 0,05 квантилите са 0.0872 и 0.1191 съответно. Понеже kL е по-голяма и от двата

квантила, хипотезата за независимост на разглежданите 10 променливи отново не противоречи на опитните данни. е) В корелационната матрица липсват елементите , , , , ,

, и , намиращи се в шести стълб на матрицата, както и симетрично разположените им спрямо главния диагонал елементи , , , , ,

, и .

R 1,6r 2,6r 3,6r 4,6r 5,6r

7,6r 8,6r 9,6r

6,1r 6,2r 6,3r 6,4r 6,5r

6,7r 6,8r 6,9r

От командния ред на MATLAB се изпълняват командите R1=R; R1([1:5,7,8,9],:)=[]; R1(:,[1:5,7,8,9])=[]; r1=det(R1); R2=R; R2(6,:)=[]; R2(:,6)=[]; r2=det(R2); Lk=r1*r2 quant_lk(30,10,8)

173

В този случай матрицата в знаменателя на величината kL е равна на числото 1. Нейната детерминанта също е 1. За kL в този случай се получава 0.2501.

Стойностите на 0,01 и 0,05 квантилите са 0.0914 и 0.1245 съответно. Понеже kL е по-голяма и от двата квантила, хипотезата за независимост на

разглежданите 10 променливи отново не противоречи на опитните данни. 9. Генериране на валидна корелационна матрица, определен процент от елементите на която са нули, а останалите са ограничени в избран от потребителя интервал Създава се файл с име SigmaR.m със следното съдържание function [S,R]=SigmaR(n,p,c) R=zeros(n,n); S=zeros(n,n); h0=1; R(1,1)=1; S(1,1)=1+4*rand(1,1); for i=2:n R(i,i)=1; S(i,i)=1+4*rand(1,1); if rand(1,1)>p R(1,i)=(2*rand(1,1)-1)*c; R(i,1)=R(1,i); S(1,i)=R(1,i)*sqrt(S(1,1)*S(i,i)); S(i,1)=S(1,i); end end for i=2:n-1 h1=det(R([1:i],[1:i])); for j=i+1:n f=det(R([1:i],[1:i-1,j])); g=det(R([1:i-1,j],[1:i-1,j])); a=sqrt(h1*g); if (abs(f)>a)|(rand(1,1)>p) l=(-f-a)/h0; r=(-f+a)/h0; l1=max(l,-c); r1=min(r,c); if l1<=r1 R(i,j)=(r1-l1)*rand(1,1)+l1; else i,j

174

t=1.4*rand(1,1)-0.7; R(i,j)=(-f+t*a)/h0; end R(j,i)=R(i,j); S(i,j)=R(i,j)*sqrt(S(i,i)*S(j,j)); S(j,i)=S(i,j); end end h0=h1; end От командния ред на MATLAB се изпълнява командата

[S,R]=SigmaR(n,p,c)

където задава размера на корелационната матрица, задава вероятността

произволен извъндиагонален елемент да бъде взет равен на нула и е ограничение за абсолютната стойност на корелационните коефициенти в матрицата. В резултат се получава корелационна матрица с исканите свойства, която се съдържа в променливата и съответна на нея ковариационна матрица, в променливата S.

n p

c

R

175

Литература [1] Ф. Р. Гантмахер, Теория матриц, Физматлит, 2004.

[2] М.Л. Жмудяк, А.Н. Повалихин, А.В. Стребуков, А.В. Гайнер, А.Л. Жмудяк, Г.Г. Устинов, Диагностика заболеваний методами теории вероятностей. Издательство АлтГТУ, Барнаул, 2006.

[3] S. Adhikari, Generalized Wishart distribution for probabilistic structural dynamics. Computational Mechanics, Volume 45, Number 5 April, 2010.

[4] S. N. Afriat, Linear Dependence: Theory and Computation. Kluwer Academic/ Plenum Publishers, New York, 2000.

[5] T. W. Anderson, An Introduction to Multivariate Statistical Analysis. John Wiley & Sons, N. Y., 3ed., 2003.

[6] S. A. Andersson, T. Klein, On Riesz and Wishart distributions associated with decomposable undirected graphs. Journal of Multivariate Analysis, Volume 101, Issue 4, April 2010, 789-810.

[7] S. A. Andersson, G. Wojnar, The Wishart distribution on homogeneous cones. J. Theoret. Probab. 17, (2004), 781-818.

[8] J. Barnard, R. McCulloch, X. Meng, Modeling covariance matrices in terms of standard deviations and correlations, with applications to shrinkage. Statistica Sinica, 10, (2000), 1281–1312.

[9] W. Barrett, C. R. Johnson, P. Tarazaga, The real positive definite completion problem for a simple cycle. Linear Algebra Appl. 192 (1993), 3–31.

[10] W.W. Barrett, C.R. Johnson, R. Loewy, Critical Graphs for the Positive Definite Completion Problem. SIAM Journal of Matrix Analysis and Applications, 20 (1998), 117–130.

[11] G.H. Bauer, K. Vorkink, Forecasting multivariate realized stock market volatility. Journal of Econometrics, Elsevier, vol. 160(1) (2011), 93-101.

176

[12] Bayes T., An essay towards solving a problem in the doctrine of chance, Phil. Trans. Roy. Soc, London, 53 (1763), 370-418, [Reprinted in : Studies in the history of Statistics and Probabilities, London : Griffin].

[13] P. Bertail, P. Doukhan, P. Soulier (eds.), Dependence in Probability and Statistics. Springer Science+Business Media, LLC, New York, 2006.

[14] J. Bessis, Risk Management in Banking. 3rd ed., John Wiley and Sons, Ltd, 2010.

[15] R. Bhatia, Positive Definite Matrices, Princeton University Press, Princeton, 2007.

[16] O. Bodnar, T. Bodnar, A. Gupta, Estimation and inference for dependence in multivariate data. Journal of Multivariate Analysis, 101 (2010), 869-881.

[17] T. Bodnar, Y. Okhrin, Properties of the singular, inverse and generalized inverse partitioned Wishart distributions. Journal of Multivariate Analysis, v.99 n.10, November 2008, 2389-2405.

[18] C. Borgelt, M. Steinbrecher, R. Kruse, Graphical models: representations for learning, reasoning and data mining. 2nd ed., John Wiley and Sons, Ltd., 2009.

[19] I. Boutouria, Characterization of the Wishart distribution on homogeneous cones in the Bobecka and Wesolowski way. Communications in Statistics. Theory and Methods, 38 (2009), 2552-2566.

[20] G.E.P. Box, G.M. Jenkins, G. Reinsel, Time Series Analysis-Forecasting and Control. Revised Third Edition, Prentice Hall, NJ, 1994.

[21] M. Budden, P. Hadavas, L. Hoffman, C. Pretz, Generating Valid 4 x 4 Correlation Matrices. Applied Mathematics E-Notes, 7 (2007), 53-59.

[22] M. W. L. Cheung and W. Chan, Testing dependent correlation coefficients via structural equation modeling. Organizational Research Methods, 7 (2004), 206-223.

[23] R. Chiriac, V. Voev, Modelling and forecasting multivariate realized volatility. Journal of Applied Econometrics, Volume 26, Issue 6 (2011), 922–947.

177

[24] P. Christoffersen, Elements of Financial Risk Management. 2nd ed., Academic Press, Elsevier, 2012.

[25] C. Coelho, F.Marques, Near-exact distributions for the independence and sphericity likelihood ratio test statistics. Journal of Multivariate Analysis, Elsevier, vol. 101 (3) (2010), 583-593.

[26] J. Cohen, P. Cohen, S. G. West, L. S. Aiken, Applied Multiple Regression/Correlation Analysis for the Behavioral Sciences. 3rd ed, Lawrence Erlbaum Associates, Inc., 2003.

[27] N.A.C. Cressie, Statistics for Spatial Data. Revised Edition, Wiley, New York, 2003.

[28] M.J. Daniels, J.W. Hogan, Missing data in Longitudinal Studies: Strategies for Bayesian Modeling and Sensitivity Analysis. Chapman & Hall /CRC, 2008.

[29] A. DasGupta, Asymptotic Theory of Statistics and Probability. Springer Science + Business Media, LLC, New York, 2008.

[30] A. P. David, Conditional independence in statistical theory (with discussion). J. Roy. Stat. Soc., Ser. B, 41 (1) 1979, 1–31.

[31] A. P. Dempster, Covariance selection. Biometrics, 28 (1972), 157 – 175.

[32] M. Denuit, J. Dhaene, M. Goovaerts, R. Kaas, Actuarial Theory for Dependent Risks: Measures, Orders and Models. John Wiley & Sons Ltd, 2005.

[33] L. Devroye, Non-Uniform Random Variate Generation. Springer-Verlag, New York, 1986.

[34] J. A. Diaz-Garcia, R. G. Jaimez, Wishart and Pseudo-Wishart distributions under elliptical laws and related distributions in the shape theory context. Journal of Statistical Planning and Inference, Volume 136, Issue 12, December 2006, 4176-4193.

[35] P. Diggle, K.Y. Liang, S.L. Zeger, P.J. Heagerty, Analysis of Longitudinal Data. 2ed, Oxford, Clarendon Press, 2002.

178

[36] A. Dobra, C. Hans, B. Jones, J.R. Nevins, G. Yao, M. West, Sparse graphical models for exploring gene expression data. Journal of Multivariate Analysis, 90 (1) (2004), 196–212.

[37] R. Engle, Anticipating Correlations: A New Paradigm for Risk Management. Princeton University Press, 2009.

[38] M. Evans, N. Hastings, B. Peacock, Statistical Distributions. John Wiley & Sons, Inc., N.Y., 3ed., 2000.

[39] F. J. Fabozzi, H. M. Markowitz, (eds.), Equity Valuation and Portfolio Management. John Wiley & Sons, Inc., Hoboken, New Jersey, 2011.

[40] J. Fan, G. Li, Contemporary Multivariate Analysis and Design of experiments. World Scientific Publishing Co. Pte. Ltd., 2005.

[41] J.M. Fernandez-Ponce, R. Rodriguez-Grinolo, Preserving multivariate dispersion: An application to the Wishart distribution. Journal of Multivariate Analysis, Volume 97, Issue 5, May 2006, 1208-1220.

[42] R.A. Fisher, The frequency distribution of the correlation coefficient in samples from an indefinitely large population. Biometrika, 10 (1915), 507 – 521.

[43] R.A. Fisher, The simultaneous distribution of correlation coefficients. Sankhya, 24 (1952), 1 – 8.

[44] B. Flury, A first course in multivariate statistics. Springer-Verlag, New York, Inc., 2010.

[45] F. Galton, Regression towards mediocrity in hereditary stature. J. Anthropol. Inst., 15 (1885), 246-260.

[46] J. E. Gentle, Matrix Algebra. Theory, Computations, and Applications in Statistics. Springer Science+Business Media, LLC, New York, 2007.

[47] N. C. Giri, Multivariate Statistical Analysis. Marcel Dekker Inc., New York, 2ed., 2004.

[48] V. Golosnoy, B. Gribisch, R. Liesenfeld, The conditional autoregressive Wishart model for multivariate stock market volatility. Journal of Econometrics, Volume 167, Issue 1, March 2012, 211–223.

179

[49] C. Gourieroux, R. Sufana, Pricing with Wishart Risk Factors. Handbooks in Operations Research and Management Science, Volume 15, 2007, 163-182.

[50] C. Gourieroux, J. Jasiak, R. Sufana, The Wishart Autoregressive process of multivariate stochastic volatility. Journal of Econometrics, Volume 150, Issue 2, June 2009, 167-181.

[51] P. Graczyk, G. Letac, H. Massam, The complex Wishart distribution and the symmetric group. Ann. Statist., 31 (2003), 287-309.

[52] I. S. Gradshteyn, I. M. Ryzhik, Table of Integrals, Series, and Products. 7th ed., A. Jeffrey and D. Zwillinger, Eds., Elsevier, 2007.

[53] A. K. Gupta, D.K. Nagar, Matrix Variate Distributions. Chapman & Hall /CRC, 2000.

[54] W. Hardle, Z. Hlavka, Multivariate Statistics. Springer Science + Business Media, LLC, 2007.

[55] W. Hardle, L. Simar, Applied Multivariate Statistical Analysis. Springer - Verlag, Berlin, 2007.

[56] R. Harris, A primer of multivariate statistics. Lawrence Erlbaum Associates, Inc., 2001.

[57] T., Hastie, R. Tibshirani, J. Frieman, The Elements of Statistical Learning: Data Mining, Inference, and Prediction. 2ed, Springer, New York, 2009.

[58] J. Heckman, B. Honore, The empirical content of the Roy Model. EconoMetrica, 58 (1990), 1121-1149.

[59] J. Heckman, J. Tobias, E. Vytlacil, Simple Estimators for Treatment Parameters in a Latent Variable Framework. Review of Economics and Statistics 85, 3 (2003), 748-755.

[60] M. Hirschberger, Yue Qi, R. E. Steuer, Randomly generating portfolio-selection covariance matrices with specified distributional characteristics. European Journal of Operational Research, Volume 177, Issue 3, March 2007, 1610-1625.

[61] T.G. Ignatov, A.D. Nikolova, About Wishart’s Distribution. Annuaire de l’Univerite de Sofia “St.Kliment Ohridski”, Faculte des Sciences Economiques et de Gestion, 3, (2004), 79 – 94.

180

[62] A. Izenman, Modern Multivariate Statistical Techniques. Springer Science + Business Media, LLC, 2008.

[63] X. Jin, J. M. Maheu, Modelling Realized Covariances and Returns. WP 11-08, The Rimini Center for Economic Analysis, 2010.

[64] H. Joe, Multivariate models and dependence concepts. Chapman & Hall/CRC, 1997.

[65] C. L. Jones, The Intelligent Portfolio: Practical Wisdom on Personal Investing from Financial Engines. John Wiley & Sons, Inc., Hoboken, New Jersey, 2008.

[66] C. Kahl, M. Günther, Complete the Correlation matrix. in Breitner, M.; Denk, G.; Rentrop, P. (eds.): From Nano to Space. Springer, Berlin 2008, 229-244.

[67] S. Karlin, Total Positivity. Volume 1. Stanford University Press, Stanford, CA, 1968.

[68] J. E. Kolassa, Series Approximation Methods in Statistics. 3rd ed., Springer Science+ Business Media, Inc., New York, 2006.

[69] D. Koller, N. Friedman, Probabilistic graphical models: principles and techniques. MIT Press, Massachusetts, 2009.

[70] T. Kollo, D. von Rosen, Advanced Multivariate Statistics with Matrices. Springer, Dordrecht, 2005.

[71] G. Koop, D. J. Poirier, Learning About the Across-Regime Correlation in Switching Regression Models. J. Econometrics, 78 (1997), 217-227.

[72] S. Kubler, R. McDonald, J. Nivre, Dependency Parsing. Morgan & Claypool, 2009.

[73] T. Kubokawa, M. S. Srivastava, Estimation of the precision matrix of a singular Wishart distribution and its application in high-dimensional data. Journal of Multivariate Analysis, Volume 99, Issue 9, October 2008, 1906-1928.

[74] D. Kurowicka, R.M. Cooke, A parametrization of positive definite matrices in terms of partial correlation vines. Linear Algebra and its Applications, Volume 372, Issue 1, October 2003, 225 – 251.

181

[75] D. Kurowicka, R.M. Cooke, Completion problem with partial correlation vines. Linear Algebra and its Applications, Volume 418, Issue 1, October 2006, 188 – 200.

[76] D. Kurowicka, R. Cooke, Uncertainty Analysis with High Dimensional Dependence Modelling. John Wiley & Sons Ltd, 2006.

[77] C. D. Lai, M. Xie, Stochastic Ageing and Dependence for Reliability. Springer Science+Business Media, Inc., 2006.

[78] P.S. Laplace, Theorie Analytiques des Probabilites. Paris: Courcier, 1812.

[79] M. Laurent, Matrix Completion Problems. The Encyclopedia of Optimization, 3 (2001), 221–229.

[80] S. Lauritzen, Graphical Models. Clarendon Press, Oxford, 1996.

[81] C. F. Lee, A. C. Lee, J. Lee (eds.), Handbook of Quantitative Finance and Risk Management. Springer Science+Business Media, LLC, New York, 2010.

[82] G. Letac, H. Massam, Representations of the Wishart distributions. Contemp. Math., 261 (2000), 121-142.

[83] G. Letac, H. Massam, All Invariant Moments of the Wishart Distribution. Scandinavian Journal of Statistics, Vol 31: 295–318, 2004.

[84] G. Letac, H. Massam, Wishart distributions for decomposable graphs. Ann. Statist. 35 (2007), 1278-1323.

[85] P. Limbourg, Dependability Modelling under Uncertainty. Springer-Verlag Berlin Heidelberg, 2008.

[86] R.J.A. Little, D.B. Rubin, Statistical Analysis with Missing Data, 2nd edition, New York: John Wiley, 2002.

[87] Y. Malevergne, D. Sornette, Extreme Financial Risks: From Dependence to Risk Management. Springer-Verlag Berlin Heidelberg, 2006.

[88] D. D. Mari, S. Kotz, Correlation and dependence. Imperial College Press, London, 2004.

[89] H.M. Markowitz, Portfolio Selection. The Journal of Finance, 7 (1) (1952), 77–91.

182

[90] H.M. Markowitz, Portfolio Selection: Efficient Diversification of Investments. New York: John Wiley & Sons, 1959, reprinted by Yale University Press, 1970, 2nd ed. Basil Blackwell, 1991.

[91] F. Marques, C. Coelho, B. Arnold, A general near-exact distribution theory for the most common likelihood ratio test statistics used in Multivariate Analysis. TEST, 20 (2011),180-203.

[92] J. Masaro, Chi Song Wong, Wishart distributions associated with matrix quadratic forms. Journal of Multivariate Analysis, Volume 85, Issue 1, April 2003, 1-9.

[93] J. Masaro, Chi Song Wong, Wishart–Laplace distributions associated with matrix quadratic forms. Journal of Multivariate Analysis, Volume 101, Issue 5, May 2010, 1168-1178.

[94] A.M. Masoom, D.A.S. Fraser and Y. S. Lee, Distribution of correlation matrix. J. Statist. Res., 4(1), 1970, 1-15.

[95] H. Massam, J. Wesolowski, The Matsumoto-Yor property and the structure of the Wishart distribution. Journal of Multivariate Analysis, Volume 97 , Issue 1 (January 2006), 103 - 123.

[96] A. Mathai, H.Haubold, Special Functions for Applied Scientists. New York: Springer Science + Business Media, LLC, 2008.

[97] P. McCullagh, Marginal likelihood for distance matrices. Statistica Sinica 19 (2009), 631-649.

[98] R. P. McDonald, Factor Analysis and Related Methods. Hillsdale, NJ: Erlbaum, 1985.

[99] A. Meucci, Risk and Asset Allocation. Springer Science + Business Media, LLC, New York, 2009.

[100] G. Meyer, S. Bonnabel, R. Sepulchre, Regression on Fixed-Rank Positive Semidefinite Matrices: A Riemannian Approach. Journal of Machine Learning Research 12 (2011), 593-625.

[101] J. A. Miccolis, D. Perrucci, Asset Allocation for Dummies. John Wiley & Sons, 2009.

183

[102] B. Mirkin, Core Concepts in Data Analysis: Summarization, Correlation and Visualization. Springer-Verlag, London, Ltd., 2011.

[103] S.K. Mishra, Completing correlation matrices of arbitrary order by differential evolution method of global optimization: A Fortran program. GITAM Journal of Management, 6(3) (2008), 71-77.

[104] R. J. Muirhead, Aspects of Multivariate Statistical Theory. John Wiley & Sons, N. Y., 2ed., 2005.

[105] K. Pearson, Mathematical contributions to the theory of evolution, III: Regression, heredity and panmixia. Philos. Trans. Roy. Soc. London (A) 187 (1896), 253–318. Reprinted in Karl Pearson’s Early Statistical Papers, Cambridge Univ. Press, 1956, 113–178.

[106] T. Pham-Gia, N. Turkkan, Testing a covariance matrix: exact null distribution of its likelihood criterion. J. Stat. Comput. Simul., 79 (11) 2009, 1331 – 1340.

[107] T. Pham-Gia, N. Turkkan, Testing sphericity using small samples. Statistics, 44 (6) 2010, 601-616.

[108] A. Philipov, M. E. Glickman, Multivariate Stochastic Volatility via Wishart Processes. Journal of Business & Economic Statistics, American Statistical Association, vol. 24 (2006), 313-328.

[109] D. J. Poirier, J. L. Tobias, On the Predictive Distribution of Outcome Gains in the Presence of an Unidentified Parameter. J. Bus. Econom. Statist. 21 (2003), 258-268.

[110] M. Pourahmadi, Covariance Estimation: The GLM and Regularization Perspectives. Statist. Sci., Volume 26, Number 3 (2011), 369-387.

[111] R. Rebonato, Volatility and Correlation: The Perfect Hedger and the Fox. 2nd ed., John Wiley & Sons Ltd, 2004.

[112] G. Rempala, J. Wesolowski, Asymptotics for products of independent sums with an application to Wishart determinants. Statistics & Probability Letters, Volume 74, Issue 2, 1 September 2005, 129-138.

[113] A. Rencher, Methods of Multivariate Analysis. John Wiley & Sons, Inc., New York, 2 ed, 2002.

184

[114] A. J. Rothman, E. Levina, J. Zhu, Generalized Thresholding of Large Covariance Matrices. Journal of the American Statistical Association, 104 (485) 2009, 177-186.

[115] S. Sareen, Reference Bayesian Inference in nonregular models. J. Econometrics 113, 2 (2003), 265-288.

[116] S.R. Searle, G. Casella and C.E. McCulloch, Variance Components. John Wiley & Sons, Inc., New Jersey, 2 ed, 2006.

[117] G. A. F. Seber, Multivariate observations. Hobocken, NJ: Wiley-Interscience, 2004.

[118] B. Shipley, Cause and Correlation in Biology. Cambridge University Press, 2004.

[119] C. G. Small, Expansions and Asymptotics for Statistics. Chapman & Hall/ CRC, 2010.

[120] L. Snopek, The Complete Guide to Portfolio Construction and Management. John Wiley & Sons, Chichester, 2012.

[121] A.G.M. Steerneman, F. P. Kleij, The rank of a normally distributed matrix and positive definiteness of a noncentral Wishart distributed matrix. Statistics & Probability Letters, 78 (3) (2008), 249-253.

[122] J. Stevens, Applied Multivariate Statistics for the Social sciences. 4 ed, Lawrence Erlbaum Associates, Inc., 2002.

[123] N. Timm, Applied Multivariate Analysis. Springer - Verlag New York Inc., 2002.

[124] J. L. Tobias, D. J. Poirier, On the Predictive Distributions of Outcome Gains in the Presence of an Unidentified Parameter. J. Bus. Econom. Statist. 21, 2 (2003), 258-268.

[125] J. L. Tobias, Estimation, Learning and Parameters of Interest in a Multiple Outcome Selection Model. Econometric Rev. 25, 1 (2006), 1-40.

[126] K. Triantafyllopoulos, Multivariate stochastic volatility modelling using Wishart autoregressive processes. J. Time Ser. Anal., 33 (2012), 48–60.

185

[127] V. Vapnik, Estimation of Dependences Based on Empirical Data. Springer Science+ Business Media, Inc., New York, 2006.

[128] E. Veleva, Joint densities of correlation coefficients for samples from multivariate standard normal distribution. Pliska Stud. Math. Bulgar., 18 (2007), 379-386.

[129] E. Veleva, A Representation of the Wishart Distribution by Functions of Independent Random Variables. Annuaire de l’Univerite de Sofia “St.Kliment Ohridski”, Faculte des Sciences Economiques et de Gestion, 6 (2007), 59 – 68.

[130] E. Veleva, Some New Properties of Wishart Distribution. Applied Mathematical Sciences, Vol. 2, 2008, no. 54, 2673 - 2682.

[131] E. Veleva, Test for independence of the variables with missing elements in the same column of the empirical correlation matrix. Serdica Math. J., 34 (2008), 509 – 530.

[132] E. Veleva, The Exact Distribution Of The Ump Test For Diagonality Of Covariance Matrices With Missing Elements. Journal of the Technical University at Plovdiv “Fundamental Sciences and Applications”, Vol. 14 (2009), 449-454.

[133] Е. Veleva, A near-exact distribution and exact percentage points for testing independence with missing elements in the sample correlation matrix. Proc. of Annual Conf. Rousse Univ., Rousse, Bulgaria, 2011, 19-23.

[134] E. Veleva, Some marginal densities of the Wishart distribution. Math. and Education in Math., 41 (2012), 273-278.

[135] W. P. M. Vijverberg, Measuring the Unidentied Parameter of the Extended Roy Model of Selectivity. J. Econometrics 57 (1993), 69-89.

[136] R. Vince, The handbook of portfolio mathematics. John Wiley and Sons, Inc., Hoboken, New Jersey, 2007.

[137] A. Wilson, Z. Ghahramani, Generalised Wishart Processes. Proc. of the 21th Annual Conference on Uncertainty in Artificial Intelligence (UAI-11), Corvallis, Oregon, 2011, 736—744.

186

[138] J. Wishart, The generalized product moment distribution in samples from a normal multivariate population. Biometrika, 20 (1928), 32–52.

[139] F. Zhang (eds.), The Schur Complement and Its Applications. Springer Science + Business Media Inc., New York, 2005.

[140] H. Zhu, Y. Chen, J. G. Ibrahim, Yimei Li, C. Hall, Weili Lin, Intrinsic Regression Models for Positive-Definite Matrices With Applications to Diffusion Tensor Imaging. Journal of the American Statistical Association, Volume 104, Issue 487, September 2009, 1203-1212.

[141] D. L. Zimmerman, V. A. Nunez-Anton, Antedependence Models for Longitudinal Data. Chapman & Hall/CRC, 2010.

187