Mathematical Statistics / 6장 확률변수 함수...

17
Mathematical Statistics / 6. 확률변수 함수 76 Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall 확률변수( X , random variable)정의하고, 확률변수가 가지는 값에 대응하는 확률을 의한 표나 식인 확률밀도함수( ) ( x f , probability density function)구했다. 일정 구간의 률을 적분한 (확률)분포함수( ) ( x F , distribution function)정의하였다. 연속형인 경우 분포 함수와 확률밀도함수 간에는 ) ( ) ( x f x F = 성립한다. 확률변수가 이상인 경우 결합 확률밀도함수(joint density function, ) ,..., , ( 2 1 n x x x f ), 주변확률밀도함수( ) ( k k x f , marginal density function), 조건부 확률밀도함수( ) | ( m k x x f ) 등을 정의하였다. 또한 확률변수의 대값을 정의하여 평균과 분산을 구하였다. 통계학(Statistics)모집단의 확률밀도함수 ) ; ( θ x f 대한 추론(inferences)하거나 수들 간의 관계 ) ,..., 2 , 1 ( Xp X X f Y = 알아내는 도구이다. 통계량을 이용하여 모수에 대한 검정을 위해서는 통계량의 확률밀도함수를 알아야 한다. 통계량은 확률표본의 함수로 이루어져 있으므로 확률변수의 함수에 대한 확률밀도함수를 구하는 방법에 대해 여기서 다루기로 한다. 통계량의 분포를 표본 분포(sampling distribution)이라 한다. 사실 우리는 이미 MGF유일성(uniqueness)의해 X , i X 확률밀도함수를 구하는 방법을 배웠다. 여기서는 자세히 다룰 것이다. 모집단의 평균 μ θ = 대한 가설 검정을 위하여 사용되는 (검정)통계량은 n s X T / 0 μ = 이다. 이를 위하여 우리는 X 분포를 알아야 한다. 확률변수 n X X X ,..., , 2 1 함수 ) ,..., , ( 2 1 n X X X g Y = 확률밀도함수를 구하는 방법은 3가지 방법으로 요약된다. ○분포함수 ) ( x F 이용하기: 우선 ) ) ,..., , ( ( ) ( ) ( 2 1 y X X X g P y Y P y F n = = 구하고 이를 y 대해 미분하여 ) ( y f 얻는다. ○변환(Transformation): | | ) ( ) ( dy dx x f y f X Y = where ) ( X g Y = , ) ( 1 Y g X = MGF 이용하기: MGF유일성(동일 MGF이면 동일한 pdf 갖는다)이용한다. Chapter 6 확률변수 함수 확률표본 random sample 1 2 ( , ,..., ) (; ) ~ n iid x x x fx θ 표본으로부터 계산한 통계량(statistic)이용하 모수 θ 대한 추정, 검정을 하게 된다. ~ (; ) X fx θ 모집단

Transcript of Mathematical Statistics / 6장 확률변수 함수...

Page 1: Mathematical Statistics / 6장 확률변수 함수 76wolfpack.hannam.ac.kr/Stat_Notes/elem_stat/math_stat/ch6...6.2 변수 변환 방법 (The method of Transformation) 확률변수

Mathematical Statistics / 6장. 확률변수 함수 ▼ 76

Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall

확률변수( X , random variable)를 정의하고, 확률변수가 가지는 값에 대응하는 확률을 정의한 표나 식인 확률밀도함수( )(xf , probability density function)를 구했다. 일정 구간의 확

률을 적분한 (확률)분포함수( )(xF , distribution function)도 정의하였다. 연속형인 경우 분포

함수와 확률밀도함수 간에는 )()( xfxF =′ 성립한다. 확률변수가 두 개 이상인 경우 결합

확률밀도함수(joint density function, ),...,,( 21 nxxxf ), 주변확률밀도함수( )( kk xf , marginal

density function), 조건부 확률밀도함수( )|( mk xxf ) 등을 정의하였다. 또한 확률변수의 기

대값을 정의하여 평균과 분산을 구하였다.

통계학(Statistics)은 모집단의 확률밀도함수 );( θxf 에 대한 추론(inferences)을 하거나 변

수들 간의 관계 ),...,2,1( XpXXfY = 을 알아내는 도구이다.

통계량을 이용하여 모수에 대한 검정을 위해서는 통계량의 확률밀도함수를 알아야 한다.

통계량은 확률표본의 함수로 이루어져 있으므로 확률변수의 함수에 대한 확률밀도함수를

구하는 방법에 대해 여기서 다루기로 한다. 통계량의 분포를 표본 분포(sampling

distribution)이라 한다. 사실 우리는 이미 MGF의 유일성(uniqueness)에 의해 X , ∑ iX 의

확률밀도함수를 구하는 방법을 배웠다. 여기서는 자세히 다룰 것이다.

모집단의 평균 μθ = 에 대한 가설 검정을 위하여 사용되는 (검정)통계량은 ns

XT

/0μ−=

이다. 이를 위하여 우리는 X 의 분포를 알아야 한다.

확률변수 nXXX ,...,, 21 의 함수 ),...,,( 21 nXXXgY = 의 확률밀도함수를 구하는 방법은 다

음 3가지 방법으로 요약된다.

○분포함수 )(xF 이용하기: 우선 )),...,,(()()( 21 yXXXgPyYPyF n ≤=≤= 을 구하고 이를

y에 대해 미분하여 )(yf 얻는다.

○변환(Transformation): ||)()(dydxxfyf XY = where )(XgY = , )(1 YgX −=

○MGF 이용하기: MGF의 유일성(동일 MGF이면 동일한 pdf 갖는다)을 이용한다.

Chapter 6 확률변수 함수

확률표본 random sample 1 2( , ,..., ) ( ; )~n

iidx x x f x θ

표본으로부터 계산한 통계량(statistic)을 이용하

여 모수 θ 에 대한 추정, 검정을 하게 된다.

~ ( ; )X f x θ

모집단

Page 2: Mathematical Statistics / 6장 확률변수 함수 76wolfpack.hannam.ac.kr/Stat_Notes/elem_stat/math_stat/ch6...6.2 변수 변환 방법 (The method of Transformation) 확률변수

Mathematical Statistics / 6장. 확률변수 함수 ▼ 77

Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall

6.1 분포함수 이용하기 (The method of Distribution Functions)

nXXX ,...,, 21 의 함수 ),...,,( 21 nXXXhY = 라 하자.

① ),...,,( 21 nXXXhY = 의 영역(확률변수 y가 가질 수 있는 영역)을 구한다.

②적분에 의해 )),...,,(()()( 21 yXXXhPyYPyF n ≤=≤= 을 구한다.

③ )(yF 을 y에 대해 미분하여 y의 확률밀도함수 )(yf 구한다.

EXAMPLE 6.1

( ) 2 ,0 1f x x x= ≤ ≤ 일 경우 13 −= XY 의 확률밀도함수를 구하고 )(YE 구하시오.

①Y 의 영역(range)은 [ 1, 2]− .

② 21,)3

1()( 2 ≤≤−+

= yyyF

③Therefore, 21),1(92)()( ≤≤−+=′= yyyFyf

EXAMPLE 6.2

1 2 1 2 1( , ) 3 ,0 1f x x x x x= ≤ ≤ ≤ 일 경우 1 2( )U X X= − 의 확률밀도함수를 구하시오.

①U 의 범위는 0 1u≤ ≤ .

② 31( ) (3 ),0 12

F u u u u= − ≤ ≤

③Therefore 23( ) ( ) (1 ),0 12

f u F u u u′= = − ≤ ≤

0 u 1

2 1X X u= −

Page 3: Mathematical Statistics / 6장 확률변수 함수 76wolfpack.hannam.ac.kr/Stat_Notes/elem_stat/math_stat/ch6...6.2 변수 변환 방법 (The method of Transformation) 확률변수

Mathematical Statistics / 6장. 확률변수 함수 ▼ 78

Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall

EXAMPLE 6.3

확률변수 1X 과 2X 은 )1,0(U 으로부터 확률표본이다. 1 2X X+ 의 확률밀도함수를 구하시오.

1X , 2X 의 결합확률밀도함수는 1,0,1),( 2121 ≤≤= xxxxf 이다.

①U 의 범위는 0 2u≤ ≤ .

②2

2

/ 2,0 1( )

/ 2 2 1,1 2

u uF u

u u u

⎛ ≤ ≤⎜=⎜− + − < ≤⎝

③ ,0 1

( )2 ,1 2u u

f uu u≤ ≤⎛

= ⎜ − < ≤⎝

EXAMPLE 6.4

1( ) , 1 12

xf x x+= − ≤ ≤ 일 경우 2U X= 의 확률밀도함수를 구하시오.

①U 의 범위는 0 1u≤ ≤ 이다.

② 2( ) ( ) ( ) ( ) ( ) ( )X XF u P U u P X u P u X u F u F u= ≤ = ≤ = − ≤ ≤ = − − .

③1( ) ,0 1

2f u

uμ= < ≤ .

[TIP] 식 ②을 u에 대해 미분하면 다음과 같다. )]()([2

1)( ufufu

uf YY −+=

1 2X X u+ =

Page 4: Mathematical Statistics / 6장 확률변수 함수 76wolfpack.hannam.ac.kr/Stat_Notes/elem_stat/math_stat/ch6...6.2 변수 변환 방법 (The method of Transformation) 확률변수

Mathematical Statistics / 6장. 확률변수 함수 ▼ 79

Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall

EXAMPLE 6.5

확률변수 X 는 )1,0(Uniform 을 갖는다. X 의 함수 )(xg 가 평균 β 인 지수분포를 따른다고

할 때 )(xg 을 구하시오.

확률변수 X 의 분포함수는 ( ) ,0 1XF x x x= ≤ ≤ 이다.

)())(())(()()( 11 xgugXPuxgPuUPuF −− =≤=≤=≤=

)exp(~ θU 가 지수분포일 경우 / /

0( ) 1 ,0

u t uUF u e dt e uβ β− −= = − ≤∫ 이다.

그러므로 /1 ue xβ−− = 이다. 즉 )1ln()( xxgU −−== β 이다. 이것을 이용하여 지수분포를

생성한다.

HOMEWORK #16-1

Let ( ) 2(1 ),0 1f x x x= − ≤ ≤ . Find the pdf of 2U X= by the method of distribution function.

HOMEWORK #16-2

Let )1,0(~ NormalX . Show that the pdf of 2X is )1(2χ by the method of dist. function.

▣표준 정규분포의 제곱은 자유도 1인 Chi-square 분포를 따른다.

▣ 표준 정규분포의 제곱의 합은 자유도 n인 카이제곱 분포를 따른다.

HOMEWORK #16-3 DUE 5월 26일

Let ∞≤≤≤= −1221 0,),( 1 xxexxf x . Find the pdf of 21 XXU −= and the expected value of U .

Page 5: Mathematical Statistics / 6장 확률변수 함수 76wolfpack.hannam.ac.kr/Stat_Notes/elem_stat/math_stat/ch6...6.2 변수 변환 방법 (The method of Transformation) 확률변수

Mathematical Statistics / 6장. 확률변수 함수 ▼ 80

Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall

6.2 변수 변환 방법 (The method of Transformation)

확률변수 X의 함수 ( )U h x= 가 비감소(non-decreasing) 혹은 비증가(non-increasing) 함수인

경우 변수 변환 방법에 의해 확률변수 함수의 분포를 구할 수 있다.

① ( )U h x= 가 비감소(non-decreasing) 함수인지 비증가(non-increasing) 함수인지 확인한

다. 그렇다면 ( )U h x= 의 범위를 구한다.

② 1( )x h u−= 을 구하고 /dx du (u에 대해 미분)을 얻는다.

③U 의 확률밀도함수는 ( ) ( ) | |U Xdxf u f xdu

= 이다.

비감소(Non-decreasing) 함수

1 1( ) ( ) ( ( ) ) ( ( )) ( ( ))U XF u P U u P h x u P x h u F h u− −= ≤ = ≤ = ≤ =

Let 1( )x h u−= . Then, ( ) ( ) ( )U X Xdxf u F x f xdu

′= =

비증가(Non-increasing) 함수

1 1( ) ( ) ( ( ) ) 1 ( ( )) 1 ( ( ))U XF u P U u P h x u P x h u F h u− −= ≤ = ≥ = − ≤ = −

Let 1( )x h u−= . Then, ( ) ( ) ( )U X Xdxf u F x f xdu

′= − = −

EXAMPLE 6.6

( ) 2 ,0 1f x x x= ≤ ≤ 일 경우 3 1U X= − 의 확률밀도함수를 구하시오.

③2( ) ( 1), 1 29Uf u u u= + − ≤ ≤ 이다.

x

u

x

u

( )u h x=

( )u h x=

Page 6: Mathematical Statistics / 6장 확률변수 함수 76wolfpack.hannam.ac.kr/Stat_Notes/elem_stat/math_stat/ch6...6.2 변수 변환 방법 (The method of Transformation) 확률변수

Mathematical Statistics / 6장. 확률변수 함수 ▼ 81

Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall

EXAMPLE 6.7

Let ( ) 2 ,0 1f x x x= ≤ ≤ . Find the pdf of 4 3U X= − + .

③U 의 확률밀도함수는 3( ) , 1 38U

uf u u−= − ≤ ≤ 이다.

이변량 결합확률밀도함수를 구할 때도 변수변환 방법을 이용할 수 있다. J 을

JACOBIAN(행렬식)이라 하자.

1 1 2 2 1 2( , ), ( , )U h X X V h X X= = 1 11 1 2 2( , ), ( , )X h U V X h U V− −= =

1 2

1 21 1

, , 1 21 2

( , ) ( , ) | |,

U V X X

dx dxdu dvf u v f h h J where Jdx dxdu dv

− −= =

다변량인 경우에도 사용할 수 있으나 Jacobian(행렬식)을 구하는 것이 쉽지 않아 자주

사용하지 않는다.

EXAMPLE 6.8

1 2( )1 2 1 2( , ) ,0 ,x xf x x e x x− += < 일 경우 1 2U X X= + 의 확률밀도함수를 구하시오.

1 2U X X= + , 1V X= 라 하자. 0 v u≤ ≤ 이고 1 2,X V X U V= = − 이다.

그러므로 , ( , ) ,0uU Vf u v e v u−= ≤ ≤ 이고 U 의 주변밀도함수는 ( ) ,0u

Uf u ue u−= ≤ 이다.

Page 7: Mathematical Statistics / 6장 확률변수 함수 76wolfpack.hannam.ac.kr/Stat_Notes/elem_stat/math_stat/ch6...6.2 변수 변환 방법 (The method of Transformation) 확률변수

Mathematical Statistics / 6장. 확률변수 함수 ▼ 82

Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall

EXAMPLE 6.9

1 2 1 1 2( , ) 2(1 ),0 , 1f x x x x x= − ≤ ≤ 일 경우 1 2U X X= 의 확률밀도함수를 구하시오.

1 2U X X= , 1V X= 라 놓자. 0 1u v≤ ≤ ≤ 이고 1 2, /X V X U V= = .

,1( , ) 2(1 ) ,0U Vf u v v u vv

= − ≤ ≤

그러므로 ( ) 2( ln 1),0 1Uf u u u u= − − ≤ ≤ 이다.

EXAMPLE 6.10

1 2 1 2( , ) 1,0 , 1f x x x x= < < 일 경우 1 2U X X= + 와 1 2V X X= − 의 결합밀도함수를 구하시오.

1 2U X X= + , 1 2V X X= − .

1 2( ) ( ),

2 2U V U VX X+ −

= =

, ( , ) 1/ 2, ( , )U Vf u v u v B= ∈

,0 1( )

2 ,1 2Uu u

f uu u< ≤⎛

= ⎜ − < <⎝

1, 1 0( )

2 ,0 1Vv v

f vv v

+ − < ≤⎛= ⎜ − < <⎝

HOMEWORK #17-1

1 2,X X are a random sample of size 2 from ( ) ,0xf x e x−= < .

⑴Find the joint pdf of 1 2,X X .

⑵Suppose 1 2 1 2,U X X V X X= + = − . Then find the joint pdf of ,U V .

,1( , ) exp , ( , )2

uU Vf u v u v B−= ∈

⑶Find the marginal pdf of ,U V . The pdf of U is a Gamma distribution. The pdf of V is a

double exponential distribution.

2x

1xu

v

B

Page 8: Mathematical Statistics / 6장 확률변수 함수 76wolfpack.hannam.ac.kr/Stat_Notes/elem_stat/math_stat/ch6...6.2 변수 변환 방법 (The method of Transformation) 확률변수

Mathematical Statistics / 6장. 확률변수 함수 ▼ 83

Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall

HOMEWORK #17-2

Let ( ) 2(1 ),0 1f x x x= − ≤ ≤ .

⑴Find the pdf of 1 2U X= − by the method of transformation.

⑵ Find the pdf of 2U X= by the method of transformation.

HOMEWORK #7-6

Let 1 2( ) / 21 2 1 1 2( , ) (1/ 8) ,0 ,x xf x x x e x x− += < . Find the marginal pdf of 2 1/U X X= .

6.3 MGF 방법

MGF의 유일성을 이용한다.

① ( )U h x= 의 범위를 구한다.

② X 의 MGF을 이용하여 U 의 MGF를 구한다.

③유명한 확률분포함수 MGF와 비교하여 확률밀도함수를 구한다.

EXAMPLE 6.11

),(~ 2σμNormalX . Find the pdf of σμ−

=XZ (standardization).

① ∞<−

=<∞−σμXZ .

②정규분포 X 의 MGF는 2/22)( tt

X etM σμ += 이다.

그러므로 Z 의 확률밀도함수는 2/22

)()( ttzZ eeEtM σ== 이다.

③그러므로 )1,0(~ NormalZ

Page 9: Mathematical Statistics / 6장 확률변수 함수 76wolfpack.hannam.ac.kr/Stat_Notes/elem_stat/math_stat/ch6...6.2 변수 변환 방법 (The method of Transformation) 확률변수

Mathematical Statistics / 6장. 확률변수 함수 ▼ 84

Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall

EXAMPLE 6.11

)1,0(~ NormalZ 일 경우 2ZU = 의 확률밀도함수를 구하시오.

① ∞<<U0

② )()()(2tZtu

U eEeEtM == , 2/1)21

1()(t

tMU −=

③ )2,2/1(~ == βαGammaU , )1(2 == λχU .

THEOREM (정리)

),...,,( 21 nXXX 을 표본 크기 n 인 확률표본(random sample)이라 하자. ∑=

n

iiX

1의

MGF는 nXXXXX tMtMtMtMtM

nii)]([)()...()()(

2==∑ 이다.

THEOREM (정리)

),...,,( 21 nXXX 을 ),( 2σμN 으로부터 크기 확률표본이라 하자. ∑=

n

iii Xa

1의 분포함수는

다음과 같다. ),(1

22

1∑∑==

n

ii

n

ii aaNormal σμ .

1...21 ==== naaa 이면 합의 분포, naaa n /1...21 ==== 이면 평균의 분포이다.

EXAMPLE 6.12

일정 단위 시간에 은행 서비스 창구에 도착한 고객의 수는 λ 인 포아송(Poisson) 분포를

따른다고 하자. 이런 경우 고객이 오는 사이 시간의 분포는 λ

β 1= 인 지수분포를 따른다.

즉 사이 시간 Y 의 확률분포함수는 xexf xX <= − 0,1)( / β

β이다. 고객 n 명이 서로 독립적

으로 은행 서비스 데스크에 왔다고 하자. 각 사이 시간을 nXXX ,...,, 21 이라 할 때

∑= iXU 의 확률분포함수는 ( βα ,n= )인 감마분포(Gamma)를 따름을 보이시오.

☺지수분포(β )로부터 확률표본 합은 감마분포( βα ,n= )를 따른다.

Page 10: Mathematical Statistics / 6장 확률변수 함수 76wolfpack.hannam.ac.kr/Stat_Notes/elem_stat/math_stat/ch6...6.2 변수 변환 방법 (The method of Transformation) 확률변수

Mathematical Statistics / 6장. 확률변수 함수 ▼ 85

Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall

① ∞<∑=< iXU0 .

②ntXtu

U teEeEtM i−∑ −=== )1()()()( β

③ ),(~ βnGammaU .

HOMEWORK #17-3

Suppose nZZZ ...,,, 21 is a random sample of size n from )1,0(N . Show that the pdf of

∑ 2iZ ) is )(2 n=λχ .

☺표준정규분포를 따르는 확률표본들의 제곱 합은 자유도 n=λ 인 2χ 분포 따른다.

HOMEWORK #17-4

Suppose ),0(~, 221 σNormalXX and are independent. Show that 21 XXU += and

21 XXV −= are independent and the marginal pdf of them is )2,0( 2σNormal respectively.

HOMEWORK #17-5

Let ),2/(~ βα nGammaX = . Show )(~/2 2 nXU == λχβ .

☺감마분포와 카이제곱( 2χ ) 분포의 관계

6.4 순서통계량 (Order Statistics)

),...,,( 21 nXXX 은 확률밀도함수 )(xf 으로부터의 확률표본(random sample)이라 하자. 표본을 크기 순으로 정렬하고 )()2()1( ... nXXX ≤≤≤ 표현하자. 이를 순서 통계량이라 한다.

•최소값(Minimum value): ),...,,min( 21)1( nXXXX =

•최대값(Maximum value): ),...,,max( 21)( nn XXXX =

•범위(Range): )1()( XXR n −=

•중앙값(Median): 2/)1( +nX (n이 홀수), 2

12/2/ ++ nn XX (n이 짝수)

Page 11: Mathematical Statistics / 6장 확률변수 함수 76wolfpack.hannam.ac.kr/Stat_Notes/elem_stat/math_stat/ch6...6.2 변수 변환 방법 (The method of Transformation) 확률변수

Mathematical Statistics / 6장. 확률변수 함수 ▼ 86

Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall

EXAMPLE 6.13

크기 n인 확률표본 ),...,,( 21 nXXX 으로부터의 )(nX 과 )1(X 의 확률밀도함수를 구하시오.

우선 )(nX 의 확률밀도함수를 구해보자.

nnXnnnnnnnX xFxXxXxXPxXPxF n )]([),...,,()()( 21)()( =≤≤≤=≤=

그러므로 )()]([)()( 1)()( nX

nnXXX xfxFnxFxf nn

−=′=

같은 방법으로 nXnX xFxXxXxXPxXPxF )](1[1),...,,(1)()( 21)1()1( −−=>>>−=≤=

)()](1[)()( 11

1)1()1( xfxFnxFxf Xn

XXX−−=′=

EXAMPLE 6.14

),( 21 XX 은 )(xf 으로부터 확률표본이라 하자. )1(X 와 )(nX 의 결합밀도함수를 구하시오.

)()()()(2)()()()()()(

),(),(),(),(),(),(

)),(),((),(),(

1121

111221

11,12,21,

121121122211

211222112)2(1)1(21,

212121

)2()1(

xFxFxFxFxFxFxFxFxFxF

xxFxxFxxFxXxXPxXxXPxXxXP

xXxXxXxXPxXxXPxxF

XXXX

XXXXXX

XXXXXX

XX

−=−+=

−+=≤≤−≤≤+≤≤=

≤≤∪≤≤=≤≤=

먼저 2x 에 대해 미분하고 1x 에 대해 미분하면 결합밀도함수를 얻는다.

)2()1(2121)2(),1( ),()(2),( xxxfxfxxf ≤=

같은 방법으로 다음 관계를 얻는다.

)()2()1(2111)(),...,2(),1( ... ),()...()(!),...,,( nnnn xxxxfxfxfnxxxf ≤≤≤=

Page 12: Mathematical Statistics / 6장 확률변수 함수 76wolfpack.hannam.ac.kr/Stat_Notes/elem_stat/math_stat/ch6...6.2 변수 변환 방법 (The method of Transformation) 확률변수

Mathematical Statistics / 6장. 확률변수 함수 ▼ 87

Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall

EXAMPLE 6.15

성분 수명 확률변수 X 의 확률밀도함수는 xexf xX <= − 0,

1001)( 100/ . 시스템은 두 개의 성분

을 직렬 연결하였다. 성분은 서로 독립적으로 작동한다. 시스템 수명의 확률밀도함수를 구

하고 평균을 구하시오.

The life-time of the system is ),min( 21)1( XXX = .

Since 100/1)( xX exF −−= , )1(

50/1)1( 0,

501)( 1 xexf x <= − . 50)( )1( =XE .

HOMEWORK #18-1

성분 수명 확률변수 X 의 확률밀도함수는 xexf xX <= − 0,

1001)( 100/ . 시스템은 두 개의 성분

을 병렬 연결하였다. 성분은 서로 독립적으로 작동한다. 시스템 수명의 확률밀도함수를

구하고 평균을 구하시오.

THEOREM (정리)

크기 n인 확률표본으로부터 순서통계량 nkX k ≤≤1,)( 의 확률밀도함수는

∞<<−∞−−−

= −−)(

1)( ),()](1[)]([

)!()!1(!)( kk

knk

kkkk xxfXFXF

knknxf

PROOF xxfxxXxP kkk Δ≈Δ+≤≤ )()( )()( 을 이용하자.

] from k)-(n ,near ,1 )1[()( )()()()( kkkk xxxfromkPxxXxP ><−≈Δ+≤≤

knkk

kkk xFxfxF

n-kkn

xxXxP −− −⎟⎟⎠

⎞⎜⎜⎝

⎛−

≈Δ+≤≤ )](1)[()]([ 1 1

)( 1)( Q.E.D.

같은 방법으로 jiforXandX ji < )()( 의 결합밀도함수는

)()()](1[)]()([)]([)!()!1()!1(

!),( 11)(),( ji

knk

ijij

iijiji xfxfXFXFXFXF

knijinxxf −−−− −−

−−−−=

Page 13: Mathematical Statistics / 6장 확률변수 함수 76wolfpack.hannam.ac.kr/Stat_Notes/elem_stat/math_stat/ch6...6.2 변수 변환 방법 (The method of Transformation) 확률변수

Mathematical Statistics / 6장. 확률변수 함수 ▼ 88

Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall

EXAMPLE 2.16

),...,,( 21 nXXX 은 10,1)( ≤≤= xxf X 으로부터의 확률표본이다.

순서통계량 )2(X 의 주변밀도함수로 구하시오. 순서통계량 )4()2( and XX 의 결합밀도함수를

구하시오.

Since xxFX =)( ,

10),1(20)( )2(222)2( ≤≤−= xxxxf .

10),1)((!5),( )4()2(224242)4(),2( ≤≤≤−−= xxxxxxxxf

HOMEWORK #18-2

Suppose that ),...,,( 21 nXXX is a random sample from 10,1)( ≤≤= xxf X .

Find the pdf of )1()( XXR n −= .

HOMEWORK #18-3

Suppose that ),...,,( 21 nXXX is a random sample from xexf xX <= − 0,1)( / β

β.

①Find the pdf of )1(X . It will be )/exp( nβ .

②If 5=n and 2=β , find )6.3( )1( ≤XP .

6.5 이산형/연속형 확률밀도함수 (PDF of discrete and continuous random variables)

6.5.1 이산형

①Bernoulli Experiment(베르누이 실험)

•실험이 서로 독립이다. (결과에 영향을 미치지 않는다)

•실험의 결과는 성공과 실패(binary) 두 개만 있다.

•각 실험의 성공 확률은 p 로 일정하다.

② )(~ pBernoulliX 성공확률 p 인 베르누이(Bernoulli) 분포 (평균, 분산)=( pqp, )

③ ),(~ pnBinomialX 모수 ),( pn 인 이항(Binomial)분포 (평균, 분산)=( npqnp, )

Page 14: Mathematical Statistics / 6장 확률변수 함수 76wolfpack.hannam.ac.kr/Stat_Notes/elem_stat/math_stat/ch6...6.2 변수 변환 방법 (The method of Transformation) 확률변수

Mathematical Statistics / 6장. 확률변수 함수 ▼ 89

Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall

•베르누이 실행을 n 번 했을 때 성공의 회수 ∑= iXX

•베르누이 분포를 따르는 크기 n 인 확률표본의 합은 이항분포를 따른다.

④ )(~ pGeometricX 모수 p 인 기하(Geometric)분포 (평균, 분산)=( 2/,/1 pqp )

•베르누이 실행을 n 번 했을 때 첫번째 성공까지의 실험 회수 X

⑤ ),(~ prNBX 모수 ),( pr 인 음이항(Negative Binomial)분포 (평균, 분산)=( 2/ , /r p rq p )

•베르누이 실행을 n 번 했을 때 r 번째 성공까지의 실험 회수 X

•기하분포를 따르는 표본 크기 r 인 확률표본의 합은 음이항분포를 따른다.

⑥ ),,(~ nMNtricHypergeomeX 모수 ),,( KMN 인 초기하(Hyper-Geometric)분포

•(평균, 분산)=()1(

))((,−−−

NNnnMN

NnM

NMn )

•전체 N (2부분 MNM −, 나누어져 있음)개로부터 n 개 뽑을 때 M 부분에서 뽑힌 개수

•만약 N 이 무한대로 커지면 초기하 분포는 ),(NMpnBinomial = 분포에 근사한다.

⑦ )(~ λPoissonX 평균 λ 인 포아송(Poisson)분포, 분산=λ

•일정 단위(시간, 공간)에 발생하는 사건(event)의 수를 의미한다.

•발생한 사건이 하나 이상 들어가지 않게 단위를 나누자. 그러면 그 구간 안에는 사건

이 발생하지 않거나 단 하나 발생하게 된다. 그러면 각 구간의 베르누이 시행이 된다.

구간의 수를 n 이라 하면 사건 발생 회수는 이항분포를 따른다.

• xnx

nqp

xn −

∞→⎟⎟⎠

⎞⎜⎜⎝

⎛lim , λ=np 이라 놓고 λλ −

∞→=− e

nn

n)1(lim 사실을 이용.

EXAMPLE 6.17

)( pBernoulli 으로부터 얻은 표본 크기 n 인 확률표본의 합은 ),( pnBinomial 을 따른다.

EXAMPLE 6.18

),(~ 11 pnBinomialX (모수 ),( 1 pn 인 이항분포), ),(~ 22 pnBinomialX 이고 서로 독립인

경우 21 XX + 도 이항분포( pnn ,21 + )임을 보이시오.

EXAMPLE 6.19

)(~ pGeometricX i (모수 p 인 기하분포)인 경우 확률표본 합의 분포는 모수 ),( pn 인 음이

항(Negative binomial)분포( ),( pnNB )임을 보이시오.

Page 15: Mathematical Statistics / 6장 확률변수 함수 76wolfpack.hannam.ac.kr/Stat_Notes/elem_stat/math_stat/ch6...6.2 변수 변환 방법 (The method of Transformation) 확률변수

Mathematical Statistics / 6장. 확률변수 함수 ▼ 90

Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall

EXAMPLE 6.20

)(~ ii PoissonX λ 이면 확률표본 합 ∑ iX 이 )(∑ iPoisson λ 임을 보이시오.☺포아송 분포 가법

EXAMPLE 6.21

)(~ pGeometricX i 일 경우 )()|( bXPaXbaXP >=>+> 임을 보이시오.☺Memoryless

property

6.5.2 Relation between discrete and continuous

이항분포의 정규분포 근사

•표본의 크기가 커지면 ),(~ pnBinomialX 는 ),( npqnpNormal 에 근사한다.

포아송 분포와 지수분포의 관계

W 를 모수 λ 인 포아송 분포를 따르는 사건인 정확하게 1번 발생할 때까지 걸리는 시

간이라면

ww

eewwPoissonXXPwWPwWPwF λλλ

λ −−

−=−==−=>−=≤= 1!0

)(1))(~|0(1)(1)()(0

이다.

이를 미분하면 )/1(~)( λβλ λ == − lExponentiaewf w 이다.

6.5.3 Continuous

① ),(~ 2σμNormalX 평균 μ , 분산 2σ 인 정규(normal)분포

•일반적으로 측정 오차, 측정형 변수에 대한 모집단 확률분포함수로 가정

)( pBernoulli

),( pnBinomial

)(λPoisson

)( pGeometric

),( prNB

),,( nMNtricHypergeome

∑ iX

∑ iX

∑ iX

∑ iX

∞→=

nnpλ

∞→= NNMp ,/1

r

Page 16: Mathematical Statistics / 6장 확률변수 함수 76wolfpack.hannam.ac.kr/Stat_Notes/elem_stat/math_stat/ch6...6.2 변수 변환 방법 (The method of Transformation) 확률변수

Mathematical Statistics / 6장. 확률변수 함수 ▼ 91

Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall

• 1,0 2 == σμ 인 경우 이를 표준정규분포(standard normal)이라 한다.

② )(~ βExpX 평균 β 인 지수(exponential)분포, 분산= 2β

•평균 λ 인 포아송 분포를 따르는 사건 사이의 시간, β

λ 1=

•일반적으로 시간에 대한 분포로 사용하나 memoryless property 때문에 수명에 대해서

는 자주 사용하지 않는다.

EXAMPLE 6.22

)(~ βExpX 일 경우 )()|( bXPaXbaXP >=>+> 임을 보이시오.☺Memoryless property

③ ),(~ βαGammaX 모수 ),( scaleshape == βα 인 감마(gamma)분포

•(평균, 분산)= ),( 2αβαβ

•평균(수명) β 인 지수분포로부터의 표본 크기 n 인 확률표본 합(전체 수명)의 분포는

모수 ),( βα 감마분포를 따른다.

• )2,2/(~ == βλαGammaX 은 2 ( )χ λ 분포를 따른다.

EXAMPLE 6.23

)()(~ βExpiidX i 일 경우 ∑=

n

iiX

1의 확률분포함수를 구하시오.

④ ),(~ βαBetaX 모수 ),( βα 인 베타(beta)분포, (평균, 분산)= ))1)((

,(++++ βαβα

αββα

α

21, XX 서로독립이고 ),( βαGamma 분포를 따를 경우 21

1XX

X+

(수명이 동일한 2개의 제

품 중 하나의 수명 비율)는 ),( βαBeta 을 따른다.

⑤ )(~ rtX 모수(자유도) r 인 Student t-분포, (평균, 분산)= )2

,0(−rr

)(~),1,0(~ 2 rVNW χ 이고 서로 독립일 때 )(~/

rtrV

W이다.

Page 17: Mathematical Statistics / 6장 확률변수 함수 76wolfpack.hannam.ac.kr/Stat_Notes/elem_stat/math_stat/ch6...6.2 변수 변환 방법 (The method of Transformation) 확률변수

Mathematical Statistics / 6장. 확률변수 함수 ▼ 92

Prof. Sehyug Kwon, Dept. of Statistics, HANNAM University http://wolfpack.hannam.ac.kr @2010 Fall

⑥ ),(~ 21 rrFX 자유도 21, rr 인 F-분포, (평균, 분산)= ),2

(2

2 dcomplicater

r−

)(~),(~ 22

12 rVrW χχ 이고 서로 독립일 때 ),(~

//

212

1 rrFrVrW

이다.

EXAMPLE 6.24

),(~ βα ii GammaX (모수 ),( βα 인 감마분포)인 경우 확률표본 합 ∑ iX 이 감마분포

),(∑ βα iGamma 임을 보이시오. ☺감마분포의 가법성

EXAMPLE 6.25

)(~ 2iiX λχ (모수 iλ 인 카이제곱 분포)인 경우 확률표본 합 ∑ iX 도 카이제곱 분포

)(2 ∑ iλχ 임을 보이시오. ☺카이제곱 분포의 가법성

),( 2σμNormal

)1,0(Normal

Lognormal

)(rsquaredChi −

),( βαGamma

)(βlExponentia

)1( =γWeibull

),( βαBeta

),( 21 rrF

)(rt

∑ iXXlog

xe

∑ iX∑ 2

iX

Cauchy

∑ iX

σμ−X

Xσμ +

2

1

XX

∞→r 2X

1=α ∑=

α

1iiX

21

1

XXX+

2,2/

==

βα r

γ/1X 1=γ

( , )Binomial n p ( )Poison λ nnp λ→ ∞=

2,

n

np npqμ σ

→∞

= =