구자홍
구자홍
저자는 서울대학교 문리대 수학과를 졸업하고 동대학원 수학과에서 수리통계학을 전공하였다. 청주교대, 동국대 교수와京都大, W i scons i n 大 등의 객원교수를 역임했고 현재는 인하대학교 이과대학 통계학과 교수로 재직중이다. 저서로는 『고급통계학 』 , 『 통계용어사전 』 (共編) 外 2 종이 있고, 「마코프 과정에 관한 연구」 외 20 편의 논문을발표하였다.
확률론 
확률론
18947
책 머리에 자연현상이 나 인위적 실험을 통하여 결과 ( ou t come) 가 얻어지게 되는 과 정은 두 가지 경우에 귀착된다. 첫째로 매회 관찰 또는 측정에서 일정한 결과만이 얻어지게 되는 결정 론적 현상 (de t erm i n i s ti c p henomenon) 이고, 둘째는 그렇지 않을 경우로서 예 컨대, 주사위 (d i e) 를 던지는 게임에 있어서와 같이 매회 얻어지게 되는 걷 과들이 일정치 않을 경우이다. 이런 현상을 비결정론적 현상 또는 우연현 상 (random p henomenon) 이 라고 부른다. 확률론(p robab il ity)은 바로 이 런 후자의 경 우를 대 상으로 하는 학문이 다. 전자의 경 우를 해 석 하기 위 한 이 론모형 으로서 는 함수(fu nc ti on) , 미 분방 정 식 (dif fer enti al equ ati on ) 등 해 석 학적 수리 모형 을 들 수 있 고, 후자의 경 우에 는 확률론 내 지 는 확률과정 론 (s t ochas ti c pro cess) 등 확률모형 (sto c hasti c model) 을 둘 수 있다. 특히 현대 확률론 (modern p robab il ity)은 A. Kolmo g orov(1933) 에 의 하여 Lebesgu e 측도적 입장에서 체계화됨으로써 해석학의 한 중요한 위치를 차 지하게 되었다. 그후 확률론은 현대통계학의 원리와 그 방법론에 기여하였음은 물론 공 학·생명과학등 응용과학및 경영과학등에 기본원리를 제공하여 주는 기초과학분야로 기여하고 있다. 우리나라에도 석 • 박사과정에서 순수수학 전공생은 물론 응용수학 전공 생들, 응용과학 특히 의학과 공학 및 첨단과학도들이 상당수 연구에 매진 하고 있다. 그들의 전공을 위하여 확률론 및 확률과정론의 강의 및 연구 의 비중이 접차 높아지고 있으며, 그 수요 또한 증대되고 있는 실정이다. 이 책은 순수수학은 물론 응용수학 및 응용과학을 전공하는 대학원 석· 박사과정생들의 교재로 맞추어 편찬한 것이다.
그 내 용을 간단히 살펴 보떤 제 1 장에 서 는 Kolmo gorov 의 확장정 리 를 동 하여 아주 일반화된 확률측도(p robab i l ity measure) 를 도입하였고, 제 2 장에서 는 空-가축함수(ff- measurable fu nc ti on) 로서 의 확률변수를 소개 하였으며 , 제 3,4 장을 통하여 확률분포들과 그들의 국한분포몰 고찰하였다. 특히 대수 의 법칙 (Law of Large Numbers) 과 중십극한정리 (Cen t ral Li m i t Theorem) 를 상 술함으로써 확률론의 중십과제로 삼았다. 그리고 제 5,6,7 장 둥은 응용확률론으로서 확률과정론의 기본과정들인 Markov 과정과 확산과정 둥을 소개 하였 다. 특히 브라운운동의 확률모형 인 Gauss 과정을 소개하였다. 한편 20 여 년을 통계학과 확률론을 강의해 오며서 한결같이 강의내용을 체계화하여 책으로. 묶으려 하였으나 여의치 않아 안타깝던 중 대우재단의 도움으로 이 책을 펴내게 된 것을 깊이 감사한다. 독자 제현의 아낌없는 충고 있기를 기대하며 감히 펴낸다. 1988. 5. 구자홍
확률론■차례
책 머리에 제 1 장 확률공간과 확률측도 11 1-1 현대확률론의 특성 11 1-2 확률론의 발전 12 1-3 집합열과 그 극한 13 1-4 확률측도 16 1-5 사상과 그 측도 l9 1-6 집합체 (완전 가법족) 23 1-7 측도공간과 확률공간 31 1-8 확률측도의 확장 37 1-9 조건부확률 45 1-10 사상열의 확률독립 49 제 2 장 확률변수와 그 기대치 57 2-1 확률변수 57 2-2 확률분포 66 2-3 기대치 82 2-4 수렴정리와 부등식 93 2-5 직적확률공간 103 제 3 장 확률분포와 특성함수 1133-1 적률모함수와 확률분포 113
3-2 특성함수와 분포함수 119 3-3 다차원 확률분포 130 3-4 주변분포 137 3-5 표본분포 139 3-6 비심분포 150 3-7 조건부분포 158 3-8 상관계수 R의 분포 171 재 4 장 극한정리 179 4-1 확률변수열의 수렴 179 4-2 독립확률변수들의 합 186 4-3 중심치, 산포도 199 4-4 대수의 법칙 205 4-6 격자형 분포 221 제 5 장 Markov 연쇄 225 5-1 확률과정 225 5-2 Markov 성과 Markov 과정 229 5-3 취보 2315-4 Markov 연쇄 239
5-5 주요 확률개념 의 도입 246 5-6 2- 상태 Markov 연쇄 253 5-7 Markov 연쇄의 분류 266 5-8 Ergodic Markov 연쇄 274 5-9 흡수 Markov 연쇄 282 제 6 장 불연속 Markov 과정 291 6-1 기초개념 291 6-2 Poisson 과정 295 6-3 출생과정 303 6-4 Yule 과정과 음의 이항분포 307 6-5 출생사멸과정 3ll 6-6 Feller-Arley 과정 315 6-7 Kendall 과정 320 제 7 장 연속 Markov 과정 325 7-1 확산과정 325 7-2 기본방정식 327 7-3 브라운 운동과 가우스과정 332 찾아보기 341제 1 장 확률공간과 확률측도 § 1-1 현대확률론의 특성 동전 (co i n) 을 5cm 높이에서 평면 위에 표면을 위로 하여 무십코 떨어 뜨릴 때, 그 표면 (head) 이 얻어지게 될 것은 거의 확실할 것이다. 그러 나 위와 같은 실험을 30m 상공에서 실시한다고 가정할 경우 그 결과 로서 표면이 언어지게 되리라고는 아무도 장담할 수 없을 것이다. 다른 한편, 매끄럽게 돌아가는 회전판(l o tt er y)의 침봉이 원형받침판의 어느 눈금에 머무르게 될 것인지도 역시 확언할 수 없울 것이다. 일반적으로 반복되는 실험 또는 현상을 통하여 언어질 수 있는 결과 (ou t come) 가 2 가지 이상 중 어느 하나로 귀결될 경우 이 원인(현상 또는 실험)에서 결과에 이르는 과정을 우연현상 (random p henomena) 이라고 한다. 이에 반하여 매번 동일한 결과만이 일률적으로 얻어지게 될 경우, 이 런 현상 또는 과정을 결정론적 현상 (de t erm i n i s tic p henomena) 이라 부론다 . 그리고 이 런 현상에 대한 이론적 모형으로서는 함수(fu nc ti on) 또는 미 분방정 식 (dif fer enti al . e q ua ti on ) 둥으로 나타낸 수 있다. 그런데 얼핏 보기에는 전자인 비결정론적 현상인 우연현상 (random p henomena) 를 구명하기 위한 법칙 또는 이론적 모형이 없을 것 같지만 이 경우에도 결과들이 얻어지게 될 경향성(t endenc y) 내지는 법칙성을 주는 이론모형들이 지금부터 연구하려는 확률론(p robab ility t he ory)에서 얻어진다.
예컨대, 공정한 동전 운 무심코 1, 000 회 반 복 하여 던져 줄 때, 그 건 과로서 10 회 이내로 표면이 얻어지게 되리라고 기대할 사람은 아무도 없울 것이다. 아주 공평(fai r) 하게 잘 만들어전 동 전 운 반 복 해서 자연낙하시킬 경우 표면이 얻어전 회수의 상대빈도 (rel a ti ve fr e q uen c y)는 반복회수(시 행 회수) 가 한없이 늘어날 경우 }에 아주 근사하게 뭘 것이다. 죽 어떤 현상 또는 실험이 그들의 결과에 이르는데 첫째, 우연적 또는 비결정론적 (unde t erm i n i s ti c) 이라 하고 둘째, 주어전 절과들에 대한 출현 가능성이 상대빈도로 주어질 경우 주어전 현상 또는 실험은 확률조건 (sto c hasti c cond iti on) 을 만족한다고 한다. 그리 고 위 확 률 조건을 만족하 는 실험을 확률론에서 시행(tri al) 이라고 부른다. 주어전 시행에서 얻어질 수 있는 모든 가능한 결과들의 집합 (se t)을 표본공간 (sam p le s pace) 이라 하고, 보통 9 로 나타낸다. 또 요를 구성하 는 개개의 결과들을 w(E Q)로 쓴다. 한편 o 둘의 일부로 된 9 의 부분집 합 (subse t) E( 들 Q)를 확률사상 (s t o chasti c event) 또는 간단히 사상 (event) 이 라고 부른다. 특히 o 하나로 된 사상(부분집합)을 근원사상 (elemen t ar y even t)이라 하고 그냥 야로 쓴다. 확률론은 거 시 적 으로 볼 때 , 시 행 에 관한 확률법 칙 (pro babil ist i c law) 울 연구하는 수학의 한 분야로서, 그 연구를 위한 접근방식은 여러가지 측면이 있겠으나 Lebesg_ ue 적분의 발전에 따라 측도론적 성격이 아주 강 하게 인석되었다. 특히 현대확률론은 러시아의 수학자 Kolmog o rov 에 의하여 1933 년에 쓰여 전 그의 유명 한 저 서 『확률론의 기 초개 념 (Grundbeg r if fe d er Wahrsche· inl ic h keit s reclmun g)』에 의해 명 백히 측도론적으로 체계화되 었다.1)
1) Kolmog o rov 는 1903 년 4 월 25 일 러 시 아에 서 태 어 났다. 그는 Mosco 국립 대 학에 서 수 학을 전공하였으며, 1925 년에 졸 업하였고, 1931 년에는 동대학 교수가 되었다. 또 1939 년에는 학사원회원이 되었고 1941 년 3 월 14 일 제 1 회 S ti r li n g상운 수상 하 였다.
§ 1-2 확률론의 발전 확률론을 본격적으로 연구하기에 앞서 그 발전의 발자취를 개략적으 로 언급해 보는 것이 더욱 이해에 도움이 될 것이다. 17 세 기 초에 프랑스 수학자 페 르마 (Ferma t 1601~1665) 와 파스칼 (Pa seal 1623~1662) 사이 에 주고받은 소위 왕복문서 를 동한 연구논 조합적 확
률론 (comb i na t or i al p r o bab ility)의 시작이 되었고, 베르누이 (Bernoulli, 1654 ~1705) 에 의 하여 지금의 대수의 법칙 (Law of Large Numbers) 의 실마리 가 발견되었으며, 드 • 므아브르 (de Moiv r e 1667~1754) 에 의하여 중심극한정리 의 단서 인 이 항분포의 정규근사법 (normal a pp rox i ma ti on) 이 연구되 었다. 이어 18 세기에 접어들어 미적분학의 발전에 힘입어 역시 프랑스 수학 자 라프라스 (La p lace 1749~1827) 는 그 당시까지 이루어진 확률론에 관한 연구결과들을 해석적 방법으로 체계화하여 그의 대저 『확물론의 해석적 이 론( Theorie analyt iqiie des p robab i l it es) 』 및 『확률론에 관한 철학적 시 론 (Essai philos op h iq u e sur les pro babil it es ) 』 에 요약하 였 다. 그후 19 세 기 에 서 20 세 기 에 걸처 프랑스의 수학자 보렐 (Borel 1871~ 1956) 이 많은 연구물 하였으나 주된 발전은 러시아의 수학자 체비셰프 (Cheby sh ev 1821~1894), 마르코프 (Markov 1856~1922), 리 아프노프(Li a p o unov 1858~1918) 등에 의 하여 발전되 어 왔다. 2)
2) Markov 는 1856 년 6 월 14 일 러시아에서 태어났으며, 수학의 천재로서 중학생 때 상미 분방정식 (ord i nar y dif fere nti al e q ua ti on) 의 일반해법을 독자적으로 발견하였다• 또 그는 1886 년에 Pe t ersbur g대 학의 교수가 되 었 고, 그의 업 적 으로서 는 Markov 의 최소 자승법, Markov 연쇄, Markov 과정 등 많은 이돈을 정립하고, 그들의 보기들운 남겼 다.
이둘 학자들의 바통을 이어받아 최근에는 소련 수학자 베론스타인 (S. Bernste i n ) , 킨찬 (A. Ya Khin c hin ) , 콜모고로프 (A. N. Kolmog o rov), 프랑스 의 레비 (P. Levy ), 스웨멘의 크라머 (H. Cramer), 미국의 위너 (N. Wi en er) 둥에 의하여 현대확률론이 발전되어 왔고드디어 오늘날 정보과학(l n fo rma tion Sc ien ces) 의 핵 십 이 론으로 기 여 하게 되 었 다. 3)
3) 위너 (N. Wi en er 1894~1964) 는 미국인으로 1947¾ 1 동물과 기계에 있어서 제어와 롱 신을 관장하는 새 로운 학문분야운 ‘Cy be rnetic s’ 로 작명 하고, Brown 운동 (Brown i an mo ti on) 을 나타내주는 수리모형으로 W i ener 과정운 연구한 근대의 유명한 정보과학자 이다.
§ 1-3 집합열과 그 극한 § 1-1 에서 표본공간 9 의 부분집합 (subse t) E( 드 9) 가 하나의 확물사상 (event) 이 라고 하였 다. 또 유한개 또는 무한개 로 이 루어 전 사상열 {An} (n=l,2, …）은 집합열 (se t se q uence) 이며, 따라서 국한사상에 관한 고찰 은 바로 집합열의 국한(li m it)를 조사하는 것으로 귀착된다.
그러므로 이제부터 집합 열 의 극한과 그 들 의 성질에 관해 조사하여 보 기로하자 . 정의 1-1 집합열 : {A,,}, (n=l,2, …）의 무한히 많은 A 1, A2, …에 속 하는 원둘로 된 집합을 {An} 의 상극한(li m it su p rmum) 이라 한다. 그 리고상국한울 lim sup A= 詞 A (1-1) n 로 나타낸다. 정의 1-2 집합연 {AnJ , (n=I,2, …）에 대하여 유한개의 An 윤 제의 한 나머지 무한개의 A 들에 속하는 원들로 된 집합을 {An} 의 하극 한(li m it inf r imu m) 이 라 하고, {A,'} 의 하극한울 lim inf An= 迎 An (1-2) n 로나타낸다. 정의 1-3 집합열 {An}, (n=l,2, …）의 상국한과 하극한이 일치할 때 즉 面 nAn=A= 迪 A,, (1-3) 일 때 , {A,,} 은 A 에 수렴 (converge n ce) 한다고 하고, A 를 {A,,} 의 극한(limit) 이 라 한다. 그리 고 limn A ,.=A (1-4) 로쓴다. 정 의 1-4 집 합열 {An} , (n= 1, 2, …) 가 포함관계 (inc ludin g relati on ) : A1CA2C· ··CAnCAn+1 C … (1- 5) 가 성립할 때 {An} 은 증가열(i ncreas i n g se q uence) 이라 하고, 반면에 포함관계
A1::)A2::) … ::)A“::)A 가 1 그··· (1- 6) 가 성 립 할 때 {A,'} 은 감소열 (decreasin g seq ue nce) 이 라 한다. 정의 1-5 증가열과 감소열을 총 칭해서 단조열 (mono t one se q uence) 이 [ 라한다. 정리 1-1 {An} 의 상국한과 하극한에 대하여 다음 각 항의 등식이 성 립한다. a) ITm An 걱쁘 A b) (ITm An) 드보민 A; c) （連 An)c=ITm A~ d) {An} 이 증가열 이 면 lim An= nU.=. lA n e) [An} 이 감소열이면 lim An=nn=Al n f) Ii需A n=l in m 0J.=. nA j g) I 쁘 -A,1=1 i1 1m nJ= nA j 증명 a) 의 포함관계는 정의 1-1 의 (1-1) 식과 정의 1-2 의 (1-2) 식에 서 분명하다. 그리고 b) 와 c) 의 동식은 드 • 모르간법칙에 의하여 분명하다. 그러 므로 d) 와 f)만울 증명하고 e) 와 g)는 유사한 방법으로 증명이 가능하 므로 생략하겠다. i) d) 의 증명 : {An} 이 증.가..열. 이므로 I쁘Tm AAnn=== nn nnU-nU-.====. lAlll ( (nUjj.n==., n nA A 1 ( j·))· · /=Un A1j==_ nUn .=.A l ,,) = U An, C-: An= n A1)
정의 1-3 의 (1-3) 식과 (1-4) 식에 의하여 eo l i mA 尸 nU=l A ,, 이 성립한다. ii) f)의 증명 : B ,, =Uj=” Al i라 놓으면 {B,' ｝는 감소열이 되므로 (e) 에 의 하여
Wn= {'t-,n •-••1 t_, ,h,} w.., = {ti, t2, …} 이때 W1 은 첫번째로 동전을 던져서 표면이 출현하게 되어 갑이 승리하 고 게임이 끝나게 되는 사상을 나타낸다. 일반적으로 W” 는 (n-1) 회까지 이면(t a il)이 나오고 제 n 회에 표면이 얻어지게 됨으로써 게임이 끝나게 될 사상이다. 끝으로 또는 갑 • 울 두 사람이 아무리 열십히 던져도 표면을 뭇 얻어 게임이 무한히 계속될 경우의 사상을 나타낸다. 이 모델에서 W1, w2, …, w' …, w. . 논 표본접들이고, 이들 전체의 집합 fl= {W1, Wz, …, Wn, …, w .. } 는 표본공간이다. 그리고 표본접 Wn, (n=I, 2, …) 하나하나로 이루어전 단위집합 Wn={Wn} 은 앞서 소개한 바 있는 근원 사상들로서 다음과 같이 그 확률이 구해진다. 제 1 회 시합(게임)에서 표면이 얻어지거나 이면이 얻어지게 될 가능성 온 같은 정 도로 가능하다고 가정한다. 그러 므로 P(w1) = ½; P( {w2, …, w .. } ) =} 다음 같은 이유로 후반 확률 강은따와 {w3,… ,w . . ｝에 ｝씩 나눠져 분 배된다. 죽 P(w2)=¼; P({w3, …, w .. })=} 마찬가지로 계속 확률을 분배하기로 하면 w 에 분포되는 획녓 r P(w) 가 얻어진다. 죽 P(w) ; P(w1) = 감, P(w2) =}, …, P(wn) = 살, ... , P(w. .) = 0 (1-7)
nI;=;;I Pn(,w ...n ,) = nI..=.:;:I; ¾21, ; = 1 (1-8) 위 (1-7) 식과 (1 -8) 식을 일반식으로 쓰면 P(w) ~ 0 ; w~C9 P(w)=I (1- 9) 로서 P(w) 는 이 산적 (dis c r-et e) 일 경 우 확률분포의 확률질 량함수(p. m.f. = pro babil ity mass fun cti on ) 임 을 보여 주는 성 질들이 다. 한편 9 의 부분집합인 사상 E( 도 Q)에 대응하여 그것이 실현될 확률 은 각 표본접 W 들에 배분된 확률값들의 합계로 구해전다. P(E) = I; P(w) (1-10) wEE 정의 1-6 위 (1 -10) 식 으로 정 의 된 집 합함수 P를 확 률 축도(p robab i l ity measure) 라 하고, 또 P(E) 를 E 의 확 률 (p robab i l ity)이 라고 한다• i) 갑이 승리하게 될 확 률 의 계산 : 게임에서 갑이 승리하게 될 확률 을 P(A) 라 두고, 그 값을 구하기로 하자. 그런데 갑이 승리하려면 게임의 회수가 기수로 끝나는 경우에만 해당 되므로 갑이 승리하게 될 사상 A 는 다음과 같이 나타넬 수 있다. A= {wi , W3, …, W2n+l, …} 그러므로 구하는 확률 P(A) 는 다음과 같이 계산된다. P(A) =nmf= On P ( W 2n+1) =n.=~u~ 2국 1- .=경2 다음 위 게임에서 승패가 결정되어 시합이 종료되기까지 소요되는 게 임회수를 변수 (va ri able) X(w) 라 하자 . 그러면 X(w) 의 실현치를 다음 과 같이 쓸 수 있다. X(wn) =n, (n= l, 2, …) (1-11) 또 (1-7) 식으로 얻어진 확률분포와 (1-11) 식으로 주어전 X 의 실현치 둘을 동시에 고려하면 총도수(t o t al freq u ency) 1 인 확률도수분포를 얻게 되며, 주어전시합이 끝나게 되기까지 소요되논평군최수(기대회수) E(X) 는 다음과 같이 계 산한다. E(X) = w~EO X(w) P(w) (1-12)
I 정의 1-7 위 (Fl2) 식으로 정의된 값을 이산확 률 변수 (d.,.v.) X(w) · 의 기대치 (ex p ec t a ti on) 라 하고, 기호로 E(X) 로 쓴다. ii) 기대치의 계산 : 위 정의 1-7 과 (1-12) 식에 의하여 E(X) = W~EQ X(w)P(w) = n~~=1. n ..• 구 21 =2 이다. 예제 1-2 이제 Canto r 의 삼진집합 ( t e rn a r y s e t)을· S 라 하자. 죽 !J= [O, I] 이 라 하고, 9 를 3 둥분하여 얻어지는 중앙의 개구간 여( }그沿들의룔 중제앙거의하 고개, 구다간시 (½나, 머½）지와 좌(½우,에 i }）얻울 어제지 거는 한 다개. 구이간와들 에같 은대 하과 정을 무한히 계속하고 찬류하게 되는 점들 전체로 된 집합이 바로 S oJ_ 것이다. 한편 9=[ o, I ]에서 Can t or 집합 S 를 제거한 여집합 장의 측도는 1 이다. 죽 P(SC)=µ(SC)=} ＋출+…＋亨+… =1 (1-13) 이고, Q =SUSc 이므로 측 도의 가법성에 의하여 P(S)=O 임을 알 수 있다. 그런데 S 는 공집합 (95) 이 아니며, 9 에서 제거된 구간들의 경계접 들과 그들의 집 적 접 (lim i tin g p o i n t)들로 이 루어 전 비 가산무한집 합 (unco unta b le set) 이 다. §1-5 사상과 그 측도 시행(t r i a l) T 에서 얻어질 수 있는 모든 가능한 결과들의 전체로 된 집 합 (en ti re se t)를 전사상 (whole event) 이 타 하고 9 로 쓴다. 또 9 의 부 분집합 E(cQ)을 사상이라 하였다. 그런데 9 의 임의 부분집합들로서 사상을 정의하였지만, 그들 중에서 실제로 고찰의 대상이 되는 사상들에 대하여 좀더 분명하게 규정하고자 한다.
우선 ff o 를 표본공간(＝전사상) 9 의 부분집합들의 하나의 집합족 (class) 이라하자. 그러면 첫째로 전사상 9 는 거의 확실하게 얻어질 수 있는 사상으로 서 반드시 고찰의 대상으로 해야 한다. 공리 (F-1) : !J E ff。 이어야 한다. 둘째로 사상 A 에 대하여 그것이 실현되지 않을 경우 일어날 수 있 는 나머 지 시 행 의 결과들을 의 미 하는 A 의 여 사상 (com p lemen t event) Ac(=Q - A) 도 분명히 고찰의 대상이 되어야 한다. 죽 공리 (F-2) : AE!F o ~ AcE ff。 이어야 한다. 끝으로 유한개의 사상들 A1, … ,An 에 대하여 그들 중 적어도 하나가 실현될 시행의 결과를 의미하는 사상도 역시 고찰의 대상에 넣어야 한 다. 이 사상을 합사상(병합사방)이라고 한다. 죽 공리 (F-3) : A1, …, AnE 적 ro = ⇒ jU= l A i E !F。 이어야 한다. 이 밖에도 시행의 결과들을 의미하는 여러가지 사상들을 생각할 수 있 으나 그들이 ff o 에 속하는 것은 위에서 제시한 바 있는 공리들 (F-1), (F-2) 및 (F-3) 를 통하여 증명 할 수 있 다. 정(e의m p t1y- 8e ve실n 현t)이이 라 불 부가르능고한 공시집행 합의 g결로과 를나 타의내미 준하다는. 사상을 공사상 I 정리 1-2 공집합 ¢논 집합족 ff o 에 속한다. 죽 ¢드空 0 이어야한다. 증명 {lJ=fJC 이므로 공리 (F-1) 죽 (F-2) 에 의하여 !JC =9 JE F0 이다. 정의 1-9 유한개의 사상열 Al,A2, … ,An 에 대하여, 이들 모두가 j
실( 적현 사 될 상 )경이 우라에 부만르 고실,현 되곱집는 합시 / 5행1 A 의l 로결 과주 어를 진의다.미 —하 는 사상을 곱사상 1 정리 1-3 유한개의 사상 A1,A2 … ,An 의 곱 nA/ 도 역시 사상이다. i= l 죽
Al, A2· ··, An 己 忽 。 =~ inn~ lA 庭 伊。 (1-13) 이어야 한다. 층명 가정 에 서 A1, A2, …, An 드 多 。 이 므로 공리 (F-2) 에 의 하여 Af, A~, ···, A~E~。 이고, 또 꽁리 (F-3) 를 적용하면 A f UA ~ U … UA~E ff。 이 다. 다시 De-morga n 의 공식 과 공리 (F_2) 을 적 용하면 jn= lA j = cuA f) cE ff 。 를 얻는다. 麟 이상 정리 1-2, 정리 1-3 을 동하여 알 수 있듯이 공리계 (F-1), (F一 2) 및 (F-3) 로 사상에 관한 충분한 연역이 가능하다. 정의 HO 집합족 ffo 가 공리계 (F-1), (F-2) 그리고 (F-3) 를 만족 할 때 ff o 를 집합체 (Fie l d) 또는 유한가법족(fi n it e addit ive class) 이 라 부른다. 그러면 지금부터 실제로 고찰의 대상이 되는 사상 A( 드空 b) 에 대한 확률 측 도(p robab il ity measure) 의 성질에 관한 공리들을 들어보기로 하자. 사상 A 에 대 한 ffo 상의 집 합함수 ( s e t fun cti on ) Po ( o) 의 힘수수값 Po(A) 롤 A 의 확률로 정의하면, 전사상 9 에 대한 확률은 P。 (0)=1 이고, 또 공사상 0 에 대한 확률은 P。 (0)=0 이다. 분만 아니 라 임 의 의 사상 A(E ff:。)에 대 한 확률 Po ( A) 에 관하여공리 (P - 1) : O~P 。 (A) ~l 특히 Po( Q) =l 이다. 한편 유한개의 사상열 A i, A2,···,A,,( 드夕 。)가 서로 배반사상 (mu t uall y exclusiv e even t s) 이면 그 합 사상 iU= IA i가 실 현 될 확 률 은 각 사상 들 의 확 률 둘의 합계로 구해진다. 공리 (P-2) Ai , A2, ···, An( 드 忽 。) 에 대 하여 AnAi= fZf (i~j) (i,j=I , 2, …, n) ==> Po ( UA ,) = I; P0 (Ai ) j= l j= l 정의 1-11 확물측도 Po 와 같이 주어전 축도 (measure) 가 공리 (P-2) 를 만족할 때 , 그 측도는 유한가법성 (fini t e addit ive p ro p er ty) 를 가 진 다고한다. 정리 1-4 공사상 0(E$', 。)에 대하여 그 확률 은 Po(0) = 0 이다. 증명 ilEf f0 이 고 또 Qn g= g, 9= Q U g이므로 공리 (P-2) 에 의하 여 Pa (il) =P 。 @u g) =Po (Q) + P。 @) 그런데 Po(9)=1 이므로 Pa(0)=O 이다. t2 정리 1-5 A,BEff :'0 이 고 또 AcB 이면 Po(A)~Po(B) 이다. 중명 A, B 의 합사상을 다음과 같이 칙 합 (d i rec t sum) 으로 고쳐 쓸 수 있다.죽 AUB=AU (BnA 이 그러 므로 공리 (P-2) 에 의 하여 Po(AUB) =Po(B) =P0(A)+P0(BnAc) 그런데 P0(BnAc)~O 이므로 P0(B)~Po(A) 이다. 뫼
이 제 까지 고찰한 바에 의 하면 확률사상들의 집 합족 ff o 와 忽 。상에 서 의 확률측도 Po 에 관하여 공리계 (F-1), (F-2), (F-3) 와 (P-1), (P-2) 를 정 의하면 나머지 정리(명제)들은 모두 이들 공리계를 바탕으로 하여 연역 적으로 증명된다• 그런데, 이들 공리계를 수학적 용어로 다시 표현하면 전반부는 집합 체 (fi eld) 이 고 후반부는 Lebesg ue 측도의 기 본공리 들을 공리 들로 각각 채 택한 것에 지나지 않는다. § 1-6 a- 집 합체 (완전가법 족) 한걸음 더 나아가 주사위를 무한번 던져서 5 의 눈금이 역시 무한회 얻어지게 될 확률을 고려에 넣는 문제를 고찰하여 보기로 하겠다. 죽 위에서 언급한 사상은 주사위의 눈금둘로 이루어진 무한수열로서 w=(w1,w2,… ), (w;=l,2,3,4,5,6 중 어느 한 숫자와 같다.) 이고, 9 는 W 전체로 이루어진 표본공간이다. 또 제 n 회에 5 의 눈금이 나오게 될 근원사상을 An 으로 쓰기 로 한다. 죽 A,,= {w= I (wi , W2… ) lwn=5J 로두자. 그러 면 5 의 눈금이 무한회 나오게 될 사상온 § 1-3, 정 의 1-1 의 (1-1) 식으로 정의된 바 있는 An 의 상극한으로 정의된다. 즉 구하는 사상을 A .. 라 둘 때, AOO=T im A,1= nnO= I (jU=O3 nA j ) (1-14) 그런데 무한회 주사위를 던진다고는 하지만 실제로 그렇게 하기는 불가능하므로 하나의 가상적 실험모형에 지나지 않는다. 따라서 A .. 를 고찰의 대상으로 삼는 것은 하나의 가정 (assum pti on) 으로 두게 되는 것 j이U= n다A . 나 문- 하•나 의 사· 상• 으로 생• 각하고 B.=jU-= An ” 로 둔 다음 -nn=BI n 역 시 사 또 A .. 이 고찰의 대상으로 삼을 수 있는지의 여부는 각 n 에 대하여 상으로 간주할 수 있어야 한다.
일반적으로 A1, A2, …E §o =미JO A i, neo A i E§ 。 (1-15) i= I i= I 이 성립함을 말할 수 있어야 한다. 그러나 위 (1 -15) 의 관계식은 경우 에 따라서는 반드시 만족된다고는 말할 수 없다. 분만 아니라 (1 -15) 식이 설령 성립된다고 가정할 경우라도 이를 확 률사상들에 대한 확률측도들을 어떻게 정의하겠는가? 인 죽무 한유열한 가{법An성} n에:1 , 2,관 …한의 공합리사 (상P- 2)U.. 를A 1 의자 연확스률럽측게도 가확 장하여 서로 배반 j= l Pa ( Uoo A i ) = Io:o P0 (Ai) (1-16) j= l j= l 와 같이 구할 수 있다고 기대할 수 있겠는가와 같은 2 가지 과제에 부딪 치게 된다. 첫번째 과제의 경우, 만일 (1 -15) 식이 성립되지 않는다면 ffo 에 Q의 몇 개의 부분집합 (subse t)들을 추가하여 줌으로써 얻어지는 새로운 집합 족(fa m ily) 空(그空。)에 대하여 (1-15) 식을 만족시키게 할 수 있으면 좋 율것이다. 그런데 이와 같은 집합족 多는 반드시 촌재한다• 예컨대 9 의 모든 부분집합으로 이루어전 집합족을 잡으면, 그것은 분명히 (1-15) 식을 만 족한다. 그러나 그렇게 하면 이론전개상 너무나 많은 사상들이 남아돌아 가게 되므로 (1-16) 식으로 제기되는 두번째 과제의 해결에 애로접을 수반하 게 된다. 이에 (1 -15) 식과 (1-16) 식으로. 제기되는 과제들을 모두 해결해 주는 개념들로 6- 집합체와 측도 P 의 완전가법성 둥을 도입하기로 한다. 정의 1-12 {J의 부분집합들의 한 집합족多가 집합체의 공리 (F-1), 공리 (F-2) 등을 만족하고, 또 공리 (F-3') : A1, A2, …드空 0 iU0=0 lA j드/ 를 만족할 때, 多를 c- 집합체 (a- fi eld) 또는 완전가법족 (com p le t el y addit ive class) 이 타 부른 7 다.
정리 1-6 :Y 가 6- 집합체이고, 또 AI,A2, …드 夕 이면 nj”= lA j드多이다. 증명 공리 (F-2) 와 공리 (F-3') 에 의 하여 분명 하다. E1 정리 1-7 ff가 6- 집합체이면 詞 An=A.,E 空 (1-17) 쁘 An=A ; E ff (1-18) 이다. 증명 공리 (F-3' ）와 정 리 1-6 에 서 분명 하다. tJ 정리 1-8 a- 집합체의 집합족을 {ff; : i EI) 라 하면 忽 =n 空j (1-19) 1El 도 역시 c- 집합체이다. 증명 모든 i EI 에 대 하여 多.는 6- 집 합체 이 므로. 9 드空i이 므로. 9 드 n 多j iE ! =多이다. 그러므로 공리 (F-1) 이 성립한다• 또 만일 A 든 n 忽{이면 모든 iE I iE I 에 대 하여 AE ff이 므로 또 ACE!! T.-이 고, AC 드 n 空;＝多 이 다. 끝으로, 만일 A1, A2, ··i·E 드I 亢空j 모든 iE I 에 대하여iE I A1, A2, …드多i 이 고 또 空i는 6- 집합체이므로 oo iuE I A j드空j 이므로 eo UA j드 n 空j=忽 ;el iE I 이다. 四 그러나 6- 집합체의 합집합은 반드시 6- 집합체가 되지는 않는다. 정리 1-9 임의의 집합족 §0 를 품고 또 최소인 (1－집합체 多가 존재한 다.
증명 9 의 모든 부분집합으로 이루어전 clas3 를 I 라 하면 이것은 말 할 것도 없이 a- 집합체이다. 그러니까 class ff 0 를 품는 6- 집합체는 적 어도 하나 존재한다. 이제 class ff 0 를 품는 6- 집합체 전체로 이루어전 집합족을 {空, - ;i드 I} 라 하면, 夕三 n 疾 i이고 이것은 위 정리 1-8 에 의하 iE / 여 6- 집합체가 되며 이것이 구하고자 하는 최소의 6- 집합체이다. 〔댜 정의 1-13 집합족 ff o 를 품는 최소의 6- 집합체 疾-를 ff o 가 생성하는 (1－집합체라 하고, 또 空탁(!T o) 라 쓴다. 정의 1-14 집합족 空가 6- 집합체일 때 多의 원소인 집합 A( 드 空 )를 多-가측집합(ff- measurable set) 또는 사상 (even t)이 라 한다. 또 전체 집합 9 와 空의 쌍(Q,空)를 가축공간 (measurable s p ace) 이라 부른다. 정라 의한1 기냐5 집 합족 多가 다음 (1-2 0) 식 을 만족할 때 , 훗를 단조 class I .. AI, A2, … E ff가 단조열 = ⇒ li m A,.Ef f (1- 20) 정리 1-10 ff가 c- 집합체이면 훗는 단조 class 이다. 증명 多가 6- 집합체이므로 정의 1- 心十 정리 1-6 에 의하여 Ai , A2, ••• 슨多이면 jU=OD lA ;Ef f 그리 고 jnO=D l A j己多 이다. 그런데 만일 A1,A2, …가 단조증가열이면 lim An= jU=.. lA ;Ef f 이고, 마찬가지로 만일 A1,A2, …가 단조감소열이면
lim An= nA ;Ef f j= I 그러 므로 A1, A2, …가 단조열 이 면 lim AnE 三空 이다. E3 정리 1-11 1oe 가 집합체이고, 또 단조 class 이면, 窟는 a- 집합체이다. 증명 우선 窟가 집 합체 이 므로 6- 집 합체 의 공리 (F-1) 과 공리 (F-2) 는 만족한다. 그러 면 나머 지 공리 (F-3' ）를 만족하는 것 을 보이 면 된다. A1,A2, …드節 라 하자. 그리고 Bn= jU=n lA i, (n=l, 2, …) 라 두면, B,,E 캥t이고, 또 B 논 단조증가열이다. 한편 窟논 단조 class 이 므로 CO nU=Bl 드窟 이다. 그런데 nU°=' lB n=nU=~Al n 이므로 .. nU=lA nEiC 이다. 回 정리 1-12 闇 ; i EI} 가 단조 class 둘의 집합이면, 凡篤도 역시 단 조 class 이다. 증명 정리 1-8 에서와 같은 방법으로 증명된다. a 정리 1-13 집합족 多 o 를 품고 최소인 단조 class ~(空。)가 존재한다.
증명 정리 1-9 에서와 같은 방법으로 증명된다• EJ 정의 1-18 집 합체 多 o 를 품는 최 소의 단조 class m를 ffo 가 생성 하 는 단조 class 라 한다. 그리 고 窟=銃 (多。)로 나타내 준다. 정 리 1-14 (단조 class 정 리 ) 多 .o 가 집 합체 (field ) 이 면 a( 空。) 三窟 (空。) (1-21) 이다. 죽 多 0 가 생성하는 (1－집합체와 空 0 가 생성하는 단조 class 는 서로 일치한다. 증명 窟(空。)는 집합체임을 알 수 있다(@〕 pp, 16~17 참조). 또 館(/。)는 단조 class 이므로 정리 1-11 에 의하여 하나의 c- 집합체 인 것을 알 수 있다. 그런데 또 a( 空。)는 多。를 품는 최 소의 (1－집 합체 이 므로 窟 (多。) 그 a( 空。) 이다. 다른 한편 정리 1-10 에 의하면 c( 空。)는 하나의 단조 class 이므로 窟(훗。 )Ca( 空。)이다. 四 이제까지는 좀 추상적으로 집합체와 6- 집합체의 개념들을 도입하고 언급하여 왔으나 다음부터는 좀더 실제적으로 연구하기 ' 위하여 소위 Borel 집합 (Borel se t)과 Borel 집합체 (Borel class) 에 대하여 설명하여 보기로. 한다. k- 차원 Euc li d 공간 (Euc li dean spa ce) Rk 는 k- 차원실수 벡터 X= (x1, x2···, xk) 전체로 이루어진 공간(집합)이며, Rk 의 상이한 두 접(벡터)을 X= (Xx , 따, …, X1, ) ; IY= (Yi , Y2, …, y,,) 라 할 때, 이들 두 접둘 사이의 거리 (d i s t ance) 를 다음과 같이 정의한다. dis ( X, IY) = {I; (x;-y; )2 } ½ 정의 1-18 Rk.,(J -의 점 ; X 의 성분 Xi (i=l , 2, …, k) 가 실수 또는 +oo, -oo 일 때, 그 접을 Rk.,(J -의 광의의 점이라 부른다.
또 X, Y 의 대응성분 X j와 Y j에 대하여 X j독 Y j (j=1 , 2, …, k) 일 때, X~Y 로 나타낸다. 정의 1-19 k 차원좌반개구간(l e ft half semi -o p en i n t erval) 은 다음 집합 으로 정의한다 (ra, !b]= {X; XER\ ra
JE I 은 그 정 의 에 서 집 합체 의 공리 (F-1) 과 (F-3) 울 만족한다. 그러 므 로 나머지 공리 (F-2) 만을 보이면 된다. 만일 J= (a, b J라 하면 JC= (-oo, a] U (b, + 이 EIE1 (1-23) 이고, 또 E= U ]; ; F= U li i= l j= l 라두면 EnF= u u;nIJE IE1 (1-24) ,. J 이다. 그런데 만일 EEIE1 이면, (1 -23) 식과 (1 -24) 식에 의하여 EC= ri]/E IE1 i= l 이다. 巴 정리 1-16 집합체 IEk 가 생성하는 6- 집합체는 Bk 와 일치한다. 증명 그 정의들에 의하여 Jl cJE l cfB l (1-25) 인 관계가 있음은 분명하다. 분만 아니라, JB l 은 JE l 을 품는 최소의 c 국집합체이다. f2 정리 1-17 R• 의 개집합과 되 1 집합은 k 차원 Borel 집합이다. 증명 G 를 Rl 의 개집합(개구간)이라 하고 가산무한개의 좌 UJ :개구간 (i’ 侍), (n=I, 2, …, j= O, 土 1, 土 2, …) 들 중 G 에 품기는 것들을 k,I2, …라 하자.
그러면 G=U.. l;ElB1 (1-26) j= l 이므로 G 는 Borel 집합이다. 巴 § 1-7 측도공간과 확률공간 이 제 (Q, 空) 를 가축공간 (measurable spa ce) 이 라 하자. 죽 9 는 공집 합 이 아니고, 忽는 9 의 부분집합으로 이루어전 6- 집합체라 하자. 정의 1-22( 유한확물공간) 9 는 원소 w 의 집합이고, ff o 를 9 의 부분 집합을 원소로 가지는 집합족이라 하자. 또 ff o 의 각 원소 A 에 측도(양의 실수) P(A) 가 주어쳐 있고 P 가 다음 공리 계 를 만족할 때 , (Q, ffo, P ) 를 유한확률공간(fi n it e pro · babil ity spa c e) 이 라고 부른다. 공리 (P-1) : ff0 는 집 합체 (field ) 이 다. 공리 (P-2) : 임 의 의 AEf f0 에 대 하여 o~P(A) ~1 (1-27) 이고, 특히 P( Q )=I 이다. 공리 (P-3) : 만일 A,BE ff。 이고 AnB=0 이면 P(AUB)=P(A)+P(B) (1-28) 이다. 공리 (P-1) ～공리 (P-3) 만으로도 확률론상의 이 론적 모순성 이 개 재 되 지 않는다. 예컨대, 아주 국단적인 보기로서 9 가 단위집합 (s ing le ti on) 일 때 집합체 ff o 는 그 자신 9 와 공집합 g만으로 구성된다. 이때 P(Q) =1 이고 P(~)=O 이다. 그러나 위 공리계만으로 완전한 것은 못된다.
정의 1-23(Kolmog o rov 의 확문공간) 9 를 g 이 아닌 하나의 집 합이 고, ¢률 9 의 부분집합들로 된 하나의 6- 집합체이며, 空상에서 정 의된 하나의 측도 P 가 다음 공리계를 만족할 때 (Q,ff ,P) 를 Kolmog o rov 의 확률공간 (Kolmo g orov's pr obabil ity spa ce) 또는 무한확률 공간 (inf ini te pr obabil ity spa ce) 이 라 한다. 공리 (K-1) : 훗는 6- 집 합체 이 다. 공리 (K-2) : ff의 원소 A(Ef f) 에 대 하여 O~P(A)~I 이고, 특히 P( Q )=I 이다. 공리 (K-3) （전확물법칙) : 만일 A,BE ff이고, AnB=¢ 이면 P(AUB) =P(A)+P(B) 이다. 공리 (K-4)( 연속성의 공리) : 만일 A 1, A2, …드多에 대하여 A1 급 A2 곡·급 A 급 ... 이고또 nne=o lA n=J o 이면 다음 등식이 성립한다. limP (An)=O (1- 29) n 一' 그런데 공리 (K-3) 과 공리 (K-4) 는 다음 공리 (K-3’) 로 대치할 수 있다. 공리 (K-3') （완전가법성) : 만일 AEf f(n =l, 2, …）이고, 또 A;nAj = ¢(i=y)이면 P( nu.=. l A n) = n~.=.P I (An) (1- 30) 이 성립한다. 정의 1-24 측도공간 (X섀 e,mm)( X에 )<대o하o여 측도 m 이 (1-31 ) I
를 만족할 때, m 을 유한측도(fi n it e measure), (X, 宣, m) 을 유합측도 1 공간(fi n it e measure s p ace) 이 라고 한다. 정의 1-25 특히 유한측도공간 (Q,ff ,P) 상에서의 측도 P 가 P(Q) =1 (1-32) 를 만족할 때, P 를 확률측도(p robab ility measure) 라 하고 (Q,ff,P ) 를 확률공간(p robab ility s p ace) 이라 한다. 또 P(A) 를 A( 드空)의 확룔 이라한다. 정리 1-1a(Boole 의 부등식) 확률공간 (Q,ff,p)에 있어서의 사상열 Ai, A2, ··•Ef f 에 대하여 P(Un°=' lA n)~nI = ;lP ( An) (1-33) 이 성립한다. 증명 이제 B1=A1 ; Bn=A,.-iUn=- 1 l A i (n=2, 3, …) 라 두면 B,'Ef f (n= l, 2, …) 이 고, B” 는 서 로 소 (d i s j o i n t) 이 다. 분만 아니라 .. .. nU=lA n=nU=Bl n 이다. 죽 A1, A2··· 의 합을 서로 소인 B1, B2, …의 직합 (d ir ec t sum) 으로 쑬수있다. 그러 므로 공리 (P-2) 에 의 하.여. ... P(Un=Al n)=P(U11B=1 n) =nIO=:O lP ( Bn)
。 ~ 1~1 =P1 (A,,) 이 성립한다. 口 정라 1-19 확률공간(Q,ff ,P) 에 있어서 사상열 Ai ,A 2, ... (드空)가 단 조열이면 P(lim An) = lim P(An) (1-34) 가 성립한다. 증명 i) 우선 {A } 가 단조중가열 이 면 B1=A1, Bn=A,.-An-1 (n=2, 3, …) 이고, {Bn} 는 서로 소이다. 분만아니라 An= jU=n Bl n, (n=I, 2, …) eo Iim An=UBn j= l 이므로 P(lim An) =P(U°' B;) =~eoP (B;) j= l j= l = Iimj : =En l P(B1) =limP (Un B1) j= l =limP (An) ii) 다음 {A ｝가 감소열일 경우 Af ,A L· .. 논단조중가열이므로, {A 입 에 관하여서는 이미 i)에서 증명되었다. 그러므로 P(lim An) =P{(lim A~) 의 =P(Q) -P(lim A;) =P(Q) -lim P (A;) =lim (P(Q ) -P(A;)} =limP (An) 이다. 曆
정리 1-20 (Q,ff ,P) 에 있어서의 임의의 한 사상열 A1,A2, …(드多)에 대하여 P(ITm A.) ~lim P(A.) (1-35) P( 쁘 A.) 획쁘 P(An) (1-36) 특히 Ii mA” 가 촌재하면 P( Iim An) = lim P(A.) (1-37) 둥이 성립한다. 증명 i) (1-35) 식 의 증명 : B,1=J =U• n AJ , (n=1, 2, …) 라 두면 {Bn} 는 감소열이 되므로 福i An= nn‘=o l {jU=e nA j} oo =nn=Bl n (•: {B ｝이 감소열이므로) =limB n 이므로 정리 1-19 의 (1-34) 석에 의하여 P(lim An) =P(Iim Bn) =IimP (Bn) 느血 P(An) ii) (1-36) 식의 증명 : i)과 아주 유사한 방법으로 증명된다. iii) (1- 37) 식 의 증명 : Iim An 이 촌재 하면 lim An= 面 An= 쁘 An 이 성립하므로 P(li m An) = P(iim An) ;착面 P(An) 이고, 한편 P(Iim An) =P( 쁘 An) 확쁘 P(An) 이 성립하므로 다음 부등식을 얻는다.
屈 P(An) 획mi P(An) (1- 38) 그런데 일반적으로 担 P(An) 획面 P(An) (1-39) 이 성립하므로 (1-38) 식과 (1-39) 식에서 P(li m An) = 血 P(An) = 뻑 P(An) = lim P(An) 울 얻는다. 巴 이제 A 를 多-가축집합이라 하고, 또 S( (J)）를 A 의 원소 (J)에 관한 하 나의 명제라 하자. 정의 1-26 집 합 M= {(J) : ~S((J) )} 에 대 하여 McN, P(N)=O (1-40) 인 多-가축집합 N( 드空)이 존재할 때, 명제 S(w) 는 A 의 거의 모돈 w(EA) 에 대하여 성립한다고 한다. 이럴 경우 S((J) ) a. e. A 로 나타낸다 .4)
4) a. e. =almost everyw here 의 약자.
예컨대, 함수f가 거의 모든 (J)에 대하여 정의되어 있다고 하는 것 은 f의 정의역 (doma i n) 을 D1 라 할 때 D/::J rJ- N, P(N) =O 인 多-가측집합 N( 드空)이 촌재하는 것을 의미한다. 또 A( 드空)상의 함수들 f, g 에 대 하여 f=g a.e. A (1-41) 라하는것은 {(I) : (I)E A,f ((I)) =g ((I)) } :JA -N, P(N) = O 인 N(E ff)이 존재하는 것을 의미한다 .5)
5) N= {ro : f(r o)::f ::g( ro)}
§ 1-8 확률측도의 확장 § 1-5, 공리 (P-2) 에 서 확률측도 Po 의 유한가법 성 에 대 하여 언급한 바 있다. 이 철에 서 는 확률측도에 대 한 완전가법 성 (comp le te l y addit ive pro p er t y) 과 Kolmog o rov 의 확장정 리 등에 대 하여 언급하고자 한다. 정의 1-27 집합족 多를 9 의 부분집합들로 이루어전 한 집합체(fi eld) 라 할 때, 훗상에서의 한 측도 1oeo 가 다음 공리계올 만족할 때, 'lleo 를 훗 상에 서 의 유한가법적 측도(fi n it e addit ive measure) 라고 한다. i) 모든 A( 드空)에 대하여 집합함수 (se t fun c tion ) ooe 。 (A) 가 多상 에서 정의되고, 또 다음 부등식을 만족한다. 공리 (M-1) : 0~ 窟。 (A) <+oo ii) 만일 A1,A2, … ,An(E 三多)이 서로 소이면, 다음 부등식이 성립 한다. 공리 (M-2) : o3e 。 (UA i) =! :o3e 。 (A j) j= l j= l 그런데 Q든多 이므로 공리 (M-1) 에 의하여 窟。(Q )
1 이라고 한다. 죽 A1, A2, …( Ef f) 에 대하여 A,. n A j = ¢ (i누j) ; Uco A j己空 j= l 이면 다음 동식이 성립한다. O o 공리 (M-3) : 繼 (iU= I A j )=jE= l 館。 (A j) 정리 1-21 (Kolmog o rov 의 확장정 리 ) ffo 가 집 합체 이 고 ffo 가 생 성 하는 6 집합체를 호라 하자. 그리고 또 多。상에서의 유한가법적 유한축도 Po 가 空。상에서 완전가법적이면, 모돈 A(E ff o) 에 대하여 P(A) =P 。 (A), (AEf f0) (1-43) 울 만족하는 (J－집합체 多상의 유한축도 P 가 유일하게 존재한다. 이때 P 를 Po 의 ffo 에 서 多에로의 확장 (ex t ens i on) 이라고 한다. 그러 면 정 리 1-21 울 증명 하기 에 앞서 먼저 Carath e odory 의 의 측도에 관하여 설명하기로 하겠다. 정의 1-29 집합함수 P 가 다음 공리계를 만족할 때 P 를 Carath e o- dory 의 외측도 (Cara t heodor y 's oute r measure) 라고 한다. 공리 (C-1) : Q의 임의의 부분집합 A 에 대하여 P(A) 가 정의되고 또 그것이 다음 부등식을 만족한다. o~P(A)~+oo 특히, P( cf, )=O 이다. 공리 (C-2) : 만일 AcB 이 면 부등식 P(A)~P(B) 가 성립한다. 공리 (C-3) : P 는 9 의 부분집 합열 {An} (n=l, 2, …) 에 대 하여 부 등식
O P)( j � C=Ul A;) ~ O = jlI ; P(A1
7Fr1� � �\�а �p�� �� 1-1 p |� aaCtrheodryo X� X� !�ij|� XՐ�. ���� � �� X� X� \� ��i� W �� �X��� P(W) |� (WnA)+P(WnAc) (1-44) |� ̹q�XՔ� ��i� A ȴ�\� t�踴�� ��i�q� (class) |� tl3|� X�t�, tl3�� 6 ��iմ� (a- fi eld) t�� � P �� tl3��X� !�ijt��" �Ʌ� ��i�q� 8 � 6- ��i�t� �0� �\� ����Ĭ � ���� (F-1) �� ���� (F-2) |� ̹q�XՔ� ��@� 8 X� �X���� ����X��. 0�|�� 8 � ��8��� ���� (F-3) |� ̹q�XՔ� ��D� �����0�\ � X�ՠ�. i) ��X�X� \ � ��i� W �� X���� P( W) � P( Wn A) +P( Wn Ac) ~P(WnAnB) +P(WnAnBc) +P (WnAcnB) +P(WnAcnB t� ~P(WnAnB) +P(WnAnBc) U (Wn -AcnB) U (WnAcnBc)J(W) q�i� (WnA j )+P(Wn
=P{Wn (AnB)J +P{Wn (AnB )�}t � �1��XՌ� ���\ �A n B �� (1 -44) ��D� ̹q�\��. �� AnBE tBt��. i i) ��i��� {A.
} (n=I, 2, & ) (E t8)�t� �\� ��t�t� ��� n �� � X��� L�� �����t� 1���\�� .6) P이라두면 공리 (F-2) 와 i)에 의하여 BnEd3 이다. O OO 분만 아니라 nU=IA n=Un=B I ” 와 같이 직합으로 나타내 주면 ii) 의 (1- 45) 식 에 의하여, 임의의 집합 W 에 대하여 P(W) 척j:합 l cwnB j) +Prwn CjU: l B1)c1 ~~n P(WnBj) +P{Wn (Um B1) 의 i= l j: l 그런데 또 n-+oo 라 하면 P(W)~IO ;O P( WnB1) +P(Wn (UOBO 1) 아 찰j= l ( Uoo (WnBj) } +P(Wnj= (lL JB j ) c} j= l oo j=oo l =P(Wn (UAj) } +P(Wn (UA1) 아 j= l j= l 따라서 U•• A” 는 (1- 44) 식 을 만족한다. 죽 UOO AnEd3 이 고, 그러므로 n=l n=l d3 는 (1－집합체이다. iv) 끝으로 P 가 tB상의 측도임을 보이기로 하자. 임의의 한 집합 AE tB에 대하여 o~P(A)~+oo 임을 만족하는 것은 분명하므로 서로 소인 &A2, … (E tB)에 대하여 co eo P(jU= l A ;)=~j= Pl (A1) 가 성립함을 00 보이기로 하자. 이제 A=Ui=A1 / 라 두면 (1-45) 식에 의하여, 임의의 자연수 n 에 대하 여 P(A)~I ;P( AnAj) +P{An (UA1) 와 ~~j=Pn l (A1) i= l 1=I 이 성 립 하므로 n-+oo 일 때 부등식 P(A)~.E. . P (Ai) j= l
가 성립한다. 그런데 일반적으로 P(A) =P(i W=O ,IA i ) ~j_I =o ;,I P ( Ai) 가 성립하므로 P(i U.=, I A 1) = jI=O; I3 P (A 1) 가 성립한다. 艦 정리 1-21 의 증명 : 9 의 한 부분집합 A 에 대하여 Aci U=co l B ,, B1, B2, … E ff。 와 같이 되는 집합열 {Bn} (n=I,2, …）를 취하고, A 의 측도를 P(A)= i n f(.i=E' I P 。 (B1) IAcUj=OBS I 1} (1-46) 로 정 의 하면, P 는 Carath e odory 의 의 측도가 된다. 죽 Carath e odory 의 의 측도 공리 계 중에 서 공리 (C-1) 과 공리 (C-2) 둥을 P 가 만족하는 것은 (1-46) 식의 정의에서 분명하므로 나머지 공리 (C-3) 를 보이기로 하자. 집합열 A1,A2, …에 대하여 AP(1A11c1} =U)‘I ＋ B11유21, >B1i 1합=~1 ,1 입B 11 (2B, …u己) 忽。 등을 만족하는 집 합열 B1 ,1, B112, …가 존재 한다. 그러 면 1U10= 1 A 11Ck ,Uj 0= I B 111, B111E ff。 (k=1, 2···) 와 같이 되고, 분만 아니라 부등식 P(U尊A .) <족 .2tml ( PP 。 ( (AB,u)) 令 ) A=l A,j = l
=Ikc=o: IP ( A.) +e: 이 성립한다. 그러므로 f >O의 임의성에 의하여 구하는 부등식 P(Uo Ak)~Io ;P( A.) l= l k=l 를얻는다. 따라서 임의의 집합 W 에 대하여 P( W) ~P( Wn A) +P( Wn Ac) 를 만족하는 집합 A 전체로 이루어지는 class 를 8 라고하면, 보조정리 1-1 에 의하여 6 는 c- 집합체이고, P 는 tB상에서의 측도가 된다. 다음 P 가 多상에서의 측도임을 보이기 위하여서는 ff c tB임을 보이 면 되고 그러기 위하여서는 훈가 ff o 를 품는 최소의 6- 집합체이므로 ff oC t8임 울 보여 주면 충분하다. 임의의 A( 드空。)를 잡는다. 그리고 임의의 집합 W 와 임의의 정수 s 에 대하여, F 의 정의에 의하면 WC U.. BJ , B1, B2, …己忽。 P( Wj=) I +e> 할.. 。 (Bj ) i= I 를 만족하는 {Bi , B2, ···} 가 존재 한다. 그런데 B,nA, B,nA 뚝多。 이고, Po 의 정의에서 Po (B1) = Po (B, n A) + Po (B, n Ac) 이다. 다론한편 wnAcuj‘=° . l.( B,nA) wnA 도 jU= l( B;nA 이
이므로 P 의 정의에 의하여 P( W) + e> I; P 。 (Bi) j= I = I; Po (B i n A) + I; P 。 (Bi n Ac) ~Pj= I( Wn A) +P( Wj= I n Ac) 이고, e 의 임의성에 의하여 (1 -44) 식을 얻는다. 죽 AEIB 이다. 그러 므로 ff0C IB 이 다. 이제까지 P 가 空상의 측도임을 보였으니, 이제부터는 AE ff 0 에 대하 여 P (A) = P0 (A) (AE ff。) 임을 보이자. 그러기 위하여서는, P(A) 족 P 。 (A) 임은 P 의 정의에서 분명하므로 P(A)~Po(A) 임을 보이면 충분하다. 임의의 정수 e 에 대하여 AC UOO B J , B j드乞。 j= l 。 P(A)+ t
= P 。 (A) , (AE ff。) 그란데 e>o 의 임의성에 의하여 P(A) ~p。 (A) , (AE fT。) 이 성립한다. 그러 므로 (1-43) 식 이 성 립 한다. 또 (1 -43) 식에 의하여 P(Q) =Po(Q ) <+oo 가 성립한다. 이제까지 P 가 空상의 유한측도임을 보였는데 끝으로 위 유한측도 P 가 유일하게 존재한다는 것을 보이기로 하자. 그러면 P1 도 또 하나의 측도로서 P1 (A) = P 。 (A) , (AE ff。) 를 만족하는 多상의 유한측도라 하자. 그리고, 집합족 錦가 P1(A) =P(A), (AEf f) 를 만족하는 모든 A 로 이루어전 것이라 하자. 그러면 AE ff 0 에 대하여 P(A) =P0(A) =P1(A) 가 성립하므로 AE 鷲이다. 따라서 空。 cooe 이 다. 다음 A1, A2, …( 드碑) 를 단조열 이 라 하면 정 리 1-19 의 (1-38) 식 에 의 하여 P(lim An) =lim P(An) =limP 1(An) =P1(1 im An) (1-47) n 이 성 립 하므로 lim AnEi e 이 다. 그러므로 碑논 단조 class 이다. 그런데 碑는 ff o 를 품는 단조 class 이고, 또 /는 ff o 를 품는 최소의 6- 집합체이므로 정리 1-14( 만조 class 정리)에 의하여 多＝綿 이다.
따라서 모든 AEf f 에 대 하여 P (A) = P1 (A) , (AEf f) 이 성립하고 측도 P 와 P1 은 서로 일치한다. 그러므로 정리 1-21 의 (1-43) 식을 만족하는 多상의 유한측도 P 는 유 일하게 촌재한다• 四 정리 1-22 多를 ff o 가 생성하는 0- 집합체라 하고, P,P1 을 忽상의 두 개 의 유한측도라 하자. 그리 고 모든 AEf f0 에 대하여 , 만일 P1(A) = P(A) 이면 P 와 P1 은 忽상에서 일치한다. 증명 P, Pl 등을 空。 상에 서 생 각하면 유한가법 적 유한측도이므로 多。 상에서 완전가법적이고, 또 多。상에서 P,P1 은 서로 일치한다. 그러므로 정리 1-21(Kolmo g orov 의 확장정리)에 의하여 P 와. p l 은 忽 상에서 일치하게 된다. g] § 1-9 조전부확률 이제까지는 확률공간 (Q,ff ,P) 에서 주어전 사상 BE ff에 대한 확뭍 만을 언급하였다. 그러나 이제부터는 사상 A 가 B 의 실현확률에 영향을 미치게 될 경 우 B 는 A 에 종속적 (depe n dent) 이 라고 한다. 정의 1-30 조건 A( 드玄)에 대한 B( 드꾼)의 조건사상을 BIA 로 나 타내 주고, 또 P(A)>o 일 때 P(BIAP)(=A)~ (1-48) 를 조건 (cond iti on) A 하에 사상 B 의 조건부확률 (condit ion al pro babil ity) 이라고 한다. 위 정의의 (1-48) 식에서 바로 다음 관계식을 얻는다.
P(A n B) = P(B \ A) P(A) , P(A) > o (1- 49) 뿐만 아니라 수학적 귀납법을 적용하면 A1, A2, • ··, A 투忽。 에 대하여, 만일 P(A1nA2n… n An)>o 이떤 P(()n_ Ai) =P(AJ P (A2 I A1) …P (A,. J A1n… n An) (1-50) j= l 이 성립한다. 위 (1 -49) 식과 (1-50) 식을 확률의 승법정리 (mul tipli ca ti on t heorem) 라고 한다. 정의 1-31 (Q,ff ,P) 를 하나의 확률공간이라 하고, 유한열 {Bi , B2, … ,Bn} 가 i ) B .. nBj =g (i누j) ii) UB;=i l iii) iP= l( B;)>O (i= I, 2, …, n) 둥을 만족할 때, 유한열 {B;} (i= I, 2, … n) 를 9 의 한 분할(p ar titi on) 이라한다. 정리 1-23( 전확물정리) B 와 {A;} (i =I,2, … ,n) 를 각각 (Q,ff ,P) 상에 서의 사상과 분할이라 하자. 그러면 P(B) =P(A1)P(BIA1)+… + P(A,.)P(BIAn) (1- 51) 이 성립한다. 증명 사상 B=E”A ,. nB 로 나타내 주면 i= l (A; n B) n (A,· n B) = ¢ (i~j) 이므로
P(B)=P(~” A,nB) i= l =~in= P I (A,nB) = t” P(A,) P(B \ A,) i~ l 이 성립한다. 정 리 1-24(Bay es 의 정 리 ) (Q, ff, P) 의 한 분할을 {A;} , (i= l, 2, …, n) , Be 多이라면 P(A,IIn; PB( A1))P=(B~IA1) (1-52) i= l 이 성립한다. 증명 정 의 1-30 의 (1- 48) 식 에 서 P(A; I B)=P(B~) _ In;P P((A A; 1)P) P(B(BIIAA ;1) ) (°:1-51) j= l 이 성립한다. 四 특히 (1-52) 식으로 정의되는 확률은 사상 B 가 일어난 후 그것이 원 인(사상) A i에 기인하게 되었울 가능성을나타내 주는확률로서 원인확률 또는 사후확률(p os t er i or p robab ility)이라고 부른다. 이 에 대 하여 P(A,·) 를 절대 확률 또는 사전확률(pri or p robab ility)이 라고. 부른다. 예제 1-3 과거의 관례에 따르면 런던 (London) 과 크덮돈 (C lift on) 에서 편지들을 받게 될 확률이 거의 비슷하였다고 한다. 그런데 지금 막 도 착한 한 통의 편지에는 발신인의 주소와 성명이 없이 소인 ‘ON' 만 찍 혀 있다고 한다. 이 편지가 런던에서 보내졌을 확물을 구하여라. (단, 소인의 각 문자가 찍히는것은서로독립적이고, 또 한 문자가 찍히지 않 율 확문은 点이다.)
해설 펀지가 런던과 크덮톤에서 발송될 원인사상들을 각각 A1,A2 라 하고, 펀지가 보내온 사상을 B 라 하자. 그러면 원인들의 존재확률은 각각 P(AJ =½, P(A2) =강 (a) 이라 할수 있다. 한편 편지가 런던에서 발신되었을 조건부확물은 P(B IA1) =2( 志 )2 信 )4=2· 옮 (b) 마찬가지로 편지가 크덮톤에서 발신되었을 조건부확률은 P(B IA2) = （志)關)느갭 (c) 따라서 위 (a), (b) 와 (c) 석 동의 결과들을 정 리 1-24 의 (1 -52) 식 에 대입하면 구하는 확률을 얻는다. 즉 P(AP1(AJI PB(B I A)i )= + P(~Az) P(B I 布) = 11672001 따 =0. 95 위 사후확률 P(Ai l B) ~0. 95 로서 사전확률인 P(A1) = 0. 5 와 견주어 볼 때 상당한 차이가 있음을 알 수 있다. 한편 조건부확률 P(BIA) 에 대하여 다음 관계식들이 성립하는 것을 쉽게 확인할 수 있다. P(BIA)~o (1-53) P(fJ I A) = 1 (1-54) 두 사상 B,C( 드空)가 서로 소이면 조건부확률에 대하여서도 P(BUCIA)=P(BIA)+P(CIA) (1-55) 이 성립한다. 그러 므로 조건부확률에 대 한 성 질 (1-53) 식 , (1- 54) 식 과 (1-55) 식 을 확률공리들(공리 (A-2), 공리 (A-3) ）과 비교해 봅으로써 집합체 !!T o 는 집합 함수 P(B I A) (AE!! To ) 와 함께 하나의 확률공간 (fJ, !!To , P( 0 I A) ）를 형
성한다는 것을 알 수 있다• 다론 한편 앞서 언급한 바 있는 확률조건에서 확률이란 같온 실험 또 논 현상을 동일한 조건하에 반복측정하거나 관찰할 때 주어전 사건이 발생하게 되는 상대빈도 (rela ti ve fr e q uenc y)로 해석하였다. 그러나 어떤 경 우에 는 비 결정 론적 (undete r mi ni s t i c) 이 긴 하지 만 원하는 상대 도수를 얻 울 수 있을 만큼 다수회 반복실험하거나 관찰이 불가능할 때가 종종 있 다. 예컨대 예제 1-3 의 경우 촌재확률들이 바로 그런 경우이다. 이 경우 확률이란 단지 그 사건이 일어날 것으로 믿어지는 신념의 정도를 나타 내 줄 분이다. 이런 확률을 이론적 확률(객관저 확물)에 대하여 주관적 확률 (sub j ec ti ve pro babil ity) 이 라고 한다. 그러나 주관확몰이라고 하여 비과학적인 것은 아니며, 경험이나 합리 적인 가정에 근거를 두고 구해지며 단지 반복실험을 동한 경험적 겁토 가 불가능할 따름이다. § 1-10 사상열의 확률독립 확률공간 (Q, ff, P) 상에 주어 전 사상 A( 드空)의 출현 여 부가 B(Ef f) 가 출현하게 될 확률에 하등의 영향을 미치지 않을 때, 사상 B 는 A 와 확률적으로 독립이라고 한다. 죽 P(BIA) =P(BIAC) =P(B) (1-56) 이 성립함을 의미한다. 따라서 § 1-9, 정 의 1-30 의 (1- 48) 에 의 하면 다음과 같이 정 의 한다. 정의 1-32 확물공간 (Q,ff ,P) 의 두 사상 A,B( 드多)에 대하여, 만일 P(AnB)=P(A) • P(B) (1-57) 이 성 립 하면 사상 A 와 B 는 확률적 독립 (sto c hasti c i nde p endence) 이
IL. [ 라고 한다. 간단히 확률독립이라고도 한다. 정리 1-25 두 사상 A 와 B 가 확률독립이면 A 와 BC 도 역시 독립이 다. 증명 A 를 칙합으로 다시 쓰면 A= (AnBe)+ (AnB) 이고, 공리 (P-2) 에 의하면 P(AnBe) =P(A) 一 P(AnB) =P(A) 一 P(A) • P(B) =P(A) (1-P(B)) =P(A)P(B 업 이다. 底 계 A 와 B 가 독립이면 Ac 와 BC 도 역시 서로 독립이다. 정의 1-33 n 개의 사상열 Al,A2,… ,A n 에 대하여 등식 P(nin= Al ;)=ITin= Pl (A;) (1-58) 이 성 립 하면 A1, A2, …, An 는 서 로 확률독립 적 (stu c hasti c i nd epe ndent) 이라고 한다. I정 의 1-34 무한사상열 A1,A2, …
에 대하여 임의의 유한개의 부분사상열이 확률독립적이면 그 무한 1 열은 확률독립적이라고 한다. 정리 1-26 i) 확률독립인 사상연의 한 부분열도 역시 확몰독립이다. ii) 가산무한개의 사상열 : A1,A2, …가 확률독립적이면 등식 m o, P(nAi) = ITP(Ai) (1-59) i= l i= l 이 성립한다. 증명 i)의 경우 편의상 n=3 일 때를 들어 증명하기로 하자. 죽, A i, A2,A3(E ff)가 서로 확불독립적일 때 A1 과 A2 가 독립적입 울 보이기로 하자. P(A1n A2) =P(A1n A2 n A3) +P(A1 n A2n A5) =P(A1) ·P(A2) •P(A3) (·: 정 리 1-24) +P(AJ ·P(A2) •P(A5) =P(A1) ·P(A2) ii)의 경우 만일 Bn= jnn= lA i (n=I, 2, …) (1-60) 이라 두면, 사상열 {Bn}(n=l,2, …）는 갑소열이 되므로 정리 1-19 에 의 하여 P(n.. Ai) =P(lim Bn) =lim P(Bn) j= I =limI Tn P(Ai) .. j= I =IiT= IP (Ai) 이 성립한다. 鷄 정 리 1-27 (Borel-Cante l l i 의 정 리 )
eo i) 사상열 : A1, A2, ···에 대 하여 iI=; I P(A i )
O m P(Jn= n A ~ )= j=I T P(A ; ), (n=l,2,… ) 이고, 또 ii)의 가정에서 I«; P( Ai) =oo (1-65) i= n 이다. 따라서 잘 알려진 급수와 무한적의 관계에서 ., IT (l-P (Ai) ) =O, (n=l, 2, …) (1-66) }= n 이 성립한다. 다론한편 B.=noo Af (n=l,2,… ) j= n 라 두면 {Bn} 는 n 에 관한 중가열이 되므로 정리 1-19 에 의하여 eo P( 回 Af ) =P(lim _n A f ) j0=0 n =lim P(nAf )
를 만족할 때, 이 사상열을 길이 n 인 Bernoull i 열 (Bernou lli 's seq u en· ce) 이라 한다. 그리고 B (p, n) = {Ai , A2, …, An} (1- 67) 로 쓰기도 한다. 마찬가지로 A1,A2, …가 독립적이고, P(A1) =P(A2) =… =P (O
연습문재 1. 정 리 1-1 의 관계식 (a), (e) 및 (g)항 등울 증명 하여 라. 2. 정 리 1-12, 정 리 1-13 등울 증명 하여 라. 3. 정 리 1-20 에 서 (1 -36) 식 울 증명 하여 라. 4. 수학적 귀납법을 이용하여 §1-9 의 (1-50) 식울 증명하여라. 5. 정 리 I-27 iii) 항울 증명 하여 라. 6.* p가 집합체 多상에서의 유한가법적 유한축도일 때, P 가 훗상의 완전가 법적일 필요충분조건은 A1, A2, … Ef f, A1, :::,A2 , :::,…-+¢이 면 lim P(A.)=O 가 성립하는 것이다. 7. * 측도공간(Q, ff, P) 에 서 AcB, BE.f 7, P(B) =O 일 때, AE ff이면 측도 P 를 완비축도 (com p le t e meaure) 라 한다. § 1-8; 보조정 리 1-1 의 class rB 상의 측도 (Cara t heodo ry 의 의 측도) p 는 완비측도이다. 8.* 무한집합열 {A.},n=l,2, ... 에 대하여 다음 등식들이 성립함올 보여라. a) 福 An= n円=1 (J U= n A1) b) 뻑 An= •U=°' l ( JnC=O n Aj ) 참고문헌 1. 高木貞治 著, 『解析槪論』, 岩波書店 (1956, 일본), pp. 496~497. 2. 鶴見茂 著, 『確率論』, 至文堂, p. 2, pp. 14~33, pp. 38~39. 3. :::t/t,~궁 P 7 著, 根本伸司 譯,Ii'確率論(l)基礎槪念.!I， 동경도서, pp. 2~3, p.1 9~28. 4. 河田敬義 著, Ii'確率論』, 共立出版社 (1952, 일본), pp. 92~93. 5. 全鍾雨의 1 인 공저, Ii'확물론입문.!I, 영지문화사 (1987, 서울), pp.5 7~65, p. 69. 6. 具滋興 著, Ii'고급통계 학.!I， 인하대 출판부 (1982, 서 울), pp. 85~86 7. 李載昌 著, 1i'최신통계학.II, 법경출판사 (1986, 서울), p.5 3.
제 2 장 확률변수와 그 기대치 § 2-1 확률변수 제 1 장, § 1-4, (1-11) 식에서 이미 실제적인 경우를 들어 확물변수를 예시한 바 있다. 죽 시합이 끝나게 될 때까지 소요되는 게임의 회수를 나타내 주기 위하여 이산확률변수 (d i scre t e random va ri able) 를 도입하였다. 그런데 이제부터는 보다 이론적이고, 또 엄밀하게 확률변수 (random var i able) 를 정 의 하려 고 한다. 예컨대, 동전율 던지는 시행에서 얻어지는 결과들의 집합인 표본공간 울 9 라하면 !2= {h, t} (2-1) 로 나타넬 수 있고, 여기서 h 는 표면을 의미하는 head 의 약자이고, t 논 이 면 (tai l ) 의 약자이 다. 그런데, 이 시행에 대한 확률분포를 구하거나 나타넬 경우 9 를 이것 과 대등한 실수공간 또는 그 부분공간으로 바꿔 주면 수리적으로 나타 내 주는데 아주 편리하게 된다. 죽, 9 상에서의 함수 X 를 다음과 같이 정의한다. X : Q= {h, t} 국 ~1= {O, l} (2-2)
(X(h) =l , X(t) =O ) 다른 한편 학생들의 신체겁사에서 그 대상은 사람들이지만 관십의 초 점은 성별, 신장, 체중, 맥박수…… 둥과 같이 계수적이거나 계량적인 특성들인 것이다. 위 (2-2) 식에서와 같이 표본공간 fl= {(J)｝상에서 정의된 함수 X( (J)）를 확률변수라고 한다. 또 X( (J)）의 치역 (Ran g e) 도 실수 또는 복소수로만 제한할 필요는 없으 며 문제에 따라서는 보다 일반적인 공간을 생각할 수 있다. 그런데 대 개의 경우 실수공간 R 또는 그 부분공간 R1(cR) 로 취하는 것이 관례 이다. 그리고 확률변수 X( (J)）로서는 9 상에서 정의된 모든 함수가 고찰의 대상이 되어야 한다. 왜냐하면, X( (J)）에 관하여 문제가 되는 것은 X((J) ) 가 집합 E 의 값을 취하게 될 확률이다. 즉, 기호로 P(X((J)) E E) (2-3) 로.쓰기로 한다. 분만 아니라 E(cR) 도 간단히 실수구간으로 하고, 일반적으로는 E 를 Borel 집합 (Borel se t)으로 취하면 된다. 그러므로 확률변수 X( (J)）는 E 를 Borel 집합이라 할 때 (2-3) 식에서 정의한 확률이 결정되면 충분하다. 즉 {(J) I X((J) ) EE} 럽 (2-4) 를 만족하면 된다. 또 위 (2-4) 식을 다음과 같이 써주는 것이 보통이다 {X((J) ) EE} = {XEE} 그리고 임의의 실수 a
대하여 {(I) : X((I)) ~a} 락 (2-6) 을 만족할 때, X(w) 를 玄-가측함수(ff -measurable fun c tion ) 또는 확률 변수라고 한다. 그러면 더 구체적으로 말해서 X(w ）를 9 상에서 정의된 실함수라 하 자. 그런데, 임의의 실수 a 에 대하여 X(w) 우 (2-7) 는 (I)에 관한 조건식이지만 이것을 사상으로 보고 그 확물을 구하기 위 하여서는 그것의 원사상 {X(w)~a} =X-1(-001 a] (2-8) 이 p,-가축 (P-measurable) 이 어 야 한다. 즉 측도론적 으로 말해 서 X((I)) 는 F 가측실함수 (P-measurable real valued fun cti on ) 이 어 야 한다. 이런 점울 고려할 때, 다음과 같이 정의할 수 있다. 더 욱 구체 적 으로 말하면, 9 가 k 차원 Euclid 공 7,} Rk (=Q) 이 고, /가 k 차원 Borel 집 합체 (Borel class) Bk (＝玄) 일 때, 안 상에 서 정 의 된 Bk- 가축함수 f (x) 를 Rk 상의 Borel 함수라 한다. 대개의 경우, 확불변수 X( (I)）에 대하여 X((I)) , {(I) | X((I)) ~a}, {(I) | X((I)) EE} 등의 표현들은 간단히 , 각각 X, {X~a} , {XEE} 등과 같이 쓰는 것이 보통이다. 그러면 이제부터 확률변수에 관한 여러가지 성질들에 대하여 논술하 여 보기로 하겠다. 정리 2-1 만일 X 가 확률변수이면 임의의 Borel 집합 E 에 대하여 {w l X(w) EE} 럽 (2-9)
를 만족한다. 증명 집합족 e 가 위 (2-9) 식을 만족하는 집합 E 전체로 이루어전 class 라 하면 IE1ce (여기서, JE l 은 1 차원 초등집합전체) 이고, 또 E 는 단조 class 이다 .8) 따라서 e는 집 합체 JEl 을 품논 단조 class 이 다. 그러 므로, 정 리 1-16
8) [2] pp. 38~39 참조.
에 의하여 JB l 은 JE l 이 생성하는 <1－집합체가 되므로 단조 class 의 정리 에 의하여 JB1 ce (2-10) 이다. 따라서 E 의 정의에 의하여 모든 Borel 집합 E 에 대하여 {XEE} 드多 이다. 國 정리 2-2 i) R J-의 연속함수 f 는 Rk 상의 Borel 함수이 다. ii) X가 실확률변수이고, 또 f가 Rl 상의 Borel 함수이면 f (X( (J)）)는 확률변수이다. 증명 i)의 증명 :f가 Rk 상의 연속함수이므로, 임의의 실수 a 에 대하여 {x : f(x )~a} 는 페집합이 되고, 정리 1-17 에 의하여 {x : f(x ) ~a} EIB 이 다. 그러 므로 f는 RE 의 Borel 함수이 다. ii)의 증명 :f가 R1 상의 Borel 함수이므로 입의의 실수 a 에 대하여 {x : f(x ) ~a} EIB1 이다.
따라서 E= {x : f(x ) ~a} (2-11) 라 둘 때 , 정 리 2-1 에 의 하여 {f(x )~a} = {XEE} 락 가 성립하므로 f (X) 는 확률변수이다. 回 정리 2-3 만일 X, Y 가 모두 확물변수들이면 i) cX, X+c (c= 상수)도 역 시 확률변수들이고, ii) X+Y, X· Y, IXI', (r>o) 도 역시 확률변수들이다. 증명 i)의 경우는 정의에서 분명하므로 ii)의 경우만울 증명하겠다. 임의의 실수 a 에 대하여 E= {( x, y) : x+ y~ a} F= {(x, y) : x • y~ a} 라 두면 x+y , X • y는 (x, y )ER2 를 변수로 하는 R2 상의 연속함수이 므로 정리 2-3 에 의하여, E 와 F 는 2 차원 Borel 집합들이다. 따라서 정리 2-1 에 의하여 {(X, y) EE}, {(.X, Y) 틱 F} 력 또 .. {X= 一 oo}=nn= l {X&-n} 락 {X=-oo, Y>o} = {X=-oo} n {Y&o}c 헉 마찬가지로 {Y=-oo}, {X=oo, Y
U {X
정의 2-4 Q의 한 부분집합 A 에 대하여 /A(w) ={ 1~ ((w成E EAA)) (2-19) 와 같이 정의된 함수 h 를 A 의 지표함수(I nd ic a t or fu nc ti on) 이라고 한다. 만일 AE .fT이면 임의의 실수 a 에 대하여 (IA (( I)) 족 ; a} E. fT 이므로 h 역시 하나의 확률변수이다. 정 리 2-4 지 표함수들의 유한개 의 선형 결 합(li near combin a ti on ) X((J)) =En a ,·IA j ((J)) (2-20) j= l 은 역 시 하나의 확률변수이 다. 증명 위 정리 2-3 의 i)과 ii)에서 분명하다. f3 정 의 2-5 위 정 의 2-4 의 (2-20) 식 으로 정 의 된 확률변수를 단순확률변 수 (s i m p le random var i able) 라고 한다. 정리 2-5 (X,.} (n=l, 2, …）를 확률변수열(가측합수열)이라면 다음 각 항은 모두 확률변수들이 다. i) max (X1, X2, …, Xn} , mi n (Xi, X2, • • , Xn} ii) sup ( XnInEN}, i n f (XnI 産 N} iii) lim sup Xn, lim inf Xn 증명 i) 의 전반부증명 : 만일 Xmax=max {Xi, X2, …, Xn} 이라고 하면 임의의 실수 a 에 대하여
{wlXm_.>a} = U” (wlXn(w)>a} 럭 ‘=I 이 므로 Xmax 도 확불변수이 다 . ii)의 전반부 증명 : 만일 X,up = sup {X,.l nEN } 라고하떤 {wj X , up> a} = U., {wlXn(w)>a}Ef f n= l 이 므로 X, up 도 역 시 확률변수이 다. 마찬가지로 Xa f=in f {X, 2 |n 드 N} 도 확률변수임을 밝힐 수 있다. ii)의 증명 : 상극한의 정의에 의하면 lim X,up =lim sup Xn 이라고하면 lim X,up = inf [s up {X1r ((J)) l k 측 n l nEN} ]력 이 므로 lim Xsup 도 역 시 확률변수이 다. 問 정리 2-6 i) 비 음확률변수 X(w) 에 대 하여 o~X1(w) 혹%(a,) ~··· 이고, 또 lim Xn ((J)) =X ((J) ) n 를 만족하는 단순확률변수열 X , . ,X2,··· 이 촌재한다. ii) 임 의 의 확률변수 X((I)) 에 대 하여 I X,, ((I)) l ~ I XC( I)) I (n =I , 2, …) 이고, 또 lim Xn ((I)) =X ((I)) 인 단순확률변수열 X1 , X2,··· 이 촌재한다. 증명
i)의 증명 : 입의의 자연수 nEN 에 대하여 Fn= {(J) IX( (J)）학} &=｛나 부착((J))＜끝} (2-21) (i= I, 2, ... , n2) 이라놓으면 Q= FnU (niU=2l E n,) 이다. 또 X,. (w) =n!Fn@) + 홉三군 -IE., ((I)) (2-22) ((I)E 9) 로 정의하면 X,.( (I)）는 단순확물변수이고, O~X,.((I)) 독 Xn+1( (I)）, nEN 이다. 이제 e>0 이 주어지고, (I)가 9 의 o임o 의의 한 접이라 하자. m
Xn= Yn-Zn (n=I, 2, …) 라두면 {Xn} (n=I, 2, …) 논 분명히 구하려는 성질을 만족하는 단순확률변수열이다. 回 위 정 리 2-6) 의 i)은 비 음확률변수 X((J) ) 가 비 음 • 유한치 단순확률변 수들로 이루어전 증가열의 국한으로 얻어지는 확률변수임을 의미한다. 한편 ii)는 임의의 확률변수가 모든 n 에 대하여 IX ((J)) l ~ \ X((J)) 1 를 만족하는 유한치 단순확률변수들로 이루어전 증가열들의 차의 국한 으로 얻어지는 확률변수임을 의미한다. § 2-2 확률분포 tl (=Rk) 이고, B 를 9 의 부분집합들로 이루어전 6- 집합체라 하자. 정의 2-6 Borel 집합체 B 의 원소(집합) E(EB) 에 대하여 정의된 Lebes q ue 식 측도 P(E) 가 주어 지 고, 특히 P(Q) =l (2-23) 을 만족할 때 , P 를 Q (B) 상의 확률측도 (pro babil ity measure) 또는 확률분포(p robab ility dis t r ibu ti on ) 혹은: 간단히 분포 (d i s t r i bu ti on) 라고 부른다 .9)
9) [1J p. 3 참고.
그러 면 우선 가장 간단한 경 우로서 9 가 유한집 합(fi n it e set) 인 경 우 를 생각해 보기로 하자. 죽 9 의 원소 전부를 {wh02, … ,w,' ｝이라 할 때, Borel 집합체 B 로서는 9 의 모든 부분집합들로 이루어전 집합족 2? 를 생각하면 된다. 또 각 원소 w 하나로 된 집합들에 대하여 확률측도 P(w1), P(w2), …, P(wn)
를 주면 측도의 가덥성에 의하여, 9 의 임의의 부분집합 E(c Q)의 확뭉 은
P(E)=I ;P( (J)) (2-24) CJE E 로 정의된다. 그러면 위 경우 접함수(p o i n t fun cti on ) P( (J)）는 분명히 모든 (J) E9 에 대하여 다음 조전석들을 만족한다• P((J)) 갈, 훑Q P( (J)） =1 (2-25) 그런데 Q상에서 정의된 실함수 X(w) 가 X(wi ) =Xi (i= l, 2, ... , n) (2-26) 일 때, X(w) 는 이산확률변수 (d i scre t e random var i able) 이고, 득히 모든 i에 대하여 P(w;) =P(X(w;) =x;) =上n 로 주어질 때, P 를 이산평등학몰분포 (un ifo rm pro babil it y d i s t r i bu ti on) 이타 고부른다. 그리고 P(w) 에 대응하는 X 의 접함수를 P(w;)=f (x ;), (i=l ,2,… ,n )•·· • (2-27) 로 정의하면, 함수f (x) 는 제 1 장, §1-4, (1-9) 식 또는 위 (2-25) 식을 만족한다. 죽 접함수 f (x) 는 다음 관계석들을 만족한다. f (x,.(） i측= 0 l,, 2,Ein = …l f , (nx )i) =1 (2-28) 정 의 2-7 이 산확률변수 (d. r. v. ) X 에 관한 함수 f(x ) 가 (2-28) 식 을 만족할 때, f (x) 를 X 의 확률질량함수(p .m, f, =pro babil ity mass fun c· ti on) 라고 한다. 또 X 에 대 응하는 f (x) 의 분포 X: x1 따… X,.••• 합계 f(x ) : f(x i) f(石)… f(다… I.0I 를 이산학률분포이라고 한다. 죽 이산확률분포는 총도수 N=I :f(x, -)=1 인 도수분포로서, 간주된 다. 정의 2-8 이산확률변수 X 에 관한 함수 F(x) 가 F(x) =P, {X~x} =I:f(x) (-oo
한다. 또 이 분포를- B i n(n, p)이라 기호로 쓴다. ‘이항분포'는 그 p .m. f.가 (p+q)”의 전개석의 일반항으로 주어지기 때 문에 이 항정 리 (bin o mi al th eorem) 에 서 유레 된 명 칭 이 다. 예제 2-3 (포앗송분포) 이산확률변수 (d.r.v.) X 가 다음 p.m .f. 를 가질 때, 이 확률분포를 포아송분포 (Po i sson d i s t r i bu ti on) 라 한다• f(x )=— e 크짜— 2 x (2-32) (x=O, I, 2, …) 또 이 분포를 P(2) 라 기호로 쓴다. 위에서 거론한 3 가지 분포들의 P. m.f. 들이 (2-28) 식으로 주어진 성 질들을 모두 만족하는 것은 분명하다. 다음 9 가 가산무한집합 (coun t able se t)일 경우에도 유한집합(fi n it e se t)일 때와 마찬가지로 확률분포를 이루지만 그 평등분포는 촌재하지 않는다. Q 가 실수공간 R 일 때, (1－집합체 忽률 안으로 취하는 것은 불가능하 다. 多를 위한 가장 자연스러운 방법은 R 의 모돈 개집합(또는 개구간) 울 품는 최 소의 Borel 집 합체 (Borel field ) B1 을 덱 하는 것 이 다. 이 대 JBl 의 원소(집 합)는 Borel 집 합이 다. 또 P 를 R( !B 1) 상의 확물분포라 하자. 그러면 접 xER 의 임의의 근방 (neig h borhood) Nx 에 대하여 P- 측도 P(Nx) 가 양일 때, x 는 F 의 써포 트 (su pp or t)에 속한다고 한다. I 정의 2-9 P- 측도에 대하여 P(x)>0 일 때, 접 x 를 혹땅분포 P 의 불연속점 (dis co ntn o us poi n t ) 이 라 한다. 그런데 P 의 불연속접둘 전체를 D 라 하면 D 는 가산집합 또는 유한 집합을 이룬다. I 정의 2-10 만일 P(D)=l 이면, P- 측도는 순수불연속적(p urel y dis c on- ti nous) 이라 하고, P(D)=O 이면 P- 측도는 연속적이라 한다.
위에서 정의한 바 있는 연속성보다 더 강한 조건으로 다음의 절대연 속성을 듈 수 있다. 정의 2-11 만일 E 의 Lebesg u e 측도 L(E) =O 일 때, P(E) =O 인 경 우 측도 P 는 측도 L 에 대하여 절대연속적 (absolu t el y con ti nuous) 이라 고 정의한다. 측도 P 가 철대연속일 경우 P 는 밀도함수 (dens ity fun cti on ) f (x) 를 가지며 다음 관계가 성립한다. P(E) =~E8 /(x)dx (2-33) 이때 f (x) 는 확률밀도함수(p •d· f=p robab ilty densit y fu nc ti on) 이며 다 음 조건들을 만족한다. f(x )~o; ~RRf (x )dx=l (2-34) 위 (2-34) 식 은 (2-28) 석 에 대 응하는 조건들이 다. 정의 2-12 축도 P 가 연속이면서 절대연속은 아닌 경우 그 확률분 1 포를 특이분포 (s i n g ular d i st r i bu ti on) 라고 한다. 예제 2-4 § 1-4, 예제 1..:.2) 에서 언급한 바 있는 K=[ 0, 1 J상에서의 특 이분포를 구하여 보기 로 하자. 풀이 S 를 앞서 언급한 Canto r 의 영 집 합(t ernar y set) 이 라 하고, K 에 서 집합 S 를 얻기 위하여 제거한 바 있는 구간은 제 n 회까지 모두 2-l 개이며, 이들 구간은 일반적으로 다음과 같이 줄 수 있다. (응+웁+…+ 뚤戶승, 풍+물+…＋告+울) (a) (여 기 서 , a1, a2… , an一 1=0 또는 2 이 다• ) 또 이 구간의 접 x 에 대하여 함수
F(x) ＝분+률+ ... +씀若 (b) 여기서 i= l,2,… , n-1 a,=O-P,= O a i =2 一pi =1 과 같이 정의한다.
VL
그리고 A=K-S=[O, 1]-S 상에서 F(x) 의 값을 F(O)=0, F( l)= I 이라 하고, 0 과 1 이의의 S 의 접들에 대하여 F(.x) =sup (F(t) I tE A, t
한편 F(x) 는 K=[O, 1 〕상에서의 연 속 함수이다. 왜냐하면 만일 x 。 EK 가 F 의 불 연 속 접이라 가정하면 F 가 증가함수 이므로 F(x 。 _o )
10) F(xa-O)=li m F(x) F(x. + O) =:I,:i-m:,: , -F0 (x) x:,:'+ 0 11) (6 〕의 p. 1 34 참조.
예재 2-5 확률변수 (c.r.v.) X 가 확률밀도함수(p .d ,f.): f(x ) =―b-느a (a
12) Lebesgu e 분해 라고 부른다.
정의 2-13 연속확률변수 (c.r.v.) X 에 대하여 적분: F(x) =P(X~x) =[-.. .. f (x )dx (2-37) (여기서, f (x) 는 x 의 p.d .f. 이다.) 로 정의되는 함수 F(x) 를 X 의 분포함수 (d. f.）라 한다. 위 (2-37) 식으로 정의된 분포함수 F(x) 는 앞서 언급한 바 있는 성질 들을 만족한다. 죽 i) F(+oo)=l, F(-oo)=O ii) F(x) 는 단조증가함수이고, iii) F(x) 는 양방연속이며, iv) 사상 E= {w : a~X(w) ~b} 의 확률 P(E) 는 다음과 같이 구해진
다. P(E) =P, {a
ii) X 의 p. d.J . 를 구하여 라. 폴이 i) 의 계 산 : x~a 0,1 경 우와 x~b 0,1 경 우는 분명 하므로 a
의 산술평균치이다'’라는 공리에 입각하여 측정치 를 나타내 주는 연속 확 뮬 변수 (c.r.v.) X 의 p.d .f •. 를 다 음 곡선방정식으로 상정하였다. f(x ) =k • e 구 (x-c)2 (2-42) (여기서 _oo
정도(p re cis i on) 라고 부른다. ® 표준화정규분포 정 규분포 N(µ, a2) 에 대 하여 변수변환 Z= (X-µ) /a 를하면 또 다론하나의 정규분포 N(o,12) 을 얻게 되는데, 이때 확물변수 Z 는 표준화정 규분포 (s t andard i zed normal dis tr ib u tf on ) 에 따른다고 한다. 이때 Z 는 평군이 0 이고 분산이 1 인 정규분포에 따르며, ::::z. p. d .f.는
ln/(x) =ln(2 국)-¼― (x 一硏 /2 군 芸=」 2Cx-µ) ·f pd2f =_7 f{ (x-µ)2- 러 .•.. pd 牙 =O<=)x=µ 土 0 를 얻는다. f 따라서 정 규분포 N(µ, 균) 의 p. d. f. f( x) 의 gra ph 는 x=µ 를 중십 (대 칭축)으로 대칭형 (s ym me t r i c) 을 이루며 최대치 f (u)=1/,/Z ira 를 가전 다. 또 구간 (µ-a, µ+a) 상에서는 위로 볼록 (convex) 한 곡선이고, 나머 (-oo, µ-a) U (µ+a, oo) 지 구간에서는 위로 오목 (concave) 한 곡선이며 X- 축을 점근선 (as y m pto t e) 으로 가진다. 분만 아니라, 확률변수 X 가 N(µ,a2) 에 따르고, 그 p .d. f를 f (x) 라 할때 X 가 실수구간 (a,b) 내의P( a값<으X로학 ) 실 =현r:될a f (확x)률 dx은 (2-49) b 로계산된다. 이것은 구하려는 확률값이 곡선 f( x), X- 축, 그리고 칙선 x=a,x=o 로 둘러싸인 면적과 같은 것은 정적분의 성질에서 분명하다. 위와 같은 사실은 아주 분명한 사실로서 X 의 실현치가 전공간 (-oo, oo) 내의 값으로 실현될 확률은 분명히 1 이고, f Cx) 를 전구간에서 적분 하면 그 면적이 1 이므로 곧 확인할 수 있다. 다음 정규분포와 표준화정규분포의 경우 독수한 경우를 빼고 나머지 구간들에 대하여서는 수치적분에 의하여 만들어전 정규분포표를 참고하 떤 다음과 같이 중요한 성질들을 확인할 수 있다. 정 규분포 N(µ, <12 ) 에 따르는 확률변수와 그 표준화확률변수를 각각 X, Z=(X-µ)/ <1라 할 때, 그들의 임계치 (crit ica l p o i n t)와 그에 대응하는 확률값은다음과같다 .•
임계치 확 홀 값 x=µ 土 a(z= 土 1) ; P(lx 一 µI~ 글 a)=P(lzl~1)=;=O. 68 x=µ 土1. 96a(z= 土1. 96) ; P(lx- 짜~1. 96a)=P(lzl~L 96)=;=0. 95 x=µ 士 2. 58(2= 土 2. 58) ; P(l x 一짜 ~2. 58a) =P(l zl ~2. 58)=;=0. 99 죽 X 의 실현치 x 가 모평군 µ를 중십으로 좌 • 우 土 1. (J(표준편차의 1 매)만큼 벌어전 범위에 속하게 될 확물이 대략적으로 0.68( 관갈치들의 68% ）이고, 마찬가지로 좌 • 우 土 2 • (J(표준편차의 2 배)의 법위에 속하게 될 확 률이 대 략 0. 95( 관찰치 들 의 95%), 그리고 좌 • 우 土 3 • (J의 범위에 속하게 뭘 확률이 대략 1. 0 으로서 거의 모든 관찰치가 이 범위에 속하 게 된다고 해석할 수 있다. 특히 확률변수 X 가 정규분포 N(µ, 균)에 따를 경우, X 의 실현치 x 가 x=µ 土 3a 한계 이내에 속하게 될 확률이 0.9972 임을 감안할 때, 만 일 X 가 표준규격 x=µ 인 공산품의 계량적인 목성을 나타낸다면 공정 이 안정된 상대에서 X 의 측정치의 거의 전부가 구간 (µ-3a,µ+3a) 에 속하게 된다는 결론을 얻을 수 있다• 위와 같은 이론에 기초를 둔 통계적 품질관리 (S. Q .C=S t a ti s ti cal Qu ali ty Con t rol) 의 과학적 기 법 인 36- 관리도 (3a-con t ral char t)가 미국인 슈하르트 (W. A. Shewhart, 1922) 에 의 하여 고안되 었 다. 그리고 이 S.Q . C 방식은 오늘날 생산관리 중품질관리에 널리 보급되 어 많은 기여를 하고 있다. ® 그 밖의 연속확률분포 예제 2-8 확률변수 X 의 p .d. f가 f (x)=~x•e 두 (2-50) (여기서 x>o, a>-1, P>O 이다.) 로 주어질 때, X 를 r- 분포(g amma d i s t r i bu ti on) 에 따른다고 한다. 정의 2-14 실수 a>o 에 r대(a하)여 = I적 갔분 - 1:e -zdx (2-51) .. 。 로 정의되는 함수를 r- 함수이라고 한다.
보조정리 2-1 r- 함수에 대 하여 다음 성 질 이 만족된다. iii)) rI('1(a) += 11) =aI' (a) } (2-52) 증명 i)은 분명하므로 ii)의 경우만 증명하기로 하겠다. r- 함수의 정 의 (2-51) 식 에 서 I' (a+ l) =f 。 갔 e-• dx f = -x。 ae-• 『0 + aJ O. , x;-1 e-• dx =aI' (a) 口 정리 2-9 위 (2-50) 식의 f (x) 가 p. d.J. 임을 보여라. 증명 f(x ) ~o 임 은· 분명 하므로 『--c o f(x )dx=I 임을 보이면 된다. 仁f (x)dx= r(a+11)0+l f:Xa e 今 dx, (x=j3 t) =~[(j3t)ae-t j3 d t =I ~ 정의 2-15 임의의 실수 a, f3= >of에 대하여 적분: B(a, /3) >1 -1(1-x)P-l dx (2-53) 。 으로· 정 의된 함수를 /3－함수라 한다. 예제 2-9 확률변수 X 의 p. d. f. 가 f( x)I'=(a+ ~ l) F/3(+ /32 +) 1) Xa(1-X){J (2-54)
(여 기 서 a, P>o, o
예재 2-10 확률변수 (c. r. v. ) X 의 p. d.f. 가 f(x ) =J_;_r 1+ (x1 一 µ)2 (2-56) 일 때, X 는 Cauch y분포 (Cauch y d i s t r i bu ti on) 에 따른다고 한다. 예재 2-11 확률변수 (c.r.v.) X 의 p .d. f.가 f (x)= 상다 (2-57) (O~x<+oo) 로 주어 질 때 , X 는 지 수분포 (exp on enti al dis t r i b u ti on ) 에 따른다고 한다. 예재 2-12 확률변수 (c.r.v.) X가 p.d .f. f(x ) =i m x'-1 e-2xm (2-58) (O~x) 를 가질 때, X 는 We i bull 분포 (We i ball d i s t r i bu ti on) 에 따른다고 한다. 또 기 호로 W(A, m) 과 같이 쓴다. § 2-3 기대치 제 1 장, §1-4 의 정리 1-10 에서 이산확률변수 (d.r.v.) X 의 기대치를 정의한 바 있다. 이 절에서는 연속확률변수 (c.r.v.) 및 그 함수 (Borel 함수)의 기대치에 대하여 언급하기로 하겠다. 이제 F(x) 를 확률변수 X 의 분포함수라 하고, f (x) 를 x 의 Borel 함수 타 하면 f( X(w)) 역시 하나의 확률변수가 완다.
I 정의 2-13 확률년L수。 1 x ( c(.w r.) v\ P. )( dXw()w =) 가[~ L| xeb \e dsFg(u x e) <적o분o 가능하고 일 때, µ=E(X) =JDO X(w)P(dw) =J「 _ ., x d F(x) (2-59) 를 X 의 기대치 (ex p ec t a ti on) 라 한다. 또 기호로 X 의 기대치를 E(X) 로 나타낸다. 정의 2-14 X((J)) E U(Q) (P>o) 일 때, E(IX((J)) 『)를 X( (J)）의 P 차 절대적률이타한다. ¢(o) 를 (Q,ff ,P) 에서 정의되고, P( 。)에 관하여 철대연속이고, 완 전가법적인 집합함수 (se t fu nc ti on) 라고 하면 ¢((I)） EL( Q)가 촌재하여 임의의 EE ff에 대하여 efJ( E) =IiE (w )P(dw) (2-60) 이 성립한다. 이때 p.d .f . ¢((I)）는 확률 0 인 집합(영집합)율 제의하면 유 일하게 정해전다. 위 내 용을 Radon-Ni ko dy m 의 정리라 한다. 다음 X( (I)） EL(Q)가 주어졌을 때, 多에 포함되는 임의의 Borel 집합 족을 多 1 이라 하면 ¢x(E) =jEE X ((I)) P (d(I )), EE!/ 71 (2-61 ) 는 P(o) 에 관하여 절대연속이고, 완전가법적인 ff 1 의 집합함수이므로 ¢x( o )는 多 r 가측이고, 적분가능인 d.f . 를 갖인다. 이것을 E{Xl ffJ로 나타내 주면 )sX ((I)) P (d(I) ) =)sE {X|ff i} P(d,.) (2-62)
(EEf f1, E: 임 의 ) 이 성립한다. 이 때 E {Xl ff1} 을 ff 1 에 대 한 X 의 조건 부기 대 치 (condit ion al exp ec tat i on ) 라고부른다. 마찬가지로 ff 1C ff 2C ff를 만족하는 Borel 집합족 ff1, f f 2 가 주어졌을 때 , EE ff 1 에 대 하여 fEE(X I ff1)P (dw) =fEX (w)P(dw) =fEE (Xlff 2)P (dw) 이므로 다음 관계식이 얻어진다. E CE(XI ff2) I ff1J= E(XI ff1) (2-63) 이제 이산확률변수 (d.r.v.) X가 취하게 될 모든 실현치들을 a1,a2, …, an( 서로 상이한 것들)이라 할 때, Ai = {X=ai} (j=I , 2, ···, n) 이라하면, X 는다음과같이 단순확률변수 (s.r.v) 로 다시 써줄수있다. X=n2j = l ai I Aj (AmAj= ¢, 뚝j) (2-64) 그러므로 X 의 기대치는 다음과 같이 구할 수 있다. n E(X) =LD Xd P=JL D ij=t I a1 IA1 d P((J)) =~야 IAj d F(o) =jI=; l ajP (Aj) 정의 2-15 X 가 단순확률변수 (s.r.v. ）이면 그 기대치는 f:1:, Xd P=~j1= al 1 P(Ai) (2-65) 로 정의한다. 정리 2-12 정의 2-15 의 (2-65) 식으로 정의되는 기대치는 유일하게 정해진다.
증명 위 (2-64) 식으로 주어전단순확률변수 (s.r.v.) X가 또 다론 하 나의 표현 X= Em bk IBk, (B,. n B 러 (타)) k=l 로 주어전다고 하자. 그러떤 2J 2,, ai IAj n m= EJ ai IAi = X = Ek bkIBk= 2,, EJ MA/nBk 로 쑬 수 있지만 A1nBk U=1, …, n ; k=1, …, m) 는 서로 소이므로 A1nBk=\=
+ Ej 2k bkP(Am Bk) =~ aiP (Ai) + ~k b,.P(Bk) =LXdP+LYdP 가 성립한다. ii) (2-67) 식의 증명 : X~Y(a. e) 인 관계가 있으므로 .EJ ~k a,.J Aj n B.=X~ Y = E E bkIAj n Bk (a. e. ) k j 이고, 또 A;nB1c (j=l , 2, …, n; k=I, 2… , m) 은 서로 소이므로 만일 P(A.-nBk)>o 이면 a j독 bk 이어야 하므로 LxdP=f ~ ajP (Aj n B1, ) D j k ~~~ bkP
정리 2- 14 위 (2-69) 식의 우년의 극한치는 반드시 존재한다. 증명 그러면 (2-69) 식의 기대치 E(X) 가 유일하게 촌재하는 것을 보 이자. 만일 X 에 대하여 두 개의 단순확률변수열 {Xn}, {Y ｝이 촌재한다고 가정 하면 § 2-1, 정 리 2-6 에 의 하여 , O~Xi ~Xz~•·· 값 0 족 Yl 독 Y2 족一 Y 둘을 만족해야 한다. 그러면 이제 앞서 정의한 기대치가 일치하는 것을 보이기로 하자. 죽 Iim f Dxd P= lim )DYdP (2-70) 가 성립하는 것을 보이자. 단순확률변수 Z 가 X 학 >O 를 만족하는 것이라 하자. 그러면 limj 0Xn dP~j 0Zd P (2-71) 이 성립한다. 왜냐하면 B={Z>o} 이라 할 때 o
=LZdP-LZIB-A 中 )dP 一 LcI 서 (c)dP 더 D ZdP-mWaEBx Z((J)) • P(B 一 An(e))-eP(An(e)) 그러므로 제 1 장, §1-7, 정리 1-19 에 의하여 li m j OXndP~ J OZdP- 떤:ax z(w) • 0-tP (B) 가 성립한다. 그러므로 c 의 입의성에 의하여 (2-71) 식이 성립한다. 한편 임의의 m 에 대하여 lim Xn=X6 Y,. . 이므로 (2 구 1) 식에 의하면 limJ OXn dP6J OY ,. dP 이다. 따라서 IimJ 0Xn dP 6 Iim ]0 YmdP 가 성립한다. 마찬가지로 반대방향의 부등식이 성립하는 것을 보일 수 있다. 國 정리 2-15 X, Y 를 바음의 확률변수들이라면 i) x~ y (a. e)-L YdP~L YdP (2-72) ii) L
O ~ X1 족 X2 술 ·- ► X o~Y1~Y2 급 ·--Y 를 만족하는 단순확률변수열들이 촌재한다. 분만 아니라 X~Yn(a.e. ）이므로 정리 2-13 의 (2-67) 식에 의하여 )0XdP= lim) 0Xndp ~lim) 0 YndP= )0 YdP 이다• ii)의 증명 : i)의 증명에서와 같이 Xn 과 Yn 둥을 취하면 o~X1+ Y1 독距 Y2~·••-->X+ Y 가 성립하므로 LQ( X+ Y)dP= li m) 。 (X+ Y露 )dP =lim (LXdP+ L YdP) = lim) 0XndP+ Iim) 0 YndP =LXdP+LYdP 가 성립한다 .. 霞 그러떤 지금부터 확률변수 X 의 평군치(저분)를 정의하고 그 성질들 에 대하여 언급하기로 하겠다. X딱 X 를 각각 확률변수 X 의 양의 부분(p os iti ve par t)과 음의 부분 (nega ti ve p ar t)이 라고 하면 X따 X- 는 비 음인 확률변수들이 되므로 이 들의 기대치들은 정의 2-16 의 (2-69) 식에 의하여 정의된다. 죽 Lx+ap 또는 Lx-aP 중 적어도 어느 한편이 유한 (
巨d P=LX+dP ―[ x-dP (2-74) 0 0 0 윤 X 의 기대치 (exp ec t a ti on) 또는 평군치 (mean) 라고 한다. 또 기호 E(X) (Exp ec ta t i on of X) 로 나타낸다. 이때 X 에 대하여 X떡 X젝 적분이 일의적으로 정해지드로 X 의 저분 E(X) 도 일의적으로 정해전다. 그리고 X 에 대하여 |Xl=X++x- 로 쓸 수 있으므로 그 적분이 L1XldP=LX+dP+Lx-dP
vi) X가 적 분가능하면 IXI
임을 보이면 충분하다. 우선 X+Y 가 적분가능한 것을 보이자. L。 ix + YldP~Lc1x1+ 1Y l )d P =LIXldP+Li Yj dP
LXdP+ L YdP= L (X+ Y)dP 가 성립한다. vi) IXI
인 단순확률변수열이 촌재하므로 Yi = ml 츠 a；；；x j Xni (j=I , 2, …) (2-82) 라 두면 Y 는 단순확률변수이고 Y;=lm.;na.;x J Xn; ~ ml.; an.x ;; X ,,, i+i 족 max X' j+ l= Y사 1 (2-83) l 츠 ” = j +l x,. j갈후 xj (2-84) 위 (2-84) 식 에 서 먼저 j-- >oo 로 하고, 또 n-->oo 로 하면 lim Yi = X (a. e. ) (2-85) 를 얻는다. (2-83) 식, (2-85) 식 및 비음확률변수의 적분 정의에 의하여 LxdP= li m) 。 Yi dP 또 (2-84) 식에 의하여 L Yjd P~)DXjd P 이므로 IaXdP~ lim J Dxj d P (2-86) 가 성립한다. 한편 (2 一 86) 식과 반대방향의 부등식이 성립하는 것은 분명하다. 曰 정리 2-18 만일 확률변수 XJ 가 X;~O (a. e. ) (j=l, 2, …) 이면 홉 LXj dP= L (gx J ) dP (2-87) 이 성립한다. 증명:이재
Yn= E터, XJ , (n= 1, 2, …) j= l 라두면 o~Y1~Y2~… -+.E° X1 (a. e. ) j= l 이므로 정리 2-17( 단조수령정리)에 의하여 홉 Lxj dP= li rn 휴J 0xj dP =lim j E” Xj d P, g (·: 정 리 2-15 의 (2-73) 석 ) =lim {DD jY= In dP=L xj • dP 이 성립한다. E3 정리 2-19 만일 X가 적분가능하고, 또 A1,A2 …가 서로 소이면 홉 L,xdP=~g/ ,x dP (2-88) 가 성립한다. 증명 : 정리 2-18 에 의하여 J히=-1 J A J X dP=tj= i I JJDD XIA ; dP 켈 Lx+ 냐 젊 DXIAIdP =L 홉 X+IA j dP-1 ix+ IAj d P D i= I =J。 X• 홈 IIA j dP=Lx· 선 1A j dP =I1=-~ AJ x . dP 隨 정 리 2-20 (Fato u 의 보조정 리 ) i) Xn 칙 Y a.e. (n=l,2, …）이고, Y 가 적분가능하면
J0。 i1 m X ndP 티리 0XndP (2-89) 이고 ii ) X,후 Y a.e. (n=I,2, …）이고, Y 가 적분가능하면 Ll im XndP ~ lim LXndP (2-90) 9 이다. 증명: i)의 증명 : 만일 Zi= i!}r (Y-Xn) U=I, 2, …) ” 조 i 라하면 O~Z1~Z2 족••-+브~ Y-Xn) a. e. 이고, 따라서 정리 2-18 에 의하여 L YdP-터 0XndP=쁘 L ( Y-:Xn)dP ~ lim LZid P=Lli mZ id P =L 도~ Y-Xn)dP= J O YdP 一J 0ITmXndP 그런데 Y 가 적분가능하므로 LYdP
정 리 2-21 (Lebesgu e 의 수령 정 리 ) 확률변수열 : Xi, X 2, ... 에 대하여 IXnl ~Y(a. e. ), (n=l, 2, …) 를 만족하는 적분가능한 Y 가 촌재한다. 그리고 또 만일 lim Xn (a. e. ) 가존재하면 터 DX,.dP=)D。 li m XndP (2-91 ) 이 성립한다. 증명 영집합은 제의하여도 무방하므로 Y(w) ~ 00 이라 하여도 좋다. 그리고 정리 2-20(Fa t ou 의 보조정리)에 의하면 덕 (Y냐 )dP 칙 /Y+X)dP 9 덕 9 (Y-Xn)dP~L (Y_:_ X)dP 를얻는다. 따라서 덕 0XndP~ j 0XdP 禪교 LxndP 가 성립하므로 증명되었다. 訂 보조정리 2-2 만일 실수 a,b>o 이고 a+B=l 이면 a0b' 독 aa+ g b (2-92) 이다. 증명 위 (2-91) 식의 양변에 대수를 취하떤 alog a+ p log b~ log (aa+ pb) (a) 이고, (2-91) 식 대신 (a) 식이 성립함을 보이자. i ) a~b 일 때, a+g =1 에서
a~aa+/3 b ~b 가 성 립 하고>， 또 대 수함수가 위 로 볼록합수 (convex fun cti on ) 이 므로 (a) 식이 성립한다.
14)a~ =aa~ b(ab+ +,P pba )=+a (P=a=a+blp-+ +)bp =ab~ aa+p b
ii) a 작일 경우도 마찬가지로 (a) 식이 성립함을 보일 수 있다. 정리 2-22 (Holder 의 부등식) : P>I, p-l +q -1 =1 일 때 IXIP, ILY Il xq 등. 이YI d적P분~가(능L하 I x면1 ,Pd PX r• p Y• 도(L 역I Y시I 9d적P분 r가q 능하 고 (2-93) 이 성립한다. 특히 p=q =2 일 경우 위 부등식을 슈바르즈의 부등식 (Schwarz' s ine q ua li ty) 이 라고 부른다. 증명 X 와 Y 가 항동적으로 0( 영)일 때 위 부등식이 성립하는 것은 분명하다. 또 보조정리 2-2 에서 a=J , P=¼ a= IX| 기 。 IXldP, h= I Yl9/L I Yl9dP 라 두면 (/)E Q에 대하여 (JI XldP)I X*Y( JII Yl9dP) ' =< PJ IIXXlI pd P +, qjl IY Yl9Iqd P 가 성립한다. 위 식을 9 상에서 적분하면 jlxY ldP (j lXld~ 헵냐
이 되므로 구하는 부동 식 이 얻어진다. ;2 정 리 2-23 (Mi nk owski 의 부 등 식 ) P~l 일 때 IXIP, IYl q둥이 9 상에서 적분가능하면 (L9 ix+ YIPdP) 상 ~(LIXIPdP)¼+(L i YIPdP) 상 (2-94) 이 성립한다. 증명 P=l 일 때 (2-93) 식이 성립하는 것은 분명하다 . 따라서 P>I 일 경우 J)X+ Yl1dP=] 。 IX+ YI IX+ YIP-ldP 터 。 I XI I X+ YI P-ldP+ )。 I YI I X+ Y11-1dP (a) 를 얻는다. (a) 식의 우면의 제 1 항에 대하여 p,q,X , Y 를 각각 p, 」뉴 IXI, IX+Y\P-l 로 대입하고, 정리 2-22 의 Holder 의 부등식 을 적용하면 L1x11x+Y1P-1dP 。 텍 L 1x 1 PdP ).7.!... • (L 1x + Yl 1dP오)7 (b) 마찬가지로, 제 2 항은 L9 i YI IX+Y11-1dP 스. 느 ~(LI Yl1dP)7 • (L1x+Yl1dP)' (c) (a) 식에 (b) 식과 (c) 식을 대입하고, 양법을 (L1x+Yl1dP f& 로 나눠 주면 구하는 부등식 (2-93) 식을 얻는다. 露
이제부터는 확률론 자신이 지니고 있는 고유한 무성들에 관하여 논하 여 가기로 하겠다. 이제 X 싸 적분가능이라 하면 Holder 의 부등식의 목별한 경우 (p= q =2) 인 Schwarz 의 부등식에 의하여 E(IXl) = E(IXI • I)~E(X 삼 • E(l2) 삼 =E(X2) 삼
ii)의 증명 : 정의 2-19, (2-96) 식에 의하면 V(aX+b) ==E攻{ {(aaXX++ bb—- Ea(Ea (XX+) b—)b}) 2키 ] =E(a2(X-E(X)) 가 =a 딱 {X 一 E(X)} 힙 =a2V(X) iii) 의 중명 : 정 의 2-19, (2-96) 식 에 서 V(X) =E{(X-E(X)2} =E{X 드 2E(X) • X+E(X) 이 =E(X2)-2E(X) • E(X)+E(X)2 =E(X 이 -E(X)2 위 증명 i)과 ii)에서 기대치 기호 E 는 선형연산자(li near o p era t or) 이고 V(X) 는 X 의 변환 aX+b 를 취할 경우, 회전변환 a 는 영향을 주지만 평행이동 b 는 V(X) 와 무관하다는 사실을 알 수 있다. 정의 2-20 확률변수 X 에 대하여 P(IX|~a)>o 를 만족하는 양수 a 의 상한을 IIXllm 로 나타내기로 하자. 죽 IIXllm=sup [ a : P(IXI~a)>oJ (2-101) 으로쓴다. 정리 2-25 (Markov 의 부등식) :P> o 이면 임의의 e> 0 에 대하여 E(~페 2 -e p 갈 (IXI 측)~~ (2-102) 이 성립한다. 층명 만일 A=(IX| 측}이라 하면
갑 • IA~IXIP • IA~IIXII.! • IA IXIP.L죠 댜설 등이 성립한다. 따라서 위 첫 부등식에서 ePP(A) = E(e%) ~E( I XI P • IA) ~E(IIXI/e,J A ) = IIX ll!.P(A) (a) 또 위 둘째 부등석에서 o~E( IX IP /Ac) 절 (b) 그런데 E(IX Ip • JA )+E(IX IP • IA,) =E(IXIP) 이므로 (a) 식에 (b) 식을 변변 더해 주면 ePP(A) 학 E(IXIP)~IIXll t. • P(A)+e1 (c) 위 (c) 식에서, 그 전반인 ePP(A) ~E( I XI P) 를 P(A) 에 관해 풀고, 또 (c) 식의 후반 E(IXIP)~IIX//!, • P(A)+eP 를 P(A) 에 관해 풀어 하나의 부등식을 만들고, 또 A={IXl6e) 를 대 입 하면 (2-102) 식을 얻는다. 蠶 정 라 2-26 (Cheby sh ev 부등식 ) 임의의 e>o 에 대하여 I1;:노 )e「,： 갈 (IX-E(X)I 측)속고伊 (2-103) 이 성립한다. 층명 위 정리 2-25 의 Markov 부등식 (2-102) 식에서 P=2, X 대신 X-E(X) 를 대 입 하면 구하려 는 부등식 (1 2-103) 식 을 얻는다. 國
§ 2-5 직적확률공간 두 개의 주사위 A 와 B 를 던지는 시행에서 얻어지는 확률공간들을 각각 (Q 1 」 71, P1) 과 (!22 , ff2, P 2) 라 하자. 그리고 또 A 와 B 를 동시에(계속해서) 던지는 시행에서 얻어지는 확 물공간을 (Q, ff, P) 라 하고 이 확물공간과 그 확률측도에 대 하여 고찰 해 보기로 하겠다. 이때 9 의 원소로 된 근원사상 (elemen t ar y even t)울 (J)（ E9) 라 하면 (J)= ((J),’, (J )j)' ((J)도따, (J)jE 92) 이 고, 이 들 전부로 구성 되 는 표본공간 (samp le s p ace) 을 9 라 하자. 또 근원사상 (J)c Q 의 확률측도는 P((J)) =Pl((J) j) • p2( (J )j) =卓 +=짊 로 주어진다. 그리고 또 임의의 사상 E(c Q)에 대응하는 확률측도는 P((J)E E)=I: P1((J )i) xP2((J) j) 1,/ ((J),·E Elc9h (J)iE E2Ci l2) 로계산할수있다. 이제까지 설명한 것들로부터 얻어전 결과들을 종합하고 일반화하면 바로 직 적 확률공간 (pro duct pro babil ity spa c e) 의 개 념 이 도입 된다. 죽 표본공간 9 는 !t 1 과 92 의 카데샨 적공간 (Car t es i an p roduc t)이며, 사 상 E 는 E1 과 E2 의 카테샨 저이며, E 의 확률은 E1 과 E2 의 확물들의 곱 으로 주어진다. 죽 새로 얻어지(Q는, f f확, p물 )공 =간( i은l1 X 다 il2음, f과 f1 X같 f이f2 , P쓸 1 X수 P 2있) 다. (2-104) 정의 2-21 (!2,, sr,, P,), (i=I , 2, •··, n) 를 n 개 의 확물공간(p robab ility J
이라하자. 이때 (J)= ((J)h (J)2 , ···, (J)n ) ' (J)i- 9,. 전체로 이루어전 집합을 Q=Q1 X i l2X …X i ln= @ Q,. (2-105) 로 나타내 주고, 이것을 직적공간이라고 한다. 그리고 Q의 부분집합을 E 라 할 때 E= {(% % …, Wn ; w,· E 묘, E 투忽i} 를 통집 합 (cy lind eric a l set) 이 라 하고 E=E1 x E2 X .. • X En=@E; (2-106) 로 나타내 준다. 또 이 들 유한개 의 동집 합의 합집 합을 초등집 합 (elementa ry set) 이 라고한다. 정리 2-27 초등집 합 전체 의 Class 를 f 라 하면, f 는 집합체 (field ) 가 된다. 층명 n=2 일 경우를들어 증명하자. f21 ®f2 1 온 통집 합이 고, 또 초등집 합이 므로 f2 1@ f2투f 이 다. 한편 유한개의 초등집합들의 합집합은 유한개의 통집합의 합집합이 되므로 e” 에 속한다. 분만 아니 라 동집 합 A1®A2 에 대 하여 (A1®A2)c= (A1®A2) U (A1®A;) U (A1®An 로 나타낼 수 있으므로, 초등집합의 여집합이 유한개의 통집합의 합집 합이 되므로 그것 역시 초둥집합이 되어 e” 에 속한다. 懿 정의 2-22 초동집 합 앙 로 생 성 되 는 6- 집 합체 (a- fi elce) 를 ff1X ff2X -• X § 또는 (8)§,. (2-107) 로 쓰고, 이것을 §1, §2., ••·간 ,-n 의 직적 6- 집합체(p roduc t a- fi eld) 라고
- 한냐 정의 2-23 직적 6_ 집합체 ®ff1 상 에서의 유한측도 P 가 임의의 통집합 ®A j에 대하여 P((8 ) A ;) =I T P1(A1) (2-108) j= l j: l 을 만족할 때, P 를 P1@P@… ® Pn 또는 ®Pi 로 쓰고, p 1, … ,P 翼 의 직 적 측도 (pro duct measure) 라고 한다. 정의 2-24 유한축도공간 (®9;, ®空igpi, ) (2-109) 를 유한 측도공간 (!J.-, !7.-, P.-) (i= I, 2, … n) 들의 직적측도공간이라 고 한다• 특히 (!J.-, !7.-, p, . )들이 확률공간인 경 우 (2-109) 식 의 경 우 를 직 적 확률공간 (pr oduct pro babil ity spa c e) 이 라 한다. 이제부터는 직적측도공간에서 성립하는 여러가지 성질들에 대하여 언 급하고, 또 아주 중요한 정리인 Fubin i 정리에 대하여 언급하기로 하겠 다. 보조정 리 2-3 (Q l 」 7l, Pl) , (Q 2 」 72, P2) 를 각각 유한측도공간이 라 하 자. 그리 고 AE .:!7@多 2 라 하면 다음 i), ii)항이 성 립 한다. i ) IA( (I) h (I) 2) 는 (I) 2 를 고정했을 때 (I) l 의 함수이며 ff l- 가축함수 (空 measurable fun cti on ) 가 되 고, (I) l 을 고정 하면 (I) 2- 가축합수이 다. ii) jD I IA((I) h (I) z)P(d (I) l) 은 多 2- 가축함수이고, jD 2I A(~2)P(dw2) 는 ff 1- 가축함수이다. 층명 우선 i)과 ii)항을 만족하는 집합 A(Esr1®sr2) 전체로 이루어
전 클라스를 錦라 하자. 그리고 한 cm 임을 증명한다. 이제 몽집합 A1®A2 에 대하여 o2 를 고정하면 I흥 (w 巧) = { 1서 다 , (w2EA2) o, (w2E £A 2) 로 되어 /A1XA2 는 이 경우 ff 1- 가축함수이다. 따라서 LD I IA1®A2(w1 , w2)P1(dw1) =P1(A1)/A2(w2) 그러 므로 ii)항의 전반부의 적분은 ff 2- 가축함수가 된다. 마찬가지로 IAl®A2(%02) 에서 W1 을 고정하면 ff 2- 가측함수가 되고 그. 적분은 多 r 가축함수가 된다. 口 이제까지 증명에 의하여 통집합 A1®A2 에 대한 IA1®A2< (J) h (J) 2) 가 i)과 ii)항을 만족하므로 A1®A 투朗이다. 좀더 나아가서 유한개의 통집합 둘의 합집합이 窟에 속한다는 것을 알 수 있다. 죽 한 croe 이다. 그러면 이제부터 稀가 단조클라스임을 보이기로 하자. A(1), A(2), • • • (E 窟) 를 단조열이라 하고, A= li mA,n) 라 하자. 그러면 IA ((I)h (I)2 ) = lim IA(n) ((I)h (I)2 ) 이 므로 IA((I) h (I)2 ) 가 i)항을 만족하는 것 을 알 수 있 고, 또 Lebesg u e 수립정리 (정 리 2-21) 에 의하여 LLI.1AA(( ((II) )1h , ((II))22 )) PP21 ((dd((II)) 21 )) == l1iimm JJ D ,IIAA( no) ((((II))hh ((II))22 )) PP21 ((dd((II)) 12 )) D1 91 D1 이므로 IA(W1,W2) 도 역시 ii)항을 만족한다. 따라서 AEie 이다. 죽 獨 는 단조큘라스이다. 이제까지의 증명을 동하여 볼 때, 窟는 한을 품는 단조 클라스이고, 窟의 정 의 에 의 하여 獨는 한가 생 성 하는 6- 집 합체 ff 1® ff 2 에 포함된다. 그러 므로 제 1 장, 단조 쿨라스정 리 (정 리 1-14) 에 의 하여 窟=ff 1® ff 2 이다. 이것은 모든 A( 드空@ff 2) 가 i)과 ii)항을 만족한다는 것을 의
미한다. 回 정리 2-28 (Qj,ffi,P i) , (j =I,2,··•,n) 가유한측도공간이라할때, 정 의 2-23 의 (2-108) 식을 만족하는 ®ffi상의 직적측도 ®P j는 유일하게 촌재한다. 증명 간편상 n=2 일 경우를 증명하기로 하자. 보조정 리 2-3 에 의 하면 입 의 의 AE ff@夕 2 에 대 하여 L9I1 A((J)h (J)2 )P1(d(J) 1 ) (a) 는 ff 2- 가축함수이 므로 그것 의 측도 P2 에 관한 적분을 생 각할 수 있다. 죽
P(A) =f01P 2(dw2)J0 1IA( W 1, w2)P1(dwJ (b) 라 두면 (b) 식으로 주어 전 적분 P 는 (2-108) 식을 만족하는 ff1® f f2 상 의 측도이다. 그러면 다음 P(A) 가 측도임을 보이기로 하자. 우선 임 의 의 AE ff@ff 2 에 대 하여 P(A) 가 o~P(A)이 성 립 한다. 그러 므로 P 는 ff1® . fT2 상의 측도이 나. 또 임 의 의 통집 합 A1®A2( 드훗@ff 2) 에 의 하여 , 보조정 리 2-3 의 증 명중의 결과를 이용하면 L,1Ai ® A2(m1, m2)P1(dw1) =P1(A1)I%(w2) 이므로 P(A 學) =L,o, P2(d 이o , IA1@A2(wi , w2)P1(dw1) = LP1 (A1) IA/w2) P2 (dw2) 。 =P1(A1) • Pi A 2) 가 되며 (2-108) 석을 만족한다. 끝으로 (2-108) 식을 만족하는 多 l® 空 2 상의 측도의 유일성을 증명하 자. 만일 P, P' 두 개 의 측도가 空 l® 空 2 상에 서 촌재 하여 다같이 (2-108) 식을 만족한다고 하자. 그러면 (2-108) 식에 의하여 임의의 동집합 A1®A2( 드 §l® 空 2) 에 대 하여 P(A1®A2) =P1(A1) • P2(A2) =P'(A1®A2) 가 성립하므로, 모든 초동집합 A( 드한)에 대하여 P(A)=P'(A) 가 성립 한다. 또한는空@多 2 를생성하므로제 1 장, 정리 1-22 에 의하여 P 와 F 는 空 상에서 일치한다. 巴; 정 리 2-29 (Fubin i 의 정 리 1) : (!21 , ff1, P 1) 과 (!2 2 나I' 2, P2) 를· 유한측도공 간들이 타 하자. 多 l® 空 2- 가축함수 X(w1, w2) 가 비 음함수이 거 나 (P1®P2 에 관하여) 적분가능하면 L,®D,X(w1 , w2)P1@P2(d(w1 , w2)) 91OQ , =L.P2(dw2)L.xcw1, W2)P1(dw1) =L1P1(dw1)L.X(wi. , w2)P2(dw2) (2-110) 이 성립한다.
층명:이제 P'(A)=L ,P1 (dw1)L .IA (w1, w 모 (dw2) (여 기 서 AE ff 1® ff 2 이 다. ) 로 정의하면 정리 2-28 증명 중 (b) 식으로 정의된 P 와 아주 같은 방식 으로 P' 가 (2-108) 식을 만족하는 ff1® f f2 상 의 측도이고 그들은 측도 의 유일성에서 일치하며, P1@P z( A)=P(A)=P'(A) 이다. 다시 말해서 j h(Cl)1 , Cl) 2)P 鷄 (d(w1, Wz)) =o, L。”.P z (dw 2) L,1A (W 1., w2)P1 (dwi ) = LD , P1 (dw1) LJD , IA (W i, w2) P2 (dw2) 로 쓸 수 있다. 따라서 (2-110) 식은 X=IA(AE ff 1® ff 2) 일 때 성립함을 알수있다. 그러므로 X 가 단순확률변수일 경우도 (2-109) 식이 성립함을 쉽게 알 수있다. 분만 아니라 X 가 비음확률변수일 경우에는 정리 2-6 에 의하여 O~X1 독 Xz~·••-+X 인 단순확률변수연 {X } 이 촌재 하므로 단조수림 정 리 에 의 하여 Jo,O o, X((l)1 , (l)2 ) P 網 (d ((l)1, (l)2 )) ==lliimro IL o .,oPo2, (xdnw(2(l))h L X(l)2n )(PW11®, Pw22()dP(1((l)d 1w, (l1)2) )) =L. p學 )1 i mL, xn(wh 0 모 (dw i) =Lg.. P 學)J 9: X(0 巧 )P1(dw1) 같은 방법으로
LQ. .~OaQ .•X (w1, w2)P1®P2(d(w1 리) =L.P1(dw1)L.X(wi , w2)P2(dw2) 가 성립한다. 끝으로 X 가 적분가능인 경우에는 X=X+-X파 같이 양부분 X 따 음부분 X를 나누어 비음함수의 경우의 결과를 이용하면 된다. 瑟j 정리 2-30 (Fub i n i의 정리 2) : (QJ,多j ,P j) (j =1,2) 를· 유한측도공간이 라 하자. 또 空J크가축함수 X;( (J)j)가 적분가능 (P,· 에 관해)이면 [ 9IOo, xl((J)i ) • X((J)2 )P1@P2(d((l) h (J)2 )) =L.X 1((J) 1 )P1(d(J) 1 ) ·L.X2((J)2 )P2(d(J) 2 ) (2-111) D l 증명 정 리 2-29 를 이 용하면 된다. f2
연습문제 1. 다음 각항을 증명 하여 라. ((ba)) PL。,( iA X)l = dOP =이O 면 국 X\ =AX Od,P =a.O e . 이 다. (c) 모돈 A(E .:Jl' I) 에 대 하여 LAx dP=o 국 X=O, a.e. 2. R 상의 Borel 함수 f (X) 가 f(- x)=f (x )~o 이 고, [0, 0 0) 에 서 단조증가하면, 입 의 의 e>O 에 대 하여 E{f (X )} 국 (c) 찰 (IXI 축) E(f ( X)) |I f( X)1I OO f(;;) 이다. 3. r~l 일 때, E(IXI') l떨. , x 의 r 차 철대 momen t라 한다. 다음 각항울 증 명하여타. (a) 1 습 ~s 이면 E(IXI')~ ~E(IXl')7 이다. (b) l,i-m~ E( I XI ') ; = I IXJJ ., 4. 확물공간 (9J, ff1, P ;), U=I, 2, ···, n+m) 에 대 하여 [®/-- ;l (•Q J• ,• 空;•, P;• .).] ®..J[•= ®t•, +. l (QJ, 多J, Pj )] = ®+m (Q/ I 空j, Pj ) /=1 임을 보여라. 5. (a다) 음{ w 각: 항Ini m 을x 증上• • 명• •) 하=여0 •}라 .= lnm= l •u=m 1 J~n= n { IXA 족집1 =lilm Iinm I,i.m {am:;Jaa:;x,. | XA 독 §} (b) P{w : ii~X .(w)=O}=l ifl!ro i ~ p(.뿔fl-.. IX/' 카)
참고문협 1. 伊藤 淸 著 , 『確 率 過程 I 』, 岩波 ' ,I道 2 ( 現代應用數 學 A.13-1) pp. 2~3. 2. 丸山儀四郞 著, Ii' 確率論 』, 共立出版社, pp. 6~7. 3. 伊 藤淸著 , Ii'確 率論 』( 解 析 學 (I) vii ), 岩 波 講 座( 基 礎數 學 )(1977. 일본) pp. 119~120, p. 125. 4. 鶴 見茂 著 , 『 r確 率論 』(近代 確率論 入門)， 至文堂 (1976, 일본), pp. 38~39, pp.5 1~53, 5. R. Ash, Real Analys t's and Probab£ lty, A. P. (1972, London) pp. 38~39. 6. 吉田 洋 一 著 , 『JI,'!1'積分入門』( 新敷學 ? !) -;:,_ 23), 培 風 館 (1974, 일본), pp. 132~133, 7. 高 木 貞 治 著 , 『 解 析槪 論 』, 岩 波 書 店 (1956. 일본), p.5 20. 8. 近 藤 次郞 著 『應用 確率論 』, 日科技 連 (1970, 일본), p. 93. 9. G. de Barra, measure Theory and Inte g r ati' on , Jo hn-W i ley & Sons(l9 81) p. 111 . 10. = JL 壬 =' P 7 著 , 根本伸司 역 , 『 確率論 0 基礎槪念 』, 東 京 圓 합 . 11. 趙 泰 根 著 , Ii'質解析 學 』, 탑 출 판사 (1979, 서 울), p. 23, pp. 94~95, p. 99 12. Morris H. DeGroot, Op U mal Sta t £ s t£ c al Dec£ s £o n s, McGraw-Hi ll (1970), p.9 9
제 3 장 확률분포와 특성함수 §3-1 적물모함수와 확률분포 제 2 장 §2-2 에서 소개한 바 있는 확률분포를 좀더 구체적으로 고찰 하기 위하여 아주 강력한 도구인 적물모함수를 도입하고자 한다. 그런데 이 적률모함수는 대부분의 분포들에 대하여 존재하고, 또 이 모함수에 의하여 분포의 유형을 판정할 수 있다. 분만 아니라 이 적물모 함수에 의하여 주어전 분포의 모든 차수의 적률(원정 둘레의 momen t)들 울 구해 낼 수 있으므로 적물들을 생 산할 수 있는 모함수(g enera ti ng fun - c ti on) 라는 의미에서 명칭이 유래되었다. 정의 3-1 r.v.X 에 대하여 그 함수 e” 의 기대치는 0 의 함수이다. 죽
Mx (()) =E(e'x) (3-1) 를 r. v. X 의 적률모함수 (m. g.f. =moment gen erati ng fu nc ti on) 라 한 다. 특히 , r. v. X 가 이 산형 (dis ~ rete type ) 일 때 , (3-1) 식 은 다음과 같이 계산한다. Mx (O) =- 6 e''P(x) (3-2) xER(여 기 서 P(x) 는 X 의 p. m.f. 이 다) 한편 r. v. X 가 연속형 (conti nu ous typ e) 일 때 (3-1) 식은 다음 적분으 로구해진다. Mx(B) =[-o-oC .O.. euf (x )dx (3-3) (여 기 서 f(x ) 는 X 의 p. d. f. 이 다) 그런데 r. v. X 의 m. g.f. 에 서 e” 를 그 Maclaurin 의 급수로 바꿔 넣 어 주면 Mx(O)=E(1+ 곱 x+ 룹군+…+춤다…) =;;;t-o~ r v! , (3-4) 로 나타내줄 수 있으며, r.v.X 의 원접 둘레의 제 r 차 적률 바는 다음 과 같이 바로 얻어 낼 수 있다. 을 {Mx(O)}1=o= 바 (3-5) 죽 m.g .f. Mx(O) 를 0 에 관해 r 최 반복 편미분한 다음 0=O 로 두 면 원점 둘레 의 제 T 차 적 률 (the r-th moment about orig in) J.J, 가 얻 어 진다. 특히 J.Jo =l J.J1 =E(X)=µ 이 며 , J.lr -를 제 r 차평균 또는 일반화평균 (ge nerali ze d mean) 이 라고 부르기 도 한다. 한편 r. v. X 의 평군 둘례의 제 r 차 적률(t he r-th moment about mean) µr=E{(X 一µ)『} (3-6) (여기서 E(X)=µ 이다.) 를 들 수 있는데, 이것은 원접둘레 r 차 적률 바 (r=l,2, …）들로 나타내 줄수 있다. 죽 µo=I 이고, µ1=E{X 구)} =O (3-7)
µ2=E((X-µ) 익 =V2 一머 (3-8) 등으로 계산된다. 또 (3-7) 식은 평군둘레의 1 차적물이 0( 영)이라는 사실 울 주며, (3-8) 식의 µ2 는 v2, IJ 1 으로 다시 쓸 수 있으며, 이것이 바르 X 의 분산 (var i ance) 임 을 알 수 있 다. 그리 고 µr 를 재 T 차 분산 또는 일반화분산(g enera li zed va ri ance) 이 라고. 도부른다. 정리 3-1 r.v.X 의 적물모함수를 Mx((} ）라 할 때, 다음 성질들을 가 진다. 성질 (M- 1) : Max((}) = Mx(a(}) 성 질 (M-2) : M나 (}） = eb'Mx ((}) 성 질 (M-3) : Max+b ((}) = eb'M x (a(}) (여기서 a,b 는 상수이다) 증명 a) (M-1) 의 증명 : 정의 3-1 의 (3-1) 식에 의하여 M.x(B) =E(ex') =E(e( 이 )x) =Mx(aB) 임은 분명하다. b) (M-2) 의 중명 : 정의 3-1 의 (3-1) 식에서 Mx+b(8) =E(e
=Je' f( .x) d.xJ e ''f(y )d y =Mx((}) • Mr(8) 이다. 困 일반적으로 유한개의 독립확률변수 x1,X2,… , x 에 대하여 Y=X1+Xz+ … +x” 이라 하면 Y의 m . g.f.는 다음과 같이 쓸 수 있다. M y((}) = InT Mx.-( 8) (3-10) (여기서 Mx.-(8) 는 iX= l . -의 m.g .f. 이다) 그러면 이제부터 여러 가지 확률분포에 대하여 그 m. g.f.를 구하고 또 m. g.f.를 이용하여 기대치와 분산율 계산하여 보기로 하자. 예제 3-1 r. v. X가 2 항분포 Bi n( n, p) 에 따를 때 , m. g. f. 를 구하고 또 기대치와 분산을 계산하여라. 폴이 m.g .f . 의 정의에 의하여 Mx (8) =Et x( : ) pxq n - x = I: ( : ) (e'py q- =(q+ Pe') (3-11) 다음 (3-5) 식에 의하여 E(X)= 훑 (Mx(8)) l,=o 불(q+p e')I,=o =n(q+ pe' )-1p e' I ,=o =nP V(X) =E(X2)-E(X)2 =올 (Mx(8)) l,=0-(np )2 =n(n-I) (q+pe' )-2(p e' )2 +n(q+ pe' )-1p e' I, =0 -(n p )z
=n(n 一l)p z+n p -(n p )z =nP 一 n p 2=nP(I-P) =npq (q= l-P) 예재 3-2 정규분포 N(µ, (1이의 m. g.f.를 구하고, E(X)=µ, V(X) =(12 임을 보여라. 풀이 r.v. X가 정규분포 N(µ,a2) 에 따른다면 Z=(X-µ)/a 은 표준 화 정규분포 N(o,12) 에 따른다. 그러므로 Z 의 p .d. f.는 q, (z)= 」J2다 r ” (여기서 _oo
g (x) ＝으ir .- a2+ (1x -m)2 (3-14) (여 기 서 -oo
예재 3-4 확률변수 X가 정규분포 N(µ, q 2 ) 에 따 를 때, 표본크기 n 인 임의표본 (random sam p le) 의 평군( 확물 변수) X 도 또한 정규분포 N(µ, 군 /n) 에 따른다. 풀이 X 의 m. g.f.를 동하여 증명하기로 하겠다. X= (X1+X2+···+Xn)/n 로 나타내고, X (i =l,2, … ,n) 들은 모집단 확률변수 X 와 동일한 확률 분포에 따르고 서로 독립적인 확률변수들이라고 해석할 수 있다 .15)
15) 이 런 확운변수열 운 i. i. d. 확 윤 변수 들 이 라 하고, i. i. d . 는 ind ep en dence ide nti ca l dis t r i b u ti on 의 약칭 이 다.
그러 므로 정 리 3-1 과 정 리 3-2 의 (3-9) 식 에 의 하여 Mx (8) =; ~1Mx, (¼ · o) ={ M옵 )} = (ek' ,, 나(；；)\ =e' 감 군 ,, 그러므로 X 는 평균아 µ이고 분산이 균 /n 인 정규분포 N(µ, 군 /n) 에 따른다는 사실을 m. g.f.를 동하여 알 수 있다. § 3-2 특성 함수와 분포함수 앞의 §3-1 에서는 적률모함수 (m. g.f.）를 동하여 주어전 확률분포의 형 대 와 독 성 치 (모수)듣울 구하였 다. 그러 나 예 제 3-3 에 서 보인 바와 같이 m. g.f. 가 모든 확률분포들에 대하여 항시 촌재하는 것은 아니다• 그러므로 이 철에서는 모든 확률분· 포에 대하여 촌재하고 그 분포함수와 긴밀한 관계를 가지는 특성함수를 정의하고 그것을 적용해서 확률분포를 연구하여 보기로 한다 . 정의 3-3 확률변수 X 의 함수 e i의 기대치
를 X 의 특성함수 (ch. f. =characte r is t i c fu nc ti on) 라고 한다. 득히 r,v. X 가 이산형인 경우 (3-15) 식은 다음 식으로 정의된다. 'P( u) = I;e; ' p(x ) (3-16) (여 기 서 p (x) 는 덧.의 p. m.f. 이 다) 그리고 v.r. X가 연속적인 경우에는 다음 식으로 정의된다. 'P( u) =『 e;'f( x )dx (3-17) (여기서 f (x) 는 X 의 p .d. f.이다) 정리 3-3 확률변수 X 의 ch .f.를 텍Ja ,l e'h •-1 단 (x)dx)½ R, = (tR,, <2 구 h•-e- ' h') f (x) dx)½ === {{{222 一 R국( <2lpR 구( (
그런데 h(x)= j:브몬 ?__dz 라 두면 lxi- m..h (x) ＝드2 ;' ;I::i:m::. . h. (,-x.,) -= •-•• 2프 (a) 이고또 『 b- y)노 dz=h(t (b- y ))-h( t (a- y)) (b) t(a -yl Z 이므로, (b) 식은 y의 함수이고 Rl 상에서 유계이다. 그러므로 0 , (y> b) f, (y= b) lim !I(b- S1.nz z dz = { 1r: , (a
정리 3-5 두 확불변수 X1, X2 의 분포함수와 특성함수들을 각각 F1 , F2 그리고
y ) 이면 정리 3-4 의 L6v y의 반전공식에 의하여 Fi (x) -F1 (y) =Fz( x) -F2 (y) 이고, y -+oo( y EC) 로 두면 Fl(x) =F2(x) (a) 이다. 한편 x~C 에 대하여서도 F1 (x) =F1 (x+ o) =IirnF 1(y ), (yE C) Z =Iyir1 nx F2(y) , (yE C) =F2(x+o) =F2(x) (b) 그러므로 (a) 식과 (b) 식에서 F1 (x) =Fi( x) 를 얻는다. 四 정리 3-6 확률분포 P 에 대하여 다음 각 식이 성립한다. i ) J RR1, (x)P(d: x )
ii) JR, !x lP(dx) iii)의 증명 : (i)에 의하여 J갔 e i ••P(dx) =-'P (u) RI 이므로 군 (0) =JRR1 ,x2P(dx) (a) V(X) == v- 2r p一 IJ (1 2O )-(-irp '( 0))2 =rp'( 0)2-rp (O) 이다. 四 정리 3-7( 반전공식 (2))* r. v. X 의 특성함수 (ch. f. ）와 확률밀도함수(p. d. f.）를 각각
F(x+h)-F(x)=v_T? 一,。! ~21r「J -T 근• - ~- .:._(tU u)du 위 식의 양변을 It 로 나뉘 주고 h-+O 로 극한울 취하면 f(x ) =~뿡 뿐 서〉누도노-j ux
,r ; )P rq - r s i/겁 T 十 ( ; )p•qn -:t .•. f(x ) =i뽀 K( T) = ( : ) p•q,, _x
예 제 3-6 r. v. X 가 Cauch y-분포 f(.x)=¼ • 1-듦 (-oo
=j -.. .. 다 '2d t= v'~ <+oo 이므로 정리 3-7 의 공식 (3-26) 식에 의하여 f(x ) =싫j_.. .. e- • cpx (t) d t 거==J222J 11.1..ttt .:: :I JjJ . _..__ ... . . ....,,e 다 다-( t :”'t 1++다22 .t’. (t'Xhd ) t)+ d(t; x)’) 나 (h)'d t =끊기_... .. *e- 삼
u=o 일 때의 p .d. f.이다. 끝으로 분포들의 대합에 대하여 언급해보기로 하겠다. 이제 Pl, p 2 를 두 확률분포들이라 하자. 그리고 E 가 Borel 집합이라 하면 le(x1+x2), (x1, X2)ER2 일 때 , IE 는 R2 상의 Borel 함수가 된다. 왜냐하면, X1+X2 는 (X1'%) （ ER2) 의 함수로서 연속이므로 le(X) 는 R 나E 에 서 의 Borel 함수이 기 때 문이 다. 정의 3-4 적분 P(E)=LR ., 1E (X1 타 )P 麟 (d(x 1, x2)) (3-28) 로 정의되는 P 는 역시 확물분포이고, 이 분포 P 를 P1 과 P2 의 대합 (convoluti on ) 이 타고 한다. 그리 고 P=P1•P2 로 나타내 준다• 분만아니라, 정리 2_29 의 후비니정리에 증명에 의하면 P(E) =P1*1 일 (E) = f RP 學) j/E ( x1+ x2) Pi (dx1) =t P1(dx1) j /E(x 표 )P2(dx2) (3-29) 로 쓸 수 있다. 정리 3-8 f 가 R 상의 Borel 함수이 면 jRf ( x )Pi® Pi d x) =jRf ( x1 타 )P 麟 (d(x 냐) ) (3-30) R 이 성립한다. 증명 우선 f가 Borel 집합의 지표함수 (Ind i ca t or) 인 경우에는 대합의 정의에서 분명하다. 따라서 f가 단순 BI- 가축함수인 경우에도 정리는
성립한다. 분만 아니라 f가 비음인 Borel 함수인 경우 및 적분가능인 경우에는 단순 B- 가축함수로 근사시켜 증명을 얻는다. 정리 3-9 확률분포들 P,P i, 1 검에 대하여 그 대합 P=P1if·P 2 이 존재할 필요충분조건은
정의 3-5 (Q ,F, p)가 주어졌을 경우, 9 의 한 분할을 L1= {E1, E2, …, Ek} 라 하자. 그리고, n 회 반복독립시행을 동하여 사상 Ei (i=1 ,2,… , k) 가 출현한 회수를 r.v. X라 하면, 다항분포의 p.m . f. f(X 1, X2, …, X1r) =P(X1=X1, X2=X2, …, Xk 쿠) = xl!, xn2!! … X k! plx lp 2 x •• p/r” (3-32) (여기서 P(E,)=P,, I: P,=l 이다) 를얻는다• 특히, 위 정의 3-5 에서 정의한 다항분포는 통계학의 X2 국]정 중 적합 도겁 정 (1e st of the go odness of fit) 의 원리 의 기 본이 되 는 확률분포이 기 도 하다. 이 제 부려 연속확률변수 (c.r.v. ）들의 다차원확률분포를 설명하기 위하 여 그 대 표적 인 분포로서 2 차원 정 규분포 (2-dim ensio n al normal dis t r i b u ti on ) 를 소 개하고 또 그것을 일반화함으로써 lc 차원 정규분포 (k-d i mens i onalnor ma! d i s t r i bu ti on) 를 소개 하기 로 하겠 다. 2 차원 확률년수 Z= (X, Y) 에 대 하여 함수 f(x , y) 가 p. d. f. 또는 p. m. f. 이면 다음 성질들을 만족한다. f(x ,y )~ O (3-33) (一 oo
인 체적 (volume) 이 1 임을 의미한다. 따라서 주어전 사상 E= {(x, y) Ja 정의 3-7 확률변수 Z=(X, Y) 의 p. d .f를 f(x , y)라 할 때, 적분 (合) : F(x, y) = 『- 00 『- 00f (t, s) dt ds (=,f .. ,g .. f(t, s)) (3-36) 울 확률변수 Z= (X, Y) 의 분포함수 (d .f. =dis t r i b u ti on fu nc ti on) 라고 한다. ii) 2 차원 정규분포 예컨대, 사람들의 신장과 체중을 나타내 주는 확률변수 (c .r.v . ）들을 각각 X1 과 X2 라 할 때, 이들은 서로 독립적이 아니며 서로 밀접한 의촌관계를 가지는 변수들이다. 죽 신장이 큰 사람일수록 체중도 작은 사람들보다 더 무거운 경향이 있는 것이 사실이다. x1 과 X2 의 상관계수를 p라 할 때, Z=(X1,X2) 의 p .d .f.는 다음과 같은 함수로 선정한다. f (x 巧)= 2rc (J 1
=j_-」: .. 2 댜구 exp [ 2( 같p 2) {(U- p v) 나 (1-p2 )v2}]dudv 다시, 변수변환 w=(u- p v)/./ 言 ; v=v 를취하면 I=[ J二감 ex p(단硏당리 dwdv =J-:건 ex p(－村 )dw • 仁 ,¼x p(건 v2)dv =l iii) k 차원 정 규분포 k 차원 정규분포를 구하기 위하여, 우선 2 차원 정규분포의 p .d. f.를 행열과 행열식을 이용하여 다시 표현해 보기로 하겠다. 정의 3-8 확률변수 Z= (X1, X2) 의 p. d .f를 f( x1, %）라 할 때 , z 의 m. g.f를 다음과 같이 정 의 한다. M:(t i, t2) =E(e'•x,+1,x,) =「-mJ「 -m ehxJ+ 1'f (x l' %)dx 李 (3-38) (연속형의 경우) M,(t 11 t2) =E(e11x 』 +t 2 X 2 ) =m =-I0;x3 m =I x-; O e1•• •+ 1••• P(x1, x2) (3-39) (이산형의 겅우) 이재부터 2 차원 정규분포의 m. g.f.를 구해 보기로 하자. M,(t i, t2) =「-0 , 『-0 0 e’'x,+t , f(x 1, x2)dxldx2 또 (x1'%) 를 (u,v) 로 변환하면 =e'•+ 1'0) fexp ( t1<1 1 U+ t2a 2V] x~ 뻬 ~(u2-2 p uv+v2} 〕 dudv
다시 w1= {u- p v-(I 一p 2) t 1a il I./T= pi w2= (v- pt 1a1 一t 2 <1 2) 로 두고 치환하면, 구하고자 하는 Z 의 m.g ,f. M, (t냐) = exp {t1u + t 2v 난 CtM + 2p t1t2 (1 1 (12 + t2(1 n } C3-4o) 을얻는다. 그러므로 다음과 같이 M,( t냐)를 사용하여 필요한 적물 (momen t)들 을 얻을 수 있다. E(X;) ＝훑 (M. (ti, t2) )1 : : 대=µ; (i= I, 2) (3-41 ) E(X? ）를 (M.( 나 ))I:::8 군+<1 l (i=I , 2) (3-42) V(X,) =E(X?) 一 µl= <1 l (i= I, 2) (3-43) Cov( X.냐) =E((X1 구 1) CX2 玉)} =E(X1 • X2) 구 1µ2 =습 (M. (ti, t2) )/ I: 갭구 1µ2 = pa1 a2+ µ1µ2-µ1µ2 =pa1 CT2 (3-44) (3-44) 식은 X1 과 X2 의 공분산 (covar i ance) 이라 부른다. 이렇게 정의 하면 분산 야온 X1 과 X1 의 공분산이고, 6 검 역시 X2 와 X2 의 공분산으 로 간주할 수 있다. 그러므로 X1 과 X2 사이에 정의되는 공분산들을 행열 I: =( :~~ :~:) (3-45) 여 기 서 6n=6f ; cl2=p (1l (12 <1 21= p(1 2 어 ; 622=o 앙 로 나타내 주고, E 를 분산-공분산행 열 (varia n ce-covaria n ce matr i x ) 이 라 한다. 또 2 의 행열식을 계산하면
I I: I ==aa ?ua <는12 2 p-2<<1 11 f<21
(i, j= I, 2, …, k) (3-50) 1 k 차원 정규분포는 아주 중요한 분포이다. 그 이유는다변수통계해석 의 대개의 이론이 이 분포를 모집단분포로 가정하고 전개된다는 접이다• §3-4 주변분포 다변수 확률변수 (Xi, X2, •··, x.) 의 분포함수를 F(x1, X2, …, xk) 라고 하 자. 이때, 그 일부 변수들인 (X1,X2,… ,X r) (1 독 r
= (xnl) PX1 효 (n ;2xl) q x,rn-x 』 -x2 =（ 訂 Pz, (q+ r) -X1 =(xnl)P”(1 一 P)-••, (·.• q+ r=I-p) 그러 므로 구하는 주변분포는 이항분포 Bi n( n, p) 이 다. 16)
16) 자자 (n: 노石), =(;:)('';?)
예제 3-tt r. v. (X, Y) 가 2 차원 정규분포 N(µi, µ 야, 6 딩, p)에 따른다 고 할 때, X 의 주변분포 (mar gi nal d i s t r i bu ti on) 는 N(µ1,6? ）임을 보여라. 증명 2 차원 정규분포의 P.d.J. (3-35) 식의 지수부분을 y의 일차식의 완전평방과 정수항으로 분해하떤 J(x ,y ) 2r(1l (1 2 IV 1-p2 x ex p{-강뜨궁익-戒亡丙.(혹끈-p문근아} =*x p{-송요금리 x 홀 2 岭已 exp {2 야 ~(Y-µ2- 군 (x-µo)2} (a) µ위1) ' ((a)1 식검(의1 구)제) 에2 인관수한는 p ,xd. 를 f .고이정므로했 을(a ) 때석,을 정 y규에분 포관 해N (전µ2구+간 pf에,6-서l- ( x 적一 분하면 1 이 됨으로 구하려는 주변분포를 f *(x) 라 하면 f* (x) =F(x, oo) =『--O 3f (x , y) dy =급 ex p〔－강브금리 x 仁巧詞늙 ~ex p〔적길-p )2{ y― µ2- p뭉 .(x 玉 )2} 〕 d y =끊~ ex p{―강뵤궁리
§3 一 5 표본분포 예제 3-4 에서 이미 정규분포 N(µ, 균)에 따르는 모집단에서 추출된 크 기 n 인 임의표본에서의 표본평군 확률변수 X 의 분포에 대하여 언급하 였다. 뿐만 아니라, 위 표본에서의 표본분산 향도 하나의 확률변수이며, 이 들 통계 량 (s t a ti s ti c) 들의 분포를 표본분포 (sam p l i ng d i s t r i bu ti on) 라고 한다. 그리고 표본분포들은 현대동계학의 중십이론인 추정 (es ti ma ti on) 과 겁 정 (tes t of hy po th e sis ) 의 기 본이 되 는 분포들이 다. 그러므로 이 절에서는 수리통계학에서 자주 이용되는 표본분포들을 중접적으로 언급함으로써 확률론의 유용성을 인식시키고자 한다. 정의 3-11 r. v. X( 국)가 a=f -1, /3＝ 2 인 r 분포(제 2 장 예재 2-8) 에 따를 경 우 그 p. d. f. 를 f (x2) 라 하면, f(x ') = {~(x')½-, 군, (x2 츠 0) (3-53) 0, (x2<0) 로 주어지고, 이때 X 는 자유도 (d .f. =degr e e of free dom) v=k 인 x2- 분포 (chi- s q u are dis t r i b ut i on ) 에 따른다고 한다. 위 함수 f (x 이 가 r. v. x2 의 p. d.f . 임 은 이 미 r국 E 포 정 리 2-9 에 서 언 급하였으므로 이 분포의 m,g .f. 를 구하고 그것을 이용하여 평군과 분 산 등을 구하여 보기로 하겠다. 정리 3-9 위 x2 국t포의 m. g.f.를 M,,,( t)라 하면 M록 •(t) = (1 -2 t)구 (3-54) 이다•
증명 m.g .f. 의M 정2의(t)에 = f의:。e 1하 •'여 f (x 2)dx2 co = 2+rl( 강)f :@)+-1 e-(宇 )X'dx2 또 z= 강 (l-2 t )x2 로 두면 = (1 _ 2 t) 뉴(강 )-I i :z 누 l e- ldZ =( 1-2t) -2 k 이다. 四 따라서 갔국居포의 E(x2) 와 V(x2) 를 계 산하면 다음과 같다. E(.x2 ) ＝읊 (M'( t)) l,=o=k (3-55) v@) ＝옮 (M,,,( t)) l1=0-k2 =2k (3-56) 정리 3-10 확률변수 자(i =I, 2, …, k) 가 자유도 (d.f . ) n; 인 갔-분포 률 한다고 하고 또 이들이 서로 독립적이라면, 확률변수 k 군=E 따 온 자유도 (d.f . ) n= ~k n,. 인 x2- 분포i= 에l 따른다. i= l 증명 m. g.f. 의 성 질 정 리 3-2 의 (3-9) 식 에 의 하면 M.,,2 (t) = Tk TM.,,2 (t) i= I ==iI (=kT II (- . l2- t2 )-t삼). -E n2~ i 이므로 r.v. 갔는 자유도 n=Ekn ,· 인 X2- 분포를 따른다. 回 i= l 위와 같이 r. v. 들의 합이 다시 x2- 분포에 따르게 됨 을 x2- 분포의 재생 성 (rep ro ducti vi t y of x2-dis t r ibu ti on ) 이 라고 한다. 이 밖에도 이산형의 경우 Po i sson 분포와 연속형의 경우 정규분포 동
도 재생성을 가지는 것을 쉽게 증명할 수 있다. 정리 3-11 확률변수 X가 정규분포 N(o,12) 에 따를 때, Y=X2 은 자 유도 v=l 인 x2- 분포에 따른다. 증명 저를모함수의 정의에 의하여 My (t) =[_--e” 나J2 =re - 삼 dx =J*2 rf - _ e- 삼(1-2 t )X'dx 그리고 J T 二冠 x=z 로 두면 =(l-2 t)나「- -上J2 r건 dz =(l -2 t)-삼 그러므로 r.v. Y 는 자유도 i,= I 인 갔-분포에 따른다. 回 정리 3-12 r.v. X 가 N(µ,a2)o,l 정규분포에 따른다고 하자. 이때 표 본크기 n 인 임 의 표본을 나타내 주는 확률변수들을 X1 , X2, …, X” 라 하면, 통계량 x2 정훈갑 (3-57) 는 자유도 11=n 인 갔국柱포에 따른다. 증명 X( i =I,2, … ,n) 는모집단확률변수 X 와 동일한 i.i .d. 확률변수 열이므로 W.·= .cl (X •'- µ ), (i=I , 2, …, n) 논 표준화정규분포 N(o,I 이에 따른다. 그리고 또 정리 3-11 에 의하면 r.v. W? 는 자유도 v j =1 인 x2 분포에 따른다. 한편 x2- 분포의 재 생 성 에 의 하면 (3-57) 식 으로 주어 지 는 r. v. .x2 = iI=; l W, 2 온 자유도 v=n 인 갔-분포에 따른다는 것을 알 수 있다. 區
정리 3-13 확률변수 X가 정규분포 N(µ, 군)에 따르고, 훈을 위 정규 모집단에서의 표본크기 n 인 임의표본의 분산이라면, 동계량 군=亨강(亨 )2 (3-58) 은 자유도 v=n-1 인 군국包포에 따른다. 증명 표본분산공식에서 nS2=i.n=E l (X-X)2 감 {(X-µ)-(X-µ) J 2 켈{(X.. -µ)2-2( X.-µ) (X..—µ)+ (X.-µ)2} 갈 (X더 ,) 2-n (X 구) 2 (a) (a) 식의 양변을 군으로 나눠 주면 !!f=i감(두 )2-(皇 ) 2 그러므로 盤두 )2= 字+(皇) 2 (b) 그런데 위 (b) 식의 좌변의 통계량은 정리 3-12 에 의하여 이미 자유도 (d.f . ) IJ= n 인 갔국손포에 따르고, 또 우변의 제 2 항은 정 리 3-11 에 의 하여 자유도 IJ =l 인 .x 2- 분포를 따른다. 또 .x 2국 손포의 재생성을 감안할 때, 제 1 항의 통계량은 자유도 (d. f.) IJ =n-1 인 .x 2- 분포에 따른다는 것을 추축할 수 있다. 좀더 자세히 이론적으로 말해주기 위하여 위 (b) 식의 동계량들을 순 서대로. L, J ,K 라 두면 ML(t) =M1 +x (t) =M,(t) • Mx(t) 그런데 ML( t)=(1 -2 t)겨 ; Mx( t )=(I-2 t)나 과 같이 쓸수 있으므로
M,(t) ==M ( 1L_(2t)t I) M K( t) (c) - 성 ( n- 1) 그러므로 통계량 ]=nS2/ 군은 자유도 1.1= n-l 인 갔-분포에 따른다는 것을 m. g.f.를 동하여 알 수 있다. 四 특히 정리 3-12 의 (3-57) 식으로 주어지는 통계량과 정리 3-13 의 (3- 58) 석으로 주어지는 동계량을 비교하여 보떤, (3-58) 식의 통계량은 (3- 57) 식 의 통계 량의 모수 µ 율 표본확률변수 X1, X2, …, Xn 과 종속적 인 文 (표본평균)로 바꿔넣은 것이다. 따라서, 주어전 통계량의 자유도 (d .f.）는 그 통계량 중에 들어 있는 통계량의 개수만큼 자유도가 감축된다는 것을 의미한다. 정의 3-12 확률변수 X 가 정규분포 N(µ,a2) 에 따르고, 또 r.v. 갔 는 X 와 독립적으로 자유도 v=k 인 표분포에 따른다 하자. 이때 동계량 T= （누)/g (3-59) 는 자유도 (d.f. ) JJ= k 인 스튜던드의 t-분포 (s t uden t' s t-d is t r ibu ti on ) 에 따른다고 한다. 정리 3-l4 확률변수 T 의 p .d. f.는 다음 식으로 된다. h(t) =✓~ li(rr r무( 강)) （규)나 (k+1) (3-60) (여 기 서 -oo
면
d y= ✓ 霞 d t 이므로, T 와 x2 의 결합밀도함수는 f(t고)J＝따士 ―r(½)2+ @)~e 나 (l+ t )X’ (b) 로 주어진다h.(t ) = F(t,o o)=—V 2kr 전1 ) 2 끔 따라서 구하고자 하는 T 의 p .d. f.는 (b) 식의 T 에 관한 주변분포로 구해전다. X 「。 @）부근( 1+ 은 )dx2 (c) 한편 제 2 장 정리 2-9 의 r_ 분포에서 『。 -t dX= I' (a+ l)fia + l (d) 인 결과를 이용하면 (c) 식의 적분값이 얻어진다. 죽 x2=X ; a= 눅 1 ; 13-1= 강 (1+ 밉 과 같이 두고, 구하는 적분치를 I 라 하면 I=r(1+ 무)〔{강 (1+ 判?구 +1 =I'(무 )2 무 (1+ i)무 (e) (e) 식을 (c) 식에 대입하면 구하려는 p.d .f. h( t)가 얻어진다. t] 정리 3-15 r.v. T 가 자유도 J,1= k 인 t-분포를 따를 때 i) 기대치 E(T)=O, ii) 분산 V(T)=k/(k-2),iiD 통계량 T 의 극한분포 (k-.oo) 는 표준화정규분포 N(o,1 이이다. 증명 i)의 증명 : T 의 p. d. f. 를 h( t)라 하면 h( t)는 우함수 (even fun cti on ) 이므로 E(T) =j -00 냐(t )d t =O ii)의 증명 : E(T)=O 이므로, V(T)=[f h (t) d t =「- .. 」J k r rr(( 무{)) 言)t2 부 dt =i 言 {L .... (:++J무 dt-『_ .. (l+di )나 =上r rr( 8무)) 「- .. 그（ 때一)구 -k 한편 t=✓ 그k 一二 2 W 로 치환하면 V(T)=- :h:r ~[k+.I (1+ 昌)－무✓ ---;Et w-k (a) 또 「 -h(w,k-2)d t=二 霜 「 .. (旺昌)구 dw 2 =1 이므로
j: .. (1+ 昌) -~dw= ~ ✓ 戶 (b) r( 틀) 따라서 (b) 식을 (a) 식에 대입하면 V(T)=~ 胃 ✓ 占· ::〉仁哥 -k =k 層r( 드+· 1) . r尋(~) -k =k. ((부틀)) r지( 부~)) • rr(( 모부) -k =k( 仁 -1) k =下 iii)의 증명 : r.v. T 가 자유도 11=n 인 t국起포에 따른다 하고, h(t,n ) 률 그 p .d .f.라 하면 log h (t, n) =lo gg모尸 ;r〉 년,) + log (1 + 탸n 宁 =log 홉r( . 宁 r()-;; ) ．' ✓V 호n +lo g (l+ 우)－무I (a) 위 (a) 식의 제 2 항은 lo g (l+ 읍)~1=-강t 2, (n 리 (b)* 이고, 또 제 1 항은
lo g(言 ✓ !)-lo g홀 =-1귬 I 十1福 -那1 -lo g.,/£ ••• log ~ =-log,I~ , (n-+00)** (c) 그러므로 (b) 식과 (c) 식에서 log h(t, n) = -늄 -lo g홀 (n-+oo) :. h(t, oo) =-J=12 rc - 삼,. 그러면 위에서 정의하고 소개한 바 있는 S t uden t분포에 대하여 통계 학에서 가지는 의미를 음미해 보고 지나가기로 하겠다. 모집 단확률변수 X 가 정규분포 N(µ: =(틀)/✓ 근흥 = S/굿- l-n . u= -i (3-63) 은 자유도 JJ =n-I 인 t국起포에 따른다 . 그리고 이 동계량 T 분의 분포 는 자유도 止 =n_1( 표본크기 -1) 에 의하여 정해지며 미지모수 62 와는 무 관하므로 µ의 추정과 겁정에 이용이 가능하다는 접이다 . 다론 한편, Stu dent 의 분포에 있 어 서 자유도 JJ =n-l 이 커 지 면 (n-> oo) r. v. T 는 표준화정규분포 N(o, 12) 에 수령 하게 된다. 특히 , 자유도 lJ =n 一 1 이 커진다는 것은 표본크기 n 이 커진다는 것을 의미하므로 (3- 63) 식에서 J 5=I 수J 7 으로노 바꿔넣어도 무리가 없다는 뜻이다 . 죽 동계 량 (3-63) 식을 • T= S츠IV n (3-64) 와 같이 쑬 수 있고, 이것이 표준화정규분포 N(o,12) 에 따르게 된다는 것을 의미한다. 그러므로 미지모수인 모분산 (12 대신에 표본분산 모을 이용할 수 있 게 된다는 것이다 . 이제부터 현대통계학의 개척자이며, 분산분석 (Analys is of Varia n ce), 실험계획 법 (Desig n of Exp e rim ent) 둥을 고안한 F i sher( 영 , 1890~ ）의 F- 분포에 관하여 논해 보기로 하자. 정의 3-13 두 확률변수 자과 자이 서로. 확률적 독립하고, 또 각각 자유도 1,11 =n1, J.12 =n2 인 군국t포들에 따른다고 하자. 그러 면 통계 량 F= 브n1/1 브n2 (3-65) 은 자유도비 (n1, nz) 인 F- 분포에 따른다. 정리 3-16 위 r. v. F 의 p. d. f. 를 g (F) 라 하면
g (F)= 〔信)문 F 芳. -'(I+ 꾼)스; 므 (3-66) (여 기 서 F ;?; O 이 다) 으로 주어진다. 증명 : 확률변수 쏴과 x 앙의 결합밀도함수를 f(자 ,x g)라 하면 f(x f, xg) = 1 2 릅므 (x~) 꿍 -l (X~) 꿈 -1 e 가 (x:+4) (a) r( 망)칸) 또 (3-65) 식에서 짜=(奇）卓 붑=（운)따 이므로 F 와 x 궁의 결합밀도함수는 f(F , xD =칸)~만) 2 -宁(자) !'f---1 (뭉 x g)꽁 -l xe- 삼 (1+ ；；； F)x: • (운)쟈 그러 므로 구하고자 하는 F 의 p. d. f. 는 f(F , x 딩) 의 F 에 관한 주변분포 이므로 g( F) =~2- 宁伊)문 -IF 문 -1 칸)칸) x 『。 (:x앙) 랴 c 국(1안 )z:d :xg (b) 위 적분부분을 I 라 두면 l= I'(특) {2(1+ 꾼)가宁 (c) (c) 식의 결과를 (b) 식에 대입하면 r.v. F 의 p,d .f. (3-66) 식을 얻는다. 이제 F i sher 의 F국 包포가 가지는 통계학적 의미를 음미하고 넘어가기
로하겠다. 모집단확물변수 X가 정규분포 N(µ, (J 2) 에 따를 때, 이 모집단에서 크기 111 인 입 의 표본의 분산을 S, 크기 n2 인 임 의 표본의 분산을 S g라 하면, 동계량 F言=~/ (In2~ — 1) 8 =SUS 궁 (3-67) 은 자유도비 (n i -1,n2-l) 인 F- 분포에 따르게 된다. 여기서, Sf =n1_-lf , S 당• =n一2-戶l 접 (3-68) 으로 모분산 (J 2 위 불편추정량 (unb i ased es ti ma t or) 들이다. 이 F- 분포는 분산분석의 원리를 제공하는 기본분포이다. 이제까지 언급한 두 확률분포들은 모두 정규분포를 모집단분포로 가 정하고 구해전 표본분포들로서 소표본론 (small samp ling t heo ry)의 기원이 된 분포들이다. 현대통계학은 소표본에 의한 추측통계학(i nduc ti ve s t a ti s tic s) 이 그 핵 십이 되고 있다고 할 수 있다. 특히 현대동계학의 효시는 W.S. Gosset (St ud ent) 의 t-분포에 서 시 작되 어 역 시 소표본론에 전념 한 R. A. Fis h er 에 의하여 이론적인 골격이 이루어졌다. § 3-6 비십분포 앞 절에 서 는 소표본에 의 한 정 밀표본론 (exac t samp ling the ory) 의 근원 이 되 는 표본분포들로서 소위 중십 표본분포 (cen t ral samp ling dis t r i b u ti on ) 들을소개하였다. 이제부터는 비십 갔국t포, 비십 t-분포, 비심 F국 손포 둥 비십표본분포 (noncentr a l samp ling dis tr i b u ti on s) 들을 소개 하기 로 하겠 다. 확률변수 X1, X2, …, x. 가 표준화정규분포 N(O, 1) 에 따르는 i. i. d. 확
물변수들이라 할 때, 확물면수 Y=XH,X 묘 ··+X! 은 정리 3-11 에 의하여 자유도 (d. f.) lJ= k 인 갔-분포를 따르게 된다. 그런데 위 확률변수 X;(i =l,2, … ,k) 들이 모두 평군들이 원접이기 때 문에 이 들로 정 의 된 갔-분포를 자유도 (d. f. ) lJ= k 인 중십 국-분포 (centr a l chi- s q u are dis t r ibu ti on ) 라 부른다. 분만 아니라 이 갔-분포로부터 구성되는 나머지 분포들을 각각 중십t 분포, 중심 F- 분포라부른다. i) 비 십 표분포 : 확률변수 X.-(i= l, 2, …, k) 가 평 군이 E(Xj) =µj(~ O) 이고, 분산이 V( X.- )=l 인 정규분포 N(µj, 1) 에 따른다고 하자. 정의 3-14 위 확률변수들 X j(i =1, … k) 가 서로 독립일 때, 확률변 수 Y=.E k X ~ i= l 의 확률분포를 비심 x2- 분포 (non-cen t ral ch i-sq u are d i s t r i bu ti on) 라 한 다. 그리고 Y 의 p .d .f.는 f(y)=-½홉P(<二/J V \ 巨(강)풍나-난', (y> o) (3-69) 로 주어진다. 위 (3-69) 식이 p.d .f. 임은 분명하다. 왜냐하면 J:f(y )d y=홉 E( 응 )•x 미；표)J:（강)랑산-난 'dy =효감 e-1( 합 =1 이기 때문이다. 그러떤 확률변수 Y의 적물모함수 (m. g.f.)를 구하여 보기로 하자.
정리 3-17 r. v. Y의 m. g.f.를 My (O) 라 하면 My ( 0) =te-~ .춘 \p_\广• (l-20) 론 (3-70) 이다. 증명 X1,X2,···,X1r 는 서로 독립이므로 M y ((}) =E( 간) = Iin=T IE (e’ 마) (a) 그란데 E(e'x:) =[m-e~1 r: -J;2 hr e - 요푸 dx, =『 -:h:c e-½( 다 -2µ, Z i+p단 ’:,.P dx; -~J2 r =「 上 e 가 ((l-2,x:-2µ i X i+다) dx; -mV2;r ; = e 이 /Cl-2’ 『 土 e- 삼 (1-2’) (Xi -iw( l-2’)) 'dxi -m -./ 21r .E..2..=.. , t= -./ i=격 8 X,· -µ{/ ,./ f=-211 라 놓으면 dx; = l /-./ Y::국f1j dt 이므로. E(e’ 자) = (1-28)-½ • e”:/ 다) (b) 위 (b) 석을 (a) 식에 대입하면 My (8) = (1-2()) 우 • e 습 m: 또는 (c) 을얻는다. 한편 파?구라두면 My (()) = (1-2() ) -.:.e’W(1-2’) = (1-2() ) -7 • e-W2 • e 体 na-2’) (d) 로 쓸 수 있고, 또 (d) 식의 우변, 제 3 인수를 급수로 전개하면
My ( O) = (1 ― 20)-nI2¢¢nkg (1_k2!O)_ 』 (왕)& =戶圖 . (1-20)- 무 그러 므로, 구하려 는 m. g.f. 가 언어 진다. Z겹 한편 위 m.g .f. 에 관하여 (1 一 20) 포무는 자유도 v=n+2k 인 z2- 분 포의 m.g .f. 이므로 r.v. Y 의 p .d. f.는 f(y) = 仁三虹 1 (강)따냐 -1e- k=o k ! 2 I'(꿍냐) 로 쓸 수 있다. 위 (3-69) 식으로 주어전 p. d. f. 는 자유도 (d.f. ) ))o =n, ))1 =n+2, v2=n+4, …인 갔국棒포들의 가중평군 (we ig h t ed mean) 의 형태로 주어전 냐 또 각 항의 무게로서는 그 모수가 少 /2 인 Po i sson 분포 임을 알 수 있다. 이때 r.v. Y 는 자유도 (d.f. ) v=n 인 비십 군국손포에 따르며, ¢= i고= l 짜를 이 분포의 비십도 (non-cen t ra lity)라 부른다. 특히
17) 비 심 X’- 분포는 R. A. Fis h er, Wi sh art( l9 32), Patn a ik ( I949), Tik u (I965) 등에 의
정리 3-18 비십 t-분포의 확률밀도함수 (p .d. f.）는 다음과 같다. h(t) = l ir( f+ k+1)¢' J T J了덴)~; \ 2 x 당(운 )(1+ f)두 (3-72) 층명 두 확률변수 X 와 x2 의 결합밀도함수(j o i n t pro babil ity densit y fu nc ti on) 을 f(x , x2) 라 하면 f(x , x') =:k,.•_}(안’ x 司던 )'n-1e-'^ =2 ,.;21r 1r (f) 던)J n-1e-}((x- p)'+y) = l Ek fo(합 /2-1 땀노宁 2,./ 칼(f) 이다 .18)
18) e-112(%->)'=e-Cz1+>1)/2 • e•z =e-( 판 )n • {l +µx 나2 (µx) 나···}
그런데 (3-71) 식 에 서 x= ✓ 파 • t, dx=,./ 詞 d t 이므로, 두 확률변수 x2 와 T 의 결합밀도함수는 f(x ', t) =~e- 삼p•麟 )'^-1 갑(µ ✓ 訂 •e -½( 군/J,.”官); =2 -./ 칼1 ({) e 가,.. 접갑 (ut) 템)무信)두근 (1+PI f )X’ (a) 그러 므로 구하는 p. d. f. h( t)는 f(x 2, t) 의 T 에 관한 주변분포로 구할 수있으므로
h(t) 기 m f(x 2, t)d x2 。 =홉―전上)― e- 성효땅(운)무 x J:(f)뚜1 e 카 (l+ 우 )X' dx2 (b) 이제 ½.x2 =z, d 갔 =2dz, (b) 식의 저분값을 I 라 두면 I=2[2 삼 (/+k-1)e-(1+w f) Z dz 。 =2 I'(누) . (1+ 衍국 C/H +l) (c) (c) 식의 적분결과를 (b) 석에 대입하면 I= l 근업당(운 )(k+1)n. r( 노 )(1+%) 나(f+i+l) 홉I'岭) =J킵;I' U) 찰(守 )e 국µ字(운 ) (1+ 广)-무 를 얻는다. E] 특히 비십도 µ=0 일 경우 위 (3-72) 식은 자유도 J.1=f인 t-분포의 p. d. f.와 일치한다. iii) 비십 F- 분포 : 중십 F- 분포는 두 개의 중십 군국起포의 비로 정의 되는 분포였다. 이제 r.v. Y 가 자유도 fu 비십도 #률 가지는 비십 /국包포에 따른 다고 하고, r. v. Z 가 자유도 f2 인 중십 갔--¾포에 따르며 , Y 와 Z 가 확물적으로 독립이라 하자. 정의 3-16 Y 가 자유도 f1 인 비십 카이제곱 분포, x2 이 자유도 f2 인 중심 카이제곱 분포에 따른다고 하고, Y 와 /이 서로 독럽져 이라 하자. 이때 통계량 F1= 풋/운 (3-73)
는 비심 F- 분포 (non-cen t ral F-d i s t r i bu ti on) 에 따른다고 한다 . 정리 3-1 9 위 (3-73) 식으로 정의되는 확률변수의 p .d .f . 는 다음과 감 다. h(F1)=k 亡= o 二k !置 rI( 亨'()노 戶r()?) (뇨 f2 ) 宇 X Flf/ 2+k-1(l+ 따f2\ )－딱 m (F>o) (3-74) 증명 : 만일 Y 와 Z( 군)의 결합밀도함수를 f(y, z) 라 하면 f(y, z) = 〔戶0 e-,12민 . 2r( ；냐) （방 )h I 2+ k -1e-yI2 ] x 〔富（중 )h I2 - 난 . 〕 ~e-; ,i (쓰 )k 강군 x2T( 伊 +1k) r(?) · (당 )' 1 12+k- 난 )', 12 -le- 삼 (') 그런데 (3-37) 식에서 y=(o/;)F 1 • z a y=(分 zdF 그리고 F1 과 Z 의 결합밀도함수를 g (F1,z) 라 하면 g( Fi, z) =kI~. .: r ~E k8! )-k • z2r( f표1) r(~) x [(상 停l z)'Il2+k-1( 공 )'II2- 난 {l+IV f 'm·( 阿
= （송)f , 12 +/, 1 2+•-2 信) /, 1 2+ l-1F J,t2 +k-l 澤o e _;lk2(! 정 )，， • 2T(? 마1( ?)} x {ZIln+f ·1 2 + k-l e-2I(l+/IIf·P )Z} 그런데 구하려는 p.d ./. h(F i)는 g (Fi .z) 에서 F 에 대한 주변분포 (mar gina l d i s t r i bu ti on) 로 구해 진다. 죽, h(FJ =[Og3 (F i., z)dz 。 = (강 )hl2+ f ·l2+k-2( 分 kl2+k-1Fl/Il2+k-l 댑~o e-912 f( f) /r •뺑 +1k) 델)〕 x [ooz 꾹 냐 -1e-Il2(l+ f :If 'F l )zdz 。 a= 件 +k-1, 『난 (1+~F1) 라 하면 k (F1) = IJ;-':〔응) k x r(A+f; + 2k) （어만1 ''12H-l • (1+~Fl)-'~ 델)지亨) f2 f2 를얻는다. 蠶 특히 비십도 #가 0 이면 F1 은 중십 F국 t포에 따르게 된다. 그리고 비십 F국 包포는 자유도비 Cf 1+2k .f 2 〕인 F국 손포들을 Pois s on 분포 P(}) 를 그 무게로 삼아 산술 평군합으로써 얻어지는 분포라고 해석할 수 있다.
§ 3-7 조건부분포 제 1 장 § 1-9 의 정의 1-30 에서 사상 A 가 일어났을 때 사상 B 가 출 현하게 될 조전부확 률 은 P(BIA)P=(A~) , (P(A)>o) 로 정의하였다. 정의 3-17 r.v. X 에 대하여 P(X=x)>o 인 경우, A=(X= 지일 때 B 의 조건부확률은 P(BIX=Px(X)==x)~ , (P{X=x}>o) (3-75) 로 정의한다. 예제 3-12 성공확률이 P 인 베루누이시 행 (Bernoull i t r i al) 을 n 회 행할 때, 성공회수를 Sn 이라 하고, 또 마지막 n 번째 시행이 성공하게 될 사 건을 B 라 하면 P(BISn=k)=¾, (I 학학) 이다. 풀이 위 정의 3-17 의 공식 (3-75) 식에 의하여 P(BIS(n仁 =}) PPkk(-)Sl q=n (=n~-k1))-) (k) 크 )P (j; )pq- 곡 (1 학 ~n)
위에서는 조건부확률에 관한 개념을 조건 X 가 연속형인 경우에로 확 장하기 위하여 직관적인 예제를 도입으로 삼겠다. 예제 3-13 확률변수 X 와 Y 의 결합밀도함수가 f(x , y) ＝강, (O< y우 ~2) 일 때, P(Y 다 ½!x=l)= 〉 이다. 풀이 r.v. X가 연속형이므로 P(X=x)=O 이다. 그러므로 P(Y 터t lX=x) 를 칙접 정의 3-17 의 공식 (3-75) 식을 이용할 수가 없으므로 沿칵 |X=x)=l} －단 (Y~ t lI-o
따라서 공식 (a) 에서 P (Y~½ I I-o
P(Q IX=x)=I, CP-3 : 사상열 A1, A2, …가 서 로 소일 때 P( Uem Ad X=x;) = Ie ;P( Ad X=x) i= l i= l 등이 성립한다. 만일 X 와 Y 가 이산형인 확률변수들이고, 또 각각 Sx,S y에서 그들 의 실현치들을 취한다고 하자. 정의 3-19 만일 Y= y (ES y)에 대하여 X=x(ESx) 를 택하게 될 확 률 P(X=xlY=y ) P(XP=(Yx,= Yy )= y ) (3-78) (P(Y=y ) >o) 로 정의하고, 이것을 조건 Y= y일 때X 의 조건부확률이 라고. 한· 다. 한편 P(Xl Y=y ), (xESx) (3-79) 를 조건 Y=y 밑에서 X 의 조건 부확률분포 (condit ion al pro babil ity dis t r i b u ti on ) 라고 한다. 위 (3-78) 식 을 다시 쓰면 P(X=x, Y=y ) =P(X=xl Y=y ) P(Y=y ) 룰얻는다. 따라서 확률변수 X 의 확률분포는 X 에 관한 주변분포 (mar gi nal d i s t r i bu ti on) 로 구할 수 있 다. P(X=x)=~ P(X=xl Y=y ) P(Y=y ) (3-80) YESY 정의 3-20 확률변수 X 가 연속형이고, Y= y인조건밀에 X 의 조 건부확률이
b P(a
P(xI y ) = (n; y)（占 ) ( 1 ―占 ) 'Ex_ y (3-85) 를얻는다. 예제 3-15 2 차원 정규분포 N(µ1, µ2, I:, p)의 조건부분포의 p. d. f. 를 f (x| y)라 하면 f(x l y) = 홀 61 노 7ex p仁志균구깁 X1 구 1-P 군(y -µ2) 『〕 (3-86) 이다. 죽 정규분포 N(µ1+P 국(y -µ2), (J l(l 구))에 따른다. 증명 f(.x l y) =f(.x, y)/JR/C .x , y) d.x = 211:< 1l <1 2 1V 1 -p2 e 러- 2 (1 구l ) {(x-<1µ? 1)2+ 오그<1당 익 2 p (X 一 :1112( y -µ2)} 〕 /~ex p〔一요글리 (a) 그런데 위 (a) 석의 분자의 지수부분을 K 라 하고 다시 쓰면 K= 1 )<1f {(x-µ1) 구군(y -µ2) 『+멀유 이고, K 를 (a) 식 에 대 입 하면 (3-86) 식을 얻는다. 떠 마찬가지로 YIX= .x의 조건부분포는 정규분포 N(µ2+p f
정의 3-22 r.v. X 가 연속형일 때, 그 조건부기대치는 다옵과 같이 정의한다. E(XI Y=y )=j-. . .. xf (x ly) d x (3-88) 조건부기대치들에 대하여, 다음 성질들이 만족된다. ECw(X) I Y= y]=「 w(x)dF(:X ly) (3-89) -m E(C I Y=y ) =C, (3-90) E(aX+bl Y=y ) =aE(XI Y=y ) +b (3-91) (a,b 는 상수) I정 의 3-23V(EYX(X::+:Z:I EY:=(yX )밑 = -어;E (X(XX1I 의 YY =조= yy ))+ :E:(:Z:I :Y =y ) ((33--9932)) 조건부분포에 대하여서도 그 분산 (var ia nce) 윤 다음과 같이 정의한다• 로 정의한다. 그러 던 위 (3-93) 식 으로 정 의 된 조건부분산은 V(XI Y=y ) =E(X 이 Y=y )-{E (XI Y=y )}2 (3-94) 로쑬수도 있다. 조건부기대값에서 h(x)=E(YIX=x) (3-95) 로 놓으면 조건부기대치를 x 의 함수로 생각할 수 있다. 그러면 h(x) 에 대하여 다음 정리가 성립한다. 정리 3-20 r.v. X 와 Y 의 결합분포함수를 F(x,y ) 그리고 X 의 주변 분포함수를H Fxx (eAX ) 라 y하d 면F,(x , 임y의)=의t E실( Y수I X집=합x) dAF 에x (x대) 하여 (3-96) -우 .. 이다.
증명 X 와 Y 가 이산형인 경우에도 성립하지만 , 편의상 연 속 형인 겅 우를 증명하기로 하겠다. 이제 X 와 Y 의 결합밀도함수를 f(x ,y ), X 의 주변확률밀도함수를 fx (x), X=x 일 때 Y의 조건부밀도함수를 fy 1x( y lx) 로 나타낸다. H 후.. yf(x , y)d y d x=ff _ .. >,> .. yfy,x (YIx)f x (x)dy d x = L[C .. yfy1x (y l x) d 기f x (x) dx 내 AE ( YI X= x)fx ( x) dx 이다. 訂 한편 r.v. X 와 Y 가 이산형인 경우 (3-96) 식은 다음과 같이 쓸 수 있다. I:I:yf(x, y)= E E(YIX=x)fx (x) (3-97) sEA sEA 문만 아니라 (3-96) 식에서 A 가 실수집합전체 (A=R) 일 때 다음과 같이 된다. .. E(Y)=-[.. .. E (YIX=x)dFx(x) (3-98) 조건부기대값을 (3-95) 식에서와 같이 x 의 함수로 생각하면, 새로운 확률변수 h(X) 를 얻을 수 있다. 죽 h(X)=E(YIX) (3-99) 이고, 이것을 X 가 주어질 때 Y 의 조건부기대값이라 부른다. 그러나 앞 서도 언급한 바와 같이 이것은 하나의 확률변수라는 접이다. 죽, r.v. h(X)=E(YIX) 는 h(x)=E(YIX=x) 인 값을 취하는 확률 변수이다. 정리 3- 21 확률변수 E(YIX) 를 이용하면 E 〔 YIA(X) 〕 =E 마 (X)E(YIX) 〕 (3-100) E(Y)=ECE(YIX)] (3-101)
등이 성립한다. 층명 (3-96) 식 과 (3-98) 식 에 서 분명 하다. 口 정리 3-22 확률변수들 X 와 Y에 대하여 x 가 임의의 실수일 때, 다 음식이 성립한다. E[g( X, Y) IX=xJ= E[gt x, Y) IX=xJ (3-102) 층명 Z=g ( X, Y) 라고 하면 X=x 일 때 , Z 의 조건부분포함수는 (3- 82) 식에 의하여 Fzlx(zlx)=P 냐 (X, Y)~zlX=xJ =P[g( x, Y)~zlX=xJ 로주어진다. 따라서 E(g ( X, Y) IX=xJ== =Ef .--.[,.[ ... ...g zz d(d xFP, z 냐Y1x) ((Xxz,l =xy)x )] ~ zlX=xJ 이다. 回 계 : r.TJ . X 와 Y 가 서로 독립이면 다음 각 항이 성립한다. i) E(g ( X, Y) IX=xJ= E{g ( x, Y)} ii) E(u(X) • v(Y) IX=xJ= u(X)E{v(Y)} iii) E[u(X) • v(Y) IX 도 (X)E{v(Y)} 종명 i)의 증명 : X 와 Y 가 독립이면 P(g ( X, Y) 오 IX=x J =P[ g (x, Y) 三건 이므로 (3-102) 식에 의하여 E(g ( X, Y) IX=x J =E 요 (x, Y) IX=xJ ==f[ -..-.. ... ... zz dd PP([gg (( xx,, yY))~ 독z긴lX =xJ
=E[g( x, Y)J ii)의 중명 E[u(X)v(Y) I X=.x J= E[u(.x) v(Y)J =u(.x) E[v(Y)J iii)의 증명 : 이것은 ii)를 조건부기대값으로 나타낸 것분이다. 寬 예제 3-16 X i, X2 …이 성공률 P(O
E(Ti1 X 1=0) =E(T1+ 1) =E(Ti) + 1 이 성립한다. 그리 고 또 (3-98) 식 과 (3-101) 식 에 의 하여 E(T1) =E[E(T1IX1)] =E( T1I X1= l)P(X1=l) +E(Ti! X1=0)P(X1=0) =l • P+ (E(T1)+ lJq =q • E(T1)+1 (d) 그러므로 (d) 식을 E(T i)에 관해 풀면 구하는 기대값 E(T i) =l/P 가 얻 어진다. 만일 확률변수 X 와 Y 가 모두 연속형이라면 Ex,Y< /J( X, Y) =J .. ‘ I-. . ..
Ex1Y=,X= I: xp (X =xl Y=y ) xE S; c =P(X=I I Y=I)=O(y) 따라서 P(X= I) =ExX=EyE x1Y=Yx =Ey O (Y) 그런데 X 는 분명히 0 또는 1 을 댁할 수 있으므로 P(X=O) =I-P(X=I) =I 一E y O(Y) 그러므로, r.v. X 는 tB (E 센 (Y) ）에 따른다. 정의 3-24 만일 r.v. X 가 이산형이고 또 그 p .m. f.를 P1=P, {X=x•} , (k=O, I, 2, …) 이라 하자. 이때 G(S) =ExS 드 kE=‘0o P kS” (3-106) 룰 r. v. X 의 확률모함수(p.g.f. =pro babil ity ge nerat ing fu nc ti on) 라 한다. 위에서 정의한 p,g.f. G(s) 는 다음 성질듣울 만족한다. G(l)=l, G' (l) =쓰d-s G (s) ]•=i=E (X) (3-107) G(1) =E{X(X-1)} V(X)=G11(l)+G'(I) 一 {G'(l)} 2 (3-108) 예재 3-23 r. v. X 가 베르누이분포 (!3(p)에 따를 때, 그 p.g.f. 를 구하여라. 폴 OI P(X=I)=P, P(X=O)=I-p 이므로 G (s) = (I-p) s0+p s1
••• G (s) =I -p-ps (3-109) 예제 3-24 r. v. X 가 B i n(n, p)에 따를 때 그 p.g.f. 를 구하여라. 풀이 p1,= P(X=k)=(k)p (I-p)n -k (k=O, I, 2… n ) 이므로 G (S ) =kta pk s = ,.to( k ) P (I -p) n-s =,.t/ ~ ) (ps) (I-p) n- :. G(s) = (I-p+ps) n (3-110) 정 리 3-23 만일 r. v. X1, X2… X n 이 서 로 확률적 독립 이 고, 또 r. v. xk 의 p.g.f.를 Gi ( s) (k=l, 2, …, n) (3-111) 이라면, r. v. Z,.=X1+X2+… + xn 의 p. g.f. 를 H,.(s) 라 할 때 Hn (s) = TnT G1t (S) (3-112) Jr= l 이다. 증명 Hn (s) =Ez 짜 =Ex J, ~x,,sx 』 +-+X,. =Ex1Sx1 • Ex2sx,~ExnS 쟈 == rr G,.(S) A=l 만일 X.t 7 } Po i sson 분포 p(.:i.)에 따를 때, 위 정리의 결과를 이용하 떤, Zn 이 역시 Po i sson 분포 p(r;.:i.:)에 따른다는 것을 알 수 있다. k=I 또 뇨가 B i n(m1r,P) 를 따를 때, z” 는 역시 2 항분포 B i n( AI:= lm .t ,P) 에 따 르는 것을 알 수 있다. 예재 3-25 만일 N=n 인 조건 밑에 r.v. X 의 조건부분포가 Bin ( n,p )
이고, 또 만일 r.v. N 이 2 항분포 B(m,a) 에 따돈다고 할 경우 X 의 주년분포률 구하여라. 폴이: GxiN =n(s) =Ex1N=nsx= (1-P+p s) 그리고 GN( W) =EN W 드 (l-a+ a W),. 따라서 (3-105) 식에 의하여 Gx(s) =ExSX=Ex,Nsx =ENEX1N=N 향 =EN (l-P+Ps) H =GN(l-P+Ps) = {l-a+a(l-p+ ps) } • = (l-ap+ ap s) • 그러 므로 X 의 주변분포는 2 항분포 Bin(m, ap ) 에 따론다. § 3-8 상관계수 R 의 분포 이제 2 차원 정규분포 N(µ 파硏 I:), (여기서 E= 분산공분산행렬이다.) 로부터 임의추출한 크기 n 인 임의표본을 (X1, Y1) , (X2, Y2) , …, (Xn, Y,.) 라하자. 다시 u,.= (Y,-µ2)- p운 (X-µ i.) (i= I, 2, …, n) (3-113) 이라 두면 U’ 는 서로 독립적이고, 더우기 u, 와 X, 도 서로 독립적이 다 .19)
19) Y,=a+p X ,+U, (U,~N(0,11') 여기서 a=µ,-{]µ1 ; P= 『운-이 다.
또 U, · 의 분산을 V(U,.) 라 하면 V(U,.)=(1- p詞 (3-114) 이다. 20)
20) E(U,)=E(Y,-µ,) ＿국난 CX 다 11) =0 V(U,) =E (U깁 =11~(1-p ')
다시 말하면, X; 와 U,. 는 독립 적 이므로 X1=X1 , X2=X2, …, X,.=x“ 일 때 Yi 의 조건부분포는 기대치(평군)가 a+ g x, · 이고, 분산이 (I 一#）아인 정 규분포 N(a+ {3x ;, (I- p z 詞) 에 따르게 된다. 한편 B=E” (x,._x) (Y,._ Y)/2 (x,._ x )2 (3-115) i= l 라 두면, 통계량 B 는 정규분포 N(/3, (1- p 2) 야/I: (x;-x)2) (3-116) (여 기서, g=p 야/q l 이다) 에 따른다. 정리 3-24 동계량 모을 S2=.E (Y;-Y)2-.E (x;-x)2(B-p) 2 이라 두면, 통계량 x2=S2/(1 一#)<1g (3-117) 은 자유도 v=n-2 인 군-분포에 따른다. 층명 주어전 통계량 갔온 갔 =S2/(1- p2 )a 접 = (ln-S p2 2 )a 감 -( 1-p2 )(aBg/ -2 /3 () 2x . . _x)2 그런데 위 식에서 통계량 B 는 정규분포 N(/3, (l- p 2)a 당 /2(x .. _x) 이에
따르므로, 우번의 제 2 항은 자유도 v= l 인 군一분포에 따른다. 한편 조건 X1=X1 ,X 2=X2,•••,Xn=Xn l 길에서 Y; 는 정규분포 N(a+p x,., (1_#)aD 에 따르므로 위 석 우번의 제 1 항은 역시 자유도 JJ =n 一 1 °,l 군국柱포에 따론다. 그러므로 군국손포의 재생성 (re p roduc ti v ity)에 의하여 (3-117) 식으로. 주어전 통계량은 자유도 v=n 一 2 인 갔-분포에 따른다. 回 정리 3-25 동계량 Tl= 눕@ -2B)— EB ( x i一 x)2 (3-118) 은 자유도 JJ =n-2 인 t국起포에 따른다. 증명 :t분포의 정의에 의하여 T= V (1 ―#)B야 켈 /2 (x,· 군 )2 人/ (n-2) 안(1 -p2 ) Gg 은 자유도 v=n-2 인 t국柱포에 따른다. 그런데, 위식을 정리하면 (3-118) 식을 얻는다. 回 정리 3-26 R 을 2 차원 정규분포 N(µl, µ2 ; I:)에서의 표본크기 n 인 임 의 표본의 상관계 수 (correla ti on coe ffici en t)라 할 때 , 동계 량 T2= ✓ n-2 R/ ✓ f=RZ (3-119) 온 자유도 v=n-2 인 t-분포에 따른다. 증명 : 정리 3-25 의 (3-118) 식에서 Ho : p =O 이다 라는 가정을 하면 /3 =0 가 된다. 죽 T2= T1I,=a= s/ 潭~I; (x 크 )2 (a) 그런데 (a) 식에 B 와 S 의 값을 대입하고 정돈하면
T2=i7 .!!仁3 !;_ 을 얻게 된다. 已 이 정리에서 T2 는 표본상관계수에 의하여 모상관계수 p에 관한 귀 무가설 (null hy po th e sis ) : H,。 : p =O 이다의 유의성검정 (s ig n ifi cance tes t) 에 이용되는 통계량이다. 정리 3-Tl R 을 2 차원정규분포 N(µi, µ 2 ; I:)에서의 표본크기 n 인 임 의표본의 상관계수라 하자. 그러떤 가설 「 Ho : p=p。 ~o 이다.」 밑에서 r.v. R의 p .d. f.는 다음 과 같다. h(r)=~ (l 一 r2)en- 4>'2 gr (꾸 !)r( 퉁) x to ¥ 미노) (3-120) 증명 정리 3-25 에서 통계량 T= S/J (n-B2—) 2B ( x,._X )2 는 자유도 (d .f. ) v=n-2 인 t국起포에 따른다고 하였다. 그리고 또통계량 B=~ 크) (Yi- Y) .E (x,-x)2 는 (3-116) 식에서 정규분포 N(p, 당若广붉)에 따른다고 하였다. 따라서 Z=B/ {,/~야/J E (xi- X)2) } =B,/~/ ✓ T 二 7야 는 정규분포 N(J E (xi- X)2p /c 2VF7T 1) 에 따른다.
그런데 또Z=I. ; (x;_ 元 ) (Y, · 一 Y ) ! -v'~ <1깁 F 구 7 로 쓸 수 있다. 그러므로 Ho : p ~O 일 때, 통계량 T=Z/占 늑 S4 ) <1 g =尸二고(:,. 」. ~/s (a) 는 자유도 v=n 一 2 인 비 십 t-분포에 따른다. 이 경우, Z 의 기대치가 E(Z)= 선< 122 J (1 드_곤p 2 ) 2 f3 이므로 T 의 비십도를 #라 하면
h(t) =[Ol3 t(tly )f(y)d y (d)2D = I:。 h (t | y) 2r (；군) （방) (n-3)ne-y1 2dy 그런데 lx = j:.,e-~ 맡(강) n-312e_y1 2dy 또 rp=./y J1으 -_p―2 이므로 =〔(강 )n-312( 高 )kI2e- y I2(1-,'d y = （강) (n-3)\ 今)j。~y n +k -3e- yl2(1-P 'l d y (e) 다시 y= 2(1-p2 ) T, d y =2(1- p 2)dT 라 두면 더 03 y+ k-3e-yl2 (I-'dy 。 == f{ 。~°’ 2 {(21(1- p玉2 ))} e nT+}H (>n 1+2 l1t -:3 y)1 2en e+ 1-iT-3 2lt(21e --pT zd )TdT 。 = {2 (타)} Cn +lt -1)12 I'(드) (f) (f)식의 12 의 값을 (e) 식에 대입하면 A=( 강)(n -3 （근) {2(1 구)} (n+k -I)/2 r(두 ) h 의 값을 (a) 식에 대입하고 정돈하면 22) 21) th(t ly ) f(y)d y = 信탭f(y )d y=)~f(t, y)d y= h(t) 22) h(t)=-:;:;.쵸 r 守) k 갑(탁) （슬)” 꿈 (l+ 玉 )-en+:-1) 안 )(n- :l )1:( 급〉 )kI : X {2 (1구)}-(n＋ k- 리仁느i )I x 2I '(1¥ )
h(t) (1 _ pZ) (n-1)1'2 ,.,l1r ,.,1n=z r( 꾹요) r( 구) 접서 r( 덕그 )2 · 운藍 h+ 군}-
연습문재 1. 정리 3-7 의 i)항의 (3-23) 식과 (3-24) 석울 증명하여라. 2. 적분 l=\:J 폰방 _dx= 군＇ 임을 보여라. 3. 분포함수 (d .f.）의 불연 속 접은 많아야 가산무한이다. 4. 임의의 분포함수 (d. f.) F(x) 는 F(x)=A1F1(x)+;!zF 2 (x ), (;!1+; i2 =l) 로 분해된다. 이때 Fl(x) 는 연 속 인 분포함수이고, F2(x) 는 j um p만으로 증 가하는 분포함수이다. 5. 2 차원정규분포 N(µ1,µz,a f ,a 홍 ,p)에서 크기 n 인 입의표본에 관한 상관계수 문 R0 i라 할 때, i) R 의 분포는 n--+ CX)일 때 근사적으로 정규분포 N(p, (l- p 2 )2/n) 이 되는 것을 증명하라. ii) (F i sher . 의 Z 변환) z= 싶 lo g븐앞, s= 상 lo g튼： 낙 두 면 Z 의 분포 는 근사적 으로 정 규분포 N(r;, fi）이 됩 올 보여 라. 참고문헌 1. W. Feller, Intr o ducti on to pro babil i t y and Its app li c ati on s Vol. 1, Joh n Wi ley , pp. 472~503. 2. 鶴 見茂 著 『確 率論 』, 至文堂 (1976, 일본), p. 52, pp. 64~65. 3. G. G. Roussas, A, Fi rst Course in Math e mati ca l sta t i st i cs, Addis o n-Wesley pp. 108~109, pp. 115~116. 4. R. B. Ash, Basic Probabil ity Theory, Joh n Wi ley & sons(l970), pp.1 54 ~161. 5. 小杉 肇 著 『新選統計數 學 』, 恒 星 社 厚生閣, p. 91. 6. M. G. Kendall, The Advanod Theory of St at i sti cs, Hafn e r(l976, Lon-don), p. 369, p. 376(Vol I ), pp. 227~229(Vol JI ). 78.. R竹. 內啓Co l著e,m a『n,數 理S 統to 計c h 學as 』t,i c東 P洋ro 經ce濟ss e(s1,9 63,G eo일r본g)e , Apll. e1n3 3.& Unwi n (1974. London), pp. 6~30.
제 4 장 극한정리 § 4 기 확률변수열의 수렵 폰 미세스 (Von M i ses) 는 그의 경험적 확률의 정의에서 상대빈도 (relati ve freg u ency ) 는 관찰회 수가 상당히 큘 때 , 그에 대 응하는 사상의 선험 확률과 충분히 근사된다”고 지적 하였다• 23)
23) Mi se s, Von R i chard( 오스르리 아인) 1883 년 4 원 19 일 빈에 서 출생 하였 고, 1908 년 공 학박사 학위 문 받았으며 1920 년 대 문런대 웅용수학 교수, 1939 년 하버 드대 교수등윤 역입하였으며, 그는 빈도설로 선협적 확융의 한계성윤 극복한 사갑이다.
그러나 상대빈도 그 자신도 다시 또 하나의 확률변수 (r.v. ）이므로 그 것 이 일정 한 확률값에 수령 하게 된다는 것 도 하나의 확률현상이 다. 따라서 확률수렴의 개념을 도입하는 것이 편리하다. 다론 한편 이후 언급하게 될 중십극한정리에서는 대량관찰의 경우 표 본분포가 정규분포에 근사된다는 것을 의미하며 이것을 설명하기 위하 여서는 분포수렴 또는 법칙수렴의 개념이 도입된다• 즉, 모집단분포가 정 규분포에 따르지 않더 라도 그것 에 서 추출된 임 의 표본이 대표본(l ar g e sam p le) 일 경우 (n~30) 중십국한정리에 의하면 X의 분포는 근사적으로 정규분포 N(µ, 운)에 따르게 되므로, 이 표본분포에 입각하여 모평군 µ 에 대한 구간추정(i n t erval es ti ma ti on) 과 가설겁정 (h yp o t hes i s tes t) 등의
통계적방법들이 구해진다. 그러므로 법칙수령에 의한 중십극한정리는 대표본의 초석이 되는 정 리이다. 그러면 이제부터 확률변수들의 수령개념들에 관하여 언급하기로 하 겠다. 정의 4-1 확률공간(Q,ff ,P) 에서 정의된 확률변수열 {X,.}, n=I, 2, … 과 하나의 확률변수 (r. v. ) Xo 에 대 하여 r. v. X0 가 임 의 의 e>O 에 대 하여 li mP{IX ,- Xol 측 )=o (4-1) n-' 일 때 , {X} 는 Xo 에 확률수렴 (converge nce in p robab ility)한다고 한 다. 위 (4-1) 식을 다음 (4-2) 식으로 바꿔 써 주어도 마찬가지이다• lni-·m
E(IX, 1 一 Xo1 p)내 (n- ► oo) (4-4) 이 연, {Xn} 는 Xo 에 P 차의 평균수렴 (conver g ence in mean) 한다고 한 다. 정의 4-4 확률공간(Q,ff ,P) 에서 정의된 확률변수연 {Xn} 과 r.V. x。 의 분포함수 (d .f) 를 각각 {F (x) }, F(x。)라 할 때 , {Fn( x) } 가 F(x 。)에 수령하면, 죽 F(x0) 의 가산무한개의 불연속접을 제의한 모 돈 접에서 nli-m' Fn (x) = F( 지 (4-5) 이 면 {Xn} 는 Xo 에 분포수렴 또는 법 칙 수렴 (converg e nce in law) 한다 고한다. 확률변수의 공간에 거 리 함수 P(X, Y)0= l +L I X~(w)P -Y((wd) I w) (4-6) 를 주면, 이 거리에 관한 수령은 확률수령과 동등하다. 정리 4-1 확률변수열 {Xn} 가 X 에 확률수령하기 위한 필요충분조건은 li mE( 겁감k- )=o (4-7) 이 성립하는 것이다. 증명 : i) 충분성의 증명 : 입의의 e>O 에 대하여 P(IXn-X| 측)같무기 1X.-X1 .: • 같「k :-Xi l dP 같 ~E (곱근듦 )-+O(n-+O) 그러므로 정리의 가정에 의하여 P(IXl ! -XI 측 )-+O (n-+oo)
를얻는다. ii) 필요성의 증명 : 임의의 e>o 에 대하여 P(IXn-X| 측 )
24) (4-1) 식 과 (4-2) 식 에 서 e+ ―l+느e ~2s 윤얻는다.
그러므로 e 의 임의성에서 E ( 1 』\됴 -X》 1 --+O (n--+oo) 을 얻는다. 口 정리 4-2 만일확률변수열 : {X,,} 가 Xo 에 확률수령 하면, {X,,} 는 Xo 에 법칙수렵한다. 증명 이제 Xo 의 분포함수를 F0(x), 또 x,. 의 분포함수를 F,,(x) 라 하자. 그리고 F0(x) 의 한 연속인 접을 a 라 하면 F0(a) =P(X0(w)
그러므로 e>O 의 임의성과 확률 수령성 en(B)=O(n-•oo) 에 의하여 lim Fn(a) =F0(a) n~O 가 성립한다. 口 정리 4-3 확률변수열 {Xn} 가 Xo 에 개 수령 하면 {Xn} 는 Xo 에 확률수 령한다. 증명 {Xn} 가 %에 개수령한다는 것은 P 信 1 nQ lkon(IX1r 一찌 < 삶 ))=1 이 성립함을 의미한다. 따라서 임의의 m 에 대하여 P( 요 효 (1x,.-Xol 습 ))=1 이 성립한다 . 그러므로 임의 e 에 대하여 n 을 충분히 크게 잡으면 k>n 에 대하여 P (I X.-Xol <点 )>P 信 (1x.-Xol 습 ))>1-e 이 성립하므로 (4 一 1) 식이 성립한다. 정리 4-3 의 역은 반드시 성립하지는 않으나 {Xn} 의 적당한 부분열 (subse q uence) 에 관하여서는 역 이 성립한다. 이제 q녹 1 이라 하고, 또 (Q, !F ,P) 에서 정의된 확률변수들로서 fD。 I X( (J) ) l9P(d(J ))
I IX+ Yllq~ IIXl l9+ II Yllq (X, YEL 이 (4-10) 이 성립한다. 그리고 p =d(X· Y)=IIX-Yllq (4-11) 라 두면 p(q)는 LE 에서의 한 거리함수 (me t r i c fu nc ti on) 가 된다. 분만 아니라 E 는 p(q)에 관하여 완비공간 (com p le t e s p ace) 이다. 그러면 앞서 정의한 평군수령 (c. i .m) 은 다음과 같이 정의할 수도 있 다. (Q,ff,p)에서 정의된 U (q ~l) 에 속하는 확률변열 (Xn} 가 Xo 에 p G) 에 의해서 수령할 때, (X,,} 는 Xo 에 q차 평군수령한다고 한다. 특히 , q =2 인 경 우 p (2) 에 관한 자승평균수렴 (converge nce in squ are mean) 한다고 한다. 또 q =2 인 경 우, X, YEU 에 대 하여 (X, Y)=Lx(w)y( (J))P (d(J) ) (4- 1 2) D 라 두면, E 는 내적(i nner pro duct) (4-12) 식 에 관하여 hil be rt 공간 (H il ber t s p ace) 을 이 문다고 한다. 정리 4-4 (Q, ff, P) 에 서 정 의 된 D 에 속하는 확률변수열 (Xn} 가 X。 에 평군수령하면, (Xn} 는 Xo 에 확률수령한다. 증명 확률변수열 {Xn} 가 Xo 에 확률수령 하지 않는다고 하면, 한 부분 열 {X,,' ｝에 대하여 P( IX,,1-Xo l>t) >o>o 가 된다. 이럴 경우 1IXn'- X ollq~ eo90 (4-13) 이 성립하게 되므로 {Xn} 는 Xo 에 평군수령하지 않는다. 曰 계 2 정리 4-4 의 역은 전(眞)이 아니다.
정의 4-s r.v. X 와 X' 사이에 P(X=!=-X') = O 이 성립할 때, X 와 X 는 서로 동동하다고 한다. 예재 4-1 확률변수열 {Xn} (n=l, 2, …)가 X 와 X 제 동시에 확공수 령하면, X 와 X’ 는 동등하다. 증명 임의의 실수 e>o 에 대하여 P(IX-X' i >e) 절 (IXn-XI> 공 )+P (i Xn-X'l>웅) 그런데, 예제의 가정에서 충분히 큰 n 에 대하여, 위 부등식의 우변 온 0 에 수령한다. 죽 .•. P(IX-X'i> e)=O (n-+oo) ~ 예재 4-2 (Q, ff, P) 에 서 Q=[0, I J이 라 하자. 이 때
x,,((J) ) = {no, n0 독-q(>J ()J숙)~ n -I q 이라 하면, {Xn} 는 0 에 개수령하지만 평군수령하지 않는다. 증명 : P{ li mXn( (J)） O}=1 이므로 {X ｝는 0 에 개수령한다. n-m 그러나 I IXn((J) ) -이 lq= I IXn((J) ) I lq = {『 n q P(d (J))}i =1 이 므로 {Xn} 는 0 에 평 군수렵 하지 않는다. D 에제 4- 3 평균수립 (c. i .m. ）하지만 개수령 (a.e.c. ）하지 않는보기를들 어라.풀이 : 확률변수열 {X} 문 다음과 같이 정 의 한다. X1(w)=l (모든 (J) 에 대하여) 짜 )=1 (o 우악) ; O (그 밖의 w) Xlw) = l (뇽족조) ; O (그 밖의 w) 일반적으로 ?i= 1+2+… + 2,._1+k (1 학 ~2 ）에 대하여, Xn((J) )= 1 ((J)로) ; O (그 밖의 a,) (여기서, /,,.=(w ; (k-1)/2'~ (J)i k2 가이다.) 로 정의하자. 그러면 (J)E I. . 에 대하여 IIXn((J) )ll q = {L,,.1qP (dw)}f = O (n--oo) 이 성립하므로 {X} 는 0 에 수령한다. 그런데, Xn( (J)）는 0 에 개수령하지 않는다는 것은 Xn( (J)）의 정의에서 분명하다. 따라서 확률변수열 {Xn} 의 수령개념들 사이에는 다음과 같은 관계가 있다. 개 수 령 군)확률수령一법칙수령 평균수령 §4-2 독립확률변수들의 합 독립인 실확률변수들의 합에 대한 이론은 대수의 법칙(l ar g e number's law) 을 일반화하고, 더 깊이 고찰하기 위하여 개발되어 온 것으로서 1930 년경에는 확률론의 가장 중요한 연구분야이었다. 이 이 론을 위하여 아주 유력 한 방법 론들이 Kolmog o rov, Hinc in , Levy 둥에 의하여 도입되었고, 그들의 이론들이 현대확률론의 토대가 되었 다. 그러 면 우선 확불변수열 : {Xn}, (n=l, 2, …)
에 관한 말미 사상을 도입 하고, 이 사상에 관한 Kolrno g orov 의 0-1 법칙을 소개함으로써 독립확률변수열의 수령에 관한 확률적 특칭을 설명하기로 하겠다. X1, X2, ••• 를 확률변수열이라 하자. 그러면 자연수 l,m (l ~l
정의 4-6 6- 집합체 7 를 X1 , X2··· 의 말미 C- 집합체(t a il 11- fi eld) 라 하 고, 집합 B( 슨夕)를 말미사상(t a il even t)이라고 한다.*
* 末尾 a4R 合體
정 리 4-5 (Kolmog or ov 의 0-1 법 칙 ) 만일 X1 , X2, …가 독립확률변수열이면 이 확률변수열에 관한 입의의 말미사상 BEY 의 확률 P(B) 는 0 이거나 1 이다. 증명 : 임의의 자연수 1,m(l~l
P(AnB) =P(A) • P(B) (4-16) 이 성립한다. 만일 AEf f (X1, …, X,) , BE ff。 (X,+1, X,+2' …) 이면 역시 (4-16) 식이 만족된다. 이제 A 를 ff (X1, … ,x, ）에서 임의로 선정된 집합이라 하고, BE § (X,+1, x,+2, …) 에 대 하여 PA(B)=P(AnB) pj(B ) =F(A) • P(B) } 라고 정의하면 PA,Pk 는 6- 집합체 忽~상에서의 확률측도들이고, 이들은 多。상에서 서로 일치하므로 忽~(＝空(X, +1,Xl+2, …))상에서 서로 일치 한다. 죽 AEf f (Xi., • • ·, X/) 이 고, BEf f (X,+1, X,' …) 이 면 (4-16) 식 이 만 족된다. 이때 夕 C 空(X, +1,x1+2, …)이므로 AEf f(X 1,… ,X,), BEY 이면 역 시 (4-16) 식 이 만족된다. 그런데, l 는 1 보다 크거나 같게 임의로 잡을 수 있으므로 A 슨忽。 (Xi , X2, ···) , B 렵 이 어 도 (4-16) 식 은 만족된다. 다론한편 집합 BEY 를 임의로선정하고 AE ff (X1,X2, …）에 대하여 Ps(A)=P(AnB ), P;(A)=P(A) • P(B) 라 정의하면 PB 와 p;는 ff (Xi , X2, …)상에서 서로 일치함을 보일 수 있다. 이때 B 는 임의로 선정할 수 있으므로, 만일 AEf f(X 1, X 2, …), BE 夕이면 (4-16) 식이 만족된다. 또 Ye( 空 (X1,X2, …)이드로 임의의 말미사상 B( 드夕)는 그 자신과 독립이다.그러므로 P(B) =!'(BnB) =P(B)2 이 성립한다.
죽, P(B)=O 또는 1 이다. 디 예제 4-4 만일 X1 , X2, …를 독립인 확문변 수열이라 하고, 또 그 부분 합을 Sn=X1+X2+ ••• +Xn 이라하자. 그리고 위 S” 이 수령하게 되는 사상을 C= {Fvm 군 r~I (FVj , k>r) ISi ( w)-s.(w) I <삶} 먼 1 ,91 iD >,{ I sj (w) -Sk (w) I 겁 (4-17) 이면 P(C)=O 또는 1 이다. 증명 : 이제 실확률변수 X 가 c- 집합체 多에 관하여 가측이면 XE, 라 고쓰기로하자. 그러떤 x1, X2, …, X도 응 이 면 X1+X2+ … +x효 이다. 따라서 X후 ff (Xn) 이 므로 x 루 (X•+1, X1r+2 , ...) , (n>k) 이다. 분만아니라 S j _sk=X사 1+X사 2+ … +x호 (Xk+1, Xk+2, …) {lS1-S•l <삶탁 (X사 1,X사 2, …), (j>k ) g>r { { l Sj- Sd <삶} 력 (Xn+ 1, Xn+2 , …) 그런데 S i, S2,··• 가 수림하는 것과 S 마 1,Sn+2, …가 수령하는 것은 동 등하다. 그러므로
C=. . 61 ,91 >O» { 1s ;-s.1 <삶} 그런데 모든 n 에 대하여 CE!T ( Xn+l, Xn+2, …) 이므로 CE !7이다. 죽, C 는 말미사상이다. 그리고 X1,X2, …가 독립확률변수열이므로 앞서의 정리 4-1 에 의하여 P(C)=O 또는 1 이다. 巳 위 예제 4-4 의 의미는 독립확률변수로 된 급수는 거의 확실하게 개수 령하던가 아니면 거의 확실히 발산하게 된다는 것이다. 죽, 확률 강로 수령하거나 발산하게 되는 애매한 경우는 철대로 일어나지 않는다는 사 실을보여준다. 그렇다면, 어떠한 조건하에 S” 가 개수령하는가 또는 개발산하게 될 경우 그 발산의 상대는 어느 정도인가 등이 문제로 남게 된다. X1 , X2, …가 독립 적 이 고, 그 확률분포를 Pi , P2, …라 하면, Sn 의 확 물분포는 P1®P 홉 ··®Pn 이고, 또 그 특성함수 (ch. f.)는
P{mk=a l x\X1+X2+… + X.\~a} 족a효l k：= 1 0 ，， 이 성립한다. 증명 : S,.=X1+X 正 ··+X멜 때, T.=max”! S,I 라 두자. i= l 또만일 A,.= {T._1
E(S%) ~E(SleK) =E(S;IA.) 이고, 또 Ak 상에서 ISKl~a 이므로 E(S~eK) ~a2P(A.) (d) 아 성립한다. 그러므로 (d) 식을 (a) 식에 대입하면 V(S,.) =E(S;) ~a2•=_n t1 P(A.) 를 얻는다. 因 정 리 4-7 (Ot tav ia n i 의 부등식 ) 만일 Xi , X2, …, X,. 가 독립 적 이 고 P{IXi +(1k+=XO사 , 21,+ 2 …, … +,x n 기— 술1) 략 이떤 P{mna xlX1+X2+… + Xnl>2a} k=l 작 P{IX1+X2+ … +Xnl>a} (4-18) (a, /3 는 양의 상수이 다. ) 이 성립한다. 증명 : S1, , T 를 정리 4-7 의 증명에서와 똑같이 둔다. A= {T1r-1~2a, IS1rl>2a} B1r= {ISn-S1rl ~a} ' Bn=Q 라 두면 A 1, A2,···,A” 는 서로 소이고 {Tn>2a} =A1+A2+… + An 이므로 증명하려는 부동t식 은 lr=l P(A,.) 독十라 |Snl>a} (a) 타쑬수 있다.
그리고 A1nB1,A2nB2, … ,A,,nBn 는 서로 소이고, 분만아니라 wEAxnBx-+ ISx(w) l>2a, jS ,.(w)-Sx(w) | ~a -+ ISn(w) l>a 이므로 kIn=: Ax nBxC {ISnl>a} (b) Sx, TxEf f (X1, …, Xk) Sn-SkEf f(X k+l, …, Xn) 이고, 따라서 AK 락 (X1, …, Xk) BKEf f (X,.+l , …, X,.) 이므로 P(AxnBx) =P(Ax)P(Bx)~P(Ax)fi (c) 이 얻어진다. P{ISnl>aJ ~ Iu: P(AKnBK) K=I 족(3K ~;Pl (Ax) =(3P {Tn>2a) 이므로 (4-18) 식을 얻는다. 蠶 다음 급수 2X군 ] 개수령하기 위한 조건에 대하여 고찰하여 보기로 하겠다. 정리 4-8 (Kolmo g orov 의 정리) ZE(Xn) EV(X) 이 동시에 수령하면, 2Xn 는 개수령한다. 츠C 며< X,,= (X,,-E(X,,))+E(X,,), V(X,,) = V{X,,-E(X,,)} 이므로 E(Xn)=O 타 하여도 일반성을 잃지 않는다.
Sn=X1+X2+… + x 이 라 두고 Kolmog o rov 의 부등식 을 Xn+ l, Xn+~, …, Xn+m 에 적 용하면 P(mk=maI x|Sn+k_s,,I>c} 독건1 kEm = I V(X,1+k) IS 마 k 一 Sn+1I~ 글 |Sn+k-s,,1+ ISn+i - Snl 이므로 l;r;;kn , ~I;;x;m ISn•+ k-Sn+•I I• ~2mka='lx ISn+k-S 사 따라서 Vn=V(Xn) 라 두면 P_l(=mk , Ia 츠x.. I Sn+k-Sn+il >2e} ~-- -c:Z1 1 k~:=: IV n +k 위 (J) 집 합은 m P와 {?같,~이p 1 S 중n+가k-해Sn 서+ il {>s ku,2Ip e }I S~n+~1rf-;Slvnn++1 lr I >2e} 에 수령 하므로 그런데, n 을 크게 늘이면 {sku,l p l Sn+1t - Sn+1 I } 는감소하므로 P {nl i一m o suk,pI l Sn+k-S11+11 >2e) ~-::e1:z k-.;=I:.:,1 V, .+k (n=l, 2, …) 파 n
정 리 4-9 (Hinc in 의 3 급 수 정 리 ) X1, X2, …를 독립 적 인 확률년수열 이 라 하고, 또 이들 변수들이 각각 분포 P1,P2, …에 따론다고 하자. p,1 = II X 1 군 /P,, (x) , q,, = L1 <1 xdP,. (x) , rn = L1 <1 x2dP,. (x) (4-19) 이라 할때 Sn=I : Xn K=l 가 개 수림 하기 위 한 팔요충분조전은 I:Pn , 2::qn , I; (r,,-q~ ) (4-20) 둥이 수령하는 것이다. 증명:만일 yn = {xon ( I X니 <1) (IX 기 ~l) (a) 이라 정의하면 (Y ｝는 독립적인 확률변수열이고, Pn=P(Ix,,I ~l)' qn =E(Yn) rn=E(Yn2), (rn-q~ ) = V(Yn) 등이 성립하므로 조건 (4-20) 식은 I; P(IX 니 ~l), I;E( Y ,,.), I; V(Yn) (b) 가 수령하는 경우로 바꿔 주어도 좋다. i) 충분성의 증명 : 만일 2Pn, Eq n E(rn_ q;）이 수령한다고 가정하자. 그러면, I; P(IX 니츠 1) 의 수령성에 의하여 Borel Can t e lli정리를 적용할 경우 상당히 큰 n 에 대하여 |X기 <1 이 거의 확실하게 성립한다. 죽 Yn=Xn(a. s) 이다. 그러므로 I:Y n7} 개수럽하는 것을 말해 주면 EXn 이 개수령한다는 것과같다. 그런데 I; E(Yn) 와 EV(Y ）가 수령한다는 가정과 정리 4-8 에 의하여 EXn 는 개수령한다. ii) 필요성 의 증명 : 이 제 I:Xn 7} 개 수령 한다고 하자. 만일 I; P(IXnl2I)=oo 이라면 Borel Can t e lli의 정리에 의하여 |X사 21 인 n 가 무한이 존재한다. 그러므로 2X” 는 수령하지 아니한다. 이 것은 모순이다.
그러므로 ~P(IX가 츠 l)
또 lz|~a 에서
o 에 대하여 N( e ) 을 충분히 크게 하면 m>n>N(e) 에 대 하여 l'Pi n (z)-cp1 '(z) | <짱b 를만족한다. 그리고 'P,,.='Pin • 'Pn .. 이 므로 m>n> N(e) 에 대하여 ⇒ | j (1 군 ' . ”)Pn .. (de) I = 11 一'P n .. (z) I
이 성립한다. 그러면 O tt av i an i의 부등식에 의하여 임의 신수 e>O 에 대하여 충분 히 큰 n 을 취하면, 모든 m 에 대하여 P {o{!x l S+•-Sn I >2e} ~2 타 | Sn+m-S,, I >e} k= 이고, 따라서 P{max ISn+•-S,,+,l>4eJ 1 학 ,I 츠 m ~4P{ I S 마,.― Sn l >eJ ~ 4 sup P { I S 따 m-Sn l >e} 따라서 n-+oo 일 때 위 식 의 우번은 0 에 수령 한다. 그러 므로 {Sn} 는 개 수령 하게 된다. CJ i예) 제{ X4- 5} 가 독립 적 인 실확률변수열 이 고, r. v. Xn 이 페 구간 [一¼, ¼] 상에서 평등분포에 따를 때, I: Xn 는 개수림하고, I: IX사 는 개발산한 다. ii) r.v. Xn 이 정규분포 N(µ 냐)에 따를 때, I:Xn 이 개수령하기 위 한 필요충분조건은 2µ'E6: 이 동시에 수령하는 것이다. 증명 i)의 증명 : Kolmog o rov 정 리 에 의 하여 EX,' 논 개 수령 (a. e. c) 한다. 또 IXnl~ 독 1, I: E(IXnl)=oo 이므로 삼급수정리의 팔요성의 대우를 쓰면 중 명을 얻는다. ii)의 증명 : 충분성 은 Kolmog o rov 정 리 에 서 분명 하다. 그러면 필요성을 증명하기로 하자. 죽 Sn=I : X. 一 S (a. e. c) •=1 라 가정하고 고 µ.,E6: 이 수령하는 것을 보이자. 정리의 가정에 의하여 S. 는 정 규분포 N(M., V.) 에 따르게 된다. 이 때 M.=E µ_., V,,=Ea ? j= l n=l 이다. 그러면
exp {— :沖 = I E(e''s,') |- -+ I E(''s) I, (n--+oo) 그런데, E(e' ． 죠)는 충분히 작은 Z(~o) 에서 0 가 되지 않으므로 Vn=E a'f 가 수령해야 한다. k= I 한편, Yn=X 구군]라 두면 EYn=O, E V(Y,.)=Eal<+oo 이므로 k=1 Kolmo g orov 의 정 리 에 의 하여 E Yn 는 개 수령 한다. 또 EXn 는 가정 에 의 하여 개수령하고, µn=Xn-Yn 이므로 2µn=EXn_2Y” 가수령한다. f2 §4-3 중심치, 산포도 만일 {Xn} 가 독립적인 실확률변수열이라 하고, 또 X” 가 정규분포에 따룹 경우 Sn=X1+X2+… +Xn, (n=l, 2, …) 라 하면, Sn 7} 개수령하기 위한 팔요충분조건은 {E(Sn)} 와 {V(s,,)} 가 수령하는 것이었다. 그러단 이제 X” 가 정규분포에 따르지 않을 때 이에 상응하는 경우 를 증명하는 것이 이 철의 목적이다. r.V. Xn7} 일반적으로 반드시 E(S,,) 와 V(S ）이 정의되는 것이 아니 므로 평군치와 분산에 상당하는 개념으로, 실확률변수에 대하여 중심치 와 산포도를 도입 하기 로 하자. 정의 4-7 임의의 실확률변수를 X 라 하자. E(arcta n (X 국) ) = 0 (4-23) 문 만족하는 실수 r 가 유일하게 정해진다. 이 상수를 r(X) 로 표시 하고, 이것을 X 의 중심치 (cen t ral value) 라 한다.
그러면 r(X) 에 대하여 r(X+a)=r(X)+a Ca= 상수) r(-X)=-r(X)등이 성립한다. 정의 4-a r. v. X 의 산포도 (d i s p ers i on) 를 o(X) 라 하면 o(X) = 一 lo g [JJe -lHlµ(de)µ(dT J) (4-24) (여 기 서 , o( X) E [O, c 이 이 다. ) 로 정의한다. 그러면 o(X) 에 대하여 o(X+a) =o(X) o(-X)=o(X) 둥이 성립한다. 한편 X( 막)에서 평군치 E(X) 는 E(X 一 m)=O 를 만족하는 m 이므로 중십치는 평균치에 상당하고, X( 드 E) 에 대하여 분산 V(X) 는 V(X) = -i-n
• L0=L• (D,F, P) 는 확문공간 (ll,F,P) 상에서의 모든 실확 률 변수 들 의 집합 •
µ[a-I, a+l]2=J J IE-al, l~-al 츠 I 亭)茂) 에 IE- 까국 (de)µ 야) e-H z)=He1E-vlµ(de)µ(d7] ) ~e-2'J J iIEH-~ 11~~ 221 1µ(de)µ(d7J ) µ[a-l, a+l]~e1- 삼 6(%) (4-26) 따라서 o(X) 가 극대가 될 때, 길이 입인 구간 안에 X가 들어가게
될 확률은 평 동하게 극히 작아진다. 또 e-6'• ) = JJe -l H lµ (de) µ (d7] ) 빼 (e-1µ([-l+ 7J, l+7 J]') +µ[-l+ 7J, l+1J ] )µ(d1J ) ~e-1+sua p µ [a-l,a+l] (4-27) 이 성립한다. 따라서 충분히 큰 l(e-'
러 e-lHIPn(de)--1 따라서 {an} 가 존재해서 Je-l f- on l P. (d~) -+ l E(e-lXn-Onl)-+l (4-29) 을얻는다. Bi en ay m e 의 부등식 에 의 하면 c>O 에 대 하여 P(IXn 一리 >c) 독I ~-e-E• (l -e-lXn-anl)-+O (4-30) 위 식은 (Xn-an) 가 O 에 확률수령하는 것을 의미한다 .26)
25) (5 의 p. 170 참조) .
위 사실들로 미루어 보아 o(X) 는 X 의 산포도를 나타낸다는 것을 알 수 있다. 그란데, {Xn}CL2 가 독립일 때 S=kE=1 Xk 에 대하여 V(Sn) = I”; V(X,,) (4-31) •=1 은 1 t이 커침에 따라 증가한다. 위와 같은 성질을 산포도 o(Sn) 도 역시 만족한다. n 정리 4-11 {X ｝가 임의의 독립 인 실확률변수열일 때, Sn= kI:=: lX • 의 산 포도 o(Sn) 는 n 이 커지면 동시에 증가한다. 증명 He-lHIP(de)P(dTJ ) =jc-1” (P*Pu) (de) 버倍꿈자 )(de) 버급등i¢”(자) (de) 이 성립하므로
n r. v. Xn 의 특성함수 (ch .f.） 를 'p n 라 하면, Sn 의 목 성함수는 T1T 'P k 이므로 e-HSn) =丑 i곱등 l fii cp1 r (x) l2 이 성립한다. 또 lcp. (.x) I~1 이므로 n 이 커지면, 위 식의 우변은 감소하게 되고, 따 타서 o(Sn) 는 중가한다. 訂 한편 {Xn} 가 독립 인 확률변수열 이 면 그 부분합 Sn=. En X. k=l 은 다음 3 가지 경우로 분류할 수 있다. 정의 4- 9 i) {o(Sn)J, {r (Sn) ｝가 동시에 수령할 때, {S ｝는 개수령하게 되고 이 경 우 Sn = .E Xn i= 수렴 형 (C-ty pe ) 이 라 하고, ii) {o (S) } 이 수령 하고 또 {r (Sn) } 이 발산할 때 , {S } 는 개 발산하게 되고 (Sn-r(Sn) ｝는 개수령하게 되며, 이 경우 의사발산형 (D e-typ e) 이고, iii) (o(S) ｝이 발산할 때, 임의의 실수열 (an} 에 대하여 {Sn-a ,. } 는 개발산하다. 이 경우 Sn=EX니 르 진발산형 (D- typ e) 이라 한다. 정리 4-12 S” 가 전발산형일 때, 임의의 실수열 {a ｝에 대하여 limn- ·s' up I Sn-an I = oo (a. s. ) (4-32) 이다. 증명 이 경우 o(Sn)->oo (n->oo) 이므로 {Sn} 의 부분열 {Sp ()｝를 적 당히 잡아서 효 e-6(S ,c n · 1)'/2<00 (예컨대, o(S,
P(ISn-a 니 즉 l} 독 eE8(Sn)/2 이므로 핥{I S P( n)-aP(n) I 텍 =e 멀 e-8(S p ())/2
* f .e. ＝유한개의 예의윤 제의한 나머지 모돈 것들의 약자.
P{SP(n)-aP(n)I>I f. e. } =1 따라서 P{lim su pj S.-a 니족 l} =1 -~ P( nl-imO su pj S ＂一 al =o o} =1 (l 구 oo) :. lni-m sup IS n-anI =oo (a. s. ) ~ 예제 4-6 r.v. {X ｝가 독립인 확률열이고, r.v. X” 가 정규분포 N(mn, Vn) 에 따를 때 , I:Xn 가 C- 형 , De- 형 그리 고 D- 형 이 기 위 한 필 요충분조건을 Em Evn 의 수령과 발산으로 표시하여라. 풀이 힌트 Sn=k=E” l Xg 斗 하면 r(Sn)=I ”: mK K=I e-&(Sn) 국信들 e x P (一갔도띠 linm o (Sn) §4-4 대수의 법칙 이 절에서는 약대수법칙 (weak law of large numbers) 과 강대수법칙 (s t ron g Jaw of large numbers) 동 확률론에서 가장 중요한 결과들에 대하여 언급 하기로 하겠다. 확률변수열 X i. X2,··· 와 그 부분합 Sn=~.xk 에 대하여 bn>O 과 따울 ~=I 적당히 잡아서 확률수령 또는 개수령의 의미로 몽 -+O (n-+oo) (4-33) 가 성립할 때, 일반적으로 대수법칙(l ar g e number's law) 이 성립한다고 한다. 죽 {X ｝가 독립인 실확률변수열이라할 때, .E Xn 가 진발산형(D-typ e) 이면, 임의의 실수열 {아}에 대하여 lim..- .s. up I Sn-anI =oo (a. s. ) 이 다. 그러 나 무한대 로 발산하는 양수열 {bn} 에 대 하여 {an} 를 적 당히 잡아서 limn-s ~u p~ b= 0 죽 lni m-.. ~b 느= O (a. s. ) 이 만족될 가능성이 있다. 이 경우 |Sn-a 사는 b 보다 훨씬 작아진다. 정리 4-13 (약대수의 법칙) 확률변수열 {Xn, I~n
이 성립한다. 증명 확률변수 Xk(k=I,2, … ,n …)가 k 에 무관하게 Bernou lli분포 tl3 (p) 에 따르므로 Sn=I ; X. k= l 는 11 과 P 를 모수로 가지는 2 항분포 B i n(n, p)에 따르게 된다. 그러므 로, 그 기대치와 분산은 각각 다음과 갇다. E(Sn)=np , V(Sn)=npq 그리고 De-mo i rve-La p lace 정리에 의하면, 임의의 t >O에 대하여 P(I 누 기
V(X,.) 학 (n=l, 2, …) 인 양의 실수 b
lV,i!!( }Xl -,..,)c~ obv<(Xo ;o, ,X (J i= = IO, 2, …) (4-37) 둥이 성립하면, 임의의 e>o 에 대하여 다음이 성립한다. 뿐 내춥一 a n I
정리 4-17 (강대수의 법칙) 성 공사상 S 의 선험 확률 P 를 가지 는 길이 (tria l lenth ) n 인 Bernoull i 시행에서 S 가 출현한 회수를 r.v. S” 라 하자• 그러면 사상 S 가 출현한 상대도수 Sn/n 는 n 이 아주 커질 때, p에 확률 1 로 수령한다. 죽 壅떤춥 =P)=1 (4-38) 이 성립한다. 증명 확률변수열 X1,X2,… ,X n71- 서로 독립적이고, 또 모수 p를 가 지 는 Bernoull i 분포에 따른다고 하자. 그러 면, Sn= .En X11 이 고, 또 상대 K=l 도수 Sn/n 는 위확률변수들의 상가평군이다. 이 제 (4-38) 식 의 사상을 A=(E떤 춥 =P) 라두자. 그러떤 A= 竝요 (I 운-기<+) (a) 로 다시 쑬수 있다. 또 위 (a) 식에서 다시 ~nr=(I 춥-p l 야) 이라 두면, 확률측도의 연속성에 의하여 P(A=)=PP(( Iin‘m0 UU.·., nn'eo AAn.,r)) r=l .,=1 n=m ·-~ m=l n=m =limP (U n An,) r-• m=l n=m ==ll,ii-mm- . lP. i- m(-l iPm ( n nn•=- • AA ,n,r,)) r-- .. --n= ,a
한편 Boole 의 부등식 에 의 하여 P(nn= m A n,)=1-P(nU=m' A~,) ~l-n.E=m P (A 유) 이 성립하므로 P(A)~I-,l-im- r l ni-m> n I=o;om P (A 유) 그런데 제 2 장, 정리 2-25 Markov 부둥식에서 P=4 인 경우를 적용 하면 P(A 유 )=P(I 층 -P |작) 습 4E {（춥一p )4} =;ri4. E((Sn-np )시 (b) 이다. 또 다항정리에 의하여 E{(Sn-nP)4] =E[ct l (X .-p) J4] =I; (,, ..~ r n)E(X1-PY'···E(Xn 一 P)” r1+··•+rn=4, r;~o 그런데 위 식의 우변중 r;=l 인 경우 E( X; -P)1=0 이므로 r;=4 또 는 r;=2, r;=2( i~j)인 경우만의 합을 생각하면 된다. 죽 E(S,.-np )4=nE(Xi -P) 나 (~)(2f2 ) {E(X1-P)2} 2 =n(q4p + p4q ) + 6n(n-l)p2 q 2 = np q (q3 +p 3) + 6n (n-I) p 2q 2 한편 pq~¼, ps+ q 3~2 이 므로 E{(S,.-np )4} ~n2
이 성립하고 ,26) 이것을 (b) 식에 대입하면 P(A;,)~ 습 E{(Sn-nP)4) 씁 따라서 n.E= m P (A~,) 족n 2=~m 국nr4
26) npq (q'+ P3)+6n(n-I)p• q• 주2+ •보 느16 쁘 =1쁘6 +• 뜨16 -座16 =1브6 +.1쁘6<'1브6 =~2< n•
위 강대수의 법칙을 Borel 의 정리라고 부르는데, 그후 Borel 의 정리 는 Kolmo g orov 에 의하여 더욱 일반화되었다. 즉 확률론에 서 가장 찰 알려 진 강대 수의 법 칙 이 Kolmog o rov 에 의 한 대수법칙으로, 동일한 확률분포에 따르는 서로 독립적인 확률변수열 의 부분합에 관한 평 군은 확률 1 로 공동분포의 모평 군에 수령 하게 된다 는내용이다. 보만조일정 a리1 , 4a-21, …(K둥 ro이ne c실ke수r 의열 정이 리고 ,) jE.=, l a, · I i <00 이 면 lni-m~ iE= 1 ~n =O (4-39) 이다. 이제부터 A.N. Kolmo g orov 에 의하여 증명된 강대수의 법칙을 들고 그 증명을 소개해 보기로 하겠다. 보조정리 4-2 확률변수들 X1,X2, …가 서로 독립이고, 또 E(X,) =O, V(X,·) = af< o o
이라하자. 만일 iE=‘ l ( 1？/i 2
p{f1=: I fZi <이 =1 이므로 Kronecker 의 보조정리에 의하여 P{nl_i mm Ii~=: lX ~n=; O} =1 이 성립한다. 四 만일 보조정리 4-2 에 있어서 r.v.X,- (t= I,2 .. ·) 들이 서로 독립이고, 또 평군 µ오l- 유한분산 62 을 가지는 동일분포에 따른다면 ~a2 ji 2
학에서도 대표본론의 핵십이 되는 정리이기도 하다. 그 내용은 서로 독립적인 여러 개의 확률변수들의 합이 근사적으로 하 나의 정규분포에 수령한다는 것이다. 한편, 더욱 이 정리의 의미가 깊은 것은 독립적인 확률변수들의 합에 대한 확률의 근사치를 계산하는 데 도움을 줄 분만 아니라, 평군 E(X) =µ, 분산 V(X) ＝군을 가지는 모집단 확률변수 X 의 분포가 비록 완 전한 정규분포가 아니더라도 표본 크기 n 를 크게 늘이면 표본확률변수 둘의 합 Sn= KI:= l X/r 의 분포는 정규분포 N(nµ, na2) 에 근사된다는 이 론적 배경을 제공하여 준다는 접이다. 보조정리 4-3 (Le vy의 연속성정리) 확률변수열 X1,X2, …가 각각 분포함수 Fn 과 적률모함수 (m. g.f.)
= mx 남깁 ((J) 그러 므로 r. v. I:X.- /v-;; 의 m. g.J. 는 mi :x, /v-;;-( t) = {mx (」)} ” (b) 그런데 mx( t)를 Tayl o r 의 급수로 전개 하면 mx (t) =E(e' x) = mx (o) + mx' (o) t + m' x (o) i+ o (tZ) (cj 따라서 mx(t) =I+ECX 〕나½t 2E(X 이 +O(t2) =1+½t 2 +o(t 2) ••• mx/- 1-;;-(t) =l+ 삶 +0 信) (d) (d) 식을 (b) 식에 대입하면 mi: :x ;H-;;-(t) ={ 1+ 끓+ o(~)r =ex 난기 (n---.oo) 죽 (4-44) 식으로 주어지는 r.v. Z 의 m. g.f.가 n 이 아주 클 경우표 준화정규분포의 m. g.f.에 수령하므로 보조정리 4-3 (L e vy의 연속성정리) 에 의하여 Z 의 분포는표준화정규분포 N(O,12) 에 법칙수령한다. 겨 특히 위 정 리 4-19 에 서 확률변수 X1, X2, …X n 율 평 군 µ, 분산 (1 (
N(µ 룹)에 근사적으로 따르게 된다고 할 수 있다. 죽 대표본의 경우 모집단분포를 모르더라도 그 표본분포(표본평균의 분포)가 근사적으로 정규분포 N(µ 룹)에 따르게 된다는 것이 중십국한 정 리 (centr a l limi t th eorem) 의 뜻이 다. 또 이 정 리 는 대 표본론 (lar ge samp ling t heo ry)의 토대가 되는 정리이며, 아때 표본크기는 상당히 커야 한 다. 이제까지는 독립적인 확률변수열 (Xn} 의 합에 대한 중십국한정리에 관하여 주로 언급하였다• 그러 나 지금부터 는 확률변수연 (Xn} 아 독립 이 아닌 확률변수열의 경 우 특히, Markov 연일 경우에 대한 중십국한정리를 알아보기로 하자. 보조정리 4-4 임의의 실수 z 에 대하여 ¢z= ~io 무k ! +' (~n+ l). ! (IBl
재하여 각각 µ1r=E(X.), a~=V(X1r) 라 하고 F1r(X) 를 X1r 의 분포함수라 하자. 임의의 e>O 에( L대) 하I}터 여\ gj ,:t:구 I .: 야. (x-µk)2dF1r=O (여기서, b 는갑;야이다.) 이 성립하면 x 에 관해 평등하게 P(b;;'~(x,,.-µ,,) 독 x) — 느,/2,「r J- ... 다 ,.2du (4-47) 와 같이 수령한다. 층명 이제 X,., 1, =(X， ，구 .)/b,. 이라 두고, S,.=E X' 려라 두자. 그리고 k=l 또 S. 과 Xn,k 의 목성함수 (ch. f. ）를 각각
(a) 식과 (b) 식에 의하면 log ip,.(t) = ~” log {(
P(Xn, i우 )=Fn, i (x) 라두면 E(Xn,i) =O, 찍 V(xn,•)=1 k 이므로 L i nbeber g조건 (L) 은 Xn,k 에 대하여 (L’) n1~imm kE= l iJ 1 •1:l ;t x 2dF'* 와 같이 바꿔써 줄 수 있다. 분만 아니 라, Lin b eberg 조건은 독립 인 확률변수들이 중십극한정 리 를 따르기 위한 충분조건이기도 하다. 위 조건 (L) 보다 더 편리하고 잘 알려진 L i a p ounov 조건을 들 수 있 다. 죽 독립 확률변수열 {Xn, I~n
Sn=b-;,1I ; (Xk-Pk) (4-48) 은 표준화정규분포 N(O, 12) 에 수령 한다. 증명 8(p k) 의 기대치와 분산이 각각 µk=E(Xk) =P. ; al=V(Xk)P 따 이므로 b:=V(Sn) = 幻鬪 E( I X•- 꾸• l3) =E( 1X k— p,, 13 =P 따 (P i+qi) 한편 P?+ qJ ~I 이므로 다음 부등식이 성립한다. 岭 E (J X,,- 祠)= 2Pkq k( p i+qi) n k=I (효 Pk q k)§ ~~ = (I; K p k q k)- 삼 (I;p中)} 그러 므로, AI;=l pkq k = oo 이 떤 &= 1 일 때 Li ap o unov 조건이 성 립 한다. 27)
27) L i a p ounov 조건을 구하는 것은 저를 (momen t)을 구하는 것에 귀착된다. 따라서, 정 규분포에의 수렵판정에 이용된다.
일 따때라 서표,준 만화일정 규kI=분;I p포마 N=0(o0, 이 I)면 에 (수4-령48 한) 석다.에 서口의 확률변수 Sn 은 n->oo 예 재 4-8 확률변수열 (Xn ; l ~n
증명: E, Y.=nX1+ (n-I)X2+… + x,, =I: Xn,v b 터도정;硏~금 또 I:E( IXn,1< I 3) = I: (n-k)3)E( 1x.+ 1 I 3) 학/3f (n 一 k) 3~/3 nT 4 따라서, o=I 일 때 Lia p o unov 의 비 늙n tk=l E{IX• 一 µ,,13} 같고4 /3J 土n 크 (n-+oo) 그러므로 ~ 1 Yn/ 끗付巨는 정규분포 N(O,I) 에 수립한다. 潟 위 예제는 Markov 연쇄 {Yn ; I~n
28) (1) pp. 13~14 감고.
정의 4-10 이산형 확률변수 (d.r.v.) X 의 모든 가능치들의 집합을 M 이라 하자. 그리고, 적당한 실수 a,d 에 대하여 M 가 집합: {a+kd ; k=O 土I. 土 2, …} 의 부분집 합일 때 , X 는 격 자형분포(l a tti ce dist r i b u ti on ) 에 따른다고
I 한다. 또 이때, d 를 a 가 기접인 분포익 주기(p er i od) 라고 하고, d 의 1 최대치를 a 가 기접인 격자형분포의 쪽이라고 한다. 보조정리 4-5 확률변수 X가 격자형분포에 따르기 위한 필요충분조건 은 t。 ~o 일 때, l'PC to )I=1 (4-49) 이다. 증명 i) (-+）의 증명 : 확률변수 : X 의 하나의 주기를 d 라 하면
이때 Sn=Ik =: I X i라 하자. 또 X i의 한 주기를 h 라 하면, S” 의 실현 치는 na+hk (k=O, 타, 土 2, …)와 같이 쓸 수 있다. 그리고 E(Xl)=µ, an=nµ } (4-50) V(X1)=a2, V(Sn)=b!=n
연습문제 1. § 4-4 보조정 리 4-1 (Kronecker 의 정 리 )을 층명 하여 라. 2. §4-4, 보조정리 4-2 (Kolmo g orov 의 부등식)를 증명하여라. 3. 강대수의 법칙이 성립하면 약대수의 법칙도 성립하게 됨을· 보여라. 4. § 4-6 의 정 리 4-21 을 증명 하여 라. 참고문현 1. 丸山儀四郞 著, Ii'確率論』(現代數學講座 (22)), 共立出版社 (1957, 일본). pp. 9~10, pp. 33~35. 2. 盧鉉喆 著, Ii'확물변수의 수령 성 에 관하여 』, 성 군관대 학교 석 사학위 논문. pp. 28~51. 3. 河田敬義 著, Ii'確率論』, 共立出版社 (1952, 일본), pp. 222~231 4. 鶴見茂 著, Ii'確率論(近代確率論^17.)入 r,) 』, (1976, 일본), pp. 50~55. 5. 伊藤淸 著, 『確率論 lI 』, 기 초수학, 해 석 학(I ) Vi i, 岩波 書 店, p. 133, p.1 99. 6. 伊藤淸 著 『確率過程 I 』, 現代應用數學 (A. B. I), 岩波 書 店 pp. 28~31. 7. Ross, A Fir s t course in pro babil ity, (Macmi llian , 1976, London, p. 254. pp. 258~263. 8. Roussas, A Fi rst course in Math . Sta t . Addis o n-Wesley, p. 瑠
제 5 장 Markov 연쇄 §5-1 확률과정 일간 신문의 일기예보 난의 기온, 주식시세 난의 주가 등과 같이 시 간의 경 과와 더 불어 그 변동을 관찰한 수열을 시 계 열 (tim e ser i es) 이 라고 한다. 그런데 이럴 경우 시계열을 생각하는 목적은 대개의 경우 장차 이들 변량의 실현치를 예측하는 데 있다. 그러나 먼 장래분만 아니라 내일 의 기온, 주가, 물가 등도 예측하기가 대단히 어려운 것이 사실이다. 왜냐하면 이들 변량들이 취하게 되는 실현치 둥을 걷칭짓는 요인들이 다종다양하고 더우기 이들 요인들이 서로 복잡하게 관계를 맺고 있기 때문이다. 이때 우리는 이들 실현치들이 우연에 의하여 정해진다고 생각하는 것이 더 합리적이다. 수학적으로 표현해서 장차 어느 시접에 있어서 이 들 변량들이 각각 한 실현치를 취하게 될 확률이 주어져 있다고 간주하 는 것이다. 죽 확률과정은 확률법칙에 따르며 시간에 따라 변동하는 시계열을 다 루는 이론적 모형이다. 그러 면 이 제 부터 시 간을 나타내 주는 매 개 변수를 t, 확률 pa ramete r 를 (J)라 하고, 또 이렇게 해서 얻어지는 확률과정을 X( t,(J)）로 쓰기로 하자.
득히 시접 t를 고정하면 X (t ,w) 는 하나의 확률변수가 되고 따라서 하나의 주어진 확률분포에 따르게 된다. 그러므로 확률과정 (SP) 은 무한 개의 확률변수 (r.V. ）들의 변수열로 생각할 수 있다• 다론 한편 확률 pa ramete r (J) 를 고정 하면 X( t)는 t 에 따라서 변동하는 하나의 함수 .x(t) 가 얻 어 진다. 이 것 의 그레 프는 확률과정 (SP) X(t, (J)) 의 한 실현치들로 된 곡선을 나타내며, 이것을 표본파정 (sam p le p a t h) 이 라고한다. 예컨대 100 원짜리 주화 한 개를 반복해서 던지는 시행에서 제 n 회에 표면이 나오면 1, 이면이 나오게 되면 一 1 을 실현치로 가지는 확률변수 률 Yn 이라 하자. 그러면, X(n, (J)) = Yi+ Y2+ ···+ Yn 으로 정의되는 확률과정 X(t, (J)), t= l, 2, ••• 룰얻는다. 그리고 이때 얻어진 확률과정 (SP) 를 추 1 보 (random walk) 라고 부른다 .29)
29) 추 1 보에 관한 모형 울 연 속적 인 것 으로 일 반화한 것 이 저 유명 한 Brown 운동 (Brown i an mo ti on) 이다. 또 이 모형의 명칭은 영국의 식물학자 R. Brown 이 1827 년 식물의 꽃가 루가 액체의 표면에서 불규칙하 게 웅칙이는 현상을· 발견한 데서 연유되었다. 그리고 1905 년 E i ns t e i n 이 이 운동에 관한 수리 모 영 을 연구하였 다.
확률과정의 또 다론 하나의 예로서 교환대에 걸려오는 전화의 호출회 수, 가이거 coun t er 로 검출되는 방사능의 입자수, servic e 창구에 대거 중인 고객수 등을 X( t,(J)）로 나타내 주면 하나의 새로운 확률과정이 얻 어지는데, 이 과정을 Po i sson 과정 (Po i sson p rocess) 이라고 부른다• 이밖에도 Pois s on 과정윤 종더 일반화한 과정들로서 출생 과정(p ure bir th pro oss), 사멸과정 (pu re death pro cess) 그리 고 출생 • 사멸과정 (bir t h and death pro cess) 둥 여 러 가지 확률과정 을 들 수 있다. 이들 확률과정에 대하여 이 장과 다음 장에서 더 구체적으로 언급하 기로 하겠다. I 정의 5-1 혹벨과정 (SP) X( t)의 가능한 모든 실현치들의 집합 S 을 상태공간 (s t a t e s p ace) 이라 하고, S 의 원소 S 률 상태 (s t a t e) 라 한다.
위에서 예시한 취보의 경우, X( t)의 상태공간은 S= {O, 土 1, =F2 , …, n} 이다. 예제 5-1 축구경기 중 득접표율 나타내는 확률과정 Z( t)의 상태공간 S 와 매개변수공간 T 를 구하여라. 플이 A,B 양팀의 득접을 각각 x, y라 하면, S= {(x, y) Ix, y= O, 1, 2, ...J T= {tIt E [O, 90 가 . Zo=(O, 0) 이고, 또 득접이 있을 때마다 상태는 (x+l, y) 또는 (x, y+l) 로옮겨간다. 예재 5-2 보험회사의 자본금의 변동에 대한 확률과정울 상술하라. 쭙이 t시접에 있어서 자본금을 rX 라 하만 X 는 우연적인 변동성을 갖지만 안정된 비율로 보험료의 수입에 따라 증가하고, 다론 한편 사고 로 인한 보험금 지불로 급격히 감소하게 된다. 예제 5-3 전염과정 (ep ide mi c pro cess) : 어 떤 전염 병 이 한 감영 자에 의 하 여 비감영지역에 전파되었다. 이때 위 전염병의 전과과정을 서술하라. 쭙이 전염병의 전과과정을· 관찰해 보면 감영자는 일정한 기간동안 중 세가 없다. 또 다른 사람들에게 전영되지도 않는다. 다음 그들은 보군 자 (carr i er) 가 되고 또 다른 사람들에게 전영시킨다. 그러나 그때까지도 증세는 없다. 그후 보군자는 증세가 나타나게 되고 격리 수용된다. 그후 격리된 환자는 사망하거나 치유되어 항체 (an ti bod y)가 생기며 면역(im m nne) 된다. 따라서, 감영된 상대를 s, 감영시킬 능력이 없는 환자의 상태를 N, 보군자의 상태를 C, 면역된 상태를 M, 격리수용된 상태를 I, 사망한 상
태를 D 라 하면 전염병의 전파추이는 다음과 같다. 두曰 그립 5-1 전영과二l二工l정추 이도一 二 예제 5-4 도서 대 출과정 (libr ary book loan pro cess) : 도서 대 출을? 받은 사람 은 매주 도서관에 찾아가 빌란 책을 다 읽은 경우 반납하고 다른 책을 다시 대출 받는다. 만일 대출 받은 책을 다 못 읽었을 경우 대출기간을 연장한다고하자. 만일 제 n 주에 독자가 도서관을 나올 때 빌린 책의 연장회수를 Z군 ] 라 하고, 확률과정 {Z } 를 상술하라. 풀이 확률과정 {Zn} 의 상태공간은 연장회수들의 집합이므로, S= {0, 1, 2, ···} 이 다. 또 책울 교환했다면 Z, 』 =0 이다. 만일 Zn=k (k=O, 1, 2, …) 라 하면 제 (n+l) 주까지는 책을 다 읽고 다른 책과 교환하게 되므로 Zn+1=0 이다. 그렇 지 않을 경 우, 다시 연장하게 되 므로 Zn+1=k+ I 이 된다. 예제 5-5 땜저수과정 (dam sto r ag e pro cess) : w 단위의 처수용량을 가전 처수지가 있다. 제 ?1 일 중 y 단위의 물이 처수지로 유입하고, 매일 1 단위의 물이 쓰이고, 넘치는 물은 방류된다고 하자. 제 n 일에 1 단위의 물이 방류된 후 저수량을 Zn 이라 할 때, 확률과정 {Zn : n=O, 1, 2, …} 의 상태공간과 Zn+l 의 관계식을 구하여라.
풀이 제 n 일에 만수인 경우 방류 후 Zn= (J)一 1 이다. 다음날 유입 이 없 으면 Z마 1= (J) _2( y마 1=0) 이다. 마찬가지 상태가 (J)— 1 일 동안 계속되면 z다 .. —1 =0 이다. 따라서 확률공간 (Zn} 의 상대공간을 S 라 하면 S= (0, I, 2, ···, (J)_ I} 이다. 그러므로 Z.=i (i=O , 1, 2···, w 一 1) y마 1=k (k=O, 1, 2, …) 이타하면 Z.+1= [+_k1_l ((ii++k k ==2O, 3또, ·는··, (1l)—) 1) (i+ k=(l) , (l)+ 1, …) 이다. § 5-2 Markov 性과 Markov 過程 시접 t 에 있어서 X( t)의 실현치가 주어졌을 때 t보다 이후인 시접 s (>t)에 있어서의 X(s) 의 확률법칙이 t 이전의 시접 u(< t)에 있어서의 X(u) 의 실현치에 무관한 확률과정 (SP) X( t)를 특히 Markov 과정 (Markov pro cess) 이 라 한다. 정의 5-2 확률과정 (SP) X( t)에 대하여 시접 t 1< t 2< …
p rocess) 이타고 하는데, 이후부터는 간단히 MP 로 쓰기로 한다. 마찬가지로 (5-1) 식을 일반화하여 X( t)가 P {X(t) = x !X ( t1) = xi, … , X( tn) = Xn} =P{X(t) =x l X( t딘) =Xn-1, X( tn) =Xn} (5-2) 를 만족할 때 , 이 SP 를 2 중 Markov 과정 (double Markov pro cess) 이 라한다. 일반적으로 n 중 Markov 과정도 정의할 수 있다. 그러나, n 중 Markov 과정도 조건을 주는 상대들 전부를 하나의 새로운 상태로 묶어서 생각 하면 단순 Markov 과정으로 귀 착된다. 그러 므로 Markov 과정 으로서 는 단순 Markov 과정 을 생 각하면 충분 하다. 정의 s-3 MP X( t)에 있어서 다음 조건부확률 f(x , s;y, t) =P(X(t) =ylX (s) =.x) (s
다른 한편 매개년수 공 간이 연 속 적이고, 상대 공 간이 이산적인 MP 를 불연속 Markov 과정 (dis c r ete Ma rk ov pro cess) 이 라 한다• 앞서 예시한 바 있는 취보도 일종의 Markov 연쇄 (MC) 이고, Pois s on 과정, 출 생과정 및 사털과정 둥은 불연속 Markov 과정이다• 그리고 매개변수공간과 상대공간이 모두 연속형인 경우의 MP 를연속 Markov 과정 이 라 한다. 정의 5-5 확률과정 : X( t)에 있어서, 조전부기대치에 관하여 E{X( tn+ i ) IX(tJ =Xi, …, X(tn) =xn} =x,. (5-4) 가 성 립 할 때 , 이 SP 를 마팅 겔 (marti ng al e) 이 라 부른다. 죽 마텅겔 X( t)는 기대치에 관하여 Markov 성을 가지는 과정이라고 간주할 수 있다. §5-3 醉步 i) 무제한 취보 : 이 절에서는 앞서 예시한 바 있는 가장 간단한 MP 의 일종인 취보에 관하여 고찰하여 보기로 하겠다. 우선 편의상 실수직선 (real lin e ) 위에서 좌측 또는 우측으로 1 보씩 임 의로 옮겨다니는 입자(p ar ti cle) P의 운동에 대한 확률모형을 생각하기로 하자.
임 의 의 위 치 에 있는 입 자가 시 간에 무관하게 우측으로 1 보 (I-S t ep) 옮 겨 가게 될 확률을 p, 그 여 사상의 확률(좌측으로 1 보 옮겨 가게 될 확물)을 q (=l-P) 라 하고, 또 각 보행들 사이에는 독립적이라고 가정하자. 이 렇게 해서 얻어전 과정을 무제한취보 (unres t r ict ed random walk) 라고 부 른다. 그러면 이제부터 무제한취보에 관하여 좀더 구체적으로 설명하도록 하겠다.입자 P 가 원접을 출발하여 n- 보 (n-s t e p s) 만에 k- 보만큼 떨어전 위치 에 있게 될 확률을 P 。 ”(k) 라 하고, 이 확률분포를 통하여 무제한취 보 를 고찰해 보기로 하겠다. Z. 가 n- 시접에 입자 P 의 위치를 나타내 주는 확률변수라 하면 Zn : n=l, 2, ••• 논 이산적 매개변수공간 T=(O,1,2, …）를 가지고, 또 이산적 상태공 간 S= (O, 土 1, 土 2, ••• }를 가지는 Markov 연쇄의 일종인 취를 얻게 된 다. 그러면 r.v. X 가 위 취보의 보행상태를 나타내 주는 확물변수라면 그 확률분포는 p= P(X= l), q= P(X= 크) (여기서, p+q =l 이다•) 로 주어진다. 그리고 z0=0 인 경우, n- 보 후 입자 P 의 위치운 나타내는 확률변수 z” 는 다음과 같이 쓸 수 있다. Zn=X1+X2+… + Xn =Zn-i+ Xn 이때 r.v. X;( i =l,2, … ,n) 들은 서로 독립이고, 또 r.v. X 와 동일한 확률분포에 따르는 확률변수들이 다. 우리가 구하려는 확률 Pon(k) 는 Pon(k) =P(Zn=kIZo=O) 으로쓸수 있다. 이제 다시 r. v. Y;(i= l, 2, …, n) 를 Yj = {; :::==121) 이라두면 Y,· 칸 (X;+1), (i= l, 2, …, n)
이 다. 죽 Y; 는 모수 P 를 가지 는 Bernoul li 분포 B (p) 에 따른다. 따라서 만일 R,.= Y1+ Y2+… + Yn 칸 (Z,.+n) 이라 둘 때, r.v. R” 는 2 항분포 B i n(n, p)에 따른다. 그러 므로, 구하려 고 하는 확률은 다음과 같이 계 산된다. po ,.(k) =P(Z,.=kIZo=O) =P {R ,. = 강 (Z,.+n) =강 (k+n)} =( 송 (kn+ n) )\ p¼<+,.)이,.＿I,) (여 기 서 , j(k +n)ES= {O, 1, 2, ···, n. }) (5-5) 분만 아니 라 r. v. R” 은 2 항분포에 따르므로 E(R,.) =np ; V(R,.) =npq 이고, E(Zn) =E(2Rn-n) =2E(Rn) 一 n=n( p-q) (5-6) V(Zn) = V(2 (Rn-n) = 4 V(Rn) =4np q (5-7) 즉 만일 P> q이면 n- 보 후 입자 P 는 원점의 우측에 있게 되고, 반면 에 P< q이면 원접의 좌측에 있게 될 것이 평군적으로. 기대된다. 특히 P=q 일 경우에는 n- 보 후 입자 P 는 원점에 되돌아오게 될 것이 평균적으로. 기대된다는 해석이 나온다. 더우기 앞서 언급한 바 있는 강대수의 법칙에 의하면 -n! -z•• ---n!- EZn=p -q (5-8) 이 -+c;x:> 일 때 확률 1 로 수령한다. 죽 충분히 큰 n 에 대하여 P> q인 경우 입자 P 는 거의 확실하게 실 수축을 따라 양의 방향으로 표류할 것이라고 기대되고, 이때의 평군보 폭 (mean s t e p)이 p-q와 같다.
다시 중십국한정리에 의하면 W= 上그2炫J 스n p꼬 q - (5-9) 는 ” 이 상당히 클 경우, 표준화정규분포 N(O, 1) 에 따르게 된다. 예제 5-6 주어진 취보 Z 에 대하여 P= q =O.5 라 하자. 이때, Z10000 의 95% 신뢰구간을 구하여라. (단, Zo=O 이다.) 폴 DI EZ=O, ./V(Z)=./~. 5=100 그러므로 F( 一 2oo
Zn+a(n=O, I, 2, …) 와 같아지는 제한취보를 생각하기로 한다. 그리고 Zo=O 이고, 상태공 간을 S 라 둘 때 S= {-a, -a+I, …, -1, 0, I, …, b-I, b} 이다. 그리면 Z,, 익 실현치가 처음으로 -a 가 되든가 혹은 b 에 도달하게 될 때 게임은 완전히 끝나게 된다. 죽, z,, 이 b 에 도달하기에 앞서 -a 에 도달하게 되면 Y=I 이 되고, 그렇지 않울 경우 Y=o 가 된다. 그러면 이제부터 A 가 파산하게 될 확률을 계산하여 보기로 하자. 죽, 확률 P(Y=I IZo=O) (a) 를 구하여 보자. G;(s) =E y 1z 。 =I · S y =l-0 i +0 i s =l-(1-S)O; (b) 라 하자. 이것은 위에서 언급한 취보가 상태 Z0= i에서 출발하였을 겅 우 r.v. Y 의 확률모함수(p,g.f.）이다. 또 이때 O;=P,(Y=I IZo=i) 이다. 한편 n 에 관계없이 Pr(Y=llZn=i) =fJ;, (iES ) (c) 이고, 게임은 매회 독립적이므로 Markov 성에 의하여 EY1z1=1 r,z 0=; SY=Ey ,z 1= SY=G1r(s) (i, kES) (d) 이다. 다시 분해법칙을 적용하면 G;(S) =E y 1z 。=i SY=EY,Z1IZ 。=; SY =Ez11z 。 =,E y ,z 。국 ,Zo =i SY =Ez,z0= iGz 1 (S) (e)
이다. 따라서 (b) 식과 (e) 식에서 1 귄 ;=G;(O) =Ez11z0: iGz 1(0) =Ez11z0 :i (l 크 ?zI) =l-Ez11z0=;0z1 (f) 그러므로 (f)식에서 O;=Ez11z 。=i OzI =0;-1P(Z1=i - I IZo=i ) +0;+1P(Z1=i + I I Zo=i ) 이 므로, 다음 정 차방정 식 (dif fere nce equ ati on ) 을 얻 게 된다. O;=q 0,· -1 +p oi + 1(i= -a+I, …, b_1) (g) 그리고, 위 (g)식은 (a+b 一 2) 개의 미지수를 가지는 2 계정차방정(t he 2nd order dif fer ence e q ~a ti on) 들이 다. 위 (g)식을 다시 쓰고, 정돈하면 (p+q)0 1·=q oi _ l +p o i+ 1 (O;+ i-O ;)p = (O;-OH)q (i= -a+I, ···, b-1) (h) 만일 D,·= 0 i- 0i- 1, k=q /P 라두면 Di =iDi - 1 =i (iDi - 2 ) =…=i D 。 로쓸수 있다. 그런데 또 -1=i==O -Ia:bb+ l_ Do;-=ai=D= - 2。ba i=+ 2 - l(b a (+Ji l, i· -(Ji-J (i) 인 관계식이 성립하고, -80=8•-0o=D 。 Eb 셨 (D i= l 이 성립한다.
뿐만 아니라, 구하고자 하는 확률 죽 A 가 결국은 파산하게 되고 개 입 이 완전히 종료될 확률은 P,(Y=I IZ0=0) =0 。 이므로, (i)식으로 (D 식을 나눠줌으로써 원하는 확률을 계산할 수 있다. P(Y=IIZ0=0)=0o=~b 것 /Eb X i= l i= -a+ l =’ ,―b ((-.<2~= 11.. 죽죽 pp~=qq) =송) 죽 P= q인 경우, B 의 소~지금액이 A 보다 많을수록 A 의 과산이 확실 해진정다의. 5 -6 위 예 제 5-7 에 서릅 상대 —a, b 를 경계상태 (boundary sta te s ) 라 하고, 나머지 상태들을 내부상태(i n t e ri or s t a t es) 라 한다. 특히 경 계상태가 _a,b 와 같이 일단 이들 상태에 도달하기만 하면 더 이상 다른 상대로 죽, 내부상태로 옮겨가지 않게 되는 경우를 홀수벽 (absorbin g barr i er) 이 라 한다. 따라서, 위 파산모형은 2 개의 흘수벽을 가지는 제한취보라 한다. 예재 5-8 (단일흡수벼취보) A 가 자금을 무한대 로 보장받은 스러 트 • 머 신 (slo t mach i ne) 을 상대로 게임에 임할 때, A 가 언젠가는 파산하게 될 확률을 구하여라. 풀이 A 의 상대자인 스러트 • 머신을 B 라 하자. 그러면, B 의 자금은 b= CX)이고, A 는 유한자금 a 로 게임에 임하게 된다. 그러므로 구하고자 하는 A 의 파산확률을 PA 라 하면 PA=I im 8 。 b-~ =lbi-m- f +I l , (1=1, P= q=송) ;
뻔 ~1-J- b '
P,(Z,.+l = alZn=a)= > 그리고 P,(Zn+1=a 크 IZn=a) => 일 경 우 상대 a 를 탄성 벽 (im p en etr a ble barrie r ) 이 라 부르고, 이 R W 를 탄성벽을 가지는 취보 (res tri c t ed random walk wi th impe netr a ble barr i er) 라 고부른다. § 5-4 Markov 連鎖 이 철에서는 p arame t학공간과 상태공간이 모두 이산형 Markov 과정 인 Markov 연쇄에 대하여 고찰하여 보기로 하겠다. 득히, 이 절에서 취급하게 되는 Markov 연쇄는 상태공간 S 와 pa ram- ete r sp a ce T 가 모두 정수전체의 집합이거나 그 부분집합인 경우로 한 다. Markov 연 쇄 X(t) 에 관한 가정 i) X(t) 의 pa ramete r 공간을 T= (0, I, 2, …} 라둔다. ii) X(t) 의 상대 공간을 S= [O, 士 1, 土 2, ···} 라둔다. iii) X( t)는 정상적이다. 죽, 입의의 자연수 mES 에 대하여 시간 pa ramete r t 에 무관하게 다음 등석 이 성 립 한다. P0 (m) =P, {X(t+ m) =j l X(t) =i} 이와같이 Markov 연쇄에 있어서는 상태공간 S 의 원 (elemen t)들사이 에 동접들이 주어진 확률법칙(확률분석)에 따라서 옮겨다니는 것으로. 생 각하면 편리하다. 예컨대, 앞 절 §5-3 에서 상술한 바 있는 취보들이 바로 위 가칭 i), ii) ' iii) 을 모두 만족하는 Markov 연 쇄 인 것 이 다. 그리고 가정 iii)에 의하면
m- 보 추이확률을 다음과 같이 정의할 수 있다. 정의 5-8 시접 t 에서 상태 i 에 있다는 조건 밑에 시접 (t +m) 에 상 대 j에 옮겨가게 될 조건부확률 P,i( m ) =P , {X( t+ m) =j l X(t) =i } (m~o, i, jE S) (5-10) 를 m- 보추이 확률 (m-s t e p tra nsit ion pro babil ity) 이 라고 부른다. 특히, m=1 일 경우 P, . j (1) 을 간단히 상태 i에서 상태 j로 옮겨 가게 될 추이확률(t rans iti on p rabab ility)이 라고 P .•i 로 쓰기 도 한다. 한편, 시접 t에 있어서의 상태가 1· 일 확률을 P;( t)라 쓰면 하나의 확 률분포 P; (t) =P (X(t) =i ) (5-11) 울얻는다. Markov 연쇄를 취급할 때, 이들에 관한 성질들을 행렬과 vec t or 로 나타내주면 아주 간결하고 편리하다. 정의 5-9 Markov 연쇄에 있어서 m- 보추이확률 P ii (m) 를 원으로가 지 는 정 방행 렬 (squ are matr i x ) P(m) = (Pu(m)) (5-12) 롤 m- 보추이 확률행 렬 (m-ste p tra nsit ion sto chasti c matr i x ) 이 라 한다. 특히, m=l 일 때, 죽 P=P(l) = (Po) (5-13) 를 간단히 추이 확률행 렬 (tra nsit ion sto chasti c matr i x ) 이 라 부른다. 특히, 상태공간 S 가 유한집합 S= (I, 2, …, n} (5-14) 로 주어전 유한 Markov 연쇄(fi n it e Markov cha i n) 의 경우 (5-11) 석과 (5-12) 식 및 (5-13) 식으로 주어지는 확률 vec t or 와 추이확률행렬은 다 음과 같이 n 차원 vec t or 와 nxn 정방행렬로 쓸 수 있다.
n (m) = (P1 (m) , P2 ( m) , • •• , Pn (m) ) (P여(m기서), = (EpP2,(.1 m(m)=), 1P,2 2P.(,m()m,') :~::o,' p이2다n .(.)m ) ] (5-14) Pa(m), P12(m), …, P1n(m) Pn1(m), Pn2(m), …, Pnn(m) 여기서, 훑 P if (m)=I, (i ES) 이 고, P;1(m)~o 이 다 . ) (5-15) 정의 5-10 위 (5-14) 식과 (5-15) 식 에서와 같이 그들의 원소들의 행 합이 1 인 경 우를 각각 상태 확률벡 터 (sta t e s sto c hasti c vec t or) 와 확률행 렬이라고 부른다. 특히 X(o) 에 대응하는 확률 벡터 11:( 0) = (P1(0), P2(0), …, P,.(O)) (5-16) 울 초기상태확률벡터 (ini t ial sta t e s sto c hasti c vec t or) 라 부론다. 예제 5-10 상태공간과 추이확률행렬이 각각 S= {1, 2}, P=( 。。 .. : 。0 ? (여 기 서 , 11: (0) =( I, 0) 이 다. ) 로 주어질 때, '11:( l),'11: ( 2) 및 짜 3) 을 구하여라. 풀이 상대 공간 S= {I, 2} 에 대 응하는 초기 상태 확률벡 터 는 zr(O) = (P1(0), P2(0))=(l,O) 로 주어졌다. 이제 m=I,2,3 일 때 상대확불 벡터들을 다음과 같이 써보자. (시접) （상대) ® @) m=I, 1r(l)= (P1( 1), P2(l)) m=2, 1r(2) = (P1(2), P2(2)) m=3, 2r(3)=(P1(3), P2(3))
( rn ) (m+l)
위 도석을 식으로 나타내면 다음 등식이 성립한다. P1(m+ I) =P1(m) x o. s+Pz(m) x o. 9 Pz (m + I) =P1(m) x o. 2+P2(m) x o; 1 따라서, (위P 12( m개+의l ),등 식P2을(m 행+렬I)과)= (벡P터1(로m) ,나 P2타(내m) )주( ：면냐 다:음 i과 ) 같다. 그러므로, 구하려 고 하는 상태 확물 벡 터 들은 다음과 같이 계산된다. ir(l ) =ir(O )P= (1, 0)( 임 얽 )= (0. 8, 0. 2) 1r(2) =1r(l)P= (0. 8, 0. 2) ( 閑 i ~: i )= (0. 82, 0. 18) ir(3 ) =1r(2)P= (0. 82, 0. 18) ( iJ i: i )= (0. 818, 0. 182) 일반적으로 n(m+1) =r.(m )-P(l) (5-17) (여기서, P(l) 은 추이확물 행 렬이다.) 인 관계식을 얻는다. 그러면 (5-17) 식을 보다 일반화하여, 어느 시접에 상태 i에 있을 때 장차 (m+l) －보 후 상태 j로 옮겨가게 될 추이확률에 관하여 고찰하여 보기로 하자. 정 리 5-1 (Chapm an-Kolmog o rov 방정 식 ) Markov 연쇄 X(t) 의 추이 확물에 대 하여 다음 둥식 이 성 립 한다. P;; (n+ m) = I‘.;, P;1r (n) P1r; (m) (5-18) lr= l (m, n~O, i, k, jE S)
증명 추이 확률 에 관한 정의 5-6 에 의하여 Pu(n+ m) =P (X(n+ m) =j l X(O) =i} c =I:P{ X(n+m) =j, X(n) =klX(O)=i} k= l 。 = I:P( X(n+m) =j l X(n) =k, X(O) =i} k= l @P (X(n) = k IX (O) = i} = kI=;IP ( X(n+m)=j lX (n)=k} @P (X(n) = k l X(O) = i} =I 00: P.-. (n) • P.i ( m) k=I 이다. 四 이제 P(n) 를 n- 보추이확률행렬이라면, 위 (5-18) 식에 의하면 P(n+m)=P(n) ·P(m) (5-19) 가 성립한다. 이때 (5-19) 식의 우변은 두 행열의 곱을 의미한다. 일반적으로 n- 보추이확률행렬은 다음과 감이 쓸 수 있다. P(n) =P·P(n-l) =P2-P
예제 5-11 하나의 주어전 Markov 연쇄 X( t)의 상대공간과 추이확률 행렬을각각 S= {1, 2, 3} P= (P;;) 꿉 P;;= l, P;}6 0 (i= l, 2, 3) 이라 할 때, 11: (l), 11: (2) 를 계산하여타. 풀이 앞서의 (5-22) 식에 의하면 11:( 0) = (P1(0), P2(0), P3(0)) 라할때 rr( l) =rr(O)P( l) ~ (P,(o) , P, (o) , P, (o)) [ ;:: ;: ;: ] = (P1(1), P2(l), P3(1)) 이므로. P1 (I) =P1(o)P11+P2(0)P21+P3(0)P31 P2(l) =P1(O)P12+P2(0)P22+P3 (O)P32 P3(l) =P1(0)P13+P2(0)P23+P3(0)P33 이다. 그런데 EP.-(0)=1 이므로 E3P .-(1)=1 이므로 1r: (l) 은 m=I 일 경우 i= l 의 확률 벡터 이다. 마찬가지로 =(P,(!),P,(1),P,(1)) 臼 終 l 짜 2)= 1r: (O)P2= 1r: (l)P = (P1(2), P2(2), P3(3)) 이므로 P1(2) =P1(l)P11+P2(l)P21+P3 (l)P31 P2(2) =P1(1)P12+P2(l)P22+P3(1 )P 32
P3(2) =P1(1 ) P13+P2(1 ) P23+P3(1 ) P33 이다그.런 데 I;드: SP .- (1 ) =1 이므로 1r:( 2) 역시 m=2 일 경우 확문 벡터가 된 다. 일반적으로 1r: (m+l) 은 t= m+l 일 때, 상대확률 벡터 이고, 그 성분 들은 다음과 같이 쓸 수 있다 . P1(m+ 1) =P1(m)P11+P2(m)P21+P3~m)P31 P2(m+ 1) =P1(m)P12+P2(m)P22+P3(m)P32 P3 (m + 1) = P1 (m) P13 + P2 (m) P23 + Pa (m) P33 그리고 I;P,• (m )=l 이므로 1r: (m+1) 도 역시 t= m+l 일 때 확풀 백 iE S 터가된다. 만일 m-->oo 일 때, lim 1r(m) =t= (t1, t냐) (5-23) m -· 0 라두면 1r:( m+ I) =1r:(O )P,.+~=1r :( O)P·P=1r :( m)P 이므로, 위 식의 양변에 극한울 취하면 t=tP (5-24) 을얻는다. 이때 극한확률 벡터 t를 추이확률행렬 P 의 부동 벡터(fix ed vec t or) 라 고부른다. 예제 5-12 예제 5-10 의 부동 벡터를 구하여라. 폴이 위 공식 (5-24t)= 식 (에t 냐)의 =하 면(t 냐) (:g .. f) 이고, 또 t1+ t 2 =l 이므로. t= (0. 81, o. 18) 이다. 한편 위 예제 5-10 의 추이확물행렬 P(2),P(3) 동을 계산하여 보자.
P(2)=P2= （昌 얽)（임 얽) =（江鬪) 마찬가지로 P(3) =P3=P2·P =(昌겁 i:겁f) 걷국은 P(oo) = I..i -mi P(m) = Imi m一 .. p• =(~~ !:) (5-25) 인 관계식을 얻게 된다. 죽, 추이확률행렬 P(oo) 는 P 의 부동 벡터를 행으로 가지는 확률행 렬과같아진다. §5-5 주요 확률개념의 도입 이 철에서는 Markov 연쇄물 고찰하는 데 중요한 역할을 하게 되는 몇 가지 추이확률들을 도입하기로 하겠다. 주어전 Markov 연쇄에 관하여, i) 상태 i를 출발하여 m- 보 (m>o) 만에 처음으로 상대 j 에 도달 하게 될 확률을 기호로 fii (m) 로 쓰기로 한다. ii) 상태 i를 출발하여 적어도 한번 상태 j를 통과하게 될 확률을 f,j로 쓰기로 한다. iii) 상태 i 를 출발하여 무한회 상태 j 룰 통과하게 될 확물을 g,.J 로쓴다. 그러면 위에서 정의된 확률둘 사이에 관계식들에 대하여 서술하여 보 자.
정리 5-2 f u(m) 과 P,'J( m ) 사이에 다음 공식들이 성립한다. fiJ(l) =P,'J( l) =PiJ (5-26) fu( m) = I;P, .f 11 (m-l) (m~2) (5-27) k .. j 층명 Pu(m) 는 상태 i 에서 출발하여 m- 보 후에 상태 j 에 도달하게 될 확률이지만, 이 경우 m- 보 이전에 및 번이고 j를 통과하여도 상관이 없다. 이에 반하여 f u(m) 는 m- 보 이전에 j를 통과해서는 안된다• m=I 일 경우, f u (I)은 Pu (l)과 일치한다. 죽 (5-26) 식은 정의 5-6 과 정의 5-9 에서 분명하다. 다음 m~2 일 경우, 상태 i를 출발하여 m- 보만에 j에 도달하게 되는 사상을 제 1 보에 상태 k(-=/= j)에 도달하고 나머지 (m-I) 보만에 처음으 로 상태 j에 도달하게 되는 두 개의 서로 배반인 사상들로 분할한다. 그러 면 다음과 같은 추리 가 가능하다. fii(2 ) = I; P 사 E(1) k .. i J;;( 3) = I; P 사·. . ;(2) k 녹j 일반적으로 (5-27) 식이 성립한다. 넓 정리 5-3 P ii( m) 와 fu( m) 사이에 다음 관계식이 성립한다. P,i( m ) = Im; fu(k )Pii (m -k) (5-28) k=I 증명 상태 i를 출발하여 m- 보만에 j에 도달하게 되는 사상은 최초로 j를 통과하게 되는 데 소요되는 보수 k 에 의해 서로 배반인 사상들로 분 할하여 생각한다. 죽, 소요 보수를 (k
확률 fu( m)Pi i(O ) 를 얻게 되고, 이들 확률을 모두 합하면 (5-28) 식을 얻는다 . 四 정리 5-4 f u(m) 와 f,: 사이에는 다음 관계식이 성립한다. J;j=fii(I) +fu(2 ) +…= 2:/u (m) (5-29) m=l 증명 상태 i를 출발하여 상태 j를 최초로 통과하는데 소요되는 보수 에 의하여 서로 배반인 사상들로 분할하여 생각한다. 정리 5-5 fij와 g,'j 사 이에 다음 관계식들이 성립한다. gii= lmim_o , (fi: )m (5-30) g;;= Iimf ;j (ft) •-1 =/;jgJj (5-31) m-m 증명 우선 (5-30) 식을 증명하자. 상태 i를 출발해서 j에 무한회에 도달하게 될 확률이란 것은 수학적으 로 말해서 상대 i를 출발해서 적어도 m최 j에 도달하게 될 확품의 극 한치 를 의 미 한다. 이 사실을 식 으로 표현하면 (5-30) 식 을 얻 는다 - 그러면 나머지 후반부인 (5-31) 식을 증명하자. 상태 i를 출발해서 적어도 2 회 j에 도달하게 될 확률을 계산하면 다 음과같다. 1- 보만에 처음으로 상태 j를 동과하게 되고 그후 적어도 1 회 j를통 과하게 될 확률은 fo ( l)fij 이고, 또 2- 보만에 처음으로j를 통과하고 적어도 1 회j를 통과하게 될 확률은 fu( 2)fj 이다. 마찬가지로 m- 보만에 처음으로, j를 통과하고 적어도 .1 회 j를 통과 하게 될 확률은
fu (m)Jj ; 로 쓸 수 있다. 따라서 상태 i를 출발해서 적어도 2 회 j에 도달하게 될 확률은 다음 과 같다. J;;= (l( )fftu + (1 f); +; (f2u) f(t2 +) + • •… · f;+ ; (Jm;;) (fmi ;)+ + … … )f;j ={ ~(;;(m)}f; j =fJ!» (a) (a) 식에서 i=j라 두면, 상태 j에서 출발해서 적어도 2 회 j에 도달 할 확률은 (f:j) 2 와 같다. 위 결과를 이용하면, 상태 i를 출발해서 적어도 3 회 j에 도달하게 될 확률은 다음과 같이 된다. =f {uJ (;1;()l )( f+;/); 2;(+2f) u + (2/;); ((3f;)) + 2·+··f} u ( (f3j);) (2f ;) 나 ••• =R(f;i )2 일반적으로 상태 i를 출발해서 적어도 m 회 j에 도달하게 될 확률은 R(f1 ) m-1, (만일 t=j 이 면 (ft). ) (b) 그러므로 m-.oo 라 두면 (5-31) 식의 결과를 얻는다. 曰 예제 5-13 추이확률행렬 P=[t :l 로 주어전 Markov 연쇄에 대하여 fu (m), J;j 및 g, • ,를 계산하여라. 풀이 정 리 5-2 의 공식 (5-26) 식 에 의 하여 fu (I)=Po 이므로
F( I) =(~::;:; ;::;:;)=[ t t ] 과같다. 다음 정리 5-2 의 공식 (5-27) 식에서 f1·j (m) = EP,·kf k j ( m-1) i>,j 이므로, m~2 일 때 fu( m) =P12f 21 (m-1) =j f21 (m-l) f 21(m)=P22 f2 1(m-I) ＝운 f21 (m-1) f1 2(m)=P 다 (m-1)=½ f12 (m-1) f22 Cm) =P21f 12 (m-l) =1f f12 (m— 1) 그러므로 위 접화공식을 적용하여 f u(m) 을 계산하여 보면 다음과 갇 이 된다. f u(m) ＝웅(밉 fu (m-2) 국 (8m-2f 2l(1) ＝웅(운) .. -2P 21( 1) 국 · (운 )I0-2 • ¼ =½(운 )m-2 마찬가지로 fl2 (m), f21 (m) 및 !22(m) 를 구하면 다음과 같다. f12 (m) =½(½) .. -1 f21 (m) 카(汀 -1 !22(m) 국(강 )-2 그러므로 이들 f ;;(m) 를 행렬 F(m) 로 나타내면 다음과 같다.
F(m) = (fu ( m) ) (5-32) 한편 f~를 구하자. f11 = 첩 u (m) =½ + ¼{1 + (합) + （운 )2+ • ··} = 1 마찬가지로 f1 ~= f두 1 fij =1 임을 알 수 있다. 그러므로 이들 R 를F* 원=소(ff로2l ;1 ff하21;; 는) = (행 11렬 을1 )F1 * 로 쓰기로 하면 (5-33) 이다. 끝으로 g;; 를 구하여 보기 로 하자. g1 1=ml i-m0, U1~) .. =1 마찬가지로 g2 2=g 1 2=g 2G 1== l ( 이!: 므: :로: g:;); 를같 원1소)로1 하는 행 열을 G( 라5-3 4하) 면 이다. 정의 5-11 상태 i 에서 j 에 도달하는 데 소요되는 보행수 (s t e p s 수) 의 평군치를 h; J로 나타내고, 이것을 i에서 j에로의 평군도달시간 (mean accessib l e time ) 이 라 한다 . ho= .E.. m f ii (m) (5-35) ,n= I 특히 i=j 일 때 , It;i 률 상태 i 의 평군재귀시 간 (mean reccurrence time ) 이 라고 한다. 다음 상태 i를 출발해서 m- 보행 사이에 상태 j에 몇 번 통과했는가 하는 것을 고찰해보자. 이 경우 m 를 한없이 크게 할 때, j를 동과하는 최수는 한없이 커질 가능성이 있으므로 동과회수를 m 으로 나눠준 상가평균치를 취한다. 이 상가평군의 기대치(평균치)를 V {J (m) 로 나타내 주.::u., 이것의 극한치
lim vu(m) =vu (5-36) m-~ 로 나타내 주고, 이 V ij 를 상태 i에서 출 발해서 j로의 평균방문비율이 라한다. 정리 5-6 위 v ji와 Vu 를 원소로 하는 행렬 V 는 다음과 같이 구할 수 있다. Vjj = lmi 一m。 \mp ,.j ( l ) +P,.j( 2) +… +Pu(m)} (5-37) v=l'i_m' 삶 {P+P 도 ·+P 가 (5-38) 증명 확률변수 Y, 가 상태 i를 출발해서 t 시접에 j에 도달하면 1, 그렇지 않으면 O 를 취하는 것이라 하자. 그러면 Y, 의 분포는 P(Y,=l)=Pu(t) ; P(Y,=O)=l-P,At) 이 므로 r. v. Y, 는 모수 Pu (t) 를 가지 는 Bernoull i 분포 d3 (P,.i ( t) ) 에 따르는 것을 알 수 있다. 분만 아니라 r.v. Y, 의 기대치는 E(Y,)=P,At ) 이다. 한편 서로 독립 이고 Y, 와 동일한 확률분포에 따르는 확률변수들의 합계 Y1+Y2+… + Ym 는 시접 t= l 에서 t= m 사이에 상태 i를 방문하게 되는 최수가 되고, 또 이들의 상가평군을 z. . 갑 (Yi + Y2+… + Y. . ) 라하자. 따라서 V;;(m) =E(Z.) ＝삶 {E(Yi.) + …+ E(Y.)}
상태:가: [2 1인: 2경}: 우) (MC )의 상태(공간,: 추<이확률행렬, 그추 립이 도5-3식 은추 이다도음
=굶1 {Pu(1) +Pu(2) +… +Pu(m)) (5-39) 그러므로 (5-39) 식의 극한을 구하면 (5-37) 식을 얻는다. 또 P.-;( t)는 행렬 P' 의 제 i 행, 제 j 열의 성분이므로, vu 를 성분으 로 가지는 행렬을 V 라 쓰면 (5-38) 식의 결과를 얻는다. § 5-6 2- 상태 Markov 연 쇄 이 철에서는 상태공간 S= {I ,2} 인 Markov 연쇄의 구조를 자세히 조 사하여 보기로 하자. 특히, 상대가 2 인 경우 그 추이확률행렬이 2X2 정방행렬이므로 바로 앞 철인 §5-5 에서 도입한 여러가지 행렬들을 용이하게 구할 수 있다. 분만 아니라, 다음에 전개되는 일반론의 기초연구로서도 건요한 이론 이라 하겠다.
{qs++ pr == 1I,, qs 족~ O 0,, pr~녹o 0 (5-40) 한편 (5-40) 식에서 s=I-P, r=I— q 이므로 추이확률행렬은 P=(;—1p - ' (5-41) 로 쑬 수도 있다. 따라서, 상태가 단지 2 인 Markov 연쇄는 2 개의 모수 P 와 q에 의하 여 완전히 결정된다. 그러므로, 이 Markov 연쇄는 P 와 q의 값에 따라서 다음과 같이 9 가 지 유형으로 나누어 고찰할 수 있다.
표 5-1 2- 상대 MC 유 형
그런데 이들 9 가지 유형의 MC 는 다시 흡수벽울 가지는 경우와 그
죽 0- 시접에서 상태가 ®이었으면 그 이후 영원히 상태 ®로 지속되 고, 0- 시접에서 @였으면 마찬가지로 상대 @에 계속 머무르게 된다. 그러므로, 상태 ®에서 ®에 도달할 수 없고, 또 ®에서 ®에 도달할 수도 없다. 이 경 우 상대 ®과 ®는 모두 흡수상태 (absorbin g s t a t es) 라 한다. 또 흡수상태가 경계상태인 경우, 이들울 특히 흡수벽들이라고 부른다. 이 경우는 아주 특수한 것이어서 계미는 없지만 앞 철에서 도입한 여 러가지 행렬둘을 구하여 두기로 하겠다. P,.=(!0 1~ ), F(l)=(!O ~1 ) 등이 성립하는 것은 분명하다. m~2 일 경우, 앞 질 공식 (5-27) 식에 의하면 P,*=o (i士 k) 이므로 F(m) =( ~ ~ ) (m~2) 0 0 인 것은 분명하다.
한편, 앞 전 공석 (5-29) 에 의 하면 fu = I;f;j(m ) =fu( l) + I;fij(m ) m=l m=2 =fij(1) =P,.j( 1 ) =P,.J 그러므로 구하는 행렬 F* 는 다음과 같다. F*= (PiJ ) =( !0 ~1 ) 또 정 리 5-5 의 공식 (5-30) 식과 (5-31) 식 에 의하면 gii=o il (i=l , 2) 이 므 G=(~ ~ ) 이다. 마찬가지로 정의 5-12 의 공식 (5-35) 식과 정리 5-6 의 공식 (5-38) 식 에 의하여 F*=G=H=V=(~ ~) (5-42) 이 성립한다. b) ii)의 경우(p＝ l, q= O) 이 경우P = 공 식 (5-41) 식I에IJ 의--하1-여 주0어전 MC 의 추이그확립률 5행-5렬 추은이 도 ( 001 ) l 죽 상태 ®은 비복귀상태이고, 상태 ®는 흡수벽인 MC 이다. 그리고 시발접 (t =O) 에서 상태가 ®이었건 혹은 ®이었건간에 상관없이 t= I 에 서 는 상태 ®에 도F달 .. =하(게 ° 된l 다).= F(1) 0 1 그러면 m~2 일 경우 F(m) 를 구하여 보기로 하자. 만일 m=2 이면 fu( 2) =Pl2f 2l (1) +F2lfl 2 (1) =o
이고, 또 앞 절 공식 (5-27) 식에 의하면 fu( m) = Emco= P2 , 'kf u ( m-1) 이므로 f;1 (m)=O (m~2) 이 성립한다. 죽 다음 행렬을 얻게 된다. F(m) =( 0~ ~0 ) (m~2) 한편 앞 절 공석 (5-29) 식에서 ft= .I.e o=: 1f ;i (m) =fii (l) + mIoo=: 2f ii (m) =f;i (I) 이므로 F*=P=( 0° 11 ) 울얻는다. 따라서 f 1~=P11=0 와 f2~ =P22=I 이므로 앞 절 공식 (5-30) 에서 gn =O, g2 2=l 을얻는다. 한편 공식 (5-31) 을 적용하면 g1 2=Rg 2 2=l gz 1=/2tg 1 1= 0 등을 얻을 수 있으므로 구하는 행렬 G 는 다음과 같이 된다. G=(0 1)=F* 0 1 마찬가지로 공식 (5-37) 과 (5-38) 식을 적용하면 다음 등식을 얻는다. F*=G=H=V=P
c) iii)의 경우(p =O, q= l)
따라서 상태 ®는 흡수상태이고, 상대 ®은 앞서의 경우와는 달리 비 복귀상태는 아니다. 왜냐하면, ®을 출발하여 ®에 다시 돌아오는 것이 가능하기 때문이다. p2 =(s p) (s p)= (s2 p(1 +s)) 0 1 0 1 0 1 =(S2 1-s2) 0 1 p3 =(S2 1-s2)( s p)= (s3 p(1 +s+s2)) 0 1 0 1 0 1 =(전 1-s3) 0 1 일반적으로 다음과 같이 쓸P 수=( s있·다 .l -s> 0 1 따라서 .l.i -m- S '=O, ,l.i-r.a. (1-s•) =I 이 성립한다. 위 결과식들은 상태 ®에서 출발하여 영구히 ®에 머무르게 될 확률 온 0 이고, 종국적으로는 상태 ®로 흡수되고 만다는 것을 의미한다. 분만 아니라, 다음F (각1) =식(이 0s 성p1립)n 한 다. F(m)=(~ p s: 一 1), (m 족 2) :0 0
F*=mt F(m ) = ( ~ ~ ) 또 g ll= ！뿐따 )=11 쁜 s=O g2 2=Im im-- C f2; )'=l.. i _m~ l=l gl 2=Rg 2 2=1•1=l gz1 =f ,tgu =O·O=O 그러므로, 행렬 G 는 다음과 같이 쓸 수 있다. G=(0 1 ) 1 0 한편 H 와 V 는 다음과 같이 계산할 수 있다. H= 홉im F(m)=(~, P(1+2s:3s 도)) =(: t) V=,I. _im;;; 上m [p+p나 ···+P 가 권표(仲 ;s·) m-\(1 군)) =(~ ; ) 이 경우, 위 i)'ii)'iii)의 경우 모두 성립하던 등식 F*=G=H=V 논 성립하지 않는다. 끝으로, v) 의 경우는 P 와 q를 바꾸어 생각하면 i v) 의 경우와 대칭적 인 증명이 가능하다; ii) 비 흡수터 2- 상태 MC 이제부터 2- 상태 MC 의 추이확률행렬 P 의 m- 떠승 (=P. ）을 구하고 이것을 이용하여 흡수벽(상대)울 가지지 않는 2- 상태 MC 에 대하여 고
찰하여 보기로 하겠다. 정리 5~6 2- 상태 MC 의 추이 확률행 렬을 P=(1_p p) q 1_q 0 학 학 O~ q ~ l 이라 할 때, 만일 p+q> O 이면 p 111= 급(: ~)+~一qq) (P-q- :) (a) 이다. 증명 위 부등식들에 관하여 등호가 성립할 경우를 보자. P=q = O (:::) p+q= O p=q= I (:::) p+q= 2 이므로 i)과 i x) 의 경우를 제의하면, 다음 부등식들을 얻는다. o
A=(O U), B=(U -u) (c) O u -1) O 그러면 A 는 확률행렬이고, B 는 그렇지 않지만 다음 등식들이 성립 한다. A+B=l (단위행연) (d) A·B=B•A=O (영행열) (e) 따라서 (d) 석의 양변에 A 와 B 를 곱하고, (e) 에 의하면 A2=A, B2=B (f) 를얻는다. 뿐만 아니라, 임의의 두자연수 l,m 에 관하여 다음 관계식을 얻는다. A'=A, B=B (g) 다론한편 C=1_p _q 라놓으면 A+cB=A+ (I-p一q )B =A+B-(p +q)B ==UI-0 ( p°1+) q_)(B P_ q_ pq) =(Ep p ) q I-q =P 죽, 다음 관계식을 얻는다. P=A+cB (h) 위 (e), (f) 및 (h) 석을 적용하면 PA=AP=A, PB=BP=cB (i) 를얻는다. 또 (h) 와 (i)식에서
P2=P·P= (A+cB)P =AP+cBP =A+c2B P3=P2P= (A+c2B)P =AP+c2BP =A+c3B 일반적으로 임의의 m 에 대하여 P'=A+c'B 가 성립한다. 그러면 이제부터 표 5-1 에서 흡수상태를 가지지 않는 경우인 나머지 vi) ~ix) 둥에 대 하여 고찰하여 보기 로 하겠 다. 그런데, v i )~v iii)의 경우들은 모두 동일한 성질들을 가지고 있지만 x i)는 다소 다르다. 그러므로 여기서는 v i)과 x i)을 주로 고찰하여 보 기로 하겠다. e) v i)의 경우 (o< p <1, o
P=(; :) Q(:>() 그립 5-7 추이도
그리고 정리 5-6 의 공식 (a) 식에 의하여, p•_은 다음과 같다. P'= p뉴(: ;)+ (I-p<- qq)·( p_q-? 또 정 리 5-2 의 공식 (5-26) 및 (5-27) 에 의 하여 f;i (l) 및 f;i (m) (m~2) 를 다음과 같이 구할 수 있다. fu O)=s, f끄 (I)=P f21 (l)=q , f22 (l)=r 다음 m~2 일 때, f ,Am) 는 fu( m)=P12f 21 (m-1)=P/21(m-1) ff2u1( (mm)) ==pP2u2 ff 2 ul ((mm--1I)) ==srffa1 (2 m(m--II)) (5-43) f22 (m) =p 2l f끄(m-I) =qfu( m-1)
이고, 또 f u(m) 과 f 21(m ; 이 동비수연이므로 다음과 같 이 쓸 수 있다. f12 ( m) =Ps'-1 !21(m) =qr '-1 분만 아니라, 이들을 이용하여 f u(m) 과 f 22(m) 을 다음과 같이 다시 쑬수있다. fu (m) =pqr .. -2 f22 (m) =pqsm -z 이것을 행렬로 나타내 주면 F(m) 을 얻는다. F(m) =~ :::;2 ; ;::~2) (5-44) 따라서 F*= 합 (m) = (s+p 1 ) '= ' 1 r+q =( l 1) (5-45) 1 1 .•. G= ( 1 1 ) (5-46) 1 1 그러면 이제부터 평군도달시간(평군도말보수)과 평군방문비율을 구하 여 보기로 하자. hu=•~ = •m f u( m) =s+m I=;‘i. , mp qrn - 2 =s+ 꾸 {~;,ir'- 1 -1} =s+ 무(》크) =上q꼬 h12==m IP= °;I 'I m: f m12s ( .m. -I) == pmI =; ‘0•I m fap s .. -l 캬 마찬가지로 h21 과 h22 를 계 산하면
h21=¼, h22= 씁 를얻는다. 그러므로 구하는 행렬 HH 는= [다 ]음p과[; )같:이:) i쓸l 수 있다. 다음 평군방문비율을 나타내 주는 행렬 V 를 구하여 보기로 하겠다. 정 리 5-6 의 공식 (a) 에 의하면 V= lmi -mmb m( P+P 나… +P•) =lmim-~ bm [(A+cB)+… + (A+C. . B)} 켓떤 {A+~… +c. .. B} =A+lmi m-m lm. • ~—l-c c' ) B =A 그러므로 V=A={;;;二 ] (5-47 ) 를얻는다. 예재 5-14 주관식 출제문제로 A- 형과 B- 형이 있다하자. 어느 연도에 A 형이 출제되었을 때, 다음해에는 동전을 던쳐서 표면이 나오면 다시 A- 형을 출제하고 그렇지 않으면 B- 형이 출제된다. 반면에, B- 형이 출 제된 다음 해에는 주사위를 던져서 1 또는 2 의 눈금이 나오게 되면 A- 형을 출제하게 되고, 그렇지 않으면 B- 형이 출제된다고 하자. 금년에 A- 형이 출제되었을 때, m 년 후 A,B 형 문제가 출제될 확률 울 구하고, 오랜 시간이 경과한 후 A 와 B 의 출제비울을 구하여라. 풀이 추이확률행렬을 구하면, 다음과 같다.
P=[t : l 따라서 P=½, q=½ 이므로, 정리 5-6 의 공식 (a) 식에 의하여 P 露 을 계산하면 다음과 같다. P'=½(: :)＋紅(강 )'(3_2_:) 그러므로 m 년 후 A 와 B 형의 문제가 출제될 확률을 각각 PA(m), p B(m) 이라 두면 PA(m) =½ {2+3( 강) .. } Pa(m) =t {3 一 3( 감)] 울얻는다. 또 평군출제비율을 나타내는 행렬을 V 라 하면 V 감 (2 3) 2 3 이므로, 오렌 세월이 흐르는 동안 A 형과 B 형의 출제비율은 (5-47) 식 에 의하여 각각 웅와 웅이다. 예재 5-15 2- 상태 MC 의 추이확률행렬이 표 5_1 의 i x) 의 경우로 주 어질 때, p .., F(m) 및 H 를 계산하여라. 풀이 이 경우 추이확률행렬이 P=(~ ~) ~:YJ 그립 5-8 추이도 이므로 상태 ®과 ®가 서로 교대로 도달하게 되므로 P .. 은 다음과 같 이 쑬 수 있다.
m=2k-1 p•=[::; ; m=2k (여기서, k 는 자연수이다.) 분만 아니라 정리 5-6 의 공식 (5-42) 식에 의하면 p,.=[t tl+ ( —!)·[~ttl 와같이 구할 수도 있다. 다음 F(m) 를 구하여 보자. F( l) =( ~1 o! ) , F(2)=( :o O``Ij 이고, P=q = l 이고 /21(2)=0 이므로 (5-43) 식의 처음 공식에 의하면 f u(3)=0 를 얻는다. 따라서 위 (5-43) 의 접 화공식 들에 의 하여 f;; (m) =O , (m~3) 를 얻을 수 있으며 F구(m하)는= (F~。( m) 은’ 다s음 —N과읽 같 이 쓸 수 있다. 0`0`j 끝으로 정 의 5-12 의 공식 (5-35) 식 에 의 하면 H==• (I =.0~; l m F 1(m`'_J0_) + =, 12F) ((2 I1 ) +00 2 )F1 (2 ) =(: 믈 얻는다. 죽 행렬 H 는 상태 ®율 출발했을 때 2- 보 걸려서 재귀하게 되고, 1- 보만에 상태 @에 도달한다. 반면에 상대 ®를 출발했다면 1_ 보
만에 ®에 도달하게 되고, 2- 보만에 ®에 재귀하게 된다는 것을 의미한 다. § 5-7 Markov 연 쇄 의 분류 Markov 연쇄는 그 속성이 추이도식의 구조와 아주 깊은 관계를 가지 고있다. 따라서 이 철 에 서 는 추이 도식 (tra nsit ion dia g ra m) 의 구조에 의 하여 MC 를분류하기로한다. i) MC 의 성분: 추이도식이라는 것은 a) 만일 P.-i> o 이면, i -+ . j로 쓴다. b) 만일 P,.j= 0 이면, i 구니로 표시한다. 등과 같이 2 가지 약속에 의하여 표시된 다이아그램을 지칭한다. 정의 s-12 MC X( t)에 대하여 그 m- 보 추이확률이 양일 때 Pu(m)>o, m~o 가 성립할 때, 상태 i로부터 m- 보 후 상태 j 에 도달가능 (access i ble) 하다고 한다. 그리고 이런 경우 i--+ j 와 같이 나타낸다. 정의 5-13 MC X( t)에 대하여 2 개의 상대들 i,j ES 가 서로 도달 가능할 때, 상태 i와 j는 상호도달가능 (c J mmun i ca t e) 하다고 한다. 그리고 이런 경우 i-j 와 같이 나타낸다.
정리 5-7 Markov 연쇄 X( t)의 상대들 사이에 성립하는 상호도달가 능성은 동치율 (e q u i valence rela ti ons) 을 만족한다. 죽 모든 상태들은 동 치 류 (e q u i valence class) 로 유별된다. 증명 이 제 동치 울울 증명 하기 위 하여 서 는 반사율 (re fl ex i ve law), 대 칭 물 (s y mme t r i c law) 그리 고 추이 율 둥이 성 립 하는 것 을 보이 면 된다. 그런데, 대칭률은 상호도달가능의 정의에 의하여 성립하는 것이 분명 하므로 나머지 2 가지 조건들이 성립하는 것을 보이면 된다. 만일 MC X( t)의 임의의 3 상대 납 ,kES 에 대하여 i+- +k 이 고, 또 k+-+j 이라고 하면 적당한 정수 m,n~O 이 촌재하여 P;1i( m)>o 그리고 P1 ij( n)>O 이 성립한다. 분만 아니 라, Chap rn an-Kolrnog o rov 의 방정 식 에 의 하여 P;i( m+n) =.6oo P ir (m )Pr;(n) 족r =PUu (m) PkJ (n) > 0 이 성립하므로. i-j이다. 마찬가지로 정수 s, t ~o 가 존재하여 Pj. (s)>o 그리고 p,,,.(t)> o 이 성립하므로 PH (s+ t) = I。; P;r (s) P,,-(t ) ~Pr=1O1 t (s) P,,; (t) > o 이 성립하므로. j-i이다. 따라서 상태 i와 j에 대하여, i-j 이므로 추이울이 성립한다. 마지막으로 상태 i와 j가 상호도달가능하면 Po(n)>o 을 성립시키는
정수 n 측 0 이 촌재한다. 묵히, n=O 일 때 p,., ( O ) = {1 (i= j) (5-48) 0 (i~j) 라 두기로 하자. 그러면, 상태 i는 그 자신과 상호도달가능하므로 반사 울 t 4 1 울만족한다. 이제까지 설명한 바 있는 상호도달가능 관계는 동치울을 만족하므로 주어전 MC 의 상대공간 S 는 몇 개의 동치류로 유별된다. 정의 5-14 주어전 MC 의 상태공간을 S 라 하고, 그것의 동치류뮬 cI,C2, … ,Ck 라 하면, 이들 C; (i =l,2, … ,k) 를 S 의 재i-성분(t he i-th Com p onen t)이 라 부른다. 주어진 MC 의 동일한 성분에 속하는 상태들은 상호도달가능하다. 그리고 주어전 MC X( t)의 성분을 C1,C2, … ,Ck 라 하면 S=Cc1jUn C c 2jU= · f·2·5 U(Ci=ks;==rjI=) k :l C, 인 형으로분할된다. 그런데 , 성 분 C 의 내 부상태 iE C 가 ::::L 의 부상태 j6;:C 에 도달가능성 이 없을때, 죽 임의의 정수 m>o 에 대하여 Pu(m) =O iE C, j6;:C 이 면, 성 분 C 를 Ergo dic 성 분 또는 폐 쇄적 성 분 (closed comp o nent) 이 라 부 론다. Ergo d ic 성 분이 아닌 성 분들을 일시 적 성 분 (tra nsie n t comp o nent) 이 라고 한다. 예컨대, 흡수벼취보의 흡수벽은 하나의 상태로 이루어전 Er god i c 성분 이다.
정의 5-15 r.v. T;; 률 상태 i에서 출발해서 처음으로. i에 되돌아오 게 되는 시간을 나타내는 것이라 하자. 만일 P(Tu
` ``~ ~---C-3- ----- -.. ..
풀이 위 도식에서 상태공간 S 는 3 개의 성분 C1,C2,C3 로 분할된다. 그리고 C1 과 C2 는 Er g o di c 성분이고, C3 은 일시적 성분이다. 그리고, 상태 ©과 ®는 흡수상대들이다.
정의 5-16 Markov 연쇄에 있어서 상태 i가 정수 m=O,1,2, …에 대하여 P,.,·( m )=1 (5-51) 울 만족할 경우 i를 홉수상태라 하고, 또 Pu(O)=l, P;;(m)=O (5-52) 둥을 만족할 경우 i를 비복귀상태라 한다. 예제 5-17 주어전 Markov 연쇄의 추이확률행렬이 0 P q O O O 0 0 0 0 1 0 0 0 .f'=I 0I 00 00 01 00 00 00 0 s t O O O 0 0 0 0 O r O w 0 0 0 0 0 1 0 로 주어질 때, 상태공간 S= {I, 2, 3, 4, 5, 6, 7} 의 성분들을구하여라. 풀이 구하는 Markov 연쇄의 추이 도식은 다음과 같다.
-一 cI -l l l ````’`` ,I'/I//
그러 므로 Cl= {1, 2, 3, 4} 는 Ergo d ic 성 분이 고, C2= {5} , C3= {6, 7} 은 일시적 성분이며, 상태 ®는 비복귀상태이다. ii) MC 의 주기 주어전 MC 의 상태 i와 j가 동일한 성분 C(ES) 에 속하는 것들이라 면, i와 j는 서로 도달가능하므로 P;1(m)>o 인 양의 정수 m(>o) 가 촌재한다. 그리고 동일한 성분 C 에 속하는 상태 i,j에 대하여 M(i, j) = {m !P ;; (m) > O} 라 두기로 하자. 특히, i=j 일 때 M(i, i)= M(i) = {m!Pjj (m )>O } 으로 나타내 주자. 그런데, 위 (5-48) 식에서 Pi i(O )=l 이라 두기로 하였으므로, 정수 0 은 반드시 M(i) 에 속하게 되 며 M(i, j) 에는 속하지 않는다. 이제 집합 M( i)에 속하는모든 정수들의 최대공약수 (G.C.M.) 을 d(i) 라하자. 그러면 P jj (m)>o 를만족시키는정수 m 은 d( i)의 배수가된다. 정의 5-17 위 최대공약수 d( i)를 주어진 MC 의 상태 i 의 주기 (p e ri od) 라고 한다. 특히, d(t) = I 일 때, 상태 i는 비주기적 (a p er i od i c) 이라고 한다. 또 M(i) = {O} 일 경우 d (i )=oo 타 규정하고, 상태 i를 비복귀적이 라고한다. 예컨대, 예제 5-17 의 경우 d(I) =d(2) =d(3) =d(4) =3 이므로 상태 CD,®,@ 의 주기는 3 이고, d(5)=oo 이므로 상태 ®는 비 복귀적이다. 또, 예제 5- 16 에서 상태 ©과 ®는 d(O)=d(5)=1 이므로 상태 ©과 ®는 비주기저이다.
한편 동일한 성분에 속하는 상태들은 모두 주기가 같다. 정리 5-8 만일 i와 j가 상호도달가능하면 d(i) = d(j ) (5-53) 이다. 종명 이 제 1.= s;=j 인 경 우로 가정 하자. 그러면, 2 개의 정수 l,m 이 존재하여 P,-;(l) > o, Pj ; (m) 등을 만족한다. 따라서 P.-; (l+ m) ;?;P;1 (l) P1; (m) > o pij (l+ m) 느 P j; (m) Pu (l) > 0 이고, 또 (l+ m) EM( i) , (l+ m) 텍(j) 이므로 M( i)와 M (j)는 0 이 아닌 양의 정수를 원소로 가진다. 그러므로 Pa(s)>o 를 만족하는 하나의 양의 정수 s 를 취하면 P11 (m+ s+ l) ~P;;(m) P;.-(s) P0 (l) > o Pi i(m +2s+l);?;P1,·(m ) {P;;(s)} 2Pii (l)> O 따라서 (m+s+l), (m+2s+l)EM( j) 이다. 그러므로 d( j)는 (m+s+l) 과 (m+2s+l) 의 공약수이고 또 이들의 차 (m+ Zs+ l) - (m+ s+ l) =s 의 약수가 된다. 한편 s 는 M( i)에 속하는 임의의 자연수이므로 d (j)는 M( i)에 속하 는 정 수의 공약수가 된다.
한편 d( t)는 M( i)에 속하는 정수의 최대공약수이므로 d(t) ~ d(j ) (a) 마찬가지로 i와 j를 바꾸어 생각하면 d( j)~ d(t) (b) 이 성립한다. 그러므로 (a) 와 (b) 에 의하여 (5-51) 식을 얻는다. 國 정의 5-18 주기 가 1 인 성분을 비주기적 성분 (a p er i od i c com p onen t)이 라 하고, 특히 주기 가 1 인 Ergo dic 성 분을 정 칙 성 분 (reg ul ar comp o n- en t)이라고 한다. 예컨대, 예제 5-16 에서 상태 ©와 ®는 비주기적 성분들이다. iii) MC 의 R 2~J -태 MC, § 5-6 의 표 5-1 에서 i) 형 의 (p=q= O) 경우와 같이 성 분 C1 과 C2 로부터 서로 도달이 불가능할 경우 S=C1UC2, C1nC2=0 S= {1, 2) C1= {I) • C2= {2) 주어전 MC 는 서로 다론 2 개의 연쇄로 나눠 고찰할 수 있다. 이런 겅 우 주어진 MC 를 비기약 MC (reduc ibl e Markov cha i n) 라고 한다. 그렇지 않을 경우, 기약적 MC(ir re duc ibl e Markov cha i n) 이라고 부른다. a) 성분이 1 개로 된 MC 의 경우 이 경우는 엘고딕 Markov 연쇄라 부르고, 이것은 다시 비주기적인 경 우인 정칙적 MC 와 주기적인 경우로 크게 분류한다. 예 컨대 , 2- 상태 MC 에 서 vi) , vii ) , vii i) 은 전자의 유형 에 속하고, ix) 는 후자의 유형 에 속한다. b) 성분이 2 개 이상인 MC 의 경우 첫째 모든 성분이 홍수상태인 경우, 둘째 모든 성분이 정칙인 경우, 그리고 셋째로 주기적인 성분을 가질 경우 등으로 분류된다.
예컨대, 2- 상태 MC 에서 (II), (Ill), (N) 및 (V) 둥의 경우는 첫째, 둘째 유형에 속하고 예제 5-7 은 셋째 유형에 속한다. § 5-8 Ergo dic Markov 연 쇄 앞서도 언급하였지만 비기~ Markov 연쇄는 2 개 이상의 독립인 기약 MC 로 이루어지며 별개로 고찰할 수 있으므로, 결국은 기약 MC 의 구조를 고찰하면 된다. 이 철에서는 엘고딕 Markov 연쇄 즉, 성분이 오직 1 개로 구성된 Markov 연쇄 에 대 하여 고찰하기 로 하겠다. 그리고, 이 경우에도 바주기적인 경우인 정칙 MC 에 대하여 논술하 여 보겠다. 정칙 MC 라는 것은 비주기적인, 죽 주기 d=I 인, Ergo dic MC 를 의 미한다. 정리 5-9 확률행렬 P 가 정칙 MC 의 추이확률행렬이 되기 위한 완 전조건은, 적당한 자연수 N 에 대하여 pH >O (5-54) 이 성립하는 것이다. 증명 i) 충분조건의 증명 : 상태 iE S 의 주기 d= 1 이 므로 M(i) , M(i, 1) 는 모두 일정치보다 큰 자연수들을 그들의 요소로 가진다. 상태공간 S 가 유한집합이므로 집합 M( i)와 M(i, j) 역시 유한집합이 된다. 따라서, 적당한 자연수 N 에 대하여 Q= {mlm~N, m= 자연수} 가 M( i)와 M (i,j)에 포함되겠끔 할 수 있다. 그러면 위 자연수 m 에 대하여 P;;(m)>o (a)
이 성립한다. 따라서 (a) 를 추이행렬로 나타내 주면 자연수 m~N,mE Q에 대하여 P'>o (b) 를얻는다. ii) 필요조건의 증명 : 역으로 P ij (m)>o 라 가정하자. 그러면 P에 대응하는 Markov 연쇄는 칭척 MC 이다. 왜냐하면, 첫째로 d(i) ~ 1 이라 하자. 그러면 M( i)는 d( i)의 배수들만을 원소로 가지므로 m 가 d( i)의 배수 가 아니면 Pi i(m )=O 이 어 야 하므로. 가정 에 모순된다. 만일 일시상태 j를 품는다면 재귀상태 i에서 j로 도달할 수 없으므 로 P;i( m)=O 이어서 역시 가정에 모순된다. 끝으로 적당한 자연수 N 를 취하면 pN +l>O 임을 보이자. 만일 PN>o 이라면 p.pN =PN+ l 이다. 따라서 Pu(N+ l) = k~=”L P ;aP,,i ( N) 이고, p ‘w 에 대하여 E” Pi/r= 1, p,*~ o k=1 가 성립하며 이들 F“ 중에는 적어도 하나는 0 이 아닌 것이 존재한다. 이것을 P,'I 이라 하면 P;j( N+ I) 6p ,., P , J( N )>o 이 성립하므로
pN +1>o 이다. 마찬가지 과정을 거치면 pN +2>Q , pN +3>Q 등이 얻어지므로 (b) 가 성립한다. EJ 다음 정칙 MC 의 추이확률행렬 P 에 대하여 lmi-m·0 P' 를 구하여 보기로 하고, 또 §5-4 의 (5-24) 식에서 언급한 바 있는 부동 벡터에 대하여 구체적으로 논술하여 보기로 하자. § 5-6 2- 상태 보MC ,\ (15-4 2广) 석+ 에 q의 〔하면〔 임을 알 수 있다 . 일반적으로 다음 정리가 성립한다. 정리 5-10 칭칙유한 Markov 연쇄의 추이확률행렬을 P 라 하면 (a) m-+00 일 때, p m 은 확률행렬 A 에 수령한다. (b) A 의 각 행은 동일한 확률 벡터이고, A 의 원소들은 모두 양 수들이다. 증명 i) 증명의 준비 : 2 개의 연-벡터를 fT = (x1, x2, …, Xn) 군= (Y1, Y2, …, Yn) 라하면
Pf =7J[ : ::2: 2l: l [: : l=[ :y: ] 죽 p,.l x l+ Pi2 X2+ …+ P;nXn=Y; (a) (i= I, 2, …, n) e 의 최대의 성분을 M1, 최소의 성분을 ml 이라 하면 ml 독y ;~Ml 이고, 다시 P2e=Prj =( (여 기 서 , f;T = (Z1, Z2, …Z ) 이 다. ) 라하면 P;1Y1+ P 다 '2+ …+ P;nYn=Z; (b) (i= I, 2, …, n) 이제 7J의 최대의 성분을 M2, 최소의 성분을 m2 라 하면 ml 독 m2 독 Z,· 학髮 Ml (c) 한편, P 의 원소가 모두 양수라고 하고 그 원소들 중 최소인 것을 e 이라 하자. 그리고, e 이 들어 있는 P 의 행을 제 i행이타 하면 o
그리고 e 는 P 의 최소의 원소이므로 c 독 s 즉 1 이 성립한다. 다른 한편, (a) 식의 좌변의 x, · 둘 중에서 Ml 과 감은 것은 그냥 두고 그 외의 x; 들을 ml 으로 바꿔넣어 주면 다음 부등식이 성립한다. uM1+ (1 -u)m 홉 (e) (e 독 U 독 1) 그러므로, (cl)와 (e) 식 에서 uM1+ (1- µ)m1~Y;~sm1+ (l-s)M1 를 얻게 되고, 또 y;(i= I, 2, …, n) 의 최 대원과 최소원을 각각 M2, m2 라 하면 µM1+ (l-µ)m1 학 m2 학 M2~sm 급 (1-s)M1 (f) 를얻는다. (f)식의 양변을 변형하면 µMi + (l-µ)m=m1+u(M1-mv ~m1+e(M1-m1), sm1+ (1 一 s)M1=M1-s(M1-m1) ~M1-e(M1-m1) 둥을얻는다 . . •• m1+e(M1 一 m1)~m2 획 4 학 M1 루 (M1-m1) (g) 이제, 열 -Vec t or p 1(m) 의 최대원을 ai ( m), 최소원을 {!J (m) 이라 하면 (c) 식에서 f!.i (m) ~qi (m+ l) ~a, (m+ l) ~ai ( m) (h) 를얻는다. 죽 m--+oo 일 때, gj (O) 족gj (1) 독므j (2) 족· • • 독 a j (2) 족 a j (1) ~a; (O) (i) 이 성립함을 알 수 있고 수열 {~1(m) ｝는 단조중가열이고, {a j (m) ｝는 단
조감소열이며 각각 유계 (bounded) 이므로 동일한 양의 극한치에 수령한 다. 그러면, 이제부터 수열 (f! ;(m) ｝과 {aI(m) ｝의 극한치가 서로 일치한 다는 것을 보이자. P 의 최소원을 e>O 이라 하면, (h) 식에서 ii;(m + I)- 므 j (m+ 1)~(I-2e) (a1(m) 一gj (m)) O~(I-2e)
lij (2) -!!i (2) ~ (l-2e) (iii (l) _q_i (l) ) = (1 一 2e) 2 일반적으로, 0 득 a j (m)- 으i (m) ~(I 一 2c)m (l) 가 성립한다. 그런데, O~l-2e
0 득 a j (l:N) _g)( k N) 三 (l_2e’)k (O~ l -2e'< l ) (n) 따라서, 단조연 {a1 (m )}, {므j (m)} 는 동일한 국한치에 수령하는 부 분 렬 {aJ (kN ) J, {aJ (kN J 물 가지므로 각각 동일한 국한치 a) 에 수림하게 된다. 曰 다음 P 1!1의 극한으로 얻어지는 확률행렬 A 의 성질에 대하여 고찰해 보기로 하자. 硏= (a1, a2, …, an) 라 두고, o 는 확률벡터이고 정리 5-10 의 (b) 항의 A 의 한 행 vecto r 라 하자. 정리 5-11 정칙 Markov 연쇄의 추이행렬을 P 라 하면, a) 임의의 확률벡터 r 에 대하여 lim 갑 “=rrA= (J) m-m b) 임의의 확률행렬 T 에 대하여, TA 의 각 행은 어느 것이나 (J)와 같아진다. c) PA=AP=A, A2 = A d) (J)는 eP=e 를 만족하는 유일한 확률벡터이다. 증명 i) a) 의 증명 : lim 값P'=1rA 임은 분명하다. 그러므로, tr= (q,-）라 두면 '-~ rrA= (qi, qz, …%) (a:l … a:j … ?”) a1 ... aj ••• an 이고, 이 벡터의 j-성분은 qla j+ q2a i+ • •· + qna j = (ql +q 2 +···+q n )aj =a1 (°: q1 +q z+ .. •+q,. =I)
이고, 따라서 1rA =w 이다. ii) b) 의 증명 : T 의 제 ｝을 T i라 하면, TA•·• = T ,(cq는5.3. \. )I 확.뮴A ' =벡 f터Tzm더T …1이 AAA `_=로 ` , 'w이 :w연 p `·에 ,_^.- 、’/ 를얻는다. iii) C) 의 증명 : 다음 식들의 극한으로 결과들을 얻는다. P·P'=P ... P=P .. +l· P•·P'=P2n iv) d) 의 증명 : eP=e 를 만족하는 임의의 혹나 rvec t or 를 a 라 하면 aP=a, :. aP'= a 이고, m->oo 이면 a) 에서 lira aP=aA=w 혈,- ... . •. a=w 이다. 曰 § 5-9 흡수 Markov 연쇄 Ergo d ic 성분을 가지는 MC 에 서 재귀상태 들이 모두 흡수상태 들인 MC 를 흡수 Markov 연쇄 (absorb i n g markov cha i n) 라 한다. 이 철에서는 이 흡수 Markov 연쇄에 대하여 고찰하여 보기로 하겠다. 예재 5~18 주어전 MC X( t)의 추이행렬이
e@l®oo®o p® ooooqpoooo op 1 e@@@® p = qo oqo oo 、 일 때, 상태를 분류하라. 풀이 주어전 MC 의 P 를 다음e과)1® 같.0.o이.@. .1 다®o시0o®o 0쓴.ooo다po.p ?ou e®=@@:•: @ p ·· qo·· oI · :.. ·. ..· .. q..··. . o · . . · · qo . q 또 위 MC 의 추이도식은 다음과 같다.
--_-g---「q--- -----------노--:g----「;-- ----재-－귀일국상-태J- 태一
C1= {l} , C2= {5} 는 Ergo d ic 성 분으로 흡수상태 여 )들이 고, C3= {2, 3,4} 는 일시적 성분이다. 그러 므로, 주어 전 MC 는 흡수 Markov 연쇄 이 다. 위 예제에서와 같이 주어진 MC 의 추이행렬 P 의 행과 열의 순서를 적 당히 바꿔 서 그 표준형 (canonic a l fo rm) 을 만들어 보면 아주 편리 하다.
일반적으로 C 가 Er god ic성분( 폐집합 )일 때 상태들의 순위를 적당히 바꾸어 배열하면 다음과 같은 표준형을 구할 수 있다. P=(··i . .. :. .. n: :. 『_, (5-55) 여기서, P=nxn- 정방행렬 C=sxs- 정방행렬 O=sx (n-s) －영 행 렬 Q= (n-s) x (n-s) －정 방행 렬 득히 C=I (단위행 렬)일 때, 죽 P=(··iI· · ·i: ... i0· ·) (5-56) 일 때 주어전 MC 는 흡수 Markov 연쇄인 것이다. 보조정리 5-1 만일 A” 이 영행렬 0 에 수령한다면, 행렬(I -A) 는 역 행렬울 가진다. 즉(,l - A)-1=I+A+A 나 …= kg Ak (5-57) 이다. 증명 항등식 (I-A) • (I+ A+A 나… +An 크 )=I-An 에 의하여 (I-A ) (J-A )-1=li m ( J- A) • (I +A+A2+ … +A 크) n-·' =I-i·m .. ( I-A n) =I 정리 5-12 (기본행렬) 흡수 Markov 연쇄에 대하여, 행렬 (I_ Q)는 역행렬을 가진다. 또 (I- Q )-1=I+ Q+Q모··=.참간 (5-58) 와같이 쑬수 있다.
증명 흡수 Markov 연쇄의 추 리행렬 P 를 적절히 변환하면 (5-56) 식 올얻는다. 죽 P 의 표준형 J : 0 P=(··R····;·· •Q• •• ) 로 고칠 수 있다. 그리고 또 제 2 단계추이행렬을 p <2) 라 하면 p c2 J =P·P=( 紅I d 요 .::• •••0: 을얻는다. 일반적으로 제 n 단계추이행렬 P(n) 는 다음과 같이 쓸 수 있다. p(n )=P(n-1 ) .P= (…RI… +… (Q…+…Q…z +…… …+…Q…• - …l)R… …:: …Q0… ) 그런데 , p en) 의 모든 행 의 합이 1 이 므로 n->oo 일 때 Q” 의 원소들은 모두 0 에 수령한다. 죽 Q”는 영 행 렬 (zero matr i x ) 에 수령 한다. 그러 므로 보조정 리 5-1 에 의 하여 (I_Q ) 의 역 행 렬 (I-Q )-1 가 촌재 하고, 이것을 (5-57) 식과 같이 쑬 수 있다 . 정의 5-19 위 흡수 Markov 연쇄에 대하여, 행렬 N=( l-Q) -1 (5-59) 를 기 본행 렬 (fun damenta l matr i x ) 이 라 한다. 이제 T 를 일시적 상태들의 집합이라 하자 . 그리고 m 를 상태 j에 도 달하게 되는 총 회수를 주는 함수이고, 따를 상태 i에서 k- 보 후 상태 j에 머물러 있으면 1, 그렇지 않으면 0 을 택하게 되는 확률변수 (r,v) 이라하자. 그러면 이제부터 기본행렬 N 이 가지는 확물론적 의미를 생각해 보 기로 하겠다. 정리 5-13 만일, 상태 i, j ET 이면
(M;[n;])=N (5-60) 이다. 증명 nj= E1o1o= 0 t서 임은 쉽게 알 수 있다. 그러므로 (Mi [ n;]) = {M ; [ 홉~ ul]} ={ EoM;[ulJ } = {to ((1 -P;~ k> ) ·O+P;1'· 1) k=O =EJ,c=o 0 {P i伊} =I; Qk k= O =N 즉 위 정리에서 하나의 주어전 일시적 상대 j에 도달하는 총회수의 평군치는 유한회이고, 또 그들 평군치들은 기본행렬 N 에서 구해진다는 것을말해 준다. 예제 5-19 예제 5-18 에서 N 를 구하여라. 풀이••• : NI=- Q(I- = Q( )--il = :三 -:) ; :+p2 ) p+q2 p p2 이고, 또 행렬 (M;[nj] 2) =N,q 라두고 (M詞 ]) =N(2N41-l). 이 성립하는 것만 보이면 된다.
이 제 M; [n i]
증명 v, [n 』 =M,·[n ;] - M, [伊 因 예제 5-20 예제 5-18 에서, P=j , q=½ 일 때, 분산행렬 N2= ( Vi[n i] ) 을 계산하여라 . 풀이 예제 5-19 에 의하면 7 6 4 百百百 N= (/-Q) -1=1 으5 으5 으5 1 3 7 멍멍了 이고, 또 아므로 칭리N 5d-z1=4I 에꿉00 의웅00하 t여00 |' Ns q = 2—4591__2255 2―29롱브 59 5 2―924 붑브 55
(V;[n ;]) =N2=N(2Ndz-l)-N,q 궁[\::::〔 l 위 예 제 5-20 에 의 하면 중앙상태 들이 가장 큰 분산 (var i ance) 들을 가 진다. 그리고, 대체적으로 분산들이 아주 크므로 기본행렬 N 로얻어지 는 평군치들로 주어전 Markov 연쇄를 추정하면 그 신뢰성이 아주 낮아 진다는 것을보여준다.연습문재 1. 입자(p ar ti cle) 가 신수칙선 상에서 단위시접마다 확문 P 로 양의 방향(우측 방향)으로 한 걸음, 확률 q 로 음의 방향(좌측방향)으로 각각 1- 보씩 옮겨 가고, 또 확뮴 1- p-q =r 로 재자리에 머무르게 된다고 하자. 만일, 초기위치률 0( 원점)이었다면 n- 보진행 후 입자의 위치 Zn 의 p.g.f. -춘 구하여 라. 그리 고, 이 분포의 평 군과 분산을 구하여 라. 또 G*(s, t)= Ic;o Gn(s)t' = s/{-ps 2 t + s(I-tr )-tq) n=O 임을 보여타. 2. 다음 추이확물행렬을 가지는 Markov 연쇄의 상태를 기약류로 분해하고, 각 각의 성분이 일시적, 재귀적, 비재귀인가 름 조사하여라. a) Po2=l, Pu=l, P1,1-1=P1, 1+ 1 권 (£=2, 3 ... ) P,§.j= 0。 (}그 밖。 의 경 우) b)I 。 양1 021 尸 § 。 。 ?1 。 ?1 21 21 0000 강1 21 0 0 0 0 c)Ioo 상강 00 00 승강 00 1 1 1 1 1 1 검 FFFF 검 1 1 1 1 1 1 官 F66- TF 3. （핵연쇄반응) 중성자의 집단에 있어서 한 중성자는 다른 입자와의 충돌에 의하여 분열하여 일정수 m 개의 중성자로 되고, 이때 방대한 ener gy를 방출한 다. 입자의 흐름이 정상적일 경우 각 중성자가 짧은 단위시간에 독립져으로 충둔 하게 될 확룹을 0 라 하자. 최초에 중성자의 수를 i o 라 한 때, 제 n 시정에 있어서의 중성자의 개수는 Markov 연쇄가 되는 것올 보여라. 또 :::z. 추이확물행렬을 구하여라.
참고문현 1) 西田俊夫 著 『應用確率 論 』 培獨館 (19 71. 일본) p. 62. 2) Coleman, Sto c hasti c P rocesses, George Allen 40 Nwi n, (Lo ndon, 1974) pp.1 ~5. 3) 渡部陸一 著, ? JI, :::r 7 子 :z. 一 `./ 數學 onepo in t 斐 합 (31) 共立 (1979, 일 본) p. l, pp. 29~32, pp. 42~49, pp. 57~71, pp. 73~89, pp. 90~97. 4) Kemeny Snell, Fi ni t e Markoo Chain , Van Nostr a nd (1963, USA) pp. 69 ~72. 5) 具滋興 「醉步와 그 解析에 관한 연구」, 『인하대 기초과학연구소 논문집』 (제 2 집 , 1981), pp. 21~25.
제 6 장 불연속 Markov 과정 제 5 장에서는 Markov 과정들 중에서 매개변수공간과 상태공간이 모 두 이산형인 Markov 연쇄에 대하여 주로 설명하였다. 이제부터는 매개변수공간이 연속형이고 상태공간은 이산형을 가지는 Markov 과정 인 불연속 Markov 과정 (Markov pro cess in conti nu ous time wi th dis c rete sta t e s p ace) 에 관하여 주로 언급하기 하겠다. §6-1 기초개념 지금부터 시간적으로 정상 (s t a ti onar y)인 추이확률 Po(t) =Pr {X(-r+ t) =j I X(-r) =i} (6-1) (i, jE S ; t, -rE [0, o o)) 를 가지는 불연속 Markov 과정을 {X(t) ; t탁 0, oo) } 또는 간단히 X( t)로 쓰기 로 하자. 그러면 추이확물행렬 P(t) =( Pu (t) ) (i, jE S)
에 관하여 다음 각항에 성립한다. i) 임의의 t ET 에 대하여 pjj(t)~ O, I; Pu(t) = l je S 이 성립한다. 즉 행렬 P( t)는 확률행렬 (s t ochas ti c ma tri x) 이다. ii) 추이 확률 P,At ) 에 대 하여 p,.,· ( t ) --> 1 (t--. o) 이고, 따라서 ( i )에 의하면 Pu(t)- -.o (t--. o, i-:/=-j) 이 성립한다(연속조건)． 죽 추이행렬 P( t)에 대하여 P(t)- -.I (t--. o) 이 성립한다. iii) Chap m an-Kolmog o rov 방정 식 이 성 립 한다. 죽 P(u+v)=P(u)P(v) (6-2) (u, vE[ 0, o o)) 가 성립하고, 상대공간 S 가유한집합이면방정식 (6-2) 의 유일 해 (un iq ue solu ti on) 는 P(u)=e•0=i;; :;a _in쁘!간 二 (6-3) 이다. 이때 Q는 하나의 행렬이며, Q가 주어지면 P( t)가 정해지고, 또 P( t)가 주어져 있으면 Q가 칭해진다. 그러 므로, Q 를 이 과정 의 표현 (rep re senta t i on ) 이 라고도 한다. 그런데 (6-3) 식 에 서 t-. o 일 때 P(t) =l+tQ + O(t2 ) (6-4) 로 쓸 수 있다. 죽 이 과정의 추이확률을 pjj (t) =8 jj + tq,.j+ O (t2) (6-5) 라고 쓸 수 있다.
그라므로 (6-5) 식과 (ii)에서 o ii =P; i (O) 인 것윤 고려하면 q,.j== Pl tii=m i o ( O )p ,i(t)t 一9.!L=-d4t- (Pii (t)} (6-6) 울얻는다. 한편 A( t);t-. c (t --o) 일 때, A(t) ~ Ct (t一 0) 이므로 浜j 에 대하여 P;1(t) ~q,·j t (t-- o) 로 된다. 죽 q;jt는 아주 짧은 시간 t 사이에 상태 i에서 상태 j로의 접프가 일어날 확률이다. 그리고 q,j는 i에서 j로의 추이율(r a t e of tra nsit ion ), Q 는 추이율행렬 (ma t r i x of tra nsit ion ra t es) 이다. 정의 6-1 만일 상태 i에 관하여 (i) O~q ;< oo 이 면, i 를 안정점 (sta b le poi n t ) , (ii) q;= oo 이 면, t’ 를 순간접 (ins ta n ta n eous poi n t ) , (iii) q;= O 이 면 , i 를 홀수접 (absorbin g po in t ) 라부른다. 한편 (6-3) 식에서 P( t)와 Q 사이에 성립하는 다음 미분방정식 꿉 P( t)=Q P( t) (6-7) 울 Kolmog o rov 의 후향방정식 (Kolmog o rov's backward eq u ati on ) 이 라 한다. 그리고 (6-7) 식 을 추이 확률로 쓰면 P i; (t) =I : q;k Pk; (t) (6-8) AES 이며, (6-7) 식과 (6-8) 식은 항시 성립한다. 이에 대하여 미분방정식 곱 P( t) =P(t) Q (6-9) 를 Kolmog o rov 의 전향방정식 (kolmog o rov's for ward e q ua ti on) 이라 부르는 데 이것은 항시 성립하는 것은 아니다.
그러면 Kolmog o rov 전향방정식의 보기를 위하여, §6-4 에서 설명하 게 될 출생 • 사털과정의 가설을 먼저 살펴보고, 추이윤행렬 Q를 구해 보기로 하자. 출생 ·사멀과정 X( t)에서 X( t)=i일 때, X (t +h)= i +I 로 상태가 1 만큼 증가하게 될 확률이 Mz+o( lz), X( t+ h)=i- I 로 상태가 1 만큼 감 소하게 될 확률이 µ;h+o(h), X( t +h)= i로 상태가 그대로 일 확률을 1-(;!;+ µ ,-)h+o(h), 그 밖의 경우의 확률 o(h) 라 한다. 이 과정의 상태공간은 S={O,I,2, …｝이고, 추이확률행렬이 P {X(t+ h) =j I X(t) =iJ = {사::다; ·0‘('h\),° (:j:=>i+ 1l)) ( j= t) o(h), （그 밖의 겅 우) 로 주어지므로 구하려는 추이울행렬 Q는 다음과 같다. 。 ® @) ® @) 。 -~。 i。 。 。 0 ••• ® µl -µ1-l1 A 。 0 ••• ® 。 µ2 -µ2-12 12 0 ••• Q=® 。 。 µ3 -µ3-A3 A3 또 Kolmog o rov 의 후향방정 식 (6-7) 의 초기 조건은 P(O)=(Pii (o ))=I (단위행렬) 로 주어 지고, 또 그 해 (solu ti on) 는 P(t)= e01 이다. 특히 X( t)가 정상인 추이확률을 가질 경우 전향방정식과 그 해 가 일치한다. 정의 6-2 확률과정 X(t,w ), t ET=(-oo,oo) 에 대하여 m(t)= E{X(t)J
V(t, s) =E{(X(t) - m(t)) (X(s)-m(s))} P,.,,., -, ,.(E)=P{wlX(ti) , … X( t n)E 택 라 두자. 이때 모든 t ,s,hET 에 대하여 m (t+ h) = m (() ; V(t+ h, s+ h) = v (t, s) (6-10 ) 이 성립할 때, SP X(t, w) 를 약정상과정 (weakl y sta t i on ary p rocess) 라 한다 . 정의 6-2 에 의하면 m( t )=m( 상수)이고, v( t ,s) 는 (t -s) 의 함수가 된다. 정의 6-3 모든 n 과 {t;} 에 대 하여 Pi ,+ h, -, 1,,+h(wEE)=P,1, ~' tn (WEE ) (6-11) 이 성 립 할 때 , 확률과정 • X(t, w) 를 강정 상과정 (str o ng sta t i on ary pro - cess) 이라 한다. § 6-2 Pois s on 과정 시간에 따라서 걸려오는 전화의 호출수, 써비스창구에 도착하는 고객 수, 염 색 체 의 분열현상 등을· 나타내 는 확률과정 X(t, w) 를 불연속 Markov 과정 또는 계수파정 (coun ti n g p rocess) 라고 부른다. 그리고, 이 계수과정들중 가장 기본이 되는 과정이 Po i sson 과정이다. 그러면 다음 가정하에서 Po i sson 과정을 고찰하여 보기로 하자. Pois s on 과정 의 가정 구간 [O,t) 사이에 주어전 사건이 발생한 회수 k 에 관계없이 구간 [t,t十 h) 사이에 꼭 1 회 주어전 사건이 발생하게 될 확률을 .:lh +o(h) 이라 하고, 또 2 회 이상 발생하게 될 확률을 o(h) 라고 가정한다. 죽, F,. (X(t+ h) -X(t) = I IX (t) =k} = .:lh + o(h)
P, {X(t+ lz)-X(t) ~ 21X(t) =k} =o(/z) (6-12) 라 가정한다. 한편 위 (6-12) 식들의 가정에서 구간 (t,t+ h) (h>O) 사이에 주어진 사건이 한 번도 발생하게 되지 않을 확률은 P, {X(t+ h)-X(t) =O IX(t) =lz} =1-ih +o(h) (6-13) 로 쓸 수 있다. 이제 시각 t에 있어서 상태가 n 일 확률를 P,.(t) = P{X(t)= n} (6-14) 라 쓰기로 하면, 구간 [o, t + h)사 이에 주어전 사상이 n 회 일어나게 될 경우를 구간 [O, t)와 [t,t +h) 로 나누어 고찰하면 다음과 같다. a) 주어진 사상이 구간 [O,t) 사이에 n 회 일어나게 되고, 구간 [t, t+ h) 사이에는 한번도 일어나지 않는다. b) 주어전 사상이 구간 [O,t) 사이에 (n-1) 회 발생하고, 구간 [t, t+ h) 사이에 1 회 발생한다. c) 주어전 사상이 구간 [0,t) 사이에 (n-k) 회 발생하고, 구간 [t, t+ h) 사이 에 k 회 (k~2) 발생 하게 된다. 위 3 가지 경 우들은 서 로 배 반적 (mutu a lly exclusiv e ) 한 경 우들 이 어 서 a),b),c) 중 어느 한 경우는 반드시 발생하게 된다. 또 이들 3 가지 경 우에 대 한 추이 확물들은 앞서 언급한 Pois s on 과정 의 가정 에 의 하여 다 음과 같이 쑬 수 있다. P {X(t+ h) 一 X( t) = OI X(t) = nJ = I 크 h+ o (h) P{X(t+ h)-X(t) = I I X(t) =n-1} =lh+o (h) P{X(t+ h)-X(t) = klX(t) =n-k} =o(h) 따라서 전P확n(률t+ 정 h리) =에P n의(t)하 (면I— lh) +Pn-i(t )..:lh+ o(h) (6-15) 인 관계식이 성립한다. i) n=O 일 경우 : 조건 b) 와 c) 가 성립할 수 없으므로 (6-6) 식은 P0(t+ h) =P 。(t) (I-..:lh ) +o(h)
이므로 미분방정식 P~(t) =- 갔김(t) (6-16) 을얻는다. ii) n 족 1 일 경우 : 위 (6-15) 식으로부터 미분 • 정차방정식 P; (t) = 一 AP. (t) + AP._1 (t) (6-17) 을얻는다. 미분방정식 (6-16) 식을 풀면 그 일반해 P0 (t) =C e_ 』 1 (6-18) 를얻는다. 그런데 시접 0 에서 상태는 ©이므로 초기조건(i n iti al cond iti on) 은 p。 (0)=1 이냐 따라서 임의상수 C=I 이 되므로 독수해 P0(t) =e-A' (t~O ) (6-19) 울얻는다. 다음 n=l 인 경우 (6-17) 식과 (6-19) 식에서 1 계선형미분방정석 P; (t) = -JP1 (t) + JP,。 (t) P; (t) = -lP1 (t) + le-.1 1 (6-20) 을얻는다. 그러므로 위 미분방정식의 일반해 P1( t )=l t e 크 '+Ce 귁 를 얻는다. 그런데, 초기조건 P1(0)=0 를 고려하면 C=O 이 되어 특수해 P1(t) =Jte-2 1 (6-21) 를얻는다. 마찬가지로, n=3 인 경우 (6-7) 식과 (6-12) 식에서 P2( t)에 관한 1 계 선형미분방정식
P; (t) = 一 lP2 (t) + 12 te크 1 (6-22) 을 얻게 되고, 이것을 풀면 그 일반해 P2 (t) = 갑 Ot) 2e-ll + ce-ll 를 얻는다. 그리고 초기조건 P2(0)=0 에 의하면 C=O 가 얻어지므로 구 하는독수해 P2 (t) = 갑 (At) Ze-ll (6-23) 끝으로 n=k 一 1 일 경우 P•-1(t) =~O t) *-1e 구 1 가 성립한다고 가정하자. 그러면 (6-7) 식에서 P;(t)= -AP•(t)+ .:i~ e-21 (6-24) 이 얻어지므로, 이것을 풀면 그 일반해 P.(t) =뭉끄 e-21+Ce -21 (6-25) 을 얻는다. 또 초기조건 P.(O)=O 를 이용하면 구하는 특수해 Pk( t)＝사 O t) .. e 크’ (k=O, 1, 2, …) (6-26) 울 얻게 된다. 그러 므로 수학적 귀 납법 에 의 하여 Pois s on 과정 의 확률분포를 구하였 다. 특히 t= 1 일 때 보통 접하는 Pois s on 분포의 확률밀도함수(p .d .f.) 를 얻게 된다. 그런데 Po i sson 과정에 있어서 X(u+ t )-X(u) 와 X(u)-X(O) 는 서 로 독립 (sto c hasti c ind epe n dence) 이 다. 위 Po i sson 과정과 같이 독립성을 가지는 과정을 독립중분과정(p rocess wit h ind epe n dence Increments )
또는 가법파정 (add iti ve p rocess) 이라 부른다. 정리 6-1 Po i sson 과정 X( t)에 관한 추이확률을 P ii(t)라 하면 P,;(t) ==O, 艦戶 (詞j<)o } (6-27) 이다. 증명 Po i sson 과정은 가법과정이므로, X(O)=O 이면 X( t )=X( t)一 X(O)= j-i이고 X(u+ t) -X(u) =j켜 이다. 그러므로 시간구간 [O,u+ t)를 생각하면 P,·; ( t ) =P {X(u+ t) =j l X(u) =i} =P {X(u+ t) 一 X(u) =j一i} =P{X(t)- X(O) =j-i} =P{X(t) =j-i}, (·: X(O)=O) = (A(tj) -i-i ••) e - !A t , (j詞 를 얻는다. 醫 정 리 9-2 임 의 의 시 각 t 에 있 어 서 Pois s on 과정 X(t) 의 특성 함수를 tp (O, t)라 하면 cp( 8, t) =eHC•-l) (6-28) 이다. 증명 특성합수의 정의에 의하여 rp( O, t) =E(i' X (I) ) 컬。팹다'
=e-llnI~=:o (itne!'. ’ ) =euexp [A t e; o]=euc,•0-1> 그러 므로 Pois s on 과정 의 기 대 치와 분산은 각각 E{X(t)} =At, V{X(t)J =At (6-29) 이다. 訂 정리 6-3 발생물 A 인 Po i sson 과정에 있어서 처음 사상이 출현할 때 까지의 소요되는 시간 T(r.v. ）의 분포는. 모수 k 를 가지는 지수분포에 따른다. 증명 r.v. T1 울 시접 0 에 시작하여 처음으로 주어전 사건이 발생하 는데 소요된 시간이라 하고, 또 r.v. T,． 률 사건이 제(i一 1) 최 일어난 다 음 제 녀가 발생할 때까지 소요된 시간을 나타낸다 하자. 이때 r.v. T1 의 분포함수 (d. f.）를 F1( t)라 하면 F1(t) = P{T1
F,.(t) == PEi=( n S — nt !< te} = P(X( t)학} ° (At )'. - 21 (6-30) 이다. 따라서 위 (6-30) 식을 미분하면 Sn 의 p .d .f.를 얻는다. 죽 f.,(t) ＝효 {i \??'1 - )l! e-l t크뚜杓-J I} =l 운硏- (t~O ) (6-31) 위 (6-31) 식으로 그 p .d .f.가 주어지는 경우를 액면가 n 인 Erlan g분포 라고 하며 도착분포 또는 servic e 시간분포 등으로 이 용된다. 이제까지는 시간적으로 정상인 Po i sson 과정을 생각하여 왔으나 이제 부터 는 발생 몰 i 가 상수 (cons t an t value) 가 아니 고 시 간조변수 t 의 함수 인 경우의 Po i sson 과정을 생각해 보기로 하겠다. 죽 Po i sson 과정의 가정 (6-2) 식을 좀 일반화한 전제로서 P{X (t+h )-X(t) = 1 IX(t) =k} =..:l(t)h +o(h) 로 바꿔놓고 정의한 계수과정을 고찰해 보기로 하자. Po is s on 과정 을 구하는 것 과 거 의 바 슷한 방법 으로 P,(X(t) =k) =上뿐二 e-l(I) (6-32) (여기서, k=O, l, 2, …) 울얻는다. 이때 l(t) = 『。 l(s)ds, (t~O ) (6-33) I를 이정 의계 수6-과4 정위의 (6평-3군2)치 식함과수 ((m6e-a3n3 )v 식alue푸 fu n주c t어i on지) 라는고 계 부수른과다정. 을 강도 함수 l (t) 를 가지 는 비 정 상 Pois s on 과정 (non-sta t i on ary Pois s on pro cess) 라고부른다.
득히 (6-33) 식의 피적분함수 J (s) 가 상수치함수 (cons t an t fu nc ti on) 일 때 가 바로 Pois s on 과정 인 것 이 다. 30)
30) 보통의 Pois s on 과정 운 정 상 Pois s on 과정 이 라 부른다.
끝으로, X( t)를 주어진 Po i sson 과정 이라 하고, {Xn} (n=l, 2, …）를 동 일한 확률분포에 따르는 독립적 확률변수열이라고 하자. 정의 6-5 위 X( t)와 Y가 서로 독립 일 때, 확률과칭 Z(t) = XLn=(t) t Yn 를 복합 Pois s on 과정 (comp o und Pois s on pro cess) 이 라고 부른다. 이때 확률과정 Z(t) , tE T= （一 oo, 00) 의 특성함수를 cp( O, t)라 하자. cp( O, t) =E(e”Z(t)} = n$=o E (eUZ (t) | X(t) = n} • 묘n! E e-2 t 그런데 {Yn} 와 X( t)는 서로 독립이므로 E{e•·•z
E[Z( t)]=홀 ], = 0=e1'C f' (l)- l) U ip '(0)],=O =써 r (여기서, 'Pr (O)=l, 갑 (0)=µr 이다.) V[Y( t)]=겔仁 也 )2 그런데 을= e2t (\P(')-1) Qt합 (O)) 나 .:l.t'P';( 8)],=o =. 2 2t 2 짜+ .:it (어+ µf) (여 기 서
는 방정식들은 다음과 같다. p~(t)=-}J。(t) (6-35) P~(t) = -AnPa(t) +A,,_1Pn-l(t) (n~I) (6-26) 이 들 (6-35) 식 과 (6-36) 식 을 출생 과정 에 대 한 Kolrnog o rov 의 전향방 정식이라 한다. 그러면 이제부터 위 방정식들을 풀고, 출생과정에 대하여 논하여 보 기로하자. i) n=O 인 경우 : 그 초기조건은 Po(O)=l ; Pn(O)=O(n~O) (6-37) 이므로. (6-35) 식을 풀면 다음 결과를 얻는다. P 。 (t) =e -l•t (6-38) ii) n=l 인 경우 : 방정식 (6-37) 식을 풀고 초기조건 P1(0)=O 을 이 용하면 다음 결과를 얻는다• P1(t) =l―1 一노i。 (e 구。t _e-2,1) (6-39) iii) n=k(k~2) 일 경우 : 방정식 (6-36) 식과 초기조건 P1r (O) = O, pk- 1 (0) = O (6-40) 에 의하여 다음 견과식을 얻는다. PJ: (t) = l J: _1e- J寸 eJ * PJ:_ 1 (t) dt (6-41) 。 다른 한편 생물체들의 경우 그 집단의 크기가 무에서 유로 발생되는 것이 불가능하다. 이 경우를 나타내주는 출생과정은 초기조건이 0 이 될 수없다. 죽 t= O 일 때 상태 i (~o) 일 경우 그 초기조건은 다음과 같다. P.-(0) = 1, P,. (O) = O (n>i) (6-42) 따라서, 임의의 시각 t에 대하여 P 。(t) =P1(t) = .. ·=PH(t) =O (6-43) 이 성립된다.
정의 6-6 출생과정에 있어서, 입의 시각 t 에 대하여 n2=O Pn(t) < l (6-44) 이 성립할 경우 발산출생과정 (d i ver g en t bir th p rocess) 이라 부룬는다. 위의 발산출생과정의 경우에는 유한시간내에 상태가 무한대로 일어날 수 있다는 가능성을 나타내 준다. 이것은 하나의 폭발현상으로 볼 수 있다. 이 제 부터 출생 과정 이 발산하지 않을 조건을 구하여 보기 로 하자. 정리 6-5 출생과정에 있어서, 임의 시각 t 에 대하여 Ic;o Pn(t) = l (6-45) n=O 일 필요충분조건은 nE~=l i—1 -+00 (6-46) 이다. 증명 i) 필요조건의 증명 : S, (t) =~。 (t) +P 1 (t) +· · ·十 P, (t) 라두자. 한편 (6-35) 석 과 (6-36) 식 등을 n=k 까지 합하면 S~ (t) = -.:lkP k (t) (a) 또 이제 초기상대가 i라고 하면 skco)=1 (k~i) 이다. 그러므로 k~ i라 하면 1-S, (t) = .:l k 『。 Pk (t) dt (b)
울얻는다. 그런데, s.( t)는 k 에 관한 단조중가함수이므로 l-S,.( t)는 k 에 관한 단조감소함수임 을 알 수 있다. 만일 lim (1-S.(t) )=µ(t) (c) k-- 라 두면, 임의의 k~ i에 대하여 .•A.. J J:。 P:P. . ( t()t )d d tt 락~ t(tµ) (t) 이다. 그러므로 J:요(t) d t=섭 J:Pn (t) d t 학(t )nZ~=‘ . T1” (d) 를얻는다. 그런데 s.~1 이므로 f 。: s.( t )d t획 (e) 이다. 따라서 (d) 식과 (e) 식에 의하여 다음 부등식이 성립한다. t락(t) • (눈i +l+•• 국) (f) 그러므로 (f)식의 우번에서 급수부분 검it이 발산하면 µ(t)가 0( 영) 에 수령하여야 한다. 죽 뿐µ(t)=\~떤 (S1( t)一 1)=0 :. Ali-mm S1 (t) =l Ai-mm nI0=:0O P,. (t) =1 이다.
ii) 충분조건의 증명 : 이 제 (6-45) 석 이 성 립 한다고 가정 하자. 1-S.(t) =시 。: P.( t )d t 이고, 膳 (t) dt = 십 ;Pn (t) dt =I~k: o A—1n (1 -S,.(t) ) ~~nk=n O t1 n (g) 그런데, 만일 l•i-mw n2~=O T1 =2n;:=,O T1< 00 라고 하면 (g) 식 의 좌변은 유계 (bounded) 로 된다. 그러떤 Ilri-m.. S, (t) i=-I 이 성립한다. 죽 /lr-i mm nI k=; l Pn (t) = In=;mO Pn (t) 핍 1 이 성립하게 디고, 이것은 가정에 모순된다. 國 §6-4 Yule 과정과 음의 이항분포 출생과정에서 모수 -
일 때 , pa ramete r l 는 모집 단의 증가율을 나타낸다. 그리 고 개 체 들의 사멀은 없고, 또 각개체의 출산은 서로 독립적이다. 모집단 크기가 n 일 때 그 중 한 개체가 출산하여 상대가 (n+I) 로 될 확률은 nlh+o(h) 이다. Yule 과정에 대하여 述=댜=＋計 =OO 이므로, 이 과정은 발산출생과정이 아니다. Yule 과정에 관한 미분 • 정차방정식은 다음과 같다. P; (t) =- i.:lP; (t) (6-47) P; (t) =- n.:lP n (t) + (n-I) .:lP n-1) .:lP n-1 (t) , (n> i) (6-48) 위 방정식 (6-47) 식과 (6-48) 식을 풀기 에 앞서 움의 이항분포에 대하 여 설명하기로 하겠다. 그러면, 음의 2 항분포를 도입하기 위하여 생명체의 치명회수에 관한 하나의 모형을 소개하기로 하자. 유독 Gas 에 노출된 각 생 명 체 가 쇼크 (shock) 를 받게 될 확률을 p, 그 령지 않을 확률을 q (=I-P) 라 하자. 또 각 생명체의 치명회수를 r 라 할 때, n 회 노출된 생명체가 사망하 게 될 확률을 f (n) 라 하자. 한편 n 최 Gas 에 노출된 생명체가 생촌하게 될 확률을 L(n) 라 하면 L (n) =r~ -1 nCj qn -ip i (6-49) j= U L (n 一 1) = Ir-:1 n-lCj qn -l-Jp i (6-50) i=O 이다.
정리 6-6 위 쇼크 (shock) 모형 에 관한 치 명 확률 f (n) 과· 생 존확률 L(n) 사이에 다음 관계식이 성립한다. f(n ) =L(n-l)-L(n) = n-1Cr-1Prq (n -r) , (n~r) (6-51) 증명 : i) 전반부의 증명 : f(n ) =L(n 一 l)P=L(n-l) (1-q) =L(n-l)-L(n— l)q =L(n 一 l)-L(n) ii) 후반부의 츠o 며o f(n ) =L(n-l) — L(n) = rjI-=;_1 O n-lCjq n -1-i. p i-Irj-=;1 O n Cj qn- j pj = Ir-;1 n-lCj qn -l-lp l - Ir;-1 _ ( n-lCj + n -1+ n-1Cj - 1) qn -jp J i= u ,=O = Ir=;l {n-1Cj qn -l-j. p . j-n- 1Cj q n -i.p iJ. — Er- n 1 - l CElqn -jpj j= u i=O = rI-:1 n -lCj pJq n -l-j (1 一 q) 一 rI-;1 n-1Ci - lqn -jp J j= U i= d = rI-:I n -lCip i+ lqn -l-J_ rI-:1 n-lCi -tq-ipJ i= O j=J =盆 (n-lC jpi +l q n- i- l _ n-lCi - lPjq ,._j) = n-lCr- 中 r q -r, (n~r) ’臨 분만 아니라 f(n )~O (6-52) IOO: f(n ) = IO:O n- 1 C,-1P'q ~ n=r n=r = (1— q)-, • P'=I (6-53) 이다.
정의 6-7 확률변수 N 의 p. m. f. 가 「|| _
f(n ) =n-1C,-1p 'qn -, (6-54) (여기서, p+q= I, n~r 이다) 일 때 , r. ·V. N 는 음의 2 항분포 (nega ti ve bin o mi al dis t r i b u ti on ) 에 따 른다고한다. 정의 6-7 r.v. N 이 음의 2 항분포에 따를 때, 그 기대치와 분산은 각 각다음과같다. E(N)=tp ; V(N)= 혹p L (6-55) 증명 r.v. N 의 m. g.f.를 MN(0) 라 하만 MN((}) = I=”:r e•nn-1C,-1P'q ~ =e 홍 1C 책 (qe ') n-, =e’ 『P '(I- q e')-r 이다. 따라서 E(N) 쁠 ],=o= j Var(N) =릅對 ,=O-(8 2 =rq/p 2 國 그러 면 이 제 다시 본론으로 들어 가서 방정 식 (6-47) 식 과 (6-48) 식 을 풀어보기로하자. i) n= i일 경우 : 앞서 주어전 미분방정식 (6-47) 식을 풀고, 초기조건 P;(O)=l 을 이용하면 P;(t)= e-w 몰얻는다. ii) n> i일 경우 : 주어전 미분방정식 (6-48) 식을 풀고, 초기조건
P,+1CO)=O 를 이용하면 P,+1(t) =ie-i it (1 -e_ 』') 마찬가지로 P,+2(t) =~Cw (1구 )2 일반적으로 Pn(t) , (n~ i)를 구하면 pn (t) =n -1cn-je -I.” ( 1 _ e-) 너 (6-56) 이다. 특히 모든 n
출생사멸과정의 가정 t시접에서 상태를 n 라 할 때, 순간 [t, t+ h) 사이에 i) 상대가 (n+I) 로 옮겨질 확률을 Jn h+o(h) ii) 상태가 (n-1) 로 옮겨질 확률을 µnh+o(h), (µn>O, n~I) iii) 상태가 2 이상 변동될 확률을 o(h) 라 가정한다. 위 가정을 고려할 때 상태가 (t+ h) 시겁에서도 n 일 확물(상태의 변동 이 없게 될 확물)은 1- i nh- 써 h+o(h) 이다. 따라서, 시접(t +h) 에 있어서 그 상태가 n 가 될 경우로는 다음과 갇 온 경우들 중의 한 가지이다. i) 시접 t에서 상태가 n 이고, (t,t+h ) 사이에는 상태의 변동이 없는 경우, ii) 시접 t에서 상태가 (n 一 1) 이고, (t,t+ h) 사이에 1 만큼 큰 상태 n 으로 옮겨갈 경우, iii) 시 접 t 에 서 상태 가 (n+ l) 이 고, (t, t+ h) 사이 에 1 만큼 작은 상 태인 n 으로 될 경우, iv) 순간 (t,t+ h) 사이에 상태가 2 이상 증감하여 n 이 될 경우 등 이 있다.
분만 아니라, 위의 이들 4 가지 경우는 서로 배반사상 (mu t uall y exclu• siv e even t s) 들이므로. 전확률정리(t o t al pro babil ity t heorem) 에 의하여 Pn (t+ h) =( I-lnh-µnh) Pn (t)+ An-ih Pn-l (t) + µn+/lPn+l (t) + o (h) (6-58) 이 성립한다. 한편 §6-1, (6-9) 식의 Kolmo g orov 의 전향방정식에 의하면 P,.( t)에 관한 다음 미분 • 정차방정식을 얻는다. P~( t)=셔집(t )+µ1P1( t), (n=O) (6-59) pn' (t ) = -( in+ µn) 瓦 (t) + An-1Pn-l (t) + µn+ 1P n+1 (t) , (n~l) (6-60) 특히 생명체들의 집단의 크기를 나타내주는 출생사멸과정의 경우에는 앞서도 언급하였듯이 무에서 유를 창조할 수 없으므로 -
따라서 위 동식을 미분하면 P~( t)+ P;(t) =O (6-65) 을얻는다. 다음 (6-64) 식을 (6-63) 식의 전반식에 대입하면, 다음 1 계선형미분방 정식을 얻는다. P~(t) + 0 。 +µo)Po( t) =µ1 (6- 66 ) 그러 므로 (6-66) 식 을 풀고, (6-64) 식 을 이 용하면 po( t) =―쓰― + Ce-Clo+P1) I i。 +µl Pi (t) =i。~ i+ µl+ ce-Clo+P1)t 등을구할수있다. 분만 아니라 초기치로 상대가 0 인 경우 경계치조건 P0(0)=1, P1(0)=0 를이용하면 Po(t) =＿i。+요 µ1+ •― l 。스2+ ―µ1 e-Clo+P1) t (6-67) P1(t) =一i。 +누µ1 _―l 。 +노µ1 _ e-c10+ ，， l) t (6-68) 등을얻을수있다. 다시 초기치가 상태 1 일 경우에는 경계치조건은 P0(0) =0, P1(0) =l 이 되므로 Pa(t) =i―。 +µ쓰l ―i-o +µ―1 -(lo+P1)I (6-69) P1(t) =―lo소+P―1 +• _leo+-P(1 2o+' (6-70) 등을 얻을수있다.
그러므로 상당히 큰 t에 대하여서는 초기상태와는 상관없이 P0(t) =_A 。 +~µl .' (t-. oo) (6-71) P1( t)=A―o―A+ 드µ1, (t一 oo) (6-72) 와 같이 일정한 극한치들에 수령하는 것을 알 수 있다. 일반적으로 초기상대에 관계없이 limP n(t) = P,. (6-73) t-~ 와 같은 극한들이 존재 하고, 또 이 들 극한열 {Pn} 가 확물분포일 때 , {P} 를 주어 전 확률과정 의 평 형 상태 (eq ui li br iu m sta t e s ) 에 있 어 서 의 확룹 분포라고 한다. 그리 고 Pn 를 정상해라 부르고, Pn( t)를 추이해라고 부론 다. § 6-6 Feller-Arley 과정 출생 • 사멸과정의 목수한 경우에 대하여 생각해 보기로 하자. Feller-Arley 과정의 가정 출생 • 사멸과정에서 특히, 각 개체들이 2 개로 분열될 확률을 차z +o(h) 라 하고, 또 각 개체가 사멸하게 될 확률을 µh+o(h) 라 가정한다. 그리고 각 개체와 개체 사이에는 교호작용(i n t erac ti on) 이 없는 것으로 가정한다. 위와 같은 전제 밀 에 서 의 출생 사멸과정 을 휘 1 라-아레과정 (Feller- Ar ley Process) 라고 부른다. 그런데, Feller-Arle y과정에서 t시접에 상태가 n 이었던 것이 시접 (t +h) 에 (n+I) 로 옮겨갈 추이확률(t ran titi on p robab ility)은 n 개의 개
체둘 중 어느 하나가 분열될 확률이므로 nA+o(h) 이고, 또 어느 한 개체가 사밀하여 상태가 (n-I) 로 옮겨갈추이 확률은 nµ+o(h) 이다. 죽 Fellre- A rley 과정 은 출생 • 사멸과정 의 한 특수한 경 우로서 ln=nl, µ=nµ (6-74) 로 둔 경우에 불과하다. 물론, 이 경우 lo=O 와 µo=O 는 의미가 없다. 그리고 초기상태가 1 인 경우, 그 초기조건은 다음과 같다. P1(0) =1 ; P.(O) =O (n=F l ) (6-75) 한편 이 과정에 대응하는 미분정차방정식은 다음과 같다. p~ (t) =µPl (t) (6-76) P~(t) = - (l+µ) nPn (t) +l (n-I)P,,_1(t) +µ(n+I)P가 l( t) (n~l) (6-77) 그러 면 이 제부터 Feller-Arley 과정을 설명 하고 위 방정 식 들을 풀기 위하여 확률모함수(p.g.f.）를 도입하기로 하자. 정의 6-8 확률과정 {X(t) , t~o } 에 대 하여 P(t, s ) =E {SX(I)} = I..; Pn (t) sn (6-78) n=O 를 이 과정 의 확률모함수 (pro babil ity ge nerati ng fun cti on ) 이 라 한다. 한편, (6-76) 식과 (6-77) 식의 양변에 S 를 곱해 주고 n 에 관해 합해 주면 모함수 ( p. g.f. ) 에 관한 다음 편미 분방정 식 (pa rti al dif fer enti al equ - a ti on) 을 얻는다. 쁩=µ폴 -O+µ)S 뭉+i s 봅
.• :8詞P = (I-S)(µ ― lS) 瑟8P (6-79) (여 기 서 , P= P (t, s) 이 다. ) 이 편미분방정식을 풀면 e
그러므로 C=µ/ ..1를 (6-71) 식에 대입하고 함수 cp (x) 에서 모함수(p. d.f. ) P( t ,s) 를 다음과 같이 구할 수 있다. P(t, s)= 于구 [1- ..1-¾=fs- ec i구 )]-1 (6-85) 정 리 6-8 시 접 t (t> o) 에 있 어 서 Feller-Arley 과정 X(t) 의 기 대 치 (평균개체수)와 분산을 각각 M(t) , V( t)라 할 때, M(t) =e ( 』 -,.)1 (6-86) V(t) = ~l-eµz ci-p )t (l-e',.-l)I) (6-87) 등과같다. 증명 i) (6-86) 식 의 증명 : M( t)＝풀 ],=l=(..:!-µ)2 e( 나 )1 X {1- 도논습. e(l-p) I }-2(p .-) .s)-z].=1 =e(l-/I)t ii) (6-87) 식 의 증명 : V( t)=릅 ?l•=l+ 뿔 I•=1-M(t)Z =옵 |• =l +M(t) - M(t)2 (a) 그런데 릅 P(t, s ) l,=i = 릅 e2(l- f1 )1_ 훑 e ci-,>t (b) 이므로 i)의 M( t)의 값과 (b) 식의 결과를 (a) 식에 대입하면 (6-87) 식 올얻는다. 國 정리 6-9 정리 6-8 에서 µ=l 일 경우 모함수(p.g.f.）는 다음과 같다. P( t, s)l=+l~t( l 一- 1s t)) (6-88)
층명 ).=µ 일 경우 (6—-a79t ) 식=;은.( 1다-s음) 과一a s 감 이 된다. ~p -l/1 ~\2aP_ (a) 따라서 위 편미분방정식을 풀면 ).t=—-1=-1S-- + c 를 얻는다. 그러므로 (a) 식의 일반해인 모함수(p.g.f.）는 다음과 같이 주어진다. P(t, s) = ¢( At+ -6) 그턴데 초기조건 P(o,s)=S 에 의하면 #(f-s)= s 이고, 위 함수의 양변을 S 로 미분하고 또 x=1 느；로 두면 cp '(x)= 규1 (b) 울얻는다. 그러므로 (b) 식을 풀면
다론 한편 µ=l 일 경우 (6-86) 식에서 평군개체수 M( t )=l 을 얻는다 이 사실은 X(O)=l 일 때 M( t )=X(o) 임을 의미한다. § 6-7 Kendall 과정 Feller-Arle y과정을 좀더 일반화하여 외부로부터의 유입과 의부로의 유출을 동시에 고려한 경우를 생각할 수 있다. Kendall 과정 의 가설 Feller- Ar ley 과정 에 다시 시 간구간 (t, t+ h) 사이 에 의 부로부터 새 로운 개체가 유입하게 되어 상태(집단의 크기)가 1 만큼 증가하게 될 확률 P,(X(t+ h) =i+ 1 JX (t) =i) =i,h+ o(h) (6-89) 울 고려하고, 또 사망에 의하여 상태가 1 만큼 감축하게 될 확률을 고 려에 넣는다. 이 와 같은 가정 밑 에 얻어 지 게 되 는 Feller-Arley 과정 울 특히 Kendall 과정 (Kendall Process) 라 부른다. Kendall 과정은 출생 률과 사멸률을 각각 Xn=nl+v ; µn=nµ (6-90) 로 둔 출생 • 사멀과정으로. 볼 수 있다. 이 경우 의부로의 유출을 고려하여 사망률 µ롤 다소 크게 잡아야 한 다. 한편 'Kendall 과정에 있어서의 미분 • 정차방정식은 다음과 같다. P~ (t) = -다 업 (t) + µP1 (t) (6-91) P;(t) =-{( l+µ)n+v} Pn(t) + {l(n 一1) +v} Pn-1(t) +µ(n+ I) P마 1( t), (n~l) (6-92) 위 (6-91) 식과 (6 一 92) 식의 양변에 S 을 곱하고 합하면 다음 편미분 방정식을 얻는다.
뿔+ (2s ― µ)(I 一 s) 붕=!J (S-I)P (6-93) 위 편미분방정식을 풀면 Kendall 과정에 관한 모함수(p.g.f.）를 얻 는다. 그런데 t시접에 있어서 Kendall 과정의 평군치와 분산을 얻기 위하 여 서 는 구대 어 편미 분방정 식 (6-93) 을 풀지 않아도 된다. 그러면 이제부터 (6-93) 식에서 직접 원하는 평균치와 분산을 구해보 기로하자. 이제 방정식 (6-93) 식을 S 로 미분하면 言a2P+ (As -µ) (1-s) 겸a2p + ((µ一..:l s)+ ..:l (l-s)- )J (s-1) ｝뭉=)J P (6-94) 그런데 P(t, 1)=1, 붕〕 •=I=M( t) 틀 |s=1= 블(룹)| 3=1= 꼴 M( t) (단, l;i:m:i —aat — =a8t -l ·:i:.m1. 이 다. ) 이므로 (6-94) 식에서 S->l 로 두면, M( t)에 관한 다음 미분방정식을 얻 는다. -jd; -M (t) + (µ-y) M(t) =v (6-95) 뿐만 아니라 M(O)=E· X(O)= i이므로 (6-95) 식을 풀어서 M( t)를 구할 수 있다. 죽
M(t) = 스µ-一1 +• \( i-µ二-1 _) r('-2)1 (µ쿠) (6-96) 한편 V( t )=V(X( t)）라 두면을] S=I= 」澤 )]s=I= 곱 (V(t) +M( t)2 -M(t)} (6-97) 이다. 그리고 또 방정식 (6-94) 식을 s 로 다시 미분하면 다음 편미분방정식 울얻는다. 참p a2p 言+ {2l(I-s)-2(ls-µ)- JJ (S-1)} 겸 T +(ls-µ)(1-S) 쁩 =2 (l+ JJ룹 (6-98) 또 (6-97) 식 에서 W(t) = V(t) + M(t) 2-M(t) 라 두고, (6-98) 식에서 s-+1 이라 하면 다음 미분방정식을 얻는다. 곱- W( t)一 2 (l-µ) W(t) = 2(l+JJ ) M(t) (6-99) 위 (6-99) 식 을 풀면 W(t) =2(l +JJ) {~ 一(i-날닌균군기 +ce2c1-p) t (6-100) :. V(t) + M(t)2 -M(t) = 20+v) x {~ -(門노 )*e(l- p )I} +Ce2( 난)‘ (6-101) 한편 초기치 : M(O)=i ; V(O)=O 에 의하여 C 를 결정할 수 있다. 죽 C=( i 2- i) -2( 파){司늑 v-( i-급 T) 근갑 (6-102) 따라서 C 의 값을 (6-101) 식 에 대 입 하고 V(t) 에 관해 풀면 구하는 분산이 얻어진다.
죽
V(t) = 2(2+v) {zei:크 )2 _(i_广기근군 l- p )11 + [(i2- i) - 2(2+µ) {zd-규 )2 _(三급 )~]e2(l- p )I -M( t)나 M( t) (6-103) 을얻는다.연습문제 1. Po i sson 과정에서, X( t )=l 임을 알았울 때, 처음으로 사상이 일어날 메까 지의 소요아간 T1 의 분포는 어떤 분포인가? 2. Feller-Arley 과정 에 서 , 초 기 상대 가 2· 일 때 , p. g. f. P(t, s) 를 구하여 라. 또 이것운 이용하여 Po( t)와 t ->OO 일 때 Po 를 조사하여라. 3. 전화회선의 문재를 Feller-Arle y과정운 수정한 모형으로 선명하여라. a) 회선수가 무한대인 겅우 b) 회선수가 유한인 경우 4. au(t) = -c;(t), a;.(t) = C;(t) P • • (t) U~k) 라 두고, 행 렬 A (t) =[ a;. (t) ] 라 하자. 또 행렬 P(s, t) =[ P;. (t, s) ] 룬 고려할 때, 전향방정식과 후향방정식은 이둔 행렬둘로 나타낼 수 있다. 또 단위행렬 P(t, t) =I 를 이용하여 전향방정식과 후향방종식웅 적분들로 나타내어라. 5. Kendall 과정 의 p. g.f. 를 구하여 라. 6. Kendall 과정에서 l=µ 일 때, 그 기대치가 M( t)=i'+가임울 보여라. 참고문현 I. R. Coleman, Sto c hasti c p ro cesses, George Allen & Unwi n (l974, London), p.3 5 2 西田俊夫 著 『應用確率論』, 培風館(일본, 1973), p. 19, p. 61, p. 160. 3. H. Freeman, Intr o ducti on to sta t i sti ca l Inf er ences, Addis o n-Wesley (19 63), pp. 121~124. 4. 具滋興 「불연속 Markov 과정에 관한 연구」, 『仁荷大 기초과학연구소 는 문집 』(제 7 집 , 1986), pp. 15~19. 5. 石井惠一 亂 (R. Coleman), 『確率過程論』, 共立出版社, (1976, pp. 85~87. 6. 具滋興, 「 Kendall 과정 의 확률모함수에 관한 연구」, 『仁荷大 기 초과학연구 소논문집 』, (제 7 집 , 1986), pp. 21~26. 7. 具滋興, 「 Markov 과정 에 관한 연구」, 『대 한수학회 논문집 」, (제 18 권 2 호, 19 82), pp. 69~78.
제 7 장 연속 Markov 과정 본장에 서 는 매 개 변수공간 T 와 상태 공간 S 가 모두 연속형 (conti nu ous type ) 인 Markov 과정 을 고찰하기 로 하겠 다. 이 와 같은 Markov 과정 을 목히 연속 Markov 과정이라고 부른다. 그리고 연속 Markov 과정 X( t)에 대하여 매개변수 t가 미소한 변위 를 취할 때, X( t)도 역시 작은 변화를 한다고 가정한다. 예컨대 연속매체 중에서 아주 빠르게 불규칙적으로 움직이는 입자 (pa rti cle ) P 의 운동성 향이 단지 현재 의 위 치 (po sit ion ) 에 만 의 촌할 때 , 그 입자의 궤적을 나타내 주는 확률과정이 하나의 연속 Markov 과정 이며, 이러한 운동현상 중에서, 브라운운동이 그 대표적인 실례이다. §7-1 확산과정 연속 확률과정에 대하여 그 시접 s 일 때 상태가 X 이라는 조건 밀에 시접 t (>s) 에 있어서의 상태가 y보다 작아질 조건부확률분포를 F(x,s ; y,t)= P(X(t)< YIX(s)=.x ) (7-1)
라하자. 그러 면 (7-1) 식 에 서 F(x, s ; y, t) 는 y 에 관한 분포함수 (d i s t r i bu ti on fun cti on ) 가 되 며 , 이 것 을 추이 확률분포함수 (tra nsit ion pro babil ity dis t r ib· uti on fun cti on ) 라 한다. 그러면 다음 관계식들이 성립한다.
F(x, s ; y, t) ~O F(x, s ; -oo, t) =O F(x, s ; +oo, t) =1 다음 시간에 대한 연속성으로 !~l;1 F(x, s ; y, t) =o(x, y) = W誘 깁 (7-2) 라 하자. 이때 만일 y에 관한 편도함수 f(x , s ; y, t)=—aay F(x, s ; y, t) (7-3) 가 촌재 하면, 이 것을 추이확률밀도함수(t rans iti on pro babil ity densit y fun c- ti on) 라 한다. 뿐만 아니 라, 앞서 언급한 Chap m an-Kolmog o rov 방정식은 다음과 같이 된다. F(x, s ; Y, t) =J~ F(z, u ; y, t)d ,F(x, s ; z, u) (s즉 추이 확률 로 나타나면 뾰計 dyF (x,t ; y,t+ h)=O (7-7) IY-•1? ;6 다음 아주 작은 시간 사이에 변위의 평군과 분산이 유한(fi n it e) 하다 는전제로서 應 h¼L J_I Yz -% 11< <55 (y- s)d,F(x,t ; y,t+ h)=a(x,t) (7-8) 言 !11_,1 <5 (y- s)2d 1F(x, t ; y, t+ h) =b(x, t) (7-9) 와 같은 극한 a(x, t)와 b(x, t)가 존재한다고 가정한다. 정의 7-1 위 3 가지 조건 (7-7), (7-8) 그리고 (7-9) 식을 만족하는 연 속 Markov 과정 울 특히 확산과정 (dif fus io n p rocess) 라고 부른다. §7-2 기본방정식 이 제 부터 확산과정 에 있 어 서 의 Kolmog o rov 전향방정 식 과 후향방정 식 에 대하여 설명하여 보기로 하겠다. § 7-1 의 (7-4) 식 에 서 F(x, s-L1s ; y, t) =[..,F(z, s ; y, t)d ,F(x, s-As ; z, s) -C F(x, s ; y, t) =[-.. .. .. F (x, s ; y, t)d ,F(x, s-L1s ; z, s) 로 쓸수 있으므로 십〔 F(x, s-L1s ; y, t) -F(x, s ; y, t)] =서: .. [F (z,s ; y, t)- F(x, s ; y, t)]d ,F(x, s-As ; z, s) 버 [F (z,s ; y, t)- F(x, s ; y, t)J d.F(x, s-.Js ; z, s) I, －미학 버 (F(z, s ; s, y, t)- F(x, s ; y, t)]d, F(x,s -.ds ; z, s) I•- 미<' (7-10)
그런데 (7-10) 식 우변의 제 1 항은 확산과정의 가설의 (7-7) 식에 의 하여 4s 一 0 일 경우 0 에 수령하게 된다. 그리 고 제 2 항을 Tayl o r 급수로 전개 하떤 F(z, s ; y, t) - (x, s ; y, t) =(z-xox) ~ 다2 (z-x)2 ~+o0x 乙 [(Z-x) 힙 (7-11) 이고, 이 걷과를 (7-10) 식에 대입하고 As 一 O 로 두고 극한울 취하면 확산과정 에 관한 다음의 Kolmog o rov-Feller 의 후향방정식 (Kolmog o rov's backward equ a ti on ) 8F(x,dss ; y,t) =― a(x,s) 쁘무;8x Y,t ) 낸 b(x,s)~Y, t) (7-12) 올얻는다. 마찬가지로 추이확률밀도함수에 관한 앞서의 후향방정식은 다음과 같 이 성립한다. of( x , ~s ; y=, t) -a(x,s하 )(x,~ s ; y, t) -12 b(x,s)0~x2 Y,t ) (7-13) 물론 위의 경우 F(x,s ; y,t)와 f(x ,s ; Y,t ) 등은 x 에 관하여 2 계펀 도함수까지 가진다고 가정 한다. 한편 추이확률밀도함수 f(x ,s ; y,t)가 존재하고, 또 이것이 다음 편 도함수를 가진다고 가정 하자. 죽 8f (x ,as t ; y ,t) a{a(y, t) fay(x ,s ; y,t)} 및:;-: ~,osy2 ; y,t)} 둥을 가진다고한다. 그리고 R( y )~o 를 미분가능한 임의함수 (arb it ra ry fu nc ti on) 라고 하 고, 구간 (Y1,Yz) 의 밖에서는 함수값이 0 이라 하자.
또 R (y1) = R (yz) = R' (Y1) = R' (Yz) = O 라하자. 그러면 (7-6) 식에서 f(x ,s ; y,t+ L1 t)=『- ..( (x,s ; z,t) f(z ,t ; y,t+L lt) d z 이므로 言-o f(x , s ; y, t+ 44t)t 一f (x;s ; y, t) R(y) d y =『:,_1} !_(~,:a/t -y , _t )_R( y )d y (7-14) 문만 아니라 Chapm an-Kolmog o rov 방정식에 의하여 I',2롭1 8f( x 証, ast ; y , t.). fR(x( y, )s d ;y z , t) f(z , t ; y, t+Jt)R (y) dy -\.. f (x , s ; y, t) R (y) dy } 릅 晶a, ..f (x , s ; Y, t) {[. .( (Y, t ; z, t+Jt)R (z)dz-R( y)} dy (7-15) 한편 R (z) 를 y 둘레 에 서 Tay lo r 급수로 전개 하면 R(z) =R(y) + (z-y) R'(y) ＋강 (z- y )2P'( y) +o[(z- y)인 이고, R(z) 는 유계인 입의함수이므로 확산과정의 가설 (7-7) 에 의하면 L,-,-,,,,~~/,C Y, t ; z, t+ Llt)R (z)dz=O(Llt) J’,,,--미. ,<<6 f(Y , t ; z, t+A t) d z=l-O(At ) 따라서 (7-15) 식의 제 2 적분의 피적분합수는 다음과 같이 된다.
J-.. ..( C Y, t ; z, t+ dt) R (z)dz-R(y) =R'(y) J,I,1__,Z,I <<8 /z-y) f(y, t ; z, t+ dt) d z 냐 R' (y) j ,,-,, <4 [(z 一y )2+0 ((z-y) 2 } Jf(y, t ; z, t+ dt) dz+o(dt) 그러므로 J:: -ft-! (x, s ; y, t) R (y) dy =!！四 십仁f (x, s ; Y, t)[R' (y) L -,,
둥을 얻는I다::. 하이 ~ 건R과들을( (7 y- )16d) y 식=f에: :〔대一입 ~하면 ,s ; y, t)J 난 °2[b(y, t말’ s ; y, t)) ]R( y) d y (7-17) 를언는다. 그런데 R( y)는 임의함수이므로 (7-17) 식 에서 훑f (x,s; · y,t)=-~ 내 릅 [b( y, t)f(x , s ; Y, t)] (7-18) 식을 얻는다. 이것을 Kolmo g orov 의 전향방정식 또는 Fokker-Planck 의 방 정식 (Fokker-Plank's e q ua ti on) 이라고 한다. 특히 시간적으로 정상인 때 f(x , s ; y, t) =f(x ; y, t一 s) (7-19) 로 쓸 수 있고, 또 t _s 를 다시 t라 두면 위 (7-18) 식 의 전향방정 식 은 찰 (x ; Y, t) = - 。〔 a(x) fa (yx ; y, t)J 냐 82D(y )Ofy(x 2 ; y, t)J (7-20) 로 쓸 수 있다. 정의 7-2 만일 Kolmo gorov 의 전향방정식 (7-20) 식에 대하여 a(x)=0,b(x)=D 일 때, 죽 전향방정식이 8f (x a;t y, t) =2i D °2f (axy ;2 y , t) (7-21) 로 주어 지 면 이 확산과정 을 Wi en er-Ein s te i n 과정 (Wi en er-Ein s te i n pro cess) 라고 부른다. 31 ) 31 ) 우 1(7-21) 식을 열전도방정식이라고도 부은다.
또 위 (7-21) 식 은 브라운운동을 나타내 주는 방정 식 이 다. 정의 7-3 만일 Kolmog o rov 의 전향방정 식 (7-20) 식 에 대 하여 a(x) =px, b(x) =D, (p< O) 일 때, 그 전향방적식은 훑f (x; y, t) ＝抄릅f (x; y, t)-~ (7-22) 로된다. 이 확산과정을 오른스타인-우렌벡과정 (Orns t e i n-Uhlenbeck p rocess) 이 라한다. 이 경 우는 Brown 운동에 서 입 자(p ar ti cle) 가 원접 에 서 부터 의 거 리 x 에 비례하는 힘으로 당겨지는 경우의 확산과정이다. § 7-3 브라운 운동과 가우스과정 아주 중요한 확산과정의 하나가 가우스과정(정규과정)이다. 정의 7-4 {Z(t) ; tE T} 의 상태공간이 실수직전 R, p arame t er 공 간 T 가 R 의 부분집합이라 하자. 모든 유한인 자연수 n 에 대하여 (ZII, z12, …, ZIn) 의 동시 분포(j o i n t pro babil ity dis t r i b u ti on ) 가 다변수정 규분포에 따를 때 과정 Z( t)를 가우스 과정 (Gauss i an p rocess) 라고 한다. 특히, 그 공분산함수를 g( s, t) =g(t-s ) 로쓸수있을때 정상과정이 된다. 정의 7-5 모수 i 를 가지 는 Wi en er 과정 (브라운운동) 이 란 E-Z(t) =O 이고또공분산함수가
g( s, t) =J mi n( s, t) (J> O) 인 독립 변동을 하는 Gauss 과정 을 지 칭 한다. 정리 7-1 (Z(t) , tE T} 가 모수 a 인 W ien er 과정 이 면 {Y(t) } = {s-i1 Z,2u} 는 정상인 가우스 과정 이다. 또 공분산함수 g (s, t)를 구하여라. 증명 Z( t)가 정규분포에 따를 때 a( t )Zbc1) 도 또한 정규분포에 따르 게 된다. 왜 냐하면, t를 고정시키면 a( t)와 b( t)는 실수들이 되기 때문 이다. 따라서 Z( t)가 정규과정이므로 {Y( t)}도 가우스 과정이 된다. 다음 임의의 t ET 에 대하여 E(Z (t ))=O 이므로 E(Y(t) =e-l'E • Z,2H=O 이 고, Y(t) 의 공분산함수는 다음과 같이 계 산된다. g (t, t+-r) = cov { Y(t) , Y(t+ -r) } =Ece-l1Z,2u • e-l(l+r)Z, 인 (l+ T) = e-l (Zl+r>cov (Z,2i1 , Z,2CI+<>) =ae-l(21+r)IDi n (e2AI, eZ•(l+r)) =ae-ll 미 그러므로 꽁분산 g(t ,s) 는 t에 무관하고 Y( t)는 정상 가우스 과정이 다. 위에서와 같은 정상 가우스 과정(브라운운동)의 이론적모형은 §5-3 에서 이미 언급한 바 있는 무제한취보의 국한의 경우로 얻어진다. 그러면 이런 경우의 무제한추]보를 고찰하기로 하겠다. 취보에서 입자가 순간 Jt사이에 4x 만큼양의 방향(오른쪽)으로옮겨가 게 될 확률은 P, 음의 방향(원쪽)으로 Jx 만큼 옮겨 가게 될 확물을 q(= l -p)라 하고, 또 이들 움직임이 상호독립적이라 하자. t시간동안의 변위 Z( t)는 각각 t/Jt회 독립적으로 좌또는 우로 옮겨 간 결과이다. 한편 n- 보 (n- 步) 후에 상태 i에서 j를 옮겨가게 될 추이확률은
Pi i(n )=( 군 ) p宁 릅 (7-23) (여 기서, x= j -i 이 다. ) 로 주어진다. 지금부터 상태의 변위 (d i s p lace) 와 시간의 단위를 바꾸어, 단위시간을 Lit, 변위를 4x 라 하자. 따라서 t시간 사이에는 t/Lit회 변위를 가처오게 되고, x 만큼의 변위 ' 논 x/4x 단위만큼 변동하게 되는 것이다. 이렇게 생각하여 4 t와 4x 를 0 에 수령시키면 시간적으로나 상태적으 로 동시 에 연속형 (conti nu ous type ) 인 모형 (Model) 을 이 끌어 갈 수 있 다. 그런데 4 t와 4x 가 제멋대로 0 에 수령하게 되면 적합치 못하게 된 다. 왜냐하면 t시간 사이에 최대로 가능한 변위는 t • L1x/L1 t인데 만일 4x/4 t가 0 에 수령하면 운동이 전혀 일어나지 않았던 것으로 해석되 기 때문이다• 따라서 4 t와 4x 가 O 에 수령하는 방식에 대하여 적당한 비율을 선 정해 두는 것이 팔요하다. 그런데 확률 P 로 4x 만큼, 또 확률 q로 (_4x) 만큼 변위를 일으키 게 되므로 1 회당 평군변위논 pL 1x+ q (-L1x) = (p-q) Llx 이다. 그러므로 시간 t사이에 변위 Z( t)는 위 평군치를 가지는 독립적인 확 물변수 t/Lit개의 합으로 생각할 수 있으므로, 그 평군변위는 E • Z( t)＝꿉(p국 )L1x= t(p一q)* 이다. 또 1 회 변위의 분산은 P(Llx) 나q (_4x) 드 {(p_q)4 x} 2 = {1-(p- q)2 J (L1x)2 = {(p+q)드 (p-q)2 1 (L1x)2 =4pq (L 1x)2 이다.
그러므로, 시간 t사이에 Z( t)의 분산은 V{Z(t) } =옮 4 pq(,:1 x)2=4 tpq~J主t 이다. 이들 평군치와 분산이 모두 임의의 시각 t에서 유한한 값을 가지도록 4x 와 Jt를 0 에 수령하는 비율을 정하면 된다. 그러기 위하여 ―(Jx) 2一 a( 상수) p-qcx:Jx 라 두면 좋다. p=강+훑 L1x ; q=½一 읊 L1x (7-24) 라두자. I 정의 7-6 위 (7-24) 식에서 a 를 확산계수, B 를 표류도 (dr ift)라 부 1 론다. 만일 P= o 이면 주어진 취보를 대칭취보 (s y mme t r ic random walk) 라고 부른다. 그리고 8 가 양수이면 정의 방향(우측)으로 펀류가 일어나고 또 음이 떤 좌측으로 편류하게 된다. 이렇게 두었을 때 t시간 사이의 변위의 평군치는 E(Z( t)=t(p-q)움=/3t (7-25) 이고, 또그분산은 V(Z(t) ) =4P q무운 =4 t〔｝＿：노 4x)2〕 上뿐 =a t-보ta?( '1 x)2 =at (dx--+0) (7-26)
한편 변위의 회수를 11 라 하였으므로 t~ n 4t 이고, 시간 t 사이에 Bernoull i 시행을 n 회 실시하였을 때 변위가 x 일 확률분포는 2 항분포 (b i nom i al d i s t r i bu ti n) 이므로 L1t -• O 일 때, n->oo 로 되 며 중십극한정리에 의하면 그 극한분포는 정규분포 N(2(3 t, 2a t)에 따르 게 된다. 죽 구하고자 하는 극한분포의 확률밀도함수(p .d. f.)는 f(x , t) =― ~e 국 _(r- {J l)2 (7-27) ✓ 21r ✓ a t 으로주어진다. 그러므로 (z( t)-/3t)/ ✓ 귬는 표준화정규분포 N(O, I) 에 수령한다. 정리 7-2 가우스과정 Z( t)는 Kolmog o rov 의 전향방정식을 만족한다. 죽 u(x, t) =P, (z(t) E(x, x+dx)} 이라고 하면 u(x, t)는 전향방정식 브0t= -g브8x- +2i 군a 갔므 (7-28) 를 만족한다. 증명 취보의 정의에서 u(x,n+l)=P • u(x-l,n)+q • u(x+l,n) 인데, 이것을 시간단위와 변위량을 4 t와 4x 로 고쳐 쓰면 P(Z(t+ L1t ) = x) =P{Z(t)= x-L1x) • P{Z(t+ L 1t )= xlZ(t)x -L1x) +P{Z(t) =x+ L1x) • P {Z(t+ L1t ) =x \ Z(t) =x+ L1x) 로된다. 죽 u(x, t+L 1t) =u(x-L1x, t)p+ u(x+L1x, t)q (a) (a) 식 의 각항을 0 (Lit) 2, 0 (Lit) 3 의 위 수까지 테 일 러 급수로 전개 하고
u(x, t)를 간단히 U 로 쓰기로 하자. u(x, t+ A t )=u+A t릅 +o(A t )2 (b) u(x-Ax, t)= u+ (一따릅+강(玉 )2 층 +o(L1x)3 (c) u(x+Ax, t )=u+Ax 릅나 (Ax)2 층 +o(Ax)3 (d) 위 (b), (c), (d) 식 등의 결과들을 (a) 식 에 대 입 하면 u+ (A t)8t브 +o(Ll t )2 =u(p+ q)+ (-p+q) (L1x) 릅나(p+q) (Ax) 2{r-+o (Jx )3 (e) 그런데 p+q= l, -p+q=_（운 )4x 이므로 (e) 식은 다음과 같이 된다. 릅 +o( .Jt)=＿宁{쁩니릎+§{뿐}흙 +o{Llx • 문} (f) 그러 므로 (L1x) 2ILl t -+a 이 도록 4x 와 4t 를 0 에 수림 시 키 면 (7-28) 석을 얻는다. 鬪 정리 7-3 W i ener 과정(브라운 운동)은 (7-28) 식을 만족한다. 층명 EZ(t) = O 이므로 P=O 이다. 또 VZ(t) =c:rm i n (t, t) =at 이 고, 따라서 Z( t)는 N(O, at) 에 따르므로 P(t, x , y)d y = P{z(t) E (y, y+ dy) IZ0=x} ::::슬 ex p{갈(y -x)2}d y (-oo
이다. 이재 u( y,t )=P( t ,x, y)라 두면 aatu =_ —21 a. oa2yt t2 (b) 가 성립한다. 巴 그리고 a 와 /3는 x 에 무관하므로 때에 따라서는 x 에 종속적이다. 이 경우 전향방정식은 릅 = 一 훑~ {(3 (x) u} + 강~ {a (x) uJ (7-29) 로 쓸 수 있 다. 이 것 은 바로 Fokker-Planck 의 방정 식 이 다. 한편 앞서 언급한 바 있는 기 체 확산에 관한 Ehrenfc s t 모형 에 서 (Llx) 2/Llt- r, aL1t -+jr1 이도록 4x 와 4 t가 O 에 수령할 경우 극한방정식은 寄O_u =g0云 (ux)+ t1 r 言82U (7-30) 이고, 이 방칭식을 오른스타인-우렌벡 과정의 확산방정식이라고 한다.
연습문제 1. 시간적으로 정상인 확산과정에 있어서, 추이확뭉밀도의 La p lace 변왑 f* (x ; y, s) = [ce -•'f(x ; y, t)d t 。 울 만족하는 후향방정 식 운 구하여 타. 2. 시간적으로 정상인 확산과정에 있어서 a(x)=a, b(x)=D (a>O) 이고, x=a 에 홉수벽이 있는 경우, 전향방정식과그경계조건을 구하여라. 이 것 을 흡수벼 울 가지 는 W ien er 과정 이 라 한다(단, X(O) =O 이 고 a>o 이다). 3. 시간적으로 정상이고, 독립중분을 가지는 SP X( t)에 있어서 분산 v 〔짜＋ s)) 롤 VCX( t))와 VCX(s) ）로 나타내 어 라. 4. 문제 3 에서 底 X( t))＝。＇ V[ X (t) = a2t 타 할 때 , 공분산 (covar i ance) E[ X (t) • X 副 를 구하여라. 참고문현 1. R. Coleman 著 『確率過程』, 共立출판사, 石井惠一 譯 (1976, 일 본) pp. 110 ~113, 2. 西田俊夫 著 『應用確率論』, 培風縮 (1973, 일본), pp.2 02~213. 3. 具滋興 「 Markov 과정에 관한 연구 (Il) 」 仁荷大부설 1i'기초과학연구소 논문 집』, （재 3 집, 1982), pp .5~8( 특히 확산과정의 기본방정석울 중십으로) 4. R. Coleman, St oc hasti c pro cesses George , Allen & Unwi n, (London, 1974) , p. 19.
., 가설검정 75 가우스과정 332 가우스의 오차곡선 75 가축공간 26, 31, 58 가축집합 26,36 가축함수 59 감마분포 79, 144 감마함수 79 강대 수법 칙 205, 209 강정상과정 295 개수령 180, 183, 186, 196 거리함수 184 격 자형 분포 125, 221, 222 격자형분포의 폭 222 격자형확물변수 223 결정론적 현상 II 결합확률밀도함수 132, 149 결합확률질량합수 132 경계상태 237 계수과정 295 고셀 150 꼽사상 2I 공분산 135 공사상 20 국소극한정리 222 귀무가설 174 그네벤코의 정리 223 근원사상 12, 103 기 대치 I9, 82, 83, 90 기 본행 렬 284, 285 기약적 273
L. 내부상대 237 C: 다항분포 130 단순확불변수 63, 64, 66, 86 단조수령정리 95 단조열 15, 26, 27 단조크라스 26, 27, 28, 44 대수의 법칙 13, 186, 205 대칭취보 335 대표본 179 대표본론 216 대합 129 도달가능 266 도착분포 301 독립증분과정 298 드 ·모르간의 공식 21 드·므아브르 13 드 • 모아브르의 법칙 I5 三 라돈-니 코둠의 정 리 83 라플라스 13 라플라스의 선협 확률 206 레비 13 __－ 의 수령 정 리 123, 186 ―의 연속성정리 2J 4 루벡 측도 23, 66, 70 _수령정리 97, xo6, J2 2 리아푸노프 13 ―조건 2x9,220 ―비 22I 린드버그 216
一조건 2I8,2I9 -의 중십국한정 리 216 口 마(르)코프 I3 -과정 229, 230, 231, 291 -부등식 IO2 _성 229 —연쇄 220, 225, 230, 239, 253, 266,274 一연 216 _＿의 약대수 법칙 207, 209 마팅게일 231 말미 _사상 I87,I88 __C - 집합체 187 무제한추1 보 23I 무한확물공간 32 미제스 I79 민코우스키 부등식 99, 183 t:I 반사벅 238 발산출생과정 3°5 배반사상 2I,3I2 법칙수령 I79, I8o, I8I, I86, I96 베르누이 13 _분포 68, 168, 206, 209, 233, 252 _시행 158,208 -연 54,x67 _정리 206 베르스타인 I3 베이스정리 47 베타합수 80
보렐 13 ―집 합 28, 31, 58, 69, 129 ―집 합체 28, 29, 69 —함수 60,82, 129 보렐-칸델리 51, 54, 195, 196, 204 복합포아송과정 302 부동백 타분산 IOO, I I 5, 248 분산 • 공분산행 렬 135 분산분석 148, I50 분포수럼 179, 181 분포함수 73, 123, 133 분할 46 분해법칙 168 불연속마(르)코프과정 2 힛 불의 부등석 210 —정리 2n 불편추정량 150 브라운운동 325, 332 비결정론적 12,49 비기 약적 273 비복귀상태 270, 271 비십 —표본분포 150 -.x 2_ 分布 150, 151, 155 ―t-분포 150, 151, 175 -F- 분포 150, 151, 155, 156, 157 一도 153, 155 비 정 상포아송과정 301 비주기적 271 人 사멀과정 226 사멸물(사망물) 320 사상열 13,34
사전확물 47 사후확뭍 47 산포도 199,200 3 급수정 리 194, 195 3 전집합 19 상극한 I4 상대빈도 12,49,179 상태 공간 226, 228, 235, 268, 269, 270 상호도달가능 266, 272 소표본론 150 수령형 203 순간정 293 슈바르즈 부등식 98, 100, 120, 208 시계열 225 c- 집 합체 23, 24, 25, 26, 27, 28, 30, 39, 40, 42, 187, 189 실험계획법 148 써비스시간분포 301 。 안정접 293 약대수법칙 205 약정상과정 295 에렌훼스트모형 238,338 F- 분포 나 8 어랑분포 301 엘고딕성분 268, 269, 271 여사상 20 연속마(로)코프과정 325, 327 연속확문변수 74 오론스타인국젯백 과정 332, 338 오타비아니의 부등식 192, 198 완비공간 184
와이불분포 82 완전가법족 23, 다 완전가법성 24, 37 완전가법져 37 우연적 I2 우연현상 II 위너 13 —과정 332,333 —아인슈타인 과정 331, 337 원인확물 47 유의성검정 174 유한가법족 21 유한가법성 22 유한가법적 축도 37 유한축도 33 -공간 33,107 유한확물공간 31 울과정 3°7 음의 2 항분포 310 의사발산형 203 이산적 18 이 산확률변수 19, 57 이 산확불분포 67, 68 2 차원 정규분포 131, 133, 163, 171, 174 이항분포 68, u6, 138, 170, 171,336 일반화분산 115 일반화평군 114 일시상태 ~69 일시저 성분 268 입 의 표본 119, 171 츠 자승평균수령 184
자유도 I39, I43, I46, I5I, l53 _비 148 재귀상대 269 적물모함수 II3, I5I 적분가능 90 적합도검정 I3I 전사상 I9 전영과정 227 전확물정리 3I2 절대연속 70 정규분포 75, 77 II7, II9, I4l, I42 정규근사법 I3 정보과학 I3 정상해 315 정칙성분 273 계 r 차적물 II4 제 r 차평균 II4 계한취보 23I 조건부- —확률 45, 48, 158, 161 ―기 대치 84, 163, 164 —분포 158, 161, 163,167 ―밀도함수 162 一기 대값 162, 165 주관확률 49 주변분포 l37, l44, l49, l57 중십국한정리 l3, 2l3, 2l4, 2l6, 2l9, 336 중십표본분포 I50 중십 t-분포 153 중십치 199 지수분포 82,300 지표함수 63, 191 칙적측도 IO5
—공간 105 직적확물공간 103, 105 전발산형 203, 205 집 합체 21, 23, 104 집합함수 21,83 云 채 프만-콜모고로프 방정 식 242, 267, 292, 326, 329 초등집합 104 추이윤행렬 293 추이해 315 추이확물 230, 240, 315 ―행렬 240 ―분포함수 326 —밀도함수 326 출생 과정 226, 303 출생물 320 출생사멀과정 226, 3II, 312 취보 226 체비셰프 I3 —의 약대수법칙 206 ―부등식 102, 207 측도공간 3I = 카라데오도리의 외 측도 38, 39, 41 군-분포 139, 142, 147 —의 재생성 I40, I73 k 차원정 규분포 I3I, I34, I36 켄달과정 320, 321 콜모고로프 I2, I3, I86, 21I _의 강대수법칙 213 ―의 부등식 2I2, I90, I94
一의 0-1 법칙 南 -_-의 정리 l93,l98,I99 一의 확물공간 32 _＿의 확장정 리 38, 45 _＿의 전향방정 식 293, 294, 304, 313, 331, 332 一의 후향방정 식 293, 294 코쉬분포 82, l18, 127, 128 콜모고로프잡 1 라의 후향 방정 식 328 크라머 13 크로네커의 정 리 211, 213 E: 탄성벽 239 통계 량 I39, 143, 145 통계적 품질관리 79 통계적 추정 75 통집합 104, 1o8 목성 함수 I 13, I 19, 1200 123, 125, 203 둑이분포 70 득이함수 72 t-분포 143, 146, 147, 148, 174 끄 파산문제 234 파스칼 12 페르마 I2 평군 _도달시간 25I -방문비율 252 --－재귀시간 25I -치 90
평등분포 73 포아송 ―분포 69, 153, 170 ―과정 226, 295, 296, 298, 299, 300, 302, 303 포카-프랭 카의 방정 식 331, 338 표본과정 226 표본공간 12, 13 표본분포 139 표류도 335 표본상관계수 177 표준편차 IOO 표준화 정규분포 77, I45, I50 P 차절대적물 83 굴 하국한 13 현대확률론 II, 16 화투의 보조정리 95 확률공간 I8o, 18I 확물과정 225, 226 확물독립(적) 50 확불모함수 169, 235, 316 확률밀도함수 125 확물변수 59,64 확물분포 66 확물사상 13 확물수렵 179, 180, 181, 182, 13 - 196, 197 확둘의 승법정리 46 확물조건 I2 확물질량함수 18,67 확물측도 16, 18, 21, 22, 33, 37, 66, 160
확물행 렬 241, 292 ―백터 241 확산계수 335 확산과정 325, 327 확산방정식 338 후비니의 정리 108, 110, 121 앤다부등식 100
첼라-아레과정 3I5, 3I6 휘샤 148, 149, 150 흡수벅 237, 254, 313 흡수장태 254,270 흡수마(르)코프연쇄 282 흉수정 293 힐버트공간 184
具滋與 서울대학교 문리대학 수학과 졸업 同대학원 수학과에서 수리동계학 전공 청주교대, 동국대학교 교수와 京都大. W i scons i n 大 등의 객원교수 역임 Ol 학박사 현재는 인하대학교 이과대학 동계학과 교수 저서로는 『고급통계학』, 『동계용어사전』(共編) 등이 있고, 「마코프 과정 에 관한 연구」 外 20 여 편의 논문을 발표하였다. 확률른 대우학술총서 • 자연과학 58 찍은날 I988 년 5 월 I5 일 펴 낸날 I988 년 5 월 30 일 지은이 具滋與 펴낸이 朴孟浩 펴낸곳 民音社 출판등록 I966• 5. I9 제 I-l42 호 우편대체계좌번호 010041-31-523282 II0-1II 서울 종로구 관철동 44-1 734-2000•2101, 735-8 沼 (영 업부) 734-6110•4234 (편집 부) ©구자홍, 1988 자연과학, 통계학 KDC/3IO * 파본은 바꾸어 드립니다. 값 10, 000 원
대우학술총서 :: ::}: •번 역 1소 립자와 게이지상호작용 金鎭義 著/급 1 4 , 800 원 10 국소적 형태의 A tiy ah-S i n g er 지표이론 자동표 뭄/ 값 2,800 원 18 과학혁명 金永植 著/값 4,200 원 20 정보이론 런영열 著/값 4,500 원 25 미분위상수학 李鉉求 著 / 값 2, 5 00 원 31 편미분방정식론 김종식 퐁/값 4 , 000 원 46 급번론 박대련 著/값 5,000 원 48 리이만기하학 박을룡 뭄/값 6,000 원 49 群表現論 朴勝安 著 / 값 6, 2 00 원 50 비선형편미분방정식론 하기식 著/값 6 , 000 원 51 生體膜 김형만 뭄/값 8,000 원 52 수리분류학 고절환 吾/값 4 , 800 원 53 찰스 E 번 釋載 著/급 l 8,000 원 54 금속부식 박용수 著/값 8,500 원 55 양자광학 01 상수 著 / 값 7, 紅원 56 효소반응속도록 서정헌 꼴 / 값 8,000 원 57 화성암성인론 이민성 봅 / 값 7,000 원 58 확률론 구자홍著 / 값 10,000 원 수학의 확실성 모라스 클라인 흡 朴世熙 譯 / 값 7,000 원 수리과학과과학철학 헤르만 와일 꼴 김상문 譯 / 값 5. ~운 현대과학철학논쟁 토마스 콘 外 著 조승옥 • 김동식 譯 / 값 8, (XX)원 있음에서 됨으로 일리야 프리고진 품 이철수 譯 / 값 7. 幻 0 원 社會科學과 數學 李承勳 外 롭 / 값 2. 었)원 현대과학과 윤리 김용준 外 블 / 값 6, 00)원