確率論の基礎1 - 九州大学（KYUSHU...

九州大学工学部地球環境工学科船舶海洋システム工学コース

海事統計学第3回（担当：木村）

確率論の基礎１（事象と標本空間・条件付き確率）

場所：船２講義室

授業の資料等は

http://sysplan.nams.kyushu-u.ac.jp/gen/index.html

事象と確率コルモゴロフの公理

・試行：その結果が偶然に支配されているような実験や観測

・事象：試行の結果として起こりうる事柄

・各事象には、確率が付与される

【確率の公理１】どのような事象Ａに対しても、その確率Ｐ（Ａ）は 0 と 1 の間の値をとる。すなわち 0 ≦ Ｐ（Ａ） ≦ 1

【確率の公理２】あらゆる可能な事象全体の集合をＳとすれば、Ｓの確率は１である。すなわちＰ（Ｓ）＝１

【確率の公理３】同時には起こりえない（これを互いに排反という）有限個あるいは無限個だが番号が付けられる事象をA1, A2, A3, …とするとき、A1, A2, A3, …のいずれかがおこる確率は,それぞれの事象が起こる確率の和に等しいすなわち P（A1∪A2∪A3∪… ）= P(A1) + P(A2) + P(A3)＋…

例）サイコロを1回振る「１の目が出る」事象の確率１／６「２の目が出る」事象の確率１／６「４以上の目が出る」事象の確率３／６＝１／２

・ある事象Ａが起こらないこと、すなわちＡではない事象のことをＡの余事象と呼ぶ

1)()( APAPA

Ａ１∩Ｂ１

加法定理

・事象Ａ１の起きる確率Ｐ（Ａ１）・事象Ｂ１の起きる確率Ｐ（Ｂ１）・事象Ａ１およびＢ１のうち少なくともそのどちらか１つが起こる事象Ａ１∪Ｂ１

および事象Ａ１∪Ｂ１の起こる確率Ｐ（Ａ１∪Ｂ１）・事象Ａ１およびＢ１が同時に起こる事象Ａ１∩Ｂ１

および事象Ａ１∩Ｂ１が起こる確率Ｐ（Ａ１∩Ｂ１）同時確率（joint probability）

このときＰ（Ａ１∪Ｂ１）＝Ｐ（Ａ１）＋Ｐ（Ｂ１）－Ｐ（Ａ１∩Ｂ１）

Ａ１Ｂ１

Ａ１∪Ｂ１

Φ（空集合）

例）サイコロ事象Ａ５の目事象Ｂ 3以上の目

事象Ａ∪Ｂ＝｛３，４，５，６｝

事象Ａ∩Ｂ＝｛５｝

加法定理

・事象Ａ１の起きる確率Ｐ（Ａ１）・事象Ｂ１の起きる確率Ｐ（Ｂ１）・事象Ａ１およびＢ１のうち少なくともそのどちらか１つが起こる事象Ａ１∪Ｂ１

および事象Ａ１∪Ｂ１の起こる確率Ｐ（Ａ１∪Ｂ１）・事象Ａ１およびＢ１が同時に起こる事象Ａ１∩Ｂ１

および事象Ａ１∩Ｂ１が起こる確率Ｐ（Ａ１∩Ｂ１）同時確率（joint probability）

このときＰ（Ａ１∪Ｂ１）＝Ｐ（Ａ１）＋Ｐ（Ｂ１）－Ｐ（Ａ１∩Ｂ１）

Ａ１Ｂ１

Ａ１∩Ｂ１

Ａ１∪Ｂ１

Φ（空集合）

例）サイコロ事象Ａ５の目事象Ｂ 3以上の目

事象Ａ∪Ｂ＝｛３，４，５，６｝

事象Ａ∩Ｂ＝｛５｝

【練習問題１】３個のサイコロを同時に投げたとき、少なくともどれか１つは１の目が出る確率を求めよ。（ヒント：全てのサイコロが１以外の目になる事象をＡとおき、余事象を考えよ）

【練習問題２】カード１００枚にそれぞれ１から１００までの番号が書かれている。この中からランダムに１枚のカードを引くとき、そのカードの番号が２または３の倍数である確率を求めよ。（ヒント：加法定理を利用する）

【練習問題１】３個のサイコロを同時に投げたとき、少なくともどれか１つは１の目が出る確率を求めよ。（ヒント：全てのサイコロが１以外の目になる事象をＡとおき、余事象を考えよ）

【練習問題２】カード１００枚にそれぞれ１から１００までの番号が書かれている。この中からランダムに１枚のカードを引くとき、そのカードの番号が２または３の倍数である確率を求めよ。（ヒント：加法定理を利用する）

事象Ａの確率は、

216125

65

65

65

事象Ａと、その余事象との関係はであるからA 1)()( APAP

21691

2161251)(1)( APAP

事象Ａ：カードが２の倍数

事象Ｂ：カードが３の倍数

事象Ａ∩Ｂカードが６の倍数

10050)( AP

10033)( BP

10016)( BAP

よって

)()()()( BAPBPAPBAP

10067

10016

10033

10050

条件付き確率（conditional probability）事象Ａ１とＢ１が考えられるとき、事象Ａ１が起こったという条件の下では事象Ｂ１の確率はどうなるか

)()()|(

1

1111 AP

BAPABP

事象Ａ１が発生した条件下での事象Ｂ１の確率：条件付確率

事象Ａ１∩Ｂ１の同時確率

条件部Ａ１が起こる全ての事象の確率を合計した確率

（周辺確率： marginal probability）事象Ａ１が発生したら、新たな標本空間は事象Ａ１を占める領域に限定される

→ 確率の値もその領域に合わせて比例配分

条件部

Ａ１∩Ｂ１

Ａ１Ｂ１

事象Ａ１とＢ１が考えられるとき、事象Ａ１が起こったという条件の下では事象Ｂ１の確率はどうなるか

)()()|(

1

1111 AP

BAPABP

事象Ａ１が発生した条件下での事象Ｂ１の確率：条件付確率

事象Ａ１∩Ｂ１の同時確率

条件部

条件部Ａ１が起こる全ての事象の確率を合計した確率

（周辺確率： marginal probability）

条件付き確率（conditional probability）

事象Ａ１が発生したら、新たな標本空間は事象Ａ１を占める領域に限定される

→ 確率の値もその領域に合わせて比例配分

Ａ１Ｂ１

Ａ１∩Ｂ１

例１）サイコロ事象Ａ１４以上の目事象Ｂ１３または４の目が出る

31

2161

)()()|(

1

1111

APBAPABP

1 2 3 4 5 6Ａ１Ｂ１

例２）袋に赤球が２個、白球が５個入っている。袋からランダムに１個取り出して何色かを調べた後、取り出した球をもとに戻さずにもう一度球をランダムに取り出す。

事象Ａ１：１回目で赤を取り出す事象Ｂ１：２回目で赤を取り出す

61

72

72

61

)()()|(

1

1111

APBAPABP

例１）サイコロ事象Ａ１４以上の目事象Ｂ１３または４の目が出る

31

2161

)()()|(

1

1111

APBAPABP

1 2 3 4 5 6

Ａ１Ｂ１

例２）袋に赤球が２個、白球が５個入っている。袋からランダムに１個取り出して何色かを調べた後、取り出した球をもとに戻さずにもう一度球をランダムに取り出す。

事象Ａ１：１回目で赤を取り出す事象Ｂ１：２回目で赤を取り出す

61

72

72

61

)()()|(

1

1111

APBAPABP

【練習問題】倍掛け賭博（マルチンゲールの必勝法）１回あたりの勝率が２分の１で、勝つと掛金の倍が戻り、負けると掛金が没収される賭博において、以下のような戦略でプレイする：

・最大で１０回まで勝負する。且つ・１回でも勝ったらそこで勝負を止める。且つ・最初は１＄を掛け、負けるたびに掛金を倍に増やす。

このとき、１）プレイの結果、持ち金がプラスになる確率を求めよ。

２）現在、５回ほど勝負に負けている状況にあるとする。このとき、プレイの結果持ち金がプラスになる確率を求めよ。

勝負勝ち

１＄の利益

負け

勝負勝ち

負け

事象１

事象２１＄の利益

掛金１＄

事象１´

掛金２＄

１＄の損

事象２´ ３＄の損

勝負勝ち

負け

事象３１＄の利益掛金４＄

事象３´ ７＄の損

勝負勝ち

負け

事象４１＄の利益掛金８＄

事象４´ １５＄の損

…

事象１の確率 21

事象２の確率 21

21

事象３の確率 21

21

21

事象４の確率

4

21





999.010241023

211

10

勝てば必ずプラス

負ける事象の確率を考えて１から引く





999.010241023

211

10

勝てば必ずプラス

負ける事象の確率を考えて１から引く

事象５‘が起きたという条件付確率

を考える

3231

21

3231

21

)()()|( 5

5

1

2112

AP

AAPAAP

事象Ａ１：５回負ける事象Ａ２：持ち金がプラス

321

161

81

41

21

21)(

5

21 AAP

5

1 21)(

AP

条件付き確率と独立性

)()|()()|(

111

111

APBAPBPABP

または

であるとき、事象Ａ１とＢ１は独立（independent）であるという

例）コインＡとＢを同時に投げる事象Ａ１コインＡが表事象Ｂ１コインＢが表

コインＡもコインＢも、裏表の出方は互いに無関係

事象Ａ１とＢ１が独立であるとき、Ａ１∩Ｂ１の確率（同時確率）は

)()()( 1111 BPAPBAP

)()|()()|(

111

111

APBAPBPABP

または

であるとき、事象Ａ１とＢ１は独立（independent）であるという

例）コインＡとＢを同時に投げる事象Ａ１コインＡが表事象Ｂ１コインＢが表

コインＡもコインＢも、裏表の出方は互いに無関係

事象Ａ１とＢ１が独立であるとき、Ａ１∩Ｂ１の確率（同時確率）は

)()()( 1111 BPAPBAP

条件付き確率と独立性

ベイズ（Bayes）の定理 Thomas Bayes1702－1761

例）ある病院で腫瘍検査を受ける人について、ガンである人の割合 1000人中5人ガンの人が腫瘍マーカで陽性が出る確率 0.95ガンではない人が腫瘍マーカで陽性が出る確率 0.055

ある患者が腫瘍マーカで検査したところ陽性だったこの患者がガンである確率は？

原因となる事象Ａ１：患者がガンＡ２：患者が非ガン

結果となる事象Ｂ１：検査が陽性Ｂ２：検査が陰性

995.0)(005.0)(

2

1

APAP

ガン患者の割合より

055.0)|(95.0)|(

21

11

ABPABP

腫瘍マーカの性能より

求める確率は

)|()|(

12

11

BAPBAP

事象Ｂが観測される前の周辺確率という意味で

事前確率（prior probability）

もっともらしさを表す

条件付確率：尤度（likelihood）

事象Ｂ１が起こった後の条件付確率という意味で

事後確率（posterior probability）

ベイズ（Bayes）の定理

)()()|()(

)()()|(

1211

111

1

1111 BAPBAP

ABPAPBP

BAPBAP

055.0995.095.0005.095.0005.0

))|()()|()()|()(

212111

111

ABPAPABPAP

ABPAP

事前確率

事後確率

事前確率

尤度

尤度

条件付確率の公式より

事後の確率が事前確率と尤度で表される

例題に沿って説明すると

080.0

患者がガンで且つマーカで陽性になる確率

患者がガンで、且つマーカで陽性になる確率

患者が非ガンで、且つマーカが陽性になる確率

マーカ陽性の条件下で患者がガンである確率

ベイズ（Bayes）の定理

n

ii

kkkk

BAP

ABPAPBP

BAPBAP

1)(

)|()()(

)()|(

n

iii

kk

ABPAP

ABPAP

1)|()(

)|()(

事前確率

事後確率

事前確率

尤度

尤度

条件付確率の公式より

事後の確率が事前確率と尤度で表される

もっと一般的に書くと

サイコロの例題（4以上の目が出る事象Ａ１、3以下の目が出る事象Ａ２，3または4の目が出る事象Ｂ１、3と4以外の目が出る事象Ｂ２）とした場合について計算すると分かりやすい

条件部の事象Ｂが起こる全ての事象の確率を合計した確率

（周辺確率）

ベイジアンネットワーク（Bayesian network）確率変数間の依存関係をグラフィカルに表現

ＡＢ

)|( ABP「原因」事象の確率変数

「結果」事象の確率変数

n

iii

kkk

ABPAP

ABPAPBAP

1)|()(

)|()()|(

ベイズの定理より

事後確率

事前確率尤度

事前確率尤度

Ａの事前分布が不明の場合、一様分布（全て等確率）として与える

n

ii

k

ABP

ABP

1)|(

)|( ＡＢ

ＡＢ

は

へ書き換え可能

確率変数間の依存関係

知りたい事象が観測できなくても、関連する事象の観測結果より、知りたい事象の状態（変数の値）をより正確に推定できる。

ベイジアンネットワーク（Bayesian network）

事前確率尤度

ＡＢ条件付確率表

Conditional Probability Table(CPT)

)()(

2

1

BPBP

事後確率

事象Ｂの観測evidence

事象Ｂの観測結果よりＣＰＴを通じてＡの確率が更新された → belief の伝播

ベイズの定理での例題

原因となる事象Ａ１：患者がガンＡ２：患者が非ガン

結果となる事象Ｂ１：検査が陽性Ｂ２：検査が陰性

995.0)(005.0)(

2

1

APAP

ガン患者の割合より

055.0)|(95.0)|(

21

11

ABPABP

腫瘍マーカの性能より

055.0)|(95.0)|(

21

11

ABPABP

995.0)(005.0)(

2

1

APAP

事前確率

080.0)|( 11 BAP

直接観測できない


事象Ａ１：喫煙者事象Ａ２：非喫煙

事象Ｂ１：肺ガン事象Ｂ２：肺気腫事象Ｂ３：その他

事象Ｃ１：レントゲン陽性事象Ｃ２：レントゲン陰性

1.0)|(3.0)|(6.0)|(

13

12

11

ABPABPABP

4.0)|(3.0)|(3.0)|(

23

22

21

ABPABPABP

2.0)|(8.0)|(

12

11

BCPBCP

9.0)|(1.0)|(

22

21

BCPBCP

5.0)|(5.0)|(

32

31

BCPBCP

事象Ａ１のとき

事象Ａ２のとき

事象Ｂ１のとき

事象Ｂ２のとき

事象Ｂ３のとき

事象Ａの事前確率または観測

事象Ｂの条件付確率事象Ｃの条件付確率

1.0)|(3.0)|(6.0)|(

13

12

11

ABPABPABP

)|()|(

12

11

ACPACP

evidence

0)(1)(

2

1

APAP

順方向へ belief が伝播


44.05.01.09.03.02.06.0

)|()|()|()|()|()|()|(56.0

5.01.01.03.08.06.0)|()|()|()|()|()|()|(

32132212121112

31132112111111

BCPABPBCPABPBCPABPACP

BCPABPBCPABPBCPABPACP

Ｂの条件付確率Ｃの条件付確率





1.0)|(3.0)|(6.0)|(

13

12

11

ABPABPABP

4.0)|(3.0)|(3.0)|(

23

22

21

ABPABPABP

2.0)|(8.0)|(

12

11

BCPBCP

9.0)|(1.0)|(

22

21

BCPBCP

5.0)|(5.0)|(

32

31

BCPBCP






事象Ａの事後確率事象Ｂの事後確率事象Ｃの周辺確率または観測

)|()|()|(

13

12

11

CBPCBPCBP

0)(1)(

2

1

CPCP

evidence

)|()|(

12

11

CAPCAP

逆方向へ belief が伝播


145

5.0311.03

18.031

5.031

)|()()|()()|()()|()()|(

141

5.0311.03

18.031

1.031

)|()()|()()|()()|()()|(

74

5.0311.03

18.031

8.031

)|()()|()()|()()|()()|(

313212111

31313

313212111

21212

313212111

11111

BCPBPBCPBPBCPBPBCPBPCBP



ベイズの定理より事前確率が不明の場合一様分布にしておく

32

3.0216.02

16.02

1

)|()()|()()|()()|(

212111

11111

ABPAPABPAPABPAPBAP


21

3.0213.02

13.02

1

)|()()|()()|()()|(

222121

12121

ABPAPABPAPABPAPBAP

51

4.0211.02

11.02

1

)|()()|()()|()()|(

232131

13131

ABPAPABPAPABPAPBAP

8441

145

51

141

21

74

32

)|()|()|()|()|()|()|( 13311221111111

CBPBAPCBPBAPCBPBAPCAP

よって

もし事象Ｃ２が観測された場合

165

5.0319.03

12.031

5.031

)|()()|()()|()()|()()|(

169

5.0319.03

12.031

9.031

)|()()|()()|()()|()()|(

81

5.0319.03

12.031

2.031

)|()()|()()|()()|()()|(

323222121

32323

323222121

22222

323222121

12121





32

3.0216.02

16.02

1

)|()()|()()|()()|(

212111

11111

ABPAPABPAPABPAPBAP


21

3.0213.02

13.02

1

)|()()|()()|()()|(

222121

12121

ABPAPABPAPABPAPBAP

51

4.0211.02

11.02

1

)|()()|()()|()()|(

232131

13131

ABPAPABPAPABPAPBAP

2417

165

51

169

21

81

32

)|()|()|()|()|()|()|( 23312221211121

CBPBAPCBPBAPCBPBAPCAP

よって

もし事象Ｃ２が観測された場合事前確率が不明の場合一様分布にしておく





1.0)|(3.0)|(6.0)|(

13

12

11

ABPABPABP

4.0)|(3.0)|(3.0)|(

23

22

21

ABPABPABP

2.0)|(8.0)|(

12

11

BCPBCP

9.0)|(1.0)|(

22

21

BCPBCP

5.0)|(5.0)|(

32

31

BCPBCP






事象Ｂの確率（信念： belief）

事象Ｃの周辺確率または観測

),|(),|(),|(

3

2

1

ii

ii

ii

CABPCABPCABP

0)(1)(

2

1

CPCP

両方向から belief が伝播evidence


evidence

0)(1)(

2

1

APAP

= 条件付確率×事後分布を計算して正規化


1.0)|(3.0)|(6.0)|(

13

12

11

ABPABPABP


evidence

0)(1)(

2

1

APAP

事象Ｂの事後確率事象Ｃの周辺確率または観測

565

1451.014

13.0746.0

1451.0

)|()|()|()|()|()|()|()|(),|(

563

1451.014

13.0746.0

1413.0

)|()|()|()|()|()|()|()|(),|(

76

1451.014

13.0746.0

746.0

)|()|()|()|()|()|()|()|(),|(

131312121111

1313113

131312121111

1212112

131312121111

1111111

CBPABPCBPABPCBPABPCBPABPCABP



0)(1)(

2

1

CPCP

evidence

順方向に計算

逆方向に計算

145)|(

141)|(

74)|(

13

12

11

CBP

CBP

CBP

ある飲酒運転の検挙用の簡易アルコールセンサーで検査を行うと、・飲酒を行っている人についてアルコールを検出する確率は０．８（飲酒を行っているのにアルコールを検出できない確率が０．２）

・飲酒していないにもかかわらずアルコールを検出してしまう確率が０．３（飲酒していない人についてアルコールを検出しない確率が０．７）

であるものとする。このとき、

１）事前分布が未知の被験者において、上記センサによりアルコール反応が出た。この被験者が飲酒をしている確率、および飲酒をしていない確率をそれぞれ求めよ。

２）車種や検挙暦などから、飲酒運転をしているとは考えにくい被験者については、飲酒の事前確率が０．２であるとする。この被験者から上記センサのアルコール反応があったとき、飲酒している確率を求めよ。

原因となる事象Ａ１：飲酒している

Ａ２：飲酒していない

結果となる事象Ｂ１：アルコール反応ありＢ２：アルコール反応なし

7.0)|(3.0)|(2.0)|(8.0)|(

22

21

12

11

ABPABPABPABP

ヒント：事前確率が未知

5.0)()( 21 APAP

【演習問題】 2018.04.17 学籍番号氏名

【演習問題】学籍番号氏名









7.0)|(3.0)|(2.0)|(8.0)|(

22

21

12

11

ABPABPABPABP

n

iii ABPAP

ABPAPBAP

11

11111

)|()(

)|()()|(

n

iii ABPAP

ABPAPBAP

11

21212

)|()(

)|()()|(

事後確率事後確率

事前確率＝0.5

ヒント：事前確率が未知

5.0)()( 21 APAP

【演習問題】学籍番号氏名









7.0)|(3.0)|(2.0)|(8.0)|(

22

21

12

11

ABPABPABPABP

118

3.05.08.05.08.05.0

)|()(

)|()()|(

11

11111

n

iii ABPAP

ABPAPBAP 113

)|()(

)|()()|(

11

21212

n

iii ABPAP

ABPAPBAP

事後確率

事前確率＝0.5

52

3.08.08.02.08.02.0

)|()(

)|()()|(

11

11111

n

iii ABPAP

ABPAPBAP

事後確率

事前確率＝0.2

事前確率＝0.2, 0.8

確率論の基礎1 - 九州大学（KYUSHU...

Documents

Transcript of 確率論の基礎1 - 九州大学（KYUSHU...