確率モデルによる画像処理における統計的学習理論

6 November, 20086 November, 2008 IEICE-MIH (Sendai）IEICE-MIH (Sendai） 11

確率モデルによる画像処理におけ確率モデルによる画像処理における統計的学習理論る統計的学習理論

東北大学大学院情報科学研究科東北大学大学院情報科学研究科田中和之田中和之

[email protected]@smapip.is.tohoku.ac.jphttp://www.smapip.is.tohoku.ac.jp/~kazu/http://www.smapip.is.tohoku.ac.jp/~kazu/


ContentsContents

1.1. 序論序論2.2. 確率的画像処理確率的画像処理3.3. 確率伝搬法確率伝搬法4.4. まとめまとめ

6 November, 2008 IEICE-MIH (Sendai） 3

情報処理の守備範囲の推移

理詰めの情報処理理詰めの情報処理法則・命題群からの予測法則・命題群からの予測

コンピュータの発達により現実化コンピュータの発達により現実化

現実世界の情報処理現実世界の情報処理現象の起こる要因の多様性現象の起こる要因の多様性必要なデータが完全に得られるわけではない．必要なデータが完全に得られるわけではない．大量のデータは得られるが必要な情報の抽出が難し大量のデータは得られるが必要な情報の抽出が難し

い．い．「すぐ分かること」と「本当に知りたいこと」のギャッ「すぐ分かること」と「本当に知りたいこと」のギャップからくる不確実性→何とかして克服したいプからくる不確実性→何とかして克服したい !!!!

数値計算のための情報処理作業手順が与えられている．

確率的情報処理


確率的情報処理における計算の壁

不確実性を確率・統計を用いて表現することの代償

起こりやすいことも起こりづらいこともまじめに考慮して計算

計算量的困難

統計的計算技法の改良による計算困難の打破


たくさんが関連して集まり構成されたシステム：

情報と物理が扱う対象に共通する概念

モノ（物質）分子

０ ,1 101101110001

010011101110101000111110000110000101000000111010101110101010ビッ

トコト（データ）

分子が集まって物質を形成し，モノになる．

ビットが集まってデータを形成し，コトとなる．

共通点：たくさんが関連

分子同士は引っ張り合っている．

並びをきちんと決めることによって意味のある文章になる．

主な研究対象情報工学：コト

データ物理：モノ

物質・自然現象

More is different in More is different in informatics as wellinformatics as well


More is Different

原子

電子原子核

陽子中性子

クォーク

分子化合物

物質

生命材料

社会宇宙素粒子物理学

物性物理学More is different

P. W. Anderson


確率的画像処理確率的画像処理

確率的画像処理手法によるノイズ除去

173

110218100

120219202

190202192

Average

192 202 190

202 219 120

100 218 110

192 202 190

202 173 120

100 218 110

信号処理の知見をもとにした画像処理の確率モデル化

マルコフ確率場モデル確率的画像処理

基本単位は画素

画素上の数字はディスプレイの光の強度

アルゴリズム化

最も簡単な既存のフィルター


ContentsContents



画像修復の確率モデル

原画像劣化画像

通信路

雑音

周辺尤度

事前確率尤度事後確率

劣化画像

原画像原画像劣化画像劣化画像原画像

Pr

Pr|Pr|Pr

白色ガウス雑音原画像劣化画像


2 値画像の事前確率 (Prior Probability)

赤い線が少ないほど確率が高くなるように確率モデルを設計

問題設定画素の周辺の状態が固定されているとき着目画素の状態は？

？

>

== >p p

周りが白ければ着目画素も白くあるべき


2 値画像の事前確率 (Prior Probability)2 値画像の事前確率 (Prior Probability)

赤い線が少ないほど確率が高くなるように確率モデルを設計

画素がいくつか集まると周りの画素の状態をよく見ながら自分の状態を決めないといけなくなるもっとたくさん集まったらどうなるか ?

問題設定画素の周辺の状態が固定されているとき着目画素の状態は？

？ - ？== >

p p

> >=


ゆらぎが大きいときに何が実際に起こっているのか ?

p

0.0

0.2

0.4

0.6

0.8

1.0

0.0 0.2 0.4 0.6 0.8 1.0lnp

無秩序状態秩序状態ゆらぎが大きく点の近くのパターン

p が小さい p が大きい

最近接画素間の共分散

マルコフ連鎖モンテカルロ法によるサンプリング

Markov Network


ゆらぎが大きいときのパターンを画像処理に使えるか ?

0.0

0.2

0.4

0.6

0.8

1.0

0.0 0.2 0.4 0.6 0.8 1.0

ln p

最近接画素間の共分散

p

似ている

Markov Network大小


強磁性体と確率モデル強磁性体と確率モデル

p p

p p

>

=

=

>

=

=

x

y

画像は各画素ごとの強さの異なる光であらわされる．

0 255

共通点：まわりと同じ状態をとろうとする

Ising モデル

Markov Random Field (MRF) モデル


Prior Probability in Probabilistic Image Processing

Nijji ff

ZfF 2

2

11Pr

exp

Prior

0005.0 0030.00001.0

Samples are generated by MCMC.

Markov Chain Monte Carlo Method

,,2,1

links the all of Set:N


Additive White Gaussian Noise

2,0~ Nfg ii

iii gffFgG 2

22 2

1exp

2

1Pr

Histogram of Gaussian Random Numbers

n

Noise Gaussianf

Image Original g

Image Degraded

Degradation Process


ベイズ統計と画像処理

Bij

jii

ii ffgf 22

2

1

2

1exp

Pr

PrPrPr

gG

fFfFgGgGfF

fg

fF Pr fFgG Pr g原画像劣化画像事前確率

事後確率加法的白色ガウス雑音または２元対称通信路

計算困難画像処理は平均，分散，共分散の計算に帰着

B ：すべての最近接画素対の集合

Ω：すべての画素の集合


Statistical Estimation of Hyperparameters

z

zFzFgGgG }|Pr{},|Pr{},|Pr{

},|Pr{max arg)ˆ,ˆ(,

gG

f g

Marginalized with respect to F

}|Pr{ fF },|Pr{ fFgG gOriginal Image

Marginal Likelihood

Degraded Imagey

x

},|Pr{ gG

Hyperparameters are determinedso as to maximize the marginal likelihood Pr{G=g|,} with respect to ,


Maximization of Marginal Likelihood by EM Algorithm

z

zFzFgGgG }|Pr{},|Pr{},|Pr{ Marginal Likelihood

},|,Pr{ln}',',|Pr{

,',',

z

gGzFgGzF

g

Q

.,,maxarg1,1 :Step-M

},|,Pr{ln)}(),(,|Pr{

,,

:Step-E

,ttQtt

tt

ttQ

z

gGzFgGzF

E-step and M-Step are iterated until convergence:

EM (Expectation Maximization) Algorithm

Q-Function


ContentsContents



計算困難のポイントは何か

2L 通りの和が計算できるか？

FT, FT, FT,21

1 2

,,,x x x

L

L

xxxf

}

}

}

;,,,

F){or Tfor(

F){or Tfor(

F){or Tfor(

;0

21

2

1

L

L

xxxfaa

x

x

x

a

L 重ループ

このプログラムではL=10個のノードで 1秒かかるとしたらL=20個で約 17 分，L=30個で約 12日，L=40個で約 34年かかる．厳密に計算するのは一部の特殊な例

を除いて難しい．

マルコフ連鎖モンテカルロ法

確率伝搬法今回


扱いやすい確率モデルのグラフ表現

扱いやすい確率モデルの数理構造

FT,FT,FT,

FT, FT, FT,

),(),(),(

),(),(),(

CBA

A B C

DChDBgDAf

DChDBgDAf

A

B C

D FT, FT, FT,A B C

扱いやすくない確率モデルの数理構造

FT, FT, FT,

),(),(),(A B C

AChCBgBAf

A

B C

FT, FT, FT,A B C

木構造をもつグラフ表現

閉路を含むグラフ表現

別々に和を計算できる

別々に和を計算することが難しい


転送行列法＝確率伝搬法（ 1）

1次元鎖

1

111, ,

1Pr

N

iiiii xxW

ZxX

1 2 1

1

111,1 ,

x x x

k

iiiiikkk

k

xxWxL

kkk xL 1

kkk xR 1

k

k

1 2 1

1

11,1 ,

k k Nx x x

N

kiiiiikkk xxWxR


転送行列法＝確率伝搬法（ 2）

漸化式

kxkkkkkkkkkk xxWxLxL 11,111 ,

kkk xL 1

k

11 kkk xL

1k

m

m m m N

xmmmmmm

mmmmmm

x x x x x xmm

xRxL

xRxL

xXxX

11

11

1 2 1 1 2 1

PrPr

kkk xR 1

k 11 kkk xR

1k kkk

xkkkkkkk xRxxWxR

k

11,111 ,

パスはひとつ


閉路のないグラフ上の確率伝搬法

1

111, ,

1Pr

N

iiiii xxW

ZxX

k

k

xkkkkkkkkkkkkk

x x x

k

iiiiikkk

xxWxMxMxM

xxWxM

11,321

111,11

,

,

1 2

閉路が無いことが重要 !!

同じノードは２度通らない

1X

2X 3X

1kX

kX

2kX

3kX

1kX


確率的画像処理における確率伝搬法 (Belief Propagation)

着目画素とその近傍画素だけを残すと木構造になる．

確率伝搬法 (Belief Propagation) の統計的近似アルゴリズムとしての転用


閉路のあるグラフ上の確率モデルの確率伝搬法 (Belief Propagation)

MM

メッセージに対する固定点方程式

閉路のあるグラフ上でも局所的な構造だけに着目してアルゴリムを構成することは可能．ただし，得られる結果は厳密ではなく近似アルゴリズム

1 2

1

1151141132112

1151141132112

221 ,

,

z z

z

zMzMzMzz

zMzMzMfz

fM

２１

３

４

５

平均，分散 , 共分散はこのメッセージを使ってあらわされる


確率的画像処理における確率伝搬アルゴリズムの基本構造

ひとつの画素ごとに４種類の更新パターン

４近傍の場合は 3入力 1出力の更新式

画素上での動作の様子の一例


Belief Propagation

Input

Output

BP EM

Update Rule of BP

２１

３

４

５


Maximization of Marginal Likelihood by EM Algorithm

.,,,maxarg1,1,

gttQtt

g

gmf

,ˆ,ˆˆ

0

0.0002

0.0004

0.0006

0.0008

0.001

0 20 40 60 80 100

Loopy Belief Propagation

Exact

0006000ˆ

335.36ˆ

.

LBP

LBP

0007130ˆ

624.37ˆ

.

Exact

Exact


Image Restoration by MRF and Conventional Filters

2ˆ||

1MSE

i

ii ff

MSE

Statistical Method 327

Lowpass Filter

(3x3) 388

(5x5) 413

Median Filter

(3x3) 486

(5x5) 445

(3x3) Lowpass(3x3) Lowpass (5x5) Median(5x5) MedianMRFMRF

Original ImageOriginal Image Degraded ImageDegraded Image

RestoredRestoredImageImage


Digital Images Inpainting based on MRF

Inpu

t

Ou

tpu

t

MarkovRandom

FieldM. Yasuda, J. Ohkubo and K. Tanaka: Proceedings ofCIMCA&IAWTIC2005.


結合ガウス・マルコフ確率場モデル

ライン場についての事前情報


結合ガウス・マルコフ確率場モデル

原画像劣化画像ライン場のない確率場モデル

ライン場を導入した確率場モデル

量子力学的に拡張されたライン場を導入した確率場モデル


ContentsContents



確率モデルによる画像処理技術入門確率モデルによる画像処理技術入門

ベイズ統計をつかった画像処理ベイズ統計をつかった画像処理画像処理の事前分布画像処理の事前分布磁性体の物理モデルとの類似性磁性体の物理モデルとの類似性確率伝搬法（確率伝搬法（ Belief Belief

PropagationPropagation ））


脳の物理モデルの記憶容量，パーセプトロンの容量の評価に類似の議論

標本平均による統計的性能

11g

Pri

or P

rob

abil

ity

1f

2f

3f

21g

12g

22g

13g

23g

Noi

se

11m

12m

21m

22m

31m

32m

Mar

kov

Net

wor

k推定画像劣化画像

Mean Square Error の標本平均

原画像

スピングラス理論による解析的評価が可能

Nishimori and Wong (1999): Physical Review ENishimori and Wong (1999): Physical Review E

マルコフ連鎖モンテカルロ法


統計的性能評価

fdgdfFfFgGfgh

fdgdgGfFfghM

PrPr1

,Pr1

2

2

gh

g fP

g

事前確率

劣化過程

fgP

f

gfP

事後確率修復画像

原画像劣化画像


ReferencesReferencesReferencesReferences

K. Tanaka: Statistical-Mechanical Approach to K. Tanaka: Statistical-Mechanical Approach to Image Processing (Topical Review), J. Phys. A, Image Processing (Topical Review), J. Phys. A, 3535 (2002). (2002).

A. S. Willsky: Multiresolution Markov Models for A. S. Willsky: Multiresolution Markov Models for Signal and Image Processing, Proceedings of Signal and Image Processing, Proceedings of IEEE, IEEE, 9090 (2002). (2002).

K. Tanaka: Statistical-Mechanical Approach to K. Tanaka: Statistical-Mechanical Approach to Image Processing (Topical Review), J. Phys. A, Image Processing (Topical Review), J. Phys. A, 3535 (2002). (2002).

A. S. Willsky: Multiresolution Markov Models for A. S. Willsky: Multiresolution Markov Models for Signal and Image Processing, Proceedings of Signal and Image Processing, Proceedings of IEEE, IEEE, 9090 (2002). (2002).

確率モデルによる画像処理における統計的学習理論

Documents

Transcript of 確率モデルによる画像処理における統計的学習理論