第11回　「コンピュータビジョン最先端ガイド」勉強会＠関東  第４章 バンドルアジャストメント  

４.バンドル調整と統計的推測 慶応義塾大学大学院　  

理工学研究科　青木研究室　  林昌希　  

Twi'er:  @payashim　  Blog  :h'p://derivecv.tumblr.com/

Agenda

•  4.0  誤差とは  (教科書には無い内容)  •  4.1  観測誤差のモデル  •  4.2  幾何学推定の構造  •  4.3  最尤推定  

「４.バンドル調整と統計的推測」の狙い

•  バンドル調整には「計測誤差」がつきもの  •  この誤差を確率分布（正規分布）でモデル化  •  これによりバンドル調整を統計的推測の枠組みでとらえることができる  

•  統計的に扱う事で、推定精度を計算したり、その限界値も知る事が可能になる  

4.0  誤差とは

誤差の２つのタイプ

•  偶然誤差（Random  Error）：今回のテーマ  統計（確率モデル）を用いて表現できる誤差。  ランダム性を正規分布などで表現。    •  系統的誤差(SystemaHc  Error)：統計的にはその量を追っていくことができない誤差

Random  Error  小  SystemaHc  Error  小

Random  Error  大  SystemaHc  Error  小

Random  Error  小  SystemaHc  Error  大 Random  Error  大  

SystemaHc  Error  大

Random  Error  小  SystemaHc  Error  小

Random  Error  大  SystemaHc  Error  小

Random  Error  小  SystemaHc  Error  大 Random  Error  大  

SystemaHc  Error  大

統計的誤差モデルの  対象はRandom  Error  

正規分布と誤差

uu− σ u+ σ u+ 2σu− 2σ

正規分布の誤差  は標準偏差（確率68%）

68%

95%

4.1　観測誤差のモデル

特徴点トラッキングの２フェーズ

フェーズ１：特徴点の抽出＝＞誤差が存在！  フェーズ２： 特徴点のマッチング

Svetlana  Lezebnik,The  University  of  North  Carolina  at  Chapel  Hill

（統計的）誤差のモデル

   •  　　　が互いに独立の場合：  それぞれ独立に正規分布 に従う  •   　　　が独立でない場合  行列Vを共分散とする正規分布 に従う  

 

ui = ui + εi

vi = vi + ε�i

誤差:  

ε, ε�

ε, ε�N (0 ,σ2 )

N (0 ,V )

観測 zi = [ui, vi]T

zi = [ui, vi]T真値

誤差は本当に正規分布？？

•  ランダム性を表すには例えばポアソン分布など、いろいろ候補はある  

•  正規分布は多変数関数の誤差をモデル化しやすいのが利点（詳しくは統計と誤差の専門の本などを参照）  

Outlier（はずれ値）への対応

フェーズ１：特徴点の抽出；誤差が存在！  フェーズ２： 特徴点のマッチング  ＝＞外れ値が存在（誤差モデルは使えない）

Svetlana  Lezebnik,The  University  of  North  Carolina  at  Chapel  Hill

４．２　幾何学推定問題の構造

幾何学的なパラメータ推定問題  の定式化

•  定式化１：陽的拘束(                        を推定）  

 •  定式化２：陰的拘束(　 を推定)

zi = f(ξi, θ)

真値 誤差:  

zi = zi + εi

観測 N(0,V)

ξi, θ

θ

f(zi, θ) = 0

直線推定（例：4.3）

•  n個の点を用いて直線Aのパラメータを推定  

•  パラメータ を導入して拘束を作成

ui = ui + εivi = vi + ε�i

[ui, vi]T = [ξi + aξi + b]T

= f(ξi, [a, b]T ) (陽的拘束)

vi = aui + b観測値 直線A:

ξi

楕円推定（例4.4）

•  n個の点を用いて楕円Cのパラメータを推定  

 •  パラメータ を導入して拘束を作成  

ui = ui + εivi = vi + ε�i

u2

a2+

v2

b2= 1観測値 楕円C:

[ui, vi]T = [a cos ξi, bsinξi]

T

= f(ξi, [a, b]T ) (陽的拘束)

ξi

Structure  from  MoHon　（例4.6）

•  画像１枚の全座標値から３次元座標の推定  

•  全画像上の同じ点からのカメラパラメータ推定

zi ≡ [ui1, vi1, ui2, vi2, . . .]視点iでの全座標値：

j番目の点の全座標値： zj ≡ [u1j, v1j, u2j, v2j, . . .]

θ = [pTi , . . . ,p

Tm]T

推定対象  （カメラパラメータ群）：

推定対象  （３次元座標群）：

θ = [qTi , . . . ,q

Tm]T

4.3  最尤推定

4.3.1  最尤推定としてのバンドル調整

•  尤度（パラメータに対する観測の出現確率）  

•  確率密度関数を分解

L(Θ;Z) ≡ p(Z;Θ)

p(Z;x) =n�

i=1

p(zi, ξi, θ) 各誤差が互いに独立と仮定

p(zi, ξi, θ) =1

2πσ2exp(− 1

2πσ2(zi − zi)

2)

尤度最大化  =  再投影誤差最小化

•  尤度の対数をとると、再投影誤差の項が出現  

•  「再投影誤差を最小化  =    尤度最大化」 となる  E(x) ≡ 1

2

n�

i=1

(Zi − ηi)2※再投影誤差：

l(x;Z) = − 1

2σ2

n�

i=1

(Zi − f(ξi, θ))2 − nlog2πσ2

E(x) =1

2

n�

i=1

(zi − ηi)2Minimize

subject to f(ηi, θ) = 0, i = 1, . . . , n

不偏性と推定精度

•  不偏性（unbiasedness）：推定量の期待値がその真の値に一致する事。  

•  推定精度：上記の不遍性を追求したうえで、推定量の分散の小ささを精度と考える。  

•  すなわち、Random  Errorを期待したうえで、正規分布の分散の小ささを精度と考える！

Random  Error  小  SystemaHc  Error  小

Unbiased  

Biased  

分散小さい：  精度Good  

分散大きい  精度Bad  

4.3.2  クラメル・ラオの下界

•  与えられた観測データから、推定の分散をどこまで小さくできるかの限界点  

•  推定量　が不偏のとき、その下界の分散はFisher情報行列の逆行列として与えられる

Fisher情報行列： Γ(x) = Ex[(∂l

∂x)(

∂l

∂y)T ]

covx(x̂) = covx(t(Z)) ≥ Γ(x)

4.3.3  最尤推定の漸近最適性

「観測誤差の分散が十分に小さいとき、最尤推定量はほぼ最高の精度を達成する」  以下、その理由：  •  分散が０に漸近する極限では  

     「推定量の真の値　＝ 平均」  となる。これはクラメル・ラオの下界を達成するベストの推定量。  •  分散０はありえないが、これが０に近ければ近いほど最尤推定量はベストの誤差となる  

「観測数」の読み替え

•  バンドルアジャストメントでは、観測１つに対して１つのパラメータが存在するので、観測数  

                                         で最尤推定の真値に漸近させようとしても、パラメータも比例して増大するので漸近しない（ネイマンスコット問題）  •  そこで、やや強引ではあるが「局所的な範囲で真値に漸近にするm個ずつの観測を繰り替えす」と仮定し、漸近最適性を適用している。  

n → ∞

4.3.4  最尤推定量の精度の計算

「共分散（最尤推定の精度）」の推定値の計算方法  •  （方法１）Fisher情報行列を期待値から計算し、その逆行列を共分散の推定値とする（方法2より推定精度は微妙なものの、ガウスニュートン法やレベンバーグマーカート法では簡単に求まる）  

•  （方法2）観測情報行列を計算し、その逆行列を共分散の推定値とする（こちらの方が推定精度は良いとされる[20]）  

まとめ

•  4.0  誤差とは  Random  Errorと正規分布の関係  •  4.1  観測誤差のモデル  正規分布の誤差による観測の表現モデル  •  4.2  幾何学推定の構造  各問題の誤差モデルを用いた定式化  •  4.3  最尤推定  最尤推定量は漸近的に正規分布に従い、その共分散（精度）の推定にはフィッシャー情報行列/観測情報行列の逆行列を用いる