博士論文発表会確率的セルオートマトンの変分ベ...

博士論文発表会

確率的セルオートマトンの変分ベイズ学習と交通流解析への応用

渡辺研究室

14D35099 中村文士

1

1.序論

2.確率的セルオートマトン

3.TASEPの変分ベイズ学習

4.ZRPの変分ベイズ学習

5.他の学習法との比較

6.結論

7.予備審査における質問の回答

2

1.序論





6.結論


3

1.序論

4

渋滞の原因の解明・解消を行うため車の流れ（交通流）のモデル化を行う

交通渋滞によって引き起こされる様々な問題

・遅延による時間的，経済的損失(一人当たり年間約40時間,12兆円)

・交通事故の増加

・排気ガス排出量の増加による環境悪化

・交通量増加による騒音

例:

素材:写真素材ぱくたそ（www.pakutaso.com）photo すしぱく

5

交通流を表現するモデル

• 流体モデル• 車を流体として扱う• 連続時間，連続空間を巨視的視点に扱う

• 追従モデル• 個々の車両が前方の車両の影響を受け，運転方法を決定する• 連続時間，連続空間を微視的視点に扱う

• セルオートマトンモデル（CAモデル）• 個々の車両がセルと呼ばれる離散格子状をある規則に従って進む• 離散時間，離散空間を微視的視点に扱う

・Lighthill, M. J. and Whitham, G. B., 1955・Kerner, B. S., and Konhäuser, P., 1993・Kang, Y. and Sun, D., 2013

・Pipes, L.A., 1953・Bando, M., Hasebe, K., Nakayama, A., et.al, 1995・Kesting, A., Treiber, Helbing, D., 2010

・Nagel, K., Schreckenberg, M., 1992・Kanai, M., Nishinari, K., Tokihiro, T., 2005・Sakai, S., Nishinari, K., Iida, S., 2006

6

これまでに取られてきた解析方法

例:

経験的にモデル構築が行われ，再現性が低い問題点:

車両密度

流量

実測で得られる基本図生成された基本図

車両密度

流量

実測の例:Tadaki, S., Nishinari, K., Kikuchi, M.,“Observation of congested two-lane traffic caused by a tunnel”, 2002

評価・流体モデル

・追従モデル

・CAモデル

生成

交通流モデル

モデルを定め，実測で得られる交通流指標を再現できるか調べる(順問題的アプローチ)

・基本図（車両密度と流量の関係図）

7

・小林浩一,山崎啓介, "交通流の基本図におけるSOVモデルのパラメータ推定について",2011・Kobayashi, K., Yamazaki, K.,” Parameter estimation accuracy and active learning in the zero-range process”,2012・山崎啓介, "多種粒子TASEPを表現する混合分布モデルと統計的粒子クラスタリングについて", 2014

交通流データから統計的に交通流モデル(特に確率的CAモデル)を推定（逆問題的アプローチ）

・流体モデル

・追従モデル

・CAモデル

推定交通流モデル

車両密度

流量

交通流データ

統計的推定による解析

基本図時空図

例:・時空図（時間に対する位置データ）・基本図の特徴

データからモデル構築を行うため，再現性が高い

時間

位置・最尤法

・ベイズ法

利点:

8

問題点

１．モデル・確率的セルオートマトンモデルで多様性が考慮されていない

車両が同じモデルに従って走行するモデルを想定しているが，運転方法には速い・遅い，前に詰めやすい・詰めにくいなどが考えられ、多様でないモデルは平均化された推定が行われるため，精度の高い推定が困難である．

２．手法・最尤法は精度が悪い

多様な運転特性が内在するモデルは階層構造を含んでおり，最尤法の精度が悪い．

・ベイズ法は計算量が多い推定結果を得るためMCMC(マルコフ連鎖モンテカルロ法)をする必要があり，計算量が多い．

9

１．モデル・確率的セルオートマトンモデルで多様性を考慮した推定を考える

速い・遅い、前に詰めにやすい・詰めにくいなどを考慮したモデルであるため，再現性が高く，詳細な運転規則の解明に役立つ．

２．手法・変分ベイズ法を用いる

最尤法に比べ推定精度が良い．ベイズ法に比べ計算量が少ない．

解決策

10

研究目的

1. (新規性) 確率的セルオートマトンモデルの一種である多種粒

子TASEPと多種粒子ZRPの統計的推測に変分ベイズ法を適用

することを提案し，学習アルゴリズムの導出を行う．

2. (有効性) 人工データ・実測データへの適用，他の学習法と

予測精度・計算時間の観点で比較することで検証する．

11

1.序論





6.結論


2.確率的セルオートマトンモデル

12

・体積排除効果(同じセルを最大1台の車両しか占有できない)を持つ→前のセルが空いていない場合，確率１で留まる

特徴:

現在の時刻

次の時刻

11 − 𝑓𝐴 𝑓𝐶(周期境界条件)

1 2 3

1 23

5つのセル上を走行する車両の例

※本発表は、1次元で周期境界条件を持つSCAを考える

CAモデルの中で個々の車両がセル状をある確率的規則に従って進む

Stochastic Cellular Automaton(SCA)

13

代表的なSCAモデル

・Totally Asymmetric Simple Exclusion Process(TASEP)一定の確率に従って前進するモデル

・Zero Range Process(ZRP)前の車両との車間距離に応じた確率で前進するモデル

・Stochastic Optimal Velocity(SOV)モデル1時刻前の前進確率に応じて前進確率が変化するモデル

・Nagel-Schreckenberg (NS)モデル加減速，ランダムブレーキを行うモデル

14

Totally Asymmetric Simple Exclusion Process (TASEP)

・前が空いている場合，ホップ確率𝑓で前進

本論文で考えるSCAの挙動

・ 𝑓 が大きいほど進みやすく小さいほど進みにくいため，車両の平均速度を表している

確率𝑓

1

1時刻𝑡

時刻𝑡 + 1

研究例:・Kanai, M., Nishinari, K., Tokihiro, “Exact solution and asymptotic behavior of the asymmetric simple exclusion process on a ring.”, 2006.・Ben, G., Corwin, I., “Current fluctuations for TASEP: A proof of the Prähofer-Spohn conjecture.”, 2011.

15

時刻𝑡

時刻𝑡 + 1

1 − 𝑓1 𝑓3𝑓1 1 − 𝑓2

1

1

2

2

3

3

4

4

多種粒子TASEP

・車両が𝐾種類のホップ確率𝑓1, … , 𝑓𝐾のうちどれか一つに従って走行

3種類のホップ確率のうちどれかに従って車両が走行する例

・平均速度の速い車両，遅い車両などを内包することが可能

研究例:・Karimipour, V., “Multispecies asymmetric simple exclusion process and its relation to traffic flow.”, 1999.・Rákos, A., Schütz, G. M., “Bethe ansatz and current distribution for the TASEP with particle-dependent hopping rates”, 2005.

前の車との距離𝑑に応じて前進確率𝑓(𝑑)が変化

16

時刻𝑡

時刻𝑡 + 1

1 − 𝑓(1) 𝑓(3) 𝑓(2)

𝑑 = 1 𝑑 = 3

1 2 3

𝑑 = 2（周期境界条件により）

・𝑣𝑔𝑜𝑎𝑙:目標速度（進みたい速度）

・赤丸部分:車間の詰めやすさ

・𝑓 𝑑 = 一定:TASEP（ZRPはTASEPの拡張）𝑑

OV関数

𝑣𝑔𝑜𝑎𝑙

・𝑓 𝑑 :最適速度関数(Optimal Velocity OV関数)

Zero Range Process(ZRP)

1 2 3

𝑓(𝑑)

研究例:・Kaupužs, J., Mahnke, R., Harris, R. J., “Zero-range model of traffic flow.”, 2005.・Kanai, M., “Exact solution of the zero-range process: fundamental diagram of the corresponding exclusion process”, 2007.

17

・𝐾種類のOV関数𝑓1(𝑑), 𝑓2(𝑑), … , 𝑓𝐾(𝑑)を持つ

時刻𝑡

時刻𝑡 + 1

1 − 𝑓1(1) 𝑓3(2)𝑓1(1) 1 − 𝑓2(2)

1

1

2

2

3

3

4

4

OV関数 𝑓3(𝑑)

𝑓2(𝑑)

𝑓1(𝑑)・𝑓𝑘 𝑑 = 一定:多種粒子TASEP（多種粒子ZRPは多種粒子TASEPの拡張）

研究例:・Evans, M. R., “Phase transition in two species zero-range process.”, 2003.・Großkinsky, S., Spohn, H., “Stationary measures and hydrodynamics of zero range processes with several species of particles.”, 2003.

多種粒子ZRP

18

これらのモデルの変分ベイズ法による推定方法を考える

本論文で考えるSCAの一覧

車間距離を考慮しない車間距離を考慮する

多様性を含まない TASEP ZRP

多様性を含む多種粒子TASEP 多種粒子ZRP

19

1.序論





6.結論


20


こちらについて考える

F.Nakamura, K.Yamazaki,”Two Statistical Methods for Grouping Vehicles in Traffic Flow Based on Probabilistic Cellular Automata”, SCIS & ISIS, 2014.

研究詳細:




21

TASEPの統計的表現

・車両の動き：ベルヌーイ試行

「進まない」「進む」 1

1確率𝑓

1

1確率1 − 𝑓

𝑝 進んだ回数𝑦|試行回数𝑥, 𝑓 =𝑥𝑦 𝑓𝑦 1 − 𝑓 𝑥−𝑦

TASEPの統計的表現:2項分布試行回数(「進む」回数と「進まない」回数の合計)が𝑥回であるとき，進んだ回数が𝑦回である確率で表現

22

𝑝 𝑦|𝑥, 𝑤 =

𝑘=1

𝐾

𝑎𝑘𝑥𝑦 𝑓𝑘

𝑦1 − 𝑓𝑘

𝑥−𝑦

𝑥(𝑖), 𝑦(𝑖)𝑖=1

𝑛𝑛台の学習データ(試行回数𝑥,進んだ回数𝑦) で推定

・𝐾種類のホップ確率𝑓1, … , 𝑓𝐾が混合比𝑎1, … , 𝑎K で含まれている

・車両が従うホップ確率は不明であるため，すべての可能性を加味

混合比とホップ確率の組 𝑤 = 𝑎𝑘 , 𝑓𝑘; 𝑘 = 1,… , 𝐾 を

多種粒子TASEPの統計的表現:混合分布

多種粒子TASEPの統計的表現

・各車両は隠れ変数として，割り当てられるホップ確率のラベルを持つ

23

𝑝𝑣𝑏 𝑤 𝑝𝑣𝑏 𝑧𝑛 = argminҧ𝑝𝑣𝑏 𝑤 ҧ𝑝𝑣𝑏(𝑧

𝑛)

𝑧𝑛

න ҧ𝑝𝑣𝑏 𝑤 ҧ𝑝𝑣𝑏 𝑧𝑛 logҧ𝑝𝑣𝑏 𝑤 ҧ𝑝𝑣𝑏 𝑧𝑛

𝑝 𝑦𝑛, 𝑧𝑛|𝑥𝑛, 𝑤 𝑝0 𝑤 𝜙, 𝛼, 𝛽𝑑𝑤

= argminҧ𝑝𝑣𝑏 𝑤 ҧ𝑝𝑣𝑏(𝑧

𝑛)ℱ( ҧ𝑝𝑣𝑏)

𝑝𝑣𝑏 𝑤 ∝ exp 𝐸𝑧 log 𝑝 𝑦𝑛, 𝑧𝑛|𝑥𝑛, 𝑤 𝑝0 𝑤 𝜙, 𝛼, 𝛽

𝑝𝑣𝑏 𝑧𝑛 ∝ exp 𝐸𝑤 log 𝑝 𝑦𝑛, 𝑧𝑛|𝑥𝑛, 𝑤

𝑝𝑣𝑏 𝑤 と𝑝𝑣𝑏 𝑧𝑛 は以下の形を満たす分布:

変分ベイズ法は𝑝𝑣𝑏 𝑤 と𝑝𝑣𝑏(𝑧𝑛)の形状を交互に繰り返し更新する手法

𝐸𝑤 ⋅ : 𝑝𝑣𝑏(𝑤)による平均

𝐸𝑧 ⋅ : 𝑝𝑣𝑏(𝑧𝑛)による平均

変分ベイズ法の概要

今回は，パラメータの分布𝑝𝑣𝑏(𝑤)と𝑛個のクラスタ(隠れ変数)𝑧𝑛の分布𝑝𝑣𝑏(𝑧𝑛)

を以下の目的関数ℱ( ҧ𝑝𝑣𝑏)を最小にするものから選ぶ手法(付録1)

𝑝 𝑦𝑛 , 𝑧𝑛|𝑥𝑛, 𝑤 :完全データの尤度

𝑝0 𝑤 𝜙, 𝛼, 𝛽 :パラメータの事前分布(𝜙, 𝛼, 𝛽はハイパーパラメータ)

24

多種粒子TASEPの変分ベイズ法の学習アルゴリズム

𝜙𝑘 =

𝑖=1

𝑛

Ƹ𝑧𝑘(𝑖)+ 𝜙 ො𝛼𝑘 =

𝑖=1

𝑛

Ƹ𝑧𝑘(𝑖)𝑦(𝑖) + 𝛼 መ𝛽𝑘 =

𝑖=1

𝑛

Ƹ𝑧𝑘𝑖𝑥(𝑖) − 𝑦(𝑖) + 𝛽

①隠れ変数 Ƹ𝑧𝑘(𝑖)

= 𝑝𝑣𝑏 𝑧𝑘𝑖= 1 の初期化

𝐿𝑖𝑘 = 𝜓 𝜙𝑘 + 𝑦(𝑖)𝜓 ො𝛼𝑘 + 𝑥(𝑖) − 𝑦(𝑖) 𝜓 መ𝛽𝑘 − 𝑥 𝑖 𝜓 ො𝛼𝑘 + መ𝛽𝑘 ,

Ƹ𝑧𝑘(𝑖)

=exp 𝐿𝑖𝑘

σ𝑙=1𝐾 exp 𝐿𝑖𝑙

.

𝑘 = 1,… ,𝐾

𝜓 𝑥 =𝑑

𝑑𝑥log Γ(𝑥)

②𝑛台のデータ 𝑥(𝑖), 𝑦(𝑖)𝑖=1

𝑛を用いて，以下のステップを交互に繰り返し計算する

・𝑝𝑣𝑏(𝑤)の更新

・𝑝𝑣𝑏(𝑧𝑛)の更新

混合比の分布𝑝𝑣𝑏(𝑎1, … , 𝑎𝐾)の形状 𝜙𝑘を更新ホップ確率の分布𝑝𝑣𝑏(𝑓𝑘)の形状 ො𝛼𝑘 , መ𝛽𝑘を更新

𝜙:混合比のハイパーパラメータ 𝛼, 𝛽:ホップ確率のハイパーパラメータ

25

学習結果

ො𝑎𝑘 =𝜙𝑘

σ𝑙=1𝐾 𝜙𝑙

መ𝑓𝑘 =ො𝛼𝑘

ො𝛼𝑘 + መ𝛽𝑘

ℱ 𝑝𝑣𝑏 = 𝐹1 + 𝐹2,

目的関数

𝐹1 =

𝑘=1

𝐾

൛ 𝜙𝑘 − 𝜙 𝜓 𝜙𝑘 − log Γ 𝜙𝑘 + ො𝛼𝑘 − 𝛼 𝜓 ො𝛼𝑘 − log Γ ො𝛼𝑘 + መ𝛽𝑘 − 𝛽 𝜓 መ𝛽𝑘

ൟ− log Γ መ𝛽𝑘 − ො𝛼𝑘 + መ𝛽𝑘 − 𝛼 − 𝛽 𝜓 ො𝛼𝑘 + መ𝛽𝑘 + log Γ( ො𝛼𝑘 + መ𝛽𝑘) + 𝐶𝑜𝑛𝑠𝑡,

𝐹2 = −

𝑖=1

𝑛

log

𝑘=1

𝐾

exp 𝐿𝑖𝑘 .

ℱ 𝑝𝑣𝑏 :

ෝ𝑤 = ො𝑎𝑘 , መ𝑓𝑘 𝑘=1

𝐾= 𝐸𝑤[𝑤]:

𝐶𝑜𝑛𝑠𝑡:学習結果に依らない定数

値が小さいほど良い学習結果を表す

混合比: ホップ確率:

26

人工データへの適用

実験設定

𝑎∗ = (0.33,0.33,0.34) 𝑓∗ = (0.5,0.7,0.9)真のパラメータ: 𝑤∗ = 𝑎𝑘∗ , 𝑓𝑘

∗𝑘=13 : 混合比: ホップ確率:

・ハイパーパラメータ: 𝜙, 𝛼, 𝛽 = (1,1,1)

・変分ベイズの繰り返し回数:1000回，初期値を変える回数:500回

・学習データ:200台，車両の密度:0.4，CAの更新回数:100回

②ℱ(𝑝𝑣𝑏)を最小にする𝐾に対する学習結果を調べる

確認方法

①ホップ確率の混合数𝐾を1から10まで変化させてℱ(𝑝𝑣𝑏)の値でモデル選択を行う

得られた変分ベイズ法のアルゴリズムで正しく推定可能であるか確認する

真の混合数:3

27

推定結果①混合数𝐾のモデル選択

②ℱ(𝑝𝑣𝑏)を最小にする混合数(𝐾 = 3)による学習結果ෝ𝑤 = ො𝑎𝑘 , መ𝑓𝑘 𝑘=1

3

ො𝑎 = (0.32,0.34,0.34) መ𝑓 = (0.51,0.69,0.90)混合比の推定結果: ホップ確率の推定結果:

正しいモデルを選択できること，真のパラメータを概ね正確に推定できることを確認

ℱ(𝑝𝑣𝑏)

𝐾

𝐾 = 3が最小

𝑎∗ = (0.33,0.33,0.34) 𝑓∗ = (0.5,0.7,0.9)真の混合比: 真のホップ確率:

28

Y.Sugiyama et al. “Traffic jams without bottlenecks-experimental evidence for the physical mechanism of the formation of a jam”, 2008.

・0秒から500秒まで1/3秒(合計1501タイムステップ)毎に車両の位置を記録したデータが公開されている

杉山らによる渋滞形成実験：周囲230mの円周上を走行する23台の車両の位置を計測

…

① ②

③

④

㉓

㉒

データの説明

・1000タイムステップ以降で渋滞が発生

参照URL: http://traffic.phys.cs.is.nagoya-u.ac.jp/

実測データへの適用

29

実験設定

・時間を6つに分割し，非渋滞時(1~251タイムステップ)のデータと渋滞時(1001~1251タイムステップ)のデータを用いた結果を示した(他の結果は付録3)

・空間を離散化して52セルに分割した

・変分ベイズ学習のハイパーパラメータ，繰り返しなどは人工データの場合と同様のものを用いた

・ホップ確率の混合数𝐾は1から23まで変化させモデル選択を行った

30

推定結果（他の推定結果は付録3）

𝐾

𝐾 = 3が最小値

1~251タイムステップ（非渋滞時）の結果

ො𝑎 = (0.66,0.22,0.12)

መ𝑓 = (0.43,0.53,0.87)

混合比:

ホップ確率:

𝐾 = 3における学習結果

ℱ(𝑝𝑣𝑏) ℱ(𝑝𝑣𝑏)

𝐾

𝐾 = 2が最小値

𝐾 = 2における学習結果

ො𝑎 = (0.80,0.20)

መ𝑓 = (0.39,0.55)ホップ確率:

1001~1251タイムステップ（渋滞時）の結果

混合比:

・複数の運転方法があることを推定により確認できた・運転方法の非定常性を確認できた

31

学習データと推定結果の整合性の確認

ホップ確率が低いクラスタの時空図

※クラスタは隠れ変数の分布𝑝𝑣𝑏(𝑧𝑛)を基に決定

高いクラスタの時空図

ホップ確率が低いクラスタの車両(車両番号1,7) ，高いクラスタ(車両番号14,20)の車両の比較

100~200タイムステップのデータ

各車両のホップ確率 መ𝑓 𝑖 = Τ𝑦(𝑖) 𝑥(𝑖)

መ𝑓(1) = 0.41, መ𝑓(7) = 0.39 መ𝑓(14) = 0.89, መ𝑓(20) = 0.84

ホップ確率が高いクラスタに推定された車両は前に詰めやすく，自分自身のホップ確率も高い

→学習データに対して整合性の取れた結果が得られた

前に詰めている!前に詰めていない（赤線の幅が大きい等）

32

1.序論





6.結論


33


中村文士,山崎啓介,”変分ベイズ法による多種粒子ZRPの統計的推測について”,応用数理学会論文誌,2016

研究詳細:

こちらについて考える




34

・車間𝑑に対する車両の動き：ベルヌーイ試行

「進まない」「進む」 1

1確率𝑓𝑑

1

1確率1 − 𝑓𝑑

𝑝 車間距離𝑑で進んだ回数𝑦𝑑|車間距離𝑑の試行回数𝑥𝑑 =𝑥𝑑𝑦𝑑

𝑓𝑑𝑦𝑑 1 − 𝑓𝑑

𝑥𝑑−𝑦𝑑

𝑝 𝑦1, 𝑦2, … , 𝑦𝑀|𝑥1, 𝑥2, … , 𝑥𝑀 =ෑ

𝑗=1

𝑀𝑥𝑗𝑦𝑗

𝑓𝑗𝑦𝑗 1 − 𝑓𝑗

𝑥𝑗−𝑦𝑗

全ての車間距離1, … ,𝑀を考慮した確率で表現

𝑀:CAの最大車間距離

ZRPの統計的表現:2項分布の積

ZRPの統計的表現

35

𝑝 𝑦1, 𝑦2, … , 𝑦𝑀|𝑥1, 𝑥2, … , 𝑥𝑀, 𝑤 =

𝑘=1

𝐾

𝑎𝑘ෑ

𝑗=1

𝑀𝑥𝑗𝑦𝑗

𝑓𝑘𝑗

𝑦𝑗1 − 𝑓𝑘𝑗

𝑥𝑗−𝑦𝑗

𝑛台の学習データ 𝑥1(𝑖), , … , 𝑥𝑀

𝑖, 𝑦1

(𝑖), … , 𝑦𝑀

(𝑖)

𝑖=1

𝑛で推定

混合比とOV関数の組𝑤 = 𝑎𝑘 , 𝑓𝑘1, … , 𝑓𝑘𝑀 𝑘=1𝐾 を

多種粒子ZRPの統計的表現:混合分布

多種粒子ZRPの統計的表現

・𝐾種類のOV関数𝑓1𝑑 , … , 𝑓𝐾𝑑が混合比𝑎1, … , 𝑎Kで含まれている

・車両が従うOV関数は不明であるため，すべての可能性を加味

・各車両は隠れ変数として，割り当てられるホップ確率のラベルを持つ

36

ො𝛼𝑘𝑗 =

𝑖=1

𝑛

Ƹ𝑧𝑘(𝑖)𝑦𝑗(𝑖)+ 𝛼, መ𝛽𝑘𝑗 =

𝑖=1

𝑛

Ƹ𝑧𝑘𝑖

𝑥𝑗𝑖− 𝑦𝑗

𝑖+ 𝛽

𝐿𝑖𝑘 = 𝜓 𝜙𝑘 +

𝑗=1

𝑀

𝑦𝑗𝑖𝜓 ො𝛼𝑘𝑗 + 𝑥𝑗

𝑖− 𝑦𝑗

𝑖𝜓 መ𝛽𝑘𝑗 − 𝑥𝑗

𝑖𝜓( ො𝛼𝑘𝑗 + መ𝛽𝑘𝑗) ,

Ƹ𝑧𝑘(𝑖)

=exp 𝐿𝑖𝑘

σ𝑙=1𝐾 exp 𝐿𝑖𝑙

.

・𝑝𝑣𝑏(𝑤)の更新

𝑘 = 1,… ,𝐾 𝑗 = 1,… ,𝑀𝛼, 𝛽:OV関数のハイパーパラメータ

多種粒子ZRPの変分ベイズ学習アルゴリズム①隠れ変数 Ƹ𝑧𝑘

(𝑖)= 𝑝𝑣𝑏 𝑧𝑘

𝑖= 1 の初期化

② 𝑛台のデータ 𝑥(𝑖), 𝑦(𝑖)𝑖=1

𝑛を用いて，以下のステップを交互に繰り返し計算する

・𝑝𝑣𝑏(𝑧𝑛)の更新

混合比の分布𝑝𝑣𝑏(𝑎1, … , 𝑎𝐾)の形状 𝜙𝑘を更新 OV関数の分布𝑝𝑣𝑏 𝑓𝑘𝑗 の形状 ො𝛼𝑘𝑗 , መ𝛽𝑘𝑗を更新

𝜙:混合比のハイパーパラメータ

𝜙𝑘 =

𝑖=1

𝑛

Ƹ𝑧𝑘(𝑖)+ 𝜙

※赤の部分が多種粒子TASEPと異なる

37

𝐹1 =

𝑘=1

𝐾

൦ 𝜙𝑘 − 𝜙 𝜓 𝜙𝑘 − log Γ 𝜙𝑘 +

𝑗=1

𝑀

൛ ො𝛼𝑘𝑗 − 𝛼 𝜓 ො𝛼𝑘𝑗 − log Γ ො𝛼𝑘𝑗 + መ𝛽𝑘𝑗 − 𝛽 𝜓 መ𝛽𝑘𝑗

ቃൟ− log Γ መ𝛽𝑘𝑗 − ො𝛼𝑘𝑗 + መ𝛽𝑘𝑗 − 𝛼 − 𝛽 𝜓 ො𝛼𝑘𝑗 + መ𝛽𝑘𝑗 + log Γ( ො𝛼𝑘𝑗 + መ𝛽𝑘𝑗) + 𝐶𝑜𝑛𝑠𝑡,

𝐹2 = −

𝑖=1

𝑛

log

𝑘=1

𝐾

exp 𝐿𝑖𝑘 .

ℱ 𝑝𝑣𝑏 :

ℱ 𝑝𝑣𝑏 = 𝐹1 + 𝐹2,

𝐶𝑜𝑛𝑠𝑡:学習結果に依らない定数

学習結果 ෝ𝑤 = ො𝑎𝑘 , መ𝑓𝑘1, … , መ𝑓𝑘𝑀 𝑘=1

𝐾= 𝐸𝑤[𝑤]:

ො𝑎𝑘 =𝜙𝑘

σ𝑙=1𝐾 𝜙𝑙

混合比: መ𝑓𝑘𝑗 =ො𝛼𝑘𝑗

ො𝛼𝑘𝑗 + መ𝛽𝑘𝑗OV関数:

目的関数

※赤の部分が多種粒子TASEPと異なる

38

実験設定

実測データへの適用※人工データに対する推定は多種粒子TASEPの場合と同様に行い，正しく動作することを確認した(付録2)

・52セルで時間を6つに分割したデータを用いた

・多種粒子TASEPで用いた実測データを用いた

・車間距離の最大値4として，5以上は4と同じOV関数を用いた



・混合数𝐾を1から23まで変化させ， ℱ(𝑝𝑣𝑏)を最小のもので推定を行った

39

推定結果（他の推定結果は付録3）

車間距離

መ𝑓𝑘𝑑 መ𝑓𝑘𝑑

車間距離

混合比: ො𝑎𝑘: 0.07

: 0.24

: 0.21

: 0.21

: 0.17

: 0.10


: 0.20

: 0.23

: 0.07

: 0.23

: 0.10

: 0.10

・多種粒子TASEPに比べ，詳細な運転方法を推定できた・渋滞時は非渋滞時に比べ，運転方法が多様になることを確認できた

1~251タイムステップ（非渋滞時）の結果 1001~1251タイムステップ（渋滞時）の結果

混合数𝐾 = 6でℱ(𝑝𝑣𝑏)は最小混合数𝐾 = 7でℱ(𝑝𝑣𝑏)は最小

※ ො𝑥𝑘𝑗 = σ𝑖=1𝑛 Ƹ𝑧𝑘

(𝑖)𝑥𝑗(𝑖)

が小さい部分のOV関数は除いて描画した

40

多種粒子TASEPとの整合性

ホップ確率が高い車両はOV関数が高い値に属する傾向があることを確認できた→多種粒子ZRPは多種粒子TASEPと整合性の取れた結果であった

1~251の推定結果

𝑝𝑣𝑏(𝑧𝑛)で各車両に割り当てられるホップ確率とOV関数に注目して比較した

多種粒子TASEP 多種粒子ZRP

車両番号

車間距離1のOV関数:𝑓1 1 = 0.15

7

𝑓2 1 = 0.21 4,5,10,11,13,18

𝑓3 1 = 0.22 1,6,17,21,23

𝑓4 1 = 0.39 8,9,12,16,22

𝑓5 1 = 0.51 2,3,15,19

𝑓6 1 = 0.87 14,20

車両番号

ホップ確率:𝑓1 = 0.43

1,4,5,6,7,9,10,11,12,13,16,17,18,21,22,23

𝑓2 = 0.53 2,3,8,15,19

𝑓3 = 0.87 14,20

41

1.序論





6.結論


42

𝐺𝑛 =1

𝑇

𝑡=1

𝑇

log𝑞 𝑦 𝑡 |𝑥 𝑡 , 𝜌

Ƹ𝑝 𝑦 𝑡 |𝑥 𝑡 , 𝜌, 𝑥𝑛, 𝑦𝑛

予測を精度良く，短い計算時間で行うことは新しく交通流シミュレーションを行うため重要→多種粒子ZRPの推定で最尤法(EM法) ，ベイズ法，変分ベイズ法の予測精度・計算時間の比較

予測精度:汎化誤差𝐺𝑛

𝑞 𝑦 𝑡 |𝑥 𝑡 , 𝜌 = 𝑝 𝑦 𝑡 |𝑥 𝑡 , 𝜌, 𝑤∗ :真の分布

比較対象の予測分布 Ƹ𝑝 𝑦 𝑡 |𝑥 𝑡 , 𝜌, 𝑥𝑛, 𝑦𝑛 一覧

𝑥(𝑡), 𝑦(𝑡)|𝜌𝑡=1

𝑇:車両密度𝜌のCAから発生させた𝑇個のテストデータ

𝑥(𝑡):車間毎の試行回数 𝑦(𝑡):車間毎の進んだ回数

最尤法(EM法) ベイズ法変分ベイズ法


= 𝑝 𝑦 𝑡 |𝑥 𝑡 , 𝜌, ෝ𝑤𝑒𝑚

ෝ𝑤𝑒𝑚:EM法で得られる推定量


=1

𝐿

𝑙=1

𝐿

𝑝 𝑦 𝑡 |𝑥 𝑡 , 𝜌, 𝑤𝑚𝑐𝑚𝑐𝑙

𝑤𝑚𝑐𝑚𝑐𝑙

:MCMC(ギブスサンプリング)で得られるサンプル


= 𝐸𝑤 𝑝 𝑦 𝑡 |𝑥 𝑡 , 𝜌, 𝑤

𝐸𝑤 ⋅ : 𝑝𝑣𝑏(𝑤)による平均


𝑤∗:真のパラメータ

43

実験設定

学習データとテストデータを100セット用意し，混合数𝐾 = 2,4の場合で汎化誤差と学習に要した計算時間の比較を行った

𝑎𝑘∗ = (0.5,0.5) 𝑓1

∗ = (0.2,0.4,0.6) 𝑓2∗ = (0.5,0.7,0.9)真のパラメータ 𝑤∗ = 𝑎𝑘

∗ , 𝑓𝑘∗

𝑘=12 :

・学習データ:100台，車両の密度:0.5 ，セルの更新回数:100回

学習の設定

テストの設定


・MCMCのバーンイン:1000回，サンプル取得間隔:200回/サンプル， MCMCのサンプル数:1000個

・変分ベイズ， EM法の繰り返し回数:1000回，初期値を変える回数:500回

・テストデータ:10000台, 車両の密度:0.5, セルの更新回数:100回

44

実験結果(汎化誤差のヒストグラム)

・変分ベイズ法は，最尤法に比べ予測精度が高くベイズ法とほぼ同じ予測精度であった

※E[G]:データの出方による汎化誤差の平均値

最尤法(EM法)

ベイズ法

変分ベイズ法

𝐸 𝐺= 0.0447

𝐸 𝐺= 0.0352

E G= 0.0351

最尤法(EM法)

ベイズ法

変分ベイズ法

𝐸 𝐺= 0.0670

𝐸 𝐺= 0.0467

𝐸 𝐺= 0.0476

混合数𝐾 = 2の場合 𝐾 = 4の場合

45

実験結果(計算時間のヒストグラム)

混合数𝐾 = 2の場合 𝐾 = 4の場合

→以上から，変分ベイズ法は予測精度・計算時間の観点で有用

・変分ベイズ法は，最尤法とほぼ同じ計算時間で，ベイズ法に比べ計算時間が短いことが分かった

最尤法(EM法)

ベイズ法

変分ベイズ法

平均:9.9秒

平均:212.9秒

平均:17.8秒

最尤法(EM法)

ベイズ法

変分ベイズ法

平均:13.3秒

平均:206.3秒

平均:15.9秒

46

1.序論





6.結論


6.結論

47

・確率的セルオートマトンの一種である多種粒子TASEPと多種粒子

ZRPの統計的推測に変分ベイズ法を適用することを提案した．

・提案法を人工データ，実測データに適用し，多様な運転特性が推定

可能であることを検証した．

・他の学習法との比較により，今回のモデルでは予測精度・計算時間

の観点で変分ベイズ法が有用であることを明らかにした．

48

1.序論





6.結論


49

7.予備審査におけるコメント・質問の回答樺島先生:

1. どのような応用があるか→提案法に対するすでにある順問題の研究(2章の研究例)と組み合わせることで，観測データの詳細な解析が可能になると考えています．

2. モデルの改良→今後，加速度を考慮したモデルや車線変更のあるモデルを考えることが課題です．

青西先生:1. 提案した2つのモデル間の整合性

→2つの提案法で整合性を確認できました．（40ページ）

小野先生:1. どのような応用があるか

→樺島先生の1.と同様です．2. 推定方法の計算時間について

→今回の実験設定ではベイズ法は10倍近く時間がかかりました．（45ページ）

新田先生:1. 発表資料の有用性を計算量・予測精度に変える

→修正しました．

50

付録

1.変分ベイズ法の背景2.多種粒子ZRPモデルの人工データによる学習結果の確認3.実測データのその他の推定結果

51

𝑝 𝑦𝑛, 𝑧𝑛|𝑥𝑛, 𝑤 =ෑ

𝑖=1

𝑛

𝑝(𝑦(𝑖), 𝑧(𝑖)|𝑥(𝑖), 𝑤) :完全データの尤度

𝑧(𝑖): 𝑖番目の車両の属するクラスタ(隠れ変数)

𝑝 𝑤, 𝑧𝑛 𝑥𝑛, 𝑦𝑛 =1

𝑍𝑛𝑝 𝑦𝑛, 𝑧𝑛|𝑥𝑛, 𝑤 𝜑(𝑤|𝜙, 𝛼, 𝛽) :パラメータと隠れ変数の事後分布

𝑍𝑛:周辺尤度

多種粒子TASEPにおいて，パラメータ𝑤と各車両に割り当てられるクラスタ𝑧𝑛(隠れ変数)の事後分布を学習することを考える．

このモデルでは，周辺尤度の計算が困難であり，𝑝 𝑤, 𝑧𝑛 𝑥𝑛, 𝑦𝑛 を𝑝𝑣𝑏 𝑤, 𝑧𝑛 = 𝑝𝑣𝑏 𝑤 𝑝𝑣𝑏(𝑧

𝑛)を満たす分布の中でカルバック情報量を最小にするものを選ぶ手法が変分ベイズ法である

𝑝0 𝑤 𝜙, 𝛼, 𝛽 ∝ෑ

𝑘=1

𝐾

𝑎𝑘𝜙−1

𝑝𝑘𝛼−1 1 − 𝑝𝑘

𝛽−1 :事前分布(𝜙, 𝛼, 𝛽:ハイパーパラメータ)

付録1.変分ベイズ法の背景

「カルバック情報量最小の𝑝𝑣𝑏」「ℱ(𝑝𝑣𝑏)最小の𝑝𝑣𝑏」≅

52

付録2.多種粒子ZRPモデルの人工データによる学習結果の確認

実験設定



・学習データ:200台，車両の密度:0.4 ，セルの更新回数:100回

②ℱ(𝑝𝑣𝑏)を最小にする𝐾に対する学習結果を調べる

確認方法

①ホップ確率の混合数𝐾を1から10まで変化させてℱ(𝑝𝑣𝑏)の値でモデル選択を行う

・真のパラメータ 𝑤∗ = 𝑎𝑘∗ , 𝑓𝑘

∗𝑘=14 :

真の混合数:4

: 0.25

: 0.25

: 0.25

: 0.25

車間距離

𝑓𝑘𝑑∗

混合比:𝑎𝑘∗

53

①混合数𝐾のモデル選択

ℱ(𝑝𝑣𝑏)

𝐾

𝐾 = 4が最小

推定結果

真のモデルと同じ混合数を選択できた

54

②ℱ(𝑝𝑣𝑏)を最小にする混合数(𝐾 = 4)による学習結果ෝ𝑤

真のパラメータを概ね正確に推定できることを確認→① ，②から正しく推定可能であることを確認した

: 0.23: 0.27: 0.24: 0.26

混合比: ො𝑎𝑘

መ𝑓𝑘𝑑

車間距離

推定結果ෝ𝑤 真のパラメータ𝑤∗

: 0.25: 0.25: 0.25: 0.25

混合比:𝑎𝑘∗

𝑓𝑘𝑑∗

車間距離

55

付録3.実測データのその他の推定結果

各時間における多種粒子TASEPの推定結果1～251タイムステップ 251～501タイムステップ 501～751タイムステップ

751～1001タイムステップ 1001～1251タイムステップ 1251～1501タイムステップ

ො𝑎 = (0.66,0.22,0.12)

መ𝑓 = (0.43,0.53,0.87)

混合比:

ホップ確率:

ො𝑎 = (0.80,0.20)

መ𝑓 = (0.39,0.55)

ホップ確率:

混合比:

ො𝑎 = (0.62,0.20,0.10,0.08)

መ𝑓 = (0.46,0.57,0.69,0.89)

ホップ確率:

混合比:

ො𝑎 = (0.84,0.16)

መ𝑓 = (0.42,0.63)

ホップ確率:

混合比:

ො𝑎 = (0.73,0.15,0.12)

መ𝑓 = (0.42,0.59,0.78)

混合比:

ホップ確率:

ො𝑎 = (0.68,0.20,0.12)

መ𝑓 = (0.47,0.60,0.79)

混合比:

ホップ確率:

56

各時間における多種粒子ZRPの推定結果1～251タイムステップ 251～501タイムステップ 501～751タイムステップ

751～1001タイムステップ 1001～1251タイムステップ 1251～1501タイムステップ

車間距離

መ𝑓𝑘𝑑


: 0.24

: 0.21

: 0.21

: 0.17

: 0.10

: 0.13

: 0.10

: 0.27

: 0.10

: 0.17

: 0.13

: 0.10

: 0.07

: 0.10

: 0.35

: 0.17

: 0.17

: 0.14

: 0.29

: 0.25

: 0.14

: 0.22

: 0.10

: 0.07

: 0.20

: 0.23

: 0.07

: 0.23

: 0.10

: 0.10

: 0.19

: 0.19

: 0.40

: 0.22

博士論文発表会確率的セルオートマトンの変分ベ...

Documents

Transcript of 博士論文発表会確率的セルオートマトンの変分ベ...

博士論文発表会 確率的セルオートマトンの 変分ベ...

Documents

Transcript of 博士論文発表会 確率的セルオートマトンの 変分ベ...

博士論文発表会確率的セルオートマトンの変分ベ...

Transcript of 博士論文発表会確率的セルオートマトンの変分ベ...