動的計画法の基礎と応用 ~色々使える大局的最適化法

174

Transcript of 動的計画法の基礎と応用 ~色々使える大局的最適化法

Page 1: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 2: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 3: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 4: 動的計画法の基礎と応用 ~色々使える大局的最適化法

決して特別なものではなく身の回りにあふれている

Page 5: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 6: 動的計画法の基礎と応用 ~色々使える大局的最適化法

y=f(x)∫P(x, f(x))dx → minf(0)=0, f(T)=0, |f’(x)|≦ε

y

x T(=おばあちゃん家)

Page 7: 動的計画法の基礎と応用 ~色々使える大局的最適化法

P(x,y)

y=f(x) ∫P(x, f(x))dx → minf(0)=0, f(T)=0, |f’(x)|≦ε

y

x T(=おばあちゃん家)

y=f(x)

Page 8: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 9: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 10: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 11: 動的計画法の基礎と応用 ~色々使える大局的最適化法

http://www.ieeeghn.org/wiki/index.php/Richard_Bellman

http://www.amazon.com/

Page 12: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 13: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 14: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 15: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 16: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 17: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 18: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 19: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 20: 動的計画法の基礎と応用 ~色々使える大局的最適化法

1x ix Ix

X

1y

jy

Jy

Y

Page 21: 動的計画法の基礎と応用 ~色々使える大局的最適化法

X Y

X

Y

i

ui

ui

i

Page 22: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

X

Y

ui

Page 23: 動的計画法の基礎と応用 ~色々使える大局的最適化法

iuiii yxud

i

ui

Page 24: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 25: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 26: 動的計画法の基礎と応用 ~色々使える大局的最適化法

変形可能範囲

基準パターン

Page 27: 動的計画法の基礎と応用 ~色々使える大局的最適化法

この距離を最小化するのが最適弾性マッチング

基準パターン

入力

Page 28: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 29: 動的計画法の基礎と応用 ~色々使える大局的最適化法

X

Y

Page 30: 動的計画法の基礎と応用 ~色々使える大局的最適化法

0

ii ud

i

j

Page 31: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

j

Page 32: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

j

Page 33: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

j

Page 34: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

j

Page 35: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

j

Page 36: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

j

Page 37: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

j

Page 38: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

j

Page 39: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

j

Page 40: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

j

Page 41: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

j

Page 42: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

j

Page 43: 動的計画法の基礎と応用 ~色々使える大局的最適化法

112

10

min

iii

ui

uiiii ugudug

Page 44: 動的計画法の基礎と応用 ~色々使える大局的最適化法

2

3 1

10 5 5 1

3 2 4 5

4 0 2

2 7 0 4 6

i

j

Page 45: 動的計画法の基礎と応用 ~色々使える大局的最適化法

O( JI )

O( 1 )

O(IJ)

O(J ) or O(IJ)

Page 46: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

iuj

Page 47: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 48: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

Page 49: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 50: 動的計画法の基礎と応用 ~色々使える大局的最適化法

変形可能範囲

標準パターン

入力

Page 51: 動的計画法の基礎と応用 ~色々使える大局的最適化法

1x 2x 1ix ix 1ix Ix1IxX

1y 2y 1jy jy 1jy Jy1JyY

IIuiiuu xyxyxy ,,,,11

Ii uuu ,,,, 1

1u 2u 1iu iu 1iu Iu

Page 52: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 53: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 54: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 55: 動的計画法の基礎と応用 ~色々使える大局的最適化法

iuiii yxud

iuiii yxud

i

ii ud

iuiii yxud ,max

otherwise1

if0 iui

ii

yxud

iuj

Page 56: 動的計画法の基礎と応用 ~色々使える大局的最適化法

Uchida, et al., “Logical DP matching for detecting similar subsequence”, ACCV2007

otherwise1

if0 iui

ii

yxud

Page 57: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 58: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 59: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 60: 動的計画法の基礎と応用 ~色々使える大局的最適化法

A

B

C

Page 61: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 62: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 63: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 64: 動的計画法の基礎と応用 ~色々使える大局的最適化法

5 5 5 0 5

2 2 0 5 0

0 0 2 5 2

2 2 0 5 0

i

j

Page 65: 動的計画法の基礎と応用 ~色々使える大局的最適化法

5 5 5 0 5

2 2 0 5 0

0 0 2 5 2

2 2 0 5 0

i

0.7, 0.2, 0.1

0.4, 0.5, 0.1

0.1, 0.2, 0.7

0.5, 0.4, 0.1

Page 66: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

0.7, 0.2, 0.1

0.4, 0.5, 0.1

0.1, 0.2, 0.7

0.5, 0.4, 0.1

0.1 0.1 0.2 0.2

0.4 0.4 0.5 0.5

0.7 0.7 0.2 0.2

0.5 0.5 0.4 0.4

0.7

0.1

0.1

0.1

Page 67: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 68: 動的計画法の基礎と応用 ~色々使える大局的最適化法

0.7, 0.2, 0.1

0.4, 0.5, 0.1

0.1, 0.2, 0.7

0.5, 0.4, 0.1

Page 69: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 70: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 71: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 72: 動的計画法の基礎と応用 ~色々使える大局的最適化法

0 Ti-1 i

Page 73: 動的計画法の基礎と応用 ~色々使える大局的最適化法

0 Ti-1 i

Page 74: 動的計画法の基礎と応用 ~色々使える大局的最適化法

0 Ti-1 i

Page 75: 動的計画法の基礎と応用 ~色々使える大局的最適化法

0 i-1 i

i-1

Page 76: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

0 i-1 i

Page 77: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

0 i-1 i

Page 78: 動的計画法の基礎と応用 ~色々使える大局的最適化法

0 Ti-1 i

Page 79: 動的計画法の基礎と応用 ~色々使える大局的最適化法

0 Ti-1 i

Page 80: 動的計画法の基礎と応用 ~色々使える大局的最適化法

O(N4T)

x

y s

Page 81: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 82: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 83: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 84: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 85: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 86: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 87: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 88: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 89: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 90: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 91: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 92: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 93: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 94: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 95: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 96: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 97: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 98: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 99: 動的計画法の基礎と応用 ~色々使える大局的最適化法

I

i

ii

uuuuu

udF

ii

Ii 120,,,,

1

1

minmin

Page 100: 動的計画法の基礎と応用 ~色々使える大局的最適化法

I

i uuu

ii

uuuuu

I

i

ii

uuuuu

ududud

ud

ii

Ii

ii

Ii

3

11

20

22

20,,,,

120,,,,

12

1

1

2

1

1

minmin

min

1u

1u 2u

1u

Page 101: 動的計画法の基礎と応用 ~色々使える大局的最適化法

I

i

ii

uuuuu

I

i uuu

ii

uuuuu

I

i

ii

uuuuu

ugud

ududud

ud

ii

Ii

ii

Ii

ii

Ii

3

22

20,,,,

3

11

20

22

20,,,,

120,,,,

1

2

12

1

1

2

1

1

min

minmin

min

1u

2u

1u

Page 102: 動的計画法の基礎と応用 ~色々使える大局的最適化法

I

i

ii

uuuuu

I

i uuu

ii

uuuuu

I

i

ii

uuuuu

ugud

ugudud

ugud

ii

Ii

ii

Ii

ii

Ii

4

33

20,,,,

4

22

20

33

20,,,,

3

22

20,,,,

1

3

23

2

1

3

1

2

min

minmin

min

2u

Page 103: 動的計画法の基礎と応用 ~色々使える大局的最適化法

I

i

ii

uuuuu

I

i uuu

ii

uuuuu

I

i

ii

uuuuu

ugud

ugudud

ugud

ii

Ii

ii

Ii

ii

Ii

4

33

20,,,,

4

22

20

33

20,,,,

3

22

20,,,,

1

3

23

2

1

3

1

2

min

minmin

min

11

20 1

1

min

ii

uuu

iiii ugudug

ii

i

11 ii ug

ii ud

Page 104: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 105: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

j

Page 106: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

j

Page 107: 動的計画法の基礎と応用 ~色々使える大局的最適化法

Raphael, “Coarse-to-Fine Dynamic Programming”,TPAMI, 2001

Page 108: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

j

Page 109: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

j

Page 110: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

j

• J

Page 111: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 112: 動的計画法の基礎と応用 ~色々使える大局的最適化法

iu

i 11

20 1

1

min

ii

uuu

iiii ugudug

ii

i

iu1iu1u 2u Iu1iu

Page 113: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i+1

i

i-1

Page 114: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i+1

i

i-1

Page 115: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 116: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 117: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 118: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 119: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 120: 動的計画法の基礎と応用 ~色々使える大局的最適化法

K

N

𝐾𝑁

Page 121: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 122: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 123: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 124: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 125: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 126: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 127: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 128: 動的計画法の基礎と応用 ~色々使える大局的最適化法

無理やりだが,DPで解ける形にはなった

DPは不得意な構造...

Page 129: 動的計画法の基礎と応用 ~色々使える大局的最適化法

A B

+

+

+

A B

Page 130: 動的計画法の基礎と応用 ~色々使える大局的最適化法

A B

Page 131: 動的計画法の基礎と応用 ~色々使える大局的最適化法

A B 10 5 2 20

3 9 8 10

20 5

7 3 2 3

Page 132: 動的計画法の基礎と応用 ~色々使える大局的最適化法

A B 10 5 2 20

3 9 8 10

20 5

7 3 2 3

Page 133: 動的計画法の基礎と応用 ~色々使える大局的最適化法

A B 10 5 2 20

3+5=8 9+5=14 8+2=10 10+2=12

20 5

7 3 2 3

DP

Page 134: 動的計画法の基礎と応用 ~色々使える大局的最適化法

A B 10 5 2 20

3+5=8 9+5=14 8+2=10 10+2=12

20+8=28 +8=9 +10=145+10=15

7 3 2 3

DP

Page 135: 動的計画法の基礎と応用 ~色々使える大局的最適化法

A B 10 5 2 20

3+5=8 9+5=14 8+2=10 10+2=12

20+8=28 +8=9 +10=145+10=15

7+28=35 3+9=12 2+9=11 3+14=17DP

Page 136: 動的計画法の基礎と応用 ~色々使える大局的最適化法

A B 10 5 2 20

3+5=8 9+5=14 8+2=10 10+2=12

20+8=28 +8=9 +10=145+10=15

7+28=35 3+9=12 2+9=11 3+14=17

Page 137: 動的計画法の基礎と応用 ~色々使える大局的最適化法

A B 10 5 2 20

3+5=8 9+5=14 8+2=10 10+2=12

20+8=28 +8=9 +10=145+10=15

2+9=11

Page 138: 動的計画法の基礎と応用 ~色々使える大局的最適化法

A B 10 5 2 20

3+5=8 9+5=14 8+2=10 10+2=12

+8=9

Page 139: 動的計画法の基礎と応用 ~色々使える大局的最適化法

A B 10 5 2 20

3+5=8

Page 140: 動的計画法の基礎と応用 ~色々使える大局的最適化法

A B

Page 141: 動的計画法の基礎と応用 ~色々使える大局的最適化法

)O( 22 NCN )O( NNC

NxN

# = は定数CNNCO )(

Page 142: 動的計画法の基礎と応用 ~色々使える大局的最適化法

pseudo-2D

()

Page 143: 動的計画法の基礎と応用 ~色々使える大局的最適化法

)O( 4N

)O( 3N

Page 144: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 145: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 146: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i

iu

i+t

tiu

i

Page 147: 動的計画法の基礎と応用 ~色々使える大局的最適化法

これもDPは不得意.でも何とかして解きたい

DPはあきらめて別の最適化で解こう!

Page 148: 動的計画法の基礎と応用 ~色々使える大局的最適化法

t

Page 149: 動的計画法の基礎と応用 ~色々使える大局的最適化法

t

Page 150: 動的計画法の基礎と応用 ~色々使える大局的最適化法

t

Page 151: 動的計画法の基礎と応用 ~色々使える大局的最適化法

t

Page 152: 動的計画法の基礎と応用 ~色々使える大局的最適化法

t

Page 153: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 154: 動的計画法の基礎と応用 ~色々使える大局的最適化法

t

Page 155: 動的計画法の基礎と応用 ~色々使える大局的最適化法

t

Page 156: 動的計画法の基礎と応用 ~色々使える大局的最適化法

t

Page 157: 動的計画法の基礎と応用 ~色々使える大局的最適化法

t

Page 158: 動的計画法の基礎と応用 ~色々使える大局的最適化法

t

Page 159: 動的計画法の基礎と応用 ~色々使える大局的最適化法

t

Page 160: 動的計画法の基礎と応用 ~色々使える大局的最適化法

t

Page 161: 動的計画法の基礎と応用 ~色々使える大局的最適化法

t

Page 162: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 163: 動的計画法の基礎と応用 ~色々使える大局的最適化法

http://en.wikipedia.org/wiki/Seam_carving

Page 164: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 165: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 166: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 167: 動的計画法の基礎と応用 ~色々使える大局的最適化法

DP + beam search

Particle filter

× 1 × 2

Page 168: 動的計画法の基礎と応用 ~色々使える大局的最適化法
Page 169: 動的計画法の基礎と応用 ~色々使える大局的最適化法

Uchida, et al., “Analytical Dynamic Programming Tracker”, ACCV2010

Page 170: 動的計画法の基礎と応用 ~色々使える大局的最適化法

0 Ti-1 i

Page 171: 動的計画法の基礎と応用 ~色々使える大局的最適化法

0 Ti-1 i

Page 172: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i-1 i

Page 173: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i-1 i

Page 174: 動的計画法の基礎と応用 ~色々使える大局的最適化法

i-1 i