海馬と記憶モデルの展望

法政大学 応用情報工学科３年

松岡 佑磨

1

自己紹介

松岡 佑磨(Matsuoka Yuma)

法政大学理工学部 知的情報処理研究室３年

趣味：旅行、ボイパ

東京→名古屋(徒歩)

広島→東京(自転車)

2

世界５分前仮説って

知ってますか？

3

世界５分前仮説

世界は実は５分前に始まったのかもしれない

4 ウィキペディア

https://ja.wikipedia.org/wiki/世界五分前仮説

世界５分前仮説

哲学における懐疑主義的な思考実験の一つ

5 ウィキペディア

https://ja.wikipedia.org/wiki/世界五分前仮説

世界５分前仮説

この仮説を確実に否定することは不可能

6 ウィキペディア

https://ja.wikipedia.org/wiki/世界五分前仮説

世界５分前仮説

５分以上前の記憶があることは

何の反証にもならない

偽の記憶を植え付けられた状態で

５分前に世界が始まったかもしれない

7 ウィキペディア

https://ja.wikipedia.org/wiki/世界五分前仮説

世界５分前仮説

昨日は何時に寝ましたか？

8

世界５分前仮説

昨日寝たとは思いますが…

寝る前の自分と起きた時の自分は

同じ「自分」ですか？

9

世界５分前仮説

昨日の自分と今日の自分は

同じだという確証はない

10

世界５分前仮説

記憶が「私という存在」を保証する

11

いきなりですが

次のスライドの

文字列を

12

覚えてください

MTOKYM

13

覚えられましたか？

次はちょっと難しいです。

14

ZNNAKTKCWKTNKI

15

難しくないですか？

ちなみに先ほどの６つの

アルファベットは覚えていますか？

16

MTOKYM

17

工夫をすれば覚えやすくなる

MTOKYM

実は… まつおかゆうま

と覚えることができます

18

ZNNAKTKCWKTNKI

19

工夫をすれば覚えやすくなる

ZNNAKTKCWKTNKI

全脳アーキテクチャ若手の会

20

この話をしたのは…

マジックナンバー７:

７つ程度のものを２０秒程度しか維持できない

21

今朝何を食べましたか？

22

ちなみに自分は…

ガイパットメットマムアンヒムマパーン

を作りました

23

自分の誕生日を思い出してください

24

この「誕生日」っていつ、どこで覚えましたか？

25

これらの記憶をおなじものとして

扱っていいのか

• マジックナンバー７

• 今朝、何を食べたか

• 自分の誕生日

26

同じものではない

27

記憶は分類されている

28

記憶

手続的記憶

陳述的記憶

エピソード記憶

意味的記憶

記憶の性質による分類

• エピソード記憶は、朝ごはんと対応

• 意味的記憶は、誕生日と対応

覚えた時の情景などの情報は欠落している

29

記憶の持続時間による分類

短期記憶

中期記憶

長期記憶

30

～補足～

短期記憶の前に感覚記憶が置かれる場合や

中期記憶と長期記憶を合わせて長期記憶として

みなす分け方がある

記憶の持続時間による分類

短期記憶：マジックナンバー７

中期記憶：朝ごはん

長期記憶：誕生日

31

～補足～

短期記憶の前に感覚記憶が置かれる場合や

中期記憶と長期記憶を合わせて長期記憶として

みなす分け方がある

記憶の種類によって

扱われている脳の部位が異なる

32

記憶を保持する部位

• 短期記憶 → 新皮質(前頭前野)

• 中期記憶 → 海馬

• 長期記憶 → 新皮質(情報ごとに領野が異なる)

33

といわれている

機能局在や記憶の階層性などの

生理学の知見が

どのように工学に応用されているのか

34

脳の知見を工学へ

短期記憶はデータそのものとして

扱われることが多い

35

脳の知見を工学へ

長期記憶は…

長期記憶は深層学習などによるモデル化が

活発に行われている

WBAIウェブページより

脳において汎用性を担う

新皮質のモデルと見なしうる深層学習

の研究が成功

36 全脳アーキテクチャ・イニシアティブ

http://wba-initiative.org/wba/

脳の知見を工学へ

中期記憶は…

• 深層学習はデータを直接モデルに送っている

• つまり、深層学習において…

中期記憶は無視されている

37

脳の知見を工学へ

38

中期記憶を形成する海馬も

工学モデルとして使われるべきか？

AGIに海馬は必要か？

• AGI(汎用人工知能)とは

–様々な特定タスクを学習によって実行できるようになるような一般的な仕組み

• 全脳アーキテクチャ(WBA)中心仮説

–人工的に構成された機械学習器を組み合わせることで人間並みかそれ以上能力を持つ汎用の

知能機械を構築可能である

39

汎用人工知能

http://www.sig-agi.org/home

全脳アーキテクチャ勉強会

http://www.sig-agi.org/wba

海馬

本日のテーマ

40 The Day His World Stood Still: The Strange Story of "H.M" http://brainconnection.brainhq.com/2011/04/26/the-day-his-world-stood-still/

今日話すこと

• 海馬の生理学的な知見

• 主な海馬の機能

• 海馬の知見を取り入れた工学モデル

• 海馬の工学モデルの今後の展望

41

今日話すこと

• 海馬の生理学的な知見

• 主な海馬の機能

• 海馬の知見を取り入れた工学モデル

• 海馬の工学モデルの今後の展望

42

ネズミの脳と海馬

Allen Brain Atlas

43 Allen Brain Atlas

http://www.brain-map.org/

海馬以外の部位を取り除く

44

新皮質を取り除く

45

嗅覚野を取り除く

46

大脳基底核を取り除く

47

サブプレートを取り除く

48

小脳を取り除く

49

後脳を取り除く

50

中脳を取り除く

51

間脳を取り除く

52

海馬体

53

海馬体

海馬体

歯状回 海馬

CA1 CA2 CA3

海馬台 嗅内野

54

きゅうないや しじょうかい

海馬の基礎知識

http://gaya.jp/research/hippocampus.htm

海馬体

海馬体

歯状回 海馬

CA1 CA2 CA3

海馬台 嗅内野

55

←海馬 普段私たちは

ここを海馬と呼ぶ

きゅうないや しじょうかい

海馬の基礎知識

http://gaya.jp/research/hippocampus.htm

海馬の構造

56

CA3

CA1

歯状回 CA2

海馬の基礎知識

http://gaya.jp/research/hippocampus.htm

海馬の構造

57

CA3

CA1

歯状回 CA2

海馬の基礎知識

http://gaya.jp/research/hippocampus.htm

他の脳部位と海馬

58

他の脳部位と海馬

主な海馬へ投射する部位とその機能

• 偏桃体

• 内側中隔核

• 青斑核

• 縫線核

• 乳頭体

59 海馬の基礎知識

http://gaya.jp/research/hippocampus.htm

扁桃体(へんとうたい)

60

大脳基底核

扁桃体(へんとうたい)

61

扁桃体(へんとうたい)

62

扁桃体は物理的に近く、海馬に強い影響を与えている

扁桃体(へんとうたい)

63

• 主に恐怖という情動に関与

• 海馬-扁桃体の関係性を解き明かすことで

うつ病の治療を目指す

光で記憶を書き換える

http://www.riken.jp/pr/press/2014/20140828_2/

記憶痕跡回路の中に記憶が蓄えられる

http://www.riken.jp/pr/press/2015/20150529_2/

内側中隔核とマイネルト基底核

64

大脳基底核

ないそくちゅうかくかく きていかく

内側中隔核とマイネルト基底核

65

ないそくちゅうかくかく きていかく

内側中隔核

マイネルト基底核

内側中隔核とマイネルト基底核

• アルツハイマー型認知症の

記憶障害メカニズムに関係する

– 内側中隔核を除去すると、動物は物体が「どこ」に

あったかわからなくなった

– マイネルト基底核を除去すると、その物体が「何」であったかわからなくなった

66

ないそくちゅうかくかく きていかく

アルツハイマー型認知症の記憶障害メカニズムに関する新発見

http://www.hiroshima-u.ac.jp/top/koho_press/press/h2701-12/p_2ufywt.html

内側中隔核とマイネルト基底核

• アルツハイマー型認知症の

記憶障害メカニズムに関係する

– 内側中隔核を除去すると、動物は物体が「どこ」に

あったかわからなくなった(空間再認記憶の障害)

– マイネルト基底核を除去すると、その物体が「何」であったかわからなくなった(物体再認記憶の障害)

67

内側中隔核は海馬に投射している

記憶の想起に関与している

アルツハイマー型認知症の記憶障害メカニズムに関する新発見

http://www.hiroshima-u.ac.jp/top/koho_press/press/h2701-12/p_2ufywt.html

青斑核（せいはんかく）

68

後脳

青斑核（せいはんかく）

69

青斑核（せいはんかく）

70 Tuning arousal with optogenetic modulationof locus coeruleus neurons

青斑核は覚醒状態に関与

青斑核（せいはんかく）

71 Tuning arousal with optogenetic modulationof locus coeruleus neurons

青斑核内の神経細胞を強制的に活性化

ネズミは寝だす

活性化を止める

少し時間がたって目覚める

青斑核は覚醒状態に関与

これらのことから…

縫線核（ほうせんかく）

72

中脳

縫線核（ほうせんかく）

73

縫線核（ほうせんかく）

• セロトニン細胞を多く含み、

セロトニンを分泌する

74

セロトニン(神経伝達物質)

睡眠、食欲、うつ状態、不安、闘争行動、

さまざまな行動を制御する

危険に対して冷静かつ適切に対処できるようになるための神経回路を発見

http://www.riken.jp/pr/press/2014/20141121_2/

縫線核（ほうせんかく）

• ゼブラフィッシュから哺乳類まで(ネズミを含む)

腹側手綱核-縫線核神経回路を持つ

75

腹側 手綱核

縫線核 海馬,他の 脳部位

危険予測値 セロトニン

危険を回避する行動学習に必要

海馬の基礎知識

http://gaya.jp/research/hippocampus.htm

危険に対して冷静かつ適切に対処できるようになるための神経回路を発見

http://www.riken.jp/pr/press/2014/20141121_2/

乳頭体（にゅうとうたい）

76

間脳

乳頭体（にゅうとうたい）

77

変位によりコルサコフ症候群を生ずる

コルサコフ症候群 長期記憶の前方性健忘と逆行性健忘が

同時に発生

乳頭体（にゅうとうたい）

78

健忘症候群

https://bsd.neuroinf.jp/wiki/健忘症候群

家兎食餌性てこ押し行動に対する乳頭体破壊の影響

乳頭体.臨床科学, 23, 209-214, 1987

前方性健忘-長期記憶を形成できない

逆行性健忘-記憶を思い出しづらくなる

乳頭体（にゅうとうたい）の変位

79

https://bsd.neuroinf.jp/wiki/健忘症候群

家兎食餌性てこ押し行動に対する乳頭体破壊の影響

乳頭体.臨床科学, 23, 209-214, 1987

記憶の保存、形成に影響を与える

コルサコフ症候群

長期記憶の前方性健忘と逆行性健忘が

同時に発生

海馬外から海馬への投射

80

歯状回 内側中隔核、青斑核、縫線核

CA3 内側中隔核、青斑核、縫線核

CA2 乳頭体

CA1 中隔核、扁桃体

海馬の基礎知識

http://gaya.jp/research/hippocampus.htm

海馬外から海馬への投射

81

CA3

CA1

歯状回 CA2

内側中隔核, 青斑核,

縫線核 内側中隔核, 青斑核,

縫線核

乳頭体

中隔核, 扁桃体

海馬の基礎知識

http://gaya.jp/research/hippocampus.htm

連合野と海馬の情報処理

神経回路図を用いて情報の処理を確認

82

広義の海馬

83

連合野-嗅内野-海馬

84

連合野 海馬

情報

嗅内野

連合野-嗅内野-海馬

85

連合野 海馬 嗅内野

情報

海馬体

海馬の活動に関係する回路図

86 佐藤直行(2015): "海馬から大脳へ: 記憶の計算モ

デル." 人工知能学会全国大会論文集29.

CA2はよくわかっていないため 省いて考えられる事が多い

トリシナプティック回路

87

嗅内野⇔海馬の閉回路で

情報を伝達する

トリシナプティック回路

88

嗅内野⇔海馬の閉回路で

情報を伝達する

トリシナプティック回路

89

苔状線維

シャッファー側枝

貫通線維

たいじょうせんい

かんつうせんい

そくし

貫通線維

90

嗅内野Ⅱ層から歯状回

海馬の基礎知識

http://gaya.jp/research/hippocampus.htm

歯状回の新生ニューロン

91

海馬では成体でも常に新たな神経細胞が

誕生している

成体脳におけるニューロン新生の生理的意義の解明

http://www.kyoto-u.ac.jp/static/ja/news_data/h/h1/news6/2008/080901_2.htm

苔状線維

92

歯状回からCA3

苔状線維

93

歯状回→CA3

苔状繊維の基礎知識

http://gaya.jp/research/mossy.htm

歯状回 CA3

CA3の再帰回路

94

CA3内部に

再帰的な経路が存在

海馬の基礎知識

http://gaya.jp/research/hippocampus.htm

シャッファー側枝

95

CA3からCA1

局所的な結合をもつ

多様な投射パターン

シャッファー側枝:CA3→CA1への投射

96

1つのCA3錐体細胞は3000~60000のCA1錐体細胞に投射

1つのCA1錐体細胞は5000のCA3錐体細胞から投射

苔状繊維の基礎知識

http://gaya.jp/research/mossy.htm

CA3

CA1

規則的な投射パターンを持つ

シャッファー側枝

97

CA3錐体細胞 投射先

CA3(歯状回に遠い部分) CA1(CA2との境界付近)

CA3(歯状回に近い部分) CA1(海馬台に近い部分)

CA1

CA3 CA3

CA1

投射に規則性がある 苔状繊維の基礎知識

http://gaya.jp/research/mossy.htm

CA1→(海馬台)→嗅内野

98

CA1から嗅内野または

他の脳部位

CA1→(海馬台)→嗅内野

99

CA1から海馬台への投射に規則性がある

CA1

CA1

海馬台遠位

海馬台近位

海馬の基礎知識

http://gaya.jp/research/hippocampus.htm

大脳辺縁系

http://shutoku.fc2web.com/special_subjects/3rd_grade/D7/D7/limbic_system.html

海馬台の投射

100

前海馬台 海馬台

外側中隔核

嗅内野

投射する海馬台の神経細胞の大きさ

CA1

小 大

側坐核 視床前核 内側乳頭体

海馬の基礎知識

http://gaya.jp/research/hippocampus.htm

嗅内野と海馬の経路

101

• 嗅内野は６層構造

• 層によって役割が違う

嗅内野Ⅱ&Ⅲ

↓

海馬

↓

嗅内野深層Ⅳ＆Ⅴ

↓

嗅内野Ⅱ＆Ⅲ

海馬の基礎知識

http://gaya.jp/research/hippocampus.htm

新皮質-嗅内野-海馬

102 山川宏(2015): "物語としての海馬体計算モデルの提案: 全脳アーキテクチャを構築するために." 人工知能学会全国大会論文集29.

図１を一部改変

新皮質-嗅内野-海馬

103 山川宏(2015): "物語としての海馬体計算モデルの提案: 全脳アーキテクチャを構築するために." 人工知能学会全国大会論文集29.

図１を一部改変

工学的に使えそうな海馬の

生理学的な知見

• 海馬以外の脳部位も記憶の形成に関与

• トリシナプティック回路

• 歯状回の新生ニューロン

• CA3の再帰構造

• CA3-CA1-海馬台の投射の規則性

104

今日話すこと

• 海馬の生理学的な知見

• 主な海馬の機能

• 海馬の知見を取り入れた工学モデル

• 海馬の工学モデルの今後の展望

105

海馬の機能

• 空間認知

• 中期記憶

• エピソード記憶

106

海馬の機能

• 空間認知

• 中期記憶

• エピソード記憶

107

空間認知

動物の空間認知を支える細胞

• 場所細胞

• グリッド細胞

• ヘッドディレクション細胞

108

場所細胞

空間中の特定の場所に発火する

109 佐藤直行(2015): "海馬から大脳へ: 記憶の計算モ

デル." 人工知能学会全国大会論文集29.

受容野

ネズミ

グリッド細胞

環境における位置に応じて活動

普遍的な距離の指標といわれる

110

受容野

ネズミ

佐藤直行(2015): "海馬から大脳へ: 記憶の計算モ

デル." 人工知能学会全国大会論文集29.

実際に私達が紹介した

場所選択制細胞になります

• 場所細胞（芦原）

• グリッド細胞（松岡）

111

受容野

ネズミ

グリッド細胞と場所細胞の関係

• 場所細胞活動が複数のグリッド細胞によって支配的に決定されている仮説がある

112

From Grid Cells to Place Cell

http://www.dei.brain.riken.jp/?page_id=392

ヘッドディレクション細胞

動物の頭の向きに反応して発火する

113

ネズミ

佐藤直行(2015): "海馬から大脳へ: 記憶の計算モ

デル." 人工知能学会全国大会論文集29.

シータ位相歳差

• 場所細胞は活動の初めはシータ波の遅れ位相が生じるが移動が進むにつれて、徐々に進み位相に活動が生じるようになる

• シータ波（4~12Hz）の位相と場所細胞の

発火タイミングの関連性から自己位置推定をしていると考えられている

114

Place Cell & Theta Rhythms

http://www.dei.brain.riken.jp/?page_id=396 佐藤直行(2015): "海馬から大脳へ: 記憶の計算モ

デル." 人工知能学会全国大会論文集29.

経路積分仮説

• 出発位置から、方向と移動速度を積分することで現在位置を推定しながら目標とする位置にたどり着く

• 予測誤差はランドマークによって補正

115

空間認知機能のまとめ

• 特定の場所や頭の向きに特定的に反応する神経細胞が存在

• 空間認知に関する複数の細胞の組み合わせで自己位置推定を行うことができる

116

海馬の機能

• 空間認知

• 中期記憶

• エピソード記憶

117

階層的な記憶構造

名称 時間範囲 細胞でのメカニズム 場所

短期記憶 数ミリ秒～60秒 細胞の電気活動、

伝達物質の蓄積 新皮質

中期記憶 数秒～数週間 海馬LTP 海馬

長期記憶 数十分～一生 シナプスの形態変化、

タンパク合成 新皮質

118

学習時定数の違いによっておきる海馬と 新皮質の記憶における機能分離のモデル_表１

海馬LTP(長期可塑性)

中期記憶

• 高速な学習機能

– LTP(高頻度刺激によってシナプス強度が変化する現象)

• 新皮質に記憶を転送する機能をもつ

119

LTP(長期増強)

• 高頻度刺激によってシナプス結合強度が 数秒で変化する現象

• 一度LTPが形成されるとその効果は 数週間は続くと言われている

• LTPを誘導する方法 –高頻度の刺激

–シータバースト刺激

–誘導しやすい発火タイミングの刺激

120

学習時定数の違いによっておきる海馬と 新皮質の記憶における機能分離のモデル

中期記憶の意義とは

• 時間の間を埋めるため

• 海馬のLTPのような機能を脳全体で行うと

記憶の破壊が起きてしまう

• 記憶の選別

121

海馬の機能

• 空間認知

• 中期記憶

• エピソード記憶

122

エピソード記憶

時間と場所その時の感情変化などを伴う記憶

123

エピソード記憶

全裸で

病院

峠で

職質

２階からチャリ投げ

お風呂でパスタ

124

エピソード記憶の意義

• プランニングに寄与

–例えば腕時計を無くした時、自分の行動

を思い出して忘れ物を探すことができた

• 円滑なコミュニケーションを行うことができる

125

海馬の機能

• 空間認知(自己位置推定)

• 中期記憶（長期記憶破壊の防止）

• エピソード記憶（プランニングに寄与）

126

工学に海馬の機能が役に立つ

• 海馬の空間認知は

ロボットの自律制御に役に立っている

– SLAM

127

海馬はAGIにとっても有用か？

128

空間認知機能

あらゆる環境で動作するために環境ごとに

地図を作って自己位置推定

129

中期記憶

高速に一時的な学習をして知識を利用

130

エピソード記憶

マルチモーダルな時系列情報を使って

プランニング

131

海馬はAGIにとっても有用である

132

今日話すこと

• 海馬の生理学的な知見

• 主な海馬の機能

• 海馬の知見を取り入れた工学モデル

• 海馬の工学モデルの今後の展望

133

海馬の知見を取り入れた記憶モデル

134

[大森+ 94]大森秀樹, and 大森隆司. "学習時定数の違いによっておきる海馬と新皮質の記憶における機能分離のモデル." 電子情報通信学会論文誌 D 77.9 (1994): 1882-1890. [大澤+ 2015]大澤正彦, and 萩原将文. “中間記憶から長期記憶への転送モデル.” 第25回日本神経回路学会全国大会: 2015.

• 大森モデル[大森+ 94]

• 大澤モデル[大澤+ 15]

海馬の知見を取り入れた記憶モデル

135

[大森+ 94]大森秀樹, and 大森隆司. "学習時定数の違いによっておきる海馬と新皮質の記憶における機能分離のモデル." 電子情報通信学会論文誌 D 77.9 (1994): 1882-1890. [大澤+ 2015]大澤正彦, and 萩原将文. “中間記憶から長期記憶への転送モデル.” 第25回日本神経回路学会全国大会: 2015.

• 大森モデル[大森+ 94]

• 大澤モデル[大澤+ 15]

大森モデル[大森+94]

海馬-皮質の関係を中心とした

エピソード記憶モデル

136 [大森+ 94]大森秀樹, and 大森隆司. "学習時定数の違いによっておきる海馬と新皮質の記憶における機能分離のモデル." 電子情報通信学会論文誌 D 77.9 (1994): 1882-1890.

大森モデルとエピソード記憶

エピソード記憶の定義

一度経験したことを即座に記憶すること

137

大森モデルの特徴

• 新皮質-統合野-海馬の３層構造

• 細胞群の閉回路による高頻度の発火が 長期記憶の形成に必要

• 海馬は複数の感覚情報間の連合を形成

• エピソードを符号化する統合野を形成

• 外部からの制御入力により、 入力パターンの探索機能を持つ

• ３つの学習時定数を用意

138

大森モデル

139

知覚情報 知覚情報

統合層

海馬

入力部

部分特徴層

入力部

部分特徴層

知覚情報 知覚情報

新皮質-統合野-海馬の３層構造

140

新皮質

海馬

統合層

統合層

海馬

入力部

部分特徴層

入力部

部分特徴層

知覚情報 知覚情報

新皮質-統合野-海馬の３層構造

141

新皮質

海馬

統合層

統合層

海馬

入力部

部分特徴層

入力部

部分特徴層

知覚情報

閉回路における発火

• ２重の閉回路が存在

• 閉回路で刺激を表現

142

新皮質

海馬

統合層

海馬は感覚情報間の連合を形成

同時に発生した複数の感覚情報を連合

144

閉回路 閉回路 閉回路

刺激 刺激 刺激

エピソードを符号化する統合野

145

新皮質

海馬

統合層

知覚情報

興奮パターン

閉回路

対応する閉回路

興奮パターン

(エピソード)

↓

閉回路として

符号化

入力パターンの探索機能

146

新皮質

統合層 閉回路を形成

外部制御信号

類似した興奮パターン

異なる閉回路を形成

新たな興奮パターン

別々の事象は異なるパターンとして符号化

３つの学習時定数

記憶の形成に必要とする時間スケール

147

学習時定数 時間 記憶の形成

Ta 1秒 短期記憶

Tb 数秒 中期記憶

Tc 数十分 長期記憶

学習時定数と学習定数の対応

148

記憶 学習時定数 学習定数 脳部位

短期記憶 Ta(1秒) なし 新皮質

中期記憶 Tb(数秒) 大 海馬

長期記憶 Tc(数十分) 小 新皮質

知覚情報 知覚情報

大森モデル

149

新皮質

低い学習定数

海馬

高い学習定数

統合層

海馬

入力部

部分特徴層

入力部

部分特徴層

知覚情報 知覚情報

知覚情報の取得

150

統合層

海馬

入力部

部分特徴層

入力部

部分特徴層

新皮質

低い学習定数

知覚情報 知覚情報

短期記憶の形成

151

統合層

海馬

入力部

部分特徴層

入力部

部分特徴層

部分特徴層に短期記憶(興奮パターン)が形成

新皮質

低い学習定数

知覚情報 知覚情報

短期記憶の形成

152

統合層

海馬

入力部

部分特徴層

入力部

部分特徴層

外部制御信号がなければ学習時定数 Ta(数秒)で消滅

このとき新皮質の学習はほとんど起きない

新皮質

低い学習定数

知覚情報 知覚情報

統合層の閉回路の形成

153

統合層

海馬

入力部

部分特徴層

入力部

部分特徴層

新皮質

低い学習定数

外部制御信号が働くと、統合層に閉回路を形成

外部制御信号

知覚情報 知覚情報

中期記憶の形成

154

統合層

海馬

入力部

部分特徴層

入力部

部分特徴層

新皮質

低い学習定数

外部制御信号が海馬に働くと学習時定数 Tb(数秒)で

閉回路が学習され、海馬に中期記憶(閉回路)が形成

海馬

高い学習定数

外部制御信号

知覚情報 知覚情報

複数の海馬の閉回路の発火

155

統合層

海馬

入力部

部分特徴層

入力部

部分特徴層

新皮質

低い学習定数 海馬の閉回路の連合が形成

海馬

高い学習定数

外部制御信号

知覚情報 知覚情報

海馬による新皮質発火の補助

156

統合層

海馬

入力部

部分特徴層

入力部

部分特徴層

新皮質

低い学習定数

海馬

高い学習定数

新皮質の学習が

終わるまで

中期記憶をもつ海馬が新皮質の発火を

促す 外部制御信号

知覚情報 知覚情報

長期記憶の形成

157

統合層

海馬

入力部

部分特徴層

入力部

部分特徴層

新皮質

低い学習定数

海馬

高い学習定数

学習時定数 Tc(数十分)で新皮質内の

シナプス結合が形成

長期記憶の学習が完了する

海馬機能の損失

• 動物

–前方性健忘

• 大森モデル

–部分特徴層による遅い記憶形成

158

大森モデルの海馬機能が生理学的知見と対応

大森モデルとエピソード記憶

159

モデルの記憶形成過程が記憶障害の臨床例や

生理実験データと整合性をもつ

大森モデルはエピソード記憶を再現できた

大森モデルと海馬の知見の整合性

• 海馬において複数の感覚情報を連合

• 海馬モジュールの停止と前方性健忘症

• ３種類の記憶の階層性

• インデックス機能

160

大森モデル

まとめ

• 時間スケールの異なる３つの学習時定数

によって記憶の階層性を再現

• 海馬が記憶のINDEX機能をもつ

• 新皮質-統合層-海馬の情報の閉回路に対応

• エピソード記憶の形成過程を再現

161

海馬の知見を取り入れた記憶モデル

• 大森モデル[大森+ 94]

• 大澤モデル[大澤+ 15]

162

[大森+ 94]大森秀樹, and 大森隆司. "学習時定数の違いによっておきる海馬と新皮質の記憶における機能分離のモデル." 電子情報通信学会論文誌 D 77.9 (1994): 1882-1890. [大澤+ 15]大澤正彦, and 萩原将文. “中間記憶から長期記憶への転送モデル.” 第25回日本神経回路学会全国大会: 2015.

大澤モデル

深層学習の計算論を

取り入れた記憶の工学モデルの提案

163 [大澤+ 15]大澤正彦, and 萩原将文. “中間記憶から長期記憶への転送モデル.” 第25回日本神経回路学会全国大会: 2015.

大澤モデル

従来の深層学習は中期記憶を

考慮していないことに注目

164

記憶 脳 深層学習

(既存)

短期記憶 ワーキングメモリ データ

中期記憶 海馬 × 長期記憶 新皮質 深層学習

中間的な記憶器を導入した

深層学習器

大澤モデル

２つのモジュールで記憶の階層性を表現

海馬モジュール

– 海馬の機能を参考にした機械学習モデル[大澤+15b]

– 新皮質モジュールへの記憶転送法[大澤+15d]

を新たに提案

新皮質モジュール

– 従来の深層学習モデル

165

[大澤+15b]大澤正彦, 萩原将文(2015): "海馬-大脳新皮質系に着目した深層学習による記憶モデルの提案." 人工知能学会全国大会論文集29.

[大澤+１５d]大澤正彦, 萩原将文(2015): “中間期奥から長期記憶への転送モデル." 第25 回神経回路学会全国大会.

166

RBM ESN SdA

IL-RBM

IL-ESN-RBM

半RBM

大澤モデル

大澤モデル

167

RBM ESN SdA

IL-RBM

IL-ESN-RBM

半RBM

大澤モデル

大澤モデル

RBM, Deep Learningと学習 東京工業大学 3年 八木 拓真

yagi.t.ad@m.titech.ac.jp @t_Signull

全脳アーキテクチャ 若手の会 第3回ディープラーニング勉強会

RBMとは？

• ボルツマンマシン(BM)の結合に制約を持たせた確率的無向グラフィカルモデルの一種

可視層(Visual Layer)

隠れ層(Hidden Layer)

可視素子𝑣𝑖 (Visual Unit)

結合重み𝑤𝑖𝑗 (Weight)

隠れ素子ℎ𝑗 (Hidden Unit)

170

RBM ESN SdA

IL-RBM

IL-ESN-RBM

半RBM

大澤モデル

大澤モデル

IL-RBM[大澤+15a, e]

• IL-RBM(Incremental Learning RBM)

–隠れ層素子を追加しながら学習するRBM

–既学習情報を失わずに追加学習を

行うことができる

–学習が速い

171

[大澤+15a]大澤正彦, 萩原将文(2015): "RBM における未学習データ検出法の提案と追加学習への応用." 信学会信

学技報ニューロコンピューティング研究会

[Osawa + 15e] M. Osawa, et al.,(2015) “Analysis of Learning Characteristics of RBMs and an Automatic Method

for Deciding the Number of Hidden Units,” ISIS

172

RBM ESN SdA

IL-RBM

IL-ESN-RBM

半RBM

大澤モデル

大澤モデル

173

第５回DL勉強会より

174

第５回DL勉強会より

175

第５回DL勉強会より

176

第５回DL勉強会より

第５回DL勉強会より

178

RBM ESN SdA

IL-RBM

IL-ESN-RBM

半RBM

大澤モデル

大澤モデル

半RBM[大澤+15c]

• 時系列データを扱えるRBM

179 [大澤+15c]山岸優, 大澤正彦, 萩原将文(2015): "RBM を用いたEcho State Network の荷重決定法." 第25 回神経回路学会全国大会.

180

RBM ESN SdA

IL-RBM

IL-ESN-RBM

半RBM

大澤モデル

大澤モデル

IL-ESN-RBM[大澤+15b]

• IL-ESN-RBM

– IL-RBMと半RBMの組み合わせ

–高速な学習を行える

–時系列データの記憶・想起が可能

181

[大澤+15b]大澤正彦, 萩原将文(2015): "海馬-大脳新皮質系に着目した深層学習による記憶モデルの提案." 人工知能学会全国大会論文集29.

IL-ESN-RBMの検証実験 • シーケンスの想起 (実例)

182 学習エピソード 想起エピソード

183

RBM ESN SdA

IL-RBM

IL-ESN-RBM

半RBM

大澤モデル

大澤モデル

184

185

186

RBM ESN SdA

IL-RBM

IL-ESN-RBM

半RBM

大澤モデル

大澤モデル

大澤モデル[大澤+15d]

187

海馬モジュール

新皮質モジュール

[大澤+１５d]大澤正彦, 萩原将文(2015): “中間期奥から長期記憶への転送モデル." 第25 回神経回路学会全国大会.

大澤モデルの動作

• データが入力されているとき

–海馬モジュールによるデータの学習

• データが入力されていないとき

–新皮質モジュールにデータを転送

188

大澤モデルと海馬の知見の共通点

189

嗅内野

海馬から情報を受け取る

海馬に情報を送る

大澤モデルと海馬の知見の共通点

190

歯状回

新生ニューロン

嗅内野から情報を受け取る

嗅内野

海馬から情報を受け取る

海馬に情報を送る

大澤モデルと海馬の知見の共通点

191

歯状回

新生ニューロン

嗅内野から情報を受け取る

CA3

自己ループ構造

歯状回から情報を受け取る

嗅内野

海馬から情報を受け取る

海馬に情報を送る

大澤モデルと海馬の知見の共通点

192

歯状回

新生ニューロン

嗅内野から情報を受け取る

CA3

自己ループ構造

歯状回から情報を受け取る

CA1

CA3から情報を受け取る

嗅内野に情報を送る

嗅内野

海馬から情報を受け取る

海馬に情報を送る

大澤モデルと海馬の知見の共通点

193

海馬モジュールと

新皮質モジュールで

閉回路を形成

海馬モジュール

新皮質モジュール

大澤モデルと海馬の知見の共通点

194

海馬の知見 大澤モデル

歯状回新生ニューロン IL-RBMの隠れ層を追加

CA3自己ループ 半RBM(ESN)の自己ループ

トリシナプティック回路 IL-ESN-RBMとSdAの閉回路

活用されていない海馬の知見

• 海馬内の海馬台に対応するモジュール

• 偏桃体などの他の脳部位からの入力

• 抑制性細胞の存在

195

大澤モデルのまとめ

• モデルは海馬の知見と共通点をもつ

• 記憶の階層性を考慮した深層学習モデル

• トリシナプティック回路を再現

196

今日話すこと

• 海馬の生理学的な知見

• 主な海馬の機能

• 海馬の知見を取り入れた工学モデル

• 海馬の工学モデルの今後の展望

197

海馬の工学モデルの今後の展望

工学モデルに対して

新たにどんな海馬の知見を

生かすことができそうか？

198

海馬の知見を取り入れた記憶モデル

• 大森モデル

• 大澤モデル

199

海馬の知見がどれくらい活用されていたか？

[大森+ 94]大森秀樹, and 大森隆司. "学習時定数の違いによっておきる海馬と新皮質の記憶における機能分離のモデル." 電子情報通信学会論文誌 D 77.9 (1994): 1882-1890. [大澤+ 2015]大澤正彦, and 萩原将文. “中間記憶から長期記憶への転送モデル.” 第25回日本神経回路学会全国大会: 2015.

大森モデル 大澤モデル

モデルの構成 新皮質-統合野-海馬 嗅内野-歯状回-CA3-CA1

エピソード記憶 一度経験したことを即座に

記憶すること 時系列の連想記憶

記憶の階層性 ○ ○

トリシナプティック回路 ○ ○

記憶の時定数 ○ ×

海馬機能損傷との整合性 ○ ×

歯状回の新生ニューロン × ○

CA3の再帰回路 × ○

抑制性細胞 × ×

他の脳部位からの投射 × ×

空間認知 × ×

利用されている海馬の知見

200

工学的に使えそうな海馬の知見

• 他の脳部位との関連性

–扁桃体などの記憶の形成に関与すると考えられている脳部位からの影響を考慮していない

201

脳部位

内側中隔核 空間再認記憶の障害

乳頭体 前方性健忘と逆行性健忘を同時に発生

扁桃体 記憶の形成に恐怖が関与しない

工学的に使えそうな海馬の知見

• 他の脳部位との関連性

–扁桃体などの記憶の形成に関与すると考えられている脳部位からの影響を考慮していない

202

脳部位

内側中隔核 空間再認記憶の障害

乳頭体 前方性健忘と逆行性健忘を同時に発生

扁桃体 記憶の形成に恐怖が関与しない

扁桃体は、脳に入る情報に

恐怖という付加価値をつけている！

大澤モデルに一言

203

海馬

モジュール

新皮質 モジュール

海馬モジュールにおいて、

• 時系列データを扱える

• 追加学習が可能

• 簡単な行動学習が可能

大澤モデルに一言

204

海馬

モジュール

新皮質 モジュール

データの重要性を考慮していない！！！

データの価値判断モジュール

205

海馬

モジュール

新皮質 モジュール

海馬モジュールに扁桃体のような機能を追加

扁桃体のような情報に付加価値をつける機能

海馬の工学モデルの今後の展望

工学モデルに対して

新たにどんな海馬の知見を

生かすことができそうか？

みなさんの意見をお願いします

206

おわりです

質疑応答に移ります

207