知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf ·...

23
知能型システム論 知能型システム論 知能型システム論 知能型システム論 松山 隆司

Transcript of 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf ·...

Page 1: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

知能型システム論知能型システム論知能型システム論知能型システム論

ー 松山 隆司 -

Page 2: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

プロローグ

Page 3: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

工学とは何か?

工学=機能・システムデザイン

デザイン:デザイン機能デザイン :自動車、携帯電話、PCシステムデザイン :金融工学、都市計画、環境計画

デザ デザ

工学

工業デザイン :形状・カラーデザイン、感性工学インテリアデザイン:家具、室内装飾、空間デザインア ト :デジタルア ト 絵画 彫刻

↓情報学

アート :デジタルアート、絵画、彫刻

実数は虚数である!Engineering = Science of Realization

Page 4: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

機能・システムデザインにおける基本的考え方基本的考え方

目的(評価)関数を定め、それを最適化するデザインを求める。

最適化の方法1 解析的手法:目的関数の最大最小化(例 線形計画法 動的計画法)1.解析的手法:目的関数の最大最小化(例:線形計画法、動的計画法)

2.探索a.探索キーを用いた探索(例:2分探索、ハッシュ法)探索キ を用 探索(例 分探索、 ッシ 法)b.数理的探索(例:非線形最適化、最急降下法)c.グラフ探索(例:最短経路探索)

人 知能(例 ゲ ム)d.人工知能(例:ゲーム)e.組み合わせ最適化(例:巡回セールスマン)

3 学習に基づく最適化(例:ニューラルネットワーク)

本講義の範囲

3.学習に基づく最適化(例:ニュ ラルネットワ ク)4.多点探索(例:遺伝アルゴリズム)

Page 5: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

カリキュラム・シーケンスカリキュラム シ ケンス

基礎情報処理、プログラミング演習

シ テム最適化( 年前期) 計算機ソフトウェア(3年前期)

礎情報処 、 グラ グ演習

システム最適化(3年前期)線形計画法、非線形最適化

計算機ソフトウェア(3年前期)グラフ探索、動的計画法

知能型システム論(3年後期)人工知能、ニューラルネットワーク

グラフ理論(3年後期)最短経路探索、最大流問題

人工知能(4年前期)人工知能(4年前期)探索、学習、知識表現

Page 6: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

ホームページ

htt // i i k k t j /l t / i /http://vision.kuee.kyoto-u.ac.jp/lecture/ais/

Page 7: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン
Page 8: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

自然科学における基本的問いかけ自然科学における基本的問いかけ

1. 物質とは何か?

2 生物 生命とは何か?2. 生物・生命とは何か?

3. エネルギーとは何か?

4. 情報・知能とは何か?計算とは何か?– 計算とは何か?

→ チューリングマシン

知能とは何か?– 知能とは何か?

→ 知能= 知識 + 推論

論理 理 推論規則人工知能 計算論に基づいた知能論→ 論理= 公理 + 推論規則

プログラム=データ構造 + アルゴリズム

人工知能=計算論に基づいた知能論

プログラム=データ構造 + アルゴリズム

Page 9: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

知能とは?知能とは

機械(コンピュータ)は知能を持つことができるか?機械(コンピュ タ)は知能を持つことができるか?

人工知能知能(1950年代半ばからスタート)

Page 10: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

知能システムの構成知能システムの構成

知能システム

外 知覚・認識外

的 推論・計画・学習

知覚 認識

(感覚系)

推論・計画・学習

知識世

界 操作・行動界 操作 行動

(運動系)

Page 11: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

計算機科学における基本的問いかけ:計算機科学における基本的問いかけ:

「計算とは何か?」

計算

数値計算 1+1 → 2

計算

記号処理 (2 3 1) → (1 2 3)

計算モデル計算モデル プログラミング言語プログラミング言語 特徴特徴

チューリング機械 手続き型言語機械の状態遷移に基づく計算

オートマトン FORTRAN, C機械の状態遷移に基づく計算

λ計算

項書き換え

関数型言語

Li項(式)の書換えに基づく計算、状態概念は無い項書き換え Lisp 状態概念は無い

演繹推論

定理証明

論理型言語

Prolog論理式の証明によって計算が実現される定理証明 Prolog 現される

表1 計算モデルとプログラミング言語

Page 12: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

計算(情報)の種類計算(情報)の種類

(1)数値計算(処理) 1+1 ⇒ 2

電卓 科学技術計算電卓、科学技術計算

(2)記号処理 (a, b, c) ⇒ (c, b, a)( , , ) ( , , )

ワープロ、データベース

(自然)言語処理 論理的推論(自然)言語処理、論理的推論

(3)音声処理 “わたしは・・・” ⇒ 私は・・・(3)音声処理 わたしは・・・ ⇒ 私は・・・

音声認識、音声合成

(4)図形・画像処理 画像認識、画像合成

Page 13: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

チューリング機械

a1 a2 a3 ・・・ an ・・・・・ ・・・・・・

有限制御部(内部状態)

動作:

テープヘッドが読んでいる記号と有限制御部の内部状態に従ってテ プヘッドが読んでいる記号と有限制御部の内部状態に従って、

(1) 状態を変える

(2) テ プヘ ドが見えているます目の記号を書き換える(2) テープヘッドが見えているます目の記号を書き換える

(3) テープヘッドを右隣あるいは左隣のます目に移動させる

(4) 初期状態から始め、内部状態が予め決められている

最終状態になれば停止最終状態になれば停止

Page 14: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

Turing機械の定義

T i 機械の動作は T i 機械がある状態にあってテ プが読み取る記Turing機械の動作は、Turing機械がある状態にあってテープが読み取る記

号に応じて、書き込む記号、次のヘッドの動作、次の内部状態、を定めることによって決定される。これらを、それぞれ次の関数によって定める。

m: S x Σ→Σ

d: S x Σ→ {右、左}

σ: S x Σ→ S

Σ ;扱う記号の有限集合(アルファベット)、空白記号△が含まれるS ;内部状態の有限集合

初期状態と停止状態が含まれる特別な要素が含まれる{右、左} ;ヘッド1ますだけ動かす{ 、 } ; ッ す け動 す

Turing機械:( m, d, σ, S0,T )5組で定義

m ;出力関数 ヘッドがみているます目に書き込むべき記号を与えるm ;出力関数 ヘッドがみているます目に書き込むべき記号を与えるd ;動作関数 ヘッドの動きをみて次の動きを教えるσ ;次状態関数 有限状態機械の時と同様S ∈ S ;Turing機械の初期状態S0 ∈ S ;Turing機械の初期状態

T ;無限長のテープである初期データとして有限個の非空白記号の列が書かれている

Page 15: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

括弧の左右対応が整合性をみるTuring機械TM

•括弧の列の左右には無限に空白記号; △がかかれている

S ∑ m d σ1△ △ ( ) ( ( ) ) ( ) △ △

括弧の列の左右には無限に空白記号; △がかかれている•左括弧と右括弧が対応して使われていれば;「1」さもなければ;「0」を書いて、TMは停止する。

S0 ( ( 右 S0

S0 ) * 左 S1

1 * * * * * * * * △ △△ △ ( ) ( ( ) ) ( ) △ △

(a)

S0 △ △ 左 S2

S0 * * 右 S0

停止状態初期状態

(a)S1 ( * 右 S0

S1 )△ △ * * 0 * * * * △ △△ △ ( ) ( ( ) ( ) △ △

(b)

S1 △ 0 停止

S1 * * 左 S1初期状態 (b) S2 ( 0 停止

S2 )

△ 停止TMの記述

停止状態

初期状態

S2 △ 1 停止

S2 * * 左 S2

TMの記述

;定義されない

Page 16: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

チューリング機械による加算

B 1 1 1 1 0 1 1 1 B(a)q0

(a)

B B 1 1 1 0 1 1 1 Bq

(b)q1

B B 1 1 1 0 1 1 1 Bq1

(c)

B B 1 1 1 0 1 1 1 1 Bq2

(d)

B B 1 1 1 0 1 1 1 1 B( ) B B 1 1 1 0 1 1 1 1 Bq2

(e)

B B 1 1 1 0 1 1 1 1 B(f)q0

・・・・・・・・・・・・・

B B B B B 0 1 1 1 1 1 1 1 Bq0

(g)

B B B B B B 1 1 1 1 1 1 1 B(h) B B B B B B 1 1 1 1 1 1 1 Bq3

(h)

加算を行うチューリング機械の状態遷移

Page 17: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

加算のプログラム

現在の状態 ヘッドの上の 次の状態 次の値 次のヘッドの位置ッ値

q0 1 q1 B Rq1 0 q1 0 Rq1 1 q1 1 R

B 1 Lq1 B q2 1 Lq2 0 q2 0 Lq 1 q 1 Lq2 1 q2 1 Lq2 B q0 B Rq0 0 q3 B Rq0 0 q3 B R

Page 18: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

ポ【レポート課題1】

左右カッコの整合性をチェックするチューリング機械において、スライドに示した2つの例題に対するチに示した2つの例題に対するチューリング機械の動作を1ステップずつリング機械の動作を1ステップずつ図示しなさい。

Page 19: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

【チャレンジ課題】

2つの正の整数の引き算を行うの正の整数の引き算を行うチューリング機械を設計しなさい。

Page 20: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

記号理論 対 ファジィ理論

号 論1.記号理論•カントール(1845-1918)によって始められた集合論を基礎とする

•ラッセル(1872-1970)とホワイトヘッド(1861-1947)の共著「数学原理」(1910-1913)での論理学による数学の基礎付

•ゲーデル(1906-1978)による述語論理の完全性定理、公理系による論理体系の不完全性定理の証明;正しいとも正しくないとも証明できない定理が存在する;正しいとも正しくないとも証明できない定理が存在する(cf.ラッセルのパラドックス)

計算論 プログラム意味論 人工知能への適用•計算論、プログラム意味論、人工知能への適用

2.ファジィ論理•1965年にザデーが提案したファジィ集合論を基礎とする

•制御理論、人工知能への適用制御理論、人工知能 の適用

Page 21: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

記号理論 対 ファジィ理論

}100|{ ≤≤=Θ xx1

通常の集合

0

1

0x

10

Membership functionMembership function

ジ 集合

若い

Membership functionMembership function

1ファジィ集合

0

1

x20

0

Page 22: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

シンボリック・コンピュータ 対 ニューロ・コンピュータ

Wi1O1 ViWi1

Wi2O2

ΣWijOjOiFi

Wi nOnニューロモデル

神経回路を基本にcrispによる集合論

シンボリック・コンピュータ

•シンボリズム

ニューロ・コンピュータ

•コネクショニズム

神経回路を基本にcrispによる集合論

•論理情報処理

•言語情報処理

高 情

•パターン情報処理

•感性情報処理

情•高次情報処理向き

•高並列・高分散

•ルールにもとづく推論

•低次情報処理向き

•超並列・超分散

•事例にもとづく推論•ル ルにもとづく推論

•所与の知識ベースが前提

•知識表現の多様性あり

•事例にもとづく推論

•学習により知識獲得

•故障やノイズに対してロバストネス

•逐次的最適処理が得意

•環境の変化に対して適応性あり

Page 23: 知能型システム論 - 京都大学vision.kuee.kyoto-u.ac.jp/lecture/ais/pdf/ais2008-01.pdf · 2010-05-11 · 工学と は何か? 工学 ... →チューリングマシン

S層 R層A層

パーセプトロンS層 A層

jj

i

ランダム結合 完全結合

結合係数: 1± 結合係数: ijω

⎧ N

⎪⎪⎨

⎧<

=±==∑

∑ =s

N

Na

iiij

jm

N

mmi

Taifrsa 1

0)1,0(

ωαα

    

     

⎪⎪⎩

⎨≥∑

∑=

=aN

iiij

jmm

mmi

Taif1

1 1)(

ω