法政大学情報科学部...

28
コンピュータネットワーク 9回授業 大規模ネットワークの構築と運用 WEB公開版のため、 内容は抜粋・修正してあります。 WEB公開版

Transcript of 法政大学情報科学部...

Page 1: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

コンピュータネットワーク 第9回授業

大規模ネットワークの構築と運用

WEB公開版のため、

内容は抜粋・修正してあります。

WEB公開版

Page 2: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

法政大学情報科学部 2012年度コンピュータネットワーク

2012年4月10日~2012年7月19日

第1回

イントロダクション第2回

デジタル伝送技術

第3回

誤り訂正と通信の信頼性第4回

イーサネットとデータリンクの仮想化

第5回

LANの拡張と無線技術

第6回

遠距離通信とインターネットへの接続第7回

後半授業の準備

第8回

通信の種類とフロー制御の基本第9回

大規模ネットワークの構築と運用

第10回

4種類のルーティング第11回

制御パケットとセッション層のネットワーク

第12回

データグラムとストリームの処理第13回

インターネットのインフラストラクチャ

第14回

ネットワークのモニタリングとチューニング

WEB公開版

Page 3: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

新しいトポロジー:7種類のトポロジー

大規模ネットワークではこの2つをよく使う。

メッシュ

リング

ラインバス

スター

フルメッシュ

ツリーWEB公開版

Page 4: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

復習(第5回)OSI参照モデル:IPアドレス とMACアドレス

ネットワーク層IPアドレス(論理アドレス)で

通信する。

データリンク層MACアドレス(物理アドレス)で

通信する。

スイッチ、ルータはIPとMACの対応付けをする!

WEB公開版

Page 5: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

復習(第7回):LANとWANの特徴 1対1と多体多

WAN WAN

LAN内は多対多の通信をする!

WANとWANの間は1対1の通信をする!

WEB公開版

Page 6: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

LANとWANの特徴 (6/14)

ARPパケットはLAN内のみで流

通する!基本は多対多(ブロードキャスト)

ARPパケットは、スイッチや

ルータの外へ中継されない!

IPパケットはス

イッチやルータを

越えて流通する!基本は1対1(ユニキャスト)

WEB公開版

Page 7: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

IPアドレス設定の読み方

11 155 15 183. . .

00001011 10001011 1011011100001111

255 255 254 0. . .

00001011 10001011 0000111 1 10110111

ネットワーク部 ホスト部

WEB公開版

Page 8: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

2種類の分割の仕方

クラスA~CとCIDR

• クラス分割

オクテットごとに分割する。

255^3

/ 255^2

/ 255^1大雑把な分割しかできない。

• CIDR分割

Classless Inter-Domain Routingオクテットによらず分割する。

サブネットを細かくして分割できる。

WEB公開版

Page 9: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

IPアドレスから、ネットワークの大きさ クラスA~C

0 144 13 132. . .

ネットワーク部:8 ホスト部:24

= 16777216台

10 144 13 132. . .

100 144 13 132. . .

ネットワーク部:16

ネットワーク部:24

ホスト部:16

= 65536台

ホスト部:8

= 256台

A

B

C

Page 10: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

P2Pネットワーク

スーパーノード3つのトポロジー

分散ハッシュテーブルの検索

国内のP2Pネットワーク:数十万台全世界のP2Pネットワーク:推定1億台

WEB公開版

Page 11: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

C/SモデルとP2Pモデル

C/S(クライアントサーバ)モデル

トポロジー:スター型

P2Pモデル

トポロジー:メッシュ型

WEB公開版

Page 12: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

ファイルとキー

ファイル本体

ファイルのハッシュ値更新時刻

ファイルのサイズファイルの位置(IPアドレス)

キー

ファイル

P2Pではこちらを拡散させ、検索に

使う!

FileA

鍵A

WEB公開版

Page 13: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

ハッシュ関数

f(x)

空間Xは大きいので、ハッシュ関数fでより小さい空間

Yに押し込める。

元に戻せない!

X[i]とY[i]は1対1対応している。

WEB公開版

Page 14: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

ハッシュ関数(一方向性関数)WEB公開版

Page 15: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

P2Pの自己組織化

その1帯域

ファイルや情報は上の方(広帯域の回線)行く傾向がある。

高速回線

中速回線

低速回線

使っている回線の

帯域によって階層ができる!

WEB公開版

Page 16: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

P2Pの自己組織化

その2

キーの拡散

ファイルの所有者

ファイルでは

なくキーを拡

散させる!

鍵A

鍵A

鍵A

鍵A鍵B

FileA 鍵B

鍵B鍵B

FileB

WEB公開版WEB公開版

Page 17: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

P2Pの自己組織化

その2 ファイルの検索

キーを持ってい

なければ隣に転送する!

キーの所有者に繋がったら検索終了!

キーの所有者は

ファイルの場所

を知っている!鍵A

鍵A

鍵A

鍵A鍵B

鍵B

鍵B

鍵B

FileAFileB

WEB公開版

Page 18: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

トポロジーCAN: 隣接ノードをトーラスで表す。

Aさんが

ファイルを検索している

ファイル(そば,うどん)

ハッシュ値(0.8, 0.9)

を持っている。

AはB,C,Dさんを

知っている。

Page 19: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

トポロジー

Chord

Stoica, Ion et al. (2001). "Chord: A Scalable Peer-to-peer Lookup Service for Internet Applications". Proceedings of SIGCOMM'01 (ACM Press New York, NY, USA).

ノードをリング状に並べる。

検索がヒットするまで左へ巡回する。

ファイルのハッシュ値を計算し、ファイルを格納する

サーバを割り当てる。(ハッシュ、コンピュータ番号)

WEB公開版

Page 20: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

トポロジー Kademlia2^Nでノードが

枝分かれしていく木構造を

2分木(binary tree)という。

2分木に応じて符号(ビット列)を割り当てる。

ノード間の距離はXORで計算する。

001 xor 100 = 101 = 5

WEB公開版

Page 21: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

Basic architecture of tracker network

① Ask Node A (newcomer) ask the tracker for searching the file.

② torrent downloadTracker provides torrent file.

③ join Node A queries node B.

④ downloadNode A can downloads pieces of file on swarm network

Seeder has a complete file.Leecher has pieces of file.

WEB公開版

Page 22: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

IPアドレス以外のアドレス管理

分散ハッシュテーブルの検索

WEB公開版

Page 23: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

コンテンツサービスプロバイダー が使うネットワーク

Google BigTableとAmazon DynamoMapReduce

Amazon EC2:45万台Google: 推定1200万台

WEB公開版

Page 24: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

データストアとCAP定理

C:整合性

ネットワーク上のすべてのノードから同じ値が返る。

A:可用性

ネットワーク上のノードはすべて常にアクセスできる。

P:ネットワークの一部がダウン、または分断されても機能する。Eric Brewer, “Towards Robust Distributed Systems” PODC 2000

WEB公開版

Page 25: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

クラウドのデータストアの特徴

あらかじめ書き込んでおく

• クラウドシステムの設計方針

書き込むときに沢山の処理をする。

→あらかじめ、検索語(インデックス)など対 する検索結果を作成しておき、データストアに

格納しておく。

読み込む時の処理をより簡単にする。

→読み込み用に大量のサーバを用意する。

WEB公開版

Page 26: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

Google Big Table

ファイル、ストレージへ

の書き込み

を担当する。別名

チャンクサーバ

ユーザのブラウザ

経由の入力(検索語)を受け付ける。

ノード群の管理をする。状態管理、割り当て

WEB公開版

Page 27: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

Amazon Dynamoマスタサーバはなく、P2PのChord型の

アーキテクチャを利

用している。

ユーザの検索語

を受付け、P2Pネットワーク

内を検索する。

WEB公開版

Page 28: 法政大学情報科学部 2012年度コンピュータネットワーク-第9回授業-Web公開用

Input

Map

Map

Map

Reduce

MapReduce is the algorithm for coping with Big data.

map(key1,value) -> list<key2,value2>reduce(key2, list<value2>) -> list<value3>

MapReduce: Simplified Data Processing on Large Clusters Jeffrey Dean and Sanjay GhemawatOSDI'04: Sixth Symposium on Operating System Design and Implementation, San Francisco, CA, December, 2004.

Reduce

Reduce

Output

Map Reduce スケーラビリティに対応したビッグデータ処理フレームワーク

基本は論理プログ

ラムなどで使われ

分割統治法

WEB公開版