JSPS 未来開拓学術研究推進事業研究プロジェクト

79
1 JSPS Multimedia Contents Project JSPS JSPS 未未未未未未未未未未未未未未未未未未未未 未未未未未未未未未未未未未未未未未未未未 未未未未 未未未未未未 未未未未未未未 未未未未未未未未未未未未未 未未未未未未未未未 未未未未未未未未未未 未 未未未 西

description

JSPS 未来開拓学術研究推進事業研究プロジェクト. 知能情報・高度情報処理 マルチメディア・コンテンツの高次処理の研究 大阪大学工学研究科 情報システム工学専攻 西尾 章治郎. ハードウェア・ソフトウェアの発達. マルチメディア・コンテンツ. CPU 高速. 大容量. ソフト高機能. ハードウェア・ソフトウェアからコンテンツへ. コンテンツとは?. 赤、青. サッカー. 積み木. シュート. 原因. 結果. サッカー. ストーリー. ゴール!. 素材となるデータ. 構造化・意味付けされたデータ. 画像. テキスト. 3次元データ. - PowerPoint PPT Presentation

Transcript of JSPS 未来開拓学術研究推進事業研究プロジェクト

Page 1: JSPS 未来開拓学術研究推進事業研究プロジェクト

1

JSPS Multimedia Contents Project

JSPSJSPS 未来開拓学術研究推進事業未来開拓学術研究推進事業研究プロジェクト研究プロジェクト

知能情報 高度情報処理・マルチメディア コンテンツの高次処理の・

研究

大阪大学工学研究科 情報システム工学専攻

西尾 章治郎

Page 2: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

2

マルチメディア・コンテンツ

ハードウェア ソフトウェアの発・ハードウェア ソフトウェアの発・達達

ハードウェア ソフトウェアからコンテンツへ・

ソフト高機能

CPU 高速

大容量

Page 3: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

3

コンテンツとは?コンテンツとは?

積み木

素材となるデータ素材となるデータ

赤、青 サッカー

シュート原因

結果

構造化・意味付けされたデータ構造化・意味付けされたデータ

サッカー

ゴール !ストーリー

Page 4: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

4

第1世代

マルチメディア・コンテンツのマルチメディア・コンテンツの管理管理

異なるメディアの統合管理

第2世代時間による関連を付加

第3世代空間的な関連を付加

第4世代内在する知識の導出機能を付加 動画像データ動画像データ

画像画像 テキストテキスト

音声音声

33 次元データ次元データ

男 運動している・ ・男 運動している・ ・ボールを持っているボールを持っている

Page 5: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

5

統一モデル: 統一的な表現モデル.完全には実現されていない.

統合モデル: 複数レイヤの統合モデル.各レイヤに適した表現が可能.

データベースレイヤリンクレイヤ

プレゼンテーションレイヤ

マルチメディア・コンテンツの表現マルチメディア・コンテンツの表現モデルモデル

Page 6: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

6マルチメディア・コンテンツのマルチメディア・コンテンツの流通流通

物理メディア CD-ROM,   DVD-ROM

通信メディア (1対1) 広帯域ネットワーク 移動体通信

放送メディア (1対多) ディジタル衛星放送 無線ネットワーク

01

10

BroadbandNetwork

Page 7: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

7

マルチメディア コンテンツ・

DB要求

ユーザ

コンテンツの創生

獲得 蓄積・

検索・加工 編集・

アクセス管理機構

Page 8: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

8

研究組織機構図研究組織機構図

プロジェクトリーダー西尾 章治郎大阪大学工学部教授

マルチメディア データモデルとコンテンツの知的・構造

リーダー 龍谷大学教授 有木 康雄神戸大学教授 上原 邦昭

マルチメディア コンテンツのアクセスアーキテクチャ・リーダー 神戸大学教授 田中 克己

大阪大学助教授 下條 真司神戸大学助手 田島 敬史大阪大学助手 春本 要

マルチメディア コンテンツのデータベースからの仮想空間・ ・拡張現実空間の生成と活用(モーバイル DB を含む)

リーダー 大阪大学教授 岸野 文郎広島市立大学助教授 有川 正俊大阪大学助教授 北村 喜文大阪大学助教授 塚本 昌彦大阪大学助手 正城 敏博

Page 9: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

9マルチメディア コンテンツの高・マルチメディア コンテンツの高・次処理次処理

有木康雄 : マルチメディア データモデ・ルと コンテンツの知的構造化

田中克己 : マルチメディア コンテンツ・のアク セスアーキテクチャ

岸野文郎 : マルチメディア・コンテンツのデー タベースからの仮想空間 拡・張 現実空間の生成と活用 

Page 10: JSPS 未来開拓学術研究推進事業研究プロジェクト

10

JSPS Multimedia Contents Project

マルチメディア データモデルと・マルチメディア データモデルと・コンテンツの知的構造化コンテンツの知的構造化

有木 康雄 *1   上原 邦昭 *2

*1 龍谷大学*2 神戸大学

Page 11: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

11

メディアのディジタル化と統合

マルチメディア環境

マルチメディア環境マルチメディア環境

放送(テレビ)出版(新聞、書籍)娯楽・教養(映画、講義)

通信(インターネット)

電子図書館仮想博物館仮想美術館仮想キャンパス

知的活動を行う情報空間

[ 興味ある情報の収集と分析 ]

Page 12: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

12

マルチメディア・コンテンツのマルチメディア・コンテンツの構造化構造化マルチメディア・コンテンツのマルチメディア・コンテンツの構造化構造化

アニメアニメ ドラマドラマ 映画映画 ビデオビデオ

ドキュメンタドキュメンタリリ

ニュース映像ニュース映像 スポーツ映像スポーツ映像 個人の映像個人の映像

索引(概念)

目次(構成)

要約(文脈・粗筋)

構造化されているデータ 構造化されていないデータ

コンテンツへのアクセス・絞り込み

コンテンツの構造化

Page 13: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

13(

知的構造化

)(

知的構造化

ハイフェー

ハイフェー

自己組織化

)(

自己組織化

ロー

フェー

ロー

フェー

コンテンツの知的構造化のプロコンテンツの知的構造化のプロセスセス

コンテンツ

データ

構造化/自己組織化

記述の抽象化&意味付け

時空間における関係付け

認識&索引付け

セグメンテーション&分類パターン

信号

記号

状況

概念

従来の従来のデータベーデータベー

スス

因果関係の検索

状況検索

イベント検索

パターン検索

信号検索

Page 14: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

14マルチメディア・データの 自 己組マルチメディア・データの 自 己組織化織化マルチメディア・データの 自 己組マルチメディア・データの 自 己組織化織化

– 映像中のイベント 検索– 映像の 分類、要約、編集

基本課題

コンテンツ構造化の要求 自 己組織化

– 人手を介さない大量データの処理人手を介さない大量データの処理

– ハイフェーズへのブラウザ提供ハイフェーズへのブラウザ提供

– 各種メディアのイベント統合各種メディアのイベント統合

– 階層間のイベント統合階層間のイベント統合

(信号・パターン・記号)(信号・パターン・記号)

– イベント系列を上位のイベントイベント系列を上位のイベント

へ統合へ統合

イベント統合 構造抽出 [ 目次 ]

イベント抽出 [ 索引 ]– 音声・映像・文字メディア

– ショットやシーン

Page 15: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

15

TVニュース映像の 自 己組織化TVニュース映像の 自 己組織化TVニュース映像の 自 己組織化TVニュース映像の 自 己組織化

TVで放映されているニュース映像

多チャンネル化– NOD– イベント検索

多様な検索要求– 関連する日本語ニュース– 関連する英語ニュース– ニュースの要約– ニュースの解説(背景・予想)

粒度時間

トピック

Page 16: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

16

シーンカットとニュース記事の抽出

バイグラム音声認識による内容理解

テロップやフリップ文字認識による内容理解

顔やシーンの映像認識による情景 状況理解・

TVニュース映像の 自 己組織化TVニュース映像の 自 己組織化TVニュース映像の 自 己組織化TVニュース映像の 自 己組織化

関係付け関係付け

認識認識索引付け索引付け

セグメンテーショセグメンテーション分類ン分類

パターン

信号

記号

状況

(信学論DII 97年 9月)

( CoopIs97 )

( ICDAR97 )

( IPSJ97 、 ACCV97 )

表現メディアの特質– 音声

– 文字– 映像

内容を表現 内容を要約 情景・状況を伝達

コンテンツ構造化のプロセス

Page 17: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

17

ニュース映像の情報検ニュース映像の情報検索索

Page 18: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

18

ニュース映像の索引付けと分ニュース映像の索引付けと分類類

Page 19: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

19(

知的構造化

)(

知的構造化

ハイフェー

ハイフェー

自己組織化

)(

自己組織化

ロー

フェー

ロー

フェー

コンテンツの知的構造化のプロコンテンツの知的構造化のプロセスセス

コンテンツ

データ

構造化/自己組織化

記述の抽象化&意味付け

時空間における関係付け

認識&索引付け

セグメンテーション&分類パターン

信号

記号

状況

概念

従来の従来のデータベーデータベー

スス

因果関係の検索

状況検索

イベント検索

パターン検索

信号検索

Page 20: JSPS 未来開拓学術研究推進事業研究プロジェクト

20

JSPS Multimedia Contents Project

マルチメディアコンテンツの構マルチメディアコンテンツの構造化と概念獲得造化と概念獲得

Page 21: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

21コンテンツ プロバイダからの依・コンテンツ プロバイダからの依・頼頼

CATV 会社(チャネルK)の場合 2,000 本の VCR  テープ 秋の六甲山の風景を再利用したい

映画会社(東映)の場合 2,000 本の映画予告編 いつでも見たいシーンをすぐに取り出したい

Page 22: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

22マルチメディアコンテンツの構マルチメディアコンテンツの構造化と概念獲得造化と概念獲得

研究目標意味内容を考慮した映像検索方式

見たい映像をどのように検索するか

ビデオデータの内容記述形式の定式化 ビデオデータの意味表現言語の開発

ビデオデータからの概念獲得 ビデオデータの共有と再利用

Page 23: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

23

内容記述モデル内容記述モデル

静的 トップダウン的なモデル・ ( CODAS-96)

シナリオが予め与えられている場合 おとぎ話など、ストーリが単純な映像

動的 ボトムアップ的なモデル・ (DMIB-97)

ドラマなど、ストーリが複雑な映像

断片的記述によるモデル(DEXA-97)

映画の予告編、スポーツなど、ストーリが含まれない映像

Page 24: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

24

ストー

リグラ

ストーリの文法に基づくストーリの文法に基づくビデオデータベースの機能ビデオデータベースの機能

ストーリの因果関係に基づく検索 ストーリ全体を見て必要なサブストーリを選択

登場人物や行動に基づく検索 特定の人物や行動を検索

動画像のダイジェスト化 意味的に余分なシーンを省略して、ビデオの

ダイジェストを作成

Page 25: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

25

自然言語 による検索文の入力自然言語 による検索文の入力

検索設定用のウィンドウ検索設定用のウィンドウ

ストーリの文法による記述ストーリの文法による記述

出力映像出力映像

ストーリ文法に基づくストーリ文法に基づくビデオデータベースビデオデータベース

Page 26: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

26

内容記述モデル内容記述モデル

静的 トップダウン的なモデル・( CODAS-96)

シナリオが予め与えられている場合 おとぎ話など、ストーリが単純な映像

動的 ボトムアップ的なモデル・ (DMIB-97) ドラマなど、ストーリが複雑な映像

断片的記述によるモデル(DEXA-97)

映画の予告編、スポーツなど、ストーリが含まれない映像

Page 27: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

27プロトタイプの概念に基づくプロトタイプの概念に基づくビデオデータベースビデオデータベース

内容記述の効率化 意味的な関連性によるデータの抽象化

典型的なシーンの発見 性質の似た内容記述のグループ化

典型的なシーンのクラスタリング

データ管理の効率化 半構造性を持つデータ構造の管理 視認性が高いデータ構造

Page 28: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

28

プロトタイププロトタイプ

特徴 静的なクラス定義を持たない

既存のオブジェクトをプロトタイプとして利用する

……オブジェクトオブジェクトコピー

オブジェクトのコピーにより新たなオブジェクトが生成される

修正プロトタイプ

Page 29: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

29

典型的なシーンの選択典型的なシーンの選択

シーンの内容記述シーンの内容記述

映像に関する情報映像に関する情報

実際の映像実際の映像

ユニットの内容記述ユニットの内容記述

プロトタイプに基づく内容記述プロトタイプに基づく内容記述

プロトタイプの概念に基づくプロトタイプの概念に基づくビデオデータベースビデオデータベース

Page 30: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

30

これまでの成果これまでの成果

静的・トップダウン方式による内容記述モデル ストーリの文法に基づくビデオデータベースの開発

動的・ボトムアップ方式による内容記述モデル プロトタイプの概念に基づくビデオデータベースの開発

知識表現からの共通構造の発見と概念獲得への応用 ネットワークと並列化による高速なグラフマッチングアル

ゴリズムの開発

Page 31: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

31(

知的構造化

)(

知的構造化

ハイフェー

ハイフェー

自己組織化

)(

自己組織化

ロー

フェー

ロー

フェー

コンテンツ

データ

構造化/自己組織化

記述の抽象化&意味付け

時空間における関係付け

認識&索引付け

セグメンテーション&分類パターン

信号

記号

状況

概念

従来の従来のデータベーデータベー

スス

因果関係の検索

状況検索

イベント検索

パターン検索

信号検索

コンテンツの知的構造化のプロコンテンツの知的構造化のプロセスセス

Page 32: JSPS 未来開拓学術研究推進事業研究プロジェクト

32

JSPS Multimedia Contents Project

マルチメディア・コンテンツのマルチメディア・コンテンツのアクセスアーキテクチャアクセスアーキテクチャ

田中克己 *1 田島敬史 *1

下條真司 *2 春本 要 *2

*1 神戸大学*2 大阪大学

Page 33: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

33

コンテンツを取り巻く状況コンテンツを取り巻く状況

通信,放送の融合 技術的にも政治的にも

デジタルコンテンツ デジタル化による多様なサービス提供 権利・課金管理の変貌 メディアミックスによるコンテンツ再利用 生産者と消費者の境がなくなっていく

新しいアクセスアーキテクチャが求められている

Page 34: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

34

研究目的研究目的

コンテンツ情報の共有・再利用のための要素技術とアクセス・アーキテクチャ コンテンツの構造化と検索 コンテンツの流通管理 コンテンツ配送と情報フィルタリング

知的構造化 仮想空間・拡張現実空間

アクセスアーキテクチャ

深い意味レベルでの構造化自 己組織化

DB からの空間生成空間上での検索

Page 35: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

35

対象コンテンツ対象コンテンツ

ビデオ、文書、空間データ、モーションデータ、3DCGデータ、放送データ

テクスチャ素材 実写映像

モーションデータ仮想スタジオ用素材

都市空間データ

Page 36: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

36

研究内容研究内容

コンテンツの構造化と検索 映像などの連続メディアの記述・検索モデル コンテンツベースの構造化機構 半構造データの再構造化 素材の組み合わせ検索

コンテンツの流通管理 コンテンツのアクセス権管理 コンテンツの版権管理

放送型コンテンツ配送 コンテンツ検索と動的組織化 PUSH型に対応したNews On Demandシステム

Page 37: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

37マルチメディアコンテンツの特マルチメディアコンテンツの特性 性 (1)(1)

半構造性 完全なスキーマを持たない データ項目の出現位置が不定 再構造化機構(コンテンツベースの分類、集

合型再構造化言語、ビュー定義)の必要性

Page 38: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

38マルチメディアコンテンツの特マルチメディアコンテンツの特性 性 (2)(2)

多様性 メタデータ(内容記述情報)の多様性(多レベ

ル性) ビュー統合、レイヤ構造、ハイブリッド化の必要性

表示・サービスの多様性 マルチバージョン、 自律 的管理の必要性

利用者の視点の多様性印象や使用履歴に基づく類似検索、ビューの必要性

Page 39: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

39マルチメディアコンテンツの特マルチメディアコンテンツの特性 性 (3)(3)

連続性 情報単位や検索単位が連続的 連続オブジェクトに適したオーサリング・検

索モデルの必要性

Page 40: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

40

アプローチアプローチ半構造性

インスタンスベース、オブジェクトモデル(プロトタイプ、メディエータ) ビュー 動的構造化、 自 己組織化

多様性 ビュー・知識の統合 分散オブジェクト インスタンス・オブジェクトのビュー 印象・感性検索

連続性 ストリーム+半構造のデータ操作 連続オブジェクトの記述・検索モデル ストリームと内容記述の一体化( MPEG7 )

Page 41: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

41コンテンツの構造化と検索コンテンツの構造化と検索-連続メディアの記述と検索--連続メディアの記述と検索-

質問:「サイボーグが怪獣と戦っている区間?」

AND解釈:サイボーグ AND 怪獣 AND 戦闘 区間1,2,3の intersection が解?

OR解釈:サイボーグ OR 怪獣 OR 戦闘 {区間1,2,3 } が解?

区間1,2,3の拡張 union が解区間 解区間中でキーワードはどこかに出現( somewhere ) 解区間中のノイズの扱いと解の評価尺度

サイボーグ サイボーグ

怪獣

戦闘

怪獣

区間1

区間2

区間3

Page 42: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

42コンテンツの構造化と検索コンテンツの構造化と検索-内容記述モデル--内容記述モデル-時刻印付きオーサリンググラ

フ 区間指定の困難さへの対処 (DEXA97)

解区間の動的合成とキーワードの成立範囲・同時性を考慮したモデル 記述の有効範囲と同時性 記述の半順序関係による近似解検索 情処国際シンポ 97 x*: everywhere

x^: surface (この範囲のみ)x : somewhere (どこか)x ・ y : x と y が同時

内容記述

Page 43: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

43コンテンツの構造化と検索コンテンツの構造化と検索-コンテンツベースの構造化--コンテンツベースの構造化-

ハイブリッド型構造化機構コンテンツとメタ情報併用によるコンテンツ群の自 己組織化 (DMIB’97) 分類精度の向上 メタ情報記述の軽減

Kohonenの自 己組織化マップの 3D 化 (DASFAA’97)

インターネットで収集した文書・動画の動的な分類 (DASFAA’97)

3次元自己組織化マップ

Page 44: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

44コンテンツの構造化と検索コンテンツの構造化と検索-半構造データの再構造化--半構造データの再構造化-内容処理による再構造化

木構造、部分木が実体に対応 同一タグの出現レベルが不定 コンテンツベースの再構造化 メイリングリスト , web, VRML

データ

半構造データの再構成 半構造データ再構造化言語の開発 (情処全大 9709)

Web ・ VRML データのビュー定義

仮想空間上でのwalkthroughによる質問形成 ( 投稿中 ) サンプルによる質問ベクトル形成

Page 45: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

45コンテンツの構造化と検索コンテンツの構造化と検索-映像制作素材の組み合わせ検索--映像制作素材の組み合わせ検索-

3DCG素材の組み合わせ検索 (DMIB97) 3D CGオブジェクト(大道具・小道具)の組合せ検索印象語ベクトル空間モデルでの部分マッチング

VRMLデータの検索と合成 VRML検索エンジン ( 投稿中 )VRMLの論理構造に基づく検索

VRML空間の対話的生成 (実装中 )空間による型制約

Page 46: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

46

仮想スタジオセット仮想スタジオセット

Page 47: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

47

コンテンツの構造化と検索コンテンツの構造化と検索-モーションデータの内容記述と検-モーションデータの内容記述と検索-索-

拡張ビデオ代数の利用 (DMIB97) マルチストリーム マルチレイヤ 階層記述

VRML 空間での合成・表示

Page 48: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

48コンテンツの構造化と検索コンテンツの構造化と検索- - News On Demand News On Demand --

マルチメディア情マルチメディア情報の意味抽出報の意味抽出マルチメディア情マルチメディア情報の意味抽出報の意味抽出

Page 49: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

49コンテンツの流通管理コンテンツの流通管理-アクセス権管理--アクセス権管理-

マルチメディアコンテンツのアクセス権管理(WWCA97) 多レベルの詳細度を持つ 利用者毎に異なる詳細度 複雑な部分・全体関係 従来の DBMS のアクセス権管理は

all-or-nothing

Non all-or-nothingなアクセス権管理方式の必要性(投稿中) マルチメディア DB のための新しいア

クセス権管理手法の確立が求められる

Page 50: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

50コンテンツの流通管理コンテンツの流通管理-版権管理--版権管理-コンテンツと認証機構の分散オブジェクト化

自律 的な認証・配送 DEXA97および投稿中

認証レベルに応じたサービス多様化

Level1 indexLevel2 IndexLevel3 Index

Methods

マルチメディアデータマルチメディアデータ

オブジェクト化オブジェクト化

認証された画像オブジェクト

認証された画像オブジェクト 認証されていない

画像オブジェクト

認証されていない画像オブジェクト

認証要求認証要求

Page 51: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

51

放送型コンテンツ配送放送型コンテンツ配送-コンテンツ検索と動的組織化-コンテンツ検索と動的組織化--

デジタル衛星放送の電子番組ガイドフィルタリングと動的リンク付与:連続問合せ

機構動的再構築方式PACRIM97

t送出システム

受信

Page 52: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

52放送型コンテンツ配送放送型コンテンツ配送- - AgentCast AgentCast --

コンテンツにまつわるさまざまな問題を新しい放送をベースに考える。

ベースとなる技術 コンテンツの記述と構造化 エージェント( Mobile Code, Intelligent Agent) Mass/Community からのフィードバック (Data Mining)

個人からのフィードバック (情報フィルタリングと学習 )

Page 53: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

53

放送型コンテンツ配送放送型コンテンツ配送生産のための技術

再利用,再構成のためのメディア蓄積技術 取材エージェント,編集エージェント コンテンツのモデル化

安全に流通させる技術 課金,認証,委譲 エージェントとセキュリティ

消費のための技術 大量のマルチメディアコンテンツを短時間でアクセスするため

のメディア処理技術 情報フィルタリング,情報エージェント

広域放送のためのネットワーク技術 情報配送,異機種分散環境への適応, QoS

Page 54: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

54放送型コンテンツ配送放送型コンテンツ配送- - AgentCast AgentCast --

AgentCastのアーキテクチャ

ビデオ

CommunicationAgent

MediaAgent

ビデオ

DirectoryServer

User Agent

down link

up link

User Terminal

AgentCastServer

Page 55: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

・ の からのマルチメディア コンテンツ データベース・ の からのマルチメディア コンテンツ データベース仮想空間・拡張現実空間の仮想空間・拡張現実空間の

生成と活用生成と活用

岸野文郎 *1 西尾章治郎 *1 北村喜文*1

塚本昌彦 *1 正城敏博 *1 有川正俊 *2

*1 大阪大学*2 広島市立大学

Page 56: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

56

・ の からのマルチメディア コンテンツ データベース・ の からのマルチメディア コンテンツ データベース仮想空間・拡張現実空間の生成と活仮想空間・拡張現実空間の生成と活用用

知的構造化された ・ を用い,マルチメディア コンテンツ 利用者の目的に応じた ・配送方式によアクセスり,

利用者が所望する新たな ・ をマルチメディア コンテンツ生成する

利用者に解り易い ・ の提示マルチメディア コンテンツ→仮想現実空間構築技術の積極的活用

Page 57: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

57

リアリティに富む仮想現実空間のリアリティに富む仮想現実空間の生成生成

-実空間映像の積極的活用--実空間映像の積極的活用-

仮想現実空間の一部に実空間映像を融合→拡張現実を基本とする ・ の提示マルチメディア コンテンツ

データビジュアリゼーション

実映像から仮想現実空間を生成、実空間に重畳→実映像を用いた 3次元 の獲得と 操作シーン インタラクティブ

創造性支援

現実空間に仮想空間映像を重畳→ による拡張現実空間の構築モーバイルコンピューティング

コミュニケーション支援

Page 58: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

58

時空間情報ベースと時空間情報ベースと空間ハイパーメディ空間ハイパーメディアア

大規模仮想空間をネットワーク環境下で扱う技術の確立 [IWQOS97][SPIE-DVV97]

実時間ビデオ映像と3次元仮想空間の融合アバタの振る舞いに応じた仮想空間の動的

再構成

Page 59: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

59

大規模仮想空間をネットワー大規模仮想空間をネットワークク環境下で扱う技術の確立環境下で扱う技術の確立

Page 60: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

60

実時間ビデオ映像と実時間ビデオ映像と3次元仮想空間の融3次元仮想空間の融合合

Page 61: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

61

アバタの振る舞いに応じアバタの振る舞いに応じたた仮想空間の動的再構成仮想空間の動的再構成

Page 62: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

62リアリティに富む仮想現実空間のリアリティに富む仮想現実空間の生成生成-実空間映像の積極的活用--実空間映像の積極的活用-

仮想現実空間の一部に実空間映像を融合→拡張現実を基本とする ・ の提示マルチメディア コンテンツ

データビジュアリゼーション

実映像から仮想現実空間を生成、実空間に重畳→実映像を用いた 3次元 の獲得と 操作シーン インタラクティブ

創造性支援

現実空間に仮想空間映像を重畳→ による拡張現実空間の構築モーバイルコンピューティング

コミュニケーション支援

Page 63: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

63

背景背景

現実世界

仮想世界

仮想・現実

混在空間

物体単位にモデリング

物体単位に操作可能

TV カメラで撮影

フレーム単位で操作

映像中の特定の対象に注目したコンテンツベースの操作

直感的・直接操作インタフェー

Page 64: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

64

実映像を用いた実映像を用いた 33次元 のシーン次元 のシーン獲得と 操作インタラクティブ獲得と 操作インタラクティブ

多視点実映像を用いた仮想・現実 混在 空間の生成

映像コンテンツの切り出しと 3次元トラッキング

映像コンテンツに対する 直 感的・直接 操作のインタフェース

仮想・現実物体に作用する物理法則を 考慮した統一的物体操作の枠組み [HIS97][VRST97]

Page 65: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

65

野生動物園における野生動物園における各種インタラクションの例各種インタラクションの例

観察

接触

捕獲

餌付け

様々なインタラクション

Page 66: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

66

ディジタル野生動物ディジタル野生動物園園

virtual worldreal world

Page 67: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

67

ディジタル水族館ディジタル水族館

Real fishtank

Virtual world

Page 68: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

68

水槽に対するインタラクティブ水槽に対するインタラクティブ操作操作

視点移動

魚の見え隠れの観察

魚を捕る

餌をやる,手を叩く,水槽を叩く… .

Page 69: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

69

研究項目研究項目

多視点動画像解析・処理による対象物の追跡と切り出し, 3次元位置の計測

仮想世界とのインタラクション 動物体との接触 ,隠蔽関係の処理 動物体の把持, 捕獲,操作 ⇒ 当該対象物を背景色で などマスキング

視点に対する前後関係の判断 ⇒ 他の視点の を利用した の調整カメラ レイヤ

動物体の生態に基づく の切り出し・蓄積と, シーン の局面に応じた再生インタラクション

実映像を用いた 3 次元 のシーン獲得と 操作インタラクティブ

Page 70: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

70

仮想世界と現実世界の融合仮想世界と現実世界の融合

現実世界

仮想世界

仮想物体に対して一部の物理法則を模擬する

実物体に作用する物理法則に制限を設ける

融合世界 妥協点を見つける

実・仮想物体が同一の枠組で扱える

Page 71: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

71

仮想物体と実物体の統一的仮想物体と実物体の統一的なな操作実験環境操作実験環境

現実世界 仮想世界

接 合

物体の各面に磁石を貼付

衝突検出

・ 接触面 で物体の 運動を拘束

・ 物体同士の 非透過性を確保

・ 正確な物体配置 を支援

接 合仮想的な磁石

を模擬

磁石のメタファ

利用

Page 72: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

72リアリティに富む仮想現実空間のリアリティに富む仮想現実空間の生成生成-実空間映像の積極的活用--実空間映像の積極的活用-

仮想現実空間の一部に実空間映像を融合→拡張現実を基本とする ・ の提示マルチメディア コンテンツ

データビジュアリゼーション

実映像から仮想現実空間を生成、実空間に重畳→実映像を用いた 3次元 の獲得と 操作シーン インタラクティブ

創造性支援

現実空間に仮想空間映像を重畳→ による拡張現実空間の構築モーバイルコンピューティング

コミュニケーション支援

Page 73: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

73

実空間から仮想空間の状況を,仮想空間から実空間の状況を知ることが可能

両空間からのインタラクションが可能 利用例

 遠隔会議, 在宅勤務 ,ホームオートメーション,旅行,旅行ガイド,電子秘書,アンパイアなど

透明人間環境透明人間環境

実空間と仮想空間を相互にマッピング

[DiCoMo97][ 信学研資 DE97][PacRim97]

Page 74: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

74

実空間仮想空間

Existence-SensitivePad (ESP)

Invisible PersonHost (IPH)

透明人間 ESPer

実人間

透明人間環境透明人間環境

Page 75: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

75

透明人間環境透明人間環境遠隔地のユーザ(透明人間)は,グラ

フィックワークステーションを用いて仮想的に実空間に訪れる.

実空間において,透明人間の姿は(もちろん)見えない.

実人間は, ESPを用いることで透明人間の姿が見える.

ESPを持つ人をエスパー( ESPer)と呼ぶ.

Page 76: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

76

Page 77: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

77

Page 78: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

78

年度別研究計画年度別研究計画

平成9年度 マルチメディア コンテンツ処理のベースとな・

るマルチメディア データモデルの構築・平成10年度

マルチメディアコンテンツの共有 再利用 加・ ・工技術およびコンピュータ ネットワーク技術・に関する研究

国際会議 International Conference on Advanced Multimedia Contents Processing  を企画中

Page 79: JSPS 未来開拓学術研究推進事業研究プロジェクト

JSPS Multimedia Contents Project

79

年度別研究計画年度別研究計画平成11年度

マルチメディア コンテンツの高次処理技術システムを構・築

平成12年度 マルチメディア コンテンツを含む情報ベースに知識シス・

テムを導入平成13年度

研究成果の評価および、より高度なネットワーク環境におけるデータベース アーキテクチャの検討・