速記科学研究会、速記・言語科学研究会合同研究会 5th ...caneco.my.coocan.jp/001j/pitman_system.pdf速記科学研究会、速記・言語科学研究会合同研究会
JSPS 未来開拓学術研究推進事業研究プロジェクト
description
Transcript of JSPS 未来開拓学術研究推進事業研究プロジェクト
1
JSPS Multimedia Contents Project
JSPSJSPS 未来開拓学術研究推進事業未来開拓学術研究推進事業研究プロジェクト研究プロジェクト
知能情報 高度情報処理・マルチメディア コンテンツの高次処理の・
研究
大阪大学工学研究科 情報システム工学専攻
西尾 章治郎
JSPS Multimedia Contents Project
2
マルチメディア・コンテンツ
ハードウェア ソフトウェアの発・ハードウェア ソフトウェアの発・達達
ハードウェア ソフトウェアからコンテンツへ・
ソフト高機能
CPU 高速
大容量
JSPS Multimedia Contents Project
3
コンテンツとは?コンテンツとは?
積み木
素材となるデータ素材となるデータ
赤、青 サッカー
シュート原因
結果
構造化・意味付けされたデータ構造化・意味付けされたデータ
サッカー
ゴール !ストーリー
JSPS Multimedia Contents Project
4
第1世代
マルチメディア・コンテンツのマルチメディア・コンテンツの管理管理
異なるメディアの統合管理
第2世代時間による関連を付加
第3世代空間的な関連を付加
第4世代内在する知識の導出機能を付加 動画像データ動画像データ
画像画像 テキストテキスト
音声音声
33 次元データ次元データ
男 運動している・ ・男 運動している・ ・ボールを持っているボールを持っている
JSPS Multimedia Contents Project
5
統一モデル: 統一的な表現モデル.完全には実現されていない.
統合モデル: 複数レイヤの統合モデル.各レイヤに適した表現が可能.
データベースレイヤリンクレイヤ
プレゼンテーションレイヤ
マルチメディア・コンテンツの表現マルチメディア・コンテンツの表現モデルモデル
JSPS Multimedia Contents Project
6マルチメディア・コンテンツのマルチメディア・コンテンツの流通流通
物理メディア CD-ROM, DVD-ROM
通信メディア (1対1) 広帯域ネットワーク 移動体通信
放送メディア (1対多) ディジタル衛星放送 無線ネットワーク
01
10
1
…
BroadbandNetwork
JSPS Multimedia Contents Project
7
マルチメディア コンテンツ・
DB要求
ユーザ
コンテンツの創生
獲得 蓄積・
検索・加工 編集・
アクセス管理機構
JSPS Multimedia Contents Project
8
研究組織機構図研究組織機構図
プロジェクトリーダー西尾 章治郎大阪大学工学部教授
マルチメディア データモデルとコンテンツの知的・構造
リーダー 龍谷大学教授 有木 康雄神戸大学教授 上原 邦昭
マルチメディア コンテンツのアクセスアーキテクチャ・リーダー 神戸大学教授 田中 克己
大阪大学助教授 下條 真司神戸大学助手 田島 敬史大阪大学助手 春本 要
マルチメディア コンテンツのデータベースからの仮想空間・ ・拡張現実空間の生成と活用(モーバイル DB を含む)
リーダー 大阪大学教授 岸野 文郎広島市立大学助教授 有川 正俊大阪大学助教授 北村 喜文大阪大学助教授 塚本 昌彦大阪大学助手 正城 敏博
JSPS Multimedia Contents Project
9マルチメディア コンテンツの高・マルチメディア コンテンツの高・次処理次処理
有木康雄 : マルチメディア データモデ・ルと コンテンツの知的構造化
田中克己 : マルチメディア コンテンツ・のアク セスアーキテクチャ
岸野文郎 : マルチメディア・コンテンツのデー タベースからの仮想空間 拡・張 現実空間の生成と活用
10
JSPS Multimedia Contents Project
マルチメディア データモデルと・マルチメディア データモデルと・コンテンツの知的構造化コンテンツの知的構造化
有木 康雄 *1 上原 邦昭 *2
*1 龍谷大学*2 神戸大学
JSPS Multimedia Contents Project
11
メディアのディジタル化と統合
マルチメディア環境
マルチメディア環境マルチメディア環境
放送(テレビ)出版(新聞、書籍)娯楽・教養(映画、講義)
通信(インターネット)
電子図書館仮想博物館仮想美術館仮想キャンパス
知的活動を行う情報空間
[ 興味ある情報の収集と分析 ]
JSPS Multimedia Contents Project
12
本
マルチメディア・コンテンツのマルチメディア・コンテンツの構造化構造化マルチメディア・コンテンツのマルチメディア・コンテンツの構造化構造化
アニメアニメ ドラマドラマ 映画映画 ビデオビデオ
ドキュメンタドキュメンタリリ
ニュース映像ニュース映像 スポーツ映像スポーツ映像 個人の映像個人の映像
索引(概念)
目次(構成)
要約(文脈・粗筋)
構造化されているデータ 構造化されていないデータ
コンテンツへのアクセス・絞り込み
コンテンツの構造化
JSPS Multimedia Contents Project
13(
知的構造化
)(
知的構造化
)
ハイフェー
ズ
ハイフェー
ズ
(
自己組織化
)(
自己組織化
)
ロー
フェー
ズ
ロー
フェー
ズ
コンテンツの知的構造化のプロコンテンツの知的構造化のプロセスセス
コンテンツ
データ
構造化/自己組織化
記述の抽象化&意味付け
時空間における関係付け
認識&索引付け
セグメンテーション&分類パターン
信号
記号
状況
概念
従来の従来のデータベーデータベー
スス
因果関係の検索
状況検索
イベント検索
パターン検索
信号検索
JSPS Multimedia Contents Project
14マルチメディア・データの 自 己組マルチメディア・データの 自 己組織化織化マルチメディア・データの 自 己組マルチメディア・データの 自 己組織化織化
– 映像中のイベント 検索– 映像の 分類、要約、編集
基本課題
コンテンツ構造化の要求 自 己組織化
– 人手を介さない大量データの処理人手を介さない大量データの処理
– ハイフェーズへのブラウザ提供ハイフェーズへのブラウザ提供
– 各種メディアのイベント統合各種メディアのイベント統合
– 階層間のイベント統合階層間のイベント統合
(信号・パターン・記号)(信号・パターン・記号)
– イベント系列を上位のイベントイベント系列を上位のイベント
へ統合へ統合
イベント統合 構造抽出 [ 目次 ]
イベント抽出 [ 索引 ]– 音声・映像・文字メディア
– ショットやシーン
JSPS Multimedia Contents Project
15
TVニュース映像の 自 己組織化TVニュース映像の 自 己組織化TVニュース映像の 自 己組織化TVニュース映像の 自 己組織化
TVで放映されているニュース映像
多チャンネル化– NOD– イベント検索
多様な検索要求– 関連する日本語ニュース– 関連する英語ニュース– ニュースの要約– ニュースの解説(背景・予想)
粒度時間
トピック
JSPS Multimedia Contents Project
16
シーンカットとニュース記事の抽出
バイグラム音声認識による内容理解
テロップやフリップ文字認識による内容理解
顔やシーンの映像認識による情景 状況理解・
TVニュース映像の 自 己組織化TVニュース映像の 自 己組織化TVニュース映像の 自 己組織化TVニュース映像の 自 己組織化
関係付け関係付け
認識認識索引付け索引付け
セグメンテーショセグメンテーション分類ン分類
パターン
信号
記号
状況
(信学論DII 97年 9月)
( CoopIs97 )
( ICDAR97 )
( IPSJ97 、 ACCV97 )
表現メディアの特質– 音声
– 文字– 映像
内容を表現 内容を要約 情景・状況を伝達
コンテンツ構造化のプロセス
JSPS Multimedia Contents Project
17
ニュース映像の情報検ニュース映像の情報検索索
JSPS Multimedia Contents Project
18
ニュース映像の索引付けと分ニュース映像の索引付けと分類類
JSPS Multimedia Contents Project
19(
知的構造化
)(
知的構造化
)
ハイフェー
ズ
ハイフェー
ズ
(
自己組織化
)(
自己組織化
)
ロー
フェー
ズ
ロー
フェー
ズ
コンテンツの知的構造化のプロコンテンツの知的構造化のプロセスセス
コンテンツ
データ
構造化/自己組織化
記述の抽象化&意味付け
時空間における関係付け
認識&索引付け
セグメンテーション&分類パターン
信号
記号
状況
概念
従来の従来のデータベーデータベー
スス
因果関係の検索
状況検索
イベント検索
パターン検索
信号検索
20
JSPS Multimedia Contents Project
マルチメディアコンテンツの構マルチメディアコンテンツの構造化と概念獲得造化と概念獲得
JSPS Multimedia Contents Project
21コンテンツ プロバイダからの依・コンテンツ プロバイダからの依・頼頼
CATV 会社(チャネルK)の場合 2,000 本の VCR テープ 秋の六甲山の風景を再利用したい
映画会社(東映)の場合 2,000 本の映画予告編 いつでも見たいシーンをすぐに取り出したい
JSPS Multimedia Contents Project
22マルチメディアコンテンツの構マルチメディアコンテンツの構造化と概念獲得造化と概念獲得
研究目標意味内容を考慮した映像検索方式
見たい映像をどのように検索するか
ビデオデータの内容記述形式の定式化 ビデオデータの意味表現言語の開発
ビデオデータからの概念獲得 ビデオデータの共有と再利用
JSPS Multimedia Contents Project
23
内容記述モデル内容記述モデル
静的 トップダウン的なモデル・ ( CODAS-96)
シナリオが予め与えられている場合 おとぎ話など、ストーリが単純な映像
動的 ボトムアップ的なモデル・ (DMIB-97)
ドラマなど、ストーリが複雑な映像
断片的記述によるモデル(DEXA-97)
映画の予告編、スポーツなど、ストーリが含まれない映像
JSPS Multimedia Contents Project
24
ストー
リグラ
フ
ストーリの文法に基づくストーリの文法に基づくビデオデータベースの機能ビデオデータベースの機能
ストーリの因果関係に基づく検索 ストーリ全体を見て必要なサブストーリを選択
登場人物や行動に基づく検索 特定の人物や行動を検索
動画像のダイジェスト化 意味的に余分なシーンを省略して、ビデオの
ダイジェストを作成
JSPS Multimedia Contents Project
25
自然言語 による検索文の入力自然言語 による検索文の入力
検索設定用のウィンドウ検索設定用のウィンドウ
ストーリの文法による記述ストーリの文法による記述
出力映像出力映像
ストーリ文法に基づくストーリ文法に基づくビデオデータベースビデオデータベース
JSPS Multimedia Contents Project
26
内容記述モデル内容記述モデル
静的 トップダウン的なモデル・( CODAS-96)
シナリオが予め与えられている場合 おとぎ話など、ストーリが単純な映像
動的 ボトムアップ的なモデル・ (DMIB-97) ドラマなど、ストーリが複雑な映像
断片的記述によるモデル(DEXA-97)
映画の予告編、スポーツなど、ストーリが含まれない映像
JSPS Multimedia Contents Project
27プロトタイプの概念に基づくプロトタイプの概念に基づくビデオデータベースビデオデータベース
内容記述の効率化 意味的な関連性によるデータの抽象化
典型的なシーンの発見 性質の似た内容記述のグループ化
典型的なシーンのクラスタリング
データ管理の効率化 半構造性を持つデータ構造の管理 視認性が高いデータ構造
JSPS Multimedia Contents Project
28
プロトタイププロトタイプ
特徴 静的なクラス定義を持たない
既存のオブジェクトをプロトタイプとして利用する
……オブジェクトオブジェクトコピー
オブジェクトのコピーにより新たなオブジェクトが生成される
修正プロトタイプ
JSPS Multimedia Contents Project
29
典型的なシーンの選択典型的なシーンの選択
シーンの内容記述シーンの内容記述
映像に関する情報映像に関する情報
実際の映像実際の映像
ユニットの内容記述ユニットの内容記述
プロトタイプに基づく内容記述プロトタイプに基づく内容記述
プロトタイプの概念に基づくプロトタイプの概念に基づくビデオデータベースビデオデータベース
JSPS Multimedia Contents Project
30
これまでの成果これまでの成果
静的・トップダウン方式による内容記述モデル ストーリの文法に基づくビデオデータベースの開発
動的・ボトムアップ方式による内容記述モデル プロトタイプの概念に基づくビデオデータベースの開発
知識表現からの共通構造の発見と概念獲得への応用 ネットワークと並列化による高速なグラフマッチングアル
ゴリズムの開発
JSPS Multimedia Contents Project
31(
知的構造化
)(
知的構造化
)
ハイフェー
ズ
ハイフェー
ズ
(
自己組織化
)(
自己組織化
)
ロー
フェー
ズ
ロー
フェー
ズ
コンテンツ
データ
構造化/自己組織化
記述の抽象化&意味付け
時空間における関係付け
認識&索引付け
セグメンテーション&分類パターン
信号
記号
状況
概念
従来の従来のデータベーデータベー
スス
因果関係の検索
状況検索
イベント検索
パターン検索
信号検索
コンテンツの知的構造化のプロコンテンツの知的構造化のプロセスセス
32
JSPS Multimedia Contents Project
マルチメディア・コンテンツのマルチメディア・コンテンツのアクセスアーキテクチャアクセスアーキテクチャ
田中克己 *1 田島敬史 *1
下條真司 *2 春本 要 *2
*1 神戸大学*2 大阪大学
JSPS Multimedia Contents Project
33
コンテンツを取り巻く状況コンテンツを取り巻く状況
通信,放送の融合 技術的にも政治的にも
デジタルコンテンツ デジタル化による多様なサービス提供 権利・課金管理の変貌 メディアミックスによるコンテンツ再利用 生産者と消費者の境がなくなっていく
新しいアクセスアーキテクチャが求められている
JSPS Multimedia Contents Project
34
研究目的研究目的
コンテンツ情報の共有・再利用のための要素技術とアクセス・アーキテクチャ コンテンツの構造化と検索 コンテンツの流通管理 コンテンツ配送と情報フィルタリング
知的構造化 仮想空間・拡張現実空間
アクセスアーキテクチャ
深い意味レベルでの構造化自 己組織化
DB からの空間生成空間上での検索
JSPS Multimedia Contents Project
35
対象コンテンツ対象コンテンツ
ビデオ、文書、空間データ、モーションデータ、3DCGデータ、放送データ
テクスチャ素材 実写映像
モーションデータ仮想スタジオ用素材
都市空間データ
JSPS Multimedia Contents Project
36
研究内容研究内容
コンテンツの構造化と検索 映像などの連続メディアの記述・検索モデル コンテンツベースの構造化機構 半構造データの再構造化 素材の組み合わせ検索
コンテンツの流通管理 コンテンツのアクセス権管理 コンテンツの版権管理
放送型コンテンツ配送 コンテンツ検索と動的組織化 PUSH型に対応したNews On Demandシステム
JSPS Multimedia Contents Project
37マルチメディアコンテンツの特マルチメディアコンテンツの特性 性 (1)(1)
半構造性 完全なスキーマを持たない データ項目の出現位置が不定 再構造化機構(コンテンツベースの分類、集
合型再構造化言語、ビュー定義)の必要性
JSPS Multimedia Contents Project
38マルチメディアコンテンツの特マルチメディアコンテンツの特性 性 (2)(2)
多様性 メタデータ(内容記述情報)の多様性(多レベ
ル性) ビュー統合、レイヤ構造、ハイブリッド化の必要性
表示・サービスの多様性 マルチバージョン、 自律 的管理の必要性
利用者の視点の多様性印象や使用履歴に基づく類似検索、ビューの必要性
JSPS Multimedia Contents Project
39マルチメディアコンテンツの特マルチメディアコンテンツの特性 性 (3)(3)
連続性 情報単位や検索単位が連続的 連続オブジェクトに適したオーサリング・検
索モデルの必要性
JSPS Multimedia Contents Project
40
アプローチアプローチ半構造性
インスタンスベース、オブジェクトモデル(プロトタイプ、メディエータ) ビュー 動的構造化、 自 己組織化
多様性 ビュー・知識の統合 分散オブジェクト インスタンス・オブジェクトのビュー 印象・感性検索
連続性 ストリーム+半構造のデータ操作 連続オブジェクトの記述・検索モデル ストリームと内容記述の一体化( MPEG7 )
JSPS Multimedia Contents Project
41コンテンツの構造化と検索コンテンツの構造化と検索-連続メディアの記述と検索--連続メディアの記述と検索-
質問:「サイボーグが怪獣と戦っている区間?」
AND解釈:サイボーグ AND 怪獣 AND 戦闘 区間1,2,3の intersection が解?
OR解釈:サイボーグ OR 怪獣 OR 戦闘 {区間1,2,3 } が解?
区間1,2,3の拡張 union が解区間 解区間中でキーワードはどこかに出現( somewhere ) 解区間中のノイズの扱いと解の評価尺度
サイボーグ サイボーグ
怪獣
戦闘
怪獣
区間1
区間2
区間3
JSPS Multimedia Contents Project
42コンテンツの構造化と検索コンテンツの構造化と検索-内容記述モデル--内容記述モデル-時刻印付きオーサリンググラ
フ 区間指定の困難さへの対処 (DEXA97)
解区間の動的合成とキーワードの成立範囲・同時性を考慮したモデル 記述の有効範囲と同時性 記述の半順序関係による近似解検索 情処国際シンポ 97 x*: everywhere
x^: surface (この範囲のみ)x : somewhere (どこか)x ・ y : x と y が同時
内容記述
JSPS Multimedia Contents Project
43コンテンツの構造化と検索コンテンツの構造化と検索-コンテンツベースの構造化--コンテンツベースの構造化-
ハイブリッド型構造化機構コンテンツとメタ情報併用によるコンテンツ群の自 己組織化 (DMIB’97) 分類精度の向上 メタ情報記述の軽減
Kohonenの自 己組織化マップの 3D 化 (DASFAA’97)
インターネットで収集した文書・動画の動的な分類 (DASFAA’97)
3次元自己組織化マップ
JSPS Multimedia Contents Project
44コンテンツの構造化と検索コンテンツの構造化と検索-半構造データの再構造化--半構造データの再構造化-内容処理による再構造化
木構造、部分木が実体に対応 同一タグの出現レベルが不定 コンテンツベースの再構造化 メイリングリスト , web, VRML
データ
半構造データの再構成 半構造データ再構造化言語の開発 (情処全大 9709)
Web ・ VRML データのビュー定義
仮想空間上でのwalkthroughによる質問形成 ( 投稿中 ) サンプルによる質問ベクトル形成
JSPS Multimedia Contents Project
45コンテンツの構造化と検索コンテンツの構造化と検索-映像制作素材の組み合わせ検索--映像制作素材の組み合わせ検索-
3DCG素材の組み合わせ検索 (DMIB97) 3D CGオブジェクト(大道具・小道具)の組合せ検索印象語ベクトル空間モデルでの部分マッチング
VRMLデータの検索と合成 VRML検索エンジン ( 投稿中 )VRMLの論理構造に基づく検索
VRML空間の対話的生成 (実装中 )空間による型制約
JSPS Multimedia Contents Project
46
仮想スタジオセット仮想スタジオセット
JSPS Multimedia Contents Project
47
コンテンツの構造化と検索コンテンツの構造化と検索-モーションデータの内容記述と検-モーションデータの内容記述と検索-索-
拡張ビデオ代数の利用 (DMIB97) マルチストリーム マルチレイヤ 階層記述
VRML 空間での合成・表示
JSPS Multimedia Contents Project
48コンテンツの構造化と検索コンテンツの構造化と検索- - News On Demand News On Demand --
マルチメディア情マルチメディア情報の意味抽出報の意味抽出マルチメディア情マルチメディア情報の意味抽出報の意味抽出
JSPS Multimedia Contents Project
49コンテンツの流通管理コンテンツの流通管理-アクセス権管理--アクセス権管理-
マルチメディアコンテンツのアクセス権管理(WWCA97) 多レベルの詳細度を持つ 利用者毎に異なる詳細度 複雑な部分・全体関係 従来の DBMS のアクセス権管理は
all-or-nothing
Non all-or-nothingなアクセス権管理方式の必要性(投稿中) マルチメディア DB のための新しいア
クセス権管理手法の確立が求められる
JSPS Multimedia Contents Project
50コンテンツの流通管理コンテンツの流通管理-版権管理--版権管理-コンテンツと認証機構の分散オブジェクト化
自律 的な認証・配送 DEXA97および投稿中
認証レベルに応じたサービス多様化
Level1 indexLevel2 IndexLevel3 Index
Methods
マルチメディアデータマルチメディアデータ
オブジェクト化オブジェクト化
認証された画像オブジェクト
認証された画像オブジェクト 認証されていない
画像オブジェクト
認証されていない画像オブジェクト
認証要求認証要求
JSPS Multimedia Contents Project
51
放送型コンテンツ配送放送型コンテンツ配送-コンテンツ検索と動的組織化-コンテンツ検索と動的組織化--
デジタル衛星放送の電子番組ガイドフィルタリングと動的リンク付与:連続問合せ
機構動的再構築方式PACRIM97
t送出システム
受信
JSPS Multimedia Contents Project
52放送型コンテンツ配送放送型コンテンツ配送- - AgentCast AgentCast --
コンテンツにまつわるさまざまな問題を新しい放送をベースに考える。
ベースとなる技術 コンテンツの記述と構造化 エージェント( Mobile Code, Intelligent Agent) Mass/Community からのフィードバック (Data Mining)
個人からのフィードバック (情報フィルタリングと学習 )
JSPS Multimedia Contents Project
53
放送型コンテンツ配送放送型コンテンツ配送生産のための技術
再利用,再構成のためのメディア蓄積技術 取材エージェント,編集エージェント コンテンツのモデル化
安全に流通させる技術 課金,認証,委譲 エージェントとセキュリティ
消費のための技術 大量のマルチメディアコンテンツを短時間でアクセスするため
のメディア処理技術 情報フィルタリング,情報エージェント
広域放送のためのネットワーク技術 情報配送,異機種分散環境への適応, QoS
JSPS Multimedia Contents Project
54放送型コンテンツ配送放送型コンテンツ配送- - AgentCast AgentCast --
AgentCastのアーキテクチャ
ビデオ
CommunicationAgent
MediaAgent
ビデオ
DirectoryServer
User Agent
down link
up link
User Terminal
AgentCastServer
JSPS Multimedia Contents Project
・ の からのマルチメディア コンテンツ データベース・ の からのマルチメディア コンテンツ データベース仮想空間・拡張現実空間の仮想空間・拡張現実空間の
生成と活用生成と活用
岸野文郎 *1 西尾章治郎 *1 北村喜文*1
塚本昌彦 *1 正城敏博 *1 有川正俊 *2
*1 大阪大学*2 広島市立大学
JSPS Multimedia Contents Project
56
・ の からのマルチメディア コンテンツ データベース・ の からのマルチメディア コンテンツ データベース仮想空間・拡張現実空間の生成と活仮想空間・拡張現実空間の生成と活用用
知的構造化された ・ を用い,マルチメディア コンテンツ 利用者の目的に応じた ・配送方式によアクセスり,
利用者が所望する新たな ・ をマルチメディア コンテンツ生成する
利用者に解り易い ・ の提示マルチメディア コンテンツ→仮想現実空間構築技術の積極的活用
JSPS Multimedia Contents Project
57
リアリティに富む仮想現実空間のリアリティに富む仮想現実空間の生成生成
-実空間映像の積極的活用--実空間映像の積極的活用-
仮想現実空間の一部に実空間映像を融合→拡張現実を基本とする ・ の提示マルチメディア コンテンツ
データビジュアリゼーション
実映像から仮想現実空間を生成、実空間に重畳→実映像を用いた 3次元 の獲得と 操作シーン インタラクティブ
創造性支援
現実空間に仮想空間映像を重畳→ による拡張現実空間の構築モーバイルコンピューティング
コミュニケーション支援
JSPS Multimedia Contents Project
58
時空間情報ベースと時空間情報ベースと空間ハイパーメディ空間ハイパーメディアア
大規模仮想空間をネットワーク環境下で扱う技術の確立 [IWQOS97][SPIE-DVV97]
実時間ビデオ映像と3次元仮想空間の融合アバタの振る舞いに応じた仮想空間の動的
再構成
JSPS Multimedia Contents Project
59
大規模仮想空間をネットワー大規模仮想空間をネットワークク環境下で扱う技術の確立環境下で扱う技術の確立
JSPS Multimedia Contents Project
60
実時間ビデオ映像と実時間ビデオ映像と3次元仮想空間の融3次元仮想空間の融合合
JSPS Multimedia Contents Project
61
アバタの振る舞いに応じアバタの振る舞いに応じたた仮想空間の動的再構成仮想空間の動的再構成
JSPS Multimedia Contents Project
62リアリティに富む仮想現実空間のリアリティに富む仮想現実空間の生成生成-実空間映像の積極的活用--実空間映像の積極的活用-
仮想現実空間の一部に実空間映像を融合→拡張現実を基本とする ・ の提示マルチメディア コンテンツ
データビジュアリゼーション
実映像から仮想現実空間を生成、実空間に重畳→実映像を用いた 3次元 の獲得と 操作シーン インタラクティブ
創造性支援
現実空間に仮想空間映像を重畳→ による拡張現実空間の構築モーバイルコンピューティング
コミュニケーション支援
JSPS Multimedia Contents Project
63
背景背景
現実世界
仮想世界
仮想・現実
混在空間
物体単位にモデリング
物体単位に操作可能
TV カメラで撮影
フレーム単位で操作
映像中の特定の対象に注目したコンテンツベースの操作
直感的・直接操作インタフェー
ス
JSPS Multimedia Contents Project
64
実映像を用いた実映像を用いた 33次元 のシーン次元 のシーン獲得と 操作インタラクティブ獲得と 操作インタラクティブ
多視点実映像を用いた仮想・現実 混在 空間の生成
映像コンテンツの切り出しと 3次元トラッキング
映像コンテンツに対する 直 感的・直接 操作のインタフェース
仮想・現実物体に作用する物理法則を 考慮した統一的物体操作の枠組み [HIS97][VRST97]
JSPS Multimedia Contents Project
65
野生動物園における野生動物園における各種インタラクションの例各種インタラクションの例
観察
接触
捕獲
餌付け
様々なインタラクション
JSPS Multimedia Contents Project
66
ディジタル野生動物ディジタル野生動物園園
virtual worldreal world
JSPS Multimedia Contents Project
67
ディジタル水族館ディジタル水族館
Real fishtank
Virtual world
JSPS Multimedia Contents Project
68
水槽に対するインタラクティブ水槽に対するインタラクティブ操作操作
視点移動
魚の見え隠れの観察
魚を捕る
餌をやる,手を叩く,水槽を叩く… .
JSPS Multimedia Contents Project
69
研究項目研究項目
多視点動画像解析・処理による対象物の追跡と切り出し, 3次元位置の計測
仮想世界とのインタラクション 動物体との接触 ,隠蔽関係の処理 動物体の把持, 捕獲,操作 ⇒ 当該対象物を背景色で などマスキング
視点に対する前後関係の判断 ⇒ 他の視点の を利用した の調整カメラ レイヤ
動物体の生態に基づく の切り出し・蓄積と, シーン の局面に応じた再生インタラクション
実映像を用いた 3 次元 のシーン獲得と 操作インタラクティブ
JSPS Multimedia Contents Project
70
仮想世界と現実世界の融合仮想世界と現実世界の融合
現実世界
仮想世界
仮想物体に対して一部の物理法則を模擬する
実物体に作用する物理法則に制限を設ける
融合世界 妥協点を見つける
実・仮想物体が同一の枠組で扱える
JSPS Multimedia Contents Project
71
仮想物体と実物体の統一的仮想物体と実物体の統一的なな操作実験環境操作実験環境
現実世界 仮想世界
接 合
物体の各面に磁石を貼付
け
衝突検出
・ 接触面 で物体の 運動を拘束
・ 物体同士の 非透過性を確保
・ 正確な物体配置 を支援
接 合仮想的な磁石
を模擬
磁石のメタファ
利用
JSPS Multimedia Contents Project
72リアリティに富む仮想現実空間のリアリティに富む仮想現実空間の生成生成-実空間映像の積極的活用--実空間映像の積極的活用-
仮想現実空間の一部に実空間映像を融合→拡張現実を基本とする ・ の提示マルチメディア コンテンツ
データビジュアリゼーション
実映像から仮想現実空間を生成、実空間に重畳→実映像を用いた 3次元 の獲得と 操作シーン インタラクティブ
創造性支援
現実空間に仮想空間映像を重畳→ による拡張現実空間の構築モーバイルコンピューティング
コミュニケーション支援
JSPS Multimedia Contents Project
73
実空間から仮想空間の状況を,仮想空間から実空間の状況を知ることが可能
両空間からのインタラクションが可能 利用例
遠隔会議, 在宅勤務 ,ホームオートメーション,旅行,旅行ガイド,電子秘書,アンパイアなど
透明人間環境透明人間環境
実空間と仮想空間を相互にマッピング
[DiCoMo97][ 信学研資 DE97][PacRim97]
JSPS Multimedia Contents Project
74
実空間仮想空間
Existence-SensitivePad (ESP)
Invisible PersonHost (IPH)
透明人間 ESPer
実人間
透明人間環境透明人間環境
JSPS Multimedia Contents Project
75
透明人間環境透明人間環境遠隔地のユーザ(透明人間)は,グラ
フィックワークステーションを用いて仮想的に実空間に訪れる.
実空間において,透明人間の姿は(もちろん)見えない.
実人間は, ESPを用いることで透明人間の姿が見える.
ESPを持つ人をエスパー( ESPer)と呼ぶ.
JSPS Multimedia Contents Project
76
JSPS Multimedia Contents Project
77
JSPS Multimedia Contents Project
78
年度別研究計画年度別研究計画
平成9年度 マルチメディア コンテンツ処理のベースとな・
るマルチメディア データモデルの構築・平成10年度
マルチメディアコンテンツの共有 再利用 加・ ・工技術およびコンピュータ ネットワーク技術・に関する研究
国際会議 International Conference on Advanced Multimedia Contents Processing を企画中
JSPS Multimedia Contents Project
79
年度別研究計画年度別研究計画平成11年度
マルチメディア コンテンツの高次処理技術システムを構・築
平成12年度 マルチメディア コンテンツを含む情報ベースに知識シス・
テムを導入平成13年度
研究成果の評価および、より高度なネットワーク環境におけるデータベース アーキテクチャの検討・