JP2004336382A - 動画像処理装置及びその制御方法、プログラム - Google Patents
動画像処理装置及びその制御方法、プログラム Download PDFInfo
- Publication number
- JP2004336382A JP2004336382A JP2003129456A JP2003129456A JP2004336382A JP 2004336382 A JP2004336382 A JP 2004336382A JP 2003129456 A JP2003129456 A JP 2003129456A JP 2003129456 A JP2003129456 A JP 2003129456A JP 2004336382 A JP2004336382 A JP 2004336382A
- Authority
- JP
- Japan
- Prior art keywords
- scene
- moving image
- state
- index
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
- Signal Processing For Digital Recording And Reproducing (AREA)
- Management Or Editing Of Information On Record Carriers (AREA)
Abstract
【課題】動画を効率的に再利用することが可能な動画像処理装置及びその制御方法、プログラムを提供する。
【解決手段】動画像中のシーンチェンジに基づいて、該動画像を複数のシーンに分割する。分割された各シーンに対応する代表画像を含むシーンの属性情報をインデックスとして、シーン毎に記憶する。記憶されているインデックスに基づくインデックス画面を表示する。インデックス画面で表示されているインデックスに対応するシーンの操作を指示する。そして、指示されるシーンの操作の操作内容に基づいて、該シーンを、画像処理対象として選択するか否かを示す状態設定を行う。
【選択図】 図7
【解決手段】動画像中のシーンチェンジに基づいて、該動画像を複数のシーンに分割する。分割された各シーンに対応する代表画像を含むシーンの属性情報をインデックスとして、シーン毎に記憶する。記憶されているインデックスに基づくインデックス画面を表示する。インデックス画面で表示されているインデックスに対応するシーンの操作を指示する。そして、指示されるシーンの操作の操作内容に基づいて、該シーンを、画像処理対象として選択するか否かを示す状態設定を行う。
【選択図】 図7
Description
【0001】
【発明の属する技術分野】
本発明は、動画像を再利用することを目的として、動画像の記録・表示・再生等の画像処理を行う動画像処理装置及びその制御方法、プログラムに関するものである。
【0002】
【従来の技術】
近年、VTRやビデオムービの普及により動画像が身近なメディアの1つになっている。また、コンピュータ技術の発達により、動画をハードディスクやDVD等のようなランダムアクセス可能な記憶メディアに記憶して蓄積及び管理し、ビデオテープの交換やテープの巻き戻し等のような面倒な操作をすることなく、任意の動画を任意の箇所から動画再生して楽しむことが可能になった。
【0003】
ユーザが、記憶メディアに記憶されている動画像から所望の部分を検索する検索法として、動画像を複数のシーンに分割し、各シーンの代表画像の縮小画像を属性情報として各代表画像と対応付けて記憶しておき、その属性情報から目的のシーンを探すものがある。
【0004】
代表画像は、その動画の内容の内、最も印象的な画像やシーンが変わった瞬間の画像等、その内容が一目でわかるような画像を表示するのが一般的である。このように、その動画像中の代表する代表画像を見ることにより動画像全体の内容を大まかに推測し、大量の動画像の中からある程度候補を絞りこむことができる。
【0005】
しかしながら、動画像は実際に見たり聞いてみないと目的の映像であるかどうかがわからないため、再生して内容を確認する必要がある。また、内容を確認する場合に、通常、必要のない部分は再生させずに、重要な部分だけを再生させることにより再生時間を短縮させることができる。このように、再生によって内容を確認した後、人手により必要な部分と不必要な部分との判定を行っていた。
【0006】
例えば、特許文献1では、動画像を解析することによって、動画像中の変化点を検出し、その変化点に対応する画像をインデックス画像として一括表示する。また、複数のインデックス画像を等間隔で連続再生することにより、動画像の早送り再生を実行して、内容確認を容易にする構成が開示されている。
【0007】
また、特許文献2では、記憶媒体上に収録された複数の動画像に対応するサムネイルを画面上に一覧表示し、一覧表示の中からユーザが選択した複数のサムネイル各々に対応する動画像をその選択順に従って連続して再生することによって、連結編集の作業を行わずに複数の動画像を連続再生する構成が開示されている。
【0008】
更に、特許文献3では、映像を複数のシーンに分割し、各シーンから代表画像を一枚ずつ抽出してアイコンとして一覧表示するとともに、ユーザが注目するアイコンの指す映像を注目アイコンに動画表示していく。このように、ユーザが注目するアイコンのみを動画表示することから、一画面に多くのシーンを表示しつつ、動画アイコンによる映像の確認を可能にする構成が開示されている。
【0009】
【特許文献1】
特開2001−119661号公報
【特許文献2】
特開平10−108122号公報
【特許文献3】
特開2001−326881号公報
【発明が解決しようとする課題】
しかしながら、上記従来例では次のような課題があった。
【0010】
動画像中の各シーンの代表画像を属性情報として一覧表示し、動画編集や情報付与等のために目的のシーンを検索する場合、シーンが細かく区切れていると代表画像数が膨大となる。そのため、特に、家庭用テレビや携帯端末の表示装置等のパーソナルコンピュータのディスプレイに比べて低解像度の表示装置では、一画面では表示できず複数画面に分けて表示しなければならない。
【0011】
また、一度に多数の画像を表示するために表示される各画像のサイズを小さくするなどの理由から、内容確認後に一覧表示画面で目的のシーンを選択しようとしても再生した場面が一覧中のどれなのか分からないという課題があった。
【0012】
特に、自動的に動画像の不連続点を検出して動画像を複数のシーンに分割する場合、不連続点の検出方法によって表示される代表画像数が多くなり、また、表示される一覧表示画面中には、類似画像が多数表示されて内容が判別しにくい。
【0013】
また、再生による内容確認終了後に、一覧表示されている画像のタイトルや代表画像の中から一つ一つ目的のシーンを見つけて選択する操作は煩わしい。
【0014】
本発明は、上記問題を解決するためになされたものであり、動画を効率的に再利用することが可能な動画像処理装置及びその制御方法、プログラムを提供することを目的とする。
【0015】
【課題を解決するための手段】
上記の目的を達成するための本発明による動画像処理装置は以下の構成を備える。即ち、
動画像を処理する動画像処理装置であって、
前記動画像中のシーンチェンジに基づいて、該動画像を複数のシーンに分割する分割手段と、
前記分割手段で分割された各シーンに対応する代表画像を含むシーンの属性情報をインデックスとして、シーン毎に記憶する記憶手段と、
前記記憶手段に記憶されているインデックスに基づくインデックス画面を表示する表示手段と、
前記インデックス画面で表示されているインデックスに対応するシーンの操作を指示する指示手段と、
前記指示手段で指示されるシーンの操作の操作内容に基づいて、該シーンを、画像処理対象として選択するか否かを示す状態設定を行う設定手段と
を備える。
【0016】
また、好ましくは、前記設定手段は、前記指示手段で指示されたシーンの操作が前記複数のシーンの各シーンの連続再生である場合、これらのシーンの内、全フレームが通常再生されたシーンは選択状態に設定し、全フレームが通常再生されなかったシーンは非選択状態に設定する。
【0017】
また、好ましくは、前記設定手段によって設定された各シーンの選択/非選択状態を前記インデックス画面の対応するインデックス毎に表示制御する表示制御手段と、
前記インデックス画面のインデックス毎に表示されている選択/非選択状態を変更する変更手段と
を更に備える。
【0018】
また、好ましくは、前記代表画像は、対応するシーンに基づいて作成された静止画である。
【0019】
また、好ましくは、前記表示制御手段は、前記インデクス画面に各シーンのインデックスとして前記各シーンの代表画像を一覧表示し、シーンに対する操作が終了したシーンに対して前記選択/非選択状態を表示し、前記選択/非選択状態が表示されているシーンに対して前記変更手段による変更を許容する。
【0020】
また、好ましくは、前記操作の操作内容の種類毎に、前記選択/非選択状態を予め対応づけて記憶する状態記憶手段を更に備える。
【0021】
また、好ましくは、前記操作の操作内容の種類毎に、前記選択/非選択状態をデフォルトとして設定するデフォルト状態設定手段を更に備える。
【0022】
また、好ましくは、前記設定手段は、通常再生中のシーンに対し、前記指示手段によって通常再生以外の他の操作によって前記シーンの全フレームが通常再生されなかった場合、前記他の操作の操作内容に対応する状態を前記状態記憶手段を参照して取得し、その取得した状態を、前記シーンの前記選択/非選択状態に設定する。
【0023】
また、好ましくは、前記設定手段は、通常再生中のシーンに対し、前記指示手段によって通常再生以外の他の操作によって前記シーンの全フレームが通常再生されなかった場合、前記他の操作の操作内容に対応する状態を前記状態記憶手段を参照して取得する取得手段と、
前記取得手段で取得した状態の設定変更指示を受け付ける設定受付画面を表示する設定受付画面表示手段とを備え、
前記設定受付画面で設定変更指示された状態を、前記シーンの前記選択/非選択状態に設定する。
【0024】
また、好ましくは、通常再生中のシーンに対し、前記指示手段によって通常再生以外の他の操作によって前記シーンの全フレームが通常再生されなかった場合、他の操作の操作入力点に基づいて、前記シーンを更に分割して再構成する再構成手段を更に備え、
前記設定手段は、前記他の操作の操作内容に基づいて、前記再構成手段で再構成されたシーン群それぞれについて、画像処理対象として選択するか否かを示す状態設定を行う。
【0025】
また、好ましくは、前記再構成手段は、前記他の操作の操作入力点に基づいて、前記シーンを再生シーンと未再生シーンに更に分割して再構成し、
前記設定手段は、前記再生シーンを選択状態に設定し、前記未再生シーンを非選択状態に設定する。
【0026】
また、好ましくは、前記再構成手段は、前記他の操作の操作入力点に基づいて、前記シーンを通常再生シーンと非通常再生シーンに更に分割して再構成し、
前記設定手段は、前記通常再生シーンを選択状態に設定し、前記非通常再生シーンを非選択状態に設定する。
【0027】
上記の目的を達成するための本発明による動画像処理装置の制御方法は以下の構成を備える。即ち、
動画像を処理する動画像処理装置の制御方法であって、
前記動画像中のシーンチェンジに基づいて、該動画像を複数のシーンに分割する分割工程と、
前記分割手段で分割された各シーンに対応する代表画像を含むシーンの属性情報をインデックスとして、シーン毎に記憶媒体に記憶する記憶工程と、
前記記憶媒体に記憶されているインデックスに基づくインデックス画面を表示する表示工程と、
前記インデックス画面で表示されているインデックスに対応するシーンの操作を指示する指示工程と、
前記指示工程で指示されるシーンの操作の操作内容に基づいて、該シーンを、画像処理対象として選択するか否かを示す状態設定を行う設定工程と
を備える。
【0028】
上記の目的を達成するための本発明によるプログラムは以下の構成を備える。即ち、
動画像を処理する動画像処理装置の制御を実現するプログラムであって、
前記動画像中のシーンチェンジに基づいて、該動画像を複数のシーンに分割する分割工程のプログラムコードと、
前記分割手段で分割された各シーンに対応する代表画像を含むシーンの属性情報をインデックスとして、シーン毎に記憶媒体に記憶する記憶工程のプログラムコードと、
前記記憶媒体に記憶されているインデックスに基づくインデックス画面を表示する表示工程のプログラムコードと、
前記インデックス画面で表示されているインデックスに対応するシーンの操作を指示する指示工程のプログラムコードと、
前記指示工程で指示されるシーンの操作の操作内容に基づいて、該シーンを、画像処理対象として選択するか否かを示す状態設定を行う設定工程のプログラムコードと
を備える。
【0029】
【発明の実施の形態】
以下、本発明の実施の形態について図面を用いて詳細に説明する。
【0030】
[実施形態1]
尚、本発明の各実施形態の動画記録及び表示/再生を行う動画像処理装置は、ハードディスクや光磁気ディスク等のランダムアクセス可能な記憶メディアに対応してデータを記録再生する構成を採用するものとする。
【0031】
図1は本発明の実施形態1の動画像処理装置の構成を示すブロック図である。
【0032】
図1の動画像処理装置10において、101はCPUであり、動画像処理装置10の各種構成要素を制御する。102はROMであり、後述する各実施形態のフローチャート群を実現するプログラムを含む各種プログラム、各種設定データ等のデータを記憶する。103はRAMであり、データの作業領域、一時待避領域として機能する。
【0033】
104はハードディスクドライブ(HDD)であり、動画像データ、静止画像データの各種データを記憶する。105はメモリカードの読出/書込用のメモリカードインタフェース(I/F)である。また、メモリカードには、例えば、SDカード、MMカード、スマートメディア、コンパクトフラッシュ(登録商標)等がある。106は外部記憶装置であり、例えば、DVD−RAM/R/RW、CD−R/RWドライブ(CD/DVDドライブ)で構成される。
【0034】
107はディスプレイ装置であり、例えば、LCD、CRT等で構成される。108はプリンタインタフェース(I/F)である。109はプリンタであり、例えば、インクエジェットプリンタ、レーザビームプリンタ、熱転写プリンタ等で構成される。110はネットワークインタフェース(I/F)であり。このネットワークI/F110によってネットワークと接続し、ネットワークを介して外部機器とのデータの送受信が可能となる。111は赤外線受光部である。112は赤外線リモコンであり、動画像処理装置10の各種動作の遠隔操作を実現する。
【0035】
113はシリアルインタフェース(I/F)であり、例えば、USBインタフェースで構成される。114はオペレーションパネルであり、動画像処理装置10の各種操作を実現するためのユーザインタフェース(例えば、タッチパネル、各種ボタン、スイッチ等)を提供する。
【0036】
また、115はビデオインタフェース(I/F)であり、コンポジット映像端子、S−VHS映像端子、IEEE1394、音声ライン入出力、音声デジタル入出力を通じて周辺装置と接続される。また周辺装置から入力されるデジタル信号、あるいはアナログ信号の場合にはそれを符号化し、CPU101で処理可能なデジタルデータに変換する。116はビデオカメラであり、周辺装置の1つである。117はバスであり、動画像処理装置10の各種構成要素を相互に接続し、バス117を介してデータが各種構成要素に相互に入出力される。
【0037】
次に、動画像処理装置10とその周辺装置からなるシステムの構成例について、図2を用いて説明する。
【0038】
図2は本発明の実施形態1の動画像処理装置と周辺装置からなるシステムを示す図である。
【0039】
動画像処理装置(本体)10には、各種の周辺装置が接続される。この周辺装置には、ビデオカメラ116以外に、例えば、デジタルカメラ、スキャナ等がある。ディスプレイ装置107は、テレビ受像機、携帯端末の表示器、ビデオカメラのモニタ、パソコン用のモニタ等に代表される。テレビ受像機の場合、従来の放送用の画面における縦横比は4:3であるが、所謂ワイド画面における縦横比は16:9である。また、パソコン用TFT液晶ディスプレイにおける縦横比は16:10である。
【0040】
また、プリンタ109は、プリンタI/F108を通して動画像処理装置10に接続されており、例えば、静止画像を印刷する。動画像処理装置10は、ネットワークI/F110を通じて、インターネット等のネットワーク205に接続される。外部記憶装置106は、DVD−RAM/ROM/R/RW、CD−R/RW等のメディアに対してデータの読出/書込を行う。
【0041】
メモリカードスロット207は、メモリカードI/F105を介して動画像処理装置10に接続される。動画像処理装置10の前面には、電源スイッチ209、ビデオ端子210等が設けられている。実施形態1では、動画再生装置としてビデオカメラ116が用いられるが、ビデオカメラの代わりにビデオデッキ、テレビチューナであってもよい。
【0042】
次に、リモコン112の詳細構成について、図3を用いて説明する。
【0043】
図3は本発明の実施形態1の赤外線リモコンの詳細構成を示す図である。
【0044】
図3において、301は赤外線発光部である。操作面には、各種ボタンが割り当てられている。
【0045】
具体的には、302はモード(MODE)設定ボタンであり、動画像処理装置10の各種操作モード(例えば、記録、再生、表示、印刷等)の設定を行うためのボタンである。303はヘルプ(HELP)ボタンであり、動画像処理装置10の各種操作のヘルプ画面の表示を指示するためのボタンである。
【0046】
304はメニュー(MENU)ボタンであり、動画像処理装置10の各種操作を実行するためのメニュー画面を表示するためのボタンである。305は上矢印(↑)ボタンである。306は左矢印(←)ボタンである。307は右矢印(→)ボタンである。308は下矢印(↓)ボタンである。これらの各矢印ボタン305〜308を操作することによって、メニュー画面上のカーソルを移動したり、画面の切換等の各種操作を実行することが可能である。
【0047】
309はOKボタンであり、操作対象の処理の実行を指示したり、確定したりするためのボタンである。310はキャンセル(CANCEL)ボタンであり、操作対象の処理の実行を取り消したり、選択対象の選択を解除するためのボタンである。
【0048】
次に、動画像処理装置10の動画入力(動画記録)時の動作について、図4を用いて説明する。
【0049】
図4は本発明の実施形態1の動画像処理装置における動画記録処理を示すフローチャートである。
【0050】
尚、この処理を実現するプログラムは、ROM102に格納されており、CPU101によって実行される。
【0051】
まず、電源ボタン209により電源が投入されると、各種インターフェースの初期化等のシステムの初期化処理を行う(ステップS401)。次に、リモコン112やオペレーションパネル114からのコマンドの入力を待つ(ステップS402)。尚、コマンドは、ビデオI/F115に接続されたビデオカメラ116が再生を開始したことを検出した時にも発生する。
【0052】
コマンドが入力されると、その内容を評価し、動画入力コマンドであるか否かを判定する(ステップS403)。動画入力コマンドでない場合(ステップS403でNO)、入力されたコマンドの内容に対応するその他のコマンド処理を行い(ステップS407)、ステップS402の処理に戻る。
【0053】
一方、ステップS403において、動画入力コマンドである場合(ステップS403でYES)、ビデオI/F115を介して入力される動画像データをハードディスクドライブ104に蓄積する(ステップS404)。そして、その動画像データに対するインデックスの作成を行う(ステップS405)。また、作成されたインデックスは、ハードディスク104、RAM103、メモリカード105等の記憶媒体に保存されることとなる。尚、インデックスの作成処理の詳細については後述する。
【0054】
ここで、インデックスは、動画を分割した各シーンから得られた静止画、各シーンの開始点、長さその他の属性情報と、動画再生を行うためにシーンと動画像データとを関連付けたデータとから構成される。また、シーンとは、動画像データ中の区間であり、例えば、動画像クリップにおいて採用された区間の開始点や終了点のフレームID、長さのフレーム数等で表わすことができる。
【0055】
そして、インデックスの作成を終了すると、インデックスを表示し(ステップS406)、処理を終了する。
【0056】
次に、ステップS405のインデックス作成処理の詳細について、図5を用いて説明する。
【0057】
図5は本発明の実施形態1のステップS405のインデックス作成処理の詳細を示すフローチャートである。
【0058】
まず、動画像データ中のシーンの区切れであるシーンチェンジを検出する(ステップS501)。尚、シーンチェンジの検出方法には、さまざまな方法が知られているが、実施形態1では、フレーム画像の変化による検出方法を用いる。
【0059】
フレーム画像の変化によるシーンチェンジの検出方法では、動画像データから1フレームづつフレーム画像を取り出す処理を行い、過去のフレーム群とのフレーム間類似性距離の計算を行う。ここで、過去のフレーム群とは、単数のフレームの場合も複数のフレームの場合もあり、特に、そのアルゴリズムは限定されない。
【0060】
最も簡単な例を挙げると、前のフレームと現在のフレームに対し、各々のフレーム画像を縦横に格子状に複数のブロック分割を行い、それぞれのブロックに関してRGBの平均値を算出しておく。次に、前のフレームと現在のフレームの対応するブロック同士のRGB各チャンネルの差の二乗和を求め、これをシーンチェンジの激しさの度合いを表すフレーム間類似性距離とする。そして、類似性距離がが所定値より小さいほど類似しており、所定値より大きいほど類似していない、即ち、シーンチェンジである可能性が大きいとする。
【0061】
このフレーム間類似性距離の計算式は、以下式に示す通りである。
【0062】
ここで、各変数の内容は以下の通りである。
【0063】
i :処理中のブロック
K :分割ブロック数
P1iR:直前のフレームのi番目のブロックのRチャンネルの平均値
P1iG:直前のフレームのi番目のブロックのGチャンネルの平均値
P1iB:直前のフレームのi番目のブロックのBチャンネルの平均値
P2iR:現在のフレームのi番目のブロックのRチャンネルの平均値
P2iG:現在のフレームのi番目のブロックのGチャンネルの平均値
P2iB:現在のフレームのi番目のブロックのBチャンネルの平均値
以上のような方法で、シーンチェンジの有無を判定し、シーンチェンジを判定した場合、シーンチェンジの起こったフレーム番号をシーン開始フレームとしてRAM103に記憶し、そのシーンチェンジの激しさの度合いを表す類似度(または距離)、及びそのシーンがブランクシーンであるか否かを示す情報を記憶する。こられの情報をシーン情報と呼ぶこととし、インデックスの一部とする。
【0064】
また、各シーンの長さは、次のシーンの開始フレーム番号と現在のシーンの開始フレーム番号との差から算出することができる。尚、最後のシーンの長さは、動画全体のフレーム数と最終シーンの開始フレーム番号との差から算出することができる。
【0065】
このようにして、シーンチェンジ(分割点)を検出すると、シーンチェンジによって分割されたシーン数が予め設定された第1の閾値を越えているか否かを判定する(ステップS502)。シーン数が第1の閾値以下である場合(ステップS502でNO)、ステップS503に進み、各々のシーンの長さが予め設定された第2の閾値を越えているか否かを判定する。ここでは、たとえ決められたシーン数に達していなくてもあまりに短いシーンがある場合、結合してインデックスの数を減らすようにする。
【0066】
一方、ステップS502において、シーン数が第1の閾値を越えている場合(ステップS502でYES)、あるいはステップS503において、シーンの長さが第2の閾値以下である場合(ステップS503でNO)、ステップS504に進み、シーン結合処理を行う。
【0067】
シーン結合処理では、シーン数を減らし、各シーンのシーン長が第2の閾値を越え、かつ各シーンのシーン長の標準偏差(偏り)がなるべく最小になるようにシーンを結合する。尚、シーンが1つしかなかったり、動画全体の長さが第2の閾値に満たないような例外的な場合は、この処理を行わない。
【0068】
シーン結合処理の簡単な例として、2つの方法を示す。
【0069】
第1の方法では、各シーンについて、そのシーンの長さと1つ前のシーンの長さの和を求め、この和が最小となるシーンについて1つ前のシーンと結合し、シーン数が第2の閾値を越えるまで繰り返す。また、第2の方法では、動画全体を第1の閾値の数で時間等分し、各々の等分した個所に最も近いシーン開始点であるシーンを採用する方法で、採用されなかったシーンは、それぞれその前方にある採用シーンと結合する。第2の方法は、特に動画のシーン数が第1の閾値で定められたシーン数より十分多い場合に有効である。
【0070】
ステップS504で、シーン結合処理を行った後、各シーンの代表画像となる静止画を作成する(ステップS505)。この最も簡単な例としては、各シーンの先頭フレーム画像をそのシーンの静止画として関連付ける。尚、シーン中の複数のフレーム画像から静止画を合成してもよい。この後、シーン情報及び静止画をシーンに対応付け、インデックスとしてハードディスクドライブ104に記憶し(ステップS506)、処理を終了する。
【0071】
この処理が完了すると、実施形態1では、処理対象の動画のインデックスとして、各シーンを代表する静止画(代表画像)がディスプレイ装置107に表示されることになる。
【0072】
ここで、ディスプレイ装置107に表示されるインデックス一覧表示画面の一例について、図6を用いて説明する。
【0073】
図6は本発明の実施形態1のディスプレイ装置に表示されるインデックス一覧表示画面の一例を示す図である。
【0074】
図中、601〜604は、動画が先頭から4つのシーンに分割された場合の各シーンの代表画像を表す静止画である。605は選択中のシーンを示すカーソルである。ここで、リモコン112の各矢印ボタン305〜308を押下することにより、切り出された全てのシーンの中から1つのシーンを選択することができる。
【0075】
また、MENUボタン304を押下することにより、実施形態1における動画像処理装置に実装されている各種機能がメニュー表示され、ここで各矢印ボタン305〜308を操作することによって、ユーザが操作したい機能を選択することができる。
【0076】
OKボタン309を押下すると、ユーザが選択した操作を開始する。実施形態1では、作成したインデックスの連続再生機能が実装されており、矢印ボタン305〜308によって本機能を選択してOKボタン309を押下することにより、一覧表示されているシーンの先頭から順に動画再生を開始する。
【0077】
606は動画バーであり、バー全体で1つの動画像データの再生時間を表す。607は現在のシーンを示すマーカであり、現在選択中のシーンが動画全体に占める位置と長さが分かるように表示される。608はシーンマーカであり、全てのシーンの先頭と長さが一目でわかるように表示される。
【0078】
次に、動画像処理装置10の動画連続再生時及び再生終了時の動作について、図7を用いて説明する。
【0079】
図7は本発明の実施形態1の動画像処理装置における動画連続再生処理及び再生終了後のシーンの選択状態変更処理を示すフローチャートである。
【0080】
尚、この処理を実現するプログラムは、ROM102に格納されており、CPU101によって実行される。また、この処理は、図6のインデックス一覧表示画面が表示された状態で、MENUボタン304等を押下することによって、各シーンの連続再生機能を選択することができる。
【0081】
連続再生機能が選択されると、まず、全てのシーンの「選択状態」を一時的に「非選択」に設定する(ステップS701)。この選択状態は、各々のシーンを示す識別情報と関連付けて、ハードディスク104、RAM103、メモリカード105等の記憶媒体に保存されることとなる。
【0082】
次に、処理対象のシーンを再生するために必要なデータ、即ち、シーンの開始点、長さまたは終了点、その他の属性情報、そのシーンの動画再生を行うためのデータを取得する(ステップS702)。
【0083】
次に、再生対象のシーンを他のシーンと区別がつくような識別表示を行う(ステップS703)。例えば、図6に示すインデックス一覧表示画面において、一覧のそれぞれの位置で各シーンを再生する場合は、カーソル605を次に再生するシーンを示す代表画像に移動する。また、シーンの再生にディスプレイ装置107の画面全体を再生画面として使う場合には、シーン再生直前にインデックス一覧表示画面を数秒間表示してこれから再生するシーンをカーソルで囲み、その後、再生画面へ移行する。このように、次に再生されるシーンが分かるような表示を行うことによって、ユーザが、今、どのシーンが再生されているのかを容易に視認することができる。
【0084】
次に、ステップS702で取得したデータを用いて、再生対象のシーンの再生を開始する(ステップS704)。その後、シーン再生中には、早送りや巻き戻し、停止等の各種操作を受け付けることができるため、ユーザ操作の入力待ちの状態となっている。ユーザは、リモコン112やオペレーションパネル114等の操作手段を使用して、各種ユーザ操作を実行することができる。
【0085】
そして、この状態で、ユーザ操作の有無を判定する(ステップS705)。ユーザ操作がない場合(ステップS705でNO)、ステップS707に進む。一方、ユーザ操作がある場合(ステップS705でYES)、ステップS706に進み、ユーザ操作内容に基づくユーザ操作処理を実行する。尚、この処理の詳細については後述する。
【0086】
次に、再生を開始したシーンが、その最終フレームまで正常に再生されたか否かを判定する(ステップS707)。再生が終了した場合(ステップS707でYES)、ステップS708に進む。一方、再生が終了していない場合(ステップS707でNO)、即ち、まだ、再生中の場合には、再びユーザ操作の入力待ち状態となり、ステップS705に戻る。尚、シーンの再生が終了した場合に、動画像処理装置10から再生正常終了を示すイベントを受信するように実装することもでき、その場合は、イベント受信をトリガとして以下の処理へ進むこととなる。
【0087】
ステップS707において、シーンの再生が終了した場合、その再生が通常再生であったか否かを判定する(ステップS708)。通常再生である場合(ステップS708でYES)、ステップS709に進む。一方、通常再生でない場合(ステップS708でNO)、早送りまたは巻き戻しである場合、ステップS710に進む。尚、早送りや巻き戻し再生はユーザによって指示され、その指示内容に従って、ステップS706のユーザ操作処理を実行する。
【0088】
通常再生が終了した場合に、ステップS701で一時的に「非選択」にしておいたシーンの「選択状態」を「選択」に設定する(ステップS709)。但し、早送りや巻き戻し再生の場合には、変更されずそのまま「非選択」になる。
【0089】
次に、再生対象の次のシーンの有無を判定する(ステップS710)。次のシーンがある場合(ステップS710でYES)、ステップS702に戻り、次のシーンの再生に必要なデータを取得し、再生を行う。一方、次のシーンがない場合(ステップS710でNO)、ステップS711に進む。
【0090】
次に、RAM103等の記憶媒体から、ステップS701及びステップS709で設定された各シーンの選択/非選択状態を取得する(ステップS711)。
【0091】
次に、インデックス一覧表示画面において、各シーンの選択/非選択状態を識別できるような状態識別表示を行う(ステップS712)。この識別表示は、例えば、各代表画像の枠を選択/非選択によって色分けをして示したり、非選択状態となっているシーンの代表画像を網掛けで表示する等の表示形態を制御することによって、ユーザは各シーンの選択/非選択状態を判別することができる。
【0092】
その後、インデックス一覧表示画面において、リモコン112の各矢印ボタン305〜308を押下することによってカーソルを移動したり、MENUボタン304とOKボタン309を押下することによって、各種機能を選択することができるため、ユーザ操作の入力待ちの状態となる。
【0093】
そこで、ユーザ操作の有無を判定する(ステップS713)。ユーザ操作がある場合(ステップS713でYES)、ステップS714に進み、ユーザ操作処理を実行する。一方、ユーザ操作がない場合(ステップS713でNO)、処理を終了する。
【0094】
次に、ステップS706のユーザ操作処理の詳細について、図8を用いて詳述する。
【0095】
図8は本発明の実施形態1のステップS706のユーザ操作処理の詳細を示すフローチャートである。
【0096】
尚、このユーザ操作処理は、処理対象のシーンの再生中に、ユーザ操作によって適宜実行可能な処理である。
【0097】
まず、入力されたユーザ操作がスキップ要求であるか否かを判定する(ステップS801)。スキップ要求である場合(ステップS801でYES)、ステップS802に進み、現在再生中のシーンの再生中止を行い(ステップS802)、図7のステップS710へ進む。一方、スキップ要求でない場合(ステップS801でNO)、ステップS803に進む。
【0098】
次に、入力されたユーザ操作が早送り要求であるか否かを判定する(ステップS803)。早送り要求である場合(ステップS803でYES)、ステップS804に進み、ステップS805で早送りの終了要求が判定されるまで、現在再生中のシーンの早送り再生処理を続ける。一方、早送り要求でない場合(ステップS803でNO)、ステップS807に進む。
【0099】
次に、入力されたユーザ操作が早送り終了要求であるか否かを判定する(ステップS805)。早送り終了要求である場合(ステップS805でYES)、ステップS806に進み、早送り再生処理を終了することによって、通常再生を行う。一方、早送り終了要求でない場合(ステップS805でNO)、ステップS807に進む。
【0100】
次に、入力されたユーザ操作が巻き戻し要求であるか否かを判定する(ステップS807)。巻き戻し要求である場合(ステップS807でYES)、ステップS808に進み、巻き戻しの終了要求が判定されるまで、現在再生中のシーンの巻き戻し再生処理を続ける。一方、巻き戻し要求でない場合(ステップ807でNO)、ステップS811に進む。
【0101】
次に、入力されたユーザ操作が巻き戻し終了要求であるか否かを判定する(ステップS809)。巻き戻し終了要求である場合(ステップS809でYES)、ステップS810に進み、巻き戻し再生処理を終了することによって、通常再生を行う。一方、巻き戻し終了要求でない場合(ステップS809でNO)、ステップS811に進む。
【0102】
次に、入力されたユーザ操作が停止要求であるか否かを判定する(ステップS811)。停止要求である場合(ステップS811でYES)、ステップS812に進み、動画像処理装置10に対して現在再生中のシーンの再生中止を指示して、図7のステップS711へ進む。一方、停止要求でない場合(ステップS811でNO)、ステップS813に進む。
【0103】
次に、入力されたユーザ操作が選択状態の変更要求であるか否かを判定する(ステップS813)。尚、この選択状態の変更要求は、例えば、インデックスの一覧表示画面で各代表画像に対するシーンを各々の画像表示位置で連続再生中に、MENUボタン304を押下してメニューを表示し、矢印ボタン305〜308とOKボタン309を押下して選択状態の変更機能を選択することによって行う。
【0104】
そして、ステップS813において、選択状態の変更要求である場合(ステップS813でYES)、ステップS814に進み、シーンを選択するためのシーン選択操作処理を実行する。
【0105】
このシーン選択操作処理では、ユーザは、リモコン112の各矢印ボタン305〜308を押下することにより、カーソルを移動して、切り出された全てのシーンの中から1つのシーンを選択することができる。但し、選択することができるシーンは、既に再生が終了したシーンである。ここで、OKボタン309を押下することによって、ステップS815に進み、選択/非選択状態を変更するための変更処理を実行する。
【0106】
この変更処理では、選択/非選択状態を変更するための変更画面を表示し、ユーザからの変更操作の入力を受け付ける。ユーザが変更画面上で、選択/非選択を選択し、OKボタン309を押下することによって、RAM103等に記憶されたシーンの選択/非選択状態が変更される。各シーンの選択/非選択状態が変更されたら、インデックス一覧表示画面における各シーンの選択/非選択の状態識別表示も変更する。
【0107】
一方、選択状態の変更要求でない場合(ステップS813でNO)、ステップS816に進み、上記で説明したユーザ操作以外の操作が入力された場合に、それぞれの操作処理を行う。
【0108】
次に、ステップS714のユーザ操作処理の詳細について、図9を用いて説明する。
【0109】
図9は本発明の実施形態1のステップS714のユーザ操作処理を示すフローチャートである。
【0110】
まず、入力されたユーザ操作が編集要求であるか否かを判定する(ステップS901)。尚、編集要求は、MENUボタン304を押下してメニューを表示し、矢印ボタン305〜308とOKボタン309を押下して編集機能を選択することによって指示する。
【0111】
尚、この編集機能には、シーン同士の結合処理、シーンの順番を入れ替える処理、シーンのファイル形式を、例えば、MPEG形式からAVI形式に変換する変換処理等の各種画像処理が含まれる。
【0112】
ステップS901において、編集要求である場合(ステップS901でYES)、ステップS902に進み、編集のための編集画面を表示し、その編集画面を介する編集処理を実行する。この編集処理での編集対象となるシーンは、現在選択状態になっているシーンである。一方、編集要求でない場合(ステップS901でNO)、ステップS903に進む。
【0113】
次に、入力されたユーザ操作が選択/非選択状態の変更要求であるか否かを判定する(ステップS903)。尚、選択/非選択状態の変更要求は、MENUボタン304を押下してメニューを表示し、矢印ボタン305〜308とOKボタン309を押下して選択/非選択状態の変更画面を選択することによって指示する。
【0114】
ステップS903において、選択/非選択状態の変更要求である場合(ステップS903でYES)、ステップS904に進み、シーンを選択するためのシーン選択操作処理を実行する。ユーザは、リモコン112の各矢印ボタン305〜308を押下することにより、カーソルを移動して、切り出された全てのシーンの中から1つのシーンを選択することができる。ここで、OKボタン309を押下することによって、ステップS905へ進み、シーンの選択/非選択状態を変更するための変更処理を実行する。
【0115】
この変更処理では、選択/非選択状態を変更するための変更画面を表示し、ユーザからの変更操作の入力を受け付ける。ユーザが変更画面上で、選択/非選択を選択し、OKボタン309を押下することによって、RAM103等に記憶されたシーンの選択/非選択状態が変更される。各シーンの選択/非選択状態が変更されたら、インデックス一覧表示画面における各シーンの選択/非選択の状態識別表示も変更する。
【0116】
一方、ステップS903において、選択/非選択状態の変更要求でない場合(ステップS903でNO)、ステップS906に進み、上記で説明したユーザ操作以外の操作が入力された場合に、それぞれの操作処理を行う。
【0117】
尚、図9では、メニューから変更機能を選択することにより変更画面を表示して、処理対象のシーンの選択状態を変更する場合の例について説明したが、実装上、他の操作方法によって変更機能を実現することもできる。例えば、インデックス一覧表示画面において、選択状態を変更したいシーンにカーソルを移動させた状態で、MODEボタン302を押下することによって、選択/非選択をトグルさせて、選択/非選択状態を変更するような構成としても良い。
【0118】
以上説明したように、実施形態1によれば、動画編集や情報付与等のために目的のシーンを検索する場合に、シーンに対する再生操作内容の種類(通常再生、早送り再生、巻き戻し再生、再生中止)に基づいて、画像処理対象とするか否かを示すシーンの選択/非選択状態を設定する。
【0119】
そのため、再生後に、インデックス一覧表示画面上に多数のシーンの代表画像が表示されても、内容確認済のシーンを間違えて選択したり、目的のシーンが判別できず再確認するといったことがなくなり、操作効率を上げることができる。また、再生後の選択/非選択状態の設定操作が不要なので、更に操作効率が向上する。
【0120】
具体的には、例えば、複数のシーンの中から、所望のシーン群を選択して、1つの動画に結合操作を実行する場合には、候補となるシーンの再生確認を通常再生した場合には、その通常再生が完了した時点で、そのシーンが結合対象のシーンとして確定される。これにより、複数のシーンそれぞれに対し、通常再生による確認を行ったシーンは、確認が完了した時点で、シーンが結合対象として確定されているので、その後の結合操作を行う場合には、結合対象とするシーンの選択操作を行わずに、直ちに結合操作を行うことが可能となる。
【0121】
[実施形態2]
実施形態1では、シーンの選択/非選択状態の設定を、処理対象のシーンの再生操作内容として、その種類が通常再生である場合にのみ、そのシーンを選択状態に設定する構成としたが、用途や目的に応じては、これに限定されない。例えば、再生操作内容の種類ごとに、デフォルトの選択/非選択状態を設定しておき、実際の再生操作内容と、デフォルトの選択//非選択情報に基づいて、シーンの選択/非選択状態を設定するようにしても良い。
【0122】
以下、実施形態2に係る動画像処理装置10の動画連続再生時及び再生終了時の動作について、図10を用いて説明する。
【0123】
図10は本発明の実施形態2の動画像処理装置における動画連続再生処理及び再生終了後のシーンの選択状態変更処理を示すフローチャートである。
【0124】
尚、この処理は、実施形態1の図7の処理の応用例であり、図7と同一の処理ステップは同一のステップ番号を付加し、その詳細については省略する。但し、実施形態2の場合のステップS706のユーザ操作処理を、実施形態1の図8で実現する場合に、ステップS802の処理では、その処理後は、ステップS710ではなく、ステップS718に戻る。
【0125】
ステップS701〜ステップS707の処理を経て、ステップS707において、シーンの再生が終了した場合、そのシーンの選択/非選択状態を設定する状態設定処理を実行する(ステップS718)。尚、この状態設定処理の詳細については後述する。
【0126】
次に、シーンの再生が中断されたか否かを判定する(ステップS719)。再生が中断されない場合(ステップS719でNO)、つまり、中断されず、正常に通常再生が終了した場合、ステップS710に進む。一方、再生が中断された場合(ステップS719でYES)、ステップS711に進む。
【0127】
尚、再生の中断は、実施形態1の図8で説明したユーザ操作処理によって実現されるものである。
【0128】
次に、ステップS718の状態設定処理の詳細について、図11を用いて説明する。
【0129】
図11は本発明の実施形態2の状態設定処理の詳細を示すフローチャートである。
【0130】
まず、通常再生によってシーンの再生が終了したか否かを判別する(ステップS1001)。通常再生が終了した場合(ステップS1001でYES)、ステップS1009へ進み、そのシーンを非選択状態から選択状態に設定する。一方、通常再生が終了してなかった場合(ステップS1001でNO)、ステップS1002に進む。
【0131】
次に、ユーザからのスキップ操作が行われたか否かを判定する(ステップS1002)。スキップ操作が行われた場合(ステップS1002でYES)、ステップS1006に進む。一方、スキップ操作が行われていない場合(ステップS1002でNO)、ステップS1003に進む。
【0132】
次に、早送り再生操作によってシーンの再生が終了したか否かを判定する(ステップS1003)。早送り再生操作が行われた場合(ステップS1003でYES)、ステップS1006に進む。一方、早送り再生操作が行われなかった場合(ステップS1003でNO)、ステップS1004に進む。
【0133】
次に、巻き戻し再生操作によってシーンの再生が終了したか否かを判定する(ステップS1004)。巻き戻し再生操作が行われた場合(ステップS1004でYES)、ステップS1006に進む。一方、巻き戻し再生操作が行われなかった場合(ステップS1004でNO)、ステップS1005に進む。
【0134】
次に、ユーザからの停止操作が行われたか否かを判定する(ステップS1005)。停止操作が行われなかった場合(ステップS1005でNO)、処理を終了する。一方、停止操作が行われた場合(ステップS1005でYES)、ステップS1006に進む。
【0135】
次に、ステップS1002〜ステップS1005の各種判定で、スキップ操作や早送り操作等の操作が行われた場合は、それぞれの操作内容に対してデフォルトで設定されている選択/非選択状態を、RAM103等の記憶媒体から取得する(ステップS1006)。
【0136】
尚、この各操作内容に対するデフォルトの選択/非選択状態は、HDD104、RAM103、メモリカード105等の記憶媒体にユーザによって予め設定され保存されている。このデフォルトの選択/非選択状態の設定処理の詳細については後述する。
【0137】
次に、ステップS1006で取得したデフォルトの選択/非選択状態を示し、その状態に対し、実際に所望する選択/非選択状態に設定変更する設定変更指示を受け付ける設定受付画面を表示する(ステップS1007)。ユーザは、この設定受付画面上で、処理対象のシーンの選択/非選択を選択し、OKボタン309を押下することによって、シーンの選択/非選択状態を設定することができる。尚、この処理をスキップして、デフォルトの選択/非選択状態を維持するようにしても良い。
【0138】
次に、シーンの状態の設定が選択に設定されているか否かを判定する(ステップS1008)。選択に設定されていない場合(ステップS1008でNO)、処理を終了する。一方、選択に設定されている場合(ステップS1008でYES)、ステップS1009に進み、そのシーンを選択状態に設定する。
【0139】
次に、ステップS1006における、ユーザ操作の操作内容に基づくシーンのデフォルトの選択/非選択状態の設定処理の詳細について、図12を用いて説明する。
【0140】
図12は本発明の実施形態2のデフォルトの選択/非選択状態の設定処理の詳細を示すフローチャートである。
【0141】
尚、この処理を実現するプログラムは、ROM102に格納されており、CPU101によって実行される。また、この処理は、図6のインデックス一覧表示画面において、MENUボタン304を押下することによって、各操作内容に対する選択/非選択状態を設定するための選択/非選択状態設定画面を表示し、その選択/非選択状態設定画面を介して実行する。
【0142】
まず、選択/非選択状態設定画面を表示する(ステップS1101)。次に、各操作内容に対するデフォルトの選択/非選択状態を設定するための入力を受け付ける処理を行う(ステップS1102)。これは、選択/非選択状態設定画面上で、スキップ、早送り、巻き戻し等の操作内容に対して、各々の操作を実行した場合に設定する選択/非選択状態を入力することができる。そして、OKボタン309を押下することで、次のステップS1103に進む。
【0143】
次に、ステップS1102で入力された各々操作内容に対するデフォルトの選択/非選択状態を設定する。この状態は、各々の操作内容を示す識別情報と関連付けて、HDD104、RAM103、メモリカード105等の記憶媒体に保存されることとなる。
【0144】
以上説明したように、実施形態2によれば、実施形態1で説明した効果に加えて、シーンに対する再生操作内容の種類それぞれに対し、選択/非選択状態を予め設定しておくことができるので、よりユーザの意図や目的、用途に即した操作環境を提供することができる。
【0145】
[実施形態3]
実施形態1や2では、図6の処理によって得られたシーン群それぞれに対する選択/非選択状態を設定する場合を例に挙げて説明した。しかしながら、図6の処理によって得られたシーン群が、必ずしもユーザが意図するシーン群で構成されているとは限らない。そこで、実施形態3では、シーンの内容を確認するための再生操作内容に基づいて、実施形態1の図6の処理によって得られたシーン群の再構成を可能にする処理について説明する。
【0146】
実施形態3では、シーン群を再構成するタイミングとして、実施形態1の図8のステップS706のユーザ操作処理時に実行する。
【0147】
具体的には、図13のフローチャートに示すように、処理対象のシーンの再生操作の操作内容に基づいて、ステップS817のシーン再構成処理を実行する。
【0148】
尚、この図13のフローチャートは、実施形態1の図8の処理の応用例であり、図7と同一の処理ステップは同一のステップ番号を付加している。
【0149】
次に、ステップS817のシーン再構成処理の詳細について、図14を用いて説明する。
【0150】
図14は本発明の実施形態3のシーン再構成処理の詳細を示すフローチャートである。
【0151】
まず、ユーザからのスキップ操作が行われたか否かを判別する(ステップS1401)。スキップ操作が行われた場合(ステップS1401でYES)、ステップS1405に進む。一方、スキップ操作が行われていない場合(ステップS1401でNO)、ステップS1402に進む。
【0152】
次に、早送り再生操作が行われたか否かを判定する(ステップS1402)。早送り再生操作が行われた場合(ステップS1402でNO)、ステップS1405に進む。一方、早送り再生操作が行われなかった場合(ステップS1402でYES)、ステップS1403に進む。
【0153】
次に、巻き戻し再生操作が行われたか否かを判定する(ステップS1403)。巻き戻し再生操作が行われた場合(ステップS1403でYES)、ステップS1405に進む。一方、巻き戻し再生操作が行われなかった場合(ステップS1403でNO)、ステップS1404に進む。
【0154】
次に、停止操作が行われたか否かを判定する(ステップS1404)。停止操作が行われた場合(ステップS1404でYES)、ステップS1405に進む。一方、停止操作が行われなかった場合(ステップS1404でNO)、処理を終了する。
【0155】
次に、ステップS1401〜ステップS1404の各種判定で、スキップ操作や早送り操作等の操作が行われた場合は、各操作が行われた時点(操作入力点)のフレーム情報を取得する(ステップS1405)。
【0156】
例えば、操作内容がスキップ操作及び停止操作である場合にはその操作指示された時点のフレーム番号を操作入力点として取得する。また、早送り操作や巻き戻し操作である場合にはその操作の開始及び終了が指示された時点のフレーム番号を操作入力点として取得する。
【0157】
次に、取得したフレーム番号に基づいて、シーン分割処理を行う。このシーン分割処理では、取得したフレーム番号をシーンチェンジとして、その前後のシーンに分割する。
【0158】
例えば、スキップ操作や停止操作の場合は、各操作指示が行われた時点を境に前後2つのシーン(再生シーン及び未再生シーン)に分割する。また、早送り操作や巻き戻し操作の場合は、操作の開始指示が行われた点と終了指示が行われた点を境に3つのシーン(早送り・巻き戻し操作中のシーン(非通常再生シーン)とその前後のシーン(通常再生シーン))に分割する。ここで、ステップS1405で取得したフレーム番号は、後のシーンのシーン開始フレームとしてRAM103に記憶される。
【0159】
次に、シーン分割処理によって再構成された各シーンの代表画像となる静止画を作成する(ステップS1407)。この最も簡単な例としては、各シーンの先頭フレーム画像をそのシーンの代表画像として関連付ける。尚、複数のフレーム画像から代表画像を合成してもよい。
【0160】
次に、シーン情報及び静止画をシーンに対応付け、インデックスとしてハードディスクドライブ104に記憶する(ステップS1408)。
【0161】
次に、シーン変更処理によって再構成されたシーンとそのインデックスと、再構成前のシーンとそのインデックスをマージして、ハードディスクドライブ104上のシーンとインデックスを変更する(ステップS1409)。
【0162】
次に、分割した各シーンの選択/非選択状態を設定する(ステップS1410)。ここでは、通常再生されたシーンは選択状態に、通常再生されなかったシーンは非選択状態に設定する。
【0163】
例えば、スキップ操作や停止操作の場合は分割点前のシーンを選択状態に設定し、分割点後のシーンを非選択状態に設定する。また、早送り操作や巻き戻し操作の場合は、早送り・巻き戻し操作中のシーンは非選択状態に、その前後のシーンは選択状態に設定する。この選択/非選択状態は、新しく分割したシーンを示す識別情報と関連付けて、ハードディスク104、RAM103、メモリカード105等の記憶媒体に追加保存されることになる。
【0164】
以上説明したように、実施形態3によれば、実施形態1で説明した効果に加えて、ユーザのシーンに対する操作の操作内容に基づいて、当初に分割されたシーン群を再構成し、その再構成された各シーンに対する選択/非選択状態を設定することで、よりユーザの意図や目的、用途に応じたシーンの分割及び選択/非選択状態を設定することができる。
【0165】
特に、この再構成及び選択/非選択状態は、シーンに対する操作に係る経験則に基づいて実行するので、より好適なシーンの分割及び選択/非選択状態を設定することができる。
【0166】
この経験則は、例えば、あるシーンの再生中に、スキップ操作や停止操作が実行された場合には、その操作前まではユーザが必要とするシーンと判断するものである。また、早送り・巻き戻し再生操作が実行された場合には、その操作中はユーザが不要とするシーンと判断するものである。
【0167】
尚、上記実施形態1〜3では、動画像データ中のシーンチェンジをフレーム間類似性距離に基づいて検出したが、これに限定されるものではない。例えば、動画像データ中のタイムコードの不連続点に基づいて、シーンチェンジを検出してもよい。この方法は、特に、デジタルビデオカメラのように、撮影時刻がタイムコードとして動画像データと共に記録されている場合に利用可能であり、例えば、タイムコードの不連続個所をシーンチェンジとすることは容易に実現することが可能である。
【0168】
また、動画像データに付加されている属性情報に基づいて、シーンチェンジを検出しても良い。この検出方法は、タイムコードの他に、ビデオカメラやフレーム画像の解析によって自動的に出力されるズーム、パン、チルトの開始、終了等のメタ情報、人手により付加された論理構造や動画の被写体に関するメタ情報等の属性情報に基づいて、シーンチェンジを検出する。この場合、シーン情報として、シーン開始フレームの他、シーンチェンジの検出に利用した属性情報の種類をシーン情報とする。
【0169】
更に、上述のフレーム間類似性距離による検出方法、タイムコードの不連続点による検出方法及び属性情報による検出方法を、適宜選択自在に、あるいは組み合わせて、シーンチェンジを検出するようにしても良い。
【0170】
上記実施形態1〜3では、動画像データはビデオI/F115を介して入力する構成としたが、これ以外の外部ソース、例えば、通信デバイスを介してネットワークから、メモリカード等から入力する構成であってもよい。また、図4のフローチャートでは、ステップS404で動画像データの記録を完了してから、ステップS405でそのインデックスを作成する構成としたが、マルチタスクシステムを導入して、動画像データの記録を行いながら、そのインデックスを作成する構成としても良い。
【0171】
また、各シーンの代表画像となる静止画を作成し、シーン情報及び静止画を動画像データに対応付けたインデックスを作成したが、特定のフレーム画像を静止画とする場合、静止画データの代わりに、フレーム番号だけを記録しても良い。この場合、実際の静止画を出力(表示や印刷)する場合には、そのフレーム番号と動画像データからオンデマンドで静止画データを作成することになる。
【0172】
更に、図5のステップS502でシーン数が第1の閾値を越えているか否かを判定した後に、ステップS503で各シーンの長さが第2の閾値を越えているか否かを判定し、その後、ステップS504のシーン結合処理を実行する構成としたが、この2つのステップの処理順序及びその処理内容を変更することも可能である。
【0173】
例えば、まず、各シーンの長さが第2の閾値を越えていないか否かを判定し、越えていない場合に、シーン結合処理を行い、その後、シーン結合処理後のシーン数が第1の閾値を越えているか否かを判定し、越えている場合に、再度、シーン結合処理を行うようにしてもよい。これにより、必要以上にシーン数を減らさないようにすることができる。
【0174】
以上、実施形態例を詳述したが、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能であり、具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
【0175】
尚、本発明は、前述した実施形態の機能を実現するソフトウェアのプログラム(実施形態では図に示すフローチャートに対応したプログラム)を、システムあるいは装置に直接あるいは遠隔から供給し、そのシステムあるいは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによっても達成される場合を含む。
【0176】
従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。
【0177】
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であっても良い。
【0178】
プログラムを供給するための記録媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などがある。
【0179】
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続し、該ホームページから本発明のコンピュータプログラムそのもの、もしくは圧縮され自動インストール機能を含むファイルをハードディスク等の記録媒体にダウンロードすることによっても供給できる。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。
【0180】
また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせ、その鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。
【0181】
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部または全部を行ない、その処理によっても前述した実施形態の機能が実現され得る。
【0182】
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行ない、その処理によっても前述した実施形態の機能が実現される。
【0183】
【発明の効果】
以上説明したように、本発明によれば、動画を効率的に再利用することが可能な動画像処理装置及びその制御方法、プログラムを提供できる。
【図面の簡単な説明】
【図1】本発明の実施形態1の動画像処理装置の構成を示すブロック図である。
【図2】本発明の実施形態1の動画像処理装置と周辺装置からなるシステムを示す図である。
【図3】本発明の実施形態1の赤外線リモコンの詳細構成を示す図である。
【図4】本発明の実施形態1の動画像処理装置における動画記録処理を示すフローチャートである。
【図5】本発明の実施形態1のステップS405のインデックス作成処理の詳細を示すフローチャートである。
【図6】本発明の実施形態1のディスプレイ装置に表示されるインデックス一覧表示画面の一例を示す図である。
【図7】本発明の実施形態1の動画像処理装置における動画連続再生処理及び再生終了後のシーンの選択状態変更処理を示すフローチャートである。
【図8】本発明の実施形態1のステップS706のユーザ操作処理の詳細を示すフローチャートである。
【図9】本発明の実施形態1のステップS714のユーザ操作処理を示すフローチャートである。
【図10】本発明の実施形態2の動画像処理装置における動画連続再生処理及び再生終了後のシーンの選択状態変更処理を示すフローチャートである。
【図11】本発明の実施形態2の状態設定処理の詳細を示すフローチャートである。
【図12】本発明の実施形態2のデフォルトの選択/非選択状態の設定処理の詳細を示すフローチャートである。
【図13】本発明の実施形態3のステップS706のユーザ操作処理の詳細を示すフローチャートである。
【図14】本発明の実施形態3のシーン再構成処理の詳細を示すフローチャートである。
【符号の説明】
101 CPU
102 ROM
103 RAM
104 HDD
105 メモリカードI/F
106 外部記憶装置
107 ディスプレイ
108 プリンタI/F
109 プリンタ
110 ネットワークI/F
111 赤外線受光部
112 リモコン
113 シリアルI/F
114 オペレーションパネル
115 ビデオI/F
116 ビデオカメラ
【発明の属する技術分野】
本発明は、動画像を再利用することを目的として、動画像の記録・表示・再生等の画像処理を行う動画像処理装置及びその制御方法、プログラムに関するものである。
【0002】
【従来の技術】
近年、VTRやビデオムービの普及により動画像が身近なメディアの1つになっている。また、コンピュータ技術の発達により、動画をハードディスクやDVD等のようなランダムアクセス可能な記憶メディアに記憶して蓄積及び管理し、ビデオテープの交換やテープの巻き戻し等のような面倒な操作をすることなく、任意の動画を任意の箇所から動画再生して楽しむことが可能になった。
【0003】
ユーザが、記憶メディアに記憶されている動画像から所望の部分を検索する検索法として、動画像を複数のシーンに分割し、各シーンの代表画像の縮小画像を属性情報として各代表画像と対応付けて記憶しておき、その属性情報から目的のシーンを探すものがある。
【0004】
代表画像は、その動画の内容の内、最も印象的な画像やシーンが変わった瞬間の画像等、その内容が一目でわかるような画像を表示するのが一般的である。このように、その動画像中の代表する代表画像を見ることにより動画像全体の内容を大まかに推測し、大量の動画像の中からある程度候補を絞りこむことができる。
【0005】
しかしながら、動画像は実際に見たり聞いてみないと目的の映像であるかどうかがわからないため、再生して内容を確認する必要がある。また、内容を確認する場合に、通常、必要のない部分は再生させずに、重要な部分だけを再生させることにより再生時間を短縮させることができる。このように、再生によって内容を確認した後、人手により必要な部分と不必要な部分との判定を行っていた。
【0006】
例えば、特許文献1では、動画像を解析することによって、動画像中の変化点を検出し、その変化点に対応する画像をインデックス画像として一括表示する。また、複数のインデックス画像を等間隔で連続再生することにより、動画像の早送り再生を実行して、内容確認を容易にする構成が開示されている。
【0007】
また、特許文献2では、記憶媒体上に収録された複数の動画像に対応するサムネイルを画面上に一覧表示し、一覧表示の中からユーザが選択した複数のサムネイル各々に対応する動画像をその選択順に従って連続して再生することによって、連結編集の作業を行わずに複数の動画像を連続再生する構成が開示されている。
【0008】
更に、特許文献3では、映像を複数のシーンに分割し、各シーンから代表画像を一枚ずつ抽出してアイコンとして一覧表示するとともに、ユーザが注目するアイコンの指す映像を注目アイコンに動画表示していく。このように、ユーザが注目するアイコンのみを動画表示することから、一画面に多くのシーンを表示しつつ、動画アイコンによる映像の確認を可能にする構成が開示されている。
【0009】
【特許文献1】
特開2001−119661号公報
【特許文献2】
特開平10−108122号公報
【特許文献3】
特開2001−326881号公報
【発明が解決しようとする課題】
しかしながら、上記従来例では次のような課題があった。
【0010】
動画像中の各シーンの代表画像を属性情報として一覧表示し、動画編集や情報付与等のために目的のシーンを検索する場合、シーンが細かく区切れていると代表画像数が膨大となる。そのため、特に、家庭用テレビや携帯端末の表示装置等のパーソナルコンピュータのディスプレイに比べて低解像度の表示装置では、一画面では表示できず複数画面に分けて表示しなければならない。
【0011】
また、一度に多数の画像を表示するために表示される各画像のサイズを小さくするなどの理由から、内容確認後に一覧表示画面で目的のシーンを選択しようとしても再生した場面が一覧中のどれなのか分からないという課題があった。
【0012】
特に、自動的に動画像の不連続点を検出して動画像を複数のシーンに分割する場合、不連続点の検出方法によって表示される代表画像数が多くなり、また、表示される一覧表示画面中には、類似画像が多数表示されて内容が判別しにくい。
【0013】
また、再生による内容確認終了後に、一覧表示されている画像のタイトルや代表画像の中から一つ一つ目的のシーンを見つけて選択する操作は煩わしい。
【0014】
本発明は、上記問題を解決するためになされたものであり、動画を効率的に再利用することが可能な動画像処理装置及びその制御方法、プログラムを提供することを目的とする。
【0015】
【課題を解決するための手段】
上記の目的を達成するための本発明による動画像処理装置は以下の構成を備える。即ち、
動画像を処理する動画像処理装置であって、
前記動画像中のシーンチェンジに基づいて、該動画像を複数のシーンに分割する分割手段と、
前記分割手段で分割された各シーンに対応する代表画像を含むシーンの属性情報をインデックスとして、シーン毎に記憶する記憶手段と、
前記記憶手段に記憶されているインデックスに基づくインデックス画面を表示する表示手段と、
前記インデックス画面で表示されているインデックスに対応するシーンの操作を指示する指示手段と、
前記指示手段で指示されるシーンの操作の操作内容に基づいて、該シーンを、画像処理対象として選択するか否かを示す状態設定を行う設定手段と
を備える。
【0016】
また、好ましくは、前記設定手段は、前記指示手段で指示されたシーンの操作が前記複数のシーンの各シーンの連続再生である場合、これらのシーンの内、全フレームが通常再生されたシーンは選択状態に設定し、全フレームが通常再生されなかったシーンは非選択状態に設定する。
【0017】
また、好ましくは、前記設定手段によって設定された各シーンの選択/非選択状態を前記インデックス画面の対応するインデックス毎に表示制御する表示制御手段と、
前記インデックス画面のインデックス毎に表示されている選択/非選択状態を変更する変更手段と
を更に備える。
【0018】
また、好ましくは、前記代表画像は、対応するシーンに基づいて作成された静止画である。
【0019】
また、好ましくは、前記表示制御手段は、前記インデクス画面に各シーンのインデックスとして前記各シーンの代表画像を一覧表示し、シーンに対する操作が終了したシーンに対して前記選択/非選択状態を表示し、前記選択/非選択状態が表示されているシーンに対して前記変更手段による変更を許容する。
【0020】
また、好ましくは、前記操作の操作内容の種類毎に、前記選択/非選択状態を予め対応づけて記憶する状態記憶手段を更に備える。
【0021】
また、好ましくは、前記操作の操作内容の種類毎に、前記選択/非選択状態をデフォルトとして設定するデフォルト状態設定手段を更に備える。
【0022】
また、好ましくは、前記設定手段は、通常再生中のシーンに対し、前記指示手段によって通常再生以外の他の操作によって前記シーンの全フレームが通常再生されなかった場合、前記他の操作の操作内容に対応する状態を前記状態記憶手段を参照して取得し、その取得した状態を、前記シーンの前記選択/非選択状態に設定する。
【0023】
また、好ましくは、前記設定手段は、通常再生中のシーンに対し、前記指示手段によって通常再生以外の他の操作によって前記シーンの全フレームが通常再生されなかった場合、前記他の操作の操作内容に対応する状態を前記状態記憶手段を参照して取得する取得手段と、
前記取得手段で取得した状態の設定変更指示を受け付ける設定受付画面を表示する設定受付画面表示手段とを備え、
前記設定受付画面で設定変更指示された状態を、前記シーンの前記選択/非選択状態に設定する。
【0024】
また、好ましくは、通常再生中のシーンに対し、前記指示手段によって通常再生以外の他の操作によって前記シーンの全フレームが通常再生されなかった場合、他の操作の操作入力点に基づいて、前記シーンを更に分割して再構成する再構成手段を更に備え、
前記設定手段は、前記他の操作の操作内容に基づいて、前記再構成手段で再構成されたシーン群それぞれについて、画像処理対象として選択するか否かを示す状態設定を行う。
【0025】
また、好ましくは、前記再構成手段は、前記他の操作の操作入力点に基づいて、前記シーンを再生シーンと未再生シーンに更に分割して再構成し、
前記設定手段は、前記再生シーンを選択状態に設定し、前記未再生シーンを非選択状態に設定する。
【0026】
また、好ましくは、前記再構成手段は、前記他の操作の操作入力点に基づいて、前記シーンを通常再生シーンと非通常再生シーンに更に分割して再構成し、
前記設定手段は、前記通常再生シーンを選択状態に設定し、前記非通常再生シーンを非選択状態に設定する。
【0027】
上記の目的を達成するための本発明による動画像処理装置の制御方法は以下の構成を備える。即ち、
動画像を処理する動画像処理装置の制御方法であって、
前記動画像中のシーンチェンジに基づいて、該動画像を複数のシーンに分割する分割工程と、
前記分割手段で分割された各シーンに対応する代表画像を含むシーンの属性情報をインデックスとして、シーン毎に記憶媒体に記憶する記憶工程と、
前記記憶媒体に記憶されているインデックスに基づくインデックス画面を表示する表示工程と、
前記インデックス画面で表示されているインデックスに対応するシーンの操作を指示する指示工程と、
前記指示工程で指示されるシーンの操作の操作内容に基づいて、該シーンを、画像処理対象として選択するか否かを示す状態設定を行う設定工程と
を備える。
【0028】
上記の目的を達成するための本発明によるプログラムは以下の構成を備える。即ち、
動画像を処理する動画像処理装置の制御を実現するプログラムであって、
前記動画像中のシーンチェンジに基づいて、該動画像を複数のシーンに分割する分割工程のプログラムコードと、
前記分割手段で分割された各シーンに対応する代表画像を含むシーンの属性情報をインデックスとして、シーン毎に記憶媒体に記憶する記憶工程のプログラムコードと、
前記記憶媒体に記憶されているインデックスに基づくインデックス画面を表示する表示工程のプログラムコードと、
前記インデックス画面で表示されているインデックスに対応するシーンの操作を指示する指示工程のプログラムコードと、
前記指示工程で指示されるシーンの操作の操作内容に基づいて、該シーンを、画像処理対象として選択するか否かを示す状態設定を行う設定工程のプログラムコードと
を備える。
【0029】
【発明の実施の形態】
以下、本発明の実施の形態について図面を用いて詳細に説明する。
【0030】
[実施形態1]
尚、本発明の各実施形態の動画記録及び表示/再生を行う動画像処理装置は、ハードディスクや光磁気ディスク等のランダムアクセス可能な記憶メディアに対応してデータを記録再生する構成を採用するものとする。
【0031】
図1は本発明の実施形態1の動画像処理装置の構成を示すブロック図である。
【0032】
図1の動画像処理装置10において、101はCPUであり、動画像処理装置10の各種構成要素を制御する。102はROMであり、後述する各実施形態のフローチャート群を実現するプログラムを含む各種プログラム、各種設定データ等のデータを記憶する。103はRAMであり、データの作業領域、一時待避領域として機能する。
【0033】
104はハードディスクドライブ(HDD)であり、動画像データ、静止画像データの各種データを記憶する。105はメモリカードの読出/書込用のメモリカードインタフェース(I/F)である。また、メモリカードには、例えば、SDカード、MMカード、スマートメディア、コンパクトフラッシュ(登録商標)等がある。106は外部記憶装置であり、例えば、DVD−RAM/R/RW、CD−R/RWドライブ(CD/DVDドライブ)で構成される。
【0034】
107はディスプレイ装置であり、例えば、LCD、CRT等で構成される。108はプリンタインタフェース(I/F)である。109はプリンタであり、例えば、インクエジェットプリンタ、レーザビームプリンタ、熱転写プリンタ等で構成される。110はネットワークインタフェース(I/F)であり。このネットワークI/F110によってネットワークと接続し、ネットワークを介して外部機器とのデータの送受信が可能となる。111は赤外線受光部である。112は赤外線リモコンであり、動画像処理装置10の各種動作の遠隔操作を実現する。
【0035】
113はシリアルインタフェース(I/F)であり、例えば、USBインタフェースで構成される。114はオペレーションパネルであり、動画像処理装置10の各種操作を実現するためのユーザインタフェース(例えば、タッチパネル、各種ボタン、スイッチ等)を提供する。
【0036】
また、115はビデオインタフェース(I/F)であり、コンポジット映像端子、S−VHS映像端子、IEEE1394、音声ライン入出力、音声デジタル入出力を通じて周辺装置と接続される。また周辺装置から入力されるデジタル信号、あるいはアナログ信号の場合にはそれを符号化し、CPU101で処理可能なデジタルデータに変換する。116はビデオカメラであり、周辺装置の1つである。117はバスであり、動画像処理装置10の各種構成要素を相互に接続し、バス117を介してデータが各種構成要素に相互に入出力される。
【0037】
次に、動画像処理装置10とその周辺装置からなるシステムの構成例について、図2を用いて説明する。
【0038】
図2は本発明の実施形態1の動画像処理装置と周辺装置からなるシステムを示す図である。
【0039】
動画像処理装置(本体)10には、各種の周辺装置が接続される。この周辺装置には、ビデオカメラ116以外に、例えば、デジタルカメラ、スキャナ等がある。ディスプレイ装置107は、テレビ受像機、携帯端末の表示器、ビデオカメラのモニタ、パソコン用のモニタ等に代表される。テレビ受像機の場合、従来の放送用の画面における縦横比は4:3であるが、所謂ワイド画面における縦横比は16:9である。また、パソコン用TFT液晶ディスプレイにおける縦横比は16:10である。
【0040】
また、プリンタ109は、プリンタI/F108を通して動画像処理装置10に接続されており、例えば、静止画像を印刷する。動画像処理装置10は、ネットワークI/F110を通じて、インターネット等のネットワーク205に接続される。外部記憶装置106は、DVD−RAM/ROM/R/RW、CD−R/RW等のメディアに対してデータの読出/書込を行う。
【0041】
メモリカードスロット207は、メモリカードI/F105を介して動画像処理装置10に接続される。動画像処理装置10の前面には、電源スイッチ209、ビデオ端子210等が設けられている。実施形態1では、動画再生装置としてビデオカメラ116が用いられるが、ビデオカメラの代わりにビデオデッキ、テレビチューナであってもよい。
【0042】
次に、リモコン112の詳細構成について、図3を用いて説明する。
【0043】
図3は本発明の実施形態1の赤外線リモコンの詳細構成を示す図である。
【0044】
図3において、301は赤外線発光部である。操作面には、各種ボタンが割り当てられている。
【0045】
具体的には、302はモード(MODE)設定ボタンであり、動画像処理装置10の各種操作モード(例えば、記録、再生、表示、印刷等)の設定を行うためのボタンである。303はヘルプ(HELP)ボタンであり、動画像処理装置10の各種操作のヘルプ画面の表示を指示するためのボタンである。
【0046】
304はメニュー(MENU)ボタンであり、動画像処理装置10の各種操作を実行するためのメニュー画面を表示するためのボタンである。305は上矢印(↑)ボタンである。306は左矢印(←)ボタンである。307は右矢印(→)ボタンである。308は下矢印(↓)ボタンである。これらの各矢印ボタン305〜308を操作することによって、メニュー画面上のカーソルを移動したり、画面の切換等の各種操作を実行することが可能である。
【0047】
309はOKボタンであり、操作対象の処理の実行を指示したり、確定したりするためのボタンである。310はキャンセル(CANCEL)ボタンであり、操作対象の処理の実行を取り消したり、選択対象の選択を解除するためのボタンである。
【0048】
次に、動画像処理装置10の動画入力(動画記録)時の動作について、図4を用いて説明する。
【0049】
図4は本発明の実施形態1の動画像処理装置における動画記録処理を示すフローチャートである。
【0050】
尚、この処理を実現するプログラムは、ROM102に格納されており、CPU101によって実行される。
【0051】
まず、電源ボタン209により電源が投入されると、各種インターフェースの初期化等のシステムの初期化処理を行う(ステップS401)。次に、リモコン112やオペレーションパネル114からのコマンドの入力を待つ(ステップS402)。尚、コマンドは、ビデオI/F115に接続されたビデオカメラ116が再生を開始したことを検出した時にも発生する。
【0052】
コマンドが入力されると、その内容を評価し、動画入力コマンドであるか否かを判定する(ステップS403)。動画入力コマンドでない場合(ステップS403でNO)、入力されたコマンドの内容に対応するその他のコマンド処理を行い(ステップS407)、ステップS402の処理に戻る。
【0053】
一方、ステップS403において、動画入力コマンドである場合(ステップS403でYES)、ビデオI/F115を介して入力される動画像データをハードディスクドライブ104に蓄積する(ステップS404)。そして、その動画像データに対するインデックスの作成を行う(ステップS405)。また、作成されたインデックスは、ハードディスク104、RAM103、メモリカード105等の記憶媒体に保存されることとなる。尚、インデックスの作成処理の詳細については後述する。
【0054】
ここで、インデックスは、動画を分割した各シーンから得られた静止画、各シーンの開始点、長さその他の属性情報と、動画再生を行うためにシーンと動画像データとを関連付けたデータとから構成される。また、シーンとは、動画像データ中の区間であり、例えば、動画像クリップにおいて採用された区間の開始点や終了点のフレームID、長さのフレーム数等で表わすことができる。
【0055】
そして、インデックスの作成を終了すると、インデックスを表示し(ステップS406)、処理を終了する。
【0056】
次に、ステップS405のインデックス作成処理の詳細について、図5を用いて説明する。
【0057】
図5は本発明の実施形態1のステップS405のインデックス作成処理の詳細を示すフローチャートである。
【0058】
まず、動画像データ中のシーンの区切れであるシーンチェンジを検出する(ステップS501)。尚、シーンチェンジの検出方法には、さまざまな方法が知られているが、実施形態1では、フレーム画像の変化による検出方法を用いる。
【0059】
フレーム画像の変化によるシーンチェンジの検出方法では、動画像データから1フレームづつフレーム画像を取り出す処理を行い、過去のフレーム群とのフレーム間類似性距離の計算を行う。ここで、過去のフレーム群とは、単数のフレームの場合も複数のフレームの場合もあり、特に、そのアルゴリズムは限定されない。
【0060】
最も簡単な例を挙げると、前のフレームと現在のフレームに対し、各々のフレーム画像を縦横に格子状に複数のブロック分割を行い、それぞれのブロックに関してRGBの平均値を算出しておく。次に、前のフレームと現在のフレームの対応するブロック同士のRGB各チャンネルの差の二乗和を求め、これをシーンチェンジの激しさの度合いを表すフレーム間類似性距離とする。そして、類似性距離がが所定値より小さいほど類似しており、所定値より大きいほど類似していない、即ち、シーンチェンジである可能性が大きいとする。
【0061】
このフレーム間類似性距離の計算式は、以下式に示す通りである。
【0062】
ここで、各変数の内容は以下の通りである。
【0063】
i :処理中のブロック
K :分割ブロック数
P1iR:直前のフレームのi番目のブロックのRチャンネルの平均値
P1iG:直前のフレームのi番目のブロックのGチャンネルの平均値
P1iB:直前のフレームのi番目のブロックのBチャンネルの平均値
P2iR:現在のフレームのi番目のブロックのRチャンネルの平均値
P2iG:現在のフレームのi番目のブロックのGチャンネルの平均値
P2iB:現在のフレームのi番目のブロックのBチャンネルの平均値
以上のような方法で、シーンチェンジの有無を判定し、シーンチェンジを判定した場合、シーンチェンジの起こったフレーム番号をシーン開始フレームとしてRAM103に記憶し、そのシーンチェンジの激しさの度合いを表す類似度(または距離)、及びそのシーンがブランクシーンであるか否かを示す情報を記憶する。こられの情報をシーン情報と呼ぶこととし、インデックスの一部とする。
【0064】
また、各シーンの長さは、次のシーンの開始フレーム番号と現在のシーンの開始フレーム番号との差から算出することができる。尚、最後のシーンの長さは、動画全体のフレーム数と最終シーンの開始フレーム番号との差から算出することができる。
【0065】
このようにして、シーンチェンジ(分割点)を検出すると、シーンチェンジによって分割されたシーン数が予め設定された第1の閾値を越えているか否かを判定する(ステップS502)。シーン数が第1の閾値以下である場合(ステップS502でNO)、ステップS503に進み、各々のシーンの長さが予め設定された第2の閾値を越えているか否かを判定する。ここでは、たとえ決められたシーン数に達していなくてもあまりに短いシーンがある場合、結合してインデックスの数を減らすようにする。
【0066】
一方、ステップS502において、シーン数が第1の閾値を越えている場合(ステップS502でYES)、あるいはステップS503において、シーンの長さが第2の閾値以下である場合(ステップS503でNO)、ステップS504に進み、シーン結合処理を行う。
【0067】
シーン結合処理では、シーン数を減らし、各シーンのシーン長が第2の閾値を越え、かつ各シーンのシーン長の標準偏差(偏り)がなるべく最小になるようにシーンを結合する。尚、シーンが1つしかなかったり、動画全体の長さが第2の閾値に満たないような例外的な場合は、この処理を行わない。
【0068】
シーン結合処理の簡単な例として、2つの方法を示す。
【0069】
第1の方法では、各シーンについて、そのシーンの長さと1つ前のシーンの長さの和を求め、この和が最小となるシーンについて1つ前のシーンと結合し、シーン数が第2の閾値を越えるまで繰り返す。また、第2の方法では、動画全体を第1の閾値の数で時間等分し、各々の等分した個所に最も近いシーン開始点であるシーンを採用する方法で、採用されなかったシーンは、それぞれその前方にある採用シーンと結合する。第2の方法は、特に動画のシーン数が第1の閾値で定められたシーン数より十分多い場合に有効である。
【0070】
ステップS504で、シーン結合処理を行った後、各シーンの代表画像となる静止画を作成する(ステップS505)。この最も簡単な例としては、各シーンの先頭フレーム画像をそのシーンの静止画として関連付ける。尚、シーン中の複数のフレーム画像から静止画を合成してもよい。この後、シーン情報及び静止画をシーンに対応付け、インデックスとしてハードディスクドライブ104に記憶し(ステップS506)、処理を終了する。
【0071】
この処理が完了すると、実施形態1では、処理対象の動画のインデックスとして、各シーンを代表する静止画(代表画像)がディスプレイ装置107に表示されることになる。
【0072】
ここで、ディスプレイ装置107に表示されるインデックス一覧表示画面の一例について、図6を用いて説明する。
【0073】
図6は本発明の実施形態1のディスプレイ装置に表示されるインデックス一覧表示画面の一例を示す図である。
【0074】
図中、601〜604は、動画が先頭から4つのシーンに分割された場合の各シーンの代表画像を表す静止画である。605は選択中のシーンを示すカーソルである。ここで、リモコン112の各矢印ボタン305〜308を押下することにより、切り出された全てのシーンの中から1つのシーンを選択することができる。
【0075】
また、MENUボタン304を押下することにより、実施形態1における動画像処理装置に実装されている各種機能がメニュー表示され、ここで各矢印ボタン305〜308を操作することによって、ユーザが操作したい機能を選択することができる。
【0076】
OKボタン309を押下すると、ユーザが選択した操作を開始する。実施形態1では、作成したインデックスの連続再生機能が実装されており、矢印ボタン305〜308によって本機能を選択してOKボタン309を押下することにより、一覧表示されているシーンの先頭から順に動画再生を開始する。
【0077】
606は動画バーであり、バー全体で1つの動画像データの再生時間を表す。607は現在のシーンを示すマーカであり、現在選択中のシーンが動画全体に占める位置と長さが分かるように表示される。608はシーンマーカであり、全てのシーンの先頭と長さが一目でわかるように表示される。
【0078】
次に、動画像処理装置10の動画連続再生時及び再生終了時の動作について、図7を用いて説明する。
【0079】
図7は本発明の実施形態1の動画像処理装置における動画連続再生処理及び再生終了後のシーンの選択状態変更処理を示すフローチャートである。
【0080】
尚、この処理を実現するプログラムは、ROM102に格納されており、CPU101によって実行される。また、この処理は、図6のインデックス一覧表示画面が表示された状態で、MENUボタン304等を押下することによって、各シーンの連続再生機能を選択することができる。
【0081】
連続再生機能が選択されると、まず、全てのシーンの「選択状態」を一時的に「非選択」に設定する(ステップS701)。この選択状態は、各々のシーンを示す識別情報と関連付けて、ハードディスク104、RAM103、メモリカード105等の記憶媒体に保存されることとなる。
【0082】
次に、処理対象のシーンを再生するために必要なデータ、即ち、シーンの開始点、長さまたは終了点、その他の属性情報、そのシーンの動画再生を行うためのデータを取得する(ステップS702)。
【0083】
次に、再生対象のシーンを他のシーンと区別がつくような識別表示を行う(ステップS703)。例えば、図6に示すインデックス一覧表示画面において、一覧のそれぞれの位置で各シーンを再生する場合は、カーソル605を次に再生するシーンを示す代表画像に移動する。また、シーンの再生にディスプレイ装置107の画面全体を再生画面として使う場合には、シーン再生直前にインデックス一覧表示画面を数秒間表示してこれから再生するシーンをカーソルで囲み、その後、再生画面へ移行する。このように、次に再生されるシーンが分かるような表示を行うことによって、ユーザが、今、どのシーンが再生されているのかを容易に視認することができる。
【0084】
次に、ステップS702で取得したデータを用いて、再生対象のシーンの再生を開始する(ステップS704)。その後、シーン再生中には、早送りや巻き戻し、停止等の各種操作を受け付けることができるため、ユーザ操作の入力待ちの状態となっている。ユーザは、リモコン112やオペレーションパネル114等の操作手段を使用して、各種ユーザ操作を実行することができる。
【0085】
そして、この状態で、ユーザ操作の有無を判定する(ステップS705)。ユーザ操作がない場合(ステップS705でNO)、ステップS707に進む。一方、ユーザ操作がある場合(ステップS705でYES)、ステップS706に進み、ユーザ操作内容に基づくユーザ操作処理を実行する。尚、この処理の詳細については後述する。
【0086】
次に、再生を開始したシーンが、その最終フレームまで正常に再生されたか否かを判定する(ステップS707)。再生が終了した場合(ステップS707でYES)、ステップS708に進む。一方、再生が終了していない場合(ステップS707でNO)、即ち、まだ、再生中の場合には、再びユーザ操作の入力待ち状態となり、ステップS705に戻る。尚、シーンの再生が終了した場合に、動画像処理装置10から再生正常終了を示すイベントを受信するように実装することもでき、その場合は、イベント受信をトリガとして以下の処理へ進むこととなる。
【0087】
ステップS707において、シーンの再生が終了した場合、その再生が通常再生であったか否かを判定する(ステップS708)。通常再生である場合(ステップS708でYES)、ステップS709に進む。一方、通常再生でない場合(ステップS708でNO)、早送りまたは巻き戻しである場合、ステップS710に進む。尚、早送りや巻き戻し再生はユーザによって指示され、その指示内容に従って、ステップS706のユーザ操作処理を実行する。
【0088】
通常再生が終了した場合に、ステップS701で一時的に「非選択」にしておいたシーンの「選択状態」を「選択」に設定する(ステップS709)。但し、早送りや巻き戻し再生の場合には、変更されずそのまま「非選択」になる。
【0089】
次に、再生対象の次のシーンの有無を判定する(ステップS710)。次のシーンがある場合(ステップS710でYES)、ステップS702に戻り、次のシーンの再生に必要なデータを取得し、再生を行う。一方、次のシーンがない場合(ステップS710でNO)、ステップS711に進む。
【0090】
次に、RAM103等の記憶媒体から、ステップS701及びステップS709で設定された各シーンの選択/非選択状態を取得する(ステップS711)。
【0091】
次に、インデックス一覧表示画面において、各シーンの選択/非選択状態を識別できるような状態識別表示を行う(ステップS712)。この識別表示は、例えば、各代表画像の枠を選択/非選択によって色分けをして示したり、非選択状態となっているシーンの代表画像を網掛けで表示する等の表示形態を制御することによって、ユーザは各シーンの選択/非選択状態を判別することができる。
【0092】
その後、インデックス一覧表示画面において、リモコン112の各矢印ボタン305〜308を押下することによってカーソルを移動したり、MENUボタン304とOKボタン309を押下することによって、各種機能を選択することができるため、ユーザ操作の入力待ちの状態となる。
【0093】
そこで、ユーザ操作の有無を判定する(ステップS713)。ユーザ操作がある場合(ステップS713でYES)、ステップS714に進み、ユーザ操作処理を実行する。一方、ユーザ操作がない場合(ステップS713でNO)、処理を終了する。
【0094】
次に、ステップS706のユーザ操作処理の詳細について、図8を用いて詳述する。
【0095】
図8は本発明の実施形態1のステップS706のユーザ操作処理の詳細を示すフローチャートである。
【0096】
尚、このユーザ操作処理は、処理対象のシーンの再生中に、ユーザ操作によって適宜実行可能な処理である。
【0097】
まず、入力されたユーザ操作がスキップ要求であるか否かを判定する(ステップS801)。スキップ要求である場合(ステップS801でYES)、ステップS802に進み、現在再生中のシーンの再生中止を行い(ステップS802)、図7のステップS710へ進む。一方、スキップ要求でない場合(ステップS801でNO)、ステップS803に進む。
【0098】
次に、入力されたユーザ操作が早送り要求であるか否かを判定する(ステップS803)。早送り要求である場合(ステップS803でYES)、ステップS804に進み、ステップS805で早送りの終了要求が判定されるまで、現在再生中のシーンの早送り再生処理を続ける。一方、早送り要求でない場合(ステップS803でNO)、ステップS807に進む。
【0099】
次に、入力されたユーザ操作が早送り終了要求であるか否かを判定する(ステップS805)。早送り終了要求である場合(ステップS805でYES)、ステップS806に進み、早送り再生処理を終了することによって、通常再生を行う。一方、早送り終了要求でない場合(ステップS805でNO)、ステップS807に進む。
【0100】
次に、入力されたユーザ操作が巻き戻し要求であるか否かを判定する(ステップS807)。巻き戻し要求である場合(ステップS807でYES)、ステップS808に進み、巻き戻しの終了要求が判定されるまで、現在再生中のシーンの巻き戻し再生処理を続ける。一方、巻き戻し要求でない場合(ステップ807でNO)、ステップS811に進む。
【0101】
次に、入力されたユーザ操作が巻き戻し終了要求であるか否かを判定する(ステップS809)。巻き戻し終了要求である場合(ステップS809でYES)、ステップS810に進み、巻き戻し再生処理を終了することによって、通常再生を行う。一方、巻き戻し終了要求でない場合(ステップS809でNO)、ステップS811に進む。
【0102】
次に、入力されたユーザ操作が停止要求であるか否かを判定する(ステップS811)。停止要求である場合(ステップS811でYES)、ステップS812に進み、動画像処理装置10に対して現在再生中のシーンの再生中止を指示して、図7のステップS711へ進む。一方、停止要求でない場合(ステップS811でNO)、ステップS813に進む。
【0103】
次に、入力されたユーザ操作が選択状態の変更要求であるか否かを判定する(ステップS813)。尚、この選択状態の変更要求は、例えば、インデックスの一覧表示画面で各代表画像に対するシーンを各々の画像表示位置で連続再生中に、MENUボタン304を押下してメニューを表示し、矢印ボタン305〜308とOKボタン309を押下して選択状態の変更機能を選択することによって行う。
【0104】
そして、ステップS813において、選択状態の変更要求である場合(ステップS813でYES)、ステップS814に進み、シーンを選択するためのシーン選択操作処理を実行する。
【0105】
このシーン選択操作処理では、ユーザは、リモコン112の各矢印ボタン305〜308を押下することにより、カーソルを移動して、切り出された全てのシーンの中から1つのシーンを選択することができる。但し、選択することができるシーンは、既に再生が終了したシーンである。ここで、OKボタン309を押下することによって、ステップS815に進み、選択/非選択状態を変更するための変更処理を実行する。
【0106】
この変更処理では、選択/非選択状態を変更するための変更画面を表示し、ユーザからの変更操作の入力を受け付ける。ユーザが変更画面上で、選択/非選択を選択し、OKボタン309を押下することによって、RAM103等に記憶されたシーンの選択/非選択状態が変更される。各シーンの選択/非選択状態が変更されたら、インデックス一覧表示画面における各シーンの選択/非選択の状態識別表示も変更する。
【0107】
一方、選択状態の変更要求でない場合(ステップS813でNO)、ステップS816に進み、上記で説明したユーザ操作以外の操作が入力された場合に、それぞれの操作処理を行う。
【0108】
次に、ステップS714のユーザ操作処理の詳細について、図9を用いて説明する。
【0109】
図9は本発明の実施形態1のステップS714のユーザ操作処理を示すフローチャートである。
【0110】
まず、入力されたユーザ操作が編集要求であるか否かを判定する(ステップS901)。尚、編集要求は、MENUボタン304を押下してメニューを表示し、矢印ボタン305〜308とOKボタン309を押下して編集機能を選択することによって指示する。
【0111】
尚、この編集機能には、シーン同士の結合処理、シーンの順番を入れ替える処理、シーンのファイル形式を、例えば、MPEG形式からAVI形式に変換する変換処理等の各種画像処理が含まれる。
【0112】
ステップS901において、編集要求である場合(ステップS901でYES)、ステップS902に進み、編集のための編集画面を表示し、その編集画面を介する編集処理を実行する。この編集処理での編集対象となるシーンは、現在選択状態になっているシーンである。一方、編集要求でない場合(ステップS901でNO)、ステップS903に進む。
【0113】
次に、入力されたユーザ操作が選択/非選択状態の変更要求であるか否かを判定する(ステップS903)。尚、選択/非選択状態の変更要求は、MENUボタン304を押下してメニューを表示し、矢印ボタン305〜308とOKボタン309を押下して選択/非選択状態の変更画面を選択することによって指示する。
【0114】
ステップS903において、選択/非選択状態の変更要求である場合(ステップS903でYES)、ステップS904に進み、シーンを選択するためのシーン選択操作処理を実行する。ユーザは、リモコン112の各矢印ボタン305〜308を押下することにより、カーソルを移動して、切り出された全てのシーンの中から1つのシーンを選択することができる。ここで、OKボタン309を押下することによって、ステップS905へ進み、シーンの選択/非選択状態を変更するための変更処理を実行する。
【0115】
この変更処理では、選択/非選択状態を変更するための変更画面を表示し、ユーザからの変更操作の入力を受け付ける。ユーザが変更画面上で、選択/非選択を選択し、OKボタン309を押下することによって、RAM103等に記憶されたシーンの選択/非選択状態が変更される。各シーンの選択/非選択状態が変更されたら、インデックス一覧表示画面における各シーンの選択/非選択の状態識別表示も変更する。
【0116】
一方、ステップS903において、選択/非選択状態の変更要求でない場合(ステップS903でNO)、ステップS906に進み、上記で説明したユーザ操作以外の操作が入力された場合に、それぞれの操作処理を行う。
【0117】
尚、図9では、メニューから変更機能を選択することにより変更画面を表示して、処理対象のシーンの選択状態を変更する場合の例について説明したが、実装上、他の操作方法によって変更機能を実現することもできる。例えば、インデックス一覧表示画面において、選択状態を変更したいシーンにカーソルを移動させた状態で、MODEボタン302を押下することによって、選択/非選択をトグルさせて、選択/非選択状態を変更するような構成としても良い。
【0118】
以上説明したように、実施形態1によれば、動画編集や情報付与等のために目的のシーンを検索する場合に、シーンに対する再生操作内容の種類(通常再生、早送り再生、巻き戻し再生、再生中止)に基づいて、画像処理対象とするか否かを示すシーンの選択/非選択状態を設定する。
【0119】
そのため、再生後に、インデックス一覧表示画面上に多数のシーンの代表画像が表示されても、内容確認済のシーンを間違えて選択したり、目的のシーンが判別できず再確認するといったことがなくなり、操作効率を上げることができる。また、再生後の選択/非選択状態の設定操作が不要なので、更に操作効率が向上する。
【0120】
具体的には、例えば、複数のシーンの中から、所望のシーン群を選択して、1つの動画に結合操作を実行する場合には、候補となるシーンの再生確認を通常再生した場合には、その通常再生が完了した時点で、そのシーンが結合対象のシーンとして確定される。これにより、複数のシーンそれぞれに対し、通常再生による確認を行ったシーンは、確認が完了した時点で、シーンが結合対象として確定されているので、その後の結合操作を行う場合には、結合対象とするシーンの選択操作を行わずに、直ちに結合操作を行うことが可能となる。
【0121】
[実施形態2]
実施形態1では、シーンの選択/非選択状態の設定を、処理対象のシーンの再生操作内容として、その種類が通常再生である場合にのみ、そのシーンを選択状態に設定する構成としたが、用途や目的に応じては、これに限定されない。例えば、再生操作内容の種類ごとに、デフォルトの選択/非選択状態を設定しておき、実際の再生操作内容と、デフォルトの選択//非選択情報に基づいて、シーンの選択/非選択状態を設定するようにしても良い。
【0122】
以下、実施形態2に係る動画像処理装置10の動画連続再生時及び再生終了時の動作について、図10を用いて説明する。
【0123】
図10は本発明の実施形態2の動画像処理装置における動画連続再生処理及び再生終了後のシーンの選択状態変更処理を示すフローチャートである。
【0124】
尚、この処理は、実施形態1の図7の処理の応用例であり、図7と同一の処理ステップは同一のステップ番号を付加し、その詳細については省略する。但し、実施形態2の場合のステップS706のユーザ操作処理を、実施形態1の図8で実現する場合に、ステップS802の処理では、その処理後は、ステップS710ではなく、ステップS718に戻る。
【0125】
ステップS701〜ステップS707の処理を経て、ステップS707において、シーンの再生が終了した場合、そのシーンの選択/非選択状態を設定する状態設定処理を実行する(ステップS718)。尚、この状態設定処理の詳細については後述する。
【0126】
次に、シーンの再生が中断されたか否かを判定する(ステップS719)。再生が中断されない場合(ステップS719でNO)、つまり、中断されず、正常に通常再生が終了した場合、ステップS710に進む。一方、再生が中断された場合(ステップS719でYES)、ステップS711に進む。
【0127】
尚、再生の中断は、実施形態1の図8で説明したユーザ操作処理によって実現されるものである。
【0128】
次に、ステップS718の状態設定処理の詳細について、図11を用いて説明する。
【0129】
図11は本発明の実施形態2の状態設定処理の詳細を示すフローチャートである。
【0130】
まず、通常再生によってシーンの再生が終了したか否かを判別する(ステップS1001)。通常再生が終了した場合(ステップS1001でYES)、ステップS1009へ進み、そのシーンを非選択状態から選択状態に設定する。一方、通常再生が終了してなかった場合(ステップS1001でNO)、ステップS1002に進む。
【0131】
次に、ユーザからのスキップ操作が行われたか否かを判定する(ステップS1002)。スキップ操作が行われた場合(ステップS1002でYES)、ステップS1006に進む。一方、スキップ操作が行われていない場合(ステップS1002でNO)、ステップS1003に進む。
【0132】
次に、早送り再生操作によってシーンの再生が終了したか否かを判定する(ステップS1003)。早送り再生操作が行われた場合(ステップS1003でYES)、ステップS1006に進む。一方、早送り再生操作が行われなかった場合(ステップS1003でNO)、ステップS1004に進む。
【0133】
次に、巻き戻し再生操作によってシーンの再生が終了したか否かを判定する(ステップS1004)。巻き戻し再生操作が行われた場合(ステップS1004でYES)、ステップS1006に進む。一方、巻き戻し再生操作が行われなかった場合(ステップS1004でNO)、ステップS1005に進む。
【0134】
次に、ユーザからの停止操作が行われたか否かを判定する(ステップS1005)。停止操作が行われなかった場合(ステップS1005でNO)、処理を終了する。一方、停止操作が行われた場合(ステップS1005でYES)、ステップS1006に進む。
【0135】
次に、ステップS1002〜ステップS1005の各種判定で、スキップ操作や早送り操作等の操作が行われた場合は、それぞれの操作内容に対してデフォルトで設定されている選択/非選択状態を、RAM103等の記憶媒体から取得する(ステップS1006)。
【0136】
尚、この各操作内容に対するデフォルトの選択/非選択状態は、HDD104、RAM103、メモリカード105等の記憶媒体にユーザによって予め設定され保存されている。このデフォルトの選択/非選択状態の設定処理の詳細については後述する。
【0137】
次に、ステップS1006で取得したデフォルトの選択/非選択状態を示し、その状態に対し、実際に所望する選択/非選択状態に設定変更する設定変更指示を受け付ける設定受付画面を表示する(ステップS1007)。ユーザは、この設定受付画面上で、処理対象のシーンの選択/非選択を選択し、OKボタン309を押下することによって、シーンの選択/非選択状態を設定することができる。尚、この処理をスキップして、デフォルトの選択/非選択状態を維持するようにしても良い。
【0138】
次に、シーンの状態の設定が選択に設定されているか否かを判定する(ステップS1008)。選択に設定されていない場合(ステップS1008でNO)、処理を終了する。一方、選択に設定されている場合(ステップS1008でYES)、ステップS1009に進み、そのシーンを選択状態に設定する。
【0139】
次に、ステップS1006における、ユーザ操作の操作内容に基づくシーンのデフォルトの選択/非選択状態の設定処理の詳細について、図12を用いて説明する。
【0140】
図12は本発明の実施形態2のデフォルトの選択/非選択状態の設定処理の詳細を示すフローチャートである。
【0141】
尚、この処理を実現するプログラムは、ROM102に格納されており、CPU101によって実行される。また、この処理は、図6のインデックス一覧表示画面において、MENUボタン304を押下することによって、各操作内容に対する選択/非選択状態を設定するための選択/非選択状態設定画面を表示し、その選択/非選択状態設定画面を介して実行する。
【0142】
まず、選択/非選択状態設定画面を表示する(ステップS1101)。次に、各操作内容に対するデフォルトの選択/非選択状態を設定するための入力を受け付ける処理を行う(ステップS1102)。これは、選択/非選択状態設定画面上で、スキップ、早送り、巻き戻し等の操作内容に対して、各々の操作を実行した場合に設定する選択/非選択状態を入力することができる。そして、OKボタン309を押下することで、次のステップS1103に進む。
【0143】
次に、ステップS1102で入力された各々操作内容に対するデフォルトの選択/非選択状態を設定する。この状態は、各々の操作内容を示す識別情報と関連付けて、HDD104、RAM103、メモリカード105等の記憶媒体に保存されることとなる。
【0144】
以上説明したように、実施形態2によれば、実施形態1で説明した効果に加えて、シーンに対する再生操作内容の種類それぞれに対し、選択/非選択状態を予め設定しておくことができるので、よりユーザの意図や目的、用途に即した操作環境を提供することができる。
【0145】
[実施形態3]
実施形態1や2では、図6の処理によって得られたシーン群それぞれに対する選択/非選択状態を設定する場合を例に挙げて説明した。しかしながら、図6の処理によって得られたシーン群が、必ずしもユーザが意図するシーン群で構成されているとは限らない。そこで、実施形態3では、シーンの内容を確認するための再生操作内容に基づいて、実施形態1の図6の処理によって得られたシーン群の再構成を可能にする処理について説明する。
【0146】
実施形態3では、シーン群を再構成するタイミングとして、実施形態1の図8のステップS706のユーザ操作処理時に実行する。
【0147】
具体的には、図13のフローチャートに示すように、処理対象のシーンの再生操作の操作内容に基づいて、ステップS817のシーン再構成処理を実行する。
【0148】
尚、この図13のフローチャートは、実施形態1の図8の処理の応用例であり、図7と同一の処理ステップは同一のステップ番号を付加している。
【0149】
次に、ステップS817のシーン再構成処理の詳細について、図14を用いて説明する。
【0150】
図14は本発明の実施形態3のシーン再構成処理の詳細を示すフローチャートである。
【0151】
まず、ユーザからのスキップ操作が行われたか否かを判別する(ステップS1401)。スキップ操作が行われた場合(ステップS1401でYES)、ステップS1405に進む。一方、スキップ操作が行われていない場合(ステップS1401でNO)、ステップS1402に進む。
【0152】
次に、早送り再生操作が行われたか否かを判定する(ステップS1402)。早送り再生操作が行われた場合(ステップS1402でNO)、ステップS1405に進む。一方、早送り再生操作が行われなかった場合(ステップS1402でYES)、ステップS1403に進む。
【0153】
次に、巻き戻し再生操作が行われたか否かを判定する(ステップS1403)。巻き戻し再生操作が行われた場合(ステップS1403でYES)、ステップS1405に進む。一方、巻き戻し再生操作が行われなかった場合(ステップS1403でNO)、ステップS1404に進む。
【0154】
次に、停止操作が行われたか否かを判定する(ステップS1404)。停止操作が行われた場合(ステップS1404でYES)、ステップS1405に進む。一方、停止操作が行われなかった場合(ステップS1404でNO)、処理を終了する。
【0155】
次に、ステップS1401〜ステップS1404の各種判定で、スキップ操作や早送り操作等の操作が行われた場合は、各操作が行われた時点(操作入力点)のフレーム情報を取得する(ステップS1405)。
【0156】
例えば、操作内容がスキップ操作及び停止操作である場合にはその操作指示された時点のフレーム番号を操作入力点として取得する。また、早送り操作や巻き戻し操作である場合にはその操作の開始及び終了が指示された時点のフレーム番号を操作入力点として取得する。
【0157】
次に、取得したフレーム番号に基づいて、シーン分割処理を行う。このシーン分割処理では、取得したフレーム番号をシーンチェンジとして、その前後のシーンに分割する。
【0158】
例えば、スキップ操作や停止操作の場合は、各操作指示が行われた時点を境に前後2つのシーン(再生シーン及び未再生シーン)に分割する。また、早送り操作や巻き戻し操作の場合は、操作の開始指示が行われた点と終了指示が行われた点を境に3つのシーン(早送り・巻き戻し操作中のシーン(非通常再生シーン)とその前後のシーン(通常再生シーン))に分割する。ここで、ステップS1405で取得したフレーム番号は、後のシーンのシーン開始フレームとしてRAM103に記憶される。
【0159】
次に、シーン分割処理によって再構成された各シーンの代表画像となる静止画を作成する(ステップS1407)。この最も簡単な例としては、各シーンの先頭フレーム画像をそのシーンの代表画像として関連付ける。尚、複数のフレーム画像から代表画像を合成してもよい。
【0160】
次に、シーン情報及び静止画をシーンに対応付け、インデックスとしてハードディスクドライブ104に記憶する(ステップS1408)。
【0161】
次に、シーン変更処理によって再構成されたシーンとそのインデックスと、再構成前のシーンとそのインデックスをマージして、ハードディスクドライブ104上のシーンとインデックスを変更する(ステップS1409)。
【0162】
次に、分割した各シーンの選択/非選択状態を設定する(ステップS1410)。ここでは、通常再生されたシーンは選択状態に、通常再生されなかったシーンは非選択状態に設定する。
【0163】
例えば、スキップ操作や停止操作の場合は分割点前のシーンを選択状態に設定し、分割点後のシーンを非選択状態に設定する。また、早送り操作や巻き戻し操作の場合は、早送り・巻き戻し操作中のシーンは非選択状態に、その前後のシーンは選択状態に設定する。この選択/非選択状態は、新しく分割したシーンを示す識別情報と関連付けて、ハードディスク104、RAM103、メモリカード105等の記憶媒体に追加保存されることになる。
【0164】
以上説明したように、実施形態3によれば、実施形態1で説明した効果に加えて、ユーザのシーンに対する操作の操作内容に基づいて、当初に分割されたシーン群を再構成し、その再構成された各シーンに対する選択/非選択状態を設定することで、よりユーザの意図や目的、用途に応じたシーンの分割及び選択/非選択状態を設定することができる。
【0165】
特に、この再構成及び選択/非選択状態は、シーンに対する操作に係る経験則に基づいて実行するので、より好適なシーンの分割及び選択/非選択状態を設定することができる。
【0166】
この経験則は、例えば、あるシーンの再生中に、スキップ操作や停止操作が実行された場合には、その操作前まではユーザが必要とするシーンと判断するものである。また、早送り・巻き戻し再生操作が実行された場合には、その操作中はユーザが不要とするシーンと判断するものである。
【0167】
尚、上記実施形態1〜3では、動画像データ中のシーンチェンジをフレーム間類似性距離に基づいて検出したが、これに限定されるものではない。例えば、動画像データ中のタイムコードの不連続点に基づいて、シーンチェンジを検出してもよい。この方法は、特に、デジタルビデオカメラのように、撮影時刻がタイムコードとして動画像データと共に記録されている場合に利用可能であり、例えば、タイムコードの不連続個所をシーンチェンジとすることは容易に実現することが可能である。
【0168】
また、動画像データに付加されている属性情報に基づいて、シーンチェンジを検出しても良い。この検出方法は、タイムコードの他に、ビデオカメラやフレーム画像の解析によって自動的に出力されるズーム、パン、チルトの開始、終了等のメタ情報、人手により付加された論理構造や動画の被写体に関するメタ情報等の属性情報に基づいて、シーンチェンジを検出する。この場合、シーン情報として、シーン開始フレームの他、シーンチェンジの検出に利用した属性情報の種類をシーン情報とする。
【0169】
更に、上述のフレーム間類似性距離による検出方法、タイムコードの不連続点による検出方法及び属性情報による検出方法を、適宜選択自在に、あるいは組み合わせて、シーンチェンジを検出するようにしても良い。
【0170】
上記実施形態1〜3では、動画像データはビデオI/F115を介して入力する構成としたが、これ以外の外部ソース、例えば、通信デバイスを介してネットワークから、メモリカード等から入力する構成であってもよい。また、図4のフローチャートでは、ステップS404で動画像データの記録を完了してから、ステップS405でそのインデックスを作成する構成としたが、マルチタスクシステムを導入して、動画像データの記録を行いながら、そのインデックスを作成する構成としても良い。
【0171】
また、各シーンの代表画像となる静止画を作成し、シーン情報及び静止画を動画像データに対応付けたインデックスを作成したが、特定のフレーム画像を静止画とする場合、静止画データの代わりに、フレーム番号だけを記録しても良い。この場合、実際の静止画を出力(表示や印刷)する場合には、そのフレーム番号と動画像データからオンデマンドで静止画データを作成することになる。
【0172】
更に、図5のステップS502でシーン数が第1の閾値を越えているか否かを判定した後に、ステップS503で各シーンの長さが第2の閾値を越えているか否かを判定し、その後、ステップS504のシーン結合処理を実行する構成としたが、この2つのステップの処理順序及びその処理内容を変更することも可能である。
【0173】
例えば、まず、各シーンの長さが第2の閾値を越えていないか否かを判定し、越えていない場合に、シーン結合処理を行い、その後、シーン結合処理後のシーン数が第1の閾値を越えているか否かを判定し、越えている場合に、再度、シーン結合処理を行うようにしてもよい。これにより、必要以上にシーン数を減らさないようにすることができる。
【0174】
以上、実施形態例を詳述したが、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能であり、具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
【0175】
尚、本発明は、前述した実施形態の機能を実現するソフトウェアのプログラム(実施形態では図に示すフローチャートに対応したプログラム)を、システムあるいは装置に直接あるいは遠隔から供給し、そのシステムあるいは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによっても達成される場合を含む。
【0176】
従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。
【0177】
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であっても良い。
【0178】
プログラムを供給するための記録媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などがある。
【0179】
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続し、該ホームページから本発明のコンピュータプログラムそのもの、もしくは圧縮され自動インストール機能を含むファイルをハードディスク等の記録媒体にダウンロードすることによっても供給できる。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。
【0180】
また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせ、その鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。
【0181】
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部または全部を行ない、その処理によっても前述した実施形態の機能が実現され得る。
【0182】
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行ない、その処理によっても前述した実施形態の機能が実現される。
【0183】
【発明の効果】
以上説明したように、本発明によれば、動画を効率的に再利用することが可能な動画像処理装置及びその制御方法、プログラムを提供できる。
【図面の簡単な説明】
【図1】本発明の実施形態1の動画像処理装置の構成を示すブロック図である。
【図2】本発明の実施形態1の動画像処理装置と周辺装置からなるシステムを示す図である。
【図3】本発明の実施形態1の赤外線リモコンの詳細構成を示す図である。
【図4】本発明の実施形態1の動画像処理装置における動画記録処理を示すフローチャートである。
【図5】本発明の実施形態1のステップS405のインデックス作成処理の詳細を示すフローチャートである。
【図6】本発明の実施形態1のディスプレイ装置に表示されるインデックス一覧表示画面の一例を示す図である。
【図7】本発明の実施形態1の動画像処理装置における動画連続再生処理及び再生終了後のシーンの選択状態変更処理を示すフローチャートである。
【図8】本発明の実施形態1のステップS706のユーザ操作処理の詳細を示すフローチャートである。
【図9】本発明の実施形態1のステップS714のユーザ操作処理を示すフローチャートである。
【図10】本発明の実施形態2の動画像処理装置における動画連続再生処理及び再生終了後のシーンの選択状態変更処理を示すフローチャートである。
【図11】本発明の実施形態2の状態設定処理の詳細を示すフローチャートである。
【図12】本発明の実施形態2のデフォルトの選択/非選択状態の設定処理の詳細を示すフローチャートである。
【図13】本発明の実施形態3のステップS706のユーザ操作処理の詳細を示すフローチャートである。
【図14】本発明の実施形態3のシーン再構成処理の詳細を示すフローチャートである。
【符号の説明】
101 CPU
102 ROM
103 RAM
104 HDD
105 メモリカードI/F
106 外部記憶装置
107 ディスプレイ
108 プリンタI/F
109 プリンタ
110 ネットワークI/F
111 赤外線受光部
112 リモコン
113 シリアルI/F
114 オペレーションパネル
115 ビデオI/F
116 ビデオカメラ
Claims (14)
- 動画像を処理する動画像処理装置であって、
前記動画像中のシーンチェンジに基づいて、該動画像を複数のシーンに分割する分割手段と、
前記分割手段で分割された各シーンに対応する代表画像を含むシーンの属性情報をインデックスとして、シーン毎に記憶する記憶手段と、
前記記憶手段に記憶されているインデックスに基づくインデックス画面を表示する表示手段と、
前記インデックス画面で表示されているインデックスに対応するシーンの操作を指示する指示手段と、
前記指示手段で指示されるシーンの操作の操作内容に基づいて、該シーンを、画像処理対象として選択するか否かを示す状態設定を行う設定手段と
を備えることを特徴する動画像処理装置。 - 前記設定手段は、前記指示手段で指示されたシーンの操作が前記複数のシーンの各シーンの連続再生である場合、これらのシーンの内、全フレームが通常再生されたシーンは選択状態に設定し、全フレームが通常再生されなかったシーンは非選択状態に設定する
ことを特徴とする請求項1に記載の動画像処理装置。 - 前記設定手段によって設定された各シーンの選択/非選択状態を前記インデックス画面の対応するインデックス毎に表示制御する表示制御手段と、
前記インデックス画面のインデックス毎に表示されている選択/非選択状態を変更する変更手段と
を更に備えることを特徴とする請求項1に記載の動画像処理装置。 - 前記代表画像は、対応するシーンに基づいて作成された静止画である
ことを特徴とする請求項1に記載の動画像処理装置。 - 前記表示制御手段は、前記インデクス画面に各シーンのインデックスとして前記各シーンの代表画像を一覧表示し、シーンに対する操作が終了したシーンに対して前記選択/非選択状態を表示し、前記選択/非選択状態が表示されているシーンに対して前記変更手段による変更を許容する
ことを特徴とする請求項3に記載の動画像処理装置。 - 前記操作の操作内容の種類毎に、前記選択/非選択状態を予め対応づけて記憶する状態記憶手段を更に備える
ことを特徴とする請求項1に記載の動画像処理装置。 - 前記操作の操作内容の種類毎に、前記選択/非選択状態をデフォルトとして設定するデフォルト状態設定手段を更に備える
ことを特徴とする請求項6に記載の動画像処理装置。 - 前記設定手段は、通常再生中のシーンに対し、前記指示手段によって通常再生以外の他の操作によって前記シーンの全フレームが通常再生されなかった場合、前記他の操作の操作内容に対応する状態を前記状態記憶手段を参照して取得し、その取得した状態を、前記シーンの前記選択/非選択状態に設定する
ことを特徴とする請求項6に記載の動画像処理装置。 - 前記設定手段は、通常再生中のシーンに対し、前記指示手段によって通常再生以外の他の操作によって前記シーンの全フレームが通常再生されなかった場合、前記他の操作の操作内容に対応する状態を前記状態記憶手段を参照して取得する取得手段と、
前記取得手段で取得した状態の設定変更指示を受け付ける設定受付画面を表示する設定受付画面表示手段とを備え、
前記設定受付画面で設定変更指示された状態を、前記シーンの前記選択/非選択状態に設定する
ことを特徴とする請求項6に記載の動画像処理装置。 - 通常再生中のシーンに対し、前記指示手段によって通常再生以外の他の操作によって前記シーンの全フレームが通常再生されなかった場合、他の操作の操作入力点に基づいて、前記シーンを更に分割して再構成する再構成手段を更に備え、
前記設定手段は、前記他の操作の操作内容に基づいて、前記再構成手段で再構成されたシーン群それぞれについて、画像処理対象として選択するか否かを示す状態設定を行う
ことを特徴とする請求項1に記載の動画像処理装置。 - 前記再構成手段は、前記他の操作の操作入力点に基づいて、前記シーンを再生シーンと未再生シーンに更に分割して再構成し、
前記設定手段は、前記再生シーンを選択状態に設定し、前記未再生シーンを非選択状態に設定する
ことを特徴とする請求項10に記載の動画像処理装置。 - 前記再構成手段は、前記他の操作の操作入力点に基づいて、前記シーンを通常再生シーンと非通常再生シーンに更に分割して再構成し、
前記設定手段は、前記通常再生シーンを選択状態に設定し、前記非通常再生シーンを非選択状態に設定する
ことを特徴とする請求項10に記載の動画像処理装置。 - 動画像を処理する動画像処理装置の制御方法であって、
前記動画像中のシーンチェンジに基づいて、該動画像を複数のシーンに分割する分割工程と、
前記分割手段で分割された各シーンに対応する代表画像を含むシーンの属性情報をインデックスとして、シーン毎に記憶媒体に記憶する記憶工程と、
前記記憶媒体に記憶されているインデックスに基づくインデックス画面を表示する表示工程と、
前記インデックス画面で表示されているインデックスに対応するシーンの操作を指示する指示工程と、
前記指示工程で指示されるシーンの操作の操作内容に基づいて、該シーンを、画像処理対象として選択するか否かを示す状態設定を行う設定工程と
を備えることを特徴する動画像処理装置の制御方法。 - 動画像を処理する動画像処理装置の制御を実現するプログラムであって、
前記動画像中のシーンチェンジに基づいて、該動画像を複数のシーンに分割する分割工程のプログラムコードと、
前記分割手段で分割された各シーンに対応する代表画像を含むシーンの属性情報をインデックスとして、シーン毎に記憶媒体に記憶する記憶工程のプログラムコードと、
前記記憶媒体に記憶されているインデックスに基づくインデックス画面を表示する表示工程のプログラムコードと、
前記インデックス画面で表示されているインデックスに対応するシーンの操作を指示する指示工程のプログラムコードと、
前記指示工程で指示されるシーンの操作の操作内容に基づいて、該シーンを、画像処理対象として選択するか否かを示す状態設定を行う設定工程のプログラムコードと
を備えることを特徴するプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003129456A JP2004336382A (ja) | 2003-05-07 | 2003-05-07 | 動画像処理装置及びその制御方法、プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003129456A JP2004336382A (ja) | 2003-05-07 | 2003-05-07 | 動画像処理装置及びその制御方法、プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004336382A true JP2004336382A (ja) | 2004-11-25 |
Family
ID=33505288
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003129456A Withdrawn JP2004336382A (ja) | 2003-05-07 | 2003-05-07 | 動画像処理装置及びその制御方法、プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004336382A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006163605A (ja) * | 2004-12-03 | 2006-06-22 | Hitachi Kokusai Electric Inc | 画像検索表示装置とそのプログラム |
US7925105B2 (en) | 2006-03-14 | 2011-04-12 | Seiko Epson Corporation | Image transfer and motion picture clipping process using outline of image |
-
2003
- 2003-05-07 JP JP2003129456A patent/JP2004336382A/ja not_active Withdrawn
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006163605A (ja) * | 2004-12-03 | 2006-06-22 | Hitachi Kokusai Electric Inc | 画像検索表示装置とそのプログラム |
US7925105B2 (en) | 2006-03-14 | 2011-04-12 | Seiko Epson Corporation | Image transfer and motion picture clipping process using outline of image |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101070562B1 (ko) | 동화상 데이터의 편집 장치 및 동화상 데이터의 편집 방법 | |
JP4354806B2 (ja) | 動画像管理装置及び方法 | |
EP1806920A1 (en) | Moving picture data edition device and moving picture data edition method | |
US20070172206A1 (en) | Moving image recording apparatus and method, moving image reproducing apparatus, moving image recording and reproducing method, and programs and storage media | |
US20180084030A1 (en) | Transfer device, client apparatus, server apparatus, reproduction apparatus and transfer method | |
JP2003009069A (ja) | 動画記録装置、動画記録方法、動画再生装置、動画再生方法、プログラムおよび記憶媒体 | |
JP5272835B2 (ja) | 画像供給装置、画像供給方法、及び画像供給用プログラム | |
JP2004336382A (ja) | 動画像処理装置及びその制御方法、プログラム | |
JP2009253769A (ja) | 撮像装置、撮像装置の制御方法及びプログラム | |
JP2008005344A (ja) | ファイル管理システム、撮像装置、外部機器、並びにファイル管理方法、プログラム、コンピュータ可読記憶媒体 | |
JP2006174402A (ja) | コンテンツ編集装置、コンテンツ記録装置、プログラム、及び記録媒体 | |
JP2005182931A (ja) | 情報記録再生装置及び情報記録再生方法 | |
JP2003319312A (ja) | ハードディスクレコーダ、情報記録再生装置 | |
JP2008294938A (ja) | コンテンツ記録再生装置及びサムネイル作成方法 | |
JP5522972B2 (ja) | 再生装置及びその制御方法 | |
US20080279526A1 (en) | Record/playback apparatus and control method therefor | |
JP2009171345A (ja) | 情報処理装置及び情報処理方法 | |
JP5060394B2 (ja) | 情報処理装置及び情報処理方法 | |
JP5697463B2 (ja) | 動画編集装置及び動画編集装置の制御方法 | |
JP4422543B2 (ja) | 画像表示装置及び画像表示方法 | |
JP2008017366A (ja) | 情報処理装置及び情報処理方法 | |
JP2005196840A (ja) | データ記録再生装置 | |
EP2036084A1 (en) | Method and apparatus for controlling reproduction of a title including av data and information recording medium | |
JP2006338779A (ja) | コンテンツ分割装置、コンテンツ復元装置、及びコンテンツ分割方法、コンテンツ復元方法、並びにプログラム | |
JP2005276429A (ja) | 動画像編集方法および動画像編集装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20060801 |