以下に本発明の実施の形態を説明するが、請求項に記載の構成要件と、発明の実施の形態における具体例との対応関係を例示すると、次のようになる。この記載は、請求項に記載されている発明をサポートする具体例が、発明の実施の形態に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、構成要件に対応するものとして、ここには記載されていない具体例があったとしても、そのことは、その具体例が、その構成要件に対応するものではないことを意味するものではない。逆に、具体例が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その具体例が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
さらに、この記載は、発明の実施の形態に記載されている具体例に対応する発明が、請求項に全て記載されていることを意味するものではない。換言すれば、この記載は、発明の実施の形態に記載されている具体例に対応する発明であって、この出願の請求項には記載されていない発明の存在、すなわち、将来、分割出願されたり、補正により追加される発明の存在を否定するものではない。
請求項1に記載の記録装置は、動画像の符号化の単位であって、一定の数のピクチャからなる単位(例えば、図4のGOP)から、1つのピクチャを抽出する抽出手段(例えば、図3の抽出部51)と、抽出されたピクチャの情報量を削減する削減手段(例えば、図3の画素数変換部40)と、情報量が削減されたピクチャを所定の符号化方式で符号化する符号化手段(例えば、図3の静止画像圧縮部41)と、抽出手段においてピクチャが抽出された単位に、符号化されたピクチャを関係付ける関係付け手段(例えば、図18のステップS56の処理を実行する図3のマイクロコンピュータ31)と、動画像を記録するデータ記録媒体(例えば、図3のディスク45)への、単位に関係付けられたピクチャの記録を制御する記録制御手段(例えば、図19のステップS77の処理を実行する図3のマイクロコンピュータ31)とを備え、記録制御手段は、再生における予め定めた時間の動画像を、データ記録媒体の連続する第1の領域に記録するように、データ記録媒体への動画像の記録を制御すると共に、データ記録媒体の第1の領域への動画像の記録が終了した場合、符号化された画像のデータ量が所定の閾値を超えたとき、データ記録媒体の連続する第2の領域に画像を記録するように、データ記録媒体への画像の記録を制御することを特徴とする。
請求項2に記載の記録方法は、動画像の符号化の単位であって、一定の数のピクチャからなる単位(例えば、図4のGOP)から、1つのピクチャを抽出する抽出ステップ(例えば、図18のステップS53の処理)と、抽出されたピクチャの情報量を削減する削減ステップ(例えば、図18のステップS54の処理)と、情報量が削減されたピクチャを所定の符号化方式で符号化する符号化ステップ(例えば、図18のステップS55の処理)と、抽出ステップにおいてピクチャが抽出された単位に、符号化されたピクチャを関係付ける関係付けステップ(例えば、図18のステップS56の処理)と、動画像を記録するデータ記録媒体(例えば、図3のディスク45)への、単位に関係付けられたピクチャの記録を制御する記録制御ステップ(例えば、図19のステップS77の処理)とを含み、記録制御ステップの処理によって、再生における予め定めた時間の動画像を、データ記録媒体の連続する第1の領域に記録するように、データ記録媒体への動画像の記録を制御すると共に、データ記録媒体の第1の領域への動画像の記録が終了した場合、符号化された画像のデータ量が所定の閾値を超えたとき、データ記録媒体の連続する第2の領域に画像を記録するように、データ記録媒体への画像の記録を制御することを特徴とする。
請求項4に記載のプログラムは、動画像の符号化の単位であって、一定の数のピクチャからなる単位(例えば、図4のGOP)から、1つのピクチャを抽出する抽出ステップ(例えば、図18のステップS53の処理)と、抽出されたピクチャの情報量を削減する削減ステップ(例えば、図18のステップS54の処理)と、情報量が削減されたピクチャを所定の符号化方式で符号化する符号化ステップ(例えば、図18のステップS55の処理)と、抽出ステップにおいてピクチャが抽出された単位に、符号化されたピクチャを関係付ける関係付けステップ(例えば、図18のステップS56の処理)と、動画像を記録するデータ記録媒体(例えば、図3のディスク45)への、単位に関係付けられたピクチャの記録を制御する記録制御ステップ(例えば、図19のステップS77の処理)とを含み、記録制御ステップの処理によって、再生における予め定めた時間の動画像を、データ記録媒体の連続する第1の領域に記録するように、データ記録媒体への動画像の記録を制御すると共に、データ記録媒体の第1の領域への動画像の記録が終了した場合、符号化された画像のデータ量が所定の閾値を超えたとき、データ記録媒体の連続する第2の領域に画像を記録するように、データ記録媒体への画像の記録を制御する処理をコンピュータに実行させることを特徴とする。
このプログラムは記録媒体(例えば、図3のディスク48)に記録することができる。
図3は、本発明の係る記録装置の一実施の形態の構成を示すブロック図である。図3で示される記録装置は、マイクロコンピュータ31乃至モードダイアル46を含むように構成される。
マイクロコンピュータ31は、例えば、ROM(Read Only Memory)、RAM(Random Access Memory)、シリアルインターフェース、またはパラレルインターフェースなどを内蔵する、いわゆる組み込み型のマイクロコンピュータである。マイクロコンピュータ31は、所定の制御プログラムを実行して、記録装置の全体を制御する。マイクロコンピュータ31は、所定の制御プログラムを実行して、ユーザの操作に応じた記録開始停止ボタン32からの信号を基に、記録装置の各部に動作を指示する。マイクロコンピュータ31は、所定の制御プログラムを実行して、バッファ43に記憶されているデータのファイル方式を整える。
撮影部33は、レンズや絞りなどの光学系およびCCD(Charge Coupled Device)またはCMOS(Complementary Metal-Oxide Semiconductor)センサなどの撮像素子からなり、動画像である被写体の画像を撮影して、撮影の結果得られた動画像の画像信号を動画像入力インターフェース34に供給する。動画像入力インターフェース34は、撮影部33とバッファメモリ35とのインターフェースであり、例えば、撮影部33から供給された画像信号をアナログデジタル変換したり、シリアルパラレル変換するなど、画像信号を所定の方式の動画像の画像データに変換して、その画像データをバッファメモリ35に供給する。
音声変換部36は、例えば、マイクロフォンなどからなり、被写体からの音声またはその周囲の音声を取得して、取得した音声に対応する音声信号を音声入力インターフェース37に供給する。音声変換部36から出力される音声信号は、撮影部33から出力される画像信号に同期している。音声入力インターフェース37は、音声変換部36とバッファメモリ35とのインターフェースであり、例えば、音声変換部36から供給された音声信号をアナログデジタル変換したり、シリアルパラレル変換するなど、音声信号を所定の方式の音声データに変換して、その音声データをバッファメモリ35に供給する。
バッファメモリ35は、例えば、半導体メモリからなり、動画像入力インターフェース34から供給された画像データ、および音声入力インターフェース37から供給された音声データを一時的に記憶する。バッファメモリ35は、記憶している画像データを動画像圧縮部38および画素数変換部40に供給する。また、バッファメモリ35は、記憶している音声データを音声圧縮部42に供給する。
動画像圧縮部38は、マイクロコンピュータ31の制御の基に、バッファメモリ35から供給された、動画像の画像データを所定の方式で圧縮符号化して、圧縮符号化された画像データをマルチプレクサ39に供給する。例えば、動画像圧縮部38は、バッファメモリ35から供給された、動画像の画像データをMPEG2方式で圧縮符号化して、圧縮符号化された画像データをマルチプレクサ39に供給する。
画素数変換部40は、マイクロコンピュータ31の制御の基に、動画像の画像データから所定のピクチャ(フレームまたはフィールド)を抽出し、抽出したピクチャの画素数を変換する。例えば、画素数変換部40は、抽出したピクチャから画素を間引くことにより、ピクチャの画素数を変換する。
画素数変換部40には、抽出部51が設けられている。抽出部51は、例えば、図4で示されるように、動画像圧縮部38においてMPEG2方式で圧縮符号化される動画像の画像データのうち、1つのGOPから1つのフレーム(ピクチャ)を抽出する。
より具体的には、例えば、動画像圧縮部38が、1秒あたり30フレームの動画像を、連続する15フレームからなるGOPを単位として圧縮符号化する場合、抽出部51は、それぞれのGOPを構成する15のフレームから1つのフレームを抽出する。
例えば、画素数変換部40は、それぞれのGOPから抽出されたフレームから画素を間引いて画素数を変換する。
画像数変換部40は、画素数を変換した画像データを静止画像圧縮部41に供給する。静止画像圧縮部41は、マイクロコンピュータ31の制御の基に、画素数変換部40から供給された画像データを、静止画像を圧縮する圧縮符号化方式で符号化する。例えば、静止画像圧縮部41は、画素数変換部40から供給された画像データを、JPEG(Joint Photographic Experts Group)方式で符号化する。静止画像圧縮部41は、符号化した画像データをサムネイルデータとしてバッファメモリ43に供給する。
音声圧縮部42は、マイクロコンピュータ31の制御の基に、バッファメモリ35から供給された、音声データを所定の方式で圧縮符号化して、圧縮符号化された音声データをマルチプレクサ39に供給する。音声圧縮部42から出力される音声データは、動画像圧縮部38から出力される画像データに同期している。例えば、音声圧縮部42は、バッファメモリ35から供給された、音声データをAC3(Audio Code Number 3(Dolby Digital(商標))方式で圧縮符号化して、圧縮符号化された音声データをマルチプレクサ39に供給する。
マルチプレクサ39は、動画像圧縮部38から供給された画像データ、および音声圧縮部42から供給された音声データを多重化して、多重化された画像データおよび音声データをバッファメモリ43に供給する。例えば、マルチプレクサ39は、画像データおよび音声データをMPEG2のシステムストリーム方式として多重化して、多重化により生成された、画像データおよび音声データからなるMPEG2のシステムストリーム方式のデータをバッファメモリ43に供給する。
バッファメモリ43は、マルチプレクサ39から供給された多重化された画像データおよび音声データ、並びに静止画像圧縮部41から供給されたサムネイルデータを一時的に記憶する。
マイクロコンピュータ31は、バッファメモリ43に記憶されているサムネイルデータの方式を整えて、所定のファイル方式とする。サムネイルデータのファイル方式については、図7乃至図13を参照して後述する。
ドライブ44は、バッファメモリ43から、多重化された画像データおよび音声データ、並びに所定のファイル方式とされたサムネイルデータを読み出して、データ記録媒体の一例であるディスク45に記録する。ディスク45は、磁気ディスク、光ディスク、または光磁気ディスクなどである。
図5は、ディスク45に記録されたサムネイルデータの一例を示す図である。サムネイルデータ81−1乃至サムネイルデータ81−nのそれぞれは、1つのサムネイルを表示させるためのデータである。ディスク45において、ECC(Error Correction Coding)によりエラー訂正される単位が12キロバイトであるとした場合、サムネイルデータ81−1乃至サムネイルデータ81−nのそれぞれは、12キロバイト以下に圧縮される。
ここで、例えば、ECC(Error Correction Coding)によりエラー訂正されるデータの単位は、データの記録が管理される単位である、1つのクラスタに記録される。
サムネイルデータ81−1乃至サムネイルデータ81−nのそれぞれは、1つのクラスタに、ECCによりエラー訂正される単位として、ディスク45に記録される。この場合、サムネイルデータ81−1乃至サムネイルデータ81−nのいずれかが、12キロバイト未満であるとき、12キロバイト未満であるサムネイルデータ81−1乃至サムネイルデータ81−nのいずれかには、12キロバイトとなるように任意にデータ列が付加される。任意のデータ列の付加により12キロバイトとされたサムネイルデータ81−1乃至サムネイルデータ81−nのそれぞれは、1つのクラスタに、ECCによりエラー訂正される単位として、ディスク45に記録される。
例えば、図5で示す例において、サムネイルデータ81−1は、12キロバイト未満なので、12キロバイトとなるように任意にデータ列が付加され、12キロバイトとされたサムネイルデータ81−1が、1つのクラスタに記録される。
例えば、図5で示す例において、サムネイルデータ81−nは、12キロバイトなので、任意にデータ列は付加されることなく、そのまま、1つのクラスタに記録される。
このようにすると、サムネイルデータ81−1乃至サムネイルデータ81−nのうちの1つを読み出す場合、1つのクラスタからデータを読み出せば良いので、より迅速にディスク45からサムネイルデータ81−1乃至サムネイルデータ81−nを読み出すことができる。
以下、サムネイルデータ81−1乃至サムネイルデータ81−nを個々に区別する必要がない場合、単にサムネイルデータ81と称する。
モードダイアル46は、ユーザの操作に応じて、記録装置の動作モードを指示する信号をマイクロコンピュータ31に供給する。例えば、動作モードを変更することによって、記録される画像データの1つのフレーム(ピクチャ)の画素数を変化させたり、サムネイルデータを記録するか否かを変更させることができる。
ドライブ47は、必要に応じて記録装置に装着される。ドライブ47は、制御プログラムを記録しているディスク48からプログラムを読み出して、マイクロコンピュータ31に供給する。マイクロコンピュータ31は、内蔵している書き換え可能なROMまたはRAMに、ディスク48から読み出されたプログラムを記憶させて、そのプログラムを実行する。ドライブ47およびディスク48の機能をドライブ44およびディスク45で置き換えることも可能である。
図6は、多重化されている動画像データおよび音声データと、サムネイルデータとの同期を説明する図である。図6において、MPEGトラックは、動画像データおよび音声データからなり、サムネイルトラックは、サムネイルデータからなる。図6において、1つの四角は、1つの画像を示す。ここで、トラックとは、一連の画像または音声の系列である。
例えば、MPEG2のシステムストリーム方式のデータを構成する動画像データが、15のフレームからなるGOPを単位として符号化され、サムネイルデータが、それぞれのGOPのフレームのうちの1つのフレームから生成される場合、MPEG2のシステムストリームにおける1つのGOPと、1つのサムネイルデータとが対応することになる。この場合、1つのサムネイルデータは、動画像の再生における、0.5秒の時間に対応することになる。
図7乃至図13を参照して、1つのGOPに対応付けられたサムネイルデータ81のファイル方式を説明する。
サムネイルデータ81のファイル方式として、Quick Time(商標)ファイルフォーマットを利用することができる。以下、Quick Time(商標)ファイルフォーマットをQTファイルフォーマットと称する。
QTファイルフォーマットにおいて、動画像データ、音声データ、または静止画像データなどがまとめられて、それぞれブロック化され、また、ブロック化された動画像データ、音声データ、または静止画像データなどを管理するための管理情報も、それぞれまとめてブロック化される。このようなブロックは、基本的なデータの単位であり、アトムと称される。ブロック化された動画像データ、音声データ、または静止画像データなどは、トラックごとに管理され、その情報はトラックアトムと称される。また、複数のトラックをまとめて1つの動画データとして管理する情報は、ムービーアトムと称される。
なお、1つのムービーデータアトムは、1つのトラックに対応する。
図7は、サムネイルデータ81を格納する、QTファイルフォーマットの一例であるPlaylist File(PLF)方式のファイルの例を説明する図である。サムネイルデータ81を格納する、PLF方式ファイル101の先頭には、ファイルのタイプを記述するデータ(図中のファイルタイプデータ)が配置され、ファイルのタイプを記述するデータの次に、ファイルプロファイルを記述するデータ(図中のプロファイルデータ)が配置される。
例えば、ファイルのタイプを記述するデータは、ISO(International Organization for Standardization)のBaseMediaFileFormat(ISO14496-12)のMP4拡張(ISO14496-14)に準拠した方式とすることができる。また、例えば、ファイルのプロファイルを記述するデータには、PLF方式であることを示す値が設定される。
PLF方式ファイル101において、ファイルプロファイルを記述するデータに続いて、ムービーアトム(図中のmoovで示すデータ)が配置される。図7のムービーアトムに配置されるビデオトラックのトラックアトム(図中のtrak(vide)で示すデータ)は、サムネイルデータ81の管理情報である。図7のムービーアトムに配置されるMPEG2のシステムストリーム(MPEG2プログラムストリーム)トラックのトラックアトム(図中のtrak(MPEG2プログラムストリーム)で示すデータ)は、動画像データおよび音声データが多重化されているMPEG2のシステムストリームの管理情報である。
トラックアトムのメディアアトム(図中のmdiaで示すデータ)には、対応するムービーデータアトムの圧縮方式、格納場所、表示時間などを管理する管理情報が格納される。メディアアトムにおけるメディア情報アトム(図中のminfで示すデータ)には、最小の管理単位であるサンプルに関係する各種の情報が配置される。例えば、MPEG2のシステムストリーム(MPEG2プログラムストリーム)トラックにおいて、サンプルは、1つのフレームであり、サムネイルデータ81のビデオトラックにおいて、サンプルは、1つのサムネイルデータ81である。
メディア情報アトムにおけるサンプルテーブルアトム(図中のstblで示すデータ)には、個々のサンプルに関係する各種の情報が配置される。サンプルテーブルアトムにおける時間サンプルアトム(図中のsttsで示すデータ)には、各サンプルと再生における時刻との関係が記述される。サンプルテーブルアトムにおけるサンプルチャンクアトム(図中のstscで示すデータ)には、サンプルと、そのサンプルから構成されるチャンクとの関係が記述される。
ここで、チャンクとは、複数のサンプルの集合よりなるトラックにおけるデータの単位である。
また、サンプルテーブルアトムにおけるサンプルサイズアトム(図中のstszで示すデータ)には、各サンプルのデータ量が記述される。サンプルテーブルアトムにおけるチャンクオフセットアトム(図中のstcoで示すデータ)には、ファイルの先頭を基準にした各チャンクの位置情報が記述される。
さらに、PLF方式ファイル101には、ムービーデータアトム(図中のmdatで示すデータ)として、サムネイルデータ81−1乃至サムネイルデータ81−nが格納されている。PLF方式ファイル101において、サムネイルデータ81−1乃至サムネイルデータ81−nは、順に配置される。
すなわち、図7のムービーアトムのトラックアトムの時間サンプルテーブルアトムには、ムービーデータアトムとしてのサムネイルデータ81−1乃至サムネイルデータ81−nのそれぞれの、再生における時刻が記述される。
これにより、図6で示されるように、サムネイルデータ81−1乃至サムネイルデータ81−nのそれぞれを、MPEG2のシステムストリームの1つのGOPに対応させて、再生することができるようになる。
このようにサムネイルデータ81−1乃至サムネイルデータ81−nをPLF方式ファイル101に格納するようにした場合、ディスク45に記録されるファイルの数をより少なくすることができる。
図8は、PLF方式ファイル101とは別に、サムネイルデータ81を格納したファイルを説明する図である。図8で示されるファイル111は、PLF方式ファイル101から参照される、サムネイルデータ81−1乃至サムネイルデータ81−nを格納するファイルである。ファイル111には、サムネイルデータ81−1乃至サムネイルデータ81−nが順に配置される。
この場合、PLF方式ファイル101のトラックアトムのメディアインフォメーションアトム(図中のminfで示すデータ)には、例えば、ファイル111の格納場所(パスおよびファイル名)など、ファイル111を参照するための管理情報が格納される。
これにより、PLF方式ファイル101に、ムービーデータアトムとしてサムネイルデータ81を格納せずに、サムネイルデータ81を外部の参照される独自の方式のファイル111として記録し、PLF方式ファイル101を基に、サムネイルデータ81を再生することができる。この場合においても、PLF方式ファイル101には、ファイル111に格納されているサムネイルデータ81−1乃至サムネイルデータ81−nのそれぞれの、再生における時刻が記述されるので、図6で示されるように、サムネイルデータ81−1乃至サムネイルデータ81−nのそれぞれを、MPEG2のシステムストリームの1つのGOPに対応させて、再生することができる。
また、PLF方式のファイル101によって参照されるファイルとして、静止画像パッケージ方式のファイルにサムネイルデータ81を格納することもできる。
図9は、サムネイルデータ81を格納する、静止画像パッケージ方式のファイルの例を説明する図である。静止画像パッケージ方式のファイルである静止画像パッケージ方式ファイル121は、PLF方式のファイル101と同様のデータ構造であり、図9において、図7に示す場合と同様のデータには、同様の名前を記載しているので、その説明は省略する。
静止画像パッケージ方式ファイル121のファイルのプロファイルを記述するデータには、静止画像パッケージ方式であることを示す値が設定される。
静止画像パッケージ方式ファイル121には、サムネイルデータ81の管理情報である、トラックアトム(図中のtrak(vide)で示すデータ)が格納される。静止画像パッケージ方式ファイル121は、PLF方式のファイル101によって参照されるファイルなので、静止画像パッケージ方式ファイル121には、MPEG2のシステムストリームのトラックアトムは格納されない。
静止画像パッケージ方式ファイル121におけるトラックアトムは、PLF方式のファイル101におけるトラックアトムと同様に記述される。また、静止画像パッケージ方式ファイル121には、ムービーデータアトム(図中のmdatで示すデータ)として、サムネイルデータ81−1乃至サムネイルデータ81−nが格納されている。
さらに、動画像における時間の範囲であるロケーションのそれぞれに、個々に対応させた複数のメタデータまたは画像データを格納するファイル方式である、ロケーション関係データファイル方式のファイルにサムネイルデータ81−1乃至サムネイルデータ81−nを格納し、トラックに関係する管理情報を格納するトラック管理ファイル方式のファイルによって、再生における時刻を記述するようにしてもよい。
図10は、この場合のトラック管理ファイル方式のファイルの例を示す図であり、図11は、この場合のロケーション関係データファイル方式のファイルの例を示す図である。
トラック管理ファイル131においてビデオトラックを利用することはできないので、図10で示されるように、トラック管理ファイル131における最初のトラックアトム(図中のtrak(タイムロケーションデータ)で示すデータ)は、図11で示されるロケーション関係データファイル141の管理情報とされ、トラック管理ファイル131における次のトラックアトム(図中のtrak(MPEG2プログラムストリーム)で示すデータ)は、動画像データおよび音声データが多重化されているMPEG2のシステムストリームの管理情報とされる。
ロケーション関係データファイル141に対するトラックアトムにおいて、サンプルは、ロケーション関係データファイル141格納されている、複数のロケーションに対するデータのそれぞれである。すなわち、ロケーション関係データファイル141に対するトラックアトムにおける、メディア情報アトム(図中のminfで示すデータ)には、ロケーション関係データファイル141における複数のロケーションに対する各データに関する情報が格納される。ロケーション関係データファイル141に対するトラックアトムにおける、メディア情報アトムのサンプルテーブルアトムにおける時間サンプルアトム(図中のsttsで示すデータ)には、サンプルである、ロケーション関係データファイル141における複数のロケーションに対するデータのそれぞれと再生における時刻との関係が記述される。
図11で示されるように、ロケーション関係データファイル141には、ロケーション毎にデータが格納される。
ここで、ロケーションとは、図12で示されるように、動画像における時間の範囲であり、複数のロケーションのそれぞれは、他のロケーションと重複することなく、また、隙間があくことなく、順に連続するように配置される。すなわち、ロケーションを順に指定することによって、経過する時間の範囲を順に指定することができる。
トラック管理ファイル131およびロケーション関係データファイル141を利用する場合、1つのロケーションに、1つのサムネイル(サムネイルデータ81)が対応付けられる。
例えば、図12で示されるように、最初のロケーション1には、サムネイル1(例えば、サムネイルデータ81−1)が対応付けられ、ロケーション1の次のロケーション2には、サムネイル2(例えば、サムネイルデータ81−2)が対応付けられ、ロケーション2の次のロケーション3には、サムネイル3(例えば、サムネイルデータ81−3)が対応付けられ、同様に、n番目のロケーションnには、サムネイルn(例えば、サムネイルデータ81−n)が対応付けられる。
図11で示されるように、ロケーション関係データファイル141において、それぞれのロケーションに対するデータとして、データの順番を示すデータ番号および単位メタデータ(メタデータユニット)が配置されている。単位メタデータには、単位メタデータのデータ量、記述に利用される言語、メタデータの符号化方式、メタデータのタイプを識別するデータタイプ識別番号、メタデータとしてのサムネイルデータ81、およびサムネイルデータ81以外のデータが順に配置される。なお、サムネイルデータ81の次に配置される、サムネイルデータ81以外のデータは、単位メタデータに格納しても、格納しなくともよい。
従って、トラック管理ファイル方式のトラック管理ファイル131のトラックアトムのメディアアトム(図10中のmdiaで示すデータ)に、例えば、ロケーション関係データファイル141の格納場所(パスおよびファイル名)など、ロケーション関係データファイル141を参照するための管理情報を格納するようにし、サンプルテーブルアトム(図10中のstblで示すデータ)に、ロケーション関係データファイル141における、ロケーションに対するデータのそれぞれについての情報(例えば、データの番号およびデータの番号と再生における時刻との関係を示す情報など)を配置するようにすれば、サムネイルデータ81−1乃至サムネイルデータ81−nのそれぞれを、ロケーションに対応させて再生することができるようになる。
ロケーションをMPEG2のシステムストリームのGOPのそれぞれが再生される時間とすれば、図6で示されるように、サムネイルデータ81−1乃至サムネイルデータ81−nのそれぞれを、MPEG2のシステムストリームの1つのGOPに対応させて、再生することができる。
なお、ロケーション関係データファイル方式のファイルにサムネイルデータ81を格納しないで、ロケーション関係データファイル方式のファイルから、外部のファイルに格納されたサムネイルデータ81をさらに参照するようにしてもよい。
図13は、サムネイルデータ81を格納しないで、外部のファイルに格納されたサムネイルデータ81をさらに参照するロケーション関係データファイル151、およびサムネイルデータ81を格納した参照されるファイル111の例を示す図である。
ロケーション関係データファイル151において、それぞれのロケーションに対するデータとして、データ番号および単位メタデータ(メタデータユニット)が配置されている。単位メタデータには、単位メタデータのデータ量、記述に利用される言語、メタデータの符号化方式、メタデータのタイプを識別するデータタイプ識別番号、メタデータが順に配置される。ロケーション関係データファイル151のメタデータは、ファイル111のファイル名(パスを含む)、ファイル111におけるサムネイルデータ81のそれぞれのオフセット、およびファイル111におけるサムネイルデータ81のそれぞれのデータサイズからなる。
メタデータにおけるオフセットは、ファイル111の先頭から、そのメタデータで参照されるサムネイルデータ81の先頭までのデータ量を示す。メタデータにおけるデータサイズは、そのメタデータで参照されるサムネイルデータ81のデータ量を示す。
次に、ディスク45に記録されるMPEG2のシステムストリームおよびサムネイルデータ81の、ディスク45上の配置について説明する。
MPEG2のシステムストリームの動画像の再生における予め定めた時間を単位として、ディスク45上の連続する領域にMPEG2のシステムストリームが記録される。
図14のストリームユニット161−1乃至ストリームユニット161−6は、動画像の再生における予め定めた10秒乃至20秒の時間のMPEG2のシステムストリームの記録単位である。MPEG2のシステムストリームは、動画像の再生における予め定めた時間ごとに、1つの記録単位(例えば、ストリームユニット161−1乃至ストリームユニット161−6のいずれか)とされ、ディスク45に記録される。ストリームユニット161−1乃至ストリームユニット161−6は、動画像の再生における予め定めた時間に分割された動画像のデータであるとも言える。
以下、ストリームユニット161−1乃至ストリームユニット161−6を個々に区別する必要がないとき、単にストリームユニット161と称する。
なお、ストリームユニット161は、ディスク45において、1つの連続した領域に記録される。
図14で示されるように、ストリームユニット161に連続する領域であるサムネイルデータ記録領域162−1およびサムネイルデータ記録領域162−2にサムネイルデータ81が記録される。例えば、サムネイルデータ記録領域162−1およびサムネイルデータ記録領域162−2は、ディスク45の物理アドレスにおいて、ストリームユニット161の前側に、ストリームユニット161に隣接して設けられる。
このようにすることで、サムネイルデータ81を読み出してから、ストリームユニット161を読み出す場合、サムネイルデータ81を読み出した後に、シーク時間やディスク回転待ち時間を必要とせずに、即座に、ストリームユニット161を読み出すことができる。サムネイルデータ81を記録する場合のシークの回数または回転待ちの回数を、サムネイルデータ81を記録しない場合のシークの回数または回転待ちの回数と同じとすることができ、この方式は、ディスク45がアクセス時間(シークまたは回転待ちの時間)の比較的長い光ディスクなどである場合に適した記録方式であると言える。
以下、サムネイルデータ記録領域162−1およびサムネイルデータ記録領域162−2を個々に区別する必要がないとき、単に、サムネイルデータ記録領域162と称する。
図15は、ストリームユニット161にサムネイルデータ81を隣接して記録する場合の、ディスク45への記録の処理を説明する図である。
バッファメモリ43には、MPEG2のシステムストリームを記憶するバッファおよびサムネイルデータ81を記憶するバッファが個々に設けられる。例えば、バッファメモリ43における2つのバッファは、ハードウェアとして個々に設けるようにしてもよいが、1つのハードウェアとしてのバッファメモリ43上のアドレスを基に、所定のアドレスで領域を2つに分割することにより論理的に設けるようにしてもよい。
図15の上側は、バッファリングされている、MPEG2のシステムストリームのデータ量の時間に対する変化を示し、図15の下側は、バッファリングされている、サムネイルデータ81のデータ量の時間に対する変化を示す。図15の縦方向は、データ量を示し、図15の横方向は、時間を示す。
記録を開始してから所定の時間が経過し、時刻t1になったとき、バッファリングされている、MPEG2のシステムストリームのデータ量が、システムストリーム記録開始閾値以上となったので、バッファリングされている、MPEG2のシステムストリームのディスク45へのストリームユニット161−1としての記録が開始される。時刻t2において、ストリームユニット161−1の最後までMPEG2のシステムストリームが記録されたので、時刻t2から時刻t3の期間において、シークするかまたはディスクの回転を待機し、時刻t3において、次のストリームユニット161−2への、バッファリングされている、MPEG2のシステムストリームの記録が開始される。
ストリームユニット161−2にMPEG2のシステムストリームが記録されている期間の最中である、時刻t4において、バッファリングされている、サムネイルデータ81のデータ量が、サムネイルデータ記録開始閾値以上となったとする。記録装置は、MPEG2のシステムストリームをディスク45に記録している間、サムネイルデータ81のデータ量を監視しない。
時刻t5において、ストリームユニット161−2の最後までMPEG2のシステムストリームが記録されたので、時刻t5において、記録装置は、バッファリングされている、サムネイルデータ81のデータ量が、サムネイルデータ記録開始閾値以上となったか否かを判定する。
時刻t5において、サムネイルデータ81のデータ量が、サムネイルデータ記録開始閾値以上となっているので、判定の結果を基に、時刻t5から時刻t6の期間において、シークされるかまたはディスクの回転が待機され、時刻t6において、サムネイルデータ記録領域162−1への、バッファリングされているサムネイルデータ81の記録が開始される。
なお、図5を参照して説明したように、サムネイルデータ81は、1つのクラスタに、ECCによりエラー訂正される単位として、ディスク45に記録される。この場合、サムネイルデータ81が、12キロバイト未満であるとき、12キロバイト未満であるサムネイルデータ81には、12キロバイトとなるように任意にデータ列が付加される。
サムネイルデータ記録領域162−1は、1または複数のクラスタからなる、連続した領域であり、サムネイルデータ記録領域162−1には、1または複数のサムネイルデータ81が記録される。
時刻t7において、サムネイルデータ記録領域162−1へのサムネイルデータ81の記録が終了したので、サムネイルデータ記録領域162−1に続くストリームユニット161−3への、バッファリングされている、MPEG2のシステムストリームの記録が開始される。
時刻t8において、ストリームユニット161−3の最後までMPEG2のシステムストリームが記録されたので、時刻t8から時刻t9の期間において、シークするかまたはディスクの回転を待機し、時刻t9において、次のストリームユニット161−4への、バッファリングされている、MPEG2のシステムストリームの記録が開始される。
時刻t10において、バッファリングされている、MPEG2のシステムストリームのデータ量が1クラスタ以下になったので、ストリームユニット161−4へのMPEG2のシステムストリームの記録が中断され、バッファにMPEG2のシステムストリームがたまるまで待機される。
ストリームユニット161−4へのMPEG2のシステムストリームの記録が中断されている期間の最中である、時刻t11において、バッファリングされている、サムネイルデータ81のデータ量が、サムネイルデータ記録開始閾値以上となったとする。記録装置は、MPEG2のシステムストリームの記録を中断している間、サムネイルデータ81のデータ量を監視しない。
時刻t12になったとき、バッファリングされている、MPEG2のシステムストリームのデータ量が、システムストリーム記録開始閾値以上となったので、記録が中断されていたストリームユニット161−4への、バッファリングされている、MPEG2のシステムストリームの記録が再開される。
時刻t13において、ストリームユニット161−4の最後までMPEG2のシステムストリームが記録されたとき、記録装置は、バッファリングされている、サムネイルデータ81のデータ量が、サムネイルデータ記録開始閾値以上となったか否かを判定する。
時刻t13において、サムネイルデータ81のデータ量が、サムネイルデータ記録開始閾値以上となっているので、判定の結果を基に、時刻t13から時刻t14の期間において、シークされるかまたはディスクの回転が待機され、時刻t14において、サムネイルデータ記録領域162−2への、バッファリングされているサムネイルデータ81の記録が開始される。
時刻t15において、サムネイルデータ記録領域162−2へのサムネイルデータ81の記録が終了したので、サムネイルデータ記録領域162−2に続くストリームユニット161−5への、バッファリングされている、MPEG2のシステムストリームの記録が開始される。
サムネイルデータ記録領域162−2にサムネイルデータ81を記録する場合、サムネイルデータ記録領域162−1の場合と同様に、12キロバイト未満であるサムネイルデータ81には、12キロバイトとなるように任意にデータ列がパディングされて、サムネイルデータ81のそれぞれが1つのクラスタに記録される。サムネイルデータ記録領域162−2は、1または複数のクラスタからなる、連続した領域であり、サムネイルデータ記録領域162−2には、1または複数のサムネイルデータ81が記録される。
時刻t16において、ストリームユニット161−5の最後までMPEG2のシステムストリームが記録されたので、時刻t16から時刻t17の期間において、シークするかまたはディスクの回転を待機し、時刻t17において、次のストリームユニット161−6への、バッファリングされている、MPEG2のシステムストリームの記録が開始される。
ストリームユニット161と離れた位置に、サムネイルデータ記録領域162同士を隣接して記録することもできる。
図16は、隣接して記録されているサムネイルデータ記録領域162の例を示す図である。サムネイルデータ記録領域162−1乃至サムネイルデータ記録領域162−4は、ストリームユニット161−1乃至ストリームユニット161−(n+1)とは離れた位置に、相互に隣接して設けられる。
このようにすることで、多数のサムネイルデータ81をディスク45から読み出す場合であっても、シーク時間やディスク回転待ち時間を必要とせずに、即座に、ディスク45から多数のサムネイルデータ81を読み出すことができる。サムネイルデータ81を記録する場合のシークの回数または回転待ちの回数が、サムネイルデータ81を記録しない場合のシークの回数または回転待ちの回数に比較して増加するが、サムネイルデータ81を読み出す場合には、複数のサムネイルデータ記録領域162を連続して読み出すことができるので、ディスク45がアクセス時間(シークまたは回転待ちの時間)の比較的短いハードディスクなどである場合に適した記録方式であると言える。
図17は、ストリームユニット161とは離れた位置に、サムネイルデータ81をまとめて記録する場合の、ディスク45への記録の処理を説明する図である。この場合においても、バッファメモリ43には、MPEG2のシステムストリームを記憶するバッファおよびサムネイルデータ81を記憶するバッファが個々に設けられる。
図17の上側は、バッファリングされている、MPEG2のシステムストリームのデータ量の時間に対する変化を示し、図15の下側は、バッファリングされている、サムネイルデータ81のデータ量の時間に対する変化を示す。図17の縦方向は、データ量を示し、図17の横方向は、時間を示す。
記録を開始してから所定の時間が経過し、時刻t31になったとき、バッファリングされている、MPEG2のシステムストリームのデータ量が、システムストリーム記録開始閾値以上となったので、バッファリングされている、MPEG2のシステムストリームのディスク45へのストリームユニット161−1としての記録が開始される。時刻t32において、ストリームユニット161−1の最後までMPEG2のシステムストリームが記録されたので、時刻t32から時刻t33の期間において、シークするかまたはディスクの回転を待機し、時刻t33において、次のストリームユニット161−2への、バッファリングされている、MPEG2のシステムストリームの記録が開始される。
ストリームユニット161−2にMPEG2のシステムストリームが記録されている期間の最中である、時刻t34において、バッファリングされている、サムネイルデータ81のデータ量が、サムネイルデータ記録開始閾値以上となったとする。記録装置は、MPEG2のシステムストリームをディスク45に記録している間、サムネイルデータ81のデータ量を監視しない。
時刻t35において、ストリームユニット161−2の最後までMPEG2のシステムストリームが記録されたので、時刻t35において、記録装置は、バッファリングされている、サムネイルデータ81のデータ量が、サムネイルデータ記録開始閾値以上となったか否かを判定する。
時刻t35において、サムネイルデータ81のデータ量が、サムネイルデータ記録開始閾値以上となっているので、判定の結果を基に、時刻t35から時刻t36の期間において、シークされ、時刻t36において、サムネイルデータ記録領域162−1への、バッファリングされているサムネイルデータ81の記録が開始される。
なお、この場合も、図5を参照して説明したように、サムネイルデータ81は、1つのクラスタに、ECCによりエラー訂正される単位として、ディスク45に記録され、クラスタがパディングされる。サムネイルデータ記録領域162−1は、1または複数のクラスタからなる、連続した領域であり、サムネイルデータ記録領域162−1には、1または複数のサムネイルデータ81が記録される。
時刻t37において、サムネイルデータ記録領域162−1へのサムネイルデータ81の記録が終了したので、時刻t37から時刻t38の期間において、シークされ、時刻t38において、サムネイルデータ記録領域162−1と離れた位置のストリームユニット161−3への、バッファリングされている、MPEG2のシステムストリームの記録が開始される。
時刻t39において、ストリームユニット161−3の最後までMPEG2のシステムストリームが記録されたので、時刻t39から時刻t40の期間において、シークするかまたはディスクの回転を待機し、時刻t40において、次のストリームユニット161−4への、バッファリングされている、MPEG2のシステムストリームの記録が開始される。
時刻t41において、バッファリングされている、MPEG2のシステムストリームのデータ量が1クラスタ以下になったので、ストリームユニット161−4へのMPEG2のシステムストリームの記録が中断され、バッファにMPEG2のシステムストリームがたまるまで待機される。
ストリームユニット161−4へのMPEG2のシステムストリームの記録が中断されている期間の最中である、時刻t42において、バッファリングされている、サムネイルデータ81のデータ量が、サムネイルデータ記録開始閾値以上となったとする。記録装置は、MPEG2のシステムストリームの記録を中断している間、サムネイルデータ81のデータ量を監視しない。
時刻t43になったとき、バッファリングされている、MPEG2のシステムストリームのデータ量が、システムストリーム記録開始閾値以上となったので、記録が中断されていたストリームユニット161−4への、バッファリングされている、MPEG2のシステムストリームの記録が再開される。
時刻t44において、ストリームユニット161−4の最後までMPEG2のシステムストリームが記録されたとき、記録装置は、バッファリングされている、サムネイルデータ81のデータ量が、サムネイルデータ記録開始閾値以上となったか否かを判定する。
時刻t44において、サムネイルデータ81のデータ量が、サムネイルデータ記録開始閾値以上となっているので、判定の結果を基に、時刻t44から時刻t45の期間においてシークされ、時刻t45において、サムネイルデータ記録領域162−2への、バッファリングされているサムネイルデータ81の記録が開始される。
時刻t46において、サムネイルデータ記録領域162−2へのサムネイルデータ81の記録が終了したので、時刻t46から時刻t47の期間においてシークされ、時刻t47において、サムネイルデータ記録領域162−2と離れた位置のストリームユニット161−5への、バッファリングされている、MPEG2のシステムストリームの記録が開始される。
時刻t48において、ストリームユニット161−5の最後までMPEG2のシステムストリームが記録されたので、時刻t48から時刻t49の期間において、シークするかまたはディスクの回転を待機し、時刻t49において、次のストリームユニット161−6への、バッファリングされている、MPEG2のシステムストリームの記録が開始される。
次に、フローチャートを参照して、記録装置による処理を説明する。
図18は、記録装置によるデータの変換の処理を説明するフローチャートである。ステップS51において、動画像圧縮部38は、MPEG2方式によって、取得した動画像を圧縮する。ステップS52において、音声圧縮部42は、AC3方式によって、取得した音声を圧縮する。
ステップS53において、画素数変換部40の抽出部51は、バッファメモリ35に記憶されている動画像データから、動画像圧縮部38において圧縮される動画像の1つのGOPから1つのピクチャ(フレーム)を抽出する。例えば、動画像圧縮部38において、GOPを構成するピクチャ(フレーム)の数が予め定まっている場合、その数のピクチャ(フレーム)毎に1つのピクチャ(フレーム)を抽出する。また、例えば、抽出部51は、動画像圧縮部38からのGOPの境界を示す信号を基に、動画像の1つのGOPから1つのピクチャ(フレーム)を抽出するようにしてもよい。
ステップS54において、画素数変換部40は、抽出したフレームの画素数を変換する。例えば、ステップS54において、画素数変換部40は、抽出したフレームの画素のうち、フレームの対して所定の位置の画素を間引くことにより、フレームの画素数を変換する。より具体的には、ステップS54において、画素数変換部40は、抽出したフレームの画素のうち、縦2×横2の相互に隣接する4つの画素の画素値の平均値を算出して、算出した平均値を4つの画素に代わる1つの画素に設定して、4つの画素から3つの画素を間引くことにより、フレームの画素数を変換する。
なお、ステップS54において、画素数変換部40は、任意の数の画素数からなるフレームに変換することができ、変換されたフレームの画素数そのものは、本発明を限定するものではない。
ステップS55において、静止画像圧縮部41は、画素数を変換したフレームを、JPEG方式により静止画像として圧縮して、サムネイルデータを生成する。静止画像圧縮部41は、生成したサムネイルデータをバッファメモリ43に記憶させる。
ステップS56において、マイクロコンピュータ31は、圧縮して得られたサムネイルデータのファイル方式を整える。例えば、ステップS56において、マイクロコンピュータ31は、圧縮して得られたサムネイルデータのファイル方式を、PLF方式、PLF方式のファイル101から参照されるファイル方式、静止画像パッケージ方式、またはトラック管理ファイル131から参照されるロケーション関係データファイル141とすることができる。
なお、サムネイルデータが他のファイルから参照されるファイル方式とされた場合には、マイクロコンピュータ31は、サムネイルデータを参照するファイルを生成し、生成したファイルもサムネイルデータとして、ディスク45に記録される。
なお、ステップS51乃至ステップS55の処理は、動画像圧縮部38乃至音声圧縮部42および抽出部51により実行されると説明したが、制御プログラムを実行するマイクロコンピュータ31が、ステップS51乃至ステップS55の処理を実行するようにしてもよい。
図19は、制御プログラムを実行するマイクロコンピュータ31による、データの記録の処理を説明するフローチャートである。ステップS71において、制御プログラムは、バッファメモリ43から記憶しているMPEG2システムストリームのデータ量を取得して、バッファメモリ43に記憶されているMPEG2システムストリームのデータ量が、予め定めたシステムストリーム記録開始閾値以上になったか否かを判定する。
ステップS71において、バッファメモリ43に記憶されているMPEG2システムストリームのデータ量がシステムストリーム記録開始閾値以上になっていないと判定された場合、手続きは、ステップS71に戻り、MPEG2システムストリームのデータ量がシステムストリーム記録開始閾値以上になるまで、判定の処理を繰り返す。
ステップS71において、バッファメモリ43に記憶されているMPEG2システムストリームのデータ量がシステムストリーム記録開始閾値以上になったと判定された場合、ステップS72に進み、制御プログラムは、ドライブ44に、バッファメモリ43に記憶されているMPEG2システムストリームを1クラスタ分ディスク45に記録させる。
ステップS73において、制御プログラムは、ストリームユニットの終端までMPEG2システムストリームを記録したか否かを判定し、ストリームユニットの終端までMPEG2システムストリームを記録していないと判定された場合、ステップS74に進む。ステップS74において、制御プログラムは、バッファメモリ43に記憶されているMPEG2システムストリームのデータ量が、1クラスタ未満になったか否かを判定する。
ステップS74において、バッファメモリ43に記憶されているMPEG2システムストリームのデータ量が、1クラスタ未満になっていないと判定された場合、さらにそのストリームユニットにMPEG2システムストリームを記録することができるので、ステップS72に戻り、クラスタへのMPEG2システムストリームの記録の処理を繰り返す。
ステップS72乃至ステップS74の処理が繰り返されることにより、ストリームユニットの終端までMPEG2システムストリームが記録されることになる。
ステップS74において、バッファメモリ43に記憶されているMPEG2システムストリームのデータ量が、1クラスタ未満になったと判定された場合、さらにそのストリームユニットにMPEG2システムストリームを記録することができないので、バッファメモリ43にMPEG2システムストリームがたまるまで待機するために、ステップS71に戻り、上述した処理を繰り返す。
なお、ストリームユニットの途中までMPEG2システムストリームが記録されて、ステップS74の判定のよって、手続きがステップS71に戻った場合、次に実行されるステップS72の処理においては、途中までMPEG2システムストリームが記録されたストリームユニットに続いて、MPEG2システムストリームが記録される。
一方、ステップS73において、ストリームユニットの終端までMPEG2システムストリームを記録したと判定された場合、ステップS75に進み、制御プログラムは、サムネイルデータのデータ量が、予め定めたサムネイルデータ記録開始閾値以上になったか否かを判定する。ステップS75において、サムネイルデータのデータ量がサムネイルデータ記録開始閾値以上になったと判定された場合、ステップS76に進み、制御プログラムは、1つのサムネイルデータが、ECCによりエラー訂正される単位のデータ量と同じ、例えば12キロバイトとなるように、サムネイルデータにパディングする。
ステップS77において、制御プログラムは、ドライブ44に、パディングされた1つのサムネイルデータをディスク45の1つのクラスタに記録させる。
ステップS78において、制御プログラムは、バッファメモリ43に記憶されているサムネイルデータがなくなったか否かを判定し、バッファメモリ43に記憶されているサムネイルデータがなくなっていないと判定された場合、さらにサムネイルデータを連続している領域であるサムネイルデータ記録領域162に記録させるために、ステップS76に戻り、サムネイルデータの記録の処理を繰り返す。
ステップS78において、バッファメモリ43に記憶されているサムネイルデータがなくなったと判定された場合、サムネイルデータを記録することはできないので、ステップS74に進み、ディスク45に記録できるMPEG2システムストリームがバッファメモリ43に記憶されているか否かの判定の処理が実行され、上述した処理が繰り返される。
ステップS75において、サムネイルデータのデータ量がサムネイルデータ記録開始閾値以上になっていないと判定された場合、サムネイルデータをディスク45に記録させる必要はないので、ステップS74に進み、ディスク45に記録できるMPEG2システムストリームがバッファメモリ43に記憶されているか否かの判定の処理が実行され、上述した処理が繰り返される。
以上のように、記録装置によって、ディスク45に、動画像の符号化の単位であって、複数のフレーム(ピクチャ)からなる単位から抽出されたフレームに対応するサムネイルデータが、抽出された単位に関係付けて記録される。
次に、動画像の符号化の単位であって、複数のフレーム(ピクチャ)からなる単位から抽出されたフレームに対応するサムネイルデータが、抽出された単位に関係付けて記録されているディスク45から、サムネイルデータを読み出す再生装置について説明する。
ディスク45からサムネイルデータを読み出す再生装置は、図3を参照して構成を説明した記録装置に対応する機能を含む記録再生装置として実現することができる。
図20は、図3を参照して構成を説明した記録装置に対応する機能を含む、本発明に係る記録再生装置における再生ブロックの一実施の形態の構成を示すブロック図である。図3に示す場合と同様の部分に同一の符号を付してあり、その説明は適宜省略する。
マイクロコンピュータ31は、所定の制御プログラムを実行して、ユーザの操作に応じた再生開始停止ボタン201からの信号を基に、記録再生装置における再生ブロックの各部に動作を指示する。
ドライブ44は、マイクロコンピュータ31の制御の基に、装着されたディスク45から、MPEG2システムストリームおよびサムネイルデータを読み出す。ドライブ44は、読み出したMPEG2システムストリームおよびサムネイルデータをバッファメモリ43に記憶させる。
デマルチプレクサ202は、バッファメモリ43に記憶されているMPEG2システムストリームにおいて多重化されている動画像データと音声データとを分離して、分離した動画像データを動画像伸張部203に供給すると共に、分離した音声データを音声伸張部205に供給する。
動画像伸張部203は、マイクロコンピュータ31の制御の基に、デマルチプレクサ202から供給された、動画像データを圧縮符号化する所定の方式で圧縮符号化されている動画像データを復号することにより、伸張して、復号した動画像データをバッファメモリ35に供給する。例えば、動画像伸張部203は、MPEG2方式により圧縮符号化されている動画像データを復号し、復号した動画像データ(いわゆる、ベースバンド動画像データ)をバッファメモリ35に供給する。
静止画像伸張部204は、マイクロコンピュータ31の制御の基に、サムネイルデータを記憶しているバッファメモリ43からサムネイルデータを取得して、静止画像データを圧縮符号化する所定の方式で圧縮符号化されているサムネイルデータを復号することにより、伸張して、復号したサムネイルデータをバッファメモリ35に供給する。例えば、静止画像伸張部204は、JPEG方式により圧縮符号化されているサムネイルデータを復号して、復号したサムネイルデータをバッファメモリ35に供給する。
音声伸張部205は、マイクロコンピュータ31の制御の基に、デマルチプレクサ202から供給された、音声データを圧縮符号化する所定の方式で圧縮符号化されている音声データを復号することにより、伸張して、復号した音声データをバッファメモリ35に供給する。例えば、音声伸張部205は、AC3方式により圧縮符号化されている音声データを復号し、復号した音声データをバッファメモリ35に供給する。
画像出力インターフェース206は、バッファメモリ35と表示部207とのインターフェースであり、例えば、バッファメモリ35から供給された画像データをパラレルシリアル変換するなど、画像データを表示部207が利用することができる所定の方式の画像データ(画像信号)に変換して、その画像データを表示部207に供給する。画像出力インターフェース206は、表示部207における画像の表示を制御する。
表示部207は、液晶表示装置または有機EL(Electro Luminescence)表示装置などからなり、画像出力インターフェース206を介して供給された画像データに基づいて、動画像および静止画像を表示する。
音声出力インターフェース208は、バッファメモリ35と音声出力部209とのインターフェースであり、例えば、バッファメモリ35から供給された音声データをパラレルシリアル変換するか、またはデジタルアナログ変換するなど、音声データを音声出力部209が利用することができる所定の方式の音声データ(音声信号)に変換して、その音声データ(音声信号)を音声出力部209に供給する。
音声出力部209は、オーディオ増幅器またはラウドスピーカなどからなり、音声出力インターフェース208を介して供給された音声データ(音声信号)に基づいて、音声を出力する。
図21は、制御プログラムを実行するマイクロコンピュータ31、静止画像伸張部204、および表示部207による、編集ポイントの検索表示の処理を説明するフローチャートである。
ステップS101において、制御プログラムは、ドライブ44にディスク45から管理情報ファイルを読み出させる。例えば、ステップS101において、制御プログラムは、ドライブ44に、ディスク45から、外部のファイルに格納されるサムネイルデータ81を参照するPLF方式ファイル101、または図10の管理情報ファイルであるトラック管理ファイル131を読み出させる。ドライブ44は、読み出した管理情報ファイルをバッファメモリ43に記憶させる。
ステップS102において、制御プログラムは、バッファメモリ43から取得した管理情報ファイルを基に、ドライブ44に、ディスク45から最初のサムネイルデータ81から順にバッファメモリ43に記憶できるデータ量のサムネイルデータ81を読み出させる。
ステップS103において、制御プログラムは、ドライブ44に、読み出したサムネイルデータ81をバッファメモリ43に記憶させる。ステップS104において、静止画像伸張部204は、サムネイルデータ81を記憶しているバッファメモリ43からサムネイルデータ81を取得して、取得したサムネイルデータ81を伸張する。例えば、静止画像伸張部204は、JPEG方式で圧縮符号化されているサムネイルデータ81を復号することにより、伸張する。
ステップS105において、静止画像伸張部204は、伸張したサムネイルデータ81をバッファメモリ35に記憶させる。ステップS106において、画像出力インターフェース206は、バッファメモリ35から取得したサムネイルデータ81を基に、表示部207に画像を表示させるように、表示部207における画像の表示を制御する。
ステップS107において、制御プログラムは、ユーザの操作に応じた再生開始停止ボタン201からの信号を基に、次のポイントへの移動が指示されたか否かを判定する。ステップS107において、次のポイントへの移動が指示されていないと判定された場合、画像の表示が継続されたまま、ステップS107に戻り、判定の処理が繰り返される。
ステップS107において、次のポイントへの移動が指示されたと判定された場合、ステップS108に進み、制御プログラムは、読み出された管理情報ファイルを基に、指示されたポイントのGOPに対応するサムネイルデータ81を特定する。
ステップS109において、制御プログラムは、特定されたサムネイルデータ81がバッファメモリ43に記憶されているか否かを判定する。ステップS109において、特定されたサムネイルデータ81がバッファメモリ43に記憶されていないと判定された場合、ステップS110に進み、制御プログラムは、バッファメモリ43から取得した管理情報ファイルを基に、ドライブ44に、ディスク45から特定されたサムネイルデータ81から順にバッファメモリ43に記憶できるデータ量のサムネイルデータ81を読み出させる。
ステップS110において、制御プログラムは、ドライブ44に、ディスク45の1つのサムネイルデータ記録領域162から、複数のサムネイルデータ81を1回の処理でまとめて読み出させることができる。
なお、図5を参照して説明したように、任意のデータ列の付加により12キロバイトとされたサムネイルデータ81は、1つのクラスタに、ECCによりエラー訂正される単位として、ディスク45に記録されているので、制御プログラムは、次に読み出そうとするサムネイルデータ81が記録されているクラスタの物理アドレスを簡単な演算で算出することができる。これにより、より迅速に、サムネイルデータ81を読み出すことができるようになる。
ステップS111において、制御プログラムは、ドライブ44に、読み出したサムネイルデータ81をバッファメモリ43に記憶させ、手続きは、ステップS112に進む。
ステップS109において、特定されたサムネイルデータ81がバッファメモリ43に記憶されていると判定された場合、ディスク45からサムネイルデータ81を読み出す必要はないので、ステップS110およびステップS111の処理はスキップされて、手続きは、ステップS112に進む。
ステップS112において、静止画像伸張部204は、サムネイルデータ81を記憶しているバッファメモリ43からサムネイルデータ81を取得して、取得したサムネイルデータ81を伸張する。例えば、静止画像伸張部204は、JPEG方式で圧縮符号化されているサムネイルデータ81を復号することにより、伸張する。
ステップS113において、静止画像伸張部204は、伸張したサムネイルデータ81をバッファメモリ35に記憶させる。ステップS114において、表示部207は、画像出力インターフェース206を介してバッファメモリ35から取得したサムネイルデータ81を基に、画像を表示させる。
手続きは、ステップS107に戻り、ユーザからの指示に応じて、ディスク45から指示されたポイントのGOPに対応するサムネイルデータ81が読み出されて、復号されて、画像を表示する処理が繰り返される。
以上のように、ディスク45からサムネイルデータ81だけを読み出すようにした場合、より迅速に所望のサムネイルを表示させることができる。また、ディスク45からMPEG2システムストリームと共にサムネイルデータ81を読み出すようにすることができる。
例えば、ステップS114の処理において、図22に示すように、表示部207は、画面全体に動画像231を表示すると共に、画面の一部の領域にサムネイル232を表示するようにしてもよい。この場合、例えば、ステップS114の処理において、表示部207は、通常の速度で再生されるように動画像231を表示すると共に、画面の一部の領域に、指示されたポイントのGOPに対応するサムネイル232を表示する。
例えば、早送りまたは巻き戻しがユーザから指示された場合には、表示部207は、通常の速度で再生されるように動画像231を表示すると共に、画面の一部の領域に、早送りまたは巻き戻しされたサムネイル232を表示する。
ユーザの指示によって、再生装置は、表示されているサムネイル232に対応するGOPから動画像231を表示部207に表示させることができる。
このようにすることで、ユーザは、指示されたポイントのGOPに対応するサムネイル232により、動画像の概要を迅速に知ることができると共に、表示されている動画像により、動画像の詳細な内容を知ることができるようになる。これにより、所望の位置の動画像の頭出しまたは編集ポイントの位置決めを迅速にすることができる。
なお、制御プログラムを実行するマイクロコンピュータ31による、ディスク45に記録されているサムネイルデータ81と動画像データとを同時に読み出す処理を説明すると次のようになる。
制御プログラムは、ドライブ44に、ディスク45から、MPEG2のシステムストリームの管理情報ファイルであるトラック管理ファイル131、およびファイルシステムのファイル管理情報を読み出させる。制御プログラムは、MPEG2のシステムストリームの管理情報ファイルであるトラック管理ファイル131およびファイルシステムのファイル管理情報を基に、ドライブ44に、ディスク45から、ストリームユニット161を単位として、MPEG2のシステムストリームを読み出させる。
この場合、制御プログラムは、1つのストリームユニット161からのMPEG2のシステムストリームの読み出しが終了するまで、ドライブ44に、MPEG2のシステムストリームの読み出しを継続させ、1つのストリームユニット161からのMPEG2のシステムストリームの読み出しが終了した場合、バッファメモリ43に記憶されているMPEG2のシステムストリームのデータ量を算出する。
制御プログラムは、MPEG2のシステムストリームの管理情報ファイルであるトラック管理ファイル方式のファイルおよびファイルシステムのファイル管理情報を基に、次に読み出そうとするMPEG2のシステムストリームのデータ量および動画像の再生時間を取得する。制御プログラムは、MPEG2のシステムストリームの管理情報ファイルであるトラック管理ファイル131、およびファイルシステムのファイル管理情報を基に、次に読み出そうとするMPEG2のシステムストリームが記録されているストリームユニット161の物理アドレス、および次に読み出そうとするサムネイルデータ81が記録されているサムネイルデータ記録領域162の物理アドレスを求める。
制御プログラムは、現在のバッファメモリ43に記憶されているMPEG2のシステムストリームのデータ量、トラック管理ファイル131、およびファイルシステムのファイル管理情報を基に、次のストリームユニット161からMPEG2のシステムストリームを読み出して、バッファメモリ43に記憶させた場合の、次のストリームユニット161からMPEG2のシステムストリームを読み出した時点における、バッファメモリ43に記憶されると予測されるMPEG2のシステムストリームのデータ量を算出する。制御プログラムは、算出された予測されるMPEG2のシステムストリームのデータ量が、バッファメモリ43の容量の上限値を超えるか否かを判定する。
予測されるMPEG2のシステムストリームのデータ量が、バッファメモリ43の容量の上限値を超えると判定された場合、制御プログラムは、ドライブ44に、ディスク45のストリームユニット161からのMPEG2のシステムストリームを読み出しを休止させ、ドライブ44に、ディスク45のサムネイルデータ記録領域162からサムネイルデータ81を読み出させる。そして、サムネイルデータ記録領域162からのサムネイルデータ81の読み出しが終了した場合、制御プログラムは、ドライブ44に、ディスク45のストリームユニット161からMPEG2のシステムストリームを読み出させる。
一方、予測されるMPEG2のシステムストリームのデータ量が、バッファメモリ43の容量の上限値を超えないと判定された場合、制御プログラムは、ドライブ44に、ディスク45のストリームユニット161からMPEG2のシステムストリームを読み出させる。
このように、ストリームユニット161が終了する時点で、次に読み出すAMPEG2のシステムストリームのストリームユニット161の読み出しが終了する時点における、バッファメモリ43に記憶されると予測されるMPEG2のシステムストリームのデータ量を求め、予測されるデータ量に応じて、次に読み出しを行うデータを決めるようにしたので、ドライブ44のアクセス回数が減り、ディスク45からの単位時間あたりのデータ読み出し量が増え、データ読み出しの効率アップを図ることができる。
図14で示すように、ディスク45において、ストリームユニット161−1乃至ストリームユニット161−6並びにサムネイルデータ記録領域162−1およびサムネイルデータ記録領域162−2が記録され、サムネイルデータ記録領域162−1がストリームユニット161−3に隣接し、サムネイルデータ記録領域162−2がストリームユニット161−6に隣接している場合、サムネイルデータ記録領域162−1およびサムネイルデータ記録領域162−2に記録されているサムネイルデータ81を読み出すとき、図23で示されるように、連続した領域であるサムネイルデータ記録領域162−1に記録されているサムネイルデータ81が順に読み出されたのち、シークまたはディスク45の回転待ちにより、再生装置の図示せぬヘッドがサムネイルデータ記録領域162−2に移動して、連続した領域であるサムネイルデータ記録領域162−2に記録されているサムネイルデータ81が順に読み出される。
従って、ストリームユニット161−1乃至ストリームユニット161−6を順に読み出す場合に比較して、極めて迅速に、サムネイルデータ81をディスク45から読み出すことができる。
さらに、図16で示すように、ディスク45において、ストリームユニット161−1乃至ストリームユニット161−(n+1)およびサムネイルデータ記録領域162−1乃至サムネイルデータ記録領域162−4が記録され、ストリームユニット161−1乃至ストリームユニット161−(n+1)とは離れた位置に、サムネイルデータ記録領域162−1乃至サムネイルデータ記録領域162−4が隣接して記録されている場合、サムネイルデータ記録領域162−1乃至サムネイルデータ記録領域162−4に記録されているサムネイルデータ81を読み出すとき、図24で示されるように、シークまたはディスク45の回転待ちが発生することなく、連続した領域であるサムネイルデータ記録領域162−1乃至サムネイルデータ記録領域162−4に記録されているサムネイルデータ81が順に読み出される。
従って、さらに迅速に、サムネイルデータ81をディスク45から読み出すことができる。
図25は、サムネイルの早送りをする場合の、バッファメモリ43に記憶されるサムネイルデータ81のデータ量の変化を説明する図である。図25の縦方向は、データ量を示し、図25の横方向は、時間を示す。
ここで、バッファメモリ43に記憶されているサムネイルデータ81のデータ量は、現在表示されているサムネイルの次のサムネイルを表示させるためのサムネイルデータ81から、画像上の時刻において最も後の(遅い)サムネイルを表示させるためのサムネイルデータ81までのデータの量をいう。
早送りの処理が開始された場合、ドライブ44は、ディスク45からサムネイルデータ81を読み出して、バッファメモリ43に記憶させる。バッファメモリ43に記憶されているサムネイルデータ81のデータ量がサムネイル表示開始閾値以上となった場合、サムネイルの表示の処理が開始され、バッファメモリ43からサムネイルデータ81が順に読み出される。
1つのサムネイルを表示させるためのサムネイルデータ81のデータ量は、動画像のデータ量に比較して、少ない。また、1つのサムネイルが1つのGOPに対応しているので、画像上の時間あたりのサムネイルデータ81のデータ量は、より少ない。サムネイルの表示の処理が開始されても、表示に使用されるサムネイルデータ81のデータ量に比較して、ディスク45から読み出されて記憶されるサムネイルデータ81のデータ量は多い。
従って、サムネイルの表示の処理が開始されても、ディスク45からサムネイルデータ81を読み出していれば、バッファメモリ43に記憶されるサムネイルデータ81のデータ量は時間とともに増加する。
例えば、時刻t101において、バッファメモリ43に記憶されているサムネイルデータ81のデータ量が、バッファメモリ43に記憶可能なデータ量を示すバッファ上限値に等しくなった場合、時刻t101において、ドライブ44は、ディスク45からのサムネイルデータ81の読み出しを休止する(停止する)。
ドライブ44が、ディスク45からのサムネイルデータ81の読み出しを休止する(停止する)と、サムネイルの表示の処理に応じて、バッファメモリ43に記憶されているサムネイルデータ81のデータ量は減少する。
例えば、時刻t103から時刻t104までの期間において、サムネイルの表示を一時停止すると、この期間において、バッファメモリ43に記憶されているサムネイルデータ81のデータ量は変化しない。
時刻t104において、より高速な早送りの処理が指示されると、時間当たりに使用されるサムネイルデータ81のデータ量が増加するので、バッファメモリ43に記憶されているサムネイルデータ81のデータ量はより早く減少する。
時刻t105において、バッファメモリ43に記憶されているサムネイルデータ81のデータ量が、サムネイルデータ読み出し再開閾値以下になると、ドライブ44は、ディスク45からのサムネイルデータ81の読み出しを開始する。時刻t105から時刻t106までの期間において、シークされ、ディスク45の回転が待機されて、時刻t106において、図示せぬヘッドが読み出そうとするサムネイルデータ81が記録されている位置に到達すると、ドライブ44は、ディスク45からサムネイルデータ81の読み出しを開始して、読み出したサムネイルデータ81をバッファメモリ43に記憶させる。
例えば、時刻t107において、バッファメモリ43に記憶されているサムネイルデータ81のデータ量が、バッファメモリ43に記憶可能なデータ量を示すバッファ上限値に等しくなった場合、ドライブ44は、ディスク45からのサムネイルデータ81の読み出しを休止する(停止する)。
例えば、時刻t108から、サムネイルの表示を一時停止すると、これ以後、バッファメモリ43に記憶されているサムネイルデータ81のデータ量は変化しない。
図26は、サムネイルの巻き戻しをする場合の、バッファメモリ43に記憶されるサムネイルデータ81のデータ量の変化を説明する図である。図26の縦方向は、データ量を示し、図26の横方向は、時間を示す。
ここで、バッファメモリ43に記憶されているサムネイルデータ81のデータ量は、現在表示されているサムネイルの前のサムネイルを表示させるためのサムネイルデータ81から、画像上の時刻において最も前の(早い)サムネイルを表示させるためのサムネイルデータ81までのデータの量をいう。
巻き戻しの処理が開始された場合、ドライブ44は、ディスク45からサムネイルデータ81を読み出して、バッファメモリ43に記憶させる。バッファメモリ43に記憶されているサムネイルデータ81のデータ量がサムネイル表示開始閾値以上となった場合、サムネイルの表示の処理が開始され、バッファメモリ43からサムネイルデータ81が順に読み出される。
ここで、巻き戻しをする場合、画像上の時刻の進行に対して逆の順にサムネイルが表示され、画像上の時刻の進行に対して逆の順にサムネイルデータ81が必要とされる。
図27で示されるように、画像上の時刻において最も前のサムネイルのサムネイルデータ81がサムネイルデータ記録領域162−1に記録され、画像上の時刻において、サムネイルデータ記録領域162−1に記録されているサムネイルデータ81のサムネイルの次のサムネイルのサムネイルデータ81がサムネイルデータ記録領域162−2に記録され、画像上の時刻において、サムネイルデータ記録領域162−2に記録されているサムネイルデータ81のサムネイルの次のサムネイルのサムネイルデータ81がサムネイルデータ記録領域162−3に記録されている場合、ドライブ44は、ディスク45のサムネイルデータ記録領域162−3からサムネイルデータ81を読み出して、次に、サムネイルデータ記録領域162−2まで、シークし、ヘッドがサムネイルデータ記録領域162−2まで到達したとき、サムネイルデータ記録領域162−2からサムネイルデータ81を読み出す。さらに、ドライブ44は、サムネイルデータ記録領域162−1まで、シークし、ヘッドがサムネイルデータ記録領域162−1まで到達したとき、サムネイルデータ記録領域162−1からサムネイルデータ81を読み出す。
従って、図28で示されるように、時刻t141から時刻t142までの期間において、サムネイルデータ記録領域162−3からサムネイルデータ81が読み出されて、時刻t142において、読み出されたサムネイルデータ81がバッファメモリ43に供給されると、時刻t142において、読み出された一定のデータ量のサムネイルデータ81がバッファメモリ43に記憶されることになる。時刻t142から時刻t143までの期間において、サムネイルデータ記録領域162−2からサムネイルデータ81が読み出されて、時刻t143において、読み出されたサムネイルデータ81がバッファメモリ43に供給されると、時刻t143において、読み出された一定のデータ量のサムネイルデータ81がバッファメモリ43に記憶される。同様に、時刻t143から時刻t144までの期間において、サムネイルデータ記録領域162−1からサムネイルデータ81が読み出されて、時刻t144において、読み出されたサムネイルデータ81がバッファメモリ43に供給されると、時刻t144において、読み出された一定のデータ量のサムネイルデータ81がバッファメモリ43に記憶される。
このように、巻き戻しをする場合、バッファメモリ43に記憶されているサムネイルデータ81のデータ量は、時間の経過に対して、階段状に増加することになる。
巻き戻しにおいても、表示に使用されるサムネイルデータ81のデータ量に比較して、ディスク45から読み出されるサムネイルデータ81のデータ量が多い。
従って、サムネイルの表示の処理が開始されても、ディスク45からサムネイルデータ81を読み出していれば、バッファメモリ43に記憶されるサムネイルデータ81のデータ量は時間とともに増加する。
例えば、時刻t121において、バッファメモリ43に記憶されているサムネイルデータ81のデータ量が、バッファメモリ43に記憶可能なデータ量を示すバッファ上限値に等しくなった場合、時刻t121において、ドライブ44は、ディスク45からのサムネイルデータ81の読み出しを休止する(停止する)。
ドライブ44が、ディスク45からのサムネイルデータ81の読み出しを休止する(停止する)と、サムネイルの表示の処理に応じて、バッファメモリ43に記憶されているサムネイルデータ81のデータ量は減少する。
例えば、時刻t123から時刻t124までの期間において、サムネイルの表示を一時停止すると、この期間において、バッファメモリ43に記憶されているサムネイルデータ81のデータ量は変化しない。
時刻t124において、より高速な巻き戻しの処理が指示されると、時間当たりに使用されるサムネイルデータ81のデータ量が増加するので、バッファメモリ43に記憶されているサムネイルデータ81のデータ量はより早く減少する。
時刻t125において、バッファメモリ43に記憶されているサムネイルデータ81のデータ量が、サムネイルデータ読み出し再開閾値以下になると、ドライブ44は、ディスク45からのサムネイルデータ81の読み出しを開始する。時刻t125から時刻t126までの期間において、シークされ、ディスク45の回転が待機されて、時刻t126において、図示せぬヘッドが読み出そうとするサムネイルデータ81が記録されている位置に到達すると、ドライブ44は、ディスク45からサムネイルデータ81の読み出しを開始して、読み出したサムネイルデータ81をバッファメモリ43に記憶させる。
例えば、時刻t127において、バッファメモリ43に記憶されているサムネイルデータ81のデータ量が、バッファメモリ43に記憶可能なデータ量を示すバッファ上限値に等しくなった場合、ドライブ44は、ディスク45からのサムネイルデータ81の読み出しを休止する(停止する)。
例えば、時刻t128から、サムネイルの表示を一時停止すると、これ以後、バッファメモリ43に記憶されているサムネイルデータ81のデータ量は変化しない。
図29は、制御プログラムを実行するマイクロコンピュータ31による、サムネイルデータの読み出しの処理を説明するフローチャートである。ステップS141において、制御プログラムは、ドライブ44に、ディスク45からサムネイルデータ81を読み出させる。ドライブ44は、読み出したサムネイルデータ81をバッファメモリ43に記憶させる。
ステップS142において、制御プログラムは、バッファメモリ43に記憶されたサムネイルデータ81のデータ量が、サムネイル表示開始閾値以上になったか否かを判定する。
ここで、早送りまたは通常再生の場合、バッファメモリ43に記憶されているサムネイルデータ81のデータ量とは、現在表示されているサムネイルの次のサムネイルを表示させるためのサムネイルデータ81から、画像上の時刻において最も後の(遅い)サムネイルを表示させるためのサムネイルデータ81までのデータの量をいう。また、巻き戻しの場合、バッファメモリ43に記憶されているサムネイルデータ81のデータ量とは、現在表示されているサムネイルの前のサムネイルを表示させるためのサムネイルデータ81から、画像上の時刻において最も前の(早い)サムネイルを表示させるためのサムネイルデータ81までのデータの量をいう。
ステップS142において、バッファメモリ43に記憶されたサムネイルデータ81のデータ量が、サムネイル表示開始閾値以上になっていないと判定された場合、ステップS141に戻り、サムネイルデータの読み出しの処理が繰り返される。
ステップS142において、バッファメモリ43に記憶されたサムネイルデータのデータ量が、サムネイル表示開始閾値以上になったと判定された場合、静止画像伸張部204は、バッファメモリ43に記憶されているサムネイルデータ81を復号して、伸張し、表示部207にサムネイルを表示させる。
ステップS144において、制御プログラムは、ドライブ44に、ディスク45からサムネイルデータ81を読み出させる。ドライブ44は、読み出したサムネイルデータ81をバッファメモリ43に記憶させる。
ステップS145において、制御プログラムは、バッファメモリ43がいっぱいになったか否かを判定する。すなわち、ステップS145において、制御プログラムは、バッファメモリ43に記憶されたサムネイルデータ81のデータ量が、バッファメモリ上限値に到達したか(等しくなったか)否かを判定する。
ステップS145において、バッファメモリ43がいっぱいになっていないと判定された場合、手続きは、ステップS144に戻り、サムネイルデータ81の読み出しの処理が繰り返される。
ステップS145において、バッファメモリ43がいっぱいになったと判定された場合、これ以上、バッファメモリ43にサムネイルデータ81を記憶させることはできないので、サムネイルデータ81の読み出しを行わずに、ステップS146に進み、制御プログラムは、動画像の再生の順にサムネイルが表示されているか否か、すなわち、早送りまたは通常再生であるか否かを判定する。
ステップS146において、動画像の再生の順にサムネイルが表示されていると判定された場合、すなわち、早送りまたは通常再生なので、ステップS147に進み、制御プログラムは、バッファメモリ43に記憶されているサムネイルデータ81のうち、現在表示されているサムネイルの次のサムネイルから、画像上の時刻において最も後の(遅い)サムネイルまでの、サムネイルデータ81のデータの量を計算し、ステップS149に進む。
ステップS146において、動画像の再生の順にサムネイルが表示されていないと判定された場合、すなわち、巻き戻しなので、ステップS148に進み、制御プログラムは、バッファメモリ43に記憶されているサムネイルデータ81のうち、画像上の時刻において最も前のサムネイルから、現在表示されているサムネイルの前のサムネイルまでの、サムネイルデータ81のデータの量を計算し、ステップS149に進む。
ステップS149において、制御プログラムは、算出されたデータ量がサムネイルデータ読み出し再開閾値以下であるか否かを判定する。ステップS149において、算出されたデータ量がサムネイルデータ読み出し再開閾値以下でないと判定された場合、まだ、サムネイルデータ81を読み出す必要はないので、ステップS146に戻り、上述した処理を繰り返す。
ステップS149において、算出されたデータ量がサムネイルデータ読み出し再開閾値以下であると判定された場合、サムネイルデータ81を読み出す必要があるので、ステップS144に戻り、サムネイルデータ81の読み出しの処理を実行する。
以上の処理を図30乃至図34を参照して説明する。早送りにおいて、画像上の時刻t0におけるサムネイルの表示が指示された場合、制御プログラムは、ドライブ44に、画像上において、時刻t0から所定の時間T1だけ遡った時刻(t0-T1)におけるサムネイルデータ81から読み出しを開始するように指示する。
以下、適宜、時刻tにおけるサムネイルデータ81をサムネイルデータtと称する。
時刻t0から時間T1だけ遡った時刻(t0-T1)におけるサムネイルデータ(t0-T1)から読み出すようにしたのは、巻き戻しの指示があった場合に、即座に、巻き戻しができるようにするためである。
ドライブ44は、ディスク45から、サムネイルデータ(t0-T1)から画像上の時刻t0におけるサムネイルデータt0までを読み出して、リングバッファであるバッファメモリ43に記憶させるとともに、サムネイルデータt0から、時刻t0から所定の時間T1だけ進んだ時刻(t0+T1)までのサムネイルデータ(t0+T1)を読み出して、リングバッファであるバッファメモリ43に記憶させる。図30中のAは、バッファメモリ43に記憶されている、画像上の時刻(t0-T1)から画像上の時刻t0までに対応するサムネイルデータ81を便宜的に示す。図30中のBは、バッファメモリ43に記憶されている、画像上の時刻t0から画像上の時刻(t0+T1)までに対応するサムネイルデータ81を便宜的に示す。
そして、ドライブ44は、リングバッファであるバッファメモリ43がいっぱいになるまで、ディスク45から、サムネイルデータ81を読み出して、サムネイルデータ81をバッファメモリ43に記憶させる。図30中のCは、バッファメモリ43に記憶されている、画像上の時刻(t0+T1)から画像上の時刻(t0+Tn)までに対応するサムネイルデータ81を便宜的に示す。
早送りが実行されて、画像上の時刻tnのサムネイルが表示されると、図31で示されるように、画像上の時刻t0から画像上の時刻tnまでに対応するサムネイルデータ81が使用されてしまったので(この後の早送りの処理で使用することはできないので)、バッファメモリ43に記憶されている、今後早送りの処理で使用することができるサムネイルデータ81は、例えば、サムネイルデータ(t(n+1))乃至サムネイルデータ(tn+T1)だけになってしまう。図30中のDは、バッファメモリ43に記憶されている、画像上の時刻tnから画像上の時刻(tn+T1)までに対応するサムネイルデータ81を便宜的に示す。
今後早送りの処理で使用することができるサムネイルデータ81のデータ量がサムネイルデータ読み出し再開閾値以下になると、図32で示すように、ドライブ44は、画像上の時刻(tn-T1)から画像上の時刻(tn+T1)までに対応するサムネイルデータ81には上書きしないように、リングバッファであるバッファメモリ43がいっぱいになるまで、ディスク45から、サムネイルデータ(tn+T1)の次のサムネイルデータ81を順に読み出して、読み出したサムネイルデータ81をバッファメモリ43に記憶させる。図30中のEは、バッファメモリ43に記憶されている、画像上の時刻(tn+T1+1)からの画像上の時刻に対応するサムネイルデータ81を便宜的に示す。
一方、巻き戻しにおいて、画像上の時刻tmのサムネイルが表示され、図33で示されるように、画像上の時刻tmまでに対応するサムネイルデータ81が使用されてしまった場合、バッファメモリ43に記憶されている、今後巻き戻しの処理で使用することができるサムネイルデータ81は、例えば、サムネイルデータ(t(m-1))乃至サムネイルデータ(tm-T1)だけになってしまう。図30中のEは、バッファメモリ43に記憶されている、画像上の時刻tmから画像上の時刻(tm-T1)までに対応するサムネイルデータ81を便宜的に示す。
今後巻き戻しの処理で使用することができるサムネイルデータ81のデータ量がサムネイルデータ読み出し再開閾値以下になると、図34で示すように、ドライブ44は、画像上の時刻(tm+T1)から画像上の時刻(tm-T1)までに対応するサムネイルデータ81には上書きしないように、リングバッファであるバッファメモリ43がいっぱいになるまで、ディスク45から、サムネイルデータ(tm-T1-1)からサムネイルデータ81を逆に読み出して、読み出したサムネイルデータ81をバッファメモリ43に記憶させる。
この場合、1つのサムネイル記録領域162毎にサムネイルデータ81が読み出されるので、図34中の太い矢印で示す順に、サムネイルデータ(tm-T1-1)を含む、図30中のFで示されるサムネイルデータ81がバッファメモリ43に記憶され、次に、図30中のFで示されるサムネイルデータ81の前のGで示されるサムネイルデータ81がバッファメモリ43に記憶される。同様に、画像上の時刻を遡るようにサムネイルデータ81がディスク45から読み出されて、バッファメモリ43に記憶される。
次に、ディスク45に動画像データが記録されている場合に、その動画像データに対応するサムネイルを生成してディスク45に記録するときの記録装置について説明する。
図35は、MPEG2プログラムストリームが記録されているディスク45からMPEG2プログラムストリームを読み出して、MPEG2プログラムストリームに対応するサムネイルデータを生成してディスク45に記録する、本発明に係る記録再生装置の一実施の形態の構成を示すブロック図である。図20に示す場合と同様の部分に同一の符号を付してあり、その説明は適宜省略する。
マイクロコンピュータ31は、所定の制御プログラムを実行して、ユーザの操作に応じた開始停止ボタン301からの信号を基に、記録再生装置の各部に動作を指示する。
ドライブ44は、ディスク45からMPEG2方式のプログラムストリームを読み出し、読み出したMPEG2方式のプログラムストリームをバッファメモリ43に記憶させる。デマルチプレクサ202は、バッファメモリ43に記憶されているMPEG2方式のプログラムストリームから、MPEG2方式の画像データであるMPEG2ビデオエレメンタリストリームと音声データとを分離する。
Iピクチャ選択復号部302は、マイクロコンピュータ31の制御の基に、デマルチプレクサ202において分離されたMPEG2ビデオエレメンタリストリームのうち、I(イントラ)ピクチャを選択して、選択したIピクチャを復号する。Iピクチャ選択復号部302は、復号したピクチャを解像度変換部303に供給する。
解像度変換部303は、画素数変換部40と同様に、マイクロコンピュータ31の制御の基に、復号されたピクチャの解像度を変換する。例えば、解像度変換部303は、抽出したピクチャから画素を間引くことにより、ピクチャの解像度を変換する。
解像度変換部303は、画素数を変換した画像データをJPEG符号化部304に供給する。JPEG符号化部304は、マイクロコンピュータ31の制御の基に、解像度変換部303から供給された画像データを、JPEG方式で符号化する。JPEG符号化部304は、JPEG方式で符号化した画像データをサムネイルデータとして、ファイルフォーマット変換部305に供給する。
ファイルフォーマット変換部305は、サムネイルデータのファイル方式を、PLF方式、PLF方式のファイル101から参照されるファイル方式、静止画像パッケージ方式、またはトラック管理ファイル131から参照されるロケーション関係データファイル方式に変換する。ファイルフォーマット変換部305は、ファイル方式を変換したサムネイルデータをバッファメモリ43に供給する。
ここで、ファイルフォーマット変換部305は、サムネイルの生成が指示された動画像データの総てのGOPについて、解像度変換部303からサムネイルデータが供給されてから、総てのサムネイルデータについて、一時に、1または所定の数のファイルとなるように、そのサムネイルデータのファイル方式をまとめて変換するようにしてもよい。
ドライブ44は、バッファメモリ43に記憶されている、所定のファイル方式に変換されたサムネイルデータをディスク45に記録する。ファイルフォーマット変換部305が、サムネイルの生成が指示された動画像データの総てのGOPについて、解像度変換部303からサムネイルデータが供給されてから、総てのサムネイルデータについて、一時に、1または所定の数のファイルとなるように、そのサムネイルデータのファイル方式をまとめて変換する場合、ドライブ44は、まとめてファイル方式が変換されているサムネイルデータをディスク45に記録する。
図36は、Iピクチャ選択復号部302の構成を示すブロック図である。バッファ321は、デマルチプレクサ202から供給された、MPEG2ビデオエレメンタリストリームであるMPEG2方式の動画像データを一時的に記憶する。Iピクチャ判定部322は、バッファ321に記憶されている、MPEG2方式の動画像データを構成するそれぞれのピクチャについて、例えば、ピクチャヘッダのpicture coding typeを参照することにより、Iピクチャであるか否かを判定する。
セレクタ323は、Iピクチャ判定部322から供給される、ピクチャがIピクチャであるか否かを示す信号を基に、バッファ321に記憶されているピクチャのデータを可変長符号デコーダ324に供給させるか、またはバッファ321に記憶されているピクチャのデータの可変長符号デコーダ324への供給を抑制する。具体的には、セレクタ323は、Iピクチャ判定部322から、ピクチャがIピクチャであることを示す信号が供給された場合、バッファ321に記憶されているIピクチャであるピクチャのデータを可変長符号デコーダ324に供給させる。セレクタ323は、Iピクチャ判定部322から、ピクチャがIピクチャでないことを示す信号が供給された場合、バッファ321に記憶されているBピクチャまたはPピクチャであるピクチャのデータの可変長符号デコーダ324への供給を抑制する。
可変長符号デコーダ324は、セレクタ323を介して、バッファ321から供給された、可変長符号化されているIピクチャのデータを復号して、復号したIピクチャのデータを逆量子化部325に供給する。逆量子化部325は、復号したIピクチャのデータの含まれる係数毎に、所定の値の逆量子化係数を乗算することにより、Iピクチャのデータを逆量子化する。逆量子化部325は、逆量子化して得られたIピクチャのデータ、すなわちDCT(Discrete Cosine Transform)係数を逆DCT処理部326に供給する。
逆DCT処理部326は、逆量子化部325から供給されたDCT係数を逆DCT変換することにより、圧縮されていない画像データである、いわゆるベースバンド画像データを生成して、ベースバンド画像データを出力する。
図37は、解像度変換部303の構成を示すブロック図である。ローパスフィルタ341は、Iピクチャ選択復号部302から供給された、ベースバンド画像データから画像の高周波成分を除去して(帯域を制限して)、画像の高周波成分を除去したベースバンド画像データを画素間引部342に供給する。例えば、ローパスフィルタ341は、縦2×横2の4画素について、画素値の平均値を算出して、算出された平均値をその4画素の画素値に設定することにより、画像の高周波成分を除去する。
画素間引部342は、画像の高周波成分が除去されたベースバンド画像データから、画素を間引いて、画素を間引いたベースバンド画像データをサムネイルデータとして出力する。例えば、画素間引部342は、ベースバンド画像データの画素を、縦2×横2の4画素の組に分けて、それぞれの4画素から3つの画素を除去することにより、ベースバンド画像データから、画素を間引く。
図38は、JPEG符号化部304の構成を示すブロック図である。DCT処理部361は、解像度変換部303から供給されたサムネイルデータをDCT変換し、DCT変換の結果得られたDCT係数を量子化部362に供給する。量子化部362は、DCT処理部361から供給されたDCT係数を所定の量子化係数により除算することにより、DCT係数を量子化し、量子化されたDCT係数を可変長符号化部363に供給する。可変長符号化部363は、量子化されたDCT係数を可変長符号に符号化することにより、JPEG方式により圧縮されているサムネイルデータを生成して、生成したJPEG方式により圧縮されているサムネイルデータを出力する。
図39は、サムネイルデータの生成の処理を説明するフローチャートである。ステップS301において、Iピクチャ選択復号部302は、ドライブ44によって、ディスク45から読み出されたMPEG2プログラムストリームである動画像データのそれぞれのGOPからIピクチャを抽出する(選択する)。ステップS302において、Iピクチャ選択復号部302は、抽出したIピクチャを復号する。
ステップS303において、解像度変換部303は、復号したIピクチャの解像度を解像度を下げるように変換する。ステップS304において、JPEG符号化部304は、解像度を変換したIピクチャをJPEG方式で圧縮する。ステップS305において、ファイルフォーマット変換部305は、IピクチャをJPEG方式で圧縮して得られたサムネイルデータのファイル方式を整えて、ステップS301に戻り、上述した処理を繰り返す。
サムネイルデータをIピクチャのストリームとして生成することもできる。
図40は、MPEG2プログラムストリームが記録されているディスク45からMPEG2プログラムストリームを読み出して、MPEG2プログラムストリームに対応する、Iピクチャのストリームであるサムネイルを生成してディスク45に記録する、本発明に係る記録再生装置の一実施の形態の構成を示すブロック図である。図35に示す場合と同様の部分に同一の符号を付してあり、その説明は省略する。
Iピクチャ符号化部381は、解像度変換部303から供給された、解像度が変換されたベースバンド画像データであるサムネイルデータをIピクチャとして圧縮符号化する。Iピクチャ符号化部381は、Iピクチャとして圧縮符号化されたサムネイルデータをファイルフォーマット変換部305に供給する。
図41は、Iピクチャ符号化部381の構成を示すブロック図である。バッファ401は、解像度変換部303から供給された、解像度が変換されたベースバンド画像データであるサムネイルデータを一時的に記憶する。バッファ401は、記憶しているサムネイルデータを視覚パラメータ検出部402およびDCT処理部403に供給する。
視覚パラメータ検出部402は、バッファ401に記憶されているサムネイルデータの画像の特徴を示す視覚パラメータを検出して、検出した視覚パラメータを制御部404に供給する。視覚パラメータは、例えば、MPEG2 TM(Test Model)5に規定されている、画素値の空間方向の変化を示すアクティビティとすることができる。
DCT処理部403は、バッファ401から供給されたサムネイルデータをDCT変換し、DCT変換の結果得られたDCT係数を量子化部405に供給する。
制御部404は、視覚パラメータ検出部402から供給された視覚パラメータおよびバッファ407に記憶されている圧縮サムネイルデータのデータ量を基に、量子化値を決定して、量子化値を量子化部405に供給する。例えば、制御部404は、MPEG2 TM5の規定と同様に、視覚パラメータを基に、高周波成分をより多く含む場合、より粗く量子化し、高周波成分がより少ない場合、より細かく量子化するように量子化値を決定する。また、制御部404は、バッファ407に記憶されている圧縮サムネイルデータのデータ量を基に、Iピクチャとして圧縮符号化されているサムネイルデータのデータ量が所定の上限を超えないように、量子化値を決定する。
量子化部405は、DCT処理部403から供給されたDCT係数を、制御部404から供給された量子化値により除算することにより、DCT係数を量子化し、量子化されたDCT係数を可変長符号化部406に供給する。可変長符号化部406は、量子化されたDCT係数を可変長符号に符号化することにより、Iピクチャとして圧縮符号化されたサムネイルデータを生成して、生成したIピクチャとして圧縮符号化されたサムネイルデータをバッファ407に供給する。
バッファ407は、Iピクチャとして圧縮符号化されているサムネイルデータを一時的に記憶する。バッファ407は、記憶しているIピクチャとして圧縮符号化されているサムネイルデータを出力する。
図42は、1つのIピクチャ毎の制御部404による符号量の制御の処理を説明するフローチャートである。ステップS321において、制御部404は、ピクチャに符号の量を割り当てる。例えば、ステップS321において、制御部404は、ピクチャに対する符号量の目標値ではなく、ピクチャに対する符号量の上限と所定のマージンとを考慮した符号量をピクチャに割り当てる。より具体的には、ステップS321において、制御部404は、符号量の上限からマージンを差し引いた値の符号量をピクチャに割り当てる。
これは、Iピクチャとして圧縮符号化されたサムネイルデータのデータ量がステップS321における設定値を結果として超えてしまうことがあるので、後述するサムネイルの連続再生におけるVBVで示される制約を保証するためである。
ステップS322において、制御部404は、ピクチャに割り当てられた符号の量を各マクロブロックに割り振るように、ピクチャに割り当てられた符号の量を基に、マクロブロックに符号の量を割り当てる。
ステップS323において、制御部404は、視覚パラメータを用いて、最終的な量子化値を決定し、処理は終了する。
このように、サムネイルデータは、所定の上限値以下のデータ量となるようにIピクチャとして圧縮符号化される。このようにすることで、サムネイルデータを早送り若しくは巻き戻しなどの特殊再生を行っても、復号においてアンダーフローを生じることなく、迅速にサムネイルを再生して、表示することができるようになる。
この効果を、VBV(Video Buffering Verifier)のモデルを使用して説明する。VBVは、ISO13818-2 Annex Cに規定される、エンコーダの出力に接続される仮想的なデコーダのモデルであり、このモデルに含まれるVBVバッファに格納されるデータ量に対する拘束条件によって、ビットストリームに対する制限を規定するものである。VBVは、通常、復号側の制約を規定するものであるが、以下、符号化側に置き換えて説明する。
図43は、VBVのモデルの構成を示すブロック図である。符号化器421は、ピクチャに対応する符号をVBVバッファ422に出力する。VBVバッファ422は、符号化器421から供給された符号を一時的に記憶し、記憶している符号を出力する。
ここで、符号化器421からVBVバッファ422へは、符号が瞬時に転送されると仮定する。また、VBVバッファ422に符号が記憶されていない場合、VBVバッファ422から符号は出力されず、VBVバッファ422に符号が記憶されている場合、VBVバッファ422から、最大転送レートで符号が出力されると仮定する。
図44は、サムネイルのデータ量に制限を設けない場合のVBVのモデルの動きを説明する図である。図44において、縦方向は、VBVバッファ422に記憶される符号のデータ量を示し、横方向は、時間を示す。
図44において、時間Tは、フレームの期間[秒]を示し、フレームレートの逆数に等しい。
VBVバッファ422が空の状態から符号化の処理が開始された時刻t=0において、符号化器421からデータ量P0の符号がVBVバッファ422に転送されるので、時刻t=0において、VBVバッファ422に記憶される符号のデータ量は、P0となる。VBVバッファ422から、最大の転送レートで符号が出力されるので、VBVバッファ422に記憶される符号のデータ量は、時間の経過とともに減少し、時刻t=Tにおいて、VBVバッファ422に記憶される符号のデータ量は、B1となる。同時に、時刻t=Tにおいて、P0に比較してより少ないデータ量であるデータ量P1の符号が符号化器421からVBVバッファ422に転送されるので、VBVバッファ422に記憶される符号のデータ量は、B1+P1まで瞬時に増加する。
同様に、時刻t=2Tにおいて、VBVバッファ422に記憶される符号のデータ量は、B2となる。同時に、時刻t=Tにおいて、P1とほぼ同じデータ量であるデータ量P2の符号が符号化器421からVBVバッファ422に転送されるので、VBVバッファ422に記憶される符号のデータ量は、B2+P2まで瞬時に増加する。
時刻t=Txにおいて、VBVバッファ422に記憶される符号のデータ量は、0となる。VBVバッファ422に記憶される符号のデータ量が0になると、VBVバッファ422は符号を出力しない。
時刻t=3Tにおいて、P0に比較してより少なく、P1に比較してより多いデータ量であるデータ量P3の符号が符号化器421からVBVバッファ422に転送されるので、VBVバッファ422に記憶される符号のデータ量は、P3まで瞬時に増加する。時刻t=4Tにおいて、VBVバッファ422に記憶される符号のデータ量は、0となり、同時に、P1とほぼ同じデータ量であるデータ量P4の符号が符号化器421からVBVバッファ422に転送されるので、VBVバッファ422に記憶される符号のデータ量は、P4まで瞬時に増加する。
このように、符号化器421から出力される1つのピクチャに対する符号の量が変化すると、アンダーフローまたはオーバーフローが生じる場合がある。
例えば、時刻t=Tおよび時刻t=2Tにおいて、P1とほぼ同じデータ量であるデータ量P4の符号が符号化器421からVBVバッファ422に転送された場合、オーバーフローが発生してしまう。
符号化側では、アンダーフローが発生しても、書き込みの待機をさせることができるので、アンダーフローの発生は許容されるが、オーバーフローが発生すると符号が欠落してしまうので、オーバーフローの発生は許容されない。
このため、符号化において符号化されたデータのデータ量を監視し、符号の量を変化させるパラメータを用いて、符号化の処理をフィードバック制御して、オーバーフローを生じさせないようにしなければならない。
ここで、符号化器421からVBVバッファ422に、フレームの期間Tにおいて、最大転送レートで出力できるデータ量の符号が常に転送される場合を考える。これは、例えば、ステップS321において、制御部404が、フレームの期間Tにおいて、最大転送レートで出力できるデータ量をピクチャに対する符号量の上限として、符号量をピクチャに割り当てることに相当する。
VBVバッファ422から出力される符号の最大転送レートをRmax[bit/sec]とし、フレームレートをframe_rate[frameの数/sec]とすると、1フレーム(ピクチャ)当たりのサムネイルについて許容されるデータ量である許容最大符号量fb[bit/frame]は、Rmax/frame_rateで算出することができる。ここで、frame_rateは、NTSC(National Television System Committee)方式またはPAL(Phase Alternating (by) Line)方式などテレビジョン放送の方式により異なる。
図45は、各サムネイルのデータ量が、このように算出された許容最大符号量fbに等しい場合の、VBVのモデルの動きを説明する図である。図45において、縦方向は、VBVバッファ422に記憶される符号のデータ量を示し、横方向は、時間を示す。
図45において、時間Tは、フレームの期間[秒]を示し、フレームレートの逆数に等しい。
VBVバッファ422が空の状態から符号化の処理が開始された時刻t=0において、符号化器421からデータ量P0の符号がVBVバッファ422に転送されるので、時刻t=0において、VBVバッファ422に記憶される符号のデータ量は、P0(=許容最大符号量fb)となる。VBVバッファ422から、最大の転送レートで符号が出力されるので、VBVバッファ422に記憶される符号のデータ量は、時間の経過とともに減少し、時刻t=Tにおいて、VBVバッファ422に記憶される符号のデータ量は、0となり、同時に、時刻t=Tにおいて、P0と同じデータ量であるデータ量P1の符号が符号化器421からVBVバッファ422に転送されるので、VBVバッファ422に記憶される符号のデータ量は、P1まで瞬時に増加する。
VBVバッファ422から、最大の転送レートで符号が出力されるので、VBVバッファ422に記憶される符号のデータ量は、時間の経過とともに減少し、時刻t=2Tにおいて、VBVバッファ422に記憶される符号のデータ量は、0となり、同時に、時刻t=2Tにおいて、P0と同じデータ量であるデータ量P2の符号が符号化器421からVBVバッファ422に転送されるので、VBVバッファ422に記憶される符号のデータ量は、P2まで瞬時に増加する。
同様に、時刻t=3T乃至時刻t=nTにおいて、VBVバッファ422に記憶される符号のデータ量は、0となり、同時に、P0と同じデータ量の符号が符号化器421からVBVバッファ422に転送されるので、VBVバッファ422に記憶される符号のデータ量は、P0と同じデータ量まで瞬時に増加する。
すなわち、符号化器421からVBVバッファ422に転送される時刻において、VBVバッファ422に記憶される符号のデータ量は、最大となり、そのデータ量は、許容最大符号量fbに等しい。
図40で構成が示される記録再生装置においては、許容最大符号量fb以下になるようにサムネイルのデータ量が制限されるので、図45で示される場合よりも、オーバーフローがより起きにくいと言える。すなわち、図45は、バッファの占有率が最も高い状態を示していると言える。
ここで、再生側について、サムネイルを変速再生する場合のVBVについて説明する。変速再生においては、任意のサムネイル(ピクチャ)が、任意の順に再生されることになる。従って、それぞれのサムネイルのデータ量が変化する場合、大きなデータ量のサムネイルの再生が連続して要求されるときがある。このような場合には、VBVバッファの占有率が下がり、ときには、VBVバッファが枯渇して、アンダーフローが生じてしまう恐れがある。その結果、サムネイルの再生が間に合わなくなり、サムネイルの表示の切り替えがユーザの指示通りに行われなくなってしまう。
しかしながら、総てのサムネイルのデータ量を許容最大符号量fb以下とすることによって、どのサムネイルが、どの順序で再生されても、VBVバッファの占有率が一定以下になることがなく、アンダーフローが生じるおそれがなくなる。その結果、サムネイルの表示の切り替えが、常に、ユーザの指示通りに行われることが保証される。
図46は、MPEG2のシステムストリームが記録されているディスク45からMPEG2のシステムストリームを読み出して、MPEG2のシステムストリームに対応する、Iピクチャのストリームであるサムネイルを生成してディスク45に記録する、本発明に係る記録再生装置の一実施の形態の他の構成を示すブロック図である。図40に示す場合と同様の部分に同一の符号を付してあり、その説明は省略する。
Iピクチャ選択復号部451は、マイクロコンピュータ31の制御の基に、デマルチプレクサ202において分離されたMPEG2ビデオエレメンタリストリームのうち、I(イントラ)ピクチャを選択して、選択したIピクチャをDCT係数まで復号する。Iピクチャ選択復号部451は、復号したDCT係数を周波数特性変換部452に供給する。
周波数特性変換部452は、マイクロコンピュータ31の制御の基に、復号されたDCT係数の周波数特性を変換する。例えば、周波数特性変換部452は、DCT係数のうち、画像の高周波に対応する成分を除去するか、減衰させることによりDCT係数の周波数特性を変換する。
周波数特性変換部452は、周波数特性を変換したDCT係数をIピクチャ符号化部453に供給する。Iピクチャ符号化部453は、周波数特性変換部452から供給された、周波数特性を変換したDCT係数をIピクチャとして圧縮符号化する。Iピクチャ符号化部453は、DCT係数をIピクチャとして圧縮符号化して得られたサムネイルデータをファイルフォーマット変換部305に供給する。
図47は、Iピクチャ選択復号部451の構成を示すブロック図である。バッファ471は、デマルチプレクサ202から供給された、MPEG2ビデオエレメンタリストリームであるMPEG2方式の動画像データを一時的に記憶する。Iピクチャ判定部472は、バッファ471に記憶されている、MPEG2方式の動画像データを構成するそれぞれのピクチャについて、例えば、ピクチャヘッダのpicture coding typeを参照することにより、Iピクチャであるか否かを判定する。
セレクタ473は、Iピクチャ判定部472から供給される、ピクチャがIピクチャであるか否かを示す信号を基に、バッファ471に記憶されているピクチャのデータを可変長符号デコーダ474に供給させるか、またはバッファ471に記憶されているピクチャのデータの可変長符号デコーダ474への供給を抑制する。具体的には、セレクタ473は、Iピクチャ判定部472から、ピクチャがIピクチャであることを示す信号が供給された場合、バッファ471に記憶されているIピクチャであるピクチャのデータを可変長符号デコーダ474に供給させる。セレクタ473は、Iピクチャ判定部472から、ピクチャがIピクチャでないことを示す信号が供給された場合、バッファ471に記憶されているBピクチャまたはPピクチャであるピクチャのデータの可変長符号デコーダ474への供給を抑制する。
可変長符号デコーダ474は、セレクタ473を介して、バッファ471から供給された、可変長符号化されているIピクチャのデータを復号して、復号したIピクチャのデータを逆量子化部475に供給する。逆量子化部475は、復号したIピクチャのデータの含まれる係数毎に、所定の値の逆量子化係数を乗算することにより、Iピクチャのデータを逆量子化する。逆量子化部475は、逆量子化して得られたIピクチャのデータ、すなわちDCT係数および量子化スケールを出力する。
図48は、周波数特性変換部452の構成を示すブロック図である。水平方向フィルタ491は、DCT係数のうち、水平方向に並ぶDCT係数について、高周波成分を除去するか、減衰させる。
図49で示されるように、DCT係数は、2次元に配置され、水平方向の次数(n)は、0乃至7とされ、垂直方向の次数(m)は、0乃至7とされる。水平方向の次数(n)のより大きいDCT係数は、画像のより高い周波数の成分に対応し、垂直方向の次数(m)のより大きいDCT係数は、画像のより高い周波数の成分に対応する。
図50は、水平方向フィルタ491の伝達関数H(n)および垂直方向フィルタ492の伝達関数V(m)を示す図である。例えば、水平方向フィルタ491は、図50で示される伝達関数H(n)を基に、水平方向の次数(n)のより大きいDCT係数を0とするか、またはその値を小さくして、DCT係数のうち、水平方向に並ぶDCT係数について、高周波成分を除去するか、減衰させる。
水平方向フィルタ491は、水平方向に並ぶDCT係数について、高周波成分を除去したか、減衰させたDCT係数を垂直方向フィルタ492に供給する。
垂直方向フィルタ492は、水平方向フィルタ491から供給されたDCT係数のうち、垂直方向に並ぶDCT係数について、高周波成分を除去するか、減衰させて、出力する。例えば、垂直方向フィルタ492は、図50で示される伝達関数V(m)を基に、水平方向フィルタ491から供給された垂直方向の次数(m)のより大きいDCT係数を0とするか、またはその値を小さくして、DCT係数のうち、垂直方向に並ぶDCT係数について、高周波成分を除去するか、減衰させる。
すなわち、周波数特性変換部452に入力されるDCT係数をd(n,m)とした場合、d(n,m)×H(n)×V(m)で算出されるDCT係数d'(n,m)が、図48で構成が示される周波数特性変換部452から出力される。これは、DCT係数が周波数領域の値であるので、上述した伝達関数を乗算することにより、フィルタリングの処理が可能となるものである。
換言すれば、8×8のDCT係数に、上述した伝達関数H(n)および伝達関数V(m)を乗算することにより、縦8画素×横8画素のブロックに、画像の周波数領域の制限をかけることができる。
なお、Iピクチャ選択復号部451から出力された量子化スケールは、周波数特性変換部452をそのまま通過して、Iピクチャ符号化部453に入力される。
図51は、Iピクチャ符号化部453の構成を示すブロック図である。制御部501は、周波数特性変換部452を介してIピクチャ選択復号部451から供給された量子化スケールおよびバッファ504に記憶されている圧縮サムネイルデータのデータ量を基に、量子化値を決定して、量子化値を量子化部502に供給する。例えば、制御部501は、バッファ504に記憶されている圧縮サムネイルデータのデータ量を基に、Iピクチャとして圧縮符号化されているサムネイルデータのデータ量が所定の上限を超えないように、量子化値を決定する。
量子化部502は、周波数特性変換部452から供給されたDCT係数を、制御部501から供給された量子化値により除算することにより、DCT係数を量子化し、量子化されたDCT係数を可変長符号化部503に供給する。Iピクチャ符号化部453に入力されるDCT係数は、高周波成分が除去されるか、減衰させられているので、周波数特性が変換される前のDCT係数に比較してより小さい値なので、量子化部502における再量子化において、その値が0となるDCT係数が増加し、打ち切り次数も低くなる。
可変長符号化部503は、量子化されたDCT係数を可変長符号に符号化することにより、Iピクチャとして圧縮符号化されたサムネイルデータを生成して、生成したIピクチャとして圧縮符号化されたサムネイルデータをバッファ504に供給する。
バッファ504は、Iピクチャとして圧縮符号化されているサムネイルデータを一時的に記憶する。バッファ504は、記憶している、Iピクチャとして圧縮符号化されているサムネイルデータを出力する。
Iピクチャ符号化部453に入力されるDCT係数は、高周波成分が除去されるか、減衰させられているので、Iピクチャ符号化部453は、より少ないデータ量のサムネイルデータを出力することができる。
図52は、サムネイルデータの生成の他の処理を説明するフローチャートである。ステップS361において、Iピクチャ選択復号部451は、ドライブ44によって、ディスク45から読み出されたMPEG2プログラムストリームである動画像データのそれぞれのGOPからIピクチャを抽出する(選択する)。ステップS362において、Iピクチャ選択復号部451は、抽出したIピクチャをDCT係数に復号する。
ステップS363において、周波数特性変換部452は、復号されたDCT係数の高次の成分を除去して、DCT係数の周波数特性を変換する。ステップS364において、Iピクチャ符号化部453は、周波数特性を変換したDCT係数をIピクチャとして圧縮符号化する。ステップS365において、ファイルフォーマット変換部305は、Iピクチャとして圧縮符号化されたサムネイルデータのファイル方式を整えて、ステップS361に戻り、上述した処理を繰り返す。
図53は、1つのIピクチャ毎の制御部501による符号量の制御の処理を説明するフローチャートである。ステップS381において、制御部501は、ピクチャに符号の量を割り当てる。例えば、ステップS381において、制御部501は、ピクチャに対する符号量の目標値ではなく、ピクチャに対する符号量の上限と所定のマージンとを考慮した符号量をピクチャに割り当てる。より具体的には、ステップS381において、制御部501は、符号量の上限からマージンを差し引いた値の符号量をピクチャに割り当てる。
これは、Iピクチャとして圧縮符号化されたサムネイルデータのデータ量がステップS321における設定値を結果として超えてしまうことがあるので、上述したようにサムネイルの連続再生におけるVBVで示される制約を保証するためである。
ステップS382において、制御部501は、ピクチャに割り当てられた符号の量を基に、最終的な量子化値を決定し、マクロブロックに符号の量を割り当て、処理は終了する。
次に、MPEG2のシステムストリームが記録されているディスク45からMPEG2のシステムストリームを読み出して、MPEG2のシステムストリームに対応するサムネイルデータを生成してディスク45に記録したディスク45からサムネイルデータを読み出して、サムネイルを再生する記録再生装置について説明する。
図54は、JPEG方式により圧縮符号化されているサムネイルデータ81を基に、サムネイルを再生して表示する、本発明に係る記録再生装置における再生ブロックの一実施の形態の他の構成を示すブロック図である。図20に示す場合と同様の部分に同一の符号を付してあり、その説明は適宜省略する。
ファイルフォーマット変換部521は、マイクロコンピュータ31の制御の基に、ドライブ44によってディスク45から読み出され、バッファメモリ43に記憶された、PLF方式、PLF方式のファイル101から参照されるファイル方式、静止画像パッケージ方式、トラック管理ファイル131から参照されるロケーション関係データファイル方式、またはロケーション関係データファイル141から参照されるファイル方式のサムネイルデータ81を読み出す。
ファイルフォーマット変換部521は、読み出したサムネイルデータ81のファイル方式を変換し、ファイル方式を変換したサムネイルデータ81をJPEG復号部522に供給する。例えば、ファイルフォーマット変換部521は、PLF方式、PLF方式のファイル101から参照されるファイル方式、静止画像パッケージ方式、トラック管理ファイル131から参照されるロケーション関係データファイル方式、またはロケーション関係データファイル141から参照されるファイル方式のサムネイルデータ81から、JPEG方式で圧縮符号化されているサムネイルデータ81を抽出することにより、サムネイルデータ81のファイル方式を変換する。
JPEG復号部522は、マイクロコンピュータ31の制御の基に、ファイルフォーマット変換部521から供給された、JPEG方式で圧縮符号化されているサムネイルデータ81を復号して、復号して得られたベースバンド画像であるサムネイルデータ81をバッファメモリ35に記憶させる。
図55は、JPEG復号部522の構成を示すブロック図である。可変長符号デコーダ541は、ファイルフォーマット変換部521から供給された、可変長符号化されているサムネイルデータ81を復号して、復号したサムネイルデータ81を逆量子化部542に供給する。逆量子化部542は、復号したサムネイルデータ81に含まれる係数毎に、所定の値の逆量子化係数を乗算することにより、サムネイルデータ81を逆量子化する。逆量子化部542は、逆量子化して得られたサムネイルデータ81、すなわちDCT係数を逆DCT処理部543に供給する。
逆DCT処理部543は、逆量子化部542から供給されたDCT係数を逆DCT変換することにより、圧縮されていない画像データである、いわゆるベースバンド画像データを生成して、ベースバンド画像データを出力する。
図56は、Iピクチャのストリームとして圧縮符号化されているサムネイルデータ81を基に、サムネイルを再生して表示する、本発明に係る記録再生装置における再生ブロックの一実施の形態の他の構成を示すブロック図である。図20に示す場合と同様の部分に同一の符号を付してあり、その説明は適宜省略する。
ファイルフォーマット変換部561は、マイクロコンピュータ31の制御の基に、ドライブ44によってディスク45から読み出され、バッファメモリ43に記憶された、PLF方式、PLF方式のファイル101から参照されるファイル方式、静止画像パッケージ方式、トラック管理ファイル131から参照されるロケーション関係データファイル方式、またはロケーション関係データファイル141から参照されるファイル方式のサムネイルデータ81を読み出す。
ファイルフォーマット変換部561は、読み出したサムネイルデータ81のファイル方式を変換し、ファイル方式を変換したサムネイルデータ81をIピクチャ復号部562に供給する。例えば、ファイルフォーマット変換部561は、PLF方式、PLF方式のファイル101から参照されるファイル方式、静止画像パッケージ方式、トラック管理ファイル131から参照されるロケーション関係データファイル方式、またはロケーション関係データファイル141から参照されるファイル方式のサムネイルデータ81から、Iピクチャのストリームとして圧縮符号化されているサムネイルデータ81を抽出することにより、サムネイルデータ81のファイル方式を変換する。
Iピクチャ復号部562は、マイクロコンピュータ31の制御の基に、ファイルフォーマット変換部561から供給された、Iピクチャのストリームとして圧縮符号化されているサムネイルデータ81を復号して、復号して得られたベースバンド画像であるサムネイルデータ81をバッファメモリ35に記憶させる。
図57は、Iピクチャ復号部562の構成を示すブロック図である。可変長符号デコーダ581は、ファイルフォーマット変換部561から供給された、可変長符号化されているIピクチャのデータを復号して、復号したIピクチャのデータを逆量子化部582に供給する。逆量子化部582は、復号したIピクチャのデータの含まれる係数毎に、所定の値の逆量子化係数を乗算することにより、Iピクチャのデータを逆量子化する。逆量子化部582は、逆量子化して得られたIピクチャのデータ、すなわちDCT係数を逆DCT処理部583に供給する。
逆DCT処理部583は、逆量子化部582から供給されたDCT係数を逆DCT変換することにより、圧縮されていない画像データである、いわゆるベースバンド画像データを生成して、ベースバンド画像データを出力する。
サムネイルデータ81が、例えば、画像の高周波成分を除去するように周波数特性が変換され、Iピクチャのストリームとして圧縮符号化されている場合、サムネイルの画素を間引いて表示するようにしてもよい。
図58は、Iピクチャのストリームとして圧縮符号化されているサムネイルデータ81を基に、サムネイルを再生して表示する、本発明に係る記録再生装置における再生ブロックの一実施の形態のさらに他の構成を示すブロック図である。図56に示す場合と同様の部分に同一の符号を付してあり、その説明は適宜省略する。
画素間引部591は、Iピクチャ復号部562から供給された、ベースバンド画像データとしてのサムネイルデータ81において、サムネイルデータ81の画素のうち、所定の位置の画素を間引いて、画素を間引いたサムネイルデータ81をバッファメモリ35に記憶させる。例えば、画素間引部591は、サムネイルデータ81の画素を、縦2×横2の4画素の組に分けて、それぞれの4画素から3つの画素を除去することにより、サムネイルデータ81から、画素を間引く。
サムネイルデータ81が、画像の高周波成分を除去するように周波数特性が変換され、Iピクチャのストリームとして圧縮符号化されている場合、画像のサイズは縮小されていないので、画素間引部591が画素を間引くことにより、画像のサイズを小さくすることができる。
なお、画像の高周波成分を除去するように周波数特性が変換されているサムネイルデータ81において、折り返しが問題にならない場合には、画素間引部591は、単純に画素を間引くだけでよい。折り返しが問題になる場合には、画素間引部591は、画素を間引く前に、ローパスフィルタを通して帯域を制限した画像データから、画素を間引くようにするのが好ましい。
このように、動画像に応じたピクチャを生成するようにした場合には、動画像に応じたピクチャをデータ記録媒体に記録することができる。また、動画像の符号化の単位であって、一定の数のピクチャからなる単位から、1つのピクチャを抽出し、抽出されたピクチャの情報量を削減し、情報量が削減されたピクチャを所定の符号化方式で符号化し、ピクチャが抽出された単位に、符号化されたピクチャを関係付け、動画像を記録するデータ記録媒体への、単位に関係付けられたピクチャの記録を制御するようにした場合には、動画像を再生する場合に、単位に関係付けられたピクチャを迅速に再生することができるようになる。その結果、ユーザが、動画像の再生における所望の時刻の内容を迅速に知ることができる。
また、データ記録媒体に記録されているピクチャであって、動画像に応じたピクチャを読み出しするようにした場合には、動画像に応じたピクチャを再生することができる。また、動画像が記録されると共に、動画像の符号化の単位であって、一定の数のピクチャからなる単位から抽出され、情報量が削減され、所定の符号化方式で符号化され、単位のそれぞれに関係付けられているピクチャが記録されているデータ記録媒体からの、ユーザからの指令および動画像の単位との関係に基づく、ピクチャの読み出しを制御し、読み出されたピクチャを復号し、復号されたピクチャの表示を制御するようにした場合には、単位に関係付けられたピクチャを迅速に再生することができるようになる。その結果、ユーザが、動画像の再生における所望の時刻の内容を迅速に知ることができる。
なお、サムネイルを圧縮符号化する方式は、JPEG方式、Iピクチャとしての符号化に限らず、JPEG2000またはモーションJPEGなど、個々のサムネイルのデータ量を制御できる符号化方式であればよい。また、動画像の符号化方式は、MPEG2であると説明したが、これに限らず、MPEG4、MPEG7など他の符号化方式であってもよい。
上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。
この記録媒体は、図3、図20、図35、図40、図46、図54、図56、または図58に示すように、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている、例えば、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini-Disc)(商標)を含む)、若しくは半導体メモリなどよりなるパッケージメディアであるディスク48により構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記録されているマイクロコンピュータに内蔵されている図示せぬROMや、図示せぬハードディスクなどで構成される。
なお、上述した一連の処理を実行させるプログラムは、必要に応じてルータ、モデムなどのインタフェースを介して、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の通信媒体を介してコンピュータにインストールされるようにしてもよい。
また、本明細書において、記録媒体に格納されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
31 マイクロコンピュータ, 35 バッファメモリ, 38 動画像圧縮部, 40 画素数変換部, 41 静止画像圧縮部, 42 音声圧縮部, 43 バッファメモリ, 44 ドライブ, 45 ディスク, 48 ディスク, 51 抽出部, 81 サムネイルデータ, 101 PLF方式ファイル, 111 ファイル, 121 静止画像パッケージ方式ファイル, 131 トラック管理ファイル, 141 ロケーション関係データファイル, 151 ロケーション関係データファイル, 162 サムネイルデータ記録領域, 203 動画像伸張部, 204 静止画像伸張部, 205 音声伸張部, 206 画像出力インターフェース, 302 Iピクチャ選択復号部, 303 解像度変換部, 304 JPEG符号化部, 305 ファイルフォーマット変換部, 322 Iピクチャ判定部, 323 セレクタ, 324 可変長符号デコーダ, 325 逆量子化部, 326 逆DCT処理部, 341 ローパスフィルタ, 342 画素間引部, 381 Iピクチャ符号化部, 402 視覚パラメータ検出部, 403 DCT処理部, 404 制御部, 405 量子化部, 406 可変長符号化部, 407 バッファ, 451 Iピクチャ選択復号部, 452 周波数特性変換部, 453 Iピクチャ符号化部, 472 Iピクチャ判定部, 473 セレクタ, 474 可変長符号デコーダ, 475 逆量子化部, 491 水平方向フィルタ, 492 垂直方向フィルタ, 501 制御部, 502 量子化部, 503 可変長符号化部, 504 バッファ, 521 ファイルフォーマット変換部, 522 JPEG復号部, 561 ファイルフォーマット変換部, 562 Iピクチャ復号部, 591 画素間引部