Nothing Special   »   [go: up one dir, main page]

JP6624958B2 - 通信装置、通信システム、通信制御方法およびコンピュータプログラム - Google Patents

通信装置、通信システム、通信制御方法およびコンピュータプログラム Download PDF

Info

Publication number
JP6624958B2
JP6624958B2 JP2016019295A JP2016019295A JP6624958B2 JP 6624958 B2 JP6624958 B2 JP 6624958B2 JP 2016019295 A JP2016019295 A JP 2016019295A JP 2016019295 A JP2016019295 A JP 2016019295A JP 6624958 B2 JP6624958 B2 JP 6624958B2
Authority
JP
Japan
Prior art keywords
video
segment
communication device
playlist
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016019295A
Other languages
English (en)
Other versions
JP2017139628A (ja
Inventor
祐樹 藤森
祐樹 藤森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2016019295A priority Critical patent/JP6624958B2/ja
Application filed by Canon Inc filed Critical Canon Inc
Priority to US16/074,693 priority patent/US20190045269A1/en
Priority to CN201780009846.3A priority patent/CN108605149A/zh
Priority to EP17705184.4A priority patent/EP3412030A1/en
Priority to KR1020187024453A priority patent/KR102087533B1/ko
Priority to PCT/JP2017/002656 priority patent/WO2017135133A1/en
Publication of JP2017139628A publication Critical patent/JP2017139628A/ja
Application granted granted Critical
Publication of JP6624958B2 publication Critical patent/JP6624958B2/ja
Priority to US17/148,396 priority patent/US20210136455A1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4728End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/27Server based end-user applications
    • H04N21/274Storing end-user multimedia data in response to end-user request, e.g. network recorder
    • H04N21/2743Video hosting of uploaded data from client
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234345Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements the reformatting operation being performed only on part of the stream, e.g. a region of the image or a time segment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/262Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists
    • H04N21/26258Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists for generating a list of items to be played back in a given order, e.g. playlist, or scheduling item distribution according to such list
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440245Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display the reformatting operation being performed only on part of the stream, e.g. a region of the image or a time segment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845Structuring of content, e.g. decomposing content into time segments
    • H04N21/8456Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/85406Content authoring involving a specific file format, e.g. MP4 format
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/858Linking data to content, e.g. by linking an URL to a video object, by creating a hotspot
    • H04N21/8586Linking data to content, e.g. by linking an URL to a video object, by creating a hotspot by using a URL

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Computer Security & Cryptography (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)
  • Television Signal Processing For Recording (AREA)

Description

本発明は、通信装置、通信システム、通信制御方法およびコンピュータプログラムに関し、特に映像データのストリーミング技術に関する。
近年、音声データや映像データ等のコンテンツをストリーミング配信する配信システムが提供されている。このような配信システムにより、ユーザはユーザが保持する端末装置を介して、ライブ映像等の所望のコンテンツをリアルタイムで楽しむことができる。
スマートフォンやタブレット型パソコンのような端末の普及により、様々な端末装置を用いていつでもどこでもストリーミングコンテンツを楽しみたいという需要が高まっている。このような要求を実現するため、端末装置の能力や端末装置が置かれる通信状況に応じて、取得するストリームを動的に変更する技術(MPEG−DASH、Http Live Streamingなど)が注目されている。“ISO−IEC 23009−1”に、“Dynamic Adaptive Streaming over HTTP(DASH)”の技術が規定されている。また、“draft−pantos−http−live−streaming−16”に、“Http Live Streaming”技術が規定されている。
これらの技術では、映像データを細かい時間単位のセグメントに分割し、このセグメントを取得するためのURL(Uniform Resource Locator)をプレイリスト(Playlist)と呼ばれるファイルに記述する。受信装置は、このプレイリストを取得し、プレイリストに記述されている情報を用いて所望の映像データを取得する。
ここで、プレイリスト中には、複数のバージョンの映像データセグメントに対するURLを記述することができる。これにより、受信装置が自身の能力や通信環境に応じて、最適なバージョンの映像データをプレイリストから選択し、選択した映像データセグメントを取得することができる。
特許文献1は、このような映像データのセグメントを受信装置に取得させるURLを記述するプレイリストの技術を用いて、映像データ中でユーザが着目する領域の映像データを配信する技術を開示する。この映像データ中の着目領域を、(Region Of Interest(以下、「ROI」という。))。より詳細には、特許文献1では、映像データを予めタイル状に領域分割し、映像全体のデータと、映像全体のデータの中でユーザが着目するオブジェクトが映り込むROIの領域のデータとを配信することが可能となる。
英国特許GB2505912B号公報
ところで、配信される映像データ中に移りこむオブジェクトの数や位置は時系列的に変化していくため、映像データの配信前に、所望のオブジェクトを含む領域をROIとして予め指定することは困難である。
本発明は、上記課題を解決するためになされたものであり、その目的は、映像データ中で配信されるべき着目領域の配信に係る処理を効率的に実行可能な通信装置を提供することにある。
上記課題を解決するために、本発明に係る通信装置の一態様は、映像データを複数の映像領域に分割する分割手段と、前記分割手段により分割された前記複数の映像領域の中から、オブジェクトが含まれる映像領域であるオブジェクト領域を判別する判別手段と、前記判別手段により判別された前記オブジェクト領域の映像データを含む映像セグメントを生成する第1の生成手段と、前記判別手段により判別されたオブジェクト領域の前記オブジェクトの識別子と前記オブジェクトの前記映像データ中の座標情報と前記オブジェクトの大きさの少なくとも何れかを含む位置情報と、を含むメタデータセグメントを生成する第2の生成手段と、前記映像セグメントを取得するための第1の資源識別子と、前記メタデータセグメントを取得するための第2の資源識別子とを記述したプレイリストを生成する第3の生成手段と、前記プレイリストを受信した他の通信装置からの前記第2の資源識別子を指定した要求に応じて、前記第2の生成手段により生成された前記メタデータセグメントを前記他の通信装置へ送信する第1の送信手段と、前記第1の送信手段により送信されたメタデータセグメントを受信した前記他の通信装置からの前記第1の資源識別子を指定した要求に応じて、前記第1の生成手段により生成された前記映像セグメントを前記他の通信装置へ送信する第2の送信手段と、を具備する。
本発明によれば、映像データ中で配信されるべき着目領域の配信に係る処理を効率的に実行することが可能となる。
本実施形態の画像配信システムの構成図である。 本実施形態における送信装置101の機能構成を示すブロック図である。 本実施形態における受信装置102の機能構成を示すブロック図である。 本実施形態において表示される映像の具体例を示す図である。 本実施形態におけるプレイリストの具体例を示す図である。 本実施形態におけるプレイリストの具体例を示す図である。 本実施形態におけるメタデータの具体例を示す図である。 本実施形態におけるメタデータの具体例を示す図である。 本実施形態におけるプレイリストの具体例を示す図である。 本実施形態における送信装置101の処理の具体例を示す図である。 本実施形態における受信装置102の処理の具体例を示す図である。 本実施形態における受信装置102の処理の具体例を示す図である。 ユーザインタフェース部307の具体的な表示例を示す図である。 送信装置101と受信装置102の間の通信を示すシーケンス図である。 送信装置101と受信装置102の間の通信を示すシーケンス図である。 実施形態で説明した各部のハードウエア構成の一例を示す図である。
以下、添付図面を参照して、本発明を実施するための形態について詳細に説明する。
なお、以下に説明する実施の形態は、本発明の実現手段としての一例であり、本発明が適用される装置の構成や各種条件によって適宜修正又は変更されるべきものであり、本発明は以下の実施の形態に限定されるものではない。
本実施形態の通信システムにおいては、映像データの送信装置が、映像データ中で着目領域(ROI)の候補となるべきオブジェクトを特定する情報(例えば、座標情報や大きさ情報などの位置情報)を、プレイリストを介して受信装置側に通知する。受信装置は、ROIの候補からユーザに所望するROIを選択させ、選択されたROIのオブジェクトを特定する情報を送信装置へ送信し、選択されたROIを含む映像セグメントを、送信装置に配信させる。また、オブジェクトを特定する情報は、例えば、オブジェクトの名称やIDを用いて絶対的に特定する情報でもよいし、リストの上から3番目の如く相対的に特定する情報であってもよい。また、座標情報の場合も、絶対座標によって特定する情報でもよいし、画面上や映像上の相対的な位置で特定する情報であってもよい。
(本実施形態のシステムの全体構成)
図1には、本実施形態における映像データを配信する通信システムの全体構成を示す。本実施形態に係る送信装置101(通信装置)は、ネットワーク103を介して、受信装置102(通信装置)と接続されている。なお、図1では、送信装置101、受信装置102はそれぞれ1台のみ示されているが、複数の送信装置101、複数の受信装置102がそれぞれ存在する通信システムを構成してもよい。
送信装置101は、本実施形態において映像データを配信するための送信装置である。送信装置101の具体的な例としては、カメラ装置、ビデオカメラ装置、スマートフォン装置、PC装置、携帯電話などが挙げられるが、後述の機能構成を満たすものであればよく、ここで挙げた機器の例には限定されない。
受信装置102は、本実施形態における映像データを受信する受信装置である。受信装置102の具体例は、スマートフォン装置、PC装置、テレビ、携帯電話、などが挙げられるが、後述の機能構成を満たすものであればよく、ここで挙げた機器の例には限定されない。
ネットワーク103は、本実施形態における映像データが配信されるためのネットワークであり、映像データを伝送できればどのようなネットワークでもよい。例えば、有線LAN(Local Area Network)、または無線LAN(Wireless LAN)等を利用することができる。ネットワーク103は、これに限られず、LTE(Long Term Evolution)や3GなどのWAN(Wide Area Network)でもよい。また、Bluetooth(登録商標)、Zigbee(登録商標)などのPAN(Personal Area Network)でもよい。
(送信装置101の機能構成)
図2は、本実施形態における送信装置101の機能構成図である。本実施形態における送信装置101は、撮像部201と、映像領域分割部202と、オブジェクト認識部203と、映像領域判別部204と、セグメント生成部205と、プレイリスト生成部206と、通信部207と、を備えている。
撮像部201は撮影を行い、映像データを出力する。映像領域分割部202は、撮像部201が撮影したこの映像データを領域分割して符号化する。この結果、映像領域分割部202は、符号化した領域分割された映像データを出力する。なお、映像領域分割部202は、領域分割前の全体の映像データも符号化する機能を備える。なお、図2には撮像部201が送信装置101内に備えられるものとして示されているが、撮像部201は、送信装置101の外部にあって映像データを送信装置101に提供してもよい。
符号化の方式としては、HEVC(High Efficiency Video Coding)を利用する例を説明するが、これに限られるものではない。例えば、H.264やMPEG2(Moving Picture Experts Group phase 2)や、それらと同等の符号化方式であればどのようなものでも利用可能である。
オブジェクト認識部203は、映像領域分割部202が符号化した映像データに対して、この映像データ中に映るROIの候補となりうるオブジェクトの認識を行う。オブジェクト認識部203が実行するオブジェクト認識の方法は、映像データ中に映る複数のオブジェクトを同時に認識可能な方法であり、映像データ中の各オブジェクトの位置情報(座標情報と大きさ)を認識結果として出力する。なお、オブジェクト認識部203は、送信装置101の外部に配置してもよい。外部に配置された場合のオブジェクト認識部203は、送信装置101から符号化された映像データを受信し、映像データ中のオブジェクトの認識結果である位置情報(座標情報と大きさ)を送信装置101に送信してもよい。
映像領域判別部204は、オブジェクト認識部203が認識したオブジェクトの認識結果である位置情報(座標情報と大きさ)を用いて、映像領域分割部202が分割した映像領域の中からオブジェクトの含まれる映像領域(以下、「オブジェクト領域」という。)を判別する。
セグメント生成部205は、映像セグメントとメタデータセグメントを生成する。映像セグメントは、映像領域判別部204が判別した映像領域(オブジェクト領域)及び全体の映像データを含むデータである。なお、セグメント生成部205は、映像セグメントとして、オブジェクト領域のみを含む映像セグメントを生成してもよい。
一方、メタデータセグメントは、プレイリストの属性情報と、オブジェクトの映像中の座標情報とを含むデータである。プレイリストの属性情報には、例えばオブジェクトの数や映像データの帯域の情報を含む。なお、メタデータセグメントは、座標情報を含むので、座標セグメントとも言い得る。
メタデータセグメントは、オブジェクトの位置情報を含んでいてもよい。この位置情報は、上述したように、映像データ中のオブジェクトの座標情報と、オブジェクトの大きさと、を含むことができる。また、オブジェクトの位置に関する情報であれば、どのような情報でもよく、オブジェクトの輪郭線の情報や、オブジェクトの頂点の座標情報、オブジェクトの向きに関する情報等を含んでいてもよい。また、メタデータセグメント中の座標情報は、上で説明したように、絶対座標でもよいし、相対座標でもよい。
本実施形態における映像セグメントのファイルフォーマットとしては、例えばISOBMFF(Base Media File Format)を利用することができる。ただし、ファイルフォーマットはこれに限らずに、MPEG2TS(MPEG2 Transport Stream)などのフォーマットを利用してもよい。
プレイリスト生成部206(第3の生成手段)は、セグメント生成部205が作成した映像セグメント、メタデータセグメントへのアクセスを可能とするURL(「資源識別子」、または「アクセス識別子」と呼ぶ。)を記述したプレイリストを生成する。本実施形態では、URL(資源識別子)を、映像セグメントへアクセスするための識別子として用いたが、アクセスすることができれば他の識別子やリンク情報を用いてもよい。
通信部207は、受信装置102からの要求に応じて、生成されたプレイリスト及びセグメント(映像セグメント及びメタデータセグメント)を、ネットワーク103を介して受信装置102に送信する。
なお、プレイリストのフォーマットとしてMPEG−DASHで規定されているMPD(Media Presentation Description)を利用することができる。本実施形態ではこのMPDを利用する例を説明するが、“http Livestreaming”におけるプレイリストの記述方法など、MPDと同等の機能を有するフォーマットであればどのようなフォーマットでもよい。
(受信装置102の機能構成)
図3は、本実施形態における受信装置102の機能構成図である。
本実施形態における受信装置102は、表示部301と、復号化部302と、セグメント解析部303と、プレイリスト解析部304と、取得セグメント決定部305と、通信部306と、を備えている。受信装置102は、さらに、ユーザインタフェース部307と、取得オブジェクト決定部308と、を備えている。
表示部301は、復号化部302が復号化した映像セグメントの表示、及びセグメント解析部303がメタデータセグメントに基づき解析したメタデータの表示を行う。なお、表示部301は、必要に応じて映像セグメント内のROIの領域のみを表示してもよい。
復号化部302は、セグメント解析部303が出力する映像ビットストリームの復号化を行い、復号化した映像セグメントを表示部301に供給して表示させる。
セグメント解析部303は、通信部306が出力する映像セグメント及びメタデータセグメントの解析を行う。セグメント解析部303は、映像セグメントを解析して得られた映像ビットストリームを復号化部302に対して出力する。また、セグメント解析部303は、メタデータセグメントを解析して、オブジェクトの座標情報及びプレイリストの属性情報を取得する。取得されたオブジェクトの座標情報は表示部301及び取得オブジェクト決定部308に対して出力される。一方、取得されたプレイリストの属性情報は、プレイリスト解析部304に対して出力される。
プレイリスト解析部304は、通信部306から出力されたプレイリストの解析を行う。また、プレイリスト解析部304は、セグメント解析部303が出力する、メタデータセグメントから得られたプレイリストの属性情報を用いてプレイリストを一部更新する。
取得オブジェクト決定部308は、ユーザインタフェース部307から通知されたユーザ入力と、セグメント解析部303から出力されたオブジェクトの座標情報と、に基づき、ユーザが着目するROIとしてその映像を取得すべきオブジェクトを決定する。
取得セグメント決定部305は、取得オブジェクト決定部308が決定したオブジェクトと、ユーザインタフェース部307が出力するユーザ入力と、に基づき、ROIのオブジェクトを含む取得すべき映像セグメントとその取得タイミングとを決定する。決定された取得セグメントの情報及び取得タイミングとは、通信部306に対して出力される。
通信部306はネットワーク103を介して送信装置101にプレイリスト及びセグメント(映像セグメントおよびメタデータセグメント)を要求し、これらプレイリストおよびセグメント(映像セグメントおよびメタデータセグメント)を受信する。プレイリストは、上述したように、映像セグメントに対するアクセス識別子であるURLを含むデータである。また、プレイリストは、メタデータセグメント(座標セグメント)に対するアクセス識別子であるURLを含むデータである。
ユーザインタフェース部307は、ユーザ入力を受付け、取得オブジェクト決定部308に選択されたオブジェクトをROIとして通知する。なお、本実施形態ではユーザインタフェース部307としてタッチパネルを利用するが、これに限定されず、マウス、キーボード、音声入力その他各種の入力を利用することができる。
(表示される映像の具体例)
図4は、本実施形態において表示される映像の具体例を示す図である。図4(a)は、領域分割前の全体映像401を示す。図4(b)は、全体映像401が領域分割された様子を示す。
図4(b)において、分割された後の映像402中の破線が分割領域間の境界を示す。本実施形態では全体映像401の中に枠406、枠407、枠408でそれぞれ囲まれた3つの領域中にそれぞれオブジェクト406a、407a、408aが認識されていることを想定する。なお、オブジェクトの数は3つに限らず0以上であればよい。
それぞれのオブジェクトを含む領域をROIと推定し、受信装置102がROIの映像データのみを表示する場合、それぞれこれらROIオブジェクトを含む分割領域403、404、405のみを送信装置101より取得すればよい。
受信装置102において、オブジェクト406aのROIを表示したい場合、分割領域403に対応する映像セグメントを取得しそのまま表示してもよいし、あるいは分割領域403中から、ROIのオブジェクト部分409のみを取り出して表示してもよい。
(プレイリストの具体例)
図5および図6を用いて本実施形態におけるプレイリストの具体例について説明する。
図5のプレイリスト501、図6のプレイリスト510は、MPEG−DASHで規定されているMPDのフォーマットに従った実際の記述例である。本実施形態ではMPDのフォーマットの例を示すがこれに限定されず、HLS(HTTP Live Streaming)で規定されている同等のプレイリストその他同等のプレイリストでもよい。プレイリスト501、510はそれぞれ複数のオブジェクトに対して2種類のビットレートのストリームを配信可能とするプレイリストの例である。なお、ビットレートの種類の数については本実施形態では2種類としているがこれに限定されず、3種類以上でもよい。
図5のMPDフォーマット中で、テンプレート502で示すように「$」記号を用いてプレイリスト内の文字列をテンプレート化する方法が規定されている。
本実施形態においては、この方法を拡張したダイナミックテンプレートを提案する。ダイナミックテンプレートは、プレイリスト501、510内の一部属性情報を関連するメタデータストリームに含まれる値に置き換えることで、プレイリスト中の属性情報(映像セグメントの情報)を動的に更新可能とする仕組みである。
これにより、プレイリスト中の映像セグメントと、メタデータセグメント(座標セグメント)とを関連付けることができる。
本実施形態では、図5において、ダイナミックテンプレート503〜505、図6において、ダイナミックテンプレート511〜514がそれぞれ示されている。
なお、本実施形態では、ダイナミックテンプレート中の「!」記号で囲まれた部分が、値を置き換え可能な部分として示しているが、これに限らず他の記号を用いて示してもよい。ダイナミックテンプレート(503〜505等)は、メタデータストリーム内で規定される値によって動的に置換することが可能である。例えばダイナミックテンプレート503の「!ObjectID!」は関連するメタデータストリームを示すリプリゼンテーション508内の情報を用いて更新することができる。このように、本実施形態におけるプレイリスト生成部206(第3の生成手段)は、前記メタデータセグメントの情報に基づき、内容を更新可能な前記プレイリストを生成する。
ダイナミックテンプレート(503〜505等)を更新するためのリプリゼンテーション(508等)は、以下のようにして特定される。例えば、プレイリスト501中のAssociationID(以下、「AID」と略す。)及びAssoiciationType(以下、「AType」と略す。)によって、リプリゼンテーションは特定される。リプリゼンテーション506及び507のリプリゼンテーション属性としてAID=‘Rm’、AType=‘dtpl’と記述する。これにより、リプリゼンテーション508で示すメタデータストリーム(IDが‘Rm’)に対してダイナミックテンプレートとしての関連性を示すことができる。このAtypeの情報は、映像セグメントとメタデータセグメント(座標セグメント)の関連性の情報である。これによって、映像セグメントに対して、メタデータストリーム(メタデータセグメント群)を関連づけることができる。
なお、本実施形態ではダイナミックテンプレートを意味するATypeとして‘dtpl’を示したが、これに限らず別の文字列を、ダイナミックテンプレートを意味するATypeとして用いてもよい。
次に、ダイナミックテンプレートの具体的な使用方法について、プレイリスト501を用いて説明する。プレイリスト501において「!」記号で囲まれた「!ObjectID!」と「!ObjectBW!」属性がそれぞれリプリゼンテーションID‘Rm’で示されるリプリゼンテーション(以下、「リプリゼンテーションRm」と呼ぶ。)によって更新される。例えば時刻tにおけるリプリゼンテーションRmはテンプレート509の情報とBaseURLの情報より、<BaseURL>/Rm−t.mp4のURLに要求することで取得することができる。
図7、図8は、この要求により取得されるストリーム内のメタデータの例を示す。なお、本実施形態においては図7、図8にメタデータの記述例を示すが、これに限らずXML(Extensible Markup Language)やバイナリXMLなどの形式を利用して記述してもよい。また、JSON(JavaScript(登録商標) Object Notation)などのデータ記述言語で記述してもよい。
まず、図7のメタデータ515を説明する。メタデータ515中の、行516の記述により、ObjectID=1、2、3の3つのObjectIDが存在することが記述されている。これは時刻tにおいて映像中に3つのオブジェクトが認識されROIの候補となっていることを意味する。なお、本実施形態では、ObjectID=0は分割前の全体映像を示すこととしている。これにより、メタデータ515に追加の記述の必要なしに全体映像の配信も可能となる。あるいは、全体映像を示すストリームはダイナミックテンプレートを使わずに別のAdaptationsetとして別途プレイリスト501内に記述してもよい。
例えば行517により、ObjectIDが1で示されるオブジェクトをROIとするストリームの帯域幅が2種類存在し、その値が、行517中に示す2種の値であることが判明する。これらの値(帯域幅)を使用して、プレイリストのダイナミックテンプレート503〜505の「!ObjectID!」およびダイナミックテンプレート504、505中の「!ObjectBW!」をそれぞれ時刻tにおける値に更新することができる。例えば時刻tにおけるObjectID=1に対応するROIの映像ストリームは<BaseURL>/1/1_low(もしくはmid)/t.mp4のURLに要求することで取得できる。そのときの帯域幅はそれぞれ1_lowが1000000で1_midが2000000となる。また本実施形態では特定時刻tにおける情報のみを記載したが、複数時刻の情報を一つのメタデータセグメント内に記載してもよい。その場合は、テンプレート502、509で用いるパラメータとして「$Time$」の代わりに例えば「$Number$」を使用すればよい。
以上のようにメタデータセグメント515を用いることで、時刻tにおけるオブジェクトの数及び各オブジェクトをROIとするストリームの帯域幅を更新する。これにより、プレイリスト自体の更新を行うことなく各ROIの映像ストリームを取得することが可能になる。
ただし、図7のメタデータ515のみでは各ObjectIDが画面内のどのオブジェクトに対応するかを知ることができない。そこで、本実施形態では、図8に示すメタデータ518に示すように、オブジェクトの画面内の座標情報をメタデータとして追加する。図8において、行519に示すように画面内の左上端を原点として時刻tにおけるオブジェクトの水平方向位置をx、垂直方向位置をy、画面全体の幅をW、高さをHとしたときのオブジェクトの幅をw、高さをhとして記述している。これにより、各オブジェクトのObjectIDと、それが画面内のどのオブジェクトに対応するかを、受信装置102において対応付け可能となる。
この値を利用し、図9のプレイリスト520中のダイナミックテンプレート521で示されている「urn:mpeg:dash:srd:2014」スキームで規定された各属性値をダイナミックテンプレートとし、メタデータストリームで更新してもよい。
なお、図6に示すように、全てのメタデータを1つのメタデータストリーム配信するのではなく、複数のメタデータトラックに分けて配信してもよい。図6のプレイリスト510において、1つ目のメタデータストリームに、図8で示す行519に相当するオブジェクトの画面内の座標情報を格納することができる。そして、図6のプレイリスト510において、2つ目のメタデータストリームに、図7で示す行516、行517に相当するオブジェクトの数と使用する帯域幅の情報を格納することもできる。
このような記述によって、受信装置102は、必要なオブジェクトのみの座標情報を選択的に取得することが可能となる。この場合ダイナミックテンプレートの解決に用いるメタデータストリームと映像ストリームの関連性は前述の例と同様に、ATypeとして‘dtpl’を用いることによって関連性を表すことができる。すなわち、このダイナミックテンプレートの解決に用いる関連性を表す情報は、ATypeで規定される情報である。
他方、座標情報を含むメタデータストリームと映像ストリームの関連性は、図6のプレイリスト510で示すように、ATypeとして‘rois’を導入することによって表現することができる。この結果、受信装置102は、映像ストリームとメタデータストリームとの関連性を把握することができる。なお、ここでは、座標情報を含むメタデータストリームと映像ストリームとの関連性を示すのに‘rois’を用いているが、これに限らず別の文字列を、座標情報を意味するATypeとして用いてもよい。
(送信装置101における処理)
次に、図10を用いて本実施形態における送信装置101が実行する処理について説明する。
図10に示すように、送信装置101が実行する処理は、主として2種類のタスクによって構成される。一方のタスクは、プレイリストやセグメントデータ処理を行うタスク600であり、他方のタスクは、受信装置102から送信されてきた要求を処理するタスク602である。なお、本タスク構成は、本実施形態における送信装置101の処理構成の一例であるが、単一のタスクで実施することや、より多くの種類のタスクで実施してもよい。
タスク600は、領域分割映像記録604と、プレイリスト作成606と、オブジェクト認識608と、メタデータ記録610と、メタデータセグメント化611と、映像セグメント化612と、を含む。
図2の映像領域分割部202は、撮像部201より取得される映像データを領域分割可能な形で符号化し、記録することによって、領域分割映像記録604を実行する。また、この領域分割映像記録604と並行もしくはほぼ同時に、プレイリスト生成部206は、プレイリスト生成606を実行する。この処理によって、タスク600は、図5、図6、図9で示すようなプレイリスト501、510、520を生成する。
次に、オブジェクト認識部203は、映像データ内のオブジェクトの数及びその座標情報を取得することによって、オブジェクト認識608を実行する。さらに、映像領域判別部204は、各オブジェクトが含まれる映像領域の領域数より各オブジェクトを含む映像データの帯域を計算し、それらの情報を送信装置101の記録装置に記録することによって、メタデータ記録610を実行する。
セグメント生成部205は、このようにして記録されたメタデータ(例えば515、518)を、mp4セグメントとしてセグメント化することによって、メタデータセグメント化611を実行する。なお、本実施形態ではmp4セグメントとしてセグメント化する例を説明したが、MPEG2TSとしてセグメント化してもよい。セグメントの符号化方式はこれらに限定されるものではなく、どのような符号化方式でもよい。なお、mp4は、動画像圧縮符号化の標準規格であるMPEG−4の第14部で規定されているファイルフォーマットを表す。
セグメント処理部205は、タスク600内のこれまで述べた上記各処理の実行と並行して、もしくは各処理の実行に引き続き連続して映像セグメント化612を実行する。具体的には、セグメント生成部205は、領域分割した映像データをそれぞれ異なるmp4セグメント(MPEG2TSなどでもよい)の中に別トラックとして格納することによって、映像セグメント化612を実行する。
一方、タスク602は、プレイリスト送信614と、メタデータセグメント送信616と、objectIDパース618と、オブジェクトベースの再セグメント化622と、映像セグメント送信624と、を含む。
図2の通信部207は、受信装置102からのプレイリスト要求を常に監視し、プレイリスト要求があれば、プレイリスト生成606で生成されたプレイリストを受信装置102に送信することによって、プレイリスト送信614を実行する。同様に、通信部207は、受信装置102からセグメント要求を常に監視し、メタデータセグメント要求があれば、メタデータセグメント化611で記録されたメタデータセグメントを受信装置102に送信する。これによって、通信部207は、タスク602に含まれるメタデータセグメント送信616を実行する。
また、通信部207は、受信装置102からセグメント要求を常に監視する。映像セグメント要求があれば、要求されたObjectIDパース(parse)618により、要求された映像セグメントがどのオブジェクトに対する要求であるかを解析する。
そして、オブジェクトベースの再セグメント化622において、要求されたオブジェクトが含まれる映像領域のみのトラックを抽出した映像セグメントを生成する。
生成した映像セグメント(ROIを含む映像セグメント)は、通信部207を介して受信装置102に送信される。この送信処理は、映像セグメント送信処理624である。
ここで、オブジェクトがすでに画面内から消失した後要求されたオブジェクトに対する映像セグメント及びメタデータセグメントの要求があった場合には、受信装置102に対してエラーを通知してもよい。あるいはこの場合、映像セグメントを送信する代わりに全体映像を送信してもよい。
(受信装置102における処理)
図11、図12を用いて本実施形態における受信装置102の処理について説明する。
受信装置102の処理は主に図11と図12にそれぞれ示す2つのタスクによって構成される。一方のタスク630は、図11に示されるように、プレイリストやセグメントデータ処理を行うタスクである。他方のタスク670は、図12に示すように、ユーザインタフェース部307からの要求を処理するタスクである。なお、ここで説明するタスクの構成は、本実施形態における受信装置102の処理の構成の一例であるが、これを単一のタスクで実施してもよいし、より多くの種類のタスクで実施してもよい。
まず初めに、図11に示すタスク630について説明する。
プレイリスト要求632において、受信装置102の通信部306は、送信装置101に対してプレイリスト要求を送信する。プレイリスト解析634において、通信部306は、送信装置101から送信されてきたプレイリストを受信し、プレイリスト解析部304は、受信したプレイリストの解析を行う。
ダイナミックテンプレート有無判断636において、プレイリスト解析部304は、受信したプレイリストにダイナミックテンプレートがあるかないかの判定を行う。ダイナミックテンプレートの有無の判定は、受信したプレイリスト中において特定文字列の検索を行うことによって可能である。本実施形態では前述したとおり、ダイナミックテンプレート部分を、「!」記号で囲むことよって表しているため、この部分の有無を検索することによってダイナミックテンプレートの有無を判定することができる。この判定において、ダイナミックテンプレートがないと判定された場合は、標準DASH656に進み、標準のDASHにおけるMPD解析の処理を行えばよい。他方、ダイナミックテンプレートが存在すると判定された場合は、ダイナミックテンプレート解決方法判断638に進む。
ダイナミックテンプレート解決方法判断638において、プレイリスト解析部304は、ダイナミックテンプレートを解決する方法があるかの判定を行う。本実施形態では前述したとおり、ATypeを‘dtpl’にすることによって関連付けられたメタデータストリームを取得し、取得したメタデータストリームを用いてダイナミックテンプレートを解決することができる。ここで、関連するメタデータストリームが存在しない場合は、ダイナミックテンプレートの解決を不可能と判定し、プレイリストパージ640に進む。関連するメタデータストリームが存在し、ダイナミックテンプレートを解決する方法があると判定した場合は、メタデータセグメント要求642に進む。メタデータセグメント要求642において、通信部306は、送信装置101に対してメタデータセグメントの要求を送信する。
プレイリストパージ640において、プレイリスト解析部304は、ダイナミックテンプレートに関連する箇所をプレイリストから除去する。その後、標準DASH656に移行し、標準のDASHにおけるMPD解析の処理を実行する。
メタデータ解析644において、通信部306は、メタデータセグメントを受信し、受信したメタデータセグメントの解析を行う。
テンプレートパラメータ選択648において、セグメント解析部303は、メタデータ解析644において解析したメタデータセグメントの情報を用いて、メタデータセグメント中のどの値をテンプレートの値(パラメータ)として用いるか選択する。テンプレートパラメータの選択の具体的な方法は、図13を用いて後述する。
テンプレート更新650において、プレイリスト解析部304は、テンプレートパラメータ選択648において選択したテンプレートパラメータを用いてプレイリスト内のダイナミックテンプレートを更新する。すなわち、受信したメタデータセグメント(座標セグメント)を解析し、プレイリスト中のどのテンプレートパラメータを更新するべきかをセグメント解析部303が決定している。そして、プレイリスト解析部304は、セグメント解析部303が決定したメタデータセグメント(座標セグメント)の更新内容に基づき、プレイリストを更新する。
映像セグメント要求652において、取得セグメント決定部305は、更新されたプレイリストの情報を用いて映像セグメントを決定し、決定した映像セグメントを、ユーザが選択したROIの映像セグメントとして送信装置101に対して要求する。
復号化と再生654において、通信部306は、上記要求に係る映像セグメントを受信し、セグメント解析部303は、受信した映像セグメントからビットストリームを抽出する。また、復号化と再生654において、復号化部302は、抽出したビットストリームを復号化し、表示部301は、復号化されたビットストリームを表示する。このとき、セグメント解析部303は、メタデータ解析644におけるメタデータ解析の処理において得ていたオブジェクトの数や座標情報、帯域の情報を表示部301に出力し、表示部301は出力された情報を必要に応じて表示してもよい。
次に、メタデータセグメント要求642に戻り、処理を繰り返す。このように、図11のフローチャートで示されるタスクは、以降、映像ストリーミングが終了するまで同様の処理を繰り返す。
次に、図12のフローチャートで示されるタスク670について説明する。
ユーザ入力待ち672において、ユーザインタフェース部307は、ユーザ入力待ち処理を実行する。ユーザ入力有無判断674において、ユーザインタフェース部307は、ユーザ入力があるかないかの判定を行う。ユーザ入力がなければ、ユーザ入力待ち672に戻りこれを繰り返し、ユーザ入力があればユーザ入力解析676に進む。ユーザ入力解析676において、ユーザインタフェース部307は、ユーザ入力の解析を行う。ユーザ入力反映678において、ユーザインタフェース部307は、解析した結果を受信装置102内に反映する。
具体的なユーザ入力とその反映の例については図13を用いて以下で説明する。
(テンプレートパラメータ選択方法とユーザインタフェース)
テンプレートパラメータ選択方法及びユーザインタフェースの具体例ついて図13を用いて説明する。図13は、本実施形態における受信装置102のユーザインタフェース部307の一具体例であるタッチパネルの外観を示す説明図である。なお、本実施形態におけるユーザインタフェース部307の一具体例として図13を挙げるが、ユーザインタフェース部307は、同等の機能を有するものであればこれに限定されない。
図13(a)には、オブジェクト選択前のユーザインタフェース部307の一つの表示画面701が示されている。また、図13(b)には、オブジェクト選択後のユーザインタフェース部307の表示画面706が示されている。図13(a)および図13(b)には、プレイリストのURLを入力可能とする入力ボックス702と、入力ボックス702に入力されたURLに対してプレイリスト取得を発行するときに押下するロードボタン703と、が示されている。
上述したユーザ入力有無判断674において、ユーザインタフェース部307は、このロードボタン703の押下を検出した場合、ユーザ入力解析676において、ユーザインタフェース部307は、ユーザ入力の解析を行う。ユーザ入力反映678において、ユーザインタフェース部307は、この解析の結果、プレイリストの要求がなされたことを受信装置102内において反映する。その結果、このようにして、図11に示すタスクにおけるプレイリスト要求632が開始される。
なお、ユーザがURLを入力ボックス702に入力する場合、ユーザインタフェース部307は、URLのリスト(候補)を表示して、表示したリスト(候補)中から所望のURLを選択させてもよい。また、URLを固定したい場合は、あらかじめユーザが設定(固定)したURLを、固定で入力ボックス702に表示させるように構成してもよい。さらに、事前に決められたURLのみに取得要求を出すような場合は、入力ボックス702をユーザインタフェース部307は表示しないように構成してもよい。
図13(a)において、映像が表示される枠704が示されており、また図13(b)において、映像が表示される枠707が示されている。また、図13(a)および図13(b)には、はユーザが視聴したい時刻を設定するためのスライドバー708が示されている。ユーザは、スライドバー708を操作することで、全ストリーム中のどの部分を視聴したいかを選択することができる。
ユーザ入力解析676において、ユーザインタフェース部307は、スライドバー708の操作を検出した場合、ユーザ入力反映678において、ユーザインタフェース部307は、この操作を取得セグメント決定部305に送信する。その結果、映像セグメント要求652において、セグメント決定部305は、ユーザが視聴したい時刻の情報が反映されるように、要求される映像セグメントの時刻を更新する。
また、上述したテンプレートパラメータ選択648において、セグメント解析部303は、用いるテンプレートの値(パラメータ)を選択しているが、それに替えて、全体映像を表すようにパラメータを選択してもよい。映像の再生の最初においては、ユーザが、画面内のオブジェクトを選択しやすくさせるために、領域を限定せずに全体映像を表示させたものである。この場合、例えば、1回目のテンプレートパラメータ選択648において、セグメント解析部303は、メタデータ515中のObjectID=0で示される情報を選択することができる。
また、全体映像のストリームが、ダイナミックテンプレートを使わない別のAdaptationSetとして記述されている場合は、初めは当該別のAdaptationSetを単純に取得してもよい。このとき、受信装置102側の処理としては、セグメント解析部303は、前述したようにメタデータ518中の行519を一例とするオブジェクトの座標情報を取り出し、取り出した座標情報を表示部301に渡すことができる。このような処理によって、ユーザインタフェース部307は、表示部301にオブジェクトの座標情報を枠710,711,712として表示させることができる。
図13の表示例701で示すように、表示部30lは、同じ時刻情報を持つ映像データとメタデータを映像にオーバーレイする形で表示することができる。このような表示によって、表示部301は、ユーザに対して、全体の映像と、そのとき全体映像に含まれるオブジェクトの座標情報と、を共に示すことができる。
表示部301がユーザに表示例701を表示させた状態の映像を提示した後、ユーザは着目したいオブジェクトをユーザインタフェース部307上で選択する。これにより、表示例706に示すように、着目したいオブジェクトのみの映像を表示させることが可能になる。
図13(a)において、例えば枠710で示されたオブジェクトが、ユーザによって着目したいオブジェクトとして選択された場合、その選択されたオブジェクトを含む映像が、例えば図13(b)に示すように表示される。
ユーザの選択の方法としては、例えば、ユーザインタフェース部307は、ユーザのタッチ入力やマウス入力を検出して、枠710で示される枠内が押下されたと判断することができる。このような判断がなされた場合に、ユーザインタフェース部307は、該当する枠(710等)が対応するObjectIDのオブジェクトが選択されたと判定することができる。本実施形態では入力の一例として、ユーザによるタッチやマウスを具体例に挙げたが、これに限らずキーボード、音声などの入力でもよい。
ユーザ入力解析676において、ユーザインタフェース部307は、オブジェクトの選択を検出した場合、ユーザ入力反映678において、ユーザインタフェース部307は選択したオブジェクト情報を反映する処理を実行する。この反映に従って、テンプレートパラメータ選択648において、セグメント解析部303は、選択するパラメータを決定する。例えば枠710内がユーザ入力により押下された場合、ユーザインタフェース部307は、枠704内における枠710の相対的な座標情報を取得する。そして、ユーザインタフェース部307は、取得した座標情報を取得オブジェクト決定部308に送信する。
取得オブジェクト決定部308は、この相対的な座標情報及びセグメント解析部303が解析したメタデータから得られるObjectIDとその座標の対応関係から、画面上で選択されたオブジェクトが対応するObjectIDを割り出すことができる。取得オブジェクト決定部308は、割り出したこのObjectIDの情報を取得セグメント決定部305に渡す。このような処理によって、受信装置102の処理で前述したように、取得セグメント決定部305は、ダイナミックテンプレートを更新し、取得する映像セグメントを決定することができる。オブジェクト選択後の画面表示としては表示例706に示すように選択されたオブジェクトのみを表示することができる。このとき、取得される映像データとしては、例えば、分割領域群403で示すように4つの分割領域の組合せとすることもできる。表示する部分は分割領域群403全体でもよいし、切り出した領域409の部分のみをオブジェクトの座標情報を用いてクロップ(crop)して表示してもよい。
オブジェクト選択後の画面表示状態から再度他のオブジェクトを選択可能な状態に戻りたい場合に、表示例701の全体映像を表示したい場合がある。この場合は、ユーザは、枠707内の任意の点をユーザ入力によって押下してもよいし、別途、全体映像に戻るためのボタンなどを用意してユーザに押下させても良い。また、ユーザが全体映像の表示に戻りたい場合は、テンプレートパラメータ選択648において、ObjectID=0番を選択した初期の状態に戻してもよい。
<変形例>
変形例として、初めにユーザに着目するオブジェクトを選択させるために、枠704内で映像を流す前に、受信装置102は、ユーザが視聴したい映像セグメント内の初めのフレームを静止画として表示させてもよい。表示は、受信装置102の表示部301が実行することができる。この場合、通信部306は、取得する映像セグメントとしては、ユーザが視聴したい初めのフレームを含む映像セグメントのみを送信装置101から取得すればよい。また、通信部306は、メタデータセグメントもユーザが視聴したい初めのフレームの時刻に対応するもののみを送信装置101から取得すればよい。そして、本実施形態で説明した方法と同様に、ユーザに選択を行わせた時点で選択されたオブジェクトを含む映像セグメントを送信装置101に要求すればよい。
(シーケンス図)
図14、図15に示すシーケンス図を用いて、本実施形態における送信装置101と受信装置102の間の送受信の具体例について説明する。
図12のユーザ入力解析676において、ユーザインタフェース部307は、プレイリスト要求のユーザ入力が検出する。すると、ユーザ入力反映678において、ユーザインタフェース部307は、その入力内容を受信装置102における処理に反映し、図14の本シーケンスは開始する。
M1において、受信装置102は、送信装置101に対してプレイリスト要求を送信する。この処理は、プレイリスト要求632の処理に相当する。M2において、送信装置101は、プレイリスト要求に対する応答であるプレイリスト応答として、プレイリスト生成606において生成したプレイリストを受信装置102に送信する。ここで、送信装置101内でプレイリスト生成606が完了しておらず、プレイリストの送信準備が完了していない場合は、M2において送信装置101の通信部207はエラーを応答してもよい。
M3において、受信装置102は、受信したプレイリストを用いてプレイリスト解析を行う。これはプレイリスト解析634、ダイナミックテンプレート有無判断636、ダイナミックテンプレート解決方法判断638、プレイリストパージ640の処理に相当する。M4において、受信装置102は、M3におけるプレイリストの解析結果に従って、送信装置101に対してユーザが視聴したい時刻に対応するメタデータセグメント要求を送信する。これはメタデータセグメント要求642の処理に相当する。
M5において、送信装置101は、メタデータセグメント応答として、メタデータセグメント化611において生成したメタデータセグメントを送信する。M5において、送信装置101内でメタデータセグメント化611が完了しておらず、メタデータセグメントの送信準備が完了していない場合は、送信装置101の通信部207はエラーを応答してもよい。
M6において、受信装置102は、受信したメタデータセグメントを用いてメタデータ解析、テンプレート更新を行う。これはメタデータ解析644、テンプレートパラメータ選択648、テンプレート更新650の処理に相当する。M7において、受信装置102は、メタデータ解析、テンプレート更新の結果に従って送信装置101に対してユーザが視聴したいオブジェクト、及び時刻に対応する映像セグメント要求(映像セグメント配信要求)を送信する。これは映像セグメント要求652の処理に相当する。
M8において、送信装置101は、映像セグメント応答として、映像セグメント化612において生成した映像セグメントを受信装置102に対して送信する。ここで、送信装置101内で映像セグメント化612が完了しておらず、映像セグメントの送信準備が完了していない場合は、M8において送信装置101の通信部207はエラーを応答してもよい。M9において、受信装置102は、受信した映像セグメントを用いて映像の復号化、再生を行う。これは復号化と再生654に相当する処理である。
L1において、以降、M4からM9までの処理を繰り返し行う。
図15は、テンプレートパラメータ選択方法と、本実施形態において説明したユーザインタフェース部307の動作の場合のシーケンス図を示す。図15のM1からM8までは、図14のM1からM8の処理と同様のため説明を割愛する。図15のM9bの復号化、再生処理においては1フレーム分の復号化のみを行い静止画としての表示を行う点が、図14のM9と異なる。
M10において、受信装置102は、ユーザがオブジェクト選択を行う。M11において、受信装置102は、ユーザによって選択されたオブジェクトに応じて、送信装置101に対して映像セグメント要求を送信する。この処理は、テンプレートパラメータ選択648、テンプレート更新650、映像セグメント要求652の処理に対応する。
M12およびM13については、それぞれ図12におけるM8およびM9と同様の処理のため説明を割愛する。
ループ処理L3において、選択オブジェクトや視聴時刻の変更要求がない限りM11からM13までの処理が繰り返し実行される。選択オブジェクトや視聴時刻の変更要求がされるとループ処理L3を抜けてループ処理L2の処理に戻る。すなわち、再びM4の処理から開始されて、ループ処理L3の繰り返しの処理に至る。
本実施形態において、選択オブジェクトや視聴時刻の変更要求は、前述したようにユーザインタフェース部307がユーザ入力を受けることによって発生させてもよい。また、オブジェクトが画面内から消失した場合に送信装置101から送信されるエラー情報もしくは、全体映像の受信をトリガーとして発生させてもよい。
(ハードウエア構成例)
図16は、上記各実施形態の各部を構成することのできるコンピュータ810の構成の例を示す。例えば、図2に示す送信装置101を、コンピュータ810で構成することができる。また、図3に示す受信装置102に含まれる各部を、コンピュータ810で構成することもできる。
CPU811は、ROM812、RAM813、外部メモリ814等に格納されたプログラムを実行することによって、上記各実施形態の各部を実現する。ROM812、RAM813は上記CPUが実行するプログラムや各種データを保持することができる。RAM813は、上述したプレイリスト501やメタデータ515等を保持することができる。
また、外部メモリ814は、ハードディスク、光学式ディスクや半導体記憶装置等で構成してよく、映像セグメント等を格納してもよい。また、撮像部815は、撮像部201を構成してもよい。
入力部816は、ユーザインタフェース部307を構成することができる。キーボードやタッチパネルで構成することができるが、マウス等のポインティングデバイスや各種スイッチで構成してもよい。
表示部817は、図3の表示部301を構成することができ、各種ディスプレイで構成することができる。通信I/F818は、外部と通信を行うインターフェースであり、図2の通信部207や図3の通信部306を構成することができる。また、コンピュータ810の上記説明した各部はバス819によって相互に接続されている。
(その他の実施形態)
本発明は、以下の処理を実行することによっても実現される。
即ち、上述した実施形態の1以上の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給することができる。そして、そのシステム或いは装置のコンピュータ(またはCPUやMPUまたは1つ以上のプロセッサ等)がプログラムを読み出して実行する処理で上述した各処理を実現することもできる。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
101・・・送信装置、102・・・受信装置、103・・・ネットワーク、201・・・撮像部、202・・・映像領域分割部、203・・・オブジェクト認識部、204・・・映像領域判別部、205・・・セグメント生成部、206・・・プレイリスト生成部、207・・・通信部、301・・・表示部、302・・・復号化部、303・・・セグメント解析部、304・・・プレイリスト解析部、305・・・取得セグメント決定部、306・・・通信部、307・・・ユーザインタフェース部、308・・・取得オブジェクト決定部

Claims (13)

  1. 映像データを複数の映像領域に分割する分割手段と、
    前記分割手段により分割された前記複数の映像領域の中から、オブジェクトが含まれる映像領域であるオブジェクト領域を判別する判別手段と、
    前記判別手段により判別された前記オブジェクト領域の映像データを含む映像セグメントを生成する第1の生成手段と、
    前記判別手段により判別されたオブジェクト領域の前記オブジェクトの識別子と前記オブジェクトの前記映像データ中の座標情報と前記オブジェクトの大きさの少なくとも何れかを含む位置情報と、を含むメタデータセグメントを生成する第2の生成手段と、
    前記映像セグメントを取得するための第1の資源識別子と、前記メタデータセグメントを取得するための第2の資源識別子とを記述したプレイリストを生成する第3の生成手段と
    前記プレイリストを受信した他の通信装置からの前記第2の資源識別子を指定した要求に応じて、前記第2の生成手段により生成された前記メタデータセグメントを前記他の通信装置へ送信する第1の送信手段と、
    前記第1の送信手段により送信されたメタデータセグメントを受信した前記他の通信装置からの前記第1の資源識別子を指定した要求に応じて、前記第1の生成手段により生成された前記映像セグメントを前記他の通信装置へ送信する第2の送信手段と、
    を具備することを特徴とする通信装置。
  2. 前記第3の生成手段は、前記映像セグメントと前記メタデータセグメントとの関連を示す情報を記述した前記プレイリストを生成することを特徴とする請求項1に記載の通信装置。
  3. 前記第1及び第2の資源識別子はURL(Uniform Resource Locator)であることを特徴とする請求項またはに記載の通信装置。
  4. 前記メタデータセグメントは、前記プレイリストの属性情報を含み、
    前記プレイリストの属性情報は、少なくとも、前記オブジェクトの数、前記映像データの帯域、のいずれかを含むことを特徴とする請求項からのいずれか1項に記載の通信装置。
  5. 前記第1の生成手段は、さらに、前記全体の映像データも含む映像セグメントを生成することを特徴とする請求項1からのいずれか1項に記載の通信装置。
  6. 前記第1の生成手段によって生成される映像セグメントは、ファイルフォーマットとしてISOBMFF(Base Media File Format)を利用して生成され、前記第3の生成手段によって生成されるプレイリストは、MPEG−DASHで規定されているMPD(Media Presentation Description)を利用して生成されることを特徴とする請求項1から5のいずれか1項に記載の通信装置。
  7. 映像データが複数の映像領域に分割され、分割された映像データの中のオブジェクトが含まれる映像領域に対応する映像セグメントを取得するための第1の資源識別子と、前記オブジェクトの識別子と前記オブジェクトの前記映像データ内の座標情報及び/又は前記オブジェクトの大きさとを含む位置情報とを含むメタデータセグメントを取得するための第2の資源識別子とが記述されたプレイリストを受信する第1の受信手段と、
    前記第1の受信手段により受信されたプレイリストに記述された前記第2の資源識別子を選択する選択手段と、
    前記選択手段により選択された第2の資源識別子に対応するメタデータセグメントの要求を他の通信装置へ送信する第1の送信手段と、
    前記第1の送信手段によって送信された要求に応じて前記他の通信装置から送信される前記メタデータセグメントを受信する第2の受信手段と、
    前記第2の受信手段により受信されたメタデータセグメントに基づいて、前記第1の資源識別子に対応する映像セグメントの要求を前記他の通信装置へ送信する第2の送信手段と、
    を具備することを特徴とする通信装置。
  8. 前記映像セグメントは、ファイルフォーマットとしてISOBMFF(Base Media File Format)を利用して生成され、前記プレイリストは、MPEG−DASHで規定されているMPD(Media Presentation Description)を利用して生成されることを特徴とする請求項7に記載の通信装置。
  9. 前記第2の送信手段によって送信された要求に応じて前記他の通信装置から送信される前記映像セグメントを受信する第3の受信手段と、
    前記第3の受信手段によって受信された映像セグメントを復号化して出力する処理手段と、
    をさらに具備することを特徴とする請求項7又は8に記載の通信装置。
  10. ネットワークと、
    前記ネットワークに接続する前記請求項1からのいずれか1項に記載の通信装置と、
    前記ネットワークに接続する前記請求項からのいずれか1項に記載の通信装置と、
    を具備することを特徴とする通信システム。
  11. 映像データを複数の映像領域に分割するステップと、
    前記分割するステップにおいて分割された前記複数の映像領域の中から、オブジェクトが含まれる映像領域であるオブジェクト領域を判別するステップと、
    前記判別するステップにおいて判別された前記オブジェクト領域の映像データを含む映像セグメントを生成するステップと、
    前記判別するステップにおいて判別されたオブジェクト領域の前記オブジェクトの識別子と前記オブジェクトの前記映像データ中の座標情報と前記オブジェクトの大きさの少なくとも何れかを含む位置情報とを含むメタデータセグメントを生成するステップと、
    前記映像セグメントを取得するための第1の資源識別子と、前記メタデータセグメントを取得するための第2の資源識別子とを記述したプレイリストを生成するステップと、
    前記プレイリストを受信した他の通信装置からの前記第2の資源識別子を指定した要求に応じて、前記生成するステップにおいて生成された前記メタデータセグメントを前記他の通信装置へ送信するステップと、
    前記送信するステップにおいて送信されたメタデータセグメントを受信した前記他の通信装置からの前記第1の資源識別子を指定した要求に応じて、前記映像セグメントを生成するステップにおいて生成された前記映像セグメントを前記他の通信装置へ送信するステップと、
    を含むことを特徴とする通信制御方法。
  12. 映像データが複数の映像領域に分割され、分割された映像データの中のオブジェクトが含まれる映像領域に対応する映像セグメントを取得するための第1の資源識別子と、前記オブジェクトの識別子と前記オブジェクトの前記映像データ内の座標情報及び/又は前記オブジェクトの大きさとを含む位置情報とを含むメタデータセグメントを取得するための第2の資源識別子とが記述されたプレイリストを受信するステップと、
    前記受信するステップにおいて受信されたプレイリストに記述された前記第2の資源識別子」を選択させるステップと、
    前記選択させるステップにおいて選択された第2の資源識別子に対応するメタデータセグメントの要求を他の通信装置へ送信するステップと、
    前記送信するステップにおいて送信された要求に応じて前記他の通信装置から送信される前記メタデータセグメントを受信するステップと、
    前記メタデータセグメントを受信するステップにおいて受信されたメタデータセグメントに基づいて、前記第1の資源識別子に対応する映像セグメントの要求を前記他の通信装置へ送信するステップと、
    を含むことを特徴とする通信制御方法。
  13. コンピュータを、請求項1から請求項のいずれか1項に記載の通信装置の各手段として機能させるためのコンピュータプログラム。
JP2016019295A 2016-02-03 2016-02-03 通信装置、通信システム、通信制御方法およびコンピュータプログラム Active JP6624958B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2016019295A JP6624958B2 (ja) 2016-02-03 2016-02-03 通信装置、通信システム、通信制御方法およびコンピュータプログラム
CN201780009846.3A CN108605149A (zh) 2016-02-03 2017-01-26 通信装置、通信控制方法和计算机程序
EP17705184.4A EP3412030A1 (en) 2016-02-03 2017-01-26 Communication apparatus, communication control method, and computer program
KR1020187024453A KR102087533B1 (ko) 2016-02-03 2017-01-26 통신 장치, 통신 제어 방법, 및 컴퓨터 프로그램
US16/074,693 US20190045269A1 (en) 2016-02-03 2017-01-26 Communication apparatus, communication control method, and computer program
PCT/JP2017/002656 WO2017135133A1 (en) 2016-02-03 2017-01-26 Communication apparatus, communication control method, and computer program
US17/148,396 US20210136455A1 (en) 2016-02-03 2021-01-13 Communication apparatus, communication control method, and computer program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016019295A JP6624958B2 (ja) 2016-02-03 2016-02-03 通信装置、通信システム、通信制御方法およびコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2017139628A JP2017139628A (ja) 2017-08-10
JP6624958B2 true JP6624958B2 (ja) 2019-12-25

Family

ID=58044119

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016019295A Active JP6624958B2 (ja) 2016-02-03 2016-02-03 通信装置、通信システム、通信制御方法およびコンピュータプログラム

Country Status (6)

Country Link
US (2) US20190045269A1 (ja)
EP (1) EP3412030A1 (ja)
JP (1) JP6624958B2 (ja)
KR (1) KR102087533B1 (ja)
CN (1) CN108605149A (ja)
WO (1) WO2017135133A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6843655B2 (ja) * 2017-03-09 2021-03-17 キヤノン株式会社 送信装置、受信装置、情報処理方法及びプログラム
CN108366303A (zh) * 2018-01-25 2018-08-03 努比亚技术有限公司 一种视频播放方法、移动终端及计算机可读存储介质
KR102659489B1 (ko) * 2018-03-15 2024-04-23 소니그룹주식회사 정보 처리 장치, 정보 처리 장치 및 프로그램
CN108449623B (zh) * 2018-03-27 2021-07-27 卓米私人有限公司 抓取物体的控制方法、服务器和目标客户端
JP7304508B2 (ja) * 2019-02-19 2023-07-07 株式会社シンクアウト 情報処理システムおよび情報処理プログラム
CN113574903B (zh) 2019-03-14 2023-07-28 诺基亚技术有限公司 针对媒体内容中的后期绑定的方法和装置
JP2020150516A (ja) * 2019-03-15 2020-09-17 シャープ株式会社 画像復号装置及び画像符号化装置
US10715871B1 (en) * 2019-03-27 2020-07-14 Verizon Patent And Licensing, Inc. Determining an end screen time for displaying an end screen user interface
JP7280495B2 (ja) * 2019-04-01 2023-05-24 日本電信電話株式会社 情報処理システム、コンテンツ生成装置、コンテンツ提示装置、コンテンツ生成方法、コンテンツ提示方法およびプログラム
US10547915B1 (en) * 2019-07-19 2020-01-28 Look At Me, Inc. System and method for optimizing playlist information for ultra low latency live streaming
JP7442302B2 (ja) * 2019-11-22 2024-03-04 キヤノン株式会社 データ処理装置およびその制御方法、プログラム
CN112437318A (zh) * 2020-11-09 2021-03-02 北京达佳互联信息技术有限公司 一种内容显示方法、装置、系统及存储介质
US11902625B2 (en) * 2021-06-29 2024-02-13 Rovi Guides, Inc. Systems and methods for providing focused content
EP4287058B1 (en) * 2022-05-31 2024-04-10 Axis AB A device and a method for signing a metadata frame corresponding to an image frame of a sequence of image frames

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003111050A (ja) * 2001-09-27 2003-04-11 Olympus Optical Co Ltd 映像配信サーバ及び映像受信クライアントシステム
US8832753B2 (en) * 2008-01-16 2014-09-09 Apple Inc. Filtering and tailoring multimedia content based on observed user behavior
US8621000B2 (en) * 2011-03-23 2013-12-31 Verizon Patent And Licensing Inc. Region of interest streaming
GB2505912B (en) 2012-09-14 2015-10-07 Canon Kk Method and device for generating a description file, and corresponding streaming method
EP2907313A1 (en) * 2012-10-12 2015-08-19 Canon Kabushiki Kaisha Method and corresponding device for streaming video data
WO2014063730A1 (en) * 2012-10-24 2014-05-01 Huawei Technologies Co., Ltd. Communication receiver
KR20140092211A (ko) * 2013-01-15 2014-07-23 삼성전자주식회사 미디어 컨텐츠 재생 중에 가상 카메라 기능을 수행하는 방법 및 장치
CN104956645B (zh) * 2013-01-16 2018-04-27 华为技术有限公司 自适应流中的url参数插入和添加
GB2513303B (en) * 2013-04-16 2017-06-07 Canon Kk Method and device for partitioning an image
CN110087093A (zh) * 2013-04-19 2019-08-02 索尼公司 信息处理装置和方法以及非暂态计算机可读介质
CN106233745B (zh) * 2013-07-29 2021-01-15 皇家Kpn公司 向客户端提供瓦片视频流
EP3062522A4 (en) * 2013-10-22 2017-07-05 Sharp Kabushiki Kaisha Display control device, delivery device, display control method, and display control system
CN105191303B (zh) * 2014-02-21 2018-08-21 华为技术有限公司 处理视频的方法、终端和服务器
JP6541309B2 (ja) * 2014-06-23 2019-07-10 キヤノン株式会社 送信装置、送信方法、及びプログラム
EP3162074A1 (en) * 2014-06-27 2017-05-03 Koninklijke KPN N.V. Determining a region of interest on the basis of a hevc-tiled video stream
JP6324238B2 (ja) * 2014-06-30 2018-05-16 キヤノン株式会社 動画再生装置、動画再生方法及びそのプログラム、動画配信装置、動画配信方法及びそのプログラム

Also Published As

Publication number Publication date
JP2017139628A (ja) 2017-08-10
EP3412030A1 (en) 2018-12-12
US20190045269A1 (en) 2019-02-07
KR102087533B1 (ko) 2020-03-10
CN108605149A (zh) 2018-09-28
KR20180105690A (ko) 2018-09-28
US20210136455A1 (en) 2021-05-06
WO2017135133A1 (en) 2017-08-10

Similar Documents

Publication Publication Date Title
JP6624958B2 (ja) 通信装置、通信システム、通信制御方法およびコンピュータプログラム
JP6501933B2 (ja) Xmlドキュメントの生成装置、生成方法、情報処理装置、情報処理方法、及びプログラム
CN107534796B (zh) 视频处理系统和数字视频分发系统
US10187668B2 (en) Method, system and server for live streaming audio-video file
US10171541B2 (en) Methods, devices, and computer programs for improving coding of media presentation description data
US11917221B2 (en) Encoding device and method, reproduction device and method, and program
JP5267165B2 (ja) ストリーミング配信システム、その動作制御方法及びプログラム
US20130297466A1 (en) Transmission of reconstruction data in a tiered signal quality hierarchy
JP2017515336A (ja) 分割タイムドメディアデータのストリーミングを改善するための方法、デバイス、およびコンピュータプログラム
JP6669403B2 (ja) 通信装置、通信制御方法および通信システム
US10911809B2 (en) Communication apparatus, communication method, and program
CN108737884B (zh) 一种内容录制方法及其设备、存储介质、电子设备
CN111903136B (zh) 信息处理装置、信息处理方法和计算机可读存储介质
JP7442302B2 (ja) データ処理装置およびその制御方法、プログラム
US20230112894A1 (en) Information processing apparatus, information processing method, and storage medium
US20230156257A1 (en) Information processing apparatus, information processing method, and storage medium
JP6587539B2 (ja) 送信装置、情報処理方法及びプログラム
US20230276105A1 (en) Information processing apparatus, information processing apparatus, and program
JP6506084B2 (ja) 動画再生装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190131

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190521

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190717

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191029

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191126

R151 Written notification of patent or utility model registration

Ref document number: 6624958

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D03