Nothing Special   »   [go: up one dir, main page]

JP4787963B2 - 経路推定装置およびその制御方法、経路推定装置制御プログラム、ならびに該プログラムを記録した記録媒体 - Google Patents

経路推定装置およびその制御方法、経路推定装置制御プログラム、ならびに該プログラムを記録した記録媒体 Download PDF

Info

Publication number
JP4787963B2
JP4787963B2 JP2006218906A JP2006218906A JP4787963B2 JP 4787963 B2 JP4787963 B2 JP 4787963B2 JP 2006218906 A JP2006218906 A JP 2006218906A JP 2006218906 A JP2006218906 A JP 2006218906A JP 4787963 B2 JP4787963 B2 JP 4787963B2
Authority
JP
Japan
Prior art keywords
energy
route
active net
target image
route estimation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006218906A
Other languages
English (en)
Other versions
JP2008046686A (ja
Inventor
美紀 長谷山
宏史 今
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hokkaido University NUC
Original Assignee
Hokkaido University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hokkaido University NUC filed Critical Hokkaido University NUC
Priority to JP2006218906A priority Critical patent/JP4787963B2/ja
Publication of JP2008046686A publication Critical patent/JP2008046686A/ja
Application granted granted Critical
Publication of JP4787963B2 publication Critical patent/JP4787963B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Processing Or Creating Images (AREA)

Description

本発明は、複数の自律型移動体が、味方および敵方に分かれて、或る対象物を奪い合う行動に関して、上記対象物を味方に送る経路を推定する経路推定装置およびその制御方法、経路推定装置制御プログラム、ならびに該プログラムを記録した記録媒体に関するものである。具体的には、本発明は、サッカー等の球技におけるパスコースを推定する経路推定装置などに関するものである。
近時、インターネットにおける通信速度の向上やデジタル放送の開始に伴い、デジタル映像が多数配信されている。また、HDD(Hard Disk Drive)レコーダやDVD(Digital Versatile Disk)の利用が急速に広がり、個人が大量のデジタル映像を保存することが可能になっている。このため、ユーザが大量のデジタル映像の中から見たい映像や場面を検索するシステムの開発が求められており、現在、デジタル映像のインデキシングや内容の自動要約等の技術について多くの研究および開発が行われている(例えば、非特許文献1〜4を参照。)。また、ユーザがデジタル映像を視聴する場合に、デジタル映像の内容を自動的に解析し、映像内容を分かり易く伝える技術の研究および開発も行われている(例えば、非特許文献5・6を参照。)。
特に、スポーツ映像は、多様な試合の展開やチームの戦術などが存在するために、映像内容を正確に把握することが困難な場合がある。このため、試合の内容やチームの戦術を表現する技術は重要となる。スポーツ映像における試合の展開やチームの戦術を解析し、表現するためには、各スポーツの理論や戦術に基づいた手法が必要となる。なお、以下では、スポーツ映像の中でも視聴者が多いサッカー映像について説明する。
現在、サッカー映像に対して画像処理や音声処理を行い、得点やファウルなどの重要なイベントが発生する場面を検出する手法が提案されている(例えば、非特許文献7〜9を参照。)。該手法を利用することにより、大量のサッカー映像の中から重要な場面の検索が可能となる。
長谷山美紀,「ユーザが望む映像を提供するために−画像認識とクラスタリングそして意味理解への発展−」,映情学技報,vol.29,no.47,pp.49-52,2005 牛尼剛聡、外2名,「利用者の視点に基づくシーン検索のためのイベント−アクティビティモデル」,信学論(D-I),vol. J82-D-I,no.1,pp.256-267,Jan. 1999 新田直子,馬場口登,「放送型スポーツ映像の意味内容獲得のためのストーリー分割法」,信学論(D-II),vol.J86-D-II,no.8,pp.1222-1233,Aug. 2003 宮森恒,「映像と音響情報の協調による内容検索のためのテニス動作自動注釈付け」,信学論(D-II),vol.J86-D-II,no.4,pp.511-524,Apr. 2003 三須俊彦、外5名,「実時間画像処理に基づくオフサイドライン可視化システム」,信学論(D-II),vol.J88-D-II,no.8,pp.1681-1692,Aug. 2005 稲本奈穂,斎藤英雄,「多視点スポーツ映像からの自由視点映像合成と提示」,信学論(D-II),vol.J88-D-II,no.8,pp.1693-1701,Aug. 2005 A. Ekin、外2名,"Automatic soccer video analysis and summarization",IEEE Trans. on Image Processing,vol.12,pp.786-807,Jul. 2003 B. Li、外2名,"A general framework for sports video summarization with its application to soccer",IEEE Int. Conf. Acoustics,Speech and Signal Processing,vol. 3,pp.169-172,2003 R. Leonardi、外2名,"Semantic indexing of soccer audio-visual sequences: a multimodal approach based on controlled markov chains",IEEE Trans. Circuits and Systems For Video Technology,vol. 14,no. 5,pp.634-643,May. 2004 T. Watanabe、外2名,"A soccor field tracking method with wire frame model from TV Images",IEEE Int. Conf. Image Processing,2004 Y. Ohno、外4名,"Tracking players and estimation of the 3D position of a ball in soccer games",Proc.15th Int. Conf. on Pattern Recognition,vol.1,pp.145-148,Sep. 2000 藤村光,杉原厚吉,「優勢領域に基づいたスポーツチームワークの定量的評価」,信学論(D-II),vol.J87-D-II,no.3,pp.818-828,Mar. 2004 坂上勝彦,山本和彦,「動的な網のモデルActive Netとその領域抽出への応用」,テレビジョン学会誌,vol.45,No.10,pp.1155-1163,1991
しかしながら、視聴者が所望する場面は、得点やファウルの場面だけとは限らない。例えば、一方のチームが優勢である場面や、パスが連続して繋がる場面などがあり得る。従って、得点やファウルの場面以外にも、多様な場面の検索が可能な手法が必要である。
また、イベントを検出するだけでは、映像を分かり易く伝えることを実現できるとは言い難い。これを実現するためには、選手の位置関係などから試合の展開やチームの戦術を解析する必要がある。選手の位置の自動検出については、カメラの撮影領域を推定する手法や、映像内における選手の位置を検出する手法が提案されている(例えば、非特許文献10・11を参照。)。このため、今後はこれらの手法により得られる選手の位置を用いた、試合の展開やチームの戦術を表現する手法への発展が期待される。
また、選手の或る位置への到達時刻と、ボールの該位置への到達時刻とから、パスの成否を判定する手法が提案されている(例えば、非特許文献12を参照。)。しかしながら、この手法では、選手およびボールの動きを予測する必要があり、かつ、選手およびボールの位置を正確に検出する必要があるため、処理に時間がかかることになる。
本発明は、上記の問題点に鑑みてなされたものであり、その目的は、複数の自律型移動体が、味方および敵方に分かれて、或る対象物を奪い合う行動に関して、上記自律型移動体の位置に基づいて、上記対象物を味方に送る経路を推定する経路推定装置などを提供することにある。具体的には、本発明の目的は、サッカーなどの球技において、選手の位置に基づいてパスの経路を推定する経路推定装置などを提供することにある。
本発明に係る経路推定装置は、複数の自律型移動体が、味方および敵方に分かれて、或る対象物を奪い合う行動に関して、上記対象物を味方に送る経路を推定する経路推定装置であって、上記課題を解決するために、
上記対象物を所有する自律型移動体である対象物所有体の位置と、該対象物所有体の味方の自律型移動体である1または複数の味方移動体の位置と、上記対象物所有体の敵方の自律型移動体である1または複数の敵方移動体の位置とを含む対象画像を取得する対象画像取得手段と、該対象画像に対して、平行性および収縮性を有する動的な網であるアクティブネット(Active Net)の初期状態を設定するアクティブネット設定手段と、上記アクティブネットと上記対象画像との適合性エネルギーを設定するエネルギー設定手段であって、上記対象物所有体および上記味方移動体の位置における適合性エネルギーが、上記敵方移動体の位置におけるエネルギーに比べて低い適合性エネルギーとなるように設定するエネルギー設定手段と、上記エネルギー設定手段が設定した適合性エネルギーと、上記アクティブネットの内部歪みエネルギーとに基づいて、上記アクティブネットを変形するアクティブネット変形手段と、変形後のアクティブネットの形状に基づいて、上記経路を推定する経路推定手段とを備えることを特徴としている。
また、本発明に係る経路推定装置の制御方法は、複数の自律型移動体が、味方および敵方に分かれて、或る対象物を奪い合う行動に関して、上記対象物を味方に送る経路を推定する経路推定装置の制御方法であって、上記課題を解決するために、上記対象物を所有する自律型移動体である対象物所有体の位置と、該対象物所有体の味方の自律型移動体である1または複数の味方移動体の位置と、上記対象物所有体の敵方の自律型移動体である1または複数の敵方移動体の位置とを含む対象画像を取得する対象画像取得ステップと、該対象画像に対して、平行性および収縮性を有する動的な網であるアクティブネットの初期状態を設定するアクティブネット設定ステップと、上記アクティブネットと上記対象画像との適合性エネルギーを設定するエネルギー設定ステップであって、上記対象物所有体および上記味方移動体の位置における適合性エネルギーが、上記敵方移動体の位置におけるエネルギーに比べて低い適合性エネルギーとなるように設定するエネルギー設定ステップと、上記エネルギー設定ステップにて設定された適合性エネルギーと、上記アクティブネットの内部歪みエネルギーとに基づいて、上記アクティブネットを変形するアクティブネット変形ステップと、変形後のアクティブネットの形状に基づいて、上記経路を推定する経路推定ステップとを備えることを特徴としている。
ここで、自律型移動体とは、自らの意思またはルールに従って行動する実体、または該実体によって制御される移動可能な実体をいい、例えば、人間等の動物、ロボット、動物またはロボットが制御する乗り物などが挙げられる。また、テレビゲームなどのコンピュータゲームに登場するキャラクターを動作させるプログラムを、上記自律型移動体に含むこともできる。また、上記行動の例としては、サッカー、ラグビー、ホッケー、アイスホッケー、ポロなどの球技が挙げられる。この場合、対象物は、サッカーボール、ラグビーボールなどのボールとなる。
また、アクティブネットは、平行性および収縮性を有する動的な網であり、従来、画像から対象となる領域を抽出するために利用している(例えば、非特許文献13を参照)。これに対し、本発明では、アクティブネットは、経路を推定するために利用している。
すなわち、上記の構成および方法によると、対象画像における各自律型移動体の位置に適合性エネルギーを設定し、設定した適合性エネルギーに基づいてアクティブネットを変形する。このとき、アクティブネットに含まれる格子点は、エネルギー最小化原理に基づき、高いエネルギーから低いエネルギーへ、すなわち、敵方移動体の位置から、対象物所有体または味方移動体の位置へ移動する。
したがって、上記格子点は、敵方移動体の位置から離れ、かつ、対象物所有体または味方移動体の位置に集まる。そして、アクティブネットは平行性および収縮性を有するので、対象物所有体と味方移動体との間に敵方移動体が存在しない場合、対象物所有体と味方移動体との間の領域にも、アクティブネットを構成する格子点および格子点間を結ぶ線が集まることになる。この領域は、敵方移動体が存在しないので、対象物を味方に送る経路となる可能性が高い。
一方、対象物所有体と味方移動体との間に敵方移動体が存在する場合、対象物所有体と味方移動体との間の領域から上記格子点と格子点間を結ぶ線とが離れることになる。この領域は、敵方移動体が存在するので、対象物を味方に送る経路となる可能性が低い。
したがって、変形後のアクティブネットの形状から、アクティブネットを構成する格子点および格子点間の線の集まっている領域を、対象物を味方に送る経路と推定することができる。
以上より、本発明によると、画像認識に利用されるアクティブネットを用いて、自律型移動体の位置から、対象物を味方に送る経路を推定することができる。したがって、非特許文献12に記載のパスの成否の判定方法と比べて、自律型移動体および対象物の動きを予測する必要が無いので、上記経路を容易に推定することができる。
本発明に係る経路推定装置では、上記対象画像取得手段は、上記対象物所有体と、上記1または複数の味方移動体と、上記1または複数の敵方移動体とを含む画像を取得する画像取得手段と、該画像取得手段が取得した画像から、各自律型移動体の位置を抽出する位置抽出手段と、該位置抽出手段が抽出した各自律型移動体の位置を含む対象画像を作成する対象画像作成手段とを備えてもよい。この場合、対象物所有体、味方移動体、および敵方移動体を含む画像から、対象物を味方に送る経路を推定することができる。具体的には、サッカー映像からパスのコースを推定することができる。
なお、画像から画像に含まれる自律型移動体の位置を抽出するには、公知の画像認識技術を利用すればよい。また、抽出される位置は、上記画像上の位置でもよいし、実際の位置でもよい。
本発明に係る経路推定装置では、上記エネルギー設定手段は、各自律型移動体の位置とその付近とを含む領域である移動体領域に上記適合性エネルギーを設定することが好ましい。この場合、高い適合性エネルギーまたは低い適合性エネルギーが設定される面積が広がることになる。上述のように、アクティブネットに含まれる格子点は、高いエネルギーから低いエネルギーへ移動するので、移動する格子点が増えることになる。したがって、移動体領域に集まるまたは離れる格子点の数も増えることになり、アクティブネットが変形し易くなり、経路を推定し易くなる。
なお、対象画像は、エネルギー設定手段が設定した適合性エネルギーを輝度で表した画像とすることもできる。この場合、対象画像を表示または印刷することにより、適合性エネルギーの分布を容易に把握することができる。また、対象画像と変形後のアクティブネットの形状とを重畳して表示または印刷することにより、適合性エネルギーの分布と、変形後のアクティブネットの形状、すなわち推定される経路との関係を容易に把握することができる。
ところで、対象物を味方に送る経路が長いほど、対象物を味方に送るまでの時間が長くなり、対象物を受け取る或いは奪い取る自律型移動体が移動可能な距離が長くなる。また、後述のように、アクティブネットの初期状態として、対象物所有体を中心とする放射状に形成する場合、対象物所有体からの距離が遠くなるほど、環状方向の格子点の間隔が広がることになり、格子点の上記移動体領域への集まりが悪化する。
そこで、本発明に係る経路推定装置では、上記エネルギー設定手段は、上記対象物所有体との距離が長いほど、上記移動体領域の寸法を大きく設定することが好ましい。これにより、自律型移動体が対象物を受け取る或いは奪い取るために移動可能な距離に即した移動体領域とすることができる。また、対象物所有体からの距離が遠くなっても、移動体領域に集まるまたは離れる格子点の数が減ることを防止でき、アクティブネットが変形し難くなることを防止できる。
なお、上記エネルギー設定手段は、上記移動体領域とその外側との境界にて適合性エネルギーの変化が緩やかになるように設定することが好ましい。これには、位置を変数とするエネルギー関数に対し、ガウシアンフィルタを適用することが考えられる。
また、上記エネルギー設定手段は、上記経路を推定する対象となる領域であって、上記移動体領域以外の領域である背景領域にも、適合性エネルギーを設定することが好ましい。この場合、上記エネルギー設定手段は、上記背景領域における適合性エネルギーが、上記対象物所有体および上記味方移動体の上記移動体領域における適合性エネルギーに比べて高く、かつ、上記敵方移動体の上記移動体領域における適合性エネルギーに比べて低い適合性エネルギーとなるように設定すればよい。
ところで、対象物は対象物所有体から送られるので、上記対象物を味方に送る経路は、対象物所有体から放射状に存在することになる。そこで、本発明に係る経路推定装置では、上記アクティブネット設定手段は、上記アクティブネットの初期状態を、上記対象物所有体の位置を中心とする放射状に形成することが好ましい。これにより、アクティブネットが適切に変形するので、上記経路を適切に推定することができる。
本発明に係る経路推定装置では、上記アクティブネット変形手段は、上記アクティブネットの有するエネルギーの総和が極小値となるように、上記アクティブネットの変形を繰り返すことが好ましい。この場合、アクティブネットを最適な状態まで変形できるので、最適な上記経路を推定することができる。
本発明に係る経路推定装置では、上記アクティブネット変形手段は、上記アクティブネットの縁部を移動させないことが好ましい。この場合、アクティブネットは、変形しても全体の大きさを同じに維持できるので、上記経路を推定する対象となる領域の全体を覆うことができる。
本発明に係る経路推定装置では、上記経路推定手段は、上記経路を推定する対象となる領域における各位置について、上記変形後のアクティブネットの形状に基づいて、上記経路になり得る可能性を評価する経路評価手段を備えることが好ましい。具体的には、上記経路評価手段は、上記経路を推定する対象となる領域における各位置について、該位置とその近傍とを含む領域に存在する、上記アクティブネットを構成する格子点および隣り合う格子点間の線の量が多いほど、上記経路になり得る可能性が高くなるように評価することが好ましい。この場合、推定される複数の経路に関して、経路となりうる可能性を比較することができる。
本発明に係る経路推定装置では、上記経路推定手段は、上記経路評価手段の評価に基づいて、上記経路を可視化する可視化手段をさらに備えることが好ましい。この場合、ユーザは、可視化された画像を参照することにより、推定される複数の経路に関して、経路となりうる可能性を認識することができる。
本発明に係る経路推定装置では、上記経路推定手段が推定した経路を他の装置に出力する経路出力手段をさらに備えることが好ましい。この場合、上記他の装置は、受け取った経路を利用して各種の処理を行うことができる。
特に、上記他の装置が上記自律型移動体である場合、上記自律型移動体は、上記経路推定装置が推定した経路に基づいて、行動を決定し、決定した行動に基づいて移動したり、移動先を決定し、決定した移動先に移動したりすることができる。例えば、対象物所有体は、上記推定した経路に対象物を送るように行動し、対象物の送り先である味方移動体は、上記推定した経路へ移動して対象物を受け取るように行動し、上記推定した経路に近い敵方移動体は、上記推定した経路へ移動して対象物を奪い取るように行動することなどが考えられる。
なお、経路出力手段の例としては、通信媒体を介して情報を送受信する通信デバイスや、着脱可能な記録媒体に情報を記録する記録デバイスなどが挙げられる。
なお、上記経路推定装置における各手段を、経路推定装置制御プログラムによりコンピュータ上で機能させることができる。さらに、上記経路推定装置制御プログラムをコンピュータ読取り可能な記録媒体に記憶させることにより、任意のコンピュータ上で上記経路推定装置制御プログラムを実行させることができる。
本発明に係る経路推定装置は、以上のように、自律型移動体の位置を取得し、取得した位置に適合性エネルギーを設定し、設定した適合性エネルギーに基づいてアクティブネットを変形することにより、変形後のアクティブネットの形状に基づいて、対象物を味方に送る経路を推定できるという効果を奏する。
本発明の一実施形態について図1〜図8を参照して説明する。本実施形態では、本発明に係る経路推定装置を、サッカー映像を解析して、パスコースを推定するパスコース推定装置に適用している。
サッカー競技におけるパスは、チームの戦術における重要な選手行動の1つである。味方のパスが前方に繋がると得点のチャンスが広がり、敵方のパスが後方に繋がると失点のピンチが広がる。また、敵方のボール保持者に対して味方がプレッシャーをかける、いわゆる「プレッシング」戦術の場合、敵方のパスコースを的確に塞ぐことが重要となる。
従って、パスコースを推定して表示すれば、サッカーの試合内容を解析するための1つの指標が得られると共に、視聴者がパスの観点から試合内容を容易に把握することが可能となる。例えば、サッカー映像を解析して、パスコースをリアルタイムに推定し、推定したパスコースの画像を上記サッカー映像に重畳して表示すれば、視聴者は、応援しているチームがこれからチャンスになるかピンチになるかという試合内容の予想を行うことができる。
本実施形態のパスコース推定装置は、アクティブネット手法を用いて、選手の位置からパスコースを推定するものである。ここで、アクティブネット手法とは、動的な網(アクティブネット)のモデルを用い、エネルギー最小化原理に基づいて画像から対象となる領域を抽出する手法をいう。すなわち、アクティブネット手法では、まず、平行性および収縮性を有するアクティブネットを上記画像に対して設定する。次に、上記画像の特徴的な領域が低いエネルギーとなるように、アクティブネットにおけるエネルギー関数を定義する。そして、エネルギー最小化原理に基づいて、アクティブネットを変形することにより、画像の領域抽出が実現される。
本実施形態では、選手の画像上の位置(以下、単に「位置」と称する。)に対してエネルギーを設定している。具体的には、攻撃側(味方)の選手が存在する位置に低いエネルギーを設定する一方、守備側(敵方)の選手が存在する位置に対して高いエネルギーを設定している。このように設定されると、アクティブネットは、その格子点が攻撃側の選手の存在する位置に集まり、かつ守備側の選手の存在する位置から遠ざかるように変形する。
さらに、アクティブネットの平行性により、アクティブネットの格子点は、攻撃側の選手の位置だけでなく、攻撃側の選手同士の間の画像上の領域(以下、単に「領域」と称する。)にも集まる。また、攻撃側の選手同士の間に守備側の選手が存在する場合、アクティブネットの格子点が守備側の選手の存在する位置から遠ざかるので、攻撃側の選手同士の間の領域に集まる格子点の数は、守備側の選手が存在しない場合と比べて少なくなる。
従って、アクティブネットの格子点が集中する領域は、サッカーにおけるパスコースになる可能性が高いと考えられる。そこで、本実施形態では、画像内の各画素に対して、その近傍に存在する格子点および隣り合う格子点を結ぶ直線の位置からその画素がパスコースである確率を定義し、その確率に基づいてパスコースを可視化する。
次に、アクティブネット手法を利用して、選手の位置からパスコースを推定する手法の詳細について説明する。まず、アクティブネット手法の詳細について説明する。
〔アクティブネット手法〕
アクティブネット手法は、上述のように、平行性および収縮性を有するアクティブネットを画像に対して設定し、該画像の特徴的な領域が低いエネルギーとなるように、アクティブネットにおけるエネルギー関数を設定し、かつ、設定したエネルギー関数が極小状態となるようにアクティブネットの変形を繰り返すことによって、画像の領域抽出を行うものである。
図3は、アクティブネット手法で利用されるアクティブネットのモデルの一例を示している。図示のように、初期状態のアクティブネットは、平面(2次元)上に点(格子点)を周期的に配列した網目状の格子となっている。アクティブネットの各格子点は、次式の位置ベクトルv(p,q)で表される。
ベクトルv(p,q)=(x(p,q),y(p,q)) ・・・(1)。
ここで、pおよびqは、アクティブネットの格子点間の関係を表現するためのパラメータであり、0≦p≦1,0≦q≦1である。また、xおよびyは、2次元の直角座標(デカルト座標)の座標成分であり、具体的には、それぞれ画像の水平方向(x方向)および垂直方向(y方向)の座標成分である。
格子点(ベクトルv(p,q))は、近傍に隣り合う4つの格子点(ベクトルv(p,q-l)、ベクトルv(p-k,q)、ベクトルv(p+k,q)、ベクトルv(p,q+l))と結合することによりアクティブネットを形成している。ここで、kおよびlは、それぞれ、k=1/(x方向の格子点数−1)、l=1/(y方向の格子点数−1)である。
このアクティブネットは、アクティブネット自身の内部歪みエネルギーE internalと、アクティブネットと画像との適合性エネルギーE imageとを有している。内部歪みエネルギーE internalは、アクティブネットを収縮させ形状を滑らかに保とうとする力に対応しており、適合性エネルギーE imageは、アクティブネットを画像内の特徴的な領域に引き付ける力に対応している。
従って、アクティブネットのエネルギー汎関数E netは両者の和として次式で定義される。
net=E internal+E image ・・・(2)。
ただし、
である。ここで、Einternal(ベクトルv(p,q))およびEimage(ベクトルv(p,q))は、格子点(ベクトルv(p,q))における内部歪みエネルギーおよび適合性エネルギーをそれぞれ表している。アクティブネット手法を用いて画像から特徴的な領域を安定的に抽出するには、内部歪みエネルギーE internalと適合性エネルギーE imageとを適切に定義する必要がある。
まず、内部歪みエネルギーE internalの定義について説明する。内部歪みエネルギーE internalは、上述のように、アクティブネットを収縮させ、かつ形状を滑らかに保とうとするエネルギーであるため、格子点(ベクトルv(p,q))における内部歪みエネルギーEinternalを次式で定義する。
internal(ベクトルv(p,q))={α(|ベクトルv+|ベクトルv)+β(|ベクトルvpp+|ベクトルvpq+|ベクトルvqq)}/2 ・・・(5)。
ここで、ベクトルv・v・vpp・vqqは次式の通りである。
ベクトルv=∂(ベクトルv)/∂p=(∂x/∂p,∂y/∂p) ・・・(6)、
ベクトルv=∂(ベクトルv)/∂q=(∂x/∂q,∂y/∂q) ・・・(7)、
ベクトルvpp=∂(ベクトルv)/∂p=(∂x/∂p,∂y/∂p) ・・・(8)、
ベクトルvpq=∂(ベクトルv)/∂p∂q=(∂x/∂p∂q,∂y/∂p∂q) ・・・(9)、かつ、
ベクトルvqq=∂(ベクトルv)/∂q=(∂x/∂q,∂y/∂q) ・・・(10)。
上記式(5)は2つの項から定義されており、第1項はアクティブネットを収縮する力を表し、第2項はアクティブネットの平行性と直線性とを保つ力を表している。また、αおよびβは、それぞれ第1項と第2項とを考慮する割合を決定する重み係数である。
次に、適合性エネルギーE imageの定義について説明する。アクティブネットは、適合性エネルギーE imageを最小化するための変形を繰り返すことで、画像内の特徴的な領域に向かって収縮する。このため、適合性エネルギーE imageは、目的とする対象領域の特徴に依存すべきである。従って、上記対象領域を顕著に示す適合性エネルギーE imageを定義することで、対象領域を抽出することが可能となる。
本実施形態では、最も簡単な例として、格子点(ベクトルv(p,q))における適合性エネルギーEimageを次式で定義する。
image(ベクトルv(p,q))=ωI(p,q) ・・・(11)。
ここで、I(p,q)は、上記格子点(ベクトルv(p,q))における画素の階調値を表す。また、ωは重み係数であり、ω>0の場合、適合性エネルギーEimageは、アクティブネットを階調値の低い画素へ動かす力となる。重み係数ωを変更することにより、階調値の適合性エネルギーEimageへの影響力を変更することができる。
以上で定義されたエネルギーを用いて、アクティブネットのエネルギーが最小となるようにアクティブネットの変形を繰り返すことで、アクティブネット手法を用いた画像内の領域抽出が実現される。
〔画像の作成〕
次に、アクティブネットが設定される対象画像の作成について説明する。本実施形態は、選手の位置からパスコースを推定するものであるので、まず、公知の画像認識技術を用いて、サッカー映像から攻撃側および守備側の選手の位置を抽出する。このとき、選手の足の部分を当該選手の位置として抽出することが好ましい。なぜなら、サッカーでは主に足でパスが行われるからである。
また、本実施形態では、アクティブネットの変形によりアクティブネットの格子点が、攻撃側の選手の位置と攻撃側の選手間の領域とに集まるようにするため、攻撃側の選手の位置に対して適合性エネルギーを低く設定し、守備側の選手の位置に対して適合性エネルギーを高く設定する必要がある。そこで、攻撃側の選手の位置に対して階調値が低く、かつ、守備側の選手の位置に対して階調値が高い画像を作成する。この画像の階調値が、適合性エネルギーに対応することになる。
また、一般に、選手は移動しながらパスを出したり受けたり阻止したりする。そこで、本実施形態では、上記画像に対し、選手の位置を中心とする円領域を設定し、設定した円領域を、上記階調値を有する領域としている。
また、一般に、パスはボール保持者から他の攻撃側の選手に対して行われる。そこで、本実施形態ではボール保持者の位置を中心とした放射状のアクティブネットを利用している。この場合、ボール保持者の位置から離れるほど格子点の間隔が広くなる。このとき、選手の位置に集まる或いは離れる格子点の数は、ボール保持者に近い選手に比べて、ボール保持者から遠い選手の方が少なくなるという問題が生じる。また、パスの距離が長くなれば、パスに費やす時間が長くなり、その分、選手が移動できる距離が長くなる。
そこで、本実施形態では、選手の位置を中心とする円領域を、ボール保持者の位置から離れるにつれて広くなるように設定している。具体的には、円領域の半径rを次式で設定している。
r=γD/δ(γd/δ>15),r=15(γd/δ≦15) ・・・(12)。
ここで、rの単位は画素数である。また、γは選手が移動する距離を考慮するためのパラメータであり、Dはボール保持者の位置と他の選手の位置との距離である。また、δは初期状態のアクティブネットにおける格子点の間隔である。
上記式(12)において、距離Dを間隔δで除算することにより、格子点の周方向の間隔が異なることによる上記問題点を解決することができる。また、パラメータγを利用することによって、選手の移動を考慮することができる。なお、階調値の設定と円領域の設定とは、何れを先に行ってもよい。
サッカー映像から作成される対象画像の一例を図4および図5(a)・(b)を参照して説明する。図4は、サッカー映像の一例を示している。図示の例では、左側中央部に位置する、白色のユニフォームの選手pがボール(対象物)を保持している。従って、白色のユニフォームの選手aが攻撃側の選手(自律型移動体、味方移動体)であり、黒色のユニフォームの選手dが守備側の選手(自律型移動体、敵方移動体)となる。また、図示の例では、ボール保持者(自律型移動体、対象物所有体)pがフィールドの中央からパスを行う様子を示している。
図5(a)・(b)は、図4に示されるサッカー映像から作成される対象画像の一例を示している。図5(a)に示される対象画像は、サイズがM×Nであり、かつ背景の階調値がfである画像内に複数の円領域(移動体領域)C・Cが形成された白黒画像である。これらの円領域C・Cは、図4に示されるサッカー映像における複数の選手の位置にそれぞれ対応した位置を中心とし、上記式(12)に従う半径を有している。攻撃側の選手に関する円領域Cの階調値fは、背景の階調値fよりも低く、守備側の選手に関する円領域Cの階調値fは、背景の階調値fよりも高い。すなわち、f<f<fである。
ところで、図5(a)の例のように、攻撃側の選手に関する円領域Cと守備側の選手に関する円領域Cとが重なる場合がある。このような重なる部分では、パスが守備側の選手によってインターセプトされる可能性があるので、ボール保持者pがパスを行う可能性が低いと考えられる。そこで、本実施形態では、異なる階調値の円領域C・Cが重なる場合、上記重なる部分の階調値は、高い方の階調値、すなわち守備側の選手に関する階調値fとしている。
また、図4に示されるサッカー映像から途切れている選手に関しては、該選手の正確な位置を特定できない場合が多いため、位置の抽出および円領域の設定を省略している。
図5(b)に示される対象画像は、図5(a)に示される対象画像に対し、ガウシアンフィルタを適用したものである。この場合、図示のように、円領域C・Cの境界において階調値が緩やかに変化することになり、すなわち適合性エネルギーが緩やかに変化することになる。これにより、アクティブネットを円滑に変形することができる。以下では、図5(b)に示される画像を対象画像として利用する。
なお、円領域C・Cは、サッカー映像の撮影方向に基づいて変形してもよい。例えば、図4に示されるサッカー映像は、フィールドの真上からではなく、フィールドの横から撮影したものである。したがって、図5(a)・(b)に示される円領域C・Cを横(水平)方向に長い楕円領域としてもよい。このように、撮影方向に基づいて円領域C・Cを変形してもよい。
また、選手が単位時間当りに移動可能な範囲は、選手の向き、移動方向、および移動速度などに依存する。例えば、或る選手が或る方向を向いている場合、その反対方向に移動するには、後退するか、反転して前進することになるが、後退する速度は前進する速度に比べて遅いし、反転するには時間がかかる。また、或る選手が或る方向を移動している場合、その反対方向に移動するには、一旦停止する必要があるが、停止するまでに時間がかかり、移動速度が大きいほど時間がかかることになる。
そこで、円領域C・Cは、選手の向き、移動方向、および移動速度に基づいて変形してもよい。なお、選手の向きの情報を取得するには、公知の画像認識技術を利用して、ユニフォームの前面または背面や、選手の顔を抽出することにより実現できる。また、選手の移動方向や移動速度の情報を取得するには、動画像のサッカー映像を利用して、過去の映像と現在の映像とを比較する処理を行うことにより実現できる。
〔アクティブネットの変形〕
次に、アクティブネットの設定と変形とについて説明する。図6は、図5(b)に示される対象画像に、アクティブネットを設定した状態を示している。図示のように、本実施形態で利用されるアクティブネットANは、初期状態では、ボール保持者の位置pを中心とした放射状の網である。このようなアクティブネットANは、格子点がボール保持者の位置pを中心として放射状に配置されるように、適切なパラメータp・qを決定するという、単純な拡張で得られる。
本実施形態では、アクティブネットANは、パスコースを推定するために利用されるので、初期状態および変形後の状態においてアクティブネットANで覆われていない対象画像の領域が存在することは好ましくない。換言すると、アクティブネットANは、対象画像(または対象画像のフィールド部分)の全体を常に覆うように設定されることが好ましい。
そこで、図6に示される初期状態のアクティブネットANにおいて、放射方向(径方向)の格子点数がMであり、かつ環状方向(周方向)の格子点数がNであるとすると、放射方向の格子点の間隔δは、画像における4つの角部のそれぞれと、ボール保持者の位置pとの距離のうちの最長値Dmaxを用いて次式で算出される値としている。
δ=Dmax/M ・・・(13)。
また、初期状態のアクティブネットANにおいて、最も外側の格子点を固定している。これにより、アクティブネットANは、変形しても全体の大きさを同じに維持できるので、対象画像の全体を覆うことができる。なお、対象画像内に存在しない格子点の適合性エネルギーEimageは、対象画像の背景の階調値fに対応する適合性エネルギーEimageとすればよい。
次に、アクティブネットANは、図6に示される対象画像に対し上記式(11)を適用することにより、各画素に適合性エネルギーEimageが設定され、設定された適合性エネルギーEimageと上述の内部歪みエネルギーEinternalとを利用して、アクティブネットANのエネルギーが最小となるように変形が繰り返される。
図7は、図6に示される対象画像に基づいて変形が繰り返された後のアクティブネットANを示している。図7を参照すると、格子点と格子点間を結ぶ線とは、攻撃側の選手に関する円領域Cと該円領域C同士の間とに集まることが理解できる。
〔パスコースの可視化〕
次に、パスコースの可視化について説明する。図7に示されるような、変形後のアクティブネットANにおいて格子点と格子点間を結ぶ線とが多い領域が、守備側の選手による影響が少ない領域と考えられ、パスコースとなる可能性が高いと考えられる。
そこで、本実施形態では、対象画像の各画素に関して、該画素とその近傍の画素とを含む領域のうち、格子点または格子点間の線が存在する画素の数を求め、該画素の数に基づいてパスコースの確率を求めている。具体的には、パスコースの確率p(i,j)を次式で定義している。
ここで、Wは、上記近傍の画素の数を表すパラメータである。また、F(i,j)は、画素(i,j)に格子点または格子点間の線が存在する場合に1となり、それ以外は0となる関数である。すなわち、上記式(14)は、画素(i,j)を中心としたW×W画素の正方領域に存在する格子点および格子点間の線の量を表している。
上記式(14)によってパスコースの確率p(i,j)を画素ごとに算出し、算出した確率p(i,j)を階調値に変換することにより、パスコースを可視化した可視化画像を作成することができる。
図8は、図7に示されるアクティブネットANに対して作成された可視化画像を示している。図示の場合では、階調値の低い(濃い)領域が、階調値の高い(淡い)領域に比べてパスコースの確率が高くなっている。なお、本実施形態のパスコース推定装置は、ボール保持者pからのパスコースを推定するものであるから、ボール保持者pから他の攻撃側の選手aへの太線のみがパスコースの対象となり、その他の太線はパスコースの対象から除外される。
以上のように、本実施形態によると、アクティブネット手法を利用して、選手の位置からパスコースを可視化することができる。
したがって、非特許文献12に記載のパスの成否の判定方法と比べて、選手およびボールの動きを予測する必要が無いので、パスコースを容易に推定することができる。また、本実施形態では、取得した選手の位置が実際の位置からずれていても、変形後のアクティブネットの形状はさほど変わらない。したがって、選手の位置を正確に取得する必要がなく、大まかに取得すればよいので、パスコースを迅速に推定することができる。
〔パスコース推定装置の具体的な構成および処理〕
次に、本実施形態のパスコース推定装置の具体的な構成および処理について図1および図2を参照して説明する。図2は、本実施形態のパスコース推定装置(経路推定装置)10の概略構成を示している。パスコース推定装置10は、サッカー映像を解析して、パスコースを推定し、推定したパスコースの画像を出力するものである。図示のように、パスコース推定装置10は、入力部11、制御部12、および表示部13を備える構成である。
入力部11は、サッカー映像の入力を受け付けるものである。入力されたサッカー映像情報は、制御部12に送信される。なお、本実施形態では、サッカー映像として静止画像を利用しているが、動画像を利用してもよい。また、入力部11は、画像の入力を受け付ける任意のデバイスを利用できる。このようなデバイスの例としては、印刷された画像を読取るスキャナデバイス、無線または有線の伝送媒体を介して画像の信号を受信する受信デバイス、外部または自装置内の記録媒体に記録された画像のデータを再生する再生デバイスなどが挙げられる。
制御部12は、パスコース推定装置10内の各種構成を統括的に制御するものである。制御部12の機能は、例えばRAM(Random Access Memory)などの記憶素子に記憶されたプログラムをCPU(Central Processing Unit)が実行することによって実現される。なお、制御部12の詳細については後述する。
表示部13は、制御部12からの指示に基づいて情報を表示するものである。具体的には、表示部13は、LCD(Liquid Crystal Display)などの表示デバイスを備える構成である。なお、表示部13の代わりに、印刷出力デバイス、記録デバイス、送信デバイスなどを用いて、外部に情報を出力しても良い。
制御部12は、画像取得部(画像取得手段)21、位置情報取得部(位置抽出手段)22、アクティブネット初期設定部(アクティブネット設定手段)23、対象画像作成部(対象画像作成手段、エネルギー設定手段)24、アクティブネット変形部(アクティブネット変形手段)25、パスコース可視化部(経路推定手段、経路評価手段、可視化手段)26、および表示制御部27を備える構成である。
画像取得部21は、入力部11を介してサッカー映像を取得するものである。画像取得部21は、取得したサッカー映像を位置情報取得部22に送信する。
位置情報取得部22は、画像取得部21から受信したサッカー映像に対し、公知の画像認識技術を用いて、ボール保持者p、攻撃側の選手a、および守備側の選手dの位置を抽出することにより、該選手p・a・dの位置情報を取得する。位置情報取得部22は、取得した選手p・a・dの位置情報を対象画像作成部24およびアクティブネット初期設定部23に送信する。
アクティブネット初期設定部24は、位置情報取得部22から受信したボール保持者pの位置情報に基づいて、ボール保持者pの位置を中心とする放射状のアクティブネットANを、初期状態のアクティブネットANとして設定するものである。アクティブネット初期設定部24は、設定された初期状態のアクティブネットANをアクティブネット変形部25に送信する。
また、アクティブネット初期設定部24は、上記式(13)を用いて、ボール保持者pの位置情報からアクティブネットANにおける格子点の間隔δを算出する。アクティブネット初期設定部24は、算出した格子点の間隔δを対象画像作成部24に送信する。
対象画像作成部24は、位置情報取得部22から受信した選手p・a・dの位置情報と、アクティブネット初期設定部24から受信した格子点の間隔δとに基づいて、上述のように、対象画像を作成するものである。対象画像作成部24は、作成した対象画像をアクティブネット変形部25に送信する。
アクティブネット変形部25は、アクティブネット初期設定部24から受信した初期状態のアクティブネットANを、対象画像作成部23から受信した対象画像に設定して変形するものである。具体的には、アクティブネット変形部25は、上記対象画像の階調値から上記式(11)によって算出される適合性エネルギーEimageと、アクティブネットAN自身の内部歪みエネルギーEinternalとに基づいて、アクティブネットANのエネルギー汎関数E netが最小となるように、アクティブネットANの変形を繰り返すものである。アクティブネット変形部25は、変形後のアクティブネットANをパスコース可視化部26に送信する。
パスコース可視化部26は、アクティブネット変形部25から受信した変形後のアクティブネットANからパスコースを可視化するものである。具体的には、パスコース可視化部26は、変形後のアクティブネットANに対し上記式(14)を適用することによって各画素のパスコースの確率p(i,j)を算出し、算出した確率p(i,j)を階調値に変換することにより、パスコースを可視化した可視化画像を作成するものである。パスコース可視化部26は、作成した可視化画像を表示制御部27に送信する。
表示制御部27は、パスコース可視化部26から受信した可視化画像を表示するように表示部13を制御するものである。
図1は、上記構成のパスコース推定装置10におけるパスコースの推定処理の流れを示している。図示のように、まず、画像取得部21は、入力部11を介してサッカー映像を取得する(ステップS11。以下、単に「S11」と記載することがある。他のステップについても同様である。)
次に、位置情報取得部22は、画像取得部21が取得したサッカー映像からボール保持者p、攻撃側の選手a、および守備側の選手dの位置を抽出して、選手p・a・dの位置情報を取得する(S12)。次に、アクティブネット初期設定部24は、位置情報取得部22が取得したボール保持者pの位置を中心に、初期状態のアクティブネットANを設定する(S13)。また、アクティブネット初期設定部24は、上記式(13)を用いて、ボール保持者pの位置情報からアクティブネットANにおける格子点の間隔δを算出する。
次に、対象画像作成部23は、位置情報取得部22が取得した選手p・a・dの位置情報と、アクティブネット初期設定部24が算出した格子点の間隔δとに基づいて、対象画像を作成する(S14)。次に、アクティブネット変形部25は、アクティブネット初期設定部24が設定した初期状態のアクティブネットANを、対象画像作成部23が作成した対象画像に設定して変形する(S15)。
次に、パスコース可視化部26は、アクティブネット変形部25が変形したアクティブネットANの形状から、パスコースの可視化画像を作成する(S16)。そして、表示制御部27は、パスコース可視化部26が作成した可視化画像を表示部13に表示させる(S17)。その後、上記パスコースの推定処理を終了する。
本実施形態によるパスコース推定の有効性を確認するため、本実施形態のパスコース推定装置10に種々の場面のサッカー映像を入力してみた。なお、本実施例では、対象画像のサイズを320ドット×240ドットとし、階調値f・f・fをそれぞれ0,128,255とし、アクティブネットANの格子点数M・Nをそれぞれ30,72とした。また、パラメータα・β・ω・γ・Wを、それぞれ1.0,1.0,5.0,1.5,30とした。
図9〜図12は、本実施例に関する画像を示している。図9〜図12において、分図(a)は、利用するサッカー映像を示しており、分図(b)は、対象画像と変形後のアクティブネットANとを示しており、分図(c)は、パスコースの可視化画像を示している。なお、なお、上記実施形態で説明した構成と同様の構成には同一の符号を付して、その説明を省略する。
図9〜図12を参照すると、ボール保持者pと攻撃側の選手aとの間に守備側の選手dが存在しない場合、ボール保持者pと攻撃側の選手aとの間の領域にパスコースが表示されることが理解できる。一方、守備側の選手dがボール保持者pと攻撃側の選手aとの間に存在する場合、有効なパスコースの表示が存在しないか、或いは守備側の選手dが存在しない場合に比べて低い輝度値で表示されていることが理解できる。これは、パスコースになる確率が低いことを意味する。
なお、図9〜図12に関して、分図(a)に示されるサッカー映像では、ボール保持者pは、分図(c)に示される可視化画像上にて高い輝度値で表示されているパスコースの中の1つに対してパスを行っていた。したがって、本発明の手法がボール保持者pからのパスコースを正しく表示していることが確認できた。
なお、図10(a)・11(a)・12(a)に示されるように、サッカー映像には、選手a・d以外に主審r、線審、観客などの人間が含まれる場合がある。このような場合でも、サッカー映像から人間の画像を抽出するときに、該抽出する画像を、フィールド内に限定したり、ユニフォームの色で限定したりすることにより、選手以外の人間の画像を除外することができる。
本発明は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
例えば、図5(b)に示される対象画像は、円領域C・Cの境界において階調値(適合性エネルギー)が緩やかに変化させているが、円領域C・Cの中心からの距離に応じて階調値を変化させてもよい。すなわち、攻撃側の選手に関する円領域Cに格子点が近づくとき、または守備側の選手に関する円領域Cから格子点が離れるときに適合性エネルギーが小さくなるように、対象画像の階調値を設定すればよい。
また、上記実施形態では、選手の画像上の位置に対して2次元のアクティブネットを設定することにより、画像上のパスコースを可視化しているが、選手の実際の位置に対して2次元のアクティブネットを設定することにより、実際のフィールドでのパスコースを可視化してもよい。この場合、サッカー映像の撮影角度などによる影響を受けることなく、パスコースを推定することができる。
さらに、選手の実際の位置に対して、3次元のアクティブネットを設定することにより、実際のフィールド上の立体的なパスコースを可視化してもよい。この場合、上述のような平面上のパスの他に、守備側の選手の頭上を越えるパスやロングパスのコースを推定することができる。なお、3次元のアクティブネットは、2次元のアクティブネットの簡単な拡張により実現できる。
また、上記実施形態では、サッカー映像から選手を抽出して、選手の位置情報を取得しているが、サッカーのコンピュータゲームから選手の位置情報を直接受信してもよいし、ユーザが入力部11を介して選手の位置情報を直接入力してもよい。この場合、画像取得部21がサッカー映像を取得する必要がなくなる。
また、上記実施形態では、対象画像は、適合性エネルギーを輝度で表した画像としている。しかしながら、対象画像は、適合性エネルギーを求めることができる画像であればよいから、少なくともサッカー選手の位置を含む画像であればよい。
なお、適合性エネルギーを輝度で表した画像を対象画像として利用する場合、ユーザは、表示または印刷された対象画像を参照することにより、適合性エネルギーの分布を容易に把握することができる。また、ユーザは、対象画像と変形後のアクティブネットの形状とを重畳して表示または印刷された画像を参照することにより、適合性エネルギーの分布と、変形後のアクティブネットの形状、すなわち推定されるパスコースとの関係を容易に把握することができる。
また、上記実施形態では、パスコース可視化部26にてパスコースを可視化した可視化画像が作成され、作成された可視化画像が、表示制御部27の制御により表示部13に表示されている。これに対し、変形後のアクティブネットANから推定されたパスコースを他の装置に出力するパスコース出力部(経路出力手段)を設けても良い。この場合、上記他の装置は、推定されたパスコースを利用して各種の処理を行うことができる。
具体的には、パスコース出力部は、変形後のアクティブネットANに対し上記式(14)を適用することによって各画素のパスコースの確率p(i,j)を算出し、算出した確率p(i,j)を他の装置に出力すればよい。或いは、パスコース出力部は、上記算出した各画素の確率p(i,j)からパスコースを推定し、推定したパスコースの位置情報を他の装置に出力してもよい。
特に、上述のサッカーが複数のロボット同士で行われるものであり、かつ上記他の装置が上記ロボットである場合、上記ロボットは、パスコース推定装置10が推定したパスコースに基づいて、行動を決定し、決定した行動に基づいて移動したり、移動先を決定し、決定した移動先に移動したりすることができる。例えば、ボールを保持するロボットは、上記推定したパスコースにボールを送るように行動し、ボールの受け手である攻撃側のロボットは、上記推定したパスコースへ移動してボールを受け取るように行動し、上記推定したパスコースに近い守備側のロボットであれば、上記推定したパスコースへ移動してボールを奪い取るように行動することなどが考えられる。
なお、パスコース出力部がパスコースを出力するためのデバイスの例としては、無線または有線により、情報を送受信する通信デバイスや、メモリカードなどの着脱可能な記録媒体に情報を記録する記録デバイスなどが挙げられる。
また、上記ロボットは、パスコース推定装置10を内蔵してもよい。この場合、各ロボットの位置情報を、通信デバイスを介して取得し、取得した位置情報に基づいて対象画像を作成することが考えられる。なお、パスコース推定装置10を内蔵するロボットは、上記複数のロボットの何れか1つであってもよいし、上記攻撃側のロボットの何れか1つと、上記守備側のロボットの何れか1つとであってもよいし、全てのロボットであってもよい。
また、上記実施形態では、本発明をサッカーに適用しているが、ラグビー、ホッケー、アイスホッケー、ポロなどのその他の競技にも適用可能である。また、現実の競技だけでなく、コンピュータゲームなどによる仮想的な競技にも本発明を適用可能である。また、人間以外の動物やロボットが行う競技にも本発明を適用可能である。このように、本発明は、複数の自律型移動体が、味方および敵方に分かれて、或る対象物を奪い合う行動に関して、上記対象物を味方に送る経路を推定する任意の経路推定装置に適用可能である。
最後に、パスコース推定装置10の各ブロック、特に制御部12は、ハードウェアロジックによって構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
すなわち、パスコース推定装置10は、各機能を実現する制御プログラムの命令を実行するCPU(central processing unit)、上記プログラムを格納したROM(read only memory)、上記プログラムを展開するRAM(random access memory)、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアであるパスコース推定装置10の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、上記パスコース推定装置10に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などを用いることができる。
また、パスコース推定装置10を通信ネットワークと接続可能に構成し、上記プログラムコードを通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(virtual private network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、802.11無線、HDR、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
本発明に係る経路推定装置は、サッカーにおけるパスコースを推定する以外にも、ラグビー、ホッケーなど、味方および敵方に分かれて、或る対象物を奪い合う行動に関して、上記対象物を味方に送る経路を推定する任意の経路推定装置に適用可能である。
本発明の一実施形態であるパスコース推定装置における処理動作を示すフローチャートである。 上記パスコース推定装置の概略構成を示すブロック図である。 アクティブネット手法で利用されるアクティブネットのモデルの一例を示す図である。 サッカー映像の一例を示す図である。 上記サッカー映像から作成される対象画像の一例を示す図であり、同図(b)は、同図(a)に示される対象画像に対しガウシアンフィルタを適用したものである。 上記対象画像にアクティブネットを設定した状態を示す図である。 上記対象画像に基づいて変形が繰り返された後のアクティブネットを示す図である。 上記変形後のアクティブネットに対して作成された可視化画像を示す図である。 同図(a)は、上記サッカー映像の別の例を示す図であり、同図(b)は、該サッカー映像に基づく対象画像と、該対象画像に基づく変形後のアクティブネットとを示す図であり、同図(c)は、該変形後のアクティブネットに基づく可視化画像を示す図である。 同図(a)は、上記サッカー映像のさらに別の例を示す図であり、同図(b)は、該サッカー映像に基づく対象画像と、該対象画像に基づく変形後のアクティブネットとを示す図であり、同図(c)は、該変形後のアクティブネットに基づく可視化画像を示す図である。 同図(a)は、上記サッカー映像のさらに別の例を示す図であり、同図(b)は、該サッカー映像に基づく対象画像と、該対象画像に基づく変形後のアクティブネットとを示す図であり、同図(c)は、該変形後のアクティブネットに基づく可視化画像を示す図である。 同図(a)は、上記サッカー映像の他の例を示す図であり、同図(b)は、該サッカー映像に基づく対象画像と、該対象画像に基づく変形後のアクティブネットとを示す図であり、同図(c)は、該変形後のアクティブネットに基づく可視化画像を示す図である。
符号の説明
10 パスコース推定装置(経路推定装置)
21 画像取得部(画像取得手段)
22 位置情報取得部(位置抽出手段)
23 アクティブネット初期設定部(アクティブネット設定手段)
24 対象画像作成部(対象画像作成手段、エネルギー設定手段)
25 アクティブネット変形部(アクティブネット変形手段)
26 パスコース可視化部(経路推定手段、経路評価手段、可視化手段)
AN アクティブネット
a 攻撃側の選手(自律型移動体、味方移動体)
d 守備側の選手(自律型移動体、敵方移動体)
p ボール保持者(自律型移動体、対象物所有体)
攻撃側の選手に関する円領域(移動体領域)
守備側の選手に関する円領域(移動体領域)

Claims (16)

  1. 複数の自律型移動体が、味方および敵方に分かれて、或る対象物を奪い合う行動に関して、上記対象物を味方に送る経路を推定する経路推定装置であって、
    上記対象物を所有する自律型移動体である対象物所有体の位置と、該対象物所有体の味方の自律型移動体である1または複数の味方移動体の位置と、上記対象物所有体の敵方の自律型移動体である1または複数の敵方移動体の位置とを含む対象画像を取得する対象画像取得手段と、
    該対象画像に対して、平行性および収縮性を有する動的な網であるアクティブネットの初期状態を設定するアクティブネット設定手段と、
    上記アクティブネットと上記対象画像との適合性エネルギーを設定するエネルギー設定手段であって、上記対象物所有体および上記味方移動体の位置における適合性エネルギーが、上記敵方移動体の位置におけるエネルギーに比べて低い適合性エネルギーとなるように設定するエネルギー設定手段と、
    上記エネルギー設定手段が設定した適合性エネルギーと、上記アクティブネットの内部歪みエネルギーとに基づいて、上記アクティブネットを変形するアクティブネット変形手段と、
    変形後のアクティブネットの形状に基づいて、上記経路を推定する経路推定手段とを備えることを特徴とする経路推定装置。
  2. 上記対象画像取得手段は、
    上記対象物所有体と、上記1または複数の味方移動体と、上記1または複数の敵方移動体とを含む画像を取得する画像取得手段と、
    該画像取得手段が取得した画像から、各自律型移動体の位置を抽出する位置抽出手段と、
    該位置抽出手段が抽出した各自律型移動体の位置を含む対象画像を作成する対象画像作成手段とを備えることを特徴とする請求項1に記載の経路推定装置。
  3. 上記エネルギー設定手段は、各自律型移動体の位置とその付近とを含む領域である移動体領域に上記適合性エネルギーを設定することを特徴とする請求項1に記載の経路推定装置。
  4. 上記エネルギー設定手段は、上記対象物所有体との距離が長いほど、上記移動体領域の寸法を大きく設定することを特徴とする請求項3に記載の経路推定装置。
  5. 上記エネルギー設定手段は、上記移動体領域とその外側との境界にて適合性エネルギーの変化が緩やかになるように設定することを特徴とする請求項3に記載の経路推定装置。
  6. 上記エネルギー設定手段は、上記経路を推定する対象となる領域であって、上記移動体領域以外の領域である背景領域における適合性エネルギーが、上記対象物所有体および上記味方移動体の上記移動体領域における適合性エネルギーに比べて高く、かつ、上記敵方移動体の上記移動体領域における適合性エネルギーに比べて低い適合性エネルギーとなるように設定することを特徴とする請求項3に記載の経路推定装置。
  7. 上記アクティブネット設定手段は、上記アクティブネットの初期状態を、上記対象物所有体の位置を中心とする放射状に形成することを特徴とする請求項1に記載の経路推定装置。
  8. 上記アクティブネット変形手段は、上記アクティブネットの有するエネルギーの総和が極小値となるように、上記アクティブネットの変形を繰り返すことを特徴とする請求項1に記載の経路推定装置。
  9. 上記アクティブネット変形手段は、上記アクティブネットの縁部を移動させないことを特徴とする請求項1に記載の経路推定装置。
  10. 上記経路推定手段は、上記経路を推定する対象となる領域における各位置について、上記変形後のアクティブネットの形状に基づいて、上記経路になり得る可能性を評価する経路評価手段を備えることを特徴とする請求項1に記載の経路推定装置。
  11. 上記経路評価手段は、上記経路を推定する対象となる領域における各位置について、該位置とその近傍とを含む領域に存在する、上記アクティブネットを構成する格子点および隣り合う格子点間の線の量が多いほど、上記経路になり得る可能性が高くなるように評価することを特徴とする請求項10に記載の経路推定装置。
  12. 上記経路推定手段は、上記経路評価手段の評価に基づいて、上記経路を可視化する可視化手段をさらに備えることを特徴とする請求項10に記載の経路推定装置。
  13. 上記経路推定手段が推定した経路を他の装置に出力する経路出力手段をさらに備えることを特徴とする請求項1に記載の経路推定装置。
  14. 請求項1ないし13の何れか1項に記載の経路推定装置を動作させるための経路推定装置制御プログラムであって、コンピュータを上記の各手段として機能させるための経路推定装置制御プログラム。
  15. 請求項14に記載の経路推定装置制御プログラムが記録されたコンピュータ読取り可能な記録媒体。
  16. 複数の自律型移動体が、味方および敵方に分かれて、或る対象物を奪い合う行動に関して、上記対象物を味方に送る経路を推定する経路推定装置の制御方法であって、
    上記対象物を所有する自律型移動体である対象物所有体の位置と、該対象物所有体の味方の自律型移動体である1または複数の味方移動体の位置と、上記対象物所有体の敵方の自律型移動体である1または複数の敵方移動体の位置とを含む対象画像を取得する対象画像取得ステップと、
    該対象画像に対して、平行性および収縮性を有する動的な網であるアクティブネットの初期状態を設定するアクティブネット設定ステップと、
    上記アクティブネットと上記対象画像との適合性エネルギーを設定するエネルギー設定ステップであって、上記対象物所有体および上記味方移動体の位置における適合性エネルギーが、上記敵方移動体の位置におけるエネルギーに比べて低い適合性エネルギーとなるように設定するエネルギー設定ステップと、
    上記エネルギー設定ステップにて設定された適合性エネルギーと、上記アクティブネットの内部歪みエネルギーとに基づいて、上記アクティブネットを変形するアクティブネット変形ステップと、
    変形後のアクティブネットの形状に基づいて、上記経路を推定する経路推定ステップとを備えることを特徴とする経路推定装置の制御方法。
JP2006218906A 2006-08-10 2006-08-10 経路推定装置およびその制御方法、経路推定装置制御プログラム、ならびに該プログラムを記録した記録媒体 Active JP4787963B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006218906A JP4787963B2 (ja) 2006-08-10 2006-08-10 経路推定装置およびその制御方法、経路推定装置制御プログラム、ならびに該プログラムを記録した記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006218906A JP4787963B2 (ja) 2006-08-10 2006-08-10 経路推定装置およびその制御方法、経路推定装置制御プログラム、ならびに該プログラムを記録した記録媒体

Publications (2)

Publication Number Publication Date
JP2008046686A JP2008046686A (ja) 2008-02-28
JP4787963B2 true JP4787963B2 (ja) 2011-10-05

Family

ID=39180401

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006218906A Active JP4787963B2 (ja) 2006-08-10 2006-08-10 経路推定装置およびその制御方法、経路推定装置制御プログラム、ならびに該プログラムを記録した記録媒体

Country Status (1)

Country Link
JP (1) JP4787963B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5627526B2 (ja) * 2011-03-31 2014-11-19 株式会社カプコン ゲームプログラム、及びゲームシステム
KR101540460B1 (ko) * 2013-07-09 2015-07-30 엔에이치엔엔터테인먼트 주식회사 실시간 중계를 위한 시뮬레이션 방법 및 시스템
JP5902229B2 (ja) 2013-07-09 2016-04-13 エヌエイチエヌ エンターテインメント コーポレーションNHN Entertainment Corporation シミュレーション方法およびシステム
JP6352151B2 (ja) * 2014-11-07 2018-07-04 ソニー株式会社 情報処理装置、情報処理システム、および情報処理方法
JP7141629B2 (ja) * 2017-09-29 2022-09-26 成典 田中 プレイヤ位置可視化装置

Also Published As

Publication number Publication date
JP2008046686A (ja) 2008-02-28

Similar Documents

Publication Publication Date Title
US11373354B2 (en) Techniques for rendering three-dimensional animated graphics from video
US10855967B2 (en) Image processing apparatus, image processing method, and storage medium
US10999535B2 (en) Recording medium, method, and information processing device for generating three-dimensional synthesized video of information related to subjects with background area based on free viewpoint video
CN108369816B (zh) 用于从全向视频创建视频剪辑的设备和方法
US9852767B2 (en) Method for generating a cyclic video sequence
US20120106869A1 (en) Image processing apparatus, image processing method, and program
JP4956273B2 (ja) 投球球種識別装置、識別器生成装置、投球球種識別プログラム及び識別器生成プログラム
CN111359200B (zh) 基于增强现实的游戏交互方法和装置
US20160314620A1 (en) Virtual reality sports training systems and methods
JP6673221B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JP4787963B2 (ja) 経路推定装置およびその制御方法、経路推定装置制御プログラム、ならびに該プログラムを記録した記録媒体
KR101612199B1 (ko) 가상 이미지 상에 자동적으로 표정을 재생하는 방법 및 장치
US20100134632A1 (en) Apparatus for tracking an object using a moving camera and method thereof
US11551407B1 (en) System and method to convert two-dimensional video into three-dimensional extended reality content
US20230164424A1 (en) Control apparatus, control system, and control program
US11749309B2 (en) Information processor, information processing method, and program
JP4621910B2 (ja) 優勢度判定装置及び優勢度判定方法
CN109939439B (zh) 虚拟角色的卡住检测方法、模型训练方法、装置及设备
JP2017103613A (ja) 情報取得装置、情報取得方法及び情報取得プログラム
CN114979741B (zh) 播放视频的方法、装置、计算机设备和存储介质
Waltner et al. Indoor activity detection and recognition for sport games analysis
JP6450305B2 (ja) 情報取得装置、情報取得方法及び情報取得プログラム
US11606608B1 (en) Gamification of video content presented to a user
CN108965859B (zh) 投影方式识别方法、视频播放方法、装置及电子设备
US11601591B2 (en) Image processing apparatus for estimating action of subject and adding information indicating the action of the subject to an image, method for controlling the same, and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090601

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110405

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110621

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150