JP2021077245A - Number of persons for each attribute totalizing system and number of persons for each attribute totalizing device - Google Patents
Number of persons for each attribute totalizing system and number of persons for each attribute totalizing device Download PDFInfo
- Publication number
- JP2021077245A JP2021077245A JP2019205162A JP2019205162A JP2021077245A JP 2021077245 A JP2021077245 A JP 2021077245A JP 2019205162 A JP2019205162 A JP 2019205162A JP 2019205162 A JP2019205162 A JP 2019205162A JP 2021077245 A JP2021077245 A JP 2021077245A
- Authority
- JP
- Japan
- Prior art keywords
- person
- attribute
- unit
- store
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 claims abstract description 53
- 238000010191 image analysis Methods 0.000 claims abstract description 51
- 230000008569 process Effects 0.000 claims abstract description 51
- 238000004458 analytical method Methods 0.000 claims description 47
- 230000014759 maintenance of location Effects 0.000 claims description 11
- 230000009286 beneficial effect Effects 0.000 abstract description 2
- 150000001875 compounds Chemical class 0.000 abstract 1
- 230000002776 aggregation Effects 0.000 description 32
- 238000004220 aggregation Methods 0.000 description 32
- 238000001514 detection method Methods 0.000 description 20
- 238000004891 communication Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 4
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 2
- 238000012804 iterative process Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000001815 facial effect Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
Description
本発明は、属性別人数集計システムおよび属性別人数集計装置に関する。 The present invention relates to an attribute-based number counting system and an attribute-based number counting device.
従来、カメラで撮像した画像を、適宜のゾーンに区切り、画像処理手段によりそのゾーン内に滞在する人数や人の出入り数をカウントしたデータを求め、このデータとPOS(Point of Sale)システムを関連付けるシステムが提案されている(特許文献1参照)。 Conventionally, an image captured by a camera is divided into appropriate zones, data is obtained by counting the number of people staying in the zone and the number of people entering and exiting the zone by an image processing means, and this data is associated with a POS (Point of Sale) system. A system has been proposed (see Patent Document 1).
特許文献1に開示されている技術は、カメラで撮像した画像を、システム上で適宜なゾーンに区切ることで、各ゾーン内に滞在する時間とその人数をカウントしている。しかしながら、特許文献1に記載の技術では、各テナントで働くスタッフを入店者として誤カウントしてしまうことがあり、また、入店者に関する情報も解析した性別や年齢のみであるため、各テナントの運営に生かしづらいという問題があった。 The technique disclosed in Patent Document 1 counts the time spent in each zone and the number of people by dividing the image captured by the camera into appropriate zones on the system. However, with the technology described in Patent Document 1, the staff working in each tenant may be erroneously counted as a store entrant, and since the information about the store occupant is only the analyzed gender and age, each tenant There was a problem that it was difficult to make use of it in the operation of.
本発明の目的は、ショッピングモールやデパート等、複数のテナントが入る複合的商業施設において、売上げ改善や集客率の向上のための対策を講じる際に、有益かつ正確な情報を管理の手間をかけずに得られる属性別人数集計システムおよび属性別人数集計装置を提供することにある。 An object of the present invention is to take time and effort to manage useful and accurate information when taking measures for improving sales and attracting customers in a complex commercial facility such as a shopping mall or a department store where a plurality of tenants enter. It is an object of the present invention to provide an attribute-based number counting system and an attribute-based number counting device that can be obtained without.
上記課題を解決するために、例えば特許請求の範囲に記載の構成を採用する。
本願は、上記課題を解決する手段を複数含んでいるが、その一例を挙げるならば、本発明は、カメラからの撮像画像が入力される画像解析装置と、この画像解析装置と広域ネットワークにより接続されるセンター装置とから構成される属性別人数集計システムである。
本発明の属性別人数集計システムにおける画像解析装置は、カメラからの撮像画像を処理し、撮像された人物を予め登録された特徴量から特定する人物特定部と、カメラで撮像された人物の属性を推定する属性推定部と、カメラで撮像された人物が店舗への入店したことを判定する入店判定部と、を備える。
In order to solve the above problems, for example, the configuration described in the claims is adopted.
The present application includes a plurality of means for solving the above problems, and to give an example thereof, the present invention connects an image analysis device into which an image captured by a camera is input, and the image analysis device by a wide area network. It is an attribute-based number counting system consisting of a center device to be used.
The image analysis device in the attribute-based number counting system of the present invention processes the image captured by the camera and identifies the captured person from the pre-registered feature amount, and the attribute of the person captured by the camera. It is provided with an attribute estimation unit for estimating the above, and a store entry determination unit for determining that a person imaged by a camera has entered the store.
また、本発明の属性別人数集計システムにおけるセンター装置は、画像解析装置の人物特定部から出力される人物特定の結果と、属性推定部から出力される属性判定の結果と、入店判定部から出力される入店判定の結果に基づいて入店した人数を計数する集計部と、集計部による集計結果を出力する集計結果出力部と、を備える。 Further, the center device in the attribute-based number counting system of the present invention includes a person identification result output from the person identification unit of the image analysis device, an attribute determination result output from the attribute estimation unit, and a store entry determination unit. It includes a totaling unit that counts the number of people who have entered the store based on the output result of the store entry determination, and a totaling result output unit that outputs the totaling result by the totaling unit.
本発明によれば、ショッピングモールやデパート等、複数のテナントが入る複合的商業施設において、出店するテナントと商業施設の管理者に対して、売上げ改善や集客率の向上のための有益かつ正確な情報を提供することができる。
上記した以外の課題、構成および効果は、以下の実施形態の説明により明らかにされる。
According to the present invention, in a complex commercial facility such as a shopping mall or a department store where a plurality of tenants enter, it is beneficial and accurate for the tenants who open stores and the managers of the commercial facilities to improve sales and attract customers. Information can be provided.
Issues, configurations and effects other than those described above will be clarified by the description of the following embodiments.
<本発明の第1の実施の形態例の説明>
以降、本発明を実施するための第1の実施形態の例(以下、「本例」と称する)を、図1〜図8を参照して説明する。
[全体構成の説明]
図1は、本例の属性別人数集計システムを示す機能ブロック図である。本例の属性別人数集計システムは、商業施設10に設置されている画像解析装置20およびカメラ30、およびセンター装置50に設置されているデータ集計サーバ51、Webサーバ52およびデータベース(DB)53を備えている。カメラ30は1台でもよいが、図1に示すように複数台設置されている方が望ましい。
<Explanation of Example of First Embodiment of the Present Invention>
Hereinafter, an example of the first embodiment for carrying out the present invention (hereinafter, referred to as “this example”) will be described with reference to FIGS. 1 to 8.
[Explanation of overall configuration]
FIG. 1 is a functional block diagram showing an attribute-based number counting system of this example. The attribute-based number counting system of this example includes the
商業施設10に設置されている画像解析装置20は、広域ネットワーク40を介してセンター装置50と接続されている。
カメラ30は、商業施設10において、商業施設10に出店しているテナントの出入口やエレベータホールなど、来客の動線を確認したいエリアに向けて取り付けられる。
画像解析装置20は、制御部21、カメラ管理部22、画像解析部23、動線解析部24、記憶部25、および通信部28を備える。
The
The
The
制御部21には、カメラ管理部22、画像解析部23、動線解析部24、記憶部25、および通信部28が接続されている。制御部21は、記憶部25に格納されている制御プログラムを実行することによって画像解析装置20の動作を制御する。
カメラ管理部22には、制御部21と複数のカメラ30が接続されている。カメラ管理部22には、カメラ30で撮像した画像が入力され、カメラ管理部22は、撮像画像を撮像したカメラ30ごとに撮影画像を管理する。
The
A
画像解析部23は、制御部21に接続されている。画像解析部23は、入力される撮像画像の中の人物を検出する人物検出部231、人物を特定する人物特定部232、人物の属性を分析する属性推定部233を有する。
The
人物検出部231は、撮像画像内に存在する「人と推定される形状の人物」を検出する処理(人物検出処理)を行う。人物特定部232は、人物検出部231で検出された人物に対し、予め登録されている複数の人物の顔の特徴量と比較し、一致または極めて類似する人物が存在するか否かを判定する処理(人物特定処理)を行う。属性推定部233は、人物検出部231で検出された人物に対し、顔や背格好などにより性別および年齢を推定する処理(属性分析処理)を行う。
The
動線解析部24は、制御部21に接続されている。動線解析部24は、カメラ30で撮像された人物がテナントの店舗に入店したことを判定する入店判定部241を有する。
入店判定部241は、入力される連続的な撮像画像を基に、対象となる人物が予めテナントが設定した仮想ラインを通過したこと、つまり入店したことを検出する仮想ライン通過検出処理を行う。
The flow
The store
また、動線解析部24は、対象となる人物が所定期間、予めテナントが設定した仮想エリアに滞在したこと、つまり対象人物が入店する可能性が高いことを示す仮想エリア滞留判定処理を行う。仮想ライン通過検出処理の詳細は図6で後述するが、テナントが撮像画像上に予め設定した仮想的な線(仮想ライン)を、対象となる人物が横断したことを検出する処理である。
In addition, the flow
仮想エリア滞留判定処理は、撮像画像上にテナントが予め設定した仮想的なエリア内に人物が一定時間滞留し続けたことを検出する処理である。なお、動線解析部24では、仮想ライン通過検出処理と仮想エリア滞留判定処理とから、同一テナントのみを繰り返し入店する人物をテナントのスタッフと見なすスタッフ判定処理を行い、来店者とテナントのスタッフとを区別するようにしている。
The virtual area retention determination process is a process for detecting that a person has been staying in a virtual area preset by the tenant for a certain period of time on the captured image. The flow
記憶部25には、属性・人物解析結果26および動線履歴情報27が格納されている。
通信部28は、制御部21および広域ネットワーク40に接続されている。通信部28は、記憶部25に格納されている情報を、広域ネットワーク40を介してセンター装置50などの外部の装置に送信する。
The
The
センター装置50は、データ集計サーバ51、Webサーバ52およびデータベース(DB:Data Base)53を備える。データ集計サーバ51およびWebサーバ52は、広域ネットワーク40を介して画像解析装置20に接続されている。データベース(DB)53は、データ集計サーバ51およびWebサーバ52に接続されている。
The
本例の属性別人数集計システムでは、センター装置50に設けられるデータ集計サーバ51とWebサーバ52は、用途ごとに分けられたサーバ構成としているが、これに限らず、単一のサーバで構成し、単一のサーバにデータ集計サーバ51とWebサーバ52の両方の役割を持たせるようにしてもよい。
In the attribute-based number counting system of this example, the
データ集計サーバ51は、集計部511および集計結果出力部512を備える。集計部511は、画像解析装置20で得られる商業施設10への来場者情報および各テナントへの来店情報を集計し、これをデータベース(DB)53に格納する。
このとき、データ集計サーバ51の集計部511は、図4で後述する属性および人物解析情報の人物IDをキーとして来場者を紐付けした情報を、データベース(DB)53に格納する。このデータベース(DB)53に格納される情報は、場所ごと、時間帯ごと、人物の性別や年齢ごとに集計された、商業施設10および各テナントへの来客数となる。
The
At this time, the
データ集計サーバ51の集計結果出力部512は、集計部511で集計した結果を、Webサーバ52を介して商業施設10の管理者およびテナントに提供する。なお、Webサーバ52は、図6で後述するように、各テナントが自分の店に来る来店者を判定する仮想ラインおよび自店の前に仮想領域を設定する際にも利用される。
The aggregation
[画像解析装置20およびセンター装置50のハードウェア構成]
図2は、本例の属性別人数集計システムに用いられる、画像解析装置20のハードウェア構成を示す。
図2に示すように、画像解析装置20は、バス31に接続されたCPU(Central Processing Unit)32、ROM(Read Only Memory)33、RAM(Random Access Memory)34、不揮発性ストレージ35を備える。また、外部との通信を行うための通信インタフェース(通信IF)36および入力部37を備える。
[Hardware configuration of
FIG. 2 shows the hardware configuration of the
As shown in FIG. 2, the
図2の入力部37には、図1に示す商業施設10の複数のカメラ30が接続されており、カメラ30で撮像された画像はバス31を経由して不揮発性ストレージ35に格納される。
CPU32は、画像解析装置20(図1)のカメラ管理部22、画像解析部23および動線解析部24等の各部の機能を実現するソフトウェアのプログラムコードをROM33から読み出して実行する。
A plurality of
The
RAM34には、画像解析装置20内で行われる演算処理の途中で発生した変数等が一時的に書き込まれる。CPU32は、ROM33に記録されているプログラムコードを実行することにより、図1の制御部21の機能を実現する。
Variables and the like generated during the arithmetic processing performed in the
通信インタフェース(I/F)36は、図1に示す通信部28に相当するものであり、通信I/F36としては、例えば、NIC(Network Interface Card)等が用いられる。この通信I/F36を通して、画像解析装置20は、図1に示す広域ネットワーク40を介してデータ集計サーバ51およびWebサーバ52との通信を行う。なお、広域ネットワーク40は、インターネットやLTE(Long Term Evolution)、LAN(Local Area Network)等に代表される広域通信回線網であり、画像解析装置20は、この広域ネットワーク40を介してデータ集計サーバ51およびWebサーバ52と各種データをやり取りする。
The communication interface (I / F) 36 corresponds to the
不揮発性ストレージ35は、SSD(Solid State Drive)等の不揮発性のメモリで構成され、CPU32が動作するために必要なプログラムやデータ等が記憶され格納される。この不揮発性ストレージ35には、図1に示す記憶部25の中の属性・人物解析結果26および動線履歴情報27の各記憶領域が設けられている。
The
図3は、本例の属性別人数集計システムのセンター装置50のハードウェア構成を示す。具体的には、データ集計サーバ51とデータベース(DB)53を接続したハードウェア構成、およびはWebサーバ52とデータベース(DB)53を接続したハードウェア構成を示している。
センター装置50も、バス41で接続されたCPU42、ROM43、RAM44、不揮発性ストレージ45(図1のデータベース(DB)53に相当)、通信部I/F46を備える。これらの構成および機能は、図2で説明した画像解析装置20のハードウェア構成および機能と同じなので、説明は省略する。
ただし、センター装置50は、図2に示すカメラ30からの撮像信号を受け取る入力部37に相当する構成は有しない。
FIG. 3 shows the hardware configuration of the
The
However, the
[データ構造テーブルの説明]
図4は、図1に示す本例の属性別人数集計システムの記憶部25に記憶されている、本実施形態における属性・人物解析結果26のデータ構造のテーブルを示す。属性・人物解析結果26は、人物ID26aの項目と、氏名26bの項目と、性別26cの項目、年齢26dの項目、推定確度26eの項目、および人物特定状況26fの項目とを有している。
[Description of data structure table]
FIG. 4 shows a table of the data structure of the attribute / person analysis result 26 in the present embodiment, which is stored in the
人物ID26aの項目には、当該属性・人物解析結果のレコードを一意に特定する固有の文字列のID情報が格納されている。このID情報は、画像解析部23が行う人物検出処理で検出された人物ごとに割り当てられる情報である。
氏名26bの項目には、画像解析部23が行う人物特定処理で、撮像された人物が予め登録された情報と一致または極めて類似すると判断された場合に、予め登録された氏名が格納される。
性別26cの項目には、画像解析部23が行う属性分析処理で、撮像された人物から推定される性別が格納される。
In the item of the
In the item of the
In the item of
年齢26dの項目には、画像解析部23が行う属性分析処理で、撮像された人物から推定される年齢が格納される。
推定確度26eの項目には、画像解析部23が行う属性分析処理で、撮像された人物から性別および年齢を推定した際、撮像した画像の角度や解像度など推定の元とした撮像画像から推定した結果の精度が格納される。
人物特定状況26fの項目には、画像解析部23が行う人物特定処理で、撮像された人物が予め登録された情報と一致または極めて類似すると判断されたかどうかを表す情報が格納される。
In the item of
The item of
In the item of the
図5は、図1に示す本例の属性別人数集計システムにおいて、同じく記憶部25に記憶されている、動線履歴情報27のデータ構造を示すテーブルである。動線履歴情報27は、人物ID27aの項目、日時27bの項目、および場所27cの項目を有している。
人物ID27aの項目には、画像解析部23が行う人物検出処理で検出された人物ごとに割り当てられるID情報が格納される。
FIG. 5 is a table showing the data structure of the flow
In the item of the
日時27bの項目には、動線解析部24が行う仮想ライン通過検出処理または仮想エリア滞留判定処理により、人物ID27aがテナントへの入店もしくは特定エリアの通過をした日時が格納される。
場所27cの項目には、動線解析部24が行う仮想ライン通過検出処理または仮想エリア滞留判定処理により、人物ID27aが入店したテナントの名称もしくは通過した特定エリアの名称が格納される。
In the item of the date and
In the item of the
[仮想ライン・仮想エリアの設定例]
図6は、本例の属性別人数集計システムにおけるテナントの入り口付近の仮想ライン・仮想エリア設定例を示す。仮想ラインおよび仮想エリアの設定は、センター装置50のWebサーバ52が提供するWeb画面で商業施設10の管理者もしくはテナントが行う。このWebサーバ52で設定された仮想ラインおよび仮想エリアの情報は、センター装置50から画像解析装置20へ送信される。
[Example of setting virtual line / virtual area]
FIG. 6 shows an example of setting a virtual line / virtual area near the entrance of a tenant in the attribute-based number counting system of this example. The virtual line and the virtual area are set by the administrator or the tenant of the
なお、商業施設10の管理者もしくはテナントは、Webサーバ52のWeb画面上での仮想ラインおよび仮想エリアの設定に当たって、商業施設10に設置されたカメラ30の撮像画像を参照しながら撮像画面上で設定する。
In addition, when setting the virtual line and the virtual area on the Web screen of the
図6は、テナントAからテナントEの出入口を見渡せるカメラ30の撮像画像上に、テナントAからテナントEが、それぞれ独自の仮想ラインおよび仮想エリアを設定した例である。この例では、テナントAとテナントCとテナントEは、仮想ラインのみをテナントの出入口に設定している。テナントBとテナントDとは、仮想ラインをテナントの出入口に設定し、仮想エリアを店頭に設定している。
FIG. 6 is an example in which tenant A to tenant E set their own virtual lines and virtual areas on the captured image of the
人物aがテナントCの設定した仮想ラインを入店方向へ横断すると、人物aはテナントCに入店したものと見なされる。また、人物bがテナントDの設定した仮想エリアに一定時間滞留し続けると、人物bはテナントDへ入店したと見なされる。 When the person a crosses the virtual line set by the tenant C in the direction of entering the store, the person a is considered to have entered the tenant C. Further, if the person b continues to stay in the virtual area set by the tenant D for a certain period of time, the person b is considered to have entered the tenant D.
図7は、本例の属性別人数集計システムにおける商業施設10の出入口付近に仮想ラインを設定する例を示す。すなわち、商業施設10の出入口を見渡せるカメラ30の撮像画像上に、商業施設10の管理者が全来場者数を把握するために仮想ラインを設定した例である。この例では、商業施設10の2つ出入口である出入口1と出入口2に対して、それぞれ仮想ラインを設定している。人物cが商業施設10の出入口1に設定した仮想ラインを商業施設10内へ横断すると、人物cは商業施設10へ来場したと見なされる。
FIG. 7 shows an example in which a virtual line is set near the entrance / exit of the
以上、図6、図7で説明したように、仮想ラインと仮想エリアとを使って各テナントへの入店者数と商業施設10への来場者数を把握することで、商業施設10に入場した全来場者数の何パーセントが各テナントへ入店したかを把握することができる。
As described above, as described with reference to FIGS. 6 and 7, the number of visitors to each tenant and the number of visitors to the
[本例の属性別人数集計システムの処理手順]
次に、この実施形態に係る属性別人数集計システムの動作について図面を参照しながら説明する。図8は、本例において、画像解析装置20で行う画像解析処理を示すフローチャートである。
本例の属性別人数集計システムが行う処理は、図4に示す属性・人物解析結果26と、図5に示す動線履歴情報27に関するレコードの作成および更新する処理である。この処理は、カメラ30で撮像した撮像画像を基にして行われる。
[Processing procedure of the number of people counting system by attribute in this example]
Next, the operation of the attribute-based number counting system according to this embodiment will be described with reference to the drawings. FIG. 8 is a flowchart showing an image analysis process performed by the
The process performed by the attribute-based number counting system of this example is a process of creating and updating records related to the attribute / person analysis result 26 shown in FIG. 4 and the flow
画像解析装置20がカメラ30から撮像画像を受信すると図8に示す処理が開始される。
処理を開始すると、画像解析部23の人物検出部231は、受信した撮像画像を基に人物検出処理を行う(ステップS101)。なお、ステップS102からステップS110までの処理は、繰り返し処理(ループ処理)である。この繰り返し処理は、ステップS101で検出した人物の数だけ繰り返えされて行われる。
When the
When the process is started, the
まず、撮像されたカメラ画像の中で検出された人物一覧から一人ずつ人物情報を取得する(ステップS102)。このステップS102では、人物一覧のn人目の人物情報が記憶部25の属性・人物解析結果(図4参照)に存在するかどうかが判断される。すなわち、図4に示す属性・人物解析結果の中にカメラ画像の中で検出されて人物一覧のn人目の人物情報が存在する場合に、画像解析部23の人物検出部231は、図4に示す人物特定状況26fにおいて、n人目の人物が確定済みであるか、あるいは未確定であるかを判断する(ステップS103)。ここで、カメラ画像としては、1台のカメラ30で撮像された画像でもよいが、複数台のカメラ30で撮像した画像またはこれらの画像を合成した画像であってもよい。
First, person information is acquired one by one from the list of people detected in the captured camera image (step S102). In this step S102, it is determined whether or not the nth person information in the person list exists in the attribute / person analysis result (see FIG. 4) of the
つまり、このステップS103では、n人目の人物情報の人物IDをもとに、図4の属性・人物解析結果を検索し、一意に特定されるレコードの人物特定状況26fの項目に格納された内容を取得したことになる。なお、ステップS101で検出したカメラ画像の人物一覧の中にn人目の人物情報が存在しない場合、つまりカメラ画像の中の全ての人物(n−1)人について、ステップS102〜S110の処理が終わった場合には、ステップS102〜S110の繰り返し処理を終了する。なお、nは1から始まる自然数である。
That is, in this step S103, the attribute / person analysis result of FIG. 4 is searched based on the person ID of the nth person information, and the content stored in the item of the
ステップS103で、人物特定状況26fの項目に格納された内容が「未確定」であれば(ステップS103のYes)、画像解析部23の属性推定部233は、n人目の人物情報の属性分析処理を行う(ステップS104)。すなわち、ステップS104の属性分析処理では、n人目の人物情報に対する性別推定と年齢推定とを行い、その推定確度を算出する。性別と年齢とを推定できない場合は「不明」とする。
If the content stored in the item of the
そして、属性推定部233は、n人目の人物について、得られた性別、年齢および推定確度を、図1の記憶部25の属性・人物解析結果26に格納する。この格納された結果が、図4に示されたものとなる。但し、ステップS104で、推定結果として「不明」以外の情報が格納されている場合であって、既に格納済みの推定確度が今回算出した推定確度より大きい場合には、今回算出した推定確度の情報を優先して格納するようにする。
Then, the
ステップS104の属性分析処理に続いて、画像解析部23の人物特定部232は、カメラ画像の中のn人目の人物情報に対し、顔認証による人物特定処理を行う(ステップS105)。ステップS105の人物特定処理では、人物特定部232は、カメラ画像の中のn人目の人物情報に対して、予め登録されている来店者の会員情報の画像と店舗スタッフ情報の画像の登録情報を基にして、登録情報との一致あるいは不一致を推定する。
Following the attribute analysis process in step S104, the
そして、ステップS105で、カメラ画像の中のn人目の人物情報が登録情報と一致し、人物の特定を行うことができた場合には、登録情報から氏名、性別および年齢を、図1の記憶部25の属性・人物解析結果26に格納する。その際、カメラ画像の中のn人目の人物情報の人物IDをもとに、図4の属性・人物解析結果のデータベースを検索し、図4の人物特定状況26fの項目に「確定済」を格納する。
Then, in step S105, when the nth person information in the camera image matches the registered information and the person can be identified, the name, gender, and age are stored from the registered information in FIG. 1. It is stored in the attribute / person analysis result 26 of the
ステップS103で、人物特定状況26fの項目に格納された内容が「未確定」ではない、つまり「確定済み」であると判断された場合には(ステップS103のNo)、続いて、属性推定部233は、カメラ画像の中のn人目の人物が一般来店者か否かを判断する(ステップS111)。ステップS111で一般来店者ではないと判断された場合、例えばテナントの店舗のスタッフ等であると判定された場合には(ステップS111のNo)は、ステップS110に進み、処理を終了する。
If it is determined in step S103 that the content stored in the item of the
ステップS105で、カメラ画像の中のn人目の人物情報から、当該人物が特定された場合、およびステップS111で一般来店者であると判断された場合には、続いて、動線解析部24により、カメラ画像の中のn人目の人物情報に対し、動線解析処理を行う(ステップS106)。
このステップS106の動線解析処理では、仮想ライン通過検出処理、仮想エリア滞留判定処理、およびスタッフ判定処理が行われる。
If the person is identified from the nth person information in the camera image in step S105, or if it is determined to be a general visitor in step S111, the flow
In the flow line analysis process of step S106, a virtual line passage detection process, a virtual area retention determination process, and a staff determination process are performed.
まず、カメラ画像の中のn人目の人物情報に対し、予め各テナントが設定した仮想ラインの通過が検出されたか否か、あるいはn人目の人物が仮想エリア内に一定時間滞留していることが検出されたか否かが判断される(ステップS107)。 First, for the nth person information in the camera image, whether or not the passage of the virtual line set in advance by each tenant is detected, or whether the nth person stays in the virtual area for a certain period of time. It is determined whether or not it has been detected (step S107).
そして、ステップS107で、カメラ画像の中のn人目の人物情報に対し、仮想ライン通過が検出されたか、または仮想エリア内に一定時間の滞留が検出されたと判断された場合(ステップS107のYes)には、次に、動線解析部24は、仮想ラインを通過した人物、または仮想エリア内の一定時間の滞留が検出された人物がスタッフでないか否かを判断する(ステップS108)。
Then, in step S107, it is determined that the passage of the virtual line is detected or the residence for a certain period of time is detected in the virtual area for the nth person information in the camera image (Yes in step S107). Next, the flow
ステップS108で、仮想ラインを通過したn人目の人物または仮想エリア内の一定時間の滞留が検出されたn人目の人物がスタッフではないと判断された場合(ステップS108のYes)には、動線解析部24は、カメラ画像の中のn人目の人物情報に対し、動線履歴登録処理を行う(ステップS109)。このステップS109の動線履歴登録処理では、ステップS106で検出した仮想ライン通過検出または仮想エリア滞留判定を基に、図1の記憶部25の動線履歴情報27にレコードの追加登録が行われる(ステップS110)。
If it is determined in step S108 that the nth person who has passed through the virtual line or the nth person who has been detected to stay in the virtual area for a certain period of time is not a staff member (Yes in step S108), the flow line The
この追加登録は、図5の動線履歴情報に対するレコードの追加登録に相当する。すなわち、動線解析部24は、カメラ画像の中のn人目の人物情報の人物ID、仮想ライン通過検出または仮想エリア滞留判定を行った日時、および仮想ライン通過検出または仮想エリア滞留判定を行った場所を、図1の記憶部25の動線履歴情報27(図5参照)に格納する。
This additional registration corresponds to the additional registration of a record for the flow line history information of FIG. That is, the flow
ステップS107で、カメラ画像の中のn人目の人物情報に対し、仮想ライン通過が検出されなかったか、または仮想エリア内に一定時間の滞留が検出されなかったと判断された場合(ステップS107のNo)、およびステップS108で、仮想ラインを通過した人物または仮想エリア内の一定時間の滞留が検出されたn人目の人物がスタッフであると判断された場合(ステップS108のNo)には、ステップS103〜S109のループ処理を終了する。 When it is determined in step S107 that the passage through the virtual line is not detected or the residence for a certain period of time is not detected in the nth person information in the camera image (No in step S107). , And in step S108, when it is determined that the person who has passed the virtual line or the nth person who has been detected to stay in the virtual area for a certain period of time is a staff member (No in step S108), steps S103 to The loop processing of S109 is terminated.
以上説明したように、図8に示す画像解析処理フローにより、図4に示す属性・人物解析結果26と、図5に示す動線履歴情報27とへ、撮像画像の解析結果が格納される。
センター装置50のデータ集計サーバ51は、定期的に図4に示す属性・人物解析結果26と、図5に示す動線履歴情報27とに格納された情報を取得し、集計した結果をセンター装置60のデータベース(DB)53へ格納する。
As described above, according to the image analysis processing flow shown in FIG. 8, the analysis result of the captured image is stored in the attribute / person analysis result 26 shown in FIG. 4 and the flow
The
データ集計サーバ51による集計処理では、例えば、図5の動線履歴情報に、図4の属性・人物解析結果の人物IDをキーとして結合した情報が、データベース(DB)53に格納される。データベース(DB)53に格納された情報は、場所ごと、そして時間帯ごとに計数されて、各テナントの時間帯別来客数が得られる。さらに、来客者を性別や年齢で分けることで属性別の来客者数が得られる。また、自テナントに来店した各人物IDが、訪れた他のテナントをテナント別に計数することで、自テナントへ来店する来客者の動線傾向が得られる。
In the aggregation process by the
<本発明の第2の実施の形態例の説明>
図9は、本発明の第2の実施形態における属性別人数集計システムの構成および機能を示すブロック図である。
図1に示す第1の実施形態と異なる点は、第1の実施形態では、センター装置50のデータ集計サーバ51が集計部511を持って、画像解析装置20から送信された各種データを収集しているのに対し、図9に示す第2の実施形態では、画像解析装置20内に集計部29を設けた点である。
<Explanation of Example of Second Embodiment of the Present Invention>
FIG. 9 is a block diagram showing a configuration and a function of an attribute-based number counting system according to a second embodiment of the present invention.
The difference from the first embodiment shown in FIG. 1 is that in the first embodiment, the
したがって、第2の実施形態におけるセンター装置50のデータサーバ51’は、第1の実施形態のデータ集計サーバ51の集計結果出力部512のみを備えることになる。それ以外の構成は全て同じなので、ここでは重複する説明は省略する。
Therefore, the data server 51'of the
図9の集計部29は、図1の実施形態のデータ集計サーバ51の集計部511の機能を画像解析装置20側に移したものと考えてよい。したがって、図9の集計部29は、図4で後述する属性、人物解析情報の人物IDをキーとして来場者を紐付けした情報を、場所ごと、時間帯ごと、人物の性別や年齢ごとに計数して記憶部25に格納する。なお、集計結果に関する分析情報は、Webサーバ52のWeb画面により商業施設10の管理者およびテナントに提供される。
It can be considered that the
本発明の第1及び第2の実施形態によれば、商業施設10に出店するテナントは、時間帯ごと属性ごとの来店者数の提供を受けることができる。また、どの方面から来た人が入店する傾向にあるとか、他の特定の店舗へ寄ってから入店する来場者多いなどといった、来店者の動線傾向の提供を受けることができる。
According to the first and second embodiments of the present invention, the tenant who opens a store in the
また、商業施設10の管理者は、各テナントへの入店者数の推移を把握することができ、これにより、テナントの退店が推測可能となる。さらに、各テナントに対して、仮想ライン・仮想エリアの設定、店舗スタッフの登録などのシステム設定を委ねることができるので、管理の手間が少ないという利点もある。
In addition, the manager of the
なお、本発明は前述した実施の形態に限定されるものではなく、様々な変形態様が含まれる。前述した実施の形態は、本発明を分かりやすく説明するために説明したものであり、本発明は、必ずしも説明した全ての構成を備えるものに限定されるものではなく、適宜、その他の構成にも応用できる。 The present invention is not limited to the above-described embodiment, and includes various modifications. The above-described embodiments have been described for the purpose of explaining the present invention in an easy-to-understand manner, and the present invention is not necessarily limited to those having all the described configurations, and the present invention is not necessarily limited to those having all the described configurations. It can be applied.
また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記録装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。 Further, each of the above configurations, functions, processing units, processing means and the like may be realized by hardware by designing a part or all of them by, for example, an integrated circuit. Further, each of the above configurations, functions, and the like may be realized by software by the processor interpreting and executing a program that realizes each function. Information such as programs, tables, and files that realize each function can be placed in a memory, a hard disk, a recording device such as an SSD (Solid State Drive), or a recording medium such as an IC card, an SD card, or a DVD.
また、図面において、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実施には殆ど全ての構成が相互に接続されていると考えてもよい。 Further, in the drawings, the control lines and information lines are shown as necessary for explanation, and not all the control lines and information lines are necessarily shown in the product. In practice, almost all configurations may be considered interconnected.
10…商業施設、20…画像解析装置、21…制御部、22…カメラ管理部、23…画像解析部、231…人物検出部、232…人物特定部、233…属性推定部、24…動線解析部、241…入店判定部、25…記憶部、26…属性・人物解析結果、27…動線履歴情報、28…通信部、30…カメラ、40…広域ネットワーク、50…センター装置、51…データ集計サーバ、511…集計部 10 ... commercial facility, 20 ... image analysis device, 21 ... control unit, 22 ... camera management unit, 23 ... image analysis unit, 231 ... person detection unit, 232 ... person identification unit, 233 ... attribute estimation unit, 24 ... movement line Analysis unit, 241 ... Store entry judgment unit, 25 ... Storage unit, 26 ... Attribute / person analysis result, 27 ... Movement line history information, 28 ... Communication unit, 30 ... Camera, 40 ... Wide area network, 50 ... Center device, 51 … Data aggregation server, 511… Aggregation department
Claims (6)
前記画像解析装置は、
前記カメラからの撮像画像を処理し、撮像された人物を予め登録された特徴量から特定する人物特定部と、
前記カメラで撮像された人物の属性を推定する属性推定部と、
前記カメラで撮像された人物が店舗への入店したことを判定する入店判定部と、を備え、
前記センター装置は、
前記画像解析装置の前記人物特定部から出力される人物特定の結果と、前記属性推定部から出力される属性判定の結果と、前記入店判定部から出力される入店判定の結果に基づいて入店した人数を計数する集計部と、
前記集計部による集計結果を出力する集計結果出力部と、を備える、
属性別人数集計システム。 It is an attribute-based number counting system composed of an image analysis device for inputting an image captured by a camera and a center device connected to the image analysis device by a wide area network.
The image analysis device is
A person identification unit that processes an image captured by the camera and identifies the captured person from a pre-registered feature amount, and a person identification unit.
An attribute estimation unit that estimates the attributes of a person captured by the camera,
It is equipped with a store entry determination unit that determines that a person photographed by the camera has entered the store.
The center device is
Based on the person identification result output from the person identification unit of the image analysis device, the attribute determination result output from the attribute estimation unit, and the store entry determination result output from the store entry determination unit. A tabulation department that counts the number of people who have entered the store,
A total result output unit that outputs a total result by the total unit is provided.
Number of people counting system by attribute.
前記1台または複数のカメラで撮像された人物が入店したことを判定する
請求項1記載の属性別人数集計システム。 The store entry determination unit refers to one or a plurality of stores imaged by one or a plurality of cameras.
The attribute-based number counting system according to claim 1, wherein it is determined that a person photographed by the one or more cameras has entered the store.
各テナントに対して入店の有無を示す仮想的な仮想ラインを設定し、入力される連続的な撮像画像をもとに、カメラで撮像された人物が前記仮想ラインを横断したことを検出することにより、前記入店判定部により当該人物の入店を判定する動線解析部を備える
請求項2に記載の属性別人数集計システム。 The image analysis device further
A virtual virtual line indicating whether or not a store is entered is set for each tenant, and based on the continuously captured images input, it is detected that a person captured by the camera has crossed the virtual line. The attribute-based number counting system according to claim 2, further comprising a movement line analysis unit for determining the entry of the person by the store entry determination unit.
請求項3に記載の属性別人数集計システム。 The third aspect of claim 3, wherein the flow line analysis unit sets a virtual area retention area near the store of each tenant on the captured image, and detects that a person has been staying in the virtual area retention area for a certain period of time. Number of people counting system by attribute.
前記センター装置の前記集計部は、前記属性推定部で判定した前記店舗スタッフを除いた入店者数を属性別に、かつ前記店舗ごとに集計し、
前記集計結果出力部は、前記集計部で集計された結果を出力する
請求項1に記載の属性別人数集計システム。 The attribute estimation unit of the image analysis device determines whether or not the imaged person is a store staff, and determines whether or not the person is a store staff.
The totaling unit of the center device totals the number of visitors excluding the store staff determined by the attribute estimation unit for each attribute and for each store.
The attribute-based number counting system according to claim 1, wherein the totaling result output unit outputs the totaled results by the totaling unit.
前記カメラで撮像された人物の属性を推定する属性推定部と、
前記カメラで撮像された人物が店舗への入店したことを判定する入店判定部と、
前記人物特定部から出力される人物特定の結果と、前記属性推定部から出力される属性判定の結果と、前記入店判定部から出力される入店判定の結果に基づいて入店した人数を計数する集計部と、を備える、
属性別人数集計装置。 A person identification unit that processes the image captured by the camera and identifies the captured person from the pre-registered features.
An attribute estimation unit that estimates the attributes of a person captured by the camera,
A store entry determination unit that determines that a person photographed by the camera has entered the store,
The number of people who entered the store based on the person identification result output from the person identification unit, the attribute determination result output from the attribute estimation unit, and the store entry determination result output from the store entry determination unit. It is equipped with a counting unit that counts.
Number of people counting device by attribute.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019205162A JP7278197B2 (en) | 2019-11-13 | 2019-11-13 | People Counting System by Attribute and People Counting Device by Attribute |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019205162A JP7278197B2 (en) | 2019-11-13 | 2019-11-13 | People Counting System by Attribute and People Counting Device by Attribute |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021077245A true JP2021077245A (en) | 2021-05-20 |
JP7278197B2 JP7278197B2 (en) | 2023-05-19 |
Family
ID=75898087
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019205162A Active JP7278197B2 (en) | 2019-11-13 | 2019-11-13 | People Counting System by Attribute and People Counting Device by Attribute |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7278197B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024202695A1 (en) * | 2023-03-29 | 2024-10-03 | コニカミノルタ株式会社 | Human flow visualization system, human flow visualization method, and program |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007020653A (en) * | 2005-07-12 | 2007-02-01 | Heiwa Satellite:Kk | Visit condition management system |
JP2011086045A (en) * | 2009-10-14 | 2011-04-28 | Giken Torasutemu Kk | Assistant/customer separation/aggregation device |
JP2011141610A (en) * | 2010-01-05 | 2011-07-21 | Hitachi Ltd | Service selection support system |
JP2014146154A (en) * | 2013-01-29 | 2014-08-14 | Panasonic Corp | Customer segment analyzer, customer segment analyzing system and customer segment analyzing method |
JP2015103221A (en) * | 2013-11-28 | 2015-06-04 | オムロン株式会社 | Visitor attribute distribution information estimation device and program |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5438859B1 (en) | 2013-05-30 | 2014-03-12 | パナソニック株式会社 | Customer segment analysis apparatus, customer segment analysis system, and customer segment analysis method |
-
2019
- 2019-11-13 JP JP2019205162A patent/JP7278197B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007020653A (en) * | 2005-07-12 | 2007-02-01 | Heiwa Satellite:Kk | Visit condition management system |
JP2011086045A (en) * | 2009-10-14 | 2011-04-28 | Giken Torasutemu Kk | Assistant/customer separation/aggregation device |
JP2011141610A (en) * | 2010-01-05 | 2011-07-21 | Hitachi Ltd | Service selection support system |
JP2014146154A (en) * | 2013-01-29 | 2014-08-14 | Panasonic Corp | Customer segment analyzer, customer segment analyzing system and customer segment analyzing method |
JP2015103221A (en) * | 2013-11-28 | 2015-06-04 | オムロン株式会社 | Visitor attribute distribution information estimation device and program |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024202695A1 (en) * | 2023-03-29 | 2024-10-03 | コニカミノルタ株式会社 | Human flow visualization system, human flow visualization method, and program |
Also Published As
Publication number | Publication date |
---|---|
JP7278197B2 (en) | 2023-05-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11948398B2 (en) | Face recognition system, face recognition method, and storage medium | |
JP4753193B2 (en) | Flow line management system and program | |
JP3584334B2 (en) | Human detection tracking system and human detection tracking method | |
US20070253595A1 (en) | Still Image Queue Analysis System and Method | |
JP2000200357A (en) | Method and device for collecting human movement line information | |
JP6596831B2 (en) | Prediction system, prediction method and program | |
US20240028682A1 (en) | Information processing apparatus, information processing method, and storage medium | |
JP5785667B1 (en) | Person identification system | |
JP6241666B2 (en) | User management device, user management system, and user management method | |
JP2015090579A (en) | Behavior analysis system | |
JP2013140517A (en) | Room entry/exit control system | |
JP2021077245A (en) | Number of persons for each attribute totalizing system and number of persons for each attribute totalizing device | |
US20200104863A1 (en) | Systems and methods for managing a retail environment | |
JP6340777B2 (en) | Store visitor attribute distribution information estimation device and program | |
JP2021149854A (en) | Information distribution system and information distribution method | |
WO2021241293A1 (en) | Action-subject specifying system | |
WO2022075194A1 (en) | Information processing device, method for operating information processing device, program for operating information processing device, and information management system | |
JP7375602B2 (en) | Information processing program, device, and method | |
JP7328401B2 (en) | Concept of entry/exit matching system | |
TWI821006B (en) | System for evaluating waiting time based on purchases and payment delay and method thereof | |
JP7507390B2 (en) | Behavioral observation system and behavioral observation method | |
WO2022074722A1 (en) | Information processing system, information processing method, and program storage medium | |
JP7516082B2 (en) | Information collection device and control program thereof | |
JP2007020653A (en) | Visit condition management system | |
JPWO2022074722A5 (en) | Information processing system, information processing method and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220202 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20221226 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230117 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230220 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230307 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230317 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230411 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230509 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7278197 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |