Nothing Special   »   [go: up one dir, main page]

JP3717920B2 - Mobile phone - Google Patents

Mobile phone Download PDF

Info

Publication number
JP3717920B2
JP3717920B2 JP2004282750A JP2004282750A JP3717920B2 JP 3717920 B2 JP3717920 B2 JP 3717920B2 JP 2004282750 A JP2004282750 A JP 2004282750A JP 2004282750 A JP2004282750 A JP 2004282750A JP 3717920 B2 JP3717920 B2 JP 3717920B2
Authority
JP
Japan
Prior art keywords
code
image
display
camera
mobile phone
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2004282750A
Other languages
Japanese (ja)
Other versions
JP2005110268A (en
Inventor
健晴 村松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2004282750A priority Critical patent/JP3717920B2/en
Publication of JP2005110268A publication Critical patent/JP2005110268A/en
Application granted granted Critical
Publication of JP3717920B2 publication Critical patent/JP3717920B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Telephone Function (AREA)

Description

本発明は、デジタルカメラやカメラ付き携帯電話等の携帯電話機に関する。   The present invention relates to a mobile phone such as a digital camera or a camera-equipped mobile phone.

技術背景Technical background

液晶パネルなどの画面表示装置や、キー入力などによる入力装置を有している昨今の携帯電話は、いわゆる電波の送受信を行う電話機としての機能のほかに、メールをやり取りできる機能や、ゲームを楽しめる機能などを備えるなど、多機能化の傾向が進んでいる。   In addition to the function as a so-called telephone for transmitting and receiving radio waves, a recent mobile phone having a screen display device such as a liquid crystal panel and an input device using key input can enjoy a function for exchanging mail and a game. The trend toward multi-functionality is progressing.

近年、小型で、低消費電力のイメージセンサが開発されたことに伴い、携帯電話機などの携帯型装置にカメラを内蔵することが可能となり、内蔵カメラにより撮影した画像を、電子メールで即座に送信できることが可能となっている。これらの内蔵カメラは、小型であることが優先され、一般的なデジタルカメラよりも解像度が低い。   In recent years, with the development of small, low power consumption image sensors, it has become possible to incorporate a camera in a portable device such as a mobile phone, and immediately send images taken by the built-in camera via e-mail. It is possible to do it. These built-in cameras are prioritized to be small, and have a lower resolution than general digital cameras.

また、近年の携帯電話機は、インターネットに接続する機能を有している。インターネットに接続するには、URL(Uniform Resource Locator)をキーから入力する必要があり、携帯電話機のキーでは、長いURLを打ち込むために手間がかかっていた。そこで、URLを一意の番号で管理し、その番号に対応するバーコードを印刷したものをバーコードリーダで読み込むことにより、URLの入力の手間を省き、ユーザの使い勝手をよくする試みがなされている。このような装置では、別途バーコードリーダを携帯電話機に接続する必要がある。   Moreover, recent cellular phones have a function of connecting to the Internet. In order to connect to the Internet, it is necessary to input a Uniform Resource Locator (URL) from a key, and it has been troublesome to enter a long URL with a key of a mobile phone. Therefore, an attempt is made to manage the URL with a unique number and read the printed barcode corresponding to the number with a barcode reader, thereby saving the trouble of inputting the URL and improving the usability of the user. . In such an apparatus, it is necessary to separately connect a barcode reader to the mobile phone.

そこで、カメラを内蔵した携帯装置では、その内蔵カメラにより入力したバーコード画像に対してバーコードを認識できれば、別途バーコードリーダを用意しなくても、このようなサービスを利用することができる。   Therefore, in a portable device with a built-in camera, if a barcode can be recognized with respect to a barcode image input by the built-in camera, such a service can be used without preparing a separate barcode reader.

例えば、特許文献1には、写真モードとQRコード(2次元コード)読取モードを選択設定でき、設定モードに応じた処理がなされる情報提供サービスが開示されている。また、特許文献2には、1次元コードはラインCCDで処理し、2次元コードはエリアCCDで処理して読取り精度を高めるコードリーダが記載されている。但し、バーコード種類に応じたカメラ画像取り込み領域の設定については記載はない。   For example, Patent Document 1 discloses an information providing service in which a photo mode and a QR code (two-dimensional code) reading mode can be selected and set, and processing according to the setting mode is performed. Patent Document 2 describes a code reader that increases the reading accuracy by processing a one-dimensional code with a line CCD and processing a two-dimensional code with an area CCD. However, there is no description about the setting of the camera image capture area according to the barcode type.

また、特許文献3公報では、電話番号を2次元バーコードに置き換え、電話機に取付けたCCDスキャナでこの2次元バーコードを読み取ることが記載されている。   Patent Document 3 describes that a telephone number is replaced with a two-dimensional barcode and the two-dimensional barcode is read by a CCD scanner attached to the telephone.

ところで、現在の内蔵カメラの解像度は、バーコードリーダに用いられるイメージセンサよりも解像度が低く、高精度でバーコードを認識することが困難であった。   By the way, the resolution of the current built-in camera is lower than that of the image sensor used in the barcode reader, and it is difficult to recognize the barcode with high accuracy.

また、バーコードの認識を困難にする原因として、入力画像中に撮影されるバーの幅が一定ではないということがある。これは、バーコードとカメラの距離関係は、入力するたびに変わってくるためである。接写するタイプのスキャナでは、常にバーコードを一定の大きさで入力できるので、バーの幅をあらかじめ決めておくことができるが、手で保持したカメラでバーコードを撮影する場合は、一定のバー幅をあらかじめ決めておくことはできない。   Further, as a cause of difficulty in recognizing the barcode, the width of the bar photographed in the input image is not constant. This is because the distance relationship between the barcode and the camera changes each time an input is made. In a close-up type scanner, the bar code can always be entered in a certain size, so the bar width can be determined in advance, but when shooting a bar code with a camera held by hand, a certain bar The width cannot be determined in advance.

バーの幅をイメージスキャナにより入力されたバーコード画像から決定し、バーコードを認識する手法が提案されている。例えば、特許文献4では、カメラで取り込まれた画像に含まれるバーコードを認識し、取り込まれた画像が解読可能であればスピーカ音を発生し、バーコードデータを保存すると共に画像化して表示部に表示する装置が開示されている。   A method has been proposed in which the width of a bar is determined from a barcode image input by an image scanner and the barcode is recognized. For example, in Patent Document 4, a barcode included in an image captured by a camera is recognized, and if the captured image is decodable, a speaker sound is generated, and the barcode data is stored and imaged for display. An apparatus for displaying the information is disclosed.

特開2002−111909号公報JP 2002-111909 A 特開平9−259215号公報Japanese Patent Laid-Open No. 9-259215 特開2001−197186号公報JP 2001-197186 A 特開2002−176509号公報JP 2002-176509 A

しかしながらこのような従来のカメラ付き携帯端末にあっては、以下のような問題点があった。   However, such a conventional mobile terminal with a camera has the following problems.

例えば、1次元コードや2次元コードと読み取り対象となるコードの物理的な大きさが異なることから、比較的低い解像度である、カメラ付き携帯電話に用いられるカメラでは、コードの大きさにより適切な解像度を選ぶ必要があるという問題があった。   For example, since the physical size of a code to be read differs from that of a one-dimensional code or two-dimensional code, a camera used for a camera-equipped mobile phone having a relatively low resolution is more There was a problem that it was necessary to select a resolution.

また、通常、人物や、風景を撮影するように設定されているカメラでは、バーコードのようなマクロモード撮影は想定されておらず、バーコード画像を読み取りに適したように撮影することができないという問題があった。   Also, a camera that is normally set to shoot people or landscapes is not supposed to shoot in macro mode like barcodes, and cannot shoot barcode images that are suitable for reading. There was a problem.

さらに、カメラの画角が比較的狭いため、読み取り対象のコードをカメラの撮影範囲内に収めるのに困難さが伴うという問題があった。またこの場合、接写をする必要があり、このとき、装置本体等による影の影響を受けやすく、安定した画像が得られないという問題があった。   Furthermore, since the angle of view of the camera is relatively narrow, there is a problem that it is difficult to fit the code to be read within the shooting range of the camera. In this case, it is necessary to perform close-up photography. At this time, there is a problem that a stable image cannot be obtained because it is easily affected by the shadow of the apparatus main body.

本発明は、このような課題に鑑みてなされたものであって、簡単な操作で、正確にコードを読み取ることのできる携帯電話機を提供することを目的とする。   The present invention has been made in view of such problems, and an object of the present invention is to provide a mobile phone capable of reading a code accurately with a simple operation.

また、本発明は、被写体にカメラ開口を容易に合わせることのできる携帯電話機を提供することを目的とする。   It is another object of the present invention to provide a mobile phone that can easily adjust a camera opening to a subject.

本発明の携帯電話機は、画像を撮像する撮像手段と、前記撮像手段により得られた画像の表示を行う表示手段と、前記撮像画像のコードを認識するコード認識手段と、前記コード認識手段の起動をユーザー操作で指示するコード認識指示手段と、撮影対象をユーザー操作でコードに切り替える撮影手順切替手段と、を備え、本体背面に前記撮像手段、本体正面であって前記撮像手段の裏面側に前記表示手段がそれぞれ設けられ、前記撮影手順切替手段により撮影対象をコードに切り替えてから前記コード認識手段を起動するまでは、読み取り可能なコード種別に応じて表示倍率を変更して前記撮像画像を連続的に前記表示手段へ表示し、前記コード認識手段を起動後は前記表示倍率で前記コード認識手段に必要なフレームレートにより前記撮像画像を前記表示手段に表示しながら連続してコード認識を行い、コード認識が成功すると前記撮像画像に代えてコードの認識結果を前記表示手段に表示することを特徴としている。 Mobile phone of the present invention includes an imaging means for capturing an image, and display means for displaying the image obtained by the imaging means, recognizing the code recognition means for code of the captured image, the code recognition means Starting and code recognition instruction means for instructing a user operation, and equipped with a photographing procedure switching means for switching a photographing target code in the user operation, the imaging unit to the rear panel, of the imaging unit comprising: a body front The display means is provided on the back side, and the display magnification is changed according to the readable code type after the photographing procedure switching means switches the photographing object to the code until the code recognition means is activated. The captured images are continuously displayed on the display means, and after the code recognition means is activated, the image pickup is performed at the display magnification and the frame rate necessary for the code recognition means. Performed continuously code recognition while displaying an image on the display means, it is characterized in that instead of the code recognition is successful in the captured image recognition results of the code displayed on the display means.

本発明の携帯電話機は、画像を撮像する撮像手段と、前記撮像手段により得られた画像の表示を行う表示手段と、前記撮像画像のコードを認識するコード認識手段と、撮影対象をユーザ操作でコードに切り替える撮影手順切替手段と、を備え、本体背面に前記撮像手段、本体正面であって前記撮像手段の裏面側に前記表示手段がそれぞれ設けられ、前記撮影手順切替手段により撮影対象をコードに切り替えた後、読み取り可能なコード種別に応じて表示倍率を変更し且つ前記コード認識手段に必要なフレームレートにより前記撮像画像を連続的に前記表示手段に表示し、コード認識が成功すると前記撮像画像に代えてコードの認識結果を前記表示手段に表示することを特徴としている。 The cellular phone according to the present invention includes an imaging unit that captures an image, a display unit that displays an image obtained by the imaging unit, a code recognition unit that recognizes a code of the captured image, and a shooting target that can be operated by a user operation. A photographing procedure switching means for switching to a code, the imaging means on the back of the main body, and the display means on the back side of the imaging means on the back side of the imaging means. After switching, the display magnification is changed according to the readable code type, and the captured image is continuously displayed on the display unit at a frame rate necessary for the code recognition unit. When the code recognition is successful, the captured image is displayed. Instead, the code recognition result is displayed on the display means.

前記撮影手順切替手段は、コード種別に応じて前記撮像手段における画像取り込み領域の変更を行うことがより好ましい。 The imaging procedure switching means, it is more preferable to change the image capturing area in the image pickup means in accordance with the code type.

記コード種別は、1次元バーコードと2次元バーコードの種別を含むものであっても良い。
前記撮像手段の画像取り込み領域を縮小させ、当該画像取り込み領域に対応する画像を表示することで前記表示倍率を変更して拡大表示を行うものであっても良い。
Before Kiko over de type may comprise a type of one-dimensional bar codes and two-dimensional bar code.
The image capturing area of the imaging unit may be reduced, and an image corresponding to the image capturing area may be displayed to change the display magnification and perform an enlarged display.

前記コード認識手段は、1次元バーコードを認識可能であり、1次元バーコードの長辺が前記撮像手段の横方向に収まるよう画像取り込み領域及び表示倍率を変更するものでも良い。The code recognizing unit may recognize a one-dimensional barcode, and may change an image capturing area and a display magnification so that a long side of the one-dimensional barcode is within a horizontal direction of the imaging unit.

前記撮影手順切替手段は、撮影対象をバーコードに切り替えると、階調特性、コントラスト、明るさ、ホワイトバランス、露出、焦点深度、輪郭強調、又は解像度のうち少なくともいずれか1つを変更するものであっても良い。The photographing procedure switching means changes at least one of gradation characteristics, contrast, brightness, white balance, exposure, depth of focus, contour enhancement, and resolution when the photographing target is switched to a barcode. There may be.

前記コード認識手段により認識が成功すると、成功した旨を通知する通知手段を備えるものであっても良い。If the code recognition unit recognizes it successfully, a notification unit that notifies the success may be provided.

前記通知手段は、音、音声、又は前記表示手段へのメッセージ表示により認識結果の通知を行うものであっても良い。The notification means may notify the recognition result by sound, voice, or message display on the display means.

前記通知手段は、予め設定された時間内にコードを認識できなかったとき、認識失敗を前記表示手段へメッセージ表示するものであっても良い。 The notification means may display a message indicating a recognition failure on the display means when the code cannot be recognized within a preset time .

以上、詳述したように、本発明によれば、カメラ付き携帯電話機などの携帯電話機において、簡単な操作で、正確にコードを読み取ることができる。   As described above in detail, according to the present invention, in a mobile phone such as a camera-equipped mobile phone, a code can be read accurately with a simple operation.

また、被写体にカメラ開口を容易に合わせることができ、コード読み取りの操作性や使い勝手を向上させることができる携帯電話機を実現することができる。   In addition, it is possible to realize a mobile phone that can easily adjust the opening of the camera to the subject and improve the operability and usability of code reading.

以下、添付図面を参照しながら本発明の好適な携帯電話機の実施の形態について詳細に説明する。
まず、本発明の基本的な考え方について説明する。本発明に係る携帯電話機をカメラ付き携帯電話機に適用した場合を例に採る。
Hereinafter, preferred embodiments of a mobile phone according to the present invention will be described in detail with reference to the accompanying drawings.
First, the basic concept of the present invention will be described. The case where the mobile phone according to the present invention is applied to a camera-equipped mobile phone is taken as an example.

(1)本カメラ付き携帯電話機は、ユーザの操作によりON/OFFすることができる小型のライトを内蔵する。2次元バーコードなどのコードを読み取らせる場合、ユーザ操作によりON/OFFする。ユーザの操作によりライトをON/OFFすることで、レンズ特性による周辺光量が減少しても、端末本体により読み取りコードに影が重なったとしても、安定してコードを読み取ることができる。コード読み取り時に、常にライトをONさせる態様では、鏡面反射により悪影響が出る場合があるので、カメラで入力中の画像をLCD表示部で確認しながら、ライトON/OFFを切り替える。   (1) This camera-equipped mobile phone incorporates a small light that can be turned on and off by a user operation. When reading a code such as a two-dimensional bar code, it is turned ON / OFF by a user operation. By turning on / off the light by the user's operation, even if the peripheral light amount due to the lens characteristics is reduced, even if the reading body has a shadow on the reading code, the code can be read stably. In the mode in which the light is always turned on at the time of reading the code, there is a case where an adverse effect is caused by specular reflection. Therefore, the light ON / OFF is switched while confirming the image being input by the camera on the LCD display unit.

(2)本カメラ付き携帯電話機は、コードを読み取るときに、撮影中のコードの画像をリアルタイムにLCD表示部に表示させる。撮影中のコードの画像をリアルタイムに表示することで、ユーザは、バーコードが正しくカメラで撮影されているかを確認することができる。これにより、コードが画面からはみ出してしまったり、大きく歪んだ画像になってしまったりすることを防ぐことができ、操作性が向上する。また、読み取り後は、読取結果を画面にすぐに表示させることにより、読み取りの結果を瞬時に知ることができる。また、読み取りが完了したときに読み取り終了音「ピンポンとか、チリリンとか」を鳴らすことで、ユーザに知らせることもできる。   (2) When the mobile phone with the camera reads the code, the image of the code being photographed is displayed on the LCD display unit in real time. By displaying the image of the code being photographed in real time, the user can check whether the barcode is photographed correctly by the camera. As a result, it is possible to prevent the code from sticking out of the screen or to produce a greatly distorted image, and the operability is improved. Further, after reading, the reading result can be immediately displayed on the screen, so that the reading result can be instantly known. Further, when the reading is completed, the user can be notified by sounding a reading end sound “ping pong or chili ring”.

(3)読み取り動作は、連続して取り込まれた画像ごとに連続的に動作し、読み取りが完了するまで続く。この時、読み取り処理にかかる時間が大きいので、画像の取り込みはせいぜい2FPS(frame per second)程度になり、表示も2FPS程度である。これだと、LCD表示部を見ながらコードを適切な位置に合わせることが困難になる。そこで、本カメラ付き携帯電話機では、ユーザの指示があるまでは、コードの読み取り処理は実行せず、滑らかな動画をLCD表示部に表示させる。これにより、ユーザはコードを適切な位置に合わせることができる。コードが適切な位置に合わさったら、ボタンを操作し、読み取りの処理を実行させる。このとき、表示が2FPS程度に落ちてしまうが、すでにコードは適切な位置において撮影されているので、読み取りがすぐに終了でき問題がない。   (3) The reading operation is continuously performed for each continuously captured image and continues until the reading is completed. At this time, since the time required for the reading process is large, the image is captured at most about 2 FPS (frame per second) and the display is also about 2 FPS. This makes it difficult to align the code at an appropriate position while looking at the LCD display unit. Therefore, the mobile phone with camera does not execute the code reading process until the user gives an instruction, and displays a smooth moving image on the LCD display unit. As a result, the user can adjust the code to an appropriate position. When the code is in the proper position, operate the button to execute the reading process. At this time, the display drops to about 2 FPS, but since the code has already been photographed at an appropriate position, reading can be completed immediately and there is no problem.

(4)また、通常のカメラ付き携帯電話では、人物や風景を撮影することを目的に、色合いなどは、あくまでも自然になるように調整されているので、コード読み取りの用途には、不適である。そこで、本カメラ付き携帯電話機は、コード読み取り時には、通常のモードとは別に調整されたコード読み取り用のモードを用意し、これを使用することとする。例えば、コードの明と暗のコントラストが強調されるように、ホワイトバランスや、露出を調整したり、輪郭(エッジ部)をより強調するように補正係数を調整したり、解像度を調整した特別なバーコード読み取り用モードを用意する。ユーザが、コード読み取りを指定したときには、自動的に上記バーコード読み取り用モードに切り替える。   (4) In addition, with normal camera-equipped mobile phones, the colors are adjusted to be natural for the purpose of shooting people and landscapes, so they are not suitable for code reading applications. . Therefore, the camera-equipped mobile phone prepares and uses a code reading mode adjusted separately from the normal mode when reading the code. For example, the white balance and exposure are adjusted so that the contrast between light and dark in the code is emphasized, the correction coefficient is adjusted so that the contour (edge part) is more emphasized, and the resolution is adjusted. Prepare a barcode reading mode. When the user designates code reading, the bar code reading mode is automatically switched to.

(5)読み取るコードには、1次元コードや2次元コードなどの種類がある。これらコード種別ごとにコードが印刷されている大きさや、線の太さに違いがある。そこで、本カメラ付き携帯電話機は、1次元コードや2次元コードのどちらかを読み込ませるかを指定し、その指定に応じ、カメラの画像取り込み範囲を切り替える。また、表示時の倍率も最適にする。   (5) There are types of codes to be read such as one-dimensional codes and two-dimensional codes. There is a difference in the size of printed code and the thickness of the line for each code type. Therefore, the mobile phone with the camera designates whether to read one-dimensional code or two-dimensional code, and switches the image capturing range of the camera according to the designation. Also, the magnification at the time of display is optimized.

図1は、上記基本的な考え方に基づく本発明の実施の形態の携帯端末装置の外観を示す図であり、図1(A)はその正面図、図1(B)はその背面図である。本実施の形態の携帯端末装置は、コード読取装置をカメラ付き携帯電話機/PHS(Personal Handy-Phone System)の携帯通信端末に適用した例である。   FIG. 1 is a diagram showing the appearance of a portable terminal device according to an embodiment of the present invention based on the above basic concept, FIG. 1 (A) is a front view thereof, and FIG. 1 (B) is a rear view thereof. . The portable terminal device of this embodiment is an example in which the code reader is applied to a camera-equipped cellular phone / PHS (Personal Handy-Phone System) portable communication terminal.

図1において、10は、カメラ付き携帯電話機(携帯端末装置)であり、携帯電話機10本体10aは、無線通信を行うためのアンテナ11、本体10a背面に内蔵され対象となる画像情報を入力するカメラ12(撮像手段)、本体10a背面に内蔵され暗い場所やバーコード読み取り時にユーザ操作等により発光する小型のライト13(照明手段)、受話を行うための拡声用スピーカ14(通知手段の一部)、操作のためのガイダンスや受信情報,画像やテキスト情報などの情報を表示するLCD表示部15(表示手段,通知手段の一部)、電源のON/OFFを行う電源キー16、着信,発信,電話機能切り替え,動作決定等を行う電話機能キー17、各種機能を切り替えるためのモードキー18、上下左右の方向に選択対象を移動させるカーソルキー19、カメラ12の入力を決定するシャッターボタンであるシャッターキー20、ライト13をON/OFFするライトON/OFFボタン21(照明切替手段)、電話番号の入力等ダイヤルするためのメンブレンキー(Membrane key)からなるダイヤルキー22、及び音声を入力するためのマイク23を備えて構成される。   In FIG. 1, reference numeral 10 denotes a camera-equipped mobile phone (mobile terminal device). A mobile phone 10 main body 10 a includes an antenna 11 for performing wireless communication, a camera built in the back of the main body 10 a and inputs target image information. 12 (imaging means), a small light 13 (illumination means) which is built in the back of the main body 10a and emits light by a user operation or the like when reading a barcode, a loudspeaker 14 for receiving a voice (a part of the notification means) LCD display section 15 (display means, part of notification means) for displaying information such as guidance and reception information for operation, image and text information, power key 16 for turning on / off power, incoming call, outgoing call, Telephone function keys 17 for switching telephone functions, determining operations, etc., mode keys 18 for switching various functions, and moving the selection target in the vertical and horizontal directions A cursor key 19, a shutter key 20 that is a shutter button for determining input of the camera 12, a light ON / OFF button 21 (illumination switching means) for turning on / off the light 13, a membrane key for dialing such as input of a telephone number ( Membrane key) and a microphone 23 for inputting voice.

カメラ12は、携帯電話機10に内蔵された例えば34万画素のCCD(Charge Coupled Device)(エリア型固体撮像素子)カメラである。カメラ12は、単焦点レンズを有し、通常撮影時とバーコード読み取り時とで焦点深度が切換えられる。詳細な構成については、図3により後述する。   The camera 12 is a 340,000 pixel CCD (Charge Coupled Device) (area-type solid-state imaging device) camera built in the mobile phone 10, for example. The camera 12 has a single focus lens, and the depth of focus can be switched between normal shooting and barcode reading. The detailed configuration will be described later with reference to FIG.

LCD表示部15は、ドットマトリクス構成のLCDディスプレイ,バックライトであるPDP,EL及び各ドライバ等で構成される。LCD表示部15には、撮影時、カメラ12から入力される画像情報が表示され、また、コード認識が完了した場合、文字あるいはアイコンなどのメッセージにより認識結果が表示される。また、非撮影時にはダイヤルキー22から入力された番号や、非電話機能のための各種画面、電話機能の動作状態を示すアイコン等が表示される。さらに、待機時には時刻が表示され、個人情報やシステムの状態などを表示する。   The LCD display unit 15 includes a dot matrix LCD display, a backlight PDP, EL, and drivers. The LCD display unit 15 displays image information input from the camera 12 at the time of shooting. When the code recognition is completed, a recognition result is displayed by a message such as a character or an icon. In addition, at the time of non-photographing, a number input from the dial key 22, various screens for a non-telephone function, icons indicating an operation state of the telephone function, and the like are displayed. Furthermore, the time is displayed during standby, and personal information, system status, and the like are displayed.

電源キー16、電話機能キー17、モードキー18、カーソルキー19、シャッターキー20、ライトON/OFFボタン21及びダイヤルキー22は、いずれも手動で操作を行い、操作された内容を制御部31(図2)に情報として伝達する。本実施の形態では、シャッターキー20やライトON/OFFボタン21を独立のキーとしているが、これらのキーの機能を他のキー(例えばモードキー18)に割り当てる構成でもよい。   The power key 16, the telephone function key 17, the mode key 18, the cursor key 19, the shutter key 20, the light ON / OFF button 21 and the dial key 22 are all manually operated, and the operated contents are controlled by the control unit 31 ( 2) as information. In the present embodiment, the shutter key 20 and the light ON / OFF button 21 are independent keys, but the function of these keys may be assigned to another key (for example, the mode key 18).

図2は、バーコード読み取り装置をカメラ付き携帯電話機に組込んだ場合のブロック図である。   FIG. 2 is a block diagram when the barcode reader is incorporated in a camera-equipped mobile phone.

図2において、携帯電話機10は、PDA(Personal Digital Assistants)等の携帯情報端末やPHS/携帯電話機であり、本装置全体を制御するCPUからなる制御部31(撮影手順切替手段,バーコード認識手段,情報処理手段,フレームレート制御手段,タイマ設定手段)、制御プログラムや固定データ等を記憶するROM,CPUの作業用記憶領域であるRAM等の半導体メモリ及びハードディスクなどからなり受信又は入力された文字情報、画像情報、音声信号を記憶する記憶メモリ32、対象となる画像情報を入力するカメラ33(撮像手段)、バーコード読み取り時等にユーザ操作により発光するライト34(照明手段)、文字情報や画像情報をユーザに表示する表示部35(表示手段,通知手段の一部)、ユーザからのキー操作情報を入力生成するキー入力部36、電波を送受信するアンテナ37、無線通信の送受信を制御する無線部38、音声信号を出力するスピーカ39(通知手段の一部)、ユーザから音声信号を入力するマイク40を備えて構成される。   In FIG. 2, a mobile phone 10 is a portable information terminal such as a PDA (Personal Digital Assistants) or a PHS / mobile phone, and a control unit 31 (shooting procedure switching means, bar code recognition means) comprising a CPU for controlling the entire apparatus. , Information processing means, frame rate control means, timer setting means), ROM for storing control programs, fixed data, etc., semiconductor memory such as RAM which is a working storage area of the CPU, and hard disks, etc. received or input characters A storage memory 32 for storing information, image information, audio signals, a camera 33 (imaging means) for inputting target image information, a light 34 (illumination means) that emits light by a user operation when reading a barcode, character information, Display unit 35 for displaying image information to the user (display means, part of notification means), key operation information from the user A key input unit 36 for generating input, an antenna 37 for transmitting / receiving radio waves, a wireless unit 38 for controlling transmission / reception of wireless communication, a speaker 39 (part of notification means) for outputting audio signals, and a microphone 40 for inputting audio signals from a user It is configured with.

制御部31は、携帯電話機10全体を制御するとともに、バーコード読み取り機能を有し、キー操作に基づいて、カメラ33によるバーコード撮影、画像情報の表示、バーコード認識、認識した内容に基づく処理実行を行う。   The control unit 31 controls the entire mobile phone 10 and has a barcode reading function. Based on key operations, the controller 31 captures barcodes, displays image information, recognizes barcodes, and processes based on recognized contents. Perform.

特に、制御部31は、自然画やバーコードなど被写体に応じて撮影手順を切り替える撮影手順切替手段と、バーコード撮影に切り替えられた場合、バーコードを認識(コード復号)を行うコード認識手段と、認識された結果をユーザに通知する通知手段と、認識された内容に基づいて所定の処理を行う情報処理手段としての機能を有する。   In particular, the control unit 31 includes a shooting procedure switching unit that switches a shooting procedure according to a subject such as a natural image or a barcode, and a code recognition unit that recognizes a barcode (code decoding) when switched to barcode shooting. And a function of notifying means for notifying the user of the recognized result and information processing means for performing a predetermined process based on the recognized content.

また、バーコード撮影切り替え時、前記コード認識手段を起動するまではカメラ33から得られる高速なフレームレートにて表示部35に画像を表示し、起動後は前記コード認識手段に必要なフレームレートにて画像を表示する、フレームレート制御手段としての機能を有する。上記各機能の具体的内容については、図4のフローにより後述する。   Further, at the time of switching the bar code shooting, an image is displayed on the display unit 35 at a high frame rate obtained from the camera 33 until the code recognition unit is activated, and after the activation, the frame rate required for the code recognition unit is set. And has a function as a frame rate control means for displaying an image. The specific contents of each function will be described later with reference to the flow of FIG.

ROMは、制御部31が動作する際に必要なプログラム、通信制御データ等の固定データを記憶する読出し専用の半導体メモリである。RAMは、バーコード認識や通信に関するデータ、演算に使用するデータ及び演算結果等を一時的に記憶するいわゆるワーキングメモリとして使用される。携帯電話機10で処理されるプログラムは、このRAMに展開されて実行される。また、RAMの一部は、電気的に書換可能な不揮発性メモリであるEEPROM(electrically erasable programmable ROM)からなり、EEPROMに書き込むプログラムを変えることによって、特に携帯電話機10における各種の仕様を変更することができる。すなわち、最近ではシステム開発のデバッグごとにマスクROMを変更する時間損失を回避するため、プログラムROMを不揮発性メモリ、例えばEPROM,EEPROMとし、プログラム開発・修正時間の短縮の大幅な短縮を図っている。また、プログラムをダウンロードしてEEPROMのプログラム内容を書き換えるようにすれば機能のアップグレードや機能の変更を容易に行うことが可能になる。   The ROM is a read-only semiconductor memory that stores fixed data such as a program and communication control data required when the control unit 31 operates. The RAM is used as a so-called working memory that temporarily stores data relating to barcode recognition and communication, data used for calculation, calculation results, and the like. A program processed by the mobile phone 10 is developed and executed in this RAM. Further, a part of the RAM is composed of an electrically erasable programmable ROM (EEPROM) which is an electrically rewritable nonvolatile memory, and various specifications in the cellular phone 10 can be changed by changing a program written in the EEPROM. Can do. That is, recently, in order to avoid the time loss of changing the mask ROM for each debugging of the system development, the program ROM is a non-volatile memory, for example, EPROM, EEPROM, and the time for program development / modification time is greatly reduced. . Further, if the program is downloaded and the program contents of the EEPROM are rewritten, it is possible to easily upgrade functions or change functions.

図3は、カメラ12のレンズ焦点深度切換機構を模式的に示す図であり、通常撮影時とバーコード読み取り時との焦点深度切換機構を示す。   FIG. 3 is a diagram schematically showing the lens focal depth switching mechanism of the camera 12, and shows the focal depth switching mechanism between normal photographing and barcode reading.

図3において、CCD等の固体撮像素子とその信号出力回路からなるカメラモジュール50と、内部にレンズ51を有し、カメラモジュール50上にネジ嵌合されるレンズユニット52と、レンズユニット52外周部に取り付けられ、該レンズユニット52を回動させるカメラレバー53を備えて構成される。   In FIG. 3, a camera module 50 comprising a solid-state imaging device such as a CCD and its signal output circuit, a lens unit 52 having a lens 51 therein and screwed onto the camera module 50, and an outer periphery of the lens unit 52 And a camera lever 53 that rotates the lens unit 52.

レンズユニット52は、カメラモジュール50にネジで嵌合されており、カメラレバー53のツマミ53aを図3のA←→B方向に動かすと、レンズユニット52は、カメラモジュール50に対してX←→Y方向に移動する。これにより、レンズユニット52に装着されたレンズ51とカメラモジュール50との焦点距離が切換えられ、通常撮影とバーコード読み取り時の焦点深度が切換えられる。本実施の形態では、バーコード読み取り時に、制御部31からの駆動信号を受けたソレノイド等からなる駆動部(図示略)によりカメラレバー53がスライドし、自動で焦点深度が切換わる構成となっている。なお、カメラ本体10a(図1)にカメラレバー53のツマミ53aに連動するスライドツマミを設け、バーコード読み取り時等のマクロ撮影時にユーザが手動により切換える構成としてもよい。   The lens unit 52 is fitted to the camera module 50 with a screw. When the knob 53a of the camera lever 53 is moved in the direction A ← → B in FIG. Move in the Y direction. As a result, the focal length between the lens 51 mounted on the lens unit 52 and the camera module 50 is switched, and the focal depth at the time of normal photographing and barcode reading is switched. In the present embodiment, the camera lever 53 is slid by a drive unit (not shown) made of a solenoid or the like that receives a drive signal from the control unit 31 when the barcode is read, and the depth of focus is automatically switched. Yes. The camera body 10a (FIG. 1) may be provided with a slide knob that is linked to the knob 53a of the camera lever 53 so that the user can switch manually during macro shooting such as when reading a barcode.

以下、上述のように構成されたカメラ付き携帯電話機の動作を説明する。
図4は、携帯電話機10のバーコード読み取り動作を示すフローチャートであり、制御部31により実行される。図中、Sはフローの各ステップを示す。
The operation of the camera-equipped cellular phone configured as described above will be described below.
FIG. 4 is a flowchart showing the barcode reading operation of the mobile phone 10, and is executed by the control unit 31. In the figure, S indicates each step of the flow.

また、図5は、携帯電話機10のLCD表示部15のモード選択画面表示例を示す図である。   FIG. 5 is a diagram showing a mode selection screen display example of the LCD display unit 15 of the mobile phone 10.

待ち受け状態で、ユーザがモードキー18を押すと、図5(A)に示すモード選択画面が表示される。この状態でカーソルキー19により「バーコード」を選択しモードキー18又は電話機能キー17を押下して決定すると、バーコード読み取りモードに移行し、図5(B)に示すコード種別選択画面となる。   When the user presses the mode key 18 in the standby state, a mode selection screen shown in FIG. 5A is displayed. In this state, when the “bar code” is selected by the cursor key 19 and the mode key 18 or the telephone function key 17 is pressed and determined, the bar code reading mode is entered and the code type selection screen shown in FIG. 5B is displayed. .

ユーザの「バーコード」選択操作により図4に示すフローがスタートし、まず、ステップS1でバーコード読み取りモード設定を行う。このバーコード読み取りモード設定では、バーコード読み取りに必要な初期設定を行う。この初期設定では、バーコード読み取り処理以外の処理、例えば、カメラ撮影,スケジュール管理処理等の適切な終了とデータの保存、またバーコード読み取りに必要なプログラムの起動、図3に示したバーコード読み取り時の焦点深度切換機構の切換えを行う。   The flow shown in FIG. 4 is started by the user's “barcode” selection operation. First, in step S1, the barcode reading mode is set. In this barcode reading mode setting, initial settings necessary for barcode reading are performed. In this initial setting, processing other than barcode reading processing, for example, proper shooting and camera storage, schedule management processing, etc., data storage, program activation necessary for barcode reading, barcode reading shown in FIG. Switch the focal depth switching mechanism at the time.

ステップS2では、図5(B)に示すコード種別選択画面に対するユーザ指示を受けてコード種別を判別し、コード種別が1次元コードのときはステップS3に、2次元コードのときはステップS3に進む。   In step S2, the code type is determined in response to a user instruction on the code type selection screen shown in FIG. 5B. If the code type is a one-dimensional code, the process proceeds to step S3. If the code type is a two-dimensional code, the process proceeds to step S3. .

バーコード読み取りモードが設定されると、コードの種類(1次元コード/2次元コード)をユーザに選択してもらう。前述したように、読み取るコードには、1次元コードや2次元コードなどの種類があり、コード種別ごとにコードが印刷されている大きさや、線の太さに違いがある。そこで、1次元コードや2次元コードのどちらかを読み込ませるかをユーザが指定し、その指定に応じてカメラの画像取り込み範囲及び、表示時の倍率も最適にする。   When the barcode reading mode is set, the user selects the type of code (one-dimensional code / 2-dimensional code). As described above, there are types of codes to be read such as one-dimensional codes and two-dimensional codes, and there are differences in the size of printed codes and the thickness of lines for each code type. Therefore, the user designates whether to read the one-dimensional code or the two-dimensional code, and the image capturing range of the camera and the magnification at the time of display are optimized according to the designation.

1次元コードの場合は、ステップS3でカメラ及び表示の設定をあらかじめ決めてある値(設定値1)にする。   In the case of a one-dimensional code, the camera and display settings are set to predetermined values (set value 1) in step S3.

2次元コードの場合は、ステップS4で上記設定値1とは異なる値(設定値2)にする。   In the case of a two-dimensional code, a value different from the set value 1 (set value 2) is set in step S4.

図6は、1次元コード/2次元コードで画像取り込み範囲及び、表示時の倍率が異なることを説明する図である。   FIG. 6 is a diagram for explaining that the image capturing range and the magnification at the time of display differ between the one-dimensional code and the two-dimensional code.

図6に示すように、1次元コードであれば、カメラの撮影範囲を縦640×横480とし、表示は、このカメラ画像を等倍となるように設定する。一方、2次元コードであれば、カメラの撮影範囲を縦320×横240とし、表示は、このカメラ画像を縦横2倍となるように設定する。すなわち、1次元コードの場合は、情報量の多い1次元方向に長いバーコードがカメラの横方向の撮影範囲に収まるようにし、2次元コードの場合は、カメラの撮影範囲(カメラ取り込み範囲)を縦横1/2にした上で、このカメラ画像を縦横2倍で表示する。これ以外に、1次元コードと2次元コードで共通のカメラ設定として、エッジ成分の強調、コントラストの強調、などの設定がある。   As shown in FIG. 6, in the case of a one-dimensional code, the shooting range of the camera is set to 640.times.480, and the display is set so that this camera image is an equal magnification. On the other hand, in the case of a two-dimensional code, the shooting range of the camera is set to 320 × 240 in the vertical direction, and the display is set so that the camera image is doubled in the vertical and horizontal directions. In other words, in the case of a one-dimensional code, a long barcode in a one-dimensional direction with a large amount of information is included in the horizontal photographing range of the camera, and in the case of a two-dimensional code, the photographing range of the camera (camera capture range) is set. The camera image is displayed in double the vertical and horizontal directions after being halved in the vertical and horizontal directions. In addition to this, common camera settings for the one-dimensional code and the two-dimensional code include settings such as edge component enhancement and contrast enhancement.

図4のフローに戻って、ステップS3のカメラ/表示設定1、あるいはステップS4のカメラ/表示設定2が行われると、ステップS5でイベント待ちの状態になり、各イベントにより処理を切り替える。   Returning to the flow of FIG. 4, when the camera / display setting 1 in step S3 or the camera / display setting 2 in step S4 is performed, an event wait state is entered in step S5, and processing is switched depending on each event.

ライトON/OFF操作イベントは、ユーザがライトON/OFFボタン21を押したときに発生し、ステップS5でこのイベントが読み込まれたときは、ステップS6に進み、設定に従いライト13をON/OFFする。   The light ON / OFF operation event occurs when the user presses the light ON / OFF button 21, and when this event is read in step S5, the process proceeds to step S6, and the light 13 is turned ON / OFF according to the setting. .

読み取り開始操作イベントは、ユーザが読み取り開始ボタン(例えば電話機能キー17)を押したときに発生し、ステップS5でこのイベントが読み込まれたときは、ステップS7に進み、読み取り開始を示すフラグを設定する。また、図10で後述するように、カメラ12の位置を示すマークをLCD表示部15に表示する構成の場合には、読み取り開始後は、表示しないようにしてもよい。   The reading start operation event occurs when the user presses a reading start button (for example, the telephone function key 17). When this event is read in step S5, the process proceeds to step S7, and a flag indicating the start of reading is set. To do. Further, as will be described later with reference to FIG. 10, in a configuration in which a mark indicating the position of the camera 12 is displayed on the LCD display unit 15, the mark may not be displayed after the reading is started.

フレーム取り込みイベントは、カメラ12が1フレーム分画像を読み取り、該読み取りが終わった時に発生する。ステップS5でこのイベントが読み込まれたときは、ステップS8に進み、設定に従い読み込んだ画像をLCD表示部15に表示する。この時、カメラ12の位置を示すマーク71(図10参照)をLCD表示部15に同時に表示してもよい。   The frame capture event occurs when the camera 12 reads an image for one frame and the reading is completed. When this event is read in step S5, the process proceeds to step S8, and the read image is displayed on the LCD display unit 15 according to the setting. At this time, a mark 71 (see FIG. 10) indicating the position of the camera 12 may be displayed on the LCD display unit 15 at the same time.

ステップS9では、読み取り処理を開始するか否かを判別する。読み取り開始フラグが設定されていれば(ステップS9のYES)、ステップS10でコードの読み取り処理を開始する。読み取りが失敗のときは、ステップS5のイベント読み込みに戻る。   In step S9, it is determined whether or not to start the reading process. If the reading start flag is set (YES in step S9), the code reading process is started in step S10. If the reading fails, the process returns to reading the event in step S5.

ステップS11でコード読み取りが成功したか否かを判別し、コード読み取りが成功したときは(ステップS11のYES)、ステップS12で読み取り結果をLCD表示部15に表示し、ステップS13で確認音をスピーカ14で再生して本フローによるコード読み取りが完了する。読み取り完了を知らせる確認音の再生によりユーザの注意が喚起され、ユーザはバーコード読み取りが完了したことを知る。   In step S11, it is determined whether or not the code reading is successful. If the code reading is successful (YES in step S11), the reading result is displayed on the LCD display unit 15 in step S12, and a confirmation sound is displayed on the speaker in step S13. 14 and the code reading by this flow is completed. The user's attention is alerted by the reproduction of the confirmation sound informing the completion of reading, and the user knows that the barcode reading has been completed.

読み取り開始の前では、図4の破線で囲んだループを繰り返す。このとき、コード読み取り処理が行われていないので、高いフレームレートで滑らかな表示を行うことができる。   Before starting reading, the loop surrounded by the broken line in FIG. 4 is repeated. At this time, since code reading processing is not performed, smooth display can be performed at a high frame rate.

図7は、上記バーコード読み取り処理による画面表示例を示す図であり、図7(A)はその読み取り前の撮影画面を、図7(B)はその読み取り中の撮影画面を、図7(C)はその読み取り後の認識結果の画面をそれぞれ示す。   FIG. 7 is a diagram showing a screen display example by the barcode reading process. FIG. 7A shows a shooting screen before reading, FIG. 7B shows a shooting screen during reading, and FIG. C) shows the screens of recognition results after the reading.

認識対象パターンが、2次元コードである例で説明するが、認識する対象画像は、1次元/2次元バーコードのようなシンボルパターンの他、文字パターンでもよい。   Although an example in which the recognition target pattern is a two-dimensional code will be described, the recognition target image may be a character pattern in addition to a symbol pattern such as a one-dimensional / two-dimensional barcode.

読み取り開始の前では、高いフレームレートで滑らかな表示を行うことができるので、例えば、図7(A)に示すように、ユーザはコードが画面(撮影領域)からはみ出ている状態を画面で見ながら、コードが画面内に収まるようにカメラ12(携帯電話機の本体10a)を簡単に操作することができる。すなわち、読み取り前の撮影画面には、表示に際して遅延が非常に小さいため、ユーザは画面を見ながら自然な感覚でコードを画面内に収めるように操作することができる。   Since smooth display can be performed at a high frame rate before reading starts, for example, as shown in FIG. 7 (A), the user can see the code protruding from the screen (shooting area) on the screen. However, the camera 12 (the main body 10a of the mobile phone) can be easily operated so that the code fits within the screen. That is, since a delay in displaying the shooting screen before reading is very small, the user can operate the code so as to fit the code within the screen while looking at the screen.

そして、図7(B)に示すように、ユーザはコードが画面に収まったところで、読み取り開始操作をし、その後、読み取り結果が表示される(図7(C)参照)。   Then, as shown in FIG. 7B, the user performs a reading start operation when the code is placed on the screen, and then the reading result is displayed (see FIG. 7C).

図8は、上記バーコード読み取り処理による画面表示例を示す図であり、図8(A)はその読み取り前の撮影画面を、図8(B)はその読み取り中の撮影画面を、図8(C)はその読み取り後の認識結果の画面をそれぞれ示す。   FIG. 8 is a diagram showing a screen display example by the barcode reading process. FIG. 8A shows a shooting screen before reading, FIG. 8B shows a shooting screen during reading, and FIG. C) shows the screens of recognition results after the reading.

また、図8(A)に示すように、影などにより画像の一部が暗くなっていたりした場合は、コード読み取りが困難になる。コード読み取りは、カメラ12(携帯電話機の本体10a)を、読み取りコードに接写して撮影するため、影が生じやすい。   Further, as shown in FIG. 8A, when a part of the image is dark due to a shadow or the like, it is difficult to read the code. In the code reading, the camera 12 (the main body 10a of the mobile phone) is photographed by taking a close-up image of the reading code.

本実施の形態では、ユーザは、画面を確認し、現在の入力画像の状況を確認できるので、図8(A)に示すようなコードに影がかかっている場合には、ライトON/OFFボタン21を操作してライト13をONにすれば、図8(B)に示すように影による影響がなくなり読み取りが成功する(図8(C)参照)。   In the present embodiment, the user can check the current input image by checking the screen, so if the code shown in FIG. 8A is shaded, the light ON / OFF button If the light 13 is turned on by operating 21, as shown in FIG. 8B, the influence of the shadow is eliminated and the reading succeeds (see FIG. 8C).

図9は、他の実施の形態の携帯端末装置の外観を示す図であり、図9(A)はその正面図、図9(B)はその背面図である。図1と同一構成部分には同一符号を付している。   9A and 9B are views showing the appearance of a mobile terminal device according to another embodiment, FIG. 9A is a front view thereof, and FIG. 9B is a rear view thereof. The same components as those in FIG. 1 are denoted by the same reference numerals.

図9において、カメラ付き携帯電話機60(携帯端末装置)は、本体10a背面のカメラ12の真後ろ(カメラ12開口の正反対の場所)に、カメラ位置を示すマーク61をシール/印刷等により付加している。   In FIG. 9, the camera-equipped mobile phone 60 (mobile terminal device) adds a mark 61 indicating the camera position to the back of the camera 12 on the back of the main body 10a (a position opposite to the opening of the camera 12) by sticker / printing or the like. Yes.

ユーザがLCD表示部15の目視状態ではカメラ位置が見えないため、被写体までカメラ12を移動させづらい。特に、バーコード読み取りのように接写の場合には、顕著であった。   Since the user cannot see the camera position when viewing the LCD display unit 15, the camera 12 is difficult to move to the subject. This was particularly noticeable in close-up photography such as barcode reading.

本実施の形態では、カメラ12開口の真後ろにマーク61を付けているので、ユーザにとっては、このマーク61が被写体である読み取り対象のコードにカメラ12を合わせるときの目安となり操作が容易になる。   In the present embodiment, since the mark 61 is attached directly behind the opening of the camera 12, the user can easily operate the mark 61 when the camera 12 is aligned with the code to be read that is the subject.

また、カメラ12の位置によっては、図10に示すように上記マークをLCD表示部15(マーカー表示手段)に表示させてもよい。   Depending on the position of the camera 12, the mark may be displayed on the LCD display unit 15 (marker display means) as shown in FIG.

図10において、カメラ付き携帯電話機70(携帯端末装置)は、本体10a背面のカメラ12の真後ろ(カメラ12開口の正反対の場所)のLCD表示部15上に、カメラ位置を示すマーク71を表示する。   In FIG. 10, the camera-equipped mobile phone 70 (mobile terminal device) displays a mark 71 indicating the camera position on the LCD display unit 15 directly behind the camera 12 on the back of the main body 10a (a place opposite to the opening of the camera 12). .

LCD表示部15上に表示する場合は、シャッターと同時に消すことが好ましい。また、本構成の場合には、前記図4のステップS7の読み取り開始操作イベントにおいて、読み取り開始後は、表示しないようにしてもよい。また、前記図4のステップS8で読み込んだ画像をLCD表示部15に表示する場合、カメラ12の位置を示すマーク71を同時に表示してもよい。   When displaying on the LCD display unit 15, it is preferable to turn it off simultaneously with the shutter. In the case of this configuration, in the reading start operation event in step S7 of FIG. 4, the reading may not be displayed after the reading is started. When displaying the image read in step S8 of FIG. 4 on the LCD display unit 15, the mark 71 indicating the position of the camera 12 may be displayed at the same time.

このように、カメラ12位置の対応する箇所にマーク71を付けているので、被写体である読み取り対象のコードにカメラ12を合わせるときの目安となり操作が容易になる。   Thus, since the mark 71 is attached to the corresponding position of the camera 12 position, it becomes a guideline when the camera 12 is aligned with the code to be read, which is the subject, and the operation becomes easy.

また、別の実施の形態として、図11に例を示す。図11は、バーコード読み取り動作の別の実施例を示すフローチャートである。図4と同一処理部分には同一符号を付している。   FIG. 11 shows an example as another embodiment. FIG. 11 is a flowchart showing another embodiment of the barcode reading operation. The same processing parts as those in FIG. 4 are denoted by the same reference numerals.

図11においては、図4におけるステップS7及びステップS9を省略したものとなっている。この場合、ステップS5において、フレーム取り込みイベントが読み込まれた後に、ステップS8にて画像を表示した後、ただちにステップS10へ進み、コード読み取り処理を実行する。   In FIG. 11, step S7 and step S9 in FIG. 4 are omitted. In this case, after a frame capture event is read in step S5, an image is displayed in step S8, and then the process immediately proceeds to step S10 to execute a code reading process.

この実施例では、コード読み取りを開始する前に高いフレームレートで画像を表示することはできないが、読み取り開始ボタン(例えば電話機能キー17)を押すなどの、ユーザの操作を省略することができ、操作数を簡素化できるというメリットがある。   In this embodiment, an image cannot be displayed at a high frame rate before the code reading is started, but a user operation such as pressing a reading start button (for example, the telephone function key 17) can be omitted. There is an advantage that the number of operations can be simplified.

また、別の実施の形態としては、カメラから取り込んだ画像を記憶メモリに記憶し、画像を表示したあと、一旦停止し、ユーザにこの画像でコード読み取り処理を開始するか否かを選択できるようにしてもよい。ユーザがコード読み取り開始を選択すれば、コード読み取りを実施し、そうでなければ、記憶してある画像を破棄し、新たに画像をカメラから取り込みし直す。   As another embodiment, an image captured from a camera is stored in a storage memory, and after the image is displayed, the user can select whether or not to stop the code reading process with the image after stopping the image. It may be. If the user selects to start code reading, code reading is performed, otherwise, the stored image is discarded and a new image is taken in again from the camera.

この実施の形態では、処理能力が著しく低い携帯端末であり、コード読み取り処理に1秒以上かかるような場合に有効である。ユーザは取り込まれた画像をじっくり見てからコード読み取り処理を開始するかどうかを判断することにより、明確に読み取りが失敗する画像(手ぶれなどで画像がボケているなど)では、コード読み取りを実行せず、画像を撮り直す。これにより、時間のかかるコード読み取り処理の実行回数を最小限にとどめることができるからである。   This embodiment is effective when the mobile terminal has a remarkably low processing capability and the code reading process takes 1 second or more. By deciding whether to start the code reading process after carefully observing the captured image, the user can execute code reading for images that clearly fail to read (images are blurred due to camera shake, etc.). First, take a picture again. This is because the number of times of time-consuming code reading processing can be minimized.

以上のように、本実施の形態のカメラ付き携帯電話機10は、対象となる画像情報を入力するカメラ12、バーコード読み取り時にON/OFFボタン21操作により発光する小型のライト13、情報を表示するLCD表示部15、装置全体を制御するCPUからなる制御部31を備え、制御部31は、自然画やバーコードなど被写体に応じて撮影手順を切り替え、バーコード撮影に切り替えられた場合、バーコードを認識を行うとともに、認識された結果をユーザに通知し、認識された内容に基づいて所定の処理を実行するので、比較的低い解像度である、カメラ付き携帯電話機に用いられるカメラによるバーコード読み取りにおいて、バーコード撮影に適したバーコード読み取りモードに自動的に移行し、簡単な操作で、正確にコードを読み取ることができる。   As described above, the camera-equipped mobile phone 10 according to the present embodiment displays the camera 12 that inputs target image information, the small light 13 that emits light by operating the ON / OFF button 21 when reading a barcode, and the information. An LCD display unit 15 and a control unit 31 including a CPU that controls the entire apparatus are provided. The control unit 31 switches a shooting procedure depending on a subject such as a natural image or a barcode, and when the barcode shooting is switched, the barcode is displayed. Is recognized, the user is notified of the recognized result, and predetermined processing is executed based on the recognized content, so that the barcode used by the camera-equipped mobile phone having a relatively low resolution is read. Automatically shifts to a barcode reading mode suitable for barcode shooting, and the code is accurately obtained with a simple operation. It is possible to take look.

また、バーコード撮影切り替え時、コード認識処理を起動するまではカメラ33から得られる高速なフレームレートにて表示部35に画像を表示し、起動後はコード認識処理に必要なフレームレートにて画像を表示するので、読み取り動作は、連続して取り込まれた画像ごとに連続的に動作し、滑らかな動画をLCD表示部15に表示することができ、コードを適切な位置に合わせることができる。   Further, at the time of switching the barcode shooting, an image is displayed on the display unit 35 at a high frame rate obtained from the camera 33 until the code recognition process is started, and after the start, the image is displayed at a frame rate necessary for the code recognition process. Therefore, the reading operation is continuously performed for each continuously captured image, a smooth moving image can be displayed on the LCD display unit 15, and the code can be adjusted to an appropriate position.

以上の説明は本発明の好適な実施の形態の例証であり、本発明の範囲はこれに限定されることはない。   The above description is an illustration of a preferred embodiment of the present invention, and the scope of the present invention is not limited to this.

なお、上記実施の形態では、携帯電話機に適用した例であるが、PDA等の携帯情報端末、パソコン等の情報処理装置など、カメラ(内蔵/外付け)を備えた装置であればどのような装置にも適用可能である。また、読み取り対象となるコードは、どのようなコードであってもよい。   Although the above embodiment is an example applied to a mobile phone, any device equipped with a camera (internal / external) such as a personal digital assistant such as a PDA, an information processing device such as a personal computer, etc. It is also applicable to the device. The code to be read may be any code.

また、上記実施の形態では、携帯端末装置という名称を用いたが、これは説明の便宜上であり、通信端末装置、情報読取装置や情報読取方法等でもよいことは勿論である。   Moreover, in the said embodiment, although the name portable terminal device was used, this is for convenience of explanation, and of course, a communication terminal device, an information reading device, an information reading method, etc. may be sufficient.

また、上記実施の形態では、通知手段として表示部15への文字あるいはアイコンによるメッセージ表示、スピーカ14による読み取り終了音による通知の例について説明したが、通知方法は何でもよく、例えば音声であってもよい。音声で通知する場合は、携帯電話機に、音声データ生成チップ,D/Aコンバータ,アンプ及びスピーカ等からなる音声出力部を設け、音声データ生成チップを用いて読取完了/読取失敗にある旨のメッセージ内容の音声合成を行いスピーカにより音声出力する。また、表示部15にライト13を点灯したほうが良い旨のメッセージやバーコード種別を変更すべき旨のメッセージを表示したり、表示に加えて音声あるいは音響にて報知することも可能である。   In the above-described embodiment, examples of message display by characters or icons on the display unit 15 and notification by reading end sound by the speaker 14 as the notification unit have been described. However, any notification method may be used, for example, voice. Good. When notifying by voice, the mobile phone is provided with a voice output unit comprising a voice data generation chip, a D / A converter, an amplifier, a speaker, etc., and a message indicating that reading has been completed or has failed using the voice data generation chip. The content is synthesized and output by a speaker. It is also possible to display a message indicating that it is better to turn on the light 13 on the display unit 15 and a message indicating that the barcode type should be changed, or to notify by voice or sound in addition to the display.

また、上記携帯端末装置を構成する各回路部、例えば記憶部や表示部の種類、数及び接続方法などは前述した実施の形態に限られない。   Further, the types, numbers, connection methods, and the like of each circuit unit, for example, the storage unit and the display unit that constitute the mobile terminal device are not limited to the above-described embodiments.

また、以上説明した携帯端末装置は、これら携帯端末装置を機能させるためのプログラムでも実現される。このプログラムはコンピュータで読み取り可能な記録媒体に格納されている。本発明では、この記録媒体として、図2に示されている制御部31のメインメモリそのものがプログラムメディアであってもよいし、また外部記憶装置としてCD−ROMドライブ等のプログラム読み取り装置が設けられ、そこに記録媒体を挿入することで読み取り可能なCD−ROM等のプログラムメディアであってもよい。いずれの場合でも、格納されているプログラムは制御部31のCPUがアクセスして実行させる構成であってもよいし、あるいはいずれの場合もプログラムを読み出し、読み出されたプログラムは、図示されていないプログラム記憶エリアにダウンロードされて、そのプログラムが実行される方式であってもよい。このダウンロード用のプログラムは予め各装置に格納されているものとする。   The mobile terminal device described above is also realized by a program for causing these mobile terminal devices to function. This program is stored in a computer-readable recording medium. In the present invention, as the recording medium, the main memory itself of the control unit 31 shown in FIG. 2 may be a program medium, or a program reading device such as a CD-ROM drive is provided as an external storage device. Further, it may be a program medium such as a CD-ROM that can be read by inserting a recording medium therein. In any case, the stored program may be configured to be accessed and executed by the CPU of the control unit 31, or in any case, the program is read and the read program is not illustrated. The program may be downloaded to the program storage area and executed. This download program is assumed to be stored in advance in each device.

ここで、上記プログラムメディアは、携帯端末装置又は情報処理装置と分離可能に構成される記録媒体であり、磁気テープやカセットテープ等の磁気ディスクやCD−ROM、CD−R/RW、MO、MD、DVD−ROM、DVD−RAM、DVD−RW等の光ディスクのディスク系、PCカード、コンパクトフラッシュカード(登録商標)、スマートメディア(登録商標)、ICカード、SDカード(登録商標)、メモリースティック(登録商標)等のカード系、あるいはマスクROM、EPROM、EEPROM、フラッシュROM等による半導体メモリを含めた固定的にプログラムを担持する媒体であってもよい。   Here, the program medium is a recording medium configured to be separable from the portable terminal device or the information processing device, and is a magnetic disk such as a magnetic tape or a cassette tape, a CD-ROM, a CD-R / RW, an MO, an MD. , DVD-ROM, DVD-RAM, DVD-RW and other optical disk systems, PC cards, compact flash cards (registered trademark), smart media (registered trademark), IC cards, SD cards (registered trademark), memory sticks (registered) It may be a medium carrying a fixed program including a semiconductor memory such as a card system such as a trademark) or a mask ROM, EPROM, EEPROM, flash ROM or the like.

さらに、インターネット接続プロバイダ又はサーバ端末400等の外部の通信ネットワークとの接続が可能な通信接続手段を介して通信ネットワークからプログラムをダウンロードするように、流動的にプログラムを担持する媒体であってもよい。なお、このように通信ネットワークからプログラムをダウンロードする場合には、そのダウンロード用プログラムは予め格納しておくか、あるいは別な記録媒体からインストールされるものであってもよい。なお、記録媒体に格納されている内容としてはプログラムに限定されず、データであってもよい。   Further, the medium may be a medium that carries the program in a fluid manner so as to download the program from the communication network via a communication connection means that can be connected to an external communication network such as the Internet connection provider or the server terminal 400. . When the program is downloaded from the communication network as described above, the download program may be stored in advance or may be installed from another recording medium. The content stored in the recording medium is not limited to a program, and may be data.

本発明の実施の形態の携帯端末装置の外観を示す図である。It is a figure which shows the external appearance of the portable terminal device of embodiment of this invention. 本実施の形態の携帯端末装置のバーコード読み取り装置をカメラ付き携帯電話機に組込んだ場合のブロック図である。It is a block diagram at the time of incorporating the barcode reader of the portable terminal device of this Embodiment in the mobile phone with a camera. 本実施の形態の携帯端末装置のカメラのレンズ焦点深度切換機構を模式的に示す図である。It is a figure which shows typically the lens focal depth switching mechanism of the camera of the portable terminal device of this Embodiment. 本実施の形態の携帯端末装置のバーコード読み取り動作を示すフローチャートである。It is a flowchart which shows barcode reading operation | movement of the portable terminal device of this Embodiment. 本実施の形態の携帯端末装置のLCD表示部のモード選択画面表示例を示す図である。It is a figure which shows the example of a mode selection screen display of the LCD display part of the portable terminal device of this Embodiment. 本実施の形態の携帯端末装置の1次元コード/2次元コードで画像取り込み範囲及び、表示時の倍率が異なることを説明する図である。It is a figure explaining the image taking-in range and the magnification at the time of display differing with the one-dimensional code / 2-dimensional code of the portable terminal device of this Embodiment. 本実施の形態の携帯端末装置のバーコード読み取り処理による画面表示例を示す図である。It is a figure which shows the example of a screen display by the barcode reading process of the portable terminal device of this Embodiment. 本実施の形態の携帯端末装置のバーコード読み取り処理による画面表示例を示す図である。It is a figure which shows the example of a screen display by the barcode reading process of the portable terminal device of this Embodiment. 他の実施の形態の携帯端末装置の外観を示す図である。It is a figure which shows the external appearance of the portable terminal device of other embodiment. 他の実施の形態の携帯端末装置の外観を示す図である。It is a figure which shows the external appearance of the portable terminal device of other embodiment. 他の実施の形態の携帯端末装置のバーコード読み取り動作を示すフローチャートである。It is a flowchart which shows the barcode reading operation | movement of the portable terminal device of other embodiment.

符号の説明Explanation of symbols

10 カメラ付き携帯電話機(携帯端末装置)
10a 携帯電話機本体
11,37 アンテナ
12,33 カメラ(撮像手段)
13,34 ライト(照明手段)
14,39 スピーカ(通知手段の一部)
15,35 LCD表示部(表示手段,通知手段の一部)
16 電源キー
17 電話機能キー
18 モードキー
19 カーソルキー
20 シャッターキー
21 ライトON/OFFボタン(照明切替手段)
22 ダイヤルキー
23,40 マイク
31 制御部(撮影手順切替手段,バーコード認識手段,情報処理手段,フレームレート制御手段,タイマ設定手段)
32 記憶メモリ
36 キー入力部
50 カメラモジュール
51 レンズ
52 レンズユニット
53 カメラレバー
10 Mobile phone with camera (mobile terminal device)
10a Mobile phone body 11, 37 Antenna 12, 33 Camera (imaging means)
13, 34 Light (lighting means)
14,39 Speaker (part of the notification means)
15, 35 LCD display (part of display means and notification means)
16 Power key 17 Telephone function key 18 Mode key 19 Cursor key 20 Shutter key 21 Light ON / OFF button (lighting switching means)
22 Dial key 23, 40 Microphone 31 Control section (shooting procedure switching means, bar code recognition means, information processing means, frame rate control means, timer setting means)
32 Memory Memory 36 Key Input Unit 50 Camera Module 51 Lens 52 Lens Unit 53 Camera Lever

Claims (10)

画像を撮像する撮像手段と、前記撮像手段により得られた画像の表示を行う表示手段と、前記撮像画像のコードを認識するコード認識手段と、前記コード認識手段の起動をユーザー操作で指示するコード認識指示手段と、撮影対象をユーザー操作でコードに切り替える撮影手順切替手段と、を備え、
本体背面に前記撮像手段、本体正面であって前記撮像手段の裏面側に前記表示手段がそれぞれ設けられ、
前記撮影手順切替手段により撮影対象をコードに切り替えてから前記コード認識手段を起動するまでは、読み取り可能なコード種別に応じて表示倍率を変更して前記撮像画像を連続的に前記表示手段へ表示し、
前記コード認識手段を起動後は前記表示倍率で前記コード認識手段に必要なフレームレートにより前記撮像画像を前記表示手段に表示しながら連続してコード認識を行い、コード認識が成功すると前記撮像画像に代えてコードの認識結果を前記表示手段に表示することを特徴とする携帯電話機。
Imaging means for capturing an image, and display means for displaying the image obtained by the imaging means, recognizing the code recognition means for code of the captured image, it instructs the activation of the code recognition means in the user operation comprising a code recognition instructing unit that, the photographing procedure switching means for switching a photographing target code in the user operation, and
The imaging means on the back of the main body, the display means is provided on the back side of the imaging means on the front side of the main body,
The display magnification is changed according to the readable code type and the captured image is continuously displayed on the display unit from when the shooting target is switched to the code by the shooting procedure switching unit until the code recognition unit is activated. And
After the code recognition means is activated, code recognition is continuously performed while displaying the captured image on the display means at the display magnification and the frame rate required for the code recognition means, and when the code recognition is successful, the captured image is displayed. Instead, a code recognition result is displayed on the display means .
画像を撮像する撮像手段と、前記撮像手段により得られた画像の表示を行う表示手段と、前記撮像画像のコードを認識するコード認識手段と、撮影対象をユーザ操作でコードに切り替える撮影手順切替手段と、を備え、
本体背面に前記撮像手段、本体正面であって前記撮像手段の裏面側に前記表示手段がそれぞれ設けられ、
前記撮影手順切替手段により撮影対象をコードに切り替えた後、読み取り可能なコード種別に応じて表示倍率を変更し且つ前記コード認識手段に必要なフレームレートにより前記撮像画像を連続的に前記表示手段に表示し、
コード認識が成功すると前記撮像画像に代えてコードの認識結果を前記表示手段に表示することを特徴とする携帯電話機。
Image pickup means for picking up an image, display means for displaying an image obtained by the image pickup means, code recognition means for recognizing the code of the picked-up image, and shooting procedure switching means for switching a shooting target to a code by a user operation And comprising
The imaging means on the back of the main body, the display means is provided on the back side of the imaging means on the front side of the main body,
After the photographing procedure switching means switches the photographing object to the code, the display magnification is changed according to the readable code type, and the captured image is continuously displayed on the display means at the frame rate necessary for the code recognition means. Display
If the code recognition is successful, a code recognition result is displayed on the display means instead of the captured image.
前記撮影手順切替手段は、コード種別に応じて前記撮像手段における画像取り込み領域の変更を行うことを特徴とする請求項1又は2に記載の携帯電話機。 The imaging procedure switching means, the mobile phone according to claim 1 or 2, characterized in that to change the image capturing area in the image pickup means in accordance with the code type. 記コード種別は、1次元バーコードと2次元バーコードの種別を含むことを特徴とする請求項1乃至3のいずれか1項に記載の携帯電話機。 Before Kiko over de type is a cellular phone according to any one of claims 1 to 3, characterized in that it comprises a type of one-dimensional bar codes and two-dimensional bar code. 前記撮像手段の画像取り込み領域を縮小させ、当該画像取り込み領域に対応する画像を表示することで前記表示倍率を変更して拡大表示を行うことを特徴とする請求項1乃至4のいずれか1項に記載の携帯電話機。5. The enlarged display is performed by changing the display magnification by reducing an image capturing area of the imaging unit and displaying an image corresponding to the image capturing area. The mobile phone described in 1. 前記コード認識手段は、1次元バーコードを認識可能であり、The code recognition means is capable of recognizing a one-dimensional barcode;
1次元バーコードの長辺が前記撮像手段の横方向に収まるよう画像取り込み領域及び表示倍率を変更することを特徴とする請求項1乃至5のいずれか1項に記載の携帯電話機。6. The mobile phone according to claim 1, wherein an image capturing area and a display magnification are changed so that a long side of the one-dimensional barcode is within a horizontal direction of the imaging unit.
前記撮影手順切替手段は、撮影対象をバーコードに切り替えると、階調特性、コントラスト、明るさ、ホワイトバランス、露出、焦点深度、輪郭強調、又は解像度のうち少なくともいずれか1つを変更することを特徴とする請求項1乃至のいずれか1項に記載の携帯電話機。 The imaging procedure switching means changes at least one of gradation characteristics, contrast, brightness, white balance, exposure, depth of focus, contour enhancement, or resolution when the imaging target is switched to a barcode. The mobile phone according to any one of claims 1 to 6 , characterized in that: 前記コード認識手段により認識が成功すると、成功した旨を通知する通知手段を備えることを特徴とする請求項1乃至のいずれか1項に記載の携帯電話機。 The code the recognition by the recognition unit is successful, the mobile phone according to any one of claims 1 to 7, characterized in that it comprises a notifying means for notifying success. 前記通知手段は、音、音声、又は前記表示手段へのメッセージ表示により認識結果の通知を行うことを特徴とする請求項記載の携帯電話機。 9. The mobile phone according to claim 8 , wherein the notification means notifies the recognition result by sound, voice, or message display on the display means. 記通知手段は、予め設定された時間内にコードを認識できなかったとき、認識失敗を前記表示手段へメッセージ表示することを特徴とする請求項1乃至のいずれか1項に記載の携帯電話機。 Before Symbol notification means, when not able to recognize the code within a preset time, wherein the recognition failure in any one of claims 1 to 9, characterized in that the message displayed on the display means Mobile phone.
JP2004282750A 2004-09-28 2004-09-28 Mobile phone Expired - Lifetime JP3717920B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004282750A JP3717920B2 (en) 2004-09-28 2004-09-28 Mobile phone

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004282750A JP3717920B2 (en) 2004-09-28 2004-09-28 Mobile phone

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2002214733A Division JP4113387B2 (en) 2002-07-24 2002-07-24 Portable terminal device, information reading program, and recording medium recording the program

Publications (2)

Publication Number Publication Date
JP2005110268A JP2005110268A (en) 2005-04-21
JP3717920B2 true JP3717920B2 (en) 2005-11-16

Family

ID=34545220

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004282750A Expired - Lifetime JP3717920B2 (en) 2004-09-28 2004-09-28 Mobile phone

Country Status (1)

Country Link
JP (1) JP3717920B2 (en)

Also Published As

Publication number Publication date
JP2005110268A (en) 2005-04-21

Similar Documents

Publication Publication Date Title
JP4113387B2 (en) Portable terminal device, information reading program, and recording medium recording the program
US7733394B2 (en) Focus state display apparatus and focus state display method
JP4113565B2 (en) Mobile phone
JP4382831B2 (en) Mobile phone
JP3717919B2 (en) Mobile phone
JP4054843B2 (en) Mobile phone
JP3665328B2 (en) Mobile phone
JP3717920B2 (en) Mobile phone
JP2004126942A (en) Mobile terminal, system for providing information, medium stored with program for providing information, and medium for printing

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050405

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050603

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050823

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050831

R150 Certificate of patent or registration of utility model

Ref document number: 3717920

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080909

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090909

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090909

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100909

Year of fee payment: 5

S202 Request for registration of non-exclusive licence

Free format text: JAPANESE INTERMEDIATE CODE: R315201

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100909

Year of fee payment: 5

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110909

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120909

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130909

Year of fee payment: 8

SG99 Written request for registration of restore

Free format text: JAPANESE INTERMEDIATE CODE: R316G99

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term