JP5800609B2 - Medical master-slave manipulator - Google Patents
Medical master-slave manipulator Download PDFInfo
- Publication number
- JP5800609B2 JP5800609B2 JP2011150977A JP2011150977A JP5800609B2 JP 5800609 B2 JP5800609 B2 JP 5800609B2 JP 2011150977 A JP2011150977 A JP 2011150977A JP 2011150977 A JP2011150977 A JP 2011150977A JP 5800609 B2 JP5800609 B2 JP 5800609B2
- Authority
- JP
- Japan
- Prior art keywords
- video
- master
- slave
- screen
- slave manipulator
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 claims description 60
- 238000006243 chemical reaction Methods 0.000 claims description 38
- 230000008569 process Effects 0.000 claims description 31
- 238000001514 detection method Methods 0.000 claims description 18
- 230000004044 response Effects 0.000 claims description 3
- 238000011282 treatment Methods 0.000 description 24
- 238000010586 diagram Methods 0.000 description 10
- 230000033001 locomotion Effects 0.000 description 10
- 230000007246 mechanism Effects 0.000 description 10
- 230000036544 posture Effects 0.000 description 9
- 239000011521 glass Substances 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 102220040592 rs587778386 Human genes 0.000 description 3
- 239000003550 marker Substances 0.000 description 2
- 239000000523 sample Substances 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 210000005252 bulbus oculi Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000003638 chemical reducing agent Substances 0.000 description 1
- 210000001508 eye Anatomy 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000010287 polarization Effects 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 102200048773 rs2224391 Human genes 0.000 description 1
- 238000010187 selection method Methods 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Description
本発明は、マスタ入力デバイスとスレーブアームとを備えた医療用マスタスレーブマニピュレータに関する。 The present invention relates to a medical master-slave manipulator including a master input device and a slave arm.
医療の分野において、マスタ入力デバイスとスレーブアームを備えた医療用ロボットシステム(医療用マスタスレーブマニピュレータ)が提案されている。特許文献1に記載の医療用ロボットシステムでは、動作を制御するスレーブアームを選択する制御スイッチ機構がマスタ入力デバイスに設けられている。すなわち、第1のモードでは第1のスレーブアームを、第2のモードでは第2のスレーブアームを、マスタ入力デバイスによって制御し、いずれを制御するかを制御スイッチ機構により切り替える。
上記制御スイッチ機構としては、音声コマンド、物理的に配置されたスイッチ、フットペダル、ディスプレイ上に表示されたアイコンやグラフィックユーザインターフェース選択手段が挙げられている。
In the medical field, a medical robot system (medical master-slave manipulator) including a master input device and a slave arm has been proposed. In the medical robot system described in
Examples of the control switch mechanism include voice commands, physically arranged switches, foot pedals, icons displayed on a display, and graphic user interface selection means.
さらに、特許文献1の医療用ロボットシステムには、上述したものとは別の制御スイッチ機構が設けられている。この制御スイッチ機構は、マスタ入力デバイスにより動作を制御するモードを、腹腔鏡超音波(LUS)プローブを制御して補助画像を取得する画像捕捉モードと、当該補助画像を本来の表示画像上に表示し操作するなどの画像操作モードに切り替える。
画像操作モードでは、内視鏡などの画像に、LUSプローブ等により取得された超音波診断画像などの別の補助画像をオーバーレイし、さらに、マスタ入力デバイスをポインディングデバイスとして機能させることができる。
Furthermore, the medical robot system of
In the image operation mode, another auxiliary image such as an ultrasonic diagnostic image acquired by an LUS probe or the like can be overlaid on an image of an endoscope or the like, and the master input device can function as a pointing device.
マスタスレーブマニピュレータを介して医療処置等を行う場合には、処置する部位の画像をスレーブアームに取り付けた内視鏡等で取得し、ディスプレイに表示された当該画像を見ながら操作者が処置を行う。このとき、表示されている画像中のスレーブアームの移動方向と、マスタ入力デバイスのうち実際に操作者が操作するマスターアームの移動方向が合わなくなり、操作者が直感的にマスタ入力を行いにくくなるという問題がある。 When performing a medical procedure or the like via a master / slave manipulator, an image of a site to be treated is acquired by an endoscope or the like attached to the slave arm, and the operator performs the procedure while viewing the image displayed on the display. . At this time, the moving direction of the slave arm in the displayed image does not match the moving direction of the master arm that is actually operated by the operator among the master input devices, and it becomes difficult for the operator to perform master input intuitively. There is a problem.
特許文献1の医療用ロボットシステムでは、制御スイッチ機構によって、表示される画像を切り換えて、マスタ入力デバイスをポインティングデバイスと関連させることで画像情報を操作しているが、表示されている画像と関連させてスレーブマニピュレータの制御方法を切り換えることについては考慮されておらず、依然として上述の問題が残されている。
In the medical robot system disclosed in
本発明は上記事情に鑑みて成されたものであり、操作者が直感的にマスタ入力デバイスを操作してスレーブマニピュレータを動作させることができる医療用マスタスレーブマニピュレータを提供することを目的とする。 The present invention has been made in view of the above circumstances, and an object thereof is to provide a medical master-slave manipulator in which an operator can operate a master manipulator intuitively to operate a slave manipulator.
本発明の医療用マスタスレーブマニピュレータは、操作指令を発するためのマスタ入力部と、前記マスタ入力部により操作されるスレーブマニピュレータと、前記操作指令に基づいて前記スレーブマニピュレータへ操作信号を送信する制御部と、被写体の第一の映像を表示する第一画面と、前記第一の映像と異なる、前記被写体の第二の映像を表示する第二画面と、を有する表示部と、前記第一の映像および前記第二の映像のうち、操作者が一つの映像を選択するための映像選択手段とを備え、前記制御部は、前記操作指令に対して、前記映像選択手段を介して前記操作者により選択された映像に関連付けられた変換処理を行うことにより、前記スレーブマニピュレータを操作する前記操作信号を生成することを特徴とする。 The medical master slave manipulator of the present invention includes a master input unit for issuing an operation command, a slave manipulator operated by the master input unit, and a control unit that transmits an operation signal to the slave manipulator based on the operation command And a first screen that displays a first video of the subject, and a second screen that displays a second video of the subject that is different from the first video, and the first video And an image selection means for an operator to select one of the second images , and the control unit responds to the operation command by the operator via the image selection means. The operation signal for operating the slave manipulator is generated by performing a conversion process associated with the selected video.
前記映像選択手段は、前記操作者の顔が向いている前記映像を検出する検出部を含んでもよいし、前記操作者が選択した前記映像が入力される入力手段を含んでもよい。 The video selection means may include a detection unit that detects the video facing the operator's face, or may include input means for inputting the video selected by the operator.
前記第一の映像および前記第二の映像の少なくとも一つは、他の映像を画像処理することにより生成されてもよい。例えば、他の映像を回転処理することにより生成されてもよいし、他の映像を拡大もしくは縮小処理することにより生成されてもよい。
また、前記第一の映像および前記第二の映像は、それぞれ異なる複数の観察手段により取得されてもよい。
At least one of the first video and the second video may be generated by performing image processing on another video. For example, it may be generated by rotating another video or may be generated by enlarging or reducing another video.
The first video and the second video may be acquired by a plurality of different observation means.
前記マスタ入力部は操作部を有し、前記スレーブマニピュレータはスレーブアームを有し、その数は、前記操作部の数よりも多く、前記映像に関連付けられた変換処理の少なくとも一つにおいて、前記操作部と前記スレーブアームとの対応関係が他の変換処理と異なってもよい。 The master input unit includes an operation unit, the slave manipulator includes slave arms, the number of which is greater than the number of the operation units, and the operation is performed in at least one of the conversion processes associated with the video. The correspondence between the unit and the slave arm may be different from other conversion processes.
本発明の医療用マスタスレーブマニピュレータは、複数の前記スレーブマニピュレータを備えてもよい。 The medical master slave manipulator of the present invention may include a plurality of the slave manipulators.
本発明の医療用マスタスレーブマニピュレータによれば、操作者が直感的にマスタ入力デバイスを操作してスレーブマニピュレータを動作させることができる。 According to the medical master-slave manipulator of the present invention, the operator can operate the master input device intuitively to operate the slave manipulator.
以下、本発明の第一実施形態について説明する。図1は、本実施形態の医療用マスタスレーブマニピュレータ(以下、単に「マスタスレーブマニピュレータ」と称する。)1を示す図である。マスタスレーブマニピュレータ1は、マスターアーム21を有し、操作指令を発するためのマスタ入力部2と、スレーブアーム31を有するスレーブマニピュレータ3とを備え、術者(操作者)Opによるマスターアーム21の操作に追従させるようにしてスレーブアーム31を遠隔制御するものである。マスターアーム21を介した操作指令は、制御部4のマスタ制御部41に送信され、必要に応じて後述する変換処理が施された後、マニピュレータ制御部42に入力される。その後、マニピュレータ制御部42からスレーブマニピュレータ3へ動作信号が送られ、スレーブアーム31が動作する。
Hereinafter, a first embodiment of the present invention will be described. FIG. 1 is a diagram showing a medical master-slave manipulator (hereinafter simply referred to as “master-slave manipulator”) 1 of the present embodiment. The master-
図1に示すように、スレーブマニピュレータ3は、患者Pが載置される手術台100に設置され、複数のスレーブアーム31を有する。各スレーブアームは複数の多自由度関節を有して構成されており、多軸動作可能である。各多自由度関節は、図示しない動力部によって個別に駆動される。動力部としては、例えばインクリメンタルエンコーダや減速器等を備えたサーボ機構を有するモータ(サーボモータ)等を用いることができる。
As shown in FIG. 1, the slave manipulator 3 is installed on an operating table 100 on which a patient P is placed and has a plurality of
複数のスレーブアーム31の一つには、手技対象部位(被写体)を含む術野の映像を取得する内視鏡等の図示しない観察手段が取り付けられ、他のスレーブアームには、各種処置を行うための図示しない処置具が取り付けられる。観察手段や処置具は、公知のものを適宜選択して用いることができる。また、各スレーブアームは、装着された処置具等を駆動するための複数の動力部も有している(不図示)。この動力部も、例えばサーボモータを用いることができる。なお、以降の説明において、スレーブアームのうち処置具が取り付けられたスレーブアームを、「処置用スレーブアーム」と称することがある。
One of the plurality of
マスタ入力部2は、術者Opが操作する複数のマスターアーム21と、上述の観察手段により取得された映像が表示される表示部22とを備えている。各マスターアーム21は、多軸動作可能な公知の構成を有し、術者Opに近い先端側に、術者が把持して操作指令を発する操作部としての把持部21Aを備えている。
The
表示部22は、映像が表示されるディスプレイ23と、ディスプレイ23に取り付けられ、術者の顔の向きを検出する検出部(映像選択手段)24とを有する。
ディスプレイ23は、第一画面25と第二画面26との二つの画面を有している。第一画面25には、観察手段により取得された術野の映像が表示され、第二画面26には、当該映像を所定の回転角(例えば90度)回転させた術野の映像(以下、「回転術野像」と称する。)が表示される。本実施形態では、各画面25、26には、視差に相当するずれを有する2つの映像が投影され、術者Opが偏光機構やシャッター機構等を備えた公知の3Dメガネ101を通して見ることで、各画面の映像を立体的に見ることができる。
The
The
検出部24は、第一画面25の上方に設けられた第一検出部24Aと、第二画面の上方に設けられた第二検出部24Bとを有する。各検出部24A、24Bは受光素子を備えており、3Dメガネ101に取り付けられた発光部102から発せられる光を受けることにより、術者Opの顔の向きを検出する。
なお、検出部の構成はこれに限定されず、公知の各種機構を適宜選択して採用することができ、検出原理として受発光を用いないものであってもよい。例えば、術者の顔や眼球の画像を取得し、当該画像から視線の向きを検出するようなものでもよい。
The
Note that the configuration of the detection unit is not limited to this, and various known mechanisms can be appropriately selected and employed, and light reception / emission may not be used as a detection principle. For example, an image of the operator's face or eyeball may be acquired, and the direction of the line of sight may be detected from the image.
図2は、マスタスレーブマニピュレータ1の機能ブロック図である。観察手段32と表示部22との間には、画像処理部50が設けられている。画像処理部50は、公知の処理回路または処理プログラムであり、観察手段32から送信された映像信号は画像処理部50で映像表示可能な状態に処理される。処理された信号は、第一の変換処理Pr1を経て表示部22の第一画面25に表示されるとともに、第二の変換処理Pr2を経て第二画面26に表示される。本実施形態では、第一画面25には観察手段32の取得した映像がそのまま表示され、第二画面26には取得した映像が右回りに90度回転されて表示される。すなわち、第二の変換処理Pr2は、右回りに90度回転する処理であり、第一の変換処理Pr1は、「無変換」という変換処理である。本発明においては、「無変換」も変換処理の一つであると定義する。
なお、画像処理により回転処理を行った切替画像は、切替後も操作者が視認できる3D表示を維持する。たとえば、3D表示では両目の視差に対応した2画像を同一画面上に表示するが、画像処理時の回転量に応じて両目視差を考慮して3D表示を維持するように2画像を再変換して、表示部22に表示する。
FIG. 2 is a functional block diagram of the master /
Note that the switching image that has been subjected to the rotation processing by the image processing maintains the 3D display that the operator can visually recognize even after switching. For example, in 3D display, two images corresponding to the parallax of both eyes are displayed on the same screen, but the two images are reconverted so as to maintain the 3D display in consideration of the binocular parallax according to the rotation amount during image processing. Is displayed on the
検出部24とマスタ制御部41との間には判定部55が設けられている。判定部55は、検出部24から送信される情報に基づいて、術者Opの顔がディスプレイ22の各画面25、26のいずれに向いているか、あるいはいずれにも向いていないかを判定し、判定結果をマスタ制御部41に送信する。
A
上記のように構成されたマスタスレーブマニピュレータ1の動作について説明する。
図3は、マスタスレーブマニピュレータ1の動作の流れを示すフローチャートである。
まずステップS10において、術者Opは、第二画面26に表示される回転術野像の回転角度θ(例えば右回りに90度)を、マスタ入力部の図示しないインターフェイスを介して画像処理部50に入力し、第二画面に表示される映像を生成するための変換角度θを設定する。
The operation of the master-
FIG. 3 is a flowchart showing an operation flow of the master /
First, in step S10, the operator Op determines the rotation angle θ (for example, 90 degrees clockwise) of the rotational field image displayed on the
観察手段32から映像信号が送られてくると、ステップS20において、画像処理部50は、当該映像信号に対して第一の画像処理Pr1を行ってから第一画面25に表示する。さらに、並行して同一の映像信号に第二の画像処理Pr2を行ってから第二画面26に表示する。これにより、第一画面25には、観察手段32の取得した映像がそのまま表示され、第二画面25には、観察手段32の取得した映像が回転角度θだけ回転された映像が表示されて、表示部22に映像が表示される。画像処理部50による上記処理および映像の表示は、観察手段32から映像信号が送信される間継続される。
When the video signal is sent from the observation means 32, the
マスタスレーブマニピュレータ1の動作中、判定部55は、検出部24から受信した情報に基づき、術者の顔が表示部22のいずれの画面に向いているか、あるいはいずれにも向いていないかを繰り返し判定する。
During the operation of the master-
図4は、判定部55の判定ルーチンを示すフローチャートである。ステップS101では、第一検出部24Aから送信された情報に基づき、術者の顔が第一画面25に向かっているか否かが判定される。ステップS101における判定がYesであれば、判定部55は、術者が第一画面25に向かっている、すなわち第一画面25に表示された映像を選択していると判定して処理を終了し、NoであればステップS102に進む。
FIG. 4 is a flowchart showing a determination routine of the
ステップS102では、第二検出部24Bから送信された情報に基づき、術者が第二画面26に向かっているか否かが判定される。判定部55は、ステップS102における判定がYesであれば、術者の顔が第二画面26に向かっている、すなわち第二画面26に表示された映像を選択していると判定して処理を終了する。ステップS102における判定がNoであれば、術者は第一画面25および第二画面26のいずれにも向かっていないと判定して処理を終了する。
In step S <b> 102, it is determined whether or not the surgeon is facing the
また、判定部55は、術者が第一画面25および第二画面26のいずれかに向かっていると判定したときは、その情報を画像処理部50に送信する。当該情報を受信した画像処理部50は、術者が向かっていると判定された画面にマーカー103(図1参照)を表示し、術者の認識を補助する。ここで、マーカーは画面表示に限らず、画面上部にLEDのような発光指示器を設置し、点灯により術者の認識を補助してもよい。
Further, when the
図3に戻って、術者がマスタ入力部2の把持部21Aに操作指令を行うと、ステップS30において、入力を受けたマスタ制御部41から、術者Opが向かっている画面について判定部55に照会が行われ、その時点における判定部55の判定内容に基づき判定部55からマスタ制御部41に情報が送信される。このとき、判定部55からは、上述の判定ルーチンに基づく判定内容と、当該判定内容と関連付けられたマスタ制御部41による操作指令の変換処理内容とを含む情報が送信される。
Returning to FIG. 3, when the surgeon issues an operation command to the grasping
続くステップS31では、術者が第一画面25および第二画面26のいずれかに向かっているか否かが、判定部55から送信された情報に基づき検証される。判定がYesの場合、処理はステップS40に進む。判定がNoの場合は、処理はステップS32に進む。
ステップS32では、術者が第一画面25および第二画面26のいずれにも向かっていないことを示す情報が判定部55から画像処理部50に送信され、術者Opへの注意喚起処理が行われる。例えば、表示部22に「画面に顔を向けてください」、「3Dメガネを装着してください」等の情報が表示される。併せてこのときに、マスタ入力部2からの操作指令に対して、スレーブマニピュレータ3の動作を停止させてもよい。
In subsequent step S <b> 31, it is verified based on the information transmitted from the
In step S32, information indicating that the surgeon is not directed to either the
ステップS40では、マスタ制御部41の設定の切り替えが必要か否かが判定される。例えば、マスタ制御部41が第一画面25に対応した操作指令の変換処理をしているときに、「術者Opが第二画面26に向かっている」という情報が判定部55から送信されてきた場合は、マスタ制御部41の設定切り替えが必要であるため、判定結果はYesとなり、処理はステップS41に進む。
In step S40, it is determined whether or not the setting of the
ステップS41において、マスタ制御部41は、判定部55から受信した情報にもとづき、マスタ入力部2の把持部21Aの位置および姿勢と、第二画面26に表示された映像における処置用スレーブアーム31の先端部の位置および姿勢とを整合させるためのイニシャライズを行う。マスタ制御部41は、把持部21Aの位置および姿勢と、第二画面26内における処置用スレーブアーム31先端部の位置および姿勢との差分を算出し、当該差分がゼロとなるようにマスタ入力部2の駆動部を動作させ、把持部21Aのイニシャライズを行う。このとき、表示部22に「イニシャライズ中です。把持部から手を離してください」等のメッセージを表示して、術者に注意を喚起してもよい。
なお、マスターアームおよびスレーブアームの「位置」とは、マスターアームおよびスレーブアームの所定部位(例えば把持部21Aと処置具先端部など)の、XYZの座標系で表される三次元位置であり、「姿勢」とは、当該所定部位を基点とした先端の向きを意味する。また、マスタスレーブマニピュレータにおける位置・姿勢合わせは公知の技術であり、その具体的方法は上記に限られない。
In step S41, based on the information received from the
The “position” of the master arm and the slave arm is a three-dimensional position represented by an XYZ coordinate system of a predetermined part of the master arm and the slave arm (for example, the
続くステップS42では、マスタ制御部41における操作指令の変換処理内容が、判定部55からの情報により更新される。これにより、把持部21Aの動作方向と、術者Opが選択した映像における処置用スレーブアーム31先端部の動作方向とが一致するようにマスタ制御部41が操作指令を変換する。変換処理内容の更新後、ステップS43において、マスタ制御部41が操作指令に対し、術者Opが選択した画面と関連付けられた変換処理を行ってマニピュレータ制御部42に動作信号を送信し、処理を終了する。
In subsequent step S <b> 42, the operation command conversion processing content in the
判定部55の情報とマスタ制御部41の設定とが合致する場合、判定結果はNoとなり、処理はステップS44に進む。ステップS44では、マスタ制御部41がその時点の設定で操作指令の変換処理を行ってマニピュレータ制御部42に動作信号を送信し、処理を終了する。
When the information of the
本実施形態のマスタスレーブマニピュレータ1によれば、術者Opの顔が表示部22の画面25、26のいずれに向かっているかが検出部24の情報に基づいて判定部55により判定される。そして、当該判定結果に基づいて、術者Opの選択した映像における処置用スレーブアーム31先端部の移動方向と把持部21Aの移動方向とが同一となるように、マスタ制御部41が操作指令に対して選択した映像と関連付けられた変換処理を行うよう変換処理内容が更新される。したがって、術者は、行おうとする手技や操作により適した画面に向かうだけで、マスタ制御部の変換処理内容が自動的に調節され、当該画面を見ながら把持部を直感的に操作して、スレーブマニピュレータを直感的にストレスなく操作することができる。
According to the master-
また、マスタ制御部41の変換処理内容が更新される際に、把持部21Aの位置および姿勢のイニシャライズが行われるため、把持部21Aの動作方向だけでなく、位置・姿勢関係も自動的に処置用スレーブアーム31先端部と整合される。したがって、より直感的に操作を行うことができる。
In addition, since the position and orientation of the
さらに、第二画面26に表示された回転術野像は、観察手段32が取得した映像を画像処理することにより生成されているため、術者Opが異なる視点で手技を行うために観察手段32を駆動する必要がない。したがって、術野の視点切り替えをすぐに行うことができ、一連の手技をスムーズに行うことができる。また、観察手段の駆動による他のスレーブアームとの干渉の問題を無くすことができるため、手技の安全性が向上する。
Furthermore, since the rotational field image displayed on the
さらに、第一画面25と第二画面26とは、並べて表示されているため、術者Opは一方の画面を見て手技を行いながら、周辺視野で大まかに他方の画面を視認することができる。したがって、確認した他方の画面の方が手技をしやすいマニピュレータ配置になっている等の判断を手技中に行い、必要に応じて他方の画面に向かえば、手技に用いる画面をスムーズに切り替えて、切り替え後の座標ずれを気にすることなく直感的に手技を継続することができる。
Furthermore, since the
本実施形態では、マスタ制御部41がマスタ入力部2を駆動してイニシャライズを行う例を説明したが、これに代えて、イニシャライズを術者がマニュアル操作で行えるように構成してもよい。例えば、マスタ入力部に駆動部を設けず、マスタ入力部からマスタ制御部への操作指令送信のオンオフを切り替えるフットスイッチを設ける。そして、フットスイッチを押してから術者が初期位置としたい所望の位置に把持部を動かし、再度フットスイッチを押すことでイニシャライズが完了する構成としてもよい。この場合、把持部の位置および姿勢とスレーブアーム先端部の位置および姿勢とが完全に整合しない場合があるが、術者の設定した初期位置を尊重し、当該初期位置からの移動量の差分値に基づきスレーブアームが操作されるため、術者が最も操作しやすい設定で、直感的に操作を行うことができる。
In the present embodiment, an example has been described in which the
本発明の第二実施形態について、図5および図6を参照して説明する。本実施形態のマスタスレーブマニピュレータ61と上述のマスタスレーブマニピュレータ1との異なるところは、注視する画面が切り替わる際に、マスターアームとスレーブアームとの対応関係が切り替わる点である。なお、以降の説明において、既に説明したものと共通する構成については、同一の符号を付して重複する説明を省略する。
A second embodiment of the present invention will be described with reference to FIGS. The difference between the master-
図5は、マスタスレーブマニピュレータ61のマスタ入力部2を示す図である。ディスプレイ23に示されているように、スレーブマニピュレータ3には、処置用スレーブアームが、62A、62B、62Cの3本設けられている。第一画面25上では、スレーブアーム62Aおよび62Bが術者Opにとって直感的に操作しやすい位置にあり、右回りに90度回転した第二画面26上ではスレーブアーム62Bおよび62Cが術者Opにとって直感的に操作しやすい位置にある。マスタ入力部2には2本しかマスターアームがないため、この実施形態では、各画面において、直感的に操作しやすい2本の処置用スレーブアームとマスターアームとが関連付けられる。すなわち、各画面に表示される映像に応じて、マスターアームと処置用スレーブアームの対応関係が異なっている。
FIG. 5 is a diagram showing the
図6は、マスタスレーブマニピュレータ61の動作の流れを示すフローチャートである。ステップS11では、第一実施形態同様、第二画面を生成するための変換角度θが術者Opによって設定されるとともに、第一画面25および第二画面26のそれぞれで、マスターアーム21により操作される2本の処置用スレーブアームが設定される。
その後、ステップS41では、ステップS11で設定された2本のスレーブアーム先端部とマスタ入力部の把持部21Aとの位置および姿勢が整合されるようにイニシャライズが行われ、続くステップS42Aにおいて、マスターアームとスレーブアームとの対応関係および操作指令の変換処理内容が更新される。
それ以外の点は、第一実施形態と概ね同様である。
FIG. 6 is a flowchart showing an operation flow of the master /
Thereafter, in step S41, initialization is performed so that the positions and postures of the two slave arm tip portions set in step S11 and the
Other points are substantially the same as in the first embodiment.
本実施形態のマスタスレーブマニピュレータ61においても、術者は、行おうとする手技や操作により適した画面に向かうだけで、マスタ制御部の変換処理内容が自動的に更新され、当該画面を見ながらマスターアームを直感的に操作することによりスレーブアームをストレスなく操作することができる。
さらに、マスターアームとスレーブアームとの対応関係も自動的に更新されるため、各画面において、最適なスレーブアームを操作して手技を行うことができる。
Even in the master-
Furthermore, since the correspondence relationship between the master arm and the slave arm is also automatically updated, the procedure can be performed by operating the optimum slave arm on each screen.
本実施形態では、処置用スレーブアームが3本の例を説明したが、処置用スレーブアームが2本であっても、4本以上であってもよい。また、ステップS11で変換角度θと各画面で操作するスレーブアームを設定するのに代えて、マスタ制御部等が観察手段および各処置用スレーブアームの位置関係に基づき、第一画面と異なる組み合わせの2本のスレーブアームが操作しやすくなる回転角度を自動的に算出し、変換角度θを決定するように構成してもよい。このとき、観察手段および各処置用スレーブアームの位置関係は、観察手段の取得した映像から算出されてもよいし、スレーブアームのエンコーダの値等に基づく位置情報から算出されてもよい。
また、はじめのステップS11で決められた変換角度θから、観察手段とスレーブアームの位置関係情報をもとに、最適なスレーブアームとマスターアームとの対応関係を自動的に算出してもよい。この場合も、上記と同様に、観察手段と各スレーブアームとの位置関係は、観察手段の取得した映像から算出されてもよいし、スレーブアームのエンコーダの値等に基づく位置情報から算出されてもよい。
別の方法として、スレーブアームとマスターアームとの対応関係は、ステップS40の後に操作者が選択できるようにしてもよい。選択方法は、インターフェイス等の入力スイッチなどにより行うことができる。
In the present embodiment, an example in which there are three treatment slave arms has been described, but there may be two treatment slave arms or four or more treatment slave arms. Further, instead of setting the conversion angle θ and the slave arm operated on each screen in step S11, the master control unit or the like has a combination different from the first screen based on the positional relationship between the observation means and each treatment slave arm. The rotation angle at which the two slave arms can be easily operated may be automatically calculated to determine the conversion angle θ. At this time, the positional relationship between the observation means and each treatment slave arm may be calculated from an image acquired by the observation means, or may be calculated from position information based on the value of the encoder of the slave arm.
Alternatively, the optimum correspondence between the slave arm and the master arm may be automatically calculated based on the positional relationship information between the observation means and the slave arm from the conversion angle θ determined in the first step S11. Also in this case, as described above, the positional relationship between the observation unit and each slave arm may be calculated from the video acquired by the observation unit, or may be calculated from the position information based on the value of the encoder of the slave arm. Also good.
As another method, the correspondence between the slave arm and the master arm may be selected by the operator after step S40. The selection method can be performed by an input switch such as an interface.
本発明の第三実施形態について、図7から図9を参照して説明する。本実施形態のマスタスレーブマニピュレータ71と上述のマスタスレーブマニピュレータ1との異なるところは、スレーブマニピュレータを複数備え、注視する画面が切り替わる際に、マスターアームとスレーブマニピュレータとの対応関係が切り替わる点である。
A third embodiment of the present invention will be described with reference to FIGS. The difference between the master-
図7は、マスタスレーブマニピュレータ71の全体構成を示す図である。マスタスレーブマニピュレータ71は、符号3Aおよび3Bで示す2台のスレーブマニピュレータを備えており、2名の患者P1およびP2に対する手技を並行して行うことが可能になっている。なお、患者は2名とは限らず、1名の患者の異なる患部に2台のスレーブマニピュレータを配置することもできる。
FIG. 7 is a diagram showing an overall configuration of the master /
図8は、マスタスレーブマニピュレータ71の機能ブロック図である。各スレーブマニピュレータ3A、3Bは、それぞれ観察手段32A、32Bを有している。第一画面25には、観察手段32Aの取得した映像が表示され、第二画面26には、観察手段32Bの取得した映像が表示される。
マニピュレータ制御部42とスレーブマニピュレータ3A、3Bとの間には切替部72が設けられており、マニピュレータ制御部42とスレーブマニピュレータ3A、3Bの一方とが選択的に接続され、接続されたスレーブマニピュレータにマニピュレータ制御部からの操作信号が送信される。
FIG. 8 is a functional block diagram of the master /
A switching
図9は、マスタスレーブマニピュレータ71の動作の流れを示すフローチャートである。マスタスレーブマニピュレータ71においては、回転角度θを設定するステップは行われない。観察手段32A、32Bがそれぞれ患者の体内で手技を行う部位に到達すると、ステップS20において第一画面25および第二画面26に各観察手段の取得した映像が表示される。
FIG. 9 is a flowchart showing an operation flow of the master /
ステップS40の判定がYesの場合、ステップS400において、マスタ制御部41は、切替部72に指令を送り、現在接続されていないスレーブマニピュレータとマニピュレータ制御部42とを接続するように接続を切り替えさせる。その後ステップS41のイニシャライズが行われる。
それ以外の点は、第一実施形態と概ね同様である。
When the determination in step S40 is Yes, in step S400, the
Other points are substantially the same as in the first embodiment.
本実施形態のマスタスレーブマニピュレータ71においても、術者Opは、行おうとする手技や操作により適した画面に向かうだけで、マスタ制御部の変換処理内容が自動的に更新され、当該画面を見ながらマスターアームを直感的に操作することにより、切り替えられたスレーブマニピュレータのスレーブアームをストレスなく操作することができる。
また、スレーブマニピュレータを複数備えることにより、複数の患者あるいは患部に対して好適に手技を行うことができる。
本実施形態において、スレーブマニピュレータを3つ以上備えることももちろん可能である。
第一実施形態および第三実施形態の説明から明らかなように、本発明において、「被写体の複数の異なる映像」とは、被写体が一つである場合と、被写体が複数ある場合の両方が含まれる概念である。
Also in the
Further, by providing a plurality of slave manipulators, it is possible to suitably perform a procedure on a plurality of patients or affected areas.
In this embodiment, it is of course possible to provide three or more slave manipulators.
As is clear from the description of the first embodiment and the third embodiment, in the present invention, “a plurality of different images of a subject” includes both a case where there is one subject and a case where there are a plurality of subjects. It is a concept.
本発明の第四実施形態について、図10および図11を参照して説明する。本実施形態のマスタスレーブマニピュレータ81と上述のマスタスレーブマニピュレータ1との異なるところは、スレーブマニピュレータが観察手段を複数備える点である。
A fourth embodiment of the present invention will be described with reference to FIGS. 10 and 11. The difference between the
図10は、マスタスレーブマニピュレータ81のマスタ入力部2を示す図であり、図11は、マスタスレーブマニピュレータ71の機能ブロック図である。スレーブマニピュレータ82は、3本の処置用スレーブアーム82A、82B、および82Cを有し、第一画面25および第二画面26には、第二実施形態と同様の映像が表示されている。
ただし、スレーブマニピュレータは、第一内視鏡83および第二内視鏡84の二つの観察手段を備えており、第一画面25には第一内視鏡83により取得された映像が、第二画面26には第二内視鏡84により取得された映像が表示されている。したがって、第二画面26に表示された映像は、第一画面の映像を画像処理したものではない。
FIG. 10 is a diagram showing the
However, the slave manipulator includes two observation means, that is, a
図12は、マスタスレーブマニピュレータ81の動作の流れを示すフローチャートである。マスタスレーブマニピュレータ81においては、ステップS11Aにおいて、回転角度θは設定されず、第一画面25および第二画面26のそれぞれで、マスターアームにより操作される2本のスレーブアームのみが設定される。ステップS42Aにおける変換処理内容は、第一内視鏡83と第二内視鏡84との位置関係等に基づき、自動算出される。
それ以外の点は、第二実施形態と概ね同様である。
FIG. 12 is a flowchart showing an operation flow of the master /
Other points are substantially the same as in the second embodiment.
本実施形態のマスタスレーブマニピュレータ81においても、術者Opは、行おうとする手技や操作により適した画面に向かうだけで、マスタ制御部の変換処理内容が自動的に更新され、当該画面を見ながらマスターアームを直感的に操作することによりスレーブアームをストレスなく操作することができる。
In the master-
また、第一内視鏡83および第二内視鏡84の2つの観察手段を有しているため、第二画面26に回転術野像以外の様々な術野像を表示することができる。例えば、第一画面25には手技を行う組織をある一方向からとらえた映像を表示し、第二画面には同組織を当該一方向と反対の方向からとらえた映像を表示することで、手技に用いる画面を切り替えながら、手技の各手順をより好適なアングル等で行うことができる。
In addition, since there are two observation means of the
上述の例では、処置用スレーブアームを3本としたが、本実施形態において、処置用スレーブアームの本数は、2本以下でも4本以上でもよく、本数に応じてステップS42Aにおけるマスターアームと処置用スレーブアームとの対応関係切替の有無を設定すればよい。また、上述の例では観察手段を2つ備える例を説明したが、これに代えて、観察部を複数備えた1つの観察手段を用い、各観察部の取得した映像が表示部に表示される構成としてもよい。また、観察手段の内視鏡は、同一の構造のものでなくてもよく、例えば一方が直視型、他方が側視型の内視鏡としてもよい。 In the above example, the number of treatment slave arms is three. However, in the present embodiment, the number of treatment slave arms may be two or less or four or more, and the master arm and the treatment in step S42A according to the number. What is necessary is just to set the presence or absence of the corresponding relationship switching with the slave arm. Moreover, although the example provided with two observation means was demonstrated in the above-mentioned example, it replaced with this, and the image | video acquired by each observation part is displayed on a display part using one observation means provided with multiple observation parts. It is good also as a structure. Further, the endoscopes of the observation means do not have to have the same structure. For example, one may be a direct view type and the other may be a side view type endoscope.
以上、本発明の各実施形態について説明したが、本発明の技術範囲は上記実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲において、各構成要素に種々の変更を加えたり、削除したり、各実施形態の構成を組み合わせたりすることが可能である。 The embodiments of the present invention have been described above. However, the technical scope of the present invention is not limited to the above-described embodiments, and various modifications may be made to each component without departing from the spirit of the present invention. It is possible to delete or combine the configurations of the embodiments.
例えば、第二画面に表示する映像を第一画面の映像の画像処理により生成する場合、画像処理は上述の回転処理に限られない。一例を挙げると、図13に示す変形例のように、第一画面25の映像を拡大処理したものが第二画面26に表示されてもよい。この場合、第一画面25を見て手技を行う場合と第二画面26を見て手技を行う場合とでは、マスターアームとスレーブアームとのモーションスケール比を異ならせることにより直感的な操作が可能となるため、変換処理内容の更新時に、モーションスケール比の変更を行うように構成すればよい。これにより、どちらの画面を見て手技を行っても、マスターアームの移動量とスレーブアームの移動量との関係が変化しないようにすることができる。このほか、拡大処理でなく、縮小処理を行ってもよい。
また、上述の各実施形態では、操作部としての把持部がマスターアームに連結された例を説明したが、操作部は、マスターアームの無い構成であってもよい。たとえば、操作部や操作者の手の位置・姿勢をカメラや位置センサなどのモーションセンサで取得する構成であってもよい。
For example, when the video to be displayed on the second screen is generated by image processing of the video on the first screen, the image processing is not limited to the rotation processing described above. As an example, an enlarged image of the
Further, in each of the above-described embodiments, the example in which the gripping unit as the operation unit is connected to the master arm has been described, but the operation unit may be configured without the master arm. For example, the configuration may be such that the position / posture of the hand of the operation unit or the operator is acquired by a motion sensor such as a camera or a position sensor.
また、上述の各実施例では、検出部により術者の顔がどちらの画面に向かっているかを検出し、当該画面に基づいてイニシャライズや変換処理内容の更新を行う例を説明したが、術者の位置や姿勢に基づきどちらの画面に向かっているかを検出するよう検出部を構成してもよい。さらには、術者が手技を行うために選択した映像が表示された画面をスイッチ等の入力手段により入力する構成でもよい。本発明のマスタスレーブマニピュレータでは、術者が選択した映像にもとづいて変換処理内容が自動的に更新されることが特徴であり、前者の場合は意図的にまたは無意識に、後者の場合は意図的に映像の選択が行われている。
入力手段は、フットスイッチに限られず、どこに設けられてもよい。
Further, in each of the above-described embodiments, the example in which the detection unit detects which screen the operator's face is facing and performs initialization and update of the conversion processing content based on the screen has been described. The detection unit may be configured to detect which screen the user is facing based on the position and orientation of the screen. Furthermore, a configuration in which a screen on which an image selected for performing a procedure by an operator is displayed may be input using an input unit such as a switch. The master-slave manipulator of the present invention is characterized in that the content of the conversion process is automatically updated based on the image selected by the surgeon. The former is intentionally or unconsciously, and the latter is intentional. The video is selected.
The input means is not limited to the foot switch, and may be provided anywhere.
また、本発明において、表示部の構成は、様々に変更することができる。例えば、一画面のディスプレイの画面を2つの表示領域にわけ、それぞれに第一画面および第二画面の機能を持たせてもよいし、ヘッドマウントディスプレイを用いてもよい。
さらに、画面を2以上設け、それぞれに異なる術野像を表示してももちろん構わない。
In the present invention, the configuration of the display unit can be variously changed. For example, the display screen of one screen may be divided into two display areas, each having functions of a first screen and a second screen, or a head mounted display may be used.
Furthermore, of course, two or more screens may be provided, and different operative field images may be displayed on each screen.
1、61、71、81 マスタスレーブマニピュレータ
2 マスタ入力部
3、3A、3B スレーブマニピュレータ
4 制御部
21 マスターアーム
21A 把持部(操作部)
22 表示部
24 検出部(映像選択手段)
31、62A、62B、62C、82A、82B、82C スレーブアーム
83 第一内視鏡(観察手段)
84 第二内視鏡(観察手段)
Op 術者(操作者)
1, 61, 71, 81
22
31, 62A, 62B, 62C, 82A, 82B,
84 Second endoscope (observation means)
Op operator (operator)
Claims (9)
前記マスタ入力部により操作されるスレーブマニピュレータと、
前記操作指令に基づいて前記スレーブマニピュレータへ操作信号を送信する制御部と、
被写体の第一の映像を表示する第一画面と、前記第一の映像と異なる、前記被写体の第二の映像を表示する第二画面と、を有する表示部と、
前記第一の映像および前記第二の映像のうち、操作者が一つの映像を選択するための映像選択手段と、
を備え、
前記制御部は、前記操作指令に対して、前記映像選択手段を介して前記操作者により選択された映像に関連付けられた変換処理を行うことにより、前記スレーブマニピュレータを操作する前記操作信号を生成することを特徴とする医療用マスタスレーブマニピュレータ。 A master input unit for issuing an operation command;
A slave manipulator operated by the master input unit;
A control unit for transmitting an operation signal to the slave manipulator based on the operation command;
A display unit having a first screen for displaying a first video of the subject and a second screen for displaying a second video of the subject different from the first video ;
Video selection means for an operator to select one video from the first video and the second video ,
With
The control unit generates the operation signal for operating the slave manipulator by performing a conversion process associated with the video selected by the operator via the video selection unit in response to the operation command. A medical master-slave manipulator characterized by that .
前記スレーブマニピュレータはスレーブアームを有し、その数は、前記操作部の数よりも多く、前記映像に関連付けられた変換処理の少なくとも一つにおいて、前記操作部と前記スレーブアームとの対応関係が他の変換処理と異なることを特徴とする請求項1から7のいずれか一項に記載の医療用マスタスレーブマニピュレータ。 The master input unit has an operation unit,
The slave manipulator has slave arms, the number of which is larger than the number of the operation units, and in at least one of the conversion processes associated with the video, the correspondence relationship between the operation units and the slave arms is different. The medical master-slave manipulator according to claim 1, wherein the medical master-slave manipulator according to claim 1 is different from the conversion process.
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011150977A JP5800609B2 (en) | 2011-07-07 | 2011-07-07 | Medical master-slave manipulator |
CN201280030004.3A CN103607971B (en) | 2011-07-07 | 2012-07-06 | Medical master slave manipulator |
PCT/JP2012/067876 WO2013005862A1 (en) | 2011-07-07 | 2012-07-06 | Medical master slave manipulator |
EP12807156.0A EP2729084A4 (en) | 2011-07-07 | 2012-07-06 | Medical master slave manipulator |
US14/146,187 US9259283B2 (en) | 2011-07-07 | 2014-01-02 | Medical master slave manipulator system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011150977A JP5800609B2 (en) | 2011-07-07 | 2011-07-07 | Medical master-slave manipulator |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013017512A JP2013017512A (en) | 2013-01-31 |
JP5800609B2 true JP5800609B2 (en) | 2015-10-28 |
Family
ID=47689581
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011150977A Active JP5800609B2 (en) | 2011-07-07 | 2011-07-07 | Medical master-slave manipulator |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5800609B2 (en) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014199415A1 (en) * | 2013-06-13 | 2014-12-18 | テルモ株式会社 | Medical manipulator, and control method therefor |
WO2016203858A1 (en) * | 2015-06-18 | 2016-12-22 | オリンパス株式会社 | Medical system |
WO2017221367A1 (en) | 2016-06-23 | 2017-12-28 | オリンパス株式会社 | Medical system |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS63150171A (en) * | 1986-12-12 | 1988-06-22 | 株式会社日立製作所 | Controller for manipulator |
JP3540362B2 (en) * | 1994-06-14 | 2004-07-07 | オリンパス株式会社 | Surgical manipulator control system and control method |
JPH08275958A (en) * | 1995-04-07 | 1996-10-22 | Olympus Optical Co Ltd | Manipulator device for operation |
ATE540634T1 (en) * | 2005-06-06 | 2012-01-15 | Intuitive Surgical Operations | LAPAROSCOPIC ULTRASONIC ROBOT SYSTEM FOR SURGICAL PURPOSES |
JP4916011B2 (en) * | 2007-03-20 | 2012-04-11 | 株式会社日立製作所 | Master / slave manipulator system |
US9089256B2 (en) * | 2008-06-27 | 2015-07-28 | Intuitive Surgical Operations, Inc. | Medical robotic system providing an auxiliary view including range of motion limitations for articulatable instruments extending out of a distal end of an entry guide |
-
2011
- 2011-07-07 JP JP2011150977A patent/JP5800609B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2013017512A (en) | 2013-01-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11857278B2 (en) | Roboticized surgery system with improved control | |
US9259283B2 (en) | Medical master slave manipulator system | |
US20230380926A1 (en) | Systems and methods for presenting augmented reality in a display of a teleoperational system | |
WO2017115425A1 (en) | Medical manipulator system | |
JP5675621B2 (en) | MEDICAL ROBOT SYSTEM AND METHOD FOR OPERATING THE MEDICAL ROBOT SYSTEM | |
US20090192523A1 (en) | Synthetic representation of a surgical instrument | |
WO2019023020A1 (en) | Association processes and related systems for manipulators | |
AU2021240407B2 (en) | Virtual console for controlling a surgical robot | |
KR101967635B1 (en) | End effector and remote control apparatus | |
US11209954B2 (en) | Surgical robotic system using dynamically generated icons to represent orientations of instruments | |
EP2862497B1 (en) | Manipulator system | |
JP5800610B2 (en) | Medical master-slave manipulator | |
JP5800609B2 (en) | Medical master-slave manipulator | |
CN118043005A (en) | System and method for controlling a surgical robotic assembly in an internal body cavity | |
JP5855656B2 (en) | Medical manipulator and method of operating the same | |
GB2545291A (en) | Robotic system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140604 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150507 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150630 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20150701 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150804 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150825 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5800609 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |