









本発明は、ヘッドマウントディスプレイを備える表示システムに関する。 The present invention relates to a display system provided with a head mounted display.
従来、ヘッドマウントディスプレイに仮想画像を表示し、仮想画像に対する操作を装着者から受け付ける技術が知られている。このような技術は、たとえば、特許文献1に開示されている。 BACKGROUND Conventionally, there is known a technique of displaying a virtual image on a head mounted display and receiving an operation on the virtual image from a wearer. Such a technique is disclosed, for example, in Patent Document 1.
特許文献1では、たとえば、仮想画像としてマウスパッドがヘッドマウントディスプレイに表示される。そして、ヘッドマウントディスプレイは、仮想画像に対する操作を受け付けると、当該操作に割り当てられた処理を実行する。 In Patent Document 1, for example, a mouse pad is displayed on a head mounted display as a virtual image. Then, when the head mounted display receives an operation on the virtual image, the head mounted display executes the processing assigned to the operation.
ヘッドマウントディスプレイに表示された仮想画像に対する操作では、装着者の前方空間で腕や手が動かされる。このとき、装着者の周囲に他人が存在すれば、装着者の腕や手が他人に衝突するという不都合が生じる。 In the operation on the virtual image displayed on the head mounted display, an arm or a hand is moved in the front space of the wearer. At this time, if there is another person around the wearer, there arises a disadvantage that the arm or hand of the wearer collides with the other person.
このような不都合を解消するには、装着者自身が周囲に他人が存在するか否かを確認しつつ、仮想画像に対する操作を行わなければならない。このため、装着者にとっては利便性が悪い。 In order to eliminate such a disadvantage, the wearer has to operate the virtual image while confirming whether or not there is another person around him. For this reason, convenience for the wearer is bad.
本発明は、上記課題を解決するためになされたものであり、ヘッドマウントディスプレイの装着者が周囲確認を行わなくても、ヘッドマウントディスプレイに表示された仮想画像に対する操作時に腕や手が他人に衝突するのを抑制することが可能な表示システムを提供することを目的とする。 The present invention has been made to solve the above-mentioned problems, and even if the wearer of the head mounted display does not check the surroundings, the arm and / or the hand can be used by others when operating the virtual image displayed on the head mounted display. An object of the present invention is to provide a display system capable of suppressing a collision.
上記目的を達成するため、本発明の表示システムは、監視カメラと、予め定められた第1範囲に入ると仮想画像である仮想操作パネルを表示し、仮想操作パネルに対する操作を装着者から受け付けるヘッドマウントディスプレイと、ヘッドマウントディスプレイによる仮想操作パネルの表示に関する制御を行う処理装置と、を備える。処理装置は、第1範囲に入っているヘッドマウントディスプレイが存在するとき、監視カメラが撮影した撮影データに基づき、第1範囲を含む予め定められた第2範囲に複数の人物が存在するか否かを判断し、第2範囲に複数の人物が存在すると判断した場合、第1範囲に入っているヘッドマウントディスプレイによる仮想操作パネルの表示を停止させる。 In order to achieve the above object, the display system of the present invention displays a monitoring camera and a virtual operation panel that is a virtual image when entering a predetermined first range, and receives an operation on the virtual operation panel from a wearer. A mounted display and a processing device for controlling display of a virtual operation panel by the head mounted display are provided. The processing device determines whether or not a plurality of persons are present in a second predetermined area including the first range based on the shooting data captured by the monitoring camera when the head mounted display in the first range is present. If it is determined that there are a plurality of persons in the second range, the display of the virtual operation panel by the head mounted display in the first range is stopped.
本発明の構成では、第1範囲に入っているヘッドマウントディスプレイは仮想操作パネル(仮想画像)を表示し仮想操作パネルに対する操作を装着者から受け付ける。しかし、第1範囲に入っているヘッドマウントディスプレイの装着者の周囲に他人が存在する状態で、第1範囲に入っているヘッドマウントディスプレイに仮想操作パネルを表示し仮想操作パネルに対する操作を装着者から受け付けると、装着者の腕や手が他人に衝突するという不都合が生じ得る。 In the configuration of the present invention, the head mounted display in the first range displays the virtual operation panel (virtual image) and receives an operation on the virtual operation panel from the wearer. However, in a state where there is another person around the head mount display wearer who is in the first range, the virtual operation panel is displayed on the head mount display that is in the first range and the wearer operates the virtual operation panel From the point of view, the wearer's arms and hands may collide with others.
このため、本発明の構成では、第1範囲を含む第2範囲に複数の人物(第1範囲に入っているヘッドマウントディスプレイの装着者を含む)が存在する場合、すなわち、仮想操作パネルに対する操作の受付時に動かされる装着者の腕や手が他人に衝突する可能性がある場合、第1範囲に入っているヘッドマウントディスプレイによる仮想操作パネルの表示を停止させる。これにより、装着者の周囲に他人が存在する場合には装着者による仮想操作パネルに対する操作は行われないので、装着者の腕や手が他人に衝突するのを抑制することができる。また、装着者の周囲に他人が存在する場合には自動的に仮想操作パネルの表示が停止されるので、装着者は周囲確認を行う必要がない。 Therefore, in the configuration of the present invention, when there are a plurality of persons (including the wearer of the head mounted display in the first range) in the second range including the first range, that is, the operation on the virtual operation panel When there is a possibility that the arm or hand of the wearer moved at the time of reception of the may collide with another person, the display of the virtual operation panel by the head mounted display in the first range is stopped. Thus, when there is another person around the wearer, the operation on the virtual operation panel by the wearer is not performed, so that the arm or hand of the wearer can be prevented from colliding with another person. In addition, since the display of the virtual operation panel is automatically stopped when there is another person around the wearer, the wearer does not need to check the surroundings.
本発明によれば、ヘッドマウントディスプレイの装着者が周囲確認を行わなくても、ヘッドマウントディスプレイに表示された仮想画像に対する操作時に腕や手が他人に衝突するのを抑制することができる。 According to the present invention, even if the wearer of the head mounted display does not check the surroundings, it is possible to suppress that an arm or hand collides with another person when operating the virtual image displayed on the head mounted display.
<表示システムの全体構成>
図1に示すように、本実施形態の表示システム1は、ヘッドマウントディスプレイ2、サーバー3(「処理装置」に相当)および監視カメラ4を備える。以下の説明では、ヘッドマウントディスプレイをHMDと称する。<Overall Configuration of Display System>
As shown in FIG. 1, the display system 1 of the present embodiment includes a head mounted
HMD2およびサーバー3は、互い通信可能に接続される。HMD2とサーバー3との間では、LANなどのネットワークNTを介した通信が行われる。また、ネットワークNTには画像形成装置5が接続される。これにより、HMD2およびサーバー3は、画像形成装置5との間での通信も可能である。たとえば、画像形成装置5は、MFPやプリンターなどであり、操作パネル50を備える。 The HMD 2 and the
監視カメラ4は、サーバー3に通信可能に接続される。監視カメラ4とサーバー3との間での通信は、有線で行われてもよいし、無線で行われてもよい。なお、監視カメラ4とHMD2とが通信可能に接続されてもよい。 The
ここで、本実施形態の表示システム1では、画像形成装置5のユーザーにHMD2が提供される。すなわち、画像形成装置5のユーザーがHMD2を装着する。そして、図2に示すように、表示システム1は、HMD2に仮想操作パネル50Vを表示し、仮想操作パネル50Vに対する操作をHMD2の装着者(画像形成装置5のユーザー)から受け付けるVR処理を行う。なお、仮想操作パネル50Vは、実機である画像形成装置5の操作パネル50を模した仮想画像である。 Here, in the display system 1 of the present embodiment, the HMD 2 is provided to the user of the
HMD2に仮想操作パネル50Vが表示されているとき、仮想操作パネル50Vに対する操作をHMD2の装着者が行うことにより、HMD2の装着者が行った操作を示す操作データがHMD2から画像形成装置5に対して送信される。画像形成装置5は、操作データを受信すると、当該受信した操作データで示される操作に割り当てられた処理(当該操作データで示される操作を操作パネル50が実際に受け付けた場合に行うべき処理)を行う。これにより、画像形成装置5(操作パネル50)を直接操作することなく、HMD2の装着者は所望の処理を画像形成装置5に行わせることができる。 When the
<表示システムを成す各装置の構成>
HMD2は、眼鏡型であり、眼鏡のレンズに相当する部分に種々の画像を表示する。HMD2の装着者からすると、眼前に画像が表示されたように見える。また、HMD2は、装着者の眼前に広がる現実空間(現実空間に存在するオブジェクト)を撮影する。<Configuration of Each Device Forming Display System>
The
HMD2は、表示部21、カメラ部22、操作部23、HMD制御部24、HMD通信部25およびHMD記憶部26を備える。これら各部は眼鏡型のフレームに搭載される。 The HMD 2 includes a
表示部21は、表示を行う。表示部21は、HMD2の装着者の眼と対向する位置に配置される。これにより、装着者の眼前に画像が表示される。たとえば、外光を透過させる光学透過型(光学シースルー型)のディスプレイ装置が表示部21として使用される。光学透過型の表示部21は、ハーフミラーを含み、表示すべき画像をハーフミラーによって装着者の眼に向けて反射する。このとき、外光はハーフミラーを透過して装着者の眼に入射する。すなわち、表示部21は、装着者に現実空間を視認させつつ、現実空間上に画像をオーバーレイ表示する。装着者からは、表示部21により表示された画像が現実空間に合成されたように見える(現実空間に表示画像が重なって見える)。 The
カメラ部22は、撮影を行う。カメラ部22は、CCDカメラなどを含み、HMD2の装着者の視界方向(HMD2の正面方向)の撮影が可能な位置に配置される。装着者が眼前で手や指を動かすなどのジェスチャー操作(仮想操作パネル50Vに対する操作)を行った場合には、カメラ部22によって装着者のジェスチャー操作が撮影される。カメラ部22は、撮影により得られた撮影データを出力する。 The camera unit 22 captures an image. The camera unit 22 includes a CCD camera and the like, and is disposed at a position where imaging can be performed in the viewing direction (front direction of the HMD 2) of the wearer of the
操作部23は、HMD2の装着者から、HMD2による表示や撮影に関する各種設定を行うための操作を受け付ける。たとえば、装着者から操作を受け付けるハードウェアボタンが操作部23としてHMD2に設けられる。なお、スマートフォンやタブレットコンピューター、ノート型パーソナルコンピューターなど、装着者が所有する携帯情報端末をHMD2に通信可能に接続することにより、携帯情報端末を操作部23として機能させることもできる(装着者は携帯情報端末からでも各種設定を行うことができる)。 The
HMD制御部24は、制御用のプログラムやデータに基づき動作するCPUを含む。HMD制御部24は、HMD2を制御するための各種処理を実行する。たとえば、HMD制御部24は、表示部21による表示およびカメラ部22による撮影をそれぞれ制御する。 The
また、HMD制御部24は、カメラ部22が撮影した撮影データに基づき、HMD2の装着者の視界方向(HMD2の正面方向)に広がる現実空間に存在するオブジェクトを検知したり、装着者が眼前で行ったジェスチャー操作を検知したりする。さらに、HMD制御部24は、操作部23が装着者から受け付けた操作(あるいは、HMD23に接続された携帯情報端末を介して装着者から受け付けた操作)を検知する。 In addition, the
HMD通信部25は、HMD2をネットワークNTに接続するための通信インターフェースであり、通信用回路や通信用メモリーなどを含む。HMD制御部24は、HMD通信部25を用いて、サーバー3や画像形成装置5との間でデータを送受信する。 The HMD communication unit 25 is a communication interface for connecting the
HMD記憶部26は、不揮発性メモリー(ROM)および揮発性メモリー(RAM)を含み、HMD制御部24(CPU)を動作させるためのプログラムやデータを記憶する。また、HMD記憶部26は、サーバー3から受信したデータを記憶する。 The HMD storage unit 26 includes non-volatile memory (ROM) and volatile memory (RAM), and stores programs and data for operating the HMD control unit 24 (CPU). The HMD storage unit 26 also stores data received from the
サーバー3は、サーバー制御部31、サーバー通信部32およびサーバー記憶部33を備える。サーバー3は、画像形成装置5の設置場所と同じ場所に設置されてもよいし、他の場所に設置されてもよい。また、サーバー3の機能を他の装置に持たせ、当該装置をサーバー3の代わりとしてもよい。たとえば、画像形成装置5にサーバー3の機能を持たせてもよい。この場合には、画像形成装置5が「処理装置」に相当する。 The
サーバー制御部31は、制御用のプログラムやデータに基づき動作するCPUを含む。サーバー制御部31は、サーバー3を制御するための各種処理を実行する。 The
サーバー通信部32は、第1通信部3Aを備える。第1通信部3Aは、サーバー3をネットワークNTに接続するための通信インターフェースであり、通信用回路や通信用メモリーなどを含む。サーバー制御部31は、第1通信部3Aを用いて、HMD2や画像形成装置5と通信する。 The
また、サーバー通信部32は、第2通信部3Bを備える。第2通信部3Bは、サーバー3を監視カメラ4に接続するための通信インターフェースであり、通信用回路や通信用メモリーなどを含む。サーバー制御部31は、第2通信部3Bを用いて、監視カメラ4と通信する。 The
サーバー記憶部33は、ROMおよびRAMを含み、サーバー制御部31(CPU)を動作させるためのプログラムやデータを記憶する。また、サーバー記憶部33は、HDDなど大容量の記憶デバイスを含む。 The
監視カメラ4は、図3に示すように、画像形成装置5の設置部屋に存在する壁や天井に設置される。画像形成装置5の設置部屋における監視カメラ4の設置位置は特に限定されず、画像形成装置5の設置位置を含む範囲を監視カメラ4で撮影できればよい。監視カメラ4は、撮影により得られた撮影データをサーバー3に出力する。 As shown in FIG. 3, the
たとえば、監視カメラ4として第1カメラ41および第2カメラ42の2台が使用される。図4に示すように、第1カメラ41は、画像形成装置5の設置位置を含む範囲R1(以下の説明では、第1範囲R1と称する)の撮影が可能に設置される。また、第2カメラ42は、第1範囲R1を含む範囲R2(以下の説明では、第2範囲R2と称する)の撮影が可能な位置に設置される。 For example, two cameras, the
なお、画像形成装置4の設置部屋における監視カメラ4の設置数は複数台でもよいが、1台でもよい。また、第2範囲R2が第1範囲R1よりも大きい範囲であってもよいが、第2範囲R2が第1範囲R1と同じ範囲であってもよい。 In addition, although the installation number of the
<VR処理>
(仮想操作パネルの表示開始)
サーバー制御部31は、予め定められた開始条件が満たされたか否かを判断し、開始条件が満たされたと判断すると、VR処理を開始する。すなわち、サーバー制御部31は、開始条件が満たされたと判断すると、HMD2による仮想操作パネル50Vの表示を開始させる。<VR processing>
(Start display of virtual operation panel)
The
以下に、図5に示すフローチャートを参照し、仮想操作パネル50Vの表示を開始するか否かを判断する処理(開始判断処理)の流れを説明する。 The flow of processing (start determination processing) of determining whether to start the display of the
ステップS1において、サーバー制御部31は、監視カメラ4が撮影した撮影データに基づき、HMD2の装着者が第1範囲R1に入ったか否か(画像形成装置5のユーザーがHMD2を装着して第1範囲R1に入ったか否か)を判断する。その結果、第1範囲R1にHMD2の装着者が入ったとサーバー制御部31が判断した場合には、ステップS2に移行する。ここでのサーバー制御部31による判断では、第1カメラ41が撮影した撮影データが使用される。 In step S1, the
ここで、HMD2の装着者が第1範囲R1に入っているということは、HMD2の装着者が画像形成装置5に近づいているということである。したがって、HMD2の装着者が画像形成装置5に近づいたときに、ステップS2に移行する(HMD2の装着者が第1範囲R1に入ったとサーバー制御部31が判断する)。 Here, the fact that the wearer of the
ステップS2において、サーバー制御部31は、人物特定処理を行う。サーバー制御部31は、人物特定処理を行うことにより、第1範囲R1に入ったHMD2の装着者を特定する。言い換えると、サーバー制御部31は、第1範囲R1に入ったHMD2の装着者に付与されたユーザーID(以下、対象ユーザーIDと称する)を認識する。 In step S2, the
たとえば、サーバー記憶部33には、サーバー制御部31による人物特定処理で使用するユーザー情報10が予め記憶される(図1参照)。ユーザー情報10は、画像形成装置5のユーザーとなり得る人物の顔データ(顔の特徴点などを示すデータ)をユーザーIDと対応付けた情報である。ここで、画像形成装置5のユーザーとなり得る人物は複数存在し、複数の人物にそれぞれ対応する複数のユーザー情報10がデータベースDBに格納される。 For example,
そして、サーバー制御部31は、人物特定処理を行うとき、監視カメラ4が撮影した第1範囲R1の撮影データに対して顔認識処理を行うとともに、顔認識処理で認識した顔(すなわち、第1範囲R1に入っているHMD2の装着者の顔)の特徴点を取得する。その後、サーバー制御部31は、データベースDBから、顔認識処理で認識した顔と特徴点が類似する顔データを含むユーザー情報10を抽出し、当該抽出したユーザー情報10で示されるユーザーIDを対象ユーザーIDとして認識する。 Then, when performing the person specifying process, the
第1範囲R1に入っているHMD2の装着者の特定後、ステップS3に移行する。ステップS3において、サーバー制御部31は、第1範囲R1に入っているHMD2の装着者について、パネル表示機能(HMD2に仮想操作パネル50Vを表示する機能)を有効に設定した有効装着者であるか無効に設定した無効装着者であるかを判断する。 After the wearer of the
たとえば、HMD2を使用するとき、HMD2の装着者は操作部23を操作して自身のユーザーIDを入力するとともに、パネル表示機能の有効/無効を設定する。HMD2の装着者が設定したパネル表示機能の設定内容は当該装着者が入力したユーザーIDと対応付けられ、HMD2からサーバー3に送信される。 For example, when using the
そして、サーバー制御部31は、HMD2の装着者が第1範囲R1に入ると、対象ユーザーID(第1範囲R1に入っているHMD2の装着者に付与されたユーザーID)に対応するパネル表示機能の設定内容を認識する。その結果、パネル表示機能が有効に設定されていれば、サーバー制御部31は、第1範囲R1に入っているHMD2の装着者が有効装着者であると判断する。一方で、パネル表示機能が無効に設定されていれば、サーバー制御部31は、第1範囲R1に入っているHMD2の装着者が無効装着者であると判断する。 Then, when the wearer of the
ステップS3において、第1範囲R1に入っているHMD2の装着者が有効装着者(パネル表示機能を有効に設定した装着者)であるとサーバー制御部31が判断した場合、ステップS4に移行する。ステップS4に移行すると、サーバー制御部31は、開始条件が満たされていると判断する。そして、ステップS5に移行する。 In step S3, if the
ステップS5において、サーバー制御部31は、第1範囲R1に入っているHMD2に対し、仮想操作パネル50Vの表示に必要な表示データを送信する。これにより、仮想操作パネル50Vの表示データを受信したHMD2において、仮想操作パネル50Vの表示が開始され、仮想操作パネル50Vに対する操作の受け付けが開始される。 In step S5, the
ステップS3において、第1範囲R1に入っているHMD2の装着者が無効装着者(パネル表示機能を無効に設定した装着者)であるとサーバー制御部31が判断した場合、ステップS6に移行する。ステップS6に移行すると、サーバー制御部31は、開始条件が満たされていないと判断する。この場合、サーバー制御部31は、第1範囲R1に入っているHMD2に仮想操作パネル50Vを表示させない。 In step S3, when the
ステップS1において、HMD2の装着者が第1範囲R1に入っていないとサーバー制御部31が判断した場合には、ステップS1の処理(サーバー制御部31による判断)が繰り返される。 If the
なお、或るHMD2(ここでは、第1HMD2と称する)が第1範囲R1に入っている状態で、別のHMD2(ここでは、第2HMD2と称する)が第1範囲R1に新たに入ったとする。この場合、第1HMD2および第2HMD2の両方に仮想操作パネル50Vを表示させると、第1HMD2および第2HMD2の両方で仮想操作パネル50Vに対する操作が行われ、結果として、第1HMD2および第2HMD2の両方から画像形成装置5に対して操作データが送信されるという不都合が生じる。このような不都合の発生を抑制するため、たとえば、第2HMD2が第1範囲R1に入っても、第2HMD2には仮想操作パネル50Vを表示せず、第1HMD2の装着者が第1範囲R1の範囲外に移動したとき、第2HMD2に仮想操作パネル50Vを表示してもよい。 It is assumed that another HMD 2 (here, referred to as a second HMD 2) newly enters the first range R1 while a certain HMD 2 (here, referred to as the first HMD 2) is in the first range R1. In this case, when the
ここで、変形例について説明する。 Here, a modification is described.
まず、第1変形例について説明する。第1変形例の構成では、HMD2が位置検知を行う。HMD2は、位置検知を行うことによって自機の現在位置を検知し、第1範囲R1に入ったことを検知すると、自機の装置IDをサーバー3に送信する。すなわち、第1変形例では、第1範囲R1に入っているHMD2の装置IDがサーバー3に送信される。 First, a first modification will be described. In the configuration of the first modified example, the
たとえば、ビーコン信号を定期的に発信するビーコン発信器が画像形成装置5の設置部屋に設置される(画像形成装置5にビーコン発信器を内蔵してもよい)。また、HMD2にはビーコン機能(ビーコン信号を受信する機能)が搭載される。そして、HMD2は、ビーコン信号の受信状況に基づき、第1範囲R1に入ったか否かの位置検知を行う。 For example, a beacon transmitter that periodically transmits a beacon signal is installed in the installation room of the image forming apparatus 5 (the
あるいは、HMD2にはGPS機能が搭載される。そして、HMD2は、GPS機能を用いて、第1範囲R1に入ったか否かの位置検知を行う。なお、誤検知を防止するため、ビーコン機能およびGPS機能の両方をHMD2に搭載し、HMD2による位置検知が両機能を用いて行われてもよい。 Alternatively, the
サーバー3は、装置IDを受信すると、当該受信した装置IDを有するHMD2が第1範囲R1に入っていると判断する。たとえば、サーバー3には、HMD2の装置IDとHMD2の提供を受けた人物(HMD2の装着者となり得る人物)のユーザーIDとを対応付けたHMD情報が予め記憶される。そして、サーバー3は、HMD情報に基づき、HMD2から受信した装置IDに対応するユーザーIDを認識し、当該認識したユーザーIDを対象ユーザーIDとして認識する。その後、図5に示したフローチャートのステップS3〜S6の処理がサーバー3により行われる。 When receiving the device ID, the
なお、第1変形例の構成において、加速度センサーやジャイロセンサーをHMD2に搭載してもよい。HMD2に加速度センサーやジャイロセンサーを搭載した場合には、当該センサーの出力に基づきHMD2の移動距離などの計測が可能となり、HMD2が第1範囲R1に入ったか否かの位置検知をより正確に行うことができるようになる。 In the configuration of the first modification, an acceleration sensor or a gyro sensor may be mounted on the
次に、第2変形例について説明する。第2変形例の構成では、第1範囲R1に入っているHMD2との間で通信する通信機能が監視カメラ4に搭載される。サーバー3は、監視カメラ4が撮影した撮影データに基づきHMD2の装着者が第1範囲R1に入っていることを検知すると、第1範囲R1に入っているHMD2との間での通信を監視カメラ4に行わせる。たとえば、監視カメラ4の通信可能範囲は第1範囲R1と略同じである。すなわち、監視カメラ4は、第1範囲R1に入っているHMD2との間での通信は行うが、第1範囲R1に入っていないHMD2との間での通信は行わない。 Next, a second modification will be described. In the configuration of the second modified example, a communication function of communicating with the
監視カメラ4との間での通信が可能になったHMD2は、監視カメラ4に対し、自機の装置IDを送信する。HMD2の装置IDは監視カメラ4からサーバー3に転送される。すなわち、第2変形例では、第1変形例と同様、第1範囲R1に入っているHMD2の装置IDがサーバー3に送信される。 The
サーバー3は、装置IDを受信すると、当該受信した装置IDを有するHMD2が第1範囲R1に入っていると判断する。たとえば、サーバー3には、HMD2の装置IDとHMD2の提供を受けた人物(HMD2の装着者となり得る人物)のユーザーIDとを対応付けたHMD情報が記憶される。そして、サーバー3は、HMD情報に基づき、HMD2から受信した装置IDに対応するユーザーIDを認識し、当該認識したユーザーIDを対象ユーザーIDとして認識する。その後、図5に示したフローチャートのステップS3〜S6の処理がサーバー3により行われる。 When receiving the device ID, the
(仮想操作パネルの表示停止)
サーバー制御部31は、第1範囲R1にHMD2が入っており、かつ、第2範囲R2に複数の人物(第1範囲R1に入っているHMD2の装着者を含む)が存在する場合には、第1範囲R1に入っているHMD2による仮想操作パネル50Vの表示を停止させる。ただし、このとき、サーバー制御部31は、予め定められた許可条件が満たされているか否かを判断する。ここで、サーバー制御部31は、第1判断処理および第2判断処理の少なくとも一方を行うことにより、許可条件が満たされているか否かを判断する。第1判断処理および第2判断処理については後述する。そして、許可条件が満たされていれば、サーバー制御部31は、第2範囲R2に複数の人物が存在しても、第1範囲R1に入っているHMD2に仮想操作パネル50Vを表示させる。(Stop display of virtual operation panel)
When the
以下に、図6に示すフローチャートを参照し、仮想操作パネル50Vの表示を停止するか否かを判断する処理(停止判断処理)の流れを説明する。図6に示すフローチャートのスタート時点では、第1範囲R1に入っているHMD2(仮想操作パネル50Vを表示しているHMD2)が存在するとする。以下の説明では、第1範囲R1に入っているHMD2を対象HMD2と称する場合がある。 The flow of processing (stop determination processing) of determining whether to stop the display of the
ステップS11において、サーバー制御部31は、監視カメラ4が撮影した撮影データに基づき、第2範囲R2に複数の人物(対象HMD2の装着者を含む)が存在するか否かを判断する。すなわち、サーバー制御部31は、対象HMD2の装着者とは別の人物(他人)が第2範囲R2に存在するか否かを判断する。その結果、第2範囲R2に複数の人物が存在するとサーバー制御部31が判断した場合には、ステップS12に移行する。ここでのサーバー制御部31による判断では、第2カメラ42が撮影した撮影データが使用される。 In step S11, the
ステップS12に移行すると、サーバー制御部31は、許可条件が満たされているか否かを判断する。その結果、許可条件が満たされているとサーバー制御部31が判断した場合には、ステップS13に移行する。なお、ステップS11において、第2範囲R2に存在するのが1人だけ(対象HMD2の装着者だけ)であるとサーバー制御部31が判断した場合にも、ステップS13に移行する。一方で、許可条件が満たされていないとサーバー制御部31が判断した場合には、ステップS14に移行する。許可条件については後に詳細に説明する。 After shifting to step S12, the
ステップS13に移行すると、サーバー制御部31は、対象HMD2による仮想操作パネル50Vの表示を続行させる。その後、ステップS15に移行する。なお、この時点で対象HMD2による仮想操作パネル50Vの表示が停止されていれば、サーバー制御部31は、対象HMD2による仮想操作パネル50Vの表示を開始(再開)させる。 After shifting to step S13, the
ステップS14に移行すると、サーバー制御部31は、対象HMD2による仮想操作パネル50Vの表示を停止させる。その後、ステップS15に移行する。なお、ここでは、対象HMD2による仮想操作パネル50Vの表示を終了させるわけではない。すなわち、対象HMD2による仮想操作パネル50Vの表示が停止されて以降、仮想操作パネル50Vの表示が再開される場合がある。 At step S14, the
ステップS15において、サーバー制御部31は、予め定められた終了条件が満たされたか否かを判断する。たとえば、サーバー制御部31は、対象HMD2の装着者が第1範囲R1の範囲外に移動すると、終了条件が満たされたと判断する。あるいは、サーバー制御部31は、対象HMD2が装着者から予め定められた終了操作を受け付けると、終了条件が満たされたと判断する。なお、対象HMD2は装着者から終了操作を受け付けたことを検知したとき、終了操作を受け付けたことを示す情報をサーバー3に送信する。これにより、サーバー制御部31は、対象HMD2が装着者から終了操作を受け付けたか否かを判断することができる。 In step S15, the
ステップS15において、終了条件が満たされたとサーバー制御部31が判断した場合には、ステップS16に移行する。この場合、サーバー制御部31は、対象HMD2による仮想操作パネル50Vの表示を終了させる。以降、第2範囲R1に複数の人物が存在するか否かにかかわらず、対象HMD2には仮想操作パネル50Vは表示されない。 In step S15, when the
ステップS15において、終了条件が満たされていないとサーバー制御部31が判断した場合には、ステップS11に移行する。すなわち、サーバー制御部31は、終了条件が満たされるまで、第2範囲R2に複数の人物が存在するか否かの判断を続ける。 In step S15, when the
(第1判断処理)
第1判断処理を行うよう設定されている場合、サーバー制御部31は、監視カメラ4が撮影した撮影データに基づき、第2範囲R2に存在する複数の人物のうち対象HMD2の装着者以外の人物の存在位置(以下、単に存在位置と称する)を認識する。また、サーバー制御部31は、対象HMD2の正面(対象HMD2の装着者の視界方向)が存在位置に向けられているか否かを判断する。たとえば、サーバー制御部31は、ヘッドトラッキング技術などを用いて、対象HMD2の正面の向きを認識する。(First judgment processing)
When the first determination process is set, the
そして、対象HMD2の正面が存在位置に向けられていない場合、サーバー制御部31は、許可条件が満たされていると判断する。一方で、対象HMD2の正面が存在位置に向けられている場合、サーバー制御部31は、許可条件が満たされていないと判断する。 Then, when the front of the
一例として、図7に示すように、対象HMD2の装着者Aが右を向いているとき、すなわち、対象HMD2の正面が図中の矢印方向に向けられているとき、対象HMD2の装着者A以外の人物Bが右方向から第2範囲R2に入ってきたとする。この場合、対象HMD2の正面が存在位置に向けられているので、サーバー制御部31は、許可条件が満たされていないと判断する。このため、対象HMD2は、仮想操作パネル50Vの表示を停止する。 As an example, as shown in FIG. 7, when the wearer A of the
それ以降、図8に示すように、対象HMD2の装着者Aが向きを変更した(対象HMD2の正面の向きが破線矢印方向から実線矢印方向に変更された)とする。この場合、対象HMD2の正面が存在位置に向けられていないので、サーバー制御部31は、許可条件が満たされていると判断する。このため、対象HMD2は、仮想操作パネル50Vの表示を再開する。 Thereafter, as shown in FIG. 8, it is assumed that the wearer A of the
図示しないが、対象HMD2の装着者Aが右を向いているとき、人物Bが左方向から第2範囲R2に入ってきた場合には、対象HMD2の正面が存在位置に向けられていないので、サーバー制御部31は許可条件が満たされていると判断する。このため、対象HMD2は、仮想操作パネル50Vの表示を続行する。 Although not shown, when the wearer A of the
なお、対象HMD2が第1範囲R1に入った時点で、人物Bが既に第2範囲R2に存在しており、かつ、対象HMD2の正面が存在位置に向けられていた場合には、対象HMD2には仮想操作パネル50Vは表示されない。 When the target HMD2 enters the first range R1, if the person B already exists in the second range R2 and the front of the target HMD2 is directed to the existing position, the target HMD2 is The
(第2判断処理)
第2判断処理を行うよう設定されている場合、サーバー制御部31は、対象HMD2のカメラ部22が撮影した撮影データ(ここでは、正面撮影データと称する)に基づき、対象HMD2の正面方向に所定条件を満たす条件充足箇所が存在するか否かを判断する。言い換えると、サーバー制御部31は、正面撮影データから条件充足箇所を検出する処理を行う。(Second judgment processing)
When set to perform the second determination process, the
そして、対象HMD2の正面方向に条件充足箇所が存在する場合には、サーバー制御部31は許可条件が満たされていると判断する。一方で、対象HMD2の正面方向に条件充足箇所が存在しない場合には、サーバー制御部31は許可条件が満たされていないと判断する。 Then, when the condition satisfaction part exists in the front direction of the
ここで、サーバー制御部31は、正面撮影データから画像形成装置5を検出したとき、対象HMD2の正面方向に条件充足箇所が存在すると判断する(すなわち、条件充足箇所は画像形成装置5である)。あるいは、サーバー制御部31は、正面画像データから対象HMD2の装着者の腕を検出したとき、対象HMD2の正面方向に条件充足箇所が存在すると判断する(すなわち、条件充足箇所は対象HMD2の装着者の腕である)。 Here, when the
たとえば、サーバー記憶部33には、条件充足箇所の特徴点(輪郭や形状、大きさ、色など)を示す特徴点情報が予め記憶される。そして、サーバー制御部31は、特徴点情報で示される特徴点を有する画像を正面撮影データから検出できたとき、対象HMD2の正面方向に条件充足箇所が存在すると判断する。 For example, the
一例として、対象HMD2の装着者以外の人物が第2範囲R2に入ったことによって対象HMD2による仮想操作パネル50Vの表示が停止されて以降、対象HMD2の装着者が画像形成装置5を見たとする。すなわち、対象HMD2の正面方向に画像形成装置5が存在するとする。この場合、サーバー制御部31は、対象HMD2の正面方向に条件充足箇所が存在するので、許可条件が満たされたと判断する。 As an example, it is assumed that the wearer of the
この例では、対象HMD2の装着者からの見え方は、図9に示すように変化する(上図から下図に変化する)。すなわち、画像形成装置5と重なるように仮想操作パネル50Vが対象HMD2に表示される。 In this example, the appearance of the
別の例として、対象HMD2の装着者以外の人物が第2範囲R2に入ったことによって対象HMD2による仮想操作パネル50Vの表示が停止されて以降、対象HMD2の装着者が自身の腕を見たとする。すなわち、対象HMD2の正面方向に対象HMD2の装着者の腕が存在するとする。この場合、サーバー制御部31は、対象HMD2の正面方向に条件充足箇所が存在するので、許可条件が満たされたと判断する。 As another example, when the person other than the wearer of the
この例では、対象HMD2の装着者からの見え方は、図10に示すように変化する(上図から下図に変化する)。すなわち、対象HMD2の装着者の腕と重なるように仮想操作パネル50Vが対象HMD2に表示される。 In this example, the appearance of the
本実施形態の表示システム1は、上記のように、監視カメラ4と、予め定められた第1範囲R1に入ると仮想画像である仮想操作パネル50Vを表示し、仮想操作パネル50Vに対する操作を装着者から受け付けるHMD2(ヘッドマウントディスプレイ)と、HMD2による仮想操作パネル50Vの表示に関する制御を行うサーバー3(処理装置)と、を備える。サーバー3は、第1範囲R1に入っているHMD2が存在するとき、監視カメラ4が撮影した撮影データに基づき、第1範囲R1を含む予め定められた第2範囲R2に複数の人物が存在するか否かを判断し、第2範囲R2に複数の人物が存在すると判断した場合、第1範囲R1に入っているHMD2による仮想操作パネル50Vの表示を停止させる。 As described above, the display system 1 according to the present embodiment displays the
本実施形態の構成では、第1範囲R1に入っているHMD2は仮想操作パネル50Vを表示し仮想操作パネル50Vに対する操作を装着者から受け付ける。しかし、第1範囲R1に入っているHMD2の装着者の周囲に他人が存在する状態で、第1範囲R1に入っているHMD2に仮想操作パネル50Vを表示し仮想操作パネル50Vに対する操作を装着者から受け付けると、装着者の腕や手が他人に衝突するという不都合が生じ得る。 In the configuration of the present embodiment, the
このため、本実施形態の構成では、第1範囲R1を含む第2範囲R2に複数の人物(第1範囲R1に入っているHMD2の装着者を含む)が存在する場合、すなわち、仮想操作パネル50Vに対する操作の受付時に動かされる装着者の腕や手が他人に衝突する可能性がある場合、第1範囲R1に入っているHMD2による仮想操作パネル50Vの表示を停止させる。これにより、装着者の周囲に他人が存在する場合には装着者による仮想操作パネル50Vに対する操作は行われないので、装着者の腕や手が他人に衝突するのを抑制することができる。また、装着者の周囲に他人が存在する場合には自動的に仮想操作パネル50Vの表示が停止されるので、装着者は周囲確認を行う必要がない。 Therefore, in the configuration of the present embodiment, when there are a plurality of persons (including the wearer of the
なお、HMD2に表示された仮想操作パネル50Vに対して操作を行うとき、装着者は前方空間(HMD2の正面)で腕や手を動かす。このとき、HMD2の正面に他人が存在すれば、装着者の腕や手が他人に衝突する可能性がある。しかし、HMD2の正面に他人が存在しなければ、操作者の腕や手は他人に衝突しない。仮に、装着者および他人が互いに向かい合っていても、装着者が下や横を向けば、HMD2の正面方向には他人が存在しなくなる。 When the user operates the
そこで、サーバー3は、第1範囲R1にHMD2が入っており、かつ、第2範囲R2に複数の人物が存在する場合、第1範囲R1に入っているHMD2の正面が他人の存在位置に向けられていなければ、第2範囲R2に複数の人物が存在していても、第1範囲R1に入っているHMD2に仮想操作パネル50Vを表示させる。なお、第1範囲R1に入っているHMD2の正面が他人の存在位置に向けられていないということは、第1範囲R1に入っているHMD2の正面に他人が存在しないということである。 Therefore, when the
あるいは、サーバー3は、第1範囲R1にHMD2が入っており、かつ、第2範囲R2に複数の人物が存在する場合、HMD2の正面方向に条件充足箇所が存在すれば、第2範囲R2に複数の人物が存在していても、第1範囲R1に入っているHMD2に仮想操作パネル50Vを表示させる。なお、HMD2の正面方向に条件充足箇所が存在するということは、第1範囲R1に入っているHMD2の装着者が画像形成装置5(実機)や自身の腕を見ているということであり、第1範囲R1に入っているHMD2の装着者は他人を見ていない(第1範囲R1に入っているHMD2の正面に他人が存在しない)ということである。 Alternatively, when the
これにより、第2範囲R2に複数の人物が存在しているときに、第1範囲R1に入っているHMD2の装着者が長時間にわたって仮想操作パネル50Vに対する操作を行うことができなくなる、という不都合が生じるのを抑制することができる。 As a result, when there are a plurality of persons in the second range R2, the wearer of the
また、サーバー3は、第1範囲R1に入っているHMD2の装着者が設定したパネル表示機能の設定内容を認識し、当該認識したパネル表示機能が有効に設定されている場合にのみ、第1範囲R1に入っているHMD2に仮想操作パネル50Vを表示させる。これにより、仮想操作パネル50Vの表示/非表示を選択することができるので、HMD2の装着者の利便性が向上する。 Further, the
今回開示された実施形態は、すべての点で例示であって、制限的なものではないと考えられるべきである。本発明の範囲は、上記実施形態の説明ではなく特許請求の範囲によって示され、さらに、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれる。 The embodiment disclosed this time should be considered as illustrative in all points and not restrictive. The scope of the present invention is indicated not by the description of the above embodiment but by the scope of claims, and further includes all modifications within the meaning and scope equivalent to the scope of claims.
1 表示システム
2 HMD(ヘッドマウントディスプレイ)
3 サーバー(処理装置)
4 監視カメラ
50V 仮想操作パネル1
3 Server (Processing Device)
4
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017171276AJP2019046366A (en) | 2017-09-06 | 2017-09-06 | Display system |
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017171276AJP2019046366A (en) | 2017-09-06 | 2017-09-06 | Display system |
| Publication Number | Publication Date |
|---|---|
| JP2019046366Atrue JP2019046366A (en) | 2019-03-22 |
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2017171276APendingJP2019046366A (en) | 2017-09-06 | 2017-09-06 | Display system |
| Country | Link |
|---|---|
| JP (1) | JP2019046366A (en) |
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US12148113B2 (en) | 2021-07-26 | 2024-11-19 | Fujifilm Business Innovation Corp. | Information processing system and non-transitory computer readable medium |
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US12148113B2 (en) | 2021-07-26 | 2024-11-19 | Fujifilm Business Innovation Corp. | Information processing system and non-transitory computer readable medium |
| Publication | Publication Date | Title |
|---|---|---|
| US11235871B2 (en) | Control method, control system, and smart glasses for first person view unmanned aerial vehicle flight | |
| US10474411B2 (en) | System and method for alerting VR headset user to real-world objects | |
| EP2991027B1 (en) | Image processing program, image processing method and information terminal | |
| US11137600B2 (en) | Display device, display control method, and display system | |
| JP6711885B2 (en) | Transmission terminal, reception terminal, transmission/reception system, and its program | |
| EP3163407B1 (en) | Method and apparatus for alerting to head mounted display user | |
| CN109120664A (en) | Telecommunication method, telecommunication system and autonomous mobile device | |
| KR20150082843A (en) | Head mounted display and method for controlling the same | |
| JP6789170B2 (en) | Display device, authentication method, and authentication program | |
| WO2016079974A1 (en) | Authentication management method, information processing apparatus, wearable device, and computer program | |
| CN106101470A (en) | Information processor and the operation instruction method to image processing apparatus | |
| US11589001B2 (en) | Information processing apparatus, information processing method, and program | |
| US20240265079A1 (en) | System and method for automatically unlocking electronic devices | |
| CN113960788A (en) | Image display method, image display device, AR glasses, and storage medium | |
| JP6319220B2 (en) | Transparent wearable terminal, data processing apparatus, and data processing system | |
| JP2019046366A (en) | Display system | |
| JP7716892B2 (en) | Image restriction method, image restriction program, information processing device, and support system | |
| WO2018008101A1 (en) | Image provision system, image provision method, and program | |
| JP5989725B2 (en) | Electronic device and information display program | |
| CN116055827A (en) | Head mounted display device and control method for head mounted display device | |
| JP2019061556A (en) | Communication system and wearable terminal | |
| JP2023063765A (en) | Image processing device, image processing method, image processing system, and program | |
| JP2018036847A (en) | Information processing system | |
| JP2018181339A (en) | System, information processing method and program | |
| JP6842964B2 (en) | Wearable device, safety confirmation system, safety confirmation method and program |