Movatterモバイル変換


[0]ホーム

URL:


JP2019046366A - Display system - Google Patents

Display system
Download PDF

Info

Publication number
JP2019046366A
JP2019046366AJP2017171276AJP2017171276AJP2019046366AJP 2019046366 AJP2019046366 AJP 2019046366AJP 2017171276 AJP2017171276 AJP 2017171276AJP 2017171276 AJP2017171276 AJP 2017171276AJP 2019046366 AJP2019046366 AJP 2019046366A
Authority
JP
Japan
Prior art keywords
range
hmd
wearer
display
head mounted
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017171276A
Other languages
Japanese (ja)
Inventor
祥吾 岩▲崎▼
Shogo Iwasaki
祥吾 岩▲崎▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Document Solutions Inc
Original Assignee
Kyocera Document Solutions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Document Solutions IncfiledCriticalKyocera Document Solutions Inc
Priority to JP2017171276ApriorityCriticalpatent/JP2019046366A/en
Publication of JP2019046366ApublicationCriticalpatent/JP2019046366A/en
Pendinglegal-statusCriticalCurrent

Links

Images

Landscapes

Abstract

To prevent a wearer's arms or hands from colliding with another person during operation of a virtual image displayed on a head-mounted display.SOLUTION: A display system comprises: monitoring cameras; a head-mounted display that displays a virtual operation panel upon entry in a first range and receives operation from a wearer; and a processing apparatus. When the head-mounted display entering the first range is present, the processing apparatus determines whether or not a plurality of people are present in a second range including the first range on the basis of photographic data photographed by the monitoring cameras, and when determining that the plurality of people are present in the second range, causes the head-mounted display entering the first range to stop displaying the virtual operation panel.SELECTED DRAWING: Figure 6

Description

Translated fromJapanese

本発明は、ヘッドマウントディスプレイを備える表示システムに関する。  The present invention relates to a display system provided with a head mounted display.

従来、ヘッドマウントディスプレイに仮想画像を表示し、仮想画像に対する操作を装着者から受け付ける技術が知られている。このような技術は、たとえば、特許文献1に開示されている。  BACKGROUND Conventionally, there is known a technique of displaying a virtual image on a head mounted display and receiving an operation on the virtual image from a wearer. Such a technique is disclosed, for example, in Patent Document 1.

特許文献1では、たとえば、仮想画像としてマウスパッドがヘッドマウントディスプレイに表示される。そして、ヘッドマウントディスプレイは、仮想画像に対する操作を受け付けると、当該操作に割り当てられた処理を実行する。  In Patent Document 1, for example, a mouse pad is displayed on a head mounted display as a virtual image. Then, when the head mounted display receives an operation on the virtual image, the head mounted display executes the processing assigned to the operation.

WO2014/045683号公報WO2014 / 045683 Publication

ヘッドマウントディスプレイに表示された仮想画像に対する操作では、装着者の前方空間で腕や手が動かされる。このとき、装着者の周囲に他人が存在すれば、装着者の腕や手が他人に衝突するという不都合が生じる。  In the operation on the virtual image displayed on the head mounted display, an arm or a hand is moved in the front space of the wearer. At this time, if there is another person around the wearer, there arises a disadvantage that the arm or hand of the wearer collides with the other person.

このような不都合を解消するには、装着者自身が周囲に他人が存在するか否かを確認しつつ、仮想画像に対する操作を行わなければならない。このため、装着者にとっては利便性が悪い。  In order to eliminate such a disadvantage, the wearer has to operate the virtual image while confirming whether or not there is another person around him. For this reason, convenience for the wearer is bad.

本発明は、上記課題を解決するためになされたものであり、ヘッドマウントディスプレイの装着者が周囲確認を行わなくても、ヘッドマウントディスプレイに表示された仮想画像に対する操作時に腕や手が他人に衝突するのを抑制することが可能な表示システムを提供することを目的とする。  The present invention has been made to solve the above-mentioned problems, and even if the wearer of the head mounted display does not check the surroundings, the arm and / or the hand can be used by others when operating the virtual image displayed on the head mounted display. An object of the present invention is to provide a display system capable of suppressing a collision.

上記目的を達成するため、本発明の表示システムは、監視カメラと、予め定められた第1範囲に入ると仮想画像である仮想操作パネルを表示し、仮想操作パネルに対する操作を装着者から受け付けるヘッドマウントディスプレイと、ヘッドマウントディスプレイによる仮想操作パネルの表示に関する制御を行う処理装置と、を備える。処理装置は、第1範囲に入っているヘッドマウントディスプレイが存在するとき、監視カメラが撮影した撮影データに基づき、第1範囲を含む予め定められた第2範囲に複数の人物が存在するか否かを判断し、第2範囲に複数の人物が存在すると判断した場合、第1範囲に入っているヘッドマウントディスプレイによる仮想操作パネルの表示を停止させる。  In order to achieve the above object, the display system of the present invention displays a monitoring camera and a virtual operation panel that is a virtual image when entering a predetermined first range, and receives an operation on the virtual operation panel from a wearer. A mounted display and a processing device for controlling display of a virtual operation panel by the head mounted display are provided. The processing device determines whether or not a plurality of persons are present in a second predetermined area including the first range based on the shooting data captured by the monitoring camera when the head mounted display in the first range is present. If it is determined that there are a plurality of persons in the second range, the display of the virtual operation panel by the head mounted display in the first range is stopped.

本発明の構成では、第1範囲に入っているヘッドマウントディスプレイは仮想操作パネル(仮想画像)を表示し仮想操作パネルに対する操作を装着者から受け付ける。しかし、第1範囲に入っているヘッドマウントディスプレイの装着者の周囲に他人が存在する状態で、第1範囲に入っているヘッドマウントディスプレイに仮想操作パネルを表示し仮想操作パネルに対する操作を装着者から受け付けると、装着者の腕や手が他人に衝突するという不都合が生じ得る。  In the configuration of the present invention, the head mounted display in the first range displays the virtual operation panel (virtual image) and receives an operation on the virtual operation panel from the wearer. However, in a state where there is another person around the head mount display wearer who is in the first range, the virtual operation panel is displayed on the head mount display that is in the first range and the wearer operates the virtual operation panel From the point of view, the wearer's arms and hands may collide with others.

このため、本発明の構成では、第1範囲を含む第2範囲に複数の人物(第1範囲に入っているヘッドマウントディスプレイの装着者を含む)が存在する場合、すなわち、仮想操作パネルに対する操作の受付時に動かされる装着者の腕や手が他人に衝突する可能性がある場合、第1範囲に入っているヘッドマウントディスプレイによる仮想操作パネルの表示を停止させる。これにより、装着者の周囲に他人が存在する場合には装着者による仮想操作パネルに対する操作は行われないので、装着者の腕や手が他人に衝突するのを抑制することができる。また、装着者の周囲に他人が存在する場合には自動的に仮想操作パネルの表示が停止されるので、装着者は周囲確認を行う必要がない。  Therefore, in the configuration of the present invention, when there are a plurality of persons (including the wearer of the head mounted display in the first range) in the second range including the first range, that is, the operation on the virtual operation panel When there is a possibility that the arm or hand of the wearer moved at the time of reception of the may collide with another person, the display of the virtual operation panel by the head mounted display in the first range is stopped. Thus, when there is another person around the wearer, the operation on the virtual operation panel by the wearer is not performed, so that the arm or hand of the wearer can be prevented from colliding with another person. In addition, since the display of the virtual operation panel is automatically stopped when there is another person around the wearer, the wearer does not need to check the surroundings.

本発明によれば、ヘッドマウントディスプレイの装着者が周囲確認を行わなくても、ヘッドマウントディスプレイに表示された仮想画像に対する操作時に腕や手が他人に衝突するのを抑制することができる。  According to the present invention, even if the wearer of the head mounted display does not check the surroundings, it is possible to suppress that an arm or hand collides with another person when operating the virtual image displayed on the head mounted display.

本発明の一実施形態による表示システムの構成を示す図A diagram showing the configuration of a display system according to an embodiment of the present invention本発明の一実施形態による表示システムのヘッドマウントディスプレイが表示する仮想操作パネルを示す図Figure showing a virtual control panel displayed by a head mounted display of a display system according to an embodiment of the present invention本発明の一実施形態による表示システムの監視カメラの設置位置を示す図A diagram showing the installation position of the surveillance camera of the display system according to one embodiment of the present invention本発明の一実施形態による表示システムの監視カメラで監視する範囲を示す図Diagram showing the range monitored by the surveillance camera of the display system according to one embodiment of the present invention本発明の一実施形態による表示システムが行う処理(仮想操作パネルの表示を開始するか否かを判断する処理)の流れを示す図A diagram showing a flow of processing (processing for determining whether to start display of a virtual operation panel) performed by a display system according to an embodiment of the present invention本発明の一実施形態による表示システムが行う処理(仮想操作パネルの表示を停止するか否かを判断する処理)の流れを示す図A diagram showing a flow of processing (processing to determine whether to stop display of a virtual operation panel) performed by a display system according to an embodiment of the present invention本発明の一実施形態による表示システムのサーバーが行う第1判断処理を説明するための図The figure for demonstrating the 1st judgment processing which the server of the display system by one embodiment of the present invention performs.本発明の一実施形態による表示システムのサーバーが行う第1判断処理を説明するための図The figure for demonstrating the 1st judgment processing which the server of the display system by one embodiment of the present invention performs.本発明の一実施形態による表示システムのサーバーが行う第2判断処理を説明するための図The figure for demonstrating the 2nd judgment processing which the server of the display system by one embodiment of the present invention performs.本発明の一実施形態による表示システムのサーバーが行う第2判断処理を説明するための図The figure for demonstrating the 2nd judgment processing which the server of the display system by one embodiment of the present invention performs.

<表示システムの全体構成>
図1に示すように、本実施形態の表示システム1は、ヘッドマウントディスプレイ2、サーバー3(「処理装置」に相当)および監視カメラ4を備える。以下の説明では、ヘッドマウントディスプレイをHMDと称する。
<Overall Configuration of Display System>
As shown in FIG. 1, the display system 1 of the present embodiment includes a head mounteddisplay 2, a server 3 (corresponding to a “processing device”), and amonitoring camera 4. In the following description, the head mounted display is referred to as an HMD.

HMD2およびサーバー3は、互い通信可能に接続される。HMD2とサーバー3との間では、LANなどのネットワークNTを介した通信が行われる。また、ネットワークNTには画像形成装置5が接続される。これにより、HMD2およびサーバー3は、画像形成装置5との間での通信も可能である。たとえば、画像形成装置5は、MFPやプリンターなどであり、操作パネル50を備える。  The HMD 2 and theserver 3 are communicably connected to each other. Communication between the HMD 2 and theserver 3 is performed via the network NT such as a LAN. Theimage forming apparatus 5 is connected to the network NT. Thus, theHMD 2 and theserver 3 can also communicate with theimage forming apparatus 5. For example, theimage forming apparatus 5 is an MFP, a printer, or the like, and includes an operation panel 50.

監視カメラ4は、サーバー3に通信可能に接続される。監視カメラ4とサーバー3との間での通信は、有線で行われてもよいし、無線で行われてもよい。なお、監視カメラ4とHMD2とが通信可能に接続されてもよい。  Themonitoring camera 4 is communicably connected to theserver 3. Communication between themonitoring camera 4 and theserver 3 may be performed by wire or may be performed wirelessly. Themonitoring camera 4 and the HMD 2 may be communicably connected.

ここで、本実施形態の表示システム1では、画像形成装置5のユーザーにHMD2が提供される。すなわち、画像形成装置5のユーザーがHMD2を装着する。そして、図2に示すように、表示システム1は、HMD2に仮想操作パネル50Vを表示し、仮想操作パネル50Vに対する操作をHMD2の装着者(画像形成装置5のユーザー)から受け付けるVR処理を行う。なお、仮想操作パネル50Vは、実機である画像形成装置5の操作パネル50を模した仮想画像である。  Here, in the display system 1 of the present embodiment, the HMD 2 is provided to the user of theimage forming apparatus 5. That is, the user of theimage forming apparatus 5 mounts theHMD 2. Then, as shown in FIG. 2, the display system 1 displays thevirtual operation panel 50V on theHMD 2 and performs VR processing for receiving an operation on thevirtual operation panel 50V from the wearer of the HMD 2 (the user of the image forming apparatus 5). Thevirtual operation panel 50V is a virtual image that imitates the operation panel 50 of theimage forming apparatus 5 that is a real machine.

HMD2に仮想操作パネル50Vが表示されているとき、仮想操作パネル50Vに対する操作をHMD2の装着者が行うことにより、HMD2の装着者が行った操作を示す操作データがHMD2から画像形成装置5に対して送信される。画像形成装置5は、操作データを受信すると、当該受信した操作データで示される操作に割り当てられた処理(当該操作データで示される操作を操作パネル50が実際に受け付けた場合に行うべき処理)を行う。これにより、画像形成装置5(操作パネル50)を直接操作することなく、HMD2の装着者は所望の処理を画像形成装置5に行わせることができる。  When thevirtual operation panel 50V is displayed on theHMD 2, the operation of thevirtual operation panel 50V is performed by the wearer of theHMD 2, whereby operation data indicating the operation performed by the wearer of theHMD 2 is sent from theHMD 2 to theimage forming apparatus 5. Will be sent. When receiving the operation data, theimage forming apparatus 5 performs the process assigned to the operation indicated by the received operation data (the process to be performed when the operation panel 50 actually receives the operation indicated by the operation data). Do. Thus, the wearer of theHMD 2 can cause theimage forming apparatus 5 to perform desired processing without directly operating the image forming apparatus 5 (operation panel 50).

<表示システムを成す各装置の構成>
HMD2は、眼鏡型であり、眼鏡のレンズに相当する部分に種々の画像を表示する。HMD2の装着者からすると、眼前に画像が表示されたように見える。また、HMD2は、装着者の眼前に広がる現実空間(現実空間に存在するオブジェクト)を撮影する。
<Configuration of Each Device Forming Display System>
TheHMD 2 is an eyeglass type, and displays various images on the portion corresponding to the lens of the eyeglasses. From the viewpoint of theHMD 2 wearer, the image appears to be displayed in front of the eye. In addition, the HMD 2 captures an image of a real space (an object existing in the real space) spread in front of the wearer.

HMD2は、表示部21、カメラ部22、操作部23、HMD制御部24、HMD通信部25およびHMD記憶部26を備える。これら各部は眼鏡型のフレームに搭載される。  The HMD 2 includes adisplay unit 21, a camera unit 22, anoperation unit 23, anHMD control unit 24, an HMD communication unit 25, and an HMD storage unit 26. These units are mounted on a glasses-type frame.

表示部21は、表示を行う。表示部21は、HMD2の装着者の眼と対向する位置に配置される。これにより、装着者の眼前に画像が表示される。たとえば、外光を透過させる光学透過型(光学シースルー型)のディスプレイ装置が表示部21として使用される。光学透過型の表示部21は、ハーフミラーを含み、表示すべき画像をハーフミラーによって装着者の眼に向けて反射する。このとき、外光はハーフミラーを透過して装着者の眼に入射する。すなわち、表示部21は、装着者に現実空間を視認させつつ、現実空間上に画像をオーバーレイ表示する。装着者からは、表示部21により表示された画像が現実空間に合成されたように見える(現実空間に表示画像が重なって見える)。  Thedisplay unit 21 performs display. Thedisplay unit 21 is disposed at a position facing the eye of the wearer of the HMD 2. Thus, an image is displayed in front of the wearer's eye. For example, an optical transmission type (optical see-through type) display device that transmits external light is used as thedisplay unit 21. The optical transmissiontype display unit 21 includes a half mirror, and reflects an image to be displayed toward the wearer's eye by the half mirror. At this time, the external light passes through the half mirror and enters the eye of the wearer. That is, thedisplay unit 21 overlays and displays an image on the physical space while making the wearer visually recognize the physical space. From the wearer, the image displayed by thedisplay unit 21 appears to be synthesized in the real space (a display image appears to overlap with the real space).

カメラ部22は、撮影を行う。カメラ部22は、CCDカメラなどを含み、HMD2の装着者の視界方向(HMD2の正面方向)の撮影が可能な位置に配置される。装着者が眼前で手や指を動かすなどのジェスチャー操作(仮想操作パネル50Vに対する操作)を行った場合には、カメラ部22によって装着者のジェスチャー操作が撮影される。カメラ部22は、撮影により得られた撮影データを出力する。  The camera unit 22 captures an image. The camera unit 22 includes a CCD camera and the like, and is disposed at a position where imaging can be performed in the viewing direction (front direction of the HMD 2) of the wearer of theHMD 2. When the wearer performs a gesture operation (operation on thevirtual operation panel 50V) such as moving a hand or a finger in front of the eyes, the camera unit 22 captures a gesture operation of the wearer. The camera unit 22 outputs shooting data obtained by shooting.

操作部23は、HMD2の装着者から、HMD2による表示や撮影に関する各種設定を行うための操作を受け付ける。たとえば、装着者から操作を受け付けるハードウェアボタンが操作部23としてHMD2に設けられる。なお、スマートフォンやタブレットコンピューター、ノート型パーソナルコンピューターなど、装着者が所有する携帯情報端末をHMD2に通信可能に接続することにより、携帯情報端末を操作部23として機能させることもできる(装着者は携帯情報端末からでも各種設定を行うことができる)。  Theoperation unit 23 receives, from the wearer of theHMD 2, an operation for performing various settings regarding display and photographing by theHMD 2. For example, a hardware button that receives an operation from the wearer is provided as theoperation unit 23 in theHMD 2. The portable information terminal can also function as theoperation unit 23 by communicably connecting the portable information terminal owned by the wearer, such as a smartphone, a tablet computer, or a laptop personal computer, to theHMD 2 Various settings can also be made from the information terminal).

HMD制御部24は、制御用のプログラムやデータに基づき動作するCPUを含む。HMD制御部24は、HMD2を制御するための各種処理を実行する。たとえば、HMD制御部24は、表示部21による表示およびカメラ部22による撮影をそれぞれ制御する。  TheHMD control unit 24 includes a CPU that operates based on control programs and data. TheHMD control unit 24 executes various processes for controlling theHMD 2. For example, theHMD control unit 24 controls display by thedisplay unit 21 and photographing by the camera unit 22 respectively.

また、HMD制御部24は、カメラ部22が撮影した撮影データに基づき、HMD2の装着者の視界方向(HMD2の正面方向)に広がる現実空間に存在するオブジェクトを検知したり、装着者が眼前で行ったジェスチャー操作を検知したりする。さらに、HMD制御部24は、操作部23が装着者から受け付けた操作(あるいは、HMD23に接続された携帯情報端末を介して装着者から受け付けた操作)を検知する。  In addition, theHMD control unit 24 detects an object existing in the real space extending in the direction of the field of vision of the wearer of the HMD 2 (front direction of the HMD 2) based on the imaging data captured by the camera unit 22. Detects gesture operations made. Furthermore, theHMD control unit 24 detects the operation accepted by theoperation unit 23 from the wearer (or the operation accepted from the wearer via the portable information terminal connected to the HMD 23).

HMD通信部25は、HMD2をネットワークNTに接続するための通信インターフェースであり、通信用回路や通信用メモリーなどを含む。HMD制御部24は、HMD通信部25を用いて、サーバー3や画像形成装置5との間でデータを送受信する。  The HMD communication unit 25 is a communication interface for connecting theHMD 2 to the network NT, and includes a communication circuit, a communication memory, and the like. TheHMD control unit 24 transmits and receives data to and from theserver 3 and theimage forming apparatus 5 using the HMD communication unit 25.

HMD記憶部26は、不揮発性メモリー(ROM)および揮発性メモリー(RAM)を含み、HMD制御部24(CPU)を動作させるためのプログラムやデータを記憶する。また、HMD記憶部26は、サーバー3から受信したデータを記憶する。  The HMD storage unit 26 includes non-volatile memory (ROM) and volatile memory (RAM), and stores programs and data for operating the HMD control unit 24 (CPU). The HMD storage unit 26 also stores data received from theserver 3.

サーバー3は、サーバー制御部31、サーバー通信部32およびサーバー記憶部33を備える。サーバー3は、画像形成装置5の設置場所と同じ場所に設置されてもよいし、他の場所に設置されてもよい。また、サーバー3の機能を他の装置に持たせ、当該装置をサーバー3の代わりとしてもよい。たとえば、画像形成装置5にサーバー3の機能を持たせてもよい。この場合には、画像形成装置5が「処理装置」に相当する。  Theserver 3 includes aserver control unit 31, aserver communication unit 32, and aserver storage unit 33. Theserver 3 may be installed at the same place as the installation place of theimage forming apparatus 5 or may be installed at another place. Further, the function of theserver 3 may be provided to another device, and the device may be substituted for theserver 3. For example, theimage forming apparatus 5 may have the function of theserver 3. In this case, theimage forming apparatus 5 corresponds to the “processing device”.

サーバー制御部31は、制御用のプログラムやデータに基づき動作するCPUを含む。サーバー制御部31は、サーバー3を制御するための各種処理を実行する。  Theserver control unit 31 includes a CPU that operates based on control programs and data. Theserver control unit 31 executes various processes for controlling theserver 3.

サーバー通信部32は、第1通信部3Aを備える。第1通信部3Aは、サーバー3をネットワークNTに接続するための通信インターフェースであり、通信用回路や通信用メモリーなどを含む。サーバー制御部31は、第1通信部3Aを用いて、HMD2や画像形成装置5と通信する。  Theserver communication unit 32 includes afirst communication unit 3A. Thefirst communication unit 3A is a communication interface for connecting theserver 3 to the network NT, and includes a communication circuit, a communication memory, and the like. Theserver control unit 31 communicates with theHMD 2 or theimage forming apparatus 5 using thefirst communication unit 3A.

また、サーバー通信部32は、第2通信部3Bを備える。第2通信部3Bは、サーバー3を監視カメラ4に接続するための通信インターフェースであり、通信用回路や通信用メモリーなどを含む。サーバー制御部31は、第2通信部3Bを用いて、監視カメラ4と通信する。  Theserver communication unit 32 further includes asecond communication unit 3B. Thesecond communication unit 3B is a communication interface for connecting theserver 3 to themonitoring camera 4, and includes a communication circuit, a communication memory, and the like. Theserver control unit 31 communicates with themonitoring camera 4 using thesecond communication unit 3B.

サーバー記憶部33は、ROMおよびRAMを含み、サーバー制御部31(CPU)を動作させるためのプログラムやデータを記憶する。また、サーバー記憶部33は、HDDなど大容量の記憶デバイスを含む。  Theserver storage unit 33 includes a ROM and a RAM, and stores programs and data for operating the server control unit 31 (CPU). Theserver storage unit 33 also includes a large-capacity storage device such as an HDD.

監視カメラ4は、図3に示すように、画像形成装置5の設置部屋に存在する壁や天井に設置される。画像形成装置5の設置部屋における監視カメラ4の設置位置は特に限定されず、画像形成装置5の設置位置を含む範囲を監視カメラ4で撮影できればよい。監視カメラ4は、撮影により得られた撮影データをサーバー3に出力する。  As shown in FIG. 3, themonitoring camera 4 is installed on a wall or a ceiling existing in an installation room of theimage forming apparatus 5. The installation position of themonitoring camera 4 in the installation room of theimage forming apparatus 5 is not particularly limited as long as themonitoring camera 4 can capture a range including the installation position of theimage forming apparatus 5. Themonitoring camera 4 outputs shooting data obtained by shooting to theserver 3.

たとえば、監視カメラ4として第1カメラ41および第2カメラ42の2台が使用される。図4に示すように、第1カメラ41は、画像形成装置5の設置位置を含む範囲R1(以下の説明では、第1範囲R1と称する)の撮影が可能に設置される。また、第2カメラ42は、第1範囲R1を含む範囲R2(以下の説明では、第2範囲R2と称する)の撮影が可能な位置に設置される。  For example, two cameras, thefirst camera 41 and thesecond camera 42, are used as thesurveillance camera 4. As shown in FIG. 4, thefirst camera 41 is installed so as to be capable of capturing a range R1 (referred to as a first range R1 in the following description) including the installation position of theimage forming apparatus 5. In addition, thesecond camera 42 is installed at a position where imaging of a range R2 (hereinafter referred to as a second range R2) including the first range R1 is possible.

なお、画像形成装置4の設置部屋における監視カメラ4の設置数は複数台でもよいが、1台でもよい。また、第2範囲R2が第1範囲R1よりも大きい範囲であってもよいが、第2範囲R2が第1範囲R1と同じ範囲であってもよい。  In addition, although the installation number of themonitoring camera 4 in the installation room of theimage forming apparatus 4 may be multiple, one may be sufficient. Further, the second range R2 may be a range larger than the first range R1, but the second range R2 may be the same range as the first range R1.

<VR処理>
(仮想操作パネルの表示開始)
サーバー制御部31は、予め定められた開始条件が満たされたか否かを判断し、開始条件が満たされたと判断すると、VR処理を開始する。すなわち、サーバー制御部31は、開始条件が満たされたと判断すると、HMD2による仮想操作パネル50Vの表示を開始させる。
<VR processing>
(Start display of virtual operation panel)
Theserver control unit 31 determines whether or not a predetermined start condition is satisfied, and if it is determined that the start condition is satisfied, the VR process is started. That is, when determining that the start condition is satisfied, theserver control unit 31 causes theHMD 2 to start displaying thevirtual operation panel 50V.

以下に、図5に示すフローチャートを参照し、仮想操作パネル50Vの表示を開始するか否かを判断する処理(開始判断処理)の流れを説明する。  The flow of processing (start determination processing) of determining whether to start the display of thevirtual operation panel 50V will be described below with reference to the flowchart shown in FIG.

ステップS1において、サーバー制御部31は、監視カメラ4が撮影した撮影データに基づき、HMD2の装着者が第1範囲R1に入ったか否か(画像形成装置5のユーザーがHMD2を装着して第1範囲R1に入ったか否か)を判断する。その結果、第1範囲R1にHMD2の装着者が入ったとサーバー制御部31が判断した場合には、ステップS2に移行する。ここでのサーバー制御部31による判断では、第1カメラ41が撮影した撮影データが使用される。  In step S1, theserver control unit 31 determines whether the wearer of theHMD 2 has entered the first range R1 based on the shooting data captured by the monitoring camera 4 (the user of theimage forming apparatus 5 wears theHMD 2 and the first Whether or not it has entered the range R1). As a result, when theserver control unit 31 determines that the wearer of theHMD 2 has entered the first range R1, the process proceeds to step S2. In the determination by theserver control unit 31 here, shooting data shot by thefirst camera 41 is used.

ここで、HMD2の装着者が第1範囲R1に入っているということは、HMD2の装着者が画像形成装置5に近づいているということである。したがって、HMD2の装着者が画像形成装置5に近づいたときに、ステップS2に移行する(HMD2の装着者が第1範囲R1に入ったとサーバー制御部31が判断する)。  Here, the fact that the wearer of theHMD 2 is in the first range R1 means that the wearer of theHMD 2 is approaching theimage forming apparatus 5. Therefore, when the wearer of theHMD 2 approaches theimage forming apparatus 5, the process proceeds to step S2 (theserver control unit 31 determines that the wearer of theHMD 2 has entered the first range R1).

ステップS2において、サーバー制御部31は、人物特定処理を行う。サーバー制御部31は、人物特定処理を行うことにより、第1範囲R1に入ったHMD2の装着者を特定する。言い換えると、サーバー制御部31は、第1範囲R1に入ったHMD2の装着者に付与されたユーザーID(以下、対象ユーザーIDと称する)を認識する。  In step S2, theserver control unit 31 performs a person identification process. Theserver control unit 31 identifies the wearer of theHMD 2 that has entered the first range R1 by performing the person identification process. In other words, theserver control unit 31 recognizes a user ID (hereinafter referred to as a target user ID) assigned to the wearer of theHMD 2 who has entered the first range R1.

たとえば、サーバー記憶部33には、サーバー制御部31による人物特定処理で使用するユーザー情報10が予め記憶される(図1参照)。ユーザー情報10は、画像形成装置5のユーザーとなり得る人物の顔データ(顔の特徴点などを示すデータ)をユーザーIDと対応付けた情報である。ここで、画像形成装置5のユーザーとなり得る人物は複数存在し、複数の人物にそれぞれ対応する複数のユーザー情報10がデータベースDBに格納される。  For example,user information 10 used in the person specifying process byserver control unit 31 is stored inserver storage unit 33 in advance (see FIG. 1). Theuser information 10 is information in which face data (data indicating a feature point of a face) of a person who can be a user of theimage forming apparatus 5 is associated with a user ID. Here, there are a plurality of persons who can be users of theimage forming apparatus 5, and a plurality of pieces ofuser information 10 respectively corresponding to the plurality of persons are stored in the database DB.

そして、サーバー制御部31は、人物特定処理を行うとき、監視カメラ4が撮影した第1範囲R1の撮影データに対して顔認識処理を行うとともに、顔認識処理で認識した顔(すなわち、第1範囲R1に入っているHMD2の装着者の顔)の特徴点を取得する。その後、サーバー制御部31は、データベースDBから、顔認識処理で認識した顔と特徴点が類似する顔データを含むユーザー情報10を抽出し、当該抽出したユーザー情報10で示されるユーザーIDを対象ユーザーIDとして認識する。  Then, when performing the person specifying process, theserver control unit 31 performs the face recognition process on the shooting data of the first range R1 shot by themonitoring camera 4 and the face recognized in the face recognition process (that is, the first The feature point of the face of the wearer of theHMD 2 in the range R1 is acquired. Thereafter, theserver control unit 31 extracts, from the database DB, theuser information 10 including face data whose feature points are similar to the face recognized in the face recognition process, and the user ID indicated by the extracteduser information 10 is used as the target user. Recognized as an ID.

第1範囲R1に入っているHMD2の装着者の特定後、ステップS3に移行する。ステップS3において、サーバー制御部31は、第1範囲R1に入っているHMD2の装着者について、パネル表示機能(HMD2に仮想操作パネル50Vを表示する機能)を有効に設定した有効装着者であるか無効に設定した無効装着者であるかを判断する。  After the wearer of theHMD 2 in the first range R1 is identified, the process proceeds to step S3. In step S3, whether theserver control unit 31 is an effective wearer who has effectively set the panel display function (the function of displaying thevirtual operation panel 50V on the HMD 2) for the wearer of theHMD 2 in the first range R1. Determine if the invalid wearer is set to invalid.

たとえば、HMD2を使用するとき、HMD2の装着者は操作部23を操作して自身のユーザーIDを入力するとともに、パネル表示機能の有効/無効を設定する。HMD2の装着者が設定したパネル表示機能の設定内容は当該装着者が入力したユーザーIDと対応付けられ、HMD2からサーバー3に送信される。  For example, when using theHMD 2, the wearer of theHMD 2 operates theoperation unit 23 to input his / her user ID, and sets the panel display function to valid / invalid. The setting content of the panel display function set by the wearer of theHMD 2 is associated with the user ID input by the wearer, and is transmitted from theHMD 2 to theserver 3.

そして、サーバー制御部31は、HMD2の装着者が第1範囲R1に入ると、対象ユーザーID(第1範囲R1に入っているHMD2の装着者に付与されたユーザーID)に対応するパネル表示機能の設定内容を認識する。その結果、パネル表示機能が有効に設定されていれば、サーバー制御部31は、第1範囲R1に入っているHMD2の装着者が有効装着者であると判断する。一方で、パネル表示機能が無効に設定されていれば、サーバー制御部31は、第1範囲R1に入っているHMD2の装着者が無効装着者であると判断する。  Then, when the wearer of theHMD 2 enters the first range R1, theserver control unit 31 performs a panel display function corresponding to the target user ID (a user ID assigned to the wearer of theHMD 2 in the first range R1). Recognize the setting contents of. As a result, if the panel display function is set to be effective, theserver control unit 31 determines that the wearer of theHMD 2 in the first range R1 is the effective wearer. On the other hand, if the panel display function is set to be invalid, theserver control unit 31 determines that the wearer of theHMD 2 in the first range R1 is the invalid wearer.

ステップS3において、第1範囲R1に入っているHMD2の装着者が有効装着者(パネル表示機能を有効に設定した装着者)であるとサーバー制御部31が判断した場合、ステップS4に移行する。ステップS4に移行すると、サーバー制御部31は、開始条件が満たされていると判断する。そして、ステップS5に移行する。  In step S3, if theserver control unit 31 determines that the wearer of theHMD 2 in the first range R1 is an effective wearer (a wearer who has the panel display function set to be effective), the process proceeds to step S4. When the process proceeds to step S4, theserver control unit 31 determines that the start condition is satisfied. Then, the process proceeds to step S5.

ステップS5において、サーバー制御部31は、第1範囲R1に入っているHMD2に対し、仮想操作パネル50Vの表示に必要な表示データを送信する。これにより、仮想操作パネル50Vの表示データを受信したHMD2において、仮想操作パネル50Vの表示が開始され、仮想操作パネル50Vに対する操作の受け付けが開始される。  In step S5, theserver control unit 31 transmits display data necessary for displaying thevirtual operation panel 50V to theHMD 2 in the first range R1. As a result, in theHMD 2 that has received the display data of thevirtual operation panel 50V, the display of thevirtual operation panel 50V is started, and the acceptance of the operation on thevirtual operation panel 50V is started.

ステップS3において、第1範囲R1に入っているHMD2の装着者が無効装着者(パネル表示機能を無効に設定した装着者)であるとサーバー制御部31が判断した場合、ステップS6に移行する。ステップS6に移行すると、サーバー制御部31は、開始条件が満たされていないと判断する。この場合、サーバー制御部31は、第1範囲R1に入っているHMD2に仮想操作パネル50Vを表示させない。  In step S3, when theserver control unit 31 determines that the wearer of theHMD 2 in the first range R1 is an invalid wearer (a wearer whose panel display function is set to be invalid), the process proceeds to step S6. When the process proceeds to step S6, theserver control unit 31 determines that the start condition is not satisfied. In this case, theserver control unit 31 does not cause theHMD 2 in the first range R1 to display thevirtual operation panel 50V.

ステップS1において、HMD2の装着者が第1範囲R1に入っていないとサーバー制御部31が判断した場合には、ステップS1の処理(サーバー制御部31による判断)が繰り返される。  If theserver control unit 31 determines in step S1 that the wearer of theHMD 2 is not in the first range R1, the process of step S1 (determination by the server control unit 31) is repeated.

なお、或るHMD2(ここでは、第1HMD2と称する)が第1範囲R1に入っている状態で、別のHMD2(ここでは、第2HMD2と称する)が第1範囲R1に新たに入ったとする。この場合、第1HMD2および第2HMD2の両方に仮想操作パネル50Vを表示させると、第1HMD2および第2HMD2の両方で仮想操作パネル50Vに対する操作が行われ、結果として、第1HMD2および第2HMD2の両方から画像形成装置5に対して操作データが送信されるという不都合が生じる。このような不都合の発生を抑制するため、たとえば、第2HMD2が第1範囲R1に入っても、第2HMD2には仮想操作パネル50Vを表示せず、第1HMD2の装着者が第1範囲R1の範囲外に移動したとき、第2HMD2に仮想操作パネル50Vを表示してもよい。  It is assumed that another HMD 2 (here, referred to as a second HMD 2) newly enters the first range R1 while a certain HMD 2 (here, referred to as the first HMD 2) is in the first range R1. In this case, when thevirtual operation panel 50V is displayed on both the first HMD2 and the second HMD2, operations on thevirtual operation panel 50V are performed on both the first HMD2 and the second HMD2, and as a result, images from both the first HMD2 and the second HMD2 There is a disadvantage that the operation data is transmitted to the formingdevice 5. In order to suppress the occurrence of such a problem, for example, even if the second HMD2 enters the first range R1, the virtual HMM2 does not display thevirtual operation panel 50V, and the wearer of the first HMD2 has a range of the first range R1. Thevirtual operation panel 50V may be displayed on thesecond HMD 2 when moving outside.

ここで、変形例について説明する。  Here, a modification is described.

まず、第1変形例について説明する。第1変形例の構成では、HMD2が位置検知を行う。HMD2は、位置検知を行うことによって自機の現在位置を検知し、第1範囲R1に入ったことを検知すると、自機の装置IDをサーバー3に送信する。すなわち、第1変形例では、第1範囲R1に入っているHMD2の装置IDがサーバー3に送信される。  First, a first modification will be described. In the configuration of the first modified example, theHMD 2 performs position detection. TheHMD 2 detects the current position of the own device by performing position detection, and transmits the device ID of the own device to theserver 3 when detecting that the first range R1 is entered. That is, in the first modification, the device ID of theHMD 2 contained in the first range R1 is transmitted to theserver 3.

たとえば、ビーコン信号を定期的に発信するビーコン発信器が画像形成装置5の設置部屋に設置される(画像形成装置5にビーコン発信器を内蔵してもよい)。また、HMD2にはビーコン機能(ビーコン信号を受信する機能)が搭載される。そして、HMD2は、ビーコン信号の受信状況に基づき、第1範囲R1に入ったか否かの位置検知を行う。  For example, a beacon transmitter that periodically transmits a beacon signal is installed in the installation room of the image forming apparatus 5 (theimage forming apparatus 5 may have the beacon transmitter incorporated therein). Further, theHMD 2 is equipped with a beacon function (function of receiving a beacon signal). Then, theHMD 2 performs position detection as to whether or not it has entered the first range R1 based on the reception status of the beacon signal.

あるいは、HMD2にはGPS機能が搭載される。そして、HMD2は、GPS機能を用いて、第1範囲R1に入ったか否かの位置検知を行う。なお、誤検知を防止するため、ビーコン機能およびGPS機能の両方をHMD2に搭載し、HMD2による位置検知が両機能を用いて行われてもよい。  Alternatively, theHMD 2 has a GPS function. Then, theHMD 2 performs position detection as to whether or not it has entered the first range R1 using the GPS function. In order to prevent false detection, both the beacon function and the GPS function may be mounted on theHMD 2 and position detection by theHMD 2 may be performed using both functions.

サーバー3は、装置IDを受信すると、当該受信した装置IDを有するHMD2が第1範囲R1に入っていると判断する。たとえば、サーバー3には、HMD2の装置IDとHMD2の提供を受けた人物(HMD2の装着者となり得る人物)のユーザーIDとを対応付けたHMD情報が予め記憶される。そして、サーバー3は、HMD情報に基づき、HMD2から受信した装置IDに対応するユーザーIDを認識し、当該認識したユーザーIDを対象ユーザーIDとして認識する。その後、図5に示したフローチャートのステップS3〜S6の処理がサーバー3により行われる。  When receiving the device ID, theserver 3 determines that theHMD 2 having the received device ID is within the first range R1. For example, theserver 3 stores in advance HMD information in which the device ID of theHMD 2 and the user ID of a person who can receive the provision of the HMD 2 (a person who can be a wearer of the HMD 2) are associated. Then, theserver 3 recognizes a user ID corresponding to the device ID received from theHMD 2 based on the HMD information, and recognizes the recognized user ID as a target user ID. Thereafter, the processing of steps S3 to S6 of the flowchart shown in FIG.

なお、第1変形例の構成において、加速度センサーやジャイロセンサーをHMD2に搭載してもよい。HMD2に加速度センサーやジャイロセンサーを搭載した場合には、当該センサーの出力に基づきHMD2の移動距離などの計測が可能となり、HMD2が第1範囲R1に入ったか否かの位置検知をより正確に行うことができるようになる。  In the configuration of the first modification, an acceleration sensor or a gyro sensor may be mounted on theHMD 2. When an acceleration sensor or a gyro sensor is mounted on theHMD 2, measurement of the moving distance of theHMD 2 is possible based on the output of the sensor, and position detection as to whether or not theHMD 2 has entered the first range R1 is more accurately performed. Will be able to

次に、第2変形例について説明する。第2変形例の構成では、第1範囲R1に入っているHMD2との間で通信する通信機能が監視カメラ4に搭載される。サーバー3は、監視カメラ4が撮影した撮影データに基づきHMD2の装着者が第1範囲R1に入っていることを検知すると、第1範囲R1に入っているHMD2との間での通信を監視カメラ4に行わせる。たとえば、監視カメラ4の通信可能範囲は第1範囲R1と略同じである。すなわち、監視カメラ4は、第1範囲R1に入っているHMD2との間での通信は行うが、第1範囲R1に入っていないHMD2との間での通信は行わない。  Next, a second modification will be described. In the configuration of the second modified example, a communication function of communicating with theHMD 2 in the first range R1 is mounted on themonitoring camera 4. When theserver 3 detects that the wearer of theHMD 2 is in the first range R1 based on the captured data captured by themonitoring camera 4, theserver 3 monitors the communication with theHMD 2 in the first range R1. Make it to 4 For example, the communicable range of themonitoring camera 4 is substantially the same as the first range R1. That is, themonitoring camera 4 communicates with theHMD 2 in the first range R1, but does not communicate with theHMD 2 not in the first range R1.

監視カメラ4との間での通信が可能になったHMD2は、監視カメラ4に対し、自機の装置IDを送信する。HMD2の装置IDは監視カメラ4からサーバー3に転送される。すなわち、第2変形例では、第1変形例と同様、第1範囲R1に入っているHMD2の装置IDがサーバー3に送信される。  TheHMD 2 capable of communicating with themonitoring camera 4 transmits the device ID of its own device to themonitoring camera 4. The device ID of theHMD 2 is transferred from themonitoring camera 4 to theserver 3. That is, in the second modification, the device ID of theHMD 2 in the first range R1 is transmitted to theserver 3 as in the first modification.

サーバー3は、装置IDを受信すると、当該受信した装置IDを有するHMD2が第1範囲R1に入っていると判断する。たとえば、サーバー3には、HMD2の装置IDとHMD2の提供を受けた人物(HMD2の装着者となり得る人物)のユーザーIDとを対応付けたHMD情報が記憶される。そして、サーバー3は、HMD情報に基づき、HMD2から受信した装置IDに対応するユーザーIDを認識し、当該認識したユーザーIDを対象ユーザーIDとして認識する。その後、図5に示したフローチャートのステップS3〜S6の処理がサーバー3により行われる。  When receiving the device ID, theserver 3 determines that theHMD 2 having the received device ID is within the first range R1. For example, theserver 3 stores HMD information in which the device ID of theHMD 2 and the user ID of a person who can receive the provision of the HMD 2 (a person who can be a wearer of the HMD 2) are associated. Then, theserver 3 recognizes a user ID corresponding to the device ID received from theHMD 2 based on the HMD information, and recognizes the recognized user ID as a target user ID. Thereafter, the processing of steps S3 to S6 of the flowchart shown in FIG.

(仮想操作パネルの表示停止)
サーバー制御部31は、第1範囲R1にHMD2が入っており、かつ、第2範囲R2に複数の人物(第1範囲R1に入っているHMD2の装着者を含む)が存在する場合には、第1範囲R1に入っているHMD2による仮想操作パネル50Vの表示を停止させる。ただし、このとき、サーバー制御部31は、予め定められた許可条件が満たされているか否かを判断する。ここで、サーバー制御部31は、第1判断処理および第2判断処理の少なくとも一方を行うことにより、許可条件が満たされているか否かを判断する。第1判断処理および第2判断処理については後述する。そして、許可条件が満たされていれば、サーバー制御部31は、第2範囲R2に複数の人物が存在しても、第1範囲R1に入っているHMD2に仮想操作パネル50Vを表示させる。
(Stop display of virtual operation panel)
When theHMD 2 is in the first range R1 and the plurality of persons (including the wearer of theHMD 2 in the first range R1) exists in the second range R2, theserver control unit 31 The display of thevirtual operation panel 50V by theHMD 2 in the first range R1 is stopped. However, at this time, theserver control unit 31 determines whether a predetermined permission condition is satisfied. Here, theserver control unit 31 determines whether the permission condition is satisfied by performing at least one of the first determination process and the second determination process. The first determination process and the second determination process will be described later. Then, if the permission condition is satisfied, theserver control unit 31 causes theHMD 2 in the first range R1 to display thevirtual operation panel 50V even if there are a plurality of persons in the second range R2.

以下に、図6に示すフローチャートを参照し、仮想操作パネル50Vの表示を停止するか否かを判断する処理(停止判断処理)の流れを説明する。図6に示すフローチャートのスタート時点では、第1範囲R1に入っているHMD2(仮想操作パネル50Vを表示しているHMD2)が存在するとする。以下の説明では、第1範囲R1に入っているHMD2を対象HMD2と称する場合がある。  The flow of processing (stop determination processing) of determining whether to stop the display of thevirtual operation panel 50V will be described below with reference to the flowchart shown in FIG. At the start time point of the flowchart shown in FIG. 6, it is assumed that there is an HMD 2 (theHMD 2 displaying thevirtual operation panel 50V) in the first range R1. In the following description, theHMD 2 in the first range R1 may be referred to as atarget HMD 2.

ステップS11において、サーバー制御部31は、監視カメラ4が撮影した撮影データに基づき、第2範囲R2に複数の人物(対象HMD2の装着者を含む)が存在するか否かを判断する。すなわち、サーバー制御部31は、対象HMD2の装着者とは別の人物(他人)が第2範囲R2に存在するか否かを判断する。その結果、第2範囲R2に複数の人物が存在するとサーバー制御部31が判断した場合には、ステップS12に移行する。ここでのサーバー制御部31による判断では、第2カメラ42が撮影した撮影データが使用される。  In step S11, theserver control unit 31 determines whether or not a plurality of persons (including the wearer of the target HMD 2) exist in the second range R2 based on the imaging data captured by themonitoring camera 4. That is, theserver control unit 31 determines whether or not another person (others) different from the wearer of thetarget HMD 2 is present in the second range R2. As a result, when theserver control unit 31 determines that there are a plurality of persons in the second range R2, the process proceeds to step S12. In the determination by theserver control unit 31 here, shooting data shot by thesecond camera 42 is used.

ステップS12に移行すると、サーバー制御部31は、許可条件が満たされているか否かを判断する。その結果、許可条件が満たされているとサーバー制御部31が判断した場合には、ステップS13に移行する。なお、ステップS11において、第2範囲R2に存在するのが1人だけ(対象HMD2の装着者だけ)であるとサーバー制御部31が判断した場合にも、ステップS13に移行する。一方で、許可条件が満たされていないとサーバー制御部31が判断した場合には、ステップS14に移行する。許可条件については後に詳細に説明する。  After shifting to step S12, theserver control unit 31 determines whether the permission condition is satisfied. As a result, when theserver control unit 31 determines that the permission condition is satisfied, the process proceeds to step S13. In addition, also in step S11, when theserver control unit 31 determines that only one person (only the wearer of the target HMD 2) exists in the second range R2, the process proceeds to step S13. On the other hand, when theserver control unit 31 determines that the permission condition is not satisfied, the process proceeds to step S14. The permission conditions will be described in detail later.

ステップS13に移行すると、サーバー制御部31は、対象HMD2による仮想操作パネル50Vの表示を続行させる。その後、ステップS15に移行する。なお、この時点で対象HMD2による仮想操作パネル50Vの表示が停止されていれば、サーバー制御部31は、対象HMD2による仮想操作パネル50Vの表示を開始(再開)させる。  After shifting to step S13, theserver control unit 31 continues the display of thevirtual operation panel 50V by the target HMD2. Thereafter, the process proceeds to step S15. If the display of thevirtual operation panel 50V by thetarget HMD 2 is stopped at this time, theserver control unit 31 starts (resumes) the display of thevirtual operation panel 50V by thetarget HMD 2.

ステップS14に移行すると、サーバー制御部31は、対象HMD2による仮想操作パネル50Vの表示を停止させる。その後、ステップS15に移行する。なお、ここでは、対象HMD2による仮想操作パネル50Vの表示を終了させるわけではない。すなわち、対象HMD2による仮想操作パネル50Vの表示が停止されて以降、仮想操作パネル50Vの表示が再開される場合がある。  At step S14, theserver control unit 31 stops the display of thevirtual operation panel 50V by the target HMD2. Thereafter, the process proceeds to step S15. Here, the display of thevirtual operation panel 50V by thetarget HMD 2 is not finished. That is, after the display of thevirtual operation panel 50V by thetarget HMD 2 is stopped, the display of thevirtual operation panel 50V may be resumed.

ステップS15において、サーバー制御部31は、予め定められた終了条件が満たされたか否かを判断する。たとえば、サーバー制御部31は、対象HMD2の装着者が第1範囲R1の範囲外に移動すると、終了条件が満たされたと判断する。あるいは、サーバー制御部31は、対象HMD2が装着者から予め定められた終了操作を受け付けると、終了条件が満たされたと判断する。なお、対象HMD2は装着者から終了操作を受け付けたことを検知したとき、終了操作を受け付けたことを示す情報をサーバー3に送信する。これにより、サーバー制御部31は、対象HMD2が装着者から終了操作を受け付けたか否かを判断することができる。  In step S15, theserver control unit 31 determines whether a predetermined ending condition is satisfied. For example, theserver control unit 31 determines that the termination condition is satisfied when the wearer of thetarget HMD 2 moves out of the range of the first range R1. Alternatively, when thetarget HMD 2 receives a predetermined ending operation from the wearer, theserver control unit 31 determines that the ending condition is satisfied. When thetarget HMD 2 detects that the end operation has been received from the wearer, thetarget HMD 2 transmits, to theserver 3, information indicating that the end operation has been received. Thus, theserver control unit 31 can determine whether thetarget HMD 2 receives an end operation from the wearer.

ステップS15において、終了条件が満たされたとサーバー制御部31が判断した場合には、ステップS16に移行する。この場合、サーバー制御部31は、対象HMD2による仮想操作パネル50Vの表示を終了させる。以降、第2範囲R1に複数の人物が存在するか否かにかかわらず、対象HMD2には仮想操作パネル50Vは表示されない。  In step S15, when theserver control unit 31 determines that the termination condition is satisfied, the process proceeds to step S16. In this case, theserver control unit 31 ends the display of thevirtual operation panel 50V by thetarget HMD 2. After that, thevirtual operation panel 50V is not displayed on thetarget HMD 2 regardless of whether a plurality of persons exist in the second range R1.

ステップS15において、終了条件が満たされていないとサーバー制御部31が判断した場合には、ステップS11に移行する。すなわち、サーバー制御部31は、終了条件が満たされるまで、第2範囲R2に複数の人物が存在するか否かの判断を続ける。  In step S15, when theserver control unit 31 determines that the termination condition is not satisfied, the process proceeds to step S11. That is, theserver control unit 31 continues to determine whether or not a plurality of persons exist in the second range R2 until the end condition is satisfied.

(第1判断処理)
第1判断処理を行うよう設定されている場合、サーバー制御部31は、監視カメラ4が撮影した撮影データに基づき、第2範囲R2に存在する複数の人物のうち対象HMD2の装着者以外の人物の存在位置(以下、単に存在位置と称する)を認識する。また、サーバー制御部31は、対象HMD2の正面(対象HMD2の装着者の視界方向)が存在位置に向けられているか否かを判断する。たとえば、サーバー制御部31は、ヘッドトラッキング技術などを用いて、対象HMD2の正面の向きを認識する。
(First judgment processing)
When the first determination process is set, theserver control unit 31 determines a person other than the wearer of thetarget HMD 2 among a plurality of persons present in the second range R2 based on the imaging data captured by themonitoring camera 4 Recognize the location of (hereinafter simply referred to as the location). In addition, theserver control unit 31 determines whether or not the front of the target HMD 2 (the viewing direction of the wearer of the target HMD 2) is directed to the existing position. For example, theserver control unit 31 recognizes the orientation of the front of thetarget HMD 2 using a head tracking technique or the like.

そして、対象HMD2の正面が存在位置に向けられていない場合、サーバー制御部31は、許可条件が満たされていると判断する。一方で、対象HMD2の正面が存在位置に向けられている場合、サーバー制御部31は、許可条件が満たされていないと判断する。  Then, when the front of thetarget HMD 2 is not directed to the existing position, theserver control unit 31 determines that the permission condition is satisfied. On the other hand, when the front of thetarget HMD 2 is directed to the existing position, theserver control unit 31 determines that the permission condition is not satisfied.

一例として、図7に示すように、対象HMD2の装着者Aが右を向いているとき、すなわち、対象HMD2の正面が図中の矢印方向に向けられているとき、対象HMD2の装着者A以外の人物Bが右方向から第2範囲R2に入ってきたとする。この場合、対象HMD2の正面が存在位置に向けられているので、サーバー制御部31は、許可条件が満たされていないと判断する。このため、対象HMD2は、仮想操作パネル50Vの表示を停止する。  As an example, as shown in FIG. 7, when the wearer A of thetarget HMD 2 is facing the right, that is, when the front of thetarget HMD 2 is directed in the direction of the arrow in the figure, other than the wearer A of thetarget HMD 2 It is assumed that the person B of has entered the second range R2 from the right direction. In this case, since the front of thetarget HMD 2 is directed to the existing position, theserver control unit 31 determines that the permission condition is not satisfied. Therefore, thetarget HMD 2 stops the display of thevirtual operation panel 50V.

それ以降、図8に示すように、対象HMD2の装着者Aが向きを変更した(対象HMD2の正面の向きが破線矢印方向から実線矢印方向に変更された)とする。この場合、対象HMD2の正面が存在位置に向けられていないので、サーバー制御部31は、許可条件が満たされていると判断する。このため、対象HMD2は、仮想操作パネル50Vの表示を再開する。  Thereafter, as shown in FIG. 8, it is assumed that the wearer A of thetarget HMD 2 changes the direction (the direction of the front of thetarget HMD 2 is changed from the dashed arrow direction to the solid arrow direction). In this case, because the front of thetarget HMD 2 is not directed to the existing position, theserver control unit 31 determines that the permission condition is satisfied. Therefore, thetarget HMD 2 resumes the display of thevirtual operation panel 50V.

図示しないが、対象HMD2の装着者Aが右を向いているとき、人物Bが左方向から第2範囲R2に入ってきた場合には、対象HMD2の正面が存在位置に向けられていないので、サーバー制御部31は許可条件が満たされていると判断する。このため、対象HMD2は、仮想操作パネル50Vの表示を続行する。  Although not shown, when the wearer A of thetarget HMD 2 faces the right and the person B enters the second range R2 from the left, the front of thetarget HMD 2 is not directed to the existing position, Theserver control unit 31 determines that the permission condition is satisfied. Therefore, thetarget HMD 2 continues the display of thevirtual operation panel 50V.

なお、対象HMD2が第1範囲R1に入った時点で、人物Bが既に第2範囲R2に存在しており、かつ、対象HMD2の正面が存在位置に向けられていた場合には、対象HMD2には仮想操作パネル50Vは表示されない。  When the target HMD2 enters the first range R1, if the person B already exists in the second range R2 and the front of the target HMD2 is directed to the existing position, the target HMD2 is Thevirtual operation panel 50V is not displayed.

(第2判断処理)
第2判断処理を行うよう設定されている場合、サーバー制御部31は、対象HMD2のカメラ部22が撮影した撮影データ(ここでは、正面撮影データと称する)に基づき、対象HMD2の正面方向に所定条件を満たす条件充足箇所が存在するか否かを判断する。言い換えると、サーバー制御部31は、正面撮影データから条件充足箇所を検出する処理を行う。
(Second judgment processing)
When set to perform the second determination process, theserver control unit 31 sets a predetermined amount in the front direction of thetarget HMD 2 based on the shooting data (here, referred to as front shooting data) captured by the camera unit 22 of thetarget HMD 2 It is determined whether there is a condition satisfaction part that satisfies the condition. In other words, theserver control unit 31 performs a process of detecting a condition satisfaction location from frontal imaging data.

そして、対象HMD2の正面方向に条件充足箇所が存在する場合には、サーバー制御部31は許可条件が満たされていると判断する。一方で、対象HMD2の正面方向に条件充足箇所が存在しない場合には、サーバー制御部31は許可条件が満たされていないと判断する。  Then, when the condition satisfaction part exists in the front direction of thetarget HMD 2, theserver control unit 31 determines that the permission condition is satisfied. On the other hand, when there is no condition satisfaction place in the front direction of thetarget HMD 2, theserver control unit 31 determines that the permission condition is not satisfied.

ここで、サーバー制御部31は、正面撮影データから画像形成装置5を検出したとき、対象HMD2の正面方向に条件充足箇所が存在すると判断する(すなわち、条件充足箇所は画像形成装置5である)。あるいは、サーバー制御部31は、正面画像データから対象HMD2の装着者の腕を検出したとき、対象HMD2の正面方向に条件充足箇所が存在すると判断する(すなわち、条件充足箇所は対象HMD2の装着者の腕である)。  Here, when theserver control unit 31 detects theimage forming apparatus 5 from the frontal imaging data, it determines that the condition satisfying place exists in the front direction of the target HMD 2 (that is, the condition satisfying place is the image forming apparatus 5). . Alternatively, when theserver control unit 31 detects the arm of the wearer of thetarget HMD 2 from the front image data, theserver control unit 31 determines that the condition satisfaction location exists in the front direction of the target HMD 2 (that is, the condition satisfaction location is the wearer of thetarget HMD 2 The arm of

たとえば、サーバー記憶部33には、条件充足箇所の特徴点(輪郭や形状、大きさ、色など)を示す特徴点情報が予め記憶される。そして、サーバー制御部31は、特徴点情報で示される特徴点を有する画像を正面撮影データから検出できたとき、対象HMD2の正面方向に条件充足箇所が存在すると判断する。  For example, theserver storage unit 33 stores in advance feature point information indicating feature points (contour, shape, size, color, etc.) of the condition satisfaction location. Then, when theserver control unit 31 can detect the image having the feature point indicated by the feature point information from the front photographing data, theserver control unit 31 determines that the condition satisfaction part exists in the front direction of thetarget HMD 2.

一例として、対象HMD2の装着者以外の人物が第2範囲R2に入ったことによって対象HMD2による仮想操作パネル50Vの表示が停止されて以降、対象HMD2の装着者が画像形成装置5を見たとする。すなわち、対象HMD2の正面方向に画像形成装置5が存在するとする。この場合、サーバー制御部31は、対象HMD2の正面方向に条件充足箇所が存在するので、許可条件が満たされたと判断する。  As an example, it is assumed that the wearer of thetarget HMD 2 looks at theimage forming apparatus 5 after the display of thevirtual operation panel 50V by thetarget HMD 2 is stopped when a person other than thetarget HMD 2's wearer enters the second range R2. . That is, it is assumed that theimage forming apparatus 5 exists in the front direction of thetarget HMD 2. In this case, theserver control unit 31 determines that the permission condition is satisfied because the condition satisfaction location exists in the front direction of thetarget HMD 2.

この例では、対象HMD2の装着者からの見え方は、図9に示すように変化する(上図から下図に変化する)。すなわち、画像形成装置5と重なるように仮想操作パネル50Vが対象HMD2に表示される。  In this example, the appearance of thetarget HMD 2 from the wearer changes as shown in FIG. 9 (the upper figure changes to the lower figure). That is, thevirtual operation panel 50 V is displayed on thetarget HMD 2 so as to overlap theimage forming apparatus 5.

別の例として、対象HMD2の装着者以外の人物が第2範囲R2に入ったことによって対象HMD2による仮想操作パネル50Vの表示が停止されて以降、対象HMD2の装着者が自身の腕を見たとする。すなわち、対象HMD2の正面方向に対象HMD2の装着者の腕が存在するとする。この場合、サーバー制御部31は、対象HMD2の正面方向に条件充足箇所が存在するので、許可条件が満たされたと判断する。  As another example, when the person other than the wearer of thetarget HMD 2 enters thesecond range R 2 and the display of thevirtual operation panel 50 V by thetarget HMD 2 is stopped, the wearer of thetarget HMD 2 looks at his arm Do. That is, it is assumed that the arm of the wearer of thetarget HMD 2 exists in the front direction of thetarget HMD 2. In this case, theserver control unit 31 determines that the permission condition is satisfied because the condition satisfaction location exists in the front direction of thetarget HMD 2.

この例では、対象HMD2の装着者からの見え方は、図10に示すように変化する(上図から下図に変化する)。すなわち、対象HMD2の装着者の腕と重なるように仮想操作パネル50Vが対象HMD2に表示される。  In this example, the appearance of thetarget HMD 2 from the wearer changes as shown in FIG. 10 (changes from the upper view to the lower view). That is, thevirtual operation panel 50V is displayed on thetarget HMD 2 so as to overlap with the arm of the wearer of thetarget HMD 2.

本実施形態の表示システム1は、上記のように、監視カメラ4と、予め定められた第1範囲R1に入ると仮想画像である仮想操作パネル50Vを表示し、仮想操作パネル50Vに対する操作を装着者から受け付けるHMD2(ヘッドマウントディスプレイ)と、HMD2による仮想操作パネル50Vの表示に関する制御を行うサーバー3(処理装置)と、を備える。サーバー3は、第1範囲R1に入っているHMD2が存在するとき、監視カメラ4が撮影した撮影データに基づき、第1範囲R1を含む予め定められた第2範囲R2に複数の人物が存在するか否かを判断し、第2範囲R2に複数の人物が存在すると判断した場合、第1範囲R1に入っているHMD2による仮想操作パネル50Vの表示を停止させる。  As described above, the display system 1 according to the present embodiment displays themonitoring camera 4 and thevirtual operation panel 50V which is a virtual image when entering the predetermined first range R1, and mounts the operation on thevirtual operation panel 50V. And a server 3 (processing device) that performs control on display of thevirtual operation panel 50V by theHMD 2. When theHMD 2 in the first range R1 is present, theserver 3 has a plurality of persons in a predetermined second range R2 including the first range R1 based on shooting data captured by themonitoring camera 4 If it is determined that a plurality of persons exist in the second range R2, the display of thevirtual operation panel 50V by theHMD 2 in the first range R1 is stopped.

本実施形態の構成では、第1範囲R1に入っているHMD2は仮想操作パネル50Vを表示し仮想操作パネル50Vに対する操作を装着者から受け付ける。しかし、第1範囲R1に入っているHMD2の装着者の周囲に他人が存在する状態で、第1範囲R1に入っているHMD2に仮想操作パネル50Vを表示し仮想操作パネル50Vに対する操作を装着者から受け付けると、装着者の腕や手が他人に衝突するという不都合が生じ得る。  In the configuration of the present embodiment, theHMD 2 in the first range R1 displays thevirtual operation panel 50V and receives an operation on thevirtual operation panel 50V from the wearer. However, with another person existing around the wearer of theHMD 2 in the first range R1, thevirtual operation panel 50V is displayed on theHMD 2 in the first range R1 and the operation for thevirtual operation panel 50V is performed by the wearer From the point of view, the wearer's arms and hands may collide with others.

このため、本実施形態の構成では、第1範囲R1を含む第2範囲R2に複数の人物(第1範囲R1に入っているHMD2の装着者を含む)が存在する場合、すなわち、仮想操作パネル50Vに対する操作の受付時に動かされる装着者の腕や手が他人に衝突する可能性がある場合、第1範囲R1に入っているHMD2による仮想操作パネル50Vの表示を停止させる。これにより、装着者の周囲に他人が存在する場合には装着者による仮想操作パネル50Vに対する操作は行われないので、装着者の腕や手が他人に衝突するのを抑制することができる。また、装着者の周囲に他人が存在する場合には自動的に仮想操作パネル50Vの表示が停止されるので、装着者は周囲確認を行う必要がない。  Therefore, in the configuration of the present embodiment, when there are a plurality of persons (including the wearer of theHMD 2 in the first range R1) in the second range R2 including the first range R1, that is, the virtual operation panel When there is a possibility that the arm or hand of the wearer moved at the time of reception of the operation for 50 V may collide with another person, the display of thevirtual operation panel 50 V by theHMD 2 in the first range R1 is stopped. As a result, when there is another person around the wearer, the operation on thevirtual operation panel 50V by the wearer is not performed, so that the arm or hand of the wearer can be prevented from colliding with another person. Further, when there is another person around the wearer, the display of thevirtual operation panel 50V is automatically stopped, so that the wearer does not need to check the surroundings.

なお、HMD2に表示された仮想操作パネル50Vに対して操作を行うとき、装着者は前方空間(HMD2の正面)で腕や手を動かす。このとき、HMD2の正面に他人が存在すれば、装着者の腕や手が他人に衝突する可能性がある。しかし、HMD2の正面に他人が存在しなければ、操作者の腕や手は他人に衝突しない。仮に、装着者および他人が互いに向かい合っていても、装着者が下や横を向けば、HMD2の正面方向には他人が存在しなくなる。  When the user operates thevirtual operation panel 50V displayed on theHMD 2, the wearer moves his / her arm or hand in the front space (the front of the HMD 2). At this time, if there is another person in front of theHMD 2, the arm or hand of the wearer may collide with the other person. However, if there is no other person in front of theHMD 2, the operator's arms and hands do not collide with others. Even if the wearer and others face each other, if the wearer points downward or sideways, no one is present in the front direction of theHMD 2.

そこで、サーバー3は、第1範囲R1にHMD2が入っており、かつ、第2範囲R2に複数の人物が存在する場合、第1範囲R1に入っているHMD2の正面が他人の存在位置に向けられていなければ、第2範囲R2に複数の人物が存在していても、第1範囲R1に入っているHMD2に仮想操作パネル50Vを表示させる。なお、第1範囲R1に入っているHMD2の正面が他人の存在位置に向けられていないということは、第1範囲R1に入っているHMD2の正面に他人が存在しないということである。  Therefore, when theHMD 2 is included in the first range R1 and there are a plurality of persons in the second range R2, theserver 3 directs the front of theHMD 2 in the first range R1 to the other people's location If not, thevirtual operation panel 50V is displayed on theHMD 2 in the first range R1 even if there are a plurality of persons in the second range R2. The fact that the front of theHMD 2 in the first range R1 is not directed to the presence position of the others means that there are no others in the front of theHMD 2 in the first range R1.

あるいは、サーバー3は、第1範囲R1にHMD2が入っており、かつ、第2範囲R2に複数の人物が存在する場合、HMD2の正面方向に条件充足箇所が存在すれば、第2範囲R2に複数の人物が存在していても、第1範囲R1に入っているHMD2に仮想操作パネル50Vを表示させる。なお、HMD2の正面方向に条件充足箇所が存在するということは、第1範囲R1に入っているHMD2の装着者が画像形成装置5(実機)や自身の腕を見ているということであり、第1範囲R1に入っているHMD2の装着者は他人を見ていない(第1範囲R1に入っているHMD2の正面に他人が存在しない)ということである。  Alternatively, when theHMD 2 is included in the first range R1 and there are a plurality of persons in the second range R2, theserver 3 is included in the second range R2 if the condition satisfaction location exists in the front direction of theHMD 2 Even if there are a plurality of persons, thevirtual operation panel 50V is displayed on theHMD 2 in the first range R1. Note that the presence of the condition satisfaction part in the front direction of theHMD 2 means that the wearer of theHMD 2 in the first range R1 is looking at the image forming apparatus 5 (actual machine) or his own arm, It means that the wearer of theHMD 2 in the first range R1 does not look at other people (there is no other person in front of theHMD 2 in the first range R1).

これにより、第2範囲R2に複数の人物が存在しているときに、第1範囲R1に入っているHMD2の装着者が長時間にわたって仮想操作パネル50Vに対する操作を行うことができなくなる、という不都合が生じるのを抑制することができる。  As a result, when there are a plurality of persons in the second range R2, the wearer of theHMD 2 in the first range R1 can not operate thevirtual operation panel 50V for a long time. Can be suppressed.

また、サーバー3は、第1範囲R1に入っているHMD2の装着者が設定したパネル表示機能の設定内容を認識し、当該認識したパネル表示機能が有効に設定されている場合にのみ、第1範囲R1に入っているHMD2に仮想操作パネル50Vを表示させる。これにより、仮想操作パネル50Vの表示/非表示を選択することができるので、HMD2の装着者の利便性が向上する。  Further, theserver 3 recognizes the setting contents of the panel display function set by the wearer of theHMD 2 in the first range R1, and the first process is performed only when the recognized panel display function is set to be effective. Thevirtual operation panel 50V is displayed on theHMD 2 in the range R1. As a result, since display / non-display of thevirtual operation panel 50V can be selected, convenience for the wearer of theHMD 2 is improved.

今回開示された実施形態は、すべての点で例示であって、制限的なものではないと考えられるべきである。本発明の範囲は、上記実施形態の説明ではなく特許請求の範囲によって示され、さらに、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれる。  The embodiment disclosed this time should be considered as illustrative in all points and not restrictive. The scope of the present invention is indicated not by the description of the above embodiment but by the scope of claims, and further includes all modifications within the meaning and scope equivalent to the scope of claims.

1 表示システム
2 HMD(ヘッドマウントディスプレイ)
3 サーバー(処理装置)
4 監視カメラ
50V 仮想操作パネル
1Display system 2 HMD (head mounted display)
3 Server (Processing Device)
4surveillance camera 50V virtual control panel

Claims (6)

Translated fromJapanese
監視カメラと、
予め定められた第1範囲に入ると仮想画像である仮想操作パネルを表示し、前記仮想操作パネルに対する操作を装着者から受け付けるヘッドマウントディスプレイと、
前記ヘッドマウントディスプレイによる前記仮想操作パネルの表示に関する制御を行う処理装置と、を備え、
前記処理装置は、前記第1範囲に入っている前記ヘッドマウントディスプレイが存在するとき、前記監視カメラが撮影した撮影データに基づき、前記第1範囲を含む予め定められた第2範囲に複数の人物が存在するか否かを判断し、前記第2範囲に複数の人物が存在すると判断した場合、前記第1範囲に入っている前記ヘッドマウントディスプレイによる前記仮想操作パネルの表示を停止させることを特徴とする表示システム。
With surveillance camera,
A head mounted display that displays a virtual operation panel that is a virtual image when entering a predetermined first range, and receives an operation on the virtual operation panel from a wearer;
A processing device for performing control regarding display of the virtual operation panel by the head mounted display;
When the head mounted display in the first range is present, the processing device may set a plurality of persons in a predetermined second range including the first range based on shooting data captured by the monitoring camera. Is determined, and when it is determined that a plurality of persons exist in the second range, the display of the virtual operation panel by the head mounted display within the first range is stopped. And display system.
前記処理装置は、前記第2範囲に存在する複数の人物のうち前記第1範囲に入っている前記ヘッドマウントディスプレイの装着者以外の人物の存在位置を認識するとともに、前記第1範囲に入っている前記ヘッドマウントディスプレイの正面が前記存在位置に向けられているか否かを判断し、前記第1範囲に入っている前記ヘッドマウントディスプレイの正面が前記存在位置に向けられていない場合には、前記第2範囲に複数の人物が存在しても、前記第1範囲に入っている前記ヘッドマウントディスプレイに前記仮想操作パネルを表示させることを特徴とする請求項1に記載の表示システム。  The processing device recognizes an existing position of a person other than the wearer of the head mounted display, which is in the first range among a plurality of persons in the second range, and enters the first range. It is determined whether or not the front surface of the head mounted display is directed to the existing position, and the front surface of the head mounted display within the first range is not directed to the existing position. The display system according to claim 1, wherein the virtual operation panel is displayed on the head mounted display included in the first range even if a plurality of persons exist in the second range. 前記ヘッドマウントディスプレイは、前記ヘッドマウントディスプレイの正面方向を撮影するカメラ部を備え、
前記処理装置は、前記カメラ部が撮影した撮影データに基づき、前記第1範囲に入っている前記ヘッドマウントディスプレイの正面方向に所定条件を満たす条件充足箇所が存在するか否かを判断し、前記条件充足箇所が存在すると判断した場合には、前記第2範囲に複数の人物が存在しても、前記第1範囲に入っている前記ヘッドマウントディスプレイに前記仮想操作パネルを表示させることを特徴とする請求項1または2に記載の表示システム。
The head mounted display includes a camera unit that captures a front direction of the head mounted display.
The processing device determines whether or not there is a condition satisfaction location satisfying a predetermined condition in the front direction of the head mounted display within the first range based on shooting data shot by the camera unit. When it is determined that the condition satisfying part exists, the virtual operation panel is displayed on the head mounted display included in the first range even if a plurality of persons exist in the second range. The display system according to claim 1 or 2.
実機の設置場所を含む範囲が前記第1範囲とされ、
前記条件充足箇所は前記実機であることを特徴とする請求項3に記載の表示システム。
The range including the installation location of the actual machine is considered as the first range,
The display system according to claim 3, wherein the condition satisfaction part is the actual device.
前記条件充足箇所は前記ヘッドマウントディスプレイの装着者の腕であることを特徴とする請求項3または4に記載の表示システム。  The display system according to claim 3 or 4, wherein the condition satisfaction point is an arm of a wearer of the head mounted display. 前記処理装置は、前記ヘッドマウントディスプレイの装着者が設定したパネル表示機能の設定内容を記憶し、
前記処理装置は、前記第1範囲に入っている前記ヘッドマウントディスプレイの装着者が設定した前記パネル表示機能の設定内容を認識し、当該認識した前記パネル表示機能が有効に設定されている場合にのみ、前記第1範囲に入っている前記ヘッドマウントディスプレイに前記仮想操作パネルを表示させることを特徴とする請求項1〜5のいずれか1項に記載の表示システム。
The processing device stores the setting contents of the panel display function set by the wearer of the head mounted display,
The processing device recognizes the setting content of the panel display function set by the wearer of the head mounted display within the first range, and the recognized panel display function is set to be valid. The display system according to any one of claims 1 to 5, wherein the virtual operation panel is displayed only on the head mounted display within the first range.
JP2017171276A2017-09-062017-09-06Display systemPendingJP2019046366A (en)

Priority Applications (1)

Application NumberPriority DateFiling DateTitle
JP2017171276AJP2019046366A (en)2017-09-062017-09-06Display system

Applications Claiming Priority (1)

Application NumberPriority DateFiling DateTitle
JP2017171276AJP2019046366A (en)2017-09-062017-09-06Display system

Publications (1)

Publication NumberPublication Date
JP2019046366Atrue JP2019046366A (en)2019-03-22

Family

ID=65814455

Family Applications (1)

Application NumberTitlePriority DateFiling Date
JP2017171276APendingJP2019046366A (en)2017-09-062017-09-06Display system

Country Status (1)

CountryLink
JP (1)JP2019046366A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication numberPriority datePublication dateAssigneeTitle
US12148113B2 (en)2021-07-262024-11-19Fujifilm Business Innovation Corp.Information processing system and non-transitory computer readable medium

Cited By (1)

* Cited by examiner, † Cited by third party
Publication numberPriority datePublication dateAssigneeTitle
US12148113B2 (en)2021-07-262024-11-19Fujifilm Business Innovation Corp.Information processing system and non-transitory computer readable medium

Similar Documents

PublicationPublication DateTitle
US11235871B2 (en)Control method, control system, and smart glasses for first person view unmanned aerial vehicle flight
US10474411B2 (en)System and method for alerting VR headset user to real-world objects
EP2991027B1 (en)Image processing program, image processing method and information terminal
US11137600B2 (en)Display device, display control method, and display system
JP6711885B2 (en) Transmission terminal, reception terminal, transmission/reception system, and its program
EP3163407B1 (en)Method and apparatus for alerting to head mounted display user
CN109120664A (en) Telecommunication method, telecommunication system and autonomous mobile device
KR20150082843A (en)Head mounted display and method for controlling the same
JP6789170B2 (en) Display device, authentication method, and authentication program
WO2016079974A1 (en)Authentication management method, information processing apparatus, wearable device, and computer program
CN106101470A (en)Information processor and the operation instruction method to image processing apparatus
US11589001B2 (en)Information processing apparatus, information processing method, and program
US20240265079A1 (en)System and method for automatically unlocking electronic devices
CN113960788A (en)Image display method, image display device, AR glasses, and storage medium
JP6319220B2 (en) Transparent wearable terminal, data processing apparatus, and data processing system
JP2019046366A (en)Display system
JP7716892B2 (en) Image restriction method, image restriction program, information processing device, and support system
WO2018008101A1 (en)Image provision system, image provision method, and program
JP5989725B2 (en) Electronic device and information display program
CN116055827A (en)Head mounted display device and control method for head mounted display device
JP2019061556A (en) Communication system and wearable terminal
JP2023063765A (en) Image processing device, image processing method, image processing system, and program
JP2018036847A (en)Information processing system
JP2018181339A (en) System, information processing method and program
JP6842964B2 (en) Wearable device, safety confirmation system, safety confirmation method and program

[8]ページ先頭

©2009-2025 Movatter.jp