Movatterモバイル変換


[0]ホーム

URL:


JPH11282617A - Sight line input device - Google Patents

Sight line input device

Info

Publication number
JPH11282617A
JPH11282617AJP10080740AJP8074098AJPH11282617AJP H11282617 AJPH11282617 AJP H11282617AJP 10080740 AJP10080740 AJP 10080740AJP 8074098 AJP8074098 AJP 8074098AJP H11282617 AJPH11282617 AJP H11282617A
Authority
JP
Japan
Prior art keywords
movement
center position
pupil
pupil center
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP10080740A
Other languages
Japanese (ja)
Inventor
Hideki Soya
秀樹 征矢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shimadzu Corp
Original Assignee
Shimadzu Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shimadzu CorpfiledCriticalShimadzu Corp
Priority to JP10080740ApriorityCriticalpatent/JPH11282617A/en
Publication of JPH11282617ApublicationCriticalpatent/JPH11282617A/en
Pendinglegal-statusCriticalCurrent

Links

Landscapes

Abstract

PROBLEM TO BE SOLVED: To provide a sight line input device having high operability even when operator's eyes are moved by any of fixed sight fine movement, voluntary motion and jumping motion. SOLUTION: This input device 2 is constituted so that an operator's eyeball image is fetched by using an image pickup optical system 1, the center position of each pupil is detected from the eyeball image data to detect a sight line direction, and a pointing device is operated based on the sight line direction. The input device is provided with a pupil moving distance detection part 22 for detecting the moving direction of the pupil center position in prescribed time and a sight detection part 23 for judging whether the operator's eyeball movement is fixed sight fine movement, voluntary motion or jumping motion, properly changing the number of pupil center position data based on the judged result, calculating a mean value, and detecting a sight direction based on the calculated result.

Description

Translated fromJapanese
【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、ALS(筋萎縮性
側索硬化症)等の難病患者や身体障害者で四肢麻痺によ
りコミュニケーションが困難な重度の肢体不自由者がパ
ーソナルコンピュータ等を利用してコミュニケーション
を行う際に利用する視線入力装置に関する。さらに詳し
くは、撮像光学系を用いて眼球画像を取り込んで視線方
向を検出し、その検出情報に基づいてポインティングデ
バイスを操作する視線入力装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to the use of a personal computer or the like for severely disabled patients who have difficulty in communication due to quadriplegia, such as ALS (amyotrophic lateral sclerosis) or a physically handicapped person. The present invention relates to a line-of-sight input device used when performing communication. More specifically, the present invention relates to a gaze input device that captures an eyeball image using an imaging optical system, detects a gaze direction, and operates a pointing device based on the detected information.

【0002】[0002]

【従来の技術】近年、身体障害者のコミュニケーション
補助手段としてパーソナルコンピュータが一般に広く利
用されている。パーソナルコンピュータの利用に際して
は、当然のことながら、マウスやキーボード等を操作し
て、ディスプレイ(CRTまたはLCD等)上に表示さ
れたカーソル等のポインティングデバイスを操作する必
要があるが、四肢麻痺等の重度の障害者にとってはマウ
スやキーボード等の操作は非常に困難である。
2. Description of the Related Art In recent years, personal computers have been widely used as means for assisting communication of physically handicapped persons. Of course, when using a personal computer, it is necessary to operate a mouse or keyboard to operate a pointing device such as a cursor displayed on a display (CRT or LCD, etc.). It is very difficult for a severely disabled person to operate a mouse and a keyboard.

【0003】そこで、最近では、赤外光を操作者の眼球
に照射し、撮像光学系を用いて眼球画像を取り込んで視
線方向を検出し、その検出結果に基づいてポインティン
グデバイスを操作する視線入力装置が開発されている。
Therefore, recently, a gaze input for operating a pointing device based on the result of irradiating an operator's eye with infrared light, capturing an eyeball image using an imaging optical system, detecting a gaze direction, and operating the pointing device based on the detection result. Equipment is being developed.

【0004】このような視線入力装置において、取り込
んだ眼球画像の代表的な解析手法としては、角膜反射
法、強膜反射法、瞳孔検出法が挙げられる。
In such a line-of-sight input device, typical analysis methods of a captured eyeball image include a corneal reflection method, a scleral reflection method, and a pupil detection method.

【0005】角膜反射法は、角膜表面の反射光によりで
きる虚像が眼球の回転により移動することを利用して、
角膜反射像と瞳孔の中心位置との関係から眼球運動を計
測する手法である。強膜反射法は、黒目と白目の境界部
分に光を当て、反射光の強度変化を利用して眼球運動を
計測する手法である。瞳孔検出法は、瞳孔の中心位置か
ら単純に眼球運動を計測する手法である。
The corneal reflection method utilizes the fact that a virtual image formed by reflected light on the corneal surface moves due to the rotation of the eyeball.
This is a method of measuring eye movement from the relationship between the corneal reflection image and the center position of the pupil. The scleral reflection method is a method in which light is applied to a boundary between a black eye and a white eye, and eye movement is measured by using a change in the intensity of reflected light. The pupil detection method is a method of simply measuring eye movement from the center position of the pupil.

【0006】いずれの解析手法においても、例えば注視
対象物をパーソナルコンピュータとした場合、ディスプ
レイ上の既知の位置に指標を表示し、その指標を注視し
た際の眼球画像上での瞳孔中心位置を検出して基準瞳孔
中心位置とし、この基準瞳孔中心位置と、指標を注視し
た際の視線方向(以下、「基準視線方向」という)との
間の相関を予め求めておく。そして、パーソナルコンピ
ュータを操作する際は、操作中の瞳孔中心位置を検出
し、この瞳孔中心位置から、基準瞳孔中心位置と基準視
線方向との間の相関に基づき、視線方向を検出する。
In any of the analysis methods, for example, when the object to be watched is a personal computer, an index is displayed at a known position on a display, and a pupil center position on an eyeball image when the index is watched is detected. The reference pupil center position is determined in advance, and a correlation between the reference pupil center position and a line-of-sight direction (hereinafter, referred to as a “reference line-of-sight direction”) when the indicator is gazed is determined in advance. When operating the personal computer, the pupil center position during operation is detected, and the gaze direction is detected from the pupil center position based on the correlation between the reference pupil center position and the reference gaze direction.

【0007】そして、以上の解析手法により検出した視
線方向に合わせて、ポインティングデバイスを動かすこ
とによって、視線によりパーソナルコンピュータ等を操
作することが可能となり、これにより、四肢麻痺等でマ
ウスやキーボード等を自由に操作することができない人
でも、入力確定用のスイッチ動作さえ行うことができれ
ば、パーソナルコンピュータ等を自由に操作することが
可能になる。
[0007] By moving the pointing device in accordance with the line of sight detected by the above analysis method, it becomes possible to operate a personal computer or the like with the line of sight. Even a person who cannot operate freely can freely operate a personal computer or the like as long as the switch operation for input determination can be performed.

【0008】[0008]

【発明が解決しようとする課題】ところで、人間の目は
ある物体を固視していても、固視微動と呼ばれる、絶え
間なく起きる不随意の振動が生じている。さらに、人間
の目の動きとしては、随意運動のように、比較的低速で
移動する物体を追うときの滑らかな運動や、それ以上の
速度で移動する物体を追うときの跳躍運動が存在する。
By the way, even if the human eye is fixating on an object, a continuous involuntary vibration called a fixation tremor occurs. Further, as the movement of the human eye, there are a smooth movement when following an object moving at a relatively low speed, and a jumping movement when following an object moving at a higher speed, such as a voluntary movement.

【0009】従って、例えばリアルタイムで瞳孔中心位
置を検出し、ポインティングデバイスを操作した場合、
固視微動の影響で、ディスプレイ上のある点を注視して
もポインティングデバイスが一点に定まらず固定できな
いという問題が生じる。そこで、一定のタイミングで検
出された複数の瞳孔中心位置から時間移動平均を計算
し、この計算結果に基づき視線方向を検出してポインテ
ィングデバイスを動かすことによって、固視微動の影響
を緩和する場合がある。しかし、この場合、随意運動・
跳躍運動が起こったときにポインティングデバイスの動
きが目の動きに追従しないため、操作性が悪く感じられ
るという問題がある。
Therefore, for example, when the pupil center position is detected in real time and the pointing device is operated,
Due to the influence of the fixation, there is a problem that the pointing device is not fixed at one point and cannot be fixed even if the user gazes at a certain point on the display. Therefore, there is a case where a time-moving average is calculated from a plurality of pupil center positions detected at a fixed timing, a gaze direction is detected based on the calculation result, and a pointing device is moved, thereby mitigating an influence of fixation tremor. is there. However, in this case, voluntary movement
Since the movement of the pointing device does not follow the movement of the eyes when a jumping motion occurs, there is a problem that operability is felt to be poor.

【0010】本発明はそのような問題を解決するために
なされたものであって、操作者の目が固視微動、および
随意運動・跳躍運動のいずれの動きをしている場合にお
いても、操作性のよい視線入力装置を提供することを目
的とする。
SUMMARY OF THE INVENTION The present invention has been made to solve such a problem, and is intended to be used even when the operator's eyes make any of fixed eye movements, voluntary movements, and jumping movements. It is an object of the present invention to provide a good gaze input device.

【0011】[0011]

【課題を解決するための手段】上記の目的を達成するた
め、本発明は、撮像光学系を用いて操作者の眼球画像を
取り込み、その眼球画像データから瞳孔中心位置を検出
し視線方向を検出し、その視線方向に基づいてディスプ
レイに表示されたポインティングデバイスを操作する視
線入力装置において、検出された瞳孔中心位置データか
ら、所定時間内における瞳孔中心位置の移動距離を検出
する瞳孔移動距離検出部と、その移動距離に基づいて、
操作者の眼球の動きが、固視微動であるか、または随意
運動・跳躍運動であるかを判断し、その判断結果が、固
視微動であるときは、一定のタイミングで検出された複
数の瞳孔中心位置データのうち所定数のデータごとに平
均値を計算し、この計算結果に基づき視線方向を検出
し、また、随意運動・跳躍運動であるときは、一定のタ
イミングで検出された複数の瞳孔中心位置データのうち
固視微動の場合よりも少ない数のデータごとに平均値を
計算し、この計算結果に基づき視線方向を検出する視線
検出部とを備えていることことによって特徴づけられ
る。
In order to achieve the above object, the present invention captures an eyeball image of an operator using an imaging optical system, detects a center position of a pupil from the eyeball image data, and detects a gaze direction. A pupil movement distance detection unit that detects a movement distance of a pupil center position within a predetermined time from detected pupil center position data in a gaze input device that operates a pointing device displayed on a display based on the gaze direction. And based on the distance traveled,
It is determined whether the movement of the eyeball of the operator is fixation tremor or voluntary movement / jumping movement.When the result of the determination is fixation tremor, a plurality of movements detected at a certain timing are determined. An average value is calculated for each of a predetermined number of data in the pupil center position data, the gaze direction is detected based on the calculation result, and when the movement is a voluntary movement / jumping movement, a plurality of detections are performed at a fixed timing. The pupil center position data is characterized by including an eye gaze detecting unit that calculates an average value for each of a smaller number of data than in the case of the fixation eye movement and detects the gaze direction based on the calculation result.

【0012】本発明の作用を以下に述べる。まず、本発
明においては、所定の時間内における操作者の瞳孔の移
動距離に基づき目の動きが固視微動、および随意運動・
跳躍運動のうちのいずれの動きであるのかを判断し、そ
の判断結果に基づき時間移動平均を計算する際の瞳孔中
心位置データの数を変更するので、人間の目がある物体
を固視している場合は、瞳孔中心位置データの数を多く
して時間移動平均を計算するため、固視微動に反応して
ポインティングデバイスが常に振動することがないよう
にでき、人間の目の動きが随意運動・跳躍運動である場
合は、瞳孔中心位置データの数を少なくして時間移動平
均を計算するため、ポインティングデバイスの動きを目
の動きに合わせて滑らかに移動させることができる。
The operation of the present invention will be described below. First, in the present invention, based on the moving distance of the pupil of the operator within a predetermined time, the eye movement is fixed eye movement and voluntary movement.
Judgment of which of the jumping motions is made, and the number of pupil center position data when calculating the time moving average based on the judgment result is changed, so that the human eye fixates on an object If this is the case, the number of pupil center position data is increased and the time-moving average is calculated, so that the pointing device does not always vibrate in response to the fixation tremor, and the movement of the human eye is voluntary In the case of a jumping motion, the time moving average is calculated by reducing the number of pupil center position data, so that the movement of the pointing device can be smoothly moved in accordance with the movement of the eyes.

【0013】[0013]

【発明の実施の形態】以下、図面を参照しつつ本発明の
実施の形態について述べる。
Embodiments of the present invention will be described below with reference to the drawings.

【0014】図1は、本発明の視線入力装置の一実施の
形態の構成を示すブロック図である。
FIG. 1 is a block diagram showing the configuration of an embodiment of the eye-gaze input device of the present invention.

【0015】撮像光学系1は、眼球に赤外光を照射する
赤外光源11と、CCDカメラ12とを備え、LCD等
のディスプレイ4の表示画面を注視する眼球画像を撮像
できるようになっている。撮像光学系1のCCDカメラ
12からの眼球画像信号は、視線入力装置2に供給され
る。
The imaging optical system 1 includes an infrared light source 11 for irradiating an eyeball with infrared light, and a CCD camera 12, and is capable of capturing an eyeball image for gazing at a display screen of a display 4 such as an LCD. I have. An eyeball image signal from the CCD camera 12 of the imaging optical system 1 is supplied to the eye-gaze input device 2.

【0016】視線入力装置2は、瞳孔中心位置検出部2
1と、瞳孔移動距離検出部22と、視線検出部23とに
よって構成されている。
The eye-gaze input device 2 includes a pupil center position detection unit 2
1, a pupil movement distance detection unit 22, and a gaze detection unit 23.

【0017】瞳孔中心位置検出部21は、CCDカメラ
12からの眼球画像信号を、先に述べた瞳孔検出法に基
づいて演算処理して、一定のタイミングで順次瞳孔中心
位置を検出する。
The pupil center position detecting section 21 performs arithmetic processing on the eyeball image signal from the CCD camera 12 based on the pupil detection method described above, and sequentially detects the pupil center position at a fixed timing.

【0018】瞳孔移動距離検出部22は、瞳孔中心位置
検出部21で検出された瞳孔中心位置データから、たと
えば、時間T1における瞳孔中心位置と、時間T2にお
ける瞳孔中心位置のとの間の距離を求めることにより、
所定時間内における瞳孔中心位置の移動距離を検出す
る。
From the pupil center position data detected by the pupil center position detection unit 21, the pupil movement distance detection unit 22 calculates, for example, the distance between the pupil center position at time T1 and the pupil center position at time T2. By asking
The moving distance of the pupil center position within a predetermined time is detected.

【0019】視線検出部23は、まず、瞳孔移動距離検
出部22で検出した所定時間内における瞳孔中心位置の
移動距離に基づき、目の動きが固視微動であるか、また
は随意運動・跳躍運動であるかを判断する。さらに、こ
の判断結果に基づき、瞳孔中心位置データの数を適当に
変更しながら複数の瞳孔中心位置データから時間移動平
均を計算する。最後に、この計算結果から、基準瞳孔中
心位置と基準視線方向との間の相関に基づき、視線方向
を検出する。この視線検出部23で求められた視線方向
に関する情報は、パーソナルコンピュータ3に順次取り
込まれる。
The gaze detecting unit 23 first determines whether the eye movement is fixation tremor or voluntary movement / jumping movement based on the movement distance of the pupil center position within a predetermined time detected by the pupil movement distance detection unit 22. Is determined. Further, based on this determination result, a time moving average is calculated from a plurality of pupil center position data while appropriately changing the number of pupil center position data. Finally, the gaze direction is detected from the calculation result based on the correlation between the reference pupil center position and the reference gaze direction. The information on the line-of-sight direction obtained by the line-of-sight detection unit 23 is sequentially taken into the personal computer 3.

【0020】なお、時間移動平均を計算する際の瞳孔中
心位置データの数は、目の動きが固視微動である場合と
目の動きが随意運動・跳躍運動である場合とに分けて予
め設定されており、固視微動の場合の瞳孔中心位置デー
タの数の方が、随意運動・跳躍運動の場合の瞳孔中心位
置データの数より多い。
The number of pupil center position data when calculating the time-moving average is set in advance separately for a case where the eye movement is a fixation fine movement and a case where the eye movement is a voluntary movement / jumping movement. In this case, the number of pupil center position data in the case of fixation fine movement is larger than the number of pupil center position data in the case of voluntary movement / jumping movement.

【0021】パーソナルコンピュータ3は、ディスプレ
イ4の表示画面上にポインティングデバイスを表示し、
その表示位置を、視線入力装置2の視線検出部23から
の視線方向情報に合わせて移動する。
The personal computer 3 displays a pointing device on the display screen of the display 4,
The display position is moved in accordance with the gaze direction information from the gaze detection unit 23 of the gaze input device 2.

【0022】パーソナルコンピュータ3には確定用スイ
ッチ5が接続されており、この確定用スイッチ5を操作
することによって入力確定信号がパーソナルコンピュー
タ3に送られる。パーソナルコンピュータ3では、その
入力確定信号が供給された時点におけるポインティング
デバイスの表示位置に表示された情報を入力情報として
取り込む。
A confirmation switch 5 is connected to the personal computer 3, and an input confirmation signal is sent to the personal computer 3 by operating the confirmation switch 5. The personal computer 3 captures, as input information, information displayed at the display position of the pointing device at the time when the input confirmation signal is supplied.

【0023】次に、本発明の視線入力装置の動作につい
て説明する。図2は、視線入力装置の動作内容を示すフ
ローチャートである。
Next, the operation of the gaze input device of the present invention will be described. FIG. 2 is a flowchart showing the operation of the eye-gaze input device.

【0024】動作を開始すると、撮像光学系1のCCD
カメラ12からの眼球画像信号を瞳孔中心位置検出部2
1に一定のタイミングで取り込み、瞳孔中心位置を順次
検出する(ST1)。
When the operation starts, the CCD of the imaging optical system 1
An eyeball image signal from the camera 12 is detected by a pupil center position detection unit 2
1, and the pupil center position is sequentially detected (ST1).

【0025】次に、瞳孔移動距離検出部22で、所定時
間内における瞳孔中心位置の移動距離を検出し、この検
出結果を示す信号を瞳孔移動距離検出部22から視線検
出部23に出力する(ST2)。
Next, the pupil movement distance detection unit 22 detects the movement distance of the pupil center position within a predetermined time, and outputs a signal indicating the detection result from the pupil movement distance detection unit 22 to the visual line detection unit 23 ( ST2).

【0026】続いて、瞳孔移動距離検出部22から出力
された検出結果を示す信号に基づき、視線検出部23
で、操作者の目の動きが固視微動であるか否かを判断す
る(ST3)。たとえば、目の動きが固視微動である場
合、対象物を注視しているので、瞳孔は絶え間なく振動
しているが移動距離は少ない。従って、予めしきい値を
設け、所定の時間内での瞳孔の移動距離がしきい値より
も小さい場合は、目の動きが固視微動であると判断する
(ステップST3での判断がYESになる)。一方、所
定時間内での瞳孔の移動距離がしきい値よりも大きい場
合は、目の動きが随意運動・跳躍運動であると判断する
(ステップST3での判断がNOになる)。
Subsequently, based on the signal indicating the detection result output from the pupil movement distance detecting section 22, the visual axis detecting section 23
Then, it is determined whether or not the movement of the eyes of the operator is the fixation fine movement (ST3). For example, in the case where the eye movement is the fixation tremor, the pupil vibrates continuously but the moving distance is small because the user is gazing at the object. Therefore, a threshold value is set in advance, and when the moving distance of the pupil within a predetermined time is smaller than the threshold value, it is determined that the eye movement is the fixation fine movement (the determination in step ST3 is YES Become). On the other hand, when the moving distance of the pupil within the predetermined time is larger than the threshold value, it is determined that the eye movement is voluntary movement / jumping movement (the determination in step ST3 is NO).

【0027】この後、目の動きが固視微動である場合
は、一定のタイミングで検出された複数の瞳孔中心位置
データから、固視微動用に予め設定されたデータ数ごと
に時間移動平均を計算する(ST4)。一方、目の動き
が随意運動・跳躍運動である場合は、一定のタイミング
で検出された複数の瞳孔中心位置データから、随意運動
・跳躍運動用に予め設定されたデータ数ごとに時間移動
平均を計算する(ST5)。
Thereafter, if the eye movement is a fixation fine movement, a time-moving average is calculated for each data number preset for the fixation fine movement from a plurality of pupil center position data detected at a fixed timing. Calculation is performed (ST4). On the other hand, if the eye movement is voluntary movement / jumping movement, the time moving average is calculated for each number of data set in advance for voluntary movement / jumping movement from a plurality of pupil center position data detected at a certain timing. Calculation is performed (ST5).

【0028】最後に、これらいずれかの計算結果から、
基準瞳孔中心位置と基準視線方向との間の相関に基づ
き、視線方向を検出し(ST6)、視線検出を終了する
(ST7)。
Finally, from one of these calculation results,
The gaze direction is detected based on the correlation between the reference pupil center position and the reference gaze direction (ST6), and the gaze detection is terminated (ST7).

【0029】以上の本発明の実施の形態によれば、所定
の時間内における操作者の瞳孔の移動距離に基づき目の
動きが固視微動、および随意運動・跳躍運動のうちのい
ずれの動きであるのかを判断し、目の動きによって時間
移動平均を計算する際の瞳孔中心位置データの数を変更
するので、人間の目がある物体を固視している場合は、
瞳孔中心位置データの数を多くして時間移動平均を計算
するため、固視微動に反応してポインティングデバイス
が常に振動することがないようにでき、人間の目の動き
が随意運動・跳躍運動である場合は、瞳孔中心位置デー
タの数を少なくして時間移動平均を計算するため、ポイ
ンティングデバイスの動きを目の動きに合わせて滑らか
に移動させることができる。
According to the above-described embodiment of the present invention, based on the moving distance of the pupil of the operator within a predetermined time, the eye movement can be any one of the fixation fine movement, the voluntary movement and the jumping movement. Judge whether there is, change the number of pupil center position data when calculating the time moving average by eye movement, so if the human eye is fixating on an object,
The time-moving average is calculated by increasing the number of pupil center position data, so that the pointing device does not always vibrate in response to fixation tremor, and the movement of the human eye is voluntary and jumping. In some cases, the time moving average is calculated by reducing the number of pupil center position data, so that the movement of the pointing device can be smoothly moved in accordance with the movement of the eyes.

【0030】なお、以上の実施の形態においては、眼球
画像の解析方法として瞳孔検出法を用いた例を示した
が、本発明はこれに限定されることなく、角膜反射法ま
たは強膜反射法等の他の方法を用いてもよい。
In the above embodiment, an example in which a pupil detection method is used as an analysis method of an eyeball image has been described. However, the present invention is not limited to this, and a corneal reflection method or a scleral reflection method may be used. Other methods may be used.

【0031】[0031]

【発明の効果】以上説明したように、本発明によれば、
撮像光学系を用いて操作者の眼球画像を取り込み、その
眼球画像データから瞳孔中心位置を検出し視線方向を検
出し、その視線方向に基づいてディスプレイに表示され
たポインティングデバイスを操作する視線入力装置にお
いて、検出された瞳孔中心位置データから、所定時間内
における瞳孔中心位置の移動距離を検出する瞳孔移動距
離検出部と、その移動距離に基づいて、操作者の眼球の
動きが、固視微動であるか、または随意運動・跳躍運動
であるかを判断し、その判断結果が、固視微動であると
きは、一定のタイミングで検出された複数の瞳孔中心位
置データから所定数のデータごとに平均値を計算し、こ
の計算結果に基づき視線方向を検出し、また、随意運動
・跳躍運動であるときは、一定のタイミングで検出され
た複数の瞳孔中心位置データから固視微動の場合よりも
少ない数のデータごとに平均値を計算し、この計算結果
に基づき視線方向を検出する視線検出部とを備えている
から、操作者の目が固視微動、および随意運動・跳躍運
動のいずれの動きをしている場合においても、視線入力
装置を操作性のよい状態で使用することができる。
As described above, according to the present invention,
A gaze input device that captures an operator's eyeball image using an imaging optical system, detects a pupil center position from the eyeball image data, detects a gaze direction, and operates a pointing device displayed on a display based on the gaze direction. In the detected pupil center position data, the pupil movement distance detection unit that detects the movement distance of the pupil center position within a predetermined time, based on the movement distance, the movement of the operator's eyeball, the fixation tremor It is determined whether the movement is a voluntary movement or a jumping movement, and when the result of the determination is a fixation eye movement, an average is calculated for a predetermined number of data from a plurality of pupil center position data detected at a fixed timing. Calculate the value, detect the gaze direction based on this calculation result, and, when the movement is voluntary movement / jumping movement, the center of the plurality of pupils detected at a certain timing A gaze detecting unit that calculates an average value for each of a smaller number of data than in the case of fixation tremor from the fixation data and detects the gaze direction based on the calculation result. The gaze input device can be used in a state of good operability regardless of whether the user is performing a voluntary movement or a jumping movement.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の視線入力装置の一実施の形態を示すブ
ロック図
FIG. 1 is a block diagram showing an embodiment of a gaze input device according to the present invention.

【図2】本発明の視線入力装置の動作例を示すフローチ
ャート
FIG. 2 is a flowchart showing an operation example of the eye-gaze input device of the present invention.

【符号の説明】[Explanation of symbols]

1 撮像光学系 11 赤外光源 12 CCDカメラ 2 視線入力装置 21 瞳孔中心位置検出部 22 瞳孔移動距離検出部 23 視線検出部 3 パーソナルコンピュータ 4 ディスプレイ 5 確定用スイッチ REFERENCE SIGNS LIST 1 imaging optical system 11 infrared light source 12 CCD camera 2 line-of-sight input device 21 pupil center position detection unit 22 pupil movement distance detection unit 23 line-of-sight detection unit 3 personal computer 4 display 5 determination switch

Claims (1)

Translated fromJapanese
【特許請求の範囲】[Claims]【請求項1】 撮像光学系を用いて操作者の眼球画像を
取り込み、その眼球画像データから瞳孔中心位置を検出
し視線方向を検出し、その視線方向に基づいてディスプ
レイに表示されたポインティングデバイスを操作する視
線入力装置において、検出された瞳孔中心位置データか
ら、所定時間内における瞳孔中心位置の移動距離を検出
する瞳孔移動距離検出部と、その移動距離に基づいて、
操作者の眼球の動きが、固視微動であるか、または随意
運動・跳躍運動であるかを判断し、その判断結果が、固
視微動であるときは、一定のタイミングで検出された複
数の瞳孔中心位置データから所定数のデータごとに平均
値を計算し、この計算結果に基づき視線方向を検出し、
また、随意運動・跳躍運動であるときは、一定のタイミ
ングで検出された複数の瞳孔中心位置データから固視微
動の場合よりも少ない数のデータごとに平均値を計算
し、この計算結果に基づき視線方向を検出する視線検出
部とを備えていることを特徴とする視線入力装置。
1. An eyeball image of an operator is captured using an imaging optical system, a pupil center position is detected from the eyeball image data, a gaze direction is detected, and a pointing device displayed on a display is displayed based on the gaze direction. In the eye-gaze input device to operate, from the detected pupil center position data, a pupil movement distance detection unit that detects the movement distance of the pupil center position within a predetermined time, based on the movement distance,
It is determined whether the movement of the eyeball of the operator is fixation tremor or voluntary movement / jumping movement.When the result of the determination is fixation tremor, a plurality of movements detected at a certain timing are determined. From the pupil center position data, calculate an average value for each predetermined number of data, detect the gaze direction based on this calculation result,
Also, in the case of voluntary movement / jumping movement, an average value is calculated from a plurality of pupil center position data detected at a fixed timing for each of a smaller number of data than in the case of fixation fine movement, and based on this calculation result, A gaze input device comprising: a gaze detection unit configured to detect a gaze direction.
JP10080740A1998-03-271998-03-27Sight line input devicePendingJPH11282617A (en)

Priority Applications (1)

Application NumberPriority DateFiling DateTitle
JP10080740AJPH11282617A (en)1998-03-271998-03-27Sight line input device

Applications Claiming Priority (1)

Application NumberPriority DateFiling DateTitle
JP10080740AJPH11282617A (en)1998-03-271998-03-27Sight line input device

Publications (1)

Publication NumberPublication Date
JPH11282617Atrue JPH11282617A (en)1999-10-15

Family

ID=13726803

Family Applications (1)

Application NumberTitlePriority DateFiling Date
JP10080740APendingJPH11282617A (en)1998-03-271998-03-27Sight line input device

Country Status (1)

CountryLink
JP (1)JPH11282617A (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication numberPriority datePublication dateAssigneeTitle
JP2007268164A (en)*2006-03-312007-10-18National Univ Corp Shizuoka Univ Gaze movement detection method and gaze movement detection apparatus
WO2009019760A1 (en)*2007-08-072009-02-12Osaka Electro-Communication UniversityMoving object detector, moving object detection method, pointing device, computer program and storage medium
JP2012050837A (en)*2004-04-012012-03-15William C TorchBiosensor, communicator, and controller monitoring eye movement and method for using them
JP2015056173A (en)*2013-09-132015-03-23富士通株式会社Information processor, method and program
US10039445B1 (en)2004-04-012018-08-07Google LlcBiosensors, communicators, and controllers monitoring eye movement and methods for using them
JP2019061488A (en)*2017-09-262019-04-18富士通株式会社 Display program, display method, and display device

Cited By (11)

* Cited by examiner, † Cited by third party
Publication numberPriority datePublication dateAssigneeTitle
JP2012050837A (en)*2004-04-012012-03-15William C TorchBiosensor, communicator, and controller monitoring eye movement and method for using them
JP2013027718A (en)*2004-04-012013-02-07William C TorchBiosensor, communicator, and controller monitoring eye movement and method for using them
US10039445B1 (en)2004-04-012018-08-07Google LlcBiosensors, communicators, and controllers monitoring eye movement and methods for using them
JP2007268164A (en)*2006-03-312007-10-18National Univ Corp Shizuoka Univ Gaze movement detection method and gaze movement detection apparatus
WO2009019760A1 (en)*2007-08-072009-02-12Osaka Electro-Communication UniversityMoving object detector, moving object detection method, pointing device, computer program and storage medium
US8717292B2 (en)2007-08-072014-05-06Osaka Electro-Communication UniversityMoving object detecting apparatus, moving object detecting method, pointing device, and storage medium
US9632585B2 (en)2007-08-072017-04-25Osaka Electro-Communication UniversityMoving object detecting apparatus, moving object detecting method, pointing device, and storage medium
US9921663B2 (en)2007-08-072018-03-20Osaka Electro-Communication UniversityMoving object detecting apparatus, moving object detecting method, pointing device, and storage medium
JP2015056173A (en)*2013-09-132015-03-23富士通株式会社Information processor, method and program
JP2019061488A (en)*2017-09-262019-04-18富士通株式会社 Display program, display method, and display device
US11216064B2 (en)2017-09-262022-01-04Fujitsu LimitedNon-transitory computer-readable storage medium, display control method, and display control apparatus

Similar Documents

PublicationPublication DateTitle
Betke et al.The camera mouse: visual tracking of body features to provide computer access for people with severe disabilities
JP7016263B2 (en) Systems and methods that enable communication through eye feedback
Lin et al.Powered wheelchair controlled by eye-tracking system.
US20190235624A1 (en)Systems and methods for predictive visual rendering
CN102880289B (en)Detect control system and method that eyeball fixes point can realize video playback and time-out
WO2021073743A1 (en)Determining user input based on hand gestures and eye tracking
Magee et al.A human–computer interface using symmetry between eyes to detect gaze direction
US20030038754A1 (en)Method and apparatus for gaze responsive text presentation in RSVP display
JP4491604B2 (en) Pupil detection device
WO2002001336A2 (en)Automated visual tracking for computer access
JP2005100366A (en) Gaze input communication method using eye movement
TW202301871A (en)Optical system with improvied user experiemce and accurate eye-tracking and related method
JPH04372012A (en)Input device
JP2000250699A (en)Visual line input device
CN106681509A (en)Interface operating method and system
Hou et al.Gimis: Gaze input with motor imagery selection
JPH09167049A (en)Line of sight input device for console
JPWO2020016970A1 (en) Information processing equipment, information processing methods, and programs
JP2006293786A (en) Market research equipment with line-of-sight input device
JPH11282617A (en)Sight line input device
JP4951751B2 (en) Pointing apparatus and method based on pupil detection
Lin et al.A novel device for head gesture measurement system in combination with eye-controlled human–machine interface
JPH1173273A (en) Input device for the physically handicapped
JPH11212715A (en)Line-of-sight input device
EP0933720A2 (en)Input apparatus for the physically handicapped

[8]ページ先頭

©2009-2025 Movatter.jp