WO2023096134A1 - Learning method for improving gesture recognition performance in electronic device - Google Patents

Abstract

An electronic device according to one embodiment comprises: a memory for storing computer-executable instructions; and a processor for executing the instructions by accessing the memory, wherein the processor can input one target gesture sample into a decision tree network-based classifier, identify first leaves corresponding to one target gesture sample so as to be selected by tree, and increase, up to an update unit value, the compensation value of each of the identified first leaves so as to perform an uplink update of the classifier.

Description

Translated fromKorean

전자 장치 내에서 제스처 인식 성능 개선을 위한 러닝 방법A Learning Method for Improving Gesture Recognition Performance in Electronic Devices

본 발명의 다양한 실시 예들은 전자 장치 내에서 제스처 인식 성능 개선을 위한 러닝 방법에 관한 것이다.Various embodiments of the present disclosure relate to a learning method for improving gesture recognition performance in an electronic device.

사용자 인터페이스 기술 중 제스처(gesture) 인식 기술은 크게 이미지 센서를 활용하여 이미지를 통해 제스처를 인식하는 기술과 이미지 센서 외의 다른 센서(예를 들어, 가속도 센서 또는 자이로 센서의 관성 측정 장비(intertial measurement unit, IMU))를 활용하여 제스처를 인식하는 기술로 구분할 수 있다. 이미지 센서 외의 다른 센서를 활용하여 제스처를 인식하는 기술은 언제 어디서나 사용이 가능하기 때문에, 이미지 센서를 활용하여 제스처를 인식하는 기술 보다 자유도가 높은 장점을 가지고 있다.Gesture recognition technology among user interface technologies is largely a technology that recognizes a gesture through an image by using an image sensor, and a sensor other than an image sensor (for example, an acceleration sensor or a gyro sensor, an inertial measurement unit, It can be classified as a technology for recognizing gestures using IMU)). A technology for recognizing a gesture using a sensor other than an image sensor can be used anytime, anywhere, and thus has a higher degree of freedom than a technology for recognizing a gesture using an image sensor.

전자 장치 내에서 제스처 인식률이 낮아지는 가장 큰 이유는 다양한 상황 및 상태에 따라 센서 신호들의 변동폭이 다르게 나타날 수 있고, 사람 마다 생체 신호의 기본 파형 특성이 서로 다르게 나타날 수 있어 동일한 제스처 동작에 대한 신호의 파형이 다양하게 나타난다는 점이다. 종래에는 다양한 신호 파형들이 최대한으로 수집하여 트레이닝 데이터 셋을 구성하였고, 트레이닝 데이터 셋으로 분류기를 트레이닝하여 상당히 보편적인 특성을 갖는 분류기를 생성하였다. 그러나, 모든 사람들의 제스처 샘플을 수집하거나 모든 상황에서의 제스처 샘플을 수집하는 것은 불가능하기 때문에, 전자 장치의 실사용자의 제스처에 관한 신호 특성이 트레이닝 데이터 셋의 특성과 유사도가 작을 수 있고, 분류기를 통한 정확한 제스처 인식을 기대할 수 없게 된다The biggest reason for the low gesture recognition rate in an electronic device is that sensor signals may have different fluctuation ranges depending on various situations and conditions, and the basic waveform characteristics of biosignals may appear differently for each person, so that the signal for the same gesture motion The point is that the waveform appears in a variety of ways. Conventionally, a training data set was constructed by collecting as much as possible of various signal waveforms, and a classifier having fairly general characteristics was created by training a classifier with the training data set. However, since it is impossible to collect gesture samples of all people or in all situations, the signal characteristics of the gestures of real users of electronic devices may have a small similarity to the characteristics of the training data set, and the classifier Accurate gesture recognition cannot be expected through

본 문서에 개시되는 다양한 실시예에 따르면, 일 실시예에 따른 전자 장치는 사용자로부터 적어도 하나의 제스처 샘플을 수집할 수 있고, 수집된 적어도 하나의 제스처 샘플을 사용하여 분류기를 사용자에 적합하도록 업데이트할 수 있다. 사용자 개개인에 맞는 분류기를 새로 생성하는 것은 여러 문제들로 인해 구현되기 어렵다. 따라서, 전자 장치는 기존에 생성된 분류기에 사용자로부터 수집된 제스처 샘플을 입력하여 제스처 샘플에 대응하는 리프들을 식별하고, 식별된 리프들의 보상값을 증가시킴으로써 분류기를 사용자에게 적합하도록 업데이트할 수 있다.According to various embodiments disclosed in this document, an electronic device according to an embodiment may collect at least one gesture sample from a user, and use the collected at least one gesture sample to update a classifier to be suitable for the user. can Creating a new classifier for each user is difficult to implement due to various problems. Accordingly, the electronic device may update the classifier to be suitable for the user by inputting the gesture samples collected from the user to the previously generated classifier, identifying leaves corresponding to the gesture sample, and increasing a reward value of the identified leaves.

일 실시예에 따른 전자 장치는, 컴퓨터로 실행 가능한 명령어들(computer-executable instructions)이 저장된 메모리, 상기 메모리에 액세스(access)하여 상기 명령어들을 실행하는 프로세서를 포함하고, 상기 프로세서는, 결정트리 네트워크(decision tree network) 기반 분류기에 하나의 타겟 제스처 샘플을 입력하고, 상기 하나의 타겟 제스처 샘플에 대응하여 트리 별로 선택되는 제1 리프들을 식별하고, 상기 식별된 제1 리프들 각각의 보상값을 업데이트 단위 값 만큼 증가시켜 상기 분류기의 상향 업데이트를 수행할 수 있다.An electronic device according to an embodiment includes a memory in which computer-executable instructions are stored, and a processor accessing the memory to execute the instructions, wherein the processor comprises a decision tree network One target gesture sample is input to a (decision tree network) based classifier, first leaves selected for each tree are identified corresponding to the one target gesture sample, and a reward value of each of the identified first leaves is updated. Updating of the classifier may be performed by incrementing by a unit value.

일 실시예에 따른 전자 장치에 의해 수행되는 방법은, 결정트리 네트워크(decision tree network) 기반 분류기에 하나의 타겟 제스처 샘플을 입력하는 동작, 상기 하나의 타겟 제스처 샘플에 대응하여 트리 별로 선택되는 제1 리프들을 식별하는 동작, 및 상기 식별된 제1 리프들 각각의 보상값을 업데이트 단위 값 만큼 증가시켜 상기 분류기의 상향 업데이트를 수행하는 동작을 포함할 수 있다.A method performed by an electronic device according to an embodiment includes an operation of inputting one target gesture sample to a classifier based on a decision tree network, and a first step selected for each tree corresponding to the one target gesture sample. It may include an operation of identifying leaves, and an operation of performing an upward update of the classifier by increasing a compensation value of each of the identified first leaves by an update unit value.

도 1은 다양한 실시예들에 따른 네트워크 환경 내의 전자 장치의 블록도이다.1 is a block diagram of an electronic device in a network environment according to various embodiments.

도 2a 및 도 2b는 일 실시예에 따른 전자 장치의 사시도이다.2A and 2B are perspective views of an electronic device according to an exemplary embodiment.

도 3은 일 실시예에 따른 전자 장치의 분해 사시도이다.3 is an exploded perspective view of an electronic device according to an exemplary embodiment.

도 4는 전자 장치에서 제스처 인식이 수행되는 과정을 설명하는 도면이다.4 is a diagram illustrating a process of performing gesture recognition in an electronic device.

도 5는 분류기에서 트레이닝을 통해 제스처를 분류할 수 있는 네트워크가 형성되는 과정을 설명하는 도면이다.5 is a diagram illustrating a process of forming a network capable of classifying gestures through training in a classifier.

도 6은 일 실시예에 따른 전자 장치가 분류기를 업데이트하는 동작을 개략적으로 설명하는 흐름도이다.6 is a flowchart schematically illustrating an operation of updating a classifier by an electronic device according to an exemplary embodiment.

도 7은 일 실시예에 따른 전자 장치가 분류기를 업데이트하는 과정을 설명하는 도면이다.7 is a diagram illustrating a process of updating a classifier by an electronic device according to an exemplary embodiment.

도 8은 결정트리 네트워크 기반 분류기의 구조를 설명하는 도면이다.8 is a diagram illustrating the structure of a classifier based on a decision tree network.

도 9는 일 실시예에 따른 전자 장치가 결정트리 네트워크 기반 분류기에 데이터 샘플을 입력하여 분류기를 업데이트하는 과정을 설명하는 도면이다.9 is a diagram illustrating a process of updating a classifier by inputting a data sample to a classifier based on a decision tree network by an electronic device according to an embodiment.

도 10은 일 실시예에 따른 전자 장치가 분류기를 업데이트하는 전체적인 과정을 설명하는 도면이다.10 is a diagram illustrating an overall process of updating a classifier by an electronic device according to an exemplary embodiment.

도 11은 일 실시예에 따른 전자 장치가 분류기를 사용자 별로 업데이트한 경우 업데이트된 분류기 별로 성능 평가 결과를 예시적으로 나타낸 표이다.11 is a table illustratively illustrating performance evaluation results for each updated classifier when the electronic device updates the classifier for each user according to an embodiment.

도 12는

와

와의 관계를 나타내는 그래프이다.Figure 12

and

It is a graph showing the relationship with

도 13은

와

와의 관계를 나타내는 그래프이다.Figure 13 is

and

It is a graph showing the relationship with

도 14는 일 실시예에 따른 전자 장치가 수동적 방법(passive method)으로 타겟 제스처 샘플을 수집하는 과정을 설명하는 도면이다.14 is a diagram illustrating a process of collecting target gesture samples by an electronic device in a passive method according to an embodiment.

도 15는 일 실시예에 따른 전자 장치가 능동적 방법(active method)으로 타겟 제스처 샘플을 수집하는 과정을 설명하는 도면이다.15 is a diagram illustrating a process of collecting target gesture samples by an active method by an electronic device according to an exemplary embodiment.

도 16은 일 실시예에 따른 전자 장치가 수동적 방법으로 타겟 제스처 샘플을 수집하여 분류기의 업데이트를 수행하는 과정을 설명하는 흐름도이다.16 is a flowchart illustrating a process of manually collecting target gesture samples and updating a classifier by an electronic device according to an embodiment.

도 17은 일 실시예에 따른 전자 장치가 타겟 제스처 샘플 수집의 기준이 되는 임계 확률을 조정하는 과정을 설명하는 도면이다.17 is a diagram for explaining a process of adjusting a threshold probability, which is a standard for collecting target gesture samples, by an electronic device according to an embodiment.

도 18은 일 실시예에 따른 전자 장치가 능동적 방법(active method)으로 타겟 제스처 샘플을 수집하여 분류기의 업데이트를 수행하는 과정을 설명하는 흐름도이다.18 is a flowchart illustrating a process in which an electronic device collects target gesture samples using an active method and updates a classifier according to an exemplary embodiment.

도 19는 일 실시예에 따른 전자 장치가 능동적 방법으로 타겟 제스처 샘플을 수집하는 과정을 구체적으로 설명하는 흐름도이다.19 is a flowchart illustrating a process of actively collecting target gesture samples by an electronic device according to an embodiment.

도 20은 일 실시예에 따른 전자 장치가 능동적 방법으로 타겟 제스처 샘플을 수집하는 과정을 설명하는 도면이다.20 is a diagram for explaining a process of collecting target gesture samples in an active method by an electronic device according to an embodiment.

도 21은 일 실시예에 따른 전자 장치가 타겟 제스처 샘플을 수집한 이후의 동작을 설명하는 흐름도이다.21 is a flowchart illustrating an operation after an electronic device collects a target gesture sample, according to an exemplary embodiment.

도 22는 일 실시예에 따른 전자 장치가 화면에 분류기의 성능 평가 결과를 표시하는 것을 나타내는 도면이다.22 is a diagram illustrating that an electronic device displays a performance evaluation result of a classifier on a screen according to an exemplary embodiment.

이하, 실시예들을 첨부된 도면들을 참조하여 상세하게 설명한다. 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조 부호를 부여하고, 이에 대한 중복되는 설명은 생략하기로 한다.Hereinafter, embodiments will be described in detail with reference to the accompanying drawings. In the description with reference to the accompanying drawings, the same reference numerals are given to the same components regardless of reference numerals, and overlapping descriptions thereof will be omitted.

도 1은, 다양한 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.1 is a block diagram of an electronic device 101 within anetwork environment 100, according to various embodiments. Referring to FIG. 1 , in anetwork environment 100, an electronic device 101 communicates with an electronic device 102 through a first network 198 (eg, a short-range wireless communication network) or through a second network 199. It is possible to communicate with theelectronic device 104 or theserver 108 through (eg, a long-distance wireless communication network). According to one embodiment, the electronic device 101 may communicate with theelectronic device 104 through theserver 108 . According to an embodiment, the electronic device 101 includes a processor 120, a memory 130, aninput module 150, anaudio output module 155, a display module 160, an audio module 170, a sensor module ( 176),interface 177, connection terminal 178, haptic module 179, camera module 180, power management module 188, battery 189, communication module 190, subscriber identification module 196 , or the antenna module 197 may be included. In some embodiments, in the electronic device 101, at least one of these components (eg, the connection terminal 178) may be omitted or one or more other components may be added. In some embodiments, some of these components (eg, sensor module 176, camera module 180, or antenna module 197) are integrated into a single component (eg, display module 160). It can be.

프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.The processor 120, for example, executes software (eg, the program 140) to cause at least one other component (eg, hardware or software component) of the electronic device 101 connected to the processor 120. It can control and perform various data processing or calculations. According to one embodiment, as at least part of data processing or operation, the processor 120 transfers instructions or data received from other components (e.g., sensor module 176 or communication module 190) to volatile memory 132. , processing commands or data stored in the volatile memory 132 , and storing resultant data in the non-volatile memory 134 . According to one embodiment, the processor 120 may include a main processor 121 (eg, a central processing unit or an application processor) or a secondary processor 123 (eg, a graphic processing unit, a neural network processing unit ( NPU: neural processing unit (NPU), image signal processor, sensor hub processor, or communication processor). For example, when the electronic device 101 includes the main processor 121 and the auxiliary processor 123, the auxiliary processor 123 may use less power than the main processor 121 or be set to be specialized for a designated function. can The secondary processor 123 may be implemented separately from or as part of the main processor 121 .

보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.The secondary processor 123 may, for example, take the place of the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or the main processor 121 is active (eg, running an application). ) state, together with the main processor 121, at least one of the components of the electronic device 101 (eg, the display module 160, the sensor module 176, or the communication module 190) It is possible to control at least some of the related functions or states. According to one embodiment, the auxiliary processor 123 (eg, image signal processor or communication processor) may be implemented as part of other functionally related components (eg, camera module 180 or communication module 190). there is. According to an embodiment, the auxiliary processor 123 (eg, a neural network processing device) may include a hardware structure specialized for processing an artificial intelligence model. AI models can be created through machine learning. Such learning may be performed, for example, in the electronic device 101 itself where artificial intelligence is performed, or may be performed through a separate server (eg, the server 108). The learning algorithm may include, for example, supervised learning, unsupervised learning, semi-supervised learning or reinforcement learning, but in the above example Not limited. The artificial intelligence model may include a plurality of artificial neural network layers. Artificial neural networks include deep neural networks (DNNs), convolutional neural networks (CNNs), recurrent neural networks (RNNs), restricted boltzmann machines (RBMs), deep belief networks (DBNs), bidirectional recurrent deep neural networks (BRDNNs), It may be one of deep Q-networks or a combination of two or more of the foregoing, but is not limited to the foregoing examples. The artificial intelligence model may include, in addition or alternatively, software structures in addition to hardware structures.

메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.The memory 130 may store various data used by at least one component (eg, the processor 120 or the sensor module 176) of the electronic device 101 . The data may include, for example, input data or output data for software (eg, program 140) and commands related thereto. The memory 130 may include volatile memory 132 or non-volatile memory 134 .

프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.The program 140 may be stored as software in the memory 130 and may include, for example, an operating system 142 , middleware 144 , or an application 146 .

입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.Theinput module 150 may receive a command or data to be used by a component (eg, the processor 120) of the electronic device 101 from the outside of the electronic device 101 (eg, a user). Theinput module 150 may include, for example, a microphone, a mouse, a keyboard, a key (eg, a button), or a digital pen (eg, a stylus pen).

음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.Thesound output module 155 may output sound signals to the outside of the electronic device 101 . Thesound output module 155 may include, for example, a speaker or a receiver. The speaker can be used for general purposes such as multimedia playback or recording playback. A receiver may be used to receive an incoming call. According to one embodiment, the receiver may be implemented separately from the speaker or as part of it.

디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.The display module 160 may visually provide information to the outside of the electronic device 101 (eg, a user). The display module 160 may include, for example, a display, a hologram device, or a projector and a control circuit for controlling the device. According to one embodiment, the display module 160 may include a touch sensor set to detect a touch or a pressure sensor set to measure the intensity of force generated by the touch.

오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.The audio module 170 may convert sound into an electrical signal or vice versa. According to one embodiment, the audio module 170 acquires sound through theinput module 150, thesound output module 155, or an external electronic device connected directly or wirelessly to the electronic device 101 (eg: Sound may be output through the electronic device 102 (eg, a speaker or a headphone).

센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.The sensor module 176 detects an operating state (eg, power or temperature) of the electronic device 101 or an external environmental state (eg, a user state), and generates an electrical signal or data value corresponding to the detected state. can do. According to one embodiment, the sensor module 176 may include, for example, a gesture sensor, a gyro sensor, an air pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a bio sensor, It may include a temperature sensor, humidity sensor, or light sensor.

인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.Theinterface 177 may support one or more designated protocols that may be used to directly or wirelessly connect the electronic device 101 to an external electronic device (eg, the electronic device 102). According to one embodiment, theinterface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.

연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.The connection terminal 178 may include a connector through which the electronic device 101 may be physically connected to an external electronic device (eg, the electronic device 102). According to one embodiment, the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).

햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.The haptic module 179 may convert electrical signals into mechanical stimuli (eg, vibration or motion) or electrical stimuli that a user may perceive through tactile or kinesthetic senses. According to one embodiment, the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.

카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.The camera module 180 may capture still images and moving images. According to one embodiment, the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.

전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.The power management module 188 may manage power supplied to the electronic device 101 . According to one embodiment, the power management module 188 may be implemented as at least part of a power management integrated circuit (PMIC), for example.

배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.The battery 189 may supply power to at least one component of the electronic device 101 . According to one embodiment, the battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.

통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.The communication module 190 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 101 and an external electronic device (eg, the electronic device 102, theelectronic device 104, or the server 108). Establishment and communication through the established communication channel may be supported. The communication module 190 may include one or more communication processors that operate independently of the processor 120 (eg, an application processor) and support direct (eg, wired) communication or wireless communication. According to one embodiment, the communication module 190 is a wireless communication module 192 (eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (eg, : a local area network (LAN) communication module or a power line communication module). Among these communication modules, a corresponding communication module is a first network 198 (eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network 199 (eg, legacy It may communicate with the externalelectronic device 104 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a telecommunications network such as a computer network (eg, a LAN or a WAN). These various types of communication modules may be integrated as one component (eg, a single chip) or implemented as a plurality of separate components (eg, multiple chips). The wireless communication module 192 uses subscriber information (eg, International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 196 within a communication network such as the first network 198 or the second network 199. The electronic device 101 may be identified or authenticated.

무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제 2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일실시예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.The wireless communication module 192 may support a 5G network after a 4G network and a next-generation communication technology, for example, NR access technology (new radio access technology). NR access technologies include high-speed transmission of high-capacity data (enhanced mobile broadband (eMBB)), minimization of terminal power and access of multiple terminals (massive machine type communications (mMTC)), or high reliability and low latency (ultra-reliable and low latency (URLLC)). -latency communications)) can be supported. The wireless communication module 192 may support a high frequency band (eg, mmWave band) to achieve a high data rate, for example. The wireless communication module 192 uses various technologies for securing performance in a high frequency band, such as beamforming, massive multiple-input and multiple-output (MIMO), and full-dimensional multiplexing. Technologies such as input/output (FD-MIMO: full dimensional MIMO), array antenna, analog beam-forming, or large scale antenna may be supported. The wireless communication module 192 may support various requirements defined for the electronic device 101, an external electronic device (eg, the electronic device 104), or a network system (eg, the second network 199). According to one embodiment, the wireless communication module 192 is a peak data rate for eMBB realization (eg, 20 Gbps or more), a loss coverage for mMTC realization (eg, 164 dB or less), or a U-plane latency for URLLC realization (eg, Example: downlink (DL) and uplink (UL) each of 0.5 ms or less, orround trip 1 ms or less) may be supported.

안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.The antenna module 197 may transmit or receive signals or power to the outside (eg, an external electronic device). According to one embodiment, the antenna module 197 may include an antenna including a radiator formed of a conductor or a conductive pattern formed on a substrate (eg, PCB). According to one embodiment, the antenna module 197 may include a plurality of antennas (eg, an array antenna). In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 198 or the second network 199 is selected from the plurality of antennas by the communication module 190, for example. can be chosen A signal or power may be transmitted or received between the communication module 190 and an external electronic device through the selected at least one antenna. According to some embodiments, other components (eg, a radio frequency integrated circuit (RFIC)) may be additionally formed as a part of the antenna module 197 in addition to the radiator.

다양한 실시예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.According to various embodiments, the antenna module 197 may form a mmWave antenna module. According to one embodiment, the mmWave antenna module includes a printed circuit board, an RFIC disposed on or adjacent to a first surface (eg, a lower surface) of the printed circuit board and capable of supporting a designated high frequency band (eg, mmWave band); and a plurality of antennas (eg, array antennas) disposed on or adjacent to a second surface (eg, a top surface or a side surface) of the printed circuit board and capable of transmitting or receiving signals of the designated high frequency band. can do.

상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.At least some of the components are connected to each other through a communication method between peripheral devices (eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)) and signal ( e.g. commands or data) can be exchanged with each other.

일실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제 2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.According to an embodiment, commands or data may be transmitted or received between the electronic device 101 and the externalelectronic device 104 through theserver 108 connected to the second network 199 . Each of the externalelectronic devices 102 or 104 may be the same as or different from the electronic device 101 . According to an embodiment, all or part of operations executed in the electronic device 101 may be executed in one or more external electronic devices among the externalelectronic devices 102 , 104 , or 108 . For example, when the electronic device 101 needs to perform a certain function or service automatically or in response to a request from a user or another device, the electronic device 101 instead of executing the function or service by itself. Alternatively or additionally, one or more external electronic devices may be requested to perform the function or at least part of the service. One or more external electronic devices receiving the request may execute at least a part of the requested function or service or an additional function or service related to the request, and deliver the execution result to the electronic device 101 . The electronic device 101 may provide the result as at least part of a response to the request as it is or additionally processed. To this end, for example, cloud computing, distributed computing, mobile edge computing (MEC), or client-server computing technology may be used. The electronic device 101 may provide an ultra-low latency service using, for example, distributed computing or mobile edge computing. In another embodiment, the externalelectronic device 104 may include an internet of things (IoT) device.Server 108 may be an intelligent server using machine learning and/or neural networks. According to one embodiment, the externalelectronic device 104 orserver 108 may be included in the second network 199 . The electronic device 101 may be applied to intelligent services (eg, smart home, smart city, smart car, or health care) based on 5G communication technology and IoT-related technology.

도 2a 및 2b를 참조하면, 일 실시예에 따른 전자 장치(200)(예: 도 1의 전자 장치(101))는, 제1 면(또는 전면)(210A), 제2 면(또는 후면)(210B), 및 제1 면(210A) 및 제2 면(210B) 사이의 공간을 둘러싸는 측면(210C)을 포함하는 하우징(210)과, 상기 하우징(210)의 적어도 일부에 연결되고 상기 전자 장치(200)를 사용자의 신체 일부(예: 손목, 발목 등)에 탈착 가능하게 결착하도록 구성된 결착 부재(250, 260)를 포함할 수 있다. 다른 실시예(미도시)에서는, 하우징은, 도 2a 및 2b의 제1 면(210A), 제2 면(210B) 및 측면(210C)들 중 일부를 형성하는 구조를 지칭할 수도 있다. 일 실시예에 따르면, 제1 면(210A)은 적어도 일부분이 실질적으로 투명한 전면 플레이트(201)(예: 다양한 코팅 레이어들을 포함하는 글라스 플레이트, 또는 폴리머 플레이트)에 의하여 형성될 수 있다. 제2 면(210B)은 실질적으로 불투명한 후면 플레이트(207)에 의하여 형성될 수 있다. 상기 후면 플레이트(207)는, 예를 들어, 코팅 또는 착색된 유리, 세라믹, 폴리머, 금속(예: 알루미늄, 스테인레스 스틸(STS), 또는 마그네슘), 또는 상기 물질들 중 적어도 둘의 조합에 의하여 형성될 수 있다. 상기 측면(210C)은, 전면 플레이트(201) 및 후면 플레이트(207)와 결합하며, 금속 및/또는 폴리머를 포함하는 측면 베젤 구조 (또는 “측면 부재”)(206)에 의하여 형성될 수 있다. 어떤 실시예에서는, 후면 플레이트(207) 및 측면 베젤 구조(206)는 일체로 형성되고 동일한 물질(예: 알루미늄과 같은 금속 물질)을 포함할 수 있다. 상기 결착 부재(250, 260)는 다양한 재질 및 형태로 형성될 수 있다. 직조물, 가죽, 러버, 우레탄, 금속, 세라믹, 또는 상기 물질들 중 적어도 둘의 조합에 의하여 일체형 및 복수의 단위 링크가 서로 유동 가능하도록 형성될 수 있다.Referring to FIGS. 2A and 2B , an electronic device 200 (eg, the electronic device 101 of FIG. 1 ) according to an embodiment has a first side (or front side) 210A and a second side (or back side). 210B, and ahousing 210 including aside surface 210C surrounding a space between thefirst surface 210A and thesecond surface 210B, and connected to at least a part of thehousing 210, and the electronic Theapparatus 200 may includeattachment members 250 and 260 configured to detachably attach thedevice 200 to a part of the user's body (eg, a wrist or an ankle). In another embodiment (not shown), the housing may refer to a structure that forms part of thefirst face 210A, thesecond face 210B, and theside face 210C of FIGS. 2A and 2B . According to one embodiment, thefirst surface 210A may be formed by a front plate 201 (eg, a glass plate or a polymer plate including various coating layers) that is substantially transparent at least in part. Thesecond face 210B may be formed by the substantially opaque back plate 207 . The rear plate 207 is formed, for example, of coated or tinted glass, ceramic, polymer, metal (eg, aluminum, stainless steel (STS), or magnesium), or a combination of at least two of the foregoing. It can be. Theside surface 210C is coupled to thefront plate 201 and the rear plate 207 and may be formed by a side bezel structure (or “side member”) 206 including metal and/or polymer. In some embodiments, the back plate 207 and theside bezel structure 206 may be integrally formed and include the same material (eg, a metal material such as aluminum). The bindingmembers 250 and 260 may be formed of various materials and shapes. Integral and plurality of unit links may be formed to flow with each other by woven material, leather, rubber, urethane, metal, ceramic, or a combination of at least two of the above materials.

일 실시예에 따르면, 전자 장치(200)는, 디스플레이(220, 도 3 참조), 오디오 모듈(205, 208), 센서 모듈(211), 키 입력 장치(202, 203, 204) 및 커넥터 홀(209) 중 적어도 하나 이상을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(200)는, 구성요소들 중 적어도 하나(예: 키 입력 장치(202, 203, 204), 커넥터 홀(209), 또는 센서 모듈(211))를 생략하거나 다른 구성요소를 추가적으로 포함할 수 있다.According to an embodiment, theelectronic device 200 includes a display 220 (see FIG. 3),audio modules 205 and 208,sensor modules 211,key input devices 202, 203 and 204, and connector holes ( 209) may include at least one or more. In some embodiments, theelectronic device 200 omits at least one of the components (eg, thekey input devices 202, 203, 204, theconnector hole 209, or the sensor module 211) or has other components. Additional elements may be included.

디스플레이(220)는, 예를 들어, 전면 플레이트(201)의 상당 부분을 통하여 시각적으로 노출될 수 있다. 디스플레이(220)의 형태는, 상기 전면 플레이트(201)의 형태에 대응하는 형태일 수 있으며, 원형, 타원형, 또는 다각형과 같이 다양한 형태일 수 있다. 디스플레이(220)는, 터치 감지 회로, 터치의 세기(압력)를 측정할 수 있는 압력 센서, 및/또는 지문 센서와 결합되거나 인접하여 배치될 수 있다.Thedisplay 220 may be visually exposed, for example, through a substantial portion of thefront plate 201 . The shape of thedisplay 220 may be a shape corresponding to the shape of thefront plate 201, and may have various shapes such as a circular shape, an oval shape, or a polygonal shape. Thedisplay 220 may be coupled to or disposed adjacent to a touch sensing circuit, a pressure sensor capable of measuring the strength (pressure) of a touch, and/or a fingerprint sensor.

오디오 모듈(205, 208)은, 마이크 홀(205) 및 스피커 홀(208)을 포함할 수 있다. 마이크 홀(205)은 외부의 소리를 획득하기 위한 마이크가 내부에 배치될 수 있고, 어떤 실시예에서는 소리의 방향을 감지할 수 있도록 복수개의 마이크가 배치될 수 있다. 스피커 홀(208)은, 외부 스피커 및 통화용 리시버로 사용할 수 있다. 어떤 실시예에서는 스피커 홀(208)과 마이크 홀(205)이 하나의 홀로 구현 되거나, 스피커 홀(208) 없이 스피커가 포함될 수 있다(예: 피에조 스피커).Theaudio modules 205 and 208 may include amicrophone hole 205 and aspeaker hole 208 . A microphone for acquiring external sound may be disposed inside themicrophone hole 205, and in some embodiments, a plurality of microphones may be disposed to detect the direction of sound. Thespeaker hole 208 can be used as an external speaker and a receiver for a call. In some embodiments, thespeaker hole 208 and themicrophone hole 205 may be implemented as one hole, or a speaker may be included without the speaker hole 208 (eg, a piezo speaker).

센서 모듈(211)은, 전자 장치(200)의 내부의 작동 상태, 또는 외부의 환경 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 센서 모듈(211)은, 예를 들어, 상기 하우징(210)의 제2 면(210B)에 배치된 생체 센서 모듈(211)(예: HRM 센서)을 포함할 수 있다. 전자 장치(200)는, 도시되지 않은 센서 모듈, 예를 들어, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서 중 적어도 하나를 더 포함할 수 있다.Thesensor module 211 may generate an electrical signal or data value corresponding to an internal operating state of theelectronic device 200 or an external environmental state. Thesensor module 211 may include, for example, a biometric sensor module 211 (eg, an HRM sensor) disposed on thesecond surface 210B of thehousing 210 . Theelectronic device 200 includes a sensor module (not shown), for example, a gesture sensor, a gyro sensor, an air pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a color sensor, an IR (infrared) sensor, a bio sensor, a temperature sensor, At least one of a humidity sensor and an illuminance sensor may be further included.

센서 모듈(211)은 전자 장치(200)의 표면의 일부를 형성하는 전극 영역(213, 214) 및 전극 영역(213, 214)과 전기적으로 연결되는 생체 신호 검출 회로(미도시)를 포함할 수 있다. 예를 들어, 전극 영역(213, 214)은 하우징(210)의 제2 면(210B)에 배치되는 제1 전극 영역(213)과 제2 전극 영역(214)을 포함할 수 있다. 센서 모듈(211)은 전극 영역(213, 214)이 사용자의 신체 일부로부터 전기 신호를 획득하고, 생체 신호 검출 회로가 상기 전기 신호에 기반하여 사용자의 생체 정보를 검출하도록 구성될 수 있다.Thesensor module 211 may includeelectrode regions 213 and 214 forming a part of the surface of theelectronic device 200 and a biosignal detection circuit (not shown) electrically connected to theelectrode regions 213 and 214. there is. For example, theelectrode regions 213 and 214 may include afirst electrode region 213 and asecond electrode region 214 disposed on thesecond surface 210B of thehousing 210 . Thesensor module 211 may be configured such that theelectrode areas 213 and 214 obtain an electrical signal from a part of the user's body, and the biosignal detection circuit detects the user's biometric information based on the electrical signal.

키 입력 장치(202, 203, 204)는, 하우징(210)의 제1 면(210A)에 배치되고 적어도 하나의 방향으로 회전 가능한 휠 키(202), 및/또는 하우징(210)의 측면(210C)에 배치된 사이드 키 버튼(203, 204)을 포함할 수 있다. 휠 키는 전면 플레이트(201)의 형태에 대응하는 형태일 수 있다. 다른 실시예에서는, 전자 장치(200)는 상기 언급된 키 입력 장치(202, 203, 204)들 중 일부 또는 전부를 포함하지 않을 수 있고 포함 되지 않은 키 입력 장치(202, 203, 204)는 디스플레이(220) 상에 소프트 키 등 다른 형태로 구현될 수 있다. 커넥터 홀(209)은, 외부 전자 장치와 전력 및/또는 데이터를 송수신하기 위한 커넥터(예를 들어, USB 커넥터)를 수용할 수 있고 외부 전자 장치와 오디오 신호를 송수신하기 위한 커넥터를 수용할 수 있는 다른 커넥터 홀(미도시))을 포함할 수 있다. 전자 장치(200)는, 예를 들면, 커넥터 홀(209)의 적어도 일부를 덮고, 커넥터 홀에 대한 외부 이물질의 유입을 차단하는 커넥터 커버(미도시)를 더 포함할 수 있다.Thekey input devices 202, 203, and 204 include awheel key 202 disposed on afirst surface 210A of thehousing 210 and rotatable in at least one direction, and/or aside surface 210C of the housing 210. ) may include sidekey buttons 203 and 204 disposed on. The wheel key may have a shape corresponding to the shape of thefront plate 201 . In another embodiment, theelectronic device 200 may not include some or all of the above-mentionedkey input devices 202, 203, and 204, and thekey input devices 202, 203, and 204 that are not included may display 220 may be implemented in other forms such as soft keys. Theconnector hole 209 may accommodate a connector (eg, a USB connector) for transmitting and receiving power and/or data to and from an external electronic device and a connector for transmitting and receiving an audio signal to and from an external electronic device. Other connector holes (not shown) may be included. Theelectronic device 200 may further include, for example, a connector cover (not shown) that covers at least a portion of theconnector hole 209 and blocks external foreign substances from entering the connector hole.

결착 부재(250, 260)는 락킹 부재(251, 261)를 이용하여 하우징(210)의 적어도 일부 영역에 탈착 가능하도록 결착될 수 있다. 결착 부재(250, 260)는 고정 부재(252), 고정 부재 체결 홀(253), 밴드 가이드 부재(254), 밴드 고정 고리(255) 중 하나 또는 그 이상을 포함할 수 있다.The bindingmembers 250 and 260 may be detachably attached to at least a partial region of thehousing 210 using the lockingmembers 251 and 261 . Thefastening members 250 and 260 may include one or more of a fixingmember 252 , a fixingmember fastening hole 253 , aband guide member 254 , and aband fixing ring 255 .

고정 부재(252)는 하우징(210)과 결착 부재(250, 260)를 사용자의 신체 일부(예: 손목, 발목 등)에 고정시키도록 구성될 수 있다. 고정 부재 체결 홀(253)은 고정 부재(252)에 대응하여 하우징(210)과 결착 부재(250, 260)를 사용자의 신체 일부에 고정시킬 수 있다. 밴드 가이드 부재(254)는 고정 부재(252)가 고정 부재 체결 홀(253)과 체결 시 고정 부재(252)의 움직임 범위를 제한하도록 구성됨으로써, 결착 부재(250, 260)가 사용자의 신체 일부에 밀착하여 결착되도록 할 수 있다. 밴드 고정 고리(255)는 고정 부재(252)와 고정 부재 체결 홀(253)이 체결된 상태에서, 결착 부재(250,260)의 움직임 범위를 제한할 수 있다.The fixingmember 252 may be configured to fix thehousing 210 and thefastening members 250 and 260 to a part of the user's body (eg, wrist, ankle, etc.). The fixingmember fastening hole 253 corresponds to the fixingmember 252 to fix thehousing 210 and thefastening members 250 and 260 to a part of the user's body. Theband guide member 254 is configured to limit the movement range of the fixingmember 252 when the fixingmember 252 is fastened to the fixingmember fastening hole 253, so that thefastening members 250 and 260 are attached to a part of the user's body. It can be tightly bonded. Theband fixing ring 255 may limit the movement range of thefastening members 250 and 260 in a state in which the fixingmember 252 and the fixingmember fastening hole 253 are fastened.

도 3을 참조하면, 전자 장치(300)(예: 도 1의 전자 장치(101) 또는 도 2의 전자 장치(200))는 측면 베젤 구조(310), 휠 키(320), 전면 플레이트(201), 디스플레이(220), 제1 안테나(350), 제2 안테나(355), 지지 부재(360)(예: 브라켓), 배터리(370), 인쇄 회로 기판(380), 실링 부재(390), 후면 플레이트(393), 및 결착 부재(395, 397)를 포함할 수 있다. 전자 장치(300)의 구성요소들 중 적어도 하나는, 도 1의 전자 장치(101) 또는 도 2의 전자 장치(200)의 구성요소들 중 적어도 하나와 동일, 또는 유사할 수 있으며, 중복되는 설명은 이하 생략한다. 지지 부재(360)는, 전자 장치(300) 내부에 배치되어 측면 베젤 구조(310)와 연결될 수 있거나, 상기 측면 베젤 구조(310)와 일체로 형성될 수 있다. 지지 부재(360)는, 예를 들어, 금속 재질 및/또는 비금속 (예: 폴리머) 재질로 형성될 수 있다. 지지 부재(360)는, 일면에 디스플레이(220)가 결합되고 타면에 인쇄 회로 기판(380)이 결합될 수 있다. 인쇄 회로 기판(380)에는, 프로세서, 메모리, 및/또는 인터페이스가 장착될 수 있다. 프로세서는, 예를 들어, 중앙처리장치, GPU(graphic processing unit), 어플리케이션 프로세서 센서 프로세서, 또는 커뮤니케이션 프로세서 중 하나 또는 그 이상을 포함할 수 있다.Referring to FIG. 3 , an electronic device 300 (eg, the electronic device 101 of FIG. 1 or theelectronic device 200 of FIG. 2 ) includes aside bezel structure 310, awheel key 320, and a front plate 201 ),display 220,first antenna 350,second antenna 355, support member 360 (eg bracket),battery 370, printedcircuit board 380, sealingmember 390, Arear plate 393 andcoupling members 395 and 397 may be included. At least one of the components of theelectronic device 300 may be the same as or similar to at least one of the components of the electronic device 101 of FIG. 1 or theelectronic device 200 of FIG. 2 , and overlapping descriptions may be made. is omitted below. Thesupport member 360 may be disposed inside theelectronic device 300 and connected to theside bezel structure 310 or integrally formed with theside bezel structure 310 . Thesupport member 360 may be formed of, for example, a metal material and/or a non-metal (eg, polymer) material. Thesupport member 360 may have thedisplay 220 coupled to one surface and the printedcircuit board 380 coupled to the other surface. A processor, memory, and/or interface may be mounted on the printedcircuit board 380 . The processor may include, for example, one or more of a central processing unit, a graphic processing unit (GPU), an application processor, a sensor processor, or a communication processor.

메모리는, 예를 들어, 휘발성 메모리 또는 비휘발성 메모리를 포함할 수 있다. 인터페이스는, 예를 들어, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 및/또는 오디오 인터페이스를 포함할 수 있다. 인터페이스는, 예를 들어, 전자 장치(300)를 외부 전자 장치와 전기적 또는 물리적으로 연결시킬 수 있으며, USB 커넥터, SD 카드/MMC 커넥터, 또는 오디오 커넥터를 포함할 수 있다.Memory may include, for example, volatile memory or non-volatile memory. The interface may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, and/or an audio interface. The interface may electrically or physically connect theelectronic device 300 to an external electronic device, and may include a USB connector, an SD card/MMC connector, or an audio connector.

배터리(370)는, 전자 장치(300)의 적어도 하나의 구성 요소에 전력을 공급하기 위한 장치로서, 예를 들면, 재충전 불가능한 1차 전지, 또는 재충전 가능한 2차 전지, 또는 연료 전지를 포함할 수 있다. 배터리(370)의 적어도 일부는, 예를 들어, 인쇄 회로 기판(380)과 실질적으로 동일 평면 상에 배치될 수 있다. 배터리(370)는 전자 장치(200) 내부에 일체로 배치될 수 있고, 전자 장치(200)와 탈부착 가능하게 배치될 수도 있다.Thebattery 370 is a device for supplying power to at least one component of theelectronic device 300, and may include, for example, a non-rechargeable primary battery, a rechargeable secondary battery, or a fuel cell. there is. At least a portion of thebattery 370 may be disposed on substantially the same plane as the printedcircuit board 380 , for example. Thebattery 370 may be integrally disposed inside theelectronic device 200 or may be disposed detachably from theelectronic device 200 .

제 1 안테나(350)는 디스플레이(220)와 지지부재(360) 사이에 배치될 수 있다. 제 1 안테나(350)는, 예를 들어, NFC(near field communication) 안테나, 무선 충전 안테나, 및/또는 MST(magnetic secure transmission) 안테나를 포함할 수 있다. 제 1 안테나(350)는, 예를 들어, 외부 장치와 근거리 통신을 하거나, 충전에 필요한 전력을 무선으로 송수신 할 수 있고, 근거리 통신 신호 또는 결제 데이터를 포함하는 자기-기반 신호를 송출할 수 있다. 다른 실시예에서는, 측면 베젤 구조(310) 및/또는 상기 지지부재(360)의 일부 또는 그 조합에 의하여 안테나 구조가 형성될 수 있다.Thefirst antenna 350 may be disposed between thedisplay 220 and thesupport member 360 . Thefirst antenna 350 may include, for example, a near field communication (NFC) antenna, a wireless charging antenna, and/or a magnetic secure transmission (MST) antenna. Thefirst antenna 350 may, for example, perform short-range communication with an external device, wirelessly transmit/receive power required for charging, and transmit a short-range communication signal or a magnetic-based signal including payment data. . In another embodiment, an antenna structure may be formed by a part of theside bezel structure 310 and/or thesupport member 360 or a combination thereof.

제 2 안테나(355)는 인쇄 회로 기판(380)과 후면 플레이트(393) 사이에 배치될 수 있다. 제 2 안테나(355)는, 예를 들어, NFC(near field communication) 안테나, 무선 충전 안테나, 및/또는 MST(magnetic secure transmission) 안테나를 포함할 수 있다. 제 2 안테나(355)는, 예를 들어, 외부 장치와 근거리 통신을 하거나, 충전에 필요한 전력을 무선으로 송수신 할 수 있고, 근거리 통신 신호 또는 결제 데이터를 포함하는 자기-기반 신호를 송출할 수 있다. 다른 실시예에서는, 측면 베젤 구조(310) 및/또는 상기 후면 플레이트(393)의 일부 또는 그 조합에 의하여 안테나 구조가 형성될 수 있다.Thesecond antenna 355 may be disposed between the printedcircuit board 380 and therear plate 393 . Thesecond antenna 355 may include, for example, a near field communication (NFC) antenna, a wireless charging antenna, and/or a magnetic secure transmission (MST) antenna. Thesecond antenna 355 may, for example, perform short-range communication with an external device, wirelessly transmit/receive power required for charging, and transmit a short-range communication signal or a magnetic-based signal including payment data. . In another embodiment, an antenna structure may be formed by a part of theside bezel structure 310 and/or therear plate 393 or a combination thereof.

실링 부재(390)는 측면 베젤 구조(310)와 후면 플레이트(393) 사이에 위치할 수 있다. 실링 부재(390)는, 외부로부터 측면 베젤 구조(310)와 후면 플레이트(393)에 의해 둘러싸인 공간으로 유입되는 습기와 이물을 차단하도록 구성될 수 있다.The sealingmember 390 may be positioned between theside bezel structure 310 and therear plate 393 . The sealingmember 390 may be configured to block moisture and foreign substances from entering into the space surrounded by theside bezel structure 310 and theback plate 393 from the outside.

본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.Electronic devices according to various embodiments disclosed in this document may be devices of various types. The electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance. An electronic device according to an embodiment of the present document is not limited to the aforementioned devices.

본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.Various embodiments of this document and terms used therein are not intended to limit the technical features described in this document to specific embodiments, but should be understood to include various modifications, equivalents, or substitutes of the embodiments. In connection with the description of the drawings, like reference numbers may be used for like or related elements. The singular form of a noun corresponding to an item may include one item or a plurality of items, unless the relevant context clearly dictates otherwise. In this document, "A or B", "at least one of A and B", "at least one of A or B", "A, B or C", "at least one of A, B and C", and "A Each of the phrases such as "at least one of , B, or C" may include any one of the items listed together in that phrase, or all possible combinations thereof. Terms such as "first", "second", or "first" or "secondary" may simply be used to distinguish a given component from other corresponding components, and may be used to refer to a given component in another aspect (eg, importance or order) is not limited. A (e.g., first) component is said to be "coupled" or "connected" to another (e.g., second) component, with or without the terms "functionally" or "communicatively." When mentioned, it means that the certain component may be connected to the other component directly (eg by wire), wirelessly, or through a third component.

본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.The term "module" used in various embodiments of this document may include a unit implemented in hardware, software, or firmware, and is interchangeable with terms such as, for example, logic, logical blocks, parts, or circuits. can be used as A module may be an integrally constructed component or a minimal unit of components or a portion thereof that performs one or more functions. For example, according to one embodiment, the module may be implemented in the form of an application-specific integrated circuit (ASIC).

본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.Various embodiments of this document provide one or more instructions stored in a storage medium (eg, internal memory 136 or external memory 138) readable by a machine (eg, electronic device 101). It may be implemented as software (eg, the program 140) including them. For example, a processor (eg, the processor 120 ) of a device (eg, the electronic device 101 ) may call at least one command among one or more instructions stored from a storage medium and execute it. This enables the device to be operated to perform at least one function according to the at least one command invoked. The one or more instructions may include code generated by a compiler or code executable by an interpreter. The device-readable storage medium may be provided in the form of a non-transitory storage medium. Here, 'non-temporary' only means that the storage medium is a tangible device and does not contain a signal (e.g. electromagnetic wave), and this term refers to the case where data is stored semi-permanently in the storage medium. It does not discriminate when it is temporarily stored.

일실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.According to one embodiment, the method according to various embodiments disclosed in this document may be included and provided in a computer program product. Computer program products may be traded between sellers and buyers as commodities. A computer program product is distributed in the form of a device-readable storage medium (e.g. compact disc read only memory (CD-ROM)), or through an application store (e.g. Play Store™) or on two user devices (e.g. It can be distributed (eg downloaded or uploaded) online, directly between smart phones. In the case of online distribution, at least part of the computer program product may be temporarily stored or temporarily created in a device-readable storage medium such as a manufacturer's server, an application store server, or a relay server's memory.

다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.According to various embodiments, each component (eg, module or program) of the above-described components may include a single object or a plurality of entities, and some of the plurality of entities may be separately disposed in other components. there is. According to various embodiments, one or more components or operations among the aforementioned corresponding components may be omitted, or one or more other components or operations may be added. Alternatively or additionally, a plurality of components (eg modules or programs) may be integrated into a single component. In this case, the integrated component may perform one or more functions of each of the plurality of components identically or similarly to those performed by a corresponding component of the plurality of components prior to the integration. . According to various embodiments, the actions performed by a module, program, or other component are executed sequentially, in parallel, iteratively, or heuristically, or one or more of the actions are executed in a different order, or omitted. or one or more other actions may be added.

도 4는 전자 장치에서 제스처 인식이 수행되는 과정을 설명하는 도면이다.4 is a diagram illustrating a process of performing gesture recognition in an electronic device.

전자 장치에서 제스처 인식이 사용되는 애플리케이션은 매우 다양하다. 예를 들어, 전화가 걸려오는 경우에 사용자는 전화를 수신하기 위하여 OCO(open-clench-open) 제스처를 수행할 수 있고, 전자 장치는 사용자의 OCO 제스처를 인식함으로써 걸려오는 전화를 수신할 수 있다. 이러한 동작을 위해서 전자 장치는 센서의 신호를 관측하다가 신호가 튀는 부분을 크롭(crop)하는 세그멘테이션(segmentation) 동작을 수행해야 하며, 세그멘테이션 동작의 수행에 의해 획득된 신호 부분으로부터 여러 특징들을 추출하는 분류(classification) 동작을 수행하여야 한다. 전자 장치의 제스처 인식 성능을 높이기 위해서는 입력 데이터가 나타내는 제스처 종류를 판단 할 수 있는 분류기(classifier)의 성능을 높이는 것이 필요하다. 전자 장치는 트레이닝 하고자 하는 제스처들 각각에 대한 트레이닝 데이터 샘플들을 수집할 수 있고, 수집된 트레이닝 데이터 샘플들을 분류기에 입력하여 반복적으로 트레이닝시킴으로써 분류기를 생성할 수 있다.There are many applications in which gesture recognition is used in electronic devices. For example, when a call is incoming, the user may perform an open-clench-open (OCO) gesture to receive the call, and the electronic device may receive the incoming call by recognizing the user's OCO gesture. . For this operation, the electronic device must observe the signal of the sensor and perform a segmentation operation to crop the part where the signal bounces, and to extract various features from the signal part obtained by performing the segmentation operation. (classification) operation must be performed. In order to improve the gesture recognition performance of an electronic device, it is necessary to improve the performance of a classifier capable of determining the type of gesture represented by input data. The electronic device may collect training data samples for each of the gestures to be trained, input the collected training data samples to the classifier, and repeatedly train the classifier to generate a classifier.

도 5는 분류기에서 트레이닝을 통해 제스처를 분류할 수 있는 네트워크가 형성되는 과정을 설명하는 도면이다.5 is a diagram illustrating a process of forming a network capable of classifying gestures through training in a classifier.

분류기(501)에서 트레이닝을 통해 제스처를 분류할 수 있는 네트워크(510)가 형성될 수 있다. 네트워크(510)는 다층 퍼셉트론 네트워크(multi-layer perceptron network)(511) 및 완전 연결된 네트워크(fully connected network)(512)로 구성될 수 있다. 다층 퍼셉트론 네트워크(511)는 복수의 노드들을 포함할 수 있고, 복수의 노드들 각각은 입력 데이터의 세분화된 정보에 기초하여 활성 또는 비활성화 중 하나로 결정된 정보를 다른 노드로 전송할 수 있다. 다층 퍼셉트론 네트워크(511)는 입력 데이터에 대한 제스처의 특징들을 세밀하게 분류할 수 있다. 완전 연결된 네트워크(512)는 다층 퍼셉트론 네트워크(511)로부터 세밀하게 분류된 입력 데이터의 제스처의 특징들에 기초하여 입력 데이터에 대응하는 스코어(score)를 산출할 수 있다. 예를 들어, 네트워크가 'OCO 제스처'와 'OCO가 아닌 제스처'의 두 분류에 대하여 트레이닝되는 경우, 다층 퍼셉트론 네트워크(511)는 두 분류를 세밀하게 나눌 수 있는 특징들에 대한 노드들로 구성된다. 다층 퍼셉트론 네트워크(511)는 임의의 입력 데이터가 입력되는 경우에 입력 데이터의 세밀하게 분류된 특징들에 대한 정보를 완전 연결된 네트워크(512)에 전송할 수 있고, 완전 연결된 네트워크(512)는 입력 데이터의 세밀하게 분류된 특징들을 통합하여 'OCO 제스처'에 대한 스코어 및 'OCO가 아닌 제스처' 각각에 대한 스코어를 산출할 수 있다. 네트워크(510)는 분류 별로 산출된 스코어에 기초하여 입력 신호가 어떠한 제스처를 나타내는 지 판단할 수 있다. 예를 들어, 'OCO 제스처'에 대한 스코어가 90으로 산출되고, 'OCO가 아닌 제스처'에 대한 스코어가 10으로 산출되는 경우, 네트워크(510)는 입력 데이터가 'OCO 제스처'를 나타내는 것으로 판단할 수 있다.Anetwork 510 capable of classifying gestures may be formed through training in theclassifier 501 . Thenetwork 510 may include amulti-layer perceptron network 511 and a fully connectednetwork 512 . Themultilayer perceptron network 511 may include a plurality of nodes, and each of the plurality of nodes may transmit information determined to be active or inactive based on segmented information of input data to another node. Themulti-layer perceptron network 511 may classify gesture characteristics of input data in detail. The fully connectednetwork 512 may calculate a score corresponding to the input data based on the characteristics of the gesture of the input data finely classified from themultilayer perceptron network 511 . For example, if the network is trained on two categories of 'OCO gesture' and 'non-OCO gesture', themultilayer perceptron network 511 is composed of nodes for features that can subdivide the two categories in detail. . Themulti-layer perceptron network 511 may transmit information about finely classified characteristics of the input data to the fully connectednetwork 512 when any input data is input, and the fully connectednetwork 512 may transmit information about the input data. A score for an 'OCO gesture' and a score for each of a 'non-OCO gesture' may be calculated by integrating the finely classified features. Thenetwork 510 may determine which gesture the input signal represents based on the score calculated for each category. For example, when the score for 'OCO gesture' is calculated as 90 and the score for 'non-OCO gesture' is calculated as 10, thenetwork 510 determines that the input data represents the 'OCO gesture'. can

전자 장치가 네트워크(510)를 트레이닝시키는 경우, 트레이닝 데이터 셋(training data set)(511)을 생성하는 것이 중요하다. 분류기(501)의 오류를 최소화하기 위해서는 트레이닝 데이터 셋(511)이 정확한 데이터 샘플들로만 구성되어 있어야 하고, 트레이닝 데이터 셋에 포함된 데이터 샘플들은 제스처들에 대한 데이터 샘플들을 대표할 수 있어야 한다. 즉, 트레이닝 데이터 셋을 생성하기 위해서는 제스처들에 대한 데이터 샘플들을 대표하는 것으로 볼 수 있을 정도로 충분히 많은 데이터 샘플들이 수집되어야 한다. 이를 위해 종래에는 다양한 사람(예를 들어, 성별, 나이, 피부톤), 다양한 상황(예를 들어, 서 있는 상황, 앉아 있는 상황, 걸어가는 상황), 다양한 착용상태(예를 들어, 느슨한 착용상태, 타이트한 착용상태) 등 최대한 많은 다양성을 가진 데이터 샘플들을 수집하였고, 수집된 데이터 샘플들을 검수하여 트레이닝 데이터 셋을 생성하였다.When the electronic device trains thenetwork 510, it is important to create atraining data set 511. In order to minimize the error of theclassifier 501, thetraining data set 511 should consist of only accurate data samples, and the data samples included in the training data set should be able to represent data samples for gestures. That is, in order to generate a training data set, a sufficient number of data samples must be collected to be regarded as representing data samples for gestures. To this end, conventionally, various people (eg gender, age, skin tone), various situations (eg standing situation, sitting situation, walking situation), various wearing conditions (eg loose wearing condition, Tight wearing condition), etc., were collected, and a training data set was created by inspecting the collected data samples.

도 6은 일 실시예에 따른 전자 장치가 분류기를 업데이트하는 동작을 개략적으로 설명하는 흐름도이다.6 is a flowchart schematically illustrating an operation of updating a classifier by an electronic device according to an exemplary embodiment.

일 실시예에 따르면, 전자 장치는 트레이닝 데이터 셋으로 트레이닝된 보편적 분류기를 포함할 수 있다. 사용자는 전자 장치에 포함된 보편적 분류기를 기본으로 사용할 수 있다. 사용자는 보편적 분류기를 자신에게 맞추고 싶은 경우 또는 보편적 분류기가 자신에게 적합하지 않은 분류기인 것으로 판단되는 경우에 보편적 분류기(이하, '분류기')의 업데이트를 요청할 수 있다. 전자 장치는 사용자로부터 타겟 제스처 샘플을 수집하여 분류기를 업데이트할 수 있다.According to an embodiment, the electronic device may include a universal classifier trained with a training data set. The user can use the universal classifier included in the electronic device as a basis. The user may request an update of the universal classifier (hereinafter referred to as 'classifier') if he or she wants to adapt the universal classifier to himself or if it is determined that the universal classifier is not suitable for the user. The electronic device may update the classifier by collecting target gesture samples from the user.

동작(610)에서 전자 장치는 타겟 제스처 샘플을 수집할 수 있다. 사용자는 타겟 제스처에 대한 동작을 수행할 수 있다. 전자 장치는 사용자가 수행하는 타겟 제스처에 대한 동작을 센서로 인식하여 타겟 제스처에 대한 데이터 샘플(이하, '타겟 제스처 샘플')을 수집 및 저장할 수 있다.Inoperation 610, the electronic device may collect target gesture samples. A user may perform an operation for a target gesture. The electronic device may collect and store a data sample (hereinafter referred to as 'target gesture sample') for the target gesture by recognizing an operation of the user's target gesture with a sensor.

동작(620)에서 전자 장치는 수집된 타겟 제스처 샘플을 분류기에 입력하여 타겟 제스처 샘플에 대응하는 제1 리프들을 식별할 수 있다. 전자 장치는 식별된 제1 리프들에 관한 정보를 저장할 수 있다. 예를 들어, 전자 장치는 식별된 제1 리프들 각각의 인덱스 번호를 저장할 수 있다. 타겟 제스처 샘플에 대응하는 제1 리프들이란 타겟 제스처 샘플이 분류기에 입력 데이터로 입력되는 경우에 다층 퍼셉트론 네트워크의 트리 별로 최종적으로 도달하는 리프들을 나타낼 수 있다. 이하 명세서에서는, 리프의 인덱스 번호를 리프 인덱스로 설명한다.Inoperation 620, the electronic device may identify first leaves corresponding to the target gesture sample by inputting the collected target gesture sample to a classifier. The electronic device may store information about the identified first leaves. For example, the electronic device may store an index number of each of the identified first leaves. The first leaves corresponding to the target gesture sample may represent leaves finally reached for each tree of the multilayer perceptron network when the target gesture sample is input as input data to the classifier. In the following specification, the index number of a leaf is described as a leaf index.

동작(630)에서 전자 장치는 식별된 제1 리프들이 가중치를 더 갖도록 식별된 제1 리프들 각각의 보상값(리턴값이라고도 함)을 업데이트(update)할 수 있다. 다시 말해, 전자 장치는 식별된 제1 리프들 각각의 보상값에 바이어스를 적용하여 업데이트함으로써 분류기를 사용자에 적합하도록 업데이트할 수 있다. 전자 장치는 저장된 리프 인덱스에 대응하는 레지스트리로부터 식별된 제1 리프들 각각의 보상값을 로드할 수 있고, 식별된 제1 리프들 각각의 보상값을 업데이트 단위 값 만큼 증가시킴으로써 분류기를 업데이트할 수 있다.Inoperation 630, the electronic device may update a compensation value (also referred to as a return value) of each of the identified first leaves so that the identified first leaves have more weight. In other words, the electronic device may update the classifier to suit the user by applying and updating the compensation value of each of the identified first leaves. The electronic device may load the compensation value of each of the identified first leaves from the registry corresponding to the stored leaf index, and update the classifier by increasing the compensation value of each of the identified first leaves by an update unit value. .

도 7은 일 실시예에 따른 전자 장치가 분류기를 업데이트하는 과정을 설명하는 도면이다.7 is a diagram illustrating a process of updating a classifier by an electronic device according to an exemplary embodiment.

일 실시예에 따른 전자 장치는 리프들의 보상값을 업데이트함으로써 분류기를 업데이트할 수 있다. 전자 장치는 다중 퍼셉트론 네트워크(511)로부터 완전 연결된 네트워크(512)로 넘어가는 단계에 배치된 리프들(710)의 보상값을 업데이트할 수 있다.The electronic device according to an embodiment may update the classifier by updating compensation values of leaves. The electronic device may update the compensation values of theleaves 710 arranged in a step of transitioning from themulti-perceptron network 511 to the fully connectednetwork 512 .

리프들(710)은 완전 연결된 네트워크(512)에서 분류 별로 스코어를 산출하는 동작이 수행되기 바로 전에 배치된 노드들을 나타낼 수 있다. 리프들의 보상값을 업데이트 하는 것은 입력 데이터가 네트워크에 입력 되는 경우에 리프까지 도달하는 네트워크 경로에 가중치를 부여하는 것을 나타낼 수 있다. 이하 명세서에서는, 다층 퍼셉트론 네트워크(511)가 결정트리 네트워크(decision tree network)인 경우를 주로 설명하나, 다층 퍼셉트론 네트워크를 반드시 이로 한정하는 것은 아니다.Theleaves 710 may represent nodes placed just before an operation to calculate a score for each classification in the fully connectednetwork 512 is performed. Updating the compensation values of the leaves may represent weighting a network path reaching the leaf when input data is input to the network. In the following specification, a case in which themultilayer perceptron network 511 is a decision tree network is mainly described, but the multilayer perceptron network is not necessarily limited thereto.

도 8은 결정트리 네트워크 기반 분류기(810)의 구조를 설명하는 도면이다.8 is a diagram illustrating the structure of aclassifier 810 based on a decision tree network.

분류기(810)는 다수의 트리들(trees)(811, 812, …, 813)을 포함할 수 있고, 각 트리 내에서는 이진 결정(binary decision)을 기반으로 하나의 노드로부터 오른쪽 또는 왼쪽의 브랜치(branch)로 뻗어나가 다음의 노드로 도달하며, 브랜치들은 최종적으로 리프(leaf)에서 종료될 수 있다. 입력 데이터가 하나의 트리에 입력되어 해당 트리 내의 리프에 도달하게 되면, 도달된 리프의 보상값이 반환될 수 있다. 예를 들어, 트리(811)에 입력 데이터가 입력되어 리프(811-0)에 도달하게 되면, 전자 장치는 리프(811-0)의 리프 인덱스(index)에 대응하는 레지스트리(A₀)로부터 리프(811-0)의 보상값을 로드할 수 있다.Theclassifier 810 may include a plurality oftrees 811, 812, ..., 813, and within each tree, a branch to the right or left from one node based on a binary decision (binary decision) branch to reach the next node, and branches may finally terminate at a leaf. When input data is entered into one tree and reaches a leaf in the tree, a reward value of the reached leaf may be returned. For example, when input data is input to thetree 811 and reaches the leaf 811-0, the electronic device receives the leaf from the registry A₀ corresponding to the leaf index of the leaf 811-0. The compensation value of (811-0) can be loaded.

분류기는 트레이닝 알고리즘에 의해 최적화될 수 있고, 트레이닝 데이터 셋으로 분류기가 트레이닝됨에 따라 트레이닝 데이터 셋이 대표할 수 있는 전체 집단에 대한 제스처 인식 성능을 최대화할 수 있다. 그러나, 분류기가 전체 집단에 대한 제스처 인식 성능이 최대화 되었다고 하더라도, 개인에 대하여 제스처 인식 성능이 최대화 되었다고는 할 수 없다. 다시 말해, 분류기는 개개인에 대한 제스처 인식 성능에 최적화가 되어 있는 것이 아니기 때문에, 개인에 대하여 제스처 인식 성능이 최대화 된 것은 아니다. 일 실시예에 따른 전자 장치는 분류기의 리프들의 보상값을 조정함으로써 분류기의 개인에 대한 제스처 인식 성능을 최대화할 수 있다.The classifier can be optimized by a training algorithm, and as the classifier is trained with the training data set, gesture recognition performance for the entire group that can be represented by the training data set can be maximized. However, even if the classifier maximizes the gesture recognition performance for the entire group, it cannot be said that the gesture recognition performance for the individual is maximized. In other words, since the classifier is not optimized for gesture recognition performance for each individual, gesture recognition performance for each individual is not maximized. An electronic device according to an embodiment may maximize gesture recognition performance of a classifier for an individual by adjusting compensation values of leaves of the classifier.

도 9는 일 실시예에 따른 전자 장치가 결정트리 네트워크 기반 분류기(810)에 데이터 샘플을 입력하여 분류기를 업데이트하는 과정을 설명하는 도면이다.FIG. 9 is a diagram illustrating a process of updating the classifier by inputting a data sample to the decision tree network-basedclassifier 810 by an electronic device according to an embodiment.

전자 장치는 입력 데이터를 결정트리 네트워크 기반 분류기(810)에 입력할 수 있다. 여기서, 입력 데이터는 타겟 제스처 샘플(911)일 수 있다. 타겟 제스처 샘플(911)이 결정트리 네트워크 기반 분류기(810)에 입력되는 경우, 분류기(810)의 트리들(811, 812, …, 813) 각각에서는 이진 결정을 기반으로 브랜치 선택 및 노드 선택이 이루어질 수 있다. 예를 들어, 제1 트리(811)에 입력 데이터(911)가 입력되는 경우, 제1 트리(811)의 가장 상위 노드(821)가 선택될 수 있다. 그리고, 노드(821)가 갖는 조건(condition)에 따라 우측 브랜치 또는 좌측 브랜치 중 하나가 선택될 수 있고, 예를 들어, 좌측 브랜치가 선택된 경우에는 노드(821)의 좌측 자녀 노드인 노드(831)가 선택될 수 있다. 노드(831)가 갖는 조건에 따라 다시 하나의 브랜치가 선택될 수 있고, 선택된 브랜치에 의해 노드(831)의 자녀 노드가 선택될 수 있다. 이러한 방식으로, 트리(811) 내에서 브랜치 선택과 노드 선택이 반복됨으로써 트리(811) 내의 리프(811-1)가 최종적으로 선택될 수 있고, 선택된 리프(811-1)의 보상값을 타겟 제스처 샘플(911)이 트리(811)로부터 획득하는 스코어인 것으로 판단할 수 있다. 유사한 방식으로, 전자 장치는 나머지 트리들(812, …, 813) 각각에 타겟 제스처 샘플(911)을 입력함으로써 트리들(812, …, 813) 각각에 대한 스코어를 산출할 수 있다. 전자 장치는 트리들(811, 812, …, 813) 각각에 대하여 산출된 스코어를 모두 합산할 수 있고, 합산된 스코어를 타겟 제스처 샘플이 분류기(810)로부터 획득하는 최종 스코어인 것으로 판단할 수 있다.The electronic device may input input data to theclassifier 810 based on the decision tree network. Here, the input data may be the target gesture sample 911. When the target gesture sample 911 is input to the decision tree network-basedclassifier 810, each of thetrees 811, 812, ..., 813 of theclassifier 810 performs branch selection and node selection based on a binary decision. can For example, when the input data 911 is input to thefirst tree 811, the highest node 821 of thefirst tree 811 may be selected. In addition, either the right branch or the left branch may be selected according to a condition of the node 821. For example, when the left branch is selected, the node 831, which is a left child node of the node 821, may be selected. can be selected. Depending on the condition of the node 831, another branch may be selected, and child nodes of the node 831 may be selected by the selected branch. In this way, by repeating branch selection and node selection within thetree 811, the leaf 811-1 within thetree 811 can be finally selected, and the reward value of the selected leaf 811-1 is set as the target gesture. It can be determined that the sample 911 is a score obtained from thetree 811 . In a similar manner, the electronic device may calculate scores for each of thetrees 812, ..., 813 by inputting the target gesture sample 911 to each of the remainingtrees 812, ..., 813. The electronic device may sum all the scores calculated for each of thetrees 811, 812, ..., 813, and determine the summed score as the final score obtained from theclassifier 810 for the target gesture sample. .

일 실시예에 따른 전자 장치는 타겟 제스처 샘플(911)을 분류기(810)에 입력하여 분류기(810)를 사용자에 맞추어 업데이트할 수 있다. 전자 장치는 타겟 제스처 샘플(911)을 트리들(811, 812, …, 813) 별로 입력할 수 있고, 타겟 제스처 샘플(911)에 대응하여 트리 별로 선택되는 제1 리프들을 식별할 수 있다. 여기서, 제1 리프는 타겟 제스처 샘플에 대응하여 선택되는 리프를 나타낼 수 있다. 전자 장치는 식별된 리프들 각각의 보상값을 업데이트 단위 값(

) 만큼 증가시킬 수 있다.The electronic device according to an embodiment may update theclassifier 810 according to the user by inputting the target gesture sample 911 to theclassifier 810 . The electronic device may input the target gesture sample 911 for each of thetrees 811, 812, ..., 813, and may identify first leaves selected for each tree in correspondence with the target gesture sample 911. Here, the first leaf may indicate a leaf selected to correspond to the target gesture sample. The electronic device sets the compensation value of each of the identified leaves as an update unit value (

) can be increased by

예를 들어, 전자 장치는 타겟 제스처 샘플(911)을 분류기(810)에 입력하여 트리들(811, 812, …, 813) 별로 선택되는 제1 리프들(811-1, 812-15, …, 813-2) 각각의 리프 인덱스를 저장할 수 있다. 전자 장치는 저장된 리프 인덱스들 각각에 대응하는 레지스트리로부터 로드된 제1 리프들(811-1, 812-15, …, 813-2) 각각의 보상값을 증가시킬 수 있다. 이하 명세서에서는, 타겟 제스처 샘플을 분류기에 입력하여 타겟 제스처 샘플에 대응하여 트리 별로 선택되는 제1 리프들 각각의 보상값을 증가시키는 과정을 분류기의 상향 업데이트 동작으로 설명한다.For example, the electronic device inputs the target gesture sample 911 to theclassifier 810 and selects first leaves 811-1, 812-15, ..., for eachtree 811, 812, ..., 813. 813-2) Each leaf index may be stored. The electronic device may increase the compensation value of each of the first leaves 811-1, 812-15, ..., 813-2 loaded from the registry corresponding to each of the stored leaf indexes. In the following specification, a process of inputting a target gesture sample to the classifier and increasing a reward value of each of the first leaves selected for each tree corresponding to the target gesture sample will be described as an upward update operation of the classifier.

분류기(810)에 포함된 트리들의 총 개수는 N개일 수 있다. 여기서, N은 1 이상의 자연수를 나타낼 수 있다. 타겟 제스처 샘플에 대응하는 제1 리프들(811-1, 812-15, …, 813-2) 각각의 보상값을 업데이트 단위 값(

) 만큼 증가시켜 분류기(810)를 업데이트시킨 경우, 동일한 타겟 제스처 샘플이 분류기(810)에 입력되면 타겟 제스처 샘플에 대하여 산출되는 최종 스코어는 상향 업데이트 동작이 수행되기 이전의 분류기에서 해당 타겟 제스처 샘플에 대하여 산출되는 최종 스코어 보다

만큼 증가하게 된다.The total number of trees included in theclassifier 810 may be N. Here, N may represent a natural number of 1 or greater. An update unit value (

) to update theclassifier 810, if the same target gesture sample is input to theclassifier 810, the final score calculated for the target gesture sample is the target gesture sample in the classifier before the upward update operation is performed. than the final score calculated for

will increase as much as

일 실시예에 따르면, 전자 장치는 오경보 데이터(false alarm data) 샘플을 분류기(810)에 입력하여 분류기(810)를 사용자에 맞추어 업데이트할 수 있다. 여기서, 오경보 데이터 샘플이란 타겟 제스처를 나타내는 데이터 샘플이 아니지만 분류기(810)가 타겟 제스처로 잘못 판단하는 데이터 샘플을 나타낼 수 있다. 타겟 제스처 샘플만을 분류기(810)에 입력하여 제1 리프들의 보상값을 증가시키는 경우, 분류기(810) 내의 전체 리프들의 보상값의 합(sum)이 계속 증가하기 때문에 분류기(810)에서 오경보(false alarm)가 발생될 확률이 높아질 수 있는 부작용이 존재한다. 오경보란 분류기(810)에 타겟 제스처를 나타내지 않는 데이터 샘플을 입력하는 경우에 분류기(810)가 해당 데이터 샘플이 타겟 제스처를 나타내는 것으로 판단하는 것을 나타낼 수 있다.According to an embodiment, the electronic device may update theclassifier 810 according to the user by inputting false alarm data samples to theclassifier 810 . Here, the false alarm data sample is not a data sample representing the target gesture, but may represent a data sample that theclassifier 810 incorrectly determines as the target gesture. When the reward value of the first leaves is increased by inputting only the target gesture sample to theclassifier 810, theclassifier 810 generates a false alarm because the sum of reward values of all leaves in theclassifier 810 continues to increase. There are side effects that may increase the probability of an alarm). A false alarm may indicate that when a data sample that does not represent a target gesture is input to theclassifier 810, theclassifier 810 determines that the corresponding data sample represents the target gesture.

예를 들어, 타겟 제스처 샘플들 만을 사용하여 분류기가 업데이트된 경우를 가정한다. 타겟 제스처 외의 다른 제스처와 관련된 데이터 샘플이 업데이트된 분류기에 입력되고, 입력된 데이터 샘플에 대응하여 보상값이 크게 증가된 리프들이 선택되는 경우, 데이터 샘플에 대하여 산출되는 최종 스코어가 업데이트 이전의 분류기에서의 데이터 샘플에 대하여 산출되는 최종 스코어 보다 높게되는 결과가 발생할 수 있다. 이러한 경우, 분류기는 해당 데이터 샘플이 타겟 제스처를 나타내는 것으로 잘못 판정할 확률이 높아지는 문제점이 발생한다. 이러한 부작용을 방지하기 위해 전체 리프들의 보상값들의 합(sum)이 증가하지 않도록 반대 급부의 동작이 함께 수행 될 필요가 있다.For example, it is assumed that the classifier is updated using only target gesture samples. When a data sample related to a gesture other than the target gesture is input to the updated classifier, and leaves with a greatly increased reward value corresponding to the input data sample are selected, the final score calculated for the data sample is obtained from the classifier before the update. A result that is higher than the final score calculated for the data sample of . In this case, the classifier has a high probability of erroneously determining that the corresponding data sample represents the target gesture. In order to prevent such a side effect, the operation of the opposite benefit needs to be performed together so that the sum of compensation values of all leaves does not increase.

일 실시예에 따르면, 전자 장치는 오경보 데이터 샘플을 분류기(810)에 입력하여, 트리들(811, 812, …, 813) 별로 선택되는 제2 리프들을 식별할 수 있다. 제2 리프는 오경보 데이터 샘플에 대응하여 선택되는 리프를 나타낼 수 있다. 전자 장치는 식별된 제2 리프들 각각의 보상값을 감소시킬 수 있다. 전자 장치는 식별된 제2 리프들 각각의 보상값을 업데이트 단위 값(

) 만큼 감소시킬 수 있다. 이하 명세서에서는, 오경보 데이터 샘플을 분류기에 입력하여 오경보 데이터 샘플에 대응하여 트리 별로 선택되는 제2 리프들 각각의 보상값을 감소시키는 과정을 분류기의 하향 업데이트 동작으로 설명한다.According to an embodiment, the electronic device may input false alarm data samples to theclassifier 810 to identify second leaves selected for each of thetrees 811, 812, ..., 813. The second leaf may indicate a leaf selected in response to the false alarm data sample. The electronic device may decrease a compensation value of each of the identified second leaves. The electronic device sets the compensation value of each of the identified second leaves to an update unit value (

) can be reduced by In the following specification, a process of inputting a false alarm data sample to the classifier and reducing a compensation value of each of the second leaves selected for each tree corresponding to the false alarm data sample will be described as a downward update operation of the classifier.

분류기(810)에 포함된 트리들의 총 개수가 N개이고, 오경보 데이터 샘플에 대응하는 제2 리프들 각각의 보상값을 업데이트 단위 값(

) 만큼 감소시켜 분류기(810)를 업데이트시킨 경우, 동일한 오경보 데이터 샘플이 분류기(810)에 입력되면 오경보 데이터 샘플에 대하여 산출되는 최종 스코어는 하향 업데이트 동작이 수행되기 이전의 분류기에서 해당 오경보 데이터 샘플에 대하여 산출되는 최종 스코어 보다

만큼 감소하게 된다.The total number of trees included in theclassifier 810 is N, and the compensation value of each of the second leaves corresponding to the false alarm data sample is an update unit value (

) to update theclassifier 810, when the same false alarm data sample is input to theclassifier 810, the final score calculated for the false alarm data sample corresponds to the corresponding false alarm data sample in the classifier before the downward update operation is performed. than the final score calculated for

will decrease as much as

전자 장치가 오경보 데이터 샘플을 분류기에 입력하여 분류기의 하향 업데이트 동작을 수행하는 경우, 해당 오경보 데이터 샘플에 대하여 분류기에서 산출되는 최종 스코어가

만큼 감소하여 해당 오경보 데이터 샘플이 타겟 제스처를 나타내는 데이터라고 판단될 확률을 감소시킬 수 있다. 또한, 전자 장치는 하나의 오경보 데이터 샘플을 사용하여 분류기를 하향 업데이트시키는 경우, 분류기 내의 전체 리프들의 보상값의 합도

만큼 감소하기 때문에 분류기의 상향 업데이트 동작과 함께 보상값의 합의 균형을 유지시킬 수 있다.When the electronic device inputs a false alarm data sample to the classifier and performs a downward update operation of the classifier, the final score calculated by the classifier for the false alarm data sample is

The probability of determining that the corresponding false alarm data sample is data representing the target gesture may be reduced by decreasing the number of times. In addition, when the electronic device downwardly updates the classifier using one false alarm data sample, the sum of compensation values of all leaves in the classifier

Since it decreases by , it is possible to maintain the balance of the sum of reward values together with the upward update operation of the classifier.

전자 장치는 분류기를 업데이트하기 위해 타겟 제스처 샘플들 및 오경보 데이터 샘플들을 획득하는 것이 중요하다. 전자 장치는 초기에 사용자에게 보편적 분류기를 제공하되, 타겟 제스처 샘플 및 오경보 데이터 샘플을 이용한 분류기의 업데이트를 통해 보편적 분류기를 사용자에게 적합한 분류기로 업데이트할 수 있다. 후술하겠으나, 전자 장치는 전자 장치의 화면에 사용자 인터페이스(user interface, UI)를 표시함으로써 사용자가 타겟 제스처 동작을 수행하도록 유도할 수 있고, 사용자의 타겟 제스처 동작을 인식하여 타겟 제스처 샘플을 수집할 수 있다. 예를 들어, 전자 장치는 사용자에게 타겟 제스처 동작에 대한 명확한 가이드를 제공할 수 있고, 사용자로부터 획득된 데이터 샘플 각각에 대하여 타겟 제스처를 나타낼 확률을 산출할 수도 있기 때문에, 사용자로부터 유효한 타겟 제스처 샘플을 획득할 수 있다. 반면에, 전자 장치는 사용자로부터 오경보 데이터 샘플을 수집하는 것은 어렵다. 예를 들어, 전자 장치는 사용자에게 오경보 데이터 샘플을 수집하기 위한 명확한 가이드를 제공하기 어렵고, 사용자로부터 획득된 데이터 샘플에 대하여 오경보 데이터 샘플을 나타낼 확률을 산출할 수도 없기 때문에, 사용자로부터 유효한 오경보 데이터 샘플을 획득하는 것은 매우 어렵다. 따라서, 전자 장치는 오경보 데이터 샘플을 사용자로부터 획득하는 대신, 보편적 분류기의 트레이닝에 이용된 트레이닝 데이터 셋으로부터 오경보 데이터 샘플들을 획득할 수 있다. 전자 장치는 초기에 사용자에게 보편적 분류기와 함께 트레이닝 데이터 셋으로부터 추출된 오경보 데이터 샘플들을 제공할 수 있다. 이하 명세서에서는, 전자 장치가 보편적 분류기의 트레이닝에 이용된 트레이닝 데이터 셋으로부터 획득된 오경보 데이터 샘플들을 이용하여 분류기를 업데이트하는 것으로 설명하나, 반드시 이로 한정하는 것은 아니고, 전자 장치는 분류기를 업데이트하는 과정에서 사용자로부터 획득되는 데이터 샘플을 통해 오경보 데이터 샘플을 획득할 수도 있다.It is important for the electronic device to obtain target gesture samples and false alarm data samples to update the classifier. The electronic device initially provides a universal classifier to the user, and updates the universal classifier to a classifier suitable for the user by updating the classifier using the target gesture sample and the false alarm data sample. As will be described later, the electronic device may induce the user to perform a target gesture operation by displaying a user interface (UI) on the screen of the electronic device, and may collect target gesture samples by recognizing the user's target gesture operation. there is. For example, since the electronic device may provide a user with a clear guide for target gesture operations and may calculate a probability of indicating a target gesture for each data sample acquired from the user, valid target gesture samples may be selected from the user. can be obtained On the other hand, it is difficult for electronic devices to collect false alarm data samples from users. For example, since it is difficult for the electronic device to provide a user with a clear guide for collecting false alarm data samples, and it is impossible to calculate a probability of indicating a false alarm data sample for a data sample obtained from the user, a valid false alarm data sample is obtained from the user. is very difficult to obtain. Accordingly, the electronic device may obtain false alarm data samples from a training data set used for training the universal classifier instead of acquiring false alarm data samples from the user. The electronic device may initially provide false alarm data samples extracted from a training data set together with a universal classifier to a user. In the following specification, it is described that the electronic device updates the classifier using false alarm data samples obtained from the training data set used to train the universal classifier, but it is not necessarily limited thereto, and the electronic device updates the classifier in the process of updating the classifier. A false alarm data sample may be obtained through a data sample obtained from a user.

전자 장치는 분류기(810) 내의 리프들의 업데이트된 보상값들을 다양한 방법으로 로드할 수 있다.The electronic device may load updated compensation values of leaves in theclassifier 810 in various ways.

일 실시예에 따르면, 전자 장치는 분류기(810) 내의 전체 리프들 각각에 대응하는 레지스트리들을 생성하고, 생성된 레지스트리에 리프의 업데이트된 보상값을 저장함으로써 리프의 업데이트된 보상값을 로드할 수 있다. 예를 들어, 도 8 내지 도 9에 도시된 바와 같이, 전자 장치는 분류기(810) 내의 전체 리프들의 리프 인덱스들 각각에 대응하는 레지스트리들(예를 들어, A₀, A₁, A₂, …)을 생성할 수 있다. 전자 장치는 분류기의 업데이트가 수행되는 경우에 리프의 기존 보상값이 업데이트되는 경우, 리프의 업데이트된 보상값을 리프의 리프 인덱스에 대응하는 레지스트리에 저장할 수 있다. 이하 명세서에서, 리프의 업데이트된 보상값은 리프의 기존 보상값에서 기존 보상값이 증가 또는 감소하는 정도를 나타내는 값인 리프의 업데이트 값을 합한 값을 나타낼 수 있다. 반면, 전자 장치는 분류기의 업데이트가 수행되는 경우에 리프의 기존 보상값이 유지되는 경우, 리프의 리프 인덱스에 대응하는 레지스트리에 저장된 리프의 기존 보상값을 그대로 유지할 수 있다. 리프의 업데이트된 보상값을 리프에 대응하는 레지스트리에 저장하는 방법은, 전자 장치가 리프의 업데이트된 보상값을 리프에 대응하는 레지스트리에서 빠르게 로드할 수 있다는 장점이 존재한다.According to an embodiment, the electronic device may generate registries corresponding to each of all leaves in theclassifier 810 and load the updated compensation value of the leaf by storing the updated compensation value of the leaf in the created registry. . For example, as shown in FIGS. 8 and 9 , the electronic device provides registries (eg, A₀ , A₁ , A₂ , . . . ) can be created. When an existing compensation value of a leaf is updated when the classifier is updated, the electronic device may store the updated compensation value of the leaf in the registry corresponding to the leaf index of the leaf. In the following specification, the updated compensation value of the leaf may represent a value obtained by adding the updated compensation value of the leaf, which is a value representing the degree of increase or decrease of the existing compensation value, to the existing compensation value of the leaf. On the other hand, if the existing compensation value of the leaf is maintained when the classifier is updated, the electronic device may maintain the existing compensation value of the leaf stored in the registry corresponding to the leaf index of the leaf. The method of storing the updated compensation value of the leaf in the registry corresponding to the leaf has an advantage that the electronic device can quickly load the updated compensation value of the leaf from the registry corresponding to the leaf.

다른 일 실시예에 따르면, 전자 장치는 도 8 또는 도 9와 같이 분류기(810) 내의 전체 리프들 각각에 대응하는 레지스트리들을 생성하는 대신, 분류기의 업데이트에 따라 보상값이 업데이트되는 리프들 각각에 대응하는 레지스트리들을 생성하고, 생성된 레지스트리에 리프의 업데이트 값을 저장함으로써 리프의 업데이트된 보상값을 로드할 수 있다. 보다 구체적으로, 전자 장치는 분류기의 업데이트를 수행하는 경우, 보상값이 업데이트되는 리프들 각각에 대응하는 레지스트리들을 생성할 수 있다. 전자 장치는 보상값이 업데이트되는 특정 리프의 리프 인덱스 및 특정 리프의 업데이트 값을 특정 리프에 대응하는 레지스트리에 저장할 수 있다. 이후, 전자 장치는 레지스트리에 저장된 리프 인덱스 및 업데이트 값을 로드하여 리프 인덱스에 대응하는 리프의 보상값에 업데이트 값을 합하여 리프의 업데이트된 보상값을 산출할 수 있다. 전자 장치는 분류기(810)의 업데이트가 모두 이루어진 이후, 생성된 레지스트리들 각각에 저장된 리프 인덱스와 업데이트 값을 로드하여 분류기(810) 내의 리프들 각각의 최종적인 보상값들을 산출할 수 있다. 보상값이 업데이트되는 리프들 각각에 대응하는 레지스트리들을 생성함으로써 리프의 업데이트된 보상값을 로드하는 방법은, 보상값이 업데이트된 리프들에 대응하는 레지스트리들만 생성하면 충분하기 때문에 저장 공간을 효율적으로 사용할 수 있다는 장점이 존재한다.According to another embodiment, instead of creating registries corresponding to each of all the leaves in theclassifier 810 as shown in FIG. 8 or 9, the electronic device corresponds to each of the leaves whose compensation value is updated according to the update of the classifier. The updated compensation value of the leaf can be loaded by creating registries that are More specifically, when updating the classifier, the electronic device may create registries corresponding to leaves whose compensation values are updated. The electronic device may store a leaf index of a specific leaf for which a compensation value is updated and an updated value of the specific leaf in a registry corresponding to the specific leaf. Thereafter, the electronic device may load the leaf index and the updated value stored in the registry and calculate the updated compensation value of the leaf by adding the updated value to the compensation value of the leaf corresponding to the leaf index. After theclassifier 810 is completely updated, the electronic device may calculate final compensation values for each of the leaves in theclassifier 810 by loading a leaf index and an updated value stored in each of the generated registries. The method of loading the updated compensation value of a leaf by creating registries corresponding to each of the leaves whose compensation value is updated uses storage space efficiently because it is sufficient to create registries corresponding to the leaves whose compensation value is updated. There are advantages to being able to.

도 10은 일 실시예에 따른 전자 장치가 분류기를 업데이트하는 전체적인 과정을 설명하는 도면이다.10 is a diagram illustrating an overall process of updating a classifier by an electronic device according to an exemplary embodiment.

일 실시예에 따르면, 동작(1001)에서 전자 장치는 분류기(1020)의 트레이닝에 이용된 트레이닝 데이터 셋(1010)으로부터 오경보 데이터 샘플들(1030)을 추출할 수 있다. 전자 장치는 오경보 데이터 샘플들(1030)을 분류기(1020)의 트레이닝에 사용된 트레이닝 데이터 셋(1010)으로부터 획득할 수 있다. 트레이닝 데이터 셋(1010)에 포함된 데이터 샘플들 각각이 나타내는 제스처 종류는 미리 결정되어 있을 수 있다. 전자 장치는 트레이닝 데이터 셋(1010)이 포함하는 데이터 샘플들 중 타겟 제스처를 나타내지 않는 데이터 샘플들을 추출할 수 있다. 전자 장치는 추출된 데이터 샘플들 각각을 분류기(1020)에 입력할 수 있다. 전자 장치는 추출된 데이터 샘플들 중으로부터 분류기(1020)에 입력되는 경우에 타겟 제스처로 분류되는 데이터 샘플들을 오경보 데이터 샘플들(1030)로 사용할 수 있다. 전자 장치는 오경보 데이터 샘플들(1030)을 이용하여 분류기의 하향 업데이트 동작을 수행할 수 있다.According to an embodiment, inoperation 1001, the electronic device may extract falsealarm data samples 1030 from thetraining data set 1010 used to train theclassifier 1020. The electronic device may obtain the falsealarm data samples 1030 from thetraining data set 1010 used for training theclassifier 1020. A gesture type represented by each of the data samples included in thetraining data set 1010 may be predetermined. The electronic device may extract data samples that do not represent the target gesture from among data samples included in thetraining data set 1010 . The electronic device may input each of the extracted data samples to theclassifier 1020 . The electronic device may use data samples classified as target gestures as the falsealarm data samples 1030 when they are input to theclassifier 1020 from among the extracted data samples. The electronic device may perform a downward update operation of the classifier using the falsealarm data samples 1030 .

일 실시예에 따르면, 동작(1002)에서 전자 장치는 사용자로부터 수집된 하나의 타겟 제스처 샘플(1041)과 하나의 오경보 데이터 샘플(1042)을 하나의 쌍(pair)으로 매핑할 수 있다. 전자 장치는 타겟 제스처 샘플(1041)에 기초한 분류기(1020)의 상향 업데이트 및 오경보 데이터 샘플(1042)에 기초한 분류기(1020)의 하향 업데이트를 함께 수행할 수 있다. 일 실시예에 따르면, 전자 장치는 분류기의 상향 업데이트와 분류기의 하향 업데이트를 한번 씩 번갈아 수행하여 분류기를 업데이트할 수 있다.According to an embodiment, inoperation 1002, the electronic device may map onetarget gesture sample 1041 and one falsealarm data sample 1042 collected from the user into one pair. The electronic device may simultaneously perform upward update of theclassifier 1020 based on thetarget gesture sample 1041 and downward update of theclassifier 1020 based on the falsealarm data sample 1042 . According to an embodiment, the electronic device may update the classifier by alternately performing upward updating of the classifier and downward updating of the classifier once.

보다 구체적으로, 전자 장치는 타겟 제스처 샘플(1041)을 분류기(1020)에 입력하여 타겟 제스처 샘플(1041)에 대응하여 트리 별로 선택되는 제1 리프들을 식별할 수 있다. 전자 장치는 타겟 제스처 샘플(1041)에 대응하여 선택되는 제1 리프들의 리프 인덱스를 저장할 수 있다. 전자 장치는 오경보 데이터 샘플(1042)을 분류기(1020)에 입력하여 오경보 데이터 샘플(1042)에 대응하여 트리 별로 선택되는 제2 리프들을 식별할 수 있다. 전자 장치는 오경보 데이터 샘플(1042)에 대응하여 선택되는 제2 리프들의 리프 인덱스를 저장할 수 있다.More specifically, the electronic device may input thetarget gesture sample 1041 to theclassifier 1020 to identify first leaves selected for each tree corresponding to thetarget gesture sample 1041 . The electronic device may store leaf indices of first leaves selected in correspondence with thetarget gesture sample 1041 . The electronic device may input the falsealarm data sample 1042 to theclassifier 1020 to identify second leaves selected for each tree corresponding to the falsealarm data sample 1042 . The electronic device may store leaf indices of second leaves selected in response to the falsealarm data sample 1042 .

동작(1003)에서 전자 장치는 분류기(1020) 내의 리프들의 보상값을 증가 및 감소시킴으로써 분류기(1020)를 업데이트할 수 있다. 전자 장치는 타겟 제스처 샘플(1041)에 대응하여 식별된 제1 리프들 각각의 보상값을 업데이트 단위 값(

) 만큼 증가시킴으로써 분류기(1020)의 상향 업데이트 동작(1051)을 수행할 수 있다. 또한, 전자 장치는 오경보 데이터 샘플(1042)에 대응하여 식별된 제2 리프들 각각의 보상값을 업데이트 단위 값(

) 만큼 감소시킴으로써 분류기(1020)의 하향 업데이트 동작(1052)을 수행할 수 있다. 일 실시예에 따르면, 전자 장치는 타겟 제스처 샘플에 기초한 분류기의 상향 업데이트 동작과 해당 타겟 제스처 샘플과 매핑된 오경보 데이터 샘플에 기초한 분류기의 하향 업데이트 동작을 함께 수행함으로써 분류기(1020)를 업데이트할 수 있다. 전자 장치가 타겟 제스처 샘플(1041)과 오경보 데이터 샘플(1042)을 쌍(pair)으로 분류기(1020)에 입력하여 분류기(1020)를 업데이트하는 것은 타겟 제스처에 부합하는 리프들 중 오경보를 증가시킬 수 있는 리프들을 제외한 나머지 리프들에 대하여서만 보상값을 증가시킨다는 것을 나타낼 수 있다. 예를 들어, 타겟 제스처와 타겟 제스처가 아닌 제스처가 공통으로 손목이 좌우로 한번 움직이는 공통의 특징이 있는 경우, 이러한 공통의 특징에 스코어를 부여하는 리프의 보상값이 증가하게 되면 타겟 제스처가 아닌 제스처에 관한 데이터 샘플도 분류기에 입력하였을 때 높은 스코어를 획득하게 된다. 따라서, 전자 장치는 타겟 제스처 샘플(1041)과 오경보 데이터 샘플(1042)을 쌍으로 분류기(1020)에 입력하여 분류기를 업데이트함으로써 타겟 제스처와 타겟 제스처가 아닌 제스처의 공통의 특징에 스코어를 부여하는 리프의 보상값이 증가하지 않도록 할 수 있다. 예를 들어, 전자 장치는 아래 수학식 1에 따라 분류기(1020)를 업데이트할 수 있다.Inoperation 1003, the electronic device may update theclassifier 1020 by increasing and decreasing reward values of leaves in theclassifier 1020. The electronic device sets the compensation value of each of the first leaves identified corresponding to thetarget gesture sample 1041 to an update unit value (

), the up-update operation 1051 of theclassifier 1020 may be performed. In addition, the electronic device sets the compensation value of each of the identified second leaves corresponding to the falsealarm data sample 1042 to an update unit value (

), thedown update operation 1052 of theclassifier 1020 may be performed. According to an embodiment, the electronic device may update theclassifier 1020 by simultaneously performing an upward update operation of the classifier based on the target gesture sample and a downward update operation of the classifier based on the false alarm data sample mapped to the corresponding target gesture sample. . When the electronic device updates theclassifier 1020 by inputting thetarget gesture sample 1041 and the falsealarm data sample 1042 as a pair to theclassifier 1020, false alarms among leaves matching the target gesture may increase. It may indicate that the compensation value is increased only for the remaining leaves except for the leaves with For example, if a target gesture and a non-target gesture have a common characteristic of moving the wrist left and right once, if the reward value of the leaf that assigns a score to this common characteristic increases, the gesture that is not the target gesture When the data sample for is also input to the classifier, it obtains a high score. Therefore, the electronic device inputs thetarget gesture sample 1041 and the falsealarm data sample 1042 as a pair to theclassifier 1020 to update the classifier, thereby assigning a score to common characteristics of the target gesture and non-target gestures. It is possible to prevent the compensation value of from increasing. For example, the electronic device may update theclassifier 1020 according toEquation 1 below.

수학식 1에서, R_n,m은 n번째 트리에서의 m번째 리프의 보상값, s_k^t는 k번째 업데이트에서 사용되는 타겟 제스처 샘플, s_k^f는 k번째 업데이트에서 사용되는 오경보 데이터 샘플,

는 업데이트 단위 값,

는 입력 x를 n번째 트리에 입력하는 경우에 선택되는 리프의 리프 인덱스를 반환해주는 함수,

는 함수 내의 수식이 참인 경우에 1을 반환하고, 함수 내의 수식이 거짓인 경우에 0을 반환하는 함수를 나타낼 수 있다. 수학식 1을 참조하면, 전자 장치는 타겟 제스처 샘플을 이용한 분류기의 상향 업데이트 동작과 오경보 데이터 샘플을 이용한 분류기의 하향 업데이트 동작을 한번 씩 번갈아 수행함으로써 분류기를 업데이트할 수 있다.In Equation 1, R_n,m is the compensation value of the m-th leaf in the n-th tree, s_k^t is a target gesture sample used in the k-th update, s_k^f is a false alarm data sample used in the k-th update,

is the update unit value,

is a function that returns the leaf index of the leaf selected when the input x is entered into the nth tree,

may indicate a function that returns 1 when the formula within the function is true and returns 0 when the formula within the function is false. Referring toEquation 1, the electronic device may update the classifier by alternately performing an upward update operation of the classifier using the target gesture sample and a downward update operation of the classifier using the false alarm data sample once each.

일 실시예에 따르면, 업데이트 단위 값(

)이 크게 설정되는 경우, 분류기에 대하여 업데이트가 수행되면 분류기의 성능 변화가 급격히 이루어 질 수 있다. 전자 장치는 분류기에 대한 적은 횟수의 업데이트를 통해 사용자에게 적합한 분류기로 업데이트할 수 있으나, 적은 횟수의 업데이트는 특정 데이터 샘플에 대한 분류기의 의존성(dependency)이 높아지게 되어 오경보 발생 확률을 증가시킬 수 있다. 따라서, 전자 장치는 사용자에게 적합한 분류기로 업데이트하기 위해 많은 횟수로 분류기를 업데이트할 필요가 있으며, 업데이트 단위 값(

)은 너무 크지 않도록 해야 한다. 일 실시예에 따른 전자 장치는 아래 수학식 2에 따른 제약 조건으로 업데이트 단위 값(

)의 범위를 설정할 수 있다.According to one embodiment, the update unit value (

) is set large, the performance of the classifier may rapidly change when an update is performed on the classifier. The electronic device may update the classifier with a classifier suitable for the user through a small number of updates to the classifier. However, the small number of updates increases the classifier's dependency on a specific data sample, thereby increasing the probability of generating a false alarm. Therefore, the electronic device needs to update the classifier a large number of times to update the classifier suitable for the user, and the update unit value (

) should not be too large. An electronic device according to an embodiment has an update unit value (with a constraint condition according toEquation 2 below)

) range can be set.

수학식 2에서,

는 미리 정한 값, N은 분류기 내에서의 트리의 총 개수,

는 전체 리프들의 보상값에 대한 통계 함수,

는 업데이트에 의한 변화 값의 비중을 나타낼 수 있다.In Equation 2,

is a predetermined value, N is the total number of trees in the classifier,

Is a statistical function for the compensation value of all leaves,

may represent the weight of the change value due to the update.

도 11은 일 실시예에 따른 전자 장치가 분류기를 사용자 별로 업데이트한 경우 업데이트된 분류기 별로 성능 평가 결과를 예시적으로 나타낸 표이다.11 is a table illustratively illustrating performance evaluation results for each updated classifier when the electronic device updates the classifier for each user according to an embodiment.

이하에서는, 전자 장치가 사용자 별로 수집된 10개의 타겟 제스처 샘플을 사용하여 수학식 1에 따라 분류기를 사용자 별로 업데이트 한 경우로서, 업데이트 단위 값이 0.01이고, 타겟 제스처는 "Knock Down 2회"이며, 분류기는 타겟 제스처와 타겟 제스처를 제외한 나머지 제스처들의 2 가지로 분류할 수 있는 분류기인 것으로 가정한다.Hereinafter, as a case where the electronic device updates the classifier for each user according toEquation 1 using 10 target gesture samples collected for each user, the update unit value is 0.01, and the target gesture is "Knock Down twice", It is assumed that the classifier is a classifier capable of classifying the target gesture and the remaining gestures excluding the target gesture into two types.

전자 장치는 업데이트 되기 이전의 분류기에 대한 타겟 제스처 감지 확률 및 오경보 확률을 산출할 수 있다. 예를 들어, 업데이트 되기 이전의 분류기가 1074개의 타겟 제스처를 나타내는 데이터 샘플들 중 989개의 데이터 샘플들을 타겟 제스처로 정상 감지하고, 85개의 데이터 샘플들을 타겟 제스처가 아닌 다른 제스처들로 오감지하는 경우에 타겟 제스처 인식률은 92.1%로 측정될 수 있다. 업데이트 되기 이전의 분류기가 108055개의 타겟 제스처가 아닌 다른 제스처들을 나타내는 데이터 샘플들 중 147개의 데이터 샘플들을 타겟 제스처로 오감지하는 경우에 오경보 확률은 0.1%로 측정될 수 있다. 위 성능을 갖는 분류기를 각 사용자 별로 각각 업데이트 한 이후에 업데이트된 분류기 각각에 대한 성능을 평가하면 도 11에 도시된 표와 같이 개선된 성능을 확인할 수 있다.The electronic device may calculate target gesture detection probability and false alarm probability for the classifier before being updated. For example, in the case where the classifier before being updated normally detects 989 data samples as target gestures among data samples representing 1074 target gestures, and falsely detects 85 data samples as gestures other than the target gesture The target gesture recognition rate can be measured as 92.1%. If the classifier before updating incorrectly detects 147 data samples among 108055 data samples indicating gestures other than the target gesture as the target gesture, the false alarm probability may be measured as 0.1%. After updating the classifiers having the above performance for each user and then evaluating the performance of each updated classifier, improved performance can be confirmed as shown in the table shown in FIG. 11 .

도 11을 참조하면, 업데이트 이전의 분류기의 타겟 제스처 인식률이 100%가 되지 않았던 사용자에 대하여, 업데이트 이후의 분류기에 의한 타겟 제스처 인식률은 대부분 대폭 상승함을 확인할 수 있다. 이하, 명세서에서 분류기의 타겟 제스처 인식률이란 타겟 제스처를 나타내는 데이터 샘플을 분류기가 타겟 제스처라고 인식하는 확률을 나타낼 수 있다. 반면, 업데이트 이전의 분류기에 의한 오경보 확률과 업데이트 이후의 분류기에 의한 오경보 확률은 사용자들 개별적으로 보았을 때 소폭 상승하였음을 확인할 수 있다. 또한, 사용자 개개인에 맞추어 분류기의 업데이트가 수행되는 경우에 업데이트 이전의 분류기에 의한 타겟 제스처 인식률이 낮았던 사용자에 대하여, 업데이트 이후의 분류기에 의한 타겟 제스처 인식률은 대부분 상승한다. 반면, 업데이트 이전의 분류기에 의한 타겟 제스처 인식률이 이미 높았던 사용자에 대하여, 업데이트 이후의 분류기에 의한 오경보 확률은 증가한다. 이러한 부작용이 발생하는 원인은 두 가지로 설명될 수 있다. 첫번째 원인은, 타겟 제스처 샘플에 기초하여 분류기의 상향 업데이트를 수행하는 경우, 분류기 내의 특정 리프들의 보상값들이 과도하게 증가하게 되기 때문이다. 두번째 원인은, 분류기의 하향 업데이트를 수행하는 경우, 하향 업데이트에 사용된 오경보 데이터 샘플에 의존성(dependency)을 가지게 되기 때문이다.Referring to FIG. 11 , it can be confirmed that most of the target gesture recognition rates by the classifier after the update significantly increase for users whose target gesture recognition rate of the classifier before the update did not reach 100%. Hereinafter, in the specification, a target gesture recognition rate of a classifier may indicate a probability that a data sample representing a target gesture is recognized by the classifier as the target gesture. On the other hand, it can be confirmed that the false alarm probability by the classifier before the update and the false alarm probability by the classifier after the update slightly increased when each user saw them individually. Also, when the classifier is updated according to each user, the target gesture recognition rate by the classifier after the update is mostly increased for the user whose target gesture recognition rate by the classifier before the update was low. On the other hand, for a user whose target gesture recognition rate by the classifier before the update was already high, the false alarm probability by the classifier after the update increases. The causes of these side effects can be explained in two ways. The first reason is that compensation values of specific leaves in the classifier are excessively increased when upward updating of the classifier is performed based on the target gesture sample. The second reason is that, when performing downlink update of the classifier, it has a dependency on the false alarm data sample used for downlink update.

분류기의 부작용 발생의 첫번째 원인은, 분류기가 사용자에게 맞춰진 상태 또는 분류기가 사용자에게 적합한 상태로 어느 정도 업데이트가 된 경우, 전자 장치가 계속하여 분류기를 업데이트함으로써 리프의 보상값을 변경하면 오히려 분류기의 성능 하락을 불러 일으킬 수 있다는 것을 의미한다. 이하에서는, 첫번째 원인에 의한 분류기의 부작용을 방지할 수 있는 2가지 방법에 대하여 설명한다.The first cause of the side effects of the classifier is that when the classifier is adjusted to the user or the classifier is updated to some extent to a state suitable for the user, the electronic device continuously updates the classifier to change the reward value of the leaf, rather than the performance of the classifier. This means that it can cause a decline. Hereinafter, two methods capable of preventing side effects of the classifier due to the first cause will be described.

첫째로, 전자 장치는 분류기의 업데이트에 사용되는 업데이트 단위 값(

)을 조절함으로써 부작용을 방지할 수 있다. 충분히 높은 제스처 인식 성능을 갖는 분류기에서는 업데이트를 급격히 할 필요가 없을 뿐만 아니라 부작용에 대하여 더 조심해야 한다. 이에, 전자 장치는 업데이트 단위 값(

)을 일정한 상수 값으로 유지하는 대신, 업데이트 단위 값(

)을 현재 분류기의 제스처 인식률에 반비례하여 조정함으로써 부작용을 최소화할 수 있다.First, the electronic device is an update unit value used for updating the classifier (

) to prevent side effects. In a classifier with sufficiently high gesture recognition performance, not only does it not need to update rapidly, but it also needs to be more careful about side effects. Accordingly, the electronic device has an update unit value (

) at a constant constant value, the update unit value (

) can be adjusted in inverse proportion to the gesture recognition rate of the current classifier to minimize side effects.

전자 장치는 분류기의 상향 업데이트를 수행하는 경우, 업데이트 단위 값을 현재 분류기의 타겟 제스처 인식률에 반비례하도록 조정할 수 있다. 전자 장치는 분류기의 하향 업데이트 동작을 수행하는 경우에는 업데이트 단위 값(

)을 일정한 상수 값으로 유지할 수 있다. 예를 들어, 전자 장치는 아래 수학식 3에 따라 분류기를 업데이트할 수 있다.When performing an upward update of the classifier, the electronic device may adjust an update unit value in inverse proportion to the target gesture recognition rate of the current classifier. When the electronic device performs the downward update operation of the classifier, the update unit value (

) can be kept at a constant constant value. For example, the electronic device may update the classifier according toEquation 3 below.

수학식 3에서, R_n,m은 n번째 트리에서의 m번째 리프의 보상값, s_k^t는 k번째 업데이트에서 사용되는 타겟 제스처 샘플, s_k^f는 k번째 업데이트에서 사용되는 오경보 데이터 샘플,

는

,

는

를 나타낼 수 있다. 여기서, c는 일정한 상수 값을 나타내며,

는 k번째 업데이트에서 일정한 상수 값(c)에 부가되는 가중치로서

에 비례할 수 있다

는 분류기에 의해 도출되는 제스처 인식률을 나타낼 수 있다. 도 12는

와

와의 관계를 나타내는 그래프이다.In Equation 3, R_n,m is the compensation value of the m-th leaf in the n-th tree, s_k^t is a target gesture sample used in the k-th update, s_k^f is a false alarm data sample used in the k-th update,

Is

,

Is

can represent Here, c represents a constant constant value,

Is a weight added to a constant constant value (c) in the k-th update.

can be proportional to

may represent a gesture recognition rate derived by the classifier. Figure 12

and

It is a graph showing the relationship with

둘째로, 전자 장치는 분류기의 전체 리프들 각각의 보상값을 감소시킴으로써 부작용을 방지할 수 있다. 일 실시예에 따르면, 전자 장치는 분류기에 대한 상향 업데이트 및 하향 업데이트를 한 번씩 수행하는 경우, 분류기의 전체 리프들 각각의 보상값을 보상 조정 값(b_k) 만큼 감소시킬 수 있다. 일 실시예에 따르면, 전자 장치는 분류기의 상향 업데이트 및 분류기의 하향 업데이트를 한 번씩 수행한 이후에 보상 조정 값(b_k)을 현재 분류기의 타겟 제스처 인식률에 비례하도록 조정할 수 있다.Second, the electronic device can prevent side effects by reducing the compensation value of each of the leaves of the classifier. According to an embodiment, when performing upward update and downward update of the classifier once, the electronic device may decrease the compensation value of each of all leaves of the classifier by a compensation adjustment value (b_k ). According to an embodiment, the electronic device may adjust the compensation adjustment value (b_k ) in proportion to the target gesture recognition rate of the current classifier after performing up-update of the classifier and down-update of the classifier once.

전자 장치는 분류기의 전체 리프들 각각의 보상값을 모두 감소시킴으로써 전체 리프들의 보상값의 합(sum)을 낮출 수 있다. 이는 분류기의 업데이트에 의해 타겟 제스처의 특징에 스코어를 부여하는 리프들의 보상값이 충분히 높아지므로, 높아진 보상값의 일부를 사용하여 전체 리프들의 보상값을 낮추어 분류기의 오경보 확률을 낮추는 것에 초점을 두는 방식이다. 예를 들어, 전자 장치는 아래 수학식 4에 따라 분류기를 업데이트할 수 있다. 전자 장치는 수학식 4에 따라 분류기를 업데이트함으로써, 분류기의 업데이트 단위 값을 현재 분류기의 타겟 제스처 인식률에 반비례하도록 조정하면서도, 전체 리프들 각각의 보상값을 분류기의 타겟 제스처 인식률에 비례하여 감소시킬 수 있다.The electronic device may lower the sum of reward values of all leaves of the classifier by reducing all of the reward values of all leaves of the classifier. This is a method that focuses on lowering the false alarm probability of the classifier by lowering the reward value of all leaves using a part of the increased reward value because the reward value of the leaves that assign scores to the characteristics of the target gesture is sufficiently high by updating the classifier. am. For example, the electronic device may update the classifier according toEquation 4 below. By updating the classifier according toEquation 4, the electronic device can adjust the update unit value of the classifier to be inversely proportional to the target gesture recognition rate of the current classifier, while reducing the reward value of each leaf in proportion to the target gesture recognition rate of the classifier. there is.

수학식 4에서, b_k는 k번째 업데이트에서 보상 조정 값으로InEquation 4, b_k is the compensation adjustment value at the kth update.

에 비례할 수 있다

도 13은

와

와의 관계를 나타내는 그래프이다.

can be proportional to

Figure 13 is

and

It is a graph showing the relationship with

분류기의 부작용 발생의 두번째 원인은, 전자 장치가 분류기의 상향 업데이트 동작과 균형을 맞추기 위해 하향 업데이트 동작을 수행하는 경우에 분류기가 하향 업데이트 동작에 사용된 오경보 데이터 샘플에 의존성을 가지게 될 수 있다는 것을 의미한다. 예를 들어, 전체 오경보 데이터 샘플들이 총 30개가 존재한다고 가정한다. 이러한 경우, 전자 장치가 분류기에 대하여 30번의 하향 업데이트를 수행하는 경우, 전체 오경보 데이터 샘플들이 모두 사용되어 하향 업데이트가 수행됨으로써 리프들의 보상값의 감소가 전반적으로 적용될 수 있다. 그러나, 전자 장치가 분류기에 대하여 3번의 하향 업데이트만을 수행하는 경우, 3개의 오경보 데이터 샘플들 만을 사용하여 하향 업데이트가 수행됨으로써 분류기가 3개의 오경보 데이터 샘플들에 대하여 의존성(dependency)이 높아지게 되는 문제점이 발생한다. 이에, 전자 장치는 분류기의 하향 업데이트를 수행하는 경우, 전체 오경보 데이터 샘플들 각각에 대응하는 리프들을 식별하고, 식별된 리프들의 보상값을 추가적으로 감소시킴으로써 부작용을 최소화할 수 있다.The second cause of the side effects of the classifier means that when the electronic device performs a down-update operation to balance the up-up update operation of the classifier, the classifier may have a dependency on the false alarm data sample used in the down-up update operation. do. For example, it is assumed that a total of 30 false alarm data samples exist. In this case, when the electronic device performs downward update for theclassifier 30 times, all false alarm data samples are used and the downward update is performed, so that the compensation value reduction of the leaves can be generally applied. However, when the electronic device performs only 3 downlink updates on the classifier, the downlink update is performed using only 3 false alarm data samples, so the classifier has a high dependency on the 3 false alarm data samples. Occurs. Accordingly, when performing downward update of the classifier, the electronic device may minimize side effects by identifying leaves corresponding to each of all false alarm data samples and additionally reducing a compensation value of the identified leaves.

일 실시예에 따르면, 전자 장치는 분류기의 하향 업데이트를 수행하는 경우, 전체 오경보 데이터 샘플들 각각에 대응하는 리프들을 식별하고, 식별된 리프들 각각에 대하여 해당 리프가 전체 오경보 데이터 샘플들에 대응하여 선택된 횟수를 지시하는 통계값을 산출하며, 해당 리프들에 대해 산출된 통계값에 비례하는 값으로 해당 리프의 보상값을 추가로 감소시킬 수 있다. 예를 들어, 전자 장치는 전체 오경보 데이터 샘플들 각각에 대응하여 식별된 리프들의 리프 인덱스를 저장할 수 있고, 식별된 리프들 각각의 리프 인덱스가 나타나는 횟수를 카운팅하여 리프 별로 통계값을 산출할 수 있다. 예를 들어, 전자 장치는 통계값이 높게 산출되는 리프에 대해서는 보상값을 큰 값으로 감소시킬 수 있고, 통계값이 낮게 산출되는 리프에 대해서는 보상값을 작은 값으로 감소시킬 수 있다. 요약하면, 전자 장치는 아래 수학식 5에 따라 분류기를 업데이트할 수 있다.According to an embodiment, when performing a downward update of the classifier, the electronic device identifies leaves corresponding to each of all false alarm data samples, and for each of the identified leaves, the corresponding leaf corresponds to all false alarm data samples. A statistical value indicating the number of times selected is calculated, and the compensation value of the corresponding leaf may be further reduced to a value proportional to the statistical value calculated for the corresponding leaves. For example, the electronic device may store leaf indexes of identified leaves corresponding to each of all false alarm data samples, and calculate statistical values for each leaf by counting the number of times the leaf index of each of the identified leaves appears. . For example, the electronic device may reduce the compensation value to a large value for a leaf with a high statistical value, and may decrease the compensation value to a small value for a leaf with a low statistical value. In summary, the electronic device may update the classifier according toEquation 5 below.

수학식 5에서,

는 분류기의 하향 업데이트 수행시에 사용된 오경보 데이터 샘플의 적용분과 전체 오경보 데이터 샘플들의 적용분의 비율을 나타낼 수 있다.

는 통계적인 함수로서, 예를 들어, 평균 함수 또는 평균 제곱 함수를 나타낼 수 있다.

는 하향 업데이트 수행시에 사용되는 개별 오경보 데이터 샘플에 의해 리프의 보상값이 차감되는 것을 나타낼 수 있고,

는 하향 업데이트 수행시에 전체 오경보 데이터 샘플들에 대응하여 식별된 리프들의 통계값에 의해 리프의 보상값이 차감되는 것을 나타낼 수 있다. 전자 장치는 수학식 5에 따라 분류기를 업데이트함으로써, 업데이트 단위 값을 현재 분류기의 타겟 제스처 인식률에 반비례하도록 조정하고, 전체 리프들 각각의 보상값을 분류기의 타겟 제스처 인식률에 비례하여 감소시키며, 전체 오경보 데이터 샘플들 각각에 대응하여 식별된 리프들의 보상값을 식별된 리프들의 통계값에 따라 추가적으로 감소시킬 수 있다.In Equation 5,

may represent the ratio of the application amount of the false alarm data sample used when performing the downward update of the classifier and the application amount of all false alarm data samples.

Is a statistical function, and may represent, for example, an average function or a mean square function.

may indicate that the compensation value of the leaf is deducted by the individual false alarm data sample used when performing the downward update,

may indicate that the compensation value of the leaf is deducted by the statistical value of the leaves identified corresponding to all false alarm data samples during downlink update. By updating the classifier according toEquation 5, the electronic device adjusts the update unit value in inverse proportion to the target gesture recognition rate of the current classifier, reduces the reward value of each leaf in proportion to the target gesture recognition rate of the classifier, and generates all false alarms. Compensation values of leaves identified corresponding to each of the data samples may be additionally reduced according to statistical values of the identified leaves.

더 나아가, 전체 오경보 데이터 샘플들에 대응하는 리프들을 식별하고, 식별된 리프들 각각에 대한 통계값을 산출하는 것은 전자 장치에 큰 부하를 줄 수 있다. 일 실시예에 따르면, 전자 장치는

를 증가시킴으로써 전자 장치가 분류기의 하향 업데이트 수행시 마다 전체 오경보 데이터 샘플들에 대응하는 리프들을 식별 및 리프 노프들의 통계값을 산출함으로써 감당하는 부하를 감소시킬 수 있다.Furthermore, identifying leaves corresponding to all false alarm data samples and calculating a statistical value for each of the identified leaves may impose a large load on the electronic device. According to one embodiment, the electronic device

By increasing , the load that the electronic device must bear can be reduced by identifying leaves corresponding to all false alarm data samples and calculating statistical values of leaf nops whenever the classifier is updated.

전자 장치가 수학식 5에 따라 분류기의 업데이트를 수행하는 경우, 분류기의 초반 업데이트 시에는 상향 업데이트에 의한 영향이 크기 때문에 분류기의 타겟 제스처 인식률 상승이 빠르게 이루어지고, 분류기에 대해 업데이트가 누적되어 분류기의 타겟 제스처 인식률이 높아질수록 하향 업데이트에 의한 영향이 커져서 분류기의 오경보 확률을 감소시키는 방향으로 업데이트가 될 수 있다.When the electronic device updates the classifier according toEquation 5, the classifier's target gesture recognition rate rises quickly because the upward update has a large effect during the initial update of the classifier, and updates are accumulated for the classifier to improve the classifier's performance. As the target gesture recognition rate increases, the effect of the downward update increases, so that the classifier may be updated in a direction of reducing the probability of false alarms.

이하에서는, 일 실시예에 따른 전자 장치가 분류기를 업데이트 시키기 위하여 타겟 제스처 샘플을 수집하는 방법을 설명한다. 전자 장치가 분류기를 사용자에게 적합하게 업데이트 하기 위해서 타겟 제스처 샘플을 정확하게 수집하는 것이 중요하다. 일 실시예에 따르면, 전자 장치는 사용자가 수행하는 제스처 동작을 인식하여 타겟 제스처 샘플을 수집할 수 있다. 일 실시예에 따르면, 전자 장치는 사용자의 타겟 제스처 동작을 인식하여 생성된 센서의 신호를 크롭(crop)하여 타겟 제스처 확률이 임계 확률 이상인 적어도 하나의 타겟 제스처 샘플을 수집할 수 있고, 수집된 적어도 하나의 타겟 제스처 샘플을 사용하여 분류기를 업데이트할 수 있다. 전자 장치는 2가지의 방법으로 타겟 제스처 샘플을 수집할 수 있다. 전자 장치는 수동적 방법(passive method) 및 능동적 방법(active method)으로 타겟 제스처 샘플을 수집할 수 있다.Hereinafter, a method of collecting target gesture samples in order to update a classifier by an electronic device according to an embodiment will be described. It is important for the electronic device to accurately collect target gesture samples in order to update the classifier appropriately for the user. According to an embodiment, the electronic device may collect a target gesture sample by recognizing a gesture action performed by a user. According to an embodiment, the electronic device may collect at least one target gesture sample having a target gesture probability greater than or equal to a threshold probability by cropping a signal of a sensor generated by recognizing a user's target gesture motion, and collect at least one sample of the target gesture. One target gesture sample can be used to update the classifier. The electronic device may collect target gesture samples in two ways. The electronic device may collect target gesture samples using a passive method and an active method.

여기서, 전자 장치가 수동적 방법으로 타겟 제스처 샘플을 수집한다는 것은 전자 장치가 타겟 제스처 샘플의 수집을 위해 샘플 수집 타이머(timer)(이하, '타이머')를 시작 및 종료시키고, 타이머의 진행 기간 동안에 수행된 사용자의 타겟 제스처 동작을 인식하여 타겟 제스처 샘플을 수집하는 것을 나타낼 수 있다. 전자 장치가 수동적 방법으로 타겟 제스처 샘플을 수집하는 경우, 전자 장치가 타이머의 진행 기간 동안에 사용자가 타겟 제스처 동작을 수행하였다고 가정할 수 있다는 장점이 존재한다. 그러나, 전자 장치가 수동적 방법으로 타겟 제스처 샘플을 수집하는 경우, 사용자가 타겟 제스처 동작을 수행하는 시점을 적극적으로 맞추어 타겟 제스처 동작을 수행해야 한다는 단점이 존재한다.Here, the electronic device passively collects the target gesture sample means that the electronic device starts and ends a sample collection timer (hereinafter referred to as 'timer') to collect the target gesture sample, and is performed during the duration of the timer. It may indicate that a target gesture sample is collected by recognizing a target gesture motion of a user who has been selected. When the electronic device passively collects target gesture samples, there is an advantage in that the electronic device can assume that the user performed the target gesture operation during the duration of the timer. However, when the electronic device passively collects target gesture samples, there is a disadvantage in that the user must actively perform the target gesture operation at the timing of performing the target gesture operation.

전자 장치가 능동적 방법으로 타겟 제스처 샘플을 수집한다는 것은, 사용자가 임의의 시점에 타겟 제스처 동작을 수행하는 경우 전자 장치가 사용자의 타겟 제스처 동작을 능동적으로 인식하여 타겟 제스처 샘플을 수집하는 것을 나타낼 수 있다. 전자 장치가 능동적 방법으로 타겟 제스처 샘플을 수집하는 경우, 사용자가 시간의 제약 없이 원하는 시점에 타겟 제스처 동작을 수행할 수 있다는 장점이 존재한다. 그러나, 전자 장치가 능동적 방법으로 타겟 제스처 샘플을 수집하는 경우, 사용자가 언제 타겟 제스처 동작을 수행할 지 알 수 없기 때문에, 전자 장치는 지속적으로 센서의 신호를 크롭(crop)하는 세그멘테이션 동작 및 세그멘테이션 동작의 수행에 의해 획득된 신호 부분으로부터 여러 특징들을 추출하는 분류(classificaiton) 동작을 수행하면서 해당 신호 부분이 타겟 제스처에 대응하는 신호인지 여부를 모니터링(monitoring)해야 하는 단점이 존재한다. 다시 말해, 전자 장치가 능동적 방법으로 타겟 제스처 샘플을 수집하는 경우, 전자 장치는 사용자의 타겟 제스처 동작이 수행된 구간을 특정할 수 없다는 단점이 존재한다.Collecting the target gesture sample by the electronic device in an active way may indicate that the electronic device actively recognizes the user's target gesture operation and collects the target gesture sample when the user performs the target gesture operation at an arbitrary point in time. . When an electronic device actively collects target gesture samples, there is an advantage that a user can perform a target gesture operation at a desired time without time constraints. However, when the electronic device collects target gesture samples in an active method, since the user cannot know when to perform the target gesture operation, the electronic device continuously crops the signal of the sensor and performs the segmentation operation. There is a disadvantage in that it is necessary to monitor whether the corresponding signal part is a signal corresponding to the target gesture while performing a classification operation for extracting various features from the signal part obtained by performing . In other words, when the electronic device actively collects target gesture samples, the electronic device has a disadvantage in that it cannot specify a section in which the user's target gesture operation was performed.

도 14는 일 실시예에 따른 전자 장치가 수동적 방법(passive method)으로 타겟 제스처 샘플을 수집하는 과정을 설명하는 도면이다.14 is a diagram illustrating a process of collecting target gesture samples by an electronic device in a passive method according to an embodiment.

사용자는 사용자 조작을 통해 전자 장치의 화면(1410)에 표시된 타겟 제스처 샘플을 수동적 방법으로 수집하기 위한 객체(1411)를 활성화할 수 있다. 객체의 활성화는, 예를 들어, 사용자가 객체를 터치하는 등의 조작을 포함할 수 있다. 객체(1411)는 전자 장치가 수동적 방법으로 타겟 제스처 샘플을 수집하도록 설정하는 객체를 나타낼 수 있다. 전자 장치는 객체(1411)가 활성화되는 경우에 응답하여, 제1 타이머(timer)를 시작할 수 있다. 전자 장치는 제1 타이머를 제1 시간 동안 진행시킬 수 있다. 전자 장치는 제1 타이머를 시작한 시점으로부터 미리 결정된 시간이 경과하는 경우 진동(vibration)을 발생시켜 바람직한 타겟 제스처 동작 수행 시점을 사용자에게 통지할 수 있다. 전자 장치는 제1 타이머가 시작 시점으로부터 제1 시간 이후에 종료되는 경우, 수집된 타겟 제스처 샘플의 개수(1421)(예를 들어, 1개)를 화면에 표시할 수 있다. 사용자는 사용자 조작을 통해 화면에 표시된 분류기 업데이트를 위한 객체(1412)(예를 들어, "Apply updates" 버튼)를 활성화할 수 있다. 객체(1412)는 전자 장치에 저장된 적어도 하나의 타겟 제스처 샘플을 분류기에 입력하여 분류기를 업데이트하도록 설정하는 객체를 나타낼 수 있다. 전자 장치는 객체(1412)가 활성화되는 경우에 응답하여, 저장된 적어도 하나의 타겟 제스처 샘플을 분류기에 입력하여 분류기를 업데이트할 수 있다. 전자 장치는 저장된 적어도 하나의 타겟 제스처 샘플과 트레이닝 데이터 셋으로부터 추출된 오경보 데이터 샘플을 사용하여 분류기의 상향 업데이트 및 하향 업데이트 동작을 수행할 수 있다. 전자 장치는 분류기의 업데이트를 완료하는 경우, 현재까지 분류기의 업데이트에 사용된 타겟 제스처 샘플의 개수(1422)(예를 들어, 1개)를 화면에 표시할 수 있다. 그리고, 사용자는 다시 타겟 제스처 샘플을 수동적 방법으로 수집하기 위한 객체(1411)를 활성화할 수 있고, 전자 장치는 제1 타이머를 시작하여 수동적 방법으로 타겟 제스처 샘플을 수집할 수 있다.The user may activate theobject 1411 for passively collecting the target gesture sample displayed on thescreen 1410 of the electronic device through user manipulation. Activation of an object may include, for example, a user's manipulation of touching the object. Theobject 1411 may represent an object for which the electronic device is configured to collect target gesture samples in a passive manner. The electronic device may start a first timer in response to theobject 1411 being activated. The electronic device may advance the first timer for the first time. When a predetermined time elapses from the start of the first timer, the electronic device may generate a vibration to notify the user of the desired target gesture operation timing. When the first timer expires after the first time from the start time, the electronic device may display the number 1421 (eg, 1) of collected target gesture samples on the screen. A user may activate an object 1412 (eg, an “Apply updates” button) for updating a classifier displayed on the screen through a user manipulation. Theobject 1412 may represent an object that is configured to update the classifier by inputting at least one target gesture sample stored in the electronic device to the classifier. In response to theobject 1412 being activated, the electronic device may update the classifier by inputting at least one stored target gesture sample into the classifier. The electronic device may perform up-update and down-update operations of the classifier using at least one stored target gesture sample and a false alarm data sample extracted from a training data set. When the update of the classifier is completed, the electronic device may display the number 1422 (eg, 1) of target gesture samples used for updating the classifier up to now on the screen. Then, the user may activate theobject 1411 for passively collecting the target gesture samples again, and the electronic device may start the first timer to passively collect the target gesture samples.

도 15는 일 실시예에 따른 전자 장치가 능동적 방법(active method)으로 타겟 제스처 샘플을 수집하는 과정을 설명하는 도면이다.15 is a diagram illustrating a process of collecting target gesture samples by an active method by an electronic device according to an exemplary embodiment.

사용자는 사용자 조작을 통해 전자 장치의 화면(1510)에 표시된 타겟 제스처 샘플을 능동적 방법으로 수집하기 위한 객체(1511)를 활성화할 수 있다. 객체(1511)는 전자 장치가 능동적 방법으로 타겟 제스처 샘플을 수집하도록 설정하는 객체를 나타낼 수 있다. 전자 장치는 객체(1511)가 활성화되는 경우에 응답하여, 샘플 수집 모드로 진입할 수 있다. 전자 장치는 샘플 수집 모드를 진입하여 샘플 수집 모드가 해제될 때까지 사용자로부터 타겟 제스처 샘플을 수집할 수 있다. 전자 장치는 샘플 수집 모드로 진입하는 경우, 사용자에게 타겟 제스처 동작 수행을 요청하는 메시지(예를 들어, 'Try Gesture')(1512)를 화면에 표시할 수 있다. 사용자는 전자 장치의 샘플 수집 모드가 해제될 때까지 타겟 제스처 동작을 언제든지 수행할 수 있다. 사용자가 타겟 제스처 동작을 수행하는 경우, 전자 장치는 센서의 신호에 기초하여 타겟 제스처 확률이 임계 확률 이상인 데이터 샘플을 획득할 수 있다. 여기서, 타겟 제스처 확률이란 데이터 샘플이 타겟 제스처를 나타낼 확률을 나타낼 수 있다. 전자 장치는 타겟 제스처 확률이 임계 이상인 기준 데이터 샘플을 획득하면, 기준 데이터 샘플의 시작 시점으로부터 제2 시간 동안 제2 타이머를 진행시켜 제2 타이머의 진행 기간 동안에 타겟 제스처 확률이 더 높은 데이터 샘플을 검색할 수 있다. 전자 장치는 데이터 샘플을 검색하는 동안 메시지(1513)(예를 들어, 'wait catching')(1513)를 화면에 표시할 수 있다. 이후, 전자 장치는 기준 데이터 샘플 및 제2 시간 동안 검색된 타겟 제스처 확률이 임계 확률 이상인 데이터 샘플 중 타겟 제스처 확률이 가장 높은 데이터 샘플을 타겟 제스처 샘플로 저장할 수 있다. 이후, 전자 장치는 사용자에게 타겟 제스처 동작 수행을 요청하는 메시지(예를 들어, 'Try Gesture')(1514)를 화면에 다시 표시할 수 있고, 상술한 방법에 따라 사용자로부터 타겟 제스처 샘플을 수집할 수 있다. 사용자는 사용자 조작을 통해 화면에 표시된 분류기 업데이트를 위한 객체(1515)(예를 들어, "Apply updates" 버튼)를 활성화할 수 있다. 객체(1515)는 전자 장치에 저장된 적어도 하나의 타겟 제스처 샘플을 분류기에 입력하여 분류기를 업데이트하도록 설정하는 객체를 나타낼 수 있다. 전자 장치는 객체(1515)가 활성화되는 경우에 응답하여, 저장된 적어도 하나의 타겟 제스처 샘플을 분류기에 입력하여 분류기를 업데이트할 수 있다. 전자 장치는 샘플 수집 모드가 해제되기 전까지 사용자의 타겟 제스처 동작을 인식하여 타겟 제스처 샘플을 수집할 수 있다.The user may activate theobject 1511 for actively collecting target gesture samples displayed on thescreen 1510 of the electronic device through user manipulation. Theobject 1511 may represent an object for which the electronic device is configured to collect target gesture samples in an active manner. The electronic device may enter a sample collection mode in response to theobject 1511 being activated. The electronic device may collect target gesture samples from the user until the sample collection mode is released after entering the sample collection mode. When entering the sample collection mode, the electronic device may display a message (eg, 'Try Gesture') 1512 requesting the user to perform a target gesture operation on the screen. The user may perform the target gesture operation at any time until the sample collection mode of the electronic device is released. When a user performs a target gesture operation, the electronic device may obtain a data sample having a target gesture probability greater than or equal to a threshold probability based on a signal from a sensor. Here, the target gesture probability may indicate a probability that a data sample indicates a target gesture. When obtaining a reference data sample having a target gesture probability greater than or equal to a threshold, the electronic device advances a second timer for a second time from the start of the reference data sample to search for a data sample having a higher target gesture probability during the progress period of the second timer. can do. While searching for data samples, the electronic device may display a message 1513 (eg, 'wait catching') 1513 on the screen. Thereafter, the electronic device may store, as the target gesture sample, a data sample having the highest target gesture probability among the reference data samples and data samples having a target gesture probability greater than or equal to a threshold probability retrieved during the second time. Thereafter, the electronic device may display a message (eg, 'Try Gesture') 1514 requesting the user to perform the target gesture operation again on the screen, and may collect target gesture samples from the user according to the above-described method. can A user may activate an object 1515 (eg, an “Apply updates” button) for updating a classifier displayed on the screen through a user manipulation. Theobject 1515 may represent an object that is set to update the classifier by inputting at least one target gesture sample stored in the electronic device to the classifier. In response to theobject 1515 being activated, the electronic device may update the classifier by inputting at least one stored target gesture sample into the classifier. The electronic device may collect target gesture samples by recognizing the user's target gesture operation until the sample collection mode is released.

도 16은 일 실시예에 따른 전자 장치가 수동적 방법으로 타겟 제스처 샘플을 수집하여 분류기의 업데이트를 수행하는 과정을 설명하는 흐름도이다.16 is a flowchart illustrating a process of manually collecting target gesture samples and updating a classifier by an electronic device according to an embodiment.

동작(1610)에서 전자 장치는 수동적 방법으로의 타겟 제스처 샘플의 수집을 개시하는 경우, 제1 타이머를 시작할 수 있다. 예를 들어, 전자 장치는 사용자에 의해 타겟 제스처 샘플을 수동적 방법으로 수집하기 위한 객체(예: 도 14의 객체(1411))가 활성화되는 경우에 응답하여, 제1 타이머를 시작할 수 있다. 사용자는 제1 타이머의 시작 시점으로부터 제1 타이머의 종료 시점까지의 진행 기간 동안에 타겟 제스처 동작을 수행할 수 있다.Inoperation 1610, the electronic device may start a first timer when passively collecting target gesture samples is initiated. For example, the electronic device may start the first timer in response to activation of an object (eg, theobject 1411 of FIG. 14 ) for passively collecting target gesture samples by the user. The user may perform the target gesture operation during the progress period from the start time of the first timer to the end time of the first timer.

동작(1620)에서 전자 장치는 제1 타이머가 종료된 이후, 제1 타이머의 진행 기간 동안에 센서의 신호로부터 획득되는 데이터 샘플들 중 타겟 제스처 확률이 임계 확률(threshold probability) 이상인 데이터 샘플들을 추출할 수 있다.Inoperation 1620, after the first timer expires, the electronic device may extract data samples having a target gesture probability greater than or equal to a threshold probability among data samples acquired from a signal from a sensor during the duration of the first timer. there is.

동작(1630)에서 전자 장치는 타겟 제스처 확률이 임계 확률 이상인 데이터 샘플들 중 타겟 제스처 확률이 가장 높은 데이터 샘플을 선별할 수 있고, 선별된 데이터 샘플을 타겟 제스처 샘플로 저장할 수 있다.Inoperation 1630, the electronic device may select a data sample having the highest target gesture probability among data samples having a target gesture probability greater than or equal to a threshold probability, and may store the selected data sample as a target gesture sample.

동작(1640)에서 전자 장치는 저장된 적어도 하나의 타겟 제스처 샘플을 사용하여 분류기의 업데이트를 수행할 지 여부를 판단할 수 있다. 전자 장치는 분류기의 업데이트를 수행하지 않는 경우, 동작(1610)으로 되돌아가 사용자의 타겟 제스처 동작을 인식하여 다른 타겟 제스처 샘플을 추가적으로 저장할 수 있다.Inoperation 1640, the electronic device may determine whether to update the classifier using at least one stored target gesture sample. When the electronic device does not update the classifier, the electronic device may return tooperation 1610 to recognize the user's target gesture motion and additionally store another target gesture sample.

동작(1650)에서 전자 장치는 저장된 적어도 하나의 타겟 제스처 샘플을 사용하여 분류기를 업데이트할 수 있다. 예를 들어, 전자 장치는 사용자에 의해 분류기를 업데이트하도록 설정된 객체(예: 도 14의 객체(1412) 또는 도 15의 객체(1515))가 활성화되는 경우에 응답하여, 저장된 적어도 하나의 타겟 제스처 샘플을 사용하여 분류기의 업데이트를 수행할 수 있다.Inoperation 1650, the electronic device may update the classifier using at least one stored target gesture sample. For example, the electronic device responds to activation of an object (eg,object 1412 of FIG. 14 orobject 1515 of FIG. 15 ) set to update the classifier by the user, and at least one stored target gesture sample. can be used to update the classifier.

도 17은 일 실시예에 따른 전자 장치가 타겟 제스처 샘플 수집의 기준이 되는 임계 확률을 조정하는 과정을 설명하는 도면이다.17 is a diagram for explaining a process of adjusting a threshold probability, which is a standard for collecting target gesture samples, by an electronic device according to an embodiment.

일 실시예에 따른 전자 장치는 사용자가 수행하는 타겟 제스처 동작을 인식하여 획득하는 데이터 샘플들 중 타겟 제스처 확률이 임계 확률 미만이 되는 데이터 샘플들은 타겟 제스처 샘플로 이용하지 않을 수 있다. 다시 말해, 임계 확률의 크기에 따라 타겟 제스처 샘플 수집이 되는 기준이 달라질 수 있다.The electronic device according to an embodiment may not use, among data samples obtained by recognizing a target gesture operation performed by a user, data samples having a target gesture probability less than a threshold probability as target gesture samples. In other words, the criterion for collecting target gesture samples may vary according to the size of the threshold probability.

일 실시예에 따르면, 전자 장치는 분류기에 대하여 업데이트를 수행하기 이전에는 임계 확률을 낮게 설정할 수 있다. 전자 장치는 분류기의 업데이트에 사용된 타겟 제스처 샘플들이 증가할수록 임계 확률이 증가되도록 조정할 수 있다.According to an embodiment, the electronic device may set the threshold probability low before updating the classifier. The electronic device may adjust the threshold probability to increase as the number of target gesture samples used to update the classifier increases.

전자 장치는 타겟 제스처 샘플을 사용하여 분류기의 업데이트를 수행하는 시점에, 현재까지 분류기의 업데이트에 사용된 타겟 제스처 샘플들의 개수에 기초하여 임계 확률을 증가시킬 수 있다. 예를 들어, 전자 장치는 사용자에 의해 분류기 업데이트를 위한 객체(예: 도 14의 객체(1413))가 활성화되는 경우에 응답하여, 현재까지 분류기의 업데이트에 사용된 타겟 제스처 샘플들의 개수에 기초하여 임계 확률을 증가시킬 수 있다. 도 17을 참조하면, 전자 장치는 사용자에 의해 분류기 업데이트를 위한 객체가 활성화됨으로써 분류기를 업데이트하는 시점들(1701, 1702, 1703)에서 임계 확률이 증가하도록 조정할 수 있다. 전자 장치는 임계 확률을 조정함으로써 보다 정확한 타겟 제스처 샘플들을 수집할 수 있다.At the time of updating the classifier using the target gesture sample, the electronic device may increase the threshold probability based on the number of target gesture samples used to update the classifier up to now. For example, the electronic device responds to a case where an object (eg, the object 1413 of FIG. 14 ) for classifier update is activated by the user, based on the number of target gesture samples used to update the classifier up to now. The threshold probability can be increased. Referring to FIG. 17 , the electronic device may adjust the threshold probability to increase attime points 1701 , 1702 , and 1703 of updating the classifier when an object for updating the classifier is activated by the user. The electronic device may collect more accurate target gesture samples by adjusting the threshold probability.

도 18은 일 실시예에 따른 전자 장치가 능동적 방법(active method)으로 타겟 제스처 샘플을 수집하여 분류기의 업데이트를 수행하는 과정을 설명하는 흐름도이다.18 is a flowchart illustrating a process in which an electronic device collects target gesture samples using an active method and updates a classifier according to an exemplary embodiment.

동작(1810)에서 전자 장치는 샘플 수집 모드로 진입할 수 있다. 전자 장치는 사용자에 의해 타겟 제스처 샘플을 능동적 방법으로 수집하기 위한 객체(예: 도 15의 객체(1511))가 활성화되는 경우에 응답하여, 샘플 수집 모드로 진입할 수 있다.Inoperation 1810, the electronic device may enter a sample collection mode. The electronic device may enter a sample collection mode in response to activation of an object (eg, theobject 1511 of FIG. 15 ) for actively collecting target gesture samples by the user.

동작(1820)에서 전자 장치는 센서의 신호를 크롭(crop)하여 하나의 데이터 샘플을 획득할 수 있다. 동작(1830)에서 전자 장치는 획득된 데이터 샘플의 타겟 제스처 확률이 임계 확률 이상인 지 여부를 판단할 수 있다. 전자 장치는 획득된 데이터 샘플의 타겟 제스처 확률이 임계 확률 미만인 경우에는 동작(1820)로 돌아가 센서의 신호를 크롭하여 다른 데이터 샘플을 획득할 수 있다.Inoperation 1820, the electronic device may acquire one data sample by cropping the signal of the sensor. Inoperation 1830, the electronic device may determine whether the target gesture probability of the obtained data sample is greater than or equal to a threshold probability. When the target gesture probability of the obtained data sample is less than the threshold probability, the electronic device may return tooperation 1820 to acquire another data sample by cropping the signal of the sensor.

동작(1840)에서 전자 장치는 획득된 데이터 샘플의 타겟 제스처 확률이 임계 확률 이상인 경우, 획득된 데이터 샘플을 기준 데이터 샘플로 이용하여 센서의 신호로부터 타겟 제스처 샘플을 수집할 수 있다. 타겟 제스처 확률이 임계 확률 이상인 데이터 샘플에 기초하여 타겟 제스처 샘플을 센서의 신호로부터 수집하는 과정은 도 19에서 보다 구체적으로 설명한다. 전자 장치는 수집된 타겟 제스처 샘플을 저장할 수 있다.Inoperation 1840, when the target gesture probability of the obtained data sample is greater than or equal to the threshold probability, the electronic device may collect the target gesture sample from the sensor signal by using the obtained data sample as a reference data sample. A process of collecting a target gesture sample from a signal of a sensor based on a data sample having a target gesture probability greater than or equal to a threshold probability will be described in more detail with reference to FIG. 19 . The electronic device may store the collected target gesture samples.

동작(1850)에서 전자 장치는 저장된 적어도 하나의 타겟 제스처 샘플을 사용하여 분류기의 업데이트를 수행할 지 여부를 판단할 수 있다. 전자 장치는 분류기의 업데이트를 수행하지 않는 경우, 동작(1820)로 되돌아가 다른 타겟 제스처 샘플을 추가적으로 저장할 수 있다.Inoperation 1850, the electronic device may determine whether to update the classifier using at least one stored target gesture sample. When the electronic device does not update the classifier, it returns tooperation 1820 to additionally store another target gesture sample.

동작(1860)에서 전자 장치는 저장된 적어도 하나의 타겟 제스처 샘플을 사용하여 분류기를 업데이트할 수 있다. 예를 들어, 전자 장치는 사용자에 의해 분류기를 업데이트하도록 설정된 객체(예: 도 15의 객체(1515))가 활성화되는 경우에 응답하여, 저장된 적어도 하나의 타겟 제스처 샘플을 사용하여 분류기의 업데이트를 수행할 수 있다. 다른 예를 들어, 전자 장치는 분류기의 업데이트에 이용되지 않은 타겟 제스처 샘플이 미리 정한 개수 만큼 저장되는 경우, 저장된 미리 정한 개수의 타겟 제스처 샘플들을 사용하여 분류기의 업데이트를 수행할 수 있다. 미리 정한 개수는, 예를 들어, 3개일 수 있다. 전자 장치는 분류기를 업데이트하는 시점에 임계 확률이 증가하도록 조정할 수 있다.Inoperation 1860, the electronic device may update the classifier using the stored at least one target gesture sample. For example, the electronic device updates the classifier using at least one stored target gesture sample in response to activation of an object set to update the classifier (eg, theobject 1515 of FIG. 15) by the user. can do. For another example, when a predetermined number of target gesture samples not used for updating the classifier are stored, the electronic device may update the classifier using the stored predetermined number of target gesture samples. The predetermined number may be, for example, three. The electronic device may adjust the threshold probability to increase at the time of updating the classifier.

전자 장치는 샘플 수집 모드가 해제될 때까지 타겟 제스처 샘플의 수집 및 저장된 타겟 제스처 샘플에 기초한 분류기의 업데이트를 지속적으로 수행할 수 있다.The electronic device may continuously collect target gesture samples and update a classifier based on the stored target gesture samples until the sample collection mode is released.

도 19는 일 실시예에 따른 전자 장치가 능동적 방법으로 타겟 제스처 샘플을 수집하는 과정을 구체적으로 설명하는 흐름도이다.19 is a flowchart illustrating a process of actively collecting target gesture samples by an electronic device according to an embodiment.

동작(1910)에서 전자 장치는 획득된 데이터 샘플의 타겟 제스처 확률이 임계 확률 이상인 경우, 획득된 데이터 샘플을 기준 데이터 샘플로 저장하고 기준 데이터 샘플의 시작 시점을 기준으로 제2 타이머를 시작할 수 있다. 전자 장치는 기준 데이터 샘플을 초기에 저장할 수 있다.Inoperation 1910, when the target gesture probability of the obtained data sample is greater than or equal to the threshold probability, the electronic device may store the obtained data sample as a reference data sample and start a second timer based on a start point of the reference data sample. The electronic device may initially store the reference data sample.

동작(1920)에서 전자 장치는 제2 타이머를 제2 시간 동안 진행시킬 수 있고, 기준 데이터 샘플의 시작 시점으로부터 제2 시간 동안에 센서의 신호를 크롭하여 타겟 제스처 확률이 임계 확률 이상인 다른 데이터 샘플을 검색할 수 있다. 전자 장치는 타겟 제스처 확률이 임계 확률 이상인 데이터 샘플이 제2 타이머의 진행 기간 동안 검색되지 않는 경우, 전자 장치에 현재 저장된 데이터 샘플인 기준 데이터 샘플을 타겟 데이터 샘플로 수집할 수 있다.Inoperation 1920, the electronic device may advance a second timer for a second time period, and search for another data sample having a target gesture probability greater than or equal to a threshold probability by cropping a sensor signal during a second time period from the start of the reference data sample. can do. When a data sample having a target gesture probability equal to or greater than a threshold probability is not searched for during the duration of the second timer, the electronic device may collect a reference data sample, which is a data sample currently stored in the electronic device, as the target data sample.

동작(1930)에서 전자 장치는 저장된 데이터 샘플의 타겟 제스처 확률 보다 검색된 다른 데이터 샘플의 타겟 제스처 확률이 더 높은지 여부를 판단할 수 있다. 예를 들어, 전자 장치는 초기에는 기준 데이터 샘플을 저장하므로, 기준 데이터 샘플의 타겟 제스처 확률 보다 검색된 다른 데이터 샘플의 타겟 제스처 확률이 더 높은지 여부를 판단할 수 있다. 전자 장치는 다른 데이터 샘플의 타겟 제스처 확률이 저장된 데이터 샘플의 타겟 제스처 확률 보다 낮은 경우, 동작(1920)으로 되돌아가 타겟 제스처 확률이 임계 확률 이상인 다음 데이터 샘플을 검색할 수 있다.Inoperation 1930, the electronic device may determine whether a target gesture probability of a searched data sample is higher than a target gesture probability of a stored data sample. For example, since the electronic device initially stores the reference data sample, it may determine whether the target gesture probability of another data sample is higher than the target gesture probability of the reference data sample. When the target gesture probability of another data sample is lower than the target gesture probability of the stored data sample, the electronic device returns tooperation 1920 to search for a next data sample having a target gesture probability greater than or equal to the threshold probability.

동작(1940)에서 전자 장치는 다른 데이터 샘플의 타겟 제스처 확률이 저장된 데이터 샘플의 타겟 제스처 확률 보다 높은 경우, 저장된 데이터 샘플을 폐기하고 다른 데이터 샘플을 새로운 데이터 샘플로 저장할 수 있다.In operation 1940, when the target gesture probability of another data sample is higher than the target gesture probability of the stored data sample, the electronic device may discard the stored data sample and store the other data sample as a new data sample.

동작(1950)에서 전자 장치는 제2 타이머가 종료되었는지 여부를 판단할 수 있다. 전자 장치는 제2 타이머가 종료되지 않은 경우, 동작(1930)으로 되돌아가 타겟 제스처 확률이 임계 확률 이상인 다음 데이터 샘플을 검색할 수 있다.Inoperation 1950, the electronic device may determine whether the second timer has expired. When the second timer does not expire, the electronic device may return tooperation 1930 and search for a next data sample having a target gesture probability greater than or equal to a threshold probability.

동작(1960)에서 전자 장치는 제2 타이머가 종료된 경우, 전자 장치에 현재 저장된 데이터 샘플을 타겟 데이터 샘플로 수집할 수 있다. 위와 같은 방식으로, 일 실시예에 따른 전자 장치는 제2 타이머의 시작 시점 및 종료 시점 사이의 구간 동안에 타겟 제스처 확률이 가장 높은 데이터 샘플을 타겟 데이터 샘플로 수집할 수 있다.Inoperation 1960, when the second timer expires, the electronic device may collect a data sample currently stored in the electronic device as a target data sample. In the above manner, the electronic device according to an embodiment may collect data samples having the highest target gesture probability as the target data samples during the interval between the start time and end time of the second timer.

도 20은 일 실시예에 따른 전자 장치가 능동적 방법으로 타겟 제스처 샘플을 수집하는 과정을 설명하는 도면이다.20 is a diagram for explaining a process of collecting target gesture samples in an active method by an electronic device according to an embodiment.

일 실시예에 따른 전자 장치는 샘플 수집 모드로 진입할 수 있다. 전자 장치는 센서의 신호를 크롭하여 데이터 샘플들을 획득할 수 있다. 전자 장치는 획득된 데이터 샘플들 중 타겟 제스처 확률이 임계 확률 미만인 데이터 샘플들(2001, 2002)은 타겟 제스처 샘플로 이용하지 않을 수 있다. 전자 장치는 획득된 데이터 샘플들 중 타겟 제스처 확률이 임계 확률 이상인 데이터 샘플(2010)을 기준 데이터 샘플로 사용하여 타겟 제스처 샘플을 수집할 수 있다. 전자 장치는 데이터 샘플(2010)의 시작 시점을 기준으로 제2 시간 동안 제2 타이머를 진행시킬 수 있다. 전자 장치는 데이터 샘플(2010)을 저장할 수 있고, 제2 타이머의 진행 구간(2030) 동안에 타겟 제스처 확률이 임계 확률 이상인 다른 데이터 샘플(2020)을 검색할 수 있다. 전자 장치는 검색된 다른 데이터 샘플(2020)의 타겟 제스처 확률이 데이터 샘플(2010)의 타겟 제스처 확률보다 큰 경우, 기존에 저장된 데이터 샘플(2010)을 폐기하고, 다른 데이터 샘플(2020)을 새로 저장할 수 있다. 전자 장치는 제2 타이머가 종료되는 경우, 전자 장치에 현재 저장된 데이터 샘플(2020)을 타겟 데이터 샘플로 수집할 수 있다.An electronic device according to an embodiment may enter a sample collection mode. The electronic device may obtain data samples by cropping the signal of the sensor. The electronic device may not usedata samples 2001 and 2002 whose target gesture probability is less than the threshold probability among the obtained data samples as target gesture samples. The electronic device may collect a target gesture sample by using adata sample 2010 having a target gesture probability greater than or equal to a threshold probability among acquired data samples as a reference data sample. Based on the start time of thedata sample 2010, the electronic device may advance the second timer for a second time. The electronic device may store thedata sample 2010 and may search for anotherdata sample 2020 having a target gesture probability greater than or equal to a threshold probability during theprogress period 2030 of the second timer. When the target gesture probability of the searcheddata sample 2020 is greater than the target gesture probability of thedata sample 2010, the electronic device may discard the previously storeddata sample 2010 and newly store anotherdata sample 2020. there is. When the second timer expires, the electronic device may collect thedata sample 2020 currently stored in the electronic device as the target data sample.

도 21은 일 실시예에 따른 전자 장치가 타겟 제스처 샘플을 수집한 이후의 동작을 설명하는 흐름도이다.21 is a flowchart illustrating an operation after an electronic device collects a target gesture sample, according to an exemplary embodiment.

동작(2110)에서 일 실시예에 따른 전자 장치는 능동적 방법 또는 수동적 방법으로 타겟 제스처 샘플을 수집할 수 있다. 전자 장치는 수집된 타겟 제스처 샘플을 저장할 수 있다. 전자 장치는 사용자의 입력에 기초하여 복수의 동작들 중 하나의 동작을 수행할 수 있다.Inoperation 2110, the electronic device according to an embodiment may collect target gesture samples in an active method or a passive method. The electronic device may store the collected target gesture samples. The electronic device may perform one of a plurality of operations based on a user's input.

먼저, 동작(2121)에서 전자 장치는 저장된 적어도 하나의 타겟 제스처 샘플을 사용하여 분류기를 업데이트할 수 있다. 예를 들어, 전자 장치는 사용자에 의해 분류기를 업데이트하도록 설정된 객체(예: 도 14의 객체(1412) 또는 도 15의 객체(1515))가 활성화되는 경우에 응답하여, 저장된 적어도 하나의 타겟 제스처 샘플을 사용하여 분류기의 업데이트를 수행할 수 있다.First, inoperation 2121, the electronic device may update a classifier using at least one stored target gesture sample. For example, the electronic device responds to activation of an object (eg,object 1412 of FIG. 14 orobject 1515 of FIG. 15 ) set to update the classifier by the user, and at least one stored target gesture sample. can be used to update the classifier.

동작(2122)에서 전자 장치는 수집된 타겟 제스처 샘플을 폐기(discard)할 수 있다. 예를 들어, 전자 장치는 사용자에 의해 수집된 타겟 제스처 샘플을 폐기하도록 설정된 객체(예: 'Discard sample' 버튼)가 활성화되는 경우에 응답하여, 수집된 타겟 제스처 샘플을 폐기할 수 있다. 일 실시예에 따르면, 전자 장치는 가장 최근에 수집된 타겟 제스처 샘플을 폐기할 수 있다. 예를 들어, 전자 장치는 타겟 제스처 샘플을 폐기하는 경우, 업데이트에 미사용된 타겟 제스처 샘플의 개수를 1만큼 차감하여 화면에 표시할 수 있다.Inoperation 2122, the electronic device may discard the collected target gesture samples. For example, the electronic device may discard the collected target gesture samples in response to activating an object (eg, a 'Discard sample' button) set to discard the collected target gesture samples by the user. According to an embodiment, the electronic device may discard the most recently collected target gesture sample. For example, when discarding target gesture samples, the electronic device may deduct the number of target gesture samples not used for update by 1 and display the number of target gesture samples on the screen.

동작(2123)에서 전자 장치는 분류기를 리셋(reset)할 수 있다. 예를 들어, 전자 장치는 사용자에 의해 분류기를 리셋하도록 설정된 객체(예: 'Reset classifier' 버튼)가 활성화되는 경우에 응답하여, 분류기를 리셋할 수 있다. 전자 장치는 분류기를 업데이트 이전으로 초기화할 수 있다. 다시 말해, 전자 장치는 분류기의 전체 리프들의 보상값을 초기화할 수 있다. 예를 들어, 전자 장치는 저장된 타겟 제스처 샘플은 유지한 채로, 분류기만을 업데이트 이전으로 초기화할 수 있다.Inoperation 2123, the electronic device may reset the classifier. For example, the electronic device may reset the classifier in response to activation of an object set by the user to reset the classifier (eg, a 'Reset classifier' button). The electronic device may initialize the classifier before updating. In other words, the electronic device may initialize compensation values of all leaves of the classifier. For example, the electronic device may initialize only the classifier before update while maintaining the stored target gesture sample.

도 22는 일 실시예에 따른 전자 장치가 화면에 분류기의 성능 평가 결과를 표시하는 것을 나타내는 도면이다.22 is a diagram illustrating that an electronic device displays a performance evaluation result of a classifier on a screen according to an exemplary embodiment.

일 실시예에 따른 전자 장치는 사용자의 동작을 인식하여 데이터 샘플을 획득할 수 있다. 전자 장치는 획득된 데이터 샘플의 타겟 제스처 확률(2211)을 화면에 표시할 수 있다. 전자 장치는 획득된 데이터 샘플을 현재의 분류기에 입력하여 타겟 제스처 확률을 산출할 수 있다. 전자 장치는 획득된 데이터 샘플의 타겟 제스처 확률이 임계 확률(예를 들어, 20%) 미만인 경우 타겟 제스처 확률이 낮음을 나타내는 메시지(예를 들어, 'Low Probability')(2212)를 표시할 수 있다. 전자 장치는 메시지(2212)를 표시함으로써 사용자가 보다 정확한 타겟 제스처 동작을 수행하도록 유도할 수 있다.An electronic device according to an embodiment may acquire a data sample by recognizing a user's motion. The electronic device may display thetarget gesture probability 2211 of the acquired data sample on the screen. The electronic device may calculate a target gesture probability by inputting the obtained data sample to the current classifier. When the target gesture probability of the obtained data sample is less than a threshold probability (eg, 20%), the electronic device may display a message indicating that the target gesture probability is low (eg, 'Low Probability') 2212 . The electronic device may induce the user to perform a more accurate target gesture operation by displaying themessage 2212 .

일 실시에에 따른 전자 장치는 획득된 데이터 샘플의 타겟 제스처 확률이 임계 확률 이상인 경우, 획득된 데이터 샘플에 기초하여 타겟 제스처 샘플을 수집할 수 있다. 전자 장치는 타겟 제스처 샘플을 수집한 경우 타겟 제스처 샘플의 수집을 나타내는 메시지(2224)(예를 들어, 'Catch done')를 표시할 수 있다. 전자 장치는 타겟 제스처 샘플을 현재의 분류기에 입력하는 경우에 산출되는 타겟 제스처 샘플의 타겟 제스처 확률(2221)을 화면에 표시할 수 있다. 또한, 전자 장치는 저장된 적어도 하나의 타겟 제스처 샘플을 사용하여 업데이트된 분류기에 타겟 제스처 샘플을 입력하여 산출되는 타겟 제스처 샘플의 타겟 제스처 확률(2222)을 화면에 함께 표시할 수 있다. 전자 장치는 현재 전자 장치에 저장되어 있는 분류기의 업데이트에 미사용된 타겟 제스처 샘플의 개수 및 분류기의 업데이트에 현재까지 사용된 타겟 제스처 샘플의 개수(2223)를 표시할 수 있다. 전자 장치는 분류기의 업데이트를 위한 객체(2230)를 표시할 수 있다. 사용자 조작을 통해 객체(2230)가 활성화되는 경우, 전자 장치는 전자 장치에 저장되어 있는 분류기의 업데이트에 미사용된 적어도 하나의 타겟 제스처 샘플을 사용하여 분류기를 업데이트할 수 있다.The electronic device according to an embodiment may collect a target gesture sample based on the acquired data sample when the target gesture probability of the obtained data sample is greater than or equal to a threshold probability. When the electronic device collects the target gesture sample, it may display amessage 2224 indicating collection of the target gesture sample (eg, 'Catch done'). The electronic device may display thetarget gesture probability 2221 of the target gesture sample calculated when the target gesture sample is input to the current classifier on the screen. Also, the electronic device may display thetarget gesture probability 2222 of the target gesture sample calculated by inputting the target gesture sample to the updated classifier using at least one stored target gesture sample on the screen. The electronic device may display thenumber 2223 of target gesture samples currently stored in the electronic device that have not been used for updating the classifier and the number of target gesture samples that have been used for updating the classifier up to now. The electronic device may display anobject 2230 for updating the classifier. When theobject 2230 is activated through a user manipulation, the electronic device may update the classifier by using at least one target gesture sample stored in the electronic device and unused for updating the classifier.

전자 장치는 저장된 적어도 하나의 타겟 제스처 샘플을 사용하여 업데이트된 분류기에 타겟 제스처 샘플을 입력하여 산출되는 타겟 제스처 샘플의 타겟 제스처 확률(2241)이 미리 정한 확률(예를 들어, 90%) 이상인 경우, 수집된 타겟 제스처 샘플이 충분함을 나타내는 메시지(2242)(예를 들어, 'Enough')를 화면에 표시할 수 있다. 전자 장치는 메시지(2242)를 표시함으로써 사용자로 하여금 타겟 제스처 동작의 수행을 멈출 시점을 통지할 수 있고, 사용자는 메시지(2242)를 확인하여 타겟 제스처 동작의 수행을 멈출 수 있다.When thetarget gesture probability 2241 of the target gesture sample calculated by inputting the target gesture sample to the updated classifier using at least one stored target gesture sample is equal to or greater than a predetermined probability (eg, 90%), Amessage 2242 indicating that the collected target gesture samples are sufficient (eg, 'Enough') may be displayed on the screen. The electronic device can notify the user of when to stop performing the target gesture operation by displaying themessage 2242, and the user can stop performing the target gesture operation by checking themessage 2242.

일 실시예에 따른 전자 장치는, 컴퓨터로 실행 가능한 명령어들(computer-executable instructions)이 저장된 메모리, 메모리에 액세스(access)하여 명령어들을 실행하는 프로세서를 포함하고, 프로세서는, 결정트리 네트워크(decision tree network) 기반 분류기에 하나의 타겟 제스처 샘플을 입력하고, 하나의 타겟 제스처 샘플에 대응하여 트리 별로 선택되는 제1 리프들을 식별하고, 식별된 제1 리프들 각각의 보상값을 업데이트 단위 값 만큼 증가시켜 분류기의 상향 업데이트를 수행할 수 있다.An electronic device according to an embodiment includes a memory in which computer-executable instructions are stored, and a processor that accesses the memory to execute the instructions, and the processor includes a decision tree network. network) based classifier by inputting one target gesture sample, identifying first leaves selected for each tree corresponding to one target gesture sample, and increasing the reward value of each of the identified first leaves by an update unit value Updating the classifier can be performed.

프로세서는, 분류기에 하나의 오경보 데이터 샘플을 입력하고, 하나의 오경보 데이터 샘플에 대응하여 트리 별로 선택되는 제2 리프들을 식별하며, 식별된 제2 리프들 각각의 보상값을 업데이트 단위 값 만큼 감소시켜 분류기의 하향 업데이트를 수행할 수 있다.The processor inputs one false alarm data sample to the classifier, identifies second leaves selected for each tree corresponding to one false alarm data sample, and reduces a compensation value of each of the identified second leaves by an update unit value. A downward update of the classifier can be performed.

프로세서는, 분류기의 트레이닝에 이용된 트레이닝 데이터 셋이 포함하는 데이터 샘플들 중 타겟 제스처를 나타내지 않는 데이터 샘플들을 추출하고, 추출된 데이터 샘플들 중으로부터 분류기에 입력되는 경우에 타겟 제스처로 분류되는 데이터 샘플들을 오경보 데이터 샘플로 사용할 수 있다.The processor extracts data samples that do not represent the target gesture from among data samples included in the training data set used for training the classifier, and from among the extracted data samples, data samples classified as target gestures when input to the classifier can be used as false alarm data samples.

프로세서는, 상기 분류기의 상향 업데이트와 상기 분류기의 하향 업데이트를 한번 씩 번갈아 수행하여 상기 분류기를 업데이트할 수 있다.The processor may update the classifier by alternately performing upward updating of the classifier and downward updating of the classifier once.

프로세서는, 분류기의 상향 업데이트를 수행하는 경우, 업데이트 단위 값을 분류기의 타겟 제스처 인식률에 반비례하도록 조정할 수 있다.When upwardly updating the classifier, the processor may adjust the update unit value to be in inverse proportion to the target gesture recognition rate of the classifier.

프로세서는, 분류기의 상향 업데이트 및 분류기의 하향 업데이트를 한 번씩 수행하는 경우, 분류기의 전체 리프들 각각의 보상값을 보상 조정 값 만큼 감소시킬 수 있다.The processor may decrease the compensation value of each of all leaves of the classifier by the compensation adjustment value when the classifier is updated once and the classifier is updated once.

프로세서는, 상기 분류기의 상향 업데이트 및 상기 분류기의 하향 업데이트를 한 번씩 수행한 이후에 보상 조정 값을 분류기의 타겟 제스처 인식률에 비례하도록 조정할 수 있다.After performing upward update of the classifier and downward update of the classifier once, the processor may adjust the compensation adjustment value in proportion to the target gesture recognition rate of the classifier.

프로세서는, 분류기의 상향 업데이트 및 분류기의 하향 업데이트를 한 번씩 수행하는 경우, 전체 오경보 데이터 샘플들 각각에 대응하는 리프들을 식별하고, 식별된 리프들 각각에 대하여 해당 리프가 전체 오경보 데이터 샘플들에 대응하여 선택된 횟수를 지시하는 통계값을 산출하며, 해당 리프에 대해 산출된 통계값에 비례하는 값으로 해당 리프의 보상값을 추가로 감소시킬 수 있다.When the processor performs upward updating of the classifier and downward updating of the classifier once, the processor identifies leaves corresponding to each of all false alarm data samples, and for each of the identified leaves, the corresponding leaf corresponds to all false alarm data samples. A statistical value indicating the number of times selected is calculated, and the compensation value of the corresponding leaf can be further reduced to a value proportional to the statistical value calculated for the corresponding leaf.

프로세서는, 사용자의 타겟 제스처 동작을 인식하여 생성된 센서의 신호를 크롭(crop)하여 타겟 제스처 확률이 임계 확률 이상인 적어도 하나의 타겟 제스처 샘플을 수집하고, 수집된 적어도 하나의 타겟 제스처 샘플을 사용하여 분류기의 업데이트를 수행할 수 있다.The processor collects at least one target gesture sample having a target gesture probability greater than or equal to a threshold probability by cropping a signal of a sensor generated by recognizing a user's target gesture motion, and using the collected at least one target gesture sample You can perform an update of the classifier.

프로세서는, 전자 장치가 수동적 방법으로 타겟 제스처 샘플을 수집하는 경우, 제1 타이머를 제1 시간 동안 진행시켜 제1 타이머의 진행 기간 동안에 획득되는 데이터 샘플들 중 타겟 제스처 확률이 임계 확률 이상인 데이터 샘플들을 추출하며, 추출된 데이터 샘플들 중 타겟 제스처 확률이 가장 높은 데이터 샘플을 타겟 제스처 샘플로 수집할 수 있다.When the electronic device passively collects target gesture samples, the processor advances a first timer for a first time to select data samples having a target gesture probability greater than or equal to a threshold probability among data samples acquired during the duration of the first timer. and a data sample having the highest target gesture probability among the extracted data samples may be collected as the target gesture sample.

프로세서는, 전자 장치가 능동적 방법으로 타겟 제스처 샘플을 수집하는 경우, 센서의 신호를 크롭하여 임계 확률 이상의 타겟 제스처 확률을 갖는 후보 데이터 샘플을 추출하고, 제2 타이머를 추출된 후보 데이터 샘플의 시작 시점으로부터 제2 시간 동안 진행시켜 제2 타이머의 진행 기간 동안에 획득되는 데이터 샘플들 중 타겟 제스처 확률이 가장 높은 데이터 샘플을 타겟 제스처 샘플로 수집할 수 있다.When the electronic device collects target gesture samples in an active method, the processor crops a signal of a sensor to extract candidate data samples having a target gesture probability greater than or equal to a threshold probability, and sets a second timer at a start point of the extracted candidate data samples. , and data samples having the highest target gesture probability among data samples obtained during the duration of the second timer may be collected as target gesture samples.

프로세서는, 분류기의 업데이트를 수행하는 시점에 임계 확률을 분류기의 업데이트에 사용된 타겟 제스처 샘플의 개수에 비례하여 조정할 수 있다.The processor may adjust the threshold probability in proportion to the number of target gesture samples used for updating the classifier at the time of updating the classifier.

일 실시예에 따른 전자 장치에 의해 수행되는 방법은, 결정트리 네트워크(decision tree network) 기반 분류기에 하나의 타겟 제스처 샘플을 입력하는 동작, 하나의 타겟 제스처 샘플에 대응하여 트리 별로 선택되는 제1 리프들을 식별하는 동작, 및 식별된 제1 리프들 각각의 보상값을 업데이트 단위 값 만큼 증가시켜 분류기의 상향 업데이트를 수행하는 동작을 포함할 수 있다.A method performed by an electronic device according to an embodiment includes an operation of inputting one target gesture sample to a classifier based on a decision tree network, and a first leaf selected for each tree corresponding to one target gesture sample. and performing an upward update of the classifier by increasing a compensation value of each of the identified first leaves by an update unit value.

일 실시예에 따른 전자 장치에 의해 수행되는 방법은, 분류기에 하나의 오경보 데이터 샘플을 입력하는 동작, 하나의 오경보 데이터 샘플에 대응하여 트리 별로 선택되는 제2 리프들을 식별하는 동작, 및 식별된 제2 리프들 각각의 보상값을 업데이트 단위 값 만큼 감소시켜 분류기의 하향 업데이트를 수행하는 동작을 포함할 수 있다.A method performed by an electronic device according to an embodiment includes an operation of inputting one false alarm data sample to a classifier, an operation of identifying second leaves selected for each tree corresponding to one false alarm data sample, and an operation of identifying the second leaves corresponding to the one false alarm data sample. An operation of performing downward update of the classifier by reducing the compensation value of each of the 2 leaves by an update unit value may be included.

일 실시예에 따른 전자 장치에 의해 수행되는 방법은, 분류기의 트레이닝에 이용된 트레이닝 데이터 셋이 포함하는 데이터 샘플들 중 타겟 제스처를 나타내지 않는 데이터 샘플들을 추출하는 동작, 및 추출된 데이터 샘플들 중으로부터 분류기에 입력되는 경우에 타겟 제스처로 분류되는 데이터 샘플들을 오경보 데이터 샘플로 사용하는 동작을 포함할 수 있다.A method performed by an electronic device according to an embodiment includes an operation of extracting data samples that do not represent a target gesture from among data samples included in a training data set used for training a classifier, and extracting data samples from among the extracted data samples. An operation of using data samples classified as target gestures as false alarm data samples when input to the classifier may be included.

일 실시예에 따른 전자 장치에 의해 수행되는 방법은, 상기 분류기의 상향 업데이트와 상기 분류기의 하향 업데이트를 한번 씩 번갈아 수행하여 상기 분류기를 업데이트하는 동작을 포함할 수 있다.The method performed by the electronic device according to an embodiment may include updating the classifier by alternately performing upward updating of the classifier and downward updating of the classifier once each.

일 실시예에 따른 전자 장치에 의해 수행되는 방법은, 분류기의 상향 업데이트를 수행하는 경우, 업데이트 단위 값을 분류기의 타겟 제스처 인식률에 반비례하도록 조정하는 동작을 더 포함할 수 있다.The method performed by the electronic device according to an embodiment may further include an operation of adjusting an update unit value to be in inverse proportion to a target gesture recognition rate of the classifier when upwardly updating the classifier.

일 실시예에 따른 전자 장치에 의해 수행되는 방법은, 분류기의 상향 업데이트 및 분류기의 하향 업데이트를 한 번씩 수행하는 경우, 분류기의 전체 리프들 각각의 보상값을 보상 조정 값 만큼 감소시키는 동작을 포함할 수 있다.A method performed by an electronic device according to an embodiment may include an operation of reducing a compensation value of each of all leaves of the classifier by a compensation adjustment value when up-updating the classifier and down-updating the classifier are performed once. can

일 실시예에 따른 전자 장치에 의해 수행되는 방법은, 사용자의 타겟 제스처 동작을 인식하여 생성된 센서의 신호를 크롭(crop)하여 타겟 제스처 확률이 임계 확률 이상인 적어도 하나의 타겟 제스처 샘플을 수집하는 동작, 및 수집된 적어도 하나의 타겟 제스처 샘플을 사용하여 분류기의 업데이트를 수행하는 동작을 포함할 수 있다.A method performed by an electronic device according to an embodiment includes an operation of collecting at least one target gesture sample having a target gesture probability greater than or equal to a threshold probability by cropping a signal of a sensor generated by recognizing a user's target gesture operation. , and an operation of performing an update of the classifier using the collected at least one target gesture sample.

적어도 하나의 타겟 제스처 샘플을 수집하는 동작은, 전자 장치가 수동적 방법으로 타겟 제스처 샘플을 수집하는 경우, 제1 타이머를 제1 시간 동안 진행시켜 제1 타이머의 진행 기간 동안에 획득되는 데이터 샘플들 중 타겟 제스처 확률이 임계 확률 이상인 데이터 샘플들을 추출하며, 추출된 데이터 샘플들 중 타겟 제스처 확률이 가장 높은 데이터 샘플을 타겟 제스처 샘플로 수집하는 동작을 포함할 수 있다.Collecting at least one target gesture sample may include, when the electronic device collects the target gesture sample in a passive manner, advancing a first timer for a first time, among data samples obtained during the advancing period of the first timer. An operation of extracting data samples having a gesture probability greater than or equal to a threshold probability and collecting data samples having the highest target gesture probability among the extracted data samples as target gesture samples.

적어도 하나의 타겟 제스처 샘플을 수집하는 동작은, 전자 장치가 능동적 방법으로 타겟 제스처 샘플을 수집하는 경우, 센서의 신호를 크롭하여 임계 확률 이상의 타겟 제스처 확률을 갖는 후보 데이터 샘플을 추출하고, 제2 타이머를 추출된 후보 데이터 샘플의 시작 시점으로부터 제2 시간 동안 진행시켜 제2 타이머의 진행 기간 동안에 획득되는 데이터 샘플들 중 타겟 제스처 확률이 가장 높은 데이터 샘플을 타겟 제스처 샘플로 수집하는 동작을 포함할 수 있다.Collecting at least one target gesture sample includes, when the electronic device collects the target gesture sample in an active way, cropping a sensor signal to extract a candidate data sample having a target gesture probability greater than or equal to a threshold probability, and a second timer. It may include an operation of proceeding for a second time from the starting point of the extracted candidate data sample to collect a data sample having the highest target gesture probability among data samples obtained during the duration of the second timer as the target gesture sample. .

Claims (15)

Translated fromKorean

전자 장치에 있어서,In electronic devices,컴퓨터로 실행 가능한 명령어들(computer-executable instructions)이 저장된 메모리;a memory in which computer-executable instructions are stored;상기 메모리에 액세스(access)하여 상기 명령어들을 실행하는 프로세서A processor that accesses the memory and executes the instructions를 포함하고,including,상기 프로세서는,the processor,결정트리 네트워크(decision tree network) 기반 분류기에 하나의 타겟 제스처 샘플을 입력하고, 상기 하나의 타겟 제스처 샘플에 대응하여 트리 별로 선택되는 제1 리프들을 식별하고, 상기 식별된 제1 리프들 각각의 보상값을 업데이트 단위 값 만큼 증가시켜 상기 분류기의 상향 업데이트를 수행하는,One target gesture sample is input to a classifier based on a decision tree network, first leaves selected for each tree corresponding to the one target gesture sample are identified, and each of the identified first leaves is compensated. Updating the classifier by increasing the value by an update unit value,전자 장치.electronic device.제1항에 있어서,According to claim 1,상기 프로세서는,the processor,상기 분류기에 하나의 오경보 데이터 샘플을 입력하고, 상기 하나의 오경보 데이터 샘플에 대응하여 트리 별로 선택되는 제2 리프들을 식별하며, 상기 식별된 제2 리프들 각각의 보상값을 상기 업데이트 단위 값 만큼 감소시켜 상기 분류기의 하향 업데이트를 수행하는,One false alarm data sample is input to the classifier, second leaves selected for each tree are identified corresponding to the one false alarm data sample, and a compensation value of each of the identified second leaves is reduced by the update unit value. to perform downward update of the classifier,전자 장치.electronic device.제1항 내지 제2항 중 어느 한 항에 있어서,According to any one of claims 1 to 2,상기 프로세서는,the processor,상기 분류기의 트레이닝에 이용된 트레이닝 데이터 셋이 포함하는 데이터 샘플들 중 타겟 제스처를 나타내지 않는 데이터 샘플들을 추출하고, 상기 추출된 데이터 샘플들 중으로부터 상기 분류기에 입력되는 경우에 타겟 제스처로 분류되는 데이터 샘플들을 오경보 데이터 샘플로 사용하는,Data samples that do not represent a target gesture are extracted from among data samples included in the training data set used for training the classifier, and are classified as target gestures when input to the classifier from among the extracted data samples. using them as false alarm data samples,전자 장치.electronic device.제1항 내지 제3항 중 어느 한 항에 있어서,According to any one of claims 1 to 3,상기 프로세서는,the processor,상기 분류기의 상향 업데이트와 상기 분류기의 하향 업데이트를 한번 씩 번갈아 수행하여 상기 분류기를 업데이트하는,Updating the classifier and updating the classifier by alternately performing upward updating of the classifier once and updating the classifier.전자 장치.electronic device.제1항 내지 제4항 중 어느 한 항에 있어서,According to any one of claims 1 to 4,상기 프로세서는,the processor,상기 분류기의 상향 업데이트를 수행하는 경우, 상기 업데이트 단위 값을 상기 분류기의 타겟 제스처 인식률에 반비례하도록 조정하는,When performing upward update of the classifier, adjusting the update unit value in inverse proportion to the target gesture recognition rate of the classifier,전자 장치.electronic device.제1항 내지 제5항 중 어느 한 항에 있어서,According to any one of claims 1 to 5,상기 프로세서는,the processor,상기 분류기의 상향 업데이트 및 상기 분류기의 하향 업데이트를 한 번씩 수행하는 경우, 상기 분류기의 전체 리프들 각각의 보상값을 보상 조정 값 만큼 감소시키는,When the upward update of the classifier and the downward update of the classifier are performed once, a compensation value of each of all leaves of the classifier is reduced by a compensation adjustment value.전자 장치.electronic device.제1항 내지 제6항 중 어느 한 항에 있어서,According to any one of claims 1 to 6,상기 프로세서는,the processor,상기 분류기의 상향 업데이트 및 상기 분류기의 하향 업데이트를 한 번씩 수행한 이후에 상기 보상 조정 값을 상기 분류기의 타겟 제스처 인식률에 비례하도록 조정하는,Adjusting the compensation adjustment value to be proportional to the target gesture recognition rate of the classifier after performing upward update of the classifier and downward update of the classifier once.전자 장치.electronic device.제1항 내지 제7항 중 어느 한 항에 있어서,According to any one of claims 1 to 7,상기 프로세서는,the processor,상기 분류기의 하향 업데이트를 수행하는 경우, 전체 오경보 데이터 샘플들 각각에 대응하는 리프들을 식별하고, 상기 식별된 리프들 각각에 대하여 해당 리프가 상기 전체 오경보 데이터 샘플들에 대응하여 선택된 횟수를 지시하는 통계값을 산출하며, 상기 해당 리프에 대해 산출된 통계값에 비례하는 값으로 상기 해당 리프의 보상값을 추가로 감소시키는,When performing downward update of the classifier, statistics indicating the number of times that leaves corresponding to each of all false alarm data samples are identified, and for each of the identified leaves, a corresponding leaf is selected corresponding to all false alarm data samples. Calculating a value, and further reducing the compensation value of the corresponding leaf to a value proportional to the statistical value calculated for the corresponding leaf.전자 장치.electronic device.제1항 내지 제8항 중 어느 한 항에 있어서,According to any one of claims 1 to 8,상기 프로세서는,the processor,사용자의 타겟 제스처 동작을 인식하여 생성된 센서의 신호를 크롭(crop)하여 타겟 제스처 확률이 임계 확률 이상인 적어도 하나의 타겟 제스처 샘플을 수집하고, 상기 수집된 적어도 하나의 타겟 제스처 샘플을 사용하여 상기 분류기의 업데이트를 수행하는,At least one target gesture sample having a target gesture probability greater than or equal to a threshold probability is collected by cropping a signal of a sensor generated by recognizing a user's target gesture motion, and the classifier uses the collected at least one target gesture sample. to perform an update of전자 장치.electronic device.제1항 내지 제9항 중 어느 한 항에 있어서,According to any one of claims 1 to 9,상기 프로세서는,the processor,상기 전자 장치가 수동적 방법으로 타겟 제스처 샘플을 수집하는 경우, 제1 타이머를 제1 시간 동안 진행시켜 상기 제1 타이머의 진행 기간 동안에 획득되는 데이터 샘플들 중 타겟 제스처 확률이 임계 확률 이상인 데이터 샘플들을 추출하며, 상기 추출된 데이터 샘플들 중 타겟 제스처 확률이 가장 높은 데이터 샘플을 타겟 제스처 샘플로 수집하는,When the electronic device passively collects target gesture samples, a first timer is advanced for a first time, and data samples having a target gesture probability greater than or equal to a threshold probability are extracted from data samples acquired during the duration of the first timer. And collecting data samples with the highest target gesture probability among the extracted data samples as target gesture samples.전자 장치.electronic device.제1항 내지 제10항 중 어느 한 항에 있어서,According to any one of claims 1 to 10,상기 프로세서는,the processor,상기 전자 장치가 능동적 방법으로 타겟 제스처 샘플을 수집하는 경우, 센서의 신호를 크롭하여 상기 임계 확률 이상의 타겟 제스처 확률을 갖는 후보 데이터 샘플을 추출하고, 제2 타이머를 상기 추출된 후보 데이터 샘플의 시작 시점으로부터 제2 시간 동안 진행시켜 상기 제2 타이머의 진행 기간 동안에 획득되는 데이터 샘플들 중 타겟 제스처 확률이 가장 높은 데이터 샘플을 타겟 제스처 샘플로 수집하는,When the electronic device collects target gesture samples in an active method, a signal from a sensor is cropped to extract candidate data samples having a target gesture probability greater than or equal to the threshold probability, and a second timer is set at a start point of the extracted candidate data samples. for a second time to collect data samples with the highest target gesture probability among data samples obtained during the duration of the second timer as target gesture samples,전자 장치.electronic device.제1항 내지 제11항 중 어느 한 항에 있어서,According to any one of claims 1 to 11,상기 프로세서는,the processor,상기 분류기의 업데이트를 수행하는 시점에 상기 임계 확률을 상기 분류기의 업데이트에 사용된 타겟 제스처 샘플의 개수에 비례하여 조정하는,Adjusting the threshold probability in proportion to the number of target gesture samples used for updating the classifier at the time of updating the classifier,전자 장치.electronic device.전자 장치에 의해 수행되는 방법에 있어서,In a method performed by an electronic device,결정트리 네트워크(decision tree network) 기반 분류기에 하나의 타겟 제스처 샘플을 입력하는 동작;inputting one target gesture sample to a classifier based on a decision tree network;상기 하나의 타겟 제스처 샘플에 대응하여 트리 별로 선택되는 제1 리프들을 식별하는 동작; 및identifying first leaves selected for each tree corresponding to the one target gesture sample; and상기 식별된 제1 리프들 각각의 보상값을 업데이트 단위 값 만큼 증가시켜 상기 분류기의 상향 업데이트를 수행하는 동작An operation of performing an upward update of the classifier by increasing a compensation value of each of the identified first leaves by an update unit value.을 포함하는 방법.How to include.제13항에 있어서,According to claim 13,상기 분류기에 하나의 오경보 데이터 샘플을 입력하는 동작;inputting one false alarm data sample to the classifier;상기 하나의 오경보 데이터 샘플에 대응하여 트리 별로 선택되는 제2 리프들을 식별하는 동작; 및identifying second leaves selected for each tree in response to the one false alarm data sample; and상기 식별된 제2 리프들 각각의 보상값을 상기 업데이트 단위 값 만큼 감소시켜 상기 분류기의 하향 업데이트를 수행하는 동작An operation of performing downward update of the classifier by reducing the compensation value of each of the identified second leaves by the update unit value.을 더 포함하는 방법.How to include more.제13항 내지 제14항 중 어느 한 항에 있어서,According to any one of claims 13 to 14,상기 분류기의 트레이닝에 이용된 트레이닝 데이터 셋이 포함하는 데이터 샘플들 중 타겟 제스처를 나타내지 않는 데이터 샘플들을 추출하는 동작; 및extracting data samples that do not represent a target gesture from among data samples included in a training data set used for training the classifier; and상기 추출된 데이터 샘플들 중으로부터 상기 분류기에 입력되는 경우에 타겟 제스처로 분류되는 데이터 샘플들을 오경보 데이터 샘플로 사용하는 동작An operation of using data samples classified as target gestures as false alarm data samples when input to the classifier from among the extracted data samples.을 더 포함하는 방법.How to include more.

Images