










본 발명은 영상콘텐츠를 활용한 의료교육 시스템에 관한 것으로서, 상세하게로는 수술영상과 수술에 관련된 부가정보를 포함하는 의료교육 콘텐츠를 제작하여 이를 접속된 클라이언트들에게 제공하는 영상콘텐츠를 활용한 의료교육 시스템에 관한 것이다.The present invention relates to a medical education system using image contents. More specifically, the present invention relates to a medical education system using image contents, which comprises medical education contents including surgical images and additional information related to surgery, Education system.
인터넷 인프라가 확장되고, 디지털 디바이스 기술이 발전함에 따라 미디어 및 콘텐츠 산업 또한 기하급수적으로 발전하였고, 더불어 미디어 및 콘텐츠를 활용한 서비스에 대한 다양한 연구가 활발하게 진행되고 있다.With the expansion of Internet infrastructure and the development of digital device technology, the media and content industries have also developed exponentially, and various studies on services utilizing media and contents have been actively conducted.
특히 영상콘텐츠의 질이 향상됨과 동시에 교육에 대한 관심이 증가함에 따라 동영상을 활용한 이러닝(e-learning)에 대한 수요가 확대되었고, 이러한 이러닝 시스템은 시간 및 공간의 제약을 받지 않으며, 반복 학습이 가능한 장점으로 인해 활용도 및 적용분야가 점차 급증하고 있다.Especially, as the quality of video contents is improved and the interest in education is increased, the demand for e-learning using video has been expanded. Such an e-learning system is not limited by time and space, Utilization and application areas are gradually increasing due to possible advantages.
그러나 다양한 분야에서 이러닝 시스템의 수요가 급증하고 있는 반면에, 아직 의료분야 이러닝 시스템에 대한 연구는 미흡한 실정이다. 특히 의료는 생명을 다루는 매우 중요한 분야임에도 불구하고, 다른 분야의 이러닝 시스템에 비교하여 기술 도입 및 연구가 미비하다.However, while the demand for e - learning system is rapidly increasing in various fields, research on e - learning system in medical field is still insufficient. Especially, although medical is a very important field dealing with life, technology introduction and research are insufficient compared with e-learning systems in other fields.
이러한 의료교육은 1)수술을 통한 훈련이 기본이기 때문에 공간 및 시간의 제약이 많고, 2)점차 고가의 첨단기기에 대한 의술의 의존도가 높아짐에 따라 교육 및 실습에 막대한 비용이 소요되고, 3)병원의 폐쇄적 환경에 의하여 수술 노하우가 공유되지 않는 특성을 갖기 때문에 숙련된 전문의를 양성하는데 오랜 시간 및 비용이 소요되는 특성을 갖기 때문에 숙련된 지식을 가진 전문의 부족현상이 심화되고 있다.This medical education is expensive because of the limited space and time because it is based on the training through surgery, 2) it takes a great deal of money for training and practice as the reliance of medical technology on advanced and advanced equipment is increased, and 3) Due to the fact that surgical know-how is not shared by the closed environment of the hospital, the shortage of specialists with skilled knowledge is intensifying because it has a long time and cost to train a skilled specialist.
또한 최근 들어 최소침습법, 영상기반 수술 및 미세수술 등과 같이 영상을 활용한 수술의 사용분야 및 활용도가 증가함에 따라 수술영상을 활용한 교육이 널리 사용되고 있으나, 이러한 수술영상은 1)교육용도가 아닌 단순히 기록용도로 촬영되었기 때문에 교육활용도가 떨어지며, 2)전체 수술과정을 촬영한 영상이기 때문에 데이터용량이 거대하여 저장 및 관리가 어려울 뿐만 아니라 3)교육과 관련 없는 무의미한 영상의 비중이 높아 교육용으로의 활용 및 공유가 어려운 특성을 갖는다.Recently, the use of surgical techniques such as minimally invasive method, image-based surgery, and micro-surgery has been widely used as the field of application and utilization of surgery has increased. However, 2) it is difficult to store and manage data due to its huge data size because it is a video that captures the entire operation process; and 3) it has a high proportion of meaningless images not related to education. Use and sharing are difficult.
국내공개특허 특2002-0081377호(발명의 명칭 : 시술자의 시각을 이용한 원격지 인터넷 기술지도교육배송시스템 및 통신망을 이용한 지도 시스템)에 개시된 지도 시스템은 수술영상을 접속된 고객에게 전송함과 동시에 지도자 및 열람자들의 양방향 음성서비스를 제공함으로써 특수 기술을 실황으로 공람시키는 교육서비스를 제공할 수 있다.The map system disclosed in Korean Patent Publication No. 2002-0081377 (titled "remote internet technology map teaching delivery system and communication system using telecommunication network using an operator's vision") transmits a surgical image to a connected client, By providing two-way voice service of viewers, it is possible to provide education service that shows special technology in real-time.
그러나 상기 지도시스템은 수술에 전념하여야 하는 집도의가 수술을 수행하면서 열람자에게 정보를 전달하거나 또는 열람자의 답변에 대답하기 때문에 수술의 정확도가 떨어진다거나 또는 정보전달의 효율성이 떨어지는 등의 문제로 인해 실제 현장에 적용하기가 어려운 한계를 갖는다.However, since the guidance system, which has to concentrate on the operation, transmits the information to the viewer or responds to the viewer's answer while performing the surgery, the accuracy of the operation is lowered or the efficiency of information transmission is decreased. It is difficult to apply the present invention.
통상적으로 의학수술은 각종 다양한 변수 및 돌발 상황이 발생됨과 동시에 동일 변수 및 돌발 상황이라고 할지라도 집도의의 판단 및 경험에 따라 다양한 대처가 이루어지는 특성을 갖게 되나, 상기 지도시스템은 집도의가 영상 및 음성을 통해서만 정보를 전달할 수 있기 때문에 정보전달력이 낮아 교육효율이 떨어지는 문제점이 발생한다.In general, medical surgery has various characteristics and characteristics such that various variables and unexpected situations arise and various actions are taken according to the judgment and experience of the master even though the same variables and unexpected situations are present. However, Because information can be delivered, the information delivery power is low, resulting in poor educational efficiency.
또한 상기 지도시스템은 타임라인이 편집되지 않은 수술영상을 통해 교육이 이루어지기 때문에 교육에 상관없는 무의미한 영상의 비중이 높은 수술영상의 특성을 감안할 때 열람 집중도 및 학습효율이 떨어지는 단점을 갖는다.In addition, since the education is performed through the surgical image in which the timeline is not edited, the map system has a disadvantage that the browsing concentration and the learning efficiency are inferior in view of the characteristic of the surgical image having a high proportion of meaningless images without regard to education.
도 1은 국내공개특허 제10-2011-0092633호(발명의 명칭 : 인터넷망을 이용한 미용, 성형 수술기법 동영상 제공방법)에 개시된 동영상 제공시스템을 나타내는 블록도이다.FIG. 1 is a block diagram showing a moving image providing system disclosed in Korean Patent Laid-Open No. 10-2011-0092633 (entitled "Method for providing a beauty and cosmetic surgery technique video using the Internet network").
도 1의 동영상 제공시스템(이하 종래기술이라고 함)(100)은 HD급 고화질 영상을 촬영하여 해당 영상정보를 서저리 운영서버(101)로 전송하는 다수의 멀티미디어용 카메라(103)들과, 각종 의학정보 입력 자료를 기록하는 입력자료 기록수단(104)과, 각종 의학정보 자료를 서저리 운영서버(101)에 제공하는 자료제공수단(105)과, 해당 영상 신호를 입력받아 일치하는 이미지를 렌즈 시스템을 사용하여 프로젝션 스크린 위에 영사하는 프로젝터(106)와, 실제 수술 시연과정을 인터넷망(110)을 통해 온라인 생중계 또는 영상물을 가입회원들(109)에게 제공하는 서저리 운영서버(101)를 포함하고, 수술영상 및 의학정보를 활용하여 멀티미디어로 제작하여 접속된 가입회원들(109)에게 제공함으로써 열람자가 수술실을 직접 방문하지 않아도 수술영상을 통한 의료교육 서비스를 제공받을 수 있게 된다.The
그러나 종래기술(100)은 멀티미디어가 프로젝터(106)에 의하여 제작되기 때문에 멀티미디어를 제작하기 위해서는 프로젝터(106)에 대해 숙련된 전문가에 의해서만 가능하여 멀티미디어 제작과정이 복잡하고 번거로운 단점을 갖는다.However, since the multimedia data is produced by the
최근 들어 3D 영상처리기술 및 3D 디바이스에 대한 기술이 발전됨에 따라 3D 영상의 보급률이 증가하고 있고, 이러한 3D 영상은 2D 영상에 비교하여 현장감 및 생동감이 높은 특성을 가지나, 종래기술(100)은 단순히 타임라인 편집된 수술영상만으로 멀티미디어가 제작되기 때문에 영상의 현장감 및 생동감이 떨어지는 한계를 가진다.In recent years, as the 3D image processing technology and the technology for the 3D device have been developed, the penetration rate of the 3D image has been increasing. Such a 3D image has characteristics of high realism and high living feeling as compared with the 2D image, Since the multimedia is produced with only the edited operation image of the timeline, there is a limitation in that the sense of presence and feel of the image is inferior.
즉 1)수술영상과 수술영상에 관련된 다양한 부가정보를 포함하는 의료교육 콘텐츠를 통해 의료교육 및 학습의 효율성을 높일 수 있으며, 2)편집툴을 이용하여 의료교육 콘텐츠의 제작이 간단하게 이루어지고, 3)수술영상을 3D 영상으로 가공하여 현장감 및 생동감을 높일 수 있는 의료교육 시스템에 대한 연구가 시급한 실정이다.1) improve the efficiency of medical education and learning through medical education contents including various additional information related to surgical images and surgical images, 2) make medical education contents easily by using editing tools, 3) It is urgent to study the medical education system which can enhance the sense of presence and liveliness by processing the surgical image into 3D image.
본 발명은 이러한 문제를 해결하기 위한 것으로, 본 발명의 해결과제는 타임라인이 편집된 수술영상과, 수술영상에 관련된 부가정보가 다양한 전시방법으로 전시되는 의료교육 콘텐츠를 접속된 클라이언트에게 제공함으로써 피교육자가 수술현장을 직접 방문하지 않더라도 수술 현장을 열람할 수 있을 뿐만 아니라 다양한 의료관련정보를 제공받을 수 있어 교육 및 학습의 효율성을 높임과 동시에 의료 교육의 참여기회가 현저히 확장되며, 공간 및 시간의 제약 없이 다양한 수술 케이스에 대한 학습을 수행할 수 있는 영상콘텐츠를 활용한 의료교육 시스템을 제공하기 위한 것이다.SUMMARY OF THE INVENTION The present invention has been made to solve the above problems and it is an object of the present invention to provide medical education contents to a connected client by displaying a surgical video, It is possible not only to visit the operation site but also to receive various medical information as well as to increase the efficiency of education and learning and to expand the opportunities for participating in medical education, The present invention provides a medical education system that utilizes image contents that can perform learning about various surgical cases without using a medical image.
또한 본 발명의 다른 해결과제는 의료교육 콘텐츠를 제작하기 위한 콘텐츠 편집프로그램이 입력된 영상이 2D 영상인지 또는 3D 영상인지를 판별한 후 입력된 영상이 2D 영상일 때 기 설정된 3D 컨버팅 알고리즘을 이용하여 입력영상을 3D으로 변환함으로써 우수한 생동감을 갖는 수술영상을 기초로 의료교육 서비스를 제공할 수 있는 영상콘텐츠를 활용한 의료교육 시스템을 제공하기 위한 것이다.Another object of the present invention is to provide a content editing program for creating a medical education content, which comprises: determining whether an input image is a 2D image or a 3D image, and using the 3Dconversion algorithm when the input image is a 2D image, And to provide a medical education system using image contents capable of providing medical education services based on surgical images having excellent liveliness by converting input images into 3D.
또한 본 발명의 또 다른 해결과제는 의료교육 콘텐츠가 단순히 수술영상만을 전시하는 것이 아니라, 영상 내에서 부가정보가 필요한 위치를 매핑포인트로 설정함과 동시에 설정된 매핑포인트들 각각에 대한 부가정보가 팝업방식으로 전시되도록 구성됨으로써 더욱 다양한 의료관련정보를 제공할 수 있는 영상콘텐츠를 활용한 의료교육 시스템을 제공하기 위한 것이다.In addition, the present invention provides a medical education contents display system that not only displays a surgical image but also sets a location requiring additional information in a video as a mapping point, and adds additional information about each set mapping point to a pop- So as to provide a medical education system using image contents which can provide more various medical related information.
상기 과제를 해결하기 위한 본 발명의 해결수단은 수술영상을 기초로 교육서비스를 제공하기 위한 의료교육 시스템에 있어서: 수술현장을 촬영하여 상기 수술영상을 획득하는 카메라들; 상기 수술영상의 프레임들의 패치순서를 나타내는 타임코드 분류정보 및 상기 수술영상에 관련된 부가정보를 입력받으면, 상기 카메라들에 의한 수술영상, 입력된 타임코드 분류정보 및 부가정보를 외부로 전송하는 의료 클라이언트; 교육콘텐츠를 제작하는 콘텐츠 편집프로그램이 설치되는 편집 클라이언트; 상기 편집 클라이언트로부터 전송받은 교육콘텐츠와 상기 의료 클라이언트로부터 전송받은 수술영상, 타임코드 분류정보 및 부가정보를 저장하며, 접속된 클라이언트의 요청에 따라 상기 교육콘텐츠를 제공하는 관리서버를 포함하고, 상기 콘텐츠 편집프로그램은 상기 관리서버로부터 전송받은 수술영상, 타임코드 분류정보 및 부가정보를 전송받으면, 상기 타임코드 분류정보에 따라 상기 수술영상의 타임라인을 편집하는 타임라인 편집부와, 입력된 부가정보의 내용을 등록함과 동시에 전시방법을 결정하는 부가정보 설정부와, 상기 타임라인 편집부에 의해 편집된 수술영상이 전시되는 영상전시란을 포함하되 상기 부가정보 설정부에 의해 결정된 전시방법에 따라 상기 부가정보를 전시하는 교육콘텐츠를 제작하는 콘텐츠 생성부를 포함하는 것이다.According to an aspect of the present invention, there is provided a medical education system for providing a training service based on a surgical image, the system comprising: cameras for capturing an operation scene and acquiring the operation image; When receiving the time code classification information indicating the patch order of the frames of the surgical image and the additional information related to the surgical image, the medical client transmits a surgical image, input time code classification information, ; An editing client in which a content editing program for creating educational contents is installed; And a management server for storing the training content received from the editing client, the surgical video transmitted from the medical client, time code classification information, and additional information, and providing the training content in response to a request from a connected client, A time line editing unit for editing the time line of the operation video according to the time code classification information when the operation program received from the management server receives the operation video, the time code classification information, and the side information received from the management server; And an image display field in which a surgical image edited by the time line editing unit is displayed, wherein the additional information setting unit displays the additional information according to the display method determined by the additional information setting unit, And a content creating unit for creating an educational content for displaying the content The.
또한 본 발명의 다른 해결수단은 수술영상을 기초로 교육서비스를 제공하기 위한 의료교육 시스템에 있어서: 수술현장을 촬영하여 상기 수술영상을 획득하는 카메라들; 상기 수술영상의 프레임들의 패치순서를 나타내는 타임코드 분류정보 및 상기 수술영상에 관련된 부가정보를 입력받으면, 상기 카메라들에 의한 수술영상, 입력된 타임코드 분류정보 및 부가정보를 외부 서버로 업로드 하는 의료 클라이언트; 교육콘텐츠를 제작하는 콘텐츠 편집프로그램을 외부 서버로부터 제공받는 편집 클라이언트; 상기 콘텐츠 편집프로그램과 상기 의료 클라이언트에 의해 업로드 된 수술영상, 타임코드 분류정보 및 부가정보를 저장하며, 접속된 편집 클라이언트의 요청에 따라 저장된 콘텐츠 편집프로그램, 수술영상, 타임코드 분류정보 및 부가정보를 제공하며, 상기 편집 클라이언트에 의한 교육콘텐츠를 저장함과 동시에 접속된 클라이언트의 요청에 따라 상기 교육콘텐츠를 제공하는 의료교육 관리서버를 포함하고, 상기 콘텐츠 편집프로그램은 상기 타임코드 분류정보에 따라 상기 수술영상의 타임라인을 편집하는 타임라인 편집부와, 입력된 부가정보의 내용을 등록함과 동시에 전시방법을 결정하는 부가정보 설정부와, 상기 타임라인 편집부에 의해 편집된 수술영상이 전시되는 영상전시란을 포함하되 상기 부가정보 설정부에 의해 결정된 전시방법에 따라 상기 부가정보를 전시하는 교육콘텐츠를 제작하는 콘텐츠 생성부를 포함하는 것이다.According to another aspect of the present invention, there is provided a medical education system for providing an educational service based on a surgical image, the system comprising: cameras for capturing an operation scene and acquiring the operation image; When receiving the time code classification information indicating the patch order of the frames of the surgical image and the additional information related to the surgical image, the surgical video, the inputted time code classification information, and the additional information are uploaded to the external server Client; An editing client that receives a content editing program for creating an educational content from an external server; Time code classification information and additional information uploaded by the content editing program and the medical client, and stores the stored content editing program, the operation video, the time code classification information, and the additional information at the request of the connected editing client And a medical education management server for storing the education contents by the editing client and providing the education contents according to a request of a client connected to the editing client, A supplementary information setting unit for registering contents of the additional information and determining an exhibition method, and a video display field for displaying a surgical image edited by the time line editing unit, And the display method determined by the additional information setting unit And a content creation unit for creating an educational content for displaying the additional information.
또한 본 발명에서 상기 부가정보는 영상 내에서 부가정보가 필요한 영역인 매핑포인트(P)의 위치정보를 더 포함하고, 상기 콘텐츠 편집 프로그램은 상기 수술영상 내에서 상기 매핑포인트(P)의 위치에 표시되는 표식기호 및 노출시간을 설정하는 매핑포인트 설정부; 상기 수술영상 내에서 상기 매핑포인트(P)의 위치를 추적하는 트랙킹 처리부를 더 포함하고, 상기 콘텐츠 생성부는 상기 트랙킹 처리부에 의해 추적된 위치, 상기 표식시고 및 상기 노출시간에 따라 상기 매핑포인트(P)를 상기 영상전시란을 통해 전시되는 수술영상에 표시되는 교육콘텐츠를 제작하는 것이 바람직하다.Further, in the present invention, the additional information may further include position information of a mapping point (P) which is an area where additional information is required in the image, and the content editing program displays the position of the mapping point (P) A mapping point setting unit for setting a mark symbol and an exposure time; And a tracking processing unit for tracking the position of the mapping point in the surgical image, wherein the content generating unit generates the mapping point P according to the position tracked by the tracking processing unit, the marking weight and the exposure time, ) Is preferably displayed on the surgical image displayed through the image display field.
또한 본 발명에서 상기 콘텐츠 편집프로그램은 3D 영상 가공부를 더 포함하고, 상기 3D 영상 가공부는 기 설정된 영상분석 알고리즘을 이용하여 입력영상이 2D 영상인지 3D 영상인지를 판단하는 판단모듈; 상기 판단모듈에 의해 입력영상이 2D 영상이라고 판단될 때 구동되어 기 설정된 3D 컨버팅 알고리즘을 이용하여 입력된 2D 영상을 3D 영상으로 변환하는 3D 영상 변환모듈을 포함하는 것이 바람직하다.The content editing program may further include a 3D image processing unit, wherein the 3D image processing unit includes a determination module for determining whether the input image is a 2D image or a 3D image using a predetermined image analysis algorithm; And a 3D image conversion module that is driven when the input image is determined to be a 2D image by the determination module and converts the
또한 본 발명에서 상기 3D 영상 가공부는 상기 판단모듈에 의해 입력영상이 3D 영상이라고 판단되거나 또는 상기 3D 영상 변환모듈로부터 3D 영상이 입력될 때 구동되어 입력영상인 3D 영상을 렌더링(rendering) 등과 같이 영상의 입체감을 높이기 위한 그래픽 편집을 수행하는 3D 영상 가공모듈을 더 포함하는 것이 바람직하다.In the present invention, the 3D image processing unit is driven when the input image is determined to be a 3D image by the determination module or when a 3D image is input from the 3D image conversion module, and the 3D image, which is an input image, And a 3D image processing module for performing graphic editing for enhancing the stereoscopic effect of the 3D image processing module.
또한 본 발명에서 상기 교육콘텐츠는 상기 매핑포인트에 대응되는 부가정보를 토글모드(toggle-mode)의 팝업방식으로 노출시키는 것이 바람직하다.In the present invention, it is preferable that the educational contents expose the additional information corresponding to the mapping point in a toggle-mode pop-up mode.
상기 과제와 해결수단을 갖는 본 발명에 따르면 열람자가 수술현장을 직접 방문하지 않더라도 수술 현장을 열람할 수 있을 뿐만 아니라 다양한 의료관련정보를 열람자에게 제공함으로써 교육 및 학습의 효율성을 높일 수 있을 뿐만 아니라 의료 교육의 참여기회를 증가시키며, 공간 및 시간의 제약 없이 다양한 수술 케이스에 대한 교육서비스를 제공할 수 있다.According to the present invention having the above-mentioned problems and solutions, it is possible not only to browse the operation site even if the reader does not visit the surgery site, but also to provide various medical-related information to the reader, Increase opportunities for participation in education, and provide education services for various surgical cases without space and time constraints.
또한 본 발명에 의하면 입력영상이 2D 영상인 경우에는 2D 영상을 3D 영상으로 변환하여 이를 콘텐츠의 영상으로 활용하며, 입력영상이 3D 영상인 경우에는 3D 영상이 더욱 입체감을 갖도록 가공하여 이를 콘텐츠의 영상으로 활용함으로써 학습 효율성 및 교육 집중도를 높일 수 있다.According to the present invention, when the input image is a 2D image, the 2D image is converted into a 3D image and used as an image of the content. If the input image is a 3D image, the 3D image is processed to have a more stereoscopic effect, It is possible to increase learning efficiency and education concentration.
또한 본 발명에 의하면 의료교육 콘텐츠가 단순히 수술영상만을 전시하는 것이 아니라, 영상 내에서 부가정보가 필요한 위치를 매핑포인트로 설정함과 동시에 설정된 매핑포인트들 각각에 대한 부가정보가 팝업방식으로 전시되도록 구성됨으로써 더욱 다양한 의료관련정보를 제공할 수 있다.Further, according to the present invention, the medical education contents do not merely display the surgical images, but set locations where additional information is required in the image as mapping points and additional information about each set mapping point is displayed in a pop- Thereby providing a variety of medical-related information.
도 1은 국내공개특허 제10-2011-0092633호(발명의 명칭 : 인터넷망을 이용한 미용, 성형 수술기법 동영상 제공방법)에 개시된 동영상 제공시스템을 나타내는 블록도이다.
도 2는 본 발명의 일실시예인 의료교육 시스템을 나타내는 구성도이다.
도 3은 도 2의 편집 클라이언트를 나타내는 블록도이다.
도 4는 본 발명의 의료교육 콘텐츠의 제작 과정을 설명하기 위한 플로차트이다.
도 5는 도 4를 나타내는 관계도이다.
도 6은 도 5의 콘텐츠 제작단계를 나타내는 플로차트이다.
도 7은 도 2의 콘텐츠 편집프로그램을 나타내는 블록도이다.
도 8은 도 7의 매핑포인트 설정부를 설명하기 위한 예시도이다.
도 9는 도 7의 3D 영상 가공부를 나타내는 블록도이다.
도 10은 도 7의 콘텐츠 생성부에 의해 생성되는 의료교육 콘텐츠를 나타내는 예시도이다.
도 11은 도 10의 실사진이다.FIG. 1 is a block diagram showing a moving image providing system disclosed in Korean Patent Laid-Open No. 10-2011-0092633 (entitled "Method for providing a beauty and cosmetic surgery technique video using the Internet network").
2 is a configuration diagram illustrating a medical education system according to an embodiment of the present invention.
Figure 3 is a block diagram illustrating the editing client of Figure 2;
FIG. 4 is a flowchart illustrating a process of manufacturing medical education contents according to the present invention.
Fig. 5 is a diagram showing the relationship shown in Fig.
Fig. 6 is a flowchart showing the contents production step of Fig. 5;
7 is a block diagram showing the contents editing program of Fig.
8 is an exemplary diagram for explaining the mapping point setting unit of FIG.
9 is a block diagram showing the 3D image processing unit of Fig.
FIG. 10 is an exemplary view showing medical education contents generated by the content generation unit of FIG. 7; FIG.
11 is a view of FIG.
이하, 첨부된 도면을 참조하여 본 발명의 일실시예를 설명하기로 한다.Hereinafter, an embodiment of the present invention will be described with reference to the accompanying drawings.
도 2는 본 발명의 일실시예인 의료교육 시스템을 나타내는 구성도이다.2 is a configuration diagram illustrating a medical education system according to an embodiment of the present invention.
도 2의 의료교육 시스템(1)은 가공 및 편집된 수술 영상과, 수술 영상에 관련된 의료관련정보(이하 부가정보라고 함)로 이루어지는 콘텐츠(이하 의료교육 콘텐츠라고 함)를 접속된 클라이언트들에게 제공함으로써 클라이언트들이 수술 현장을 직접 방문하지 않더라도 다양한 의료교육 서비스를 클라이언트들에게 제공하기 위한 시스템이다.The
또한 의료교육 시스템(1)은 수술실에 설치되어 집도현장을 촬영하여 수술영상을 획득하는 적어도 하나 이상의 카메라(2)와, 집도의가 소지하는 단말기이며 카메라(2)에 의해 획득된 수술영상을 업로드(up-load) 함과 동시에 후술되는 편집 클라이언트(4)에 제작되는 의료교육 콘텐츠의 편집정보(내용)을 결정하는 의료 클라이언트(3)와, 편집자가 소지하는 단말기이며 의료 클라이언트(3)로부터 전달받은 편집정보에 따라 의료 클라이언트(3)에 의해 업로드 된 수술영상을 후술되는 콘텐츠 편집프로그램(7)을 통해 가공 및 편집하여 의료교육 콘텐츠를 생성하는 편집 클라이언트(4)와, 편집 클라이언트(4)에 의해 생성된 의료교육 콘텐츠를 저장 및 관리하며 후술되는 열람 클라이언트(6-1), ..., (6-N)들의 요청에 따라 대응되는 의료교육 콘텐츠를 제공하는 의료교육 관리서버(5)와, 강의자가 소지하는 단말기이며 의료교육 관리서버(5)에 접속하여 의료교육 콘텐츠를 다운로드 받아 이를 열람하는 열람 클라이언트(6-1), ..., (6-N)들과, 의료 클라이언트(3) 및 편집 클라이언트(4)에 설치되어 수술 영상을 가공 및 편집함과 동시에 부가정보를 포함하는 의료교육 콘텐츠를 생성하는 응용프로그램(이하 콘텐츠 편집프로그램이라고 함)(7)과, 연결대상(3), (4), (5), (6-1), ..., (6-N)들 사이의 데이터 이동경로를 제공하는 통신망(10)으로 이루어진다.In addition, the medical education system 1 includes at least one camera 2 installed in an operating room for acquiring a surgical image by capturing an image of a home site, a terminal carried by the home doctor and uploading a surgical image acquired by the camera 2 (3) for determining editing information (contents) of medical education contents to be produced in an editing client (4) to be described later at the same time when the medical client (3) An editing client 4 that processes and edits a surgical image uploaded by the medical client 3 through a content editing program 7 to be described later according to the editing information to generate medical education contents, (6-N), which stores and manages the generated medical education contents and provides corresponding medical education contents at the request of browsing clients (6-1), ..., (6-N) (6-N), which is a terminal held by a lecturer and is connected to a medical education management server (5) to download medical education contents and browse the medical education contents, An application program (hereinafter referred to as a content editing program) 7 installed in the medical client 3 and the editing client 4 for processing and editing a surgical image and generating medical education contents including additional information, And a communication network 10 for providing a data movement path between the connection targets 3, 4, 5, 6-1, ..., 6-N.
이때 도면에는 도시되지 않았지만 의료 클라이언트(3) 및 카메라(2)는 데이터 통신망(10)으로 연결되어 카메라(2)에 의해 획득된 수술영상은 의료 클라이언트(3)로 전송되어 저장된다.The
또한 본 발명에서는 설명의 편의를 위해 콘텐츠 편집프로그램(7)이 의료 클라이언트(3) 및 편집 클라이언트(4)에 설치되는 것으로 예를 들어 설명하였으나, 의료교육 시스템(1)은 클라우딩 컴퓨팅(clouding computing)으로 구현되어 콘텐츠 편집프로그램(7)이 의료교육 관리서버(5)에 저장되는 것으로 구성될 수 있음은 당연하고, 이러한 클라우딩 컴퓨팅 시스템은 다양한 소프트웨어 서비스에 있어서 통상적으로 사용되는 기술이기 때문에 상세한 설명은 생략하기로 한다.In the present invention, the
통신망(10)은 접속된 의료교육 관리서버(5), 의료 클라이언트(3), 편집 클라이언트(4) 및 열람 클라이언트(6-1), ..., (6-N)들 사이의 데이터 이동경로를 제공하며, 상세하게로는 광역통신망(WAN), 이동통신망, 유선통신망 등과 같이 데이터 통신을 지원하는 공지된 다양한 통신망이 적용될 수 있다.The
카메라(2)는 수술실에 적어도 하나 이상 설치되며, 집도 현장을 촬영하여 수술영상을 획득한다.At least one camera (2) is installed in the operating room, and the operation image is acquired by photographing the home site.
또한 카메라(2)는 획득된 수술영상을 의료 클라이언트(3)로 전송한다.Further, the camera 2 transmits the obtained surgical image to the
또한 카메라(2)는 2D 영상을 획득하는 2D 카메라 또는 3D 영상을 획득하는 3D 카메라 중 어느 하나로 구성될 수 있으며, 상세하게로는 스테레오 카메라, 팬-틸트(pan-tilt) 및 줌(zoom)이 지원되는 HD급 PTZ 카메라, 현미경과 같은 수술기기에 장착되는 수술도구에 장착되는 초소형카메라 등과 같이 수술현장을 촬영할 수 있는 다양한 구성이 적용될 수 있다.The camera 2 may be a 2D camera for acquiring a 2D image or a 3D camera for acquiring a 3D image. In detail, a stereo camera, pan-tilt, and zoom A variety of configurations capable of taking an operation site such as a high-definition PTZ camera, a micro camera mounted on a surgical instrument mounted on a surgical instrument such as a microscope, and the like can be applied.
의료 클라이언트(3)는 집도를 수행하거나 또는 해당 집도에 대해 숙련된 지식을 가진 의료진이 소지한 디지털 단말기이며, 데스크톱 PC(desk-top PC), 노트북(note-book), 태블릿 PC(tablet PC), 스마트폰(smart-phone), 피디에이(PDA, personal digital assistant) 등으로 구성될 수 있다.The
또한 의료 클라이언트(3)는 통신망(10)과의 접속을 지원하는 통신 인터페이스모듈과, 유저(user, 의료진)로부터 명령을 입력받는 입력수단과, 콘텐츠가 디스플레이 되는 모니터를 포함한다.The
또한 의료 클라이언트(3)에는 후술되는 도 7의 콘텐츠 편집프로그램(7)이 설치된다.The
또한 의료 클라이언트(3)는 카메라(2)로부터 전송받은 수술 영상을 콘텐츠 편집프로그램(7)을 통해 익스포팅(exporting) 한 후 의료교육 관리서버(5)로 업로드 한다. 이때 의료교육 관리서버(5)는 전술하였던 바와 같이 본 발명이 클라우딩 컴퓨팅 시스템으로 구현될 때 클라우드 서버(cloud server)로 구축되는 것이 바람직하다.The
또한 의료 클라이언트(3)는 설치된 콘텐츠 편집프로그램(7)을 통해 편집 클라이언트(4)에게 제작하고자 하는 의료교육 콘텐츠에 대한 편집정보를 제공한다. 이때 편집정보는 수술영상의 배치 순서를 나타내는 타임코드 분류정보, 수술영상 프레임에서 부가정보가 필요한 객체의 위치(이하 매핑포인트라고 함) 정보, 매핑포인트들 각각에 관련된 부가정보(영상, 음성, 텍스트, 링크정보 등), 현재 전시되는 수술영상에 관련된 추가정보(영상, 음성, 텍스트, 링크정보 등) 등을 포함한다.In addition, the
또한 의료 클라이언트(3)는 제공한 편집정보에 따라 편집 클라이언트(4)에 의해 의료교육 콘텐츠가 제작되면, 이를 전송받아 검토한다. 이때 의료 클라이언트(3)에 의해 검토가 완료된 의료교육 콘텐츠는 의료교육 관리서버(5)에 전송되어 저장된다.Further, when the medical education contents are produced by the
편집 클라이언트(4)는 콘텐츠 편집프로그램(7)에 숙련된 지식을 가진 편집자가 소지한 디지털 단말기이며, 상세하게로는 데스크톱 PC(desk-top PC), 노트북(note-book), 태블릿 PC(tablet PC), 스마트폰(smart-phone), 피디에이(PDA, personal digital assistant) 등으로 구성될 수 있다.The
또한 편집 클라이언트(4)에는 후술되는 도 7의 콘텐츠 편집프로그램(7)이 설치된다.In addition, the
또한 편집 클라이언트(4)는 콘텐츠 편집프로그램(7)을 실행한 후 의료교육 관리서버(5)에 접속하여 의료 클라이언트(3)에 의하여 업로드 된 수술영상 및 편집정보를 다운로드(down-load) 한 후 임포팅(importing) 한다. 이때 본 발명에서는 설명의 편의를 위해 편집 클라이언트(4)가 의료교육 관리서버(5)에 접속하여 편집정보를 별도로 다운로드 및 임포팅 하는 것으로 예를 들어 설명하였으나, 콘텐츠 편집프로그램(7)은 이들 사이의 양방향 대화 서비스를 제공하여 의료자 및 편집자가 직접 편집정보를 공유하는 것으로 구성될 수 있다.The
또한 편집 클라이언트(4)는 콘텐츠 편집프로그램(7)을 통해 임포팅 한 수술영상을 편집정보에 따라 가공 및 편집하여 의료교육 콘텐츠를 제작한다. 이때 의료교육 콘텐츠는 타임코드가 분류(편집)된 수술영상과, 트래킹(tracking) 처리되는 매핑포인트들, 매핑포인트들 각각에 관련된 부가정보 등을 포함한다.Further, the
열람 클라이언트(6-1), ..., (6-N)들은 의료교육 관리서버(5)로부터 전송받은 의료교육 콘텐츠를 전시하는 단말기이다. 이때 열람 클라이언트(6-1), ..., (6-N)들은 3D 영상이 지원되거나 또는 지원되지 않을 수도 있다.The viewing clients 6-1, ..., and 6-N are terminals for displaying medical education contents received from the medical
의료교육 관리서버(5)는 편집 클라이언트(4)로부터 전송받은 의료교육 콘텐츠를 저장하며, 접속된 열람 클라이언트(6-1), ..., (6-N)들의 요청에 따라 저장된 의료교육 콘텐츠를 제공한다. 이때 의료교육 관리서버(5)는 저장된 의료교육 콘텐츠에 대한 리스트를 생성하여 이를 열람 클라이언트(6-1), ..., (6-N)들에게 제공하여 리스트 목록들 중 선택된 리스트에 대응되는 의료교육 콘텐츠를 제공하는 것으로 구성될 수 있고, 이러한 리스트 생성방식은 어플리케이션 시스템에서 통상적으로 사용되는 기술이기 때문에 상세한 설명은 생략하기로 한다.The medical
또한 의료교육 관리서버(5)는 의료 클라이언트(3)에 의하여 업로드 된 수술영상 및 편집정보를 저장하며, 편집 클라이언트(4)의 요청에 따라 업로드 된 수술영상 및 편집정보를 편집 클라이언트(4)로 전송한다.In addition, the medical
또한 의료교육 관리서버(5)는 본 발명이 클라우딩 컴퓨팅 시스템으로 구현될 때 데이터 종류 별로 데이터들을 저장하는 복수개의 클라우드 데이터베이스 서버들과, 콘텐츠 편집프로그램을 저장하는 유틸리티 서버를 포함한다.In addition, the medical
또한 의료교육 관리서버(5)는 콘텐츠 관리를 위한 CMS(Contents Management System) 및 콘텐츠 공급의 안정성을 높이기 위해 CDN(Contents Delivery Network)으로 구현될 수 있고, 이러한 CMS 및 CDN은 콘텐츠 관리시스템에 있어서 통상적으로 사용되는 기술이기 때문에 상세한 설명은 생략하기로 한다.In addition, the medical
도 3은 도 2의 편집 클라이언트를 나타내는 블록도이다.Figure 3 is a block diagram illustrating the editing client of Figure 2;
편집 클라이언트(4)는 일반 문자나 기호, 콘텐츠 등이 표시되는 통상적인 디지털 단말기에 구비되는 모니터(41)와, 의료 클라이언트(3) 및 의료교육 관리서버(5)와의 데이터통신을 지원하는 통신 인터페이스 모듈(43)과, 유저(편집자)로부터 문자나 기호를 입력받는 입력부(45)와, 단말기의 OS(operating system)를 담당하며 제어대상을 제어하는 제어부(47)와, 본 발명의 목적을 달성하기 위하여 설치되는 프로그램 관리부(49)로 이루어진다.The
프로그램 관리부(49)는 후술되는 콘텐츠 편집프로그램(7)을 관리 및 제어한다. 이때 본 발명에서는 설명의 편의를 위해 콘텐츠 편집프로그램(7)이 의료 클라이언트(3) 및 편집 클라이언트(4)에 자체적으로 설치되는 것으로 예를 들어 설명하였으나, 전술하였던 바와 같이 본 발명이 클라우딩 컴퓨팅 시스템으로 구현될 때 콘텐츠 편집프로그램(7)은 의료교육 관리서버(5)의 유틸리티 데이터 서버에 저장되는 것으로 구성될 수 있음은 당연하다.The
도 4는 본 발명의 의료교육 콘텐츠의 제작 과정을 설명하기 위한 플로차트이고, 도 5는 도 4를 나타내는 관계도이다.FIG. 4 is a flowchart for explaining a process of manufacturing the medical education contents of the present invention, and FIG. 5 is a diagram showing the relationship shown in FIG.
의료교육 콘텐츠 제작과정(S200)은 도 4와 5에 도시된 바와 같이 카메라(2)에 의해 집도현장이 촬영되어 수술영상을 획득하는 영상획득단계(S210)와, 의료 클라이언트(3)가 영상획득단계(S210)에 의해 획득된 수술영상 및 타임코드 분류정보를 익스포팅 한 후 의료교육 관리서버(5)로 업로드 하는 제1 업로딩 단계(S220)와, 편집 클라이언트(4)가 의료교육 관리서버(5)에 저장된 수술영상 및 타임코드 분류정보를 다운로드 받아 임포팅 한 후 타임코드 분류정보에 따라 수술영상을 편집하는 1차 편집단계(S230)와, 편집 클라이언트(4)가 1차 편집단계(S230)에 의해 편집된 제1 수술영상을 의료교육 관리서버(5)에 업로드 하는 제2 업로딩 단계(S240)와, 의료 클라이언트(3)가 의료교육 관리서버(5)에 저장된 제1 수술영상을 다운로드 받아 임포팅 한 후 이를 검수하는 제1 검수단계(S250)와, 제1 검수단계(S250)에 의해 수정사항이 없을 때 진행되며 의료 클라이언트(3)가 편집정보를 의료교육 관리서버(5)로 업로드 하는 제3 업로딩 단계(S260)와, 편집 클라이언트(4)가 의료교육 관리서버(5)에 업로딩 한 편집정보에 따라 제1 수술영상을 가공 및 편집함과 동시에 수술영상을 3D 영상으로 가공하여 의료교육 콘텐츠를 제작하는 콘텐츠 제작단계(S270)와, 편집 클라이언트(4)가 콘텐츠 제작단계(S270)에 의해 제작된 의료교육 콘텐츠를 의료교육 관리서버(5)에 업로딩 하는 제4 업로딩 단계(S280)와, 의료 클라이언트(3)가 제4 업로딩 단계(S280)에 의해 업로드 된 의료교육 콘텐츠를 검수하는 제2 검수단계(S290)로 이루어지며, 제2 검수단계(S290)에 의해 수정사항이 없을 때 해당 의료교육 콘텐츠의 편집이 완료된다.The medical education contents production process S200 includes an image acquisition step S210 in which a home site is photographed by the camera 2 to acquire a surgical image as shown in FIGS. 4 and 5, A first uploading step S220 of exporting the surgical image and the time code classification information obtained in step S210 and uploading it to the medical education management server 5 and the editing client 4 in the medical education management server 5 (S230) for editing the surgical image according to the time code classification information after downloading and importing the surgical video and time code classification information stored in the editing client (4) and the editing client (4) in the primary editing step S230 A second uploading step S240 of uploading the first surgical image edited by the medical client 3 to the medical education management server 5 and a second uploading step S240 of downloading the first surgical image stored in the medical education management server 5 by the medical client 3, After the first inspection, A third uploading step S260 in which the medical client 3 uploads the editing information to the medical education management server 5 when there is no modification by the first authentication step S250 and the second authentication step S250, A content creation step S270 for processing and editing the first surgical image in accordance with the editing information uploaded to the medical education management server 5 by the editing client 4 and processing the surgical image into a 3D image to produce medical education contents A fourth uploading step S280 of the editing client 4 uploading the medical education contents produced by the content producing step S270 to the medical education management server 5 and the fourth uploading step S280 of the medical client 3, (S290) of inspecting the medical education contents uploaded by the uploading step (S280), and editing of the medical education contents is completed when the correction is not made by the second checking step (S290).
도 6은 도 5의 콘텐츠 제작단계를 나타내는 플로차트이다.Fig. 6 is a flowchart showing the contents production step of Fig. 5;
콘텐츠 제작단계(S270)는 도 6에 도시된 바와 같이 수술영상이 입력되는 영상입력단계(S271)와, 영상입력단계(S271)에 의해 입력된 영상이 2D 영상인지 3D 영상인지를 판단하는 판단단계(S272)와, 판단단계(S272)에 의해 입력영상이 2D 영상일 때 진행되어 기 설정된 3D 컨버팅 알고리즘을 이용하여 입력영상을 3D 영상으로 변환하는 3D 영상 변환단계(S273)와, 판단단계(S272)에 의해 입력영상이 3D 영상이거나 3D 영상 변환단계(S273)로부터 3D 영상이 입력될 때 진행되어 3D 영상에 대해 렌더링(rendering) 등과 같이 영상의 입체감을 높이기 위한 그래픽 편집을 수행하는 영상가공단계(S274)와, 영상가공단계(S274)에 의해 가공된 3D 영상 내에서 매핑포인트(P)의 위치에 표시되는 표식기호 및 노출시간을 설정하는 매핑포인트 설정단계(S275)와, 매핑포인트 설정단계(S275)에 의해 설정된 매핑포인트의 위치를 추적하는 트랙킹 처리단계(S276)와, 트랙킹 처리단계(S276)에 의해 추적된 위치, 표식기호 및 노출시간에 따라 매핑포인트를 영상가공단계(S274)에 의해 편집된 3D 영상에 표시되도록 하는 매칭단계(S277)와, 매핑포인트 설정단계(S275)에 의해 설정된 매핑포인트에 대응되는 부가정보의 내용을 등록함과 동시에 부가정보의 표시방법을 결정하는 부가정보 설정단계(S278)와, 매칭단계(S277)에 의해 매핑포인트가 매칭된 3D 영상 및 부가정보 설정단계(S278)에 의해 설정된 표시방법에 따라 부가정보를 노출시키는 의료교육 콘텐츠를 제작하는 콘텐츠 생성단계(S279)로 이루어진다.6, the content creation step S270 includes an image input step S271 for inputting a surgical image and a determination step for determining whether the image input through the image input step S271 is a 2D image or a 3D image, A 3D image conversion step S273 for converting an input image into a 3D image using a predetermined 3D conversion algorithm when the input image is a 2D image by a determination step S272 and a determination step S272, A step of advancing the 3D image input from the 3D image conversion step S273 or performing an image editing process for enhancing the stereoscopic effect of the image such as rendering of the 3D image, A mapping point setting step (S275) of setting a mark symbol and an exposure time to be displayed at a position of the mapping point (P) in the 3D image processed by the image processing step (S274) S275) A tracking processing step S276 for tracking the position of the fixed mapping point and a mapping point according to the position, mark symbol and exposure time tracked by the tracking processing step S276 in the 3D image (S278) for registering the content of the additional information corresponding to the mapping point set by the mapping point setting step (S275) and determining the display method of the additional information (S278) And a content creation step S279 for creating a medical education content in which the additional information is exposed according to the display method set by the 3D image and the additional information setting step S278 in which the mapping point is matched by the matching step S277 .
이때 콘텐츠 생성단계(S279)는 부가정보가 노출되는 시간을, 대응되는 매핑포인트의 노출시간과 동일하게 설정할 수 있다.In this case, the content creation step S279 may set the time at which the additional information is exposed to be equal to the exposure time at the corresponding mapping point.
도 7은 도 2의 콘텐츠 편집프로그램을 나타내는 블록도이다.7 is a block diagram showing the contents editing program of Fig.
콘텐츠 편집프로그램(7)은 의료 클라이언트(3) 및 편집 클라이언트(4)에 설치되는 응용프로그램이며, 다운로드 받아 임포팅 된 수술영상을 가공 및 편집하기 위한 편집툴을 갖는 그래픽 사용자 인터페이스(GUI, graphic user interface)를 제공하여 인터랙션 디자인(interaction design)인 의료교육 콘텐츠를 생성 및 제작하는 프로그램이다.The
이때 본 발명에서는 설명의 편의를 위해 콘텐츠 편집프로그램(7)이 의료 클라이언트(3) 및 편집 클라이언트(4)에 설치되는 것으로 예를 들어 설명하였으나, 본 발명이 클라우딩 컴퓨팅으로 구현될 때 콘텐츠 편집프로그램(7)은 의료교육 관리서버(5)에 저장되어 운영되는 것으로 구성될 수 있다.In the present invention, the
또한 콘텐츠 편집프로그램(7)은 의료 클라이언트(3) 또는 편집 클라이언트(4)의 단말기와 데이터를 입출력하는 데이터 입출력부(72)와, 데이터가 저장되는 메모리(71)와, 기 제작된 그래픽 사용자 인터페이스를 관리 및 처리하는 인터페이스 처리부(73)와, 수술영상, 타임코드 분류정보, 제1 수술영상, 편집정보, 의료교육 콘텐츠 등과 같은 업로드 정보를 입력받아 익스포팅 한 후 의료교육 관리서버(5)로 업로드 하는 업로드 처리부(74)와, 입력된 타임코드 분류정보에 따라 수술영상의 타임라인을 편집하는 타임라인 편집부(75)와, 영상프레임 내의 객체들 중 부가정보가 필요한 객체인 매핑포인트의 위치 및 표시방법을 설정하는 매핑포인트 설정부(76)와, 매핑포인트 설정부(76)에 의해 설정된 매핑포인트에 관련된 부가정보를 저장하며 저장된 부가정보의 표시방법을 설정하는 부가정보 설정부(77)와, 매핑포인트 설정부(76)에 의해 설정된 매핑포인트를 트래킹(tracking) 처리하는 트래킹 처리부(78)와, 타임라인 편집된 수술영상을 3D 영상으로 가공하는 3D 영상 가공부(79)와, 구성부(75), (76), (77), (78)들에 의해 가공된 데이터들을 기반으로 의료교육 콘텐츠를 생성하는 콘텐츠 생성부(80)와, 이들 제어대상(71), (72), (73), (74), (75), (76), (77), (78), (79), (80)들을 제어하는 제어부(70)로 이루어진다.The
인터페이스 처리부(73)는 기 제작된 그래픽 사용자 인터페이스를 기 설정된 절차에 따라 전시하며, 유저(user)로부터 현재 전시되는 그래픽 사용자 인터페이스를 통해 명령을 요청받으면 이를 대응되는 구성부로 입력한다. 이때 그래픽 사용자 인터페이스는 수술영상의 타임라인을 편집하기 위한 편집기능과, 매핑포인트를 설정함과 동시에 표시방법을 설정하는 매핑포인트 설정기능과, 매핑포인트들 각각에 관련된 부가정보를 등록받으며 등록받은 부가정보의 표시방법을 설정하기 위한 기능과, 현재 전시되는 영상에 대한 관련정보인 추가정보를 등록받는 기능과, 매핑포인트를 트래킹 하기 위한 기능과, 집도의 또는 의료원에 관련된 기본정보를 입력받는 기능과, 업로딩 대상인 데이터를 입력받는 입력기능 등을 포함한다.The
제어부(70)는 제어대상(71), (72), (73), (74), (75), (76), (77), (78), (79), (80)들을 관리 및 제어하며, 그래픽 사용자 인터페이스를 통해 수술영상 및 편집정보가 입력되면 업로드 처리부(74)를 제어하여 입력된 수술영상 및 편집정보가 의료교육 관리서버(5)에 업로드 되도록 한다.The
또한 제어부(70)는 콘텐츠 생성부(80)에 의해 의료교육 콘텐츠가 생성되면 업로드 처리부(74)를 제어하여 생성된 의료교육 콘텐츠가 의료교육 관리서버(5)에 업로드 되도록 한다.When the medical education contents are generated by the
메모리(71)에는 기 설정된 트래킹처리 알고리즘과, 매핑설정 알고리즘이 저장된다.The
또한 메모리(71)에는 기 제작된 그래픽 사용자 인터페이스(GUI)들과, 의료 클라이언트(3) 및 편집 클라이언트(4)의 매칭정보가 저장된다.Also stored in the
데이터 입출력부(72)는 의료 클라이언트(3) 또는 편집 클라이언트(4)의 단말기와 데이터를 입출력한다.The data input /
업로드 처리부(74)는 그래픽 사용자 인터페이스를 통해 데이터가 입력되면 의료교육 관리서버(5)의 형식에 맞게 입력된 데이터를 익스포팅 한 후 의료교육 관리서버(5)로 업로드 한다. 이때 데이터는 상세하게로는 의료 클라이언트(3)에 의해 등록된 수술영상 또는 의료 클라이언트(3)에 의해 등록된 타임코드 분류정보, 의료 클라이언트(3)에 의해 등록된 편집정보(부가정보, 추가정보 및 기본정보를 포함), 편집 클라이언트(4)에 의해 등록된 제1 수술영상, 편집 클라이언트(4)에 의해 등록된 의료교육 콘텐츠 등으로 구성될 수 있다.When the data is inputted through the graphic user interface, the upload
즉 편집 클라이언트(4) 또는 의료 클라이언트(3)는 콘텐츠 편집프로그램(7) 구동 시 전시되는 그래픽 사용자 인터페이스를 통해 데이터들을 익스포팅 한 후 업로드하며, 다시 업로드 된 데이터를 다운로드 받아 임포팅 하여 다음 절차를 진행할 수 있게 된다.That is, the
타임라인 편집부(75)는 의료교육 관리서버(5)로부터 수술영상 및 타임코드 분류정보를 다운로드 받아 임포팅 하면, 입력된 타임코드 분류정보에 따라 수술영상의 타임라인을 편집하여 제1 수술영상을 가공한다. 이때 영상의 타임라인을 편집하는 기술 및 방법은 멀티미디어 및 영상처리기술에 있어서 통상적으로 사용되는 기술이기 때문에 상세한 설명은 생략하기로 한다.The time
또한 타임라인 편집부(75)에 의해 가공된 제1 수술영상은 업로드 처리부(74)에 의하여 익스포팅 된 후 의료교육 관리서버(5)로 업로드 된다.The first operation image processed by the time
또한 타임라인 편집부(75)에 적용되는 타임코드 분류정보는 전술하였던 제1 업로딩 단계(S220)를 통해 의료 클라이언트(3)에 의해 설정된다.The time code classification information applied to the time
도 8은 도 7의 매핑포인트 설정부를 설명하기 위한 예시도이다.8 is an exemplary diagram for explaining the mapping point setting unit of FIG.
매핑포인트 설정부(76)는 영상프레임(700)의 객체들 중 부가정보가 필요한 객체인 매핑포인트의 위치, 표시방법 및 표시주기(T)를 설정한다.이때 표시방법은 공지된 표식기호들 중 어느 하나인 것이 바람직하다.The mapping
또한 매핑포인트 설정부(76)는 유저로부터 매핑포인트의 위치가 클릭되면 저장된 매핑설정 알고리즘을 이용하여 입력된 주기(T) 동안 해당 위치에 매핑포인트가 표시되도록 한다.In addition, the mapping
예를 들면 매핑포인트 설정부(76)는 영상프레임의 객체(710), (720), (730), (740)들 중 특정 위치가 클릭되면 클릭된 위치를 매핑포인트(P)로 설정하고, 설정된 매핑포인트(P)는 공지된 표식기호를 통해 표시된다.For example, the mapping
부가정보 설정부(77)는 매핑포인트 설정부(76)에 의해 설정된 매핑포인트에 관련된 부가정보를 등록한다. 이때 부가정보는 영상, 음성, 이미지, 텍스트 등으로 구성되며, 열람자에 의해 매핑포인트가 클릭될 때 토글모드의 팝업 방식 또는 별도의 그래픽 사용자 인터페이스를 통해 열람자에게 제공될 수 있다.The additional
즉 본 발명은 피교육자에게 실제 수술영상 뿐만 아니라 매핑포인트들 각각에 관련된 부가정보를 제공함으로써 피교육자는 수술 시 발생할 수 있는 다양한 변수 및 돌발 상황에 대한 대처방안 정보를 습득할 수 있게 된다.That is, the present invention provides additional information related to each of the mapping points as well as the actual operation image to the trainee, so that the trainee can learn various parameters that may occur during the operation and information on coping with the unexpected situation.
트래킹 처리부(78)는 매핑포인트 설정부(76)에 의해 설정된 매핑포인트(P)를 트래킹 함으로써 영상의 시야이동에 대응되는 매핑포인트의 위치가 이동하게 된다.The
또한 트래킹 처리부(78)는 전후 프레임 또는 일정 범위 내의 인접 프레임에서 유사한 특징점을 찾아 연결하는 특징매칭(feature matching) 방식을 사용하여 특징점의 궤적을 추적, 상세하게로는 SURF(Speeded Up Robust Features) 특징점을 추출한 후 특징점들 간의 SURF descriptor를 비교하는 SURF matching을 수행하여 발견된 유사 특징점을 연결함으로써 매핑포인트(P)의 궤적을 추적할 수 있게 된다.The
이때 본 발명에서는 설명의 편의를 위해 트래킹 처리부(78)가 SURF matching 방법을 이용하여 매핑포인트(P)를 트래킹(tracking) 하는 것으로 예를 들어 설명하였지만, 트래킹 처리부(78)의 동작은 이에 한정되지 않으며, SIFT를 비롯한 유사 특징점 검출 방식 등과 같이 공지된 다양한 기술 및 방법이 적용될 수 있다.The tracking
도 9는 도 7의 3D 영상 가공부를 나타내는 블록도이다.9 is a block diagram showing the 3D image processing unit of Fig.
3D 영상 가공부(79)는 타임라인 편집부(75)에 의해 편집된 영상을 3D 영상으로 가공함으로써 열람 클라이언트(6)가 3D가 지원될 때 3D 영상으로 의료교육 콘텐츠를 열람할 수 있게 되고, 이에 따라 더욱 현실감 및 생동감 있는 영상을 열람할 수 있게 된다.The 3D
또한 3D 영상 가공부(79)는 도 9에 도시된 바와 같이 기 설정된 영상분석 알고리즘을 이용하여 입력 영상이 2D 영상인지 또는 3D 영상인지를 판단하는 판단모듈(791)과, 판단모듈(791)에 의해 입력영상이 2D 영상이라고 판단될 때 구동되어 2D 영상을 가공하여 3D 영상으로 변환하며 변환된 3D 영상을 후술되는 3D 영상 가공모듈(795)로 입력하는 3D 영상 변환모듈(793)과, 판단모듈(791)에 의해 입력영상이 3D 영상이라고 판단되거나 3D 영상 변환모듈(793)로부터 3D 영상이 입력될 때 구동되어 입력영상인 3D 영상을 렌더링(rendering) 등과 같이 영상의 입체감을 높이기 위한 그래픽 편집을 수행하는 3D 영상 가공모듈(795)로 이루어진다.9, the 3D
또한 3D 영상 가공부(79)에 의해 변환 및 가공된 3D 영상은 콘텐츠 생성부(80)로 입력된다.The 3D image converted and processed by the 3D
또한 3D 영상 변환모듈(793)은 입력된 2D 영상의 프레임들 각각을 커팅한 후 커팅된 프레임을 공지된 3D 컨버팅 알고리즘을 이용하여 3D 영상으로 변환한다. 이때 3D 컨버팅 알고리즘은 영상 프레임에서 적어도 하나 이상의 특성(feature) 정보를 추출하고, 추출된 특성 정보를 기초로 영상 프레임의 화소(pixel) 및 인접 화소들 사이의 가중치(weight)를 연산함과 동시에 특성 정보를 기초로 영상 프레임에 대한 깊이 값(depth)을 설정하며, 가중치를 고려하여 깊이 갚은 갱신함으로써 입력영상(2D 영상)을 3D 영상으로 변환한다.The 3D
또한 본 발명에서는 설명의 편의를 위해 3D 영상 변환모듈(793)이 가중치에 따른 깊이 값을 갱신하는 방식의 3D 컨버팅 알고리즘을 이용하여 2D 영상을 3D 영상으로 변환하는 것으로 예를 들어 설명하였으나, 3D 컨버팅 알고리즘은 이에 한정되지 않으며, 공지된 다양한 방식이 적용될 수 있다.In the present invention, the 3D
콘텐츠 생성부(80)는 타임라인 편집부(75)에 의해 편집된 제1 수술영상과, 매핑포인트 설정부(76) 및 트래킹 처리부(78)에 의해 가공된 매핑포인트와, 부가정보 설정부(77)에 의해 등록된 매핑포인트들 각각에 관련된 부가정보와, 의료 클라이언트(3)로부터 등록된 기본정보를 가공 및 편집하여 후술되는 도 8의 의료교육 콘텐츠(900)를 제작한다.The
또한 콘텐츠 생성부(80)에 의해 생성된 의료교육 콘텐츠(900)는 제어부(70)의 제어에 따라 업로드 처리부(74)에 의하여 의료교육 관리서버(5)에 업로드 된다.The
도 10은 도 7의 콘텐츠 생성부에 의해 생성되는 의료교육 콘텐츠를 나타내는 예시도이고, 도 11은 도 10의 실사진이다.FIG. 10 is an exemplary view showing a medical education content generated by the content generation unit of FIG. 7, and FIG. 11 is an actual view of FIG.
의료교육 콘텐츠(900)는 전술하였던 도 5의 콘텐츠 생성부(80)에 의해 제작되어 접속된 열람 클라이언트(6-1), ..., (6-N)들에게 제공되는 멀티미디어 데이터이다.The
또한 의료교육 콘텐츠(900)는 도 7과 8에 도시된 바와 같이 타임라인 편집부(75), 매핑포인트 설정부(76), 부가정보 설정부(77), 트래킹 처리부(78), 3D 영상 가공부(79)에 의해 가공 및 편집된 수술영상이 전시되는 영상전시란(910)과, 영상전시란(910)을 통해 전시되는 수술영상에 관한 관련정보가 전시되는 관련정보 전시란(920)과, 콘텐츠의 내용검색, 목록보기, 정보보기 등과 같은 콘텐츠를 컨트롤하기 위한 아이콘들이 전시되는 제1 전시란(930)과, 기본정보가 전시되는 제2 전시란(940)과, 콘텐츠의 영상 및 오디오를 제어하기 위한 재생제어란(950)으로 이루어진다.7 and 8, the
또한 의료교육 콘텐츠(900)는 매핑포인트(P1), (P2), (P3)들 중 어느 하나가 유저(열람자)에 의해 클릭되면 클릭된 매핑포인트에 연계된 부가정보(970)를 토글모드의 팝업방식으로 열람 클라이언트의 모니터에 디스플레이 한다.The
1:의료교육 시스템2:카메라3:의료 클라이언트
4:편집 클라이언트5:의료교육 관리서버
6-1, ..., 6-N:열람 클라이언트들7:콘텐츠 편집프로그램
10:통신망70:제어부71:메모리
72:데이터 입출력부73:인터페이스 처리부
74:업로드 처리부75:타임라인 편집부76:매핑포인트 설정부
77:부가정보 설정부78:트래킹 처리부79:3D 영상 가공부
80:콘텐츠 생성부1: medical education system 2: camera 3: medical client
4: Edit Client 5: Medical Education Management Server
6-1, ..., 6-N: browsing clients 7: content editing program
10: communication network 70: control unit 71: memory
72: data input / output unit 73: interface processing unit
74: Upload processing unit 75: Timeline editing unit 76: Mapping point setting unit
77: additional information setting unit 78: tracking processing unit 79: 3D image processing unit
80:
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020150070927AKR20160136833A (en) | 2015-05-21 | 2015-05-21 | medical education system using video contents |
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020150070927AKR20160136833A (en) | 2015-05-21 | 2015-05-21 | medical education system using video contents |
| Publication Number | Publication Date |
|---|---|
| KR20160136833Atrue KR20160136833A (en) | 2016-11-30 |
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020150070927ACeasedKR20160136833A (en) | 2015-05-21 | 2015-05-21 | medical education system using video contents |
| Country | Link |
|---|---|
| KR (1) | KR20160136833A (en) |
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102071606B1 (en)* | 2019-04-09 | 2020-01-30 | 동서대학교 산학협력단 | Assessment System for Error Situation in Nursing Based on Virtual Reality |
| WO2020116701A1 (en)* | 2018-12-05 | 2020-06-11 | 쓰리디메디비젼 주식회사 | System for producing surgical video and method for producing surgical video |
| CN111798727A (en)* | 2020-05-26 | 2020-10-20 | 福建省立医院 | A kind of virtual lateral ventricle puncture auxiliary training method, device, equipment and medium |
| WO2021215800A1 (en)* | 2020-04-21 | 2021-10-28 | 사회복지법인 삼성생명공익재단 | Surgical skill training system and machine learning-based surgical guide system using three-dimensional imaging |
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2020116701A1 (en)* | 2018-12-05 | 2020-06-11 | 쓰리디메디비젼 주식회사 | System for producing surgical video and method for producing surgical video |
| KR20200068355A (en) | 2018-12-05 | 2020-06-15 | 쓰리디메디비젼 주식회사 | Surgical video procution system and surgical video procution method |
| US11185388B2 (en) | 2018-12-05 | 2021-11-30 | 3D Medivision Inc. | Surgical video production system and surgical video production method |
| KR102071606B1 (en)* | 2019-04-09 | 2020-01-30 | 동서대학교 산학협력단 | Assessment System for Error Situation in Nursing Based on Virtual Reality |
| WO2021215800A1 (en)* | 2020-04-21 | 2021-10-28 | 사회복지법인 삼성생명공익재단 | Surgical skill training system and machine learning-based surgical guide system using three-dimensional imaging |
| KR20230150934A (en)* | 2020-04-21 | 2023-10-31 | 사회복지법인 삼성생명공익재단 | System for providing educational information of surgical techniques and skills and surgical guide system based on machine learning using 3 dimensional image |
| CN111798727A (en)* | 2020-05-26 | 2020-10-20 | 福建省立医院 | A kind of virtual lateral ventricle puncture auxiliary training method, device, equipment and medium |
| CN111798727B (en)* | 2020-05-26 | 2021-12-14 | 福建省立医院 | Virtual lateral ventricle puncture auxiliary training method, device, equipment and medium |
| Publication | Publication Date | Title |
|---|---|---|
| Reyna | The potential of 360-degree videos for teaching, learning and research | |
| US12266273B2 (en) | Augmented reality platform for collaborative classrooms | |
| US11670015B2 (en) | Method and apparatus for generating video | |
| US20190026945A1 (en) | Real-time immersive mediated reality experiences | |
| CN112135158B (en) | Live broadcasting method based on mixed reality and related equipment | |
| CN110110104B (en) | A method and device for automatically generating a house explanation in a virtual three-dimensional space | |
| CN114236837A (en) | Systems, methods and media for displaying interactive augmented reality presentations | |
| US11181862B2 (en) | Real-world object holographic transport and communication room system | |
| CN111242962A (en) | Method, device and equipment for generating remote training video and storage medium | |
| TW202123178A (en) | Method for realizing lens splitting effect, device and related products thereof | |
| CN106170101A (en) | Contents providing system, messaging device and content reproducing method | |
| KR102186607B1 (en) | System and method for ballet performance via augumented reality | |
| CN112509148A (en) | Interaction method and device based on multi-feature recognition and computer equipment | |
| KR100901111B1 (en) | Image Provision System Using 3D Virtual Space Contents | |
| CN114463470A (en) | Virtual space browsing method and device, electronic equipment and readable storage medium | |
| Venigalla et al. | Towards enhancing user experience through a web-based augmented reality museum | |
| KR20160136833A (en) | medical education system using video contents | |
| Zhang et al. | Exploring geospatial digital twins: a novel panorama-based method with enhanced representation of virtual geographic scenes in Virtual Reality (VR) | |
| Langlotz et al. | AR record&replay: situated compositing of video content in mobile augmented reality | |
| Khan | Advancements and Challenges in 360 Augmented Reality Video Streaming: A Comprehensive Review | |
| KR20160069663A (en) | System And Method For Producing Education Cotent, And Service Server, Manager Apparatus And Client Apparatus using therefor | |
| CN112511853A (en) | Video processing method and device, electronic equipment and storage medium | |
| Gomes Jr et al. | Semi-automatic methodology for augmented panorama development in industrial outdoor environments | |
| KR20170127354A (en) | Apparatus and method for providing video conversation using face conversion based on facial motion capture | |
| KR102853820B1 (en) | Remote XR collaboration system using a metaverse of workspace |
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| PA0109 | Patent application | Patent event code:PA01091R01D Comment text:Patent Application Patent event date:20150521 | |
| PA0201 | Request for examination | ||
| E902 | Notification of reason for refusal | ||
| PE0902 | Notice of grounds for rejection | Comment text:Notification of reason for refusal Patent event date:20160718 Patent event code:PE09021S01D | |
| PG1501 | Laying open of application | ||
| E601 | Decision to refuse application | ||
| PE0601 | Decision on rejection of patent | Patent event date:20170125 Comment text:Decision to Refuse Application Patent event code:PE06012S01D Patent event date:20160718 Comment text:Notification of reason for refusal Patent event code:PE06011S01I |