본 발명의 다양한 실시예는, GAN(Generative Adversarial Network) 기반의 모델을 이용하여 흑백 이미지를 컬러링하기 위한 전자 장치 및 그 동작 방법에 관한 것이다.Various embodiments of the present invention relate to an electronic device and a method of operating the same for coloring a black-and-white image using a GAN (Generative Adversarial Network)-based model.
GAN(Generative Adversarial Network, 생성적 대립 신경망)은 생성자와 분별자가 서로 경쟁하면서 실제 이미지와 거의 유사한 이미지를 자동으로 생성할 수 있는 기계 학습(Machine Learning) 모델이다.GAN (Generative Adversarial Network) is a machine learning model that can automatically generate images that are almost similar to actual images while the generator and discriminator compete with each other.
GAN은 가짜 이미지를 생성하여, 분별자를 최대한 속일 수 있도록 학습된 생성자 및 가짜 이미지 및 실제 이미지를 최대한 정확하게 분류할 수 있도록 학습된 분별자로 구성된다. GAN은 생성자 및 분별자를 순차적으로 반복 학습시키는 대립적 프로세스를 통해 발전시키는 과정을 통해 실제 이미지와 매우 유사한 가짜 이미지를 생성할 수 있다.GAN consists of a generator that is trained to generate fake images and deceive the discriminator as much as possible, and a discriminator that is trained to classify fake images and real images as accurately as possible. GAN can generate fake images that are very similar to real images through the process of developing the generator and discriminator through an adversarial process of sequentially and repeatedly learning.
본 발명은 GAN 기반의 모델을 이용하여 한 개의 휘도 채널로 구성된 흑백 이미지로부터 두 개의 색차 채널로 구성된 컬러 이미지를 생성하는 전자 장치를 제공한다.The present invention provides an electronic device that generates a color image composed of two chrominance channels from a black-and-white image composed of one luminance channel using a GAN-based model.
다양한 실시예들에 따라서, GAN(Generative Adversarial Network) 기반의 모델을 이용하여 흑백 이미지를 컬러링하기 위한 전자 장치는, 프로세서를 포함하고, 상기 프로세서는, 휘도 채널(luminance channel)에 관한 제1 정보만 포함하는 흑백 이미지를 획득하고, 및 상기 흑백 이미지를 상기 GAN 기반의 모델에 적용함으로써, 색차 채널(chrominance channel)에 관한 제2 정보만 포함하는 슈도 컬러 이미지(pseudo color image)를 생성하도록 설정되고, 상기 GAN 기반의 모델은, 인코더 네트워크(encoder network) 및 생성기 네트워크(generator network)를 포함하는 색상화 네트워크(colorization network)를 포함하고, 상기 색상화 네트워크는, 상기 인코더 네트워크를 이용하여 상기 흑백 이미지에 대응하는 잠재 공간(latent space)을 형성하고, 상기 생성기 네트워크를 이용하여 상기 잠재 공간으로부터 상기 슈도 컬러 이미지를 생성하고, 상기 인코더 네트워크는 복수의 레이어들 및 상기 복수의 레이어들 사이에 구현된 어텐션 모듈(attention module)을 포함하고, 상기 어텐션 모듈은 상기 인코더 네트워크 내의 컨볼루션 레이어의 출력을 입력 받아 생성된 출력을, (i) 상기 컨볼루션 레이어의 다음 레이어인 맥스 풀 레이어(max pool layer) 및 (ii) 상기 생성기 네트워크 내에서 상기 어텐션 모듈에 대응하는 연결 레이어(concatenation layer)로 전달할 수 있다.According to various embodiments, an electronic device for coloring a black-and-white image using a GAN (Generative Adversarial Network)-based model includes a processor, wherein the processor only provides first information about a luminance channel. By acquiring a black-and-white image including, and applying the black-and-white image to the GAN-based model, a pseudo color image containing only second information about a chrominance channel is set to be generated, The GAN-based model includes a colorization network including an encoder network and a generator network, and the colorization network uses the encoder network to Forms a corresponding latent space, generates the pseudo-color image from the latent space using the generator network, and the encoder network includes a plurality of layers and an attention module implemented between the plurality of layers. (attention module), wherein the attention module receives the output of the convolutional layer in the encoder network and outputs the generated output, (i) a max pool layer, which is the next layer of the convolutional layer, and ( ii) It can be delivered to the concatenation layer corresponding to the attention module within the generator network.
본 발명은 GAN 기반의 모델을 이용하여 흑백 이미지를 컬러링함으로써, 사실에 가까운 컬러 이미지를 생성하는 효과를 제공할 수 있고, 어텐션 모듈의 출력 정보를 색상화 네트워크 내의 인코더 및 생성기에 모두 전달함으로써 다른 색상화 모델에 비하여 고품질의 컬러링 효과를 제공할 수 있다.The present invention can provide the effect of generating a color image close to reality by coloring a black and white image using a GAN-based model, and transmits the output information of the attention module to both the encoder and generator in the colorization network to create a color image in other colors. It can provide high-quality coloring effects compared to painting models.
도 1은 본 발명의 다양한 실시예에 따른 전자 장치 및 네트워크의 블록도를 도시한다.
도 2는 다양한 실시예들에 따른, 전자 장치가 GAN 기반의 모델을 이용하여 흑백 이미지를 컬러링하는 동작을 설명하기 위한 도면이다.
도 3은 다양한 실시예들에 따른, GAN 기반의 모델에 포함된 색상화 네트워크의 구조를 설명하기 위한 도면이다.
도 4는 다양한 실시예들에 따른, 색상화 네트워크 내에서의 동작을 설명하기 위한 도면이다.
도 5는 다양한 실시예들에 따른, 어텐션 모듈의 구조를 설명하기 위한 도면이다.
도 6은 다양한 실시예들에 따른, 전자 장치가 GAN 기반의 모델을 이용하여 흑백 이미지로부터 최종 컬러 이미지를 생성하는 실시예를 나타낸다.
도 7a 및 7b는 다양한 실시예들에 따른, 본 발명이 적용된 GAN 기반의 모델과 다른 색상화 모델들 사이의 차이를 나타내는 도면이다.1 shows a block diagram of an electronic device and a network according to various embodiments of the present invention.
FIG. 2 is a diagram illustrating an operation of an electronic device coloring a black-and-white image using a GAN-based model, according to various embodiments.
FIG. 3 is a diagram illustrating the structure of a colorization network included in a GAN-based model according to various embodiments.
FIG. 4 is a diagram for explaining operations within a colorization network according to various embodiments.
Figure 5 is a diagram for explaining the structure of an attention module according to various embodiments.
FIG. 6 illustrates an example in which an electronic device generates a final color image from a black-and-white image using a GAN-based model, according to various embodiments.
7A and 7B are diagrams showing the difference between a GAN-based model to which the present invention is applied and other colorization models, according to various embodiments.
이하, 본 문서의 다양한 실시예들이 첨부된 도면을 참조하여 기재된다. 실시예 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B" 또는 "A 및/또는 B 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1," "제 2," "첫째," 또는 "둘째,"등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.Hereinafter, various embodiments of this document are described with reference to the attached drawings. The examples and terms used herein are not intended to limit the technology described in this document to specific embodiments, and should be understood to include various modifications, equivalents, and/or substitutes for the examples. In connection with the description of the drawings, similar reference numbers may be used for similar components. Singular expressions may include plural expressions, unless the context clearly dictates otherwise. In this document, expressions such as “A or B” or “at least one of A and/or B” may include all possible combinations of the items listed together. Expressions such as “first,” “second,” “first,” or “second,” can modify the corresponding components regardless of order or importance, and are used to distinguish one component from another. It is only used and does not limit the corresponding components. When a component (e.g., a first) component is said to be "connected (functionally or communicatively)" or "connected" to another (e.g., second) component, it means that the component is connected to the other component. It may be connected directly to a component or may be connected through another component (e.g., a third component).
본 문서에서, "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, 하드웨어적 또는 소프트웨어적으로 "~에 적합한," "~하는 능력을 가지는," "~하도록 변경된," "~하도록 만들어진," "~를 할 수 있는," 또는 "~하도록 설계된"과 상호 호환적으로(interchangeably) 사용될 수 있다. 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(예: CPU 또는 application processor)를 의미할 수 있다.In this document, “configured to” means “suitable for,” “having the ability to,” or “changed to,” depending on the situation, for example, in terms of hardware or software. ," can be used interchangeably with "made to," "capable of," or "designed to." In some contexts, the expression “a device configured to” may mean that the device is “capable of” working with other devices or components. For example, the phrase "processor configured (or set) to perform A, B, and C" refers to a processor dedicated to performing the operations (e.g., an embedded processor), or by executing one or more software programs stored on a memory device. , may refer to a general-purpose processor (e.g., CPU or application processor) capable of performing the corresponding operations.
본 문서의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 스마트폰, 태블릿 PC, 데스크탑 PC, 랩탑 PC, 넷북 컴퓨터, 워크스테이션, 서버 중 적어도 하나를 포함할 수 있다.Electronic devices according to various embodiments of this document may include, for example, at least one of a smartphone, tablet PC, desktop PC, laptop PC, netbook computer, workstation, and server.
도 1을 참조하여, 다양한 실시예에서의, 네트워크 환경(100) 내의 전자 장치(101)가 기재된다. 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및 통신 인터페이스(170)를 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다. 버스(110)는 구성요소들(110-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 또는 데이터)을 전달하는 회로를 포함할 수 있다. 프로세서(120)는, 중앙처리장치, 어플리케이션 프로세서, 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.1, an electronic device 101 within a network environment 100, in various embodiments, is described. The electronic device 101 may include a bus 110, a processor 120, a memory 130, an input/output interface 150, a display 160, and a communication interface 170. In some embodiments, the electronic device 101 may omit at least one of the components or may additionally include another component. The bus 110 connects the components 110 to 170 to each other and may include circuitry that transfers communication (eg, control messages or data) between the components. The processor 120 may include one or more of a central processing unit, an application processor, or a communication processor (CP). The processor 120 may, for example, perform operations or data processing related to control and/or communication of at least one other component of the electronic device 101.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(API)(145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(147) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템으로 지칭될 수 있다. 커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.Memory 130 may include volatile and/or non-volatile memory. For example, the memory 130 may store commands or data related to at least one other component of the electronic device 101. According to one embodiment, memory 130 may store software and/or program 140. The program 140 may include, for example, a kernel 141, middleware 143, an application programming interface (API) 145, and/or an application program (or “application”) 147, etc. . At least a portion of the kernel 141, middleware 143, or API 145 may be referred to as an operating system. Kernel 141, for example, provides system resources (e.g., middleware 143, API 145, or application program 147) used to execute operations or functions implemented in other programs (e.g., : Bus 110, processor 120, or memory 130, etc.) can be controlled or managed. In addition, the kernel 141 provides an interface for controlling or managing system resources by accessing individual components of the electronic device 101 in the middleware 143, API 145, or application program 147. You can.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여하고, 상기 하나 이상의 작업 요청들을 처리할 수 있다. API(145)는 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다. 입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달하거나, 또는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.The middleware 143 may, for example, perform an intermediary role so that the API 145 or the application program 147 can communicate with the kernel 141 to exchange data. Additionally, the middleware 143 may process one or more work requests received from the application program 147 according to priority. For example, the middleware 143 may use system resources (e.g., bus 110, processor 120, or memory 130, etc.) of the electronic device 101 for at least one of the application programs 147. Priority may be assigned and the one or more work requests may be processed. The API 145 is an interface for the application 147 to control functions provided by the kernel 141 or middleware 143, for example, at least for file control, window control, image processing, or character control. Can contain one interface or function (e.g. command). The input/output interface 150, for example, transmits commands or data input from a user or other external device to other component(s) of the electronic device 101, or to other component(s) of the electronic device 101 ( Commands or data received from (fields) can be output to the user or other external devices.
디스플레이(160)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템 (MEMS) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 및/또는 심볼 등)을 표시할 수 있다. 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다. 통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 제 2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다.Display 160 may be, for example, a liquid crystal display (LCD), a light-emitting diode (LED) display, an organic light-emitting diode (OLED) display, a microelectromechanical system (MEMS) display, or an electronic paper display. It can be included. For example, the display 160 may display various contents (e.g., text, images, videos, icons, and/or symbols, etc.) to the user. The display 160 may include a touch screen and may receive, for example, a touch, gesture, proximity, or hovering input using an electronic pen or a part of the user's body. The communication interface 170, for example, establishes communication between the electronic device 101 and an external device (e.g., the first external electronic device 102, the second external electronic device 104, or the server 106). You can. For example, the communication interface 170 may be connected to the network 162 through wireless or wired communication to communicate with an external device (eg, the second external electronic device 104 or the server 106).
무선 통신은, 예를 들면, LTE, LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용하는 셀룰러 통신을 포함할 수 있다. 한 실시예에 따르면, 무선 통신은, 예를 들면, WiFi(wireless fidelity), 블루투스, 블루투스 저전력(BLE), 지그비(Zigbee), NFC(near field communication), 자력 시큐어 트랜스미션(Magnetic Secure Transmission), 라디오 프리퀀시(RF), 또는 보디 에어리어 네트워크(BAN) 중 적어도 하나를 포함할 수 있다. 한실시예에 따르면, 무선 통신은 GNSS를 포함할 수 있다. GNSS는, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 "Beidou") 또는 Galileo, the European global satellite-based navigation system일 수 있다. 이하, 본 문서에서는, "GPS"는 "GNSS"와 상호 호환적으로 사용될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 전력선 통신, 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(162)는 텔레커뮤니케이션 네트워크, 예를 들면, 컴퓨터 네트워크(예: LAN 또는 WAN), 인터넷, 또는 텔레폰 네트워크 중 적어도 하나를 포함할 수 있다.Wireless communications include, for example, LTE, LTE Advance (LTE-A), code division multiple access (CDMA), wideband CDMA (WCDMA), universal mobile telecommunications system (UMTS), Wireless Broadband (WiBro), or Global GSM (GSM). It may include cellular communication using at least one of the System for Mobile Communications). According to one embodiment, wireless communication includes, for example, wireless fidelity (WiFi), Bluetooth, Bluetooth Low Energy (BLE), Zigbee, near field communication (NFC), Magnetic Secure Transmission, and radio. It may include at least one of frequency (RF) or body area network (BAN). According to one embodiment, wireless communications may include GNSS. GNSS may be, for example, Global Positioning System (GPS), Global Navigation Satellite System (Glonass), Beidou Navigation Satellite System (hereinafter “Beidou”), or Galileo, the European global satellite-based navigation system. Hereinafter, in this document, “GPS” may be used interchangeably with “GNSS.” Wired communication may include, for example, at least one of universal serial bus (USB), high definition multimedia interface (HDMI), recommended standard 232 (RS-232), power line communication, or plain old telephone service (POTS). there is. Network 162 may include at least one of a telecommunications network, for example, a computer network (e.g., a LAN or WAN), the Internet, or a telephone network.
제 1 및 제 2 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 다양한 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102,104), 또는 서버(106)에서 실행될 수 있다. 한 실시예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.Each of the first and second external electronic devices 102 and 104 may be of the same or different type as the electronic device 101. According to various embodiments, all or part of the operations executed in the electronic device 101 may be executed in one or more electronic devices (e.g., the electronic devices 102 and 104, or the server 106). In one embodiment, According to this, when the electronic device 101 is to perform a certain function or service automatically or upon request, the electronic device 101 performs at least some functions associated therewith instead of or in addition to executing the function or service on its own. The other electronic device (e.g., electronic device 102, 104, or server 106) may request the requested function or Additional functions may be executed and the results may be transmitted to the electronic device 101. For this purpose, the electronic device 101 may process the received results as is or additionally to provide the requested function or service. For example, cloud computing, distributed computing, or client-server computing technologies may be used.
도 2는 다양한 실시예들에 따른, 전자 장치(예: 도 1의 전자 장치(101))가 GAN 기반의 모델을 이용하여 흑백 이미지를 컬러링하는 동작을 설명하기 위한 도면이다.FIG. 2 is a diagram illustrating an operation of an electronic device (e.g., the electronic device 101 of FIG. 1) coloring a black-and-white image using a GAN-based model, according to various embodiments.
도 3은 다양한 실시예들에 따른, GAN 기반의 모델에 포함된 색상화 네트워크의 구조를 설명하기 위한 도면이다.FIG. 3 is a diagram illustrating the structure of a colorization network included in a GAN-based model according to various embodiments.
도 4는 다양한 실시예들에 따른, 색상화 네트워크 내에서의 동작을 설명하기 위한 도면이다.FIG. 4 is a diagram for explaining operations within a colorization network according to various embodiments.
도 5는 다양한 실시예들에 따른, 어텐션 모듈의 구조를 설명하기 위한 도면이다.Figure 5 is a diagram for explaining the structure of an attention module according to various embodiments.
다양한 실시예들에 따르면, 전자 장치(예: 도 1의 프로세서(120))는 휘도 채널(luminance channel)에 관한 제1 정보만 포함하는 흑백 이미지를 획득할 수 있다. 일 실시예에 따라, 도 2를 참조하면, 전자 장치(101)는 GAN 기반의 모델(200)을 훈련시키기 위하여, RGB 이미지(201)를 이용하여 휘도 채널(luminance channel)에 관한 제1 정보만 포함하는 흑백 이미지(211) 및 색차 채널(chrominance channel)에 관한 제2 정보만 포함하는 정답 컬러 이미지(212)를 생성할 수 있다. 예를 들어, 전자 장치(101)는 RGB 이미지(201)를 CIELAB 색 공간(color space)의 이미지로 변환시킬 수 있고, CIELAB 색 공간의 L값, A값, B값 중에서 L값을 추출하여 휘도 채널에 관한 정보를 포함하는 흑백 이미지(211)를 생성하고, L값 및 A값을 추출하여 색차 채널에 관한 정보를 포함하는 정답 컬러 이미지(212)를 생성할 수 있다. 휘도 채널은 1개의 채널로 구성될 수 있고, 색차 채널은 두 개의 색상 채널들로 구성될 수 있다. 일 실시예에 따르면, 전자 장치(101)는 훈련된 GAN 기반의 모델(200)을 이용하여 이미지 컬러링을 수행하기 위하여, 외부 장치(예: 도 1의 전자 장치(102) 또는 서버(106))로부터 컬러링을 수행할 흑백 이미지(211)를 획득할 수 있다.According to various embodiments, an electronic device (eg, the processor 120 of FIG. 1) may acquire a black-and-white image including only first information about a luminance channel. According to one embodiment, referring to FIG. 2, the electronic device 101 uses the RGB image 201 to train the GAN-based model 200, using only first information about the luminance channel. A black-and-white image 211 and a correct color image 212 containing only second information about a chrominance channel may be generated. For example, the electronic device 101 may convert the RGB image 201 into an image in the CIELAB color space, and extract the L value from the L value, A value, and B value of the CIELAB color space to determine the luminance. A black and white image 211 containing information about the channel can be created, and the L value and the A value can be extracted to generate a correct color image 212 containing information about the color difference channel. The luminance channel may consist of one channel, and the chrominance channel may consist of two color channels. According to one embodiment, the electronic device 101 uses an external device (e.g., the electronic device 102 or the server 106 in FIG. 1) to perform image coloring using the trained GAN-based model 200. A black and white image 211 to be colored can be obtained from .
다양한 실시예들에 따르면, 전자 장치(예: 도 1의 프로세서(120))는 흑백 이미지(211)를 GAN 기반의 모델(200)에 적용함으로써, 색차 채널에 관한 제2 정보만 포함하는 슈도 컬러 이미지(pseudo color image)(213)를 생성할 수 있다. 일 실시예에 따라, 도 2를 참조하면, 전자 장치(101)는 흑백 이미지(211) 이미지를 GAN 기반의 모델(200)에 포함된 색상화 네트워크(210)에 적용함으로써, 색차 채널에 관한 제2 정보만 포함하는 슈도 컬러 이미지(213)를 생성할 수 있다. 슈도 컬러 이미지(213)는 흑백 이미지(211)에 대하여 컬러링을 수행한 이미지를 의미할 수 있다.According to various embodiments, an electronic device (e.g., the processor 120 of FIG. 1) applies the black-and-white image 211 to the GAN-based model 200 to create a pseudo-color image that includes only second information about the chrominance channel. An image (pseudo color image) 213 can be created. According to one embodiment, referring to FIG. 2, the electronic device 101 applies the black-and-white image 211 to the colorization network 210 included in the GAN-based model 200, thereby generating information about the color difference channel. A pseudocolor image 213 containing only 2 information can be generated. The pseudo-color image 213 may refer to an image obtained by coloring the black-and-white image 211.
다양한 실시예들에 따르면, GAN 기반의 모델(200)은 색상화 네트워크(colorization network)(210) 및 판별기 네트워크(discriminator network)(220)를 포함할 수 있다.According to various embodiments, the GAN-based model 200 may include a colorization network 210 and a discriminator network 220.
일 실시예에 따라, 도 3을 참조하면, 색상화 네트워크(210)는 인코더 네트워크(encoder network)(301) 및 생성기 네트워크(generator network)(302)를 포함할 수 있다. 일 실시예에 따르면, 색상화 네트워크(210)는 인코더 네트워크(301)를 이용하여 흑백 이미지(211)에 대응하는 잠재 공간(latent space)(303)을 형성할 수 있고, 생성기 네트워크(302)를 이용하여 잠재 공간(303)으로부터 슈도 컬러 이미지(213)를 생성할 수 있다. 일 실시예에 따르면, 인코더 네트워크(301)는 GAN inversion 인코더 네트워크일 수 있다. 일 실시예에 따르면, 잠재 공간은 특징 벡터(feature vector)가 아닌, MxN(예: 16x16)의 특징 매트릭스(feature matrix)일 수 있다. 일 실시예에 따라, 도 3을 참조하면, 색상화 네트워크(210)는 더 품질 좋은 색상화 결과를 도출하기 위하여, 인코더 네트워크(301)로부터 생성기 네트워크(302)로 특정 정보를 전달(information transfer)할 수 있고, 이 때 특정 정보는 인코더 네트워크(301) 내의 어텐션 모듈로부터 생성되는 정보일 수 있다.According to one embodiment, referring to FIG. 3 , colorization network 210 may include an encoder network 301 and a generator network 302. According to one embodiment, the colorization network 210 may form a latent space 303 corresponding to the black-and-white image 211 using the encoder network 301 and the generator network 302. A pseudocolor image 213 can be generated from the latent space 303 using this method. According to one embodiment, the encoder network 301 may be a GAN inversion encoder network. According to one embodiment, the latent space may be an MxN (eg, 16x16) feature matrix, rather than a feature vector. According to one embodiment, referring to FIG. 3, the colorization network 210 transfers specific information from the encoder network 301 to the generator network 302 to produce better quality colorization results. It can be done, and in this case, the specific information may be information generated from the attention module within the encoder network 301.
일 실시예에 따라, 도 4를 참조하면, 인코더 네트워크(301)는 복수의 레이어들 및 복수의 레이어들 사이에 구현된 어텐션 모듈(attention module)(410)을 포함할 수 있다. 예를 들어, 어텐션 모듈(410)은 인코더 네트워크(301) 내의 컨볼루션 레이어(예: 파란색 층)의 출력을 입력 받아 생성된 출력을, (i) 컨볼루션 레이어의 다음 레이어인 맥스 풀 레이어(max pool layer)(예: 빨간색 층) 및 (ii) 생성기 네트워크(302) 내에서 어텐션 모듈(410)에 대응하는 연결 레이어(concatenation layer)(예: 보라색 층)로 전달할 수 있다. 일 실시예에 따라, 도 5를 참조하면, 어텐션 모듈(410)은 channel attention(501)과 spatial attention(502)을 직렬로 구성하는 CBAM(Convolution Block Attention Module)일 수 있다.According to one embodiment, referring to FIG. 4, the encoder network 301 may include a plurality of layers and an attention module 410 implemented between the plurality of layers. For example, the attention module 410 receives the output of the convolutional layer (e.g., blue layer) in the encoder network 301 and sends the generated output to (i) the max full layer (max), which is the next layer of the convolutional layer. pool layer (e.g., red layer) and (ii) a concatenation layer (e.g., purple layer) corresponding to the attention module 410 within the generator network 302. According to one embodiment, referring to FIG. 5, the attention module 410 may be a Convolution Block Attention Module (CBAM) that configures channel attention 501 and spatial attention 502 in series.
일 실시예에 따라, 도 2를 참조하면, 전자 장치(101)는 GAN 기반 모델(200)을 통하여, 색상화 네트워크(210)에 의하여 생성된 슈도 컬러 이미지(213)를 입력 이미지인 흑백 이미지(211)와 합성(예: concatenation)함으로써, 최종 컬러 이미지를 생성할 수 있다.According to one embodiment, referring to FIG. 2, the electronic device 101 converts the pseudo color image 213 generated by the colorization network 210 into a black and white image (black and white image) as an input image through the GAN-based model 200. 211) and synthesis (e.g., concatenation), the final color image can be created.
일 실시예에 따라, 도 2를 참조하면, 판별기 네트워크(220)(예: critic)는 기존의 GAN 기반의 모델에서 사용되는 판별기 네트워크를 포함할 수 있고, 이는 이 기술분야의 당업자에 의하여 용이하게 실시 가능한 구성이므로, 이에 관한 설명은 생략하도록 한다.According to one embodiment, referring to FIG. 2, the discriminator network 220 (e.g., critic) may include a discriminator network used in an existing GAN-based model, which is described by those skilled in the art. Since this is an easily implementable configuration, description thereof will be omitted.
일 실시예에 따라, 도 2를 참조하면, GAN 기반의 모델(200)은 pixel wise(L1) 손실 함수(LL1), VGG 손실 함수(LVGG), 및 WGAN 손실 함수(Lwgan)를 모두 고려한 총 손실(Ltotal)을 이용하여 훈련될 수 있다. 이 때, 상기 pixel wise(L1) 손실 함수(LL1), 상기 VGG 손실 함수(LVGG), 상기 WGAN 손실 함수(Lwgan), 및 상기 총 손실(Ltotal)은 하기의 [수학식 1]에 의하여 산출될 수 있다.According to one embodiment, referring to Figure 2, the GAN-based model 200 includes a pixel wise (L1) loss function (LL1 ), a VGG loss function (LVGG ), and a WGAN loss function (Lwgan ). It can be trained using the total loss (Ltotal ) considered. At this time, the pixel wise (L1) loss function (LL1 ), the VGG loss function (LVGG ), the WGAN loss function (Lwgan ), and the total loss (Ltotal ) are expressed in Equation 1 below: It can be calculated by .
여기서, J는 ground truth에 해당하는 컬러 이미지를 나타내고, G(I)는 슈도 컬러 이미지를 나타내며, λ, λ1, λ2는 가중치를 나타낼 수 있다.Here, J represents the color image corresponding to the ground truth, G(I) represents the pseudo color image, and λ, λ1 , and λ2 may represent weights.
일 실시예에 따르면, 색상화 네트워크(210)는 pixel wise(L1) 손실 함수(LL1), VGG 손실 함수(LVGG), 및 WGAN 손실 함수(Lwgan)를 합산한 총 손실에 기초하여 훈련될 수 있다.According to one embodiment, the colorization network 210 is trained based on a total loss that is the sum of the pixel wise (L1) loss function (LL1 ), the VGG loss function (LVGG ), and the WGAN loss function (Lwgan ). It can be.
도 6은 다양한 실시예들에 따른, 전자 장치(예: 도 1의 전자 장치(101))가 GAN 기반의 모델(예: 도 2의 모델(200))을 이용하여 흑백 이미지로부터 최종 컬러 이미지를 생성하는 실시예를 나타낸다.FIG. 6 shows an electronic device (e.g., the electronic device 101 of FIG. 1) converting a final color image from a black-and-white image using a GAN-based model (e.g., the model 200 of FIG. 2) according to various embodiments. An example of generating is shown.
본 발명에 따른 전자 장치(101)는 휘도 채널에 관한 정보만 포함하는 흑백 이미지, 예를 들어 "a) input",를 획득하여, GAN 기반의 모델(200)을 이용하여 최종 컬러 이미지, 예를 들어 "b) colorized",를 생성할 수 있다. 이 때, 전자 장치(101)는 학습 이미지, 예를 들어 "c) ground truth",를 이용하여 GAN 기반의 모델(200)을 훈련시킬 수 있다.The electronic device 101 according to the present invention acquires a black and white image, for example, “a) input”, containing only information about the luminance channel, and uses the GAN-based model 200 to produce a final color image, for example. For example, you can create "b) colorized", At this time, the electronic device 101 may train the GAN-based model 200 using a learning image, for example, “c) ground truth.”
도 7a 및 7b는 다양한 실시예들에 따른, 본 발명이 적용된 GAN 기반의 모델(예: 도 2의 모델(200))과 다른 색상화 모델들 사이의 차이를 나타내는 도면이다.FIGS. 7A and 7B are diagrams showing the difference between a GAN-based model to which the present invention is applied (e.g., model 200 of FIG. 2) and other colorization models, according to various embodiments.
도 7a를 참조하면, 본 발명이 적용된 GAN 기반의 모델(200)을 이용하여 입력 흑백 이미지로부터 생성된 최종 컬러 이미지(예: proposed method)는 다른 색상화 모델을 이용하여 생성된 컬러 이미지(예: ChromaGAN, Deoldify, ColTrans)에 비하여 원본 이미지(예: Groud Truth)에 더 가까운 것을 알 수 있다.Referring to Figure 7a, the final color image generated from the input black and white image using the GAN-based model 200 to which the present invention is applied (e.g. proposed method) is a color image generated using another colorization model (e.g. It can be seen that it is closer to the original image (e.g. Groud Truth) than ChromaGAN, Deoldify, ColTrans).
또한 도 7b를 참조하면, 본 발명이 적용된 GAN 기반의 모델(200)을 이용하였을 때, 다른 색상화 모델을 이용할 때보다 품질이 가장 좋거나, 또는 최상위 품질을 갖는 컬러 이미지를 생성하는 것을 알 수 있다.Also, referring to Figure 7b, it can be seen that when using the GAN-based model 200 to which the present invention is applied, a color image with the best or highest quality is generated compared to using other colorization models. there is.
다양한 실시예들에 따라서, GAN(Generative Adversarial Network) 기반의 모델을 이용하여 흑백 이미지를 컬러링하기 위한 전자 장치는, 프로세서를 포함하고, 상기 프로세서는, 휘도 채널(luminance channel)에 관한 제1 정보만 포함하는 흑백 이미지를 획득하고, 및 상기 흑백 이미지를 상기 GAN 기반의 모델에 적용함으로써, 색차 채널(chrominance channel)에 관한 제2 정보만 포함하는 슈도 컬러 이미지(pseudo color image)를 생성하도록 설정되고, 상기 GAN 기반의 모델은, 인코더 네트워크(encoder network) 및 생성기 네트워크(generator network)를 포함하는 색상화 네트워크(colorization network)를 포함하고, 상기 색상화 네트워크는, 상기 인코더 네트워크를 이용하여 상기 흑백 이미지에 대응하는 잠재 공간(latent space)을 형성하고, 상기 생성기 네트워크를 이용하여 상기 잠재 공간으로부터 상기 슈도 컬러 이미지를 생성하고, 상기 인코더 네트워크는 복수의 레이어들 및 상기 복수의 레이어들 사이에 구현된 어텐션 모듈(attention module)을 포함하고, 상기 어텐션 모듈은 상기 인코더 네트워크 내의 컨볼루션 레이어의 출력을 입력 받아 생성된 출력을, (i) 상기 컨볼루션 레이어의 다음 레이어인 맥스 풀 레이어(max pool layer) 및 (ii) 상기 생성기 네트워크 내에서 상기 어텐션 모듈에 대응하는 연결 레이어(concatenation layer)로 전달할 수 있다.According to various embodiments, an electronic device for coloring a black-and-white image using a GAN (Generative Adversarial Network)-based model includes a processor, wherein the processor only provides first information about a luminance channel. By acquiring a black-and-white image including, and applying the black-and-white image to the GAN-based model, a pseudo color image containing only second information about a chrominance channel is set to be generated, The GAN-based model includes a colorization network including an encoder network and a generator network, and the colorization network uses the encoder network to Forms a corresponding latent space, generates the pseudo-color image from the latent space using the generator network, and the encoder network includes a plurality of layers and an attention module implemented between the plurality of layers. (attention module), wherein the attention module receives the output of the convolutional layer in the encoder network and outputs the generated output, (i) a max pool layer, which is the next layer of the convolutional layer, and ( ii) It can be delivered to the concatenation layer corresponding to the attention module within the generator network.
다양한 실시예들에 따라서, 상기 인코더 네트워크는, GAN inversion 인코더 네트워크일 수 있다.According to various embodiments, the encoder network may be a GAN inversion encoder network.
다양한 실시예들에 따라서, 상기 잠재 공간(latent space)은, 특징 벡터(feature vector)가 아닌, 16x16의 특징 매트릭스(feature matrix)일 수 있다.According to various embodiments, the latent space may be a 16x16 feature matrix rather than a feature vector.
다양한 실시예들에 따라서, 상기 어텐션 모듈은 channel attention과 spatial attention을 직렬로 구성하는 CBAM(Convolutional Block Attention Module)일 수 있다.According to various embodiments, the attention module may be a Convolutional Block Attention Module (CBAM) that serially configures channel attention and spatial attention.
다양한 실시예들에 따라서, 상기 GAN 기반의 모델은 pixel wise(L1) 손실 함수(LL1), VGG 손실 함수(LVGG), 및 WGAN 손실 함수(Lwgan)를 모두 고려한 총 손실(Ltotal)을 이용하여 훈련되고, 상기 pixel wise(L1) 손실 함수(LL1), 상기 VGG 손실 함수(LVGG), 상기 WGAN 손실 함수(Lwgan), 및 상기 총 손실(Ltotal)은 하기의 [수학식 1]에 의하여 산출될 수 있다.According to various embodiments, the GAN-based model has a total loss (Ltotal ) considering all the pixel wise (L1) loss function (LL1 ), VGG loss function (LVGG ), and WGAN loss function (Lwgan ). is trained using, and the pixel wise(L1) loss function (LL1 ), the VGG loss function (LVGG ), the WGAN loss function (Lwgan ), and the total loss (Ltotal ) are as follows [mathematics] It can be calculated by [Equation 1].
[수학식 1][Equation 1]
J는 ground truth에 해당하는 컬러 이미지를 나타내고, G(I)는 슈도 컬러 이미지를 나타내며, λ, λ1, λ2는 가중치를 나타냄.J represents the color image corresponding to the ground truth, G(I) represents the pseudocolor image, and λ, λ1 , and λ2 represent the weights.
다양한 실시예들에 따라서, 상기 프로세서는, 상기 GAN 기반 모델을 통하여 상기 흑백 이미지와 상기 슈도 컬러 이미지를 합성함으로써, 최종 컬러 이미지를 생성하도록 설정될 수 있다.According to various embodiments, the processor may be set to generate a final color image by combining the black-and-white image and the pseudo-color image through the GAN-based model.
본 문서에서 사용된 용어 "모듈" 또는 "~부"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. "모듈" 또는 "~부"는, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. "모듈" 또는 "~부"는 기계적으로 또는 전자적으로 구현될 수 있으며, 예를 들면, 어떤 동작들을 수행하는, 알려졌거나 앞으로 개발될, ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays), 또는 프로그램 가능 논리 장치를 포함할 수 있고, 프로세서(120)에 의하여 실행될 수 있다. 다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는 프로그램 모듈의 형태로 컴퓨터로 판독 가능한 저장 매체(예: 메모리(130))에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(120))에 의해 실행될 경우, 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(예: 자기테이프), 광기록 매체(예: CD-ROM, DVD, 자기-광 매체 (예: 플롭티컬 디스크), 내장 메모리 등을 포함할 수 있다. 명령어는 컴파일러에 의해 만들어지는 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른, 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.As used in this document, the term “module” or “unit” includes a unit comprised of hardware, software, or firmware, and can be used interchangeably with terms such as logic, logic block, component, or circuit, etc. there is. “Module” or “unit” may be an integrated part, a minimum unit that performs one or more functions, or a part thereof. A “module” or “unit” may be implemented mechanically or electronically, e.g., known or to be developed, application-specific integrated circuit (ASIC) chips, field-programmable circuits (FPGAs), that perform certain operations. gate arrays), or programmable logic devices, and may be executed by the processor 120. At least a portion of the device (e.g., modules or functions thereof) or method (e.g., operations) according to various embodiments includes instructions stored in a computer-readable storage medium (e.g., memory 130) in the form of a program module. It can be implemented as: When the instruction is executed by a processor (eg, processor 120), the processor may perform the function corresponding to the instruction. Computer-readable recording media include hard disks, floppy disks, magnetic media (e.g. magnetic tape), optical recording media (e.g. CD-ROM, DVD, magneto-optical media (e.g. floptical disks), built-in memory, etc. The instruction may include code generated by a compiler or code that can be executed by an interpreter. A module or program module according to various embodiments may include at least one of the above-described components. , some parts may be omitted, or other components may be further included. Operations performed by modules, program modules, or other components may be executed sequentially, parallel, iteratively, or heuristically. Some operations may be executed in a different order, omitted, or other operations may be added.
그리고 본 문서에 개시된 실시예는 개시된, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 개시의 범위를 한정하는 것은 아니다. 따라서, 본 개시의 범위는, 본 개시의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시예를 포함하는 것으로 해석되어야 한다.Additionally, the embodiments disclosed in this document are presented for explanation and understanding of the disclosed technical content, and do not limit the scope of the present disclosure. Accordingly, the scope of the present disclosure should be interpreted as including all changes or various other embodiments based on the technical idea of the present disclosure.
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020230014791AKR102672829B1 (en) | 2023-02-03 | 2023-02-03 | Electronic device for colorizing black and white image using gan based model and method for operation thereof |
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020230014791AKR102672829B1 (en) | 2023-02-03 | 2023-02-03 | Electronic device for colorizing black and white image using gan based model and method for operation thereof |
| Publication Number | Publication Date |
|---|---|
| KR20230025676A KR20230025676A (en) | 2023-02-22 |
| KR102672829B1true KR102672829B1 (en) | 2024-06-10 |
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020230014791AActiveKR102672829B1 (en) | 2023-02-03 | 2023-02-03 | Electronic device for colorizing black and white image using gan based model and method for operation thereof |
| Country | Link |
|---|---|
| KR (1) | KR102672829B1 (en) |
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116433788A (en)* | 2023-02-24 | 2023-07-14 | 北京科技大学 | Gray image coloring method and device based on self-attention and generation countermeasure network |
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102283416B1 (en) | 2019-04-03 | 2021-07-28 | 조선대학교산학협력단 | A method and apparatus for generating image using GAN based deep learning model |
| Title |
|---|
| Rita Pucci ET AL., "Collaborative Image and Object Level Features for Image Colourisation", Computer Vision and Pattern Recognition,(2021.01.19.) |
| Sandra Treneska ET AL., "GAN-Based Image Colorization for Self-Supervised Visual Feature Learning", Image Processing and Pattern Recognition Based on Deep Learning,(2022.02.18.) |
| Sanghyun Woo ET AL., "CBAM: Convolutional Block Attention Module", Computer Vision and Pattern Recognition, (2018.07.18.) |
| Publication number | Publication date |
|---|---|
| KR20230025676A (en) | 2023-02-22 |
| Publication | Publication Date | Title |
|---|---|---|
| US10032301B2 (en) | Rebuilding images based on historical image data | |
| CA3154893C (en) | Image color transferring method, device, computer equipment and storage medium | |
| CN109964204A (en) | For handling the method and system of figure | |
| KR102672829B1 (en) | Electronic device for colorizing black and white image using gan based model and method for operation thereof | |
| CN116136784A (en) | Data processing method, device, storage medium and program product | |
| CN112651475A (en) | Two-dimensional code display method, device, equipment and medium | |
| US12249300B2 (en) | System and method for causing graphical information to be rendered | |
| US20240265587A1 (en) | Electronic device for colorizing black and white image using gan based model comprising transformer block and method for operation thereof | |
| CN112965699B (en) | Front-end page generation method, device, computer system and readable storage medium | |
| WO2022194010A1 (en) | Application program sharing method and application program sharing apparatus | |
| US10249062B2 (en) | System and method for image view binding optimization | |
| US10067914B2 (en) | Techniques for blending document objects | |
| US10311348B2 (en) | Graphic identification code generation method and apparatus | |
| US11410347B2 (en) | Node-based image colorization on image/video editing applications | |
| CN108604367A (en) | A kind of display methods and hand-hold electronic equipments | |
| US12395338B2 (en) | Electronic device for performing token pruning in frequency domain and method for operating the same | |
| CN113553123A (en) | Data processing method and device, electronic equipment and storage medium | |
| JP2016517574A (en) | Graphic processing using multiple primitives | |
| CN114307143B (en) | Image processing method and device, storage medium, and computer equipment | |
| EP3931749B1 (en) | 3d hand pose estimation based on depth-image guided adversarial network | |
| US10896483B2 (en) | Dynamic content generation system | |
| CN112363987A (en) | File compression method and device, file loading method and device and electronic equipment | |
| KR102741185B1 (en) | Service providing apparatus, method, and program for rendering images and evaluating the degree of optimization of rendering | |
| US20250005814A1 (en) | Extracting gamut polygons and generating color mixing strings from color palettes | |
| US8340427B2 (en) | Providing a symbol |
| Date | Code | Title | Description |
|---|---|---|---|
| PA0109 | Patent application | St.27 status event code:A-0-1-A10-A12-nap-PA0109 | |
| PA0201 | Request for examination | St.27 status event code:A-1-2-D10-D11-exm-PA0201 | |
| PG1501 | Laying open of application | St.27 status event code:A-1-1-Q10-Q12-nap-PG1501 | |
| R18-X000 | Changes to party contact information recorded | St.27 status event code:A-3-3-R10-R18-oth-X000 | |
| R18-X000 | Changes to party contact information recorded | St.27 status event code:A-3-3-R10-R18-oth-X000 | |
| D13-X000 | Search requested | St.27 status event code:A-1-2-D10-D13-srh-X000 | |
| D14-X000 | Search report completed | St.27 status event code:A-1-2-D10-D14-srh-X000 | |
| E902 | Notification of reason for refusal | ||
| PE0902 | Notice of grounds for rejection | St.27 status event code:A-1-2-D10-D21-exm-PE0902 | |
| E13-X000 | Pre-grant limitation requested | St.27 status event code:A-2-3-E10-E13-lim-X000 | |
| P11-X000 | Amendment of application requested | St.27 status event code:A-2-2-P10-P11-nap-X000 | |
| P13-X000 | Application amended | St.27 status event code:A-2-2-P10-P13-nap-X000 | |
| E90F | Notification of reason for final refusal | ||
| PE0902 | Notice of grounds for rejection | St.27 status event code:A-1-2-D10-D21-exm-PE0902 | |
| R18-X000 | Changes to party contact information recorded | St.27 status event code:A-3-3-R10-R18-oth-X000 | |
| R18-X000 | Changes to party contact information recorded | St.27 status event code:A-3-3-R10-R18-oth-X000 | |
| R18-X000 | Changes to party contact information recorded | St.27 status event code:A-3-3-R10-R18-oth-X000 | |
| E13-X000 | Pre-grant limitation requested | St.27 status event code:A-2-3-E10-E13-lim-X000 | |
| P11-X000 | Amendment of application requested | St.27 status event code:A-2-2-P10-P11-nap-X000 | |
| P13-X000 | Application amended | St.27 status event code:A-2-2-P10-P13-nap-X000 | |
| E701 | Decision to grant or registration of patent right | ||
| PE0701 | Decision of registration | St.27 status event code:A-1-2-D10-D22-exm-PE0701 | |
| PR0701 | Registration of establishment | St.27 status event code:A-2-4-F10-F11-exm-PR0701 | |
| PR1002 | Payment of registration fee | St.27 status event code:A-2-2-U10-U11-oth-PR1002 Fee payment year number:1 | |
| PG1601 | Publication of registration | St.27 status event code:A-4-4-Q10-Q13-nap-PG1601 | |
| R18-X000 | Changes to party contact information recorded | St.27 status event code:A-5-5-R10-R18-oth-X000 | |
| R18-X000 | Changes to party contact information recorded | St.27 status event code:A-5-5-R10-R18-oth-X000 |