Die Erfindung betrifft ein Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung mit Hilfe einer digitalen Wärmebildkamera, die insbesondere in der mobilen elektronischen Einrichtung, welche ein Smartphone sein kann, implementiert ist.The invention relates to a method for determining the position and / or orientation of a mobile electronic device with the aid of a digital thermal imaging camera, which is implemented in particular in the mobile electronic device, which may be a smartphone.
Smartphones mit integrierter oder aufsteckbarer Wärmebildkamera sind bekannt (siehe zum Beispiel die Webseiten: www.areamobile.de/news/36787-cat-s60 und www.heise.de/newsticker/meldung/hands-on).Smartphones with integrated or attachable thermal imaging camera are known (see for example the websites: www.areamobile.de/news/36787-cat-s60 and www.heise.de/newsticker/meldung/hands-on).
Ein Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung mit Hilfe einer digitalen Wärmebildkamera ist aus derDE 10 2016 109 628.8 bekannt, die als ältere Patentanmeldung gemäß §3 Abs. 2 PatG gilt.A method for determining the position and / or orientation of a mobile electronic device by means of a digital thermal imaging camera is known from DE 10 2016 109 628.8 known, which applies as an earlier patent application in accordance with §3 paragraph 2 PatG.
Der vorliegenden Erfindung liegt die Aufgabe zugrunde, ein weiteres Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung mit Hilfe einer digitalen Wärmebildkamera zur Verfügung zu stellen.The present invention is based on the object of providing a further method for determining the position and / or orientation of a mobile electronic device with the aid of a digital thermal imaging camera.
Ein Kerngedanke der Erfindung kann darin gesehen werden, vorzugsweise mehrere Referenzoberflächenbereiche, deren Positionen im Objektraum bekannt sind, hinsichtlich wenigstens eines Objekts bereitzustellen, wobei jedem Referenzoberflächenbereich i.d.R. zeitabhängige Positions- und i.d.R. zeitabhängige Farb- bzw. Temperaturinformationen nach einer Abbildung in die Bildebene einer digitalen Wärmebildkamera zugeordnet werden, die als Referenzdatensätze gespeichert werden.A core idea of the invention may be seen in providing preferably a plurality of reference surface areas whose positions are known in object space with respect to at least one object, each reference surface area i.d.R. time-dependent position and i.d.R. Time-dependent color or temperature information is assigned after an image in the image plane of a digital thermal imager, which are stored as reference data records.
Die jeweilige Temperatur der Oberflächenpunkte der jeweiligen Referenzoberflächenbereiche kann vorzugsweise über ein gegebenes Wärmemodell vorhergesagt werden. Ein solches Wärmemodell kann auf einem Finite-Element-Verfahren zur Zerlegung einer realen 3D-Struktur in eine endliche Anzahl von Elementen mit vereinfachten physikalischen Eigenschaften basieren, welches beispielsweise in dem Handbuch „HYDR Grundwasser-/Wärmeleitmodell“ der Firma SOFISTIK AG, Oberschleissheim, 2005 erläutert wird (siehe www.sofistik.de/fileadmin/FILES/produkte/sta). Unter Verwendung einer vorgegebenen Temperatur-Farb-Kennlinie der verwendeten digitalen Wärmebildkamera können dann die Farbwerte für die Abbildung der simulierten Oberflächentemperaturen in die Bildebene der mobilen digitalen Wärmebildkamera vorhergesagt bzw. berechnet werden.The particular temperature of the surface points of the respective reference surface areas may preferably be predicted over a given heat model. Such a heat model can be based on a finite element method for decomposing a real 3D structure into a finite number of elements with simplified physical properties, which are described, for example, in the manual "HYDR groundwater / heat conduction model" by SOFISTIK AG, Oberschleissheim, 2005 is explained (see www.sofistik.de/fileadmin/FILES/produkte/sta). Using a given temperature-color characteristic of the digital thermal imager used, the color values for imaging the simulated surface temperatures into the image plane of the mobile digital thermal imager can then be predicted.
Das oben genannte technische Problem wird durch die Verfahrensschritte des Anspruchs 1 gelöst.The above technical problem is solved by the method steps ofclaim 1.
Danach wird ein Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung mit Hilfe einer digitalen Wärmebildkamera, deren innere Orientierung bekannt ist, zur Verfügung gestellt, welches folgende Schritte aufweist:
- a) Aufnehmen, mit der mobilen digitalen Wärmebildkamera eines Wärmebilds eines Objekts, wobei das Wärmebild in einer Farbendarstellung erzeugt wird;
- b) Bereitstellen für vorbestimmte Oberflächenbereiche eines vorbestimmten Objekts jeweils eines Referenzdatensatzes, der eine Positions- und Farbinformation des jeweiligen vorbestimmten Oberflächenbereichs enthält, wobei die Farbinformation einer Temperatur des jeweiligen vorbestimmten Oberflächenbereichs entspricht;
- c) Auswählen mehrerer Referenzdatensätze aus den in Schritt b) bereitgestellten Referenzdatensätzen in Abhängigkeit des Ergebnisses eines Abgleichs der in den Referenzdatensätzen enthaltenen Farbinformationen mit Bereichen der Farbdarstellung des in Schritt a) aufgenommenen Wärmebilds; und
- d) Durchführen unter Verwendung der bekannten inneren Orientierung der Wärmebildkamera und der in den ausgewählten Referenzdatensätzen enthaltenen Positionsinformationen eines räumlichen Rückwärtsschnitts zur Bestimmung der Position und/oder Orientierung der mobilen elektronischen Einrichtung.
Thereafter, a method for determining the position and / or orientation of a mobile electronic device using a digital thermal imager, the internal orientation of which is known, is provided, comprising the following steps:-  a) capturing, with the mobile digital thermal imager, a thermal image of an object, wherein the thermal image is generated in a color representation;
-  b) providing for predetermined surface areas of a predetermined object each a reference data set containing position and color information of the respective predetermined surface area, the color information corresponding to a temperature of the respective predetermined surface area;
-  c) selecting a plurality of reference data records from the reference data records provided in step b) as a function of the result of matching the color information contained in the reference data records with regions of the color representation of the thermal image recorded in step a); and
-  d) performing using the known internal orientation of the thermal imager and the spatial backward position information contained in the selected reference data sets to determine the position and / or orientation of the mobile electronic device.
Der räumliche Rückwärtsschnitt ist ein Verfahren aus der Photogrammetrie, das beispielsweise in dem Fachbuch„Photogrammetrie“, von K. Schwidefsky und F. Ackermann, B.G. Teubner Stuttgart, 1976 erläutert wird.The spatial reverse section is a method of photogrammetry, for example, in the textbook "Photogrammetry", by K. Schwidefsky and F. Ackermann, BG Teubner Stuttgart, 1976 is explained.
Angemerkt sei, dass mit Orientierung vorzugsweise die äußere und/oder innere Orientierung der der mobilen elektronischen Einrichtung zugeordneten Wärmebildkamera gemeint ist. Die Begriffe „äußere und innere Orientierung“ sind aus der Photogrammetrie bekannt. Erläutert werden sie beispielsweise in dem Fachbuch„Photogrammetrie, Grundlagen, Verfahren, Anwendungen“, von K. Schwidedfsky et al., 7. Auflage des „Grundriß der Photogrammetrie“, 1976, B.G. Teubner Stuttgart. Eine Bildkoordinatenachsenskalierung durch die Pixelgröße oder durch die Bauart eines digitalen Flächensensors können bei der inneren Orientierung der Wärmebildkamera mit enthalten sein.It should be noted that orientation preferably means the outer and / or inner orientation of the thermal imaging camera associated with the mobile electronic device. The terms "outer and inner orientation" are known from photogrammetry. For example, they are explained in the textbook "Photogrammetry, Fundamentals, Methods, Applications", by K. Schwidedfsky et al., 7th Edition of the "Plan of Photogrammetry", 1976 , BG Teubner Stuttgart. An image coordinate axis scaling by the pixel size or by the design of a digital area sensor may be included in the interior orientation of the thermal imager.
Weiterhin sei angemerkt, dass eine Position vorzugsweise durch die Koordinaten eines vorgegebenen 3D-Koordinatensystem beschrieben wird.It should also be noted that a position is preferably described by the coordinates of a given 3D coordinate system.
Angemerkt sei ferner, dass ein Oberflächenbereich mindestens einen Oberflächenpunkt enthält. Der kleinstmögliche „Bereich“ auf der Objektoberfläche wäre ein Oberflächenpunkt, sodass die Temperatur in diesem Punkt auf der Objektoberfläche ermittelt wird. It should also be noted that a surface area contains at least one surface point. The smallest possible "area" on the object surface would be a surface point, so that the temperature at that point on the object surface is determined.
In der Regel wird jedoch ein vorbestimmter Oberflächenbereich mehrere Punkte enthalten, so dass dann die Temperatur in diesem Oberflächenbereich eine mittlere repräsentative Temperatur ist, die anschließend in einen entsprechenden Farbwert umgerechnet werden kann.In general, however, a predetermined surface area will contain several points, so that then the temperature in this surface area is a mean representative temperature, which can then be converted into a corresponding color value.
Rein praktisch gesehen, wird in der Bildebene einer digitalen Wärmebildkamera also nicht die Farbe in einem zu einem Oberflächenpunkt eines Objekts korrespondierenden Bildpunkt, sondern ein repräsentativer Farbwert als Mittelwert zum Beispiel in einem CMOS-Bildpixel (mit einer dx- und dy-Ausdehnung im Bild, die einem Bereich aus mehreren Punkten auf der Objektoberfläche entspricht) gemessen.In practical terms, in the image plane of a digital thermal imaging camera, therefore, not the color in a pixel corresponding to a surface point of an object, but a representative color value as an average, for example in a CMOS image pixel (with a dx and dy extension in the image, which corresponds to a range of several points on the object surface).
Vorteilhafte Weiterbildungen sind Gegenstand der Unteransprüche.Advantageous developments are the subject of the dependent claims.
Mithilfe eines räumlichen Rückwärtsschnitts können mehrere im Objektraum konvergierende Strahlenbündel eines Kamerabildes berücksichtigt werden, um die Positionen aufgenommener Objekte eines Objektraumes und gleichzeitig die Position und/oder Orientierung der verwendeten Kamera bzw. der mobilen elektronischen Einrichtung zu bestimmen. Hierbei muss allerdings die Zuordnung von Objektpunkten zu Bildpunkten gegeben sein, was in der Praxis hauptsächlich durch eine reale Signalisierung am Objekt erzeugt wird, so z.B. mittels Aufkleben von Messmarken und einer Punktnummerninformation. Diese sogenannte Signalisierung ist also vorab manuell vorzunehmen und wird durch die Aufnahme im Bild der Kamera sichtbar.By means of a spatial backward section, a plurality of beam bundles of a camera image converging in the object space can be taken into account in order to determine the positions of recorded objects of an object space and simultaneously the position and / or orientation of the camera or mobile electronic device used. In this case, however, the assignment of object points to picture elements must be given, which in practice is mainly produced by a real signaling on the object, e.g. by sticking of measuring marks and point number information. So this so-called signaling is done in advance manually and is visible through the recording in the image of the camera.
Um das Verfahren vollständig automatisiert ausführen zu können, wird eine alternative Lösung für ein Signalisieren relevanter Punkte im Objektraum bereitgestellt, indem die Signalisierung nicht manuell direkt am Objekt, sondern virtuell erzeugt wird.In order to be able to carry out the method completely automatically, an alternative solution is provided for signaling relevant points in the object space by virtue of the fact that the signaling is not generated manually directly on the object, but virtually.
Dies wird dadurch erreicht, dass Schritt b) folgende Schritte umfasst:
- b1) Aufrufen, von einer Recheneinheit, wenigstens eines in einer Speichereinrichtung abgelegten Wärmemodells für das vorbestimmte Objekt;
- b2) Berechnen, unter Verwendung des in Schritt b1) aufgerufenen Wärmemodells, für mehrere vorbestimmte Oberflächenbereiche des vorbestimmten Objekts, deren Positionen bekannt sind, jeweils eine oberflächentemperaturabhängige Farbinformation. Angemerkt sei, dass die Berechnung gemäß Schritt b2) vorteilhafter Weise für einen Zeitpunkt und gegebenenfalls für ein Datum ausgeführt wird, zu denen in Schritt a) ein Wärmebild aufgenommen worden ist.
This is achieved by step b) comprising the following steps:-  b1) calling, by a computing unit, at least one heat model stored in a memory device for the predetermined object;
-  b2) calculating, using the thermal model called in step b1), for each of a plurality of predetermined surface areas of the predetermined object whose positions are known, a color temperature-dependent color information. It should be noted that the calculation according to step b2) is advantageously carried out for a time and, if appropriate, for a datum for which a thermal image has been recorded in step a).
Mit anderen Worten: Die Signalisierung am Objekt erfolgt durch die Simulation von Temperaturwerten an vorgegebenen, also bekannten, Objektoberflächenpunkten, deren Positionen bekannt sind. Diesen Temperaturwerten sind über die Temperatur-Farb-Kennlinie der Wärmebildkamera eindeutige Farbwerte im Wärmebild zugeordnet. Wird ein Temperaturwert eines Objektpunktes eindeutig numerisch einem Farbwert im Bild zugeordnet und existiert dieser Farbwert nur an einer Stelle im Bild, so ist damit ein Bildstrahl zum Aufnahmezeitpunkt gegeben. Liegt dieser Farbwert an mehreren Stellen im Bild vor, so sind dem Fachmann unterschiedliche Kriterien und Algorithmen bekannt wie die Auswahl des am besten korrespondierenden Bildpunktes vollautomatisch durchgeführt werden kann. Mehrere dieser Bildstrahlen zu den am besten korrespondierenden Bildpunkten ergeben ein Strahlenbündel, das im Projektionszentrum gebündelt ist. Liegen beispielsweise mindestens 5 Strahlen in einem Strahlenbündel zu bekannten Oberflächenpunkten vor, so kann, wenn diese Strahlen die bekannte allgemeine Lage haben, die Position und/oder Orientierung der Wärmebildkamera bestimmt werden. Dieses Verfahren kann ausgleichungstechnisch iterativ im Gauss-Markov-Modell erfolgen, was bekannt ist. Es liegt somit ein räumlicher Rückwärtsschnitt vom Objekt ins Projektionszentrum der Wärmebildkamera vor, was einer Einbild-Bündelausgleichung entspricht.In other words, the signaling on the object takes place by the simulation of temperature values at predetermined, ie known, object surface points whose positions are known. These temperature values are assigned unique color values in the thermal image via the temperature-color characteristic of the thermal imager. If a temperature value of an object point is unambiguously numerically assigned to a color value in the image and this color value exists only at one point in the image, then an image beam at the time of recording is given. If this color value is present at several points in the image, different criteria and algorithms are known to the person skilled in the art, as the selection of the best-corresponding pixel can be carried out fully automatically. Several of these image rays to the best corresponding pixels result in a bundle of rays, which is bundled in the projection center. If, for example, at least 5 beams exist in a beam to known surface points, then if these beams have the known general position, the position and / or orientation of the thermal imager can be determined. This method can be performed iteratively in the Gauss-Markov model, which is known. There is thus a spatial rearward section from the object to the projection center of the thermal imaging camera, which corresponds to a single-image beam equalization.
Die Simulationsergebnisse können verbessert werden, wenn in Schritt b2) die Farbinformationen in Abhängigkeit von Zeitinformationen, und/oder von Informationen über die Materialeigenschaften der Oberfläche des vorbestimmten Objekts, und/oder von Wetterinformationen, und/oder von Temperaturinformationen des Objektraums, in dem sich das vorbestimmte Objekt befindet, und/oder von Informationen über die äußere und/oder innere Orientierung einer virtuellen Wärmebildkamera und/oder von Informationen über die Position einer virtuellen Wärmebildkamera berechnet werden.The simulation results can be improved if, in step b2), the color information depends on time information, and / or information about the material properties of the surface of the predetermined object, and / or weather information, and / or temperature information of the object space in which the predetermined object, and / or information about the outer and / or inner orientation of a virtual thermal imager and / or information about the position of a virtual thermal imager can be calculated.
Anstatt Referenzdatensätze mittels einer Simulation zu gewinnen, können diese alternativ aus vorab aufgenommenen Referenzwärmebildern gebildet werden. Diese Referenzwärmebilder können ebenfalls von der digitalen Wärmebildkamera aufgenommen werden. Hierzu kann Schritt b) folgende Schritte umfassen:
- Aufnehmen vor Ausführung des Schritts a) wenigstens eines Referenzwärmebildes des vorbestimmten Objekts, wobei das wenigstens eine Referenzwärmebild in einer Farbendarstellung erzeugt wird;
- Erstellen unter Verwendung des Referenzwärmebilds für vorbestimmte Oberflächenbereiche des vorbestimmten Objekts jeweils eines Referenzdatensatzes, der eine Positions- und Farbinformation des jeweiligen vorbestimmten Oberflächenbereichs enthält; und Speichern der Referenzdatensätze.
Instead of obtaining reference data sets by means of a simulation, these can alternatively be formed from pre-recorded reference thermal images. These reference thermal images can also be captured by the digital thermal imager. For this purpose, step b) may comprise the following steps:-  Recording before performing step a) at least one reference thermal image of the predetermined object, wherein the at least one reference thermal image is generated in a color representation;
-  Creating using the reference thermal image for predetermined surface areas of the predetermined object each of a reference data set containing position and color information of the respective predetermined surface area; and storing the reference data sets.
Eine vorteilhafte und für die mobile elektronische Einrichtung energiesparende Maßnahme sieht vor, dass das in Schritt a) aufgenommene Wärmebild zu einer entfernten Rechnereinrichtung, die räumlich getrennt von der mobilen elektronischen Einrichtung angeordnet ist, übertragen wird, und dass
die Schritte b) bis d) in der Rechnereinrichtung (140) ausgeführt werden.An advantageous and energy-saving measure for the mobile electronic device provides that the recorded in step a) thermal image is transmitted to a remote computing device, which is spatially separated from the mobile electronic device, and that
 the steps b) to d) are carried out in the computer device (140).
Ist die digitale Wärmebildkamera in der mobilen elektronischen Einrichtung, welche ein Mobilfunktelefon sein kann, integriert, können die Schritte b) bis d) auch in der mobilen elektronischen Einrichtung ausgeführt werden.If the digital thermal imaging camera is integrated in the mobile electronic device, which may be a mobile phone, steps b) to d) may also be performed in the mobile electronic device.
Der Rechenaufwand zur Bestimmung der Position und/oder der Orientierung der mobilen elektronischen Einrichtung kann dadurch reduziert werden, dass
aus dem in Schritt a) aufgenommenen Wärmebild ein Wärmebildausschnitt ausgewählt wird, dass
in Schritt b) aus den bereitgestellten Referenzdatensätzen eine Anzahl von ersten Referenzdatensätzen ausgewählt wird, und dass
in Schritt c) aus den in Schritt b) ausgewählten ersten Referenzdatensätzen mehrere erste Referenzdatensätze in Abhängigkeit des Ergebnisses eines Abgleichs der in den ersten Referenzdatensätzen enthaltenen Farbinformationen mit dem ausgewählten Wärmebildausschnitt ausgewählt werden.The computational effort for determining the position and / or the orientation of the mobile electronic device can be reduced by
 from the thermal image recorded in step a), a thermal image detail is selected that
 in step b) a number of first reference data records are selected from the provided reference data records, and that
 in step c), a plurality of first reference data records are selected from the first reference data records selected in step b) as a function of the result of matching the color information contained in the first reference data records with the selected thermal image detail.
Das neue Verfahren verbindet somit eine Lösung zum automatisierten Signalisieren eines Objektes mit der Durchführung eines räumlichen Rückwärtsschnitts, um die Position und/oder Orientierung der mobilen elektronischen Einrichtung bzw. der Wärmebildkamera vollautomatisch zu bestimmen.The new method thus combines a solution for the automated signaling of an object with the implementation of a spatial reverse section in order to determine the position and / or orientation of the mobile electronic device or the thermal imaging camera fully automatically.
Die Erfindung wird nachfolgend anhand eines Ausführungsbeispiels in Verbindung mit den beiliegenden Zeichnungen näher erläutert. Es zeigen:
- 1 ein beispielhaftes Kommunikationssystem, welches ein Mobilfunktelefon mit einer integrierten Wärmebildkamera aufweist,
- 2 eine Hauswand mit zwei Fenstern als ein vorbestimmtes Objekt in einem vorgegebenen Objektraum.
The invention will be explained in more detail using an exemplary embodiment in conjunction with the accompanying drawings. Show it:-  1 an exemplary communication system comprising a mobile telephone with an integrated thermal imager,
-  2 a house wall with two windows as a predetermined object in a given object space.
1 zeigt als eine beispielhafte Anwendung den Ausschnitt eines beispielhaften Kommunikationssystems1, welches ein Smartphone10 als eine mobile elektronische Einrichtung, eine externe Rechnereinrichtung140 in Form eines Servers und eine externe Datenbank180 aufweisen kann. Das Smartphone10, die Datenbank180 und die Rechnereinrichtung140 können über ein IP-Netz, beispielsweise das Internet190 kommunizieren. 1 FIG. 4 illustrates, as an example application, the portion of anexemplary communication system 1 which is asmartphone 10 as a mobile electronic device, anexternal computing device 140 in the form of a server and anexternal database 180 can have. Thesmartphone 10 ,database 180 and thecomputing device 140 can over an IP network, for example theInternet 190 communicate.
Der Server140 kann eine Steuereinheit150, die zum Beispiel als Mikroprozessor oder Mikrokontroller ausgebildet ist, aufweisen. Ferner kann der Server140 einen Datenspeicher160 und einen Programmspeicher170 enthalten, in dem die Anweisungen zur Steuerung und Überwachung des Servers140 hinterlegt sind. Wie nachfolgend noch näher erläutert wird, kann der Server140 im Zusammenwirken mit dem Smartphone10 einige Verfahrensschritte zum Bestimmen der Position und/oder der Orientierung des Smartphones10 ausführen.Theserver 140 can be acontrol unit 150 , which is designed for example as a microprocessor or microcontroller have. Furthermore, the server can 140 adata store 160 and aprogram memory 170 containing instructions for controlling and monitoring theserver 140 are deposited. As will be explained in more detail below, theserver 140 in cooperation with thesmartphone 10 some method steps for determining the position and / or orientation of thesmartphone 10 To run.
Das Smartphone10 kann einen Zeitgeber40 enthalten, der die aktuelle Uhrzeit und/oder das aktuelle Datum angeben kann. Auf diese Weise kann der Zeitpunkt und die Jahreszeit der Aufnahme eines Wärmebildes erfasst werden.Thesmartphone 10 can be atimer 40 that can specify the current time and / or date. In this way, the timing and season of taking a thermal image can be detected.
Das Smartphone10 kann über eine drahtlose Kommunikationsschnittstelle130 beispielsweise auf das Internet190 zugreifen. Das Smartphone10 kann dazu ausgebildet sein, über das Internet190 beispielsweise aktuelle oder vergangene ortsbezogene Wetterinformationen zu beziehen, welche zum Beispiel in der Datenbank180 abgelegt werden können. Auch Informationen über den aktuellen Sonnenstand und/oder die Sonnenscheindauer und/oder -intensität kann das Smartphone10 über das Internet abfragen.Thesmartphone 10 can via awireless communication interface 130 for example on theinternet 190 access. Thesmartphone 10 can be trained over theinternet 190 For example, to obtain current or past location-based weather information, which for example in thedatabase 180 can be stored. Information about the current position of the sun and / or the duration of sunshine and / or intensity can also be found on thesmartphone 10 via the internet.
Zudem kann das Smartphone10 einen Temperatursensor90, einen Helligkeitssensor91 und einen Bewegungssensor92 enthalten. Weiterhin kann das Smartphone10 eine Steuereinheit30 aufweisen, die als Mikroprozessor oder Mikrokontroller ausgebildet sein kann. Bei dem dargestellten Beispiel weist das Smartphone10 eine integrierte digitale Wärmebildkamera70 auf. Alternativ oder zusätzlich kann eine digitale Wärmebildkamera extern an das Smartphone10 über eine entsprechende Datenschnittstelle (nicht dargestellt) angeschlossen werden. Bekannt ist, dass mittels der digitalen Wärmebildkamera70 eine Temperaturverteilung einer aufgenommenen Oberfläche eines Objekts bildlich, d.h. farblich in einer Bildebene der Wärmebildkamera70 dargestellt werden kann. Die Wärmebildkamera70 arbeitet vorzugsweise im thermalen Infrarot (TIR).In addition, the smartphone 10 atemperature sensor 90 , abrightness sensor 91 and amotion sensor 92 contain. Furthermore, the smartphone 10 acontrol unit 30 have, which can be designed as a microprocessor or microcontroller. In the example shown, thesmartphone 10 an integrated digitalthermal imager 70 on. Alternatively or additionally, a digital thermal imager can be externally connected to thesmartphone 10 be connected via a corresponding data interface (not shown). It is known that by means of the digital thermal imaging camera 70 a temperature distribution of a recorded surface of an object pictorially, ie in color in an image plane of thethermal imaging camera 70 can be represented. Thethermal imager 70 works preferably in the thermal infrared (TIR).
Die Wärmebildkamera70 besitzt eine bekannte innere Orientierung, die sich vorzugsweise aus der bekannten Brennweite des verwendeten Objektivs, den bekannten Verzeichnungsparametern des verwendeten Objektives, der Hauptpunktlage im Bild, der Lage des Symmetriepunktes der Verzeichnung relativ zum Hauptpunkt des Bildes und gegebenenfalls der Skalierung der Pixel des Sensors der Bildebene ergibt. Die innere Orientierung kann im Smartphone10 gespeichert sein.Thethermal imager 70 has a known inner orientation, preferably from the known focal length of the lens used, the known distortion parameters of the lens used, the main point position in  Image, the position of the symmetry point of the distortion relative to the main point of the image and possibly the scaling of the pixels of the sensor of the image plane results. The inner orientation can be in thesmartphone 10 be saved.
Zudem ist in an sich bekannter Weise mit diesen Größen bezüglich der Wärmebildkamera70 ein 2D-Bildkoordinatensystem und ein lokales, wärmebildkamerafestes 3D-Koordinatensystem definiert, dessen Ursprung als Position des Mobilfunktelefons10 definiert sein kann. Ferner kann eine 3D-Ablage bzw. ein 3D-Vektor zwischen dem Ursprung des wärmebildkamerafesten 3D-Koordinatensystems und einem mobilfunktelefonfesten Punkt, z. B. der Antenne eines GPS-Empfängers50 gegeben sein, auf den sich auch der GPS Empfänger50 beziehen kann. Der GPS-Empfänger50 des Smartphones10 kann in an sich bekannter Weise die Position bzw. Positionskoordinaten des Smartphones10 bestimmen.In addition, in a conventional manner with these sizes with respect to thethermal imaging camera 70 defines a 2D image coordinate system and a local thermal image camera fixed 3D coordinate system whose origin is the position of themobile telephone 10 can be defined. Furthermore, a 3D repository or a 3D vector can be located between the origin of the heat camera-fixed 3D coordinate system and a mobile phone-fixed point, eg. B. the antenna of aGPS receiver 50 be given, on which also theGPS receiver 50 can relate. TheGPS receiver 50 of thesmartphone 10 can in a conventional manner, the position or position coordinates of thesmartphone 10 determine.
In einem Programmspeicher80 können die zur Steuerung und Überwachung des Smartphones10 benötigten Anweisungen hinterlegt sein. Denkbar ist, dass das Smartphone10 alle Informationen kennt, mit denen es seine äußere Orientierung, d. h. die Position und Orientierungswinkel des mobilfunktelefonfesten lokalen 3D-Koordinatensystems zum Zeitpunkt der Aufnahme eines Wärmebildes bestimmen kann. Weiterhin ist denkbar, dass im Smartphone10 eine Temperatur-Farbwert-Kennlinie hinsichtlich der Wärmebildkamera70 gespeichert wird, die angibt, welcher Temperaturwert durch welchen Farbwert in der Bildebene dargestellt wird.In aprogram memory 80 Can be used to control and monitor thesmartphone 10 required instructions are stored. It is conceivable that thesmartphone 10 knows all the information with which it can determine its external orientation, ie the position and orientation angle of the mobile phone fixed local 3D coordinate system at the time of taking a thermal image. It is also conceivable that in the smartphone 10 a temperature-color value characteristic with regard to thethermal imager 70 is stored, which indicates which temperature value is represented by which color value in the image plane.
Wie nachfolgend noch detailliert erläutert wird, können in dem Programmspeicher80 eine Vielzahl von Wärmemodellen hinterlegt sein, mit denen jeweils die Oberflächentemperatur eines vorbestimmten Objekts, beispielsweise die einer Hauswand100 eines Gebäudes und/oder die der Fensterrahmen von Fenster110,120, welche in2 dargestellt sind, zumindest abschnittsweise vorhergesagt werden können.As will be explained in detail below, in the program memory 80 a variety of heat models be deposited, with each of which the surface temperature of a predetermined object, such as ahouse wall 100 of a building and / or the window frames ofwindows 110 . 120 , what a 2 are represented, at least partially can be predicted.
Die vorbestimmten Objekte können in einem vorgegebenen Objektraum oder in mehreren vorgegebenen Objekträumen liegen. Ein vorgegebener Objektraum kann ein Messegelände, ein Gebäude, eine Straße oder dergleichen sein. Objekträume können in der Datenbank180 wohl strukturiert abgelegt werden, um den Zugriff auf Einzelobjekte bzw. Wärmemodelle zu beschleunigen.The predetermined objects may be located in a predetermined object space or in a plurality of predetermined object spaces. A given object space may be a fairground, a building, a street or the like. Object spaces can be in thedatabase 180 well structured in order to accelerate the access to individual objects or thermal models.
Jedem Objekt ist vorzugsweise ein Objektkoordinatensystem zugeordnet, in dem die 3D-Positionen seiner Oberfläche festgelegt sind. Zu einigen Oberflächenpunkten wenigstens eines vorbestimmten Objekts können in der Datenbank180 ebenfalls die Parameter und algebraischen Zusammenhänge abgelegt werden, die es erlauben, zu einem bestimmten Zeitpunkt die Temperatur dieser Oberflächenpunkte zu berechnen bzw. vorherzusagen. Die notwendigen Gleichungen der entsprechenden Wärmemodelle können entweder über das Internet190 in den Programmspeicher80 geladen und im Mikroprozessor30 berechnet werden. Alternativ oder zusätzlich können diese Gleichungen bzw. Wärmemodelle bereits im Programmspeicher80 als Teil des installierten Programmes vorliegen.Each object is preferably associated with an object coordinate system in which the 3D positions of its surface are defined. To some surface points of at least one predetermined object may be in thedatabase 180 Also, the parameters and algebraic relationships are stored, which allow to calculate or predict the temperature of these surface points at a certain time. The necessary equations of the corresponding heat models can be either over theinternet 190 in theprogram memory 80 loaded and in themicroprocessor 30 be calculated. Alternatively or additionally, these equations or heat models already in theprogram memory 80 as part of the installed program.
Insbesondere können im Programmspeicher80 und/oder in der Datenbank180 und/oder im Programmspeicher170 des Servers140 alle bekannten notwendigen Abbildungsgleichungen der Zentralprojektion und der inneren Orientierung der Wärmebildkamera, mit denen auch die Abbildung einer Lochbildkamera simuliert werden kann, hinterlegt sein.In particular, in theprogram memory 80 and / or in thedatabase 180 and / or in theprogram memory 170 of theserver 140 All known necessary mapping equations of the central projection and the inner orientation of the thermal imaging camera, with which the image of a pinhole camera can be simulated deposited.
Auch ein Algorithmus zum Prüfen der Übereinstimmung zwischen real aufgenommenen Wärmebildern und real aufgenommenen oder simulierten Referenzwärmebildern kann zum Beispiel im Programmspeicher80 des Smartphones10, im Programmspeicher170 und/oder in der Datenbank180 hinterlegt sein.Also, an algorithm for checking the correspondence between real recorded thermal images and real recorded or simulated reference thermal images may be stored in the program memory, for example 80 of thesmartphone 10 , in theprogram memory 170 and / or in thedatabase 180 be deposited.
Mit Hilfe der Gleichungen und der Daten aus der Datenbank180, und/oder den Sensordaten der Sensoren90 und91 des Mobilfunktelefons10 und/oder der Zeitangabe des Zeitgebers40 kann hinsichtlich des wenigstens einen vorbestimmten Objekts die Temperatur in Oberflächenpunkten mit bekannten Oberflächenkoordinaten oder in Oberflächenbereichen mit bekannten 3D-Positionen berechnet werden. Für diese Oberflächenpunkte oder Oberflächenbereiche liegen damit die berechneten Temperaturwerte gültig für einen bestimmten Zeitpunkt vor, wobei dieser Zeitpunkt möglichst genau genug dem Zeitpunkt der realen Wärmebildaufnahme entsprechen soll. Die 3D-Positionen mit bekannten Temperaturen werden nun rechnerisch mittels Nutzung der inneren und gegebenenfalls mit der äußeren Orientierung der Wärmebildkamera70 auf deren Bildebene projiziert und an jeder Stelle der Bildebene, auf die ein Objektpunkt projiziert wird, wird beispielsweise im Datenspeicher60 der Farbwert abgespeichert, der sich aus der zu nutzenden Kennlinie zur Umrechnung von Temperatur in Farbwert ergibt. Das Ergebnis sind Referenzdatensätze für vorbestimmte Oberflächenbereiche bzw. Oberflächenpunkte eines vorbestimmten Objekts, die jeweils eine Positions- und Farbinformation enthalten. Angemerkt sei, dass ein vorbestimmter Oberflächenbereich einen Objektpunkt oder eine vorbestimmbare Anzahl von Objektpunkten umfassen kann.Using the equations and the data from thedatabase 180 , and / or the sensor data of thesensors 90 and 91 of themobile phone 10 and / or the timing of thetimer 40 With regard to the at least one predetermined object, the temperature can be calculated in surface points with known surface coordinates or in surface regions with known 3D positions. For these surface points or surface areas, the calculated temperature values are thus valid for a specific point in time, whereby this point in time should correspond as exactly as possible to the time of the real thermal image recording. The 3D positions with known temperatures are now calculated by using the inner and possibly with the outer orientation of thethermal imaging camera 70 projected on the image plane and at each point of the image plane to which an object point is projected, for example, in thedata memory 60 the color value is stored, which results from the curve to be used for the conversion of temperature into color value. The result is reference data sets for predetermined surface areas or surface points of a predetermined object, each containing position and color information. It should be noted that a predetermined surface area may include an object point or a predeterminable number of object points.
Wird eine ausreichende Übereinstimmung zwischen der Farbdarstellung eines aktuell aufgenommenen Wärmebilds und den in einem oder mehreren Referenzdatensätzen enthaltenen Farbinformationen festgestellt, können die in diesen Referenzdatensätzen enthaltenen Positionsinformationen zusammen mit der bekannten inneren Orientierung der Wärmebildkamera70 in einem räumlichen Rückwärtsschnitt zur Bestimmung der Position und/oder Orientierung des Smartphones10 bzw. der Wärmebildkamera70 verwendet werden.Is a sufficient match between the color representation of a current  detected thermal image and the color information contained in one or more reference data sets, the position information contained in these reference data sets can be used together with the known internal orientation of thethermal imager 70 in a spatial reverse section to determine the position and / or orientation of thesmartphone 10 or thethermal imaging camera 70 be used.
Die Funktionsweise des Smartphones10 und, sofern benötigt, des Servers140 und der Datenbank180 werden nachfolgend näher erläutert.The functioning of thesmartphone 10 and, if needed, theserver 140 and thedatabase 180 will be explained in more detail below.
Die Position und/oder die Orientierung des Smartphones10 bzw. der Wärmebildkamera70 soll nunmehr mit Hilfe der integrierten Wärmebildkamera70 bestimmt werden, dessen Benutzer sich aktuell vor einer Hauswand100, welche in2 darstellt ist, aufhält. In der Hauswand100 sind zwei Fenster110 und120 eingesetzt. Das Fenster110 weist beispielsweise einen sechseckige Fensterrahmen112 aus Holz auf. An jeder Ecke des Fensterrahmens112 kann jeweils ein Temperatursensor105 angeordnet sein. Das Fenster120 weist beispielsweise einen viereckigen Fensterahmen122 auf, der ebenfalls aus Holz bestehen kann. An jeder Ecke des Fensterrahmens122 kann ein Temperatursensor107 angeordnet sein. Die Temperatursensoren105 und107 können jeweils dazu ausgebildet sein, je nach Implementierung des Systems1 eine individuelle Adresse, wie zum Beispiel eine IP-Adresse, Temperaturmesswerte und die jeweiligen Messzeitpunkte zum Smartphone10 und/oder zum Server140 und/oder zur Datenbank180 auf Anfrage oder automatisch zu übertragen. Angemerkt sei, dass die Positionen der sechs Eckpunkte des Fensterrahmens112 und auch die vier Eckpunkte des Fensterrahmens122 im Objektraum bekannt sind. Weiterhin sei angenommen, dass der Benutzer die Wärmebildkamera70 gerade auf das Fenster110 richtet, wobei er die Wärmebildkamera70 etwas gedreht und gekippt hält. Die dazugehörende numerische Projektion200 der Bildebene der digitalen Wärmebildkamera70 in das Objekt, nämlich das Fenster110, ist in2 dargestellt. Mit „H“ ist der Bildhauptpunkt bezeichnet.The position and / or orientation of thesmartphone 10 or thethermal imaging camera 70 should now with the help of the integratedthermal imaging camera 70 be determined, whose user is currently in front of ahouse wall 100 , what a 2 represents, stops. In thehouse wall 100 are twowindows 110 and 120 used. Thewindow 110 For example, has ahexagonal window frame 112 made of wood. At every corner of thewindow frame 112 can each have atemperature sensor 105 be arranged. Thewindow 120 For example, has asquare window frame 122 on, which can also be made of wood. At every corner of thewindow frame 122 can be atemperature sensor 107 be arranged. Thetemperature sensors 105 and 107 can each be designed, depending on the implementation of thesystem 1 an individual address, such as an IP address, temperature readings and the respective measuring times for thesmartphone 10 and / or to theserver 140 and / or thedatabase 180 on request or automatically transmitted. It should be noted that the positions of the six corners of thewindow frame 112 and also the four corners of thewindow frame 122 are known in object space. Furthermore, assume that the user is thethermal imager 70 straight to thewindow 110 straightens, taking thethermal imaging camera 70 slightly twisted and tilted. The associatednumerical projection 200 the image plane of the digitalthermal imaging camera 70 in the object, namely thewindow 110 , is in 2 shown. With "H" the picture main point is designated.
Um für vorbestimmte Oberflächenbereiche bzw. Oberflächenpunkte eines vorbestimmten Objekts, zum Beispiel die sechs Ecken des Fensterrahmens112 und die vier Ecken des Fensterrahmens122, jeweils einen Referenzdatensatz bereitzustellen, der eine Positions- und Farbinformation des jeweiligen vorbestimmten Oberflächenbereichs enthält, gibt es verschiedene Möglichkeiten.For predetermined surface areas or surface points of a predetermined object, for example the six corners of thewindow frame 112 and the four corners of thewindow frame 122 To provide each a reference data set containing a position and color information of the respective predetermined surface area, there are various possibilities.
Ein beispielhafter erster Ansatz sieht vor, dass das Smartphone10 und/oder der Server140 jeweils dazu ausgebildet sind, Temperaturmesswerte von den Temperatursensoren105 und107 zu einem bestimmten Gültigkeitszeitpunkt abzufragen. Das ist vornehmlich der Zeitpunkt, zu dem der Benutzer mit der Wärmebildkamera70 zum Beispiel ein Wärmebild des Fensters110 aufnimmt, welches durch eine Vielzahl von Bildpunkten, denen jeweils ein oberflächentemperaturabhängiger Farbwert zugeordnet ist. Da die Positionen der Ecken der Fensterrahmen112 und122 und somit im Wesentlichen die Positionen der Temperatursensoren105 und107 bekannt sind, können im Smartphone10 und/oder im Server140 für jeden Eckpunkt unter Ansprechen auf die empfangenen IP-Adressen und Temperaturmesswerte der jeweiligen Temperatursensoren105 und107 jeweils ein Referenzdatensatz für den Gültigkeitszeitpunkt erstellt und bereitgestellt werden, wobei jeder Referenzdatensatz eine Positions- und eine Farbinformation für den jeweiligen vorbestimmten Oberflächenbereich, das ist im vorliegenden Beispiel die Ecke eines der Fensterrahmen112 oder122, enthält. Die Farbinformation wird im Smartphone10 und/oder im Server140 jeweils in Abhängigkeit von einer vorgegebenen Temperatur-Farbwert-Kennlinie berechnet.An exemplary first approach is that thesmartphone 10 and / or theserver 140 are each adapted to temperature readings from thetemperature sensors 105 and 107 to query at a specific validity date. This is mainly the time when the user with thethermal imager 70 for example, a thermal image of thewindow 110 which is assigned by a plurality of pixels, each of which is associated with a surface temperature-dependent color value. Because the positions of the corners of thewindow frame 112 and 122 and thus essentially the positions of thetemperature sensors 105 and 107 can be known in thesmartphone 10 and / or in theserver 140 for each vertex in response to the received IP addresses and temperature readings of therespective temperature sensors 105 and 107 in each case a reference dataset is created and provided for the validity time point, each reference dataset having position and color information for the respective predetermined surface area, which in the present example is the corner of one of thewindow frames 112 or 122 , contains. The color information is in thesmartphone 10 and / or in theserver 140 each calculated as a function of a predetermined temperature-color value characteristic.
Senden die Temperatursensoren105 und107 ihre IP-Adresse und die zu einem Gültigkeitszeitpunkt gemessenen Temperaturwerte jedoch nur zur Datenbank180, so sind das Smartphone10 und/oder der Server140 jeweils in der Lage, die IP-Adressen der Temperatursensoren und die dazugehörenden Temperaturmesswerte dort abzufragen.Send thetemperature sensors 105 and 107 their IP address and the temperature values measured at a time of validity but only to thedatabase 180 so are thesmartphone 10 and / or theserver 140 each capable of interrogating the IP addresses of the temperature sensors and the associated temperature readings there.
Auf diese Weise sind das Smartphone10 und/oder der Server140 in der Lage, für vorbestimmte Oberflächenbereiche bzw. punkte eines vorbestimmten Objekts jeweils einen Referenzdatensatz, der eine Positions- und Farbinformation des jeweiligen vorbestimmten Oberflächenbereichs enthält, wobei die Farbinformation einer Temperatur des jeweiligen vorbestimmten Oberflächenbereichs entspricht, bereitzustellen. Bei dem erläuterten Beispiel werden beispielsweise für jeden Eckpunkt der beiden Fensterrahmen112 und122 jeweils ein Referenzdatensatz, also insgesamt zehn Referenzdatensätze bereitgestellt.This is thesmartphone 10 and / or theserver 140 capable of providing, for predetermined surface areas or points of a predetermined object, respectively a reference data set containing position and color information of the respective predetermined surface area, the color information corresponding to a temperature of the respective predetermined surface area. In the illustrated example, for example, for each vertex of the twowindow frames 112 and 122 in each case one reference data record, ie a total of ten reference data records provided.
Ein zweiter beispielhafter Ansatz sieht vor, dass im Speicher60 des Smartphones10, und/oder im Speicher160 des Servers140 und/oder in der Datenbank180 für jedes Fenster110 und120 oder nur für jeden Fensterrahmen112 und122 ein Wärmemodell abgelegt ist. Nunmehr wird lediglich der Fall betrachtet, dass im Speicher60 des Smartphones10 für jeden Fensterrahmen112 und122 ein geeignetes Wärmemodell gespeichert ist. Angemerkt sei, dass jedes Wärmemodell insbesondere die geometrische Oberfläche eines Objekts, das sind beispielsweise die Fensterrahmen112 und122, beschreibt. In jedem Wärmemodell können beispielsweise Informationen über die Materialeigenschaft der Oberfläche des Objekts, eine Temperaturinformation des Objektraums, welche zum Bespiel simuliert oder vom Temperatursensor90 des Smartphones10 und/oder von den Temperatursensoren105 und107 gemessen wird, Zeitinformationen, wie zum Beispiel der Zeitpunkt der Aufnahme eines Wärmebildes vom Objekt mit der digitalen Wärmebildkamera70, Informationen über die äußere und/oder innere Orientierung einer virtuellen Wärmebildkamera und/oder Informationen über die Position einer virtuellen Wärmebildkamera, Wetterinformationen, die zum Beispiel vom Smartphone10 von der Datenbank180 abgefragt werden können, berücksichtigt werden. Wiederum sei angenommen, dass zumindest die Eckpunkte der Fensterrahmen112 und122  bekannt sind. Das Smartphone10 ist dazu in der Lage, zu einem Gültigkeitszeitpunkt, der der Zeitpunkt der Aufnahme des Fensters120 mit der Wärmebildkamera70 sein kann, unter Verwendung der gespeicherten Wärmemodelle für mehrere vorbestimmte Oberflächenbereiche wenigstens eines vorbestimmten Objekts, das können die Ecken der Fensterrahmen112 und122 sein, deren Positionen bekannt sind, jeweils eine oberflächentemperaturabhängige Farbinformation zu berechnen. Für jeden vorbestimmten Oberflächenbereich erstellt das Smartphone10 dann einen Referenzdatensatz, der neben der Farbinformation auch die bekannte Position des jeweiligen vorbestimmten Oberflächenbereichs enthält. Dieser Ansatz eignet sich für eine Positions- und/oder Orientierungsbestimmung des Smartphones10 in Echtzeit.A second exemplary approach is that inmemory 60 of thesmartphone 10 , and / or inmemory 160 of theserver 140 and / or in thedatabase 180 for everywindow 110 and 120 or only for eachwindow frame 112 and 122 a heat model is stored. Now only the case is considered that inmemory 60 of thesmartphone 10 for everywindow frame 112 and 122 a suitable heat model is stored. It should be noted that each heat model, in particular, the geometric surface of an object, which are, for example, thewindow frame 112 and 122 , describes. In each heat model, for example, information about the material property of the surface of the object, a  Temperature information of the object space, which simulates the example or thetemperature sensor 90 of thesmartphone 10 and / or from thetemperature sensors 105 and 107 is measured, time information, such as the time of taking a thermal image of the object with the digitalthermal imaging camera 70 , Information about the outer and / or inner orientation of a virtual thermal imager and / or information about the position of a virtual thermal imager, weather information, for example, from thesmartphone 10 from thedatabase 180 can be considered. Again, assume that at least the vertices of thewindow frames 112 and 122 are known. Thesmartphone 10 is able to, at a time of validity, the time of the inclusion of thewindow 120 with thethermal imaging camera 70 using the stored heat models for a plurality of predetermined surface areas of at least one predetermined object, which may be the corners of thewindow frames 112 and 122 whose positions are known to each calculate a surface temperature-dependent color information. The smartphone creates for eachpredefined surface area 10 then a reference data set, which also contains the known position of the respective predetermined surface area in addition to the color information. This approach is suitable for a position and / or orientation determination of thesmartphone 10 Real time.
Ein dritter beispielhafter Ansatz sieht vor, dass vorab, d.h. zeitlich vor der aktuellen Aufnahme eines Wärmebilds des in2 gezeigten Fensters120, das zur Positions- und/oder Orientierungsbestimmung des Smartphones10 benötigt wird, wenigstens ein Referenzwärmebild des vorbestimmten Objekts aufgenommen wird, wobei das wenigstens eine Referenzwärmebild in einer Farbdarstellung unter Verwendung einer vorgegeben Temperatur-Farbwert-Kennlinie der Wärmebildkamera70 erzeugt wird. Beispielsweise werden vorab mit der digitalen Wärmebildkamera70 mehrere Referenzwärmebilder von den beiden Fensterrahmen112 und122 zu verschiedenen Tages- und Jahreszeiten aufgenommen. Anschließend werden unter Verwendung der Referenzwärmebilder für vorbestimmte Oberflächenbereiche des wenigstens einen vorbestimmten Objekts, im vorliegenden Beispiel sind das die Eckpunkte der Fensterrahmen112 und122, jeweils ein Referenzdatensatz erstellt, der neben der Positions- und Farbinformation des jeweiligen Oberflächenbereichs auch die Tages- und Jahreszeit der Aufnahme des Referenzwärmebildes enthalten kann. Diese Referenzdatensätze werden vorab im Smartphone10 gespeichert. Denkbar ist, dass solche Referenzwärmebilder mit einer anderen Wärmebildkamera aufgenommen werden, wobei die daraus gewonnenen Referenzdatensätze dann zum Beispiel im Server140 oder in der Datenbank180 zur späteren Verwendung abgelegt werden können.A third exemplary approach provides that in advance, ie, in time before the current recording of a thermal image of the in 2 shownwindow 120 , for determining the position and / or orientation of thesmartphone 10 is required, at least one reference heat image of the predetermined object is taken, wherein the at least one reference heat image in a color representation using a predetermined temperature-color value characteristic of thethermal imaging camera 70 is produced. For example, advance with the digitalthermal imaging camera 70 several reference heat images of the twowindow frames 112 and 122 recorded at different times of the day and year. Subsequently, using the reference thermal images for predetermined surface areas of the at least one predetermined object, in the present example, these are the corner points of thewindow frames 112 and 122 , In each case, a reference data set created, which can contain the day and season of the recording of the reference heat image in addition to the position and color information of the respective surface area. These reference records are pre-set in thesmartphone 10 saved. It is conceivable that such reference heat images are recorded with another thermal imaging camera, the reference data sets obtained therefrom then being stored, for example, in theserver 140 or in thedatabase 180 can be stored for later use.
Nunmehr sei angenommen, dass der Nutzer des Smartphones10 vor der Hauswand100 steht und die Position und/oder Orientierung seines Smartphones10 wissen möchte. Zudem sind bereits mehrere Referenzdatensätze im Smartphone10 abgelegt, die zuvor aus mehreren Referenzwärmebildern erzeugt worden sind. Angenommen sei, dass Referenzdatensätze aus Referenzwärmebildern erzeugt worden sind, die zu unterschiedlichen Zeiten und Jahreszeiten aufgenommen worden sind.Now suppose that the user of thesmartphone 10 in front of thehouse wall 100 stands and the position and / or orientation of hissmartphone 10 would like to know. In addition, several reference data sets are already in thesmartphone 10 stored previously generated from several reference heat images. Assume that reference data sets have been generated from reference thermal images taken at different times and seasons.
Um die Position und/oder Orientierung mit Hilfe der digitalen Wärmebildkamera70 bestimmen zu können, nimmt der Benutzer zu einem Gültigkeitszeitpunkt t0 zum Beispiel ein Wärmebild von dem Fenster110 mit der integrierten Wärmebildkamera70 auf, wie dies in2 angedeutet ist. Der Aufnahmezeitpunkt t0 und das Datum der Wärmebildaufnahme können beispielsweise vom Zeitgeber40 des Smartphones10 bestimmt werden.To the position and / or orientation with the help of the digitalthermal imaging camera 70 For example, at a valid time t0, the user takes a thermal image from thewindow 110 with the integratedthermal imaging camera 70 on, like this in 2 is indicated. The recording time t0 and the date of the thermal image recording may be, for example, from thetimer 40 of thesmartphone 10 be determined.
Um geeignete Referenzdatensätze mit reduziertem Rechenaufwand auffinden zu können, kann vorab eine erste grobe Positionsbestimmung des Smartphones10 vorgenommen werden. So kennt der Nutzer beispielsweise die Adresse des Hauses mit der Wand100, die er am Smartphone10 eingeben kann. Alternativ kann das Smartphone10 mittels seines GPS-Empfängers50 selbst seine Position grob bestimmen. Angenommen sei, dass der Nutzer die Adresse des Hauses mit der Hauswand100 am Smartphone10 eingegeben hat. Unter Ansprechen auf die Adresse, den Zeitpunkt und die Jahreszeit des Wärmebilds kann das Smartphone10 die Referenzdatensätze auswählen, die zu den Fensterrahmen112 und122 gehören. Je nach Implementierung kann der Benutzer dem Smartphone10 auch mitteilen, dass die zum rechten Fensterrahmen112 gehörenden Referenzdatensätze bereitgestellt werden sollen.In order to be able to find suitable reference data records with reduced computation effort, a first rough position determination of the smartphone can be made inadvance 10 be made. For example, the user knows the address of the house with thewall 100 he is on thesmartphone 10 can enter. Alternatively, thesmartphone 10 using hisGPS receiver 50 even roughly determine his position. Suppose that the user the address of the house with thehouse wall 100 on thesmartphone 10 entered. In response to the address, the time and the season of the thermal image, thesmartphone 10 select the reference records that belong to thewindow frames 112 and 122 belong. Depending on the implementation, the user can use thesmartphone 10 also announce that theright window frame 112 belonging reference data sets to be provided.
Werden die Referenzdatensätze zum Beispiel in Echtzeit erst mit Hilfe gespeicherter Wärmemodelle erzeugt, werden diejenigen Wärmemodelle vom Smartphone10 aufgerufen, die die Fensterrahmen112 und122 beschreiben. Wie zuvor beschrieben, kann der Nutzer dem Smartphone10 mitteilen, dass nur das rechte Fenster110 betrachtet wird. In diesem Fall wird das Smartphone10 lediglich das Wärmemodell aufrufen, welches den Fensterrahmen112 beschreibt. Unter Verwendung des Wärmemodells und vorzugsweise in Abhängigkeit des tatsächlichen Aufnahmezeitpunkts eines Wärmebildes vom Fensterrahmen112, aktueller Wetterinformationen und Materialeigenschaften des Fensterrahmens112 berechnet das Smartphone10 die Temperatur bzw. die dazugehörende Farbinformation für mehrere vorbestimmte Oberflächenbereiche. Bei dem erläuterten Beispiel sind das die sechs Eckpunkte des Fensterrahmens112.For example, if the reference data sets are generated in real time using stored heat models, those heat models will be generated by thesmartphone 10 called thewindow frame 112 and 122 describe. As described above, the user can use thesmartphone 10 notify that only theright window 110 is looked at. In this case, the smartphone becomes 10 just call the heat model, which is thewindow frame 112 describes. Using the heat model, and preferably depending on the actual time of taking a thermal image from thewindow frame 112 , current weather information and material properties of thewindow frame 112 calculates thesmartphone 10 the temperature or the associated color information for  several predetermined surface areas. In the illustrated example, these are the six corner points of thewindow frame 112 ,
Nunmehr wird ein Abgleich der in den bereitgestellten Referenzdatensätzen enthaltenen Farbinformationen mit den Farbinformationen der Bildpunkte des mit der Wärmebildkamera70 aufgenommen Objekts, das ist der Fensterrahmen112, durchgeführt, um markante Bereiche im aufgenommenen Wärmebild, dessen Positionen bekannt sind, zu finden. Das Wärmebild wird durch eine Vielzahl von Bildpunkten, denen jeweils ein oberflächentemperaturabhängiger Farbwert zugeordnet ist, dargestellt. Ergibt der Abgleich, dass die in den Referenzdatensätzen, die den Eckpunkten des Fensterrahmens112 zugeordnet sind, enthaltenen Farbinformationen in vorgegebener Weise mit Farbinformationen des aktuell aufgenommen Wärmebilds übereinstimmen, so werden diese Referenzdatensätze zur weiteren Berechnung ausgewählt.Now, a comparison of the color information contained in the provided reference data records with the color information of the pixels of thethermal imaging camera 70 Captured object, this is thewindow frame 112 , performed to find distinctive areas in the recorded thermal image whose positions are known. The thermal image is represented by a multiplicity of pixels, to each of which a surface temperature-dependent color value is assigned. Matching results in that in the reference datasets that are the vertices of thewindow frame 112 are associated color information in a predetermined manner with color information of the currently recorded thermal image, these reference data sets are selected for further calculation.
Als ein mögliches Übereinstimmungskriterium kann das Über- oder Unterschreiten eines vorgegebenen Schwellenwertes dienen, welches von einem angewandten Prüfalgorithmus abhängt. Beispielsweise kann ein Schwellenwert von beispielsweise 0,9 im Datenspeicher160 hinterlegt sein. Ein Übereinstimmungswert von 1 würde signalisieren, dass die in einem Referenzdatensatz enthaltene Farbinformation mit der Farbinformation eines Bildpunktes des vom Smartphone10 aufgenommenen Wärmebild vollständig übereinstimmt.As a possible match criterion, it may serve to overrun or undercut a given threshold, which depends on an applied test algorithm. For example, a threshold of, for example, 0.9 in thedata store 160 be deposited. A match score of 1 would signal that the color information contained in a reference record is the color information of a pixel of thesmartphone 10 recorded thermal image completely coincides.
Anschließend werden die in den ausgewählten Referenzdatensätzen enthaltenen Positionsinformationen ausgelesen und zusammen mit der bekannten inneren Orientierung der Wärmebildkamera70 in die Gleichungen eines räumlichen Rückwärtsschnitts zur Bestimmung der Position und/oder Orientierung der Wärmebildkamera70 und somit des Smartphones10 eingesetzt.Subsequently, the position information contained in the selected reference data sets are read out and together with the known inner orientation of thethermal imager 70 in the equations of a spatial reverse section to determine the position and / or orientation of thethermal imaging camera 70 and thus thesmartphone 10 used.
Angemerkt sei an dieser Stelle, dass das aktuell von der Wärmebildkamera70 aufgenommen Wärmebild über das Internet vom Smartphone10 zum Server140 übertragen werden kann, in dem vorab erstellte Referenzdatensätze oder Wärmemodelle zum Simulieren von Oberflächentemperaturwerten der Fenster110 und120 abgelegt sein können. Der zuvor hinsichtlich des Smartphones10 erläuterte Farbabgleich zum Auswählen geeigneter Referenzdatensätze und der anschließende Schritt des Durchführens eines räumlichen Rückwärtsschnitts Abgleichschritt können nunmehr im Server140 ausgeführt. Das Ergebnis, d.i. die Position und/oder Orientierung der Wärmebildkamera70 und somit im Wesentlichen die Position und/oder Orientierung des Smartphones10, kann dann wiederum vom Server140 zum Smartphone10 übertragen werden.It should be noted at this point that the current of thethermal imager 70 recorded thermal image over the Internet from thesmartphone 10 to theserver 140 in the pre-established reference data sets or heat models to simulate surface temperature values of thewindows 110 and 120 can be stored. The previously regarding thesmartphone 10 explained color matching for selecting appropriate reference data sets and the subsequent step of performing a spatial backward trimming step can now in theserver 140 executed. The result, ie the position and / or orientation of thethermal imager 70 and thus essentially the position and / or orientation of thesmartphone 10 , in turn, can from theserver 140 to thesmartphone 10 be transmitted.
Um den Rechenaufwand insbesondere für das Smartphone10 zu reduzieren, können im aktuell mit der Wärmebildkamera70 aufgenommen Wärmebild gezielt wenigstens eine Wärmebildausschnitt ausgewählt werden, der beispielsweise den in2 gezeigten Fensterrahmen112 darstellt. In ähnlicher Weise können aus vorab hinterlegten Referenzdatensätzen gezielt erste Referenzdatensätze ausgewählt werden, die den Fensterrahmen112 betreffen. Anschließend wird nur noch ein Farbabgleich zwischen den Farbwerten des Wärmebildausschnitts und den zuvor ausgewählten ersten Referenzdatensätzen durchgeführt, um zweite Referenzdatensätze zu finden, deren Positionsinformationen in einem räumlichen Rückwärtsschnitt zur Bestimmung der Position und/oder Orientierung der Wärmebildkamera70 und somit im Wesentlichen zur Bestimmung der Position und/oder Orientierung des Smartphones10 verwendet werden.To the computational effort, especially for thesmartphone 10 can currently reduce with thethermal imager 70 recorded thermal image targeted at least one thermal image section can be selected, for example, the in 2 shownwindow frame 112 represents. In a similar manner, first reference data records can be selectively selected from pre-stored reference data sets that define thewindow frame 112 affect. Subsequently, only color matching between the color values of the thermal image detail and the previously selected first reference data sets is performed in order to find second reference data sets whose position information is in a spatial backward section for determining the position and / or orientation of thethermal imaging camera 70 and thus essentially for determining the position and / or orientation of thesmartphone 10 be used.
Dank der Erfindung kann die Position und/oder Orientierung einer mobilen elektronischen Einrichtung10 mit Hilfe einer Wärmebildkamera70 bestimmt werden.Thanks to the invention, the position and / or orientation of a mobileelectronic device 10 with the help of athermal imaging camera 70 be determined.
Hierzu wird im Objektraum ein Objekt, zum Beispiel die Fensterrahmen112 und122, mit seiner 3D-Oberfläche vorgebeben, wobei die Farb-Darstellung der Oberfläche im Wärmebild der digitalen Wärmebildkamera70 durch eine bekannte Temperatur-Farb-Kennlinie berechnet und hieraus eine Strahlenzuordnung zwischen Objekt- und Bildraum vollautomatisch ohne manuelle Signalisierung am Objekt erzeugt wird. Die so erzeugte Strahlenzuordnung wird bei einem räumlichen Rückwärtsschnitt algebraisch genutzt, um iterativ z.B. im Gauss-Markov-Modell die Position und/oder Orientierung der Wärmebildkamera70 bzw. der mobilen elektronischen Einrichtung10 zu bestimmen.For this purpose, an object in the object space, for example thewindow frames 112 and 122 , with its 3D surface pretend, with the color representation of the surface in the thermal image of the digitalthermal imaging camera 70 calculated by a known temperature-color characteristic and from this a beam assignment between object and image space is generated fully automatically without manual signaling on the object. The beam assignment thus generated is algebraically used in a spatial backward cut to iteratively eg in the Gauss-Markov model, the position and / or orientation of thethermal imager 70 or the mobileelectronic device 10 to determine.
ZITATE ENTHALTEN IN DER BESCHREIBUNG QUOTES INCLUDE IN THE DESCRIPTION
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of the documents listed by the applicant has been generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.
Zitierte PatentliteraturCited patent literature
- DE 102016109628 [0003]DE 102016109628 [0003]
Zitierte Nicht-PatentliteraturCited non-patent literature
- „Photogrammetrie“, von K. Schwidefsky und F. Ackermann, B.G. Teubner Stuttgart, 1976 [0009]"Photogrammetry" by K. Schwidefsky and F. Ackermann, B.G. Teubner Stuttgart, 1976 [0009]
- „Photogrammetrie, Grundlagen, Verfahren, Anwendungen“, von K. Schwidedfsky et al., 7. Auflage des „Grundriß der Photogrammetrie“, 1976 [0010]"Photogrammetry, Fundamentals, Methods, Applications" by K. Schwidedfsky et al., 7th Edition of the "Plan of Photogrammetry", 1976 [0010]