DE102019131640A1 - Method and device for operating a display system with data glasses - Google Patents
Method and device for operating a display system with data glasses Download PDFInfo
- Publication number
- DE102019131640A1 DE102019131640A1 DE102019131640.5A DE102019131640A DE102019131640A1 DE 102019131640 A1 DE102019131640 A1 DE 102019131640A1 DE 102019131640 A DE102019131640 A DE 102019131640A DE 102019131640 A1 DE102019131640 A1 DE 102019131640A1
- Authority
- DE
- Germany
- Prior art keywords
- glasses
- platform
- movement
- information
- movement information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
Die Erfindung betrifft eine Referenzeinheit, insbesondere eine tragbare Referenzeinheit, zum Betreiben mit einer Datenbrille, umfassend:- eine Plattformbewegungssensorik, die ausgebildet ist, eine Plattformbewegungsanagabe zu erfassen;- eine Steuereinheit, die ausgebildet ist, um eine Plattformbewegungsinformation aus der Plattformbewegungsangabe zu bestimmen;- eine Kommunikationseinrichtung, die ausgebildet ist, die Plattformbewegungsinformation nach extern zu übertragen.The invention relates to a reference unit, in particular a portable reference unit, for operation with data glasses, comprising: a platform movement sensor system which is designed to detect a platform movement indication; a control unit which is designed to determine platform movement information from the platform movement indication; a communication device which is designed to transmit the platform movement information to the outside.
Description
Technisches GebietTechnical area
Die Erfindung betrifft Datenbrillen, insbesondere zum Einsatz in einer mobilen Plattform, wie z.B. einer Bahn, einem Flugzeug oder einem sonstigen Fahrzeug. Die Erfindung betrifft weiterhin Maßnahmen zum Bereitstellen einer genauen Poseninformation in einer Datenbrille.The invention relates to data glasses, in particular for use in a mobile platform, such as a train, an airplane or another vehicle. The invention also relates to measures for providing precise positional information in data glasses.
Technischer HintergrundTechnical background
Es sind Datenbrillen, auch Head-mounted Displays genannt, bekannt, die mithilfe einer Anzeigevorrichtung eine Abbildung auf einer oder zwei Anzeigeflächen im Blickfeld des Trägers der Datenbrille anzeigen können. Die Anzeigeflächen können Reflexionsflächen entsprechen, die Abbildungen in das Auge des Trägers der Datenbrille richten. Die Sichtöffnungen der Datenbrille sind transparent, so dass durch die Datenbrille die reale Umgebung in gewöhnlicher Weise wahrgenommen werden kann. Die Anzeigeflächen liegen in den Sichtöffnungen, so dass eine anzuzeigende Information, wie beispielsweise Text, Symbole, Graphiken, Videoanzeigen und dergleichen, die Wahrnehmung der Umgebung überlagernd angezeigt werden kann.Data glasses, also called head-mounted displays, are known which, with the aid of a display device, can display an image on one or two display surfaces in the field of view of the wearer of the data glasses. The display surfaces can correspond to reflection surfaces which direct images into the eye of the wearer of the data glasses. The viewing openings of the data glasses are transparent, so that the real environment can be perceived in the normal way through the data glasses. The display surfaces are located in the viewing openings so that information to be displayed, such as text, symbols, graphics, video displays and the like, can be displayed superimposed on the perception of the surroundings.
Die Informationen werden dem Träger der Datenbrille in der Regel kontaktanalog dargestellt, d.h. so dargestellt, dass diese als Objektinformation einem bestimmten zugeordneten Objekt in der Realumgebung überlagert ist bzw. an diesem orientiert ist oder dass die anzuzeigende Objektinformation in einer bestimmten Ausrichtung der Datenbrille bzw. deren Trägers angezeigt wird. Weiterhin kann die kontaktanaloge Objektinformation so dargestellt werden, dass sie in Bezug auf das Objekt in der Realumgebung perspektivisch korrekt erscheint, d.h. die Illusion entsteht, dass das Objekt der Realumgebung tatsächlich um das zusätzliche Merkmal der visuellen Objektinformation ergänzt wurde.The information is usually presented to the wearer of the smart glasses in a contact-analog manner, ie represented in such a way that it is superimposed as object information on a specific assigned object in the real environment or is oriented towards it, or that the object information to be displayed is in a specific orientation of the smart glasses or their Is displayed. Furthermore, the contact-analog object information can be displayed in such a way that it appears perspective correct in relation to the object in the real environment, i.e. the illusion arises that the object in the real environment has actually been supplemented by the additional feature of the visual object information.
Um die Objektinformation entsprechend kontaktanalog auf den Anzeigeflächen der Datenbrille anzuzeigen, ist es notwendig, die Position des Objektes in der Umgebung und die Blickrichtung des Benutzers zu kennen. Die Blickrichtung des Benutzers ist beim Tragen der Datenbrille fest deren Pose zugeordnet, d.h. der 3D-Position als auch die 3D-Ausrichtung der Datenbrille.In order to display the object information in a contact-analog manner on the display surfaces of the data glasses, it is necessary to know the position of the object in the environment and the direction in which the user is looking. When wearing the data glasses, the viewing direction of the user is permanently assigned to their pose, i.e. the 3D position as well as the 3D alignment of the data glasses.
Zur Bestimmung der Pose der Datenbrille in einem Kraftfahrzeug kann z.B. in der Datenbrille eine Posenerkennungseinheit vorgesehen werden. Die Posenerkennungseinheit weist in der Regel eine Kamera und Recheneinrichtung, z.B. in Form eines Mikroprozessors auf. Mithilfe der Kamera aufgezeichnete Abbildungen der Umgebung des Trägers der Datenbrille können basierend auf hinterlegten Abbildungen bzw. Strukturen des Fahrzeuginnenraums die Pose der Datenbrille im Fahrzeuginnenraum festgestellt werden. Diesen Vorgang nennt man auch Tracking.To determine the pose of the data glasses in a motor vehicle, a pose recognition unit can be provided in the data glasses, for example. The pose recognition unit generally has a camera and computing device, for example in the form of a microprocessor. Images of the surroundings of the wearer of the data glasses recorded by the camera can be used to determine the pose of the data glasses in the vehicle interior based on stored images or structures of the vehicle interior. This process is also called tracking.
So ist aus der Druckschrift
Derartige in der Datenbrille integrierte Posenerkennungseinheiten, die zur Erfassung der absoluten Pose ausgebildet sind, benötigen eine hohe Prozessorleistung und sind daher aufwändig zu realisieren. Dies führt zu einem hohen Baugewicht und/oder Bauvolumen der Datenbrille und das Bereitstellen der benötigten elektrischen Energie ist aufwändig zu realisieren.Such pose recognition units integrated in the data glasses, which are designed to detect the absolute pose, require a high processor power and are therefore complex to implement. This leads to a high structural weight and / or structural volume of the data glasses and the provision of the required electrical energy is complex to implement.
Weiterhin kann die Pose einer Datenbrille auch durch eine externe Posenerkennungseinheit bestimmt werden, bei der eine Innenraumkamera den Kopf des Trägers der Datenbrille erfasst und durch Auswertung des Kamerabildes entweder die Pose des Kopfes ermittelt und davon die Pose der Datenbrille abgeleitet wird oder die Pose der Datenbrille direkt ermittelt wird. Bei diesen so genannten Outside-In-Tracking-Systemen besteht eine Schwierigkeit darin, die außerhalb der Datenbrille ermittelte absolute Posenangabe insbesondere bei einer drahtlosen Kommunikationsverbindung mit einer ausreichend geringen Latenz an die Datenbrille zu übermitteln, so dass die Datenbrille entsprechend kontaktanaloge Darstellungen verzögerungsfrei bzw. einer nicht störenden Verzögerung ausgeben kann.Furthermore, the pose of the data glasses can also be determined by an external pose detection unit, in which an interior camera detects the head of the wearer of the data glasses and by evaluating the camera image either the pose of the head is determined and the pose of the data glasses is derived from it or the pose of the data glasses is derived directly is determined. With these so-called outside-in tracking systems, there is a difficulty in transmitting the absolute pose information determined outside of the data glasses to the data glasses with a sufficiently low latency, especially in the case of a wireless communication connection, so that the data glasses can have corresponding contact-analog representations without delay or a can not output annoying delay.
Es sind nicht-kamerabasierte Posenerkennungseinheiten in Datenbrillen bekannt, die einen Beschleunigungssensor in der Datenbrille nutzen. Die Pose der Datenbrille wird dann durch Integration und Akkumulieren von Bewegungen der Datenbrille inkrementell ermittelt. Bei einem solchen Ansatz besteht eine Schwierigkeit darin, dass bei Tragen der Datenbrille innerhalb einer sich bewegenden mobilen Plattform, wie beispielsweise einem sich bewegenden Zug, einem sich bewegenden Flugzeug, auf einem Fahrrad oder dergleichen, die Beschleunigungssensoren nur eine Gesamtbeschleunigung relativ zur Umgebung/Umwelt erfassen und daraus lediglich Bewegungsgeschwindigkeiten relativ zur Umgebung/Umwelt ermitteln können.There are known non-camera-based pose recognition units in data glasses which use an acceleration sensor in the data glasses. The pose of the smart glasses is then determined incrementally by integrating and accumulating movements of the smart glasses. One difficulty with such an approach is that when the smart glasses are worn within a moving mobile platform, such as a moving train, a moving airplane, on a bicycle or the like, the acceleration sensors only detect an overall acceleration relative to the environment / environment and from this can only determine movement speeds relative to the environment / environment.
Durch eine Inertialsensorik kann die Pose allein in einer Datenbrille nur in Bezug auf das Weltkoordinatensystem ermittelt werden. Dies erfolgt insbesondere in Referenz zum Gravitationsvektor und in der Richtung des magnetischen Nordens. Soll die Pose der Datenbrille innerhalb einer bewegten mobilen Plattform bestimmt werden, so führt die Bewegung der Plattform zu teils starken Abweichungen, welche durch eine Überlagerung von Plattformen und Datenbrillenbewegungen hervorgerufen werden. Somit ist anhand der Messung der Beschleunigung innerhalb der Datenbrille die Bewegung der Datenbrille relativ zu einem sich ebenfalls in der Umgebung bewegenden Plattformkoordinatensystem nicht ohne Weiteres ermittelbar.With inertial sensors, the pose can only be determined in data glasses in relation to the world coordinate system. This is especially done in reference to the gravitational vector and in the direction of magnetic north. If the pose of the data glasses is to be determined within a moving mobile platform, the movement of the platform leads to sometimes strong deviations, which are caused by the superposition of platforms and data glasses movements. Thus, on the basis of the measurement of the acceleration within the data glasses, the movement of the data glasses relative to a platform coordinate system that is also moving in the vicinity cannot easily be determined.
Da bei der ausschließlichen Verwendung eines Beschleunigungssensors zur Posenermittlung nur relative Bewegungen seit der letzten Verfügbarkeit einer absoluten Posenangabe ausgewertet werden, unterliegt die Posenbestimmung basierend auf Beschleunigungssensoren aufgrund der notwendigen Integrationsoperationen einer Drift über der Zeit, so dass die ermittelte Pose immer ungenauer wird, je länger keine absolute Posenangabe als Referenz bereitgestellt wird.Since only relative movements since the last availability of an absolute pose information are evaluated with the exclusive use of an acceleration sensor to determine the poses, the determination of the poses based on acceleration sensors is subject to a drift over time due to the necessary integration operations, so that the determined pose becomes more and more inaccurate the longer none absolute pose specification is provided for reference.
Für die kontaktanaloge Darstellung ist jedoch eine möglichst genaue Kenntnis der Pose der Datenbrille in Bezug zu dem Fahrzeugkoordinatensystem notwendig. Abweichungen zwischen der tatsächlichen Pose und der ermittelten Posenangabe führen zu einer Fehldarstellung von kontaktanalogen Informationsobjekten in der Datenbrille, was störend ist und ggfs zu Übelkeit des Benutzers führen kann.For the contact-analog representation, however, as precise a knowledge as possible of the pose of the data glasses in relation to the vehicle coordinate system is necessary. Deviations between the actual pose and the determined pose information lead to a misrepresentation of contact-analog information objects in the data glasses, which is annoying and can possibly lead to nausea on the part of the user.
Während die Anwendung in einem Fahrzeugsystem eine entsprechende Tracking-Möglichkeit zum Bereitstellen einer Poseninformation mit der Datenbrille ermöglicht, ist es bei sonstigen mobilen Plattformen, wie einem Zug oder Flugzeug oder dergleichen, nicht möglich, einer Datenbrille Informationen zur Verfügung zu stellen, die ein verbessertes Tracking der Pose der Datenbrille ermöglicht. Insbesondere erfordern derartige Anzeigesysteme eine aufeinander abgestimmte Kommunikationsverbindung zwischen Datenbrille und Assistenzsystem, das in sonstigen mobilen Plattformen, insbesondere in Massentransportmitteln, nicht verfügbar ist.While the application in a vehicle system enables a corresponding tracking option for providing pose information with the data glasses, it is not possible with other mobile platforms, such as a train or airplane or the like, to provide data glasses with information that improves tracking the pose of the smart glasses. In particular, such display systems require a coordinated communication link between data glasses and assistance system, which is not available in other mobile platforms, in particular in mass transport.
Es ist Aufgabe der vorliegenden Erfindung, ein Anzeigesystem mit einer Datenbrille zur Verfügung zu stellen, bei der eine Posenangabe der Datenbrille bereitgestellt werden kann. Insbesondere ist es eine Aufgabe, eine Brillenposenangabe in einer Datenbrille auch in bewegten Plattformen durchzuführen, so dass diese bezogen auf ein Plattformkoordinatensystem bereitstehen.It is the object of the present invention to provide a display system with data glasses, in which a position indication of the data glasses can be provided. In particular, it is an object to carry out a spectacle pose indication in data glasses also in moving platforms, so that these are available in relation to a platform coordinate system.
Offenbarung der ErfindungDisclosure of the invention
Diese Aufgabe wird durch eine Referenzeinheit zum Betreiben mit einer Datenbrille gemäß Anspruch 1 sowie durch das Verfahren zum Betreiben einer Datenbrille mit einer Referenzeinheit, durch eine Datenbrille und durch das Anzeigesystem gemäß den nebengeordneten Ansprüchen gelöst.This object is achieved by a reference unit for operation with data glasses according to claim 1 and by the method for operating data glasses with a reference unit, by data glasses and by the display system according to the independent claims.
Weitere Ausgestaltungen sind in den abhängigen Ansprüchen angegeben.Further refinements are given in the dependent claims.
Gemäß einem ersten Aspekt ist eine Referenzeinheit, insbesondere eine tragbare Referenzeinheit, zum Betreiben mit einer Datenbrille vorgesehen, umfassend:
- - eine Plattformbewegungssensorik, die ausgebildet ist, eine Plattformbewegungsanagabe zu erfassen;
- - eine Steuereinheit, die ausgebildet ist, um eine Plattformbewegungsinformation aus der Plattformbewegungsangabe zu bestimmen;
- - eine Kommunikationseinrichtung, die ausgebildet ist, die Plattformbewegungsinformation nach extern, insbesondere an eine oder mehrere Datenbrillen, zu übertragen.
- a platform movement sensor which is designed to detect a platform movement indication;
- a control unit which is designed to determine platform movement information from the platform movement information;
- a communication device which is designed to transmit the platform movement information externally, in particular to one or more data glasses.
Die obige Referenzeinheit ist zum Einsatz in einer mobilen Plattform vorgesehen und kann dort vorinstalliert sein oder vom Träger der Datenbrille mitgebracht und an einer festen Position abgelegt werden. Sie ermöglicht durch die Bewegungssensorik das Erfassen der Eigenbewegung der Plattform und überträgt entsprechende Angaben an die eine oder mehrere Datenbrillen in direktem Umfeld. Dies ermöglicht es, dass Datenbrillen auf der Plattform eine entsprechende Bewegungsinformation über die Bewegung der Plattform in dem Weltkoordinatensystem erhalten, um daraus somit die Eigenbewegung der Datenbrille auf der Plattform bzw. die relative Bewegung der Datenbrille zur Plattform ermitteln zu können.The above reference unit is intended for use in a mobile platform and can be preinstalled there or brought along by the wearer of the data glasses and stored in a fixed position. With its motion sensors, it enables the platform to detect its own movement and transmits the relevant information to the one or more data glasses in the immediate vicinity. This makes it possible for data glasses on the platform to receive corresponding movement information about the movement of the platform in the world coordinate system in order to be able to determine from this the proper movement of the data glasses on the platform or the relative movement of the data glasses to the platform.
Dies ermöglicht es, kontaktanaloge Darstellungen auf der Datenbrille anzuzeigen, die sich am Plattformkoordinatensystem der Plattform orientieren. Somit kann die Datenbrille aus der Plattformbewegungsinformation die Brillenposenangabe in Bezug auf das Plattformkoordinatensystem ermitteln. Insbesondere kann die Referenzeinheit lediglich eine Plattform-Bewegungssensorik umfassen, die über eine geeignete Sendeeinrichtung als entsprechende Information an die Datenbrillen der Umgebung gesendet werden.This makes it possible to display contact-analog representations on the data glasses, which are based on the platform coordinate system of the platform. The data glasses can thus determine the glasses pose information in relation to the platform coordinate system from the platform movement information. In particular, the reference unit can only include platform motion sensors that are sent as corresponding information to the data glasses in the area via a suitable transmission device.
Insbesondere kann die Kommunikationseinrichtung ausgebildet sein, die Plattformbewegungsinformation unidirektional an in Übertragungsreichweite befindliche Datenbrillen nach extern zu übertragen. Dies kann beispielsweise in Form eines Funksignals oder Radiosignals mit begrenzter Reichweite erfolgen. Die Reichweite sollte auf den Bereich der Plattform eingeschränkt sein, da lediglich die Plattformbewegungsinformation an externe Einheiten übermittelt werden.In particular, the communication device can be designed to transmit the platform movement information unidirectionally to the external data glasses located within transmission range. This can be done, for example, in the form of a radio signal or radio signal with a limited range. The range should be limited to the area of the platform, since only the platform movement information is transmitted to external units.
Weiterhin kann die Kommunikationseinrichtung ausgebildet sein, die Plattformbewegungsinformation unautorisiert nach extern zu übertragen.Furthermore, the communication device can be designed to transmit the platform movement information to the outside in an unauthorized manner.
Es kann eine Energieversorgung, insbesondere eine Batterie, vorgesehen sein, so dass die Referenzeinheit autonom betreibbar ist.An energy supply, in particular a battery, can be provided so that the reference unit can be operated autonomously.
Die Referenzeinheit kann ein Gehäuse aufweisen, das nicht größer ist als 10cm×8cm*2cm. Auf diese Weise kann die Referenzeinheit tragbar bzw. portabel ausgeführt sein.The reference unit can have a housing that is no larger than 10cm × 8cm * 2cm. In this way, the reference unit can be designed to be portable or portable.
Gemäß einer weiteren Ausführungsform kann die Kommunikationseinrichtung ausgebildet sein, um zusätzlich zur Plattformbewegungsinformation Angaben zu einem oder mehreren kontaktanalog anzuzeigenden Informationsobjekten zur Anzeige in der Datenbrille bezogen auf das Plattformkoordinatensystem nach extern zu übertragen.According to a further embodiment, the communication device can be designed, in addition to the platform movement information, to externally transmit information on one or more information objects to be displayed in a contact-analog manner for display in the data glasses based on the platform coordinate system.
Gemäß einem weiteren Aspekt ist ein Verfahren zum Betreiben eines Anzeigesystems mit einer Datenbrille und der obigen Referenzeinheit vorgesehen, mit folgenden Schritten:
- - Erfassen einer Brillenbewegungsinformation mit einer Brillenbewegungsangabe durch die Datenbrille, wobei die Brillenbewegungsangabe eine Bewegung der Datenbrille in einem Weltkoordinatensystem der Plattformumgebung angibt;
- - Empfangen einer Plattformbewegungsinformation mit einer Plattformbewegungsangabe, die eine Bewegung der Plattform in dem Weltkoordinatensystem der Plattformumgebung angibt;
- - Transformieren der Brillenbewegungsangabe in ein Plattformkoordinatensystem, das plattformfest der Referenzeinheit zugeordnet ist, abhängig von der Plattformbewegungsinformation;
- - Ermitteln einer aktuellen Brillenposenangabe in der Datenbrille bezogen auf das Plattformkoordinatensystem abhängig von der transformierten Brillenbewegungsangabe;
- - Anzeigen eines Informationsobjekts mit Bezug zu der Brillenposenangabe im Plattformkoord i natensystem.
- - Acquisition of glasses movement information with a glasses movement indication by the data glasses, the glasses movement indication indicating a movement of the data glasses in a world coordinate system of the platform environment;
- - Receiving platform movement information with a platform movement specification which indicates a movement of the platform in the world coordinate system of the platform environment;
- - Transforming the information about the movement of the glasses into a platform coordinate system that is assigned to the reference unit in a fixed manner on the platform, depending on the information about the movement of the platform;
- - Determination of a current glasses pose information in the data glasses based on the platform coordinate system as a function of the transformed glasses movement information;
- - Display of an information object with reference to the glasses pose information in the platform coordinate system.
Das Verfahren kann eine in der Datenbrille vorgesehene Brillenbewegungssensorik nutzen, um durch Integration Bewegungsgeschwindigkeitsinkremente der Datenbrille relativ zur Umgebung zu ermitteln und ermöglicht so eine Bestimmung der Brillenpose durch Akkumulation der Bewegungsgeschwindigkeitsinkremente. Dies ermöglicht das Bereitstellen einer Brillenposenangabe ohne aufwändige, in der Datenbrille angeordnete Einrichtungen, so dass ein energieeffizienter Betrieb für die Posenermittlung möglich ist. Die so erhaltene Brillenposenangabe ist jedoch auf das Weltkoordinatensystem bezogen. Zur Darstellung von auf ein Plattformkoordinatensystem bezogenen Informationsobjekten in der Datenbrille ist es notwendig, die Brillenposenangabe in ein Plattformkoordinatensystem zu transformieren. Dies erfolgt basierend auf der von der Referenzeinheit übermittelten Plattformbewegungsangabe.The method can use a glasses movement sensor system provided in the data glasses in order to determine movement speed increments of the data glasses relative to the surroundings by integration and thus enables the glasses pose to be determined by accumulating the movement speed increments. This enables the provision of a spectacle pose information without complex devices arranged in the data glasses, so that an energy-efficient operation for the pose determination is possible. The spectacle pose information obtained in this way is, however, based on the world coordinate system. In order to display information objects related to a platform coordinate system in the data glasses, it is necessary to transform the glasses pose information into a platform coordinate system. This is done based on the platform movement information transmitted by the reference unit.
Das obige Verfahren zum Betreiben des Anzeigesystems dient zur Bereitstellung einer aktuellen Brillenposenangabe, die einer absoluten Pose der Datenbrille in Bezug zu einem Plattformkoordinatensystem entspricht, in der Datenbrille. Das Verfahren transformiert eine über eine Brillenbewegungsinformation ermittelte Brillenposenangabe, die zunächst auf ein Weltkoordinatensystem bezogen ist, mithilfe der Plattformbewegungsinformation über eine Bewegung der mobilen Plattform, in dem sich der Benutzer der Datenbrille befindet.The above method for operating the display system is used to provide current glasses pose information, which corresponds to an absolute pose of the data glasses in relation to a platform coordinate system, in the data glasses. The method transforms a pair of glasses pose information determined by means of glasses movement information, which is initially related to a world coordinate system, with the aid of the platform movement information about a movement of the mobile platform in which the user of the data glasses is located.
Insbesondere kann das Transformieren basierend auf zu gleichen Zeitpunkten erfassten Brillenbewegungsangaben und Plattformbewegungsangaben durchgeführt werden.In particular, the transformation can be carried out on the basis of glasses movement information and platform movement information recorded at the same time.
Es kann vorgesehen sein, dass die Brillenbewegungsinformation einen Zeitstempel umfasst, der einem Zeitpunkt des Erfassens der durch die Brillenbewegungsangabe angegebenen Bewegung der Datenbrille bezüglich der Weltumgebung entspricht, wobei die Plattformbewegungsangabe einen Zeitstempel umfasst, der einem Zeitpunkt des Erfassens der durch die Plattformbewegungsangabe angegebenen relativen Bewegung der Plattform bezüglich der Weltumgebung entspricht, wobei die gleichen Zeitpunkte der erfassten Brillenbewegungsangabe und der erfassten Plattformbewegungsangabe basierend auf den Zeitstempeln ermittelt wird.It can be provided that the glasses movement information includes a time stamp which corresponds to a point in time of the detection of the movement of the data glasses specified by the glasses movement information in relation to the world environment, the platform movement information including a time stamp which corresponds to a point in time when the relative movement of the specified by the platform movement information was recorded Platform corresponds to the world environment, the same times of the detected glasses movement information and the detected platform movement information is determined based on the time stamps.
Gemäß einer Ausführungsform kann die Brillenbewegungsangabe mit einer erfassten Beschleunigung der Datenbrille in einer oder mehreren Raumrichtungen und/oder einer Winkelbeschleunigung der Datenbrille in einer oder mehreren Rotationsrichtungen bestimmt werden, wobei die Plattformbewegungsangabe aus einer erfassten Beschleunigung der Referenzeinheit in einer oder mehreren Raumrichtungen und/oder einer Winkelbeschleunigung in einer oder mehreren Rotationsrichtungen bestimmt wird. According to one embodiment, the glasses movement information can be determined with a detected acceleration of the data glasses in one or more spatial directions and / or an angular acceleration of the data glasses in one or more directions of rotation, the platform movement information from a detected acceleration of the reference unit in one or more spatial directions and / or one Angular acceleration is determined in one or more directions of rotation.
Insbesondere kann das Transformieren durchgeführt werden, indem eine Rotation zwischen der Ausrichtung des Plattformkoordinatensystems und des Weltkoordinatensystems ermittelt wird und die transformierte Brillenposenangabe abhängig von der Rotation und der Plattformbewegungsangabe ermittelt wird, insbesondere indem ein Plattformbewegungsvektor entsprechend der Rotation rotiert wird und ein Anteil eines Brillenbewegungsvektors, der dem rotierten Plattformbewegungsvektor entspricht, aus dem Brillenbewegungsvektor eliminiert wird, wobei der Brillenbewegungsvektor der Brillenbewegungsangabe entspricht.In particular, the transformation can be carried out by a rotation between the orientation of the platform coordinate system and the world coordinate system is determined and the transformed glasses pose information is determined depending on the rotation and the platform movement information, in particular by rotating a platform movement vector corresponding to the rotation and a portion of a glasses movement vector that corresponds to the rotated platform movement vector is eliminated from the glasses movement vector, the glasses movement vector being the Corresponds to the indication of the movement of the glasses.
Die Rotation kann durch verschiedene weitere Verfahren ermittelt werden. So kann beispielsweise aus der Bewegungsrichtung (zeitliche Positionsänderung), die anhand eines Geopositionserkennungssystem (GPS u.a.) ermittelt wird, die Ausrichtung im Umgebungskoordinatensystem bestimmt werden, wenn die Ausrichtung der Plattform bei einer Bewegung bekannt ist (Vorwärtsfahrrichtung). Auch kann ein Kompass in der Referenzeinheit dazu genutzt werden, die Ausrichtung der Plattform zu erkennen.The rotation can be determined by various other methods. For example, the orientation in the surrounding coordinate system can be determined from the direction of movement (change in position over time), which is determined using a geopositioning system (GPS, etc.), if the orientation of the platform during a movement is known (forward direction). A compass in the reference unit can also be used to identify the orientation of the platform.
Gemäß einem weiteren Aspekt ist eine Datenbrille für ein Anzeigesystem vorgesehen, umfassend:
- - eine Kommunikationseinrichtung, die ausgebildet ist, um eine Plattformbewegungsinformation mit einer Plattformbewegungsangabe zu empfangen;
- - eine Brillenbewegungssensorik, die ausgebildet ist, um eine Brillenbewegungsinformation mit einer Brillenbewegungsangabe zu erfassen;
- - eine Steuereinheit, die ausgebildet ist, um eine aktuelle Brillenposenangabe in der Datenbrille abhängig von der Brillenbewegungsangabe zu ermitteln, um die Brillenposenangabe abhängig von der Plattformbewegungsinformation in ein Plattformkoordinatensystem, das plattformfest der Referenzeinheit zugeordnet ist, zu transformieren; und um ein Informationsobjekt mit Bezug zu der Brillenposenangabe im Plattformkoordinatensystem anzuzeigen.
- a communication device which is designed to receive platform movement information with an indication of platform movement;
- a glasses movement sensor which is designed to detect glasses movement information with a glasses movement indication;
- a control unit which is designed to determine current glasses pose information in the data glasses as a function of the glasses movement information, in order to transform the glasses pose information as a function of the platform movement information into a platform coordinate system that is permanently assigned to the reference unit on the platform; and to display an information object related to the glasses pose indication in the platform coordinate system.
Gemäß einem weiteren Aspekt ist ein Anzeigesystem mit der obigen Referenzeinheit und der obigen Datenbrille vorgesehen.According to a further aspect, a display system with the above reference unit and the above data glasses is provided.
FigurenlisteFigure list
Ausführungsformen werden nachfolgend anhand der beigefügten Zeichnungen näher erläutert. Es zeigen:
-
1 eine schematische Darstellung eines Anzeigesystems mit einer Datenbrille und einer Referenzeinheit zum Einsatz in einer mobilen Plattform; -
2 eine schematische Darstellung eines möglichen Einsatzortes in einem Zug; und -
3 ein Flussdiagramm zur Veranschaulichung eines Verfahrens zum Betreiben des Anzeigesystems in einer mobilen Plattform.
-
1 a schematic representation of a display system with data glasses and a reference unit for use in a mobile platform; -
2 a schematic representation of a possible location in a train; and -
3rd a flow chart to illustrate a method for operating the display system in a mobile platform.
Beschreibung von AusführungsformenDescription of embodiments
Die Datenbrille
Eine oder beide Sichtscheiben
Durch die transparente Ausbildung der Anzeigefläche
Die Datenbrille
Weiterhin kann die Datenbrille
So kann die Steuereinheit
Dazu umfasst die Datenbrille
Weiterhin kann eine Kommunikationseinheit
Die Referenzeinheit
Die Kommunikationseinheit
Die Plattformbewegungsangabe kann in der Referenzeinheit
Die Kommunikationseinheit
Zusätzlich zu der Plattformbewegungsinformation kann die Referenzeinheit
Die Referenzeinheit
Weiterhin umfasst die Referenzeinheit
Die Plattformbewegungsangabe kann in der Steuerung
Die Kommunikationseinheit
In der Steuereinheit
Die Beschleunigungen der Plattform in den Raumrichtungen und um die Schwenkachsen sind in der Brillenbewegungsinformation enthalten, da sich der Benutzer der Datenbrille
In
Die Transformation der Brillenposenangabe in das Plattformkoordinatensystem kann durch Rotation des Weltkoordinatensystems der Datenbrille
Die Transformation der Brillenposenangabe kann basierend auf der Beobachtung erfolgen, dass Bewegungsänderungen der Plattform viel niederfrequenter auftreten als Bewegungen des Kopfes bzw. der Datenbrille
Die Plattformbewegungsangabe gibt Beschleunigungen der mobilen Plattform in den Raumrichtungen und um die Schwenkachsen an. Diese werden miteinander verrechnet, so dass eine relative Bewegungsangabe der Datenbrille
Da die Plattformbewegungsangaben nur mit einer durch die Kommunikationsverbindung
Die Übertragung der Plattformbewegungsangaben an die Datenbrille
In der Datenbrille
Insgesamt kann das Anzeigesystem
In Schritt S1 werden in der Datenbrille
Aus den Brillenbewegungsangaben, die üblicherweise als Beschleunigungsinformation in drei Raumrichtungen und um drei Schwenkachsen angegeben wird, werden in Schritt S2 durch zweimalige Integration Bewegungsinkremente bzw. relative Posenangaben ermittelt, die aufaddiert werden, um eine aktuelle Brillenposenangabe zu erhalten. Diese ist auf das Weltkoordinatensystem bezogen.From the glasses movement information, which is usually given as acceleration information in three spatial directions and around three pivot axes, movement increments or relative pose information are determined in step S2 by integration twice, which are added to obtain a current glasses pose information. This is related to the world coordinate system.
In Schritt S3 werden Plattformbewegungsinformationen von der Referenzeinheit
In Schritt S4 wird aus der Plattformbewegungsangabe ein Plattformbeschleunigungsvektor für die Richtung einer momentanen Beschleunigungsbewegung der mobilen Plattform ermittelt. Dazu werden die translatorischen Beschleunigungsangaben in allen verfügbaren Raumrichtungen sowie die Winkelbeschleunigungen um die Rotationsachsen ausgewertet.In step S4, a platform acceleration vector for the direction of a current acceleration movement of the mobile platform is determined from the platform movement information. For this purpose, the translational acceleration information in all available spatial directions as well as the angular accelerations around the axes of rotation are evaluated.
In Schritt S5 wird aus der Brillenbewegungsangabe ein Brillenbeschleunigungsvektor für die Beschleunigungsrichtung einer momentanen Beschleunigung der Datenbrille
In Schritt S6 kann eine Rotation zwischen dem Weltkoordinatensystem und dem Plattformkoordinatensystem aus dem Plattformbeschleunigungsvektor und dem Brillenbeschleunigungsvektor bestimmt werden.In step S6, a rotation between the world coordinate system and the platform coordinate system can be determined from the platform acceleration vector and the glasses acceleration vector.
Alternativ kann die Rotation auch mithilfe der Bewegungsrichtung (zeitliche Positionsänderung), die anhand eines Geopositionserkennungssystem (GPS u.a.) bestimmt wird, ermittelt werden. Dabei kann, die Ausrichtung im Umgebungskoordinatensystem festgestellt werden, wenn die Ausrichtung der Plattform bei einer Bewegung bekannt ist (Vorwärtsfahrrichtung). Auch kann ein Kompass in der Referenzeinheit dazu genutzt werden, die Ausrichtung der Plattform zu erkennen.Alternatively, the rotation can also be determined with the aid of the direction of movement (change in position over time), which is determined using a geopositioning system (GPS, etc.). The orientation in the surrounding coordinate system can be determined if the orientation of the platform is known during a movement (forward direction of travel). A compass in the reference unit can also be used to identify the orientation of the platform.
In Schritt S7 werden die die Brillenposenangabe mit der Rotation beaufschlagt, um eine transformierte Brillenposenangabe bezogen auf das Plattformkoordinatensystem zu transformieren.In step S7, the rotation of the glasses pose information is applied in order to transform a transformed glasses pose information in relation to the platform coordinate system.
In Schritt S8 wird die korrigierte Brillenposenangabe zur weiteren Verarbeitung in der Datenbrille
Dieses Verfahren wird zyklisch durch Rücksprung zu Schritt S1 wiederholt und stellt dadurch stets eine auf das Plattformkoordinatensystem transformierte Brillenposenangabe der Datenbrille
Die in dem obigen Verfahren verwendete Plattformbewegungsangabe und die verwendete Brillenbewegungsangabe sind im Wesentlichen zu demselben Zeitpunkt erfasst. In der Datenbrille
Alternativ kann ein zeitlicher Versatz zwischen Verläufen der Plattformbewegungsangaben und der Brillenbewegungsangaben mithilfe einer Autokorrelationsfunktion ermittelt werden, so dass durch Wahl eines geeigneten Zeitpunkts innerhalb des Verlaufs der Plattformbewegungsangabe eine entsprechende Brillenbewegungsangabe, die auf eine Erfassung zum selben Zeitpunkt zurückgeht, für den Vergleich (Berechnung der Rotation) der resultierenden Beschleunigungsangaben verwendet werden kann. Vorzugsweise wird als geeigneter Zeitpunkt ein Zeitpunkt eines Maximalwerts der resultierenden Plattformbewegungsangabe innerhalb des Zeitraums des berücksichtigten Verlaufs angenommen.Alternatively, a time offset between the course of the platform movement information and the glasses movement information can be determined with the aid of an autocorrelation function, so that by selecting a suitable point in time within the course of the platform movement information, a corresponding glasses movement information, which is based on a detection at the same point in time, for the comparison (calculation of the rotation ) the resulting acceleration data can be used. A point in time of a maximum value of the resulting platform movement information within the period of the course taken into account is preferably assumed to be a suitable point in time.
BezugszeichenlisteList of reference symbols
- 11
- AnzeigesystemDisplay system
- 22
- ReferenzeinheitReference unit
- 2121
- KommunikationseinheitCommunication unit
- 2222nd
- PlattformbewegungssensorikPlatform movement sensors
- 2323
- Steuerungcontrol
- 2424
- Energieversorgungpower supply
- 33
- DatenbrilleData glasses
- 3131
- Rahmenframe
- 3232
- SichtscheibenViewing panes
- 3333
- BrillenbügelGlasses temples
- 3535
- transparente Anzeigeflächetransparent display area
- 3636
- AnzeigeeinrichtungDisplay device
- 3737
- SteuereinheitControl unit
- 3838
- BrillenbewegungssensorikGlasses movement sensors
- 3939
- KommunikationseinheitCommunication unit
- 44th
- KommunikationsverbindungCommunication link
ZITATE ENTHALTEN IN DER BESCHREIBUNGQUOTES INCLUDED IN THE DESCRIPTION
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of the documents listed by the applicant was generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.
Zitierte PatentliteraturPatent literature cited
- DE 102014206623 A1 [0006]DE 102014206623 A1 [0006]
Claims (13)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102019131640.5A DE102019131640A1 (en) | 2019-11-22 | 2019-11-22 | Method and device for operating a display system with data glasses |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102019131640.5A DE102019131640A1 (en) | 2019-11-22 | 2019-11-22 | Method and device for operating a display system with data glasses |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102019131640A1 true DE102019131640A1 (en) | 2021-05-27 |
Family
ID=75784204
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102019131640.5A Pending DE102019131640A1 (en) | 2019-11-22 | 2019-11-22 | Method and device for operating a display system with data glasses |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE102019131640A1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102022112369A1 (en) | 2022-05-17 | 2023-11-23 | Bayerische Motoren Werke Aktiengesellschaft | Method and device for operating a display system with data glasses, especially in a vehicle |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6474159B1 (en) * | 2000-04-21 | 2002-11-05 | Intersense, Inc. | Motion-tracking |
US9459692B1 (en) * | 2016-03-29 | 2016-10-04 | Ariadne's Thread (Usa), Inc. | Virtual reality headset with relative motion head tracker |
EP2933707B1 (en) * | 2014-04-14 | 2017-12-06 | iOnRoad Technologies Ltd. | Head mounted display presentation adjustment |
DE102018201509A1 (en) * | 2018-02-01 | 2019-08-01 | Bayerische Motoren Werke Aktiengesellschaft | Method and device for operating a display system with data glasses |
-
2019
- 2019-11-22 DE DE102019131640.5A patent/DE102019131640A1/en active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6474159B1 (en) * | 2000-04-21 | 2002-11-05 | Intersense, Inc. | Motion-tracking |
EP2933707B1 (en) * | 2014-04-14 | 2017-12-06 | iOnRoad Technologies Ltd. | Head mounted display presentation adjustment |
US9459692B1 (en) * | 2016-03-29 | 2016-10-04 | Ariadne's Thread (Usa), Inc. | Virtual reality headset with relative motion head tracker |
DE102018201509A1 (en) * | 2018-02-01 | 2019-08-01 | Bayerische Motoren Werke Aktiengesellschaft | Method and device for operating a display system with data glasses |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102022112369A1 (en) | 2022-05-17 | 2023-11-23 | Bayerische Motoren Werke Aktiengesellschaft | Method and device for operating a display system with data glasses, especially in a vehicle |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE102017110283A1 (en) | CONTROLLING FUNCTIONS AND EXPENSES OF AUTONOMOUS VEHICLES BASED ON A POSITION AND ATTENTION FROM OCCUPANTS | |
WO2019149874A1 (en) | Method and device for operating a display system comprising a head-mounted display | |
EP3164756B1 (en) | Locating an hmd in a vehicle | |
EP3129820A1 (en) | Locating a head-mounted display (hmd) in a vehicle | |
DE102017221871A1 (en) | Method for calculating the movement data of the head of a driver of a vehicle, data glasses and vehicle for use in the method and computer program | |
DE102017107396A1 (en) | Test method and test device for driver assistance systems | |
DE102018109428A1 (en) | VEHICLE'S INTERNAL MOTION CORRECTION FOR PROJECTED REALITY | |
DE102020105196A1 (en) | Method for operating data glasses in a motor vehicle and a system with a motor vehicle and data glasses | |
DE102014206626A1 (en) | Fatigue detection using data glasses (HMD) | |
WO2016169554A1 (en) | Method for detecting vibrations of a device and vibration detection system | |
EP3619074A1 (en) | Mobile sensor apparatus for a head-worn visual output device usable in a vehicle, and method for operating a display system | |
DE102014221608A1 (en) | Activation of contact-analog representation depending on vehicle movements | |
DE102015207337A1 (en) | Method and device for maintaining at least one occupant of a motor vehicle | |
DE102016224122A1 (en) | Method for operating a VR glasses in an interior of a motor vehicle and control device and motor vehicle | |
DE102019116089A1 (en) | Method and device for operating a display system with data glasses | |
DE102018215186A1 (en) | Concept for monitoring and planning a movement of a means of transportation | |
DE102020213102A1 (en) | EQUIPMENT AND SYSTEM FOR AN INTELLIGENT HELMET | |
DE102014222356A1 (en) | Artificially generated magnetic fields in vehicles | |
DE102016225261A1 (en) | Method and device for operating a display system with data glasses | |
DE102019103360A1 (en) | Method and device for operating a display system with data glasses | |
DE102018222265A1 (en) | Method for calculating the movement data of data glasses, data glasses and vehicle for use in the method | |
DE102019131640A1 (en) | Method and device for operating a display system with data glasses | |
EP3959647B1 (en) | Displaying additional information in the correct position on a display unit of a vehicle | |
DE102019201134B4 (en) | Method, computer program with instructions and system for measuring augmented reality glasses and augmented reality glasses for use in a motor vehicle | |
DE102020129068A1 (en) | Method and device for determining an installation pose of an inertial sensor system in data glasses and data glasses |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R163 | Identified publications notified |