Die Erfindung betrifft ein Verfahren zum Umwandeln eines ersten neuronalen Netzes mit einer ersten Architektur in ein zweites neuronales Netz mit einer zweiten Architektur zum Einsatz in einem Fahrzeugsteuergerät, um das Wissen des ersten neuronalen Netzes zu erhalten und auf das zweite neuronale Netz zu übertragen. Das Verfahren wandelt (701) in einem ersten Schritt wenigstens einen Layer des ersten neuronalen Netzes in wenigstens einen Layer des zweiten neuronalen Netzes um. In einem zweiten Schritt folgt eine zufällige Initialisierung (702) des wenigstens einen umgewandelten Layers in der Architektur des zweiten neuronalen Netzes. Ein Trainieren (703) des wenigstens einen umgewandelten Layers in dem zweiten neuronalen Netz erfolgt in einem dritten Schritt. In einem vierten Schritt erfolgt ein Fine-Tuning (704) des nicht umgewandelten Layers in dem zweiten neuronalen Netz oder des gesamten zweiten neuronalen Netzes. Das Umwandeln des ersten neuronalen Netzes in das zweite neuronale Netz erfolgt in mehreren Durchläufen oder Iterationen, wobei bei j edem Durchlauf die Schritte des Umwandeins (701), der zufälligen Initialisierung (702), des Trainierens (703) und des gleichzeitigen Fine-Tunings (704) durchlaufen werden.
The invention relates to a method for converting a first neural network with a first architecture into a second neural network with a second architecture for use in a vehicle controller in order to obtain the knowledge of the first neural network and transfer same to the second neural network. In a first step of the method, a conversion (701) of at least one layer of the first neural network into at least one layer of the second neural network is carried out. In a second step, a random initialization (702) of the at least one converted layer is carried out in the architecture of the second neural network. In a third step, a training process (703) of the at least one converted layer is carried out in the second neural network. In a fourth step, a fine tuning process (704) of the non-converted layer is carried out in the second neural network or in the entire second neural network. The conversion of the first neural network into the second neural network is carried out in multiple cycles or iterations, wherein for each cycle, the conversion (701), random initialization (702), training (703), and simultaneous fine-tuning (704) steps are carried out.
L'invention concerne un procédé permettant de convertir un premier réseau neuronal présentant une première architecture en un second réseau neuronal présentant une seconde architecture, pour utilisation dans un appareil de commande d'un véhicule, afin de conserver la connaissance du premier réseau neuronal et de la transférer sur le second réseau neuronal. Une première étape du procédé consiste à convertir (701) au moins une couche du premier réseau neuronal en au moins une couche du second réseau neuronal. Une seconde étape consiste ensuite en une initialisation aléatoire (702) de la ou des couches converties dans l'architecture du second réseau neuronal. Une troisième étape consiste ensuite en un apprentissage (703) de la ou des couches converties dans le second réseau neuronal. Une quatrième étape consiste à effectuer un réglage de précision (704) de la couche non convertie dans le second réseau neuronal et de l'ensemble du second réseau neuronal. La conversion du premier réseau neuronal en second réseau neuronal s'effectue en plusieurs cycles ou itérations, les étapes de conversion (701), d'initialisation aléatoire (702), d'apprentissage (703) et de réglage de précision (704) simultané étant effectuées pour chaque cycle.
WISSENSTRANSFER ZWISCHEN VERSCHIEDENEN DEEP-LEARNING ARCHITEKTUREN
KNOWLEDGE TRANSFER BETWEEN DIFFERENT DEEP LEARNING ARCHITECTURES
TRANSFERT DE CONNAISSANCE ENTRE DIFFÉRENTES ARCHITECTURES D'APPRENTISSAGE PROFOND
2019-01-03
Patent
Electronic Resource
German
IPC: | G06N COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS , Rechnersysteme, basierend auf spezifischen Rechenmodellen / B60W CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION , Gemeinsame Steuerung oder Regelung von Fahrzeug-Unteraggregaten verschiedenen Typs oder verschiedener Funktion |
Wissenstransfer zwischen verschiedenen Deep-Learning Architekturen
European Patent Office | 2019
|British Library Online Contents | 2012
Wissenstransfer und Technologietransfer zwischen Luftfahrt und Automobilindustrie
Automotive engineering | 2011
|Spagat zwischen proprietaeren und Standard Architekturen
Automotive engineering | 2010
|IuD Bahn | 1997
|