Die Erfindung betrifft ein Verfahren zum Umwandeln eines ersten neuronalen Netzes mit einer ersten Architektur in ein zweites neuronales Netz mit einer zweiten Architektur zum Einsatz in einem Fahrzeugsteuergerät, um das Wissen des ersten neuronalen Netzes zu erhalten und auf das zweite neuronale Netz zu übertragen. Das Verfahren wandelt (701) in einem ersten Schritt wenigstens einen Layer des ersten neuronalen Netzes in wenigstens einen Layer des zweiten neuronalen Netzes um. In einem zweiten Schritt folgt eine zufällige Initialisierung (702) des wenigstens einen umgewandelten Layers in der Architektur des zweiten neuronalen Netzes. Ein Trainieren (703) des wenigstens einen umgewandelten Layers in dem zweiten neuronalen Netz erfolgt in einem dritten Schritt. In einem vierten Schritt erfolgt ein Fine-Tuning (704) des nicht umgewandelten Layers in dem zweiten neuronalen Netz oder des gesamten zweiten neuronalen Netzes. Das Umwandeln des ersten neuronalen Netzes in das zweite neuronale Netz erfolgt in mehreren Durchläufen oder Iterationen, wobei bei j edem Durchlauf die Schritte des Umwandeins (701), der zufälligen Initialisierung (702), des Trainierens (703) und des gleichzeitigen Fine-Tunings (704) durchlaufen werden.

    The invention relates to a method for converting a first neural network with a first architecture into a second neural network with a second architecture for use in a vehicle controller in order to obtain the knowledge of the first neural network and transfer same to the second neural network. In a first step of the method, a conversion (701) of at least one layer of the first neural network into at least one layer of the second neural network is carried out. In a second step, a random initialization (702) of the at least one converted layer is carried out in the architecture of the second neural network. In a third step, a training process (703) of the at least one converted layer is carried out in the second neural network. In a fourth step, a fine tuning process (704) of the non-converted layer is carried out in the second neural network or in the entire second neural network. The conversion of the first neural network into the second neural network is carried out in multiple cycles or iterations, wherein for each cycle, the conversion (701), random initialization (702), training (703), and simultaneous fine-tuning (704) steps are carried out.

    L'invention concerne un procédé permettant de convertir un premier réseau neuronal présentant une première architecture en un second réseau neuronal présentant une seconde architecture, pour utilisation dans un appareil de commande d'un véhicule, afin de conserver la connaissance du premier réseau neuronal et de la transférer sur le second réseau neuronal. Une première étape du procédé consiste à convertir (701) au moins une couche du premier réseau neuronal en au moins une couche du second réseau neuronal. Une seconde étape consiste ensuite en une initialisation aléatoire (702) de la ou des couches converties dans l'architecture du second réseau neuronal. Une troisième étape consiste ensuite en un apprentissage (703) de la ou des couches converties dans le second réseau neuronal. Une quatrième étape consiste à effectuer un réglage de précision (704) de la couche non convertie dans le second réseau neuronal et de l'ensemble du second réseau neuronal. La conversion du premier réseau neuronal en second réseau neuronal s'effectue en plusieurs cycles ou itérations, les étapes de conversion (701), d'initialisation aléatoire (702), d'apprentissage (703) et de réglage de précision (704) simultané étant effectuées pour chaque cycle.


    Access

    Download


    Export, share and cite



    Title :

    WISSENSTRANSFER ZWISCHEN VERSCHIEDENEN DEEP-LEARNING ARCHITEKTUREN


    Additional title:

    KNOWLEDGE TRANSFER BETWEEN DIFFERENT DEEP LEARNING ARCHITECTURES
    TRANSFERT DE CONNAISSANCE ENTRE DIFFÉRENTES ARCHITECTURES D'APPRENTISSAGE PROFOND


    Contributors:

    Publication date :

    2019-01-03


    Type of media :

    Patent


    Type of material :

    Electronic Resource


    Language :

    German


    Classification :

    IPC:    G06N COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS , Rechnersysteme, basierend auf spezifischen Rechenmodellen / B60W CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION , Gemeinsame Steuerung oder Regelung von Fahrzeug-Unteraggregaten verschiedenen Typs oder verschiedener Funktion



    Wissenstransfer zwischen verschiedenen Deep-Learning Architekturen

    KARG MICHELLE / SCHARFENBERGER CHRISTIAN | European Patent Office | 2019

    Free access

    Brucke zwischen Architekturen

    British Library Online Contents | 2012


    Wissenstransfer und Technologietransfer zwischen Luftfahrt und Automobilindustrie

    Mueller,U.J. / Fischer,H. / ESG Elektroniksystem u.Logistik,Fuerstenfeldbrueck,DE | Automotive engineering | 2011


    Spagat zwischen proprietaeren und Standard Architekturen

    Riemenschneider,F. / Databeans,Reno,US | Automotive engineering | 2010


    Wirksamer Wissenstransfer

    Hessler, Andrea | IuD Bahn | 1997