Contribution to the identification of the non-linear systems by neural networks
Contribution à l'identification de systèmes non linéaires par réseaux de neurones
Abstract
This thesis deals with the idenlification of dynamical non-tinear MISO Sytems with multilayer feedfoward neural networks. Firstly, a short presentation of the non-linear identification methods is proposed and the neural network used is more precesialy defined. Some methods are presented to adapt his architecture to a particular case. These methods give the regressors and the number of neurons in the hidden layer. The relationships between neural identification and the most dassical non-linear models are then hown. The validation criteria of non-tineal'
models usable for the neural identification are presented. Three difficulties encountered in neural identification are investigated in the sequel. The first one is due to the iniatilisation of the parameters of the network. A bad choice of these initial parameters can lead to local minima very far from of the global minimum, to saturation of the hidden neurons, or to slow convergence. Two new algorilhm are proposed to solve this problem and compared wilh others on three different examples. The slow convergence can be the result of the learning
algorithm used. One algorithm is proposed to deal witgh this second difficulty. This algorithm is compared with the more dassical RPE algorithm. This study is ends with the third studied problem which is posed by the presence or outliers in the identification data set. lndeed, outliers can produce biases on estimaled parameters.Three robust criteria are then proposed and are compared with the
classical quadratic criterion on a simulation example and on a real industrial data set.
Cette thèse est consacrée à l'identification de systèmes dynamiques non-linéaires siso et miso à l'aide de réseaux de neurones multicouches non-récurrents. Dans un premier temps, une présentation succincte de l'ensemble des méthodes d'identification non-linéaire est effectuée. Nous poursuivons notre étude par un bref historique des réseaux de neurones ainsi que par une présentation des divers modèles neuronaux existants. Une fois posé le cadre de ce travail, nous définissons plus particulièrement l'architecture générale du réseau de neurone retenu, puis nous présentons les algorithmes permettant d'adapter cette architecture générale à un cas précis. Ces choix concernent notamment le vecteur de régression et le nombre de neurones utilisés dans la couche cachée. Notre étude des réseaux de neurones s'effectuant dans le domaine précis de l'identification de systèmes, les liens importants existant entre la modélisation neuronale et les modèles non-linéaires classiques sont démontrés. Les divers critères de validation de modèles non-linéaires utilisables pour les réseaux neuronaux sont alors présentés. Le reste de ce travail est consacré aux diverses difficultés rencontrées lors de l'identification par réseau de neurones. La première difficulté se présente des l'initialisation des poids du réseau. En effet, un mauvais choix des poids initiaux peut conduire à l'obtention d'un minimum local très éloigné du minimum global, à la saturation des neurones de la couche cachée, à une convergence lente. Afin de résoudre ce problème, divers algorithmes ont été proposés et comparés sur divers exemples. Les problèmes de lenteur de convergence, ou même de divergence, peuvent également être dus a l'algorithme d'apprentissage utilisé. Nous proposerons alors un nouvel algorithme permettant de s'affranchir de cette seconde difficulté. Ce nouvel algorithme sera alors comparé à l'algorithme plus classique rpe sur un exemple de simulation. Nous finirons notre étude en nous intéressant au troisième problème qui est posé par la présence de valeurs aberrantes dans les données d'identification. En effet, cette présence de valeurs aberrantes risque de conduire à des biais sur les paramètres. Nous proposons alors divers critères d'apprentissage qui sont robustes aux valeurs aberrantes. Ces critères sont comparés sur des exemples de simulation et des données industrielles réelles.
Origin | Files produced by the author(s) |
---|