Journal de génie informatique et des technologies de l'information

Apprentissage potentiel auto-organisé : améliorer les connaissances SOM pour former des réseaux neuronaux supervisés avec des performances d'interprétation et de généralisation améliorées

Ryotarô Kamimura

Apprentissage potentiel auto-organisé : améliorer les connaissances SOM pour former des réseaux neuronaux supervisés avec des performances d'interprétation et de généralisation améliorées

Le présent article propose un nouveau type de méthode d'apprentissage appelé « apprentissage potentiel auto-organisé » pour améliorer les performances de généralisation et d'interprétation. Dans cette méthode, la carte auto-organisée (SOM) est utilisée pour produire la connaissance (connaissance SOM) sur les modèles d'entrée. La connaissance SOM est parfois redondante et pas nécessairement efficace pour entraîner des réseaux neuronaux multicouches . La présente méthode est introduite pour se concentrer sur la partie la plus importante de la connaissance, qui est extraite en considérant la potentialité des neurones. Pour la première approximation, la potentialité est définie en termes de variance des neurones. Ensuite, les neurones ayant la plus grande potentialité sont choisis comme étant les plus importants à utiliser dans l'apprentissage supervisé. La méthode a été appliquée à trois problèmes, à savoir les données artificielles , les données réelles d'apprentissage en langue seconde et les données de biodégénérescence dans la base de données d'apprentissage automatique . Dans tous les cas, il a été constaté qu'en termes de variance, la potentialité était efficace pour extraire un petit nombre d'entrées importantes et de neurones cachés. Ensuite, les performances de généralisation ont été grandement améliorées, en particulier lorsque les potentialités des neurones d'entrée et cachés ont été prises en compte avec des poids de connexion facilement interprétables.