Revista de ingeniería informática y tecnología de la información

Aprendizaje potencial autoorganizado: mejora del conocimiento de SOM para entrenar redes neuronales supervisadas con mejor interpretación y rendimiento de generalización

Ryotaro Kamimura

Aprendizaje potencial autoorganizado: mejora del conocimiento de SOM para entrenar redes neuronales supervisadas con mejor interpretación y rendimiento de generalización

El presente artículo propone un nuevo tipo de método de aprendizaje llamado “aprendizaje potencial autoorganizado” para mejorar el rendimiento de generalización e interpretación. En este método, el mapa autoorganizado (SOM) se utiliza para producir el conocimiento (conocimiento SOM) sobre los patrones de entrada. El conocimiento SOM a veces es redundante y no necesariamente efectivo en el entrenamiento de redes neuronales multicapa . El presente método se introduce para centrarse en la parte más importante del conocimiento, que se extrae considerando la potencialidad de las neuronas. Para la primera aproximación, la potencialidad se define en términos de la varianza de las neuronas. Luego, las neuronas con mayor potencialidad se eligen como las importantes para ser utilizadas en el aprendizaje supervisado. El método se aplicó a tres problemas, a saber, datos artificiales , datos reales de aprendizaje de una segunda lengua y datos de biodegeneración en la base de datos de aprendizaje automático . En todos los casos, se encontró que en términos de varianza, la potencialidad fue efectiva para extraer una pequeña cantidad de neuronas de entrada y ocultas importantes. Luego, el rendimiento de generalización mejoró enormemente, en particular cuando se consideró la potencialidad de las neuronas de entrada y ocultas con pesos de conexión fácilmente interpretables.