REDE'S NEURONALES ARTIFICIALES 1
FUNDAMENTOS¡ MODELOS Y APLICACIONES
1 1
1 l
José Ramón Hilera González Departamento de Matemáticas Universidad de Alcalá de Henares. Madrid
Víctor José Martínez Hernando Departamento de Arquitectura y Tecnología de Computadores Universidad Politécnica de Madrid
! j
.t.
ADDISON-WESLEY IBEROAMERICANA
..
a puesto el máximo empeño en ofrecer al lector una informac_ión completa y precisa. Sin argo RA-MA Editorial y Addison-Wesley Iberoamericana S.A. no asumen ninguna onsabilidad derivada de su uso, ni tampoco por cualquier violación de patentes ni otros !Chos de terceras partes que pudieran ocurrir. :ión original publicada por RA-MA Editorial, Madrid, España.
1
~CAS
~
COMERCIALES: RA-MA ha intentado a lo largo de este libro distinguir las cas registradas de los términos descriptivos, siguiendo el estilo de mayúsculas que za el fábricante, sin intención de infringir la marca y sólo en beneficio del propietario 1 misma.
''
il l
•!
Presentación de la serie PARADIGMA
1
!i ~s neuronales artificiales. Fundamentos, modelos y aplicaciones. 1sé Ramón Hilera González y Víctor José Martínez Hernando
'la edición RA-MA 1995 ISON-WESLEY lBEROAMERIC~,
S.A.
tÜngton, Delaware, E.U.A. 1tina: Malabia 2363·2" G. Buenos Aires 1425 1: Ave. Brigadeiro Luis Antonio 2344, Conjunto 114, Silo Paulo :Cruz 1469 depto, 21, Independencía, Santiago 1bia: Apartado Aéreo 241-943 Santa Fé de Bogotá \a: Espalter 3 bajo, Madrid 28014 o: l Jacob Way. Reading, Mass.OI867 :o: Apartado Postal22-012, México D.F. 14000 o Rico: El Monte Mall, 2° piso, Oficina 19-8. Ave. Muñoz Rivera, Hato Rey, PR 00918 \ue\a: 51454, Caracas tor,o-A
1
1 i i ~
1 ~
J.
i ión autorizada para venta en el continente americano. ~rvados todos los derechos de publicación en cualquier idioma. :una partedeeste libro puede ser reproducida, grabada en sistemas de almacenamiento nsmitida en forma al,pma ni por cualquier procedimiento, ya sea electrónico, mecánico, :~gráfico, magnético o cualquier otro, sin autorización previa y por escrito de RA-MA.
<0-201-87895-X ·eso en E.U.A. Printed in U.S.A.
4 56 7 8 9 -DOC- 98 97 96 95
La serie PARADIGMA trata de sacar a la luz la rellexión de cualificados autores acerca de los múltiples aspectos, tanto internos como externos, de la disciplina informática. Se caracteriza por su forma teórica de abordar los temas. No tienen en ella cabida los manuales o libros eminentemente enfocados hacia la enseñanza de alguna materia concreta. En cambio se alimenta de la reflexión teórica, de la investigación, de la opinión fundada. Con PARADIGMA queremos aportar desde editorial RA-MA, una herramienta de comunicación para todas aquellas ideas y nuevas metodologías que dinamizan continuamente la profesión del informático. El objetivo principal es conseguir una importante cota de calidad tanto en el contenido de lo publicado en la serie, como en la forma de presentación de la misma. De este modo, lo que se ofrece a los lectores es el fruto más esmerado de nuestro trabajo. Vaya hacia ustedes con los mejores deseos. Dentro de la serie damos cabida a dos tipos distintos de obras. lo que da lugar a dos diferentes colecciones:
Informática: Fundamentos teóricos Informática Profesional
ÍNDICE
PRÓLOGO
·--~--ru\JQ .........._..
XIII
CAPÍTULO l. UNA L'I/TRODUCCIÓN A LA COMPUTACIÓN NEURONAL ........................... 1 1.1. Panorama histórico
···························· 2
1.2. Definición de red neuronal
........................... 9
·'
"<
1.3. Ventajas de las redes neuronales ................... 1.3.1. Aprendizaje adaptativo . . . . . . . . . . . . . . . . . . . . 1.3.2. Autoorganización . . . . . . . . . . . . . . . . . . . . . . . . . 1.3.3. Tolerancia a fallos . . . . . . . . . . . . . . . . . . . . . . . . 1.3.4. Operación en tiempo real . . . . . . . . . . . . . . . . . . 1.3.5. Fácil inserción dentro de la tecnología existente . . .
. . . . .
. . . . .
11 12 13 14 14 15
1.4. Redes neuronales y computadores digitales . . . . . . . . . . . . . . 15 1.5. Redes neuronales e inteligencia artificial . . . . . . . . . . . . . . . . 16 1.6. Aplicaciones de las redes neuronales . . . . . . . . . . . . . . 1.6.1. Reconocimiento de patrones . . . . . . . . . . . . . . . . . . . 1.6.2. Bases de daws de conocimiento para infonnación estocástica . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.6.3. Control de robots . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.6.4. Toma de decisiones 1.6.5. Filtrado de señales . . . . . . . . . . . . . . . . . . . . . . . . . .
21 23 26 27 28 28
REDES ;\IEURONALES ART!FICIALF.S: FUNDA\IENTOS. MODELOS Y APLICACIONES
iNDICE
IX
1.6.6. Segmentación, compresión y fusión de datos . . . 29 1.6.7. Interfaces adaptativas para sistemas hombre/máquina . . 29
3.2. Mecanismo de aprendizaje . . . . . . . . . . . . . . . . . . . . . . . . . . 75 3.2.1. Redes con aprendizaje supervisado . . . . . . . . . . . . . . 76
1.7. Tipos de redes neuronales más importantes . . . . . . . . . . . . . . 30
3.2.2. Redes con aprendizaje no supervisado . . . . . . . . . . . . 82
1.8. Implementación de las redes neuronales . . . . . . 1.8.1. Realización de redes neuronales . . . . . . 1.8.2. Herramientas software de desarrollo . . . 1.8.3. Neurocomputadores de propósito general 1.8.4. Neurocomputadores de propósito especial 1.8.5. Implementación microelectrónica (VLSJ)
.... .... .... ... ... ...
. . . . . .
. . . . . .
. . . . . .
. . . . . .
. . . . . .
. . . . . .
32 34 36 38 41 42
3.3. Tipo de asociación entre las informaciones de entrada y salida
90
3.3.1. Redes heteroasociativas . . . . . . . . . . . . . . . . . . . . . . 91 3.3.2. Redes autoasociativas . . . . . . . . . . . . . . . . . . . . . . . . 9l
3.4. Representación de la información de entrada y salida . . . . . . . 93
45
3.5. Características de los modelos de redes neuronales más conocidos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95
2.1. El modelo biológico .... : . . . . . . . . . . . . . . . . . . . . . . . . . 45 2.1.1. Estructura de la neurona . . . . . . . . . . . . . . . . . . . . . . 45 2.1.2. Naturaleza bioeléctrica de la neurona . . . . . . . . . . . . . 46
CAPÍTULO 4, REDES NEURONALES CON CONEXIONES HACIA ADELANTE ....................... 101
CAPÍTULO 2, FUNDAMENTOS DE LAS REDES NEURONALES
2.2. Elementos de una red neuronal artificial . . . . . . . 2.2.1. Unidades de proceso: La neurona artificial 2.2.2. Estado de activación . . . . . . . . . . . . . . . 2.2.3. Función de salida o de transferencia ... 2.2.4. Conexiones entre neuronas . . . . . . . . . . . 2.2.5. Función o regla de activación . . . . . . . . 2.2.6. Regla de aprendizaje . . . . . . . . . . . . . . . 2.2.7. Representación vectorial . . . . . . . . . . . .
. . . . . . . .
. . . . . . . .
. . . . . . . .
.. .. .. .. .. .. . ..
. . . . . . .
. . . . . .
. . . . . .
. . . . . .
49 51 52 53 57 58 63 64
2.3. Estructura de una red neuronal artificial . . . . . . . . . . . . . . 65 2.3.1. Niveles o capas de neuronas ................... 65 2.3.2~
Formas de conexión entre neuronas
. . . . . . . . . . . . . 67
CAPÍTULO 3, CARACTERÍSTICAS DE LAS REDES NEURONALES . . . . . . . . . . . . . . . . . . . . . . . . . . . 69 3.1. Topología de las redes neuronales . . . . . . . . . . . . . . . . . . . . 69 3.1.1. Redes monocapa . . . . . . . . . . . . . . . . . . . . . . . . . . . 70 3.1.2. Redes multicapa . . . . . . . . . . . . . . . . . . . . . . . . . . . 71
4.1. El Perceptron ................................... JO 1 4.1.1. Regla de aprendizaje del Perceptron .............. 103 4.1.2. Solución al problema de la separabilidad lineal 110 4.2. El Perceptron multinivel
113
4.3. Las redes ADALINE y MADAL!NE .................. 4.3.1. Aprendizaje de la red ADAL!NE ............... 4.3.2. Aplicaciones de la red ADALINE ............. 4.3.3. La red MADALINE .......................
116 118 126 128
4.4. La red Backpropagation ........................... 4.4.1. La regla delta generalizada ................... 4.4.2. Estructura y aprendizaje de la red Backpropagation ... 4.4.3. Consideraciones sobre el algoritmo de aprendizaje ... 4.4.4. Deducción de la regla Backpropagation .......... 4.4.5. Aplicaciones de las redes Backpropagation ........
131 132 136 142 146 154
.._,
.
•
''-·
-·
