IA2016-GRUPOMSN-TP03.pdf

Calificación

FACULTAD DE INGENIERÍA – UNJu – INTELIGENCIA ARTIFICIAL 2016 T.P. Nº 3 – Redes Neuronales Grupo: Pérez Ricardo ardo Daniel.l. 6590. MSN PonceCristi tian Marcelo. 6454. Ramos Pablo Nicolás. 6969

Inicio

25/05/16 Entrega

01/06/16

Problema 1 – Predicción (3 ptos.) El archivo dblue.csv presenta una serie histórica de variación del dólar paralelo (del 03-01-2012 al 03-05-2013). Implementar un sistema de predicción neuronal bajo las siguientes consideraciones:  

Completar las series para los días faltantes. Implementar tres redes neuronales feedforward de tiempo diferido ((1+d)+N+1) para predecir el valor de la serie venta, para uno, seis y quince pasos adelantados, fuera de la serie, luego comparar con el valor correcto. Seleccionar con algún criterio (y explicar) la cantidad necesaria de ventanas de tiempo diferido para cada modelo. Utilizar una heurística disponible para determinar la cantidad N de neuronas ocultas. En la fase de entrenamiento, distribuir convenientemente los conjuntos de entrenamiento y comprobación. Repetir la operación utilizando utilizando redes recurrentes, sin ventana de tiempo y con realimentación realimentación de la salida anterior. Graficar, en todos los casos, los segmentos de predicción simultáneamente con los segmentos originales. Comparar los resultados y sacar conclusiones. 

 







INTRODUCCIÓN El proceso de predicción en series de datos, especialmente las temporales, es un problema muy importante en todos los ámbitos que se utilicen; fundamentalmente, en todos aquellos campos tecnológicos, industriales o financieros. Este último es el que se trata en éste ejercicio, específicamente se predice el valor de la serie precio de venta de la moneda norteamericana (el dólar). Es importante mencionar que la predicción es realizada en vinculación con la serie precio de compra, es decir, la predicción de la seria venta no se realiza en forma aislada de la serie precio de compra del dólar. Aclaradas algunas consideraciones, antes de iniciar con la predicción usando los modelos predictivos (MA y AR), se definen algunos aspectos fundamentales, aplicados a todas las redes neuronales de la misma forma.

DEFINICIÓN DE LA CANTIDAD DE VENTANAS La definición de la cantidad de ventanas, tanto de tiempo diferido como de realimentación, fue establecida experimentalmente según la cantidad de pasos adelantados, es decir:        

El criterio utilizado es que una cantidad insuficiente de ventanas nos proporciona un error cuadrático medio elevado; como así también si la cantidad es importante.

DEFINICIÓN DE LA CANTIDAD DE NEURONAS OCULTAS La definición de la cantidad de neuronas ocultas fue establecida experimentalmente en diez unidades, bajo el criterio de que una cantidad insuficiente de unidades ocultas no proporciona las conexiones sinápticas necesarias para aproximar las trayectorias propuestas, produciendo un elevado error cuadrático medio; por el contrario, una cantidad elevada de unidades ocultas aproximará bien los patrones de entrenamiento, pero tenderá a memorizar los datos de entrada disminuyendo la capacidad de generalización de la red.

DISTRIBUCION DE LOS CONJUNTOS DE ENTRENAMIENTO Y COMPROBACIÓN La distribución de los conjuntos de entrenamiento y comprobación también fue establecida experimentalmente. La misma fue determinada convenientemente de la siguiente manera:

80 %

20 %

Entrenamiento

Comprobación

FUNCIONAMIENTO DEL SCRIPT El funcionamiento del script es el mismo tanto para el modelo MA (comando “modeloMA”) como para el modelo AR (comando “modeloAR”). La explicación es realizada para el modelo MA.

Introducimos el comando “modeloMA”.

DEFINICIÓN DE LA CANTIDAD DE NEURONAS OCULTAS La definición de la cantidad de neuronas ocultas fue establecida experimentalmente en diez unidades, bajo el criterio de que una cantidad insuficiente de unidades ocultas no proporciona las conexiones sinápticas necesarias para aproximar las trayectorias propuestas, produciendo un elevado error cuadrático medio; por el contrario, una cantidad elevada de unidades ocultas aproximará bien los patrones de entrenamiento, pero tenderá a memorizar los datos de entrada disminuyendo la capacidad de generalización de la red.

DISTRIBUCION DE LOS CONJUNTOS DE ENTRENAMIENTO Y COMPROBACIÓN La distribución de los conjuntos de entrenamiento y comprobación también fue establecida experimentalmente. La misma fue determinada convenientemente de la siguiente manera:

80 %

20 %

Entrenamiento

Comprobación

FUNCIONAMIENTO DEL SCRIPT El funcionamiento del script es el mismo tanto para el modelo MA (comando “modeloMA”) como para el modelo AR (comando “modeloAR”). La explicación es realizada para el modelo MA.

Introducimos el comando “modeloMA”.

Presionamos la tecla ENTER y luego introducimos el número de pasos adelantados.

Presionamos la tecla ENTER y el programa visualiza las siguientes ventanas.

Ilustración 1-Ventana de Entrenamiento

Ilustración 2-Diagrama de la Red Neuronal

Ilustración 3-Gráfica de la Serie Venta

CODIGO FUENTE DEL SRIPT Archivo modeloMA.m: % l i mpi amos l a consol a cl c; % l i mpi amos el espaci o de t r abaj o c l ear al l ; % cerr amos t odas l as ventanas cl ose al l ; % cargamos l os dat os necesar i os % X: pr eci o del dol ar compr a % T: preci o del dol ar vent a l oad( ' dol arData. mat' ) ; % numer o de pasos adel ant ados N = i nput ( ' I ngr ese el número de pasos adel ant ados: ' ) ; % l os val or es de ent r ada y deseados se di vi den en dos grupos % el pr i mer gr upo es ut i l i zado para el ent r enami ent o de l a red i nput Ser i es = X( 1: end - N) ; t arget Seri es = T(1: end - N) ; % el segundo gr upo son l os nuevos dat os que se ut i l i zan par a l a si mul aci on % i nput Ser i esVal es ut i l i zado para l a pr edi cci on de l os nuevos val or es % deseados % t ar get Ser i esVal es ut i l i zado par a l a val i daci on de l a red despues de l a % pr e di c ci on i nput Ser i esVal = X( end - N + 1: end) ; t ar getSeri esVal = T( end - N + 1: end) ; % est o general ment e no est a di sponi bl e % f unci on de ent r enami ent o t r ai nFcn = ' t r a i nl m' ; % numer o de vent anas de t i empo di f er i do del ay = N; % numer o de neuronas de l a capa ocul t a neur onsHi ddenLayer = 10; % cr eaci on de l a red neur onal net = t i medel aynet( 1: N, neur onsHi ddenLayer, t r ai nFcn) ; % preparaci on de l os dat os para el ent r enami ent o y si mul aci on [ Xs, Xi , Ai , Ts] = preparets( net , i nput Seri es, t ar get Seri es) ; % di st r i buci on de l os datos de ent r enami ent o y val i daci on net . di vi dePar am. t r ai nRati o = 80/ 100; net. di vi dePar am. val Rati o = 20/ 100; net. di vi dePar am. t estRati o = 0/ 100; % di vi di r l os dat os en f orma al eat or i a net . di vi deFcn = ' di vi der and' ; % di vi di r cada val or net . di vi deMode = ' t i me' ; % f unci on de r endi mi ent o net . perf ormFcn = ' mse' ; % err or cuadr ati co medi o % ent r enami ent o de l a r ed neuronal net = t r ai n( net , Xs , Ts , Xi , Ai ) ; % most r amos el di agr ama de l a r ed neur onal vi ew( net ) ; % predi cci on en mul t i pl es pasos de t i empo [ Y , Xf , Af ] = net ( Xs , Xi , Ai ) ; [ yPr e d, Xf p, Af p] = net ( i nput Ser i es Val , Xf , Af ) ; % creaci on de l a graf i ca f i gur e; or i gi nal Ser i es = T;

pr edi ct i onSer i es = T; pr edi ct i onSer i es(end - N + 1: end) = yPr ed; % di buj amos en l a gr af i ca pl ot ( 1: l engt h ( T ) , c el l 2mat ( pr e di c t i onSer i es ) , ' r ' , 1: l engt h( T ) , c el l 2mat ( or i gi nal Ser i es ) , ' b' ) ; l egend( ' Ser i e de Predi cci ón' , ' Ser i e Or i gi nal ' , ' Locat i on' , ' Sout hEast' ) ;

Archivo modeloAR.m: % l i mpi amos l a consol a cl c; % l i mpi amos el espaci o de t r abaj o c l ear al l ; % cerr amos t odas l as ventanas cl ose al l ; % cargamos l os dat os necesar i os % X: pr eci o del dol ar compr a % T: preci o del dol ar vent a l oad( ' dol arData. mat' ) ; % numer o de pasos adel ant ados N = i nput ( ' I ngr ese el número de pasos adel ant ados: ' ) ; % l os val or es de ent r ada y deseados se di vi den en dos grupos % el pr i mer gr upo es ut i l i zado para el ent r enami ent o de l a red i nput Ser i es = X( 1: end - N) ; t arget Seri es = T(1: end - N) ; % el segundo gr upo son l os nuevos dat os que se ut i l i zan par a l a si mul aci on % i nput Ser i esVal es ut i l i zado para l a pr edi cci on de l os nuevos val or es % deseados % t ar get Ser i esVal es ut i l i zado par a l a val i daci on de l a red despues de l a % pr e di c ci on i nput Ser i esVal = X( end - N + 1: end) ; t ar getSeri esVal = T( end - N + 1: end) ; % est o general ment e no est a di sponi bl e % f unci on de ent r enami ent o t r ai nFcn = ' t r a i nl m' ; % numer o de vent anas de r eal i ment aci on del ay = N; % numer o de neuronas de l a capa ocul t a neur onsHi ddenLayer = 10; % cr eaci on de l a red neur onal net = narxnet ( 0: 0, 1: N, neur onsHi ddenLayer, ' open' , t r ai nFc n) ; % preparaci on de l os dat os para el ent r enami ent o y si mul aci on [ Xs, Xi , Ai , Ts] = preparets( net , i nput Seri es, {}, t arget Ser i es) ; % di st r i buci on de l os conj unt os de ent r enami ent o y val i daci on net . di vi dePar am. t r ai nRati o = 80/ 100; net. di vi dePar am. val Rati o = 20/ 100; net. di vi dePar am. t estRati o = 0/ 100; % di vi di r l os dat os en f orma al eat or i a net . di vi deFcn = ' di vi der and' ; % di vi di r cada val or net . di vi deMode = ' t i me' ; % f unci on de r endi mi ent o net . perf ormFcn = ' mse' ; % err or cuadr ati co medi o % ent r enami ent o de l a r ed neuronal net = t r ai n( net , Xs , Ts , Xi , Ai ) ;

% most r amos el di agr ama de l a r ed neur onal vi ew( net ) ; % predi cci on en mul t i pl es pasos de t i empo [ Y 1, Xf o, Af o] = net ( Xs , Xi , Ai ) ; [ net c, Xi c, Ai c] = cl osel oop( net , Xf o, Af o) ; [ yPr e d, Xf c , Af c ] = net c ( i nput S er i es Val , Xi c , Ai c ) ; % creaci on de l a graf i ca f i gur e; or i gi nal Ser i es = T; pr edi ct i onSer i es = T; pr edi ct i onSer i es(end - N + 1: end) = yPr ed; % di buj amos en l a gr af i ca pl ot ( 1: l engt h ( T ) , c el l 2mat ( pr e di c t i onSer i es ) , ' r ' , 1: l engt h( T ) , c el l 2mat ( or i gi nal Ser i es ) , ' b' ) ; l egend( ' Ser i e de Predi cci ón' , ' Ser i e Or i gi nal ' , ' Locat i on' , ' Sout hEast' ) ;

ENTRENAMIENTO DE LA RED NEURONAL 

Red Neuronal con ventanas de retardo (modelo MA):

Para un paso adelantado :

Ilustración 4-Entrenamiento de la red neuronal

Ilustración 5-Diagrama de la red neuronal

Para seis pasos adelantados:



Para quince pasos adelantados:





Red Neuronal recurrente (modelo AR):

Para un paso adelantado:









PREDICCION DE LA SERIA VENTA 

Red Neuronal con ventanas de retardo (modelo MA):


Ilustración 16-Gráfica de la serie venta







Red Neuronal recurrente (modelo AR):





Ilustración 21-Gráfica de la serie venta (zoom)



Ilustración 23-Gráfica de la serie venta (zoom)

Comparativa de resultados Pasos

Serie Origi nal

Modelo MA

Modelo AR

1

9,88000000000000

9,31891839622410

9,85571497098135

9,20000000000000

8,76390390610901

9,16600128401967

9,34000000000000

8,90199406574665

9,32867011491376

9,30000000000000

8,93353066858176

9,33117119883043

9,40000000000000

8,94099827978432

9,45205258242097

9,63000000000000

8,94832039906053

9,65464563858188

9,88000000000000

8,96337702553687

9,85797120524081

8,43000000000000

8,34130208139488

8,43273557854457

8,42000000000000

8,39364177805483

8,41257415225129

8,52000000000000

8,51364638655813

8,55398862158208

8,70000000000000

8,56612562571255

8,70456464095840

8,66000000000000

8,87246218613334

8,69527212330610

8,63000000000000

8,68158905021904

8,65083265395917

8,67000000000000

8,64340163037245

8,66566329949545

8,86000000000000

8,78151084178807

8,88419538500422

8,94000000000000

8,97262097004072

8,97440986528315

9,20000000000000

9,00233465076531

9,19732348382259

9,34000000000000

9,29313046043780

9,35751753565445

9,30000000000000

9,46146210802987

9,33185205413466

9,40000000000000

9,54135556835543

9,45159156811641

9,63000000000000

9,61707968867077

9,72038821499834

9,88000000000000

9,83059862063859

9,92137844646445

6

15

CONCLUSION

En éste ejercicio, se han evaluado dos modelos de redes neuronales para predecir la serie venta del dólar: la red feedforward con ventana de retardo (modelo MA) y la red recurrente (modelo AR). Las experiencias realizadas, para las que se mantuvieron parámetros similares de los modelos bajo estudio, han mostrado que el segundo modelo de red del tipo recurrente, tiene un excelente comportamiento en el proceso de predicción, tanto para los datos de entrenamiento como para datos no conocidos (conjunto de comprobación).

Problema 2 – Control neuronal (4 ptos.) Las figuras siguientes muestran el esquema de un tanque de reserva con control de nivel por válvula de descarga (Fig. 1), que utiliza un controlador proporcional, y la correspondiente implementación sobre Simulink® (Fig. 2) (archivo Tanque.mdl).

caudal entrada

Tanque Controlador Proporcional

2m c

1m

válvula

Fig. 1 Fig. 2 Utilizando los bloques de captura de datos ( To Workspace), se han registrado dos secuencias de 201 puntos de operación del controlador para el control de nivel con referencia rampa (archivo datos.mat), correspondiente a la entrada del controlador (errL) y salida para control de la válvula (Ac). Las secuencias de control se muestran en la Fig. 3; las secuencias generadoras de datos (rampa set point y respuesta de nivel del tanque) se muestran en la Fig. 4. Nota: la secuencia adicional tout contenida en datos.mat, corresponde al tiempo de ejecución de las secuencias y no es requerido para entrenar la RNA. 0.8

errL

0.7

2

Ac 0.6

1.8

0.5

1.6

SPnivel

l e v i n 1.4

0.4

Nivel del tanque

0.3

1.2 0.2

1 0.1

0.8

0 0

Fig. 3 









20

40

60

80

100

120

140

160

180

200

0

50

100

tiempo

150

200

Fig. 4

Utilizando los datos de operación del controlador ( datos.mat), crear y entrenar una red neuronal FF para trabajar como controlador neuronal proporcional (se recomienda funciones tansig/ocultas – lineal/salida). Luego del entrenamiento, crear un bloque Simulink® que contenga la RNA (función gensim ). Abrir el archivo Tanque.mdl sobre Simulink® y reemplazar el controlador proporcional (bloque Kp) con el bloque de la RNA generado. Comprobar la operación del controlador neuronal para una referencia escalón descendente y para la referencia rampa ascendente que modifiquen el nivel del tanque. El modelo Simulink® ya tiene implementadas tales secuencias, accesibles a través del bloque conmutador Lsp1. Graficar las secuencias obtenidas (nivel de salida y set point) de las pruebas realizadas.

Problema 2) CONTROL NEURONAL a) En el archivo a_Script_Creacion_de_RNA.m tendremos las siguientes sentencias, las cuales son utilizadas para poder crear nuestra red neuronal artificial feed forward (FF) que trabajará co mo controlador proporcional: %Car gamos el dat aset cont eni do en el ar chi vo dat os. mat l oad dat os; %Cr eamos una r ed f eedf or war d con una capa ocul t a de 10 neur onas r ed = f eedf or war dnet ( 10) ; %Conf i guramos l a r ed FF par a que se aj ust e a l os pat r ones de ent r ada y de %sal i da del dat aset y nos i ndi que l a cant i dad de neur onas de ent r ada y sal i da %de l a r ed r ed = conf i gur e( r ed, er r L' , Ac' ) ; %Est abl ecemos el t i po de f unci ón de act i vaci ón de l as neur onas de l a capa %ocul t a r ed. l ayer s{1}. t r ansf er Fcn = ' t a ns i g' ; %Est abl ecemos el t i po de f unci ón de act i vaci ón de l as neuronas de l a capa de %sal i da r ed. l ayer s{2}. t r ansf er Fcn = ' pur el i n' ; %Pr ocedemos a ver como est á f or mada nuest r a r ed ant es de r eal i zar el %ent r enami ent o vi ew( r ed) ; %Ent r enamos l a r ed FF ut i l i zando l os pat r ones de ent r ada y sal i da del dat aset r ed = t r ai n( r ed, er r L ' , Ac ' ) ; %Gener amos el bl oque en Si mul i nk de l a r ed FF ya ent r enada gensi m( r ed) ;

b) Ya desarrollada nuestra red generamos a través de la función gensim() el bloque en Simulink que la represente, dicho bloque está definido en el archivo b_Bloque_RNA.mdl.

c) Luego copiamos el bloque obtenido anteriormente y lo reemplazamos por el controlador proporcional que se encontraba en el archivo .mdl dado por la catedra. Esto se encuentra dentro del archivo c_Tanque_con_RNA.mdl.

d) El paso siguiente fue comprobar la operación de nuestro controlador neuronal. Para ello establecimos tal cual lo muestra el ejercicio, que el Set Point que en este caso es nivel del tanque tiene como mínimo nivel de referencia el valor 1 mientras que el máximo nivel de referencia es 2. Vamos a considerar dos casos, uno en el que el Set Point va variando en forma de una función rampa ascendente durante un intervalo de 100 unidades de tiempo y en otro en donde dicho Set Point va variando en forma de una función escalón descendente durante un intervalo de también 100 unidades de tiempo. Corremos en el entorno Simulink el archivo: d_Tanque_con_RNA _nivel_rampa.mdl para obtener la respuesta del controlador neuronal cuando el Set Point varía de acuerdo a una función rampa ascendente.

d_Tanque_con_RNA _nivel_escalon.mdl para obtener la respuesta del controlador neuronal cuando el Set Point varía de acuerdo con una función escalón descendente.

e) Por último obtenemos las gráficas correspondientes empleando el siguiente script e_Script_Grafica_de_secuencias_con_RNA.m, que contiene las siguientes sentencias. subpl ot ( 2, 1, 1) ; pl ot ( Rampa_Ascendent e) ; axi s( [ 0 100 0 3] ) ; xl abel ( ' t i empo' ) ; yl abel ( ' ni vel ' ) ; l egend( ' Ni vel del Tanque según RNA' , ' Set Poi nt ' ) ; subpl ot ( 2, 1, 2) ; pl ot ( St ep_Descendent e); axi s( [ 0 100 0 3] ) ; xl abel ( ' t i empo' ) ; yl abel ( ' t i empo' ) ; l egend( ' Ni vel del Tanque según RNA' , ' Set Poi nt ' ) ;

Guardamos dichas graficas dentro de un archivo llamado e_Graficas_De_Nivel.fig.

Como podemos observar este controlador neuronal responde de una buena manera para un Set Point o referencia dada por una función rampa ascendente, para este caso el desplazamiento (offset) o el error es considerablemente pequeño a medida que va transcurriendo el tiempo. Para el otro caso el offset o el error es bastante significativo durante el intervalo de 20 a 50 unidades de tiempo, esto se debe al cambio brusco que se produce a los 20 segundos en el valor del Set Point, lo cual hace que mi error sea bastante grande durante dicho intervalo, luego de este el sistema logra estabilizarse (aproximadamente luego de las 50 unidades de tiempo). Para poder mejorar la aproximación en este último caso deberíamos utilizar otro tipo de controlador, en mi caso utilizaría el controlador PD cuya acción derivativa va a permitir que el sistema llegue a estabilizarse en un intervalo de tiempo mucho menor, ya que corrige el error en forma proporcional a la velocidad con que este se ha producido y como vemos aquí fue durante un intervalo de tiempo muy pequeño (por lo tanto la velocidad es alta). Debemos tener en cuenta que nuestra red aprendió del controlador P que ha sido sustituido, y si responde de esta manera, es claro que el controlador P no es adecuado si consideramos una referencia escalón descendente. Para la referencia escalón descendente, lo que también podríamos hacer para poder aumentar el rendimiento de nuestra red y de esa manera disminuir el error es ir modificando los parámetros libres tales como el número de capas ocultas, el número de iteraciones, el número de neuronas en cada capa oculta o la tasa de aprendizaje y ver para que combinación de parámetros libres el error cuadrático medio es menor, esto me permite a mi evaluar el nivel de precisión de mi red neuronal. Para nuestra red neuronal de una sola capa oculta con 10 neuronas el error cuadrático medio obtenido de acuerdo a una referencia rampa asc endente es:

Mientras que el error cuadrático medio de acuerdo a una referencia escalón descendente es:

Como podemos observar el error cuadrático medio para el caso de una referencia escalón descendente es alto si lo comparamos con el error cuadrático medio para el caso una referencia rampa ascendente, por lo que para poder disminuir dicho error deberíamos como ya hemos mencionado anteriormente utilizar otro tipo de controlador o en su defecto modificar los parámetros libres de la red.

Problema 3 – Reconocimiento de patrones (3 ptos.) Crear una red de Hopfield discreta, para trabajar como OCR, bajo las siguientes consideraciones: Utilizar como patrones de entrenamiento las secuencias siguientes, generadas sobre una plantilla de 11x7 pixeles. 



Puede elegir la salida discreta escalón o signo, de modo que los patrones de entrenamiento se configuran como secuencias de acuerdo a las figuras siguientes:

a m o c e i u f á q r s g E

0

0

0

1

0

0

0

0

0

0

1

0

0

0

-1 -1 -1

+1 - 1 - 1

-1

0

0

0

1

0

0

0

0

0

1

1

0

0

0

- 1 - 1 +1 +1 - 1 - 1

-1

0

0

0

1

0

0

0

0

1 0

1

0

0

0

-1

+1

0

+1

-1

-1

-1

0

0

0

1

0

0

0

0

0

0

1

0

0

0

0

0

0

1

0

0

0

0

0

0

1

0

0

0

0

0

0

1

0

0

0

0

0

0

1

0

0

0

0

0

0

1

0

0

1

1

1

1

1

1

a a d i n c i l n a ó l e s a u a c c r s e e S a p

1 0

0

1

0

0

0

+1

-1

-1

+1

-1

-1

-1

0

0

0

1

0

0

0

-1

-1

-1

+1

-1

-1

-1

0

0

0

1

0

0

0

-1

-1

-1

+1

-1

-1

-1

0

0

0

1

0

0

0

-1

-1

-1

+1

-1

-1

-1

0

0

0

1

0

0

0

-1

-1

-1

+1

-1

-1

-1

0

0

0

1

0

0

0

-1

-1

-1

+1

-1

-1

-1

0

0

0

0

1

0

0

0

-1

-1

-1

+1

-1

-1

-1

1

1

1

1

1

1

1

1

+1 +1 +1 +1 +1 +1 +1

a a d i c i l n a o e s n g u a i c r s e S a p

El diseño e implementación puede ser realizado desde la línea de comando, con un script o utilizando la GUI nntool. Comprobar la operación de la red alimentando patrones trazados “a mano” sobre la misma plantilla. Describir los resultados obtenidos y de acurdo a ellos, emitir conclusiones. Nota: puede facilitar la generación de las secuencias, utilizando Excel® que luego se pueden copiar y pegar en el editor de varables de Matlab, o pasarse como un archivo .csv, o copiar directamente en la línea de comandos sobre una variable (ej. >> var=[ pegar ]). 







3) Desarrollo del punto 3 :

Aclaraciones: Las imágenes de los “patrones trazados a mano” están adjuntas en la presentación del Trabajo Práctico, que se encuentra en “\Punto3\OCR”. Dichas imágenes tiene las dimensiones 7x11 (m filas, n columnas: m x n). Un detalle no menos importante es que al cargar los patrones trazados a mano, se debe cambiar el directorio “ f =i mr ead( ' C: \ Users \ Bangho\ Desktop\ OCR\ 0. j peg' ) ; ” por “f =i mread( ' C: \ . . . \ Punt o3\ OCR\ 0. j peg' ) ; ” Explicación de cómo fue diseñado el Script y el funcionamiento OCR con la Red de Hopfield Discreta mediante patrones de prueba trazados a mano. (Abrimos MATLAB y nos dirigimos al script Punto3.m (el cual se encuentra adjunto a este documento)

- Primero

asignamos a 10 variables distintas vi (con i=0,…,9), cada uno de los patrones de

aprendizaje, que en este caso corresponden a cada uno de los números del 0 al 9. Luego almacenamos los vectores de aprendizaje en un objeto tipo celda, en este caso llamado “entrada”.

- Generamos una matriz de pesos adecuada para la red de Hopfield con los vectores de entrenamiento.

- Luego leemos la imagen del patrón de prueba que deseamos reconocer, y se la asignamos a la matriz “f”, como mostraremos en la siguiente captura:

- Una vez que elegimos el patrón de prueba para reconocerlo, transformamos a este en una imagen binaria, y para ello necesitamos elegir el umbral que nos permita minimizar la varianza interclase de los pixeles en blanco y negro, para luego convertir la imagen en escala de grises, en una imagen binaria.

- Transformamos la matriz binaria de 7x11 en un vector de 1x77; y luego cambiamos los 0 por 1, y los 1 por -1 para analizar el patrón de prueba utilizando la función signo.

- Creamos la red, asignamos el patrón de prueba y simulamos la Red de Hopfield Discreta:

- Luego los próximos dos bucles while y for, respectivamente, comparan las simulaciones realizadas para asociar el patrón de prueba con algún patrón de aprendizaje. De no asemejarse a ningún patron de aprendizaje, se puede decir, que la red no converge.

Ahora comprobaremos el algoritmo con los patrones trazados a mano: - Primera prueba. Leemos la imagen que corresponde al 0 y ejecutamos el Script:

El resultado de la ejecución fue satisfactorio porque se reconoció correctamente el número 0, el cual se obtuvo en 7 iteraciones. - Segunda prueba. Leemos la imagen que corresponde al 1 y ejecutamos el Script:

El resultado de la ejecución fue satisfactorio porque se reconoció correctamente el número 1, el cual se obtuvo en 3 iteraciones. - Tercera prueba. Leemos la imagen que corresponde al 2 y ejecutamos el Script:

El resultado de la ejecución fue satisfactorio porque se reconoció correctamente el número 2, el cual se obtuvo en 10 iteraciones. - Cuarta prueba. Leemos la imagen que corresponde al 3 y ejecutamos el Script:

El resultado de la ejecución no fue satisfactorio porque no se reconoció correctamente el número 3, ya que el patrón de prueba se identificó como si fuese el número 3. Se realizaron 12 iteraciones. - Quinta prueba. Leemos la imagen que corresponde al 4 y ejecutamos el Script:

El resultado de la ejecución fue satisfactorio porque se reconoció correctamente el número 4, el cual se obtuvo en 5 iteraciones. - Sexta prueba. Leemos la imagen que corresponde al 5 y ejecutamos el Script:

El resultado de la ejecución fue satisfactorio porque se reconoció correctamente el número 5, el cual se obtuvo en 13 iteraciones.

- Séptima prueba. Leemos la imagen que corresponde al 6 y ejecutamos el Script:

El resultado de la ejecución no fue satisfactorio porque no se reconoció correctamente el número 6, ya que el patrón de prueba se identificó como si fuese el número 0. Se realizaron 24 iteraciones. - Octava prueba. Leemos la imagen que corresponde al 7 y ejecutamos el Script:

El resultado de la ejecución fue satisfactorio porque se reconoció correctamente el número 7, el cual se obtuvo en 3 iteraciones. - Novena prueba. Leemos la imagen que corresponde al 8 y ejecutamos el Script:

El resultado de la ejecución fue satisfactorio porque se reconoció correctamente el número 8, el cual se obtuvo en 13 iteraciones.

- Décima prueba. Leemos la imagen que corresponde al 9 y ejecutamos el Script:

El resultado de la ejecución no fue satisfactorio porque no se reconoció correctamente el número 9, ya que el patrón de prueba se identificó como si fuese el número 0. Se realizaron 20 iteraciones.

Conclusiones: Según los resultados que obtuvimos, podemos concluir que la red en todos los casos de prueba sin excepción alguna, llega a un estado estable (es decir, donde la red permanece con energía constante). El conjunto de patrones de aprendizaje son los que se usan como memoria asociativa, en este caso en forma de patrón almacenado. Luego cuando leemos alguna imagen para su posterior reconocimiento, esta es asociada con alguno de los patrones utilizados como memoria asociativa (patrones de aprendizaje). La red evoluciona (itera) hasta estabilizarce, donde nos ofrece una salida (patrón de aprendizaje) y si el patrón de prueba no coincide con ninguno de los patrones de aprendizaje, la red no obtendrá solución alguna y se concluye que la red no converge. En este caso, la red utiliza una función de activación de tipo signo. Podemos observar que la red posee un problema, el cual sucede cuando queremos reconocer las imágenes con los números 3, 6 y 9, ya que el primero converge a un 2; 6 y 9 a 0, esto se debe a que ciertos patrones de aprendizaje poseen cierta similitudes entre ellos, por lo que la red en esos casos, converge a una salida correspondiente a otras de las “informaciones” almacenadas, y esto se debe al parecido que pueden tener un patrón con otro. Ese problema puede ser minimizado si entre par de patrones de aprendizaje, estos difieran en, por lo menos N/2 componentes, siendo N el número total de componentes por patrón.

Código Fuente (Red de Hopfield Discreta OCR): %Cerr ar t odas l as vent anas cl ose al l ; %Borr ar t odas l as vari abl es c l ear ; %Li mpi amos l a consol a cl c; %- - - - - - - - - - APRENDI ZAJ E DE LA RED NEURONAL DE HOPFI ELD- - - - - - - - - - - - %Gener aci on de l os vector es de apr endi zaj e. %Vect or de apr endi zaj e de l a vari abl e v0 (r epr esenta el val or ' 0' ) v0 = [ - 1, - 1, 1, 1, 1, - 1, - 1, - 1, 1, - 1, - 1, - 1, 1, - 1, 1, - 1, - 1, - 1, - 1, - 1, 1, 1, - 1, - 1, - 1, - 1, - 1, 1, 1, - 1, - 1, - 1, - 1, 1, 1, 1, - 1, - 1, - 1, - 1 , - 1, 1, 1, - 1, - 1, - 1, - 1 , - 1, 1, 1, - 1, - 1, - 1, - 1, - 1, 1, 1, - 1 , - 1, - 1, - 1, - 1, 1, - 1 , 1, - 1, - 1, - 1 , 1, - 1, 1, - 1, 1, 1, 1, - 1 , - 1] ; %Vect or de apr endi zaj e de l a vari abl e v1 (r epr esenta el val or ' 1' ) v1 = [ - 1, - 1, - 1, 1, - 1, - 1, - 1, - 1, - 1, 1, 1, - 1, - 1, - 1, - 1, 1, - 1, 1, - 1, - 1, - 1, 1, - 1, - 1, 1, - 1, - 1, - 1, - 1, - 1, - 1, 1, - 1, 1, - 1, - 1, - 1, - 1 , 1, - 1, - 1 , - 1, - 1, - 1, - 1, 1, - 1, - 1, - 1, - 1 , - 1, - 1, 1, - 1, - 1 , - 1, - 1, - 1, - 1, 1, - 1, - 1, - 1, - 1, - 1, - 1 , 1, - 1, 1, - 1, 1, 1, 1, 1, 1, 1, 1] ; %Vect or de apr endi zaj e de l a vari abl e v2 (r epr esenta el val or ' 2' ) v2 = [ - 1, - 1 , 1, 1, 1, - 1, - 1, - 1 , 1, - 1, - 1 , - 1, 1, - 1, 1, - 1, - 1, - 1, - 1 , - 1, 1, - 1, - 1 , - 1, - 1, - 1, - 1, 1, - 1, - 1, - 1, - 1, - 1, 1, 1, - 1, - 1, - 1, - 1 , 1, - 1, - 1 , - 1, - 1, - 1, 1, - 1, - 1, - 1, - 1, - 1 , 1, - 1, - 1, - 1, - 1 , - 1, 1, - 1, - 1 , - 1, - 1, - 1, 1, - 1 , - 1, - 1, - 1, - 1, 1, 1, 1, 1, 1, 1, 1, 1] ; %Vect or de apr endi zaj e de l a vari abl e v3 (r epr esenta el val or ' 3' ) v3 = [ - 1, - 1 , 1, 1, 1, - 1, - 1, - 1 , 1, - 1, - 1 , - 1, 1, - 1, 1, - 1, - 1, - 1, - 1 , - 1, 1, - 1, - 1 , - 1, - 1, - 1, - 1, 1, - 1, - 1, - 1, - 1, - 1, 1, 1, - 1, - 1, - 1, 1, 1, - 1 , - 1, - 1, - 1, - 1, - 1 , - 1, 1, - 1, - 1 , - 1, - 1, - 1, - 1, - 1, 1, 1, - 1 , - 1, - 1, - 1, - 1, 1, - 1 , 1, - 1, - 1, - 1 , 1, - 1, 1, - 1, 1, 1, 1, - 1 , - 1] ; %Vect or de apr endi zaj e de l a vari abl e v4 (r epr esenta el val or ' 4' ) v4 = [ - 1, - 1, - 1 , - 1, 1, 1, - 1, - 1, - 1, - 1 , 1, - 1, 1, - 1, - 1, - 1, 1, - 1, - 1, 1, - 1 , - 1, 1, - 1 , - 1, - 1, 1, - 1, 1, - 1, - 1, - 1, - 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, - 1, - 1 , - 1, - 1, - 1, 1, - 1, - 1, - 1, - 1, - 1 , - 1, 1, - 1, - 1, - 1 , - 1, - 1, - 1, 1, - 1 , - 1, - 1, - 1, - 1, - 1, 1, - 1, - 1, 1, - 1, - 1, - 1, 1, - 1] ; %Vect or de apr endi zaj e de l a vari abl e v5 (r epr esenta el val or ' 5' ) v5 = [ 1, 1, 1, 1, 1, 1, 1, 1, - 1, - 1, - 1, - 1, - 1, - 1, 1, - 1, - 1, - 1, - 1, - 1, - 1, 1, - 1, - 1, - 1, - 1, - 1, - 1, 1, - 1, 1, 1, 1, - 1, 1, 1, 1, - 1, - 1, - 1, 1, - 1, - 1, - 1, - 1 , - 1, - 1, - 1, 1, - 1, - 1, - 1, - 1, - 1 , - 1, 1, 1, - 1, - 1, - 1, - 1, - 1, 1, - 1, 1, - 1 , - 1, - 1, 1, - 1, 1, - 1, 1, 1, 1, - 1 , - 1] ; %Vect or de apr endi zaj e de l a vari abl e v6 (r epr esenta el val or ' 6' ) v6 = [ - 1, - 1 , 1, 1, 1, - 1, - 1, - 1 , 1, - 1, - 1 , - 1, 1, - 1, 1, - 1, - 1, - 1, - 1 , - 1, 1, 1, - 1, - 1, - 1, - 1, - 1 , - 1, 1, - 1, - 1, - 1 , - 1, - 1, 1, 1, - 1 , 1, 1, 1, - 1, - 1, 1, 1, - 1, - 1 , - 1, 1, - 1 , 1, - 1, - 1, - 1 , - 1, - 1, 1, 1, - 1, - 1, - 1, - 1, - 1 , 1, - 1, 1, - 1 , - 1, - 1, 1, - 1 , - 1, 1, 1, 1, 1, - 1, - 1] ; %Vect or de apr endi zaj e de l a vari abl e v7 (r epr esenta el val or ' 7' ) v7 = [ 1, 1, 1, 1, 1, 1, 1, - 1, - 1, - 1 , - 1, - 1, - 1, 1, - 1, - 1, - 1, - 1, - 1 , 1, - 1, - 1, - 1 , - 1, - 1, - 1, 1, - 1 , - 1, - 1, - 1, - 1, 1, - 1, 1, - 1, - 1, - 1, 1, - 1, - 1, - 1 , - 1, - 1, - 1, 1, - 1, - 1, - 1, - 1, - 1 , 1, - 1, - 1, - 1, - 1 , - 1, 1, - 1, - 1 , - 1, - 1, - 1, - 1, 1, - 1 , - 1, - 1, - 1, 1, 1, - 1 , - 1, - 1, - 1, - 1, - 1 ] ; %Vect or de apr endi zaj e de l a vari abl e v8 (r epr esenta el val or ' 8' ) v8 = [ - 1, - 1, 1, 1, 1, - 1, - 1, - 1, 1, - 1, - 1, - 1, 1, - 1, 1, - 1 , - 1, - 1, - 1, - 1, 1, 1, - 1, - 1, - 1 , - 1, - 1, 1, - 1 , 1, - 1, - 1, - 1, 1, 1, - 1, - 1, 1, 1, 1, - 1, - 1, - 1, 1, - 1, - 1, - 1, 1, - 1, 1, - 1 , - 1, - 1, - 1, - 1, 1, 1, - 1, - 1 , - 1, - 1, - 1, 1, - 1 , 1, - 1, - 1, - 1, 1, - 1, - 1, 1, 1, 1, 1, - 1, - 1] ; %Vect or de apr endi zaj e de l a vari abl e v9 (r epr esenta el val or ' 9' ) v9 = [ - 1, - 1 , 1, 1, 1, - 1, - 1, - 1 , 1, - 1, - 1 , - 1, 1, - 1, 1, - 1, - 1, - 1, - 1 , - 1, 1, 1, - 1, - 1, - 1, - 1, - 1 , 1, - 1, 1, - 1 , - 1, - 1, 1, 1, 1, - 1, 1, 1, 1, - 1 , 1, - 1, - 1 , - 1, - 1, - 1, - 1, 1, - 1, - 1, - 1, - 1 , - 1, - 1, 1, 1, - 1, - 1, - 1, - 1, - 1 , 1, - 1, 1, - 1 , - 1, - 1, 1, - 1 , - 1, 1, 1, 1, 1, - 1, - 1] ; %Al macenamos l os vect ores pat r on en un obj et o t i po cel da ' ent r ada' ent r ada = {v0, v1, v2, v3, v4, v5, v6, v7, v8, v9}; %Pat r ones de pr ueba %Gener amos una mat r i z de pesos adecuada par a l a r ed de hopf i el d con l os %vect or es de ent r enami ent o %Def i ni mos un mat r i x de ceros de 77x77 par a al macenar l os pesos T = [ v0' v1' v2' v3' v4' v5' v6' v7' v8' v9' ] ; %Tr anspuest a de mat r i ces f i l as a mat r i ces col umnas. %I magenes, mat r i ces y vect or es %f =i mr ead( ' C: \ User s\ Bangho\ Deskt op\ OCR\ 0. j peg' ) ; %Leemos el patr on de pr ueba que deseamos r econocer %f =i mr ead( ' C: \ User s\ Bangho\ Deskt op\ OCR\ 1. j peg' ) ; %Leemos el patr on de pr ueba que deseamos r econocer %f =i mr ead( ' C: \ User s\ Bangho\ Deskt op\ OCR\ 2. j peg' ) ; %Leemos el patr on de pr ueba que deseamos r econocer %f =i mr ead( ' C: \ User s\ Bangho\ Deskt op\ OCR\ 3. j peg' ) ; %Leemos el patr on de pr ueba que deseamos r econocer %f =i mr ead(' C: \ User s\ Bangho\ Deskt op\ OCR\ 4. j peg' ) ; %Leemos el pat r on de pr ueba que deseamos r econoc er %f =i mr ead( ' C: \ User s\ Bangho\ Deskt op\ OCR\ 5. j peg' ) ; %Leemos el patr on de pr ueba que deseamos r econocer %f =i mr ead( ' C: \ User s\ Bangho\ Deskt op\ OCR\ 6. j peg' ) ; %Leemos el patr on de pr ueba que deseamos r econocer %f =i mr ead( ' C: \ User s\ Bangho\ Deskt op\ OCR\ 7. j peg' ) ; %Leemos el patr on de pr ueba que deseamos r econocer %f =i mr ead( ' C: \ User s\ Bangho\ Deskt op\ OCR\ 8. j peg' ) ; %Leemos el patr on de pr ueba que deseamos r econocer %f =i mr ead( ' C: \ User s\ Bangho\ Deskt op\ OCR\ 9. j peg' ) ; %Leemos el patr on de pr ueba que deseamos r econocer M=grayt hresh( f ) ; %El i ge el umbr al par a mi ni mi zar l a vari anza i ntr acl ase de l os pí xel es en bl anco y negr o. f bi nar i a=i m2bw( f , M) ; %Convi er t e l a i magen en escal a de gr i ses " f " en una i magen bi nar i a %La si gui ent e por ci ón de códi go que abar ca desde l a l í nea 78 a 83 nos %per mi t e t r ansf or mar l a mat r i z bi nar i a en un vect or de 1x77 I = [ ]; f or i = 1: 1: s i z e( f bi nar i a, 1) I = hor z cat ( I , f bi nar i a( i , : ) ) ;

IA2016-GRUPOMSN-TP03.pdf

Recommend Documents