Redes Neuronales

Redes Neuronales

Método de aprendizaje automático basado en el funcionamiento del cerebro. Las células llamadas neuronas son una unidad de procesamiento que recibe un estimulo eléctrico de otras neuronas principalmente a través de su árbol dendrítico. El estimulo eléctrico recibido al pasar de un cierto umbral causa que la neurona a su vez imprima una señal eléctrica a través de su axón a otras neuronas.

Redes Neuronales Modelo biológico:

Modelo matemático:

• El cer cereb ebro ro tie tiene ne una unas s 1010 neuronas • Conexi Conexion ones es por por neu neuron rona: a: 104-5 • Tiempo Tiempo de activación/ activación/desa desactiva ctivación ción 0.001 seg. seg. • Tiempo Tiempo en recon reconoce ocerr una cara cara 0.1 seg • Comput Computaci ación ón parale paralela! la!

Redes Neuronales Historia: 1943 - Warren Warren McCulloch McCulloch y Walte Walterr Pitts, Pitts, primer primer model modelo. o. 1962 - Widrow Widrow & Hoff desarrolla desarrollan n un método método de de aprendi aprendizaje zaje.. 1963-1980 olvidadas 1980- Múltiples aplicaciones aplicaciones y diferentes modelos modelos

Redes Neuronales  Funciones

lineales: f (x ) = x .  Funciones paso: Dan una salida binaria dependien dependiente te de si el valor valor de entrad entrada a está por  encima o por debajo del valor umbral.  Funciones sigmoidales: Funciones monótonas acotadas que dan una salida gradual no lineal.

Redes Neuronales   

 



Perceptr Perceptrón ón simple: simple: Un perceptr perceptrón ón calcula calcula la suma suma ponderada de los valores de entrada. Por simplicidad, suponemos que tenemos dos valores de entrada, x e y para un perceptrón P. Sean los pesos A y B, por tanto la suma ponderada será: A x + B y. Podemos escribir que la salida del perceptrón perceptrón no sea sea cero si la suma suma ponderada excede de un valor C: Salida de P= 1 if A x + B y > C 0 if A x + B y < = C

Redes Neuronales  



Por tanto A x + B y > C y A x + B y < C son dos regiones en el plano x y separados por la línea A x + B y + C = 0. Si consideramos la entrada (x,y) como un punto del plano entones el perceptrón nos dice a que región región del plano pertenece pertenece el punto punto de entrada. Estas regiones, se llaman linealmente separables. Este resultado es útil ya que algunas funciones lógicas como AND, OR o NOT son operadores linealmente separables por D. Es cedir  se pueden pueden representar representar utilizando utilizando un perceptrón perceptrón simple

• El XOR no es linealmen linealmente te separa separable, ble, por tanto tanto necesita necesitamos mos de más perceptrones perceptrones para poder poder representarlo representarlo

Redes Neuronales Red neuronal multicapa: Cada perceptrón perceptrón está conectado conectado a todos todos los demás de la siguiente capa. Las capas ocultas no están conectadas al exterior. No hay conexión entre las neuronas de la misma capa.

Redes Neuronales   

Unión de diferentes regiones linealmente separables. Fase de Aprendizaje y Fase de prueba . Modificación de los pesos entre las uniones de las diferentes neuronas.

Redes Neuronales  

 

Fase de Aprendizaje: Aprenden por la actualización o cambio de los pesos sinápticos que caracterizan a las conexiones. Los pesos son adaptados de acuerdo a la información extraída de los patrones de entrenamiento nuevos que se van presentando. Normalmente, los pesos óptimos se obtienen optimizando (minimizando o maximizando) alguna "función de energía". Por  ejemplo, un criterio popular en el entrenamiento supervisado es errorr cuad cuadra rati tico co medi medio o) entre el minimizar el least-squ l east-square-error are-error ( erro valor deseado y el valor de salida de la red. Aprendizaje supervisad supervisado o vs Aprendizaje no-supervisado. no-supervisado. Fase de Prueba: Una vez calculados los pesos de la red, las neuronas de la última capa se comparan con la salida deseada para determinar la validez del diseño.

Redes Neuronales  Aprendizaje:

¿Cómo se pueden obtener los pesos adecuados para “aprender" un conjunto de patrones?

Redes Neuronales  Aprendizaje

Hebbiano: Inicialmente se eligen valores aleatorios para los pesos. La idea del aprendizaj aprendizaje e Hebbiano Hebbiano es modificar modificar los los pesos acorde a la correlación entre las unidades.

Redes Neuronales 

 

Descenso de Gradiente: Inicialmente se eligen valores aleatorios para los pesos. La idea de este método es utilizar un proceso iterativa que minimice la función de error. En el caso lineal f(x) =x En general se tiene:

Donde

η

es el parámetro de aprendizaje

Redes Neuronales 

Aprendizaje del precep preceptró trón n multic multicapa apa:



El método más popular de aprendizaje se denomina está á basa basado do retro-propagación (back-propagation ) y est en minimizar la función de error mediante un método de descenso de gradiente.

Redes Neuronales  Los

pesos de correspondientes a las neuronas de la capa de salida y i  = f (y i ) son modificados considerando los valores de las neuronas ocultas h i  = f (h i ).

Redes Neuronales

Redes Neuronales

Redes Neuronales  Aplicaciones:

Reconocimiento de patrones

Redes Neuronales  Aprendizaje

de comportamientos, eventos. Seguimiento, seguridad, etc..

Redes Neuronales  Simulación

del movimiento de objetos (juegos, realidad virtual, etc..)

Redes Neuronales  Predicción

de series de datos:

Meteorológica Bolsa Medicina Créditos

Redes Neuronales Reconocimiento de caras

Redes Neuronales  Aplicaciones

Industriales