3 - lecture 1 - Descenso de gradiente.pdf

REGRESIÓN LINEAL CON UNA VARIABLE

DESCENSO DE GRADIENTE Martin Zhindon

DESCENSO DE GRADIENTE ●

●

Función de hipótesis: Función de costo:

●

Descenso de !"diente –

Estimar los parámetros de la funcin de hiptesis


Det"##e: –

Iniciar con !alores Cam"iar constantemente para reducir

–

hasta alcan#ar el m$nimo

–


ESTI$AR %AR&$ETROS –

–

– –

El %ráfico a continuacin representa una funcin cual&uiera Se ha colocado en los e'es ()* respecti!amente+ Se ha colocado en el e'e !ertical # ,os puntos en el %ráfico representan el resultado de la funcin de costo) usando uno parámetros espec$ficos+

DESCENSO DE GRADIENTE


●

-ara determinar &ue se ha alcan#ado el m$nimo) nuestra funcin de costo tiene &ue lle%ar hasta la punto más "a'o en el %ráfico+ ,a forma de lle%ar al punto más "a'o es tomando la deri!ada'#ine" t"nenci"# " #" (unción de costo))


●

●

●

,a forma de lle%ar al punto más "a'o es tomando la deri!ada'#ine" t"nenci"# " #" (unción de costo)) ,a pendiente de la tan%ente es la deri!ada en un pundo dado+ ,a pendiente pro!ee la direccin hacia donde mo!erse+ Se dan pasos hacia a"a'o de la funcin de costo+


●

Se dan pasos hacia a"a'o de la funcin de costo+ El tama.o de cada paso esta determinado por el parametro denominado/ –

Tasa de aprendi#a'e

ALGORIT$O DE DESCENSO DE GRADIENTE ●

●

Repeti! h"st" #" con*e!enci"+

, Actu"#i-"ción si.u#t"ne"'i.p#e.ent)

DETALLE DERIVADA

DETALLE DERIVADA

DETALLE TASA DE A%RENDI/A0E

COMO DETERMINAR 01E SE A,CANZO ,A SO,1CI2N3333

DETER$INAR SOLUCIÓN ●

●

Supon%amos &ue se encuentra en el Ó%TI$O LOCAL4punto más "a'o5 ) como en la fi%ura a continuacin+ Cual sera el si%uiente paso en la %radiente descendente

DETER$INAR SOLUCIÓN

TASA DE A%RENDI/A0E FI0A ●

●

Descenso de %radiente con fi'a puede con!er%ir al m$nimo local Automáticamente toma !alores cada !e# más pe&ue.os) a media de &ue la pendiente disminu*e

DESCENSO DE GRADIENTE A-,ICADO A REGRESION ,INEA,

DEDUCCIÓN

DEDUCCIÓN

DESCENSO DE GRADIENTE ALGORIT$O DE DESCENSO DE GRADIENTE A%LICADO A REGRESIÓN LINEAL


●

●

Función de hipótesis: Función de costo: Descenso de !"diente –

Estimar los parámetros de la funcin de hiptesis

Repetir hasta la con!er%encia6

7

ALGORIT$O DE DESCENSO DE GRADIENTE

FUNCIÓN DE COSTO %ARA REGRESIÓN LINEAL ●

●

,a funcin de costo para re%resin linea siempre !a a ser una funcin 8O9, S:A-E O FUNCIÓN CONVE1A –

-osee un ;nico punto ópti.o #oc" u ópti.o #o2"#

ALGORIT$O EN ACCIÓN










ALGORIT$O EN ACCIÓN 3 SOLUCIÓN ●

1na !e# esta"lecidos los parametros de la funcin de hiptesis4ecuacin de la recta &ue más se a'usta a los datos5) es posi"le hacer predicciones

DESCENSO DE GRADIENTE3 %RACTICA ●

●

In!esti%ar como pro%ramar el al%oritmo de descenso de %radiente+ 1tili#ando OCTA
TRABA0O GRU%AL ●

INVESTIGAR – – – – – –

01E ES -ROGRAMACION 01E ES 1NA INSTR1CCION 01E ES 1N -ROGRAMA DE COM-1TADOR 01E ES SO>T9ARE 01E ES E, ,ENG1A?E DE -ROGRAMACION ,ENG1A?ES DE -ROGRAMACION E@ISTENTES4COM-1TACI2N N1MRICA5

%RACTICA ●

INSTALACIÓN DE OCTAVE –

INGENIERIA CIVIL

-ROGRAMACI2N DIGITA, CON OCTA
CONCE%TOS B&SICOS ●

%ROGRA$ACIÓN – –

DECIR 01E :ACER COMO :ACER ●

–

DETA,,E

INSTRUCCIONES CORRECTAS ●

TAREAS


INSTRUCCIÓN: – –

COMANDO 8SICO F COM-1TADOR COM-1TADOR ●

E?EC1TA TAREA SIM-,E  ES-ECH>ICA


%ROGRA$A DE CO$%UTADOR – –

●

COM-1ESTO
%ROGRA$ADOR –

ESCRI8RE -ROGRAMAS O SOFT4ARE ●

INSTRUCCIONES5 COMO REA,IZAR TAREAS


REALI/AR O%ERACIONES ARIT$ETICAS CON VARIABLES


SOFT4ARE – – –

-ROGRAMA CO,ECCI2N DE -ROGRAMAS E?EC1TAN EN E, COM-1TADOR ●

●

,OCA, CONECTADO


CO$%UTADOR FUNCIONA$IENTO B&SICO – –

-IENSAFGRAN CANTIDAD CIRC1ITOS CIRC1ITOS INTERR1-TORES ●

●

–

ENCENDIDO 45 A-AGADO 45

C2DIGO 8INARIO4J estados5 ●

●

s * s Di%ito "inario K "it


OCTAVE 3 LENGUA0E %ARA 6U$ANOS 7 EL CO$%UTADOR – – –

Computador F "inario :umano F no "inario ,en%ua'e de -ro%ramacin ●

humano4instrucciones5F Fcomputador4"inario5

t!"duce


%OR 8UE %ROGRA$AR9 – – –

TAREAS -ERSONA,IZADAS CONOCER >1NCIONAMIENTO INICIATI

%OR 8UE OCTAVE9 – – – – –

>ACI, ,I8RE O-EN SO1RCE COM-1TACI2N N1MRICA 1SO -RO>ESIONA,/ C1RSOS STAN>ORD


%ENSAR CO$O %ROGRA$ADOR – – –

AD01IRIR CONOCIMIENTOS CON OCTA
OCTAVE ●

●

VERSIÓN ;<;= OCTAVE GUI – – –

S:E,, -ERMITE INTERACT1AR CON -T:ON FFF F ES-ERA -OR INSTR1CCIONES

OCTAVE $ODO INTERACTIVO ●

$ODO INTERACTIVO – –

●

●

ESCRI8IR 1N COMANDO OCTA
CORRER 333> E0ECUTAR UNA INSTRUCCION5 CO$ANDO O %ROGRA$A;

%7T6ON %ROGRA$ACIÓN ●

ERRORES DE SINTA1IS – –

REG,AS ORTOGRA>HA  GRAMTICA INSTR1CCI2N INCORRECTA A OCTA
INICIANDO CON OCTAVE ●

●

GUI ? Inte!("- !@(ic" de usu"!io INSTRUCCIÓN – –

●

displa*4Lhola mundo5 displo*4Lhola mundo5

%ALABRA RESERVADA – –

e*ord Es parte del len%ua'e Octa!e ●

displa*

INTERACTUANDO CON OCTAVE ●

=


=

●

=  H


=

●

=  H ●

=H==H  H==H=

3 - lecture 1 - Descenso de gradiente.pdf

Recommend Documents