Semana 3 - Clase 9
Tema 2: Espacios Vectoriale Vectorialess
21/04/09
Ortogonalizaci´ on on 1.
M´ etodo etodo de Gram-Schmidt Gram-Schmidt
Hemos visto que un conjunto de vectores ortogonales forman base para un espacio vectorial. torial. Ahora bien, siempre es posible construir construir un conjunto conjunto de vectore vectoress ortogonale ortogonaless a partir partir de un conjunto de vectores vectores linealmente independientes. Es m´etodo etodo de “ortogonalizaci´on” on” se 1 conoce cono ce como com o el m´etodo etodo de Gram-Schmidt Gr am-Schmidt , en honor de estos dos matem´aticos aticos alemanes que NO inventaron el m´etodo, etodo, el cual al parecer se le debe al matem´atico atic o fran f ranc´ c´es es P.S. Lapla La place. ce. Dado un conjunto de vectores linealmente independientes, v1 , v2 , v3 , , vn n que expanden un espacio Euclidiano de dimensi´on on finita, E . Entonces siempre se puede construir un conjunto ortogonal de vectores, u1 , u2 , u3 , en ex, un que tambi´en n pandan E de la siguiente forma:
{| | | · · · | } {| | | · · · | }
|u ≡ |v |u ≡ |v − 1
1
2
2
v2 |u1 u1 |u1
|u ≡ |v −
v3 |u2 u2 |u2
|u ≡ |v −
v4 |u3 u3 |u3
3
4
3
4
|u 1
2
|u −
v3 |u1 u1 |u1
|u
|u −
v4 |u2 u2 |u2
|u −
2
3
1
2
v4 |u1 u1 |u1
.. .
|u 1
.. .
|u ≡ |v − n
n
n−1 vn |ui i=1 ui |ui
u |u = 0 uu ||uu == 00 u |u = 0 u |u = 0 u |u = 0
|u
i
1
| || | 3
1
3
2
4
1
4
2
4
3
u4 u1 = 0 u4 u2 = 0 u4 u3 = 0
.. .
u4 un−1 = 0
As´ As´ı siempre es posible p osible construir una base ortonormal a partir de un conjunto de vectores linealmente independientes. Esta base ortogonal ser´a unica u ´ nica en E n , si existe otra sus vectores ser´an an proporcionales, M´as a s a´ un, cada espacio vectorial Vn de dimensi´on un, on finita tendr´a una base ortogonal asociada. asociada. 1
aticoAlem´ aticoAlem´ an fundador del primer instituto de an Erhard Schmidt (1876, Estonia-1959 Alemania). Matem´ matem´aticas aticas aplicadas de Berl´ın. ın. Alumno Al umno de Hilbert, Schmidt hizo sus mayo mayores res contribuciones en Ecuaciones Integrales y Teor´ eor´ıa de Funciones en el Espacio de Hilbert. http://www-history.mcs.st-andrews.ac.uk/Mat .st-andrews.ac.uk/Mathematicians hematicians M´ as as detalles http://www-history.mcs
H´ecto ectorr Hern He rn´´andez andez / Luis N´u˜ un ˜ ez
1
Universidad de Los Andes, M´erida
Semana 3 - Clase 9
Tema 2: Espacios Vectoriales
21/04/09
Ejemplos
El subespacio de V4 expandido por los siguientes vectores
| | − | − | ≡ | − || | 1 3 1 2
v1 =
;
2 0 1 3
v2 =
;
v3 =
Tendr´a una base ortogonal asociada dada por:
| u ≡ |v = 1
3
1 1 0 0
; u2
v2 u1 u1 u1
v2
u1 =
2 0 1 3
− − 1 1 0 0
.
1 1 0 0
+
=
1 1 1 3
|u ≡ |v − uv ||uu |u − uv ||uu |u = 3
1
1
2
2
2
2
1
1
1
1
1
− − 5
| ≡ − − 1 3 1 2
u3
9 12
1 1 1 3
−
(1)
− 1 1 0 0
y la base ortonormal asociada ser´a
|e = 1
− √ | | √ | | − − u1
u1 u1
1 1 0 0
2 2
=
;
1 = 4
5
;
7 1
|e = |uu |u = 2
2
2
2
√
12 12
1 1 1 3
;
5 4
|e 3
u3 = = u3 u3
2 3 9
5 4 7 4 1 4
H´ector Hern´andez / Luis N´un ˜ ez
2
Universidad de Los Andes, M´erida
Semana 3 - Clase 9
Para el caso de pendientes,
Tema 2: Espacios Vectoriales
21/04/09
2 R
es muy claro. Si tenemos dos vectores v1 y v2 linealmente inde-
| |
1 1
0 ; |v = ; |v = 1 elegimos |u ≡ |v entonces, |u vendr´a dado por |u ≡ |v − uv ||uu |u ⇒ |u ≡ 11 − 1
1
2
2
2
2
1
1
1
1
1
1
2
0 1
1 0
=
tal y como se esperaba, el otro vector ortogonal es el can´onico. Si consideramos el espacio de polinomios, n , de grado g n definidos en el intervalo [ 1, 1] Este espacio vectorial tendr´a como una de las posibles bases al conjunto 1 1, t , t2 , t3 , , tn con el producto interno viene definido por f g = −1 dx f (x) g (x) . Por lo tanto, se procede a construir una base ortogonal de la forma
P
−
{
≤ |
··· }
|u ≡ |v = 1 , |u ≡ |v − uv ||uu |u = t v |u = dx t = 0; u |u = dx = 2 |u ≡ |v − uv ||uu |u − uv ||uu |u = t − v |u = dx t = ; v |u = dx t = 0; 0
1
0
2
1 −1
2
2
1
1
1
1 −1
0
u |u = 1
1
0
2
1
1
1 −1
1
2 3
2
dx t2 =
1
0
0
0
1 −1
0
0
2
0
0
0
2
0
1 3
2
0
1 −1
1
2 3
3
|u ≡ |v − uv ||uu |u − uv ||uu |u − uv ||uu |u = t − v |u = dx t = 0; v |u = dx t = 3
3
0
v |u = 3
.. .
3
2
3
2
2
2
2
− 1 −1
1 dx −1
3
t3 t2
1 3
3
1
1
1
3
1
= 0;
1
1 −1
3
0
0
0
2
2
3 t 5
2 5
4
u |u =
3
0
− 1 dx −1
t2
1 2 3
=
8 45
Podemos resumir lo anterior de la siguiente manera
H´ector Hern´andez / Luis N´un ˜ ez
3
Universidad de Los Andes, M´erida
Semana 3 - Clase 9
|v 1
1 t
t2 t3 t4
.. .
2.
|u
| − − − − − − e1
1
t4
Tema 2: Espacios Vectoriales
21/04/09
1
1 2
t
3 t 2
t2
1 3
1 2
5 2
(3t2
1)
t3
3 t 5
1 2
7 2
(5t3
3t)
9 2
(35t4
6 2 t 7
+
.. .
3 35
1 8
30t2 + 3)
.. .
Complementos Ortogonales.
V se dice que es ortogonal a S si el producto Sea un subespacio S V, un elemento v¯i S, es decir, v¯i es ortogonal a todos los elementos de S. interno: sk v¯i = 0 sk El conjunto v¯1 , v¯2 , v¯3 , , v¯m de todos los elementos ortogonales a S, se denomina S perpendicular y se denota como S⊥ . Es f´acil demostrar que S⊥ es un subespacio, a´un si S no lo es.
−
3.
⊂ | ∈ | ∀ | ∈ | {| | | ··· | }
Descomposici´ on ortogonal
Dado v1 , v2 , v3 , un espacio euclidiano V y un subespacio de V con , vn , V se puede expresar como suma dimensi´ on finita, S V y dim V = m. Entonces vk ⊥ ⊥ S sk S . Esto es de dos vectores sk
{| | | ··· | ···} ⊂ ∀ | ∈ | ∈ ∧ | ∈ |v = |s + |s |s ∈ S ∧ |s ∈ S M´as a´ un, la norma de |v se calcula a trav´es del teorema de Pit´agoras generalizado k
k
k
⊥
k
k
⊥
⊥
k
2
2
|v = |s k
k
+
| sk
⊥
2
La demostraci´on es sencilla. Primero se prueba que la descomposici´on ortogonal vk = ⊥ on finita, por sk + sk es siempre posible. Para ello recordamos que S V es de dimensi´ lo tanto existe una base ortonormal e1 , e2 , e3 em para S. Esto es, dado un vk ⊥ definimos los elementos sk y sk como siguen
| |
| |
| |
⊂ {| | | ···| }
m
|s = k
i=1
H´ector Hern´andez / Luis N´un ˜ ez
⊥
| | ∧ |s
vk ei ei
k
4
= vk
| − |s k
Universidad de Los Andes, M´erida
Semana 3 - Clase 9
Tema 2: Espacios Vectoriales
21/04/09
N´otese que vk ei ei es la proyecci´on de vk a lo largo de ei y sk se expresa combinaci´on lineal de la base de S. Por lo tanto est´a en S, y por otro lado:
| |
|
| |
m
⊥
s |e = (v | − s | ) |e = v |e −s |e = v |e − k
i
k
k
i
k
i
k
i
k
i
j =1
⊥
v |e e | |e = 0 ⇒ |s ⊥ |e k
j
j
i
k
j
S⊥ . lo cual indica que sk ⊥ Podemos ir un poco m´as all´a. La descomposici´on vk = sk + sk ⊥ es u ´ nica en V. Para demostrarlo suponemos que existen dos posibles descomposiciones, vale decir
| ∈
⊥
|v = |s + |s k
k
k
| | |
⊥
∧ |v = |t + |t k
k
k
con sk
⊥
⊥
⊥
| ∧ |t ∈ S ∧ |s ∧ |t ∈ S k
k
k
Por lo tanto
|
| − | | ⊥
⊥
⊥
⊥
= 0 ⇒ |s − |t = |t − |s |v − | v = s + s t + t Pero |s − |t ∈ S, por lo tanto ortogonal a todos los elementos de S y |s − |t = |t −|s con lo cual |s −|t ≡ |0 que es el ´unico elemento que es ortogonal a el mismo y en consecuencia la descomposici´on |v = |s + |s es u ´ nica. ⊥
k
k
k
k
k
k
⊥
k
k
k
k
k
k
k
k
k
⊥
k
k
k
k
k
k
⊥
Finalmente, con la definici´on de norma 2
|v k
=
|
| |
sk + sk
As´ı, dado Sm
⊥
2
=
| |
sk + sk
⊥
|
sk + sk
⊥
⊥
= sk sk + sk sk
⊥
2
|
| | |s + s un subespacio de V de dimensi´on finita y dado un |v ∈ V el elemento k
k
k
m
|s ∈ S k
|s = k
| |
vk ei ei
i=1
ser´a la proyecci´on de vk en S. V y un subespacio de V con dimensi´ Dado un vector x on finita, Sm V y dim V = m, entonces la distancia de x a Sm es la norma de la componente de x , perpendicular a
| | ∈
m
S .
4. 4.1.
|
|
⊂
Temas Avanzados Aproximaci´ on de Funciones
Sea v1 , v2 , v3 , un Espacio Euclidiano V y un subespacio de V con , vn , V. La proyecci´ dimensi´ on finita, Sm V y dim V = m, y sea un elemento vi on de vi m m en S , si , ser´a el elemento de S m´as pr´oximo a vk . En otras palabras
{| | | ··· | ···} ⊂ | ∈ | | |v − |s ≤ |v − |t ∀ |t ∈ S i
H´ector Hern´andez / Luis N´un ˜ ez
i
i
i
5
|
i
Universidad de Los Andes, M´erida
⊥
2
Semana 3 - Clase 9
Tema 2: Espacios Vectoriales
21/04/09
La demostraci´on se sigue as´ı 2
2
2
|v − |t = (|v − |s ) − (|s − |t ) ⇒ |v − |t = |v − |s + |s − |t ya que |v −|s = |s ∈ S ∧ |s −|t ∈ S, y vale el teorema de Pit´agoras generalizado, i
i
i
i
i
i
i
⊥
k
i
⊥
i
i
i
i
i
i
i
i
Ahora bien, como 2
|s − |t ≥ 0 i
i
2
2
⇒ |v − |t ≥ |v − |s ⇒ |v − |t ≥ |v − |s i
i
i
i
i
i
i
i
Ejemplos
Desarrollemos la aproximaci´on de funciones continuas, reales de variable real y definidas en [0, 2π ], [0∞,2π] , mediante funciones Trigonom´etricas y con el producto interno definido
C
2π
por f g = 0 dx f (x) g (x) . Hemos visto que para este espacio vectorial tenemos una base ortonormal definida por
|
|e = ϕ 0
|e = ϕ 2n
0 (x)
2n
=
√12π ,
(x) =
|e
2n−1
=ϕ
2n−1
(x) =
√1π cos(nx)
y
√1π sen(nx).
Por lo tanto cualquier funci´on definida en el intervalo [0 , 2π ] puede expresarse en t´erminos de esta base como ∞
|f =
con
|
C i ei
i=1
2π
C i = ei f =
|
dx f (x) ϕi (x) =
0
2π 0
dx f (x) = a0
2π 0
dx f (x)cos(nx) = a2n−1 si i = 2n
2π 0
dx sen(nx) f (x) = a2n
si i = 0
−1
si i = 2n
donde los C i son los coeficientes de Fourier. Es decir, cualquier funci´on puede ser expresada como una serie de Fourier de la forma n
1 [an cos(nx) + bn sen(nx)] f (x) = a0 + 2 n=1
con an =
1 π
2π
dx f (x) cos(nx)
∧
0
H´ector Hern´andez / Luis N´un ˜ ez
6
bn =
1 π
2π
dx f (x)sen(nx)
0
Universidad de Los Andes, M´erida
Semana 3 - Clase 9
Tema 2: Espacios Vectoriales
21/04/09
Es claro que para la aproximaci´on de funciones por funciones Trigonom´etricas cuyos coeficientes son los coeficientes de Fourier constituyen la mejor aproximaci´on. Por lo ∞ tanto, de todas las funciones (x) etricas, (x) mini[0,2π ] las funciones trigonom´ mizan la desviaci´on cuadr´atica media
P ∈ C
2π
dx (f (x)
0
4.2.
T
2
− P (x))
≥
2π
dx (f (x)
0
2
− T (x))
El M´ etodo de M´ınimos Cuadrados
Una de las aplicaciones m´as importantes en la aproximaci´on de funciones es el m´etodo de m´ınimos cuadrados. La idea es determinar el valor m´as aproximado de una cantidad f´ısica, c a partir de un conjunto de medidas experimentales: x1 , x2 , x3 , o n es xn . La intenci´ encontrar en el mejor valor de c a partir de ese conjunto de datos experimentales. Para ello asociamos el conjunto de medidas x1 , x2 , x3 , xn con las componentes de un vector x en Rn . As´ı
{
{
|
· ·· }
··· }
|x = (x , x , x , ··· x ) ∧ c |y = (c,c,c, ·· · c) Por lo tanto si la mejor aproximaci´on de c|y ,que llamaremos c’|y ,ser´a la proyecci´on perpendicular de |x (las medidas) sobre el subespacio generado por |y . Esto es x |y = x + x + x , ··· + x c = y |y n 1
2
3
n
1
2
3
n
que no es otra cosa que el promedio aritm´etico de las medidas. Es claro que la proyecci´on perpendicular de x sobre y hace m´ınimo la distancia entre el subespacio perpendicular generado por y y el vector x .Es decir hace m´ınimo el cuadrado de esa distancia
|
|
| |
n
2
[d ( x , c y )] = ( x
| |
| − c y| ) | (|x − |c y) =
(xi
i=1
2
−c)
Es claro que este problema se puede generalizar si se desea medir dos (o n) cantidades. Para el caso de dos cantidades extendemos la dimensi´on del espacio. Por lo tanto, los resultados experimentales se acumular´an en un vector de 2 n dimensiones
|x = (x
11 , x12 , x13 ,
··· x
1n , x21 , x22 , x23 ,
2n )
··· x
mientras que los vectores que representan las cantidades m´as aproximadas ser´ an
c1
|y = 1
··· ···
c1 ,0, 0, 0,
n
n
c1 ,c1 ,c1 ,
H´ector Hern´andez / Luis N´un ˜ ez
0
∧ 7
c2
2
2
2
2
|y = (0, 0, 0, ··· 0, c ,c ,c , · ·· c ) 2
Universidad de Los Andes, M´erida
Semana 3 - Clase 9
Tema 2: Espacios Vectoriales
21/04/09
Ahora y1 , y2 expanden un subespacio vectorial sobre el cual x tiene como proyecci´on ortogonal c1 y1 + c2 y2 y consecuentemente x a perpendicular a c1 y1 c2 y2 ser´ y1 , y2 , por lo tanto
{| | } | | {| | } x |y = x + x + x , ··· + x c = y |y n 1
1
1
11
12
13
| −|
| −|
1n
∧
1
c2
=
x |y = x y |y 2
2
21
+ x22 + x23 , n
2
··· + x
2n
La consecuencia m´as conocida de esta aproximaci´on de funciones es el “ajuste” de un conjunto de datos experimentales (x1 , y1 ) , (x2 , y2 ) , (x3 , y3 ) , o n de , (xn , yn ) a la ecuaci´ una recta y =cx. En este caso, el planteamiento del problema se reduce a encontrar el vector c x en el subespacio S ( x ) est´ e lo m´as cercano posible al vector y = c x . Por lo tanto 2 ser´a lo menor posible y c x a perpendicular a S ( x ), por lo tanto y y ser´ cx
{
| | − |
···
|
}
|
| | −| | x| (|c x − |y) = 0 ⇒ c = xx ||xy = x y x++x xy ++ xx ,y···· ··++x x y Ejemplo Si el conjunto de datos experimentales es {(1, 2) , (3, 2) , (4, 5) , (6, 6)} ¿ cu´ al es la
1 1
2 2 2 2
2 1
3 3 2 3
n n
2
n
recta que ajusta m´as acertadamente a estos puntos ? La ecuaci´on queda como
|y = c |x
⇒
2 2 5 6
=c
1 3 4 6
+ 36 32 = ⇒ c = xx ||xy = 21 ++ 69 ++ 20 16 + 36 31
Ahora bien, se puede generalizar esta procedimiento cuando se tiene que una cantidad y que es una combinaci´on lineal desconocida de un conjunto de cantidades y = c1 x1 + c2 x2 + c3 x3 +
··· + c
m xm
En este caso se ejecutar´an n experimentos con n > m y el conjunto de medidas experimentales ser´an (y1 , x11 , x12 , x13 ,
1m ; y2 , x21 , x22 , x23 ,
· ·· x
2m ; y3 , x31 , x32 , x33 ,
· ·· x
· ·· x ; ··· y , x 3m
n
n1 , xn2 , xn3 ,
··· x
y a partir de ellas generamos el siguiente sistema de ecuaciones y1 = c1 x11 + c2 x12 + c3 x13 ,
y2 = c1 x21 + c2 x22 + c3 x23
y3 = c1 x31 + c2 x32 + c3 x43
··· + c , ··· + c , ··· + c
.. . yn = c1 xn1 + c2 xn2 + c3 xn3 , H´ector Hern´andez / Luis N´un ˜ ez
8
m x1m m x2m
m x4m
··· + c
m xnm
Universidad de Los Andes, M´erida
nm
)
Semana 3 - Clase 9
Tema 2: Espacios Vectoriales
21/04/09
en el cual las inc´ognitas c1 ,c2 ,c3 , cm hacen que el lado derecho de las ecuaciones antes mencionadas sean los m´as pr´oximas a las y1 , y2 , y3 , yn por lo tanto si consideramos los vectores
{
· ·· } {
··· }
|x = (x , ··· x ) ; |x = (x , ·· · x ) ; ···|x = (x , ··· x ) ; |y = (y , ··· y ) por lo tanto los {|x , |x , ···|x } expanden el subespacio S (|x , |x , ···|x ) donde est´a la aproximaci´o n de |y . Por lo tanto la distancia de este subespacio al vector |y , 1
11
1n
2
1
21
2
2n
m1
m
m1
mn
1
m
2
n
m
ser´a m´ınimo. Esto es
2
[d (S (ci xi ) , y )] = ( S (ci xi )
| | | | − y|) (|S (c |x ) − |y) y por lo tanto |S (c |x ) − |y ser´a ortogonal a
i
i
i
| −| ≡ | m
x | (|S (c j
i
i
xi )
y )
xi
ci
i=1
|x − |y
=0
∀
i, j = 1, 2, 3,
··· m
por lo tanto podemos construir el sistema de ecuaciones normales para la aproximaci´on que hemos considerado:
c1
c1
.. .
2 2
3 3
x |x + c x |x + c x |x + ··· + c x |x x |x + c x |x + c x |x + ··· + c x |x 1
1
2
1
2
1
2
2
2
3
1
3
2
3
m
1
m
m
2
m
= x1 y = x2 y .. .
| |
x |x + c x |x + c x |x + ··· + c x |x = x |y donde, tal y como se ha se˜ nalado, las inc´ognitas son las {c ,c ,c , ··· c } c1
m
1
m
2
3
n
m
m
1
2
m
n
3
m
Ejemplos
Se sospecha que una determinada propiedad de un material cumple con la ecuaci´on y = ax1 + bx2 . Si al realizar un conjunto de medidas experimentales obtenemos
− y1 x11 x12
=
15 1 2
;
y2 x21 x22
=
12 2 1
y3 x31 x32
;
=
10 1 1
;
y4 x41 x42
=
Es claro que tenemos un subespacio de m = 2 dimensiones y hemos hecho n = 4 veces el experimento. Por lo tanto los vectores considerados arriba ser´an
|x = (1, 2, 1, 1) ; |x = (2, 1, 1, −1) ; |y = (15, 12, 10, 0) 1
2
por lo tanto 7a +4b = 49 4a +7b = 52 H´ector Hern´andez / Luis N´un ˜ ez
⇒
a=
45 11
b=
56 11
9
⇒ 11y = 45x
1
+ 56x2
Universidad de Los Andes, M´erida
0 1 1
Semana 3 - Clase 9
Tema 2: Espacios Vectoriales
21/04/09
Se puede extender el razonamiento anterior y generar un ajuste linear cuadr´atico. Esto es, el ajuste lineal es en los coeficiente, pero la funcionalidad de la ley a la cual queremos ajustar los datos puede ser un polinomio de cualquier orden. Ese es el caso de una par´abola que ajusta al siguiente conjunto de puntos y = ax2 + bx + c
{(0, 1) , (1, 3) , (2, 7) , (3, 15)} ⇔ Las ecuaciones toman la forma de 1 = 0 +0 3 = a +b 7 = 4a +2b 15 = 9a +3b
+c +c +c +c
y los vectores construidos a partir de los datos experimentales ser´an
|x = (0, 1, 4, 9) ; |x = (0, 1, 2, 3) ; |x = (1, 1, 1, 1) ; |y = (1, 3, 7, 15) 1
2
3
las ecuaciones normales para este sistema son 136 = 98a +36b +14c 62 = 36a +14b +6c 26 = 14a +6b +4c
⇒
a=
−6
b=
113 5
c=
−
32 5
⇒
y=
2
−6x
+
113 x 5
− 325
Al medir la temperatura a lo largo de una barra material obtenemos los siguientes valores Ejercicios
xi T i
(cm) 1, 0 2, 0 3, 0 4, 0 5, 0 6, 0 7, 0 8, 0 9, 0 (◦ C ) 14, 6 18, 5 36, 6 30, 8 59, 2 60, 1 62, 2 79, 4 99, 9
Encuentre, mediante el m´etodo de los m´ınimos cuadrados los coeficientes que mejor ajustan a una recta T = ax + b
H´ector Hern´andez / Luis N´un ˜ ez
10
Universidad de Los Andes, M´erida