apresentacao

Aproximacao de Funcoes, Metodo dos MınimosQuadrados

Jhonatan Andres Aguirre Manco

Matematica Computacional

12 de Maio, 2015

Jhonatan A. A. M. 12 de Maio, 2015 Mınimos Quadrados. . . 1 / 32

Aproximacao de Funcoes, Metodo dos Mınimos Quadrados

Aproximacao de Funcoes• Porque aproximar?

• Facilitar calculos• Representar dados.

• Que Familia de funcoes escolher?

• Polinomicas, Harmonicas• Comportamento aproximado

f (x) =m∑

k=0

akgk(x)

Resıduo r(x)

r(x) = f (x) − g(x) = Mınimo possivel.

Metodo dos mınimos quadrados

r(x) =∑x

r 2(x)



formulacao, dominio discreto

M(a0, a1...am) =n∑

i=1

(r(xi ))2 =n∑

i=1

(f (xi )− g(xi ))2

com

f (x) =m∑

k=0

akgk(x)



Formulacao, Dominio Discreto

M(a0, a1...am) =n∑

i=1

(r(xi ))2 =n∑

i=1

(f (xi )− g(xi ))2

=n∑

i=1

[f (xi )− a0g0 − a1g1(xi )...− amgm(xi )]2

Minimizar M(a)

∂M(a0, a1...am)

∂al= 0




M(a0, a1...am) =n∑

i=1

(r(xi ))2 =n∑

i=1

(f (xi )− g(xi ))2

=n∑

i=1

[f (xi )− a0g0 − a1g1(xi )...− amgm(xi )]2

Minimizar M(a)

∂M(a0, a1...am)

∂al= 2

n∑i=1

[f (xi ) − a0g0...− amgm(xi )](−gl(xi )) = 0 0 ≤ l ≤ m

Sistema de m+1 equacoes com m+1 incognitas




M(a0, a1...am) =n∑

i=1

(r(xi ))2

Minimizar M(a)

n∑i=1

a0g0(xi )gl(xi ) +n∑

i=1

a1g1(xi )gl(xi )..n∑

i=1

amgm(xi )gl(xi ) =n∑

i=1

f (xi )gl(xi )





M(a0, a1...am) =n∑

i=1

(r(xi ))2

Minimizar M(a)

n∑i=1

a0g0(xi )gl(xi ) +n∑

i=1

a1g1(xi )gl(xi )..n∑

i=1

amgm(xi )gl(xi ) =n∑

i=1

f (xi )gl(xi )

Usando a definicao do produto escalar

< g0gl >=n∑

i=1

a0g0(xi )gl(xi )





M(a0, a1...am) =n∑

i=1

(r(xi ))2

Minimizar M(a)

< g0|g0 > < g0|g1 > ... < g0|gm >< g1|g0 > < g1|g1 > ... < g1|gm >

. . . .< gm|g0 > < gm|g1 > ... < gm|gm >

a0

a1

.am

=

< g0|f >< g1|f >

.< gm|f >

Sistema Normal

Sistema de m+1 equacoes com m+1 incognitas, simetrico



Formulacao, Dominio Contınuo

M(y) =

∫ xf

xi

(r(x))2dx =

∫ xf

xi

(f (x)− a0g0(x)...amgm(x))2

Minimizar M(a)

∂M(y)

∂al== −2

∫ xf

xi

(f (x) −m∑

k=0

akgk(x))(gl(x))dx



Formulacao, Dominio Contınuo

M(y) =

∫ xf

xi

(r(x))2dx =

∫ xf

xi

(f (x)− a0g0(x)...amgm(x))2

Minimizar M(a)

∂M(y)

∂al== −2

∫ xf

xi

(f (x) −m∑

k=0

akgk(x))(gl(x))dx

Usando a definicao do produto escalar

< fg >=

∫ xf

xi

f (x)g(x)dx





M(y) =

∫ xf

xi

(r(xi ))2

Minimizar M(y)

< g0|g0 > < g0|g1 > ... < g0|gm >< g1|g0 > < g1|g1 > ... < g1|gm >

. . . .< gm|g0 > < gm|g1 > ... < gm|gm >

a0

a1

.am

=

< g0|f >< g1|f >

.< gm|f >

Sistema Normal

Sistema de m+1 equacoes com m+1 incognitas, simetrico


Exemplo, Regresao Linear

x 0 1.5 3 4.5 6

f(x) 1 1.57 2 4.3 7

Polinomio de grau 1

g(x) = ag0 + bg1 = a + bx

g0 = 1 g1 = x

Funcao a Minimizar

M(a, b) =m∑i=1

r(xi )2 =

m∑i=1

(f (xi )− a− bxi )2



x 0 1.5 3 4.5 6

f(x) 1 1.57 2 4.3 7

Polinomio de grau 1

g(x) = ag0 + bg1 = a + bx

g0 = 1 g1 = x

Minimizar M(a,b)

< g0|g0 > < g0|g1 > ... < g0|gm >< g1|g0 > < g1|g1 > ... < g1|gm >

. . . .< gm|g0 > < gm|g1 > ... < gm|gm >

a0

a1

.am

=

< g0|f >< g1|f >

.< gm|f >



x 0 1.5 3 4.5 6

f(x) 1 1.57 2 4.3 7

Polinomios

g(x) = ag0 + bg1 = a + bx

g0 = 1 g1 = x

Minimizar M(a,b){< 1|1 > < 1|x >< 1|x > < x |x >

}{ab

}=

{< 1|f (x) >< x |f (x) >

}



x 0 1.5 3 4.5 6

f(x) 1 1.57 2 4.3 7

Polinomios

g(x) = ag0 + bg1 = a + bx

g0 = 1 g1 = x

Minimizar M(a,b) {5 10

10 30

}{ab

}=

{1031

}

a = −1

5b =

11

10g(x) = −1

5+

11

10x


Caso especial, Polinomios Ortogonais

Produto interno

< gk |gl >= 0

Minimizar M(y)

< g0|g0 > < g0|g1 > ... < g0|gm >< g1|g0 > < g1|g1 > ... < g1|gm >

. . . .< gm|g0 > < gm|g1 > ... < gm|gm >

a0

a1

.am

=

< g0|f >< g1|f >

.< gm|f >



Produto interno

gk |gl >= 0

Minimizar M(y)

< g0|g0 > 0 ... 0

0 < g1|g1 > ... 0. . . .0 0 ... < gm|gm >

a0

a1

.am

=

< g0|f >< g1|f >

.< gm|f >

ak =

< gk |f >< gk |gk >

0 ≤ k ≤ m



Polinomios Ortogonais

Qualquer Polinomio q de grado m, pode ser escrito como CL dos(m + 1) primeiros Polinomios ortogonais P1,P2...Pm

q(x) =m∑

k=0

bkPk(x)

Agora, multiplicando por Pk

< q|pk >= bk < Pk |Pk >



Polinomios Ortogonais, Relacao de recorrencia para encontrarPolinomios Ortogonais

Pk(x) = (x − αk)Pk−1 − βkPk−2 (1)

Onde o coeficiente do termo mais altao grau de cada Polinomio Pk

e 1

Onde αk e βk sao obtidos pelo produto escalar de (1) comPk−1 e Pk−2

αk =< xPk−1|Pk−1 >

Pk−1|Pk−1

βk =< xPk−1|Pk−2 >

Pk−2|Pk−2

Sempre e quando sejam conhecidos os 2 primeiros Polinomios, sendoP−1(x) = 0 e P0 = 1


Exemplo, Polinomios Ortogonais

Construir Tres Primeiros Polinimonios Ortogonais usando:

Pk(x) = (x − αk)Pk−1 − βkPk−2 (1)

Com P−1(x) = 0 e P0 = 1



Construir Tres Primeiros Polinimonios Ortogonais em [0,1]usando:

Pk(x) = (x − αk)Pk−1 − βkPk−2

Com P−1(x) = 0 e P0 = 1

P1

P1(x) = (x − α1)P0 − βkP−1

α1 =< xP0|P0 >

< P0|P0 >=< x |1 >

1|1=

∫ 10 xdx∫ 10 dx

=1

2

βk =< xPk−1|Pk−2 >

< Pk−2|Pk−2 >= 0 ja que P−1 = 0.



Construir Tres Primeiros Polinimonios Ortogonais em [0,1]usando:

Pk(x) = (x − αk)Pk−1 − βkPk−2

Com P−1(x) = 0 e P0 = 1

P2

P2(x) = (x − α2)P1 − β2P0

α1 =< xP1|P1 >

< P1|P1 >=

< x |(x − 12 ) >

< (x − 12 ))|(x − 1

2 )) >=

1

2

βk =< xP1|P0 >

< P0|P0 >=< (x(x − 1

2 )|1) >

< 1|1 >=

1

12



Aproximar f (x) = ex em [0,1] usando os 3 PrimerosPolinomios ortogonais definidos por:

P0 = 1 P1 = x − 1

2P2 = x2 − x +

1

6




P0 = 1 P1 = x − 1

2P2 = x2 − x +

1

6

Lembrando

g(x) =m∑

k=0

akgk(x) =m∑

k=0

akxk

Se < gk |gl >= 0

ak =< gk |f >< gk |gk >

0 ≤ k ≤ m




P0 = 1 P1 = x − 1

2P2 = x2 − x +

1

6

Lembrando

g(x) =m∑

k=0

akgk(x) =m∑

k=0

akxk

Se < gk |gl >= 0

a0 =< 1|ex >< 1|1 >

= e − 1




P0 = 1 P1 = x − 1

2P2 = x2 − x +

1

6

Lembrando

g(x) =m∑

k=0

akgk(x) =m∑

k=0

akxk

Se < gk |gl >= 0

a1 =< x − 1

2 |ex >

< x − 12 |x −

12 |1 >

= 6(3− e)




P0 = 1 P1 = x − 1

2P2 = x2 − x +

1

6

Lembrando

g(x) =m∑

k=0

akgk(x) =m∑

k=0

akxk

Se < gk |gl >= 0

a2 =< x2 − x + 1

6 |ex >

< x2 − x + 16 |x2 − x + 1

6 >= 30(7e − 19)




P0 = 1 P1 = x − 1

2P2 = x2 − x +

1

6

Lembrando

g(x) =m∑

k=0

akgk(x) =m∑

k=0

akxk

Se < gk |gl >= 0

g(x) = (e − 1) + 6(3− e)(x − 1

1) + 30(7e − 19)(x2 − x +

1

6)


Caso Particular, Analise Harmonica

Quando f (x) e perıodica e continua

g(x) = a0

m∑k=1

(akcoskx + bksenkx)

< gk(x)|gl(x) >=∫ c+2π

cgk(x)gl(x)dx = 0, uma vez que:

1, cosx , cos2x , cos3x ...cosnx

senx , sen2x , sen3x ...sennx

Sao funcoes Ortogonais

Se < gk |gk >= 0

a0 =1

2π

∫ c+2π

c

f (x)dx

ak =< f |coskx >

< coskx |coskx >bk =

< f |senkx >< senkx |senkx >


Casso Particular, Analise Harmonica

Quando f (x) e perıodica e discreta, com 2N pontos equidistantes.

g(x) = a0 +m∑

k=1

[akcoskπ

Ni + bksenk

π

Ni ]

< gk(x)|gl(x) >=∑2N

i=1 gk(xi)gl(xi)dx = 0 sobre xi = πNi

1, cosx , cos2x , cos3x ...cos(N − 1x), cosNx

senx , sen2x , sen3x ...sen((N − 1)x)

Sao funcoes Ortogonais

Se < gk |gl >= 0

a0 =1

N

2N∑i=1

f (xi )dx

ak =< f |coskx >

< coskx |coskx >bk =

< f |senkx >< senkx |senkx >


Exemplo, Analise Harmonica Discreto

x 1 2 3 4f(x) 3 5 7 6

g(x) = a0 + a1cosx + b1senx

Se < gk |gl >= 0

a0 =1

N

2N∑i=1

f (xi )dx

ak =< f |coskx >

< coskx |coskx >=

1

N

2N∑i=1

f (xi )cos[kπ

Ni ]

bk =< f |senkx >

< senkx |senkx >=

1

N

2N∑i=1

f (xi )sen[kπ

Ni ]


Exemplo, Analise Harmonica Discreto

x 1 2 3 4f(x) 3 5 7 6

g(x) = a0 + a1cosx + b1senx

Se < gk |gk >= 0

a0 =1

4

2N∑i=1

f (xi )dx =21

4

a1 =1

N

2N∑i=1

f (xi )cos[kπ

Ni ] =

1

2[3cos

π

2+5cos

2π

2+7cos

3π

2+6cos

4π

2] =

1

2

b1 =1

N

2N∑i=1

f (xi )sen[kπ

Ni ] =

1

2[3sen

π

2+5sen

2π

2+7sen

3π

2+6sen

4π

2] = −2


apresentacao

Documents