Quadrados Mínimos

Situação Em diversas ciências com uma dimensão experimental, é necessário modelizar os fenômenos a partir de tabelas de dados experimentais. A modelização consista em inúmeros casos em procurar a função que expressa melhor a relação entre os dados.

Problema O objetivo do método de mínimos quadrados é determinar uma função, a partir de combinação linear de funções simples, que aproxima um conjunto de pontos. Existem métodos polinomiais (aproximação com polinômio), mas elas não sempre fornecem aproximações aceitáveis. O método de mínimos quadrados permite estender as aproximações com funções não polinomiais.

Exemplo 1 Esse conjunto de pontos aparece como uma parabola.

Exemplo 2

Caso discreto A partir de uma tabela de valores (discretas), que representam vários pontos de uma função teórica (f(x)), tentamos determinar uma função j(x) combinação linear de funções gi(x) (j(x)=a1g1(x)+...+angn(x)) de tal forma que o desvio de j - f seja mínimo para os valores da tabela. O que significa mínimo nesse caso?

Caso contínuo No caso contínuo, dada uma função f(x) contínua no intervalo [a,b] e escolhidas as funções g1(x), .., gn(x), o objetivo é determinar constantes a1, ..., an de tal forma que j(x)=a1g1(x)+...+angn(x) se aproxima ao maximo de f(x) no intervalo [a,b]. O que significa aproximar nesse caso?

Método dos quadrados mínimos Caso discreto Considerando um conjunto de valores {(x1,f(x1)), ..., {(xm,f(xm))} e n (com n£m) funções gn(x), o objetivo é encontrar um conjunto de coeficientes a1, .., an de tal forma que a função j(x)=a1g1(x)+..+angn(x) se aproxima ao máximo de f(x). O criterio para decidir da aproximação é minimizar a soma dos quadrados da diferencia entre as duas funções nos xi ou seja minimizar:

Método dos quadrados mínimos Caso discreto Minimizar é minimizar a função: Para minimizar essa função F, devemos encontrar os pontos críticos da função, ou seja os valores (a1,...,an) tal que:

Método dos quadrados mínimos Caso discreto Elemento de calculo: Para derivar, considerando os termos com ai:

Método dos quadrados mínimos Caso discreto Elemento de calculo:

Método dos quadrados mínimos Caso discreto Com a condição: obtemos assim o sistema a resolver:

Método dos quadrados mínimos Caso discreto As equações desse sistema são chamadas equações normais. Ele pode ser escrito: Onde e A matriz desse sistema é simétrica.

Método dos quadrados mínimos Caso discreto Considerando os vetores e e o produto escalar de dois vetores: Os coeficientes aij podem ser escritos: e bi: Demontra-se que se as funções g1(x),...,gn(x) forem tais que os vetores: sejam linearmente independentes, o sistema admite uma solução única. Demonstra-se também que esta solução é o ponto em que a função F atinge seu valor mínimo.

Método dos quadrados mínimos Caso discreto Se os vetores tiverem a propriedade suplementar seguinte: , nesse caso os vetores são ortogonais entre si e a matriz A do sistema é diagonal. Exemplo de funções ortogonais: seria de Fourier (aproximação de funções periódicas), polinômios de Legendre, Gram, Chebyshev.

Método dos quadrados mínimos Caso contínuo Para aproximar uma função em um intervalo [a,b] com j uma combinação linear de funções (g1,...,gn) de coeficientes (a1,...,an), o método de quadrados mínimos propõe de minimizar a área entre as curvas das duas funções, ou seja minimizar:

Método dos quadrados mínimos Caso contínuo Aplicando o mesmo princípio que no caso discreto, trata-se de minimizar a função: Obtemos um sistema de equações lineares: Aa=b, onde A=(aij), a=(a1,...,an) e b=(b1,...,bn). aij=<gi,gj> e bi=<f,gi> com

Método dos quadrados mínimos Caso não linear Existem casos que precisam ser aproximados por funções que não são resultados de combinação linear de funções simples. Por exemplo, podemos precisar de aproximar uma função com:

Método dos quadrados mínimos Caso não linear Para resolver o caso não linear, é necessário linear a função escolhida para a aproximação. No caso de , se queremos aproximar f(x) com essa função, podemos tentar aproximar ln(f(x)) com , ou seja , que é um caso linear. É importante notar que os parâmetros obtidos não são ótimos em relação com o critério de quadrados mínimos.

Método dos quadrados mínimos Teste de alinhamento Uma vez a função não linear em a1,..,an escolhida, para testar se ela é um bom escolhe podemos: Linearizar essa função, Fazer o diagramo de dispersão dos novos dados E observar se os pontos do diagramo estiverem alinhados.

Exercício A tabela abaixo mostra as alturas e pesos de uma amostra de nove homens entre as idades de 25 e 29 anos, extraída ao acaso entre funcionários de uma grande indústria: Faça o diagrama de dispersão dosdados e observer que parece existir uma relação linear entre a altura e o peso. Ajuste a reta que descreva o comportamento do peso em função da altura, isto é peso=f(altura), e ajuste a reta que descreva o comportamento da altura em função do peso, isto é altura=f(peso). Estime o peso de um funcionário com 175 cm de altura; e estima a altura de um funcionário com 80kg com cada uma das duas equações. Altura 183 173 168 188 158 163 193 178 cm Peso 79 69 70 81 61 63 71 73 kg

Solução b) 52.7570x-20.0780 e 0.0159+0.6029 c) Com o primeiro ajuste: 1.75->72.2467 e 80kg->1.897 Com o segundo ajuste: 1.75->72.14 e 80kg->1.871

Exercício Ajuste os dados: Usando a aproximação y»1/(a0+a1x). Faça o gráfico para 1/y e verifique que esta aproximação é viável; Idem para y»abx; Compare os resultados x -8 -6 -4 -2 2 4 y 30 10 9 6 5

Solução y=1/(0.1958+0.0185x) y=5.5199(0.8597)x