Using dynamic programming for solving variational problems in vision Amir A. Amini, Terry E. Weymouth, Ramesh C. Jain IEEE TRANSACTIONS ON PATTERN ANALYSIS.

Apresentação em tema: "Using dynamic programming for solving variational problems in vision Amir A. Amini, Terry E. Weymouth, Ramesh C. Jain IEEE TRANSACTIONS ON PATTERN ANALYSIS."— Transcrição da apresentação:

1 Using dynamic programming for solving variational problems in vision Amir A. Amini, Terry E. Weymouth, Ramesh C. Jain IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE. 1990 Grupo de Discussões SINFO-UPD Monica Matsumoto 25/04/2008

2 1 - Cálculo Variacional Problemas com funções de desempenho ou custo Problemas com funções de desempenho ou custo Controle: CUSTO Dispêndio de combustível ou de energia para realizar uma dada tarefa, tempo para transferir o sistema de um estado para o outro, RECOMPENSA lucro auferido com venda, massa da carga transportada, tempo médio entre falhas Controle: CUSTO Dispêndio de combustível ou de energia para realizar uma dada tarefa, tempo para transferir o sistema de um estado para o outro, RECOMPENSA lucro auferido com venda, massa da carga transportada, tempo médio entre falhas Visão: Encontrar superfície suave desejada, preservar descontinuidades, detecção de contornos, contornos ativos Visão: Encontrar superfície suave desejada, preservar descontinuidades, detecção de contornos, contornos ativos Problema de Maximização ou Minimização, transformação por troca de sinal do funcional Problema de Maximização ou Minimização, transformação por troca de sinal do funcional

3 1.1 - Cálculo Variacional – Um pouco de história Problema de Dido (850 ac) Problema de Dido (850 ac) Euclides, Arquimedes (287-212 ac) Euclides, Arquimedes (287-212 ac) Apolônio (262-190 ac) Apolônio (262-190 ac) Fermat (1601-1665) Fermat (1601-1665) Isaac Newton (1642-1727) Isaac Newton (1642-1727) Leibniz (1646-1716) Leibniz (1646-1716) Lagrange (1736-1813) Lagrange (1736-1813) Galileu Galilei (1564-1643) Galileu Galilei (1564-1643) Johan Bernoulli (1667-1748) Johan Bernoulli (1667-1748) James Bernoulli (1654-1705) James Bernoulli (1654-1705) Leonard Euler Leonard Euler Legendre (1752-1833) Jacobi (1804-1851) Weierstrass (1815-1897) Carl Gauss (1777-1855) Pierre Bonnet (1819-1892) Gaston Darboux (1819-1892) David Hilbert (1862-1943) Willian Hamilton (1805-1865) Oscar Bolza (1857-1942) Jacques Hadamard (1865-1963)...

4 1.2 - Cálculo Variacional: Problemas Clássicos Problema da braquistócrona Problema da braquistócrona Problemas isoperimétricos Problemas isoperimétricos Geodésicas Geodésicas Superfície de revolução com área mínima Superfície de revolução com área mínima

5 1.2.1 – Problema da Braquistócrona Sejam A e B dois pontos dados em um plano vertical. O problema consiste em encontrar uma curva que uma partícula M precisa descrever para sair de A e chegar em B no menor tempo possível, somente sob ação da gravidade. John Bernoulli, 1696. Sejam A e B dois pontos dados em um plano vertical. O problema consiste em encontrar uma curva que uma partícula M precisa descrever para sair de A e chegar em B no menor tempo possível, somente sob ação da gravidade. John Bernoulli, 1696.

6 1.2.2 – Problemas Isoperimétricos Quando queremos minimizar ou maximizar uma função impondo alguma restrição, como por exemplo que uma outra função se mantenha constante. Quando queremos minimizar ou maximizar uma função impondo alguma restrição, como por exemplo que uma outra função se mantenha constante. Ex. Problema de Dido Ex. Problema de Dido Fundação de Cartago

7 1.2.3 - Geodésicas Dados dois pontos na superfície Dados dois pontos na superfície g(x,y,z) = 0 Qual é a equação do arco pertencente à superfície e ligando estes pontos, que tem o menor comprimento?

8 1.2.4 – Superfície de revolução de área mínima Dados dois pontos (x 1,y 1 ) e (x 2, y 2 ) buscamos passar de um para o outro ao longo de um arco y=y(x) tal que a rotação desse arco sobre o eixo x gere uma superfície de revolução cuja área incluída em x 1 ≤x ≤x 2 seja mínima. Dados dois pontos (x 1,y 1 ) e (x 2, y 2 ) buscamos passar de um para o outro ao longo de um arco y=y(x) tal que a rotação desse arco sobre o eixo x gere uma superfície de revolução cuja área incluída em x 1 ≤x ≤x 2 seja mínima.

9 Problema: minimização do funcional Problema: minimização do funcional 2 - Método Variacional na Visão

10 2.1 – Condições Necessárias Condição de Euler-Lagrange Condição de Euler-Lagrange Necessária, porém não suficiente Necessária, porém não suficiente

11 2.1 – Condições Necessárias Condição de Legendre Condição de Legendre Elimina máximos relativos fracos das possíveis soluções. Elimina máximos relativos fracos das possíveis soluções.

12 2.1 – Condições Necessárias Condição de Jacobi Condição de Jacobi

13 2.1 – Condições Necessárias Método de Lagrange Método de Lagrange Equação de Euler-Lagrange modificada Equação de Euler-Lagrange modificada Funcional Funcional h i (x,y)=0, para i=1,2,...,m são restrições, têm de ser diferenciáveis i (x) são os multiplicadores de Lagrange i (x) são os multiplicadores de Lagrange

14 2.2 - Ressalvas Equação de Euler-Lagrange é apenas necessária para otimalidade. Não garante otimalidade absoluta ou relativa. Equação de Euler-Lagrange é apenas necessária para otimalidade. Não garante otimalidade absoluta ou relativa. Outras condições de ordem maior (e.g., Jacobi, Weierstrass) Outras condições de ordem maior (e.g., Jacobi, Weierstrass)  geralmente difícil de testar, e  não são suficientes para o caso geral. Teoria de cálculo variacional não descreve propriedades de minimizadores absolutos. Garante solução para mínimo relativo do tipo fraco. Teoria de cálculo variacional não descreve propriedades de minimizadores absolutos. Garante solução para mínimo relativo do tipo fraco.

15 2.2 - Continuação... Ressalvas A second issue of concern is to enforce possibly nondifferentiable constraints on the solution. In many vision applications, the ability to enforce hard constraints on the solution is required. A second issue of concern is to enforce possibly nondifferentiable constraints on the solution. In many vision applications, the ability to enforce hard constraints on the solution is required. Lagrangian-based methods could turn the constrained problem into an unconstrained problem. However, require 1) higher dimensional spaces, since now there are more unknowns that must be dealt with, and 2) the constraints themselves must be differentiable. With dynamic programming, constraints simply limit the set of admissible solutions and in fact reduce the computational complexity. Lagrangian-based methods could turn the constrained problem into an unconstrained problem. However, require 1) higher dimensional spaces, since now there are more unknowns that must be dealt with, and 2) the constraints themselves must be differentiable. With dynamic programming, constraints simply limit the set of admissible solutions and in fact reduce the computational complexity. Third issue of numerical stability and accuracy. In using variational approaches, there is a need for estimates of higher order derivatives of discrete data. Computing high order derivatives of discrete, noisy data leads to numerical instability due to amplification of high frequency noise content. Third issue of numerical stability and accuracy. In using variational approaches, there is a need for estimates of higher order derivatives of discrete data. Computing high order derivatives of discrete, noisy data leads to numerical instability due to amplification of high frequency noise content.

16 3 - Relações entre Cálculo Variacional e Programação Dinâmica Princípio da Otimalidade (Bellman) Princípio da Otimalidade (Bellman) Considere um ponto C pertencente a uma trajetória AB. Se a trajetória AB for ótima partindo de A, então CB é ótima partindo de C. Considere um ponto C pertencente a uma trajetória AB. Se a trajetória AB for ótima partindo de A, então CB é ótima partindo de C. A C B

17 3 - Relações entre Cálculo Variacional e Programação Dinâmica Solução Numérica Solução Numérica

18 Custo baseado em energias internas e externas Custo baseado em energias internas e externas onde onde 4 – Minimização de Energia em Contornos Ativos

19 Iterativamente: Iterativamente:onde

20 4 – Minimização de Energia em Contornos Ativos

21 Na programação dinâmica, o contorno ativo converge em um número finito de interações, já que a energia decresce monotonicamente com o tempo. Na programação dinâmica, o contorno ativo converge em um número finito de interações, já que a energia decresce monotonicamente com o tempo.

22 5 - Conclusão Dynamic programming is an attractive methodology for optimization since it bypasses local minima and allows for enforcement of hard constraints on the solution within a natural and straightforward structure. Convergence of the algorithm is guaranteed, and so is the optimality of the solution. *