Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros.

Apresentação em tema: "Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros."— Transcrição da apresentação:

1 Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros (FPWB)

2 Introdução Classificação de Imagens ▫ Extração de Características (feature extraction)  Diversos algoritmos para extração de bordas, quinas, orientação, cores...

3 Introdução Problema ▫Grande maioria de algoritmos tem sua eficácia restrita a domínios específicos de imagens. Como determinar quais os melhores algoritmos a serem utilizados para a extração de determinada característica?

4 Introdução Proposta ▫Definir características de propósito geral e propor uma solução ótima capaz de extraí-las de quaisquer domínio de imagens. Como encontrar essa solução ótima?

5 Introdução Abordagem ▫Utilizando o conceito de Genetic Programming (GP), ser capaz de se aproximar de uma solução ótima. Genetic Programming?

6 Genetic Programming (GP) Conceitos ▫Operadores Primitivos. ▫Evolução (Crossovers e Mutações). ▫Best Fitness.

7 Genetic Programming (GP) Conceitos

8 Trabalhos Relatos Feature-Focused: Técnicas especializadas na extração de características específicas. ▫Essas técnicas são sensíveis a mudança de domínio. Podem ser excelentes para alguns domínios de imagens, e péssimas em outros.

9 Trabalhos Relatos Whole Scene-Focused: Técnicas que avaliam a imagem por completo. ▫Todas as referências citadas são utilizadas em características hand-crafted. Ou seja, tiveram o seu ambiente de teste preparado para a sua utilização.

10 Trabalhos Relatos Deep Learning: Técnicas utilizando massivos conjuntos de dados para treinamento. ▫Essas técnicas extraem as características de maneira estática. Ou seja, não “aprendem” a melhor maneira de realizar a extração de características.

11 Trabalhos Relatos Genetic Programming: Técnicas utilizando o conceito de programação genética para caracterização de imagens. ▫Todas com uma única finalidade. Enquanto que o artigo propõe uma abordagem de multifinalidade. Além disso, o artigo é o único a utilizar a complexidade da árvore como parâmetro.

12 Metodologia MOGP

13 Estrutura do Programa MOGP

14 O programa MOGP está dividido em 4 partes: ▫Input ▫Filtering ▫Max-polling ▫Concatenation. Segundo o autor, essa estrutura imita a estrutura do córtex humano.

15 Estrutura do Programa MOGP Input Filtering Max-Polling Concatenation

16 Estrutura do Programa MOGP

17 Conjunto Final ▫Conjunto de características extraídas pelo sistema.  Componentes Azul, Verde, Vermelho (Ib, Ig, Ir)  Intensidade de Tom Cinza (Igray)  Coeficiente C atribuído aleatoriamente para cada sub-árvore. ▫A saída possui estas informações a respeito do programa gerado {Ib, Ig,Ir, Igray, C}

18 Estrutura do Programa MOGP Conjunto Final

19 Estrutura do Programa MOGP

20 Conjunto Funções ▫Definição das funções que podem ser utilizadas para compor as árvores do programa (nós). ▫Programas se diferenciam de acordo com a composição de funções. ▫Extrair Informações Significativas ▫Simples e Eficiente (Partículas Atômicas)

21 Estrutura do Programa MOGP Conjunto Funções

22 Estrutura do Programa MOGP Conjunto Funções - Filtering Layer ▫24 Funções distintas. ▫Denoising, Contorno, Orientação... ▫Conjunto Fechado de Funções  Tamanho da Entrada = Tamanho da Saída Composição Irrestrita de Funções!

23 Estrutura do Programa MOGP Conjunto Funções - Filtering Layer

24 Estrutura do Programa MOGP Conjunto Funções – Max-Polling Layer ▫5 Funções distintas. ▫Etapa fundamental do reconhecimento de imagens no córtex cerebral. ▫Conjunto Fechado de Funções  Tamanho da Entrada != Tamanho da Saída, MAS as imagens são restauradas ao tamanho original por interpolação. Composição Irrestrita de Funções!

25 Estrutura do Programa MOGP Conjunto Funções – Max-Polling Layer

26 Estrutura do Programa MOGP Conjunto Funções – Concatenation Layer ▫Funções responsáveis pela fusão de informação de cada árvore em um único vetor. ▫Possuem mesma saída (Descritor de Característica Final)

27 Estrutura do Programa MOGP Conjunto Funções – Concatenation Layer

28 Estrutura do Programa MOGP

29 Fitness Function ▫Maneira de medir/avaliar os programas gerados. ▫Duas medidas:  Taxa de Erro.  Complexidade dá Árvore

30 Estrutura do Programa MOGP Fitness Function – Taxa de Erro ▫Avalia o programa N vezes sobre o conjunto de dados. ▫Conjunto de treinamento: ((1-N)/N)ths ▫Cross-Validation com o restante dos dados. (SVM ou KNN). ▫Taxa de erro final é a média das taxas de cada avaliação.

31 Estrutura do Programa MOGP Fitness Function – Complexidade da Árvore ▫Conta-se o número de nós da árvore. ▫Tentativa de evitar bloat.  Explosão da árvore do programa, aumentando complexidade, e causando overfitting.

32 Estrutura do Programa MOGP Fitness Function ▫Como determinar qual a melhor árvore se baseando em duas medidas? Fronteira de Pareto!

33 Estrutura do Programa MOGP Fitness Function

34 Estrutura do Programa MOGP

35 Experimentos Implementação do MOPG ▫200 Indivíduos e 70 Gerações. ▫Operadores Genéticos: CrossOvers(90%) e Mutações (10%). ▫Tournament como seleção de indivíduos. ▫0.5% de taxa de erro.

36 Experimentos Divisão dos Conjuntos de Dados

37 Experimentos Descrição dos Conjuntos de Dados Caltech-101 MIT Urban and Nature Scene CMU PIE Face Set Jochen Triesch Static Hand Posture Database II

38 Resultados

39 Árvore Gerada para o conjunto de dados Caltech-101

40 Resultados Árvore Gerada para o conjunto de dados CMU PIE face data set

41 Conclusões Segundo os pesquisadores: ▫O método demonstrou autonomia na extração de features, sem nenhum tipo de informação a respeito do domínio de imagens. Tambem mostrou, de alguma forma, a escalabilidade dessa abordagem na tentativa de reconhecimento de objetos em larga-escala. ▫Tambem aferiram que a arquitetura abordada é, de fato, consistente com a estrutura física do córtex visual humano. Os pesquisadores atribuem o sucesso da abordagem principalmente à capacidade do algoritmo em extrair e fundir os componentes de cores das imagens automaticamente.

42 Dúvidas?