A apresentação está carregando. Por favor, espere

A apresentação está carregando. Por favor, espere

Trabalho para a disciplina de Otimização Natural Autor: Adriano Gomes.

Apresentações semelhantes


Apresentação em tema: "Trabalho para a disciplina de Otimização Natural Autor: Adriano Gomes."— Transcrição da apresentação:

1 Trabalho para a disciplina de Otimização Natural Autor: Adriano Gomes

2 1.Introdução 2.Exemplos de mudança de parâmetros 3.Classificação das técnicas de controle 4.Outros exemplos de variação de parâmetros de EAs Roteiro

3 Objetivo: escolher os parâmetros ótimos para algoritmos evolucionários (EA) Parâmetros de algoritmo ou parâmetros de estratégia Tamanho da população Probabilidade de mutação Probabilidade de cross over etc Introdução

4 Duas formas de definir os valores dos parâmetros do algoritmo Afinação de parâmetros (parameter tuning) Abordagem comumente praticada Consiste em definir bons valores de parâmetros antes de executar o algoritmo Rodar o algoritmo com os parâmetros fixos Introdução

5 Controle de parâmetros (parameter control) Rodar o algoritmo com parâmetros iniciais Parâmetros são modificados no decorrer da execução do algoritmo Introdução

6 Sabe-se que: Os parâmetros não são independentes e testar todas as combinações é impraticável Para 4 parâmetros que podem assumir 5 valores cada um, existem 5 4 = 625 combinações Se para cada combinação rodarmos o algoritmo 100 vezes, executaríamos ele vezes O processo de afinação de parâmetros consome muito tempo (mesmo se desconsiderarmos a relação entre os parâmetros) Os valores selecionados após o processo de afinação não são necessariamente ótimos Introdução

7 Devido os EAs serem processos dinâmicos e adaptativos: Conjuntos de valores de parâmetros distintos podem ser ótimos em diferentes estágios do processo evolucionário Conclusão: Usos de parâmetros estáticos podem levar a uma performance inferior do algoritmo Em outras palavras: parâmetros que variam com o decorrer do algoritmo sempre podem ser melhores que parâmetros estáticos Introdução

8 Solução: Definir os parâmetros como funções do tempo (p => p(t)) Problema: como o processo para definir parâmetros estáticos já é complexo, definir parâmetros dinâmicos é ainda mais Outra abordagem: Utilizar um EA para afinar os parâmetros do EA que tenta resolver um problema particular Duas maneiras Utilizar dois EAs, onde um deles (META-EA) é utilizado para afinar os parâmetros do outro Utilizar apenas um EA, o qual afina os próprios parâmetros e resolve o problema Introdução

9 Problema: otimização numérica para minimizar: f(X) = f(x 1,..., x n ) Sujeita a alguma desigualdade e restrições de igualdade: g i (X) 0, i=1,..., q h j (X) = 0, j = q+1,..., m Domínio das variáveis dados pelos limites superior e inferior l i x i u i, 1 i n Algoritmo evolucionário baseado na representação de ponto flutuante (X representado como um vetor de ponto flutuante) Exemplos de mudança de parâmetros

10 Mudança do tamanho do passo da mutação Assumindo que a prole é produzida por crossover aritmético e por mutação gaussiana, substituindo componentes do vetor X por: x i = x i + N(0, σ ) Método mais simples: utilizar σ fixo Mas, pode ser vantajoso variar o tamanho do passo da mutação (variar σ ) Primeiro modo de variar o parâmetro σ Mantendo o mesmo σ para todos os vetores X e para todas as variáveis/componentes de X Usando um σ dinâmico de acordo com o número da geração Exemplo: σ (t) = 1 – 0.9 * (t/T) t é o número da geração atual (variando de 0 a T) o passo decresce conforme t aumenta( σ (0)=1 até σ (T)=0.1 ) Exemplos de mudança de parâmetros

11 A mudança do valor de σ é completamente determinístico Métodos de mudança deste tipo são chamados de controle de parâmetros determinísticos Implica em total controle por parte do usuário Segundo modo de variar o parâmetro σ Mantendo o mesmo σ para todos os vetores X e para todas as variáveis/componentes de X Incorporando feedback do processo de busca Este tipo de variação (que incorpora feedback) é chamado de Controle de parâmetro adaptativo Exemplo bem conhecido (Rechenbergs 1/5 rule): Taxa de sucesso de todas as mutações deve ser 1/5 Se a taxa é maior que 1/5, o tamanho do passo deve ser incrementado Se a taxa é menor que 1/5, o tamanho do passo deve ser decrementado Exemplos de mudança de parâmetros

12 A regra é executada em intervalos periódicos (depois de k iterações) e pode ser expressa matematicamente por: σ = σ /c, se p s >1/5 σ = σ * c, se p s <1/5 σ = σ, se p s =1/ c 1 Valores de σ (t) são não determinísticos Terceiro modo de variar o parâmetro σ Atribuir um tamanho individual de passo da mutação para cada solução Para isso, estender a notação de indivíduos para o tamanho n+1 X = (x 1,..., x n, σ ) Então, o σ de cada indivíduo também sofrerá evolução Possível solução: σ = σ * e^( τ * N(0,1)) x i = x i + σ * N i (0,1) Exemplos de mudança de parâmetros

13 Se desejarmos um tamanho de parâmetro do passo da mutação para cada x i, estendemos X da seguinte forma: X = (x 1,..., x n, σ 1,..., σ n ) E a solução passa a ser: σ = σ * e^( τ * N i (0,1)) x i = x i + σ i * N i (0,1) Esse modo de variar o passo através da evolução é chamado de controle de parâmetro Self-adaptive (Self- adaptive parameter control) Exemplos de mudança de parâmetros

14 Mudança nos coeficientes de penalidade Quando lida-se com funções que possuem restrições Frequentemente usa-se funções de penalidade para penalizar a função objetivo Se queremos minimizar a função, a penalidade é positiva Se queremos maximizar a função, a penalidade é negativa No exemplo inicial, podemos reescrever a função de avaliação como: eval(X) = f(X) + W * penalty(X) Como queremos minimizar a função, penalty(X) será positiva se alguma restrição for violada e zero caso contrário Em muitos métodos, um conjunto de funções f j (1 j m) é utilizado para construir a penalidade. No exemplo: f j (X) = max{0, g j (X)}, se 1 j q f j (X) = |h j (X)|, se q+1 j m W é o peso e é definido pelo usuário Exemplos de mudança de parâmetros

15 Podemos usar W fixo ou variar utilizando os três métodos descritos na mudança do passo da mutação: Controle de parâmetro determinístico Exemplo: W(t) = (C * t) α, C, α 1 Controle de parâmetro adaptativo Exemplo: W(t+1) = (1/ β 1 ) * W(t), se b i para todo t-k+1 i t W(t+1) = ( β 2 ) * W(t), se b i S- para todo t-k+1 i (t) W(t), caso contrário S é o conjunto de todos os pontos de busca (soluções) é o conjunto de todas as soluções possíveis ( S) b i é o melhor indivíduo com base na função eval β 1, β 2 >1 e β 1 β 2 Exemplos de mudança de parâmetros

16 Exemplos de mudança de parâmetros

17 Alguns aspectos que devem ser levados em conta em técnicas de controle de parâmetros O que varia? Componentes de um EA Representação de indivíduos Função de avaliação Operadores de variação e as suas probabilidades Operadores de seleção (seleção de pais) Operadores de substituição (seleção de sobrevivente) População (tamanho, topologia, etc) Não sabemos ao certo o número de parâmetros, pois cada componente pode ser parametrizado e gerar um ou mais parâmetros Classificação das técnicas de controle

18 Como são feitas as mudanças? Já visto: Tipos de configuração de parâmetros Afinação de parâmetros Controle de parâmetros Categorias do controle de parâmetros Controle de parâmetro determinístico Controle de parâmetro adaptativo Controle de parâmetro self-adaptive Classificação das técnicas de controle

19 Quais evidências informam as mudanças? Evidência absoluta O valor do parâmetro de estratégia é alterado por alguma regra que é aplicada quando um evento predefinido ocorre Usa o feedback da busca Exemplos Aumento da taxa de mutação quando a diversidade da população cai abaixo de um dado valor Mudança da probabilidade de realização da mutação ou crossover de acordo com um conjunto de regras fuzzy usando uma variedade de estatísticas da população Métodos para regular o tamanho da população baseado nas estimativas de aptidão e variância Classificação das técnicas de controle

20 Evidência relativa Os valores dos parâmetros são comparados de acordo com a aptidão da prole que eles produzem e os melhores valores são recompensados A direção ou magnitude da mudança do parâmetro não é especificado deterministicamente, mas relativo a performance de outros parâmetros Relação entre evidência absoluta, relativa e controle de parâmetro determinístico, adaptativo e self-adaptative Classificação das técnicas de controle DeterminísticoAdaptativoSelf-adaptative AbsolutoPossível Não possível RelativoNão possívelPossível

21 Qual é o escopo da mudança? Afeta o gene (parâmetro) Afeta o cromossomo inteiro (indivíduo) Afeta a população inteira Afeta outro componente (ex: seleção) Afeta a função de avaliação Classificação das técnicas de controle

22 Outros exemplos de variação de parâmetros de EAs

23 Outros exemplos de variação de parâmetros de EAs

24 Controle de parâmetro self-adaptative Como fazer a mutação? Estender o cromossomo de 20 bits Seguir os passos: 1.Decodificar os 20 bits para p m 2.Fazer a mutação nesses 20 bits com probabilidade p m 3.Decodificar os bits resultantes da mutação para p m 4.Fazer a mutação nos bits que codificam a solução com probabilidade p m Problema Fica preso em regiões sub-ótimas com baixa taxa de mutação para cada indivíduo da população Solução Eliminar o primeiro passo e realizar a mutação do segundo passo com probabilidade fixa Outros exemplos de variação de parâmetros de EAs

25 Variação da taxa de Crossover Exemplo É usado mais de um operador de Crossover Cada operador possui uma probabilidade p c (op i ) Cada operador têm um valor d i que representa a força do operador (recompensa obtida de acordo com a qualidade da cria gerada) d i s atualizados a cada uso do operador i p c (op i )s são recalculados a cada k gerações Ideia: redistribuir 15% das probabilidades baseado na força do operados Outros exemplos de variação de parâmetros de EAs

26 Para isso, os d i s são normalizados para ter soma 15 (d i norm ) As probabilidades são recalculadas de acordo com: p c (op i ) = 0.85 * p c (op i ) * d i norm Outros exemplos de variação de parâmetros de EAs

27 Variação de parâmetros da seleção Existem mecanismos que variam a pressão de seleção baseado no fator de Boltzmann Exemplo Uso do critério de aceitação de Boltzmann em uma parte da busca local de um algoritmo memético A temperatura é inversamente relacionada com a diversidade de aptidão da população Quanto mais espalhados forem os valores de aptidão, menor é a temperatura Muito espalhado implica em temperatura baixa (menos provável aceitar soluções piores) Pouco espalhado implica em temperatura alta (mais provável aceitar soluções piores Consequência: contribui para elevar a diversidade da população Outros exemplos de variação de parâmetros de EAs

28 Variação do tamanho da população Exemplo Atribuir um tempo de vida aos indivíduos da população Em cada geração, reduzir o tempo de vida dos indivíduos de um Se o tempo de vida chega a zero, o indivíduo é removido Aos indivíduos recém-nascidos são atribuídos tempos de vida baseados nas suas aptidões O número de crias de um indivíduo é proporcional ao número de gerações que ele sobrevive (propaga genes bons) Outros exemplos de variação de parâmetros de EAs


Carregar ppt "Trabalho para a disciplina de Otimização Natural Autor: Adriano Gomes."

Apresentações semelhantes


Anúncios Google