A apresentação está carregando. Por favor, espere

A apresentação está carregando. Por favor, espere

UNIVERSIDADE FEDERAL DE SANTA CATARINA - UFSC

Apresentações semelhantes


Apresentação em tema: "UNIVERSIDADE FEDERAL DE SANTA CATARINA - UFSC"— Transcrição da apresentação:

1 UNIVERSIDADE FEDERAL DE SANTA CATARINA - UFSC
CENTRO TECNOLÓGICO - CTC DEPARTAMENTO DE AUTOMAÇÃO E SISTEMAS - DAS PROJETO: ANÁLISE DE EXPERIMENTOS ESTATÍSTICOS FATORIAL PARA SISTEMAS DE RECONHECIMENTO DE FALA Por: David Daniel e Silva, Doutorando - DAS Orientador: Prof. Marcelo Ricardo Stemmer, Dr

2 Motivação ESTADO DA ARTE DISCIPLINA DE ANÁLISE DE EXPERIMENTOS
POSSIBILIDADE DE CONTRIBUIÇÃO NOS PROJETOS DE SISTEMAS DE REC. DE FALA

3 Introdução ( APRESENTAÇÃO DO TRABALHO )
Reconhecimento de Fala Conceito e Aplicações; Características; Dificuldades/Problemas; Soluções; Modelos; Comentários; Projeto de Análise de Experimentos Estatístico Aplicado ao RF.

4 Reconhecimento de Fala ( CONCEITO E APLICAÇÕES )
Processo de conversão de um sinal acústico, capturado por um microfone ou dispositivo transdutor similar, para um conjunto de palavras. Aplicações A palavra reconhecida pode ser o resultado final, para aplicações de controle ou dados de entrada. (Interface homem-máquina).

5 Reconhecimento de Fala ( CARACTERÍSTICAS )
PARÂMETROS / FATORES Os sistemas de reconhecimento de fala podem ser caracterizados por muitos parâmetros que o afetam... ALGUNS PARÂMETROS FAIXA/TIPO Modo de Fala Isolada Contínua Estilo da Fala Lida Expontânea Vocabulário Simples ( < 20 ) Grande ( > 20K )

6 Reconhecimento de Fala ( CARACTERÍSTICAS )
PARÂMETROS / FATORES( CONTINUAÇÃO ) ALGUNS PARÂMETROS FAIXA/TIPO Locutor Dependente Independente Modelo de Linguagem Estados finitos Sensível ao contexto Perplexidade Pequena ( < 10 ) Grande ( > 100 ) Transdutor Microfone sem ruído Telefone RSR(Razão Sinal Ruído) Alta ( > 30 db ) Baixa ( < 10 db )

7 Reconhecimento de Fala ( DIFICULDADES DOS SISTEMAS DE REC.)
FORÇA MUSCULAR T NARINAS TRATO NASAL PULMÕES PALATO MOLE TRAQUÉIA CORDAS VOCAIS BOCA TRATO VOCAL MODELO DO SISTEMA DO TRATO VOCAL

8 Reconhecimento de Fala ( DIFICULDADES DOS SISTEMAS DE REC.)
Reconhecimento de fala geralmente é mais difícil de ser realizado quando os vocabulários são grandes e/ou tem muitas palavras com sons similares. O reconhecimento de fala é um problema difícil devido às várias fontes de variabilidade associadas ao sinal de voz.

9 Reconhecimento de Fala ( DIFICULDADES DOS SISTEMAS DE REC.)
VARIABILIDADE FONÉTICA a acústica dos fonemas (menor unidade sonora na composição de uma palavra), é altamente dependente do contexto em que aparecem.

10 Reconhecimento de Fala ( DIFICULDADES DOS SISTEMAS DE REC.)
VARIABILIDADE FONÉTICA Nas fronteiras entre palavras, as variações contextuais podem tornar-se bem mais acentuadas fazendo, por exemplo, com que a frase “a justiça é...” seja reconhecida como “ajusticé...”

11 Reconhecimento de Fala ( DIFICULDADES DOS SISTEMAS DE REC.)
VARIABILIDADES ACÚSTICAS Podem resultar de mudanças no ambiente assim como da posição e características do transdutor.

12 Reconhecimento de Fala ( DIFICULDADES DOS SISTEMAS DE REC.)
VARIABILIDADES INTRA-LOCUTOR Podem resultar de mudanças no estado físico/emocional dos locutores, velocidade de pronúncia ou qualidade de voz.

13 Reconhecimento de Fala ( DIFICULDADES DOS SISTEMAS DE REC.)
VARIABILIDADES ENTRE-LOCUTORES Podem resultar das diferenças na condição sócio-cultural, dialeto, tamanho e forma do trato vocal para cada uma das pessoas. Um exemplo: “O caminho está iluminado” - “O caminho está alumiado”.

14 Reconhecimento de Fala ( SOLUÇÕES DAS DIFICULDADES DOS SISTEMAS DE REC
Em termos fonéticos acústicos, a variabilidade dos locutores é tipicamente modelada usando técnicas estatísticas aplicadas a grandes quantidades de dados de treinamento. Também tem sido desenvolvidos algoritmos de adaptação ao locutor que adaptam modelos acústicos independentes do locutor para os do locutor corrente durante o uso.

15 Reconhecimento de Fala ( SOLUÇÕES DAS DIFICULDADES DOS SISTEMAS DE REC
As variações acústicas são tratadas com o uso de adaptação dinâmica de parâmetros, uso de múltiplos microfones e processamento de sinal. Na parametrização dos sinais, os pesquisadores desenvolveram representações que enfatizam características independentes do locutor, e desprezam características dependentes do locutor.

16 Reconhecimento de Fala ( SOLUÇÕES DAS DIFICULDADES DOS SISTEMAS DE REC
Os efeitos do contexto linguístico em termos fonético-acústicos são tipicamente resolvidos treinando modelos fonéticos separados para fonemas em diferentes contextos, isto é chamado de modelamento acústico dependente do contexto.

17 Reconhecimento de Fala ( SOLUÇÕES DAS DIFICULDADES DOS SISTEMAS DE REC
A diferença de pronúncias das palavras são processadas de forma que alternativas mais comuns de cada palavra, assim como os efeitos de dialeto e sotaque são tratados ao permitir aos algoritmos de busca encontrarem caminhos alternativos de fonemas através de redes dessas alternativas.

18 Reconhecimento de Fala ( SOLUÇÕES DAS DIFICULDADES DOS SISTEMAS DE REC
Modelos estatísticos de linguagem, baseados na estimativa de ocorrência de seqüências de palavras, são geralmente utilizados para guiar a busca através da seqüência de palavras mais provável.

19 Reconhecimento de Fala ( MODELOS DE RECONHECIMENTO DE FALA )
Atualmente, os algoritmos mais populares na área de reconhecimento de fala baseiam-se em métodos matemáticos e estatísticos. Dentre estes, dois métodos tem se destacado: ANN´s Artificial Neural Networks HMM Hidden Markov Models

20 Reconhecimento de Fala ( MODELOS DE RECONHECIMENTO DE FALA )
MODELO - ANN´s ARTIFICIAL NEURAL NETWORKS Método Baseado no Sistema Neuronal Humano (Neurônio). Teoria combatida por Minsky e Papert que publicaram um livro em 1969 e provocou a não aceitação das RNA`s entre os pesquisadores. Atualmente, muitas pesquisas estão sendo feitas com o uso de avançados modelos de redes neurais baseados nas mais recentes descobertas do comportamento do neurônio humano.

21 Reconhecimento de Fala ( MODELOS DE RECONHECIMENTO DE FALA )
MODELO - ANN´s ANN - ARTIFICIAL NEURAL NETWORKS Boa Capacidade de Generalização; Função de ativação; Certo Grau de Robustez Para Reconhecimento de Padrões; Teoria bem definida (base na matemática);

22 Reconhecimento de Fala ( MODELOS DE RECONHECIMENTO DE FALA )
MODELO - HMM HMM - Hidden Markov Models Método é definido como um par de processos estocásticos (X, Y). O processo X é a medida linear de primeira ordem, e não é diretamente observável, quando o processo Y é uma seqüência de variáveis randômicas de valores tomados de parâmetros acústicos, ou observações.

23 Reconhecimento de Fala ( MODELOS DE RECONHECIMENTO DE FALA )
MODELO - HMM HMM - Hidden Markov Models Boa Capacidade de seleção; Certo Grau de Robustez Para Reconhecimento de Padrões; Comparações estatísticas de probabilidade com base em um conjunto de amostra; Teoria bem definida (base estatística e matemática);

24 Reconhecimento de Fala ( MODELOS DE RECONHECIMENTO DE FALA )
MODELO MAIS RECENTE - SVM SUPPORT VECTOR MACHINE Método Baseado na Teoria de Vapnik (1995) The Nature of Statistical Learning Theory.

25 Reconhecimento de Fala ( MODELOS DE RECONHECIMENTO DE FALA )
MODELO MAIS RECENTE SVM - SUPPORT VECTOR MACHINE Teoria bem definida (Base na estatística e matemática); Elevada Capacidade de Generalização; Robustez em Grandes Dimensões (imagens); Diferentes núcleos caracterizam seu modo de reconhecimento de padrões. A correta definição de seus parâmetros implica em alta influência nos resultados obtidos por uma SVM. Convexidade da função objetivo, implicando na otimização de uma função quadrática, que tem apenas um mínimo (vantagem sobre as RNA´s);

26 Reconhecimento de Fala ( COMENTÁRIO )
Tanto HMM, como SVM e demais algoritmos para reconhecimento de fala, usam técnicas estatísticas, levando em consideração ocorrências de palavras, fonemas, etc.

27 Reconhecimento de Fala ( COMENTÁRIO )
As variáveis que influenciam no processo de reconhecimento de fala são em quantidade razoavelmente grandes e de difícil controle. QUE TAL ENTÃO UMA AJUDA...? DA ESTATÍSTICA....?

28 Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala ( CONCEITO DE EXPERIMENTO ) Experimento Estatístico Literalmente: um teste. Formalmente: série de testes em que manipula-se as variáveis de entrada de um processo ou sistema para identificar as razões que afetam a saída .

29 Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala ( MODELO GERAL DE UM PROCESSO OU SISTEMA ) Saída z1 z zm Entrada SISTEMA x1 x xn Onde: x1, x2, ..., xn são fatores controláveis; z1, z2, ..., zm são fatores não controláveis.

30 Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala ( CONCEITO DE PROJETO FATORIAL ) Muitos experimentos, envolvem o estudo de efeitos de dois ou mais fatores. Por projeto fatorial, entendemos que em cada teste completo ou replicação do experimento todas as possíveis combinações dos níveis dos fatores são investigadas.

31 Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala ( EXEMPLO DE PROJETO FATORIAL ) Exemplo: Seja A - Fator 1 com a níveis; B - Fator 2 com b níveis; Cada replicação contem todas as combinações dos ab tratamentos. O efeito do fator é definido pela mudança na resposta produzida pela variação no nível do fator.

32 Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala ( EXEMPLO DE PROJETO FATORIAL ) Efeito Principal A , B Efeito da Interação AB

33 Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala ( EXEMPLO DE PROJETO FATORIAL COM DOIS FATORES A DOIS NÍVEIS ) Para dois níveis (alto ou baixo) em A e B, pode-se considerar os efeitos de cada um como sendo a diferença entre a resposta média do nível alto para o nível baixo do fator. EfA = A+ - A- EfB = B+ - B-

34 Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala ( EXEMPLO DE PROJETO FATORIAL COM DOIS FATORES A DOIS NÍVEIS ) Numericamente: Baixo (-) Alto (+) Fator A Fator B EfA = A+ - A- EfB = B+ - B- EfA = ( )/2 - ( )/2 = 21 EfB = ( )/2 - ( )/2 = 11

35 Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala ( EXEMPLO DE PROJETO FATORIAL COM DOIS FATORES A DOIS NÍVEIS ) EfA = ( )/2 - ( )/2 = 21 EfB = ( )/2 - ( )/2 = 11 Os resultados acima indicam que incrementando o nível do fator A do baixo para o alto, causa um incremento de 21 unidades na resposta.

36 Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala ( EXEMPLO DE PROJETO FATORIAL COM DOIS FATORES A DOIS NÍVEIS ) Quando passa-se do nível baixo de B para o nível alto, não afetando o comportamento da resposta para o fator A, sugere-se uma não interação entre os fatores. Baixo (-) Alto (+) Fator A Fator B P/ B- A = = 20 P/ B+ A = = 22

37 Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala ( EXEMPLO DE PROJETO FATORIAL COM DOIS FATORES A DOIS NÍVEIS ) Quando passa-se do nível baixo de B para o nível alto, afetando o comportamento da resposta para o fator A, sugere-se uma interação entre os fatores. Baixo (-) Alto (+) Fator A Fator B P/ B- A = = 30 P/ B+ A = = -28

38 Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala ( EXEMPLO DE PROJETO FATORIAL COM DOIS FATORES A DOIS NÍVEIS ) 60 50 40 30 20 10 B- B+ Fator A R e s p o t a Sem Interação Com Interação 60 50 40 30 20 10 B- B+ Fator A R e s p o t a AB = (AB+ - AB-)/2 AB = ( )/2 = -29

39 Supondo Valores Quantitativos
Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala ( EXEMPLO DE PROJETO FATORIAL COM DOIS FATORES A DOIS NÍVEIS ) Supondo Valores Quantitativos Modelo de Regressão Linear y = 0 + 1x1 + 2x2 + 12x1x2 +  Onde: y é a resposta; ´s são valores correspondentes aos efeitos; x1 é a variável que representa o fator A, x2 o fator B e  é um erro devido ao processo aleatório.

40 Para os fatores A e B sem Interação:
Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala ( EXEMPLO DE PROJETO FATORIAL COM DOIS FATORES A DOIS NÍVEIS ) Para os fatores A e B sem Interação: y= x x x1x2 OU y= x x2 Curva de resposta Resíduo

41 Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala ( EXEMPLO DE PROJETO FATORIAL COM DOIS FATORES A DOIS NÍVEIS ) 59 49 39 29 19 1 y 0,6 0,2 x2 -0,2 -0,6 -1 , , , , x1 Resposta da superfície do modelo de regressão.

42 Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala (DOIS FATORES )
Problema: Um experimento é feito para verificar a taxa de acerto de sistemas computacionais de reconhecimento de fala com 4 replicações. Um locutor diferente é sorteado para cada ensaio. A taxa de acerto dos sistemas é verificada frente a dois fatores: 1) quantidade de palavras faladas; 2) Tipo do sistema usado Os dados de resposta são mostrados na tabela abaixo. a) Faça a análise de variância e diga se o sistema usado e o número de palavras influenciam na taxa de acerto das palavras; b) Plote o gráfico para os resíduos e analise o modelo.

43 Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala (DOIS FATORES )
Dados do experimento 2 4 6 8 10 ANN 90 87 89 91 85 86 84 84 80 78 76 92 80 80 75 90 80 82 75 76 HMM 91 90 90 93 88 84 86 90 80 91 90 88 80 89 87 92 90 78 80 79 HMM/ANN 97 99 96 98 96 97 93 98 95 93 97 95 96 95 90 91 93 91 95 90 N o de Palavras Tipo de Sistema

44 No Palavras Tipo de Sistema 2 4 6 8 10 ANN 103,78 108,44 118,44 92,58
ANN 103,78 89,25 84,75 81,6 81,25 78,25 HMM 108,44 91,00 87,00 87,00 87,00 81,75 HMM/ANN 118,44 97,50 96,00 95,00 93,00 92,25 92,58 89,25 87,87 87,08 84,08 110,215

45 Hipóteses yijk =  + i + j + ( )ij + ijk
H0: Não há diferença entre os sistemas. 1 = 2 = ... = a = 0 H0: O No de palavras não afeta o grau de acerto do sistema. 1 =  2 = ... = b = 0 H0: A iteração entre os fatores não afetam a resposta. ( )ij = 0 para todo i, j. Hipóteses

46 ANOVA Fonte de variação Soma de quadrados Quad. médio gl F P
Sistema , , , ,000000 No Palavras 463, , , ,000063 Sist.*Palavras , , , ,809907 Erro 657, ,6 Total

47 Conclusão I Rejeita H0 : O sistema e o número de palavras afetam a resultado. Aceita Ho para a iteração entre eles.

48 Gráfico de médias

49 Gráfico de médias

50 Gráfico de médias

51 Gráfico de médias

52 Gráfico de Resíduos

53 Histograma de Resíduos

54 Conclusão II O gráfico dos resíduos x preditos mostram comportamento dos pontos aleatórios. Os pontos dos resíduos mostram uma curva normal. Logo, o modelo é adequado.

55 CONSIDERAÇÃO AO PROJETO FATORIAL PARA RECONHECIMENTO DE FALA
Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala (2k-p ) CONSIDERAÇÃO AO PROJETO FATORIAL PARA RECONHECIMENTO DE FALA perplexidade = Modelo de Linguagem x Vocabulário Considerando 8 fatores... Resolução Tratamentos 2v 2iv 2v (menos custo)

56 A-Transdutor B-Vocabulário C- Modo de Fala D- Estilo de Fala
Fatores A-Transdutor B-Vocabulário C- Modo de Fala D- Estilo de Fala E- Modelo Linguagem F-RSR G- Sistema H-locutor Resolução 2v8-4 = 16 Tratamentos Confusões E = BCD F = ACD G= ABC H = ABD

57 A-Transdutor B-Vocabulário C- Modo de Fala D- Estilo de Fala
TABELA PARA O PROJETO FATORIAL 28-4 A-Transdutor B-Vocabulário C- Modo de Fala D- Estilo de Fala E- Modelo Linguagem F-RSR G- Sistema H-locutor E = BCD F = ACD G= ABC H = ABD A B C D BCD ACD ABC ABD 1 2 3 4 5 6 7 8 Y Y - RESPOSTA

58 REFERÊNCIAS BIBLIOGRÁFICAS
[01] Douglas C. Montgomery. “Design and Analysis of Experiments”. Sixth Edition, Arizona State University, 2005. [02] Editorial Board: Ronald A. Cole; Joseph Mariani; Hans Uszkoreit; Annie Zaenen and Victor Zue. “Survey of the State of the Art in Human Language Technology”. National Science Foundation Directorate XIII-E of the Commission of the European Communities Center for Spoken Language Undertanding, Oregon Graduate Institute, November 1995. [03] Sujun Huan and Zhirong Sun. “Support Vector Machine Approach for Protein Subcellular Localization Prediction” Institute of Bioinformatics, Department of Biological Sciences and Biotecnology, Tsinghua University, China. April 2001. [04] Klaus-Robert Müller, Sebastian Mika, Gunnar Rätch, Koji Tsuda, and Bernhard Schölkopf . “Na Introduction to Kernel-Based Learning.” IEEE Transaction on Neural Networks, vol. 12, No. 2 March 2001. [05] Marcelo C. Medeiros; Timo Teräsvirta and Gianluigi Rech. “Aspectos Estatísticos da Modelagem de Redes Neurais em Séries Temporais”. DEE, PUC - RJ.

59 FIM david@das.ufsc.br FELIZ NATAL E 2006 CHEIO DE...
Projeto e Análise de Experimentos Estatísticos Fatorial Para Reconhecimento de Fala FIM FELIZ NATAL E 2006 CHEIO DE... SAÚDE E PAZ!!!!


Carregar ppt "UNIVERSIDADE FEDERAL DE SANTA CATARINA - UFSC"

Apresentações semelhantes


Anúncios Google