A apresentação está carregando. Por favor, espere

A apresentação está carregando. Por favor, espere

CIn-UFPE1 Recuperação de Informação Mineração na Web Exemplos de Aplicações.

Apresentações semelhantes


Apresentação em tema: "CIn-UFPE1 Recuperação de Informação Mineração na Web Exemplos de Aplicações."— Transcrição da apresentação:

1 CIn-UFPE1 Recuperação de Informação Mineração na Web Exemplos de Aplicações

2 CIn-UFPE 2 Roteiro Áreas de pesquisa e desenvolvimento relacionadas Exemplos de Sistemas de RI Aplicações, agentes, serviços na Web

3 CIn-UFPE 3 Tarefa típica de RI Dados Um corpus de documentos (itens de dados) & Uma consulta do usuário  geralmente representada por palavras-chave Encontrar Um conjunto ordenados de documentos que são relevantes para a consulta

4 CIn-UFPE 4 Algumas Áreas relacionadas a RI Bancos de dados Para armazenar os dados a serem recuperados Inteligência artificial Ontologias e sistemas inteligentes de RI Aprendizagem de máquina  Classificação e clustering de documentos, criação e manutenção de profiles, extração de informação, mineração de texto, etc.. Processamento de linguagem natural Ciência da informação Bibliotecas digitais

5 CIn-UFPE 5 Processamento de Linguagem Natural Algumas regiões de interseção Extração de informação Sistemas Pergunta-resposta E mais alguns métodos de processamento dos documentos já vistos  Análise léxica, Stemming, identificação de grupos nominais, etc

6 CIn-UFPE 6 Exemplos de Sistemas de RI Sistemas de Busca Sistemas de Automação de Bibliotecas Sistemas de Gerenciamento de Documentos Engenhos de Busca na Web Sistemas de Meta-busca Sistemas de Pergunta-resposta Sistemas de Classificação/clustering de documentos Sistemas de Extração de Informação Sistemas de Recomendação Sistemas de Mineração de dados/informação RI Heterogênea

7 CIn-UFPE 7 Exemplos de Agentes na Web Agentes de filtragem de informação Agentes notificadores Agentes de Comércio Eletrônico Agentes Chatterbots

8 CIn-UFPE 8 Sistemas de Busca Sistemas de Automação de Bibliotecas Primeira aplicação na área de RI Atualmente, a tendência são as bibliotecas digitais RI + BD Citeseer Scientific Literature Digital Library

9 CIn-UFPE 9 Sistemas de Busca Automação de Bibliotecas (2007-1) BDCIn: Biblioteca Digital do Centro de Informática Indexação de Trabalhos de Graduação, Dissertações de Mestrado e Teses de Doutorado do CIn-UFPE objetivo geral:  facilitar a divulgação e o acesso aos trabalhos científicos produzidos no CIn

10 CIn-UFPE 10 Sistemas de Busca Exemplos (2008-1) TG fácil: um engenho de busca web para trabalhos de graduação do CIn-UFPE Indexação dos TGs pelo conteúdo, não só por meta-dados Investment search Base indexada de dados sobre bolsa de valores  notícias atualizadas das principais bolsas de valores do mundo  obtidas a partir de sites da web que contêm notícias sobre economia

11 CIn-UFPE 11 Sistemas de Busca Exemplos (2008-1) ORKURIOSO Scraps -Troca de mensagens entre usuários Busca por scraps  Levantamento de opiniões  Fiscalização policial  Curiosidade Miss gay... Resultado  Sender - Link  Receiver - Link  Scrap

12 CIn-UFPE 12 Sistemas de Meta-busca Engenhos de busca São robustos e gerais Porém, retornam uma quantidade muito grande de documentos irrelevantes Realizam buscas nas bases de índices de outros sistemas Na Web ou em BDs privados Recuperação por similaridade Buscam documentos similares ao que o ususário está visualizando ou editando E.g. GoogleToolbar, Active Search (CIn),...

13 Sistemas de Meta-busca Exemplo: Active Search Doc’s Content Current Doc’s Internal Representation Meta-search Query Preparation Docs Searcher Query Web Local Directories Documents Bases Pointers to Documents Docs’ Pointers Docs’ Content Doc. Post- Processor Docs’ Internal Representatio n Ordered List of Docs Application1 Application2 Application3 Docs Retriever Docs Reorderer Document Pre-Processor Profile Manager Relevant Documents User’s Profile LAN

14 CIn-UFPE 14 Sistemas de Pergunta-Resposta Recuperação de Informação + Processamento de Linguagem Natural Recebem como entrada uma pergunta em linguagem natural Retornam como saída a resposta (curta) ao invés de uma lista de documentos  Utilizando também técnicas de Extração de Informação Exemplo: P: Qual o melhor time de futebol do Brasil? R: Santa Cruz Futebol Clube

15 CIn-UFPE 15 Sistemas de Pergunta-Resposta Arquitetura Genérica

16 CIn-UFPE 16 Sistemas de Pergunta-Resposta Exemplo: Pergunte! Motivação A Web é o maior repositório de informações já construído Necessidade de informação melhor representada sob forma de pergunta Sistemas negligenciam a semântica da pergunta e dos documentos Sistema Pergunte! Uma interface em Português para pergunta- resposta na Web Mestrado de Juliano Rabelo, 2004

17 CIn-UFPE 17 Sistemas de Pergunta-Resposta Exemplo (2007-1) Q & A: sistema de pergunta-resposta Restrito a perguntas do tipo “Quem”, “Onde” e “Quando” Utiliza uma base de dados local

18 CIn-UFPE 18 Classificação e Clustering de documentos Classificação - Objetivo Classificar documentos de acordo com um conjunto ou hierarquia de categorias previamente definidas Clustering – Objetivo Agrupar documentos semelhantes em classes não conhecidas a priori

19 CIn-UFPE 19 Classificação de documentos Algumas aplicações: Recomendação Alimentar hierarquias de classes, como a do Yahoo, para facilitar a busca Criação de repositórios de domínio específico Distribuição de Notícias  Jornal personalizado Mensagem de e Newsgroups  Filtragem de spam  Routing  Atribuição de prioridades  Seleção de folders

20 CIn-UFPE 20 Classificação de documentos Exemplo: Sistema CitationFinder Classificação automática de páginas de publicações científicas Mestrado de Mariana Lara Neves, 2001 Objetivo Criação e manutenção de um repositório de documentos desse domínio  Para alimentar o sistema Prodext Construção manual: Bases de conhecimento com regras de produção Máquina de inferência (JEOPS)

21 CIn-UFPE 21 Classificação de documentos Exemplo Classificação de Websites  documento xml com diversos links e sua descrição e classificação Domínio específico de “games”. Conclusão: A descrição dos sites é muito breve para obtermos um bom resultado com classificadores automáticos

22 CIn-UFPE 22 Clustering de documentos Aplicações Criar taxonomias (hierarquias de classes) para browsing de documentos em uma coleção Agrupar resultados de consultas a engenhos de busca ou outros sistemas de RI Técnicas Aprendizado não supervisionado

23 CIn-UFPE 23 Clustering de documentos Exemplos (2008-1) Clusering aplicado à base Iris Data Set (2007-1) Domme: Domestic Mesh Engine Engenho de Busca e Agrupamento de Documentos na Intranet do CIn  recuperação eficiente dos documentos da intranet do Cin

24 CIn-UFPE 24 Clustering de documentos Exemplo Indexação e clustering & Busca na Web Objetivo Facilitar a busca de material de estudo (apostilas, tutoriais, aulas) na Web sobre um tema específico (e.g., Biologia 2º grau) Com base no conteúdo de questões previamente cadastradas no sistema

25 CIn-UFPE 25 Clustering de documentos Exemplo Agrupa perguntas de vestibular sobre um mesmo tema

26 CIn-UFPE 26 Clustering de documentos Exemplo

27 CIn-UFPE 27 Sistemas de Extração de Informação Sistemas capazes de extrair de documentos relevantes apenas a informação requerida A informação extraída pode ser apresentada ao usuário e/ou armazenada em BDs ou BCs. Sistema de EI BD Nome: End.: Fone: Fax: Preços: Template BC Página de Hotel

28 CIn-UFPE 28 Sistemas de Extração de Informação Exemplo: O ProdExt ProdExt: Um Wrapper para extração de referências bibliográficas a partir de páginas eletrônicas Mestrado de Carla Nunes, 2000 Abordagem utilizada Construção manual de base de regras Autor: A.V.Garcia and A. Haeberer Título: An Architecture for Semantically Based Code Migration Veículo: In Proc. of the II Brazilian Symp. on Progr. Languages Páginas: pp Data: Sept/1997 Local: Campinas, Brasil A.V.Garcia and A. Haeberer. An Architecture for Semantically Based Code Migration. In Proc. of the II Brazilian Symposium on Progr. Languages, pp , Sept/1997, Campinas, Brasil.

29 CIn-UFPE 29 Exemplo: EI utilizando Aprendizagem de Máquina Mestrado de Eduardo Amaral Sistemas de Extração de Informação

30 CIn-UFPE 30 Sistemas de Extração de Informação Exemplos (2008-1) Extração de anúncios de vendas de carro do JC Online Os templates gerados forma indexados pelo Lucene, para facilitar a consulta do usuário.

31 CIn-UFPE 31 Mineração de Opiniões Análise de Sentimentos Sentiment analysis Objetivo Prover tratamento automático de opiniões/sentimentos  Trata a subjetividade do texto Opiniões são extraídas a partir de Sites de opiniões Sites de lojas Blogs Foruns…

32 CIn-UFPE 32 Mineração de Opiniões Desafio identificar trechos dos textos que expressam sentimentos/opiniões indicar se uma opinião é positiva (favorável) ou negativa (desfavorável) em relação ao item sendo abordado Utiliza técnicas de RI e processamento de linguagem natural

33 CIn-UFPE 33 Mineração de Opiniões Base de Textos Engenho de Busca Opinion holders Usuário final Extração de Opiniões Classificação de Sentimento Sumarização Interface Consulta (Objeto) Textos Textos retornados Opiniões Opiniões + sentimento Sumário

34 CIn-UFPE 34 Mineração de dados em Redes sociais Objetivos Explorar o conhecimento coletivo e implícito, descobrir padrões e regras de associação, prever tendências e a evolução da rede Utiliza técnicas de mineração de dados e grafos aliados a técnicas Aprendizagem de Máquina e técnicas de visualização das redes

35 CIn-UFPE 35 Mineração de dados em Redes sociais Tarefas Ranking de nós Importância, centralidade ou o poder de influência de nós (grau, intermediação, proximidade,...) Classificação baseada em Links Categorizar um nó considerando os relacionamentos com outros nós Predição de Links Prever a interação entre dois nós num futuro próximo baseado na estrutura da rede Agrupamento de nós Detectar grupos ou comunidades

36 CIn-UFPE 36 Sistemas de Personalização São sistemas que buscam adaptar-se às preferências e necessidade individuais de cada usuário Utilizam profiles Sistemas de personalização incluem: Recomendação Filtragem Predição

37 CIn-UFPE 37 Sistemas de Recomendação Recomendam itens para usuários com base em suas preferências livros, filmes, CDs, páginas web, mensagens de newsgroup Exemplos de sistemas Lojas virtuais oferecem esse serviço para aumentar as vendas  e.g. Amazon, CDNow Existem duas abordagens básicas par recomendação: Filtragem colaborativa (um tipo de filtragem social) Recomendação baseada em conteúdo

38 CIn-UFPE 38 Sistema de Recomendação Exemplo ACoReS: Amadeus Course Recommendation System indica cursos aos usuários com base na identificação de padrões de comportamento desses usuários em relação ao sistema  Observa o histórico de cursos nos quais os alunos se matricularam

39 CIn-UFPE 39 Integração de Informação Pergunta-resposta + Extração de informação Objetivo Integrar automaticamente diversos Web sites para responder a determinadas perguntas do usuário cuja resposta não está disponível em um site único Para cada site selecionado, um wrapper é construído Os dados extraídos de cada site podem ser tratados como tabelas de bancos de dados que podem ser consultadas usando-se uma query language (e.g. SQL).

40 CIn-UFPE 40 Integração de Informação Exemplo (2007-1) LOGO: Sistema Integrado para Busca de Passagens Aéreas OnLine Extração de informação + Integração de informação

41 CIn-UFPE 41 Mais sistemas e aplicações Sistemas de mineração de dados/informação Sistemas de gerenciamento de documentos

42 CIn-UFPE 42 RI Heterogênea Sistemas de Recuperação multi-língua Recebem a entrada em uma língua e devolvem a saída em outra língua Busca de partituras musicais ou cifras Busca de padrões de exames médicos Eletrocardiogramas, …

43 CIn-UFPE 43 Agentes de Informação Fazem mais do que só RI, pois podem: Comunicar-se Cooperar Negociar Aplicações: Comércio eletrônico Leilões/licitações Etc……………..

44 CIn-UFPE 44 Agentes de Informação Agentes Notificadores Enviam s para o usuário de acordo com seus interesses Agentes de Comércio Eletrônico Capazes de representar o usuário em compras na Web Agentes Chatterbots Capazes de dialogar com os usuários em linguagem natural restrita

45 CIn-UFPE 45 Agentes Chatterbots Chatterbots Sistemas capazes de dialogar com os usuários em linguagem natural restrita E.g., Eliza, ALICE Utilizam técnicas de armazenagem e recuperação muito semelhantes aos sistemas de Pergunta- resposta Esses agentes também podem ser usados como interfaces em linguagem natural para Bancos de dados Bases de conhecimento Sites na web

46 CIn-UFPE 46 Agentes Chatterbots Exemplo de bot na Web - Pixel Tese de doutorado de André Neves  Utiliza a linguagem AILM  Criação de novas tags para descrever o nível pragmático dos diálogos com chatterbots

47 Próxima aula CIn-UFPE 47


Carregar ppt "CIn-UFPE1 Recuperação de Informação Mineração na Web Exemplos de Aplicações."

Apresentações semelhantes


Anúncios Google