Avaliação Educacional Externa Conceito e utilidade da avaliação em larga escala. Palestrante: Juliana Candian

O que é avaliar? É refletir sobre uma determinada realidade a partir de dados e informações, e emitir um julgamento que possibilite uma ação.

Tipos de Avaliação Pequena escala Larga escala Avaliação Diagnóstica Formativa Somativa Interna Escola Externa Sistemas Interna Escola Externa Sistemas Interna Escola Externa Sistemas Pequena escala Larga escala

Avaliação Interna/Escola Provas abertas Provas objetivas Observação/Registro Portfólio TEORIA CLÁSSICA TEORIA DA RESPOSTA AO ITEM Avaliação Interna/Escola Processo da aprendizagem AVALIAÇÃO EDUCACIONAL Avaliação Externa/Sistemas Testes de proficiência Questionários contextuais Desempenho dos alunos

A diferença entre a avaliação interna e externa está principalmente na metodologia e no que podemos fazer com os resultados. Como avaliar? Especificação da ferramenta O que fazer com a avaliação? Uso da ferramenta

TCT TRI v.s.

PRINCIPAIS CARACTERÍSTICAS Comparações TCT TRI Nome da medida Percentual de acerto, ou soma de pontos simples. Proficiência - Medida de desempenho. O que avalia Avalia o processo de aprendizagem e pode proporcionar uma medida desses processos ‘in loco’. Produz uma medida de desempenho que leva em consideração toda a trajetória escolar do aluno. Unidade de Interesse O teste. Os itens. Comparabilidade Limitada; para preservar a comparabilidade, deve ser utilizado o mesmo teste. É possível variar os testes, desde que existam ‘itens em comum’.

PRINCIPAIS CARACTERÍSTICAS Comparações TCT TRI Característica da medida As medidas de dificuldade dos itens são subjetivas e não é possível estabelecer uma conexão precisa entre a dificuldade do item e o nível de domínio das habilidades do aluno. As medidas de dificuldade dos itens são objetivas e tem correlação com a proficiência. Por isso é possível inferir a proficiência a partir desse parâmetro. Montagem do teste A montagem do teste segue critérios subjetivos e depende do julgamento do elaborador e dos objetivos da avaliação. O teste deve conter um percentual mínimo de itens comuns. É balanceado de acordo com as características da população, com o número adequado de itens fáceis, de dificuldade intermediária e difíceis. Acerto ao acaso Na TCT o acerto ao acaso não é controlado. Em um item de múltipla resposta com cinco opções, a chance de acerto ao acaso é de 20%. O parâmetro “C” nos confere a probabilidade de acerto ao acaso, que permite inferir se o item foi acertado por “sorte”. Quando isso acontece, a proficiência daquele item não é contabilizada. Apropriação dos resultados Não é possível saber claramente o nível de domínio do aluno nas habilidades avaliadas. Permite saber o nível de domínio de cada habilidade a partir da proficiência.

Contribuição da avaliação em larga escala 4. Diagnóstico do desempenho e fatores que interferem nesse desempenho no universo avaliado. Acompanhamento / monitoramento da qualidade da educação ao longo do tempo. Definição de subsídios para a formulação de políticas educacionais - foco qualidade e equidade. Promoção de melhorias na relação com orgãos centrais e escolas e no ensino ofertado pela rede como um todo. 3. 2. 1.

Vantagens de um sistema próprio de avaliação Melhorar a qualidade da educação com promoção da equidade Desenho próprio da avaliação com vistas ao atendimento das necessidades específicas Rapidez no acesso às informações (menor tempo de processamento da base de resultados) Menor periodicidade entre os ciclos avaliativos (ciclos anuais de avaliação)

Como funciona a avaliação em larga escala?

O que é avaliado?

INSERIR TABELA COM CORTES DE PADRÕES Matriz de Referência @@@@@ INSERIR TABELA COM CORTES DE PADRÕES

Como os testes são montados? Distribuídos em vários cadernos Itens Organizados em blocos

Alternativas de resposta O item e suas partes Enunciado Suporte Comando Gabarito Alternativas de resposta Distratores

Como os testes são corrigidos? Parâmetros da Teoria de Resposta ao Item – TRI – utilizada para correção dos testes aplicados pelo CAEd

Como os testes são corrigidos? Ilustrando o Parâmetro C 2 + 2 2 x 3 2/7³ 2² x (√3)

Como os valores de proficiência são gerados? Exemplo hipotético Construindo uma escala para medir altura Nossa altura afeta nossas ações e o que somos capazes de fazer.

Ordem Item SIM NÃO 1 Quando dorme, você costuma ficar com os pés para fora da cama?   2 Você costuma descer as escadas de dois em dois degraus? 3 Você acha que se daria bem em um time de basquete? 4 Você considera o degrau do ônibus alto para você? 5 Você se sente desconfortável sentado no banco de trás de um carro? 6 Você costuma ter que olhar para seus colegas de cima para baixo? 7 Você é capaz de pegar um objeto no alto de uma armário sem subir em uma escada ou cadeira ? 8 Você abaixa quando vai passar por uma porta? 9 Você consegue guardar a bagagem de mão no porta bagagem do avião? 10 Você regula o banco do carro para trás quando vai dirigir? 11 Normalmente quando você está andando de carona lhe oferecem o banco da frente? 12 Quando você e várias pessoas vão tirar fotos, formando-se três fileiras, onde ninguém ficará agachado, você costuma ficar atrás? 13 Você tem dificuldade para se acomodar no ônibus? 14 Em uma fila, por ordem de tamanho, você é sempre colocado para trás? 15 Dentro do cinema as pessoas costumam atrapalhar sua visão? 16 Você precisa subir a altura da cadeira quando se senta à mesa do computador? 17 Você consegue mudar a temperatura do chuveiro sem subir em alguma coisa ou utilizar algum objeto? 18 Quando compra calças, precisa diminuir o comprimento delas? 19 Você consegue ficar montado normalmente em uma moto pequena? 20 Na sala de aula você costuma (ou costumava) sentar nas primeiras fileiras?

Exemplo de escala para a altura de uma pessoa Item 1 Você consegue guardar as malas no bagageiro interno de um ônibus? Item 2 Você consegue subir ou descer dois degraus de cada vez em uma escada? Item 3 Para conversar com as pessoas, você precisa olhar para baixo? Nome Item 1 Item 2 Item 3 Carolina Sim Não Priscila Leonardo

Exemplo de escala para a altura de uma pessoa Nome Item 1 Item 2 Item 3 Carolina Sim Não Priscila Leonardo Carolina Priscila Leonardo 1,5 1,6 1,7 1,8 1,9 Item 1 Item 2 Item 3

Exemplo de escala para a altura de uma pessoa Como todas essas questões estão associadas à altura da pessoa... Dormir com pés para fora da cama Alcançar prateleira superior Alcançar malas no bagageiro 1,60m 1,70m 1,80m 1,90m ... podemos estimar sua medida com base no que ela é capaz, ou não, de fazer.

Ordem Item SIM NÃO 1 Quando dorme, você costuma ficar com os pés para fora da cama?   2 Você costuma descer as escadas de dois em dois degraus? 3 Você acha que se daria bem em um time de basquete? 4 Você considera o degrau do ônibus alto para você? 5 Você se sente desconfortável sentado no banco de trás de um carro? 6 Você costuma ter que olhar para seus colegas de cima para baixo? 7 Você é capaz de pegar um objeto no alto de uma armário sem subir em uma escada ou cadeira ? 8 Você abaixa quando vai passar por uma porta? 9 Você consegue guardar a bagagem de mão no porta bagagem do avião? 10 Você regula o banco do carro para trás quando vai dirigir? 11 Normalmente quando você está andando de carona lhe oferecem o banco da frente? 12 Quando você e várias pessoas vão tirar fotos, formando-se três fileiras, onde ninguém ficará agachado, você costuma ficar atrás? 13 Você tem dificuldade para se acomodar no ônibus? 14 Em uma fila, por ordem de tamanho, você é sempre colocado para trás? 15 Dentro do cinema as pessoas costumam atrapalhar sua visão? 16 Você precisa subir a altura da cadeira quando se senta à mesa do computador? 17 Você consegue mudar a temperatura do chuveiro sem subir em alguma coisa ou utilizar algum objeto? 18 Quando compra calças, precisa diminuir o comprimento delas? 19 Você consegue ficar montado normalmente em uma moto pequena? 20 Na sala de aula você costuma (ou costumava) sentar nas primeiras fileiras?

Uso da TRI na produção das medidas A TRI nos permite: Comparar resultados de diferentes avaliações, como o SAEB. Avaliar com alto grau de precisão a proficiência de alunos em amplas áreas do conhecimento sem submetê-los a longos testes. Comparar os resultados entre diferentes séries, como o início e fim do Ensino Médio.

A escala de proficiência: Cada item mede algo que o aluno sabe fazer, todos eles associados à proficiência. Isso permite colocar numa mesma “régua” – escala – todas as habilidades. Como há uma progressão no desenvolvimento de competências e habilidades, podemos ordenar estas habilidades segundo sua complexidade e ordená-las nessa “régua” comum para estimar o desempenho.

Escala de Proficiência A nossa “régua” para o desempenho @@@@@ INSERIR CÓPIA DA ESCALA

Como interpretar os resultados de proficiência? Uma das formas mais simples e objetivas de se analisar os resultados da avaliação é através dos padrões de desempenho. Estes padrões representam recortes na escala de proficiência, definidos a partir dos objetivos e metas de aprendizagem de cada etapa e disciplina avaliada.

Padrões de Desempenho – 2012 Língua Portuguesa Matemática Etapa de Escolaridade Abaixo do Básico Básico Adequado Avançado 4ª Série/5º Ano EF até 125 125 a 175 175 a 225 acima de 225 8ª Série/9º Ano EF até 200 200 a 250 250 a 300 acima de 300 1º Ano EM até 225 225 a 275 275 a 325 acima de 325 3º Ano EM Etapa de Escolaridade Abaixo do Básico Básico Adequado Avançado 4ª Série/5º Ano EF até 150 150 a 200 200 a 250 acima de 250 8ª Série/9º Ano EF até 225 225 a 275 275 a 325 acima de 325 1º Ano EM até 250 250 a 300 300 a 350 acima de 350 3º Ano EM

Dimensões avaliadas

Outras dimensões avaliadas Fatores Extraescolares Fatores Intraescolares Fatores socioeconômicos Gestão e administração Fatores familiares Prática pedagógica Fatores individuais Condições de infraestrutura Qualificação dos profissionais

Ilustrando o nosso desafio

Atividade Relacione a imagem a seguir com as desigualdades sociais existentes na escola e responda: Como as medidas educacionais podem ser usadas para superar a situação representada pela figura?

Avaliação Educacional Externa www.caed.ufjf.br