Um método correto para calcular o indicador de valor agregado IDD do Sistema Nacional de Avaliação da Educação Superior

Autores

Palavras-chave:

Higher education, Value-added modeling, Quality indicators, IDD

Resumo

O trabalho investiga o indicador de “valor agregado” usado no sistema de avaliação do ensino superior Brasileiro, o chamado indicador IDD (Indicador de Diferença entre os Desempenhos Observado e Esperado) para cursos de graduação. As duas principais afirmações defendidas são que desde 2014 este indicador é calculado de forma equivocada pelo INEP (Instituto Nacional de Estudos e Pesquisas Educacionais) e que este equívoco teve consequências relevantes para as políticas públicas. O INEP usa modelagem multinível para calcular o IDD, usando um modelo linear misto com interceptos aleatórios. Em vez de identificar o IDD com os interceptos estimados, o INEP usa a média dos residuais no nível dos estudantes. É possível reproduzir exatamente os valores dos IDDs publicados pelo INEP a partir dos microdados do ciclo de 2019 usando o método equivocado. Uma comparação dos valores do IDD do INEP com aqueles obtidos usando o método correto mostra índices de confiabilidade maiores usando o método correto. Como exemplo de uma consequência relevante, determino o número de cursos que foram equivocadamente classificados com IDD “satisfatório” segundo os critérios usuais do INEP.

Referências

AERA; APA; NCME. Standards for educational and psychological testing. American Educational Research Association, Washington, DC, 2014.

AERA. AERA Statement on Use of Value-Added Models (VAM) for the Evaluation of Educators and Educator Preparation Programs. Educational Researcher, California, v. 44, n. 8, p. 448–452, nov. 2015.

AMERICAN STATISTICAL ASSOCIATION. ASA statement on using value-added models for educational assessment. Virginia, 2014. Disponível em: http://www.amstat.org/policy/pdfs/ASA_VAM_Statement.pdf. Acesso em: 12 abr. 2014

BATES, D. et al. Fitting Linear Mixed-Effects Models Using lme4. Journal of Statistical Software, Los Angeles, v. 67, n. 1, 2015.

BITTENCOURT, H. R. et al. Uma análise da relação entre os conceitos Enade e IDD. Estudos em Avaliação Educacional, São Paulo, v. 19, n. 40, p. 247, ago. 2008.

CASTELLANO, K. E.; HO, A. D. A practitioner’s guide to growth models. Washington: CCSSO, 2013.

FERNANDES, R. et al. Avaliação de cursos na educação superior: a função e a mecânica do conceito preliminar de curso. Série documental. Brasília: Inep, 2009. Textos para discussão.

FERNANDES, V. Quality of accounting undergraduate programs in Brazil: how to estimate value-added? 2020. Tese (Doutorado em Ciências Contábeis) - Universidade Federal de Uberlândia, Uberlândia, 2020.

IKUTA, C. Y. S. Sobre o conceito preliminar de curso: concepção, aplicação e mudanças metodológicas. Estudos em Avaliação Educacional, São Paulo, v. 27, n. 66, p. 938, dez. 2016.

INEP. O que é o Sinaes. Brasília: Inep, 2015. Disponível em: http://inep.gov.br/sinaes. Acesso em: 30 nov. 2020.

INEP. Indicadores de qualidade da educação superior. Outros documentos. Brasília: Inep, 2020a. Disponível em: https://www.gov.br/inep/pt-br/areas-de-atuacao/pesquisas-estatisticas-e-indicadores/indicadores-de-qualidade-da-educacao-superior/outros-documentos. Acesso em: 30 nov. 2020.

INEP. NOTA TÉCNICA No34/2020/CGCQES/DAES. Brasília: Inep, 2020b. Disponível em: http://download.inep.gov.br/educacao_superior/enade/notas_tecnicas/2019/NOTA_TECNICA_N_34-2020_CGCQES-DAES_Metodologia_de_calculo_do_IDD_2019.pdf. Acesso em: 30 nov. 2020.

INEP. Microdados do indicador da diferença entre os desempenhos observado e esperado. Brasília: Inep, 2020c. Disponível em: https://www.gov.br/inep/pt-br/acesso-a-informacao/dados-abertos/microdados/idd. Acesso em: 30 nov. 2020.

JOLLY, E. Pymer4: Connecting R and Python for Linear Mixed Modeling. Journal of Open Source Software, United States, v. 3, n. 31, p. 862, 26 nov. 2018.

KIM, H.; LALANCETTE, D. Literature review on the value-added measurement in higher education. Paris: OECD Publishing, 2013.

KORETZ, D. Measuring postsecondary achievement: lessons from large-scale assessments in the K-12 Sector. Higher Education Policy, London, v. 32, n. 4, p. 513–536, dez. 2019.

LACERDA, L. L. V. DE; FERRI, C.; DUARTE, B. K. DA C. SINAES: avaliação, accountability e desempenho. Avaliação, Campinas; Sorocaba, v. 21, n. 3, nov. 2016. Disponível em: http://periodicos.uniso.br/ojs/index.php/avaliacao/article/view/2779. Acesso em: 30 set. 2020.

LACERDA, L. L. V. DE; FERRI, C. Conceito preliminar de curso: conceito único para uma realidade educacional múltipla. Estudos em Avaliação Educacional, São Paulo, v. 28, n. 69, p. 748-772, dez. 2017.

OECD. Assessment of higher education learning outcomes. Feasibility study report. Paris: OECD Publishing, 2013. v. 3. Disponível em: http://www.oecd.org/education/skills-beyond-school/ahelo-main-study.htm. Acesso em: 1 out. 2020.

OECD. Rethinking quality assurance for higher education in Brazil. Paris: OECD Publishing, 2018. Disponível em: https://www.oecd-ilibrary.org/education/rethinking-quality-assurance-for-higher-education-in-brazil_9789264309050-en. Acesso em: 6 fev. 2019.

POLIDORI, M. M. Políticas de avaliação da educação superior brasileira: Provão, SINAES, IDD, CPC, IGC e outros índices. Avaliação, Campinas; Sorocaba, v. 14, n. 2, p. 439–452, jul. 2009. Disponível em: https://www.scielo.br/j/aval/a/yFb9SmwXsdtq9rrzTp3fhFs/abstract/?lang=pt. Acesso em: Acesso em: 6 fev. 2019.

PRIMI, R.; SILVA, M. C. R. da; BARTHOLOMEU, D. A validade do Enade para avaliação de cursos superiores. Examen: política, gestão e avaliação da educação, Brasília, DF, v. 2, n. 2, p. 128–151, dez. 2018.

STEEDLE, J. T. Selecting value-added models for postsecondary institutional assessment. Assessment & Evaluation in Higher Education, v. 37, n. 6, p. 637–652, set. 2012.

TCU. Tribunal de Contas da União. Relatório de auditoria (RA): RA 01047120170. Brasília, 2018. Disponível em: https://tcu.jusbrasil.com.br/jurisprudencia/582915007/relatorio-de-auditoria-ra-ra-1047120170/relatorio-582915239. Acesso em: 30 dez. 2018.

Downloads

Publicado

29-07-2021

Edição

Seção

Artigos

Como Citar

Um método correto para calcular o indicador de valor agregado IDD do Sistema Nacional de Avaliação da Educação Superior. Avaliação: Revista da Avaliação da Educação Superior, Campinas; Sorocaba, SP, v. 26, n. 2, 2021. Disponível em: https://submission.scielo.br/index.php/aval/article/view/247853. Acesso em: 19 abr. 2025.