Experiments and observational studies that result in polytomous data, nominal or ordinal, are frequently conducted in different areas of knowledge, especially in the agricultural or biological sciences. The generalized logit model is the alternative used for the analysis of this type of data and based on it, conclusions and decision-making are obtained. In statistical inference, it is very important to validate a model that has been fitted to the data using diagnostic methods based on appropriate residuals. However, residual analysis and diagnostics for models associated with polytomous response are still emerging in scientific research, constituting an object of research in the area of Statistics. As the polytomous categorical variable is multivariate, Pearsons ordinary residuals and deviance are vectors per individual with unknown distribution, which creates challenges in graphical visualization and interpretation. Randomized quantile residuals can be used to circumvent problems. However, it is observed that there is a lack of an investigation of its performance for the polytomous regression through simulation studies. As an alternative to reduce the dimension of the residuals and study outliers, this work proposes to use Euclidean and Mahalanobis distance measures, since there are no records of their use for the multinomial case. In this context, the methodological contributions of this work are: review of existing residuals for the class of models associated with polytomous data; study of the normality of randomized quantile residuals; proposition of using Euclidean and Mahalanobis distances to reduce the dimension of ordinary residuals, thus constituting a procedure for the diagnosis of generalized logit models, allowing the identification of the presence of outliers. Two applications illustrate the utility of the randomized quantile residuals and distance measurements. The performance of the proposed methods was done through simulation studies. In these studies, we evaluated the performance of randomized quantile residuals for individual nominal data as well as the use of Euclidean and Mahalanobis distances for grouped data. Graphic techniques such as the half-normal plot were used to assess the model and the Shapiro-Wilk test were used to verify normality of residuals. Under different scenarios, simulation studies have shown that the approaches are relevant to assess the goodness of fit of the generalized logits model to the data. Additionally, it is noted that such studies are just the beginning of a research area with many gaps to be filled.

Experimentos e estudos observacionais que resultam em dados politômicos nominais ou ordinais são conduzidos com frequência em diversas áreas de conhecimento, em especial nas ciências agrárias ou biológicas. O modelo dos logitos generalizados é a alternativa empregada para a análise desse tipo de dados e com base nele obtidas as conclusões e tomadas de decisão. Na inferência estatística, é muito importante validar um modelo que foi ajustado aos dados por meio de métodos de diagnósticos com base em resíduos adequados. No entanto, a análise de resíduos e diagnósticos para modelos associados aos dados politômicos ainda são emergentes na pesquisa científica, constituindo-se em objeto de pesquisa na área de Estatística. Como a variável categórica politômica é multivariada, os resíduos ordinários de Pearson e deviance são vetores por indivíduo com distribuição desconhecida, o que gera desafios na visualização e interpretação gráfica. O resíduo quantílico aleatorizado pode ser utilizado para contornar os problemas com esses resíduos. Entretanto, observa-se que falta uma investigação da sua performance para a regressão politômica por meio de estudos de simulação. Como uma alternativa para reduzir a dimensão dos resíduos e estudar outliers este trabalho propõe empregar as medidas de distâncias Euclidiana e de Mahalanobis, uma vez que não se tem registros de sua utilização para o caso multinomial. Nesse contexto, as contribuições metodológicas desse trabalho são: revisão de resíduos existentes para a classe de modelos associdados aos dados politômicos; estudo da normalidade dos resíduos quantílicos aleatorizados; proposição do uso das distâncias Euclidiana e de Mahalanobis para reduzir a dimensão dos resíduos ordinários, constituindo-se assim em um procedimento para o diagnóstico dos modelos dos logitos generalizados, permitindo identificar a presença de outliers. Duas aplicações ilustram a utilidade do resíduo quantílico aleatorizado e das medidas de distância. A performance dos métodos propostos foram feitas por meio de estudos de simulação. Nesses estudos, avaliou-se o desempenho dos resíduos quantílicos aleatorizados para os dados nominais individuais bem como o uso das distâncias Euclidiana e de Mahalanobis para dados agrupados. Foram empregadas técnicas gráficas como o gráfico meio-normal e o teste Shapiro-Wilk para avaliação da normalidade. Sob diferentes cenários, os estudos de simulação demonstraram que as abordagens são pertinentes para avaliar a bondade do ajuste do modelo dos logitos generalizados aos dados. Adicionalmente, registra-se que tais estudos são apenas o princípio para uma área de pesquisa com muitas lacunas a serem preenchidas.