• JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
 
  Bookmark and Share
 
 
Dissertação de Mestrado
DOI
https://doi.org/10.11606/D.11.2019.tde-20190821-132929
Documento
Autor
Nome completo
Ana Alice Pilon
E-mail
Unidade da USP
Área do Conhecimento
Data de Defesa
Imprenta
Piracicaba, 2004
Orientador
Título em português
Métodos para incorporação da dependência espacial na análise de dados experimentais
Palavras-chave em português

ANÁLISE DE DADOS
DELINEAMENTO EXPERIMENTAL
ESTATÍSTICAS ESPACIAIS
GEOESTATÍSTICA
MODELOS MATEMÁTICOS
Resumo em português
A influência da heterogeneidade do solo na estimativa das diferenças entre os tratamentos é uma preocupação para os pesquisadores de campo. Na busca de alternativas para controlar esse fator e aumentar a precisão das comparações entre os tratamentos, o presente trabalho comparou a análise clássica ANOVA e alguns modelos espaciais que consideram a dependência no espaço entre as parcelas, levando em consideração suas posições geográficas na área experimental. Os modelos espaciais considerados no estudo foram: o modelo proposto por Papadakis, que consiste na adição de uma covariável construída a partir de observações em parcelas vizinhas, o modelo geoestatístico que consiste na adição de um efeito aleatório com correlação, dada por uma função da distância entre parcelas, e o modelo Markoviano que adiciona um efeito aleatório obtido a partir de observações em parcelas vizinhas. Os modelos foram ajustados a dados provenientes de dois ensaios em branco obtidos da literatura, aos quais foram adicionados efeitos arbitrários de tratamentos segundo delineamento inteiramente casualizado. Os efeitos dos tratamentos foram arbitrariamente adicionados a fim de simular um experimento real com o propósito de demonstração, para comparar a análise clássica (ANOVA) e os modelos espaciais. Nestas análises foi verificado que para os dados do ensaio em branco com 25 parcelas o modelo Markoviano forneceu maior precisão às estimativas dos contrastes entre os tratamentos, com grande diferença em relação aos resultados obtidos pelos demais modelos. Para o ensaio em branco, com 225 parcelas, o modelo Markoviano também foi o mais eficiente, porém, seus resultados foram próximos aos obtidos pelos outros modelos. O modelo geoestatístico junto aos métodos de estimação de máxima verossimilhança e máxima verossimilhança restrita foi o segundo melhor entre os modelos espaciais. Para a investigação dos resultados obtidos nos ajustes dos modelos aos dados dos ensaios em branco, foram realizadas simulações com alta, média e baixa dependência espacial entre as parcelas em condições experimentais similares aos dois conjuntos de dados investigados. Os resultados indicaram que os modelos espaciais oferecem uma maior precisão às estimativas dos contrastes entre as médias dos tratamentos, quando comparados à análise clássica, e o modelo geoestatístico junto aos métodos de estimação de parâmetros de máxima verossimilhança e de máxima verossimilhança restrita, foi na maioria das vezes o mais eficiente. O modelo Markoviano, em alguns casos, apresentou resultados mais precisos do que o geoestatístico, porém não foi suficientemente explorado nesse estudo sendo ainda mais trabalhoso do ponto de vista computacional. A fim de investigar se os efeitos dos tratamentos podem ser confundidos com a variação local, foi realizada uma simulação com 5000 diferentes aleatorizações dos efeitos de tratamentos aos dados do ensaio em branco com 25 parcelas, cujos resultados indicaram que os modelos espaciais oferecem estimativas mais precisas aos contrastes entre os tratamentos em comparação à análise clássica ANOVA
Título em inglês
Methods to incorporation of spatial dependency in analysis of experiments datas
Resumo em inglês
Soil heterogeneity's influence on the estimation of the treatment differences is one of the researcher's concerns in this field. The aim of this work is to find alternatives methods to control this problem. This work compares classical ANOVA to some other spatial models which consider the spatial dependence between plots according to their geographical position on the experimental area. Three spatial models were considered: firstly, the model proposed by Papadakis, which adds a covariate derived from observations in neighbours' plots. Secondly, a geostatistical model which includes a random effect with correlation given by a function of the distance between plots, and finally, a Markov model which includes a random effect derived from observations in neighbours' plots. The models were fit to two set of real data, derived from uniformity trials with treatments arbitrary effects added randomly. Treatments arbitrary effects were added to the real data to simulate a real experiment for the purposes demonstration, and to evaluate the classical ANOVA and spatial methods. In these analysis, the Markov model produced more precise estimates of the contrast between treatments, within a dataset of 25 plots. The difference between the models decreased as the dataset size increased, and for a dataset consisting of 225 plots the results were very similar. To investigate the results obtained from the models, data with three different levels of spatial dependence between plots were simulated, reproducing the experimental conditions of the two uniformity trials. The results indicated that spatial models are more precise in the estimation of the treatment effects when compared to the classical ANOVA, and in particular most of the times the geostatistical model together with maximum likelihood and restricted maximum likelihood estimation was the most efficient. The Markov model provided more precise results in some cases, but it was not deeply investigated in this study because it is too computationally demanding. In order to exclude a possible confounding effect due to a local variation, a simulation was carried with 5000 randomizations, and the results indicated that spatial models provided more precise estimates of the treatment contrasts when compare to the classical ANOVA.
 
AVISO - A consulta a este documento fica condicionada na aceitação das seguintes condições de uso:
Este trabalho é somente para uso privado de atividades de pesquisa e ensino. Não é autorizada sua reprodução para quaisquer fins lucrativos. Esta reserva de direitos abrange a todos os dados do documento bem como seu conteúdo. Na utilização ou citação de partes do documento é obrigatório mencionar nome da pessoa autora do trabalho.
PilonAnaAlice.pdf (5.25 Mbytes)
Data de Publicação
2019-08-22
 
AVISO: Saiba o que são os trabalhos decorrentes clicando aqui.
Todos os direitos da tese/dissertação são de seus autores
CeTI-SC/STI
Biblioteca Digital de Teses e Dissertações da USP. Copyright © 2001-2024. Todos os direitos reservados.