Application of geostatistical methods to identify the spatial dependence in the data analysis of a fan systematic design experiment

Os delineamentos sistemáticos são usados nas mais diversas áreas, como: florestal, horticultura, solos, etc. Na área florestal, os delineamentos sistemáticos são freqüentemente usados para estudos preliminares e têm o objetivo de testar o maior número de espaçamentos possíveis. No entanto, existem algumas limitações para a sua utilização. A primeira é o arranjo sistemático (não casualizado) das plantas, que não permite o uso das análises convencionais. A segunda é a alta sensibilidade para valores perdidos. Quando uma planta é perdida, o espaçamento das plantas vizinhas é alterado, assim esses valores não podem ser incluídos no conjunto de dados e informações consideráveis são excluídas das análises. O objetivo deste trabalho foi aplicar a metodologia geoestatística para identificação de dependência espacial em um experimento em delineamento sistemático tipo "leque", levando-se em consideração: a eliminação dos dados das plantas vizinhas aos valores perdidos e as informações de ocorrência de parcelas perdidas e o tempo que ocorreram. Os dados de volume sólido por planta utilizados neste trabalho são provenientes de um experimento de espaçamento de Eucalyptus dunnii em delineamento sistemático tipo "leque". Neste trabalho foram utilizados os dados referentes ao sexto ano, idade comercial de corte da espécie, com os seguintes procedimentos: eliminação dos dados das plantas vizinhas às plantas mortas (Modelo I); as informações de mortes das plantas foram consideradas como uma covariável no modelo (Modelo II) e além da covariável morte das plantas, também foi levado em consideração o tempo da ocorrência da morte (Modelo III). Os parâmetros do semivariograma foram estimados pelo método de máxima verossimilhança e para seleção de modelos, utilizou-se o Critério de Akaike (AIC). Os resultados obtidos permitem concluir que se identificou uma fraca dependência espacial, o que não justificaria considerá-la com a aplicação de um modelo geoestatístico. A função de correlação que apresentou melhor desempenho foi a Matérn com k = 2 para os três modelos considerados. Comparando-se esses modelos e seguindo o critério de Akaike, o modelo mais adequado foi o II, pois apresentou menor valor de AIC.Systematic designs are utilized in many areas, such as: forestry, horticulture, soils, etc. In forestry, the systematic designs are frequently used for preliminary studies and they aim at evaluating the largest number of possible spacings. However, there are some limitations on their use. The first limitation is the systematic design (non-randomized) of plants, which does not allow the use of conventional analyses. The second is the high sensitivity to lost values. When a plant is lost, the neighboring plant spacings are altered, so these values cannot be added to the data collection, and a great sum of information is excluded from the analyses. This study aimed at applying geostatistical methods to identify the spatial dependence in the data analysis of a fan systematic design experiment, taking into account: the exclusion of neighboring plant data to the lost values and the information regarding the occurrence of lost parcels as well as the time of their occurrence. The plant solid volume data utilized in this study were taken from a fan systematic design Eucalyptus dunnii spacing study. The data utilized were referent to the sixth year, commercial age for cutting of the specie, with the following procedures exclusion of the data from a neighboring plant next to a dead tree (Model I); the information of tree mortality as covariable in the model (Model II); and the time of occurrence of tree mortality, besides the tree mortality covariable (Model III). The semivariogram parameters were estimated by the maximum likelihood method, and the model selection was done by the utilization of the Akaike's Information Criterion (AIC). It was possible to conclude from the result analyses that there is a weak spatial dependence, which does not justify neither taking it into account nor the utilization of a geostatistical model. The correlation function that showed the best performance was the Matérn, with kappa=2 for the three models considered. By the comparison of these three models and the utilization of the Akaike's Information Criterion, the most suitable model was Model II, as it showed lower AIC value