Determinação do tamanho de amostra para a geoestatística

Abstract

A estimativa do tamanho da amostra na geoestatística é de grande importância para o planejamento e tomada de decisão, especialmente quando se objetiva a reconstrução total da população estudada. Por este motivo, muitos trabalhos sobre o tamanho da amostra geoestatística surgem com este propósito. Assim, o objetivo geral deste trabalho é utilizar a geoestatística associada ao teorema da taxa Nyquist para determinar um tamanho de amostra ideal quando se utiliza uma grade regular quadrática, na qual o modelo de dependência espacial ajustado é o gaussiano, identificando especificamente mudanças no tamanho ideal da amostra na presença de outliers. Dois conjuntos de dados altimétricos (Viçosa-MG, Brasil e Treynor-Iowa, EUA) foram analisados e o tamanho amostral ideal para ambos os conjuntos foi obtido. Posteriormente, os outliers foram removidos do conjunto de dados norte- americano e comparados os tamanhos de amostra ideais obtidos anteriormente. Além disso, utilizando os softwares R e ArcGIS, as estimativas dos parâmetros do modelo gaussiano, da média e da variância dos resíduos, provenientes da validação cruzada, foram comparadas através da construção de intervalos de confiança. Com o presente estudo concluiu-se que: (i) a distância máxima entre os pontos da grade regular quadrática é de aproximadamente 30% do alcance prático observado no semivariograma da primeira amostragem experimental; (ii) o tamanho amostral ideal obtido na presença de outliers é praticamente o dobro do tamanho de amostra ideal na ausência de outliers; (iii) o software R é o mais adequado na comparação das estimativas da média e da variância dos resíduos pois apresentou uma menor variabilidade (menores amplitudes dos intervalos de confiança construídos). Palavras-chave: Tamanho de amostra. Taxa Nyquist. Geoestatística. Outliers.

The estimation of sample size in Geostatistics has a great importance for planning and decision-making, specially when aims at the total reconstruction of the studied population. For this reason, many papers on the size of Geostatistics sampling are emerging. Thus, the general objective of this work is to use Geostatistics associated with the Nyquist Rate Theorem to determine an ideal sampling size when using a regular quadratic grid, in which the spatial dependence model is Gaussian, thus specifically identifying changes in ideal sampling size in the presence of outliers. Two sets of altimetry data (Viçosa-MG, Brazil and Treynor-Iowa, USA) were analyzed and the ideal sampling size for both sets was obtained. Subsequently, the outliers were removed from the North American dataset and compared to the ideal sampling sizes previusly obtained. In addition, using the R and ArcGIS softwares, the estimates of the Gaussian model parameters, the mean and the variance of the residues obtained from the cross validation were compared through the construction of confidence intervals. With the present study it was concluded that: (i) the maximum distance between the points of the regular quadratic grid is approximately 30% of the practical range observed in the semivariogram of the first experimental sample; (ii) the ideal sampling size obtained in the presence of outliers is practically double the ideal sampling size in the absence of outliers; (iii) the software R is the most adequate in the comparison of the mean and the variance estimates of the residues since it presented a lower variability (smaller amplitudes of constructed confidence intervals). Keywords: Sample size. Nyquist rate. Geostatistics. Outliers.