Proposta metodológica para a determinação do tamanho amostral e distribuição espacial de feições lineares utilizadas no controle de qualidade posicional em Cartografia

Abstract

Usualmente, a avaliação da acurácia posicional de produtos cartográficos é realizada por meio das discrepâncias posicionais e técnicas baseadas em pontos. Entretanto, a utilização de feições lineares apresenta algumas vantagens sobre o método pontual. Dentre estas, pode-se mencionar que as feições lineares possuem mais informações geométricas e posicionais que os pontos e que, em uma base cartográfica, aproximadamente 80% das feições são linhas. Apesar destas vantagens, parâmetros importantes para a avaliação da acurácia utilizando linhas não foram estabelecidos ou determinados, como o tamanho da amostra ou o seu padrão de distribuição espacial. A distribuição espacial é um fator relevante, pois pode interferir nos resultados e determinar a validade de um processo de avaliação. Diante disso, em seu primeiro capítulo, este estudo propôs um método baseado na modificação do Método do Vizinho Mais Próximo para pontos para avaliar o padrão de distribuição espacial de feições lineares. O método proposto, denominado de Nearest Neighbor Method for Linear Features (NNMLF), foi aplicado a dados simulados e reais. Os resultados mostraram que o NNMLF foi eficaz em estimar o padrão de distribuição espacial esperado em todos os experimentos com dados simulados. Já a aplicação nos dados reais mostrou que o NNMLF é de simples utilização. Com relação ao tamanho amostral, para o controle posicional utilizando linhas, não se tem conhecimento de estudo que indique o tamanho da amostra que deve ser utilizado. Diante disso, em seu segundo capítulo, este estudo propôs um método para determinar este tamanho amostral baseado na Simulação Monte Carlo. Para isso, foi utilizada uma base de dados composta por 46460 km de estradas de 10 províncias no leste da Espanha, e analisado os tamanhos de área de 1; 2,5; 5; 7,5; 10; 15; 20; 25; 50; 75; 100; 125; 150; 175; 200; 225 e 250 km2. Por fim, a comparação entre as discrepâncias fornecidas pelas amostras e pela população foi realizada com o teste Kolmogorov-Smirnov. Desta forma, foi possível realizar uma proposta do tamanho amostral de feições lineares utilizadas na avaliação da acurácia posicional, levando em consideração o padrão de distribuição espacial da amostra e o tamanho da área avaliada. Esta proposta foi realizada em forma de equação, que fornece o tamanho amostral com base no tamanho da área avaliada. O modelo ajustado indica uma forte associação (R² = 0,9252) entre o tamanho da área e o tamanho amostral mínimo necessário. Com o desenvolvimento destes métodos foi possível propor uma metodologia geral para a avaliação da acurácia posicional planimétrica realizada com feições lineares, segundo a norma brasileira. Essa metodologia, apresentada no terceiro capítulo deste estudo, compreende: determinação do tamanho amostral, análise do padrão de distribuição espacial, detecção de outlier, e análises de tendência e de precisão. Essa metodologia foi utilizada em três bases cartográficas: de pequena, média e grande escala e os resultados comparados com a avaliação resultante do método tradicional, realizado com pontos. Para todas as escalas, a metodologia proposta apresentou resultados compatíveis, ou mais rigorosos, que o método de feições pontuais, demonstrando a viabilidade de sua utilização. Palavras-chave: Padrão de Distribuição Espacial. Tamanho Amostral. Cartografia.Usually, the positional accuracy of cartographic products is assessed using positional discrepancies and point-based techniques. However, the use of linear features has some advantages over the point method. These include the fact that linear features have more geometric and positional information than points and that, in a cartographic base, approximately 80% of the features are lines. Despite these advantages, important parameters for assessing accuracy using lines have not been established or determined, such as the size of the sample or its spatial distribution pattern. Spatial distribution is a relevant factor, as it can affect the results and determine the validity of an evaluation process. Therefore, in its first chapter, this study proposed a method based on a modification of the Nearest Neighbor Method for points to evaluate the spatial distribution pattern of linear features. The proposed method, called the Nearest Neighbor Method for Linear Features (NNMLF), was applied to simulated and real data. The results showed that the NNMLF was effective in estimating the expected spatial distribution pattern in all the experiments with simulated data. The application to real data showed that the NNMLF is simple to use. With regard to sample size, for positional control using lines, there is no known study that indicates the sample size that should be used. Therefore, in its second chapter, this study proposed a method for determining this sample size based on Monte Carlo Simulation. To do this, a database consisting of 46460 km of roads from 10 provinces in eastern Spain was used, and the area sizes of 1; 2.5; 5; 7.5; 10; 15; 20; 25; 50; 75; 100; 125; 150; 175; 200; 225 and 250 km2 were analyzed. Finally, the discrepancies between the samples and the population were compared using the Kolmogorov-Smirnov test. In this way, it was possible to make a proposal for the sample size of linear features used to assess positional accuracy, taking into account the spatial distribution pattern of the sample and the size of the area assessed. This proposal was made in the form of an equation, which provides the sample size based on the size of the area assessed. The adjusted model indicates a strong association (R² = 0.9252) between the size of the area and the minimum sample size required. By developing these methods, it was possible to propose a general methodology for assessing planimetric positional accuracy using linear features, in accordance with the Brazilian standard. This methodology, presented in the third chapter of this study, includes: determining the sample size, analyzing the spatial distribution pattern, outlier detection, and trend and precision analyses. This methodology was used on three map bases: small, medium and large scale, and the results were compared with the assessment resulting from the traditional method, carried out using points. For all scales, the proposed methodology showed compatible or more rigorous results than the point feature method, demonstrating the viability of its use. Keywords: Spatial Distribution Pattern. Sample size. Cartography.