Análise da detecção e da influência de outliers na avaliação da acurácia posicional de produtos cartográficos

Abstract

Outliers são dados que se diferem do conjunto de dados ao qual pertence e podem ser identificados aplicando métodos próprios para esta finalidade. A detecção de candidatos a outliers é objeto de interesse de várias áreas, dentre elas o controle de qualidade cartográfica, que tem por objetivo avaliar a qualidade de um produto cartográfico e assegurar para qual finalidade o produto cartográfico pode ser utilizado. Um dos elementos do controle de qualidade cartográfica é a acurácia posicional, que mede a qualidade da posição geográfica de dados geoespaciais. A análise da qualidade da posicional deve ser avaliada em termos de precisão e tendência. A precisão é feita seguindo as recomendações do Decreto 89.817, ET- ADGV e ET-CQDG, enquanto para a tendência podem ser utilizados testes inferenciais, como o Teste t de Student, e a estatística espacial, usando a média direcional e a variância circular. A presença de outliers pode comprometer tanto a precisão quanto a tendência e apesar da importância da detecção de candidatos a outliers, essa etapa não é bem definida nas normas, que não a tratam como obrigatória. Dessa forma, objetivou-se analisar o impacto da detecção de candidatos a outliers na avaliação da acurácia posicional e avaliar o desempenho de diferentes métodos de detecção de candidatos a outliers. Para isso, foram avaliados cinco produtos cartográficos quanto a sua acurácia posicional de duas formas, a primeira sem realizar a etapa de detecção de candidatos a outliers, fazendo a análise de precisão e tendência, e a segunda maneira acrescentando a detecção de candidatos a outliers, aplicando sete métodos para cada base de dados, sendo eles: Método 3σ, Diagrama Box-Plot, Método Standard Deviation, Método Hampel, Teste de Dixon, Teste de Grubbs e Teste de Chauvenet. Com isso, notou-se que a presença de pontos outliers afeta a qualidade do produto cartográfico e que após sua remoção, a classificação dos dados quanto à acurácia posicional tem uma melhoria. Palavras-chave: Outliers. Controle de Qualidade Cartográfica. Acurácia Posicional.Outliers are data that differ from the dataset to which they belong and can be identified by applying specific methods for this purpose. The detection of possible outliers is something of interest in several areas, including cartographic quality control, which aims to assess the quality of a cartographic product and ensure for what purpose the cartographic product can be used. One of the elements of cartographic quality control is positional accuracy, which measures the quality of the geographic position of geospatial. The analysis of the positional quality must be evaluated in terms of accuracy and trend. Precision is performed following the recommendations of Brazilian Law 89,817 and the ET-ADGV and ET-CQDG standards, as for the trend, inferential tests can be used, such as Student's t-test, and spatial statistics, using directional mean and circular variance. The presence of outliers can compromise both precision and trend. Despite the importance of detecting possible outliers, this step is not well defined in the standards, which do not consider it mandatory. Thus, the objective was to analyze the impact of detecting possible outliers in the assessment of positional accuracy and to evaluate the performance of different methods of detecting possible outliers. For this, five cartographic products were evaluated for their positional accuracy in two ways, the first without performing the possible outlier detection step, but performing the precision and trend analysis, and the second way adding the possible outliers detection, applying seven methods for each database, namely: 3σ, Box-Plot, Standard Deviation, Hampel’s, Dixon’s Q Test, Grubbs’ Test and Chauvenet’s Criterion. Thus, it was noted that the presence of outliers affects the quality of the cartographic product and that after its removal, the classification of data regarding positional accuracy has improved. Keywords: Outliers. Cartographic Quality Control. Positional Accuracy.