universidade federal de mato grosso faculdade de … · 2019. 2. 16. · resumo este trabalho de...
TRANSCRIPT
UNIVERSIDADE FEDERAL DE MATO GROSSO
FACULDADE DE ARQUITETURA ENGENHARIA E TECNOLOGIA
COORDENAÇÃO DE ENSINO DE ENGENHARIA CIVIL
JAQUELINE DE PAULA SAGA GOMES
AJUSTE DE POLIGONAL FECHADA EM “LOOP” PELO MMQ COM VARIAÇÃO
DAS PRECISÕES DAS OBSERVAÇÕES
CUIABÁ – MATO GROSSO
2014
JAQUELINE DE PAULA SAGA GOMES
AJUSTE DE POLIGONAL FECHADA EM “LOOP” PELO MMQ COM VARIAÇÃO
DAS PRECISÕES DAS OBSERVAÇÕES
Trabalho de Graduação submetido ao Corpo
Docente da Faculdade de Arquitetura, Engenharia
e Tecnologia da UFMT como requisito parcial
para obtenção do título de Bacharel em
Engenharia Civil
Orientador: Edson Pereira Lima
Cuiabá – Mato Grosso
2014
Dados Internacionais de Catalogação na Fonte.
Ficha catalográfica elaborada automaticamente de acordo com os dados fornecidos pelo(a) autor(a).
Permitida a reprodução parcial ou total, desde que citada a fonte.
G633a Paula Saga Gomes, Jaqueline de.AJUSTE DE POLIGONAL FECHADA EM “LOOP” PELO
MMQ COM VARIAÇÃO DAS PRECISÕES DASOBSERVAÇÕES / Jaqueline de Paula Saga Gomes. -- 2014
107 f. : il. color. ; 30 cm.
Orientadora: Edson Pereira Lima.TCC (graduação em Engenharia Civil) - Universidade Federal
de Mato Grosso, Faculdade de Arquitetura, Engenharia eTecnologia, Cuiabá, 2014.
Inclui bibliografia.
1. MMQ. 2. Precisão. 3. Elipse dos Erros. I. Título.
DEDICATÓRIA
Aos meus pais, pelas preocupações que passaram
por minha causa, pelo amor, carinho e estímulo que me
ofereceram, dedico-lhes essa conquista como gratidão.
AGRADECIMENTO
Agradeço a Deus pela força e coragem que me
proporcionou durante esta longa caminhada.
Agradeço aos familiares e amigos, pelo carinho,
paciência, pelas alegrias, tristezas e dores compartilhadas
e pela capacidade de me trazerem paz e esperança na
correria de cada semestre.
RESUMO
Este trabalho de graduação visa analisar o ajustamento de uma poligonal fechada em
“loop”, localizada no campus da Universidade Federal de Mato Grosso, utilizando duas
técnicas distintas para estabelecer as precisões das observações coletadas em campo. Ajustar
pelo método dos mínimos quadrados as observações, determinar as coordenadas ajustadas dos
pontos e comparar as suas precisões. Uma vez coletados os dados de campo, e para a
verificação da qualidade dos mesmos, após o ajustamento pelo método dos mínimos
quadrados usam-se as estimações por ponto onde as formulações tidas como elipse dos erros,
a elipse de confiança irá permitir a verificação desta qualidade. O trabalho é concluído
analisando e comparando os resultados obtidos utilizando a precisão nominal da estação total
e a precisão da média das observações, verificando e sugerindo através de comparativos qual
das precisões fornece um resultado mais exato.
Palavras-chave: MMQ, Precisão, Elipse dos Erros.
ABSTRACT
This work aims to analyze the degree of adjustment in a closed polygonal "loop",
located at the Federal University of Mato Grosso campus, using two different techniques to
establish the precision of the observations collected in the field. Adjust the method of least
squares the observations, determine the adjusted coordinates of points and compare their
accuracy. Once collected field data, and the verification of their quality, after adjustment by
the least squares method are used for the estimations point where the formulations taken as
ellipse of errors, the confidence ellipse will allow verification of this quality. The work is
done by analyzing and comparing the results obtained using the nominal accuracy of the total
station and accuracy average of observations, checking and suggesting through comparative
accuracies which provides a more accurate result.
Keywords: MLS, Accuracy, Ellipse of Errors.
LISTA DE GRÁFICOS
Gráfico 1 - Gráfico de Ângulos Ajustados pelo MMQ ......................................................................... 99
Gráfico 2 – Gráfico das Precisões Angulares Ajustadas pelo MMQ .................................................. 100
Gráfico 3 - Gráfico das Distâncias Horizontais Ajustadas pelo MMQ ............................................... 100
Gráfico 4 - Gráfico das Precisões das Distâncias Horizontais Ajustadas pelo MMQ ......................... 101
Gráfico 5 - Gráfico das Coordenadas Topográficas “X” Ajustadas pelo MMQ ................................. 101
Gráfico 6 - Gráfico da Precisão das Coordenadas Topográficas “X” Ajustadas pelo MMQ .............. 102
Gráfico 7 – Gráfico das Coordenadas Topográficas “Y” Ajustadas pelo MMQ ................................ 102
Gráfico 8 - Gráfico da Precisão das Coordenadas Topográficas “Y” Ajustadas pelo MMQ .............. 103
LISTA DE ILUSTRAÇÕES
Figura 1 - Definição dos elementos da elipse deo erro ou de confiança ............................................... 26
Figura 2 - Alguns padrões das elipses de erro padrão. .......................................................................... 27
Figura 3 - Estação total Topcon GTS-203............................................................................................. 30
Figura 4 - GPS Topcon. ........................................................................................................................ 30
Figura 5 - Distâncias, Ângulos e Azimutes no plano ............................................................................ 37
Figura 6 - Procedimento esquemático de Ajustamento pelo MMQ ...................................................... 38
Figura 7 – Cálculo para o nível de significância a 1% .......................................................................... 59
Figura 8 – Cálculo para o nível de significância a 5% .......................................................................... 60
Figura 9 – Teste Bilateral com nível de significância a 5% .................................................................. 72
Figura 10 – Teste Unilateral com nível de significância a 5% .............................................................. 73
Figura 11 – Estatística do teste .............................................................................................................. 78
Figura 12 – Cálculo para o nível de significância a 1% ........................................................................ 82
Figura 13 – Cálculo para o nível de significância a 5% ........................................................................ 82
Figura 14 – Teste bilateral para o nível de significância a 1% .............................................................. 89
Figura 15 – Teste unilateral para o nível de significância a 1% ............................................................ 90
Figura 16 – Estatística do teste .............................................................................................................. 95
Figura 17 – Poligonal com as elipses de confiança ............................................................................... 98
LISTA DE QUADROS
Quadro 1 – Planilha de experimentos ................................................................................................... 55
Quadro 2 – Planilha de experimentos continuação ............................................................................... 56
Quadro 3 – Valores observados e calculados ........................................................................................ 61
Quadro 4 – Coeficientes (Pontos a Vante) ............................................................................................ 62
Quadro 5 – Valores observados e calculados (1ª iteração).................................................................... 65
Quadro 6 – Valores de Vante ................................................................................................................ 66
Quadro 7 – Valores observados e calculados ........................................................................................ 69
Quadro 8 – Valores de vante ................................................................................................................. 69
Quadro 9 – Valores observados e calculados ........................................................................................ 70
Quadro 10 – Valores de Vante .............................................................................................................. 71
Quadro 11 – Precisão Nominal ............................................................................................................. 76
Quadro 12 – Elipses dos Erros Padrão .................................................................................................. 78
Quadro 13 – Elipses de confiança pontual ............................................................................................ 79
Quadro 14 – Valores observados e calculados ...................................................................................... 83
Quadro 15 – Coeficientes (Pontos a vante) ........................................................................................... 83
Quadro 16 – Valores observados e calculados ...................................................................................... 85
Quadro 17 – Valores de vante ............................................................................................................... 85
Quadro 18 – Valores observados e calculados ...................................................................................... 86
Quadro 19- Valores de vante ................................................................................................................. 87
Quadro 20 – Valores observados e calculados ...................................................................................... 88
Quadro 21 – Valores de vante ............................................................................................................... 88
Quadro 22 – Precisão da média das observações .................................................................................. 93
Quadro 23 – Elipses dos Erros Padrão .................................................................................................. 95
Quadro 24 – Elipse de Confiança Pontual ............................................................................................ 96
SUMÁRIO
1 INTRODUÇÃO .................................................................................................................... 13
2 OBJETIVOS ........................................................................................................................ 14
2.1 OBJETIVO GERAL .............................................................................................................. 14
2.2 OBJETIVOS ESPECÍFICOS ................................................................................................ 14
2.3 OBJETO ................................................................................................................................ 15
2.3.1 Problema ............................................................................................................................... 15
2.3.2 Hipóteses ............................................................................................................................... 15
3 REVISÃO DE LITERATURA ........................................................................................... 16
3.1 AJUSTAMENTO PELO MÉTODO DOS MÍNIMOS QUADRADOS ................................ 16
3.1.1 Ajustamento paramétrico ................................................................................................... 17
3.1.1.1 Método de ajustamento paramétrico linear ............................................................................ 18
3.1.1.2 Método de ajustamento paramétrico não linear ..................................................................... 19
3.1.1.3 Estimativa da precisão dos parâmetros e dos resíduos estimados ......................................... 20
3.2 MATRIZ DOS PESOS .......................................................................................................... 21
3.3 VETOR DAS OBSERVAÇÕES APROXIMADAS ............................................................. 21
3.4 VETOR DAS DIFERENÇAS ............................................................................................... 22
3.5 MATRIZ A ............................................................................................................................ 22
3.6 TESTE BILATERAL ............................................................................................................ 22
3.7 TESTE UNILATERAL ......................................................................................................... 23
3.8 TESTE “DATA SNOOPING” ............................................................................................... 24
3.9 ELIPSES DE ERRO .............................................................................................................. 25
4 MÉTODOS E MATERIAIS ............................................................................................... 29
4.1 MATERIAL DE CAMPO ..................................................................................................... 29
4.2 MATERIAL DE ESCRITÓRIO ............................................................................................ 30
4.3 METODOLOGIA .................................................................................................................. 31
4.4 APLICAÇÃO DO TESTE QUI-QUADRADO DA FORMA QUADRÁTICA DO ERRO DE
FECHAMENTO .................................................................................................................... 32
4.4.1 Matrizes variância-covariância (MVC) ............................................................................. 33
4.4.2 MVC das Distâncias ............................................................................................................ 33
4.4.3 MVC dos Azimutes .............................................................................................................. 34
4.4.4 MVC das Distâncias e Azimutes ......................................................................................... 35
4.4.5 MVC das coordenadas do ultimo ponto ............................................................................ 35
4.4.6 Aplicação final do teste ........................................................................................................ 36
4.5 AJUSTAMENTO PELO MÉTODO DOS MÍNIMOS QUADRADOS (MMQ) .................. 37
4.5.1 Modelo Matemático ............................................................................................................. 38
4.5.1.1 Equações de observações para a distância ............................................................................. 39
4.5.1.2 Equação de observação para o Azimute Aij ........................................................................... 39
4.5.1.3 Equação de observação para o Azimute Aik .......................................................................... 40
4.5.1.4 Equação de observação para o Ângulo akij ............................................................................. 40
4.5.1.5 Equações de observações para a distância com resíduo ........................................................ 40
4.5.1.6 Equações de observações para o Ângulo com resíduo .......................................................... 42
4.5.2 Coordenadas aproximadas - parâmetros (Xo) ................................................................... 44
4.5.3 Matriz dos Peso (P) .............................................................................................................. 44
4.5.4 Vetor das observações aproximadas (Lo) ........................................................................... 45
4.5.5 Vetor dos termos independentes (L) .................................................................................. 46
4.5.6 Matriz A ................................................................................................................................ 46
4.5.7 Resolução do sistema de equações de normais .................................................................. 48
4.5.8 Cálculo dos Parâmetros Ajustados .................................................................................... 48
4.5.9 Cálculo do Vetor dos Resíduos (V) ..................................................................................... 49
4.5.10 Teste Global da Variância “a Posteriori” (2ˆo ) ................................................................. 49
4.5.11 Cálculo das MVC: dos parâmetros ajustados, observações ajustadas e resíduos.......... 50
4.6 QUALIDADE DO AJUSTAMENTO ................................................................................... 50
4.6.1 Precisão e Elipses de Erro ................................................................................................... 51
4.6.2 Detecção de “Outlier” e localização de erros grosseiros ................................................... 52
4.6.2.1 Teste “Data Snooping” .......................................................................................................... 52
5 EXPERIMENTAÇÃO E RESULTADOS ......................................................................... 54
5.1 EXPERIMENTAÇÃO E ANÁLISE DE RESULTADOS COM A PRECISÃO NOMINAL
DA ESTAÇÃO TOTAL ........................................................................................................ 57
5.1.1 Teste Qui-quadrado da forma quadrática do erro de fechamento ................................. 57
5.1.1.1 Matriz Variância-Covariância das distâncias e ângulos ........................................................ 57
5.1.1.2 Matriz Variancia-Covariância das distancias e azimutes ....................................................... 58
5.1.1.3 Matriz Vriancia-Covariancia das coordenadas dos últimos pontos ....................................... 58
5.1.1.4 Aplicação do teste .................................................................................................................. 59
5.1.2 Ajustamento pelo Método dos Mínimos Quadrados ........................................................ 60
5.1.2.1 Matriz A ................................................................................................................................. 61
5.1.2.2 Comparação da variância da unidade peso “a priori” com a variância da unidade peso “a
posteriori” ............................................................................................................................. 64
5.1.2.3 Iterações ................................................................................................................................. 65
5.1.2.3.1 Primeira iteração ................................................................................................................... 65
5.1.2.3.2 Segunda iteração ................................................................................................................... 69
5.1.2.3.3 Terceira iteração ................................................................................................................... 70
5.1.3 Localização de erros nas observações pelo teste “Data Snooping” de Baarda ............... 77
5.1.4 Parâmetros da Elípse dos Erros e Elípse de Confiança .................................................... 78
5.2 EXPERIMENTAÇÃO E ANÁLISE DE RESULTADOS COM A PRECISÃO DA MÉDIA
DAS OBSERVAÇÕES ......................................................................................................... 79
5.2.1 Teste Qui-quadrado da forma quadrática do erro de fechamento ................................. 79
5.2.1.1 Matriz variância-covariância das distancias e ângulos .......................................................... 80
5.2.1.2 Matriz variância-covariancia das distancias e azimutes ........................................................ 80
5.2.1.3 Matriz variância-covariância das Coordenadas dos últimos pontos ...................................... 81
5.2.1.4 Aplicação do teste .................................................................................................................. 81
5.2.2 Ajustamento pelo Método dos Mínimos Quadrados ........................................................ 83
5.2.2.1 Iterações ................................................................................................................................. 84
5.2.2.1.1 Primeira iteração ................................................................................................................... 85
5.2.2.1.2 Segunda iteração ................................................................................................................... 86
5.2.2.1.3 Terceira iteração ................................................................................................................... 88
5.2.3 Localização de erros nas observações pelo teste “Data Snooping” de Baarda ............... 94
5.2.4 Parâmetros da Elipse dos Erros e Elipse de Confiança .................................................... 95
5.3 ANÁLISE CONJUNTA DOS RESULTADOS .................................................................... 97
6 CONCLUSÃO .................................................................................................................... 104
REFERÊNCIAS BIBLIOGRÁFICAS ............................................................................................ 105
13
1 INTRODUÇÃO
O trabalho visa analisar o ajustamento de uma poligonal fechada em “loop”, localizada
no campus da Universidade Federal de Mato Grosso, utilizando duas técnicas distintas para
estabelecer as precisões das observações coletadas em campo. Ajustar pelo método dos
mínimos quadrados, MMQ, as observações, determinar as coordenadas ajustadas dos pontos
e comparar as suas precisões.
Sem muito retroceder no tempo, até poucos anos, os controles de qualidade de
levantamentos topográficos e geodésicos estavam baseados em expressões matemáticas
documentadas na NBR 13133/1994 além de especificações de caráter pratico adotadas por
técnicos da área.
Estes profissionais de topografia até então usam da compensação dos erros de
distância (erro linear) e erro nos ângulos (erro angular). Esta técnica realiza inicialmente a
distribuição do erro angular de fechamento entre os vértices da poligonal e prossegue
distribuindo o erro linear no plano cartesiano. No entanto, tratando estes erros separadamente,
haverá sempre o problema do fechamento. No ajustamento realizado pelo MMQ, os ângulos e
distâncias são trabalhados em conjunto em um processo de iteração até que ocorra uma
estabilização dos valores dos parâmetros, no caso as coordenadas plano-retangulares do
levantamento.
Com os avanços tecnológicos, novos instrumentos cada vez mais sofisticados e
precisos estão vindo suprir o mercado da geomensura percebe-se a exigência da adoção em
paralelo de técnicas estatísticas apuradas para o controle de qualidade de um levantamento
topográfico. Desta forma, este fato leva a uma exigência elevada da acurácia.
Uma vez coletados os dados de campo, e para a verificação da qualidade dos mesmos,
após o ajustamento pelo método dos mínimos quadrados usam-se as estimações por ponto
onde as formulações tidas como elipse dos erros, a elipse de confiança irá permitir a
verificação desta qualidade.
14
2 OBJETIVOS
2.1 OBJETIVO GERAL
Ajustar pelo método dos mínimos quadrados as coordenadas (XY) dos vértices de uma
poligonal fechada em “loop”, considerando as precisões, nominais da estação total e as
precisões obtidas por repetições na mensuração dos ângulos e distâncias avaliando a precisão
dos parâmetros ajustados.
2.2 OBJETIVOS ESPECÍFICOS
São os seguintes:
a) materializar com marco identificável na área de estudo as coordenadas
planialtimétricas de dois pontos referenciados a uma única origem (Sistema
Geodésico Brasileiro – SGB) com uso de GPS, sendo que, um dos pontos será
integrante da poligonal fechada e usado como ponto de controle;
b) processar as observações coletadas da poligonal (Ângulos e distâncias)
considerando suas precisões, referenciadas as repetições de leituras e às máximas
estipuladas pelo fabricante da estação total a ser utilizada na coleta de dados;
c) realizar um controle de pré-ajustamento, utilizando o teste qui-quadrado da forma
quadrática do erro de fechamento para verificar a aceitação ou não das observações
coletadas;
d) realizar o ajustamento das observações pela técnica do Método dos Mínimos
Quadrados (MMQ) na forma paramétrica;
e) adotar duas matrizes distintas de Peso no ajustamento das observações. Uma
considerando os elementos de peso como sendo o inverso das precisões obtidas por
repetições das observações, e a outra o inverso das precisões nominais da estação
total;
f) verificar a qualidade do levantamento topográfico após o ajustamento através das
estimações por ponto das elipses, dos erros e de confiança e
g) a partir dos valores das precisões ajustadas para as coordenadas dos pontos da
poligonal, proceder a uma análise de diferença entre elas e comparar os resultados
obtidos.
15
2.3 OBJETO
2.3.1 Problema
De que maneira é possível obter parâmetros ajustados, coordenadas retangulares (XY),
de uma poligonal fechada percorrida em “loop” com precisão, aplicando as técnicas do
Método dos Mínimos Quadrados na sua forma paramétrica?
2.3.2 Hipóteses
São as seguintes:
a) as precisões médias das observações obtidas por repetições quando vinculadas ao
processo de ajustamento pelo MMQ proporciona parâmetros ajustados com maior
precisão;
b) se o erro de fechamento testado no pre-ajustamento passar no teste qui-quadrado
da forma quadrática do erro de fechamento, não serão necessários, caso precise,
mais do que três iterações para obter um bom ajuste;
c) trabalhando com as precisões das observações obtidas por repetições, chegam-se
aos parâmetros ajustados cujas precisões serão melhores do que às máximas
estabelecidas para estação total e
d) os semi-eixos das elipses de confiança apresentam maiores dimensões nos pontos
mais afastados do ponto de controle.
16
3 REVISÃO DE LITERATURA
Na sequencia desse trabalho, será apresentada de forma cronológica tópicos relativos
ao tema da pesquisa que será desenvolvida.
3.1 AJUSTAMENTO PELO MÉTODO DOS MÍNIMOS QUADRADOS
Utilizando as equações de observação expressas por variação de coordenadas, o
ajustamento pelo método dos mínimos quadrados permite obter coordenadas finais dos
vértices mediante as correções dxi e dyi que são adicionadas as coordenadas provisórias.
Segundo Mikhail e Ackermann (1976), Leick (1995, 2004), o modelo matemático
funcional é um componente importante do ajustamento por mínimos quadrados.
No modelo matemático, de acordo com Leick (2004) são descritas matematicamente
as relações entre observações e parâmetros. A realidade física existente é expressa de maneira
simplificada. Coordenadas e alturas são consideradas como parâmetros. As distâncias e
ângulos, as diferenças de coordenadas ou de alturas são consideradas como observações.
De acordo com Krakiwsky (1975) e Leick (2004), são três os modelos matemáticos de
ajustamento: F(Xa,La) = 0, F(La) = 0 e La = F(Xa), que correspondem respectivamente ao
método de ajustamento combinado, correlato e paramétrico, que serão sucintamente
demonstrados, com exceção do paramétrico que será utilizado neste trabalho.
No método de ajustamento combinado, uma função não explícita relaciona as
observações e os parâmetros, no sistema de equações não é possível isolar os parâmetros dos
valores observados:
0),( aa LXF (1)
onde:
a: indicação de que os parâmetros e observações são ajustados;
La: um vetor (nx1) das observações ajustadas;
Xa (ux1): é um vetor que contém os parâmetros ajustados;
n: número de observações;
u : número de parâmetros.
17
As observações ajustadas pelo método de ajustamento correlato são ligadas por N
equações de condição, onde só aparecem valores medidos, que são os valores observados
ajustados (incógnitas) e nenhum parâmetro:
0)( aLF (2)
No método das equações de observações ou método de ajustamento paramétrico, os
valores observados ajustados são expressos como função dos parâmetros ajustados:
)( aa XFL (3)
Gemael (1994) descreve técnicas matemáticas desenvolvidas por Gauss e Legendre
que adotam como melhor estimativa de uma grandeza X (valor verdadeiro), aquela que a
soma dos quadrados dos resíduos seja mínima:
mínimoVV T (4)
Uma matriz quadrada de pesos é adicionada a equação, pois as observações não
apresentam o mesmo grau de confiança. Dessa maneira a Equação (4) se expressa pela
Equação (5):
mínimoVPV T (5)
onde:
V: vetor dos resíduos das observações;
P : matriz dos pesos;
3.1.1 Ajustamento paramétrico
Considerando a necessidade de se obter uma estimativa única para os parâmetros,
coordenadas de uma poligonal fechada, bem como suas precisões, será utilizado o método dos
mínimos quadrados sob a forma de um ajuste paramétrico para o ajustamento das
observações.
Segundo Dalmolin (2004) o método paramétrico pode ser linear ou não linear, essa
determinação dependerá da função F. Será paramétrico linear se F for linear, caso contrário,
será não linear.
18
3.1.1.1 Método de ajustamento paramétrico linear
Sendo linear o funcional F da equação )( aa XFL , as observações ajustadas serão
expressas da seguinte maneira:
a
uun
a
n XAL 11 (6)
onde:
a
n L1 : vetor (nx1) dos valores observados ajustados, onde n é o número de observações;
un A : matriz dos coeficientes das incógnitas ou matriz projeto de dimensão (n x u);
a
u X1 : vetor (u x 1) dos parâmetros ajustados.
A Equação (6) é inconsistente devido aos inevitáveis erros de observação que
acontecem pela disposição somente de observações brutas e pela inexistência, “a priori”, dos
valores observados ajustados. Devido a essa inconsistência, é introduzido um vetor de
discrepâncias entre os valores observados e ajustados, denominado vetor dos resíduos.
Acrescentando o vetor dos resíduos na Equação (6) temos:
a
uunn
b
n XAVL 111 (7)
ou:
b
n
a
uunn LXAV 111 (8)
Desenvolvendo o procedimento acima, a inconsistência será retirada, porém surge um
novo problema, pois a nova Equação (7) ou (8) contém mais incógnitas (u + n > n) do que
observações (n). Aplica-se a Equação (5), do critério de mínimos quadrados, na Equação (8)
para contornar o problema. O resultado encontrado dessa aplicação é o sistema de equações
normais, Equação (9), que tem como solução admitindo inversa ordinária a Equação (10) em
que os parâmetros ajustados são fornecidos diretamente do paramétrico linear.
111 0unuuu UXN (9)
b
nnn
T
ununnn
T
un
a
u LPAAPAX 1
1
1 )())(( (10)
onde:
19
uu N =1))((
unnn
T
un APA : matriz dos coeficientes das equações normais;
1Unb
nnn
T
un LPA 1)( : vetor dos termos independentes;
a
u X1 : vetor dos parâmetros ajustados no caso do modelo funcional ser linear.
A expressão da matriz simétrica dos pesos, indicando as flutuações probabilísticas das
observações, é:
12
0
LBP (11)
onde:
2
0 : fator de variância “a priori”, geralmente arbitrado e igualado a 1;
1 Lb : MVC das observações.
A variância “a priori”, segundo Gemael (1994), não tem influencia no vetor solução
dos parâmetros estimados na matriz dos coeficientes das equações normais N.
É necessário o conhecimento da matriz das derivadas parciais das equações de
observações em relação aos parâmetros para estimar o vetor dos parâmetros ajustados da
Equação (10).
Utilizando os valores da Equação (10) na Equação (8), é possível calcular os valores
dos resíduos. Dessa forma, os valores das observações ajustadas são:
111 VLL n
b
n
a
n (12)
3.1.1.2 Método de ajustamento paramétrico não linear
É necessário linearizar o modelo matemático funcional F de La = F(Xa) quando ele é
não linear. Para linearizar o modelo funcional, emprega-se a fórmula de Taylor, dessa maneira
as aproximações são introduzidas e as iterações são requeridas tornando o modelo linearizado
da seguinte forma:
1
0
111 XALVL uunnn
b
n (13)
)( 1
0
111
b
nnuunn LLXAV (14)
onde:
20
L0: é o vetor (nx1) das observações aproximadas, calculadas a partir dos parâmetros
aproximados, ou seja, L0 = F(X0);
L: é o vetor dos termos independentes (nx1), ou discrepâncias, calculados a partir dos valores
dos parâmetros observados menos os valores observados aproximados sendo dado por
)( 1
0
11
b
nnn LLL ;
uδX1: é o vetor das correções a serem aplicadas aos parâmetros aproximados.
O vetor solução uδX1 (correções aos parâmetros aproximados), considerando ATPA, é
dado pela equação abaixo:
LPAAPAX nnn
T
ununnn
T
unu
1
1 )( (15)
É possível obter as coordenadas ajustadas pela equação abaixo:
1
0
11 XXX uu
a
u (16)
Pode-se obter o vetor observações ajustadas e dos resíduos com as Equações (13) e
(14) respectivamente.
3.1.1.3 Estimativa da precisão dos parâmetros e dos resíduos estimados
É possível obter as estimativas da qualidade dos parâmetros estimados, das
observações, e dos resíduos por meio da MVC.
Segundo Lugnani (1983) e Dalmolin (2004) pode-se obter a representação (X,∑x) dos
parâmetros e sua precisão a partir da utilização do método paramétrico, onde mede-se Lb e
estima-se ∑x.
Pode-se gerar a MVC das correções aos parâmetros ajustados Equação (17) aplicando-
se a lei de propagação de covariâncias na Equação (16). De acordo com Wells (1971),
Mikhail (1976), Leick (1995), Leick (2004), Gemael (1994) e Dalmolin (2004) essas
correções são constantes, então a mesma equação pode fornecer a MVC dos parâmetros
estimados.
12
0
NX a
(17)
A MVC dos valores observados ajustados é dada pela Equação (18) abaixo:
T
La AAN 12
0
(18)
21
A MVC dos resíduos das observações é dada pela Equação (19) abaixo:
LaLbV (19)
Pela equação expressa abaixo pode-se obter a variância “a posteriori”:
un
PVV T
2
0
(20)
onde:
n − u: Nº de graus de liberdade do sistema de equações.
3.2 MATRIZ DOS PESOS
Para montar a matriz dos pesos dada pela Equação (11), é necessário que sejam
conhecidas as precisões com que foram obtidas as observações (ângulos e distâncias).
Considerando que não existem correlações entre as observações, a matriz será
trabalhada de maneira diagonal.
O fator de variância “a posteriori”, ou o sigma zero “a priori” 2
0 pode ser arbitrário,
geralmente ele é considerado com o valor igual à unidade. A MVC das observações é formada
de acordo com os valores da precisão de cada observação e caso haja correlação entre as
observações, sendo a variância e covariância respectivamente.
3.3 VETOR DAS OBSERVAÇÕES APROXIMADAS
Partindo de estações genéricas (k, i, j), cujo o ponto (i) considera-se um ponto de
instalação do instrumento medidor de ângulos e distâncias, (k) um ponto situado atrás e (j) um
ponto situado a frente, pode-se trabalhar as equações de observações necessárias ao MMQ.
Desta forma, (Sik) caracteriza a distância do ponto de instalação (i) ao ponto situado atrás (k) e
(Sij), a distância do ponto de instalação (i) ao ponto situado a frente (j). O ângulo horizontal
horário formado entre os três pontos (kij) é obtido pela diferença entre o azimute a vante (Aij)
e o azimute atrás (Aik)
Assim, para determinar o vetor das observações aproximadas expresso pela Equação
(3) é necessário substituir os vetores aproximados obtidos Xa pelo método dos mínimos
quadrados nas equações de observações expressas abaixo:
22
ik
ik
j
j
ikijkijYY
XXa
YiY
XiXaAzAz tantan (21)
ij
ij
ijY
XaAz tan e
ik
ikik
Y
XaAz tan (22)
21
22
ijijij YYXXd e 21
22
ikikik YYXXd (23)
3.4 VETOR DAS DIFERENÇAS
L é o vetor dos termos independentes (nx1), ou discrepâncias, calculados a partir dos
valores dos parâmetros observados menos os valores observados aproximados sendo dado
por:
)( 1
0
11
b
nnn LLL (24)
3.5 MATRIZ A
Chamamos de matriz A (n x u) a matriz das derivadas parciais da função F, ou seja, a
matriz A é montada a partir das derivadas parciais das equações de observações em relação
aos parâmetros ajustados no ponto aproximado. É expressa pela Equação (25):
0XXaaX
FA
. (25)
3.6 TESTE BILATERAL
Na aplicação do teste bilateral, primeiramente são estabelecidas a hipótese básica ou
nula (H0) e a hipótese alternativa (Ha):
2
0
2
00 H (26)
2
0
2
0 aH (27)
A comparação entre 2
o e 2ˆo se baseia no fato de que a forma quadrática V
TPV tem
distribuição 2 com (gl = n – u) graus de liberdade e tem por finalidade verificar se
23
estatisticamente 2
o é igual a 2ˆo , esta última é obtida do ajustamento. Assim a estatística 2
é calculada por:
glc 2
0
2
02 ˆ
, como
gl
PVV T
2
0 , 2
0
2
PVV T
c (28)
Com o auxílio de uma tabela de distribuição qui-quadrado é possível determinar os
valores teóricos. É necessário entrar com o número do grau de liberdade (gl) e o nível de
significância () chegando na Equação (29).
Se o nível de significância () estiver dentro do intervalo representado da Equação
(29), a hipótese básica não é rejeitada:
2
21,
22
2,
gl
cgl
(29)
Se o nível de significância () estiver fora do intervalo de confiança dado pela
Equação (29), a hipótese básica é rejeitada e acabamos por aceitar a hipótese alternativa.
Nos casos em que a hipótese básica é rejeitada significa que o ajustamento apresenta
problemas e as possíveis causas desses problemas devem ser investigadas.
3.7 TESTE UNILATERAL
Na aplicação do teste unilateral, presume-se que quando o teste global é usado para
detectar “outliers” a variância “a posteriori” é maior que a variância “a priori”. Sendo assim,
as hipóteses a serem testadas são as seguintes:
2
0
2
00 H (30)
2
0
2
0 Ha (31)
É necessário calcular a estatística do teste pela Equação (29) que também é utilizada
no cálculo do teste bilateral.
Se com o nível de significância () a Equação (32) for atendida, a hipótese básica não
é rejeitada:
gl
gl
calc
2
1.2
(32)
24
De acordo com Kuang (1996), nos casos em que uma estimativa imprópria da matriz
variância-covariância resultar na rejeição da hipótese zero H0, deve-se analisar os resíduos,
pois eles obedecem a uma função de distribuição normal, com tendência de média igual a
zero, para detectar um possível erro, observa-se se alguma das observações produziu resíduos
excessivos.
Caso o teste global seja rejeitado e os resíduos se mostrarem compatíveis com a
precisão dos equipamentos utilizados nas medições, propõe-se uma nova matriz variância-
covariância, pois o motivo da rejeição pode ser pela estimativa não correta da precisão das
observações.
LbLb .ˆˆ 2
0 (33)
onde:
Lb : matriz variância-covariância das observações escalonadas.
Os testes “data snooping” de Baarda e o teste Tau de Pope são comumente aplicados
para localizar, detectar e eliminar os erros grosseiros (“outliers”). Nesse trabalho será
abordado somente o teste “data snooping” de Barda para a localização de erros grosseiros.
3.8 TESTE “DATA SNOOPING”
Baarda (1968) propôs o teste global para a detecção de “outliers” e o teste “data
snooping” para a localização de erros grosseiros.
O teste “data snooping” de Baarda consiste de um teste unidimensional que examina
apenas um resíduo de cada vez, o procedimento é repetido tantas vezes quantas fores as
observações, é utilizado para localizar as observações que possam estar abrigando erros, o
teste estabelece valores limite para aceitação das observações, a partir dos dados obtidos na
matriz variância-covariância dos resíduos.
A estatística do teste é:
il
i
ir
vw
1
(34)
onde:
vi: são os valores obtidos do vetor dos resíduos (V = A·X + L) da última iteração;
25
ri é a redundância parcial que se obtém da diagonal da matriz.
A matriz R de redundâncias é expressa pela equação abaixo:
PR V2ˆ
1
(35)
onde:
V : é a MVC dos resíduos;
P: é a matriz dos Pesos.
A MVC dos resíduos é dada pela Equação abaixo:
LaV P 12
0 . (36)
A média matemática esperada é zero e variância igual a 1 dos resíduos normalizados
que se ajustam a função de distribuição normal reduzida. Portanto, outra hipótese nula mais
específica é proposta abaixo:
)1,0(~:0 nwH i (37)
onde:
n(0,1): é a distribuição de densidade normal reduzida.
No teste bilateral que tem um nível de significância pré-definido a , a hipótese nula
H0 será rejeitada, ou seja, um “outlier” será detectado, se:
2
0nwi ou
21 0
nwi (38)
Nos casos em que os valores das observações que apresentarem valores excedidos aos
calculados no teste, deve-se revisar os valores ou as medições devem ser repetidas.
3.9 ELIPSES DE ERRO
De acordo com Shofield e Breach (1972), a elipse de erro é uma expressão gráfica
conveniente da incerteza posicional de um ponto, e sendo absoluta acaba por fornecer a
medida de incerteza relativa do ponto analisado em relação ao ponto fixo da rede.
Oferecer subsídios para realização de comparações de maneira visual da precisão
relativa das estações é a maior vantagem da elipse para Ghilani e Wolf (2006).
26
Para Ghilani e Wolf (2006), pode-se comparar de maneira rápida e significativa a
visualização da forma, tamanho e orientação da elipse de vários levantamentos. Segundo
Leick (2004), através da matriz projeto e da matriz peso a forma da elipse padrão pode variar,
dependendo da geometria da rede e a interpretação geométrica pode ser avaliada se a rede e as
elipses forem apresentadas em conjunto.
A elipse de erro pode ser visualizada nas figuras abaixo:
Figura 1 - Definição dos elementos da elipse deo erro ou de confiança
Fonte: Mikhail e Gracie (1981)
27
Figura 2 - Alguns padrões das elipses de erro padrão.
Fonte: Mikhail e Gracie (1981)
A elipse de erro em sua forma padrão possui uma região de confiança de 39,4% de
probabilidade em que a posição estimada para o ponto esteja dentro da elipse, centrada na
“posição verdadeira” e a sua construção pode ser feita calculando-se os elementos (semi-eixos
maior e menor e orientação) a partir dos dados constantes na matriz variância-covariância dos
parâmetros ajustados XX . Segundo Gemael (1994), para obtenção de uma região de
probabilidade de 95%, basta multiplicar o semi-eixo maior (a) e menor (b) por um fator de
2,477.
2
2
12
0
12
0 ).(ˆˆyyx
xyxT
XX PAAN
(39)
onde:
XX : matriz variância-covariância das coordenadas ajustadas;
28
2
0 : variância “a posteriori”;
A: matriz dos coeficientes das equações de observação;
P: matriz dos pesos das observações;
1)( PAAT: matriz co-fatores da matriz variância-covariância das coordenadas ajustadas;
22 , yx : variância das coordenadas ajustadas X e Y, respectivamente;
xy : covariância x, y;
Os parâmetros x , y e xy , que são respectivamente o desvio padrão da coordenada
estimada x, desvio padrão da coordenada estimada y e covariância entre elas, determinam o
tamanho, a forma e a orientação das elipses dos erros padrão ().
A correlação entre x e y determina a orientação da elipse em relação ao eixo x e y, se
elas não forem correlacionadas, a elipse se torna paralela ao eixo x e y e se as duas
coordenadas x e y tiverem a mesma precisão, a elipse degenera-se em um círculo.
É necessária a análise de quadrante para calcular a orientação da elipse. A expressão
do ângulo crítico é:
22
22
YX
XYtg
(40)
Os pontos críticos, que são as raízes da Equação (40) são e º90 . O que significa
que as variâncias máxima e mínima estão em eixos ortogonais.
Os semi-eixos a e b da elipse dos erros são calculados por:
2max Xa (41)
2max Yb (42)
29
4 MÉTODOS E MATERIAIS
O trabalho será conduzido no campus Cuiabá da Universidade Federal de Mato Grosso
(UFMT), cidade de Cuiabá-MT, em uma área próxima ao estacionamento do Departamento
de Engenharia Sanitária e Ambiental (DESA). Para isto será delimitada uma poligonal
fechada de 5 pontos. Serão a principio materializados dois marcos com coordenadas
geodésicas determinadas com GPS (Topcon), Base & Rover, cujos dados serão processados
com a RBMC Cuiabá utilizando o software Topcon Tools, gerando coordenadas seguras de 2
pontos na área de estudo. Destes pontos, um será usado como ponto de controle, para o qual
será estabelecidas coordenadas topográficas, bem como o azimute verdadeiro do alinhamento
inicial (AZv1-2).
O marco Nº 1 será materializado em cilindro de concreto a 30 cm do solo, assim como
o marco Nº 2. Os demais vértices da poligonal serão materializados com piquetes de madeira
localizados ao nível do solo.
A relação de materiais a serem utilizados neste trabalho irá constar-se de
equipamentos de campo e escritório.
4.1 MATERIAL DE CAMPO
Os materiais são os seguintes:
a) estação total marca GTS-203 (Figura 3), de fabricação Topcon, objetiva com
medição eletrônica da distância de raio infravermelho, visor, teclado, dispositivo de
ajuste, nível de bolha circular e tubular e prumo óptico;
30
Figura 3 - Estação total Topcon GTS-203.
b) prisma refletor e bastão com nível de bolha;
c) tripé com base nivelante;
d) bipé e
e) GPS Topcon (Base & Rover), Figura 4.
Figura 4 - GPS Topcon.
4.2 MATERIAL DE ESCRITÓRIO
Os materiais são os seguintes:
a) Hardware:
- computador de mesa;
31
- impressora laser;
b) Software:
- Topcon Tolls. Para processamento dos dados de GPS;
- DMAG2010. Para determinação da convergência meridiana e declinação
magnética;
- MAPGEO. Para transformação de coordenadas geodésica – UTM – coordenadas
topográficas;
- pacote de programas Office 2010 da Microsoft;
- Mathcad 15, versão Demo. Para as análises matemáticas e
- Autocad 2012. Para desenho da área levantada.
4.3 METODOLOGIA
O levantamento topográfico planimétrico será realizado com estação total pelo método
do caminhamento perimétrico ou poligonação a ser realizado no sentido anti-horário com
medição de leitura digital dos ângulos internos ao polígono e distâncias eletrônicas dos lados
do polígono. Para a poligonal a ser levantada, o ponto 1 da mesma será usado como ponto de
controle, cujas as coordenadas (XY) e o azimute verdadeiro do ponto 1 para o ponto 2 (AZv1-
2) serão inicialmente fixadas. Portanto, no total serão levantadas 10 observações, sendo 5
ângulos horizontais horários. Já as observações de distâncias horizontais totalizam 5. Deste
modo ao ser considerado os ângulos horizontais horários (5) e as distâncias horizontais (5),
terá um total de 10 observações (n).
Como as coordenadas do ponto 1 serviram como ponto de controle, estas não serão
ajustadas, ou seja, o número de incógnitas (parâmetros) a serem determinados, serão as
coordenadas X e Y dos 4 pontos restantes da poligonal, totalizando 8 parâmetros ou seja (u =
8). Assim o número de graus de liberdade (GL) será igual a 2 sendo obtido pela Equação (43):
GL n u (43)
Para minimizar os erros de índice vertical e colimação do ângulo horizontal serão
realizadas três séries de medições. Com a posição direta e invertida da luneta, para análises do
índice vertical, e três séries de ângulos duplos para a análise da colimação dos ângulos
horizontais.
32
As medições das distâncias, inclinadas/horizontais, também serão realizadas através de
três series, considerando a posição direta e invertida da luneta.
Para todas as observações coletadas, irá trabalhar com os valores médios. E para estes
valores determinaram-se também suas respectivas precisões.
Com as medições efetuadas a campo, serão determinados os erros de fechamento da
poligonal os quais serão comparados com os limites de tolerância ou desvio padrão máximos
permitidos para ângulos e distâncias, segundo as especificações técnicas da estação total
utilizada. De acordo com o fabricante tem-se:
a) Desvio padrão para a medição de ângulos: 10”; e
b) Desvio padrão da medição de distância: 5mm + 5ppm.
Uma vez que os erros de fechamentos estejam abaixo dos limites de tolerâncias
estabelecidos, irá proceder-se com a compensação dos erros de ângulos (erro angular) e nas
distâncias (erro linear). Na compensação será realizado em primeiro lugar a distribuição do
erro angular de fechamento e a seguir será distribuído o erro linear expresso no plano
cartesiano. Uma vez compensados os erros, chegam-se as coordenadas provisórias (X,Y).
Para estabelecer o controle de aceitação do erro de fechamento da poligonal, será
aplicado o teste qui-quadrado do erro de fechamento, utilizando desta etapa em diante o
software Mathcad 15 (Versão Demo) para deduções matemáticas e Excel para processar os
dados.
4.4 APLICAÇÃO DO TESTE QUI-QUADRADO DA FORMA QUADRÁTICA DO ERRO
DE FECHAMENTO
Os dados necessários para a aplicação deste teste são:
a) ângulos horários internos de cada vértice da poligonal (akij) ;
b) distâncias observadas entre os vértices da poligonal (Sij);
c) desvio padrão ( a ) máximo para erro angular de cada observação, obtido das
especificações do instrumento e desvio padrão considerando a média das
observações;
d) desvio padrão ( s ) máximo para erro linear de cada observação, obtido das
especificações do instrumento e desvio padrão considerando a média das
observações;
33
e) azimute provisório (Aij) com o norte verdadeiro;
f) coordenadas provisórias (XY) obtidas com os dados de campo;
g) erro de fechamento em coordenadas X ( x ) e em Y ( y ) e
h) variância do ângulo (2
a ) e da distância (2
S ).
4.4.1 Matrizes variância-covariância (MVC)
O propósito deste trabalho é ajustar as coordenadas (XY), logo tem-se uma variável
aleatória bidimensional, sendo que as componentes ‘X’ e ‘Y’ se consideradas isoladamente,
são variáveis unidimensionais com variância própria.
As variâncias 2
i e as covariâncias ij , (i ≠ j), das componentes de uma variável n-
dimensional podem ser dispostas de modo a formar uma matriz quadrada (n x n) designada
por , onde:
22
2
11 12 1
2
21 2
2
1 2
n
n
n n nn
(44)
Como as componentes da matriz são independentes entre si, as covariâncias serão
nulas e irá degenerar para uma matriz diagonal.
4.4.2 MVC das Distâncias
Será obtida usando a variância especifica da estação total, elevando o desvio padrão ao
quadrado.
12
23
, 1
2
2
2
0 0
0 0
0 0p p
S
S
Sij
S
(45)
34
4.4.3 MVC dos Azimutes
Obtida por meio da lei de propagação das covariâncias:
T
A aG G
(46)
onde:
G: matriz das derivadas parciais da função Aij = f(ai)
12 12 12
1 2
23 23 23
1 2
1
, 1 , 1 , 1
1 2
; 1,2, , ; 1,2, ,
p
ijp
p p p p p p
p
A A A
a a a
A A AA
a a aG i p j pa
A A A
a a a
(47)
Aij: Azimute entre o vértice ocupado (i) pela estação total e o ponto visado (j), sendo:
1
( 1) 180 ; 1,2, , ; 1i
ij o kijj
A A a i i p j i
(48)
sendo:
akij: o ângulo horizontal horário observado em cada estação e Ao o azimute verdadeiro do
primeiro alinhamento da poligonal (AZv1-2).
a : MVC dos ângulos horizontais, cujos componentes são as variâncias obtidas das
especificações da estação total.
Ao efetuar o cálculo das derivadas parciais dos azimutes em relação aos ângulos
horários será obtida uma matriz quadrada, triangular inferior e adimensional (G).
1 0 0 0
1 1 0 0
1 1 1 0
1 1 1 1
G
(49)
35
Como as medidas angulares serão obtidas pelo mesmo equipamento, as componentes
da matriz ( a ), diagonal, terão o mesmo valor (quadrado do desvio padrão máximo para o
erro angular) de acordo com as especificações da estação total.
4.4.4 MVC das Distâncias e Azimutes
Será composta pela junção das MVC das distâncias e MVC dos azimutes, resultando
em uma matriz quadrada:
,
0
0
S
S A
A
(50)
4.4.5 MVC das coordenadas do ultimo ponto
Novamente aplicando-se a lei de propagação das covariâncias para as coordenadas do
último ponto, tem-se:
, ,
T
X Y S AD D (51)
onde:
D: Matriz das derivadas parciais das funções de (X,Y) em relação a distância (Sij) e ângulo
(akij), representadas abaixo.
1 11
1 11
( )
1,2, , 1
cos( )
p
p ij iji
p
p ij iji
X X S sen A
para i p e j i
Y Y S A
(52)
Derivando as funções acima terá:
12 23 1 12 12 23 23 1 1
2
12 23 1 12 12 23 23 1 1
1 1 1cos cos cos
1 1 1cos cos cos
p p p
n
p p p
senA senA senA S A S A S A
D
A A A S senA S senA S senA
(53)
Uma vez que se tem a necessidade de transformar os valores dados em radianos para
segundos de arco, será introduzido em (2Dn) o fator de multiplicação (ρ) sendo o mesmo ρ
36
(“/rad) = 648000/π. Nesta matriz, com já especificado o índice (n) é igual ao número de
observações, logo:
2
, 2
X XY
X Y
YX Y
(54)
4.4.6 Aplicação final do teste
A poligonal será aceita caso o valor de qui-quadrado calculado (χ2
cal) esteja dentro do
intervalo dos valores da distribuição de probabilidade qui-quadrado tabelado (valores
críticos), conforme especificação abaixo.
2 2 2
. .;0,5 . .;1 0,5G L Calc G L (55)
Os valores críticos de (χ 2
) serão obtidos para um nível de significância adotado (α =
1%) e para o número de graus de liberdade (GL) estabelecido.
Por sua vez o (χ 2
cal) será determinado através da expressão abaixo.
12
,
T
Cal X YE E
(56)
O termo 1
,( )
X Y
da Equação acima é a inversa da MVC das coordenadas do último
ponto e (E) o vetor dos erros de fechamento em abscissa x (εx) e ordenada y (εy).
xE
y
(57)
Os valores de (εx) e (εy) podem ser expressos como segue.
ˆ
ˆ
x y Y
y x X
(58)
Os valores de X e Y são as coordenadas fixas do último ponto da poligonal, enquanto
x e y são as coordenadas provisórias do último ponto da poligonal, obtida com os valores
observados.
37
4.5 AJUSTAMENTO PELO MÉTODO DOS MÍNIMOS QUADRADOS (MMQ)
Será aplicado no ajuste da poligonal fechada no plano topográfico, o modelo
paramétrico do MMQ com equações de observação desenvolvidas por variação de
coordenadas. No modelo funcional do ajustamento paramétrico por variação de coordenadas,
cada observação (medição) do levantamento corresponde uma equação de observação, com
diferentes aspectos de acordo com a natureza da grandeza observada.
No ajustamento a ser realizado, ocorrem equações relativas a distâncias, azimutes e
ângulos. No entanto, cada equação de observação irá possuir como incógnitas as correções
das coordenadas aproximadas dos pontos envolvidos e as discrepâncias entre os valores
observados e calculados a partir das coordenadas aproximadas de cada grandeza observada.
As equações de observações do levantamento são não lineares, o que torna necessário
linearizá-las por série de Taylor. As observações diretas serão os ângulos horários e distâncias
obtidas no levantamento topográfico planimétrico e os parâmetros, valores indiretos, serão as
coordenadas cartesianas (XY). A Figura 3 representa as observações que serão trabalhadas em
uma formulação matemática inicial (1ª Dedução).
Figura 5 - Distâncias, Ângulos e Azimutes no plano
Fonte: Adaptado de Moraes (1997, p.27)
Estando a poligonal aceita após aplicação do pré-ajustamento, para realização do
ajustamento pelo MMQ - caso Paramétrico será estabelecido um itinerário composto de 11
passos, representados na Figura 6.
38
Figura 6 - Procedimento esquemático de Ajustamento pelo MMQ
4.5.1 Modelo Matemático
No 1º passo: determinar as equações matemáticas de observações que envolvem os
parâmetros:
Figura 17 – Processo de ajustamento pelo Método dos Mínimos Quadrados - MMQ
Detecção, localização e
Eliminação de “Outliers”
Cálculo das MVC
Testes: Falharam
Testes: ok! Teste Unilateral
Teste Bilateral
Observações Aproximadas
Lo = F(Xo)
Parâmetros Observados
(Xo)
2ª Dedução Forma Matricial Sij — Aij — akij
1ª Dedução Equação de:
Sij — Aij — akij
Observações Ajustadas
Parâmetros Ajustados
Resíduos
9º Passo
Parâmetros Ajustados
Xo = Xa
Se X<0,0001
Se X>0,0001
Parâmetros Ajustados Xa = X +Xo
Vetor das Correções
X=-N-1U
Vetor das Diferenças L = Lo -Lb
Modelo Matemático
La = F(Xa)
1º Passo
2º Passo
3º Passo Matriz dos
Pesos
4º Passo 5º Passo 7º Passo 6º Passo
Matriz A
8º Passo
Vetor dos Resíduos V = AX + L
10º Passo
Teste de Hipótese
11º Passo
Precisões
1ª Dedução 2ª Dedução
Precisão e Elipse dos Erros e de confiança
Teste Data Snooping
39
( )a aL F X (59) (
Onde (La) representa o vetor das observações ajustadas e (Xa) são os parâmetros
ajustados.
4.5.1.1 Equações de observações para a distância
A equação de observação da distância Sij é dada por:
2 2 2( ) ( )ij j i j iS X X Y Y (60) (
Aplicando-se a diferencial na Equação acima, terá:
c o
i ij i ij i ij j ij j ij ij Sijf k dx L dy k dx L dy S S V (61) (
onde:
cos
ij ij
ij ij
k senA
L A
(62)
(
4.5.1.2 Equação de observação para o Azimute Aij
A Equação para o azimute será dada por:
tanj i
ij
j i
X XA
Y Y
(63)
(
Diferenciando a equação acima, terá:
" " "c o
ij ij i ij j ij i ij j ij ij Aijf P dx P dx Q dy Q dy A A V (64)
(
onde:
40
648000cos
648000
ij ij
ij
ij ij
ij
P AS
Q senAS
(65)
4.5.1.3 Equação de observação para o Azimute Aik
A Equação para o azimute será dada por:
tan k iik
k i
X XA
Y Y
(66)
Diferenciando a equação acima, terá:
" " "c o
ik ik i ik k ik i ik k ik ik Aikf P dx P dx Q dy Q dy A A V (67)
Onde,
648000cos
648000
ik ik
ik
ik ik
ik
P AS
Q senAS
(68)
4.5.1.4 Equação de observação para o Ângulo akij
Esta equação será obtida pela diferença entre as Equações (64) e (67) e será expressa
na Equação (69).
" " "
( ) ( )kij ik k ik k ik ij i ij ik i ij j ij j
c o
jik jik ajik
f P dx Q dy P P dx Q Q dy P dx Q dy
a a V
(69)
4.5.1.5 Equações de observações para a distância com resíduo
Iniciando-se com a 2ª Dedução pode-se observar a Figura 7 que mostra o esquema
geométrico para a determinação da distância observada e resíduo vinculado a mesma, que
pode ser positivo ou negativo.
41
Figura 7 - Distância observada
Fonte: Adaptado de Moraes (1997, p.24)
Considerando o comprimento observado de cada linha (Soij) e o resíduo da observação
(VSij), Equação (70), será elaborada uma equação para cada lado da poligonal.
2 2( ) ( ) ( )o
ij Sij j i j iS V X X Y Y (70)
Com as coordenadas provisórias dos vértices ( , , , )o o o o
i i j jX Y X Y e suas respectivas
correções (dxi, dyi, dxj, dyj), valores incógnitos, que serão adicionados às coordenadas
provisórias para obter as coordenadas finais ajustadas, será obtido através da derivada parcial
da função representativa da distância observada em relação às coordenadas provisórias dos
vértices, a Equação de observação para a distância como representado abaixo.
( ) ( ) ( ) ( )o o o o o o o o
i j i j j i j i
i i j jo o o o
ij ij ij ij
c o
ij ij Sij
X X Y Y X X Y Ydx dy dx dy
S S S S
S S V
(71)
Considerando a representação matricial a equação acima pode ser representada como:
1 1 1n u u n nA X L V (72)
Onde (A) é a matriz das derivadas parciais da Função (F) em relação aos Parâmetros
aproximados (Xa).
42
1
( ) ( ) ( ) ( )
oi
o o o o o o o oi j i j J I J I
n u a o o o o
ij ij ij ijX
X X Y Y X X Y YFA
X S S S S
(73)
O vetor das incógnitas será representado por:
1
i
i
uj
j
dx
dyX
dx
dy
(74)
O vetor dos termos independentes das equações de observações de distância por:
1
c o
n ij ijL S S (75)
E o vetor dos resíduos das distâncias observadas por:
1n SijV V (76)
4.5.1.6 Equações de observações para o Ângulo com resíduo
Dando sequência com a 2ª Dedução, a Figura 8 mostra o esquema geométrico para a
determinação do ângulo observado e o resíduo vinculado ao mesmo.
Figura 8 – Ângulo observado
Fonte: Adaptado por Moraes (1977, pg.28)
43
O ângulo formado por dois alinhamentos ij e ik com vértice em i envolve 3 vértices i, j
e k e pode ser expresso por:
arctan arctanj i k i
kij
j i k i
Y Y Y Ya
X X X X
(77)
(
Que corresponde a equação de observação de ângulo, linearizada por Taylor:
2 2 2 2
2 2 2 2
o oo o o o o oi ji k i k i k
k k io o o o
ik ik ij ik
o o o o o oo oj i j i i j ck i
i j i kijo o o o
ij ik ij ij
o
kij kij
Y YY Y X X Y Ydx dy dx
S S S S
X X Y Y X YX Xdy dx dy a
S S S S
a Va
(78)
(
Nesta expressão os ângulos e resíduos são medidos em radianos e para converter em
segundos de arco, os coeficientes das incógnitas serão multiplicados por ρ(“/rad) = 648000/π.
Matricialmente, a expressão acima pode ser expressa por:
1 1 1n u u n nA X L V (79)
Onde (nAu) é a matriz de ordem (n x u) dos coeficientes das incógnitas dados por:
2 2 2 2 2 2
2 2
o o o oo o o o o o o oi j j ii k k i i k k i
n uo o o o o o
ik ik ij ik ij ik
o o o o
j i i j
o o
ij ij
Y Y X YY Y X X Y Y X YA
S S S S S S
X Y X X
S S
(80)
O vetor das incógnitas (uX1) pode ser representado por:
44
1
k
k
i
ui
j
j
dx
dy
dxX
dy
dx
dy
(81)
(
O vetor dos termos independentes (nL1) de ordem (n x 1) das equações de observações
de ângulo será dado por:
0
1 kij
c
kijn aaL (82)
E o vetor dos resíduos (nV1) de ordem (n x 1) dos ângulos observadas será dado por:
1 ki jn aV V
(83)
4.5.2 Coordenadas aproximadas - parâmetros (Xo)
No 2º Passo: os valores dos parâmetros aproximados do presente trabalho serão
calculados utilizando-se das coordenadas do vértice inicial (ponto de controle) da poligonal,
do azimute inicial do 1º alinhamento (1-2), os comprimentos dos lados e os ângulos horários.
1
o
io
u o
i
XX
Y
(84)
4.5.3 Matriz dos Peso (P)
No 3º Passo: será montada a matriz dos pesos.
2 1
o LbP (85) (
Para isso é necessário que se conheça a Matriz Variância-Covariância das observações
(∑Lb), composta pelos valores das variâncias determinadas para as observações (distâncias -
2
S e ângulos - 2
a ). Neste trabalho serão elaboradas duas MVC (∑Lb) para isto, serão feitas
três séries de medidas para ângulos e distâncias, obtendo observações médias com as quais
serão determinadas as respectivas precisões e variâncias cujos valores iram compor a primeira
MVC (∑Lb). A segunda MVC (∑Lb) será composta com as variâncias oriundas das precisões
45
nominais da estação total. Essas matrizes serão diagonais, devido a não consideração das
correlações entre as observações.
1
2
3
1
2
3
2
2
2
2
2
2
2
2
0 0 0 0 0 0 0
0 0 0 0 0 0 0
0 0 0 0 0 0 0
0 0 0 0 0 0 0
0 0 0 0 0 0 0
0 0 0 0 0 0 0
0 0 0 0 0 0 0
0 0 0 0 0 0 0
p
p
S
S
S
S
Lb
a
a
a
a
(86) (
O sigma zero “a priori” (2
o ) utilizado na multiplicação da (∑Lb) será adotado com
valor igual a unidade, embora pudesse ser utilizado outro valor.
4.5.4 Vetor das observações aproximadas (Lo)
No 4º passo: será montado o vetor das observações aproximadas. Onde:
( )o oL F X (87)
Este vetor será calculado pela substituição dos coordenadas aproximadas obtidas no
Passo 2 nas equações de observações estabelecida no Passo 1.
A expressão abaixo permite determinar a distância (Sij).
2 2( ) ( )ij j i j iS X X Y Y (88)
A expressão abaixo permite determinar o ângulo horário (akij).
arctan arctanj i k i
kij
j i k i
X X X Xa
Y Y Y Y
(89) (
Com os valores aproximados de distância e ângulo terá o vetor das observações
aproximadas (Lo).
46
12
23
34
1
12
123
234
( 1) 1
c
c
c
c
p
o c
p
c
c
c
p p
S
S
S
SL
a
a
a
a
(90)
(
4.5.5 Vetor dos termos independentes (L)
No 5º passo: será encontrado o vetor dos termos independentes (L). Este vetor será o
resultado da diferença do vetor das observações aproximadas (Lo) obtido no 4º Passo, e o
vetor das observações (Lb).
o bL L L (91) (
O vetor das observações (Lb) é composto pelos valores das distâncias médias obtidas
no levantamento de campo, pela estação total, assim como os ângulos horários médios obtidos
pelo mesmo equipamento.
4.5.6 Matriz A
No 6º passo: será feita a montagem da matriz design ou matriz A. Esta matriz será
obtida por meio das derivadas parciais das equações de observações em relação aos
parâmetros ajustados no ponto aproximado.
a o
n u
a X X
FA
X
(92) (
47
48
4.5.7 Resolução do sistema de equações de normais
No 7º passo: será desenvolvido o sistema de equações normais mediante linearização
do modelo matemático das equações de observação através de operações algébricas e
matriciais.
O modelo matemático das equações de observação linearizadas é dado pela Equação
abaixo.
A X L V (94) (
onde,
V: vetor dos resíduos das observações, obtido do ajustamento para corrigir as observações;
X: é o vetor incógnito das correções, a serem aplicadas aos parâmetros aproximados para a
obtenção dos parâmetros ajustados, ou seja, coordenadas dos pontos da poligonal ajustada.
Aplicando o princípio dos mínimos quadrados na Equação (94) e após algumas
operações algébricas e matriciais, obtêm-se os sistemas de equações normais dadas pelas
Equações (95) e (96) e a resolução do sistema de equação normal é dado pela Equação (97).
TN A P A (95)
TU A P L (96)
UNX .1 (97)
4.5.8 Cálculo dos Parâmetros Ajustados
A expressão abaixo permite determinar os parâmetros ajustados.
a oX X X (98)
No 8º passo: será determinado o vetor incógnito das correções (X) a serem aplicadas
aos parâmetros aproximados (Xo) para a obtenção dos parâmetros ajustados (Xa), ou seja,
coordenadas dos pontos da poligonal ajustada. Se os valores do vetor incógnito das correções
conterem valores que se afastam de zero, será necessário realizar um processo de iteração.
Para isto, cria-se um novo vetor de parâmetros aproximados que será exatamente igual ao
vetor incógnito das correções obtido neste passo, e volta ao 4º passo, realizando a partir daí
novo ajuste até que o os valores do vetor incógnito das correções possa ser considerado como
zero (neste trabalho será adotado por conveniência: X ≤ 0,0001). Caso o novo vetor incógnito
das correções ainda esteja alto, deve-se repetir novamente o processo de iteração.
49
4.5.9 Cálculo do Vetor dos Resíduos (V)
V A X L (99)
No 9º passo: será determinado o vetor dos resíduos (V), que será utilizado para o
cálculo das observações ajustadas e para o cálculo do sigma zero “a posteriori”.
4.5.10 Teste Global da Variância “a Posteriori” (2ˆo )
2ˆT
o
V PV
gl (100)
No 10º passo: será aplicado o teste global da variância “a posteriori” (2ˆo ), para
detectar a existência de inconsistências do ajustamento comparando a variância “a priori”
com a variância “a posteriori” (teste bilateral). Será também aplicado o teste global na forma
do teste unilateral, com o propósito de detectar “outlier”, onde se espera que a variância “a
posteriori” seja maior que a variância “a priori”. Se houver discrepância entre as variâncias,
será aplicado o teste de hipótese que se baseia na distribuição qui-quadrado (χ2) para verificar
a significância das discrepância em relação ao nível de confiança pré-estabelecido.
Teste Bilateral:
a) Enunciação das hipóteses:
2 2
2 2
: ˆ
: ˆ
o o
o o
Ho
Ha
(101)
b) Estatística do teste:
2
2
2 2
ˆ To
calc
o o
V P Vgl
(102)
c) Teste da hipótese Ho:
2 2 2
, ,12 2
calcgl gl
(103) (
Teste Unilateral:
a) Enunciação das hipóteses:
2 2
2 2
: ˆ
: ˆ
o o
o o
Ho
Ha
(104)
50
b) Estatística do teste:
2
2
2 2
ˆ To
calc
o o
V P Vgl
(105)
c) Teste da hipótese Ho:
2
,12 gl
calcgl
(106)
Caso seja detectada diferença estatística a certo nível de significância α, será
verificado se há problemas no ajustamento. Isto pode ocorrer devido a uma superestimação ou
subestimação dos elementos da matriz dos pesos, determinada no 3º passo, ou a erros de
cálculos. Caso não tenha erros de cálculos, será criada uma nova matriz de peso através de um
escalonamento da MVC das observações multiplicando a mesma pelo valor encontrado da
variância “a posteriori”, conforme expressão abaixo. Feito isto, retornar ao 4º passo e realizar
novo ajustamento.
2ˆ ˆLb o Lb (107) (
4.5.11 Cálculo das MVC: dos parâmetros ajustados, observações ajustadas e resíduos
No 11º passo: a matriz variância-covariância (MVC) dos parâmetros ajustados permite
determinar da precisão com que os parâmetros foram estimados. Na diagonal principal
encontram-se valores de variância e fora da diagonal, valores de covariância. O cálculo da
(MVC) dos valores observados ajustados, será importante na obtenção da (MVC) dos
resíduos, que será importante posteriormente para a aplicação do teste que aponta os erros nas
observações colhidas no campo (teste “data snooping” de Baarda).
4.6 QUALIDADE DO AJUSTAMENTO
Após o ajustamento das observações, será obtida a MVC dos parâmetros ajustados (
Xa ), Equação (108):
2 1ˆ ( )T
Xa o A P A (108) (
Na forma matricial a equação acima será representada por:
2
2
x xy
Xa
yx y
(109)
51
Na diagonal se encontram as variâncias das coordenadas ajustadas. As raízes dessas
variâncias irão fornecer o erro médio ou precisão ( X , Y ) das coordenadas ajustadas.
Na sequência, será obtida a MVC das observações ajustadas ( La ), Equação (110):
2 1 2 1ˆ ( ) ˆT T T
La o La oA A P A A A N A (110) (
As raízes quadradas dos elementos da diagonal principal desta matriz irão fornecer a
precisão das observações ajustadas.
4.6.1 Precisão e Elipses de Erro
Contraria as precisões acima especificadas, será feita uma análise de precisão da
posição fornecida pela teoria da elipse de erros bidimensional através da qual será avaliada a
precisão em todas as direções do plano, e não somente na direção X, Y.
A partir dos dados constantes na matriz variância-covariância dos parâmetros
ajustados( Xa ) será calculado os elementos (semi-eixos maior e menor e orientação) para a
construção da elipse de erro padrão, com uma região de confiança de 39,4% de probabilidade.
Ou seja, a elipse estará delimitando a porção do plano que com esta probabilidade, contém a
posição verdadeira do ponto. Neste trabalho será estabelecida a elipse de confiança para uma
região de probabilidade de 95%, para isto, o semi-eixo maior (a) e menor (b) serão
multiplicados por um fator de 2,447.
O tamanho, a forma e a orientação das elipses dos erros padrão serão determinados
pelas distribuições dos parâmetros σx, σy e σxy, sendo respectivamente desvio padrão da
coordenada estimada X, desvio padrão da coordenada estimada Y e covariância entre elas. Já
a orientação da elipse em relação ao eixo X e Y irão depender da correlação entre X e Y.
Sendo elas não correlacionadas, a elipse torna paralela ao eixo X e Y. Se as duas coordenadas
X e Y tiverem a mesma precisão, a elipse irá degenerar em um círculo.
Extraindo a raiz quadrada positiva das variâncias das Equações (111) e (112) serão
obtidos respectivamente o semi-eixo maior (a), Equação (113) e menor (b), Equação (114) da
elipse de erro padrão.
2 2 2 2 2
2 2( )
2 4
x y x y
máx xy
(111)
2 2 2 2 2
2 2
min
( )
2 4
x y x y
xy
(112)
52
2
máxa (113)
2
minb (114)
A orientação da elipse, ângulo entre o eixo das abscissas e semi-eixo maior será
calculado pela Equação (115):
2 2
2tan2
xy
x y
(115)
O quadrante de 2ψ será determinado por meio de análise do sinal do numerador 2σxy e
denominador ( 2 2
x y ). O ângulo (ψ) será contado a partir do eixo das abscissas no sentido
anti-horário.
4.6.2 Detecção de “Outlier” e localização de erros grosseiros
Inicialmente foi aplicado o teste global em sua forma unilateral, com o proposito de
detectar “outlier”. Se o teste acusar presença de “outlier”, torna-se necessário a verificação da
confiabilidade das observações e do modelo matemático. Logo, os resíduos das observações
ajustadas serão submetidos a testes estatísticos que buscam detectar, localizar e eliminar os
erros grosseiros. No entanto, mesmo que no teste global (unilateral) não seja detectada
“outlier”, estes testes estatísticos tem que ser aplicados, pois podem existir erros grosseiros de
pequenas magnitudes nas observações.
Para isto, será aplicado o modelo simplificado “Data Snooping” de Baarda (1968) para
analisar a relação entre um “outlier” e um erro grosseiro.
4.6.2.1 Teste “Data Snooping”
A aplicação desta técnica é um processo combinado para detecção de “outlier”,
localização e eliminação dos erros grosseiros. Para realizar tal procedimento serão
investigadas quais observações que podem contém os erros grosseiros que causaram os
“outliers” e, então as elimina-la, caso necessário, voltando a campo e coletando novas
observações.
53
Estes valores serão obtidos pela divisão dos resíduos por seus respectivos desvios
padrão que irá resultar em uma estatística denominada, resíduo normalizado, conforme
Equação (116).
i
ii
l i
vw
r
(116)
onde:
vi: são os valores obtidos do vetor dos resíduos (V = A·X + L). Sendo a matriz (A), o vetor
(X) e o vetor (L) resultados obtidos da última iteração.
ri: são os valores de redundância parcial que se obtém da diagonal da matriz das redundâncias
R obtida através da Equação (117):
2
1
ˆV
o
R P
(117)
onde (∑V) é a MVC dos resíduos, Equação (118), e (P) a matriz dos Pesos.
2 1ˆV o LaP (118)
Na forma matricial, a matriz R será expressa conforme segue.
1 12 1 1
21 2 2 2
1 2
1 2
j n
j n
i i i in
n n nj n
r r r r
r r r r
Rr r r r
r r r r
(119)
Para o teste bilateral, a hipótese nula )1,0(~:0 nwH i será rejeitada, ou seja, um
“outlier” será detectado, se para um nível de significância pré-definido α os valores dos
resíduos normalizados estiverem abaixo ou acima dos limites críticos especificados na
Equação (120). Na expressão de Ho, n(0, 1) refere-se à distribuição normal reduzida.
12 2
in w n
(120)
54
5 EXPERIMENTAÇÃO E RESULTADOS
Com os dados de observações levantados em campo, será calculado o erro de
fechamento angular pelo MMQ tanto com a precisão nominal da estação total quanto com a
precisão da média das observações, a fim de conseguir fazer um comparativo entre os
resultados dos cálculos com essas duas precisões.
Os valores das observações foram extraídos de uma poligonal fechada em “loop” com
5 vértices localizada na Universidade Federal de Mato Grosso. Esses valores foram
organizados em um quadro apresentado abaixo:
55
Quadro 1 – Planilha de experimentos
Ângulo Observado
(valores médios) Compensação Ângulo Compensado
Azimute
Provisório
1 2 54º,38'41,667'' 0º,00'01,033'' 54º,38'42,700'' 29,259 166º,28'10,057''
2 3 243º,14'05,833'' 0º,00'01,033'' 243º,14'06,867'' 39,716 229º,42'15,890''
3 4 60º,55'14,667'' 0º,00'01,033'' 60º,55'15,700'' 25,231 110º,37'30,557''
4 5 116º,47'19,167'' 0º,00'01,033'' 116º,47'20,200'' 64,784 47º,24'49,724''
5 1 64º,24'33,500'' 0º,00'01,033'' 64º,24'34,533'' 51,557 291º,49'23,224''
1 5 158º,29'57,667'' 158º,29'56,633'' 111º,49'28,390''
1 M1 201º,30'51,667'' 201º,30'03,367'' 313º,20'14,890''
539º,59'54,834'' 0º,00'05,167'' 540º,00'00,000'' 210,547
-0º,00'05,167''
0º,00'01,033''
DH
(m)
Soma
E.F.A:
Correção:
EstaçãoPonto
Visado
Valores Iniciais: P1 (Xi - Yi): X = 10000,000; Y = 10000,000; AZM1→1 = 133°,19'30,7235"
1 1 1 AZi,i+1
56
Quadro 2 – Planilha de experimentos continuação
6,84554 -28,44693 -0,000520 0,002065 6,84502 -28,444861 10006,84502 9971,55514 166º,28'10,057''
-30,29224 -25,68542 -0,000705 0,002804 -30,293 -25,682614 9976,55207 9945,87252 229º,42'16,924''
23,61373 -8,88792 -0,000448 0,001781 23,6133 -8,8861402 10000,16535 9936,98638 110º,37'32,624''
47,69854 43,83852 -0,001151 0,004573 47,6974 43,8430922 10047,86275 9980,82948 47º,24'52,824''
-47,86183 19,16688 -0,000916 0,003640 -47,863 19,1705231 10000,00000 10000,00000 291º,49'27,357''
111º,49'27,357''
313º,19'30,724''
0,00374 -0,01486
E.F.L. Abs.: 0,01533
E.F.L. Relat.: 1 : 13737
y X (m) Y (m)x' y' Cx Cy x
Projeções Não
CompensadasCompensação
Projeções
CompensadasCoordenadas Provisórias
Valores Iniciais: P1 (Xi - Yi): X = 10000,000; Y = 10000,000; AZM1→1 = 133°,19'30,7235"
Azimute
Compensado
AZi,i+1
57
5.1 EXPERIMENTAÇÃO E ANÁLISE DE RESULTADOS COM A PRECISÃO
NOMINAL DA ESTAÇÃO TOTAL
Primeiramente serão apresentados todos os cálculos obtidos utilizando a precisão
nominal da Estação Total que comumente é utilizada 1:10.000. Segundo a NBR 14166:1998
Rede de Referência Cadastral Municipal – Procedimento, nas operações de cálculo e
ajustamento das observações, essas observações devem passar pelo ajustamento vetorial pelo
MMQ, devendo ser a precisão final na ordem de 1 ppm (1:10.000) ou superior, considerando-
se 95% de nível de confiança.
5.1.1 Teste Qui-quadrado da forma quadrática do erro de fechamento
Utilizando os dados apresentados no Quadro 1 – Planilha de experimentos, temos a
fixadas as coordenadas dos pontos iniciais X=10.000,00 m e Y=10.000,00 m, esse é o ponto
usado como ponto de controle. O azimute definido pelo ponto de controle e pelo ponto 1 é de
133°19’30,7235”.
5.1.1.1 Matriz Variância-Covariância das distâncias e ângulos
2,6E-05 0 0 0 0 0 0 0 0 0
0 2,7E-05 0 0 0 0 0 0 0 0
0 0 2,6E-05 0 0 0 0 0 0 0
0 0 0 2,8E-05 0 0 0 0 0 0
10Sa10 = 0 0 0 0 2,8E-05 0 0 0 0 0
0 0 0 0 0 100 0 0 0 0
0 0 0 0 0 0 100 0 0 0
0 0 0 0 0 0 0 100 0 0
0 0 0 0 0 0 0 0 100 0
0 0 0 0 0 0 0 0 0 100
58
5.1.1.2 Matriz Variancia-Covariância das distancias e azimutes
5.1.1.3 Matriz Vriancia-Covariancia das coordenadas dos últimos pontos
Resultando:
Os desvios padrões da abscissa e da ordenada são, respectivamente:
2,6E-05 0 0 0 0 0 0 0 0 0
0 2,7E-05 0 0 0 0 0 0 0 0
0 0 2,6E-05 0 0 0 0 0 0 0
0 0 0 2,8E-05 0 0 0 0 0 0
10SA10 = 0 0 0 0 2,8E-05 0 0 0 0 0
0 0 0 0 0 100 100 100 100 100
0 0 0 0 0 100 200 200 200 200
0 0 0 0 0 100 200 300 300 300
0 0 0 0 0 100 200 300 400 400
0 0 0 0 0 100 200 300 400 500
2,34E-01 -7,63E-01 9,36E-01 7,36E-01 -9,28E-01 -1,38E-04 -1,25E-04 -4,31E-05 2,13E-04 9,29E-05
-9,72E-01 -6,47E-01 -3,52E-01 6,77E-01 3,72E-01 -3,32E-05 1,47E-04 -1,14E-04 -2,31E-04 2,32E-042D10 =
9,84E-05 2,88E-06
2,88E-06 6,32E-052(X,Y)2 =
59
5.1.1.4 Aplicação do teste
Foi utilizado o nível de significância tanto α =1% quanto α = 5%.
Os erros de fechamento em X e em Y são:
Para o nível de significância α =1% foram encontrados os valores apresentados na
figura abaixo:
Figura 7 – Cálculo para o nível de significância a 1%
O valor de χ2 calculado está entre os valores de χ
2 teórico, portanto a poligonal é aceita
ao nível de significância de 1%.
Para o nível de significância α =5% foram encontrados os valores apresentados na
figura abaixo:
X = √9,84E-05 = 9,917E-03 m
Y = √6,32E-05 = 7,949E-03 m
0,00374
-0,01492E1 =
Para o nível de significância (%) = 1
0,5 = 0,005
2 Teórico com a = 1%
1 - 0,5 = 0,995
2 (2; 0,005) = 0,01
2 (2; 0,995) = 10,60
1% 3,69
comTeórico2
comCalculado2
60
Figura 8 – Cálculo para o nível de significância a 5%
O valor de χ2 calculado está entre os valores de χ
2 teórico, portanto a poligonal é aceita
ao nível de significância de 5%.
5.1.2 Ajustamento pelo Método dos Mínimos Quadrados
Foi desenvolvido o ajustamento da poligonal pelo Método dos Mínimos Quadrados.
Para o nível de significância (%) = 5
0,5 = 0,025
2 Teórico com a = 5%
1 - 0,5 = 0,975
2 (2; 0,025) = 0,05
2 (2; 0,975) = 7,38
5% 3,69
comTeórico2
comCalculado2
61
5.1.2.1 Matriz A
Foi desenvolvida a Matriz A de ordem 10x8 (número de equações por número de incógnitas):
Quadro 3 – Valores observados e calculados
0,233964 -0,97225 0 0 0 0 0 0
0,762721 0,64673 -0,762721395 -0,646727 0 0 0 0
0 0 -0,935901446 0,352262 0,93590145 -0,35226195 0 0
0 0 0 0 -0,7362704 -0,67668744 0,73627 0,67669
10A8 = 0 0 0 0 0 0 0,92833 -0,3718
-6853,96 -1649,35 0 0 0 0 1487,31 3713,98
10212,73 -2311,83 -3358,773821 3961,189 0 0 0 0
-3358,77 3961,19 6238,534561 3689,857 -2879,7607 -7651,04556 0 0
0 0 -2879,76074 -7651,046 725,265758 9995,245872 2154,49 -2344,2
0 0 0 0 2154,49498 -2344,20031 -3641,8 -1369,8
1 AZi,i+1
1 2 54º,38'42,700'' 54,6451944 29,259 166,469460 10006,84502 9971,55514
2 3 243º,14'06,867'' 243,235241 39,716 229,704701 9976,55207 9945,87252
3 4 60º,55'15,700'' 60,9210278 25,231 110,625729 10000,16535 9936,98638
4 5 116º,47'20,200'' 116,788944 64,784 47,414673 10047,86275 9980,82948
5 1 64º,24'34,533'' 64,4095926 51,557 291,824266 10000,00000 10000,00000
Ângulo
Observado
Azimute
Calculado
Coordendas Cartesianas
X (m) Y (m)Estação
Ponto
Visado
Ângulo
Observado
Decimal
a1
DH
Observada
(m)
62
Quadro 4 – Coeficientes (Pontos a Vante)
A matriz variância-covariancia das distancias e ângulos:
1 2 0,233964 -0,972245 -6853,959432 1649,354432
2 3 -0,762721 -0,646727 -3358,773821 -3961,188958
3 4 0,935901 -0,352262 -2879,760740 7651,045559
4 5 0,736270 0,676687 2154,494982 2344,200312
5 1 -0,928328 0,371761 1487,309528 -3713,976579
Coeficientes (Pontos a Vante)
Estação
Pi
PV
Pi+1
Kiji Liji Piji Qiji
2,648E-05 0 0 0 0 0 0 0 0 0
0 2,703E-05 0 0 0 0 0 0 0 0
0 0 2,628E-05 0 0 0 0 0 0 0
0 0 0 2,834E-05 0 0 0 0 0 0
0 0 0 0 2,764E-05 0 0 0 0 0
10Lb10 = 0 0 0 0 0 100 0 0 0 0
0 0 0 0 0 0 100 0 0 0
0 0 0 0 0 0 0 100 0 0
0 0 0 0 0 0 0 0 100 0
0 0 0 0 0 0 0 0 0 100
63
Matriz dos pesos:
O vetor dos termos independentes é:
37758,145 0 0 0 0 0 0 0 0 0
0 37002,455 0 0 0 0 0 0 0 0
0 0 38055,421 0 0 0 0 0 0 0
0 0 0 35280,681 0 0 0 0 0 0
0 0 0 0 36173,818 0 0 0 0 0
10P10 = 0 0 0 0 0 0,01 0 0 0 0
0 0 0 0 0 0 0,01 0 0 0
0 0 0 0 0 0 0 0,01 0 0
0 0 0 0 0 0 0 0 0,01 0
0 0 0 0 0 0 0 0 0 0,01
-0,00213 m
-0,00128 m
-0,00105 m
0,002248 m
10L1 = 0,002203 m
-11,9995 "
13,32046 "
-25,8132 "
-0,86191 "
25,35419 "
64
Novo vetor das coordenadas ajustadas:
5.1.2.2 Comparação da variância da unidade peso “a priori” com a variância da unidade peso
“a posteriori”
Vetor dos resíduos:
Vetor dos valores observados ajustados:
A variância de Peso “a posteriori” = 1,838811.
2,23495 10006,84502 10009,07998
0,54217 9971,555139 9972,097309
4,25669 9976,552074 9980,808759
8X1 = -1,8397 8Xo1 = 9945,872525 8Xa1 = 9944,032807
4,95252 10000,16535 10005,11788
0,01623 9936,986385 9937,002616
1,50923 10047,86275 10049,37198
3,76417 (m) 9980,829477 (m) 9984,593649 (m)
-0,00635
-0,00286
-0,00359
0,00324
10v1 = 0,00389
0,22628
0,19109
-3,95547
-1,54374
5,08183 (m)
29,2526 m
39,7131 m
25,2274 m
64,7872 m
10La1 = 51,5609 m
54,8715 "
243,426 "
56,9656 "
115,245 "
69,4914 "
65
5.1.2.3 Iterações
Serão feitas iterações para que os valores dos parâmetros sejam estabilizados, induzindo os valores do vetor a se aproximarem de zero.
5.1.2.3.1 Primeira iteração
Quadro 5 – Valores observados e calculados (1ª iteração)
Nova
1 2 10009,080 9972,097 29,343 9,079976 -2,790E+01 1,803E+01 SE 1,620E+02 -1,254E+02 5,464E+01
2 3 9980,809 9944,033 39,836 -28,2712 -2,806E+01 4,521E+01 SW 2,252E+02 6,324E+01 2,432E+02
3 4 10005,118 9937,003 25,305 24,30912 -7,030E+00 7,387E+01 SE 1,061E+02 -1,191E+02 6,092E+01
4 5 10049,372 9984,594 64,987 44,2541 4,759E+01 4,292E+01 NE 4,292E+01 -6,321E+01 1,168E+02
5 1 10000,000 10000,000 51,720 -49,372 1,541E+01 7,267E+01 NW 2,873E+02 2,444E+02 6,441E+01
1 5 7,267E+01 SE 1,073E+02 -2,599E+01 1,540E+02
1 M1 4,667E+01 NW 3,133E+02 2,599E+01 2,060E+02
AzimuteÂngulo
Calculado
Novo Ângulo
HorárioEst Pi PV Pi+1 X (m) Y (m) DH (m)
Alinhamento Coordenadas
X Y Rumo
66
Quadro 6 – Valores de Vante
Matriz A:
Est Pi PV Pi+1 Kiji Liji Piji Qiji
1 2 0,3094437 -0,950917776 10881,17516 -3540,906319
2 3 -0,709697 -0,704507424 -3214,207616 -3237,882526
3 4 0,9606345 -0,277815287 775,7331203 -2682,343427
4 5 0,6809668 0,732314305 3519,416427 3272,646275
5 1 -0,954603 0,297880526 -845,5010634 2709,535928
Alinhamento Radianos Arco Segundos
Valores de vante
0,309443669 -0,950917776 0 0 0 0 0 0
0,709696618 0,704507424 -0,709696618 -0,704507424 0 0 0 0
0 0 -0,960634512 0,277815287 0,960634512 -0,277815287 0 0
0 0 0 0 -0,680966783 -0,732314305 0,680966783 0,732314305
10A8 = 0 0 0 0 0 0 0,95460316 -0,297880526
10881,17516 3540,906319 0 0 0 0 -845,5010634 -2709,535928
-7666,967548 -6778,788845 -3214,207616 3237,882526 0 0 0 0
-3214,207616 3237,882526 2438,474496 -5920,225953 775,7331203 2682,343427 0 0
0 0 775,7331203 2682,343427 -4295,149547 590,3028475 3519,416427 -3272,646275
0 0 0 0 3519,416427 -3272,646275 -2673,915364 5982,182203
67
Vetor dos termos independentes:
Novo vetor das coordenadas ajustadas:
Vetor dos resíduos:
0,083905604 m 29,342906 m 29,259 m
0,119637824 m 39,835638 m 39,716 m
0,074270741 m 25,305271 m 25,231 m
0,203169049 m 64,987169 m 64,784 m
10L1 = 0,162898732 m 10Lo1 = 51,719899 m 10Lb1 = 51,557 m
-4,49276693 " 54,643946 " 54,6451944 "
2,529232853 " 243,235943 " 243,235241 "
-5,06571833 " 60,919621 " 60,9210278 "
1,56715166 " 116,789380 " 116,788944 "
5,462100745 " 64,411110 " 64,4095926 "
-0,0265401 10009,07998 10009,05344
0,08417094 9972,097309 9972,18148
0,0575175 9980,808759 9980,866276
8X1 = 0,17067055 8Xo1 = 9944,032807 8Xa1 = 9944,203477
-0,0156136 10005,11788 10005,10226
0,1972249 9937,002616 9937,199841
-0,1518634 10049,37198 10049,22012
0,04811368 (m) 9984,593649 (m) 9984,641763 (m)
-0,00435
-0,00096
-0,00336
0,001191
10v1 = 0,003597
2,795804
3,172519
-0,46492
-4,46215
-1,04125 (m)
68
Vetor dos valores observados ajustados:
A variância do peso “a posteriori” é igual a 1,042848.
29,25465 m
39,71504 m
25,22764 m
64,78519 m
10La1 = 51,5606 m
57,441 "
246,4078 "
60,45611 "
112,3268 "
63,36834 "
69
5.1.2.3.2 Segunda iteração
Quadro 7 – Valores observados e calculados
Quadro 8 – Valores de vante
Nova
1 2 10009,053 9972,181 29,255 9,053436226 -27,81851959 18,027290 SE 161,972710 -125,356868 54,643132
2 3 9980,866 9944,203 39,715 -28,18715983 -27,97800296 45,213366 SW 225,213366 63,240657 243,240657
3 4 10005,102 9937,200 25,228 24,23598533 -7,003636682 73,881935 SE 106,118065 -119,095301 60,904699
4 5 10049,220 9984,642 64,785 44,11785359 47,44192229 42,920796 NE 42,920796 -63,197270 116,802730
5 1 10000,000 10000,000 51,561 -49,22011532 15,35823695 72,670422 NW 287,329578 244,408782 64,408782
1 5 72,670422 SE 107,329578 -25,995623 154,004377
1 M1 46,674799 NW 313,325201 25,995623 205,995623
AzimuteÂngulo
Calculado
Novo
Ângulo
HorárioEst Pi PV Pi+1 X (m) Y (m) DH (m)
Alinhamento Coordenadas
X Y Rumo
Est Pi PV Pi+1 Kiji Liji Piji Qiji
1 2 0,309469955 -0,950909221 10880,1213 -3540,895985
2 3 -0,709735098 -0,704468659 -3213,808292 -3237,833955
3 4 0,960691669 -0,277617573 775,0573272 -2682,074879
4 5 0,680986701 0,732295783 3519,199632 3272,62317
5 1 -0,954607159 0,297867708 -845,4557317 2709,518596
Alinhamento Radianos Arco Segundos
Valores de vante
70
Novo vetor das coordenadas ajustadas:
Variância de peso “a posteriori” é igual a 0,009280.
5.1.2.3.3 Terceira iteração
Quadro 9 – Valores observados e calculados
-0,01198 10009,05344 10009,04146
-0,00804 9972,18148 9972,173441
0,01489 9980,866276 9980,881169
8X1 = -0,03635 8Xo1 = 9944,203477 8Xa1 = 9944,167132
0,00595 10005,10226 10005,10822
-0,07823 9937,199841 9937,121606
-0,02058 10049,22012 10049,19953
-0,05503 (m) 9984,641763 (m) 9984,586733 (m)
1 2 10009,053 9972,181 29,255 9,053436226 -27,81851959 18,027290 SE 161,972710 -125,356868 54,643132
2 3 9980,866 9944,203 39,715 -28,18715983 -27,97800296 45,213366 SW 225,213366 63,240657 243,240657
3 4 10005,102 9937,200 25,228 24,23598533 -7,003636682 73,881935 SE 106,118065 -119,095301 60,904699
4 5 10049,220 9984,642 64,785 44,11785359 47,44192229 42,920796 NE 42,920796 -63,197270 116,802730
5 1 10000,000 10000,000 51,561 -49,22011532 15,35823695 72,670422 NW 287,329578 244,408782 64,408782
1 5 72,670422 SE 107,329578 -25,995623 154,004377
1 M1 46,674799 NW 313,325201 25,995623 205,995623
AzimuteÂngulo
Calculado
Novo
Ângulo
HorárioEst Pi PV Pi+1 X (m) Y (m)
Nova
DH (m)
Alinhamento Coordenadas
X Y Rumo
71
Quadro 10 – Valores de Vante
Novo vetor de coordenadas ajustadas:
Variância de peso “a posteriori” é igual a 1,00.
Est Pi PV Pi+1 Kiji Liji Piji Qiji
1 2 0,309469955 -0,950909221 10880,1213 -3540,895985
2 3 -0,709735098 -0,704468659 -3213,808292 -3237,833955
3 4 0,960691669 -0,277617573 775,0573272 -2682,074879
4 5 0,680986701 0,732295783 3519,199632 3272,62317
5 1 -0,954607159 0,297867708 -845,4557317 2709,518596
Alinhamento Radianos Arco Segundos
Valores de Vante
-0,011981 10009,0534 10009,041
-0,0080392 9972,18148 9972,1734
0,014893 9980,86628 9980,8812
8X1 = -0,0363452 8Xo1 = 9944,20348 8Xa1 = 9944,1671
0,0059535 10005,1023 10005,108
-0,0782346 9937,19984 9937,1216
-0,0205838 10049,2201 10049,2
-0,0550305 (m) 9984,64176 (m) 9984,5867 (m)
72
Fez-se o Teste Qui-Quadrado da forma quadrática dos resíduos. Para o teste Bilateral
com o nível de significância a 5%, obtiveram-se os seguintes resultados:
Figura 9 – Teste Bilateral com nível de significância a 5%
O valor de χ2 calculado está entre os valores de χ
2 teórico, portanto a hipótese H0 é
aceita ao nível de significância de 5%.
Para o teste Unilateral, obtiveram-se os seguintes resultados:
Para o nível de significância (%) = 5
0,5 = 0,025
2 Teórico com a = 5%
1 - 0,5 = 0,975
2 (2; 0,025) = 0,05
2 (2; 0,975) = 7,38
2,000
=
≠
Hpótese Básica (Ho) Ho:
Hípótese Alternativa (H1) H1:
^ 2
0
comTeórico2
2 Calculado
2
0
2
0^ 2
0
73
Figura 10 – Teste Unilateral com nível de significância a 5%
O valor de χ2 calculado está entre os valores de χ
2 teórico, portanto a hipótese H0 é
aceita ao nível de significância de 5%.
Para o nível de significância (%) = 5
= 0,05
2 Teórico com a = 5%
1 - = 0,95
2,000
=
>
2 (2; 0,95) = 3,00
Hpótese Básica (Ho) Ho:
Hípótese Alternativa (H1) H1:
^ 2
0
comTeórico2
2 Calculado
2
0
2
0^ 2
0
74
MVC das Coordenadas Ajustadas:
MVC dos valores observados ajustados:
7,3051E-07 1,2273E-07 -7,117E-07 1,2614E-06 -5,677E-08 4,1299E-06 1,0505E-06 2,78759E-06
1,2273E-07 1,8141E-07 -2,345E-07 4,1156E-07 -3,582E-08 1,0489E-06 1,9919E-07 6,95729E-07
-7,117E-07 -2,345E-07 8,8494E-07 -1,307E-06 1,4672E-07 -4,254E-06 -1,017E-06 -2,8866E-06
1,2614E-06 4,1156E-07 -1,307E-06 2,5095E-06 -7,25E-08 7,6596E-06 1,856E-06 5,11982E-06
8x8 = -5,677E-08 -3,582E-08 1,4672E-07 -7,25E-08 1,9148E-07 -3,603E-07 3,1775E-08 -2,9116E-07
4,1299E-06 1,0489E-06 -4,254E-06 7,6596E-06 -3,603E-07 2,4348E-05 5,9845E-06 1,63536E-05
1,0505E-06 1,9919E-07 -1,017E-06 1,856E-06 3,1775E-08 5,9845E-06 1,6633E-06 4,03768E-06
2,7876E-06 6,9573E-07 -2,887E-06 5,1198E-06 -2,912E-07 1,6354E-05 4,0377E-06 1,10382E-05
1,6176E-07 -1,8411E-08 -6,4993E-08 2,29333E-08 6,96187E-08 5,40192E-05 6,13329E-05 -9,0223E-06 -8,6249E-05 -2,0081E-05
-1,8411E-08 2,46771E-07 -1,4241E-08 5,02503E-09 1,52545E-08 1,18364E-05 1,34389E-05 -1,9769E-06 -1,8898E-05 -4,4001E-06
-6,4993E-08 -1,4241E-08 1,93594E-07 1,77389E-08 5,38499E-08 4,17838E-05 4,74409E-05 -6,9787E-06 -6,6713E-05 -1,5533E-05
2,2933E-08 5,02503E-09 1,77389E-08 2,56786E-07 -1,9001E-08 -1,4744E-05 -1,674E-05 2,4625E-06 2,35402E-05 5,48088E-06
10La10 = 6,9619E-08 1,52545E-08 5,38499E-08 -1,9001E-08 1,98868E-07 -4,4758E-05 -5,0817E-05 7,47541E-06 7,14611E-05 1,66383E-05
5,4019E-05 1,18364E-05 4,17838E-05 -1,4744E-05 -4,4758E-05 0,70770469 -0,22503898 -0,17980795 -0,13015957 -0,17269819
6,1333E-05 1,34389E-05 4,74409E-05 -1,674E-05 -5,0817E-05 -0,22503898 0,697664224 -0,17902263 -0,12265233 -0,17095028
-9,0223E-06 -1,9769E-06 -6,9787E-06 2,4625E-06 7,47541E-06 -0,17980795 -0,17902263 0,741464601 -0,19486942 -0,1877646
-8,6249E-05 -1,8898E-05 -6,6713E-05 2,35402E-05 7,14611E-05 -0,13015957 -0,12265233 -0,19486942 0,653902365 -0,20622104
-2,0081E-05 -4,4001E-06 -1,5533E-05 5,48088E-06 1,66383E-05 -0,17269819 -0,17095028 -0,1877646 -0,20622104 0,737634126
75
MVC dos resíduos:
8,4025E-08 1,84111E-08 6,49931E-08 -2,2933E-08 -6,9619E-08 -5,4019E-05 -6,1333E-05 9,02231E-06 8,62485E-05 2,00813E-05
1,8411E-08 4,03415E-09 1,4241E-08 -5,025E-09 -1,5254E-08 -1,1836E-05 -1,3439E-05 1,97692E-06 1,88983E-05 4,4001E-06
6,4993E-08 1,4241E-08 5,02721E-08 -1,7739E-08 -5,385E-08 -4,1784E-05 -4,7441E-05 6,97874E-06 6,67131E-05 1,55328E-05
-2,2933E-08 -5,025E-09 -1,7739E-08 6,2593E-09 1,90014E-08 1,47437E-05 1,67399E-05 -2,4625E-06 -2,354E-05 -5,4809E-06
10v10 = -6,9619E-08 -1,5254E-08 -5,385E-08 1,90014E-08 5,76824E-08 4,47575E-05 5,08172E-05 -7,4754E-06 -7,1461E-05 -1,6638E-05
-5,4019E-05 -1,1836E-05 -4,1784E-05 1,47437E-05 4,47575E-05 0,220337042 0,225038976 0,179807949 0,13015957 0,172698195
-6,1333E-05 -1,3439E-05 -4,7441E-05 1,67399E-05 5,08172E-05 0,225038976 0,230377507 0,179022631 0,122652334 0,170950284
9,0223E-06 1,97692E-06 6,97874E-06 -2,4625E-06 -7,4754E-06 0,179807949 0,179022631 0,18657713 0,194869417 0,187764604
8,6249E-05 1,88983E-05 6,67131E-05 -2,354E-05 -7,1461E-05 0,13015957 0,122652334 0,194869417 0,274139367 0,206221044
2,0081E-05 4,4001E-06 1,55328E-05 -5,4809E-06 -1,6638E-05 0,172698195 0,170950284 0,187764604 0,206221044 0,190407605
76
Precisões:
Quadro 11 – Precisão Nominal
X1 10000 m FIXO dh1-2 29,25859 m ± 0,000402 m
Y1 10000 m FIXO dh2-3 39,71591 m ± 0,000497 m
X2 10009,041455 m ± 0,000855 m dh3-4 25,230683 m ± 0,00044 m
Y2 9972,173441 m ± 0,000426 m dh4-5 64,784112 m ± 0,000507 m
X3 9980,881169 m ± 0,000941 m dh5-1 51,55734 m ± 0,000446 m
Y3 9944,167132 m ± 0,001584 m α1-2 54°54' 31,472" ± 0,841252"
X4 10005,108215 m ± 0,000438 m α2-3 243°32' 4,093" ± 0,835263"
Y4 9937,121606 m ± 0,004934 m α3-4 60°52' 37,236" ± 0,861083"
X5 10049,199532 m ± 0,00129 m α4-5 116°22' 5,365" ± 0,808642"
Y5 9984,586733 m ± 0,003322 m α5-1 64°18' 41,834" ± 0,858856"
Pontos
Observações Ajustadas
Precisão
NominalValores
Parâmetros Ajustados
CoordenadasPontosPrecisão
Nominal
77
5.1.3 Localização de erros nas observações pelo teste “Data Snooping” de Baarda
Matriz de redundâncias:
Enunciação da Hipótese Báscia Ho:
Ho: nenhum erro existe na observação li
Rejeita-se Ho se |wi| > k
k é um valor crítico conforme o nível de confiança especificado:
0,341862346 0,073407924 0,266511804 -0,087183916 -0,271364213 -5,82077E-05 -6,60885E-05 9,72187E-06 9,29361E-05 2,16383E-05
0,074907111 0,016084765 0,05839669 -0,019103289 -0,059459925 -1,27542E-05 -1,4481E-05 2,13021E-06 2,03637E-05 4,74128E-06
0,264429901 0,056780895 0,206146394 -0,0674366 -0,209899723 -4,50236E-05 -5,11194E-05 7,51985E-06 7,18859E-05 1,67372E-05
-0,093306105 -0,02003557 -0,072740326 0,023795518 0,074064716 1,58869E-05 1,80379E-05 -2,65344E-06 -2,53655E-05 -5,90585E-06
10R10 = -0,283249312 -0,06082198 -0,220817783 0,072236046 0,224838236 4,82279E-05 5,47575E-05 -8,05504E-06 -7,7002E-05 -1,79284E-05
-219,7816542 -47,1936003 -171,3391542 56,05011942 174,4587443 0,23742148 0,242487992 0,193749853 0,14025185 0,186088825
-249,537994 -53,5831637 -194,5368415 63,63877101 198,0787944 0,242487992 0,248240461 0,192903643 0,13216252 0,184205384
36,70799596 7,882288887 28,61711548 -9,361507287 -29,13815034 0,193749853 0,192903643 0,201043901 0,209979153 0,202323449
350,9093486 75,35058197 273,5647395 -89,4911405 -278,5455618 0,14025185 0,13216252 0,209979153 0,295395516 0,22221096
81,70230364 17,54389318 63,69414067 -20,83624265 -64,85382666 0,186088825 0,184205384 0,202323449 0,22221096 0,205171383
78
Figura 11 – Estatística do teste
Ao nível de significância de 5% as observações não contem erros grosseiros.
Ao nível de significância de 1% as observações não contem erros grosseiros.
5.1.4 Parâmetros da Elípse dos Erros e Elípse de Confiança
Quadro 12 – Elipses dos Erros Padrão
Orientação ()
1 Fixo Fixo Fixo Fixo Fixo Fixo Fixo
2 0,447014 24°5' 7,124" 12°2' 33,562" I 0,869883 0,393983 77°57' 26,438"
3 1,608776 58°8' 7,077" 29°4' 3,539" III 1,798861 0,398195 60°55' 56,461"
4 0,029828 1°42' 30,710" 0°51' 15,355" III 4,934941 0,431408 89°8' 44,645"
5 -0,861382 - 40°44' 27,618" 159°37' 46,191" II 3,540822 0,405027 110°22' 13,809"
No quadrante
adequado
Elipses dos Erros Padrão (39,4% de probabilidade)
2tan(2)Ponto Azimute Semi-
Eixo a
Quad. de I
Maior (a)
(mm)
Menor (b)
(mm)
Semi-Eixo I
IVIII
II
79
Quadro 13 – Elipses de confiança pontual
5.2 EXPERIMENTAÇÃO E ANÁLISE DE RESULTADOS COM A PRECISÃO DA
MÉDIA DAS OBSERVAÇÕES
Agora serão apresentados todos os cálculos obtidos utilizando a precisão da média das
observações.
5.2.1 Teste Qui-quadrado da forma quadrática do erro de fechamento
Utilizando os dados apresentados no Quadro 1 – Planilha de experimentos, tem-se
como ponto de controle, ponto 1, cujas coordenadas são fixas, X=10.000,00 m e Y=10.000,00
m. O azimute definido pelo ponto de controle e pelo ponto 1 é de 133°19’30,7235”.
Maior (a) Menor (b)
(mm) (mm)
1 FIXO FIXO FIXO
2 2,128604 0,964076 77°57' 26,438"
3 4,401813 0,974382 60°55' 56,461"
4 12,075800 1,055654 89°8' 44,645"
5 8,664392 0,991101 110°22' 13,809"
Ponto
Semi-Eixo
Azimute
Elipses de confiança pontual (95,0% de probabilidade)
80
5.2.1.1 Matriz variância-covariância das distancias e ângulos
5.2.1.2 Matriz variância-covariancia das distancias e azimutes
0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0
10Sa10 = 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 13,024881 0 0 0 0
0 0 0 0 0 0 27,447121 0 0 0
0 0 0 0 0 0 0 2,5281 0 0
0 0 0 0 0 0 0 0 3,861225 0
0 0 0 0 0 0 0 0 0 4
0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0
10SA10 = 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 13,02488 13,02488 13,02488 13,02488 13,02488
0 0 0 0 0 13,02488 40,472 40,472 40,472 40,472
0 0 0 0 0 13,02488 40,472 43,0001 43,0001 43,0001
0 0 0 0 0 13,02488 40,472 43,0001 46,86133 46,86133
0 0 0 0 0 13,02488 40,472 43,0001 46,86133 50,86133
81
5.2.1.3 Matriz variância-covariância das Coordenadas dos últimos pontos
Os desvios padrões da abscissa e da ordenada são respectivamente:
5.2.1.4 Aplicação do teste
Para o nível de significância α =1% foram encontrados os valores apresentados na figura abaixo:
0,234 -0,763 0,9359 0,7363 -0,928 -0,000138 -0,000125 -4,31E-05 0,000213 9,29E-05
-0,972 -0,647 -0,352 0,6767 0,3718 -3,32E-05 0,000147 -0,000114 -0,000231 0,0002322D10 =
1,41E-06 1,64E-07
1,64E-07 4,5E-072(X,Y)2 =
X = √1,41E-06 = 0,00119
Y = √4,5E-07 = 0,00067
0,00374
-0,014862E1 =
82
Figura 12 – Cálculo para o nível de significância a 1%
O valor de χ2 calculado não está entre os valores de χ
2 teórico, portanto a poligonal não
é aceita ao nível de significância de 1%.
Para o nível de significância α =5% foram encontrados os valores apresentados na
figura abaixo:
Figura 13 – Cálculo para o nível de significância a 5%
O valor de χ2 calculado não está entre os valores de χ
2 teórico, portanto a poligonal não
é aceita ao nível de significância de 5%.
Como pode ser verificada nos cálculos acima, considerando os valores médios das
Precisões de Ângulos e Distâncias, esta poligonal não deve ser aceita para realizar o ajuste
pelo MMQ. No entanto, como a Precisão Linear Relativa obtida no pré-ajustamento
(1:13.737) alcançou um valor acima do recomendado para observações coletadas com Estação
Total (1:10.000), o ajustamento pelo MMQ será realizado.
Para o nível de significância (%) = 1
0,5 = 0,005
2 Teórico com a = 1%
1 - 0,5 = 0,995
2 (2; 0,005) = 0,01
2 (2; 0,995) = 10,60
1% 552,62
comTeórico2
comCalculado2
Para o nível de significância (%) = 5
0,5 = 0,025
2 Teórico com a = 5%
1 - 0,5 = 0,975
2 (2; 0,025) = 0,05
2 (2; 0,975) = 7,38
5% 552,62
comTeórico2
comCalculado2
83
5.2.2 Ajustamento pelo Método dos Mínimos Quadrados
Quadro 14 – Valores observados e calculados
Quadro 15 – Coeficientes (Pontos a vante)
1 1
1 2 54º,38'42,700'' 54,64519444 29,259 166,469460 10006,84502 9971,55514
2 3 243º,14'06,867'' 243,2352407 39,716 229,704701 9976,55207 9945,87252
3 4 60º,55'15,700'' 60,92102778 25,231 110,625729 10000,16535 9936,98638
4 5 116º,47'20,200'' 116,7889444 64,784 47,414673 10047,86275 9980,82948
5 1 64º,24'34,533'' 64,40959259 51,557 291,824266 10000,00000 10000,00000
Coordendas Cartesianas
X (m) Y (m)
Azimute Calculado
AZi,i+1
EstaçãoPonto
Visado
DH Observada
(m)
Ângulo
Observado
Ângulo
Observado
Decimal
1 2 0,233964 -0,972245 -6853,959432 1649,354432
2 3 -0,762721 -0,646727 -3358,773821 -3961,188958
3 4 0,935901 -0,352262 -2879,760740 7651,045559
4 5 0,736270 0,676687 2154,494982 2344,200312
5 1 -0,928328 0,371761 1487,309528 -3713,976579
Coeficientes (Pontos a Vante)
Estação
Pi
PV
Pi+1
Kiji Liji Piji Qiji
84
Novo vetor das coordenadas ajustadas:
A variância do peso “a posteriori” é 273,205423.
5.2.2.1 Iterações
Serão feitas iterações para que os valores dos parâmetros sejam estabilizados,
induzindo os valores do vetor a se aproximarem de zero.
5,878690945 10006,84502 10012,72371
1,414105241 9971,555139 9972,969244
11,18896103 9976,552074 9987,741035
8X1 = -4,84771955 8Xo1 = 9945,872525 8Xa1 = 9941,024805
13,026025 10000,16535 10013,19138
0,032650608 9936,986385 9937,019035
3,963333479 10047,86275 10051,82608
9,892783534 (m) 9980,829477 (m) 9990,72226 (m)
85
5.2.2.1.1 Primeira iteração
Quadro 16 – Valores observados e calculados
Quadro 17 – Valores de vante
Nova
1 2 10012,724 9972,969 29,876 12,72371289 -27,03075601 25,206949 SE 154,793051 -125,356349 54,643651
2 3 9987,741 9941,025 40,553 -24,98267825 -31,94443868 38,027775 SW 218,027775 63,234724 243,234724
3 4 10013,191 9937,019 25,764 25,45034522 -4,005770008 81,055283 SE 98,944717 -119,083058 60,916942
4 5 10051,826 9990,722 66,156 38,63469991 53,70322511 35,731662 NE 35,731662 -63,213055 116,786945
5 1 10000,000 10000,000 52,650 -51,82607977 9,277739594 79,850600 NW 280,149400 244,417738 64,417738
1 5 79,850600 SE 100,149400 -33,175801 146,824199
1 M1 46,674799 NW 313,325201 33,175801 213,175801
AzimuteÂngulo
Calculado
Novo
Ângulo
HorárioEst Pi PV Pi+1 X (m) Y (m) DH (m)
Alinhamento Coordenadas
X Y Rumo
Est Pi PV Pi+1 Kiji Liji Piji Qiji
1 2 0,425889031 -0,904775405 7403,645812 -3484,988124
2 3 -0,616043403 -0,78771221 -4272,595665 -3341,454324
3 4 0,987838821 -0,155481393 395,6600728 -2513,795206
4 5 0,583989883 0,811760936 4685,976058 3371,14351
5 1 -0,984351615 0,176215488 -455,188232 2542,712197
Alinhamento Radianos Arco Segundos
Valores de vante
86
Novo vetor das coordenadas ajustadas:
A variância de peso “a posteriori” é 5,117749.
5.2.2.1.2 Segunda iteração
Quadro 18 – Valores observados e calculados
-0,26848998 10012,724 10012,45522
0,55531692 9972,9692 9973,524561
0,25396575 9987,741 9987,995
8X1 = 1,20997234 8Xo1 = 9941,0248 8Xa1 = 9942,234778
-0,27419454 10013,191 10012,91719
1,28083964 9937,019 9938,299875
-1,07957964 10051,826 10050,7465
0,16965936 (m) 9990,7223 (m) 9990,89192 (m)
Nova
1 2 10012,455 9973,525 29,259 12,45522292 -26,47543909 25,194378 SE 154,805622 -125,369598 54,630402
2 3 9987,995 9942,235 39,716 -24,46022252 -31,28978326 38,015875 SW 218,015875 63,210253 243,210253
3 4 10012,917 9938,300 25,231 24,92218492 -3,934902711 81,027775 SE 98,972225 -119,043650 60,956350
4 5 10050,747 9990,892 64,784 37,82931481 52,59204483 35,727362 NE 35,727362 -63,244863 116,755137
5 1 10000,000 10000,000 51,557 -50,74650013 9,108080234 79,824780 NW 280,175220 244,447858 64,447858
1 5 79,824780 SE 100,175220 -33,149981 146,850019
1 M1 46,674799 NW 313,325201 33,149981 213,149981
AzimuteÂngulo
Calculado
Novo
Ângulo
Horário
Es
Pi
PV
Pi+1
X (m) Y (m) DH (m)
Alinhamento Coordenadas
X Y Rumo
87
Quadro 19- Valores de vante
Novo vetor das coordenadas ajustadas:
A variância de peso “a posteriori” é 13,022042.
Est Pi PV Pi+1 Kiji Liji Piji Qiji
1 2 0,425690502 -0,9048688 7408,1049 -3485,1017
2 3 -0,61587979 -0,7878401 -4274,6272 -3341,6125
3 4 0,987764059 -0,1559556 397,001661 -2514,4583
4 5 0,583928958 0,81180476 4686,79308 3371,19752
5 1 -0,9842721 0,17665907 -456,48166 2543,32921
Alinhamento Radianos Arco Segundos
Valores de vante
-0,001804162 10012,45522 10012,45342
-0,001223937 9973,524561 9973,523337
-0,011087412 9987,995 9987,983913
8X1 = 0,005714173 8Xo1 = 9942,234778 8Xa1 = 9942,240492
-0,014710212 10012,91719 10012,90248
-0,01877816 9938,299875 9938,281097
-0,005622065 10050,7465 10050,74088
-0,025650448 (m) 9990,89192 (m) 9990,866269 (m)
88
5.2.2.1.3 Terceira iteração
Quadro 20 – Valores observados e calculados
Quadro 21 – Valores de vante
Nova
1 2 10012,455 9973,525 29,259 12,45522292 -26,47543909 25,194378 SE 154,805622 -125,369598 54,630402
2 3 9987,995 9942,235 39,716 -24,46022252 -31,28978326 38,015875 SW 218,015875 63,210253 243,210253
3 4 10012,917 9938,300 25,231 24,92218492 -3,934902711 81,027775 SE 98,972225 -119,043650 60,956350
4 5 10050,747 9990,892 64,784 37,82931481 52,59204483 35,727362 NE 35,727362 -63,244863 116,755137
5 1 10000,000 10000,000 51,557 -50,74650013 9,108080234 79,824780 NW 280,175220 244,447858 64,447858
1 5 79,824780 SE 100,175220 -33,149981 146,850019
1 M1 46,674799 NW 313,325201 33,149981 213,149981
AzimuteÂngulo
Calculado
Novo Ângulo
HorárioEst
Pi
PV
Pi+1
X (m) Y (m) DH (m)
Alinhamento Coordenadas
X Y Rumo
Est Pi PV Pi+1 Kiji Liji Piji Qiji
1 2 0,425690502 -0,904868828 7408,104899 -3485,101705
2 3 -0,615879789 -0,787840139 -4274,62719 -3341,612544
3 4 0,987764059 -0,155955647 397,0016608 -2514,458306
4 5 0,583928958 0,811804762 4686,793082 3371,197518
5 1 -0,984272104 0,176659066 -456,4816578 2543,32921
Alinhamento Radianos Arco Segundos
Valores de vante
89
Novo vetor das coordenadas ajustadas:
A variância de peso “a posteriori” é igual a 1,00.
O teste global será aplicado. O Teste Bilateral e Unilateral foram feitos para o nível de
significância a 1%. Segue abaixo os valores obtidos:
Figura 14 – Teste bilateral para o nível de significância a 1%
O valor de χ2 calculado está entre os valores de χ
2 teórico, portanto a hipótese H0 é
aceita ao nível de significância de 1%.
No Teste Unilateral para o nível de significância a 1%, obteve-se os valores abaixo:
-0,001804162 10012,4552 10012,45342
-0,001223937 9973,52456 9973,523337
-0,011087412 9987,995 9987,983913
8X1 = 0,005714173 8Xo1 = 9942,23478 8Xa1 = 9942,240492
-0,014710212 10012,9172 10012,90248
-0,01877816 9938,29987 9938,281097
-0,005622065 10050,7465 10050,74088
-0,025650448 (m) 9990,89192 (m) 9990,866269 (m)
Para o nível de significância (%) = 1
0,5 = 0,005
2 Teórico com a = 1%
1 - 0,5 = 0,995
2 (2; 0,005) = 0,01
2 (2; 0,995) = 10,60
2,000
=
≠
Hpótese Básica (Ho) Ho:
Hípótese Alternativa (H1) H1:
^ 2
0
comTeórico2
2 Calculado
2
0
2
0^ 2
0
90
Figura 15 – Teste unilateral para o nível de significância a 1%
O valor de χ2 calculado está entre os valores de χ
2 teórico, portanto a hipótese H0 é
aceita ao nível de significância de 1%.
Para o nível de significância (%) = 1
= 0,01
2 Teórico com a = 1%
1 - = 0,99
2,000
=
>
2 (2; 0,99) = 4,61
Hpótese Básica (Ho) Ho:
Hípótese Alternativa (H1) H1:
^ 2
0
comTeórico2
2 Calculado
2
0
2
0^ 2
0
91
MVC das coordenadas ajustadas:
MVC das coordenadas ajustadas:
5,56508E-06 2,51173E-06 -2,27585E-06 7,19161E-06 -6,15772E-08 2,4745E-05 5,68831E-06 1,93242E-05
2,51173E-06 1,81296E-06 -1,23444E-06 4,03673E-06 -1,47056E-07 1,2473E-05 2,72722E-06 9,77705E-06
-2,2759E-06 -1,23444E-06 4,13581E-06 -4,46382E-06 2,04616E-06 -1,814E-05 -2,79416E-06 -1,41065E-05
8x8 = 7,19161E-06 4,03673E-06 -4,46382E-06 1,2351E-05 -8,55115E-07 3,9762E-05 8,41747E-06 3,10109E-05
-6,1577E-08 -1,47056E-07 2,04616E-06 -8,55115E-07 1,81982E-06 -4,634E-06 1,84958E-07 -3,66536E-06
2,47452E-05 1,24729E-05 -1,81351E-05 3,97615E-05 -4,63438E-06 0,0001411 2,92537E-05 0,000109773
5,68831E-06 2,72722E-06 -2,79416E-06 8,41747E-06 1,84958E-07 2,9254E-05 7,68419E-06 2,30184E-05
1,93242E-05 9,77705E-06 -1,41065E-05 3,10109E-05 -3,66536E-06 0,00010977 2,30184E-05 8,62509E-05
5,56508E-06 2,51173E-06 -2,27585E-06 7,19161E-06 -6,15772E-08 2,47452E-05 5,68831E-06 1,93242E-05
2,51173E-06 1,81296E-06 -1,23444E-06 4,03673E-06 -1,47056E-07 1,24729E-05 2,72722E-06 9,77705E-06
-2,27585E-06 -1,23444E-06 4,13581E-06 -4,46382E-06 2,04616E-06 -1,81351E-05 -2,79416E-06 -1,41065E-05
7,19161E-06 4,03673E-06 -4,46382E-06 1,2351E-05 -8,55115E-07 3,97615E-05 8,41747E-06 3,10109E-05
8x8 = -6,15772E-08 -1,47056E-07 2,04616E-06 -8,55115E-07 1,81982E-06 -4,63438E-06 1,84958E-07 -3,66536E-06
2,47452E-05 1,24729E-05 -1,81351E-05 3,97615E-05 -4,63438E-06 0,000141103 2,92537E-05 0,000109773
5,68831E-06 2,72722E-06 -2,79416E-06 8,41747E-06 1,84958E-07 2,92537E-05 7,68419E-06 2,30184E-05
1,93242E-05 9,77705E-06 -1,41065E-05 3,10109E-05 -3,66536E-06 0,000109773 2,30184E-05 8,62509E-05
92
MVC dos valores observados ajustados:
MVC dos resíduos:
5,57887E-07 -1,6222E-08 -1,56931E-08 1,74935E-08 6,40837E-08 0,000321946 0,00098898 -0,0001327 -0,00074014 -0,000438135
-1,6222E-08 1,51108E-06 -1,16416E-08 1,29772E-08 4,75391E-08 0,000238829 0,00073366 -9,841E-05 -0,00054906 -0,000325021
-1,56931E-08 -1,1642E-08 5,68492E-07 1,25541E-08 4,59892E-08 0,000231043 0,00070974 -9,52E-05 -0,00053116 -0,000314424
1,74935E-08 1,29772E-08 1,25541E-08 1,43001E-06 -5,1265E-08 -0,00025755 -0,0007912 0,00010612 0,000592092 0,000350496
10La10 = 6,40837E-08 4,75391E-08 4,59892E-08 -5,12653E-08 2,13122E-06 -0,00094347 -0,0028982 0,00038875 0,002169001 0,001283967
0,000321946 0,000238829 0,000231043 -0,000257549 -0,00094347 121,4357735 -106,09002 -6,477587 -1,97956001 -6,888611043
0,000988984 0,000733656 0,000709738 -0,000791161 -0,00289825 -106,090015 119,810766 -11,766206 6,339562216 -8,294107508
-0,000132656 -9,8408E-05 -9,51997E-05 0,000106121 0,000388753 -6,47758704 -11,766206 30,4799247 -6,98918294 -5,246949108
-0,000740139 -0,00054906 -0,000531156 0,000592092 0,002169001 -1,97956001 6,33956222 -6,9891829 21,41281961 -18,78363887
-0,000438135 -0,00032502 -0,000314424 0,000350496 0,001283967 -6,88861104 -8,2941075 -5,2469491 -18,7836389 39,21330653
2,18676E-08 1,6222E-08 1,56931E-08 -1,74935E-08 -6,4084E-08 -0,000321946 -0,000988984 0,000132656 0,000740139 0,000438135
1,6222E-08 1,20339E-08 1,16416E-08 -1,29772E-08 -4,7539E-08 -0,000238829 -0,000733656 9,8408E-05 0,000549056 0,000325021
1,56931E-08 1,16416E-08 1,12621E-08 -1,25541E-08 -4,5989E-08 -0,000231043 -0,000709738 9,51997E-05 0,000531156 0,000314424
-1,7494E-08 -1,2977E-08 -1,25541E-08 1,39944E-08 5,12653E-08 0,000257549 0,000791161 -0,000106121 -0,000592092 -0,000350496
10v10 = -6,4084E-08 -4,7539E-08 -4,59892E-08 5,12653E-08 1,87799E-07 0,000943473 0,002898248 -0,000388753 -0,002169001 -0,001283967
-0,00032195 -0,00023883 -0,000231043 0,000257549 0,000943473 48,17476849 106,0900154 6,477587042 1,979560012 6,888611043
-0,00098898 -0,00073366 -0,000709738 0,000791161 0,002898248 106,0900154 237,6067847 11,7662056 -6,339562216 8,294107508
0,000132656 9,8408E-05 9,51997E-05 -0,000106121 -0,00038875 6,477587042 11,7662056 2,44109863 6,989182941 5,246949108
0,000740139 0,000549056 0,000531156 -0,000592092 -0,002169 1,979560012 -6,339562216 6,989182941 28,8682129 18,78363887
0,000438135 0,000325021 0,000314424 -0,000350496 -0,00128397 6,888611043 8,294107508 5,246949108 18,78363887 12,8748598
93
Precisões:
Quadro 22 – Precisão da média das observações
X1 10000 m FIXO dh1-2 29,259209 m ± 0,000747 m
Y1 10000 m FIXO dh2-3 39,716155 m ± 0,001229 m
X2 10012,453419 m ± 0,002359 m dh3-4 25,23115 m ± 0,000754 m
Y2 9973,523337 m ± 0,001346 m dh4-5 64,783833 m ± 0,001196 m
X3 9987,983913 m ± 0,002034 m dh5-1 51,556387 m ± 0,00146 m
Y3 9942,240492 m ± 0,003514 m α1-2 51°33' 58,606" ± 11,01979"
X4 10012,902475 m ± 0,001349 m α2-3 233°46' 37,730" ± 10,94581"
Y4 9938,281097 m ± 0,011879 m α3-4 62°11' 22,835" ± 5,520863"
X5 10050,740878 m ± 0,002772 m α4-5 123°52' 2,017" ± 4,627399"
Y5 9990,866269 m ± 0,009287 m α5-1 68°35' 58,812" ± 6,262053"
Precisão da
média
Observações AjustadasParâmetros Ajustados
Pontos Coordenadas Pontos ValoresPrecisão da
média
94
5.2.3 Localização de erros nas observações pelo teste “Data Snooping” de Baarda
Matriz das redundâncias:
Enunciação da Hipótese Báscia Ho:
Ho: nenhum erro existe na observação li
Rejeita-se Ho se |wi| > k
k é um valor crítico conforme o nível de confiança especificado:
0,037718738 0,010650577 0,027068606 -0,012114612 -0,027633986 -1,8981E-06 -2,76703E-06 4,02952E-06 1,472E-05 8,41141E-06
0,027980821 0,007900898 0,020080253 -0,00898696 -0,020499668 -1,4081E-06 -2,05266E-06 2,98921E-06 1,09197E-05 6,23982E-06
0,027068606 0,007643317 0,019425608 -0,008693972 -0,019831349 -1,3622E-06 -1,98574E-06 2,89176E-06 1,05637E-05 6,03639E-06
-0,03017401 -0,008520186 -0,021654183 0,009691375 0,022106472 1,51847E-06 2,21355E-06 -3,22351E-06 -1,17757E-05 -6,72891E-06
10R10 = -0,11053594 -0,031211851 -0,079325398 0,03550225 0,080982263 5,56259E-06 8,10886E-06 -1,18086E-05 -4,31376E-05 -2,46499E-05
-555,314871 -156,8033347 -398,5180855 178,3576138 406,8419089 0,284031688 0,296823743 0,196761412 0,039369916 0,13224906
-1705,86711 -481,6828518 -1224,204372 547,8952616 1249,774256 0,625491872 0,66478768 0,357407043 -0,126082578 0,159232088
228,8141924 64,60988221 164,2070088 -73,49119484 -167,6367908 0,038190946 0,032920055 0,074150144 0,139002375 0,100732076
1276,643038 360,4835674 916,1745278 -410,0358518 -935,3106103 0,011671209 -0,017737132 0,212301509 0,574137233 0,360612404
755,7247452 213,392737 542,3409213 -242,7258288 -553,6687636 0,040614286 0,023205653 0,159379891 0,373573054 0,247174372
95
Figura 16 – Estatística do teste
Ao nível de significância de 5% as observações não contem erros grosseiros.
Ao nível de significância de 1% as observações não contem erros grosseiros.
5.2.4 Parâmetros da Elipse dos Erros e Elipse de Confiança
Quadro 23 – Elipses dos Erros Padrão
Orientação () Quad. de I
1 Fixo Fixo Fixo Fixo Fixo Fixo Fixo
2 1,338830 53°14' 35,453" 26°37' 17,727" I 2,612287 0,744310 63°22' 42,273"
3 1,086718 47°22' 46,865" 23°41' 23,432" III 3,782800 1,475557 66°18' 36,568"
4 0,066546 3°48' 25,884" 1°54' 12,942" III 11,885180 1,290653 88°5' 47,058"
5 -0,585959 - 30°22' 6,739" 164°48' 56,630" II 9,617592 1,198752 105°11' 3,370"
Elipse dos Erros Padrão (39,4% de Probabilidade)
No Quadrante
adequado
Semi-Eixo
Maior (a)
(mm)
Semi-Eixo
Menor (b)
(mm)
Azimute
Semi-Eixo aPonto tan(2) 2 I
IVIII
II I
IVIII
II
96
Quadro 24 – Elipse de Confiança Pontual
1 FIXO FIXO FIXO
2 6,392267 1,821326 63°22' 42,273"
3 9,256512 3,610689 66°18' 36,568"
4 29,083035 3,158228 88°5' 47,058"
5 23,534247 2,933347 105°11' 3,370"
Elipse de Confiança Pontual: 95% de Probabilidade
AzimutePonto
Semi-Eixo
Maior (a)
(mm)
Semi-Eixo
Menor (b)
(mm)
97
5.3 ANÁLISE CONJUNTA DOS RESULTADOS
Através dos valores dos eixos maior e menor encontrados para a elipse de confiança
utilizando as observações com a precisão nominal da Estação Total e posteriormente
utilizando a precisão da média das observações, com intuito comparativo, a figura abaixo
apresenta a poligonal com as elipses de confiança.
98
Figura 17 – Poligonal com as elipses de confiança
99
É possível observar que quanto mais se afasta do ponto de controle, maior é a sua
elipse, e quando se aproxima do ponto de controle, as elipses são menores, as observações são
mais precisas.
As elipses de confiança foram menores, ou seja, mais precisas utilizando as
observações com a precisão nominal da Estação Total do que quando foi utilizada a precisão
da média das observações.
A partir de gráficos gerados com os resultados obtidos com a precisão nominal e com
a precisão das observações, é possível fazer comparativos entre os dois métodos.
O Gráfico 1 apresenta os ângulos ajustados pelo MMQ utilizando a precisão nominal e
posteriormente a precisão das observações.
Gráfico 1 - Gráfico de Ângulos Ajustados pelo MMQ
O Gráfico 2 das precisões angulares ajustadas pelo MMQ mostra que utilizando a
precisão nominal da Estação Total, a precisão nos cinco pontos sofrem menos variância e são
menores do que utilizando a precisão das médias das observações, que sofrem oscilações
maiores de um ponto para outro e os valores da precisão angular nos pontos são maiores.
0º,00'00,000''
50º,00'00,000''
100º,00'00,000''
150º,00'00,000''
200º,00'00,000''
250º,00'00,000''
5-1-2 1-2-3 2-3-4 3-4-5 4-5-1
Ân
gulo
s H
orá
rio
s -
Inte
rno
s
Ângulos Ajustados pelo MMQ
Com Observações obtidas com a Precisão Nominal da Estação Total
Com Observações obtidas com a Precisão das Médias das Observações
100
Gráfico 2 – Gráfico das Precisões Angulares Ajustadas pelo MMQ
O Gráfico 3 apresenta as distancias horizontais ajustadas pelo MMQ, podendo
verificar que as distancias entre os pontos utilizando a precisão das médias das observações
são menores do que as distancias entre os mesmos pontos utilizando a precisão nominal da
Estação Total.
Gráfico 3 - Gráfico das Distâncias Horizontais Ajustadas pelo MMQ
O Gráfico 4 mostra as precisões das distancias horizontais ajustadas pelo MMQ,
utilizando a precisão das médias das observações, as precisões são maiores em cada ponto
comparando-se com a utilização da precisão da média das observações.
0,000 ''
2,000 ''
4,000 ''
6,000 ''
8,000 ''
10,000 ''
12,000 ''
5-1-2 1-2-3 2-3-4 3-4-5 4-5-1
Pre
cisõ
es
do
s Â
ng
ulo
s
Precisões Angulares Ajustadas pelo MMQ
Com Observações obtidas com a Precisão Nominal da Estação Total
Com Observações obtidas com a Precisão das Médias das Observações
0,0000 m
10,0000 m
20,0000 m
30,0000 m
40,0000 m
50,0000 m
60,0000 m
70,0000 m
1-2 2-3 3-4 4-5 5-1
Dis
tânc
ias
Hor
izon
tais
Distâncias Horizontais Ajustadas pelo MMQ
Com Observações obtidas com a Precisão Nominal da Estação Total
Com Observações obtidas com a Precisão das Médias das Observações
101
Gráfico 4 - Gráfico das Precisões das Distâncias Horizontais Ajustadas pelo MMQ
O Gráfico 5 apresenta as coordenadas topográficas “X” ajustadas pelo MMQ, em
todos os pontos as coordenadas são menores utilizando a precisão nominal da estação total.
Gráfico 5 - Gráfico das Coordenadas Topográficas “X” Ajustadas pelo MMQ
O Gráfico 6 apresenta a precisão das coordenadas topográficas “X” ajustadas pelo
MMQ, pode-se verificar que as melhores precisões alcançadas foi atingida quando o ajuste foi
realizado utilizando a precisão nominal da Estação Total.
0,000 mm
0,500 mm
1,000 mm
1,500 mm
1-2 2-3 3-4 4-5 5-1
Pre
cisõ
es
das
Dh
Precisões das Distâncias Horizontais Ajustadas pelo MMQ
Com Observações obtidas com a Precisão Nominal da Estação Total
Com Observações obtidas com a Precisão das Médias das Observações
0,0000 m
10,0000 m
20,0000 m
30,0000 m
40,0000 m
50,0000 m
60,0000 m
70,0000 m
1-2 2-3 3-4 4-5 5-1
Dis
tânc
ias
Hor
izon
tais
Distâncias Horizontais Ajustadas pelo MMQ
Com Observações obtidas com a Precisão Nominal da Estação Total
Com Observações obtidas com a Precisão das Médias das Observações
9940,0000 m
9960,0000 m
9980,0000 m
10000,0000 m
10020,0000 m
10040,0000 m
10060,0000 m
1 2 3 4 5
Co
ord
en
ad
as
X
Coordenadas Topográficas 'X' Ajustadas pelo MMQ
Com Observações obtidas com a Precisão Nominal da Estação Total
Com Observações obtidas com a Precisão das Médias das Observações
102
Gráfico 6 - Gráfico da Precisão das Coordenadas Topográficas “X” Ajustadas pelo MMQ
O gráfico 7 apresenta as coordenadas topográficas “Y” ajustadas pelo MMQ, na
maioria dos pontos as coordenadas obtidas utilizando a precisão nominal da estação total são
menores do que utilizando a precisão das médias das observações.
Gráfico 7 – Gráfico das Coordenadas Topográficas “Y” Ajustadas pelo MMQ
No Gráfico 8, podemos observar que a precisão das coordenadas topográficas “Y”
ajustadas pelo MMQ, assim como para as coordenadas “X”, Gráfico 6, as melhores precisões
novamente são obtidas através dos ajuste utilizando a precisão nominal da Estação Total.
0,000 mm
0,500 mm
1,000 mm
1,500 mm
2,000 mm
2,500 mm
3,000 mm
1 2 3 4 5
Pre
cisã
o d
e X
Precisão das Coordenadas Topográficas 'X' Ajustadas pelo MMQ
Com Observações obtidas com a Precisão Nominal da Estação Total
Com Observações obtidas com a Precisão das Médias das Observações
9900,0000 m
9920,0000 m
9940,0000 m
9960,0000 m
9980,0000 m
10000,0000 m
1 2 3 4 5
Co
ord
en
ad
as
Y
Coordenadas Topográficas 'Y' Ajustadas pelo MMQ
Com Observações obtidas com a Precisão Nominal da EstaçãoTotal
Com Observações obtidas com a Precisão das Médias das Observações
103
Gráfico 8 - Gráfico da Precisão das Coordenadas Topográficas “Y” Ajustadas pelo MMQ
A partir desses gráficos comparativos apresentados anteriormente, podemos verificar
que as melhores precisões alcançadas foram obtidas quando o ajuste foi realizado utilizando
as precisões nominais da Estação Total. Fato que leva a sugerir para o ajuste de poligonal
fechada a utilização destas precisões e consequentemente as variâncias que iram compor da
MVC das Observações.
0,000 mm
2,000 mm
4,000 mm
6,000 mm
8,000 mm
10,000 mm
12,000 mm
1 2 3 4 5
Pre
cisã
o d
e Y
Precisão das Coordenadas Topográficas 'Y' Ajustadas pelo MMQ
Com Observações obtidas com a Precisão Nominal da Estação Total
Com Observações obtidas com a Precisão das Médias das Observações
104
6 CONCLUSÃO
O ajustamento da poligonal fechada em “loop” foi feita pelo método dos mínimos
quadrados utilizando ora as observações com a precisão nominal da Estação Nominal e ora
com a precisão da média das observações, através dos dados coletados em campo e
posteriormente processados, foi possível analisá-los. Com a coleta de dados, com o
ajustamento das observações da poligonal e por fim com a verificação da qualidade do
levantamento topográfico através das elipses de confiança, todos os objetivos do trabalho
foram alcançados.
A hipótese de que as precisões médias das observações obtidas por repetições quando
vinculadas ao processo de ajustamento pelo MMQ proporciona parâmetros ajustados com
maior precisão não foi verdadeira, pois através das analises dos dados processados,
concluímos que utilizando as observações com a precisão nominal das observações obteve-se
precisões maiores que utilizando a precisão da média das observações. A hipótese de que se o
erro de fechamento testado no pré-ajustamento passar no teste do qui-quadrado da forma
quadrática do erro de fechamento, não serão necessários, caso precise, mais do que três
iterações para obter um bom ajuste foi confirmada, pois não foi necessário aplicar mais do
que três iterações para que um ajuste bom e aceitável fosse obtido. Foi confirmada também a
hipótese de que nos pontos mais afastados do ponto de controle, os semi-eixos das elipses de
confiança apresentam maiores dimensões.
105
REFERÊNCIAS BIBLIOGRÁFICAS
ASSOSSIAÇÃO BRASILEIRA DE NORMAS TÉCNICAS NBR 14166 Rede de Referência
Cadastral Municipal – Procedimento. Rio de Janeiro 1998.
BAARDA, W. (1968). A testing procedure for use in geodetic networks. Netherlands
COMASTRI, J, 1992. Topografia:Planimetria, Imprensa Universitária, Viçosa - MG, Brasil,
336 páginas.
DALMOLIN, Quintino, 2004. Ajustamento por Mínimos Quadrados, Imprensa Universitária,
Curitiba, Brasil, 175 páginas.
GEMAEL, C. Introdução ao ajustamento de observações: aplicações geodésicas. Curitiba:
Editora da UFPR, 1994.
GEMAEL, Camil, 1994: Introdução ao ajustamento de observações - aplicações geodésicas,
Curitiba-PR: UFPR, 2004. 319p.
GHILANI, C. D., WOLF, P.R. Adjustment computations: spatial data analysis. 4th ed.
New Jersey: John Wiley & Sons, 2006
KRAKIWSKY, E.J. A synthesis of recent advances in the method of least squares.
Lecture note Nº 42, Department of Geodesy and Geomatics Engineering,
University of New Brunswick, Fredericton, NB, Canada, 1975.
KRAKIWSKY, E. J.; SZABO, D. J.; VANÍCEK, P.; CRAYMER, M. R. Development and
testing of in-context confidence regions for geodetic survey networks. Technical Report
Nº 198, Department of Geodesy and Geomatics Engineering, University of New Brunswick,
Fredericton, NB, Canada, 1999.
KUANG, S. Geodetic Network Analisys and Optimal Design: concepts and applications.
Chelsea: Ann Arbor Press. 1996.
LEICK, A. GPS satellite surveying. 2nd. New York: John Wiley and Sons, 1995.
LEICK, A. GPS satellite surveying. 3th. ed. New Jersey: John Wiley and Sons, 2004.
106
MIKHAIL, E. M.; ACKERMANN, F. Observation and Least Squares. New York, IEP,
Dun-Donelly Publisher, 1976.
WELLS, D.E., KRAKIWSKY, E.J. The method of least squares. Lecture note Nº 18,
Department of Geodesy and Geomatics Engineering, University of New Brunswick,
Fredericton, NB, Canada, 1971.
SCHOFIELD, W.; BREACH, M. Engineering Surveying. 6th. ed. Elsevier Ltd. Burlington,
USA, 1972.
UOTILA, U.A. Introduction to adjustment computations with matrices. The Ohio State
University, Department of Geodetic Science, 1986.