Ajustamento de Observações

IFG - INSTITUTO FEDERAL FEDERAL DE EDUCAÇÃO, CIÊNCIAS CIÊNCIAS E TECNOLOGIA DE GOIÁS GOI ÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . . N I L T O N R I C E T T I X A A V I E R D E N A A Z A R E N O

SUMÁRIO 1.

Introdução 1.1.

2.

3.

4.

5.

Definição

Conceito de Observação

1 3 4

2.1.

Modelo Matemático

5

2.2.

Propriedade dos Erros de Observação

5

2.3.

O conceito de precisão e exatidão

8

Propagação Propagaç ão das Covariâncias Covariânc ias

13

3.1.

Variável aleatória.

13

3.2.

Matriz variância-covariância variância-co variância (M.V.C.)

13

3.3.

Matriz de correlação

14

3.4.

Lei de Propagação das Covariâncias

16

Sistema de Equações Lineares e o Método dos Mínimos Quadrados

27

4.1.

Resolução de Sistema de Equações Lineares

27

4.2.

O Método dos Mínimos Quadrados

28

4.3.

Condicionamento Condiciona mento de Sistemas

30

Ajustamento Ajustamen to de Observações 5.1.

Ajustamento Ajustamento de observações diretas

5.1.1. Estimativa pontual: média. 5.1.2. Estimativa Estimati va da precisão: precisão : Desvio Padrão. 5.1.3. Estimativa Estimati va por intervalo 5.1.3.1. Intervalo Interval o de confiança confian ça para a média 5.1.3.2. Intervalo Interval o de confiança confian ça para a variância 5.2.

Ajustamento Ajustamento de observações indiretas

5.2.1. Método Paramétrico 5.2.1.1. Qualidade do ajustamento. 5.2.1.2. Matriz variância covariância covariân cia dos parâmetros, das observações e dos resíduos 5.2.1.3. Sequência prática de cálculo 5.3.

Ajustamento Ajustamento de observações diretas condiciona condicionadas das

5.3.1. 5.4.

Método dos Correlatos

Método Combinado

33 34

34 34 36 37 38 47

49 50 53 54 62

62 68

Referências Bibliobráficas

78

Apêndice A

79

IFG - INSTITUTO FEDERAL FEDERAL DE EDUCAÇÃO, CIÊNCIAS CIÊNCIAS E TECNOLOGIA DE GOIÁS GOI ÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . . N I L T O N R I C E T T I X A A V I E R D E N A A Z A R E N O

SUMÁRIO 1.

Introdução 1.1.

2.

3.

4.

5.

Definição

Conceito de Observação

1 3 4

2.1.

Modelo Matemático

5

2.2.

Propriedade dos Erros de Observação

5

2.3.

O conceito de precisão e exatidão

8

Propagação Propagaç ão das Covariâncias Covariânc ias

13

3.1.

Variável aleatória.

13

3.2.

Matriz variância-covariância variância-co variância (M.V.C.)

13

3.3.

Matriz de correlação

14

3.4.

Lei de Propagação das Covariâncias

16

Sistema de Equações Lineares e o Método dos Mínimos Quadrados

27

4.1.

Resolução de Sistema de Equações Lineares

27

4.2.

O Método dos Mínimos Quadrados

28

4.3.

Condicionamento Condiciona mento de Sistemas

30

Ajustamento Ajustamen to de Observações 5.1.

Ajustamento Ajustamento de observações diretas

5.1.1. Estimativa pontual: média. 5.1.2. Estimativa Estimati va da precisão: precisão : Desvio Padrão. 5.1.3. Estimativa Estimati va por intervalo 5.1.3.1. Intervalo Interval o de confiança confian ça para a média 5.1.3.2. Intervalo Interval o de confiança confian ça para a variância 5.2.

Ajustamento Ajustamento de observações indiretas

5.2.1. Método Paramétrico 5.2.1.1. Qualidade do ajustamento. 5.2.1.2. Matriz variância covariância covariân cia dos parâmetros, das observações e dos resíduos 5.2.1.3. Sequência prática de cálculo 5.3.

Ajustamento Ajustamento de observações diretas condiciona condicionadas das

5.3.1. 5.4.

Método dos Correlatos

Método Combinado

33 34

34 34 36 37 38 47

49 50 53 54 62

62 68

Referências Bibliobráficas

78

Apêndice A

79

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS CIÊNCIAS E TECNOLOGIA DE GOIÁS GOI ÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . . N I L T O N R I C E T T I X A A V I E R D E N A A Z A R E N O

1. INTRODUÇÃO Ao serem feitas medidas, pela própria condição da imperfeição dos homens e dos instrumentos, estas estão impregnadas dos erros de observação. Tanto é assim, que normalmente se procedem a mais de uma medida para se ter garantias sobre o valor encontrado. Se as medidas forem de uma única grandeza como, por exemplo, distâncias ou ângulos, a média é uma boa solução. Contudo, quando estão envolvidas ao mesmo tempo grandezas de naturezas diferentes e que se relacionam através de uma função matemática, a solução não é tão imediata. Outro fato importante reside na premissa de que somente o valor da grandeza não é suficiente, do ponto de vista técnico-científico. técnico-científico. É preciso saber qual o grau de confiança no valor obtido. Isto é proporcionado pela estimativa de precisão da medida que é numericamente igual ao desvio-padrão. Como exemplo, vamos imaginar que se pretenda determinar as coordenadas de um ponto P a partir de uma estação E (com coordenadas conhecidas), da distância entre a estação e o ponto, e do azimute da direção estação-ponto. Este é um problema clássico da topografia cuja solução é a seguinte: N P

XP = = XE + + d E-P senA senAE-P

AE-P

B

dE-P

B

B

B

B

B

B

B

YP = = YE + + d E-P cosAE-P B

B

B

B

B

B

B

E

onde :

(XP,Y ,YP)

- coordenadas coordenadas do ponto (incógnitas);

(XE,Y ,YE)

- coordenadas coordenadas da estação;

d E-P

- distância entre a estação e o ponto;

AE-P

- azimute da direção estação – ponto.

B

B

B

B

B

B

B

B

B

B

B

B

Observa-se que para resolver o sistema são necessárias duas observações: a distância e o Azimute. No caso, a solução solução é única. 1

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Agora imaginemos o mesmo problema só que introduzindo mais uma estação E2. Este também é um problema clássico. A solução é dada por:

N

N

XP = XE1 + d E1-P senAE1- P

P

B

AE1-P

B

B

B

B

B

B

B

YP = YE1 + d E1-P cosAE1- P

dE2-P

B

B

B

B

B

B

B

dE1-P

XP = XE2 + d E2-P senAE2- P B

E1

E2

B

B

B

B

B

B

B

YP = YE2 + d E2-P cosAE2- P B

B

B

B

B

B

B

AE2-P

onde :

(XP,YP) B

B

B

- coordenadas do ponto (incógnitas);

B

(XE1,YE1)

- coordenadas da estação 1;

d E1-P

- distância entre a estação 1 e o ponto;

B

B

B

B

B

B

AE1- P B

- azimute da direção estação 1 – ponto.

B

(XE2,YE2)

- coordenadas da estação 2;

d E2-P

- distância entre a estação 2 e o ponto;

B

B

B

B

AE2- P B

B

B

B

- azimute da direção estação 2 – ponto.

Observa-se agora que existem duas maneiras de se obter as coordenadas do ponto P. Uma através da estação 1 e outra da estação 2. Se as medidas fossem isentas de erros, qualquer uma das soluções levaria ao mesmo resultado, contudo isso não ocorre e a solução que parece obvia é adotar a média como resposta ao problema. Imaginemos ainda que de cada uma das estações mediu-se com equipamentos com precisões diferentes e com operadores diferentes. Qual das soluções é a mais correta? É neste tipo de problema que as técnicas de ajustamentos são importantes porque permitem que se equacionem todas as nuances do problema.

2

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O

1.1. Definição “O ajustamento é o ramo da matemática aplicada que tem por objetivo a solução única para problemas onde o número de observações (ou medidas) é redundante e o sistema de equações inconsistente, bem como a precisão da solução adotada” Camargo (2000). A redundância é representada pelo número de medidas a mais do que as necessárias para se obter a solução e, a inconsistência, pelas diferentes soluções que se obtêm quando o número de observações excede o de incógnitas. A figura a seguir mostra um problema passível de ajustamento. Trata-se de uma rede de nivelamento onde Lb1, Lb2 ... Lb12 são os desníveis medidos nas linhas de nivelamento independentes. Para se determinar o desnível entre o ponto P e a RN existem várias possibilidades, como por exemplo: Lb1

RN

h = Lb1 + Lb8 h = Lb2 + Lb5 + Lb7 + Lb11

Lb2 Lb4

Lb5 Lb3 Lb6

h = Lb3 + Lb10 +Lb12

Lb8

h = Lb1 + Lb4 + Lb7 + Lb11

Lb7

Lb9

h = Lb3 + Lb6 + Lb5 + Lb7 + Lb11

Lb11 P

Lb10

h = Lb3 + Lb10 + Lb9 + Lb11 …..

Lb12

Estas são algumas das possibilidades de solução. Todavia a probabilidade de cada uma delas gerar uma resposta diferente é muito grande. O processo de ajustamento neste caso vai possibilitar que independentemente da solução adotada a resposta será única. É possível ainda, com base nas técnicas do ajustamento, detectar a presença de erros grosseiros em um conjunto de observações, efetuar o planejamento da coleta de dados e saber, a priori, se atenderão as prescrições estabelecidas. 3


2. CONCEITO DE OBSERVAÇÃO Segundo Camargo (2000) o termo observação ou medida é frequentemente usado na prática para referir-se à operação, bem como para o resultado da operação. O valor numérico da observação é de fundamental importância para a ciência e engenharia, pois submete o instrumento à análise e manipulação. Ainda em Camargo (2000), são listadas as propriedades fundamentais da medida: 

Medir significa realizar uma operação física, e o processo de medida consiste de várias operações elementares; tais como: preparação, calibração, pontaria, leitura e etc.;



O resultado do processo representa a medida;



A não ser na contagem de certos eventos, a medida é sempre realizada com auxílio de instrumentos;



As medidas estão referenciadas a um padrão, os quais são estabelecidos por convenção. Medir é comparar uma grandeza a um padrão, tendo dimensão e unidade;



A medida é um conceito teórico, tal como uma abstração geométrica usada para distância e ângulo, os quais não têm equivalente direto na natureza física. No entanto, tais conceitos permitem descrever certos elementos da natureza, como localização, área e etc. Para descrever certos elementos da natureza é necessário utilizar modelos,

como é o caso da forma da Terra, onde se utiliza a esfera ou o elipsóide de revolução. No caso do ajustamento, o modelo que interessa é o matemático que relaciona as medidas efetuadas com as grandezas procuradas. Este é o caso das equações que unem a distância e o azimute com as coordenadas do ponto.

4


2.1. Modelo Matemático Define-se modelo matemático ao sistema teórico ou abstrato que descreve uma situação física ou uma série de eventos. Tal descrição não necessita explicar totalmente a situação física, mas relacionar somente os aspectos, ou propriedades de interesse. Tendo em vista que o modelo tem o propósito de atender um interesse particular, dependendo do propósito, ele pode assumir formas diferentes. Costuma-se dividir o modelo matemático em funcional e estocástico. O modelo funcional constitui a parte determinística da realidade física e o estocástico descreve as propriedades estatísticas das observações. Um exemplo de modelo funcional, já explorado no início desta apostila, é o da determinação das coordenadas de um ponto a partir da distância e do azimute da direção entre esse ponto e outro de coordenadas conhecidas. Esse modelo funcional é do tipo geométrico, como a maioria dos modelos adotados na área de geomática. O modelo estocástico aborda a variabilidade dos resultados oriundos de influências físicas que não podem ser controladas, da falibilidade humana e das imperfeições dos instrumentos de medida. De qualquer modo, ambos os modelos devem ser tratados no ajustamento de forma conjunta.

2.2. Propriedade dos Erros de Observação As observações são representações numéricas de quantidades físicas como comprimento, ângulo, peso, entre outras. Estas observações são obtidas através de medidas e, portanto possuem o que classicamente se chamava de erros de observação. Embora este conceito esteja sendo gradualmente substituído por propriedades estatísticas das observações, ainda é comum o uso convencional do conceito de erro. Sabe-se que, mesmo se cercando de precauções e cuidados especiais no momento da obtenção de uma medida, estas estão acompanhadas dos inevitáveis erros de observação. Este fato esta relacionado à falibilidade humana, à imperfeição dos equipamentos e as condições ambientais nas quais se processa a mensuração. 5

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Estes erros são classificados em: a) erros grosseiros – quando o valor medido extrapola a 3 vezes o valor do desvio padrão da medida. Esse erro é normalmente de fácil detecção e está associado à desatenção do operador ou mesmo do anotador; b) erros sistemáticos – quando o valor medido é acrescido ou diminuído de uma quantidade constante. Estes erros são de causas conhecidas e podem ser evitados ou minimizados por técnicas de observação ou por formulações matemáticas. É o caso do erro causado pela catenária de uma trena que pode ser posteriormente eliminado; c)

erros aleatório – quando existe uma flutuação do valor medido ao redor de um valor dito médio. Este erro também conhecido como acidentais, estocástico ou randômico não tem causa conhecido e está intimamente ligado as propriedades estatísticas das observações. Para se proceder ao ajustamento é necessário que não existam os erros

grosseiros e os sistemáticos nas observações. No entanto, os aleatórios são modelados pelo processo de ajustamento e distribuídos pelo critério desenvolvido separadamente por Gauss em 1795 e Legendre em 1805, denominado método dos mínimos quadrados (M.M.Q.). Segundo Gemael (1994), a experiência tem demonstrado que ao aumentar o número de observações de uma mesma grandeza, os erros aleatórios tendem a ter um comportamento regular, de modo que a distribuição de frequência dos erros se aproxima muito da distribuição normal (curva de Gauss). Este fato foi notado por Bradley no início do século XVII, quando visando obter a posição do ponto vernal através de 462 determinações da ascenção reta do Sol, verificou que ao retirar as influências sistemáticas conhecidas na época e calcular os desvios em relação à média aritmética existia uma grande simetria e o predomínio de valores ao redor da média.

6

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Tabela 1 -Experiência de Bradley INTERVALOS

Frequência (fi)

f 2i P

BP

B

f ivi B

B

B

B

f iv2i B

B

P

BP

B

Fi

0,9”

1,0´

3

9

2,85

2,7075

2,3

0,8

0,9

5

25

4,25

3,6125

4,1

0,7

0,8

7

49

5,25

3,9375

7,1

0,6

0,7

13

169

8,45

5,4925

11,4

0,5

0,6

18

324

9,9

5,4450

17,0

0,4

0,5

25

625

11,25

5,0625

24,9

0,3

0,4

29

841

10,15

3,5525

31,7

0,2

0,3

39

1521

9,75

2,4375

38,7

0,1

0,2

44

1936

6,60

0,9900

44,3

0,0

0,1

47

2209

2,35

0,1175

47,4

0,0

-0,1

47

2209

-2,35

0,1175

47,4

-0,1

-0,2

44

1936

-6,60

0,9900

44,3

-0,2

-0,3

39

1521

-9,75

2,4375

38,7

-0,3

-0,4

29

841

-10,15

3,5525

31,7

-0,4

-0,5

26

676

-11,70

5,2650

24,9

-0,5

-0,6

18

324

-9,90

5,4450

17,0

-0,6

-0,7

13

169

-8,45

5,4925

11,4

-0,7

-0,8

7

49

-5,25

3,9375

7,1

-0,8

-0,9

5

25

-4,25

3,6125

4,1

-0,9

-1,0

4

16

-3,80

3,6100

2,3

462

15474

-1,40

67,8150

Onde f i é a frequência real e Fi a teórica. Ao se observar a Tabela 1, que reproduz os dados de Bradley, nota-se a partir da coluna das frequências que existem 230 desvios positivos e 232 desvios negativos. Esses desvios foram determinados pela diferença entre o valor medido e a média aritmética desses valores. A simetria e o predomínio de valores ao redor da média dos desvios (zero) sugerem claramente a distribuição normal, visualizada no histograma e no polígono de frequência a seguir. Ao se comparar a frequência real com a teórica (Fi) verifica-se uma impressionante concordância de valores.

7


Existem outros exemplos práticos que demonstram esta tendência. A partir desta constatação pode-se afirmar que quando o número de observações cresce:   

Os resíduos de mesmo módulo e sinais opostos são equiprováveis; Os resíduos menores ocorrem com menor frequência; A média dos resíduos é praticamente nula. O predomínio de resíduos com um sinal deve servir de alerta para a existência

de algum erro sistemático.

2.3. O conceito de precisão e exatidão O termo acurácia é utilizado na área de geomática para indicar a qualidade de uma grandeza observada ou de um parâmetro estimado. No entando, o termo precisão também é usado com o mesmo emprego. Isto demonstra haver uma confusão quanto ao significado destes dois vocábulos. Inicialmente é preciso esclarecer que essas palavras têm origem na língua inglesa, accuracy e precision, que foram traduzidas respectivamente por acuracidade (exatidão) e precisão. A relação desses dois conceitos está intimamente ligada aos erros sistemáticos e aos aleatórios. Em Monico (2009), onde se discute essa temática, é citada a seguinte definição proposta por Mikhail e Ackermann (1976, p. 64):

8

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Acurácia é o grau de proximidade de uma estimativa com seu parâmetro (ou valor verdadeiro), enquanto precisão expressa o grau de consistência da grandeza medida com sua média. A acurácia reflete a proximidade de uma grandeza estatística ao valor do parâmetro para o qual ela foi estimada e que precisão está diretamente ligada com a dispersão da distribuição das observações.

Analisando essa definição percebe-se que a precisão está ligada apenas aos efeitos aleatórios da medida (erro aleatório) enquanto que acurácia envolve erros sistemáticos (tendência) associados aos erros aleatórios. Os mesmos autores citados por Monico (2009) apresentam uma medida de acurácia proposta por Gauss denominada Erro Médio Quadrático ( EMQ) ou em inglês “mean square error” (MSE ) dada por:

       ̂ ̂    −     ≅   =

onde:

 ̂ σ ε 

{( )}

b



= {(

{( )} )} =

+( )

Esperança matemática ou valor esperado para a variável p

1

representa a dispersão das medidas (variância ou incerteza) representa a tendência ou vício do estimador quadrado dos erros verdadeiros número de elementos da amostra ou de observações

Essa expressão, para amostras grandes, é praticamente igual à média quadrática dos erros verdadeiros ( ε). Por definição o erro verdadeiro ε é a diferença entre um valor observado (ou medido) e o tomado como referência (conhecido). Para se entender a idéia imagine dois atiradores

a

e

b

e um alvo onde os dois

atiraram. Observa-se que o atirador a tem os tiros mais concentrados enquanto o atirador

Esperança matemática E{ } ou valor esperado é a média ponderada dos valores que a variável aleatória ou função assume, usando-se, como pesos para ponderação, as probabilidades correspondentes a cada valor. 1

9

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O b tem os

tiros mais dispersos. No entanto o centro da concentração dos tiros de b está mais

próximo do centro do alvo do que a do atirador a. Pode-se então afirmar que: 

o atirador a tem uma precisão maior que o

b.

a b 

existe um erro sistemático maior conduzindo os tiros mais precisos de a.



a acurácia ou exatidão dependerá da dispersão (precisão) e do erro sistemático.

Mikhail e Ackermann (1976) apud Monico (2009) fazem a análise do problema através

dos histogramas que representam três conjuntos de medidas (p 1, p2 e p3) de uma mesma grandeza. Frequência f(p)

b tendência

(1) (3)

(2)

E{ (^p )} 3

p = E{ (^p1)} =

E{^p( )}

Grandeza

2

̂ ̂

Observando os histogramas pecebe-se que as esperanças E{( )} e E{( )} coincidem com o valor de referência p (“correto”). A diferença reside na dispersão que é maior em p2. Assim pode-se afirmar que p 1 e p2, embora não apresentem erro sistemático (tendência), não são igualmente acurados uma vez que possuem precisões distintas, ou 10


̂

seja, p1 é mais acurado que p2. Por outro lado, a esperança E{( )} apresenta um erro sistemático ou tendência, representado pelo valor “ b”, o que implica em se afirmar que p 3 não possui acurácia. Analisando só o aspecto da precisão, deixando de lado as questões de tendência, pode-se afirmar pela ordem que p 1 é a mais precisa que p 3 que por sua vez é mais precisa que p2. Para a área das mensurações, como dito anteriormente, a acurácia representa a qualidade da observação ou, a confiança que se tem no resultado obtido a partir de um número de medidas. Se o valor de referência da medida for conhecido, é possível se estimar a tendência e eliminar os possíveis efeitos sistemáticos nas medidas. Porém, quando isso não acontece, utiliza-se a própria precisão como um indicador da acurácia. A adoção da precisão como acurácia não implica em dizer que a tendência não exista, mas que apenas não se conhece o seu valor. Esse é o caso da maioria dos processos de medida e assim, para evitar a presença dos erros sistemáticos, é necessário que se utilizem equipamentos aferidos e métodos consagrados de observação. Este procedimento não garante a total ausência de tendência, mas, com certeza, é um método seguro de minimizála. Finalmente podem-se extrair as seguintes afirmações de Monico (2009): 

Dois valores médios iguais podem ter precisões diferentes;



Não faz sentido dizer que um valor acurado é preciso ou não, pois a precisão faz parte da própria definição de acurácia;



Dada a precisão de uma grandeza, o valor de sua acurácia é no mínimo igual a ela;



Conhecido o valor da tendência, a acurácia é, no mínimo, igual a ela.

11

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Exemplo 1 - Suponha que você quer testar a capacidade profissional de três topógrafos. Para tanto você mediu uma distância com uma estação total que será, para efeito de cálculo, considerada “correta”. Os três topógrafos fizeram a mesma medida com trena. Baseado nos valores obtidos por eles, qual é o mais acurado?

Topógrafo

Distância

Precisão

1

99,90 m

± 2 cm

2

100,01 m

± 3 cm

3

100,00 m

± 5 cm

Distância com estação = 100 m => valor de referência Partindo-se da equação proposta por Gauss => EMQ = m² =

σ



+ (b) e considerando que 100 m é o

valor de referência, podem-se obter os erros sistemáticos para as três medidas, ou seja: b1 = 99,90m – 100m = -0,10m;

b2 = 100,01m – 100m = 0,01m;

b3 =100m – 100m = 0m.

Aplicando a equação para o três casos: m²1 = (0,02 m)² + (-0,10 m)² = 0, 0104 m² m²2 = (0,03 m)² + (0,01 m)² = 0,0010 m² m²3 = (0,05 m)² + ( 0,0 m)² = 0,0025 m²

Extraindo-se a raiz quadrada dos três valores obtidos, tem-se a acurácia de cada topógrafo. m 1 = 0,102 m; m 2 = 0,032 m; m 3 = 0,050 m;

Observa-se que se não fosse conhecido o valor de referência, o topógrafo 1 seria o mais preciso, pois o desvio padrão de suas medidas é o menor. No entanto, nota-se que o topógrafo 2 apresenta a maior acurácia e, na sequência, o topógrafo 3, que é o de pior precisão. Como na maioria das vezes não se tem conhecimento de valores de referência, reforça-se assim a afirmativa de que se devem utilizar equipamentos aferidos e seguir as normas de levantamento indicadas.

12


3. PROPAGAÇÃO DAS COVARIÂNCIAS 3.1. Variável aleatória. Variável aleatória (v.a.) é uma função que associa a cada elemento de um espaço amostral um número real, ou aquela, cujo valor é o resultado numérico de um experimento aleatório. Considerando que cada medida resulta em um único valor, o conjunto destas medidas constitui uma v.a. Dependendo dos valores numéricos, a variável aleatória poderá ser discreta ou contínua. Ela é dita: discreta quando assume valores em pontos isolados ao longo de uma escala (número finito ou infinito enumerável de valores). Exemplo: os valores possíveis de se obter quando se joga um dado ou uma moeda. contínua quando assume qualquer valor ao longo de um intervalo (número infinito não enumerável de valores). Exemplo: conjunto de medidas de um mesmo ângulo dentro de uma série. Se o conjunto que constitui a v.a. é de mesma natureza, diz-se que ele é uma variável aleatória unidimensional. Entretanto, quando no conjunto têm-se grandezas de natureza diversa, diz-se que é uma v.a. multidimensional. Por exemplo, o conjunto constituído por uma série de medidas angulares é uma v.a. unidimensional, e o conjunto constituído por azimute e distância, é multidimensional.

3.2. Matriz variância-covariância (M.V.C.) A estimativa de precisão de uma v.a. é fornecida pelo desvio padrão dessa variável ( i). Quando se tem uma v.a. multidimensional, a precisão é representada pela B

B

matriz variância covariância ( ) que é formada pelas variâncias (  i2 ) dos i indivíduos ou elementos que compõe a v.a., e pelas covariâcias (  ij) desses mesmos elementos. A raiz quadrada das variâncias fornece a precisão e a covariância indica o grau de dependência ou relação entre dois elementos dessa v.a.

13

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Por exemplo, as variâncias  i2 e covariâncias  ij de um conjunto de n observações (Lb) podem ser dispostas de maneira a formar uma matriz quadrada ( nxn), representada por Lb, ou seja: B

B

 Lb

  12     21     n1

 12



 1n 

2 2



 2 n 

 



 n 2





   n2  

A matriz Lb, simétrica (  ij =  ji), recebe o nome de matriz variância-covariância B

B

(M.V.C.), ou simplesmente matriz covariância (M.C.). No caso das observações serem independentes entre si, as covariância serão nulas e Lb se degenera numa matriz diagonal. B

B

3.3. Matriz de correlação Na matriz variância-covariância, como dito anteriormente, a variância (  i2 ) fornece, através da extração da raiz quadrada, a precisão de cada v.a. e a covariância  ij) indica que existe dependência entre elas. A matriz dos coeficientes de correlação, derivada da matriz variânciacovariância, fornece o grau de dependência entre as diversas v.a.

 1  12   1 21          n1  n2

  1n 

     1 

onde :

 ij



 ij  i   j

  2 n  

– coeficiente de correlação entre a

v.a. i e a j ;

 BijB

– covariância entre a v.a. i e a j ;

 BiB ,  BjB

– desvio padrão das v.a. i e j .

Os valores dessa matriz variam entre -1 e 1, sendo que se: |  Bij B | = 1 – dependência é total |  Bij B | = 0 – independência é total Na diagonal principal o valor igual a 1, mostra que a correlação entre uma variável com ela mesma é de 100%, o que é uma constatação lógica. 14

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Exemplo 2 – Dada a matriz variância-covariância da v.a. A, calcule a matriz de correlação associada.

Σ



36 18 12 A= 18 9 0 m² 12 0 16

Extraindo-se a raiz quadrada dos elementos da diagonal principal têm-se as precisões dessas variáveis.

√

√

√

 a1 = 36 = 6 m;  a2 = 9 = 3 m;  a3 = 16 = 4 m.

Aplicando-se a equação da correlação:

      ×

18 = 1 = 100% 6×3

×

12 = = 0,5 = 50% 6×4

=

=

=

=

×

=





1 1 0,5 A= 1 1 0 0,5 0 1

0 =0=0% 3×4

A matriz de correlação mostra que o grau de dependência entre as v.a. a1 e seja, existe 100% de probabilidade de que um erro cometido na medida ou cálculo de

a2 é

de 100%, ou

a1 interfira

no cálculo

de a2. No caso de a1 com a3 essa dependência é de 50% e entre a2 e a3 é de 0% o que mostra a total independência entre essas duas últimas variáveis.

15


3.4. Lei de Propagação das Covariâncias Consideremos duas v.a. multidimensionais Y e X, ligadas por um modelo funcional linear: Y  m Gn n X 1  m C 1

m 1

onde :

G

– matriz dos coeficientes;

C

– matriz dos termos independentes.

A Lei de propagação das Covariâncias nos diz que se conhecermos a matriz variância-covariância da v.a. X (X) e o modelo funcional que a relaciona com a v.a. Y, a B

B

matriz variância-covariância dessa matriz ( Y) é calculada por: B

B

Y = G. X.GT Ou seja, é obtida pela simples multiplicação de matrizes. Quando o modelo funcional não é linear, a Lei de Propagação toma a seguinte forma:

Y = D. X.DT onde D é a derivada da função em relação aos valores medidos. Este conceito é muito importante porque através dele é possível se determinar qual a precisão das coordenadas de um ponto obtidas com um equipamento de onde se conhece a sua precisão.

16

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Exemplo 3 - Foram realizadas as medidas de 5 direções (d 1, d2, d3, d4 e d5) com um equipamento cuja precisão angular é de 5”. Pretende-se calcular os ângulos a1 , a 2 , a 3 e a4 entre essa direções conforme a figura a seguir. Ao se determinar o ângulo entre duas direções, qual será a precisão do resultado obtido?

A priori alguém poderia imaginar que a precisão seria os mesmos 5”. Outro acharia que seria o dobro. A propagação das covariâncias resolve o problema.

O primeiro passo é determinar o modelo funcional, ou seja, aquele que mostra a relação entre as direções e os ângulos:

a1 = d2 – d1

a1 = -1 d1 + 1 d2 + 0 d3 + 0 d4 + 0 d5

a2 = d3 – d1

a2 = -1 d1 + 0 d2 + 1 d3 + 0 d4 + 0 d5 ou

a3 = d4 – d3

a3 = 0 d1 + 0 d2 – 1 d3 + 1 d4 + 0 d5

a4 = d 5 – d 4

a4 = 0 d 1 + 0 d 2 + 0 d 3 – 1 d 4 + 1 d 5

Este modelo pode ser escrito na forma matricial e assume o seguinte formato:

 a1  1  a 2   1    a3  0    a4  0

 d 1 d 2 0    0  0 1 0 0    d 3    0 - 1 1 0    0   d 4   0 0 - 1 1    0  d 5 1

0

0 0

< = > A = G.D + C

O segundo passo reside em se determinar a matriz variânia-covariância das direções ( d). Sabendo-se que a determinação das direções é independente, pois o erro cometido em uma não afeta a outra, conclui-se 2

que a matriz em questão possui elementos apenas na diagonal principal e iguais a variância ( i

 25" 2 ), ou

seja :

17

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O 25 0   d   0  0  0

0 25 0 0 0

0

0

0

0

0

0

  2 25 0 0  "  0 25 0  0 0 25

Finalmente no terceiro passo procede-se à multiplicação.

 1  1  A    0   0

25 0 0 0 0   1  1 0 0  0 25 0 0 0   1 0 0 0     0 1 0 0     0 0 25 0 0    0 1  1 0 0 1 1 0       0 0 0 25 0   0 0 1  1 0 0  1 1  0 0 0 0 25  0 0 0 1 1

0

0 0

0 0 50 25 25 50  25  0 2   "  A   0  25 50  25   0  25 50  0

A partir desta matriz variância-covariância podem-se fazer algumas c onsiderações:    

 √

a precisão dos ângulos a1, a 2, a3 e a4 são iguais a BiB = 7,07” ( = 50); existe covariância entre as variáveis a1 com a 2, a 2 com a3 e a3 com a4 ; não existe covariância entre as variáveis a1 com a3, a1 com a4 e a 2 com a4 ; o fator de correlação entre a1 com a 2 , a 2 com a3 e a3 com a4 , a menos do sinal, é numericamente igual ao valor determinado pela equação de correlação.

 a1a 2



25 7,07  7.07

 0,5

ou 50%

Este fator de correlação indica que o grau de dependência é da ordem de 50% ou seja, que existe 50% de probabilidade de que um erro cometido no cálculo da variável

a1 interfira

caso das correlações entre a2 com a3 e a3 com a4, o valor é negativo, (

no cálculo da variável

= -50% e

a2a3

que existe 50% de chances de que um erro cometido no cálculo da variável

a2

a2.

No

= -50%) o que indica

a3a4

ou a3 interfira no cálculo da

variável a3 ou a4 respectivamente e, se isso ocorrer, afetará no sentido inverso.

18

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Exemplo 4 - Um observador com uma estação total mediu o azimute da direção 01 e a distância entre as estações 0 e 1 a partir do ponto 0 cujas coordenadas são (0, 0). Os valores obtidos foram respectivamente, A01 = 60º e d 01 = 2.000 m. Considere que ele utilizou um B

B

B

B

equipamento cuja precisão angular é de 5” e a linear de  5mm  5ppm. Quais são as coordenadas do ponto 1 ( x 1 ,y 1) e a respectiva precisão? B

B

B

B

Da mesma forma que no exemplo anterior, o primeiro passo é estabelecer qual o modelo matemático que faz a 1

d 01

ligação entre os valores medidos ( AB01B e d B01)B com os valores procurados ( x B1 ,y B B1). B

01

A fórmula é bastante conhecida da topografia:

x1  x0  d 01 senA01

0

y1

 y0  d 01 cos A01

Observa-se que esta fórmula é do tipo não linear e, portanto o modelo de propagação é o seguinte:

 xy  D   Ad  DT A matriz D é obtida derivando-se as equações de x B1B e y B1B em relação ao azimute AB01B e a distância d B01 ,B obtendo-se as seguintes expressões:

 x  d  cos A01  1.000 m  A 01

 x  senA01  0,866025 d

 y  d 01  senA01  - 1.732,05 m  A

 y  cos A01  0,500000 d

colocando-se estes valores na matriz D, vem :

 1.000,00m  1.732,05m

D  

0,866025



0,500000

19

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Definida a matriz D, o passo seguinte é montar a matriz variância-covariância das observações.

  A2  Ad    dA

 Ad   d 2

 

O valor da variância do Azimute é oriundo da precisão angular do equipamento.

 A2 = (5”)P2 P = 25”P2P Embora este valor esteja correto, é necessário passá-lo para radianos porque, ao se proceder a multiplicação entre as matrizes, se estará misturando metro com segundo de arco.

2 A

Então o valor de 

5"         3600 180º 

2

= 5,876107 x 10P-10P radianos.

A variância da distância também é originada da precisão do equipamento.

2 d



As correlações

5  2.000 m     0,005m   1.000.000  

 Ad B B =  BdAB = 0

2

= (0,015 m)P2P = 0,000225 m2P

porque não existe nenhuma dependência entre o azimute e a

distância, ou seja, um erro no azimute não afeta a distância e vice-versa. Finalmente a matriz variância –covariância das coordenas é obtida da seguinte multiplicação:

 1.000,00m  xy    1.732,05m

5,876107 1010  0,500000  0 0,866025

1000,00m  1.732,05m   0,000225m2   0,866025 0,500000  0

20


 0.00075636  xy   - 0.00092034

- 0.00092034

m 0.0018191 

2

Da matriz variância-covariância obtém-se as precisões das coordenadas x B1 eB y B1B . Então : x B1B = 0 + 2000×sen(60º) = 1.732,05 m e  x1  y B1B = 0 + 2000×cos(60º) = 1.000,00 m e

 y1 

0.00075636

0.0018191

ou seja, x B1B = 1.732,05 m

 0,0275 m

y1 = 1.000,00 m  0,0426 m

O grau de dependência entre as v.a. x B1B e y B1B é calculada pelo coeficiente de correlação

 x1 y 2



- 0.00092034 0,0275  0,0426

 0,7846

ou - 78,5%

Este valor mostra que existe uma forte correlação entre as duas variáveis e que um erro em uma delas afeta a outra em -78,5% e no sentido inverso.

O exemplo proposto acima teve apenas o propósito de demonstrar como se propagam as covariâncias, e por esta razão, no enunciado, o observador mediu diretamente o azimute. Na prática, isso não acontece, o que se faz é determinar o ângulo azimutal através da técnica das direções. Neste caso é necessário se fazer a propagação dos azimutes. No próximo exemplo este processo será abordado e ficará mais claro.

21

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Exemplo 5 - Executou-se uma poligonal eletrônica a partir de um vértice e do azimute de uma direção. Com os dados do levantamento calcule as coordenadas do ponto 3 e verifique qual a precisão dessas coordenadas considerando um equipamento cuja precisão angular é de 2” e a linear de 3mm + 10 ppm. N

A2

a2

A0 A1

1

Lb2

A3

a3

2 L

b

3

3

a

1

1 L b

0 Obs.: AB0B = 45º

dados:

 

40º

20’

10”

Lb1 =

6.000 m

 

209º

47’

59”

Lb2 =

3.000 m

 

202º

00’

17”

Lb3 =

1.500 m

1º Passo – Modelo funcional

x3  x0

  x01   x12   x23 (1) y3  y0   y01   y12   y23

onde:

 xi  Lbi  senAi (2)  yi  Lbi  cos Ai Na equação observa-se que apenas o valor observado LbBiB aparece. Isto ocorre porque na prática não se lê o azimute diretamente, e sim a direção. Então é necessário se estabelecer a equação que envolve os ângulos medidos BiB com os azimutes.

22

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Da figura se extrai as seguintes equações: AB1B = AB0B + B1

= 85º 20’10”

B

AB2B = AB0B + B1B + B2B –180º

= 115º 08’ 09”

AB3B = AB0B + B1B + B2B + B3B – 360º

= 137º 08’ 26”

(3)

que genericamente pode ser escrita como : n

Ai

 A0   i  (n  1)  180º i 1

Escrevendo as equações acima sob a forma matricial vem:

 A1  1 0 0  1   A0   A   1 1 0      A  180º   A  G    C  2    2  0   A3  1 1 1  3   A0  360º  analisando a equação, conclui-se que ela é do tipo linear e a propagação utiliza a fórmula

A = GGPT

Assim

1 0 0 4"2 0 0  1 1 1  4 4 4     A  1 1 0   0 4"2 0   0 1 1   4 8 8 "2 1 1 1  0 0 4"2  0 0 1  4 8 12 Os valores desta matriz estão em “P2P . Para não se ter problemas com unidades, estes devem ser convertidos em radianos. Existe um modo prático quando os valores estão em “P2P que é multiplicar por senP2P( 1”). Então:

9,402  A  9,402 9,402

9,402

9,402 

 10 11 radianos  28,205

18,804 18,804 18,804

23

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS CIÊNCIAS E TECNOLOGIA DE GOIÁS GOI ÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . . N I L T O N R I C E T T I X A A V I E R D E N A A Z A R E N O Calculada a propagação para o azimute passa-se à propagação para as coordenadas. Substituindo as equações (2) em (1).

 x0  Lb1 senA1  Lb2 senA2  Lb3 senA3 y3  y0  Lb1 cos A1  Lb2 cos A2  Lb3 cos A3

x3

Estas equações, por causa das funções trigonométricas são do tipo não linear e, portanto, utilizam outra forma de propagação.

= D Lb DPT  xy = A matriz D é obtida derivando-se as equações de x B3B e y B3B em relação aos azimutes ABi eB as distancia l ,Bi iB obtendo-se as seguintes expressões:

 x cos A1  Lb1  cos A  A1

=

487,862 m


=

-1.274,297 m


=

 y   Lb1  senA1  A1

=

 x  senA1  Lb1

=

0,99668883

 senA2

=

0,90530332

-1.099,537 m

 x  senA3  Lb3

=

0,68020218

-5.980,133 m

 y  cos A cos A1  Lb1

=

0,08131035

=

-0,42476569

=

-0,73302455

 y   Lb2  senA2  A2

=

-2.715,910 m

 y   Lb3  senA3  A3

=

-1.020,303 m

 x  Lb2

 y cos A2  cos A  Lb2  y cos A3  cos A  Lb3

24

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS CIÊNCIAS E TECNOLOGIA DE GOIÁS GOI ÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . . N I L T O N R I C E T T I X A A V I E R D E N A A Z A R E N O Substituindo os valores na matriz m atriz D

  x  A D   1   y  A1

 x  x

 x

 x  A2 A3 Lb1 Lb2 Lb3    y  y  y  y  y  A2 A3 Lb1 Lb2 Lb3 

 487,862m 1.274,297m 1.099,537m  5.980,133m  2.715,910m  1.020,303m

D  

 x

0,99668883 0,08131035

0,90530332

0,68020218

 0,42476569  0,73302455

Finalmente monta-se a matriz m atriz variância-covariância variância-covariância das observações.

  A21    A 2 A1    Al   A3 A1  Lb1 A1  Lb 2 A1   Lb 3 A1

 A1 A 2

 A1 A3

 A1 Lb1

 A1 Lb 2

 A2 2

 A 2 A 3

 A 2 Lb1

 A 2 Lb 2

 A 3 Lb1

 A3 Lb 2

2 A 3

 A3 A 2



 Lb1 A 2

 lLb1 A3

2  Lb 1

 Lb1 Lb 2

 Lb 2 A 2

 Lb 2 A 3

 Lb 2 Lb1

2  Lb 2

 Lb 3 A 2

 Lb3 A 3

 Lb 3 Lb1

 Lb 3 Lb 2

   A 2 Lb 3   A 3 Lb 3    Lb1 Lb 3   Lb 2 Lb 3   2  Lb 3   A1 Lb 3

Os valores da matriz variância-covariância dos azimutes já foram determinados na propagação dos ângulos para os azimutes e basta substituir na matriz  Al. Contudo falta ainda calcular as variância das distâncias. Como as distâncias não são correlacionadas entre si e nem com os azimutes, as covariâncias que relacionam estas variáveis são nulas. Então:

 Lb1

 0,003m 

 Lb 2

 0,003m 

 Lb 3

 0,003m 

10  6.000m 1.000.000 10  3.000 m 1 .000.000 10  1.500 m 1.000.000

 0,063m   Lb2 1  0,003969 m 2  0,033m   Lb2 2  0,001089 m 2  0,018m   Lb2 3  0,000324 m 2

Substituindo-se pelos valores numéricos:

9,402  10 11 9,402  10 11 9,402  10 11 0 0 0  11 11 11 18,804  10 18,804  10 0 0 0 9,402 10    11 11 11 9,402 10 18,804  10 28,205  10 0 0 0  Al   2 0 0 0 0,003969 m 0 0  2  0 0 0 0 0,001089 m 0  0 0 0 0 0 0,000324 m 2 

        

25

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS CIÊNCIAS E TECNOLOGIA DE GOIÁS GOI ÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . . N I L T O N R I C E T T I X A A V I E R D E N A A Z A R E N O Finalmente basta proceder à multiplicação para obter a matriz variância-covariância variância-covariância das coordenadas x B3 ,y 3. B B3.

0,0059631 0,0024035 2  x 3 y 3   m 0,0024035 0,010683  A partir da matriz variância-covariância variância-covariância extraem-se as precisões das coordenadas do ponto 3. xB3B = 9.716,346 m  0,0772 m yB3B = -1.885,972 m  0,1034 m O grau de dependência entre as v.a. v. a. x B3 Be y B3B é calculada pelo coeficiente co eficiente de correlação  x 3 y 3 

0,0024035 0,0772 0,1034

 0,3011  30,1%

Este valor mostra que existe uma baixa correlação entre as duas variáveis e que um erro em uma delas tem 30,1% de probabilidade de afetar a outra. Os exemplos 4 e 5 demonstram que a priori não se pode prever qual o grau de correlação entre duas variáveis variáveis antes de se efetuar efetuar a propagação.

No exemplo exemplo anterior, o grau de correlação correlação é de -78,5% -78,5%

enquanto neste, atinge 30,1 %. Neste exemplo calculou-se o valor da precisão do terceiro ponto diretamente. Para se saber qual o valor do ponto 1 e 2 basta eliminar alguns elementos das matrizes D e  Al. Procedendo-se desta forma encontram-se os seguintes valores. xB1B = 5.980,133 m  0,0630 m yB1 =B

487,862 m  0,0582 m  xB1ByB1B = 1,3 %

xB2B = 8.696,043 m  0,0710 m yB2B = -786,435 m  0,0896 m  xB2ByB2B = 13,7 %

26


4. SISTEMA DE EQUAÇÕES LINEARES E O MÉTODO DOS MÍNIMOS QUADRADOS 4.1. Resolução de Sistema de Equações Lineares Dada uma equação do tipo ax = L onde: x é um valor incógnito, L é um valor conhecido e “ a” é uma constante qualquer. Então a solução é: x 

L a

No entanto, quando se tem um conjunto de equações formando um sistema, a solução não é tão direta. Vamos imaginar um sistema de equações a1 x1 + a2 x2 + a3 x3 = L1 B

B

B

B

B

B

B

B

B

B

B

B

a4 x1 + a5 x2 + a6 x3 = L2 B

B

B

B

B

B

B

B

B

B

B

B

a7 x1 + a8 x2 + a9 x3 = L3 B

B

B

B

B

B

B

B

B

B

B

B

B

B

B

Escrevendo este sistema na forma matricial nAuuX1 = nL1

onde :

A

-

matriz formada pelos coeficiente ai

X

-

vetor formado pelos valores incógnitos x i

L

-

vetor formado pelos termos conhecidos Li

n

-

número de linhas (3)

u

-

número de colunas (3)

B

B

B

B

B

27

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O No caso de matrizes as operações possíveis são a soma, a subtração e a multiplicação, não existindo a divisão. Deste modo a solução é dada por: X 1  u Au1u L1

n

onde: A-1 é a matriz inversa de A. P

P

4.2. O Método dos Mínimos Quadrados Quando um sistema de equações possui o número de equações iguais ao de incógnitas a solução é única. No entanto, quando existem mais equações que as necessárias, deve-se agrupa-las de forma que se tenham vários sistemas formados pelas combinações lineares destas equações. Na teoria, independentemente do conjunto que se escolha, tem-se sempre a mesma solução. Entretanto, quando se trabalha com dados reais, pela própria característica estocástica das observações, via de regra, se faz mais medidas que as necessárias. Cada observação (Lb) resulta em uma equação e como, toda medida vem acompanhada de erros aleatórios, o sistema de equações resultante é inconsistente. É necessário então se proceder a uma homogeneização do sistema de modo que independente do conjunto de equações que se escolha tenha-se sempre a mesma solução. Esta homogeneização é alcançada adicionando uma correção, também conhecida como resíduo, a cada observação de modo a tornar o sistema consistente. a1 x1 + a2 x2 = Lb1 + v1 B

B

B

B

B

B

B

B

B

B

a3 x1 + a4 x2 = Lb2 + v2 B

B

B

B

B

B

B

B

B

B

B

B

a5 x1 + a6 x2 = Lb3 + v3 B

B

B

B

B

B

B

B

B

B

B

ou no formato matricial 

A X  Lb  V

28

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Dependendo do critério que se escolha para definir os valores desses resíduos, 

têm-se soluções diferentes para a incógnita X , que agora é um valor estimado. Entretanto, o critério aceito é o do Método dos Mínimos Quadrados (M.M.Q.), proposto por Gauss em 1795 e Legendre em 1805 que estudaram o problema de forma independente e sem que um, conhecesse o estudo do outro. O M.M.Q. diz que a soma do quadrado dos resíduos tem que ser mínima, e pode ser expresso matematicamente: n

v

2 i

 min

i 1

Na forma matricial: VTV = min P

P

Para o caso de observações com graus diferentes de confiança introduz-se o critério de peso, e as equações passam a ser escritas: n

 p v

2 i i

 min ou

VTPV = min P

P

i 1

Isolando o vetor dos resíduos na equação matricial, vem: 

V  A X  Lb

Substituindo no critério de M.M.Q.





  A X  Lb



   A X  Lb  min T





<=> 





  X T AT  Lb T  A X  Lb

  X T AT A X  Lb T A X  X T AT Lb  Lb T Lb

 min

 min

29

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Para se determinar o mínimo da função deriva-se esta em relação às incógnitas e iguala a zero:    2 AT A X  AT Lb  AT Lb  0  X 

2 AT A X  2 AT Lb

0

Finalmente 



X  AT A

  A Lb  1

T

Se derivarmos novamente

 2 2 AT A  0   X 2 o resultado é maior que zero indicando que a função resultante da 1ª derivada representa um ponto de mínimo. Considerando observações com graus diferentes de confiança a equação assume o seguinte aspecto: 

1

X   AT PA  AT PLb 

Esta equação representa a solução dos mínimos quadrados.

4.3. Condicionamento de Sistemas Um sistema é dito mal condicionado quando, pequena variação nos valores dos coeficientes ou dos termos independentes significa uma grande variação na solução. Este fato ficará compreendido com o exemplo a seguir:

30

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Dado o sistema de equações

1 1   x1   10  1  2   x    5    2   cuja solução é

x 1 = 5 e x 2 = 5 B

B

B

B

Se introduzirmos uma pequena variação no termo independente, por exemplo,

1 1  x1  10,01 1  2   x     5     2   o resultado passa a ser x 1 = 5,007 e x 2 = 5,003. B

B

B

B

Observa-se que esta pequena variação introduziu uma pequena variação na resposta do problema. Este é o exemplo de um sistema bem condicionado. Agora repetindo a experiência com outro sistema

 1 1,001 

 x1   10       1  x2  10,005 1

cuja solução é x 1 = 5 e x 2 = 5 B

B

B

B

Efetuando uma pequena alteração no termo independente, vem

 1 1,001 

 x1   10       1  x2  10,1 1

o resultado passa a ser x 1 = 100 e x 2 = -90. B

B

B

B

Nota-se agora que uma variação não muito significativa resultou numa solução completamente diferente. Quando isso acontece, diz-se que o sistema é mal condicionado.

31

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Este tipo de problema é importante porque os sistemas de equações utilizados na área da geomática são formados por valores observados e sabe-se que os erros de observação acompanham estes números. Embora não seja um critério conclusivo, quando o determinante da matriz dos coeficientes resulta em um número pequeno e em contra posição a matriz inversa é composta por elementos grandes, geralmente este é um indicador de mal condicionamento. Nos exemplos acima se verifica que no primeiro caso o determinante é igual a A

 3 e sua inversa vale :

A1

1  2  1     3  1 1 

e no segundo caso

A

  0,001

e

A 1

 1000 1001     1000  1000

32


5. AJUSTAMENTO DE OBSERVAÇÕES

As observações são classificadas em diretas, indiretas e diretas condicionadas. As diretas são aquelas onde se utiliza um medidor de mesma natureza que a grandeza procurada. Por exemplo, quando se emprega uma trena para medir uma distância ou um teodolito para um ângulo. Ao contrário, são classificadas como indiretas quando se mede uma grandeza que se relaciona funcionalmente ou fisicamente com o valor procurado. É o caso de se determinar uma distância por estadimetria, onde se lê os fios, superior e inferior, da estádia e se obtém a distância entre o aparelho e ela. Finalmente é classificada como direta condicionada quando além de ser direta, existir uma condição funcional. É o caso da medida dos ângulos de um triângulo. Se forem medidos apenas dois, a medida é direta, no entanto se o terceiro ângulo for medido, passa a existir a condição de que o somatório tem que ser 180 º. Em qualquer das situações, quando os valores não forem do mesmo grau de confiança, emprega-se o critério de pesos diferentes. Cada um destes casos utiliza um processo de ajustamento é específico.

33


5.1. Ajustamento de observações diretas 5.1.1. Estimativa pontual: média. Quando se mede várias vezes a mesma grandeza, o melhor estimador para ela é a média aritmética ou a ponderada dependendo da amostra. Pode-se demonstrar que este critério atende o dos mínimos quadrados, no entanto isso não será feito aqui. A equação para a média é a seguinte:

 x 

Lbi i1

onde:

n

x

- média aritmética

~ x

- média ponderada

 p Lb  p n

n

ou

~ x

i 1 i n i1

i

i

Lbi - valores observados B

pi

n

B

- pesos das observações - número de elementos da amostra

A primeira equação é a da média aritmética e a segunda da ponderada.

5.1.2. Estimativa da precisão: Desvio Padrão. No tópico 2.3 foi demonstrada a diferença entre acurácia e precisão. Lá fica claro que a precisão refere-se a dispersão das medidas ao redor de um valor médio e está intimamente ligada aos erros aleatórios. Esta grandeza é calculada através do desviopadrão () que, no caso, deve considerar o duplo sinal (±).

34

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Gauss definiu que o desvio-padrão é a raiz quadrada da média do quadrado dos erros verdadeiros (Gemael, 1994, p. 88), ou seja:

 

onde:



2

n

 i1



i

n



- desvio-padrão

 i2

- quadrado dos erros verdadeiros

n

- número de elementos da amostra ou de observações

Entretanto, a não ser em alguns casos como os ângulos de um polígono fechado, não se têm como determinar o erro verdadeiro. Neste caso, se utilizam os erros aparentes que são calculados através dos resíduos em relação à média, ou seja:

ˆ  



v2 i 1 i

n 1

2

  lb  x

n

n



i

i 1

n 1

Observa-se que esta equação calcula o desvio padrão amostral. Na área de geomática, os valores utilizados nos cálculos, geralmente são resultado de uma série de observações de onde se determina o valor mais provável, ou seja, a média. Neste caso, a estimativa de precisão que se necessita não diz respeito à amostra, mas sim à média. Assim é necessário que se calcule o desvio padrão dela.

ˆ x 





n

2 i 1 i

v

nn  1



ˆ  n

A demostração de como se chega a esta equação pode ser encontrada em Gemael, 1994, p. 89.

35

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O No caso de medidas de desigual confiança as equações ficam assim modificadas:



n

ˆ  

2 i i

p v i 1

e

n 1

~~  x





n

pi vi2

i 1



(n  1)

n

pi

i 1



ˆ 



n

pi

i 1

5.1.3. Estimativa por intervalo A estimativa por intervalo de confiança fornece dois valores entre os quais, deve estar um parâmetro populacional estimado, com certa probabilidade, ou nível de confiança. Escrevendo em linguagem matemática: P(a    b) = 1-  onde: a e b - extremos do intervalo



- valor estimado



- nível de significância

   - grau de confiança

O valor do nível de significância normalmente é prefixado. Supondo o valor  = 5%, então: P(a    b) = 0,95 A expressão acima indica que há 95% de probabilidade que a variável estimada

 esteja entre os valores a e b.

36


5.1.3.1. Intervalo de confiança para a média O intervalo de confiança pode ser aplicado na média em função da variância amostral. A expressão para o cálculo é a seguinte:



  ˆ  x  t        1   X 1 1  2 2 

ˆ X  t P  x  



onde:

- média amostral

x

ˆ X - desvio-padrão da média aritmética 

n t

1

 2



- número de elementos da amostra - valor interpolado da tabela de distribuição de STUDENT - média populacional

Esta expressão indica que existe (1- )% de probabilidade de que a média populacional esteja entre os valores extremos. No caso de medidas com desigual confiança, a expressão acima assume a seguinte forma:

 ~  P  x   x~  t  

onde:

x



 x~

1

 2

     x~   x~  t    1   1 2 

- média amostral ponderada - desvio-padrão da média ponderada

37


5.1.3.2. Intervalo de confiança para a variância Da mesma forma que para a média, pode-se aplicar o intervalo de confiança para a variância. A expressão para este caso é a seguinte:    2  2   n  1  2   n  1    P    1  2     2   1 2 2  

onde:



- variância amostral

n

- número de elementos da amostra

 2

n-1

- graus de liberdade

 2

- valor interpolado da tabela de Qui-Quadrado

Na área de geomática substituem-se os valores medidos pelo valor médio e neste caso na fórmula, se substitui a variância amostral pela variância da média.

 2      2 n  1  n n  1   2  n 2   1   P  2     1  2 2  

ou

  2   2   x n  1   n 1    P   2  x    1   2     2    1 2  2

38

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O No caso de medidas com desigual confiança a expressão acima assume a seguinte forma:

  2   2   ~ n  1   2   ~x n  1   1   P  x 2      2  1 2  2 Para se obter o intervalo do desvio padrão basta extrair a raiz quadrada dos extremos calculados, ou seja:

  P      P   



 x2 n  1  2  1





  

 x2 n  1  2  

2

2

  1    

  x~ n  1  ~x n  1       1    2    2  1 2 2   2

< = Para medidas de igual confiança

 2

< = Para medidas de desigual confiança.

Exemplo 6 - Um ângulo foi medido dez vezes, com o resultado mostrado na tabela a seguir. Calcule os estimadores pontuais e os por intervalo. Medida

Lbi

Medida

Lbi

1

120 º

31’

40,1”

6

“

“

42,4”

2

“

“

41,2”

7

“

“

43,0”

3

“

“

40,8”

8

“

“

40,7”

4

“

“

42,1”

9

“

“

41,9”

5

“

“

42,9”

10

“

“

41,5”

39

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Cálculo dos estimadores pontuais:

Medida

lbi

(lbi - x )

(lbi - x )2

1

120 º

31’

40,1”

-1,56 “

2,4336 “2

2

“

“

41,2”

-0,46 “

0,2116 “2

3

“

“

40,8”

-0,86 “

0,7396 “2

4

“

“

42,1”

0,44 “

0,1936 “2

5

“

“

42,9”

1,24 “

1,5376 “2

6

“

“

42,4”

0,74 “

0,5476 “2

7

“

“

43,0”

1,34 “

1,7956 “2

8

“

“

40,7”

-0,96 “

0,9216 “2

9

“

“

41,9”

0,24 “

0,0576 “2

10

“

“

41,5”

-0,16 “

0,0256 “2



8,4640 “2



1200º 310’ 416,6”

a) média aritmética

n

x



 lb

x 



i

i 1

1200 310' 416,6" 10

n

x  120º 31' 41,66"



b) desvio-padrão

ˆ  

v

2 i

n 1

 lb  x 

2



i

n 1



ˆ  



ˆ x 

8, 4640 10  1

  0,9698

c ) desvio-padrão da média

ˆ x 



v

2 i

nn  1



8,4640 10(10  1)

  0,3067

40

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Cálculo dos estimadores por intervalo de confiança:

Para se calcular utilizando intervalo de confiança é necessário escolher um nível de significância. Então supondo um nível de significância  = 5%. a) Cálculo do intervalo para a média:        t     x   t    1   P  x  n 1 2 n 1 2  

Dos estimadores pontuais se obtém os valores 

x  120º 31' 41,66"

;

 n



  x  0,3067"

O valor de t  é obtido na tabela de distribuição de Student (pág. 42) com 1

2

GL = n - 1 graus de liberdade



GL = 10 – 1 = 9 P = 1 – 0,05 = 95%

P = 1 -  de probabilidade

então 

9 t 0GL , 975

 2,26

 1 - 0,05/2 = 0,975

assim, P 120º31'41,66"0,3067"2,26    120º31'41,66"0,3067"2,26   95% P 120º31'41,66"0,6931    120º31'41,66"0,6931  95%

P 120º31'40,97"    120º31'42,35"  95%

Esta expressão nos diz que a média populacional tem probabilidade de 95% de estar entre os valores 120º31’40,97” e 120º31’42,35”. Se diminuirmos o nível de significância e consequentemente aumentarmos o nível de confiança este intervalo é ampliado.

41

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O  t 

1-  t

t 1- 

Percentis da distribuição de Student (t 1- P 0,550 0,600 0,650 0,700 0,750 0,800 0,850 0,900 0,950

0,975 0,990 0,995

GL 1 2 3 4 5

0,158 0,142 0,137 0,134 0,132

0,325 0,289 0,277 0,271 0,267

0,510 0,445 0,424 0,414 0,408

0,727 0,617 0,584 0,569 0,559

1,000 0,817 0,765 0,741 0,727

1,376 1,061 0,979 0,941 0,920

1,963 1,386 1,250 1,190 1,156

3,078 1,886 1,638 1,533 1,476

6,314 12,71 31,82 63,65 2,920 4,30 6,96 9,43 2,353 3,18 4,54 5,84 2,132 2,78 3,75 4,60 2,015 2,57 3,36 4,03

6 7 8 9 10

0,131 0,130 0,130 0,129 0,129

0,265 0,263 0,262 0,261 0,260

0,404 0,402 0,400 0,398 0,397

0,553 0,549 0,546 0,544 0,542

0,718 0,711 0,706 0,703 0,700

0,906 0,896 0,889 0,883 0,879

1,134 1,119 1,108 1,100 1,093

1,440 1,415 1,397 1,383 1,372

1,943 1,895 1,860 1,833 1,813

2,45 2,36 2,31 2,26 2,23

3,14 3,00 2,90 2,82 2,76

3,71 3,50 3,36 3,25 3,17

11 12 13 14 15

0,129 0,128 0,128 0,128 0,128

0,260 0,259 0,259 0,258 0,258

0,396 0,395 0,394 0,393 0,393

0,540 0,539 0,538 0,557 0,536

0,697 0,696 0,694 0,692 0,691

0,876 0,873 0,870 0,868 0,866

1,088 1,083 1,080 1,076 1,074

1,363 1,356 1,350 1,345 1,341

1,796 1,782 1,771 1,761 1,753

2,20 2,18 2,16 2,14 2,13

2,72 2,68 2,65 2,62 2,60

3,11 3,05 3,01 2,98 2,95

16 17 18 19 29

0,128 0,125 0,127 0,127 0,127

0,258 0,257 0,257 0,257 0,257

0,392 0,392 0,392 0,391 0,391

0,535 0,534 0,534 0,533 0,533

0,690 0,689 0,688 0,688 0,687

0,865 0,863 0,862 0,861 0,860

1,071 1,069 1,067 1,066 1,064

1,337 1,333 1,330 1,328 1,325

1,746 1,740 1,734 1,729 1,725

2,12 2,11 2,10 2,09 2,09

2,58 2,57 2,55 2,54 2,53

2,92 2,90 2,88 2,86 2,85

21 22 23 24 25

0,128 0,125 0,127 0,127 0,127

0,257 0,256 0,256 0,256 0,256

0,391 0,390 0,390 0,390 0,390

0,533 0,532 0,532 0,531 0,531

0,686 0,686 0,685 0,685 0,684

0,859 0,858 0,858 0,857 0,856

1,063 1,062 1,060 1,059 1,058

1,323 1,321 1,320 1,318 1,316

1,721 1,717 1,714 1,711 1,708

2,08 2,07 2,07 2,06 2,06

2,52 2,51 2,50 2,49 2,49

2,83 2,82 2,81 2,80 2,79

26 27 28 29 30

0,128 0,125 0,127 0,127 0,127

0,256 0,256 0,256 0,256 0,256

0,390 0,389 0,389 0,389 0,389

0,531 0,531 0,530 0,530 0,530

0,684 0,684 0,683 0,683 0,683

0,856 0,855 0,855 0,854 0,854

1,058 1,057 1,056 1,055 1,055

1,315 1,314 1,313 1,311 1,310

1,706 1,703 1,701 1,699 1,697

2,06 2,05 2,05 2,05 2,04

2,48 2,47 2,47 2,46 2,46

2,78 2,77 2,76 2,76 2,75

40 50 60 70 80

0,127 0,126 0,126 0,126 0,126

0,255 0,255 0,255 0,254 0,254

0,388 0,388 0,387 0,387 0,387

0,529 0,528 0,527 0,527 0,527

0,681 0,679 0,679 0,678 0,678

0,851 0,849 0,848 0,847 0,846

1,050 1,047 1,046 1,044 1,043

1,303 1,299 1,296 1,294 1,292

1,684 1,676 1,671 1,667 1,664

2,02 2,01 2,00 1,99 1,99

2,42 2,40 2,39 2,38 2,37

2,70 2,68 2,66 2,65 2,64

90 100 200 300 400

0,126 0,126 0,126 0,126 0,126

0,254 0,254 0,254 0,253 0,253

0,387 0,386 0,386 0,386 0,386

0,526 0,526 0,525 0,525 0,525

0,677 0,677 0,676 0,675 0,675

0,846 0,845 0,843 0,843 0,842

1,042 1,042 1,039 1,038 1,037

1,291 1,290 1,285 1,284 1,283

1,662 1,660 1,652 1,649 1,648

1,99 1,98 1,97 1,97 1,96

2,37 2,36 2,34 2,34 2,33

2,63 2,63 2,60 2,59 2,58

500 600 700 800 900

0,126 0,126 0,126 0,126 0,126

0,253 0,253 0,253 0,253 0,253

0,385 0,385 0,385 0,385 0,385

0,525 0,525 0,525 0,524 0,524

0,675 0,675 0,675 0,675 0,675

0,842 0,842 0,842 0,842 0,842

1,037 1,037 1,037 1,037 1,037

1,283 1,283 1,282 1,282 1,282

1,647 1,647 1,646 1,646 1,646

1,96 1,96 1,96 1,96 1,96

2,33 2,33 2,33 2,33 2,33

2,58 2,58 2,58 2,58 2,58

0,126 0,253 0,385 0,524 0,675 0,842 1,037 1,282 1,645

1,96

2,33

2,58



42

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS CIÊNCIAS E TECNOLOGIA DE GOIÁS GOI ÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . . N I L T O N R I C E T T I X A A V I E R D E N A A Z A R E N O b) Cálculo do intervalo para a variância da média:

  2   2   x n  1     n 1  P   2  x    1   2     2    1 2  2 Adotando o mesmo procedimento do cálculo anterior vem: 

 x2

 ( 0,3067 " ) 2  0,09406489 " 2

o valor da variável 2 é obtida de uma tabela (pág. 43) com GL = 9

9  19,02  0G L ,975

P1 =1- /2 = 0,975



9  0GL ,025

 2,70

P2 = /2 = 0,025. substituindo os valores na fórmula vem: 0,09406489 (10  1)   0,09406489 (10  1)   2    95% 19,02 2,70  

P 



P 0,0445"

2

  2  0,3135"2   95%

Extraindo-se a raiz quadrada da expressão acima se obtém o intervalo para o desvio padrão.

P 0,211"    0,560"  95% Se o nível de significância for diminuído e, consequentemente o nível de confiança aumentado, o intervalo tende a aumentar.

43

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS CIÊNCIAS E TECNOLOGIA DE GOIÁS GOI ÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . . N I L T O N R I C E T T I X A A V I E R D E N A A Z A R E N O   2

1-







2

2 1-



Distribuição de Qui-Quadrado (2) 0,005

0,010

0,025

0,050

0,100

0,250

0,750

0,900

0,950

0,975

0,990

0,995

GL 1 2 3 4 5

0,00 0,01 0,07 0,21 0,41

0,00 0,02 0,12 0,30 0,55

0,00 0,05 0,22 0,49 0,83

0,00 0,10 0,35 0,71 1,15

0,02 0,21 0,58 1,06 1,61

0,10 0,58 1,21 1,92 2,68

1,32 2,77 4,11 5,39 6,63

2071 4,61 6,25 7,78 9,24

3,84 5,99 7,82 9,49 11,07

5,02 7,38 9,35 11,14 12,83

6,64 9,21 11,35 13,28 15,09

7,88 10,60 12,84 14,86 16,75

6 7 8 9 10

0,68 0,99 1,34 1,74 2,16

0,87 1,24 1,65 2,09 2,56

1,24 1,69 2,18 2,70 3,25

1,64 2,17 2,73 3,33 3,94

2,20 2,83 3,49 4,17 4,87

3,46 4,26 5,07 5,90 6,74 74

7,82 9,04 10,22 11,39 12,55

10,65 12,02 13,36 14,68 15,99

12,59 14,07 15,51 16,92 18,31

14,45 16,01 17,54 19,02 20,48

16,81 18,48 20,09 21,67 23,21

18,55 20,28 21,96 23,59 25,19

11 12 13 14 15

2,60 3,07 3,57 4,08 4,60

3,05 3,57 4,11 4,66 5,23

3,82 4,40 5,01 5,63 6,26

4,58 5,23 5,89 6,57 7,26

5,58 6,30 7,04 7,79 8,55

7,58 58 8,44 44 9,30 30 10,17 11,04

13,70 14,85 15,98 17,12 18,25

17,28 18,55 19,81 21,06 22,31

19,68 21,03 22,36 23,69 25,00

21,92 23,34 24,74 26,12 27,49

24,73 26,22 27,69 29,14 30,58

26,76 28,30 29,82 31,32 32,80

16 17 18 19 29

5,14 5,70 6,27 6,84 7,43

5,81 6,41 7,02 7,63 8,26

6,91 7,56 8,23 8,91 9,59

7,96 8,67 9,39 10,12 10,85

9,31 10,09 10,67 11,65 12,44

11,91 12,79 13,68 14,56 15,45

19,37 20,49 21,61 22,72 23,83

23,54 24,77 25,99 27,20 28,41

26,30 27,59 28,87 30,14 31,41

28,85 30,19 31,53 32,85 34,17

32,00 33,41 34,81 36,19 37,57

34,27 35,72 37,16 38,58 40,00

21 22 23 24 25

8,03 8,64 9,26 9,89 10,52

8,90 9,54 10,20 10,86 11,52

10,28 10,98 11,69 12,40 13,12

11,59 12,34 13,09 13,85 14,61

13,24 14,04 14,85 15,66 16,47

16,34 17,24 18,14 19,04 19,94

24,94 26,04 27,14 28,24 29,34

29,62 30,81 32,01 33,20 34,38

32,67 33,92 35,17 36,42 37,65

35,48 36,78 38,08 39,36 40,65

38,93 40,29 41,64 42,98 44,31

41,40 42,80 44,18 45,56 46,93

26 27 28 29 30

11,16 11,81 12,46 13,12 13,79

12,20 12,88 13,57 14,26 14,95

13,84 14,57 15,31 16,05 16,79

15,38 16,15 16,93 17,71 18,49

17,29 18,11 18,94 19,77 20,60

20,84 21,75 22,66 23,57 24,48

30,42 31,53 32,62 33,71 34,80

35,56 36,74 37,92 39,09 40,26

38,89 40,11 41,34 42,56 43,77

41,92 43,19 44,46 45,72 46,98

45,64 46,96 48,28 49,59 50,89

48,29 48,29 50,99 52,37 53,67

35 40 45 50 55

17,19 20,71 24,31 27,99 31,74

18,51 22,16 25,90 29,71 33,57

20,57 24,43 28,37 32,36 36,40

22,47 26,51 30,61 34,76 38,96

24,80 29,05 33,35 37,69 42,06

29,05 33,66 38,29 42,94 47,61

40,22 45,62 50,99 56,33 61,67

46,06 51,81 57,51 63,17 68,80

49,80 55,76 61,66 67,51 73,31

53,20 59,34 65,41 71,42 77,58

57,34 63,69 69,96 76,15 82,29

60,28 66,77 73,17 79,49 85,75

60 65 70 75 80

35,53 39,38 43,28 47,21 51,17

37,49 41,44 45,44 49,48 53,54

40,58 44,60 48,76 52,94 57,15

43,19 47,45 51,74 56,05 60,39

46,46 50,88 55,33 59,80 64,28

52,29 56,99 61,70 66,42 71,15

66,98 72,29 77,58 82,86 88,13

74,40 79,97 87,53 91,06 96,58

79,08 84,82 90,53 96,22 101,9

83,30 89,18 95,02 100,8 106,6

88,40 94,42 100,4 106,4 112,3

91,95 98,11 104,2 110,3 116,3

85 90 95 100 110

55,17 59,20 63,25 67,33 75,55

57,63 61,75 65,90 70,07 78,46

61,39 65,65 69,93 74,22 82,87

64,75 69,13 73,52 77,93 86,79

68,78 73,29 77,82 82,36 91,47

75,88 80,63 85,38 90,13 99,67

93,39 98,65 103,9 109,1 119,6

102,1 107,6 113,0 118,5 129,4

107,5 113,1 118,8 124,3 135,5

112,4 118,1 123,9 129,6 140,9

118,2 124,1 130,0 135,8 147,4

122,3 128,3 134,2 140,2 151,9

120 130 140 150 200

83,85 92,22 100,7 109,1 152,2

86,92 95,45 104,0 112,7 156,4

91,57 100,3 109,1 118,0 162,7

95,71 104,7 113,7 122,7 168,3

100,6 109,8 119,0 128,3 174,8

109.2 118.8 128.4 138.0 186.2

130.1 140.5 150.9 161.3 213.1

140.2 151.0 161.8 172.6 226.0

146.6 157.6 168.6 179.6 234.0

152.2 163.5 174.6 185.8 241.1

159.0 170.4 181.8 193.2 249.4

163.6 175.3 186.8 198.4 255.3

250 300 400 500 600

196,2 240,7 330,9 422,3 514,5

200,9 246,0 337,2 429,4 522,4

208,1 253,9 346,5 439,9 534,0

214,4 260,9 354,6 449,1 544,2

221,8 269,1 364,2 459,9 556,1

234.6 283.1 380.6 478.3 576.3

264.7 316.1 418.7 521.0 523.0

279.1 331.8 436.6 540.9 644.8

287.9 341.4 447.6 553.1 658.1

295.7 350.0 457.3 553.1 658.1

304.9 359.9 468.7 576.5 683.5

311.3 366.8 476.6 585.2 893.0

700 800 900 1000

607,4 700,7 794,5 888,6

615,9 709,9 804,3 898,9

628,6 723,5 818,8 914,3

639,6 735,4 831,4 927,6

652,5 749,2 846,1 943,1

674.4 772.7 871.0 969.5

724.9 748.4 762.7 762.7 790.0 800.1 826.6 851.7 866.9 866.9 896.0 907.0 928.2 954.8 970.9 970.9 1002.0 1013.0 1030.0 1058.0 1075.0 1090 1107.0 1119.0

P

44

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS CIÊNCIAS E TECNOLOGIA DE GOIÁS GOI ÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . . N I L T O N R I C E T T I X A A V I E R D E N A A Z A R E N O Exemplo 7 - Um ângulo foi medido em quatro etapas, conforme a tabela abaixo. Adotando pesos proporcionais ao número de observações calcule os estimadores pontuais e por intervalo de confiança.

ângulo ( lbi ) 80º

nº de obs

pi

6

2

160º

100’

50’ 12”

pilbi

(lbi - x )

pi(lbi - x )2

24”

-1,75”

6,1250”2

“

“

14”

3

1

80º

50’

14”

0,25”

0,0625”2

“

“

12”

9

3

240º

150’

36”

-1,75”

9,1875”2

“

“

18”

6

2

160º

100’

36”

4,25”

36,125” 2

24

8

640º

400’

110”



51,500” 2

Estimadores pontuais: a) Média ponderada

n

 p l i i

x



i1 n

 p



x



640 º 400 '110 " 8

 80 º 50 '13,75"

i

i 1

b) Desvio padrão de uma observação isolada

ˆ  

 pi vi2 n 1



ˆ  

51,500 4 1

 4,14"

c) Desvio padrão da média ponderada

ˆ x~ 



 pi vi2 (n  1)  pi



ˆ x~ 



51,500 (4  1)  8

 1,46"

45

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Cálculo dos estimadores por intervalo de confiança:

Para se calcular utilizando intervalo de confiança é necessário escolher um nível de significância. Então supondo um nível de significância  = 5%. a) Cálculo do intervalo para a média:





~   ~ P  x x



da tabela de Student

3 t 0GL , 975

   t     x~   x~  t    1   1 1 2 2 

 3,18 então :

P 80º50'13,75"  1,46"3,18    80º50'13,75"  1,46"3,18  95%

P 80º50'09,09"



 80º50'18,41"   95%

b) Cálculo do intervalo para a variância da média

  2   2  x~ n  1  ~x n  1   2    P    1    2    2  1 2  2 da tabela de qui-quadrado GL 3

 2 0 , 025

 0,22

GL 3

e

 2 0,975

 9,35

 1,462  (4  1) 1,462  (4  1)  2   95% P     9 , 35 0 , 22  



então:



P 0,68"2   2

 29,07"2   95%

Extraindo-se a raiz tem-se o intervalo de confiança para o desvio padrão



P 0,83"  

 5,39"   95%

46


5.2. Ajustamento de observações indiretas As observações são classificadas como indiretas quando se mede uma grandeza de natureza diferente da procurada. Por exemplo, um ângulo para se determinar uma distância. A solução deste problema reside em se determinar qual o modelo matemático que expressa a relação entre o valor medido e o procurado. Dependendo do tipo de equação encontrada se pode ter três soluções: a solução pelo método paramétrico, pelo correlato ou pelo combinado. Vamos supor que existam três incógnitas (x, y e z) que se ligam aos valores medidos (lbi) pelas equações abaixo: aix + biy +ciz + lbi = 0 onde: i = 1,n (n ≥ 3) Se n = 3 a solução é única, porém como lb i são observações, e seus valores estão contaminados com os erros de observação, são feitas mais medidas que as necessárias. Para resolver o problema da inconsistência do sistema formado (cada conjunto de 3 equações fornece uma solução diferente) aplica-se o principio dos mínimos quadrados. VTPV = min O sistema de equações pode ser matricialmente representado como: AX + Lb =0 onde:

A - é a matriz formada pelos coeficientes do sistema (a i; i=1,n); X - são os valores incógnitos (x,y e z) b - são os valores medidos (Lbi).

47

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Após aplicarmos o M.M.Q. os valores observados não serão mais os originais e sim ajustados (La), assim como, os parâmetros calculados serão denominados de ajustados (Xa). Se ao montarmos o sistema de equações for possível isolar pela igualdade os valores incógnitos (parâmetros) dos valores observados, resolve-se pelo método paramétrico.

F(Xa) = La

Se ao montarmos o sistema de equações só aparecerem valores medidos e nenhum parâmetro, a solução é dada pelo método correlato.

F(La) = 0

Finalmente, se no sistema de equações não for possível isolar os parâmetros dos valores observados, a solução é dada pelo método combinado.

F(Xa, La) = 0

48


5.2.1. Método Paramétrico As equações que relacionam os valores medidos com os incógnitos, também denominados parâmetros, são conhecidas como equações de observação. A característica delas é que se pode separar observação de incógnita. F(Xa) = La

fazendo

Xa = X0 + X La = Lb + V

onde :

Então

Xa

-

parâmetros incógnitos ajustados

Xo

-

parâmetros aproximados

X

-

correções aos parâmetros aproximados

La

-

valores observados ajustados

Lb

-

valores observados

V

-

correções aos valores observados (resíduos)

F(X0 + X) = Lb + V

O primeiro termo da igualdade normalmente é uma função do tipo não linear, portanto a sua linearização é feita por Taylor:

F ( X 0 ) 

 F  X  Lb  V  X a xa  x 0

49

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O fazendo

L0 = F(X0)

A 

e

L0 + AX = L b + V fazendo

L = L0 - Lb

Finalmente

AX + L = V

 F vem:  X a xa x 0

 AX + L0 – Lb = V

Aplicando o método dos mínimos quadrados T T  = V PV = ( AX + L ) P(AX + L ) = min

Derivando essa equação e igualando a zero encontra-se um ponto de mínimo. Esse procedimento já foi realizado no item sobre o M.M.Q. Assim:

X = - (ATPA) -1(ATPL)

Fazendo

N = (ATPA) X = - N -1U

e

U = (ATPL) <=>

Xa = Xo + X

Que é a solução de M.M.Q. para o método paramétrico.

5.2.1.1. Qualidade do ajustamento. Após o ajustamento é preciso verificar a qualidade dos resultados. No método dos mínimos quadrados aplica-se um teste de hipótese para verificar se estatisticamente o 2

sigma a priori (  0 ), valor teórico normalmente igual a 1, é “igual” ao sigma a posteriori (

ˆ 02 ), valor calculado. 

50

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O O valor do sigma a posteriori é calculado pela seguinte equação

2 0

ˆ 

onde :



V T PV nu

V

-

vetor dos resíduos

P

-

matriz dos pesos

n

-

número de equações superabundantes

u

-

número de parâmetros incógnitos

A diferença entre n – u

é denominado de graus de liberdade (GL ).

A matriz peso normalmente é definida como sendo a inversa da matriz variância-covariância das observações vezes o fator sigma a priori . P   02

  Lb1

Para essa comparação utiliza-se um teste de hipótese que pode ser bicaudal ou unicaudal. No teste bicaudal, a hipótese básica (Ho) define que estatisticamente sigma a priori é igual ao sigma a posteriori , contra a hipótese alternativa (H1) que sigma a priori é

diferente do sigma a posteriori . No caso do teste unicaudal, a hipótese básica (Ho) define que estatisticamente sigma a priori é igual ao sigma a posteriori , contra a hipótese alternativa (H1) que sigma a priori é maior que o sigma a posteriori .

Hipótese Ho : H1 :

 ≠   

BICAUDAL =

UNICAUDAL =

>

Para fazer essas comparações utiliza-se a distribuição de qui-quadrado (  2 ) onde se define valores teóricos, formando um intervalo onde Ho é válida, no caso da bicaudal, ou apenas, um único valor teórico, no caso da unicaudal (figura 1). 51

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Esses valores teóricos são definidos a partir do nível de significância ( ) e dos grau de liberdade (GL = n – u).

²

² Ho

H1

GL = n - u ²/2

Ho

H1

²1GL– =/2n - u

H1

²

Teste bicaudal

GL = n - u 1–

Teste unicaudal

Figura 1 – Teste de hipótese com a distribuição 2 . Caso bicaudal e unicaldal. A partir do estabelecimento dos limites calcula-se um qui-quadrado amostral pela seguinte expressão: ˆ2 



V T PV  02

Para a hipótese Ho ser considerada válida esse valor calculado deve estar na área de aceitação, como mostra a figura 1, ou seja: 2 GL  n - u

P (   / 2 2

ˆ P ( 

 n -u ˆ 2   12 GL   )  1   /2

  12 GL  n -u )  1  

=> caso bicaudal

=> caso unicaudal

Se a hipótese Ho for considerada válida o ajustamento não apresenta problemas e a qualidade dele está atestada.

52

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O No caso da hipótese alternativa H1 ser válida, o ajustamento apresenta problemas que podem ter como causa: a) modelo matemático inadequado; b) modelo estocástico inadequado ao se superestimar as observações e gerando uma

matriz dos pesos com valores muito grandes; c) presença de erros grosseiros na amostra, o que afeta os valores dos resíduos;

Embora existam as duas possibilidades de teste (uni e bicaudal), atualmente utiliza-se o unicaudal para testar a qualidade do ajustamento

5.2.1.2. Matriz variância covariância dos parâmetros, das observações e dos resíduos Neste método a matriz variância-covariância dos parâmetros é obtida diretamente da matriz normal invertida (N -1) mais um fator de variância da unidade de peso a posteriori . (  ˆ 02 )

 X

a

  ˆ 02  N 1

A matriz variância-covariância dos valores ajustados é obtida pela seguinte equação:

 L

a

  ˆ 02  A  N 1  AT

e a matriz variância-covariância dos resíduos por:

V   ˆ  ( A  N 2 0

1

 AT  P 1 )

53


5.2.1.3. Sequência prática de cálculo Quando se pretende ajustar pelo método paramétrico existe uma sequência de procedimentos que facilitam o cálculo. 1º Passo – Define-se o modelo matemático que liga parâmetros com observações; 2º Passo – A partir da matriz variância-covariância das observações, se estabelece a matriz dos pesos; 3º Passo – atribuem-se valores aproximados aos parâmetros incógnitos gerando o vetor X 0; 4º Passo – Calcula-se o vetor L = L 0 - Lb. O vetor L0 é obtido substituindo-se nas equações de observação os parâmetros por seus valores aproximados e o vetor L b é montado com as observações. 5º Passo – Gera-se a matriz dos coeficientes (A). Se o modelo é não linear é necessário derivar as equações de observação em relação aos parâmetros e substituir nestas derivadas, os parâmetros por valores aproximados; 6º Passo – Calculam-se as matrizes N = A TPA (matriz normal) e a matriz U = A TPL; 7º Passo – Inverte-se a matriz normal (N -1); 8º Passo – Calcula-se o vetor de correção aos parâmetros aproximados X= - N -1 U; 9º Passo – Calculam-se os parâmetros ajustados (Xa) e retorna-se ao quarto passo no caso de modelo não linear. Procede-se desta forma até que o vetor das correções (X) tenda a um valor que nós consideremos igual a zero. 10º Passo – Encerrado o processo de iteração, calcula-se o valor das observações ajustadas substituindo-se os parâmetros ajustados nas equações de observação. La = F (Xa) 11º Passo – Calcula-se o vetor dos resíduos fazendo a diferença entre os valores observados ajustados e os observados. V = La – Lb; 12º Passo – Calcula-se o valor de sigma a posteriori

54

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O 2 0

ˆ 



V T PV nu

13º Passo – Aplica-se o teste de hipótese. Se o teste for bem sucedido calculam-se as matrizes variância-covariância dos parâmetros, dos valores observados e dos resíduos. 14º Passo – Cálculo das matrizes variância-covariância dos parâmetros, das observações e dos resíduos.

Esta sequência de cálculo não precisa ser seguida exatamente nesta ordem, mas, ela privilegia uma lógica no cálculo. Exemplo 8 - A partir de quatro marcos com coordenadas conhecidas foi medida a distância a um ponto central. Calcule as coordenadas desse ponto, ajuste as distâncias observadas e determine a precisão dos valores ajustados.

M1

Marco

M2 l 1

l 2

X (m)

Y (m)

M1

842,281

925,523

M2

1337,554

996,249

M3

1831,727

723,962

M4

840,408

658,345

P

l 4

l 3 M3

M4

Caderneta de Campo Lbi

Distância (m)

±  (m)

1

244,512

0,012

2

321,570

0,016

3

773,154

0,038

4

279,992

0,014

1º Passo – Modelo matemático

Inicialmente devemos levar em conta que os parâmetros procurados são as coordenadas do ponto central P, que foram observadas distâncias e finalmente, que se conhece as coordenadas dos marcos. Então a equação que envolve todos esses valores é a equação da reta, ou seja:

55


  xim  x P a   ( yim  y P a ) 2 2

La i

i

onde :

 1, 4

x im , y im

-

são as coordenadas dos quatro marcos

a a , y P x P

-

são os parâmetros incógnitos ajustadas

Lai

-

são as distâncias observadas ajustadas

Observa-se que neste modelo os parâmetros estão de um lado da igualdade e as observações do outro.

2º Passo – Matriz dos Pesos

A matriz dos pesos e formada pela matriz inversa da variância-covariância das observações. As observações não são correlacionadas. Então:

 Lb

0,012   0   0   0

2

0

0

0,0162

0

0

0,0382

0

0

  0 m 2  0  2 0,014   0

 1  0,0122   0  P    0    0 

0 1

0,0162 0 0

0 0 1

0,0382 0

    0  1  2 m 0   1  0,0142  0

3º Passo – Atribuição de valores aproximados aos parâmetros.

Podem-se utilizar vários critérios para se estabelecer um valor inicial, como por exemplo, obter o valor médio entre os quatros marcos, ou ainda, escolher arbitrariamente um valor. Independentemente do valor escolhido, após algumas iterações, os parâmetros convergem para uma única resposta. Adotaremos, para efeito de exemplo, os valores da penúltima iteração como valores iniciais aproximados.

X0 =

1065,2 m 825,2 m

56

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O 4º Passo – Cálculo do valor L

L = L0 - Lb

      

L0

e

L0 = F(X0)

842 ,281  1065,2 2  925,523  825,2 2   244 ,45365m   1337,544  1065,2 2  996 ,249  825,2 2    321,60382 m   1831,727  1065,22  723,962  825,2 2   773,18353m    840 ,408  1065,2 2  658,345  825,2 2   279,95006 m   244 ,45365   244 ,512    0,05835 m   321 ,60382   321 ,570   0 ,03382 m     L    773 ,18353   773 ,154   0,02953 m         279 ,95006   279 ,992    0,04194 m 

5º Passo – Matriz dos coeficientes (A)

O modelo matemático é do tipo não linear. Deste modo é necessário se determinar as equações derivadas da função em relação a xp e yp e substituir nelas os parâmetros aproximados.

La i



 x

m i

 x P a   ( yim  y P a ) 2 2

m  F (la1 ) x  x p  = 0,911907  x p lo1

m  F (la1 ) y  y p   0,410397  y p lo1

m x  x p  F (la2 )   -0,846831 lo2  x p

m  F (la2 ) y  y p   0,531862  y p lo2

m  F (la3 ) x  x p   0,991391  x p lo3

m  F (la3 ) y  y p   0,130937  y p lo3

m  F (la4 ) x  x p   0,802972  x p lo4

m  F (la4 ) y  y p   0,596017  y p lo4

1

2

3

4

1

2

3

4

Colocando estes resultados na matriz dos coeficientes:

 0,911907  0,410397  0,846831  0,531862  A    0,991391 0,130937     0,802972 0,596017 

57

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O 6º Passo – Cálculo da matriz N (normal) e da matriz U

N = ATPA e U = ATPL

0 0 0 6.944, 44   0,911907  0,410397     0,846831  0,531862 3.906,25 0 0  0,911907  0,846831  0,991391 0,802972  0   N      0,991391 0,130937  0 692,52 0  0,410397  0,531862 0,130937 0,596017  0     0 0 5.102,04   0,802972 0,596017   0

N 

12.546,340 3 1.512,3141   1.512,3141 4.098,9158   

 0,911907  0,846831  0,991391  0,410397  0,531862 0,130937

U  

6.944,44 0,802972  0   0,596017  0   0

0

0

3.906,25

0

0

692,52

0

0

  0,05835   0,03382 0     0,02953 0    5.102,04  0,04194 0

- 673,5104 U     - 28,8255 

7º Passo – Cálculo da matriz inversa de N

N 1

0,083414 - 0.03078   10 3  - 0.03078 0,25532 

8º Passo – Vetor de correção aos parâmetros.

X = - N-1U



X = [0,055294 -0,013371] T

58

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O 9º Passo – Parâmetros ajustados.

X a

1 .065 ,2 m   0,055294 m  1.065,2553 m       825 , 2 m    0,013371 m   825,1866m 

Voltando com esses valores no 4° Passo fazendo Xo = Xa, obtem-se X = [0,000000 -0,000002] T Este vetor de correção pode ser considerado igual a zero e, portanto chegou-se ao valor ajustado para as coordenadas do ponto P.

X a

1.065,2553 m     825,1866 m 

10º Passo – Cálculo dos valores observados ajustados

   La     

842,281  1.065,25532  925,523  825,18662  244,50956m  1337,544  1.065,25532  996,249  825,18662  321,56411m  1831,727  1.065,25532  723,962  825,18662  773,12696m   840,408  1.065,25532  658,345  825,18662  279,98649m

11º Passo – Cálculo dos resíduos

V = La - Lb



244,50956 m 244,512m - 0,0024m   321,56411m   321,570m  - 0,0059m     V    773,12696m   773,154m  - 0,0270m        279,98649 m 279,992m - 0,0055m 

12º Passo – Cálculo do sigma a posteriori.

VTPV = 0,8383 



 02



0,8383 42

 0,4191

59

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O 13º Passo – Teste de Hipótese

Embora exista o teste bicaudal, alguns autores entendem que o unicaudal é mais representativo e por essa razão ele será empregado nesse exercício. Hipótese básica Hipótese alternativa

Ho: H1: 2

ˆ 

qui-quadrado amostral

Com  02

1



ˆ2 



 

V T PV

  = >

 02

 0,8383

Determinação do 2 teórico.

Considerando

 = 5% de nível de significância  1 –  = 95%

GL = n – u = 4 – 2 = 2 (graus de liberdade)

GL2

Da tabela de 2 obtém-se :  2 0, 95

 5,99 P 0,8383  5,99   95%

Como o qui-quadrado amostral é menor que o teórico, então a hipótese H0 é considerada válida, e neste caso considera-se que o ajustamento não apresenta problemas.

14º Passo – Cálculo das matrizes variância-covariância

 X   ˆ  N a

2 0

1



 0,00003496 - 0,00001290 2  X a   m 0,00001290 0,00010703  

60


 L

a

 La

  ˆ 02  A  N 1  AT

 56,753  1,856  44,147  3,328   1,856 43,732 16,520  45,680   10 6 m 2    44,147 16,520 39,546  13,218     3,328  45,680  13,218 48,203

A partir destes resultados monta-se uma tabela resumo: lbi

Distância medidas (m)

±  (m)

Distância ajustadas (m)

±  (m)

1

244,512

0,012

244,50955

0,008

2

321,570

0,016

321,56411

0,007

3

773,154

0,038

773,12697

0,006

4

279,992

0,014

279,98649

0,007

Coordenadas (m)

±  (m)

xp

1.065,2551

0,006

yp

825,1866

0,010

 xBpyB B pB = -21,09 %

A partir desse exemplo, observa-se que a grande diferença entre um processo de compensação, comum em topografia, com o de mínimos quadrados, é que no segundo, além de se ter a coordenadas ajustadas, tem-se também a estimativa de precisão dos valores envolvidos.

61


5.3. Ajustamento de observações diretas condicionadas As observações diretas condicionadas são aquelas onde as observações são obtidas diretamente com um mensurador de mesma natureza que a grandeza procurada e se relacionam através de uma equação ou função de condição. Neste caso a solução de mínimos quadrados é dada pelo método conhecido como Correlatos.

5.3.1. Método dos Correlatos O modelo matemático do método dos correlatos ou das equações de condição envolve apenas os valores observados e é dado por: F(La) = 0

onde :

e

La = Lb + V

La

-

valores observados ajustados

Lb

-

valores observados

V

-


Aplicando a equação no modelo, vem F(Lb + V) = 0 Fazendo-se uma linearização por Taylor, obtém-se

F ( La )  F ( Lb

chamando por

onde :

W = F(Lb)

 V )  F ( Lb ) 

e

B 

 F   L  L   0  La Lb a b

 F  La Lb

W

-

que corresponde a um vetor erro de fechamento;

B

-

a matriz das derivadas derivadas parciais das equações de condição em relação as observações.

62


BV + W = 0 Equação correspondente ao modelo dos correlatos ou das equações de condição linearizado. Aplicando o princípio do método dos mínimos quadrados ao modelo, vem:   V T PV  2 K T ( BV  W )  min

onde :

V

-


P

-

matriz dos pesos

K

-

vetor dos multiplicadores de Lagrange ou dos correlatos

B

-

matriz das derivadas parciais

W

-

vetor erro de fechamento

Derivando a equação acima parcialmente em relação aos resíduos e aos multiplicadores de Lagrange e igualando a zero as duas equações resultantes, tem-se :

  2 PV  2 B T K  0 V



  2( BV  W )  0  K



PV - B T K

BV



W



0 (1)



0 (2)

isolando V na equação (1) V =P-1BTK e substituindo na (2), vem: K = -(BP-1BT)-1W

ou

K = -M-1W 63

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Reescrevendo as equações numa sequência lógica. W = F(Lb) B 

 F  La Lb

M = BP-1BT K = -M-1W V =P-1BTK La = Lb + V Essa sequência é a solução de M.M.Q para o método dos correlatos. Neste método a matriz variância-covariância dos valores ajustados é obtida pela seguinte equação:

 L



a

  02 P 1  I  B T M 1 BP 1 

e a matriz variância-covariância dos resíduos pela equação:

 V     P B M 1

2 0

T

1

BP 1



o valor de sigma a posteriori pode ser calculado como no método paramétrico ou pela seguinte fórmula:  2

 0

onde :

r–



 K T W r

número de equações de condição ou graus de liberdade do problema

A qualidade do ajustamento também, neste caso é feita com a aplicação do mesmo teste de hipótese utilizado no método paramétrico. 64

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Exemplo 9 - Ajustar a rede de nivelamento geométrico dado, pelo método das equações de condição (correlato). A precisão da observação é dada por :   20mm K , sendo K em quilômetros. Linha h (m) 1

6,16

4,5

2

12,57

2,0

3

6,41

1,8

4

1,09

4,0

5 6

C

Dist. (km)

11,58

2,2

5,07

4

6

5

B

2

3 1

RNA

A

Obs.: as setas indicam o sentido em que o terreno se eleva.

4,5

1º - Modelo Matemático

Observando o esquema se extrai três circuitos diferentes que corresponde a três equações de condição. Considerando que todas as vezes que o sentido de caminhamento for contrário a seta (elevação do terreno) adota-se o sinal negativo na equação, vem: Lb1 - Lb2 + Lb3 = 0 Lb2 - Lb4 - Lb5 = 0

que são as equações de condição

Lb3 - Lb5 + Lb6 = 0 2º - Vetor das observações (LB) e dos erros de fechamento (W)

 6,16  12,57    6,41  Lb     1,09  11,58     5,07 

 6,16  12,57  6,41   0,00      W  F ( Lb)  12,57  1,09  11,58   0,10      6,41  11,58  5,07   0,10

65

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O 3º - Matriz das derivadas parciais (B) e dos Pesos (P)

1  1  F ( La )  B  1 Lb  0  La 0 0

1

0

0

0

1 1 0 1

0 1

  1  0

Como as observações são não correlacionadas, a matriz dos pesos só terá valores na diagonal principal. Estes valores serão calculados multiplicando-se a raiz das distâncias em quilômetros por 0,004 m e quadrando-se em seguida o resultado. No método correlato necessita-se do peso invertido. Neste caso será gerada a matriz inversa diretamente. No caso de matrizes diagonais, basta inverter os valores da diagonal. Então a matriz invertida de P recebe os seguintes valores:

0,00180  0   0 P 1    0  0   0

0

0

0

0

0,00080

0

0

0

0

0,00072

0

0

0

0

0,00160

0

0

0

0

0,00088

0

0

0

0

  0  0   0  0   0,00180 0

4º - Cálculo da Matriz M e dos vetores dos coeficientes de Lagrange (K), dos resíduos (V) e dos valores observados (La)

1

M  BP B

K   M

T

 0,00332  0,0008   0,0008 0,00328  0,00072 0,00088

 0,9742    W  24,5979    22,8390 

1

0,00072

 0,00088  0,0034 

 351,0272 113,4371  103,6954   M  113,4371 364,2868  118,3080    103,6954  118,3080 346,6976  1

 0,0018   0,0189     0,0171  V  P 1 B T K     0,0394  0,0417    0,0411 

 6,162  12,589    6,427  La  Lb  V     1,051  11,538     5,111 

66

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O  2 5º - Cálculo de sigma a posteriori (  0 ) e da Matriz variância-covariância dos valores observados ajustados ( La)

 2

 0



 K T W

 10,48  5,41   5,07 1  2 1  La   0 P ( I  BT M 1P 1 )  10000  5,17   0,24   5,31

r



4,743

 1,581

3

5,41

 5,07

5,17

7,71

2,30

5, 08

2,30

7,37

 0,09

 0,09 10,55 2,63 2,39  5,48 0,33  4,98  5,39

5,08

  2,63 0,33  2,39  4,98   5,48  5,39 8,11 5,72   5,72 10,70  0,24

5,31

A partir desta matriz obtém-se as precisões dos valores observados ajustados Linha 1 2 3 4 5 6

hobs (m) 6,16 12,57 6,41 1,09 11,58 5,07

Dist. (km) 4,5 2,0 1,8 4,0 2,2 4,5

Calculando o qui-quadrado amostral para o problema

Considerando

hajust (m) 6,162 12,589 6,427 1,051 11,538 5,111



ˆ2 

h(m)  0,032  0,028  0,027  0,032  0,028  0,033

 4,7437

 = 5% de nível de significância  1 –  = 95% GL = n – u = 6 – 3 = 3 (graus de liberdade) Da tabela de 2 obtém-se :  02,95;GL3

 7,82

P 4,7437  7,82  95%

Como o qui-quadrado amostral é menor que o teórico, então a hipótese H0 é considerada válida, e neste caso considera-se que o ajustamento não apresenta problemas.

67


5.4. Método Combinado Quando não for possível explicitar as observações em função dos parâmetros a solução por M.M.Q. é dada pelo método Combinado, cuja equação de definição é a seguinte: F(La , Xa) = 0

onde :

La = Lb + V

- valores observados ajustados

Xa = Xo + X

- parâmetros ajustados

Aplicando a equação no modelo, vem F(Lb + V, Xo + X) = 0 Fazendo-se uma linearização por Taylor, obtém-se

F ( La )  F ( Lb

chamando por

onde :

 V , X 0  X )  F ( Lb , X 0 ) 

W = F(Lb; Xa) ;

A 

 F  F   X a X 0     L  L   0  X a Xo  La Lb a b

 F  X a X 0

e

B 

 F  La Lb

W

-

que corresponde a um vetor erro de fechamento;

A

-

a matriz das derivadas derivadas parciais das equações de observação em relação aos parâmetros.

B

-

a matriz das derivadas derivadas parciais das equações de observação em relação às observações. AX + BV + W = 0

Equação correspondente ao modelo Linearizado do método combinado.

68

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Aplicando o princípio do método dos mínimos quadrados ao modelo, vem:

  V T PV  2 K T ( AX  BV  W )  min

onde :

V

-


P

-

matriz dos pesos

K

-

vetor dos multiplicadores de Lagrange ou dos correlatos

A

-

Matriz das derivadas parciais (parâmetros)

B

-

matriz das derivadas parciais (observações)

W

-

vetor erro de fechamento

Derivando a equação acima parcialmente em relação aos resíduos (V), aos multiplicadores de Lagrange (K) e as correções (X) e igualando a zero as três equações resultantes, tem-se :

  2 PV  2 B T K  0 V



PV - B T K

  2( AX  BV  W )  0  K



  2 AT K  0  X





AT K

AX



0 (1)

 BV 

W



0 (2)

0 (3)

isolando V na equação (1)

V =P-1BTK

69

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O e substituindo na equação (2), vem:

AX + BP-1BTK + W = 0

Fazendo M = BP-1BT AX + MK + W = 0

Isolando K K = -M-1(AX +W ) Substituindo em (3)

-ATM-1(AX +W ) = 0 < = > X = -(A TM-1A)-1ATM-1W

Reescrevendo numa sequência lógica W = F(Lb;Xo) A 

 F  X a X 0

B 

 F  La Lb

M = BP-1BT X = -(ATM-1A)-1ATM-1W K = -M-1(AX +W ) V =P-1BTK La = Lb + V Xa = Xo + X 70


O conjunto destas equações é a solução de M.M.Q para o método combinado. Neste método a matriz variância-covariância dos parâmetros é obtida pela seguinte equação



X a

1

  ˆ 02   AT M 1 A 

A matriz variância-covariância dos valores observados ajustados é obtida pela seguinte equação:

 L



a

  02 P 1  I  B T M 1 BP 1 

Exemplo 10 – Um agrimensor precisa medir a área coberta por um pivô central e só dispõe, no momento, de um GPS de Navegação. Uma solução possível seria a de se obter as coordenadas do centro e de um ponto na periferia do pivô e calcular o seu raio. Ocorre que a definição do centro não lhe pareceu algo simples e ele optou por determinar as coordenadas de 4 pontos não alinhados pertencentes ao contorno da área do pivô. Tendo as coordenadas e sabendo que a acurácia de um GPS de Navegação gira ao redor de 10 m, calcule a área do pivô central e estime a precisão dessa determinação. Ponto 1 2 3 4

 (m) 654.216 654.445 654.422 654.221

N (m) 8.250.517 8.250.498 8.250.299 8.250.302

1º - Modelo Matemático

Para determinar a área do pivô é necessário se calcular o raio desse pivô. Então, é indispensável que se gere um modelo onde seja possível o cálculo dessa grandeza. Assim, pdemos usar a equação da circunferência que envolve as coordenadas medidas, as coordenadas do centro e o raio da circunferência.

71

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Fazendo a coordenada E = x e N = y, vem:

(x1 – xc)² + (y1 – Yc)² - R² = 0

onde: x i,yi – coordenadas medidas (LB)

(x2 – xc)² + (y2 – Yc)² - R² = 0

xc,yc – coordenadas do centro (parâmetro)

(x3 – xc)² + (y3 – Yc)² - R² = 0

R – raio do pivô (parâmetro)

(x4 – xc)² + (y4 – Yc)² - R² = 0 Neste modelo se tem três incógnitas e quatro equações, o que nos dá 1 grau de liberdade, o que permite proceder ao ajustamento. Observa-se ainda, que incógnitas e observações, não podem ser separadas pelo sinal de igualdade. Assim, o ajustamento é feito pelo método combinado. F(xa,La) = 0 2º - Parâmetro aproximados

Existem várias formas de se escolher o parâmetro inicial. Vamos adotar a média das coordenadas observadas para determinar as coordenadas do ponto central e a distância do ponto 1 até esse, como raio inicial. Procedendo-se aos cálculos chega-se a: Xo = [654.326 8.250.404 157,7]T 3º - Cálculo do vetor W

−  ⎣ −−− (654.216 (654.445 = (654.422 (654.221

654.326) 654.326) 654.326) 654.326)

 

+ + + +

(8.250.517 (8.250.498 (8.250.299 (8.250.302

−− −−

 −  −− −

8.250.404) 8.250.404) 8.250.404) 8.250.404)

  ⎦

157,7 157,7 = 157,7 157,7

− −−−  0,29 1.872,29 4.628,29 3.440,29

4º - Cálculo das Matrizes A e B

A 

 F  X a X 0

B 

 F  La Lb

72

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Derivando as equações do modelo em relação aos parâmetros xc,yc e R vem:

 F 1  2  ( x1  xc ) = 220  xc

 F 1  2  ( y1  yc ) = - 226  y c

 F 1  2  R = - 315,40  R

 F 2  2  ( x2  xc ) = - 238  xc

 F 2  2  ( y 2  yc ) = - 188  yc

 F 2  2  R = - 315,40  R

 F 3  2  ( x2  xc ) = -192  xc

 F 3  2  ( y3  yc ) = 210  yc

 F 3  2  R = - 315,40  R

 F 4  2  ( x4  xc ) = 210  xc

 F 4  2  ( y4  yc ) = 204,97  yc

 F 2  2  R = - 315,40  R

e derivando em relação as observações x1, y1, x2, y2, x3, y3, x4, y4 , tem-se:  F 1  2  ( x1  xc ) = - 220  x1

 F 1  2  ( y1  y c ) = 226  y1

 F 1 0  x2

 F 1 0  y 2

 F 1 0  x3

 F 1 0  y 3

 F 1 0  x4

 F 1 0  y 4

 F 2  2  ( x2  xc ) = 238  x2

 F 2  2  ( y 2  y c ) = 188  y 2

 F 2 0  x1

 F 2 0  y1

 F 2 0  x3

 F 2 0  y 3

 F 2 0  x 4

 F 2 0  y 4

 F 3  2  ( x 3  x c ) = 192  x3

 F 3  2  ( y 3  y c ) = - 210  y 3

 F 3 0  x1

 F 3 0  y1

 F 3 0  x 2

 F 3 0  y 2

 F 3 0  x 4

 F 3 0  y 4

 F 4  2  ( x 4  x c ) = - 210  x 4

 F 4  2  ( y 4  y c ) = - 204,97  y 4

 F 4 0  x1

 F 4 0  y1

 F 4 0  x 2

 F 4 0  y 2

 F 4 0  y 3

 F 4 0  x3

Arranjando esses valores nas respectivas matrizes, vem

−  −− − =

220 226 238 188 192 210 210 204,97

-220 226 0 0 0 238 B= 0 0 0 0 0 0



−−  −− 315,40 315,40 315,40 315,40

0 0 0 0 0 188 0 0 0 0 0 192 -210 0 0 0 0 0 -210 -204,97



73

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O 5º - Cálculo da Matriz dos Pesos.

A matriz dos pesos é calculada multiplicando-se a matriz variância covariância das observações invertida pelo sigma a priori . Considerando que a acurácia de um GPS de navegação é de ±10m e que não se tem como saber da existência de tendência na presente situação, vamos assumir que este valor também é o da precisão. Decompondo esse valor nas componentes X e Y, assumidas como iguais:

  √      =

=

±

= 7,07

Elevando-se esse valor ao quadrado têm-se as variâncias das coordenadas x e y de todos os pontos

=

= 50

²

Montando-se a matriz dos pesos e não esquecendo que sigma a priori é igual a 1: 1 50  0  0   0 P   0   0  0   0 

0 1 50 0 0

0 0 1 50 0

0

0

0

0

0

0

0

0

0

0

0

0

0

0

0

1 50

1

0

0

0

0

0

0

0

0

0

0

0

0

0

0

0

0

0

50

0 1 50

0 0 1 50 0

   0   0  0  12  0 m   0  0  1  50  0

50 0  0  0 P 1   0  0 0   0

0

0

0

0

0

0

50

0

0

0

0

0

0

50

0

0

0

0

0

0

50

0

0

0

0

0

0

50

0

0

0

0

0

0

50

0

0

0

0

0

0

50

0

0

0

0

0

0

0

  0  0 2 m 0  0 0  50 0

6º - Cálculo das Matrizes M, X, K e V.

4.973.800 0 0 0 0 4.599.400 0 0 = 0 0 4.048.200 0 0 0 0 4.305.601,2

     = .

.



 −        −−  =

(

.

. ) .

.

.

=

3,2919 7,4984 7,7958

74


−  −    − −     − ⎣−− ⎦ .( .

=

=

.

.

)=

+

=

0,0000077 0,0000083 0,0000095 0,0000089



0,0848 0,0871 0,0991 0,0783 0,0910 0,0995 0,0929 0,0907

7º - Cálculo das Matrizes dos parâmetros ajustados (Xa) e das observações ajustadas (La).

  −−  



− − ⎦ ⎣−− ⎦ ⎣

⎦

    =

654.326,00 8.250.404,00 + 157,70

  

=

654.216,0000 8.250.517,0000 654.445,0000 8.250.498,0000 + 654.422,0000 8.250.299,0000 654.221,0000 8.250.302,0000

=

=

+

+

⎣

3,2979 654.322,7021 7,4984 = 8.250.411,4989 7,7958 149,9042

0,0848 654.216,085 0,0871 8.250.516,913 0,0991 654.445,099 0,0783 8.250.498,078 = 0,0910 654.421,909 0,0995 8.250.299,099 0,0929 654.220,907 0,0907 8.250.301,425

O modelo deste problema é do tipo não linear, e por essa razão, é necessário se aplicar algumas iterações até que o vetor X (das correções) se aproxime de “zero”. Fazendo Xa = Xo após 3 iterações o vetor das correções X se aproxima de zero e como resultado tem-se:

  =



654.322,69 8.250.411,50 149,92

e



⎡ =

⎣

⎤

654.216,80 8.250.516,90 654.445,10 8.250.498,10 654.421,91 8.250.299,10 654.220,91 8.250.301,40

⎦ 75

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O 8º - Cálculo das Matrizes variância-covariância dos parâmetros e das observações ajustadas

 2

 0

 X

a



 K T W r



0,0013121 1

 0,0317101 1   ˆ 02   AT M 1 A   0,000359  0,0006815

 0,0013121

0,0003591 0,0341984 0,0017317

 0,0006815 0,0017317   0,0165042 

m²

 (m)

INCÓGNITA Xc =

654.322,69 m

± 0,178 m

Yc =

8.250.411,50 m

± 0,185 m

R=

149,92 m

± 0,128 m

      ,

%

 L



La

0,03243  0,0328   0  0   0  0   0  0  Ponto

;

, %;

, %



a

  02 P 1  I  B T M 1 BP 1 

0,0328

0

0

0

0

0

0,0332

0

0

0

0

0

0

0,0219

 0,0309

0

0

0

0

 0,0309

0,0437

0

0

0

0

0

0

0,0369

0,0325

0

0

0

0

0,0325

0,0287

0

0

0

0

0

0

0,0354

0

0

0

0

0

 0,0327

E (m)

E (m)

N (m)

  0   0  0   0  0   0,0327  0,0302  0

N (m)

1

654.216,08

0,1801

8.250.516,90

0,1821

2

654.445,10

0,1479

8.250.498,10

0,2091

3

654.421,91

0,1920

8.250.299,1 0

0,1695

4

654.220,91

0,1881

8.250.301,40

0,1739

76

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Se for calculada a matriz de correlação correspondente a La contatar-se-á que as coordenadas x e y tem  xy = 1, ou seja, um erro na determinação da coordenada x tem 100% de probabilidade de afetar a coordenada Y. 9º - Cálculo da área do pivô e precisão da área.

A equação da área de uma circunferência é dada por:

   =

.

Basta substituir o valor do raio calculado na equação para se obter a área.

  =



. (149,92 m) = 70.610,46 m²

Para se determinar a precisão dessa área é só fazer uma propagação de variância.

A =D.R.DT



=

 

 

2. .

Σ

= 2. . 149,92 = 941,98 m

= (0,128)² =0,0164m²

A = 941,98m × 0,0164 m² × 941,98m = 14.537,845m4

Extraindo-se a raiz da variância da área, obtem-se a precisão:

A = 120,573 m²

Finalmente, a área e a precisão procuradas são:

A = 70.610,46 m² ± 120,573 m²

77


REFERÊNCIAS BIBLIOBRÁFICAS CAMARGO, P. O. Ajustamento de Observações. Presidente Prudente. (Notas de aula do Curso de Graduação em Engenharia Cartográfica, FCT/UNESP) , 2000. DALMOLIM, Q. Ajustamento por Mínimos Quadrados. Curitiba: Ed. UFPR, 2002. GEMAEL, C. Introdução ao Ajustamento de Observações: Aplicações Geodésicas. Curitiba: Ed. UFPR, 1994. MONICO, J. F. G eti alli. Acurácia e precisão: Revendo os conceitos de forma acurada. Boletim Ciências Geodésicas, sec. Comunicações, Curitiba, v. 15, no 3, p.469-483, jul-set, 2009.

78


APÊNDICE A

79


Ajustamento de poligonais topográficas/geodésicas pelo método dos correlatos. Normalmente quando é feito um levantamento topográfico, seja ele para definir a divisa de uma propriedade ou para alguma obra de engenharia, é necessária a utilização de poligonais neste levantamento. As poligonais podem ser classificadas como abertas ou fechadas e com controle e sem controle. O que se tratará neste texto é o ajustamento de poligonais planas abertas e controladas. Se os dados da poligonal forem oriundos da superfície elipsoidal, deve-se proceder inicialmente a transformação destes para a superfície de projeção (UTM). Estas transformações são objetos da Geodésia e não serão tratadas aqui. Inicialmente é preciso estabelecer algumas condições deste problema: a) toda poligonal controlada sai de um marco de coordenadas conhecidas e termina em outro de coordenadas também conhecidas; b) é necessário que se conheça o azimute de uma direção tanto no marco inicial como no final. Estes azimutes são definidos como de saída e chegada; Para entender o processo de ajustamento vamos imaginar a poligonal esquematizada na figura 1. M1

a2 a4

a1

1

d M 2 1

a3

d

1 2

M2

M4

d 2 3 2

3

d

a5

3 4

a6

4

d 4 M

3

M3

Figura 1 – Poligonal plana controlada

Os marcos M1, M2, M3 e M4 têm coordenadas conhecidas e, deste modo, tem-se as coordenadas de saída ( M2) e chegada ( M3) e os marcos M2 associado ao M1 e o M3 associado ao M4 permitem que se calcule os azimutes de saída e chegada. Estão explicitados ainda nesta figura, os valores observados (ângulos e distâncias).

80

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Nota-se que o número de distâncias medidas é igual aos dos ângulos horizontais diminuídos de 1, ou seja: são 6 ângulos e 5 distâncias. Essa regra vale sempre e o número de observações totais (ângulos horizontais e distâncias) é dado por:

n = 2v-1 onde: v = é o número de vértices efetivamente ocupados. No presente caso, 6 vértices ( M2, 1, 2, 3, 4 e M3). O método correlato ou das equações de condição, ao ser aplicado a este tipo de problema, impõe 3 equações de condição, independente do número de observações; uma relativa ao azimute e outras duas as coordenadas x e y. No que diz respeito à equação de azimute, ao se transportar o azimute da direção M2M1, através dos ângulos horizontais medidos, para a direção M3M4, esse valor calculado, se não existissem erros de observação, seria igual ao azimute calculado através das coordenadas dessa direção. Assim, a equação de condição do azimute é:

 −  onde:

 

= 0 (1)

-

é o azimute final ou de chegada transportado a partir dos ângulos horizontais.

-

é o azimute de chegada calculado pelas coordenadas (conhecido).

Com respeito às equações de coordenadas, o princípio de raciocínio é o mesmo, ou seja, as coordenadas X e Y, do marco M3, transportadas através das observações devem ser iguais às coordenadas do próprio marco, ou seja:

 −−  onde:

   

= 0; (2) = 0; (3)

são as coordenadas do marco M3 transportadas a partir das observações.

,

-

,

- são as coordenadas do marco M3 (conhecido).

81

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O O azimute é transportado pela seguinte equação genérica :

   ∑  −  − =

í

(

+

1) × 180° (4)

i = 1, v

Considerando que no caso estudado v = 6, vem:

        −    ∑  ∗      ∑  ∗   =

+

+

+

+

+

+

900°

As coordenadas por sua vez são transportadas pelas equações:

=

í

=

í

+

(5)

+

(6)

i = 1, v-1

Então, aplicando ao problema:

             =

+

+

+

+

+

=

+

+

+

+

+

Estas equações nos mostram que é necessário fazer uma propagação de variâncias para determinar a precisão dos azimutes, uma vez que foram medidos ângulos horizontais. Como a equação dos azimutes é do tipo linear basta aplicar a seguinte equação de propagação:

     =

onde:

×

×

G

-

Matriz dos coeficientes



-

Matriz variância-covariância (M.V.C.) dos ângulos horizontais medidos.

Az

-

Matriz variância-covariância (M.V.C.) dos azimutes calculados.

82

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O A partir da equação (4) e adotando o superíndice ser calculados por:

  

= = = = = =

T

   −     −  −       −  −

para transportado, os azimutes podem

+

+

+

180°

+

+

+

+

+

+

+

+

+

+

+

+

+

+

+

+

+

360°

540°

720°

+

900°

Escrevendo sobre forma matricial:

   ⎣  ⎦ ⎣

1 1 1 = 1 1 1

0 1 1 1 1 1

0 0 1 1 1 1

0 0 0 1 1 1

0 0 0 0 1 1

   ⎦ ⎣⎦

0 0 0 × 0 0 1

+

−  −−  −−

180° 360° 540° 720° 900°

que é uma expressão do tipo Y = G X + C Os ângulos horizontais são oriundos de observações independentes e, portanto, a M.V.C é uma matriz diagonal.

  0



0 0 = 0 0 0

0 0 0 0

0 0

0 0 0

  0 0 0

0 0

0 0 0 0

0 0 0 0 0

  0

Feita a propagação para os azimutes, o próximo passo e gerar a matriz dos pesos do problema que é definida por:

P   02   Lb1 onde:

Sigma-a-priori ou fator de variância da matriz de peso

 02

-

unitária, normalmente igual a 1.

1  Lb

-

M.V.C. das observações invertida.

83

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O A M.V.C. das observações é composta por 4 sub-matrizes.

     =

A sub-matriz dos azimutes foi obtida pela propagação dos ângulos horizontais, e considerando que azimutes e distâncias são medidas não correlacionadas, as sub-matrizes referentes ao azimute e distância são nulas. As distâncias também são não correlacionadas entre si, o que faz com que a sub-matriz das distâncias seja uma matriz diagonal.

     ⎦ ⎣ 0

0 0 0 0

=

0 0 0

0 0

0 0

0 0 0

0 0 0 0

0

Definidos os elementos que compões a M.V.C. da Lb é só proceder à inversão.

∑  ∑  ∑   ∑  ∑  =

0



0

2 =  0 .

0

0

Dando continuidade, é necessário ainda montar as matrizes W = F(L b) e a B 

 F .  La Lb

A matriz W representa o erro de fechamento e é obtida substituindo-se os valores “observados” nas equações de condição, ou seja:

 −                  −                 −  =

+ +

+ +

+ +

+ +

+ +

e a matriz B é gerada pela derivada parcial destas mesmas equações pelas “observações”. O termo observação está entre aspas porque o azimute não é uma observação, mas um valor derivado dos ângulos horizontais observados.

84




=

     

   

   

   

     

     

     

  

  

  

     

aplicando as derivações às equações: 0

0

0

0

0

1

0

0

0

0

0

           ⎣− − − − −     ⎦ 0

=

0

Finalmente é só proceder a sequência de cálculos do método.

M = BP-1BT K = -M-1W V =P-1BTK La = Lb + V Calculado os valores observados ajustados é só aplicá-los no modelo matemático e obter as coordenadas dos vértices. As M.V.C dos valores observados ajustados e dos resíduos são calculados pelas segui ntes expressões matriciais :

 L



a

  02 P 1  I  B T M 1 BP 1 

 V     P B M 1

2 0

T

1

BP 1



O cálculo do sigma-a-posteriori é feito pela seguinte fórmula:  2

 0

onde :

r–



 K T W r

número de equações de condição ou graus de liberdade do problema (r = 3)

85

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Com este valor faz-se o teste de qualidade do ajustamento para verificar se não existem erros grosseiros nos dados. Para entender todo processo, vamos aplicar o método num exemplo prático. Exemplo - Foi executada uma poligonal eletrônica cujos dados estão na sequência. Ajuste a poligonal pelo método dos mínimos quadrados, calcule as coordenadas dos vértices 1, 2, 3 e 4, bem como a precisão de cada um deles. Marcos

E (m)

N (m)

M1

806.473,6434

8.161.899,6488

d =

+/- 5mm +/- 10ppm

(precisão linear)

M2

806.772,2698

8.160.426,9561

 =

5”

(precisão angular)

M3

811.367,2610

8.159.608,7935

M4

812.089,7437

8.160.840,8501

R

ESTAÇÃO

DIREÇÃO

V M2

M1

72º 34’ 46,50”

R

Distância (m)

ESTAÇÃO

1.056,1560

3

V 2

1 M2

1

2

242º 17’ 44,20”

Distância (m)

1.063,5452

4 4 233º 15’ 53,20”

154º 59’ 00,00”

3

1.025,9100

2 1

DIREÇÃO

1.014,3341

M3 M3 141º 14’ 06,30”

1.123,7600

4

97º 29’ 27,00”

-

M4

3

M1

a2 a4 a3

a1

1

d M 2

1

M2

d

1 2

M4

d 2 3 2

3

d

a5

3 4

a6

4

d 4 M

3

M3

86

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O O ajuste pelo método dos mínimos quadrados pelo método dos correlatos implica em três equações de condição, uma relativa a azimute e duas as coordenadas:

 − −  − 

=0

= 0;

= 0;

Para se ter o azimute e as coordenadas transportadas são necessários inicialmente se calcular os azimutes de saída e chegada, depois calcular os azimutes de todas as direções e finalmente transportar as coordenadas. O cálculo dos azimutes de saída e chegada é feito pelas coordenadas dos marcos M1, M2, M3 e M4. Como se quer o azimute da direção M2M1 e M3M4 é importante se calcular a diferença de coordenadas E e N de forma correta. Isto é feito utilizando-se uma regra básica: coordenada do ponto visado menos a coordenada do ponto onde se está estacionado. Então:

E2E1 = E1 – E2



806.473,6434m -

806.772,2698m



E2E1 =

-298,6264 m

N2N1 = N1 – N2



8.161.899,6488m -

8.160.426,9561m



N2N1 =

1.472,6927m

E3E4 = E4 – E3



812.089,7437m -

811.367,2610m



E3E4 =

722,4827m

N3N4 = N4 – N3



8.160.840,8501m -

8.159.608,7935m



N3N4 =

1.232,0566m

Aplicando uma relação trigonométrica calculam-se os azimutes Norte

  − 

E2E1 N2N1

=

M1

( 0,202775773) 

=

1 1



  − =

298,6264 m

1.472,6927m

AZM2M1 = -11°27’ 45,9851”

−

Fazendo um estudo de sinal chega-se a conclusão que o azimute é um arco do 4° quadrante (E2E1  e N2N1  +).

d M 2 1

AZM2M1 = 348°32’ 14,0149” (azimute de saída)

M2

Fazendo o mesmo cálculo para a direção M3M4, vem:

AZM2M1 Norte

    =

M4

=

AZM3M4 6

4

E3E4 N3N4



  =

722,4827m 1.232,0566m

(0,586403823)  AZM3M4 = 30°23’ 15,0816”

Pelo estudo de sinal chega-se a conclusão que o azimute de chegada é um arco do 1° quadrante (E3E4  + e N3N4  +).

d 4

M 3

M3

87

IFG - INSTITUTO FEDERAL DE EDUCAÇÃO, CIÊNCIAS E TECNOLOGIA DE GOIÁS A J U S T A M E N T O D E O B S E R V A Ç Õ E S – P R O F . N I L T O N R I C E T T I X A V I E R D E N A Z A R E N O Com o azimute de saída se pode calcular todos os azimutes pela equação genérica:

   ∑  −  − =

í

(

+

1) × 180°

i = 1, v

Então:

     

= 348°32’ 14,0149” + 72° 34’ 46,50” = 348°32’ 14,0149” + 72° 34’ 46,50” + 233° 15’ 53,20”

−

180°

−

= 348°32’ 14,0149” + 72° 34’ 46,50” + 233° 15’ 53,20” + 141° 14’ 06,30”

360°

= 348°32’ 14,0149” + 72° 34’ 46,50” + 233° 15’ 53,20” + 141° 14’ 06,30” + 242° 17’ 44,20”

−

540°

−

= 348°32’ 14,0149” + 72° 34’ 46,50” + 233° 15’ 53,20” + 141° 14’ 06,30” + 242° 17’ 44,20” + 154° 59’ 00,00”

−

720°

= 348°32’ 14,0149” + 72° 34’ 46,50” + 233° 15’ 53,20” + 141° 14’ 06,30” + 242° 17’ 44,20” + 154° 59’ 00,00” + 97° 29’ 27,00” 900°

   

     

= 421°07 00,5149"



= 474°22 53,7149"



= 435°37 00,0149"



= 497°54 44,2149"



= 472°53 4 ,2149"



= 390°23 11,2149"



    

     

=

61°07 00,5149"

=

114°22 53,7149"

=

75°37 00,0149"

=

137°5 4 ,2149"

=

112°53 4 ,2149"

=

30°23 11,2149"

Com os azimutes calculados associado às distâncias medidas, se pode agora calcular as coordenadas transportadas do marco M3.

            

 

=

+

+

+

+

+

=

+

+

+

+

+

= 806.772,2698 + ×

 

) + ) +

′ 

 

′ 

 

1.056,1560 × (61°07 0 0,5149") + 1.025,9100 × (114°22 5 3,7149") + 1.123,7600 ' (75°37 00,0149 1.063,5452 × sen(137°54 44,2149) + 1.014,3341 × (112°53 44,2149")

′ 



′



= 8.160.426,9561 + 1.056,1560 × (61°07 00,5149") + 1.025,9100 × (114°22 53,7149") + 1.123,7600 × (75°37 00,0149 1.063,5452 × (137°54' 44,2149) + 1.014,3341 × (112°53 44,2149")



= 811.367,2783 m

= 8.159.608,8419 m

Com estes valores calculados se determina o vetor erro de fechamento.

 −         −−   =



 



−− −

30°23 11,2149" = 811.367,2783 m 8.159.608,8419 m

30°23’ 15,0816” 811.367,2610m 8.159.608,7935m

  −  

=

03,8667” 0,0173m 0,0484m

88


B 

Para dar continuidade no método é necessário se gerar a matriz dos pesos P e a dos coeficientes  F  La Lb

Para gerar a matriz P precisamos inicialmente propagar a precisão dos ângulos para os azimutes. A propagação é feita pela equação matricial:

     =

×

×

A matriz G é obtida do modelo matemático de cálculos dos azimutes na forma matricial

   ⎢   ⎥ ⎣

1 1 1 = 1 1 1

0 1 1 1 1 1

0 0 1 1 1 1

0 0 0 1 1 1

0 0 0 0 1 1

  ⎦ ⎣⎦

0 0 0 × 0 0 1

+

⎡  − ⎢  −− ⎢⎣  −−

⎤ ⎥ ⎥⎦

1 1  G= 1 1 1 1

0 0 0 25" 0 0

0 0 0 0 25" 0

180° 360° 540° 720° 900°

⎣

0 1 1 1 1 1

0 0 1 1 1 1

0 0 0 1 1 1

0 0 0 0 1 1

0 0 0 0 0 1

⎦

e a M.V.C dos ângulos  é uma matriz diagonal composta pelas variâncias dos ângulos  25"2)

  0

∑

=

⎣

0 0 0 0 0

0 0 0 0

0 0

0 0 0

0 0 0 0

  0 0 0

0 0 0 0 0

  ⎦

0 0

25" 0 = 0 0 0 0

∑



aplicando a multiplicação matricial



⎣

0 1 1 1 1 1

0 0 1 1 1 1

0 0 0 1 1 1

25" 0 0 0 0 × 0 0 0 0 0 1 0

0 0 0 0 1 1

0 25" 0 0 0 0

⎣

0

1 1 1 = 1 1 1



⎦ ⎣



0 25" 0 0 0 0

    

     

     

25" 50" 75" 75" 75" 75"





0 0 25" 0 0 0



     

0 0 25" 0 0 0



0 0 0 25" 0 0

0 0 0 0 25" 0





     





0 0 0 0 0 25"



⎦

0 1 1 1 0 0 1 1 0 × 0 0 1 0 0 0 0 0 0 0 0 0 0 0 " 25



     

⎦ ⎣

1 1 1 1 0 0

1 1 1 1 1 0

1 1 1 1 1 1

⎦

25" 25" 25" 25" 25" 25" 25" 50" 50" 50" 50" 50" " " " " " 75 75 75" = 25" 50" 75" 25 50 75 100" 100" 100" 25" 50" 75" 100" 125" 125" 25" 50" 75" 100" 125" 150" Para que haja compatibilidade de unidades os valores dessa matriz têm que ser transformado em radianos. Como os valores estão em segundos de arco ao quadrado (“2) basta multiplicar todos os elementos por (1").





25" 25" " = 25" 25 25" 25"

     

25" 50" 50" 50" 50" 50"

     

     

25" 50" 75" 100" 100" 100"

     

25" 50" 75" 100" 125" 125"

    

     

25" 50" 75" × 100" 125" 150"





(1")

89




0,587611 0,587611 0,587611 = 0,587611 0,587611 0,587611

⎣

0,587611 1,17522 1,17522 1,17522 1,17522 1,17522

0,587611 1,17522 1,76283 1,76283 1,76283 1,76283

0,587611 1,17522 1,76283 2,35044 2,35044 2,35044

0,587611 1,17522 1,76283 2,35044 2,93805 2,93805

0,587611 1,17522 1,76283 × 10 9 radianos 2,35044 2,93805 3,52566

⎦

−

Com a M.V.C. dos azimutes conhecida, é necessário que se calcule a variância das distâncias. A especificação do equipamento informa que a precisão da distância e dada pela equação:

d =+/- 5mm +/- 10ppm Então:

dM21 =

1.056,1560m

d12 =

1.025,9100m

d23 =

1.123,7600m

d34 =

1.063,5452m

d4M3 =

1.014,3341m

    

    

+

10 × 1.056,1560m 1.000.000

= 0,005 +

10 × 1.025,9100m 1.000.000

= 0,005 +

10 × 1.123,7600m 1.000.000

= 0,005 +

10 × 1.063,5452m 1.000.000

= 0,005

10 × 1.014,3341m 1.000.000

= 0,005

+

              

    

= 0,0156

= 0,0002422m

= 0,0153

= 0,0002328m

= 0,0162

= 0,0002637m

= 0,0156

= 0,0002445m

= 0,0151

= 0,0002293m

Lembrando que a M.V.C das distâncias é uma matriz diagonal, com esses valores é possível montar a matriz Peso. É importante lembrar que no método correlato, o que se utiliza é a matriz peso invertida e assim se aplicam as próprias matrizes variâncias covariâncias.

    0

=

  

⎡



0 ,587× 10 0,587× 10 0,587× 10 0,587× 10 0,587× 10 = 0,587× 10 0 0 0 0 0

⎢⎣

0,587× 1,175× 1,175× 1,175× 1,175× 1,175× 0 0 0 0 0

  

10 10 10 10 10 10

  

0,587× 10 1,175× 10 1,762× 10 1,762× 10 1,762× 10 1,762× 10 0 0 0 0 0

 02

  

×

0

  

0,587× 10 1,175× 10 1,762× 10 2,350× 10 2,350× 10 2,350× 10 0 0 0 0 0

0,587× 10 1,175× 10 1,762× 10 2,350× 10 2,938× 10 2,938× 10 0 0 0 0 0

0,587× 1,175× 1,762× 2,350× 2,938× 3,526× 0 0 0 0 0

  

10 10 10 10 10 10

⎤

0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0,0002422 0 0 0 0 0 0,0002328 0 0 0 0 0 0,0002637 0 0 0 0 0 0,0002445 0 0 0 0 0 0,0002293

⎥⎦

Finalmente é necessário se calcular a matriz B que é obtida derivando-se parcialmente as equações de condição pelas observações. 0

0

0

0

0

1

0

0

0

0

0

           ⎣− − − − −     ⎦ =

0 0

90




0

0

− ⎣− − − 510,15

=

924,78

0

0

423,51

279,15

934,42

1088,54

− − − −

0

1

0

789,28

394,63 0 0,87561

712,86

934,42 0 0,48303

0

0

0

0

0,91082

0,96866

0,67027

0,92122

−

0,41281 0,24841

−

0,74212

− ⎦ 0,38905

Agora é apenas uma questão de operações com matrizes:

M = BP-1BT K = -M-1W V =P-1BTK La = Lb + V

 −− − =

  =

 

3,52566 × 10 2,72045 × 10 7,98137 × 10

−



2,72045 × 10 0,003756798 0,007765259

−

949.839.096,3969 269.160,1818 202.543,8692 269.160,1818 728,7857 129,5082 202.543,8692 129,5082 133,6138 0,0000037 rad 0,0000076 rad 0,0000110 rad 0,0000143 rad 0,0000168 rad = 0,0000187 rad 0,0003300 m 0,0002403 m 0,0003657 m 0,0001405 m 0,0002421 m

  − −− ⎣−− =

−



7,98137 × 10 0,007765259 0,027109793



 −  −− 



=

 transformando a correção dos ângulos para segundos 

⎦

Finalmente:

   =

+

′ ′ ′ ′ ′′

0,7710" 1,5766" 2,2666" 2,9457" 3,4618" 3,8667" 0,0003 m 0,0002 m 0,0004 m 0,0001 m 0,0002 m

− −− ⎣−− ⎦ =

′ ′ ′ ′ ′′

61 °07 01,2859 114 °22 55,2915 75 °37 02,2814 137 °54 47,1606 112 °53 47,6766 = 30 °23 15,0816 1.056,1557 m 1.025,9098 m 1.123,7596 m 1.063,5451 m 1.014,3339 m

⎣

3.341,3684 1,3240 0,4215

=

⎦

Esses são os valores ajustados das observações usando o critério de mínimos quadrados. No entanto, antes de se passar para os cálculos das coordenas dos vértices da poligonal, é necessário se testar a qualidade do ajustamento.

91






O teste é feito aplicando-se um teste de hipótese onde se compara o sigma-a-priori ( posteriori ( = ), ou seja:

  

Teste de hipótese.

) com o sigma-a-

   ̂ −

Hipótese básica Hipótese alternativa qui-quadrado amostral

Ho

:

=

H1

:

>

=

É verificado se o qui-quadrado amostral atende a equação abaixo:

 ̂     −       ̂ <

( ,

)

= 1

O teórico é obtido de uma tabela ou diretamente no Excel através da função “inv.Qui(,GL)”. Considerando um nível de significância  = 10% e GL = 3, vem  Aplicando a equação



 ̂

=



e lembrando que

(

=1

%, )

= 6,25 (valor teórico)



= 0,1060

 

Como esse valor é menor que o qui-quadrado teórico entende-se que estatisticamente = o que indica que a hipótese Ho é válida e o ajustamento não apresenta problemas e, portanto, os resultados são confiáveis. Dando continuidade ao problema é preciso calcular as M.V.C dos valores observados ajustados. Isso é feito através da equação matricial:

 L

a

La =



  02 P 1  I  B T M 1 BP 1 

8,76x10-12

1,88x10-12 -2,90x10-12 -2,71x10-12 -2,45x10-12

0

-4,38x10-10

-1,79x10-9

-1,01x10-9

-2,06x10-9

-1,74x10-9

1,88x10-12

8,80x10-12 -4,75x10-13 -4,00x10-12 -4,30x10-12

0

8,27x10-10

-1,04x10-9

3,37x10-10

-1,74x10-9

-9,75x10-10

-2,90x10-12 -4,75x10-12

7,23x10-12

4,06x10-13

-2,44x10-12

0

1,10 x10-9

-9,70x10-10

5,90x10-10

-1,79x10-9

-9,03x10-10

-2,71x10-12 -4,00x10-12

4,06x10-13

7,95x10-12

1,19 x10-12

0

2,44 x10-9

9,75x10-10

2,42x10-9

1,66x10-11

1,02x10-9

-2,45x10-12 -4,30x10-12 -2,44x10-12

1,19x10-12

9,17 x10-12

0

1,68 x10-9

7,81x10-10

1,70x10-9

1,53x10-10

8,05x10-10

0

0

0

0

0

0

-3,71x10-24

3,74x10-24

3,74x10-24

2,10x10-24

2,81x10-24

-4,38x10-10

8,27x10-10

1,10x10-9

2,44x10-9

1,68x10-9

-3,71x10-24

7,56x10-6

-1,08x10-6

-1,23x10-6

-8,83x10-7

-1,08x10-6

-1,79x10-9

-1,04x10-9

-9,70x10-10

9,75x10-10

7,81x10-10

3,74x10-24

-1,08x10-6

6,84x10-6

-1,41x10-6

-1,23x10-6

-1,37x10-6

-1,01x10-9

3,37x10-10

5,90x10-10

2,42x10-9

1,70x10-9

3,74x10-24

-1,23x10-6

-1,41x10-6

7,77x10-6

-1,18x10-6

-1,40x10-6

-2,06x10-9

-1,74x10-9

-1,79x10-9

1,66x10-11

1,53x10-10 -2,34x10-25

-8,83x10-7

-1,23x10-6

-1,18x10-6

7,52x10-6

-1,21x10-6

-1,74x10-9

-9,75x10-10 -9,03x10-10

1,02x10-9

8,05x10-10

-1,08x10-6

-1,37x10-6

-1,40x10-6

-1,21x10-6

6,74x10-6

2,64x10-24

92

Ajustamento de Observações

Recommend Documents