Элементы техники вычислений

По своей природе числа бывают точными и приближёнными; в геодезических вычислениях большинство чисел являются приближёнными. Правильная запись приближённого числа несёт информацию не только о величине числа, но и о его точности; считается, что записанное приближённое число ошибочно не более, чем на половину единицы последнего разряда. Например, число 3,24 ошибочно не более чем на 0,005.

Все цифры числа кроме нулей слева являются значащими цифрами; например:

2,145 - 4 значащих цифры;

0,004147 - 4 значащих цифры;

40,00 - 4 значащих цифры.

При записи очень большого или очень маленького числа с ограниченной точностью рекомендуется использовать степень числа 10; например, число 2,47 ^. 10⁶ имеет три верных значащих цифры; число 0,45 ^. 10^-7 – две верных значащих цифры. Верными значащими цифрами числа считаются те цифры, значение которых больше ошибки этого числа.

Количество верных значащих цифр результата умножения, деления, возведения в целую степень и извлечения целого корня определяется наименьшим количеством значащих цифр в исходных числах:

2,457 ^. 0,62 = 1,52334 = 1,5

(4) (2) (2 верных значащих цифры);

2,457 : 0,62 = 3,96290 = 4,0

(4) (2) (2 верных значащих цифры);

2,45² = 6,0025 = 6,00 (3 верных значащих цифры);

= 1,5652 = 1,57 (3 верных значащих цифры).

При выполнении этого правила применяется округление приближённых чисел, которое предусматривает, что:

- если первая отбрасываемая цифра больше 5 или 5 с последующими цифрами не равными нулю, то последняя оставляемая цифра увеличивается на единицу (2,461 ≈ 2,5; 2,4503 ≈ 2,5);

- если первая отбрасываемая цифра меньше 5, то последняя оставляемая цифра не изменяется (2,441 ≈ 2,4);

- если первая отбрасываемая цифра есть 5 и за ней либо нет цифр, либо есть одни нули, то последняя оставляемая цифра округляется до ближайшей чётной цифры (2,55 ≈ 2,6; 2,65000 ≈ 2,6).

При сложении и вычитании приближённых чисел количество верных десятичных знаков в ответе определяется наименьшим количеством десятичных знаков в исходных числах:

206,8 + 21,385 + 0,2751 = 228,4601 = 228,5

(1) (3) (4) (1 верный десятичный знак).

Если в задаче более одной операции, то в результатах промежуточных операций рекомендуется оставлять одну запасную цифру. Существует три формы записи угла в градусной системе:

- полная (до секунд.) 245⁰14’35,7”

- неполная (до минут) 245⁰14,6’

- десятичная (до градусов) 245,24325⁰ .

Правила вычислений.

Вычислительная обработка результатов измерений требует прежде всего аккуратности и внимания. Ее выполняют в последовательности, определяемой формами журналов и бланков для вычислений. Это позволяет избежать просчетов и напрасных затрат труда на отыскание ошибок. В процессе вычислений придерживаются определенных правил.

1. Получение каждого результата контролируют, ибо без проверки вычисление считается незаконченным.

2. Записи ведут аккуратно и четко, применяя табличный шрифт; ошибочно сделанную запись перечеркивают одной чертой, цифру по цифре не пишут. Чтобы не допустить ошибок, вычисления не переписывают. Результаты полевых измерений записывают только в журналах установленной формы, которые являются документами строгого учета. Все журналы и страницы в них должны быть пронумерованы и заверены руководителем работ. В журналах пишут простым карандашом, шариковой ручкой. Пользоваться резинкой для исправления записей в журнале запрещается. Неудовлетворительные или неправильные записи аккуратно перечеркивают и далее записывают результаты повторных наблюдений с припиской слова «повторный» или «bis» И указанием причины повторного измерения. Полевой журнал переписывать строго запрещается.

3. Значащих цифр, которые нужно удерживать в промежуточных результатах, при вычислениях должно быть на одну больше, чем требуется в конечных результатах и имеется в исходных данных и результатах измерений.

4. Если число требуется округлить, погрешность оставшегося числа должна быть не более чем на 5 отброшенных единиц; если отбрасываемая часть числа состоит из одной цифры 5, последняя оставшаяся цифра должна быть четной.

Числа до округления .... 124,372; 124,376; 124,375; 124,365.

Числа после округления 124,37; 124,38; 124,38; 124,36.

5. При сложении и вычитании приближенных чисел в окончательном результате сохраняют столько десятичных знаков, сколько их в числе с наименьшим количеством десятичных знаков. При умножении и делении приближенных чисел в результате сохраняют столько значащих цифр, сколько их в числе

с наименьшим количеством значащих цифр. При возведении" приближенных чисел в квадрат и куб в результате сохраняют столько значащих цифр, сколько их в основании степени. При извлечении корня в результате записывают столько значащих цифр, сколько их в подкоренном числе. При интерполировании берут один лишний десятичный знак.

Вопросы для контроля