Запись результатов наблюдений

Наличие абсолютной погрешности DX определяет точность, с которой имеет смысл вычислять результат измерений. Например, некорректной является запись результата измерения длины

.

Правильной является запись

.

Результат должен быть округлен таким образом, чтобы его последняя значащая цифра заканчивалась в том же разряде, что и последняя значащая цифра погрешности. При записи погрешности, как правило, сохраняется одна значащая цифра. Запись не имеет смысла, т.к. ошибаемся при измерении уже в десятых долях. Правильно – . Иногда, если первая цифра единица или двойка, допускается запись погрешности с двумя значащими цифрам:

или D .

При округлении числовых значений следует пользоваться следующими правилами.

1. Если при округлении отбрасывается ровно 5, то последняя сохраняемая цифра округляется до четной.

2. Считается, что любое округленное число имеет предельную погрешность до половины последнего знака, если погрешность не указана специально. Например, если округлены табличные значения до чисел 1289, 1290, 1567, 1700, то все они имеют погрешность . (Не путать с погрешностью чисто табличных величин). Поэтому запись числа должна всегда оканчиваться знаком, за которым шли отброшенные при округлении цифры. Например, число 6,209 при округлении до сотых записывают как 6,21, а не 6,210, что означает наличие погрешности только в десятитысячных, а не в тысячных.

3. При обработке результатов наблюдений промежуточные вычисления производят с числом значащих цифр на одну больше, чем в результатах наблюдений. Округления делают в конце всех вычислений.

4. Математические операции с округленными числами следует производить с соблюдением следующих правил:

а) при сложении, вычитании, умножении и делении результат не должен содержать значащих цифр в тех разрядах, которые отсутствуют хотя бы в одном из исходных чисел;

б) при возведении в степень 2, 3 или 1/2, 1,3 результат должен содержать столько значащих цифр, сколько их имеется в основании.