Как узнать абсолютную погрешность измерения. Абсолютная погрешность

Истинное значение физической величины определить абсолютно точно практически невозможно, т.к. любая операция измерения связана с рядом ошибок или, иначе, погрешностей. Причины погрешностей могут быть самыми различными. Их возникновение может быть связано с неточностями изготовления и регулировки измерительного прибора, обусловлено физическими особенностями исследуемого объекта (например, при измерении диаметра проволоки неоднородной толщины результат случайным образом зависит от выбора участка измерений), причинами случайного характера и т.д.

Задача экспериментатора заключается в том, чтобы уменьшить их влияние на результат, а также указать, насколько полученный результат близок к истинному.

Существуют понятия абсолютной и относительной погрешности.

Под абсолютной погрешностью измерений будет понимать разницу между результатом измерения и истинным значением измеряемой величины:

∆x i =x i -x и (2)

где ∆x i – абсолютная погрешность i-го измерения, x i _- результат i-го измерения, x и – истинное значение измеряемой величины.

Результат любого физического измерения принято записывать в виде:

где – среднее арифметическое значение измеряемой величины, наиболее близкое к истинному значению (справедливость x и≈ будет показана ниже), - абсолютная ошибка измерений.

Равенство (3) следует понимать таким образом, что истинное значение измеряемой величины лежит в интервале [ - , + ].

Абсолютная погрешность – величина размерная, она имеет ту же размерность, что и измеряемая величина.

Абсолютная погрешность не полностью характеризует точность произведенных измерений. В самом деле, если мы измерим с одной и той же абсолютной ошибкой ± 1 мм отрезки длиной 1 м и 5 мм, точность измерений будут несравнимы. Поэтому, наряду с абсолютной погрешностью измерения вычисляется относительная погрешность.

Относительной погрешностью измерений называется отношение абсолютной погрешности к самой измеряемой величине:

Относительная погрешность – величина безразмерная. Она выражается в процентах:

В приведенном выше примере относительные ошибки равны 0,1% и 20%. Они заметно различаются между собой, хотя абсолютные значения одинаковы. Относительная ошибка дает информацию о точности

Погрешности измерений

По характеру проявления и причинам появления погрешности можно условно разделить на следующие классы: приборные, систематические, случайные, и промахи (грубые ошибки).

П р о м а х и обусловлены либо неисправностью прибора, либо нарушением методики или условий эксперимента, либо имеют субъективный характер. Практически они определяются как результаты резко отличающиеся от других. Для устранения их появления требуется соблюдать аккуратность и тщательность в работе с приборами. Результаты, содержащие промахи, необходимо исключать из рассмотрения (отбрасывать).

Приборные погрешности. Если измерительный прибор исправен и отрегулирован, то на нем можно провести измерения с ограниченной точностью, определяемой типом прибора. Принято приборную погрешность стрелочного прибора считать равной половине наименьшего деления его шкалы. В приборах с цифровым отсчетом приборную ошибку приравнивают к величине одного наименьшего разряда шкалы прибора.

Систематические погрешности - это ошибки, величина и знак которых постоянны для всей серии измерений, проведенных одним и тем же методом и с помощью одних и тех же измерительных приборов.

При проведении измерений важен не только учет систематических ошибок, но необходимо также добиваться их исключения.

Систематические погрешности условно разделяются на четыре группы:

1) погрешности, природа которых известна и их величина может быть достаточно точно определена. Такой ошибкой является, например, изменение измеряемой массы в воздухе, которая зависит от температуры, влажности, давления воздуха и т.д.;

2) погрешности, природа которых известна, но неизвестна сама величина погрешности. К таким погрешностям относятся ошибки, обусловленные измерительным прибором: неисправность самого прибора, несоответствие шкалы нулевому значению, классу точности данного прибора;

3) погрешности, о существовании которых можно не подозревать, но величина их зачастую может быть значительной. Такие ошибки возникают чаще всего при сложных измерениях. Простым примером такой ошибки является измерение плотности некоторого образца, содержащего внутри полости;

4) погрешности, обусловленные особенностями самого объекта измерения. Например, при измерении электропроводности металла из последнего берут отрезок проволоки. Погрешности могут возникнуть, если имеется какой-либо дефект в материале - трещина, утолщение проволоки или неоднородность, меняющие его сопротивление.

Случайные погрешности - это ошибки, которые изменяются случайным образом по знаку и величине при идентичных условиях повторных измерений одной и той же величины.


Похожая информация.


В этой теме буду писать что-то вроде краткой шпаргалки по погрешностям. Опять же, данный текст ни в коей мере не официальный и ссылаться на него недопустимо. Буду признателен за исправление любых ошибок и неточностей, которые могут быть в этом тексте.

Что такое погрешность?

Запись результата эксперимента вида () означает, что если мы проведем очень много идентичных экспериментов, то в 70% полученные результаты будут лежать в интервале , а в 30% - не будут.

Или, что тоже самое, если мы повторим эксперимент, то новый результат ляжет в доверительный интервал с вероятностью, равной доверительной вероятности .

Как округлять погрешность и результат?

Погрешность округляется до первой значащей цифры , если она не единица. Если единица - то до двух. При этом значащей цифрой называется любая цифра результата кроме нулей впереди.

Округляем до или или но ни в коем случае не или , поскольку тут 2 значащие цифры - 2 и 0 после двойки.

Округляем до или

Округляем до или или

Результат округляем таким образом, чтобы последняя значащая цифра результата соответствовала последней значащей цифре погрешности .

Примеры правильной записи :

мм

Мм Держим тут в погрешности 2 значащие цифры потому что первая значащая цифра в погрешности - единица.

мм

Примеры неправильной записи :

Мм. Здесь лишний знак в результате . Правильно будет мм.

мм. Здесь лишний знак и в погрешности, и в результате. Правильно будет мм.

В работе использую значение, данное мне просто в виде цифры. Например, масса грузиков. Какая у нее погрешность?

Если погрешность явно не указана, можно взять единицу в последнем разряде. То есть если написано m=1.35 г, то в качестве погрешность нужно взять 0.01 г.

Есть функция от нескольких величин У каждой из этих величин есть своя погрешность. Чтобы найти погрешность функции надо сделать следующее:

Символ означает частную производную f по x. Подробнее про частные производные .

Положим, вы меряли одну и ту же величину x несколько (n) раз. Получили набор значений.. Вам необходимо посчитать погрешность разброса, посчитать приборную погрешность и сложить их вместе.

По пунктам.

1. Считаем погрешность разброса

Если все значения совпали - никакого разброса у вас нет. Иначе - есть погрешность разброса , которую надо вычислить. Для начала вычисляется среднеквадратичная погрешность среднего:

Здесь означает среднее по всем .
Погрешность разброса получается умножением среднеквадратичной погрешности среднего на коэффициент Стьюдента , который зависит от выбранной вами доверительной вероятности и числа измерений n :

Коэффициенты Стьюдента берем из нижеприведенной таблицы. Доверительная вероятность выбитается произвольно, число измерений n мы также знаем.

2. Считаем приборную погрешность среднего

Если погрешности разных точек разные, то по формуле

При этом естественно, у всех доверительная вероятность должна быть одинаковой.

3. Складываем среднее с разбросом

Погрешности всегда складываются как корень из квадратов:

При этом нужно убедиться, что доверительные вероятности с которыми были вычислены и совпадают.


Как по графику определить приборную погрешность среднего? Ну т.е., используя метод парных точек или метод наименьших квадратов, мы найдем погрешность разброса среднего сопротивления. Как найти приборную погрешность среднего сопротивления?

И в МНК и в методе парных точек можно дать строгий ответ на этот вопрос. Для МНК форума в Светозарове есть ("Основы...", раздел про метод наименьших квадратов), а для парных точек первое, что приходит в голову (в лоб, что называется) это посчитать приборную погрешность каждого углового коэффициента. Ну и далее по всем пунктам...

Если же не хочешь мучиться, то в лабниках дан простой способ для оценки приборной погрешности углового коэффициента, именно из МНК следующий (например перед работой 1 в лабнике "Электроизмерительные приборы. ..." последняя страница Метод.рекомендаций).

Где - величина максимального отклонения по оси Y точки с погрешностью от проведенной прямой, а в знаменателе стоит ширина области нашего графика по оси Y. Аналогично по оси X.


На магазине сопротивлений написан класс точности: 0,05/4*10^-6? Как из этого найти погрешность прибора?

Это означает, что предельная относительная погрешность прибора (в процентах) имеет вид:
, где
- наибольшее значение сопротивления магазина, а - номинальное значение включённого сопротивления.
Легко видеть, что второе слагаемое важно тогда, когда мы работаем на очень малых сопротивлениях.

Подробнее всегда можно посмотреть в паспорте прибора. Паспорт можно найти в интернете, забив марку прибора в гугл.

Литература про погрешности

Гораздо больше информации по этому поводу можно найти в рекомендованной для первокурсников книге:
В.В. Светозаров "Элементарная обработка результатов измерений"

В качестве дополнительной (для первокурсников дополнительной) литературы можно порекомендовать:
В.В.Светозаров "Основы статистической обработки результатов измерений"

И уж тем кто хочет окончательно во всем разобраться непременно стоит заглянуть сюда:
Дж. Тейлор. "Введение в теорию ошибок"

Спасибо "у за нахождение и размещение у себя на сайте этих замечательных книжек.

1. Введение

Работа химиков, физиков и представителей других естественно-научных профессий часто связана с выполнением количественных измерений различных величин. При этом возникает вопрос анализа достоверности получаемых значений, обработки результатов непосредственных измерений и оценки погрешностей расчетов, в которых используются значения непосредственно измеряемых характеристик (последний процесс также называется обработкой результатов косвенных измерений). По целому ряду объективных причин знания выпускников химического факультета МГУ о расчете погрешностей не всегда достаточны для правильной обработки получаемых данных. В качестве одной из таких причин можно назвать отсутствие в учебном плане факультета курса по статистической обработке результатов измерений.

К данному моменту вопрос вычисления погрешностей, безусловно, изучен исчерпывающе. Существует большое количество методических разработок, учебников и т.д., в которых можно почерпнуть информацию о расчете погрешностей. К сожалению, большинство подобных работ перегружено дополнительной и не всегда нужной информации. В частности, большинство работ студенческих практикумов не требует таких действий, как сравнение выборок, оценка сходимости и др. Поэтому кажется целесообразным создание краткой разработки, в которой изложены алгоритмы наиболее часто употребляемых вычислений, чему и посвящена данная разработка.

2. Обозначения, принятые в данной работе

Измеряемая величина, -среднее значение измеряемой величины, - абсолютная погрешность среднего значения измеряемой величины, - относительная погрешность среднего значения измеряемой величины.

3. Расчет погрешностей непосредственных измерений

Итак, предположим, что были проведены n измерений одной и той же величины в одних и тех же условиях. В этом случае можно рассчитать среднее значение этой величины в проведенных измерениях:

(1)

Как вычислить погрешность ? По следующей формуле:

(2)

В этой формуле используется коэффициент Стьюдента . Его значения при разных доверительных вероятностях и значениях приведены в .

3.1. Пример расчета погрешностей непосредственных измерений:

Задача.

Проводили измерения длины металлического бруска. Было сделано 10 измерений и получены следующие значения: 10 мм, 11 мм, 12 мм, 13 мм, 10 мм, 10 мм, 11 мм, 10 мм, 10 мм, 11 мм. Требуется найти среднее значение измеряемой величины (длины бруска) и его погрешность .

Решение.

С использованием формулы (1) находим:

мм

Теперь с использованием формулы (2) найдем абсолютную погрешность среднего значения при доверительной вероятности и числе степеней свободы (используем значение =2,262, взятое из ):


Запишем результат:

10,8±0,7 0.95 мм

4. Расчет погрешностей косвенных измерений

Предположим, что в ходе эксперимента измеряются величины , а затем c использованием полученных значений вычисляется величина по формуле . При этом погрешности непосредственно измеряемых величин рассчитываются так, как это было описано в пункте 3.

Расчет среднего значения величины производится по зависимости с использованием средних значений аргументов .

Погрешность величины рассчитывается по следующей формуле:

,(3)

где - количество аргументов , - частные производные функции по аргументам , - абсолютная погрешность среднего значения аргумента .

Абсолютная погрешность, как и в случае с прямыми измерениями, рассчитывается по формуле .

4.1. Пример расчета погрешностей непосредственных измерений:

Задача.

Было проведено 5непосредственных измерений величин и . Для величины получены значения: 50, 51, 52, 50, 47; для величины получены значения: 500, 510, 476, 354, 520. Требуется рассчитать значение величины , определяемой по формуле и найти погрешность полученного значения.

На практике обычно числа, над которыми производятся вычисления, являются приближенными значениями тех или иных величин. Для краткости речи приближенное значение величины называют приближенным числом. Истинное значение величины называют точным числом. Приближенное число имеет практическую ценность лишь тогда, когда мы можем определить, с какой степенью точности оно дано, т.е. оценить его погрешность. Напомним основные понятия из общего курса математики.

Обозначим: x - точное число (истинное значение величины), а -приближенное число (приближенное значение величины).

Определение 1 . Погрешностью (или истинной погрешностью) приближенного числа называется разность между числом x и его приближенным значением а . Погрешность приближенного числа а будем обозначать . Итак,

Точное число x чаще всего бывает неизвестно, поэтому найти истинную и абсолютную погрешности не представляет возможным. С другой стороны, бывает необходимо оценить абсолютную погрешность, т.е. указать число, которого не может превысить абсолютная погрешность. Например, измеряя длину предмета данным инструментом, мы должны быть уверены в том, что погрешность полученного числового значения не превысит некоторого числа, например 0,1 мм. Другими словами, мы должны знать границу абсолютной погрешности. Эту границу будем называть предельной абсолютной погрешностью.

Определение 3 . Предельной абсолютной погрешностью приближенного числа а называется положительное число такое, что , т.е.

Значит, х по недостатку, - по избытку. Применяют также такую запись:

. (2.5)

Ясно, что предельная абсолютная погрешность определяется неоднозначно: если некоторое число есть предельная абсолютная погрешность, то любое большее число тоже есть предельная абсолютная погрешность. На практике стараются выбирать возможно меньшее и простое по записи (с 1-2 значащими цифрами) число , удовлетворяющее неравенству (2.3).



Пример. Определить истинную, абсолютную и предельную абсолютную погрешности числа а = 0,17, взятого в качестве приближенного значения числа .

Истинная погрешность:

Абсолютная погрешность:

За предельную абсолютную погрешность можно принять число и любое большее число. В десятичной записи будем иметь: Заменяя это число большим и возможно более простым по записи, примем:

Замечание . Если а есть приближенное значение числа х , причем предельная абсолютная погрешность равна h , то говорят, что а есть приближенное значение числа х с точностью до h.

Знания абсолютной погрешности недостаточно для характеристики качества измерения или вычисления. Пусть, например, получены такие результаты при измерении длины. Расстояние между двумя городами S 1 =500 1 км и расстояние между двумя зданиями в городе S 2 =10 1 км. Хотя абсолютные погрешности обоих результатов одинаковы, однако существенное значение имеет то, что в первом случае абсолютная погрешность в 1 км приходится на 500 км, во втором - на 10 км. Качество измерения в первом случае лучше, чем во втором. Качество результата измерения или вычисления характеризуется относительной погрешностью.

Определение 4. Относительной погрешностью приближенного значения а числа х называется отношение абсолютной погрешности числа а к абсолютному значению числа х :

Определение 5. Предельной относительной погрешностью приближенного числа а называется положительное число такое, что .

Так как , то из формулы (2.7) следует, что можно вычислить по формуле

. (2.8)

Для краткости речи в тех случаях, когда это не вызывает недоразумений, вместо “предельная относительная погрешность” говорят просто “относительная погрешность”.

Предельную относительную погрешность часто выражают в процентах.

Пример 1 . . Полагая , можем принять = . Производя деление и округляя (обязательно в сторону увеличения), получим =0,0008=0,08%.

Пример 2. При взвешивании тела получен результат: p=23,4 0,2 г. Имеем =0,2. . Производя деление и округляя, получим =0,9%.

Формула (2.8) определяет зависимость между абсолютной и относительной погрешностями. Из формулы (2.8) следует:

. (2.9)

Пользуясь формулами (2.8) и (2.9), мы можем, если известно число а , по данной абсолютной погрешности находить относительную погрешность и наоборот.

Заметим, что формулы (2.8) и (2.9) часто приходится применять и тогда, когда мы еще не знаем приближенного числа а с требуемой точностью, а знаем грубое приближенное значение а . Например, требуется измерить длину предмета с относительной погрешностью не выше 0,1%. Спрашивается: возможно ли измерить длину с нужной точностью при помощи штангенциркуля, позволяющего измерить длину с абсолютной погрешностью до 0,1 мм? Пусть мы еще не измеряли предмет точным инструментом, но знаем, что грубое приближенное значение длины - около 12 см. По формуле (1.9) находим абсолютную погрешность:

Отсюда видно, что при помощи штангенциркуля возможно выполнить измерение с требуемой точностью.

В процессе вычислительной работы часто приходится переходить от абсолютной погрешности к относительной, и наоборот, что делается с помощью формул (1.8) и (1.9).

Абсолютная и относительная погрешности

С приближенными числами нам приходится иметь дело при вычислениях значений каких-либо функций, либо при измерениях и обработке физических величин, получаемых в результате экспериментов. В том и другом случае нужно уметь правильно записывать значения приближенных чисел и их погрешность.

Приближенным числом а называется число, которое незначительно отличается от точного числа А и заменяет последнее в вычислениях . Если известно, что а < А , то а называется приближенным значением числа А по недостатку; если а > А , – то по избытку. Если а есть приближенное значение числа А , то пишут а ≈ А .

Под ошибкой или погрешностью А приближенного числа а обычно понимается разность между соответствующим точным числом А и данным приближенным, т.е.

Чтобы получить точное число А , нужно к приближенному значению числа прибавить его ошибку , т.е.

Во многих случаях знак ошибки неизвестен. Тогда целесообразно пользоваться абсолютной погрешностью приближенного числа

Из приведенной записи следует, что абсолютной погрешностью приближенного числа а называется модуль разности между соответствующими точным числом А и его приближенным значением а , т.е.

Точное число А чаще всего бывает неизвестно, поэтому найти ошибку или абсолютную погрешность не представляется возможным. В этом случае полезно вместо неизвестной теоретической погрешности ввести ее оценку сверху, так называемую предельную абсолютную погрешность.

Под предельной абсолютной погрешностью приближенного числа а понимается всякое число , не меньшее абсолютной погрешности этого числа, т.е.

Если в последней записи вместо использовать формулу (1,1), то можно записать

(1.2)

Отсюда следует, что точное число А заключено в границах

Следовательно, разность есть приближение числа А по недостатку, а – приближение числа А по избытку. В этом случае для краткости пользуются записью

Ясно, что предельная абсолютная погрешность определяется неоднозначно: если некоторое число есть предельная абсолютная погрешность, то любое большее, чем положительное число, тоже есть предельная абсолютная погрешность. На практике стараются выбирать возможно меньшее и простое по записи число ,удовлетворяющее неравенству (1.2).

Например, если в результате измерения получили длину отрезка l = 210 см ± 0,5 см., то здесь предельная абсолютная погрешность = 0,5 см, а точная величина l отрезка заключена в границах 209,5см≤l≤ 210,5см.

Абсолютная погрешность недостаточна для характеристики точности измерения или вычисления. Так, например, если при измерении длин двух стержней получены результаты l 1 = 95,6см ± 0,1см и l 2 =8,3 ± 0,1 см, то, несмотря на совпадение предельных абсолютных погрешностей, точность первого измерения выше, чем второго. Отсюда видно, что для точности измерений важнее не абсолютная, а относительная погрешность, которая зависит от значений измеряемых величин.

Относительной погрешностью δ приближенного числа а называется отношение абсолютной погрешности этого числа к модулю соответствующего точного числа А, т.е.

Аналогично предельной абсолютной погрешности используют также определение и для предельной относительной погрешности. Предельной относительной погрешностью данного приближенного числа а называется всякое число, не меньшее относительной погрешности этого числа

т.е. откуда следует

Таким образом, за предельную абсолютную погрешность числа а можно принять

Так как на практике А≈а ,то вместо формулы (1.3) часто пользуются формулой

1.2 Десятичная запись приближенных чисел

Всякое положительное десятичное число а может быть представлено в виде конечной или бесконечной дроби

где – десятичные цифры числа а ( = 0,1,2,...,9), причем старшая цифра а m – число разрядов в записи целой части числа а , а n – число разрядов в записи дробной части числа а . Например:

5214,73... = 5 · 10 3 + 2 · 10 2 + 1 · 10 1 + 4 · 10 0 +7 · 10 -1 + 3 · 10 -2 ... (1.5)

Каждая цифра , стоящая на определенном месте в числе а , написанном в виде (1.4), имеет свой вес. Так, цифра, стоящая на первом месте (т.е. ), весит 10 m , на втором – 10 m -1 и т.д.

На практике мы обычно не пользуемся записью в форме (1.4), а используем сокращенную запись чисел в виде последовательности коэффициентов при соответствующих степенях 10. Так, например, в записи (1.5) мы пользуемся левой от знака равенства формой, а не правой, представляющей разложение этого числа по степеням 10.

На практике преимущественно приходится иметь дело с приближенными числами в виде конечных десятичных дробей. Для корректного сравнения различных вычислительных и экспериментальных результатов вводят понятие значащей цифры в записи результата. Все сохраняемые десятичные значения (i = m , m- 1,…, m-n+ 1), отличные от нуля, и нуль, если он стоит между значащими цифрами или является представителем сохраненного десятичного разряда в конце числа называются значащими цифрами приближенного числа а . При этом нули, связанные с множителем 10 n к значащим не относятся.

При позиционном обозначении числа а в десятичной системе счисления иногда приходится вводить лишние нули в начале или в конце числа. Например,

а = 7·10 -3 + 0·10 -4 + 1·10 -5 + 0·10 -6 = 0,00 7010

b = 2·10 9 + 0·10 8 + 0·10 7 + 3·10 6 + 0·10 5 = 2003000000.

Такие нули (в приведенных примерах они подчеркнуты) не считаются значащими цифрами.

Значащей цифрой приближенного числа называется всякая цифра в его десятичном изображении, отличная от нуля , а также и нуль, если он содержится между значащими цифрами или является представителем сохраненного десятичного разряда. Все остальные нули, входящие в состав приближенного числа и служащие лишь для обозначения его десятичных разрядов, не причисляются к значащим числам.

Например, в числе 0,002080 первые три нуля не являются значащими цифрами, так как они служат только для установления десятичных разрядов других цифр. Остальные два нуля являются значащими цифрами, так как первый из них находиться между значащими цифрами 2 и 8, а второй указывает на то, что в приближенном числе сохранен десятичный разряд 10 -6 . В случае, если в данном числе 0,002080 последняя цифра не является значащей, то это число должно быть записано в виде 0,00208. С этой точки зрения числа 0,002080 и 0,00208 не равноценны, так как первое из них содержит четыре значащих цифры, а второе лишь три.



Кроме понятия значащей цифры важным является понятие верной цифры. Следует отметить, что это понятие существует в двух определениях – в узком и широком смыслах .

Определение широком смысле). Говорят, что n первых значащих цифр числа (считая слева направо) являются верными в широком смысле, если абсолютная погрешность этого числа не превосходит единицы (веса) n -горазряда. (Пояснение: 1 10 1 – здесь вес 1 равен 10; 1 10 0 – здесь вес 1 равен 1; 1 10 -1 – здесь вес 1 равен 0,1; 1 10 -2 – здесь вес 1 равен 0,01 и т.д.).

Определение узком смысле). Говорят, что n первых значащих цифр приближенного числа являются верными, если абсолютная погрешность этого числа не превосходит половины единицы (веса) n -горазряда. (Пояснение: 1 10 1 – здесь вес половины 1 равен 5; 1 10 0 – здесь вес половины 1 равен 0,5; 1 10 -1 – равен 0,05 и т.д.).

Например, в приближенном числе исходя из первого определения, значащие цифры 3,4 и 5 верные в широком смысле, а цифра 6 – сомнительна. Исходя из второго определения, значащие цифры 3 и 4 являются верными в узком смысле, а цифры 5 и 6 – сомнительные. Важно подчеркнуть, что точность приближенного числа зависит не от количества значащих цифр, а от количества верных значащих цифр .

Как в теоретических рассуждениях, так и в практических применениях большее применение находит определение верной цифры в узком смысле.

Таким образом, если для приближенного числа а, заменяющего число А , известно, что

(1.6)

то, по определению, первые n цифр этого числа являются верными.

Например, для точного числа А = 35,97 число а = 36,00 является приближенным с тремя верными знаками. К этому результату приводят следующие рассуждения. Так как абсолютная погрешность нашего приближенного числа составляет величину 0,03, то по определению она должна удовлетворять условию

(1.7)

В нашем приближенном числе 36,00 цифра 3 является первой значащей цифрой (т.е. ), поэтому m = 1. Отсюда очевидно, что условие (1.7) будет выполняться при n = 3.

Обычно принято при десятичной записи приближенного числа писать только верные цифры. Если известно, что данное приближенное число записано правильно, то по записи можно определить предельную абсолютную погрешность. Именно при правильной записи абсолютная погрешность не превышает половины младшего разряда, который следует за последним верным разрядом (или половины единицы последнего верного разряда, что одно и то же)

Например, даны приближенные числа, записанные правильно: а = 3,8; b = 0,0283; с = 4260. Согласно определению, предельные абсолютные погрешности этих чисел будут: = 0,05; = 0,00005; = 0,5.