Результат округления числа 384 до десятков. Программа Microsoft Excel: округление чисел

§ 4. Округление результатов

Обработка результатов измерений в лабораториях проводятся на калькуляторах и ПК, и просто удивительно, как магически действует на многих студентов длинных ряд цифр после запятой. «Так точнее» считают они. Однако легко видеть, например, что запись a = 2.8674523 ± 0.076 бессмысленна. При ошибке 0.076 последние пять цифр числа не означает ровно ничего.

Если мы допускаем ошибку в сотых долях, то тысячным, тем более десятитысячным долям веры нет. Грамотная запись результата была бы 2.87 ± 0.08. Всегда нужно производить необходимые округления, чтобы не было ложного впечатления о большей, чем это есть на самом деле, точности результатов.

Правила округления

Погрешность измерения округляют до первой значащей цифры, всегда увеличивая ее на единицу.
Примеры:
8.27 ≈ 9 0.237 ≈ 0.3
0.0862 ≈ 0.09 0.00035 ≈ 0.0004
857.3 ≈ 900 43.5 ≈ 50
Результаты измерения округляют с точностью «до погрешности», т.е. последняя значащая цифра в результате должна находиться в том же разряде, что и в погрешности.
Примеры:
243.871 ± 0.026 ≈ 243.87 ± 0.03;
243.871 ± 2.6 ≈ 244 ± 3;
1053 ± 47 ≈ 1050 ± 50.
Округление результата измерения достигается простым отбрасыванием цифр, если первая из отбрасываемых цифр меньше 5.
Примеры:
8.337 (округлить до десятых) ≈ 8.3;
833.438 (округлить до целых) ≈ 833;
0.27375 (округлить до сотых) ≈ 0.27.
Если первая из отбрасываемых цифр больше или равна 5 , (а за ней одна или несколько цифр отличны от нуля), то последняя из остающихся цифр увеличивается на единицу.
Примеры:
8.3351 (округлить дл сотых) ≈ 8.34;
0.2510 (округлитьь до десятых) ≈ 0.3;
271.515 (округлить до целых) ≈ 272.
Если отбрасываемая цифра равна 5 , а за ней нет значащих цифр (или стоят одни нули), то последнюю оставляемую цифру увеличивают на единицу, когда она нечетная, и оставляют неизменной, когда она четная.
Примеры:
0.875 (округлить до сотых) ≈ 0.88;
0.5450 (округлить до сотых) ≈ 0.54;
275.500 (округлить до целых) ≈ 276;
276.500 (округлить до целых) ≈ 276.

Примечание.

Значащими называют верные цифры числа, кроме нулей, стоящих впереди числа. Например, 0,00807 в этом числе имеется три значащих цифры: 8, ноль между 8 и 7 и 7 ; первые три нуля незначащие.
8.12 · 10 3 в этом числе 3 значащих цифры.
Записи 15,2 и 15,200 различны. Запись 15,200 означает, что верны сотые и тысячные доли. В записи 15,2 верны целые и десятые доли.
Результаты физических экспериментов записывают только значащими цифрами. Запятую ставят сразу после отличной от нуля цифры, а число умножают на десять в соответствующей степени. Нули, стоящие в начале или конце числа, как правило, не записывают. Например, числа 0,00435 и 234000 записывают так: 4,35·10 -3 и 2,34·10 5 . Подобная запись упрощает вычисления, особенно в случае формул, удобных для логарифмирования.

Дробные числа в электронных таблицах Excel можно выводить на экран с разной степенью точности :

самый простой способ – на вкладке «Главная » нажимаем кнопки «Увеличить разрядность » или «Уменьшить разрядность »;
щелкаем правой кнопкой мыши по ячейке, в раскрывшемся меню выбираем «Формат ячеек… », далее вкладка «Число », выбираем формат «Числовой », определяем, сколько будет десятичных знаков после запятой (по умолчанию предлагается 2 знака);
щелкаем ячейку, на вкладке «Главная » выбираем «Числовой », либо идем на «Другие числовые форматы… » и там настраиваем.

Вот как выглядит дробь 0,129, если менять количество десятичных знаков после запятой в формате ячейки:

Обратите внимание, в A1,A2,A3 записано одно и то же значение , меняется только форма представления. При дальнейших расчетах будет использоваться не величина, видимая на экране, а исходная . Начинающего пользователя электронных таблиц это может слегка запутать. Чтобы реально изменить значение, необходимо использовать специальные функции, их в Excel несколько.

Формула округление

Одна из часто применяемых функций округления – ОКРУГЛ . Она работает по стандартным математическим правилам. Выбираем ячейку, щелкаем значок «Вставить функцию », категория «Математические », находим ОКРУГЛ

Определяем аргументы, их два – сама дробь и количество разрядов. Щелкаем «ОК » и смотрим, что получилось.

К примеру, выражение =ОКРУГЛ(0,129;1) даст результат 0,1. Нулевое количество разрядов позволяет избавляться от дробной части. Выбор отрицательного количества разрядов позволяет округлять целую часть до десятков, сотен и так далее. Например, выражение =ОКРУГЛ(5,129;-1) даст 10.

Округляем в большую или меньшую сторону

В Excel представлены и другие средства, позволяющие работать с десятичными дробями. Одно из них – ОКРУГЛВВЕРХ , выдает самое близкое число, большее по модулю. Например, выражение =ОКРУГЛВВЕРХ(-10,2;0) даст -11. Количество разрядов здесь 0, значит, получим целое значение. Ближайшее целое , большее по модулю, – как раз -11. Пример использования:

ОКРУГЛВНИЗ аналогична предыдущей функции, но выдает ближайшее значение, меньшее по модулю. Различие в работе вышеописанных средств видно из примеров :

=ОКРУГЛ(7,384;0)	7
=ОКРУГЛВВЕРХ(7,384;0)	8
=ОКРУГЛВНИЗ(7,384;0)	7
=ОКРУГЛ(7,384;1)	7,4
=ОКРУГЛВВЕРХ(7,384;1)	7,4
=ОКРУГЛВНИЗ(7,384;1)	7,3

Сегодня мы рассмотрим довольно скучную тему, без понимания которой двигаться дальше не представляется возможным. Эта тема называется «округление чисел» или по-другому «приближённые значения чисел».

Содержание урока

Приближённые значения

Приближённые (или приблизительные) значения применяются тогда, когда точное значение чего-либо найти невозможно, или же это значение не важно для исследуемого предмета.

Например, на словах можно сказать, что в городе проживает полмиллиона человек, но это высказывание не будет истинным, поскольку количество человек в городе меняется — люди приезжают и уезжают, рождаются и умирают. Поэтому правильнее будет сказать, что в городе проживает приблизительно полмиллиона человек.

Ещё пример. В девять утра начинаются занятия. Мы вышли из дома в 8:30. Через некоторое время по дороге мы встретили своего товарища, который спросил у нас сколько сейчас времени. Когда мы выходили из дома было 8:30, на дорогу мы потратили какое-то неизвестное время. Мы не знаем сколько сейчас времени, поэтому отвечаем товарищу: «сейчас приблизительно около девяти часов».

В математике приближенные значения указываются с помощью специального знака. Выглядит он следующим образом:

Читается как «приблизительно равно».

Чтобы указать приблизительное значение чего-либо, прибегают к такой операции, как округление чисел.

Округление чисел

Для нахождения приближенного значения применяется такая операция, как округление чисел .

Слово «округление» говорит само за себя. Округлить число значит сделать его круглым. Круглым называется число, которое оканчивается нулем. Например, следующие числа являются круглыми,

10, 20, 30, 100, 300, 700, 1000

Любое число можно сделать круглым. Процедуру, при которой число делают круглым, называют округлением числа .

Мы уже занимались «округлением» чисел, когда делили большие числа. Напомним, что для этого мы оставляли без изменения цифру, образующую старший разряд, а остальные цифры заменяли нулями. Но это были лишь наброски, которые мы делали для облегчения деления. Своего рода лайфхак . По факту, это даже не являлось округлением чисел. Именно поэтому в начале данного абзаца мы взяли слово округление в кавычки.

На самом деле, суть округления заключается в том, чтобы найти ближайшее значение от исходного. При этом, число может быть округлено до определённого разряда — до разряда десятков, разряда сотен, разряда тысяч.

Рассмотрим простой пример на округление. Дано число 17. Требуется округлить его до разряда десятков.

Не забегая вперёд попробуем понять, что означает «округлить до разряда десятков». Когда говорят округлить число 17, от нас требуют найти ближайшее круглое число для числа 17. При этом, в ходе этого поиска возможно изменения коснутся и цифры, которая находится в разряде десятков в числе 17 (т.е единицы).

Представим, что все числа от 10 до 20 лежат на прямой линии:

На рисунке видно, что для числа 17 ближайшее круглое число это 20. Значит ответ к задаче таким и будет: 17 приблизительно равно 20

17 ≈ 20

Мы нашли приближённое значение для 17, то есть округлили его до разряда десятков. Видно, что после округления в разряде десятков появилась новая цифра 2.

Попробуем найти приближённое число для числа 12. Для этого снова представим, что все числа от 10 до 20 лежат на прямой линии:

На рисунке видно, что ближайшее круглое число для 12 это число 10. Значит ответ к задаче таким и будет: 12 приблизительно равно 10

12 ≈ 10

Мы нашли приближённое значение для 12, то есть округлили его до разряда десятков. В этот раз цифра 1, которая стояла в разряде десятков в числе 12, не пострадала от округления. Почему так случилось мы рассмотрим позже.

Попробуем найти ближайшее число для числа 15. Снова представим, что все числа от 10 до 20 лежат на прямой линии:

На рисунке видно, что число 15 одинаково удалено от круглых чисел 10 и 20. Возникает вопрос: которое из этих круглых чисел будет приближённым значением для числа 15? Для таких случаев условились принимать большее число за приближённое. 20 больше чем 10, поэтому приближённое значение для 15 будет число 20

15 ≈ 20

Округлять можно и большие числа. Естественно, для них рисовать прямую линию и изображать числа не представляется возможным. Для них существует свой способ. Например, округлим число 1456 до разряда десятков.

Мы должны округлить 1456 до разряда десятков. Разряд десятков начинается на пятёрке:

Теперь о существовании первых цифр 1 и 4 временно забываем. Остается число 56

Теперь смотрим, какое круглое число находится ближе к числу 56. Очевидно, что ближайшее круглое число для 56 это число 60. Значит заменяем число 56 на число 60

Значит при округлении числа 1456 до разряда десятков получим 1460

1456 ≈ 1460

Видно, что после округления числа 1456 до разряда десятков, изменения коснулись и самого разряда десятков. В новом полученном числе в разряде десятков теперь располагается цифра 6, а не 5.

Округлять числа можно не только до разряда десятков. Округлять можно также до разряда сотен, тысяч, десятков тысяч.

После того, как становится понятно, что округление это ни что иное, как поиск ближайшего числа, можно применять готовые правила, которые значительно облегчают округление чисел.

Первое правило округления

Из предыдущих примеров стало ясно, что округляя число до определенного разряда, младшие разряды заменяются нулями. Цифры, которые заменяются нулями, называют отбрасываемыми цифрами .

Первое правило округления выглядит следующим образом:

Если при округлении чисел первая из отбрасываемых цифр 0, 1, 2, 3 или 4, то сохраняемая цифра остаётся без изменений.

Например, округлим число 123 до разряда десятков.

В первую очередь находим сохраняемую цифру. Для этого надо прочитать само задание. В разряде, о котором говорится в задании и находится сохраняемая цифра. В задании сказано: округлить число 123 до разряда десятков.

Видим, что в разряде десятков находится двойка. Значит сохраняемой цифрой является цифра 2

Теперь находим первую из отбрасываемых цифр. Первой из отбрасываемых цифр является та цифра, которая следует после сохраняемой цифрой. Видим, что первая цифра после двойки это цифра 3. Значит цифра 3 является первой отбрасываемой цифрой .

Теперь применяем правило округления. Оно говорит, что если при округлении чисел первая из отбрасываемых цифр 0, 1, 2, 3 или 4, то сохраняемая цифра остаётся без изменений.

Так и делаем. Оставляем без изменения сохраняемую цифру, а все младшие разряды заменяем нулями. Другими словами, всё что следует после цифры 2 заменяем нулями (точнее нулём):

123 ≈ 120

Значит при округлении числа 123 до разряда десятков, получаем приближённое ему число 120.

Теперь попробуем округлить то же самое число 123, но уже до разряда сотен .

Нам требуется округлить число 123 до разряда сотен. Снова ищем сохраняемую цифру. В этот раз сохраняемой цифрой является 1, поскольку мы округляем число до разряда сотен.

Теперь находим первую из отбрасываемых цифр. Первой из отбрасываемых цифр является та цифра, которая следует после сохраняемой цифрой. Видим, что первая цифра после единицы это цифра 2. Значит цифра 2 является первой отбрасываемой цифрой:

Теперь применим правило. Оно говорит, что если при округлении чисел первая из отбрасываемых цифр 0, 1, 2, 3 или 4, то сохраняемая цифра остаётся без изменений.

Так и делаем. Оставляем без изменения сохраняемую цифру, а все младшие разряды заменяем нулями. Другими словами, всё что следует после цифры 1 заменяем нулями:

123 ≈ 100

Значит при округлении числа 123 до разряда сотен, получаем приближённое ему число 100.

Пример 3. Округлить число 1234 до разряда десятков.

Здесь сохраняемая цифра это 3. А первая отбрасываемая цифра это 4.

Значит оставляем сохраняемую цифру 3 без изменений, а всё что располагается после неё заменяем нулём:

1234 ≈ 1230

Пример 4. Округлить число 1234 до разряда сотен.

Здесь сохраняемая цифра это 2. А первая отбрасываемая цифра это 3. Согласно правилу, если при округлении чисел первая из отбрасываемых цифр 0, 1, 2, 3 или 4, то сохраняемая цифра остаётся без изменений.

Значит оставляем сохраняемую цифру 2 без изменений, а всё что располагается после неё заменяем нулями:

1234 ≈ 1200

Пример 3. Округлить число 1234 до разряда тысяч.

Здесь сохраняемая цифра это 1. А первая отбрасываемая цифра это 2. Согласно правилу, если при округлении чисел первая из отбрасываемых цифр 0, 1, 2, 3 или 4, то сохраняемая цифра остаётся без изменений.

Значит оставляем сохраняемую цифру 1 без изменений, а всё что располагается после неё заменяем нулями:

1234 ≈ 1000

Второе правило округления

Второе правило округления выглядит следующим образом:

Если при округлении чисел первая из отбрасываемых цифр 5, 6, 7, 8 или 9, то сохраняемая цифра увеличивается на единицу.

Например, округлим число 675 до разряда десятков.

Видим, что в разряде десятков находится семёрка. Значит сохраняемой цифрой является цифра 7

Теперь находим первую из отбрасываемых цифр. Первой из отбрасываемых цифр является та цифра, которая следует после сохраняемой цифрой. Видим, что первая цифра после семёрки это цифра 5. Значит цифра 5 является первой отбрасываемой цифрой .

У нас первая из отбрасываемых цифр это 5. Значит мы должны увеличить на единицу сохраняемую цифру 7, а всё что следует после неё заменить нулём:

675 ≈ 680

Значит при округлении числа 675 до разряда десятков, получаем приближённое ему число 680.

Теперь попробуем округлить то же самое число 675, но уже до разряда сотен .

Нам требуется округлить число 675 до разряда сотен. Снова ищем сохраняемую цифру. В этот раз сохраняемой цифрой является 6, поскольку мы округляем число до разряда сотен:

Теперь находим первую из отбрасываемых цифр. Первой из отбрасываемых цифр является та цифра, которая следует после сохраняемой цифрой. Видим, что первая цифра после шестёрки это цифра 7. Значит цифра 7 является первой отбрасываемой цифрой:

Теперь применяем второе правило округления. Оно говорит, что если при округлении чисел первая из отбрасываемых цифр 5, 6, 7, 8 или 9, то сохраняемая цифра увеличивается на единицу.

У нас первая из отбрасываемых цифр это 7. Значит мы должны увеличить на единицу сохраняемую цифру 6, а всё что следует после неё заменить нулями:

675 ≈ 700

Значит при округлении числа 675 до разряда сотен, получаем приближённое ему число 700.

Пример 3. Округлить число 9876 до разряда десятков.

Здесь сохраняемая цифра это 7. А первая отбрасываемая цифра это 6.

Значит увеличиваем на единицу сохраняемую цифру 7, а всё что располагается после неё заменяем нулём:

9876 ≈ 9880

Пример 4. Округлить число 9876 до разряда сотен.

Здесь сохраняемая цифра это 8. А первая отбрасываемая цифра это 7. Согласно правилу, если при округлении чисел первая из отбрасываемых цифр 5, 6, 7, 8 или 9, то сохраняемая цифра увеличивается на единицу.

Значит увеличиваем на единицу сохраняемую цифру 8, а всё что располагается после неё заменяем нулями:

9876 ≈ 9900

Пример 5. Округлить число 9876 до разряда тысяч.

Здесь сохраняемая цифра это 9. А первая отбрасываемая цифра это 8. Согласно правилу, если при округлении чисел первая из отбрасываемых цифр 5, 6, 7, 8 или 9, то сохраняемая цифра увеличивается на единицу.

Значит увеличиваем на единицу сохраняемую цифру 9, а всё что располагается после неё заменяем нулями:

9876 ≈ 10000

Пример 6. Округлить число 2971 до сотен.

При округлении этого числа до сотен следует быть внимательным, поскольку сохраняемая цифра здесь 9, а первая отбрасываемая цифра это 7. Значит цифра 9 должна увеличиться на единицу. Но дело в том, что после увеличения девятки на единицу получится 10, а это цифра не вместится в разряд сотен нового числа.

В этом случае, в разряде сотен нового числа надо записать 0, а единицу перенести на следующий разряд и сложить с цифрой, которая там находится. Далее заменить все цифры после сохраняемой нулями:

2971 ≈ 3000

Округление десятичных дробей

При округлении десятичных дробей следует быть особенно внимательным, поскольку десятичная дробь состоит из целой и дробной части. И каждая из этих двух частей имеет свои разряды:

Разряды целой части:

разряд единиц
разряд десятков
разряд сотен
разряд тысяч

Разряды дробной части:

разряд десятых
разряд сотых
разряд тысячных

Рассмотрим десятичную дробь 123,456 — сто двадцать три целых четыреста пятьдесят шесть тысячных. Здесь целая часть это 123, а дробная часть 456. При этом у каждой из этих частей есть свои разряды. Очень важно не путать их:

Для целой части применяются те же правила округления, что и для обычных чисел. Отличие в том, что после округления целой части и замены нулями всех цифр после сохраняемой цифры, дробная часть полностью отбрасывается.

Например, округлим дробь 123,456 до разряда десятков. Именно до разряда десятков , а не разряда десятых . Очень важно не перепутать эти разряды. Разряд десятков располагается в целой части, а разряд десятых в дробной.

Мы должны округлить 123,456 до разряда десятков. Сохраняемая цифра здесь это 2, а первая из отбрасываемых цифр это 3

Согласно правилу, если при округлении чисел первая из отбрасываемых цифр 0, 1, 2, 3 или 4, то сохраняемая цифра остаётся без изменений.

Значит сохраняемая цифра останется без изменений, а всё остальное заменится нулём. А что делать с дробной частью? Её просто отбрасывают (убирают):

123,456 ≈ 120

Теперь попробуем округлить ту же самую дробь 123,456 до разряда единиц . Сохраняемая цифра здесь будет 3, а первая из отбрасываемых цифр это 4, которая находится в дробной части:

Значит сохраняемая цифра останется без изменений, а всё остальное заменится нулём. Оставшаяся дробная часть будет отброшена:

123,456 ≈ 123,0

Ноль, который остался после запятой тоже можно отбросить. Значит окончательный ответ будет выглядеть следующим образом:

123,456 ≈ 123,0 ≈ 123

Теперь займёмся округлением дробных частей. Для округления дробных частей справедливы те же правила, что и для округления целых частей. Попробуем округлить дробь 123,456 до разряда десятых. В разряде десятых располагается цифра 4, значит она является сохраняемой цифрой, а первая отбрасываемая цифра это 5, которая находится в разряде сотых:

Согласно правилу, если при округлении чисел первая из отбрасываемых цифр 5, 6, 7, 8 или 9, то сохраняемая цифра увеличивается на единицу.

Значит сохраняемая цифра 4 увеличится на единицу, а остальная часть заменится нулями

123,456 ≈ 123,500

Попробуем округлить ту же самую дробь 123,456 до разряда сотых. Сохраняемая цифра здесь это 5, а первая из отбрасываемых цифр это 6, которая находится в разряде тысячных:

Значит сохраняемая цифра 5 увеличится на единицу, а остальная часть заменится нулями

123,456 ≈ 123,460

Понравился урок?
Вступай в нашу новую группу Вконтакте и начни получать уведомления о новых уроках

В некоторых случаях, точное число при делении определенной суммы на конкретное число невозможно определить в принципе. Например, при делении 10 на 3, у нас получается 3,3333333333…..3, то есть, данное число невозможно использовать для подсчета конкретных предметов и в других ситуациях. Тогда данное число следует привести к определенному разряду, например, к целому числу или к числу с десятичным разрядом. Если мы приведем 3,3333333333…..3 к целому числу, то получим 3, а приводя 3,3333333333…..3 к числу с десятичным разрядом, получим 3,3.

Правила округления

Что такое округление? Это отбрасывание нескольких цифр, которые являются последними в ряду точного числа. Так, следуя нашему примеру, мы отбросили все последние цифры, чтобы получить целое число (3) и отбросили цифры, оставив только разряды десятков (3,3). Число можно округлять до сотых и тысячных, десятитысячных и прочих чисел. Все зависит от того, насколько точное число необходимо получить. Например, при изготовлении медицинских препаратов, количество каждого из ингредиентов лекарства берется с наибольшей точностью, поскольку даже тысячная грамма может привести к летальному исходу. Если же необходимо подсчитать, какая успеваемость учеников в школе, то чаще всего используется число с десятичным или с сотым разрядом.

Рассмотрим иной пример, в котором применяются правила округления. Например, имеется число 3,583333, которое необходимо округлить до тысячных - после округления, за запятой у нас должно остаться три цифры, то есть результатом станет число 3,583. Если же это число округлять до десятых, то у нас получится не 3,5, а 3,6, поскольку после «5» стоит цифра «8», которая приравнивается уже к «10» во время округления. Таким образом, следуя правилам округления чисел, необходимо знать, если цифры больше «5», то последняя цифра, которую необходимо сохранить, будет увеличена на 1. При наличии цифры, меньшей, чем «5», последняя сохраняемая цифра остается неизменной. Такие правила округления чисел применяются независимо от того, до целого числа или до десятков, сотых и т.д. необходимо округлить число.

В большинстве случаев, при необходимости округления числа, в котором последняя цифра «5», этот процесс выполняется неправильно. Но существует еще и такое правило округления, которое касается именно таких случаев. Рассмотрим на примере. Необходимо округлить число 3,25 до десятых. Применяя правила округления чисел, получим результат 3,2. То есть, если после «пяти» нет цифры или стоит ноль, то последняя цифра остается неизменной, но только при условии, что она является четной - в нашем случае «2» - это четная цифра. Если бы нам необходимо было выполнить округление 3,35, то результатом бы стало число 3,4. Поскольку, в соответствии с правилами округления, при наличии нечетной цифры перед «5», которую необходимо убрать, нечетная цифра увеличивается на 1. Но только при условии, что после «5» нет значащих цифр. Во многих случаях, могут применяться упрощенные правила, согласно которым, при наличии за последней сохраняемой цифрой значений цифр от 0 до 4, сохраняемая цифра не изменяется. При наличии других цифр, последняя цифра увеличивается на 1.

При округлении оставляют лишь верные знаки, остальные отбрасывают.

Правило 1. Округление достигается простым отбрасыванием цифр, если первая из отбрасываемых цифр меньше, чем 5.

Правило 2. Если первая из отбрасываемых цифр больше, чем 5, то последняя цифра увеличивается на единицу. Последняя цифра увеличивается также и в том случае, когда первая из отбрасываемых цифр 5, а за ней есть одна или несколько цифр, отличных от нуля. Например, различные округления числа 35,856 будут 35,86; 35,9; 36.

Правило 3. Если отбрасываемая цифра равна 5, а за ней нет значащих цифр, то округление производится на ближайшее четное число, т.е. последняя сохраняемая цифра остается неизменной, если она четная и увеличивается на единицу, если она нечетная. Например, 0,435 округляем до 0,44; 0,465 округляем до 0,46.

8. ПРИМЕР ОБРАБОТКИ РЕЗУЛЬТАТОВ ИЗМЕРЕНИЙ

Определение плотности твердых тел. Предположим, твердое тело имеет форму цилиндра. Тогда плотность ρ может быть определена по формуле:

где D – диаметр цилиндра, h – его высота, m – масса.

Пусть в результате измерений m, D, и h получены следующие данные:

№ п/п	m, г	Δm, г	D, мм	ΔD, мм	h, мм	Δh, мм	, г/см 3	Δ , г/см 3
	51,2	0,1	12,68	0,07	80,3	0,15	5,11	0,07	0,013
	12,63	80,2
	12,52	80,3
	12,59	80,2
	12,61	80,1
среднее			12,61		80,2		5,11

Определим среднее значение D̃:

Найдем погрешности отдельных измерений и их квадраты

Определим среднюю квадратичную погрешность серии измерений:

Задаем значение надежности α = 0,95 и по таблице находим коэффициент Стьюдента t α . n =2,8 (для n = 5). Определяем границы доверительного интервала:

Так как вычисленное значение ΔD = 0,07 мм значительно превышает абсолютную ошибку микрометра, равную 0,01 мм (измерение производится микрометром), то полученное значение может служить оценкой границы доверительного интервала:

D = D ̃ ± ΔD ; D = (12,61 ±0,07) мм.

Определим значение h̃:

Следовательно:

Для α = 0,95 и n = 5 коэффициент Стьюдента t α , n = 2,8.

Определяем границы доверительного интервала

Так как полученное значение Δh = 0,11 мм того же порядка, что и ошибка штангенциркуля, равная 0,1 мм (измерение h производится штангенциркулем), то границы доверительного интервала следует определить по формуле: