Округлення результатів вимірювань
Правила запису чисел за СТ СЕВ 543 - 77
1. Значущі цифри даного числа - все цифри від першої зліва, не дорівнює нулю, до останньої справа. При цьому нулі, які випливають з множника 10, не враховують.
а) Число 12,0 має три значущі цифри.
б) Число 30 має дві значущі цифри.
в) Число 120. 10 має три значущі цифри.
г) 0,514. 10 має три значущі цифри.
д) 0,0056 має дві значущі цифри.
2. Якщо необхідно вказати, що число є точним, після числа слід зазначати слово "точно" або останню значущу цифру друкують жирним шрифтом. Наприклад, в друкованому тексті: 1 кВт. ч = 3600 Дж (точно).
3. Розрізняють записи наближених чисел за кількістю значущих цифр.
а) Розрізняють числа 2,4 і 2,40. Запис 2,4 означає, що вірні тільки цілі і десяті частки, справжнє значення числа може бути, наприклад, 2,43 і 2,38. Запис 2,40 означає, що вірні й соті частки: справжнє значення числа може бути 2,403 і 2,398, але не 2,41 і не 2,382.
б) Запис 382 означає, що всі цифри вірні: якщо за останню цифру ще не певно, то число повинно бути записано 3,8. 10.
в) Якщо в числі 4720 вірні лише дві перші цифри, воно повинно бути бути записано 47 * 10 або 4,7 * 10.
4. Число, для якого вказують допустиме відхилення, повинно мати останню значущу цифру того ж розряду, як і остання значуща цифра відхилення.
а) Правильно: 17,0 + 0,2. Неправильно: 17 + 0,2 або 17,00 + 0,2.
б) Правильно: 12,13 + 0,17. Неправильно: 12,13 + 0,2.
в) Правильно: 46,40 + 0,15. Неправильно: 46,4 + 0,15 або 46,402 + 0,15.
5. Числові значення величини і її похибки (відхилення) доцільно записувати із зазначенням однієї і тієї ж одиниці величини.
Наприклад: (80,555 + 0,002) кг.
6. Інтервали між числовими значеннями величин доцільно записувати:
від 60 до 100, понад 120 до 150.
Правила округлення чисел по СТ РЕВ 543 - 77
1. Округлення числа є відкидання значущих цифр праворуч до певного розряду з можливою зміною цифри цього розряду.
2. У разі, якщо перша з відкинутих цифр (рахуючи зліва направо) менше 5, то останню зберігається цифру не міняють.
Приклад: Округлення числа 12,23 до трьох значущих цифр дає 12,2.
3. У разі, якщо перша з відкинутих цифр (рахуючи зліва направо) дорівнює 5, то останню зберігається цифру збільшують на одиницю.
Приклад: Округлення числа 0,145 до двох цифр дає 0,15.
Примітка. У тих випадках, коли слід враховувати результати попередніх заокруглень, надходять у такий спосіб.
Якщо відкидається цифра отримана в результаті округлення в меншу сторону, то останню що залишилася цифру збільшують на одиницю (з переходом при необхідності в наступні розряди).
Приклад: Округлення числа 0,25 (отриманого в результаті попереднього округлення числа 0,252) дає 0,3.
4. У разі, якщо перша з відкинутих цифр (рахуючи зліва направо) більше 5, то останню зберігається цифру збільшують на одиницю.
Приклад: Округлення числа 0,156 до двох значущих цифр дає 0,16.
Округлення виконують відразу до бажаної кількості значущих цифр, а не по етапах.
Приклад: Округлення числа 565,46 до трьох значущих цифр дає 565.
6. Цілі числа округлюють за тими ж правилами. що і дробові.
Приклад: Округлення числа 23456 до двох значущих цифр дає 23 * 10.
З книги Л.І. Любимов, І.Д. Форсілова, Ю.З. Шапіро
«Повірка засобів електричних вимірювань. Довідкова книга ».
Ленінград, Вища школа, Ленінградське відділення, 1987 рік
стр. 47. 2.7. Правила округлення і запису результатів вимірювань
Похибка результату вимірів дозволяє визначити ті цифри результату, які є достовірними. Недоцільно утримувати в вираженні для виміряного значення фізичної величини велике число цифр, тому що цифри молодших розрядів можуть виявитися недостовірними.
Існують певні правила округлення.
1. У вираженні похибки утримується не більше двох значущих цифр, причому остання цифра зазвичай округляється до нуля або п'яти. Дві цифри слід обов'язково утримувати в тому випадку, коли цифра старшого розряду менше 3.
2. Числове значення результату вимірювання повинна закінчуватися цифрою того ж розряду, що і значення похибки.
Приклад. 235,732 + 0,15 округлюється до 235,73 + 0,15, але не до 235,7 + 0,15.
При проміжних обчисленнях доцільно, щоб використовувані числа містили на одну значущу цифру більше, ніж буде в остаточному результаті. Це дозволяє зменшити похибку від округлення.
3. Якщо перша з відкинутих цифр (рахуючи зліва направо) менше п'яти, то залишаються цифри не міняються.
Приклад. 442,749 + 0,4 округляється до 442,7 + 0,4.
4. Якщо перша з відкинутих цифр більше або дорівнює п'яти, то остання зберігається цифра збільшується на одиницю.
Приклад. 37,268 + 0,5 округляється до 37,3 + 0,5; 37,253 + 0,5 округляється до 37,3 + 0,5.
5. Округлення слід виконувати відразу до бажаного числа значущих цифр, поетапне округлення може привести до помилок.
Приклад. Поетапне округлення результату вимірювання 220,46 + 4 дає на першому етапі 220,5 + 4 і на другому 221 + 4, в той час як правильний результат округлення 220 + 4.
Особливо уважно потрібно ставитися до запису результату вимірювання без вказівки похибки (що в загальному випадку вкрай небажано). В цьому випадку в записуваному числі залишаються тільки ті цифри, за достовірність яких можна ручатися, тобто всі значущі цифри записаного числа повинні бути достовірними. Значущими цифрами числа вважаються всі цифри від першої зліва, не дорівнює нулю, до останньої записаної праворуч цифри, при цьому нулі, записані у вигляді множника 10 в ступені п, не враховуються. Тому записи 2,4 х 10 В в ступені 3 і 2400 В не є тотожними. Перший запис означає, що вірні цифри тисяч і сотень вольт і справжнє значення може бути, наприклад, 2,42 або 2,38 кВ. Запис 2400 В означає, що вірні і одиниці вольт, справжнє значення може бути 2400,2 або 2390,8 В, але не 2420 чи 2380 В.
З книги П.В. Новицький і І.А. Зограф
"Оцінка похибок результатів вимірювань"
стр. 251 - 4. ПРАВИЛА ОКРУГЛЕННЯ ЗНАЧЕНЬ ПОХИБКИ І РЕЗУЛЬТАТУ ВИМІРЮВАННЯ
Розраховуючи значення похибки, особливо при користуванні електронним калькулятором, значення похибок отримують з великим числом знаків. Однак вихідними даними для розрахунку є нормовані значення похибки засобів вимірювання, які вказуються за все з однією або двома значущими цифрами. Внаслідок цього і в остаточному значенні розрахованої похибки повинні бути залишені тільки перші одна - дві значущі цифри. При цьому доводиться враховувати наступне. Якщо отримане число починається з цифр 1 або 2, то відкидання другого знака призводить до дуже велику помилку (до 30 - 50%), що є неприпустимим. Якщо ж отримане число починається, наприклад, з цифри 9, то збереження другого знака, т. Е. Вказівку похибки, наприклад, 0,94 замість 0,9, є дезінформацією, так як вихідні дані не забезпечують такої точності.
Виходячи з цього на практиці встановилося таке правило: якщо отримане число починається з цифри, рівною або більшою 3, то в ньому зберігається лише один знак; якщо ж воно починається з цифр, менших 3, т. е. з цифр 1 і 2, то в ньому зберігають два знака. Відповідно до цього правила встановлені і нормовані значення похибок засобів вимірювань: в числах 1,5 і 2,5% вказуються два знака, але в числах 0,5; 4; 6% вказується
У підсумку можна сформулювати три правила округлення розрахованого значення погрішності і отриманого експериментального результату вимірювання.
1. Похибка результату вимірювання вказується двома значущими цифрами, якщо перша з них дорівнює 1 або 2, і однією, - якщо перша є 3 і більше.
2. Результат вимірювання округлюється до того ж десяткового розряду, яким закінчується округлене значення абсолютної похибки.
3. Округлення проводиться лише в остаточній відповіді, а всі попередні обчислення проводять з одним - двома зайвими знаками.
Приклад .На вольтметрі класу точності 2,5 з межею вимірювань 300 В був отриманий відлік вимірюваної напруги Х = 267,5 В.
Розрахунок похибки зручніше вести в наступному порядку: спершу необхідно знайти абсолютну похибку, а потім - відносну. Абсолютна похибка / \ (Х) = jo X к / 100; при jo = 2,5% і Х к = 300 В це дає / \ (Х) = 2,5 х 300/100 = 7,5 В
8 В; відносна
jo = / \ o x 100 / X = 7,5 x 100 / 267,5 = 2,81%
Так як перша значуща цифра значення абсолютної похибки (7,5 В) більше трьох, то це значення має бути округлено за звичайними правилами округлення до 8 В, але в значенні відносної похибки (2,81%) перша значуща цифра менше 3, тому тут повинні бути збережені у відповіді два десяткових розряду і вказано j (x) = 2,8%. Отримане значення Х = 267,5 В повинно бути округлено до того ж десяткового розряду, яким закінчується округлене значення абсолютної похибки. т. е. до цілих одиниць вольт.
Таким чином, в остаточній відповіді повинно бути повідомлено: "Вимірювання вироблено з відносною похибкою j (x) = 2,8%. Обмірюване напруга Х = (268 + 8) В або Х = 268 В + 8 В.
При цьому більш наочно вказати межі інтервалу невизначеності вимірюваної величини у вигляді Х = (260 - 276) У або 260 В Поряд з викладеними правилами округлення значень похибок результатів вимірювання іноді пропонуються більш обгрунтовані, але і більш складні правила. Недолік викладених правил полягає в тому, що відносна похибка від округлення змінюється стрибком при переході, наприклад, від числа 0,29, коли вона становить (0,30 - 0,29) / 0,30 = 3%, до числа 0,3 , коли вона буде (0,4 - 0,3) / 0,3 = 30%. Для усунення такого різкого стрибка відносної похибки округлення пропонується кожну декаду можливих значень округляється похибки ділити на три частини: від 0,1 до 0,2, від 0,2 до 0,5 і від 0,5 до 1,0, і в кожній з цих частин використовувати свій крок округлення, відповідно рівний 0,02, 0,05 і 0,1. Тоді ряд дозволених до вживання округлених значень похибок отримує вид: 0,10 - 0,12 - 0,14 - 0,16 - 0,18 - 0,20 - 0,25 - 0,30 - 0,35 - 0,40 - 0,45 - 0,5 - 0,6 - 0,7 - 0,8 - 0,9 - 1,0. Безперечна перевага такого ряду полягає в тому, що похибка від округлення на кордонах ділянок змінюється лише від 5 до 10%. Однак при використанні такого правила округлення похибки останні цифри результату, що залишаються після округлення, також повинні відповідати наведеним ряду. З книги В.А.Кузнецова і Г.В.Ялуніна "МЕТРОЛОГІЯ теоретичні, прикладні та законодавчі основи " Результати вимірювань слід округляти за сформованими правилами. В основі цих правил лежить таке становище: числове значення результату вимірювань представляється так, щоб воно закінчувалося десятковим знаком того ж розряду, який має похибку цього результату. Правила округлення результату вимірювань для випадків звичайних вимірювань, не пов'язаних з необхідністю отримання високоточних результатів: 1) похибка результату вимірювань представляється з однією або двома значущими цифрами. Дві значущі цифри наводяться в разі виконання точних вимірювань; 2) результат вимірювань округляється так, щоб він закінчувався цифрою того ж розряду, що і значення похибки. Якщо числове значення результату вимірювання представляється десятковим дробом, що закінчується нулями, то нулі відкидаються тільки до того розряду, який відповідає розряду числового значення похибки; 3) якщо цифра старшого з відкидаються розрядів менше 5, то залишаються цифри в числі не змінюють. Якщо ця цифра дорівнює або більше 5, то останню що залишається цифру збільшують на одиницю. Зайві цифри в цілих числах замінюють нулями, а в десяткових дробах відкидають. Наприклад, числове значення результату вимірювання складає 25,458 при похибки результату, вираженої межами + 0, 02; округлення результату буде 25,46. Якщо межі похибки мають + 0,002, то числове значення результату зберігається повністю. Числове значення результату вимірювань 105553 отримано з похибкою + 0,0005. У ньому зберігаються чотири значущі цифри і округлення дасть число 105600; якщо числове значення результату 105,553, то при тих же умовах округлення дає число 105,6; 4) якщо відкидається цифра дорівнює п'яти, а наступні за нею цифри невідомі (відсутні) або нулі, то останню зберігається цифру числа не змінюють, якщо вона парна, і збільшують на одиницю, якщо вона непарна. Число 105,5 при збереженні трьох значущих цифр округлюють до 106; 5) правила, викладені в п.1. 4, застосовуються тільки при округленні остаточних результатів. Всі проміжні результати доцільно представляти тим числом розрядів, які вдається отриматиСхожі статті