Розраховуючи значення похибки, особливо при користуванні електронним калькулятором, значення похибки отримують з великим числом знаків. Однак вихідними даними для розрахунку є нормовані значення похибки засобу вимірювань і клас точності, які вказуються за все з однією або двома значущими цифрами. Внаслідок цього і в остаточному значенні розрахованої похибки повинні бути залишені тільки перші одна-, дві значущі цифри.
При цьому доводиться враховувати таку обставину. Якщо отримане число починається з цифр 1 або 2, то відкидання другого знака призведе до дуже велику помилку (до 30¸50%), що є неприпустимим. Якщо ж отримане число починається, наприклад, з цифри 9, то збереження другого знака, тобто вказівка похибки, наприклад, 0.94 замість 0.9, є дезінформацією, тому що вихідні дані не забезпечують такої точності.
Виходячи з цього, на практиці встановилося таке правило: якщо отримане число починається з цифри рівною або більшою, ніж. то в ньому зберігається лише один знак. Якщо ж воно починається з цифр, менших 3, тобто з цифр 1 і 2, то в ньому зберігають два знака.
На підставі вищевикладеного можна сформулювати наступні три правила округлення розрахованого значення погрішності і отриманого експериментального результату вимірювання.
Правило 1. Похибка результату вимірювання вказується двома значущими цифрами, якщо перша з них дорівнює 1 або 2, і однією - якщо перша цифра дорівнює 3 і більше.
Правило 2. Результат вимірювання округлюється до того ж десяткового розряду, яким закінчується округлене значення абсолютної похибки.
Правило 3. Округлення проводиться лише в остаточній відповіді, а всі попередні обчислення проводять з одним - двома зайвими знаками.
Приклад. На вольтметрі класу точності 2.5 з межею вимірювання 300 В був отриманий відлік вимірюваної напруги х = 267,5 В. Визначити абсолютну і відносну похибки вимірювання, провести округлення їх значень і округлення результату вимірювання. Уявити результат вимірювання.
Рішення. Тут клас точності вказано числом без кружечка, отже, абсолютну похибку знаходимо за формулою
Оскільки 7> 3, то D (х) округляємо до 8 В.
Відносна похибка визначиться за формулою
Оскільки 2<3, то в ответе должны быть сохранены два десятичных разряда, поэтому dотн. (х ) округляем до 2.8 %.
Далі необхідно округлити отримане значення напруги х = 267,5 В. Воно повинно бути округлено (див. Правила 2) до того ж десяткового розряду, яким закінчується округлене значення абсолютної похибки, тобто до цілих одиниць вольт x = 267,5 В »268 В.
Подання результату. Вимірювання вироблено з відносною похибкою dотн. (Х) = 2.8%. Виміряна напруга х = 268 В лежить в інтервалі невизначеності
260 В <х <276 В.
6.3. Правила наближених обчислень
У наближених і точних числах значущими цифрами (знаками) називають всі цифри: 1, 2, 3, 4, 5, 6, 7, 8, 9, цифра 0 теж є значущою, якщо вона стоїть в середині числа або на його кінці. Наприклад, в числах 250; 205; 20500; 20,5; 2,005; 20,00 все цифри є значущими. Нуль не є значущою цифрою, якщо він стоїть з лівого боку в десяткового дробу, т. К. В цьому випадку від нього не залежить значность числа, вираженого десятковим дробом. Наприклад, 0,23; 0, '0,0365; 0,0033.
Вірними знаками є ті, за точність яких можна ручатися. У наближеному числі остання цифра (праворуч) не є точною і називається сумнівною. Наприклад, в наближеному числі l = 13,84 мм, похибка якого 0,01 мм, цифра 4 (соті частки) сумнівна, тому що справжнє значення числа лежить в інтервалі від (13,84 - 0,01) до (13,84 + 0,01) мм. Таким чином, в наближеному числі сумнівна цифра належить до того ж розряду, що й розряд першої (ліворуч) значущої цифри в абсолютній помилку. Тоді в наближеному числі 943, що має абсолютну похибку 21, цифра 4 сумнівна, а цифра 3 поготів сумнівна і її треба замінити нулем. Чи не відкинути, а замінити, щоб зберегти значность даного наближеного числа. Отже, 940 ± 20, або (94 ± 2) × 10. У наближеному числі 27,352, що має абсолютну похибка 0,01, цифра 5 сумнівна, а цифра 2 поготів сумнівна, але її можна відкинути, тому що значность числа не зміниться. Отже, 27,35 ± 0,01.
Наближені обчислення слід вести з дотриманням наступних правил.
1. При додаванні і відніманні наближених чисел вікон-чательно результат округлюють так, щоб він не мав значущих цифр в тих розрядах, які відсутні хоча б в одному з наближених даних.
Наприклад, при додаванні чисел
4,462 + 2,38 + 1,17273 + 1,0262 = 9,04093 слід суму округлити до сотих часток, тобто прийняти її рівною 9,04.
2. При множенні слід округляти співмножники так, щоб кожен з них містив стільки значущих цифр, скільки їх має співмножник з найменшим числом таких цифр.
Наприклад, замість обчислення виразу
слід обчислювати вираз
В остаточному результаті слід залишати таке ж число значущих цифр, яке є в співмножником після їх округлення.
У проміжних результатах слід зберігати на одну значущу цифру більше. Таке ж правило слід дотримуватися і при розподілі наближених чисел.
3. При зведенні в квадрат або в куб слід в ступеня брати стільки значущих цифр, скільки їх є в основі ступеня.
наприклад,
4. Під час вилучення квадратного або кубічного кореня в результаті слід брати стільки значущих цифр, скільки їх є в подкоренного вираженні. наприклад,
5. При відкиданні сумнівних цифр слід пам'ятати:
- якщо відкидається (n + 1) цифра менше 5, то залишається n-я цифра не змінюється (приклад: 10,132 після округлення 10,13);
- якщо відкидається (n + 1) -я цифра дорівнює або більше 5, то залишається n-я цифра збільшується на 1 (приклад: 9,836 після округлення 9,84).