1. Оцінка як функція випадкових величин - результатів спостережень.
Розглянемо питання про визначення числових характеристик випадкової величини Х за результатм n незалежних дослідів. Позначимо спостережені значення випадкової величини
Їх можна розглядати як n «екземплярів» випадкових величин Х, тобто n незалежних випадкових величин. Кожна з яких розподілена за тим же законом, що і випадкова величина Х.
позначимо ã оцінку параметра а. Будь-яка оцінка, обчислена на основі матеріалу Х1. Х2. ..., Хn повинна являти собою функцію цих величин:
і, отже, сама є величиною випадковою. Така оцінка називається «точкової». закон розподілу ã залежить, по-перше, від закону розподілу величини Х (і, зокрема, від самого невідомого параметра а): по-друге, від числа дослідів n. В принципі цей закон розподілу може бути знайдений відомими методами теорії ймовірностей.
2. Критерії оцінок.
Якщо при збільшенні числа дослідів n оцінка ã сходиться по ймовірності до параметру а, то така оцінка називається заможної.
Якщо математичне очікування оцінки ã дорівнює оцінюваному параметру а, т. е. виконується
то така оцінка називається несмещенной.
якщо оцінка ã володіє в порівнянні з іншими оцінками найменшою дисперсією, т. е.
то вона зветься ефективною.
На практиці не завжди вдається відповідати всім цим вимогам. Наприклад, може виявитися, що, навіть якщо ефективна оцінка існує, формули для її обчислення виявляються занадто складними, і доводиться задовольнятися інший оцінкою, дисперсія якої дещо більше. Маємо приклади застосування - незначно зміщені оцінки. Однак вибору оцінки завжди має передувати її критичний розгляд з усіх перерахованих вище точе зору.
3. Оцінки для математичного очікування і дисперсії.
Нехай є випадкова величина Х з математичним очікуванням m і дисперсією D; обидва парамеіра невідомі. Над величиною Х вироблено n незалежних дослідів, які дали результати X1. X2. Xn.
В якості оцінки для математичного очікування природно взяти статистичне середнє m *:
Можна довести, що ця оцінка є спроможною і несмещенной. Якщо величина Х розподілена за нормальним законом, дисперсія буде мінімально можливою, т. Е. Оцінка є ефективною. Для інших законів розподілу це може бути і не так.
Якщо в якості оцінки дисперсії взяти статистичну дисперсію D *
то при перевірці виявиться, що ця оцінка заможна, але не є несмещенной. Її математичне очікування:
Користуючись оцінкою D * замість дисперсії D, ми будемо здійснювати деяку систематичну помилку в меншу сторону. Щоб ліквідувати це зміщення, досить ввести поправку, помноживши величину D * на n / (n-1).
називається «виправленої» статистичної дисперсією. Ця оцінка заможна і несмещенная, але ефективною вона не є. Однак в разі нормального розподілу вона є «асимптотично ефективною», то есіть при збільшенні n ставлення її дисперсії до мінімально можливої необмежено наближається до одиниці.
4. Метод моментів для точкової оцінки параметрів розподілу.
Це метод заснований на тому, що початкові і центральні статистичні моменти є заможними оцінками відповідно початкових і центральних теоретичних моментів того ж порядку. Метод запропонований К. Пірсоном і складається в прирівнювання теоретичних моментів розглянутого розподілу відповідним стаістіческім моментам того ж порядку.
Нехай заданий вид щільності розподілу f (x, # 952;), який визначається одним невідомим параметром # 952 ;. Потрібно знайти точкову оцінку параметра # 952 ;.
Дотримуючись методу моментів, прирівняємо початковий теоретичний момент першого порядку початковому статистичному моменту першого порядку:
Математичне сподівання, як видно зі співвідношення
є функція від # 952 ;, тому вираз
можна розглядати як рівняння з одним невідомим # 952 ;. Вирішивши це рівняння щодо параметра # 952 ;, тим самим знайдемо його точкову оцінку.
Нехай заданий вид щільності розподілу f (x; # 952; 1, # 952; 2), який визначається невідомими параметрами # 952; 1 і # 952; 2. Для відшукання двох параметрів необхідні два рівняння щодо цих параметрів. Дотримуючись методу моментів прирівняємо початковий теоретичний момент першого порядку початковому статистичному моменту першого порядку і центральний теоретичний момент вторгся порядку центральному статистичному моменту другого порядку:
можемо скласти систему двох рівнянь з двома невідомими
Вирішивши цю систему щодо невідомих парамеіров # 952; 1 і # 952; 2, тим самим отримаємо їх точкові оцінки.
5. Метод найбільшої правдоподібності.
Запропоновано Р. Фішером.
Дискретні випадкові величини. Нехай Х - дискретна випадкова величина, яка в результаті n випробувань прийняла значення x1. x2. xn. Припустимо, що вид закону розподілу величини Х заданий, але невідомий параметр # 952 ;, яким визначається цей закон. Потрібно знайти його точкову оцінку.
Позначимо ймовірність того, що в результаті випробування величина Х прийме значення xi (i = 1, 2. n), через p (xi; # 952;).
Функцією правдоподібності дискретної випадкової величини Х називають функцію аргументу # 952 ;:
Як точкової оцінки параметра # 952; приймають таке його значення # 952; *, при якому функція правдоподібності досягає максимуму. оцінку # 952; * називають оцінкою найбільшої правдоподібності.
Функції L і ln L досягають максимуму при одному і тому ж значенні, тому замість відшукання максимуму функції L шукають (що зручніше) максимум функції ln L. Функцію ln L називют логарифмічною функцією правдоподібності.
Безперервні випадкові величини. Нехай Х - неперервна випадкова величина, яка в результаті n іпитаній прийняла значення x1. x2. xn. Припустимо, що вид щільності розподілу f (x; # 952;) заданий, але ніхто не знає параметр # 952 ;, яким визначається ця функція.
Функцією правдоподібності неперервної випадкової величини Х називют функцію аргументу # 952;
Оцінку найбільшої правдоподібності невідомого параметра розподілу неперервної випадкової величини шукають так само, як у випадку дискретної величини.
6. Довірчий інтервал. Довірча ймовірність.
Щоб дати уявлення про точність і надійність оцінки ã, В математичній статистиці користуються так званими довірчими інтервалами і довірчими ймовірностями. Ці поняття особливо актуальні при малому числі спостережень, коли точкова оцінка ã значною мірою випадкова і наближена заміна а на ã може привести до серйозних помилок.
Нехай для параметра а отримана несмещенная оцінка ã. Ми хочемо оцінити можливу при цьому помилку. Призначимо деяку досить велику ймовірність (Нпрімер, # 946; = 0,9, 0,95 або 0,99) таку, що подія з ймовірністю # 946; можна вважати практично достовірним, і знайдемо таке значення # 949 ;, для якого
Тоді діапазон практично можливих значень помилки, що виникає при заміні а на ã, Буде; великі за абсолютною величиною помилки будуть з'являтися тільки з малою вірогідністю.
Перепишемо пріведнное вище рівність у вигляді:
Це означає. що з імовірністю # 946; невідоме значення патаметра а потрапляє в інтервал
Довірчим називають інтервал, який покриває невідомий параметр із заданою ймовірність (надійністю).
Довірчою ймовірністю (надійністю) називається ймовірність з якою здійснюється нерівність.
Величина а не випадкова, зате випадковий інтервал. Випадково його положення на осі абсцис, яке визначається його центром ã; випадкова вобще і довжина інтервалу 2 # 949 ;, так як величина # 949; обчислює, як правило, по досвідченим даним. Тому краще тлумачити величину # 946; не як ймовірність «попадання» точки а в інтервал I # 946 ;. а як ймовірність того, що випадковий інтервал I # 946; накриє точку а.
Ми розглядали довірчий інтервал симетричний щодо щодо ã, Взагалі кажучи це не обов'язково.
Щоб оцінити точність і надійність оцінки, потрібно знати її закон розподілу. Якби нам був відомий закон розподілу величини ã, Завдання знаходження довірчого інтервалу була б вельми проста: достатньо було б знайти таке значення # 949 ;, для якого
Утруднення полягає в тому, що закон розподілу оцінки ã залежить від закону розподілу величини Х і, отже, від його його невідомих параметрів (зокрема, і від самого параметра а).
7. Довірчий інтервал для математичного очікування нормально розподіленої випадкової величини з відомою дисперсією.
Приймемо без доведення, що якщо випадкова величина Х розподілена нормально, то взяятое в якості оцінки її математичного очікування статстіческое середнє
є випадкова величина розподілена нормально, і параметри цього закону такі:
де m, D і # 963; відповідні параметри закону розподілу випадкової величини Х.
Розглянемо випадкову величину. закон розподілу # 916; також буде нормальним, а його параметри:
Визначимо ймовірність попадання випадкової величини # 916; на відрізок [- # 945 ;, # 945;]
Задавши довірчу ймовірність # 946 ;, по таблиці значень інтегральної функції Лаплпса легко визначити значення u, враховуючи що. потім визначаємо # 945;
Тепер можемо записати
Таким чином це довірчий інтервал для математичного очікування випадкової величини Х, з нормальним законом розподілу, при заданій довірчій ймовірності # 946 ;.