Всі ці моделі детермінованих сигналів є відомими функціями часу, їх використання дозволяє успішно вирішувати завдання пов'язані з визначенням реакцій конкретних систем на задані вхідні сигнали.
Випадкові складові, завжди мають місце в реальному вхідному сигналі, завжди вважають зневажливо малими і не беруть до уваги.
Однак єдина, точно певна в часі функція може служити математичною моделлю сигналу при передачі і перетворення інформації. Оскільки отримання інформації пов'язане з усуненням апріорної невизначеності вихідних станів, однозначна функція часу тільки тоді буде нести інформацію, коли вона з певною ймовірністю обрана з безлічі можливих функцій.
Тому в якості моделей сигналу використовують випадковий процес.
Кожна обрана детермінована функція розглядається як реалізація цього випадкового процесу.
Необхідність застосування статистичних методів дослідження диктується і тим, що в більшості практично важливих випадків нехтування впливом перешкоди в процесах передачі і перетворення інформації є неприпустимою.
Вважається, що вплив перешкоди на корисний сигнал проявляється в непередбачуваному спотворенні його форми.
Математична модель перешкоди представлена також у вигляді випадкового процесу, що характеризується параметрами, визначеними на основі експериментальних досліджень.
Ймовірні властивості перешкоди, як правило, відмінні від властивостей корисного сигналу, що і лежить основі методів з поділу.
Фундаментальні висновки теорії інформації базуються на статистичному підході при описі сигналів і перешкод. Основними характеристиками випадкового процесу як моделі сигналу є наслідок:
Під випадковим стохастическим процесом мають на увазі таку випадкову функцію часу U (t), значення якої в кожен момент t випадково.
Конкретний вид випадкового процесу зареєстрований в певному досвіді званий реалізації випадкового процесу.
Точно передбачити, якою буде реалізація в черговому досвіді, практично неможливо. Можуть бути визначені лише статистичні дані, що характеризують всі безліч можливих реалізацій, звані ансамблем.
Цінність таких моделей сигналів в тому, що поява можливо судити про поведінку інформаційної системи не по відношенню до конкретної реалізації, а по відношенню до всього ансамблю можливих реалізацій.
Основними ознаками, за якими класифікують випадкові процеси. є:
1) Простір станів
2) Тимчасовий параметр
3) Статистичні залежності між випадковими величинами в різні моменти часу
Простором станів званих безліч можливих значень величини
Випадковий процес, у якого безліч станів становить континуум, а зміни станів можливі тільки в будь-які моменти t називається безперервним випадковим процесом.
Якщо зміни станів допускаються лише в кінцевому або рахунковому числі моментів часу, то говорять про неперервної випадкової послідовності.
Випадкові процес з кінцевим безліччю станів, які можуть змінитися в довільні моменти часу, називається діскретнимслучайним процесом.
Якщо ж зміни станів можливі тільки в кінцевому або рахунковому числі моментів часу, то говорять про дискретних випадкових послідовностей.
Приклади реалізації зазначених випадкових процесів представлені на рис.3
Так як в сучасних інформаційних системах перевага віддається цифровим методам передачі та придбання інформації, то безперервні сигнали з датчиків, як правило, перетворюються в дискретні, які описують дискретними випадковими послідовностями.
Серед випадкових процесів з дискретним безліччю станів інтерес представляють такі, у яких статистичні залежності поширюються на обмежене число k наступних один за одним значень. Вони називаються узагальненими Марківськийпроцес k порядку.