Основи вчення про архітектуру обчислювальних машин заклав видатний американський математик Джон фон Нейман. Він підключився до створення першої в світі лампової ЕОМ ENIAC в 1944 р коли її конструкція була вже обрана. В процесі роботи під час численних дискусій зі своїми колегами Г. Голдстайном і А. Берксом фон Нейман висловив ідею принципово нової ЕОМ. У 1946 р вчені виклали свої принципи побудови обчислювальних машин в класичній статті "Попередній розгляд логічної конструкції електронно-обчислювального пристрою". З тих пір минуло півстоліття, але висунуті в ній положення зберігають актуальність і сьогодні.
Ще однією воістину революційною ідеєю, значення якої важко переоцінити, є запропонований Нейманом принцип "збереженої програми". Спочатку програма задавалася шляхом установки перемичок на спеціальній комутаційної панелі. Це було досить трудомістким заняттям: наприклад, для зміни програми машини ENIAC було потрібно кілька днів (в той час як власне розрахунок не міг тривати більше декількох хвилин - виходили з ладу лампи). Нейман першим здогадався, що програма може також зберігатися у вигляді набору нулів та одиниць, причому в тій же самій пам'яті, що й оброблювані нею числа. Відсутність принципової різниці між програмою і даними дало можливість ЕОМ самій формувати для себе програму відповідно до результатів обчислень.
Фон Нейман не тільки висунув основоположні принципи логічного пристрою ЕОМ, але і запропонував її структуру, яка відтворювалася протягом перших двох поколінь ЕОМ. Основними блоками по Нейману є пристрій керування (УУ) і арифметико-логічний пристрій (АЛП) (зазвичай об'єднуються в центральний процесор), пам'ять, зовнішня пам'ять, пристрої введення та виведення. Схема пристрою такої ЕОМ представлена на рис. 1. Слід зазначити, що зовнішня пам'ять відрізняється від пристроїв введення та виведення тим, що дані в неї заносяться у вигляді, зручному комп'ютера, але недоступному для безпосереднього сприйняття людиною. Так, накопичувач на магнітних дисках відноситься до зовнішньої пам'яті, а клавіатура - пристрій введення, дисплей і друк - пристрої виведення.
Мал. 1. Архітектура ЕОМ, побудованої на принципах фон Неймана. Суцільні лінії зі стрілками вказують напрямок потоків інформації, пунктирні - керуючих сигналів від процесора до іншими вузлів ЕОМ
Пристрій управління і арифметико-логічний пристрій в сучасних комп'ютерах об'єднані в один блок - процесор, що є перетворювачем інформації, що надходить з пам'яті і зовнішніх пристроїв (сюди відносяться вибірка команд з пам'яті, кодування і декодування, виконання різних, в тому числі і арифметичних, операцій, узгодження роботи вузлів комп'ютера). Більш детально функції процесора будуть обговорюватися нижче.
Пам'ять (ЗУ) зберігає інформацію (дані) і програми. Оперативна пам'ять у сучасних комп'ютерів "багатоярусно" і включає оперативний пристрій (ОЗУ), що зберігає ту інформацію, з якої комп'ютер працює безпосередньо в даний час (виконується програма, частина необхідних для неї даних, деякі керуючі програми), і зовнішні запам'ятовуючі пристрої (ВЗУ ) набагато більшої місткості, ніж ОЗУ. але з істотно більш повільним доступом (і значно меншою вартістю в розрахунку на 1 байт інформації, що зберігається). На ОЗУ і ВЗУ класифікація пристроїв пам'яті не закінчується - певні функції виконують і СОЗУ (сверхоператівное пристрій), і ПЗУ (постійний запам'ятовуючий пристрій), і інші підвиди комп'ютерної пам'яті.
Розроблені фон Нейманом основи архітектури обчислювальних пристроїв виявилися настільки фундаментальними, що отримали в літературі назву "фон-неймановской архітектури". Переважна більшість обчислювальних машин на сьогоднішній день - фон-Неймановская машини. Виняток становлять лише окремі різновиди систем для паралельних обчислень, в яких відсутня лічильник команд, не реалізована класична концепція змінної і є інші істотні принципові відмінності від класичної моделі (прикладами можуть служити потоковая і редукционная обчислювальні машини).
Мабуть, значне відхилення від фон-неймановской архітектури відбудеться в результаті розвитку ідеї машин п'ятого покоління, в основі обробки інформації в яких лежать не обчислення, а логічні висновки.