Розглянемо одну з можливих схем роботи кеш-пам'яті для розуміння принципів її роботи:
В кеш пам'яті містяться ЗАПИСИ про всі завантажених в неї елементах.
Кожен запис включає:
18. Додаткова інфа (ознака модифікації, ознака дійсності даних)
Процес звертається до основної пам'яті:
19. ОС переглядає вміст кешу, чи немає потрібних даних там.
1) Якщо дані є - кеш потрапляння. дані зчитуються з кешу і надіслали Вам запит.
2) Якщо даних немає - кеш-промах. ОС йде в основну пам'ять і видобуває дані звідти.
При оцінці ефективності кеш-пам'яті зазвичай использу-ють наступні характеристики:
• коефіцієнт попадань (hit rate) - відношення числа звернень до пам'яті, при яких відбулося потрапляння, до загальної кількості звернень до ЗУ даного рівня ієрархії;
• коефіцієнт промахів (miss rate) - відношення числа звернень до пам'яті, при
яких мав місце промах; до загальної кількості звернень до ЗУ даного рівня ієрархії;
• час звернення при попаданні (hit time) - час, необхідний для пошуку
потрібної інформації в пам'яті верхнього рівня (включаючи з'ясування, чи є звернення попаданням), плюс час на фактичне зчитування даних;
• втрати на промах (miss penalty) - час, необхідний для заміни блоку в пам'яті більш високого рівня на блок з потрібними даними, розташований в ЗУ сле-дме (нижчого) рівня. Втрати на промах включають в себе:
a. час доступу (access time) - час звернення до першого слова блоку при промаху
b. час пересилки (transfer time) - додатковий час для пересилки залишати-шихся слів блоку.
Час доступу обумовлено затримкою пам'яті більш низько-го рівня, в той час як час пересилки пов'язано з пропускною здатністю ка-налу між ЗУ двох суміжних рівнів.
Від чого залежить ефективність кешування? Від імовірності влучень в кеш.
Використання кеш-пам'яті має сенс тільки при високій ймовірності кеш-попадань, тому що інакше це тільки додаткові витрати часу на пошук в кеші.
Імовірність кеш-влучень залежить від:
- обсягу Кешована пам'яті
- алгоритму заміщення даних в кеші
- особливостей виконуваної програми
- часу її роботи
Але в більшості реалізацій відсоток кеш-влучень високий, понад 90%. Круть.
Це досягається за рахунок того, що дані мають властивості просторової і тимчасової локальності.