ক্যাশ পারফরম্যান্স — Hit/Miss রেট ও AMAT

১ · Hit Rate ও Miss Rate — মৌলিক সংজ্ঞা

L38-L40-এর প্রতিটি কোড সেলেই HIT ও MISS গোনা হয়েছে — এবার সেই গণনাগুলোকে একটা মানসম্মত পরিমাপে পরিণত করা যাক। Hit RateHit Rateমোট অ্যাক্সেসের মধ্যে কত ভাগ হিট হয়েছে তার অনুপাত হলো মোট অ্যাক্সেসের মধ্যে কত ভাগ হিট হয়েছে তার অনুপাত (hits ÷ total accesses), আর Miss RateMiss Rateমোট অ্যাক্সেসের মধ্যে কত ভাগ মিস হয়েছে -- 1 বিয়োগ hit rate হলো তার পরিপূরক (1 − hit rate)। এই দুটো সংখ্যাই একটা ক্যাশ ডিজাইন বাস্তবে কতটা কার্যকর তার সবচেয়ে সরাসরি পরিমাপ — ঠিক যেভাবে OS কোর্সের পেজ রিপ্লেসমেন্ট পাঠগুলোতেও হিট/মিস গোনার একই স্টাইল ব্যবহৃত হয়েছে।

২ · AMAT — গড় মেমরি অ্যাক্সেস সময়

শুধু hit rate/miss rate জানলেই পুরো ছবি পাওয়া যায় না — কারণ একটা miss-এর "খরচ" hit-এর খরচের চেয়ে ঢের বেশি। এই দুটোকে একটা একক, তুলনাযোগ্য সংখ্যায় মেলানোর মানসম্মত ফর্মুলাই হলো AMATAverage Memory Access Timeপ্রতিটি অ্যাক্সেসে গড়ে কত সময় লাগবে তার প্রত্যাশিত মান -- hit time ও miss penalty মিলিয়ে (Average Memory Access Time) —

$$AMAT = HitTime + MissRate \times MissPenalty$$

স্বজ্ঞাটা সহজ: প্রতিটি অ্যাক্সেসই কমপক্ষে HitTime সময় নেয় (ক্যাশ চেক করতেই এটুকু সময় লাগে, হিট হোক বা মিস)। তার উপর, অ্যাক্সেসের একটা ভগ্নাংশ (MissRate) অতিরিক্তভাবে MissPenalty সময়ও দেয় — কারণ মিস হলে মেইন মেমরি পর্যন্ত যেতে হয়। তাই AMAT আসলে একটা প্রত্যাশিত (expected) মান — hit-এর নিশ্চিত খরচ, প্লাস miss-এর সম্ভাব্যতা-ভারিত অতিরিক্ত খরচ।

৩ · Worked Example — একটি ছোট্ট miss rate-এর বড় প্রভাব

ধরা যাক একটা ক্যাশের HitTime = 1 সাইকেল, MissPenalty = 100 সাইকেল, আর পর্যবেক্ষিত MissRate = 0.05 (৫%)। ফর্মুলা অনুযায়ী —

$AMAT = 1 + 0.05 \times 100 = 1 + 5 = 6.0 \text{ সাইকেল}$

লক্ষ্য করুন — মাত্র ৫% অ্যাক্সেস মিস হওয়া সত্ত্বেও, গড় সময় hit time-এর (১ সাইকেল) তুলনায় ৬ গুণ বেড়ে গেছে! কারণ miss penalty (১০০ সাইকেল) hit time-এর তুলনায় এত বড় যে অল্প কিছু miss-ও গড় সময়ে বিশাল প্রভাব ফেলে — নিচের কোড সেলে এই গণনাটা প্রকৃতভাবে চালিয়ে যাচাই করা হয়েছে, এবং miss rate বদলে গেলে AMAT কতটা সংবেদনশীল তাও দেখানো হয়েছে।

def compute_amat(hit_time, miss_rate, miss_penalty):
    """AMAT = HitTime + MissRate * MissPenalty"""
    return hit_time + miss_rate * miss_penalty

# মূল worked example: HitTime=1, MissRate=0.05 (5%), MissPenalty=100
hit_time = 1
miss_rate = 0.05
miss_penalty = 100

amat = compute_amat(hit_time, miss_rate, miss_penalty)
print(f"AMAT = {hit_time} + {miss_rate} * {miss_penalty} = {amat}")
assert amat == 6.0, "worked example মিলছে না!"
print("যাচাই সফল -- AMAT ঠিক 6.0 সাইকেল।")

print()
print("HitTime ও MissPenalty স্থির রেখে বিভিন্ন MissRate-এ AMAT কেমন বদলায়:")
print()
print("MissRate | AMAT (সাইকেল)")
print("-" * 26)
for mr in (0.01, 0.05, 0.10, 0.20):
    a = compute_amat(hit_time, mr, miss_penalty)
    print(f"{mr:>8.0%} | {a:>6.2f}")

print()
print("লক্ষ্য করুন: MissRate মাত্র 1% থেকে 20%-এ (২০ গুণ) বাড়লে, AMAT প্রায়")
low = compute_amat(hit_time, 0.01, miss_penalty)
high = compute_amat(hit_time, 0.20, miss_penalty)
print(f"{low} থেকে {high} সাইকেলে গিয়ে পৌঁছায় -- ছোট্ট একটা miss rate-এর প্রভাব কতটা বড়, তা স্পষ্ট।")