মেমরি হায়ারার্কির ধারণা — লোকালিটি অফ রেফারেন্স

১ · মেমরি হায়ারার্কি — কেন একটি একক মেমরি যথেষ্ট নয়

একটি আদর্শ মেমরি হতো এমন যা রেজিস্টারের মতো দ্রুত, কিন্তু ডিস্কের মতো বিশাল ও সস্তা — বাস্তবে এই দুটো একসাথে পাওয়া যায় না। দ্রুত মেমরি টেকনোলজি (যেমন M3-এর ফ্লিপ-ফ্লপ দিয়ে তৈরি রেজিস্টার) প্রতি বিটে অনেক বেশি ট্রানজিস্টর ও খরচ লাগে, তাই বড় আকারে বানানো অবাস্তব। তাই বাস্তব কম্পিউটার একটি মেমরি হায়ারার্কিMemory Hierarchyগতি, আকার ও খরচের ট্রেড-অফ মেনে একাধিক স্তরে সাজানো মেমরি কাঠামো — উপরে দ্রুত-ছোট-দামি, নিচে ধীর-বড়-সস্তা ব্যবহার করে — উপরে সবচেয়ে দ্রুত কিন্তু সবচেয়ে ছোট স্তর, নিচের দিকে ক্রমেই ধীর কিন্তু বড় ও সস্তা স্তর।

২ · লোকালিটি অফ রেফারেন্স — যে কারণে ক্যাশিং আসলেই কাজ করে

শুধু হায়ারার্কি বানালেই হবে না — সেটা কাজ করবে কি না তা নির্ভর করে একটি মৌলিক পর্যবেক্ষণের উপর। বাস্তব প্রোগ্রাম মেমরি অ্যাক্সেস র‍্যান্ডমভাবে করে না — বরং একটি নির্দিষ্ট প্যাটার্ন অনুসরণ করে, যাকে বলা হয় লোকালিটি অফ রেফারেন্স। এর দুটি রূপ —

যদি মেমরি অ্যাক্সেস সত্যিই র‍্যান্ডম হতো, ক্যাশিং থেকে প্রায় কোনো লাভই হতো না — কারণ ক্যাশে যা রাখা হচ্ছে তা আবার লাগার সম্ভাবনা কম হতো। লোকালিটি অফ রেফারেন্স-ই একমাত্র কারণ যার জন্য "সদ্য/কাছাকাছি ব্যবহৃত ডেটার একটি ছোট কপি দ্রুত মেমরিতে রাখা" আসলে কাজে লাগে — পুরো M8 মডিউলের ভিত্তি এটাই।

৩ · একটি বাস্তব পরিণতি — row-major বনাম column-major

একটি 2D অ্যারে মেমরিতে row-major ক্রমে (প্রতিটি row-এর উপাদানগুলো পাশাপাশি) সংরক্ষিত থাকে বেশিরভাগ ভাষায় (Python, C)। অ্যারেটি যদি row-major ক্রমে (বাম থেকে ডানে, উপরের row আগে) অ্যাক্সেস করা হয়, পরপর অ্যাক্সেসগুলো মেমরিতে পাশাপাশি অবস্থানেই পড়ে — শক্তিশালী স্পেশিয়াল লোকালিটি। কিন্তু column-major ক্রমে (একই column-এর সব row একে একে) অ্যাক্সেস করলে, পরপর অ্যাক্সেসগুলো মেমরিতে অনেক দূরে দূরে পড়ে — লোকালিটি নষ্ট হয়ে যায়, ফলে বাস্তবে row-major traversal প্রায়ই column-major-এর চেয়ে লক্ষণীয়ভাবে দ্রুত চলে।

৪ · লোকালিটি স্কোর মেপে দেখা

নিচের কোড সেলে দুটি ভিন্ন অ্যাক্সেস প্যাটার্ন — একটি সিকোয়েনশিয়াল (0,1,2,3...) এবং একটি নির্দিষ্ট, স্থির র‍্যান্ডম-সদৃশ লিস্ট — নিয়ে একটি সরল "লোকালিটি স্কোর" গণনা করা হয়েছে: পরপর দুই অ্যাক্সেসের দূরত্ব ছোট হলে স্কোর বাড়ে। ফলাফল সংখ্যাগতভাবেই দেখায় দুই প্যাটার্নের লোকালিটির পার্থক্য কতটা বড়।

memory = list(range(64))

def locality_score(access_sequence, window=2):
    """পরপর দুই অ্যাক্সেসের দূরত্ব window-এর মধ্যে হলে +1 করে -- স্প্যাশিয়াল লোকালিটির একটি সরল পরিমাপ"""
    score = 0
    for i in range(1, len(access_sequence)):
        distance = abs(access_sequence[i] - access_sequence[i - 1])
        if distance <= window:
            score += 1
    return score

sequential_pattern = list(range(0, 16))
random_pattern = [3, 47, 12, 61, 5, 33, 9, 55, 21, 2, 44, 17, 38, 1, 50, 8]

seq_score = locality_score(sequential_pattern)
rand_score = locality_score(random_pattern)

print("প্যাটার্ন            | লোকালিটি স্কোর (সর্বোচ্চ", len(sequential_pattern) - 1, ")")
print("-" * 55)
print(f"sequential (0..15)   | {seq_score}")
print(f"random (fixed list)  | {rand_score}")
print()
print(f"sequential প্যাটার্ন {seq_score - rand_score} গুণ বেশি স্পেশিয়াল লোকালিটি দেখাচ্ছে random-এর তুলনায়")